全部數位專案
章魚 AI
AI 客服代建系統。一份程式碼同時是銷售頁、交付給客戶的後台,以及可嵌入客戶官網的聊天窗——銷售頁上的 Demo 聊天窗就是產品本身,不是影片或截圖。跑在 Cloudflare Pages Functions 上,無 build、無框架、無前端相依。
功能
- RAG 客服 API — 檢索客戶知識庫後由 LLM 生成回答,並回傳引用來源
- 可嵌入聊天窗 — 客戶官網貼一行 script 就上線,Shadow DOM 隔離不互相污染 CSS
- 後台 — 知識庫管理、對話收件匣、轉真人、需求名單追蹤
- LINE 官方帳號 — Messaging API webhook,同一套知識庫直接接 LINE
- 交付前健康檢查 —
/api/admin/status列出這個部署還缺哪些設定
檢索的三段退路
系統設計成「設定越多品質越好,但少設定也不會壞」:什麼都沒設時用關鍵字比對知識庫搭配內建固定 FAQ 回覆,不呼叫外部 API 也能 Demo;設了 LLM 端點後改由模型生成;再設 embedding 端點就升級成向量檢索。中文沒有空白斷詞,關鍵字檢索用 bigram 比對。
技術架構
Cloudflare Pages Functions + D1(對話、知識庫、名單)+ R2(上傳檔案),LLM 與 embedding 端點由環境變數決定,可接任何 OpenAI 相容服務。向量存在 D1 的 chunks.embedding,查詢時全量載入算 cosine similarity。
安全性
後台與敏感 API 全部要過 Basic Auth,密碼沒設定時一律擋下而非退化成無密碼。公開的聊天與表單端點都有 IP 速率限制(聊天 30 次 / 10 分鐘、表單 5 次 / 10 分鐘),IP 只存 SHA-256 雜湊。速率限制查詢失敗時一律擋下,避免資料庫異常變成無限制呼叫付費 LLM。
想討論類似的專案?
說說用途與方向,一起確認適合的做法。