作品 / 企业增效 · AI 落地
通用大模型不知道自家品类与起订量,第三方 SaaS 客服又过不了资料不出内网这一关 —— 一套自建的私有知识库客服,官网挂件、管理台、坐席工作台三端齐活。
👆 上面是运行中的真实项目(线上官网)· 右下角 💬 即访客挂件,可直接提问,答案来自私有知识库并附引用来源
集团官网是箱包定制业务的第一道询盘入口,重复咨询高度集中:能定制哪些品类、来图打样要几天、起订量多少、LOGO 有哪几种工艺。人工三班倒仍会漏线,通用大模型答自家事只会泛泛而谈,第三方 SaaS 客服既过不了「资料不出内网」这一关,也要按坐席数长期付费。目标定得很具体:官网右下角挂一个 AI 客服,能答就答、答不上转人工、人工不在线收离线留言,而且所有答不好的问题都要能被追回来修。
从方案设计到上线运维全程独立负责:与客户对齐口径、知识库切块结构、数据库与接口设计、挂件 / 管理台 / 坐席工作台三端界面、检索引擎的私有化部署与参数调优,再到两台 2C2G 云服务器上的容器编排与 nginx 反代。
切块、向量化与重排交给私有化检索引擎,本项目只做编排与界面。不重复造 RAG 轮子,也不把资料送出内网;本项目负责的是会话状态机、引用溯源、多租户隔离与三端体验 —— 边界清楚,将来替换引擎只动一个适配层。
兜底不是失败分支,而是一条会自己往前走的链路。未命中即落一条 badcase 并给出可继续对话的兜底话术;访客连续两次不满意自动转人工,坐席侧带对话摘要与排队位次接入;非营业时间或无坐席在线再降级为离线留言。三种出口共用一个会话状态,保证没有一条提问被吞掉。
评测集当发布护栏,改 prompt 不再靠手感。50 题基线(40 题应命中、10 题应兜底)逐版比对,命中率跌幅超过 5 个百分点直接以非零退出码卡住发布;首字延迟从流式没接对时的 20s 压到 3.5~4s,也是靠这条护栏反复回归定位出来的。
挂件按「不可信的第三方页面」来设计。零依赖、单一 IIFE,不污染宿主站点样式;回答先过 marked 再经 DOMPurify 白名单清洗才插入 DOM;请求带站点 Origin 白名单与 siteKey 双校验,一套服务多站点靠数据行隔离而不是靠约定。