先找幻觉的根因
智能体胡说,八成不是模型问题,是知识库问题:同一政策有新旧两个版本、文档里没写的内容被模型”脑补”、切块太碎导致断章取义。
五个整理原则
1. 一个事实只有一个版本
价格表、退款政策这类易变内容,统一放一份”唯一来源”文档,其他文档里只引用不复制。
2. 给文档加元数据
标注适用时间、适用产品线、文档等级。智能体检索时按元数据过滤,能挡掉一大半过期信息。
3. 切块要”自成一段”
每个知识块独立成立:一段讲清一个问题。表格别切碎,整表存。
4. 写明”不该答的”
知识库里放一份红线清单:价格优惠、法务问题、竞品对比,遇到就转人工。
5. 定期更新
知识库过期比没有更危险。定更新责任人,产品或政策变了 48 小时内同步。
上线前怎么测
准备 50 个真实问题 + 10 个”知识库里没有的问题”。前 50 个要求答对率 ≥85%,后 10 个要求一律回答”这个问题我需要转接人工”——拒答能力才是防幻觉的关键。
持续监控
每周抽 20 条真实对话人工复核,把答错的补进知识库。知识库是养出来的,不是搭完就完。
知识库搭建服务见 AI 智能体开发 栏目。