12 · Prompt 与引用溯源

让 AI 老实说"我不知道"

📚 《AI 知识库开发入门》第 12/20 篇 · 下一篇：13 · 多轮对话与查询改写

生成端的质量靠 system prompt 的四要素。

01 四要素

角色（你是 XX 助手）、依据约束（只依据以下资料回答）、引用格式（答案后列出处）、拒答条款（资料不足时明确说明，不得编造）。

02 拒答为什么难

只写"只依据资料回答"不够——模型倾向于"帮忙"。要显式写"资料中没有的信息，回答'知识库中未找到'并建议联系 XX"。

03 溯源的产品价值

带出处的答案用户敢用，无出处的答案用户要二次验证——溯源不是技术炫耀，是信任设计。出处要可点击可核对。

04 动手

改造 prompt 后用评测集"拒答型"题目验证 → 验收：拒答率显著提升。

05 小结

生成端要的不是聪明，是老实。下一篇处理多轮对话。

📎 实战案例

prompt 没写拒答条款，AI 一本正经编了公司不存在的制度，被员工当真执行。补上四要素（角色/依据约束/引用格式/拒答条款）后，评测集「拒答型」题目的拒答率显著提升——生成端要的是老实不是聪明。

踩坑

• 我没写拒答条款，AI 一本正经编了公司不存在的制度，被员工当真执行——拒答条款是安全带。
• 答案说"根据文档"却不给哪份——用户无法核对等于没有溯源。