AI 助手 小 Kun 回答逻辑与反幻觉

这篇博客讲什么？

上一篇 在 KunSpace 里从零搭建 AI 助手「小 Kun」 讲的是：怎么搭起来——接口、技能、配置、Demo。

这篇换一个角度，只讲一件事：

用户问了一句之后，小 Kun 脑子里怎么走？

一句话说清楚：

站内问题 → 查本站（轻量 RAG / 列博客 / 后台访客）
常识闲聊 → 大模型直接答
实时事实 → 先调外部工具，再按工具原文说
全程遵守 → 反幻觉：没证据就不编

如果你关心「密钥怎么配、管理后台在哪」，请看上一篇；本文专注回答路径与约束。

一、为什么要分流，而不是「全交给大模型」？

大模型很会说话，但有三类致命弱点：

所以小 Kun 不是「聊天框套一层 API」，而是一个带规则的 Agent：先判断问题属于哪一类，再决定要不要查、查什么。

二、三条回答路径（核心）

路径 A · 站内知识（轻量 RAG + 站内工具）

典型问题：

• 这个网站有什么功能？博客推荐几篇？JSON 工具在哪？
• （后台）今天多少访客？国内服务器怎么更新？

怎么做：

1. Agent 选择 search_docs / list_blog_posts（后台还可 get_analytics_summary）
2. 从 README、docs/、博客 Markdown 里现搜相关段落（关键词匹配的轻量 RAG，不是把全书背进模型）
3. 大模型只根据检索到的原文组织回答

原则： 站内细节以仓库里的真实内容为准，禁止凭印象编页面。

对「网站有什么 / 你是谁」这类高频导航问题，还会走快捷路径：直接用内置站点地图回答，少打一轮工具，更快。

路径 B · 大模型常识（不调工具）

典型问题：

• 用三句话解释什么是 RAG
• 帮我看看这段伪代码有没有逻辑问题
• 今天心情怎么样（闲聊）

这些不依赖 KunSpace 私有数据，也不依赖「此刻」的外部世界，直接让大模型答就好。硬去搜网站反而慢，还可能搜到无关段落。

路径 C · 外部工具（模型不懂「此刻」时）

典型问题：

• 深圳今天天气怎么样？
• 最近有什么 AI 新闻？
• vercel/next.js 多少星？美元换人民币？

大模型训练截止日之后的事实，一律不准背答案。小 Kun 会调用免费外部工具（天气、新闻、百科、搜索、汇率、GitHub、arXiv、HN 等），拿到结果后再用中文总结。

用户问实时事实
    → 调对应工具（可多轮）
    → 只依据工具返回原文组织答案
    → 工具没写的数字 / 名次 / 细节 → 禁止出现

三、Agent 循环：不是一次问答就结束

概念上，小 Kun 和 AI 路线里讲的 ReAct 一样：

思考 → 选工具 → 看结果 → 再思考 → … → 最终回答

管理后台里可以看到 Agent 执行日志（公开悬浮窗更轻量，日志主要给站长 Demo）。演示时很适合用来证明：它不是在瞎编，而是真的调了「查文档 / 看天气」。

为了避免「工具调了一圈却不给结论」，还有一层工程收束：

• 轮次有上限
• 临近上限时关掉工具，强制根据已有结果写最终答案
• 实在组织不出来，就展示工具原文摘要，也比空转或胡说强

四、反幻觉：产品里最重要的紧箍咒

幻觉不是「模型变笨」，而是在没依据时仍装作很懂。

我们没法 100% 消灭它，但可以用规则把「瞎编的空间」压小：

这和换一个「更聪明」的模型是两回事：
模型负责组织语言；产品负责规定「什么时候必须查、查完只能照着说」。

五、公开聊天 vs 管理后台

同一套大脑，权限不同：

公开模式还会在提示词里写死：不能聊部署密码、环境变量、私密留言——防止助手变成泄密口。

六、用五个问题自测理解对不对

若某次「天气」却没调工具就报了具体度数——那就是约束失效，应优先修提示词 / 工具强制逻辑，而不是怪「模型不够强」。

七、和上一篇、和 AI 路线系列的关系

总结

小 Kun 的回答逻辑可以记成三句话：

1. 站内的事查站内（轻量 RAG + 站内工具）
2. 常识交给大模型（不浪费工具轮次）
3. 此刻的事实必须工具（查完只准照着说，不确定就承认）

它不是「更会聊天的机器人」，而是长在 KunSpace 里的 带工具与约束的 Agent——该查的查，不该编的绝不编。

去体验

• 任意公开页右下角 → 小 Kun（可问天气、博客、闲聊）
• 管理后台 → AI 助手（可看 Agent 日志与访客洞察）
• 搭建细节 → 从零搭建 AI 助手「小 Kun」