控制知识库

存放“系统怎么回答、什么能说什么不能说”的稳定规则库——直接可答范围、必须引用最新资料的字段、无法确认时的处理、必转人工条件、禁止承诺清单——它是智能体的政策与护栏,不是营销文案的堆场。

简介

控制知识库是智能体知识体系中的规则与边界层。它回答的不是“这门课讲什么”,而是“AI 在什么条件下可以答、必须如何引证、何时停手、何时转人、绝不能承诺什么”。与存放课程介绍、招生安排、服务说明、历史通知的 证据知识库 相对,控制知识库内容应相对稳定、变更需审批,并作为检索与生成时的硬约束。

课程咨询助手复盘指出:市场、运营、顾问手里的资料版本不一致时,若全部混进同一个有效知识范围,模型会检索到冲突内容并生成“听起来很完整”的错误答案。把控制规则与证据资料拆开,并明确负责人、更新时间、版本状态,才能让 RAG 知识库 成为可运营的产品内容体系,而不是上线前一次性上传。

控制知识库与 Agent安全护栏风险路由 互补:护栏决定风险与可撤回性;控制知识库把业务侧的“话术与承诺边界”产品化为可维护的知识资产。

关键信息

核心特性

典型收录内容(课程咨询模板)

  • 什么信息可以直接回答
  • 哪些内容必须引用最新资料(不得凭模型记忆)
  • 无法确认时如何处理(澄清 / 降级 / 转人工)
  • 哪些问题必须转人工
  • 不允许作出哪些承诺(价格锁定、保过、名额保证等)

与证据知识库的分工

控制知识库证据知识库
回答的问题能不能说、怎么说、何时停事实是什么、当前安排是什么
示例转人工规则、禁承诺清单课程大纲、开课时间、历史通知
冲突处理规则优先,覆盖生成策略按版本/有效期取最新有效
运营重点审批、生效、审计负责人、更新时间、版本隔离

为什么必须独立

  1. 防止过期证据污染边界:旧服务说明与新招生简章混库时,模型可能用旧规则解释新班次。
  2. 让“更强模型”无法绕过政策:控制层缺失时,模型能力越强,越会流畅地违反业务边界。
  3. 支持 服务闭环 中的执行过程指标:无依据回答、越权承诺、该转人工未转,都可对照控制库审计。

运营要求

  • 指定规则 owner(产品/合规/业务)
  • 变更记录:谁改、何时生效、影响哪些任务类型
  • 任务路由 联动:每类任务引用哪几条控制规则
  • 评测集中固定包含“应拒绝/应转人工/应引用最新”样本

不同素材中的观点

  • 2026-07-17-woshipm-course-consulting-assistant-3-iterations:第二次迭代的核心发现是“知识库不是上传文件,而是一项产品运营工作”。团队设计控制知识库存放稳定规则(可直接回答、必须引用最新、无法确认如何处理、必须转人工、不允许承诺),证据知识库存放课程与招生等可变资料,并明确资料负责人、更新时间与版本状态。启发:没有明确更新责任,再强的模型也只能依据过期资料生成更流畅的错误答案。

实用信息

建立步骤

  1. 从顾问真实工单抽出“越权承诺 / 该转未转 / 答了但依据过期”案例
  2. 写成可执行规则条目(条件 → 动作),而不是散文式话术
  3. 与证据库拆分存储与检索范围;控制规则在生成前强制注入或作为 rerank 约束
  4. 为每条规则设 owner 与生效版本
  5. 纳入四层指标中的“无依据回答 / 降级 / 转人工正确性”

注意事项

  • 控制库条目过多会变成无法维护的法律文书——优先高频高风险
  • 不要把招生时间表放进控制库(那是证据)
  • 不要把控制规则只写在 Prompt 里而不入库——人员轮换后即丢失
  • 私有化交付时,控制库往往是审计重点(权限、承诺、人工触发)

相关页面