控制知识库
存放“系统怎么回答、什么能说什么不能说”的稳定规则库——直接可答范围、必须引用最新资料的字段、无法确认时的处理、必转人工条件、禁止承诺清单——它是智能体的政策与护栏,不是营销文案的堆场。
简介
控制知识库是智能体知识体系中的规则与边界层。它回答的不是“这门课讲什么”,而是“AI 在什么条件下可以答、必须如何引证、何时停手、何时转人、绝不能承诺什么”。与存放课程介绍、招生安排、服务说明、历史通知的 证据知识库 相对,控制知识库内容应相对稳定、变更需审批,并作为检索与生成时的硬约束。
课程咨询助手复盘指出:市场、运营、顾问手里的资料版本不一致时,若全部混进同一个有效知识范围,模型会检索到冲突内容并生成“听起来很完整”的错误答案。把控制规则与证据资料拆开,并明确负责人、更新时间、版本状态,才能让 RAG 知识库 成为可运营的产品内容体系,而不是上线前一次性上传。
控制知识库与 Agent安全护栏、风险路由 互补:护栏决定风险与可撤回性;控制知识库把业务侧的“话术与承诺边界”产品化为可维护的知识资产。
关键信息
- 类型:概念 / 知识架构组件
- 领域:知识库工程 · 智能体运营 · 合规话术
- 内容性质:稳定规则、策略、边界
- 变更频率:低;变更应有审批与生效时间
- 相关概念:证据知识库、RAG 知识库、产品知识库、服务闭环、任务路由
核心特性
典型收录内容(课程咨询模板)
- 什么信息可以直接回答
- 哪些内容必须引用最新资料(不得凭模型记忆)
- 无法确认时如何处理(澄清 / 降级 / 转人工)
- 哪些问题必须转人工
- 不允许作出哪些承诺(价格锁定、保过、名额保证等)
与证据知识库的分工
| 控制知识库 | 证据知识库 | |
|---|---|---|
| 回答的问题 | 能不能说、怎么说、何时停 | 事实是什么、当前安排是什么 |
| 示例 | 转人工规则、禁承诺清单 | 课程大纲、开课时间、历史通知 |
| 冲突处理 | 规则优先,覆盖生成策略 | 按版本/有效期取最新有效 |
| 运营重点 | 审批、生效、审计 | 负责人、更新时间、版本隔离 |
为什么必须独立
- 防止过期证据污染边界:旧服务说明与新招生简章混库时,模型可能用旧规则解释新班次。
- 让“更强模型”无法绕过政策:控制层缺失时,模型能力越强,越会流畅地违反业务边界。
- 支持 服务闭环 中的执行过程指标:无依据回答、越权承诺、该转人工未转,都可对照控制库审计。
运营要求
- 指定规则 owner(产品/合规/业务)
- 变更记录:谁改、何时生效、影响哪些任务类型
- 与 任务路由 联动:每类任务引用哪几条控制规则
- 评测集中固定包含“应拒绝/应转人工/应引用最新”样本
不同素材中的观点
- 2026-07-17-woshipm-course-consulting-assistant-3-iterations:第二次迭代的核心发现是“知识库不是上传文件,而是一项产品运营工作”。团队设计控制知识库存放稳定规则(可直接回答、必须引用最新、无法确认如何处理、必须转人工、不允许承诺),证据知识库存放课程与招生等可变资料,并明确资料负责人、更新时间与版本状态。启发:没有明确更新责任,再强的模型也只能依据过期资料生成更流畅的错误答案。
实用信息
建立步骤
- 从顾问真实工单抽出“越权承诺 / 该转未转 / 答了但依据过期”案例
- 写成可执行规则条目(条件 → 动作),而不是散文式话术
- 与证据库拆分存储与检索范围;控制规则在生成前强制注入或作为 rerank 约束
- 为每条规则设 owner 与生效版本
- 纳入四层指标中的“无依据回答 / 降级 / 转人工正确性”
注意事项
- 控制库条目过多会变成无法维护的法律文书——优先高频高风险
- 不要把招生时间表放进控制库(那是证据)
- 不要把控制规则只写在 Prompt 里而不入库——人员轮换后即丢失
- 私有化交付时,控制库往往是审计重点(权限、承诺、人工触发)