第 5 章:降低随机性:从通用工具到企业级可信
第 1~4 章教会普通用户"会用、能接、不乱讲、会落地",但这些方法都建立在"人盯着、人核对"之上——可靠性靠人的经验兜底。企业级应用恰恰相反:可靠性必须由规则兜底,而不是靠人。为什么必须如此?因为通用工具天然带有随机性,而随机性在企业场景就是不可靠、不可审计、不可追溯。本章先把"随机性"这个问题讲透,再从理论总览与实操两个层面给出企业降低随机性的路径,最后引出第二部的 13 章原理体系。
5.1 随机性:通用工具的通病,企业应用的红线
5.1.1 通用工具的三种典型随机现象
| 现象 | 个人场景的困扰 | 企业场景的代价 |
|---|---|---|
| 同一问题两次回答不一样 | 有点困惑,忍忍就过去了 | 同样的订单两次给出不同结论,业务无法一致执行 |
| 该拒绝的不拒绝 | 偶尔越界,人纠正即可 | 越权查询/操作,触碰合规红线 |
| 该留痕的不留痕 | 无所谓,聊天而已 | 出了问题无法追溯,"谁批的、凭什么"说不清 |
这三种现象的共同根源只有一个:通用工具的输出由模型"生成",而生成天然带随机性——temperature、上下文、同义词、甚至版本升级都会改变结果。个人使用可以接受这种随机性;企业使用则不能。
5.1.2 为什么企业不能容忍随机性
- 合规:等保、审计、监管都要求"可解释、可留痕、可追责",随机性输出无法满足;
- 业务正确性:订单、财务、审批一旦"看心情",轻则返工,重则损失;
- 责任边界:AI 的操作必须能落到"谁批的、依据哪条规则",随机性让责任无法界定;
- 可复现:出问题要能重放、能排查,随机性让问题无法稳定复现。
一句话:个人用 AI 是"锦上添花",企业用 AI 是"雪中送炭"——前者可以容忍瑕疵,后者必须保证不出错。 这正是第二部(第 6~19 章)存在的全部理由。
5.2 企业降低随机性的理论总览:从"靠经验"到"靠规则"
第 3 章教的是"对话层"降随机(给资料、调低温、五层验证),本质是让模型少犯错;企业级方案更进一步,是让规则裁决模型——模型负责生成,规则负责裁决,二者分离(这正是第 8 章"生成 × 裁决"的原理)。下表把第一部的通用方法与第二部各章的企业级机制一一对应:
| 随机性问题 | 通用工具方法(第一部) | 企业级机制(第二部) | 机制一句话 |
|---|---|---|---|
| 回答漂移 / 幻觉 | 给资料、低温、五层验证(第 3 章) | 意图识别与路由 + 知识底座(第 9 章) | 先判断"该不该答、由谁答" |
| 越权操作 | 人工盯着(第 2 章) | 权限与审计(第 12 章) | 角色边界硬约束,AI 不可绕过 |
| 乱批 / 误判 | 人工复核(第 3 章) | 规则引擎(第 11 章) | 枚举、格式、金额由机器强制校验 |
| 流程失控 | 人工盯流程(第 4 章) | 流程审批(第 13 章) | 制度化的人机协同,节点留痕 |
| 越学越偏 | 人工反馈(第 3 章) | 学习与训练治理(第 14 章) | 治理下的自适应 |
| 上下文错乱 | 重新说明(第 3 章) | 记忆与信度管理(第 15 章) | 分层信度,避免污染 |
| 性能 / 并发拖垮 | 重试(第 2 章) | 运行时与并发(第 16、17 章) | 正确性是性能的前提 |
| 落地不成体系 | 六步走(第 4 章) | 工程实践(第 18 章) | 从零构建可审计业务智能体 |
这张表的读法:第一列是通用工具的问题,第二列是普通用户的应对,第三列是企业级的根治方案,第四列是第二部对应章节的核心思想。 前两列是"事后的、人力的"补救,后两列是"事前的、规则的"防范——这正是第一部与第二部的本质区别。
5.3 实操:企业在通用工具上降低随机性的五个动作
不写代码也能做的五个动作,承接第 1~4 章,并预告第二部的机制(括号内为对应章节):
flowchart LR
A[① 固化模板库
固定口径] --> B[② 限定知识源
只看该看的]
B --> C[③ 写操作带确认
只提议人拍板]
C --> D[④ 全程留痕
可追溯]
D --> E[⑤ 量化监控
让随机性可见]
E --> F[压低随机性到可接受水平
根治仍需第二部规则]
① 固化提示词模板库(把"口径"固定下来)
- 目标:让同一个问题永远用同一套约束去问,从源头降低"换一种问法答案就变"的随机;
- 怎么做:把第 3 章的"高可靠提示词"模板固化成团队共享模板库,按业务场景(周报/审批/查询/合同)分类;要求全员从模板库取模板,禁止临场发挥;
- 对应:第 9 章(意图识别)——模板就是最朴素的"路由规则"。
② 限定知识源与权限(让 AI 只看该看的)
- 目标:把"AI 能看什么、能做什么"变成硬边界;
- 怎么做:给 AI 配团队知识库(第 3 章 RAG),并声明"只准用资料回答";涉及敏感数据时,让 AI 只返回脱敏结果;
- 对应:第 12 章(权限与审计)——"能看什么"最终要靠权限体系硬约束。
③ 写操作全带确认(让 AI 只提议、人拍板)
- 目标:AI 生成"待确认"操作,人点头才落库;
- 怎么做:凡是涉及建单、改单、审批的操作,一律让 AI 输出"操作方案 + 影响范围 + 需确认项",人工确认后再执行(第 4 章 G2→G3 分级);
- 对应:第 13 章(流程审批)——确认词分级、审批链逐级校验的企业化形态。
④ 全程留痕(让每个操作可追溯)
- 目标:AI 的每次操作都能查到"何时、谁、做了什么、依据什么";
- 怎么做:启用工具的会话记录、操作日志、版本记录;关键操作(第 2 章的审批/自升级)单独导出审计日志;
- 对应:第 12 章(审计)——WORM 审计与哈希链的轻量替代。
⑤ 量化监控(让随机性"可见")
- 目标:用数据发现"AI 最近又变漂了",而不是等出事;
- 怎么做:每周抽样 20 个真实问题,用第 3 章五层验证法打准确率分;对"同一问题问两次结果不一致"的案例单独登记,作为随机性指标;
- 对应:第 18 章(工程实践)——运营看板与准确率监控的雏形。
小结:这五个动作在通用工具上就能做,是"第 6~19 章企业级机制"的极简前置。它们不完美——模板库还是会有人不遵守、权限仍是软约束——但已经能把随机性压到可接受的水平。真正的根治,是第二部讲的"用规则把随机性关进笼子"。
5.4 本章小结:第一部与第二部的分界线
| 维度 | 第一部(第 1~5 章) | 第二部(第 6~19 章) |
|---|---|---|
| 使用者 | 普通用户 / 办公场景 | 架构师 / 开发者 |
| 可靠性来源 | 人的经验 + 话术 | 规则 + 审批链 + 审计 |
| 随机性处理 | 降低(少犯错) | 约束(不容出错) |
| 典型产物 | 可靠的回答 | 可审计的业务系统 |
一句话记住本章:通用工具的随机性靠"人"兜底,企业应用的随机性靠"规则"兜底。从第 6 章开始,第二部将逐章展开"如何用规则的确定性约束模型的随机性"——这就是本书标题"规则驱动的业务智能体"的含义。
给读者的路径建议:普通用户读完第 1~5 章即可上手;实施人员请继续读第 6~19 章,把"怎么用"升级为"怎么造一台不出错的引擎"。