人工参与（HITL）：什么时候应该让人来判断？

最近审阅：2026-10

HITL 是一种风险控制策略

人工参与（human-in-the-loop, HITL）不是把模型不会的事一股脑丢给人。更重要的是提前约定：操作风险高、信息不够、遇到没处理过的任务，或者做完无法撤回时，该请谁确认、怎样纠正，什么时候由人接手。

从“写邮件”和“发邮件”的区别说起

让模型“帮我写一封邮件”和“直接替我发送这封邮件”看起来很接近，但风险完全不同。

• 写草稿：错了还可以修改，通常能自动完成。
• 发送邮件：会影响真实关系，最好先让用户确认。
• 批量发送给客户：影响更大，可能需要额外权限和专家审核。

HITL 的关键不是模型置信度低就问人，而是同时看出错概率、影响大小和行动是否可逆。

人在系统里可以扮演什么角色

什么时候该转人工

如果只讨论是否值得多加一次审核，可以用下面的账帮助思考：

审核的净收益 ≈ 不审核时的预期损失 − 审核后仍会发生的预期损失 − 审核成本

举个纯教学例子：某类错误的代价记为 100，自动处理出错率为 5%，审核后仍有 1% 出错率，审核成本为 1。那么净收益是 0.05 × 100 − 0.01 × 100 − 1 = 3。人也会犯错，不能把审核后的风险当成零；这些概率要用实际数据估计，不能拿模型自报的 confidence 直接代替。

这不是绕过授权的公式。需要用户批准的操作，即使算下来“便宜”，也不能擅自执行。不可逆性会影响损失大小与处置方式，不必再随意乘一个没有定义的系数；排队延迟也属于成本。

常见触发条件包括：

• 多个模型或评分器的结论明显冲突；
• 输入超出历史分布，系统以前没处理过；
• 搜到的资料互相矛盾，或来源不够可靠；
• 行动会发消息、花钱、修改数据或影响他人；
• 用户目标不明确，继续猜测的代价很高；
• Agent 反复绕圈、连续走备用方案，或成本异常增加。

人工反馈最好留下依据

“同意 / 不同意”可以作为训练标签，但通常解释不了问题出在哪一步。条件允许时，最好再留下证据或修改理由。

一次有用的人工介入应该尽量保存：

• 为什么这个案例需要人工处理；
• 审核者看到了哪些证据；
• 最后做了什么决定；
• 修改了模型输出或行动的哪一部分；
• 为什么这样修改；
• 这个案例应该更新测试、规则、policy 还是训练数据。

三种介入时间

实时确认

行动发生前让用户批准，适合高风险或不可逆操作。

确认必须对应具体动作，而不是整个会话（session）的通行证。展示目标、关键参数和影响，把批准绑定到这个动作版本及有效期；执行层核验批准者权限，并在执行前检查授权与当前状态。改了收件人、附件、金额等，就不能沿用旧确认。拒绝或确认到期未回复，都不等于批准。参见 OWASP 的交易授权原则。

例如，在要求逐次确认的报价邮件流程中：

展示：发给采购联系人，附件 quote-v3.pdf
用户批准这一版 → 才能进入发送前校验
随后替换为 quote-v4.pdf → 旧批准失效，展示新版并重新确认
用户拒绝或确认超时 → 不发送，记录原因

这只是状态约束，不是发送实现。恢复暂停的工作流也不一定等于“从下一行只执行一次”：例如 LangGraph 的 interrupt 恢复时会从节点开头重跑。待批准的外部写操作要放在有效批准之后，重试仍要遵守工具的幂等约定。

事后抽查

从完成的轨迹中抽样，发现系统性失败、judge 偏差和新类型问题。

定期重新设计规则

随着模型和任务变化，重新检查 rubric、升级阈值、权限、数据保留和用户控制。

常见误区

• 把人当成 fallback API：没有提供上下文，却要求快速做决定。
• 只看最终回答：忽略 Search、工具、副作用和状态更新。
• 只收标签，不收理由：后续很难判断该怎样改进。
• 升级规则永远不变：模型能力和任务风险变化后仍使用旧阈值。
• 反馈直接进入训练：没有处理标注者差异、策略偏置和数据泄漏。
• 自动化偏见：模型语气越自信，人越容易不加思考地接受。

好的 HITL 最终应该减少什么

目标不是让越来越多任务依赖人工，而是让最有价值的人类判断出现在正确位置，然后把这些判断变成：

• 新的确定性规则；
• 更好的 eval case；
• 更清楚的失败 taxonomy；
• 可复用的训练数据；
• 更合理的自动化边界。

和其他章节的连接

• Agent Observability 帮审核者追查发生了什么。
• Evaluation 决定哪些案例需要人工校准（calibration）。
• 数据与反馈 决定人工判断怎样进入后续学习。
• Personal AGI 要求用户能控制和纠正长期状态。

快速学习：什么时候应该把控制权交给人