评估：我们凭什么说系统变好了？

这章先说清什么算好，再看怎么比较。分层评估介绍不同检查方法，对照实验与分组评估讲怎么做公平的比较，指标稳健性则检查分数变化能不能支持结论。

先说清楚，什么才算变好了

评估不是算出一个分数就结束了。我们想知道的是：这个改动有没有解决原来的问题，又有没有带来新的问题？只看一个总分，往往回答不了这些问题。

一个平均分为什么不够

比如让一个旅行 Agent 帮忙安排行程。它的回答看起来很周到，却把酒店日期订错了。

只给文字表达打分，它可能表现不错；但一查最终订单，就会发现任务没有完成。

这说明不同问题需要不同证据：

• 格式是否正确，可以用规则；
• 日期是否一致，可以用确定性检查；
• 酒店是否真的可订，可以调用工具验证；
• 行程是否符合用户偏好，可能需要语义判断；
• 用户长期是否满意，需要看后续行为。

这些问题适合不同的检查方法，通常不能靠一个评分器全部回答。

先写清“好”是什么意思

开始前，先把成功标准写下来。后面选指标、做测试，都要回到这些约定：

Goal        用户真正想完成什么？
Success     什么结果算完成？
Invariant   哪些条件绝对不能破坏？
Tradeoff    速度、成本、质量和风险怎样平衡？
Slice       哪些用户、任务和环境必须分别观察？

如果这些问题没有答案，最后的分数再精确也没有意义。

这一块怎么读

• 分层评估：规则检查、实际执行和用户反馈，各能告诉我们什么。
• BLEU、ROUGE、编辑距离与困惑度：用短句算一次分数，再看它为什么会奖励（reward）一个错误答案；困惑度（perplexity）评的是模型给测试原文的概率，不是它自己的作文。
• Benchmark 与长上下文测试：选测试、固定协议、移动证据位置，再解释分数差异。
• 对照实验与切片：锁住相同条件做对比，再看平均分上涨时哪一组变差了。
• 指标靠得住吗：平均值会掩盖什么，评分器本身稳不稳定。
• LLM-as-a-Judge：评分标准（criterion）怎么写、分数怎么算，以及怎样发现评分偏差。
• 评估接到线上（待审核草稿）：线上请求记什么、怎样抽样跑 judge，以及怎样把失败变成回归题。

接着可以看什么

• Agent 可观测性记录中间步骤，方便查出问题发生在哪里。
• 人工参与讲哪些判断需要人来确认，以及怎样核对模型评分。
• 数据与反馈帮助判断评估集能否代表真实任务。
• 模型体验关注离线指标能否反映长期使用感受。

工程实践阅读

• Confident AI Blog：持续更新 LLM evaluation、Agent evaluation、observability、Human-in-the-Loop、RAG metrics 与实验工作流。适合了解工程实现和常见设计模式；具体方法仍需要结合原始论文与自己的数据验证。