Wink Pings

先读trace,再写eval:一张320美元酒店报销单暴露的评测盲区

很多Agent评测有分数、有看板,用户还是拿到错误答案。Hamza Tahir用费用审核Agent展示了一套更笨但更可靠的流程:先读trace找失败模式,再写eval,最后先测试eval本身。

很多团队已经有eval。分数正常,看板也正常。用户还是拿到错误答案。

问题常常出在eval的来源:先写检查,再去看Agent到底怎么失败。检查测的是容易想象的问题,漏掉真实出错的地方。更少团队会继续问一句,eval本身对吗。

Hamza Tahir在3500字的X文章里拆了这个流程。他是ZenML Labs联合创始人,在做Kitaru,把Agent trace转成可靠eval。原文链接:https://x.com/i/article/2123832962718355457

他搭了一个费用审核Agent,用LangGraph,模型是gpt-5-nano,五个工具,按十节公司政策审核报销,输出批准、拒绝或转人工。然后他读了126条trace,把看到的失败写成eval,再测试eval。过程中发现自己两个评估器有问题。

一张报销单,所有常规检查都过,结论还是错

案例很具体。员工提交一晚320美元的酒店账单,地点是Port Selene。公司政策规定,标准城市每晚上限250美元,Port Selene每晚上限350美元。Agent把报销转人工,因为金额检查返回了250美元上限。

这一晚没有超过Port Selene的上限。标记是错的。

但常规检查全过:工具调用对吗?对,查了报销记录,也搜了政策。检索到正确政策吗?对,住宿条款。引用真实条款ID吗?对。给员工的回复合理吗?对,有决定也有理由。

每项检查都过,一张合规的320美元账单还是进了人工队列。只看最终回复,很难知道哪里坏了。要读trace。

trace是Agent处理一次请求的逐步记录:用户说了什么,每次模型调用和工具调用的输入输出,工具返回什么,最后回复什么。原文在捕获trace、代码评估器、本地运行等位置放了GIF演示。素材没有提供可嵌入的GIF链接,这里保留文字说明。

eval不是LLM打分的同义词

Hamza给eval的定义很窄:对一个你关心的行为做可重复检查,并且有证据判断是否通过。

可重复,指改完prompt、工具或模型后,能在同一批案例上再跑。一个行为,指能说清楚检查什么。证据,指有人能打开记录验证结论。他专门提醒,别把eval和LLM-as-a-judge混着用。

流程分七步。前两步做一次,后面每次改Agent都要重跑,因为每次都会产生新trace。

  1. 定义工作:谁依赖Agent,各自需要什么结果。
  2. 设计案例:先定维度,再写合成请求。
  3. 捕获并阅读trace:从请求一路读到结果。
  4. 识别失败模式:逐条记问题,再归类。
  5. 为每种失败模式选评估器:能查证据就用代码,需要判断再用LLM judge。
  6. 测试评估器:确认它能让已知错误失败,也能让已知正确通过。
  7. 改Agent并重跑:看修好了什么,弄坏了什么。

先定义谁在等结果

费用审核Agent服务三类人。员工要决定和准确理由。财务要一条能保存、能对账的决定记录。人工审核员要被明确告知哪笔报销需要看,以及为什么。

这些义务都要在日志里留下证据。Agent的指令要求每次审核调用一次recommend_decision,如果决定是转人工,再调用flag_for_review。它仍然可能漏调或重复调。

在126次运行里,有23次员工收到了决定,财务却没有匹配记录。21次完全没保存决定,2次保存的决定和回复不一致。员工有答案,财务没东西可执行。

案例别一次性生成150条

如果Agent还没上线,没有真实用户trace,就用合成请求先跑。Hamza见过一种常见做法:让coding agent一次性生成100到150条查询。仔细看,很多只是换措辞,覆盖同一个场景,边缘情况反而缺失。

更稳的做法是先定维度。维度是故意变化的细节,可能来自申请人、政策,也可能来自工具能力。第一遍让coding agent根据指令、政策和工具描述提出维度和示例值。人来审:简单案例覆盖了吗?查询返回空结果时怎么办?错误的人批准、以及批准缺失,都 included 了吗?

维度对了,再组合成场景。比如员工、酒店住宿、缺发票,可以变成一句请求:“我酒店发票丢了,还能不能报销?”第二遍再让coding agent为选定的组合写请求。最后人工检查重复、缺口和不像用户会说的话。

这个小型Agent不需要150条。Hamza用了42条请求,每条跑3次。模型每次回答不完全一样,单次运行会藏住失败。42条乘以3次,得到126条trace,他全读了。

生产环境另一个量级。每天1000到10000次请求的Agent,实用起点是从过去七天随机抽150到200条trace细读。查罕见失败时,要单独定向抽样,随机样本会漏掉它们。

读trace要读到动作有没有发生

读一条trace,先看用户问了什么,最后被告知什么。再按顺序跟调用,检查每一步Agent手里有什么信息,它声称完成的动作是否真的发生。

Port Selene那条里,查询显示一晚320美元,政策搜索返回住宿条款和Port Selene的350美元上限,金额检查却返回标准城市250美元上限。三步放在一起,能看出Agent拿到了正确记录和正确政策,但信了工具给的错误上限,把合规住宿标成转人工。

读的时候在出错位置留短笔记。写清Agent做了什么,以及证据为什么说明它错了。不要只打一个“答错”标签。答错太粗,不能告诉你要修检索、修事实理解,还是修规则应用。

把相似笔记归组,再命名模式。Hamza的126条里,9次决定错误,分布在7条请求上。按主问题分:5次把明确违规送给人工审核,2次用错限额或单位,2次批准了本该拦下的报销。

另有23次不是决定错误,而是财务记录缺失或错位。它们单独算一种失败模式。

能写代码查,就别先上judge

失败模式列出来后,逐个问:trace里什么证据能说明它发生了?

如果证据能直接检查,用代码评估器。比如recommend_decision会返回带报销ID和决定内容的确认。几行代码就能检查它是否恰好调用一次,保存的ID和决定是否与回复一致。Hamza跑了这个检查,126次里103次通过。

如果答案需要判断,比如解释会不会误导员工,再用LLM judge。把请求、报销记录、政策和回复交给judge,让它指出哪些说法没有证据支持,哪些证据与结论冲突。

原则是:用能解决问题的最简单评估器。代码检查几乎零成本,每次改动后都能全量跑,结果稳定。judge每条trace要一次模型调用,还要先用人工标签验证它的判断。

原文表格里还有一个典型错误。Hamza第一版限额检查用正则匹配措辞,后来改成用政策规定的城市每晚价格、人均餐费上限和算术来判断。措辞会变,算术不会。

先测试eval,别急着信分数

一个错误eval比没有eval更糟。它会告诉你修复有效,实际没有。

测试方法不复杂。对每个评估器保留四个小测试:一条应该失败的trace,一条应该通过的trace,各自的一句改写,再加一个否定表达。如果评估器是模型,还要加人工标签,并读它在你不同意的案例上的推理。

对LLM judge,先用懂政策的人标注trace,且标注者看不到judge答案。用分歧修rubric。调完后,在另一组人工标注trace上报告两个数字:人工认为失败的情况,judge抓到了多少;人工接受的回复,judge放过了多少。两个都要。一个全放过的judge,第二个数字会很好看,失败全漏。

Hamza引用了Hamel Husain和Shreya Shankar关于二元评分的内容,以及Hamel关于验证LLM judge的指南。

回复区里几个补充也值得记。有评论说,检查eval本身是多数指南跳过的步骤,播几条已知坏trace看评估器是否失败,是最便宜的办法。另一位建议让eval跑一个应该失败的模型,确认它失败的原因对。还有人提配对trace:同一个正确动作,一条引用真实规则,一条给看似合理但错误的理由,如果两条都过,judge没查证据。

Port Selene还有一条更尖的评论:检索检查抓不到这个错,因为正确段落就在屏幕上,结论仍然用了默认上限。测试方法是改掉该城市的上限再重跑,看结论跟文档走,还是跟习惯走。

改Agent时,一次只改一个地方

前面都在测量Agent当前的样子。eval的回报出现在改动之后。

Hamza建议一次只改一个东西。Port Selene的trace指向具体原因:金额检查工具对总额套了一个上限,没有单位,也没有Port Selene费率。那就改工具,让它返回上限、适用单位、按单位计算后的金额。prompt和模型不动。

跑之前先写下哪些案例应该翻转,哪些必须不变。酒店案例组里,标准城市一晚250美元整的案例很关键,它能抓住把边界修错的改动。案例集里如果没有标准城市超过250美元的夜晚,一个偷懒修复“把住宿上限提到350”会通过所有行。这个案例得先补上。

重跑Agent有个现实问题。prompt重跑容易,Agent重跑不容易。工具会改世界:再跑一次可能重复写决定、重复路由报销。世界也会变:上周查到的记录,这周可能不同,分不清是Agent变了还是输入变了。

解法是对着录制回放。Agent真实代码从头跑,每次工具调用用第一次记录的结果回答。输入被固定,行为差异来自你的改动。Kitaru的replay做这件事。注意,如果你改的正是某个工具,这个工具的录制结果恰恰不能回放,它要实时跑,周围查询用录制结果。哪些工具实时、哪些回放,是实验设计的一部分。

Hamza那次运行里,五个案例从错误决定翻正,没有反向。财务记录另一头有两例修好,但有四次运行回复了员工却没保存决定。Port Selene在录制基线里已经通过,所以这次运行本身不能证明酒店修复有效。每个案例只跑一次,五个翻转里也可能有模型正常波动。建议每个案例回放三次再信。

开始做自己的eval,需要三样东西

要开始,需要trace,需要留出读trace的时间,还需要一个习惯:问每个检查可能怎么错。

流程可以压缩成一张清单:写下谁依赖Agent,每个结果留下什么证据。用维度设计100到150条案例。捕获完整trace,包括动作理由。逐条读,写短笔记。把相似笔记归成五到六种失败模式。每种写一个评估器,trace有证据就用代码。给每个评估器一个已知失败、一个已知通过、一句改写、一个否定。LLM judge要配人工标签,读分歧处的推理。改Agent前,列出哪些案例该翻转、哪些不能动。回放后,先读回归。

这套方法不轻,也不适合做成一个漂亮的平均分。它更像读日志、做分类、写检查、再验证检查。好处是,当分数动了,你知道它为什么动。

发布时间: 2026-11-21 07:53