别让 agent 从零写 eval,它会先检查输出文件在不在
给 agent 几份好样例和坏样例,比写长要求更管用。但坏例会过期,样例也会过拟合。Viv 的讨论里,真正的难点是别让 agent 只学会抄脚手架。
让 agent 设计评估,最容易翻车的地方在参照物。模型不笨,问题是它不知道什么叫好设计。Viv 在 X 上给了一个很省事的做法:给 agent 喂好样例和坏样例,覆盖不同任务的设计模式,它写出来的 Evals 和 Benchmarks 会可靠很多。
原帖:https://x.com/Vtrivedy10/status/2122089550529151126
背景得补清楚。Eval 的设计空间很大。verifier 怎么写,用 rubric 还是程序检查,容器环境多真实,合成数据怎么造,任务描述该含糊还是给够信息。每一项都能把评估带偏。agent 会放大上下文,代码库里有什么模式,它就复制什么模式。所以 seed examples 等于给它一套可对照的样本。Viv 说他们把喜欢的例子嵌进 skills,让 agent 有具体参考。
坏例可能更值钱。Ignacio Ferro 在回复里说,好例只展示一种正确路径,坏例能命名一个陷阱,比如 judge 奖励长度,任务泄露答案。他问 Viv 是否标注每个坏例为什么坏。这个问题关键。Jurly 回复说,标注失败原因,agent 才能学设计原则,不然只是抄表面模式。
Viv 的回答里有很多人工活。不是丢几个样例就完事。要看公开任务用了哪些原则,还要检查这些原则能不能产出有趣、没坏、测新东西的任务。他举了两个例子:Terminal Bench 的任务说明写得很清楚,目标、重要文件、时间限制都写明白;agent 从零写说明常常太长、空泛、泄露策略,而不是只写目标。Frontier SWE 的 optimizer design 任务展示了怎么设计预算、对抗 verifier 噪声、做自动研究任务、防止改文件作弊。
Terminal Bench 示例:https://hub.harborframework.com/tasks/terminal-bench/photonic-waveguide-routing/latest/files/instruction.md
Frontier SWE 示例:https://www.frontierswe.com/tasks/optimizer-design-v2
还有更细的设计:verifier 什么时候用决策模型,什么时候用程序检查;字符串匹配这种检查很脆,但 agent 还是爱用。要测视觉推理,就给 harness 强制把图片和视频读进上下文。这些细节决定评估是不是真的测到东西。
反常识的是,不 seed 的 agent 很容易写出只检查输出文件存在的 verifier。有网友在回复里直接说,unseeded,agents write verifiers that just check the output file exists。这个画面很典型。另一个网友说,benchmark 进展很多是 curation,不是 modeling。坏例是不对称杠杆。这个判断有点狠,但和上面的现象对得上。
风险也在。Viv 提醒别过度拟合现有 evals,稳定性和多样性要平衡。坏例还会过期。Mykyta 问,新模型不再犯那个错,不要这样做样例是不是就废了。Viv 说这本来就是个移动目标,模型每代更聪明,评估更难做。Lachy 问怎么找稳定和多样的临界点。Renan 给了一个可操作的方法:复制 harness 模式,然后扰动任务假设,比如去掉只有 oracle 才有的字段,或者改工具的错误行为。如果生成的 verifier 还能接受一个看似合理但错误的 trace,说明它只迁移了脚手架,没迁移有效契约。
所以 seed 不是让 agent 抄 Terminal Bench。样例要标注为什么坏,要定期淘汰,要拿扰动测试 verifier 的边界。目标是把设计原则和契约传过去。Viv 的梦想是,有一个想法,发消息给 agent,它构建任务、测试、修复,全程自动。有些领域已经能跑,有些还早。现在更划算的投入,可能是整理一组合格的坏例子,而不是再写十页 prompt。
发布时间: 2026-11-16 09:28