Agent 自主是个错觉:你还在当它的循环
Anthropic 的 Cat Wu 说 prompting 基本结束,95% 工程师在跑自我改进循环。m4lka 把 agent 系统拆成 7 层:harness、loop、graph,再往上才是学习。多数团队卡在第三层之前。
一段被转发的现场演示里,Anthropic 的 Cat Wu 从空终端开始,10 分钟搭出一套 Claude Code 配置。她的判断很硬:Prompting is basically over。95% 的工程师已经在跑自我改进循环,下一步是 graphs。
这种话很容易变成口号。真正有用的是 m4lka 那篇文章,它把 agent 系统拆成 7 层:Harness, Loops, Graphs。开头一句就很刺:你的 agent 并不自主,你是它的循环。它写,你读;它说 done,你查;它弄坏,你解释;然后你继续打字。
大多数所谓自主配置,都是一个人在偷偷补三个岗位:给模型一个工作的地方,告诉它对不对,决定下一步做什么。这三个岗位分别叫 harness、loop、graph。把它们当菜单会很乱。它们更像梯子,每往上一层,都因为下一层会在某个固定地方坏掉。
第 0 层是 chat。贴 bug 报告,模型给修复建议,你复制进编辑器,跑测试,再把错误贴回去。模型是聪明的函数,你是整个程序。一次问答没问题,重复劳动就是灾难。
第 1 层是 harness,给 agent 手。shell、文件、测试运行器、git、浏览器。最干净的判断方法:把模型从架构图里删掉,剩下的全是 harness。工具不是越多越好。十个窄而清楚的工具,好过四十个重叠工具。给 agent 能完成任务的最小环境。
第 2 层还是 harness,补记忆和墙。记忆放在模型外面:git commit 当检查点,产物用引用传递,别把整段日志塞回上下文。上下文是内存,harness 是硬盘。模型会忘,文件不会。墙是模型出错也依然生效的限制:最小权限、隔离 worktree 或沙箱、命令白名单、token 和时间预算。请它别碰 migrations 是愿望;它没有那个权限才是墙。
第 3 层是 loop,核心在 check。循环有四步:产出一个结果,检查,修正,重复。大家盯着重复,真正决定质量的是检查。没有能失败的检查,重复只是重复错误。检查强度看它接受的最弱证据。如果循环接受“模型说做完了”,那就是自报。写 bug 修复的检查时,先看第一行:一个在修复前就能通过的测试,证明不了任何事。检查必须能红,而且你最好亲眼看它红一次。
第 4 层是让反馈收敛。判词只说错了。反馈要说错在哪、以什么方式错、你已经试过什么。最简单结构是预期和实际之间的差距:EXPECTED 和 SAW 把红灯变成方向,FENCE 把下一次尝试限制在一个文件里,DEAD ENDS 记住死路,避免第 3 次尝试悄悄变回第 1 次。循环还要有出口。同一结果连续出现两次,agent 已经不再从循环里学习。继续加次数没用,缺的是它看不见的信息,或者任务本身问错了。
第 5 层是 graph,工作形状。节点和依赖。很多箭头是习惯,不是依赖。对每个箭头做早期启动测试:如果 B 在 A 完成前开始,会坏什么?答案是没什么,箭头就是习惯。audit billing 可以早于修复落地,开 PR 不行。每个 worker 要有自己的房间。四个 agent 挤在一个共享上下文里,很难算团队:更像一个 agent 戴四顶帽子,先写下的观点会变成所有人的观点。能用代码给出同样答案的步骤,比如合并、排序、去重、计数,就别交给模型。
第 6 层管 gate 和返回路径。通过 gate 的结果要冻结,变成只读,下游不能重新打开。失败时只重跑失败节点,带上反馈,已通过结果保持原样。每重跑一次好工作,都是给它一次新机会坏掉。gate 放在工作离开节点的地方,不要堆到最后。判断风险看撤销成本:如果错了,撤回要花多少代价。模型说“这碰到 auth”只是标签。auth 需要一次审批还是两次,应该在运行前写进代码。你最贵也最慢,只该站在错误无法撤销的位置。
第 7 层才是系统学习。失败属于哪一层,教训就落到哪一层。把教训放错层,它会变成建议。“注意不要重复工作”写在 prompt 里是希望;写在拆分器里是结构。学习别把上周日志整包喂进下周。喂一条规则。测试方法很简单:同一类失败不再收你两次钱。
评论区有人补了一刀。David Andriani 说,自我改进循环也需要记分牌。没人定义更好是什么,agent 会变得非常高效地乱逛。这话对第 7 层尤其成立。
m4lka 的短版本可以记成:harness 让 agent 有能力,loop 让它诚实,graph 让它有条理,学习让它比昨天好。层级不能跳。十个没有检查的 agent 不会给你十倍产出,只会给你十倍清理量。目标也简单:让系统只需要你在正确位置出现一次,别指望 agent 完全不需要你。
原文链接:fomoebka 的推文,m4lka 的文章。
发布时间: 2026-10-29 12:47