你的Agent不是自主的,你就是它的循环
Karpathy免费发布了2.5小时从零构建AI课程。但如果你已经在用Agent,这篇7层框架更值得读:你的Agent并不自主,你就是它的循环。
Andrej Karpathy 发布了一门免费课程:2.5小时,从零开始构建神经网络、语言模型和 agent。课程路径:Scratch → Neural Net → Language Model → Agents → How It Actually Works。他说:“Let's build it from scratch, so you understand every single piece.” 特斯拉 Autopilot 的负责人、OpenAI 联合创始人,课程免费。
有网友说得很直接:这门课值一万美金,他免费放了。
但今天我更想聊另一篇东西。m4lka(@m4lkxx)写了一篇长文:《Harness, Loops, Graphs: What Each Layer Fixes and What It Breaks》。开篇第一句就扎心:
“Your agent is not autonomous. You are its loop.”
你的 agent 并不自主。你就是它的循环。
m4lka 把 agent 系统分成 7 层。核心是三个词:Harness(环境)、Loop(循环)、Graph(图)。它们不是并列的工具,是梯子。每一层都是因为下一层在某个具体、可预测的地方崩掉而存在。
他用一个贯穿全文的例子:一个 bug report 进来,agent 要修复并开出 PR。
Level 0: Chat
你粘贴 bug 报告,模型给建议,你复制到编辑器,跑测试,把错误贴回去,再问一次。模型只是非常聪明的函数,你是整个程序。一次性问题没问题,重复两次就是灾难。
Level 1: Harness(给手)
让 agent 能碰世界:shell、文件访问、测试运行器、git。但工具不是越多越好。十个窄工具好过四十个重叠工具。最干净的定义:从架构图里把模型拿掉,剩下的就是 harness。
Level 2: Harness(记忆和墙)
上下文窗口是 RAM,harness 是磁盘。PROGRESS.md、git 提交、按引用传产物。模型会忘,文件不会。墙是权限,不是“请别碰”这种愿望。least-privilege、沙箱、命令白名单、预算。
Level 3: Loop(能失败的检查)
循环四步:产出、检查、纠正、重复。只有“检查”重要。没有能失败的检查,“重复”就是重复错误。证据按伪造难度排序:确定性测试最强,自我报告最弱。一个检查的强度取决于它接受的最弱证据。
Level 4: Loop(收敛的反馈)
“错了”是判决,“错在这里、这么错、你已经试过那个”才是反馈。写 EXPECTED 和 SAW,加 FENCE 和 DEAD ENDS。循环要退出条件:绿色,同样结果出现两次,预算花完。
Level 5: Graph(工作形状)
节点是单一任务,边是真实依赖。很多箭头是习惯不是依赖。如果 B 可以在 A 完成前开始,什么都不受影响,那条线就是浪费。每个节点要有自己的上下文。四个 agent 共享一个上下文不是团队,是一个 agent 戴四顶帽子。
Level 6: Graph(门和返回路径)
冻结已通过的结果。失败时只重跑失败节点。按撤销成本分级:一键撤销、清理后撤销、不可撤销。人的注意力只放在不可撤销的地方。你是系统里最昂贵、最慢的节点,别把自己放到能一键撤销的事上。
Level 7: Learning
每个失败属于一个层级,教训要落到对应层。不是喂日志,是喂规则。测试很简单:同一类失败不再让你付两次钱。
m4lka 还附了一张自测表。你还在聊天和终端之间复制粘贴,缺 Level 1。agent 反复用同一个坏方法,缺 Level 2。“done”在你检查前毫无意义,缺 Level 3。重试烧钱在同一错误上,缺 Level 4。每一步都对、整体很慢,缺 Level 5。一次失败导致全部返工,缺 Level 6。同一个错误每周出现,缺 Level 7。
这套框架的诚实劲儿很罕见。它不假装 agent 已经自主,而是清楚承认:几乎所有“自主”设置背后,都有个人在悄悄做三份系统本该做的工:给模型一个工作地方,告诉它对不对,决定下一步干什么。
课程免费。文章免费。但两者都比绝大多数付费内容值钱。
如果你还没开始用 agent,先看 Karpathy 的课。如果你已经在用,先看 m4lka 的文章。
发布时间: 2026-11-20 01:49