Karpathy说AI在重犯2016年的错，5年学费可能又要白交

Karpathy 最近一段话在 X 上被转了很多次。大意是：现在 AI 最大的错误，是人们逼着 agent 去干活，而不是先把模型的 harness 工程做好。他还说 2016 年在 OpenAI 就犯过这个错，代价是 5 年。

先解释一下 harness。这个词在中文里没统一译法，有人叫脚手架，有人叫缰绳，有人叫控制台。它指的是包在模型外面的那一层东西：任务怎么拆，工具怎么接，状态怎么存，失败怎么反馈，什么条件下必须停下来。模型是发动机，harness 是底盘、刹车和仪表盘。

底下的回复比原帖更具体。一个叫 Anurag 的网友说，现在大多数 agent 还是独白：模型写几行代码，同一个模型告诉你它跑通了。没有编译器，没有真正失败过的测试，没有那个文件到底存不存在的检查。它当然会说 done。

harness 干的活很无聊。保持状态，碰一些模型外部的东西，把失败信息塞回上下文，再采样一次。就这么点事。但它决定了 agent 是在真干活，还是在烧 token 自娱自乐。

另一位网友 Ondrej 列了三个具体部件：memory files，fail-closed 沙箱，一个会自己停下来的循环。没有这些，模型只会无限烧下去。还有人补了一刀：harness 工作永远产不出 demo 视频，所以大家跳过它，直奔 agent。

2016 年的教训在这儿：当时他们想在没有环境能拒绝策略的时候，先把策略规模化。现在模型强了，但不少人还是在做同样的事，只是采样器更大了。一个不允许合并直到测试变绿的小模型，比一个住在聊天框里的前沿模型更接近“干活”这个词。

不过有一条回复得单独拎出来。用户 Islam Hassan 指出，视频里 Karpathy 并没有说“harness engineering”“最大的错误”“代价 5 年”这些词。他说 Karpathy 2016 年做的是一个 computer-use 风格的 agent，失败是因为技术没准备好，缺的那块是模型。这条质疑值得放进来，因为转发链里的引语和原视频经常对不上。

不管原话精确到什么程度，回复里有个共识挺扎实：裸模型只是一堆预测下一个词的权重。把它变成可靠工作的，是外面那层东西。