Wink Pings

换模型后harness掉分,Google给优化器装了本错题本

Google新论文提出Self-Improvement Memory,让harness优化器记住每次编辑的原因和结果。十次编码续跑里九次涨分,平均+2.36,p=0.003。

Google Cloud AI、DeepMind和Penn State的论文把自我改进里一个常被跳过的环节拎了出来:记忆。

先补上下文。harness可以理解为包在模型外面的运行框架,工具调用、流程、提示、评测脚本都在里面。递归自我改进(RSI)在这篇论文里落在harness层,优化器改的是运行框架,不碰模型权重。

问题出在换模型或换benchmark的时候。harness优化通常假设策略模型和评测集固定。一旦其中一项变了,优化器得决定旧harness里哪些部分该留、哪些该改。可harness本身不解释过去为什么改、改完效果如何。论文给了一个很具体的翻车数字:一个由Opus进化出来的harness,放到Gemini上起始分数68.41,低于原始seed harness的73.89。

Self-Improvement Memory论文截图

论文提出的Self-Improvement Memory(SIM)装在harness优化器上,任务策略不背这个记忆。SIM把过去的编辑按反复出现的harness问题分组,每次编辑存四类信息:修改理由、预测结果、观察结果、评估上下文。新的尝试继续追加到这段历史里。proposer和selector在动手前都会读它。

结果在四个领域上做了对比,包括Terminal-Bench 2.1到Terminal-Bench 4。在六次跨数据集设置和四次Opus到Gemini设置里,SIM的最终分数高于只从harness继续,也高于只从根因继续。十次独立编码源运行里,配对续跑有九次提升,平均比harness-only继续高2.36分,p=0.003。

X上有用户转这篇论文时提醒收藏。论文作者给的建议很工程化:如果你在自动进化harness,把每次编辑的理由和结果跟代码放在一起。

做工程的人对这种事不陌生。日志里只有diff,没有动机和结果,换模型后优化器只能重新试错。SIM的价值在于把编辑历史变成可读的上下文,让下一次修改不用从零猜。

论文链接:https://arxiv.org/abs/2611.18856

Chat with Paper:https://academy.dair.ai/papers/self-improvement-memory-enables-continual-recursive-self-improvement-2611.18856

发布时间: 2026-11-18 09:38