Wink Pings

换了模型,自动进化的harness反而更差?Google说问题不在harness本身

Google一篇新论文盯上了harness优化的迁移问题:Opus上进化出来的harness换到Gemini上,分数从73.89掉到68.41。他们给优化器加了一套记忆,记录每次改动的理由和结果,9/10次续跑都涨了分。

Google发了篇论文,讲harness层面的递归自我改进。作者来自Google Cloud AI、DeepMind和Penn State。核心问题不新鲜,但被认真测了一遍。

先把背景说清楚。这里的harness指的是围绕模型的那层脚手架,包括prompt结构、工具定义、执行流程、记忆系统这些。harness优化就是自动改这层壳,不改模型权重。过去这类工作基本假设policy model和benchmark是固定的。论文把场景推了一步,叫Continual Recursive Self-Improvement:已有的harness优化跑到一半,换benchmark或者换模型,继续跑。

真问题在这里。论文里给了一个具体数字:Opus上进化出来的workspace harness,换到Gemini上起始分只有68.41,而未经优化的seed harness是73.89。进化的结果反而拖了后腿。原因不复杂,harness本身只记录改了什么,不解释为什么改、当时预期什么、实际发生了什么。换一个模型,之前那套拐杖可能完全对不上新模型的短板。

Google RSI 论文

他们提出的方案叫Self-Improvement Memory,简称SIM,记忆挂在优化器上,不在任务求解的policy上。SIM把过去的编辑按反复出现的harness问题分组,每条记录四样东西:改动理由、预测结果、实际观测结果、当时的评估上下文。proposer和selector在下一次动手前都会先读这段历史。新尝试继续追加,记忆跟着优化过程一起长。

实验覆盖四个领域,包括Terminal-Bench 2.1到Terminal-Bench 4。在匹配起始harness、轮次和候选预算的条件下,完整SIM在六个跨数据集设置和四个Opus到Gemini的设置里,都赢过了只用harness续跑和只用根因续跑的对照组。代码任务上做了十次独立源运行,SIM在9/10次续跑中提分,平均比harness-only续跑高2.36分(p=0.003)。

有网友看完的总结很直接:如果你在自动进化harness,把每次编辑的理由和结果跟代码存在一起。harness本身不是资产,带解释的修改历史才是。换模型的时候,能迁移的不是那堆prompt,是当时为什么那么改的判断。

论文链接:arXiv:2611.18856

DAIR.AI的解读页:Self-Improvement Memory Enables Continual Recursive Self-Improvement

发布时间: 2026-11-18 12:26