三个LoRA拼成一个,Qwen3.8-27B编码测试最高涨近20个点
Hugging Face 团队为 Qwen3.8-27B 在 pi、OpenCode、Hermes Agent 上各训练了一个 LoRA 适配器,然后把三个直接拼成超级适配器。无需额外训练,性能提升,工具调用减少 53% 到 73%。附带一个关于“推理泄漏”的有趣现象。
一个模型,三个编码 Agent,一个超级适配器。Hugging Face 团队给 Qwen3.8-27B 做了三套 LoRA 适配器,分别对应 pi、OpenCode 和 Hermes Agent,然后直接把三个适配器拼成一个。拼出来的模型在 SWE-bench Pro 上最高涨了近 20 个点,工具调用减少一半以上。
agent harness 是编码代理的执行框架。同一个模型在不同 harness 下表现不一样,通用模型不会为某个特定框架优化。团队的做法:冻结模型权重,用强化学习在 harness 内部训练一个小型 LoRA 适配器。适配器学会的是“在这个框架下更高效地干活”。
单独看每个适配器,效果都明显。pi 在 SWE-bench Pro hard 51 上从 39.2% 到 64.7%,Hermes 从 29.4% 到 43.1%,OpenCode 从 35.3% 到 51.0%。Terminal-Bench 2.1 上分别 +16.3、+14.1、+6.0。更重要的是效率:在双方都能解的任务上,工具调用减少 56% 到 72%。

更有趣的是合并。三个适配器的权重更新几乎正交,cosine 相似度只有 0.01 到 0.02。每个适配器把模型推向不同方向,互相不干扰。团队把三个 LoRA 按 rank 维度拼接,权重取 1/2。没有额外训练,得到一个 rank-96 的超级适配器。
这个超级适配器在 thinking off 下,六个 harness-基准组合全部超过基础模型,平均 pass@1 从 39.5% 到 49.0%,工具调用少 53% 到 73%。最意外的是 thinking on:虽然训练时根本没开思考模式,它反而成了最强模型。平均从 55.5% 到 63.5%,在 SWE-bench Pro 的 Hermes 和 OpenCode 下分别 +15.7 和 +19.6,pi 本来就是 74%,持平。

任务数据来自 SWE-smith、SWE-Gym 和 Tasksmith,经过 openenv validate 校验,再让基础模型试做,只保留那些“有时能解,有时不能”的任务。这保证了 GRPO 有学习信号。
团队提到一个现象:在非思考模式下,适配器模型会在工具调用前生成一段短文本,有时看起来像推理痕迹,比如“..wait? ..let me see”。基础模型通常直接调工具。这被他们称为“推理泄漏”。有网友评论:“三个适配器拼成一个 rank-96 LoRA,感觉像作弊。” 团队回应:结果有效,在同样条件下确实更强。不过他们也承认,需要专门研究一下纯思考模型的训练。
也有开发者认为,适配器层比模型本身更有趣:如果 harness 共享同一接口,团队可以测试同一个 agent 行为,而不必重写工作流。
完整的配方在 Hugging Face 博客上,所有模型、GGUF、任务都开源。如果你有自己的模型和 harness,也可以照着训练一个。关键点:让模型在真实 harness 里跑,而不是在框架里重实现一个。
发布时间: 2026-11-21 07:09