Wink Pings

3毫秒改LLM权重,决策模型直接写进参数

有人把决策模型的山谷刻进Qwen 3.5 0.8B的权重,编辑一次3毫秒,效果对标LoRA。帖子下的System 1术语争论比方法本身还有意思。

3毫秒,改完一个LLM的权重。Reddit用户Nandakishor_ml在r/LocalLLaMA发帖,说他把一个决策模型直接写进了Qwen 3.5 0.8B的参数里,没有走训练流程。编辑一次耗时3毫秒,效果对标LoRA,且没有出现灾难性遗忘。LoRA是常见的轻量微调方法,灾难性遗忘指模型学新技能时把旧知识弄丢。

背景补一下。9月18日,这位作者在同一个版块发布过Laya,当时叫它这个版块里首个开源的System 1决策模型。后来他看到MIT关于直接编辑权重的帖子,决定用决策模型试同一件事。两个月后,结果放在Kaggle上。

方法听起来像蒸馏。作者把基于能量的决策引擎里的“山谷”教给LLM。他的描述是,决策像地形里的低谷,每个答案会滚进其中一个,并且带着诚实的置信度。现在这些山谷被写到LLM权重上。演示的新技能是工具调用:在合适的时间决定调工具。图片里是项目截图。

image

帖子下面先吵的是术语。有人问System 1到底什么意思。回复搬出卡尼曼《思考,快与慢》:System 1快、直觉、自动,System 2慢、审慎、分析。作者也回了一句,这次的对象是decoder,Laya是encoder。接着他自嘲,自己也不喜欢这个叫法,Laya本质就是BERT加分类头,但人们不会这么认识,多亏Jev。术语的包装有时比方法跑得快。一个分类头套上心理学名词,讨论度立刻不一样。

这不影响方法本身值得看。直接改权重、3毫秒、对标LoRA,这几个数字放在一起,至少说明轻量编辑还有空间。Kaggle链接在帖子原文里:Fast edits decision model。

发布时间: 2026-11-10 19:27