32个神经元让它总觉得你在骗它
Inkling 2 Mini修bug时读个不停却不动手,被指出原因还怀疑是陷阱。作者在权重里找到32个神经元控制这种疑心,关掉之后,疑心没了,活还是没干。
Reddit用户FeydRowan把Inkling 2 Mini接进自己的capy-flash引擎,花一天测了两个主力场景:agentic coding和翻译。
先补点背景。Inkling 2 Mini是个能在本地跑的小模型,名字里带Mini。agentic coding指的是让模型自己看代码、改文件、修bug那类任务,跟聊天问答是两码事。capy-flash是作者自己搭的运行和测试环境。
翻译这块,它的表现是组里最字面的,遇到习语尤其直译,8个被测系统里排最后。作者仍然把Gemma 4 31B当参考译法。
agentic coding看起来还行,但有个毛病:它会把文件读一遍、推理一遍、再读一遍,然后停在那儿,一个文件都不改。整体分数低于Qwen3.8-27B。
测试过程中作者撞见一个怪事。当你直接告诉它bug的原因,它有一半的回应会怀疑这是个陷阱,原话大概是“这是经典陷阱,描述可能是错的”,然后死活不下手修。同样场景Qwen 27B四次里能修三次。
作者用权重空间编程的工具去查,发现这个“疑心”住在350万个神经元里的32个。把这32个关掉,30次回应里怀疑从16次降到1次。换成随机32个神经元,没有任何变化。

但关掉怀疑之后,benchmark分数没涨。它还是不改文件。作者重读推理轨迹,判断这是能力上限:遇到难的bug,它根本没形成完整的机制理解。换句话说,它怀疑你在骗它,和它修不好,是两件事。
跟帖里有人共鸣。brainExploded99说自己观察到它读个不停、带点小思考,就是不干你让它干的事,看起来更喜欢了解东西而不是完成任务。mountainyoo回“一个LLM读得开心懒得干活,这画面太好笑了”,SupinePandora43补了句“Like me fr fr”。
作者在回复里说自己试着找“该动手写代码”的神经元,没找到,看起来更像容量问题,思考太浅,没挖到bug。
有人问权重空间编程的工具,作者贴了repo:https://github.com/ValerioDolci/frontier-weight-edit,说Inkling还没加进去。
另一个跟帖提到QFN和27B的误差棒顶部能碰到Opus5.5的均值,而且误差棒很宽,所以这两个模型第一次没跑成,值得再试几次。作者确认了,说测试成本高、验证也慢,样本量还得堆,但现在的差异已经能看出方向。
有人建议多测几个本地模型,作者回每次跑要耗很多小时,只测自己家里能跑的东西。
还有用户RegretNo6554说,在真实代码库里131k上下文不够用,它读一段压缩一段再读,最后把上下文提到512k才开始有进展。
把一种行为倾向从权重里摘掉,和把能力补上,中间还隔着一段距离。32个神经元能关掉疑心,关不掉它没看懂bug这件事。
发布时间: 2026-11-22 22:20