把去审查模型拆成 LoRA，能省下多少重复权重

Hugging Face 上有一类模型越积越多：同一个基座，被不同人做成去审查版本，再整包上传。Reddit 的 LocalLLaMA 版块里，用户 Robert__Sinclair 发帖提议，别再传整模型了，传 abliteration 或去审查后的 LoRA 就行。

他的理由很直接。LoRA 能套到同架构的任意模型上，也能套到任意量化版本。帖子里举了一个例子：Qwen3.6-35B-A3B 的去审查 LoRA 可以用于该架构的不同版本和量化。发帖人希望最终能有一个仓库，每个模型对应一个 LoRA，方便比较和排序。

这个想法不新。跟帖里 jacek2023 说，从 2023 年就有人提，ComfyUI 社区里 LoRA 几乎是人人都用的东西。pilkyton 补充，Heretic 已经能导出 LoRA。Heretic 的作者 -p-e-w- 也回复，Heretic 内部一直在用 LoRA，从 1.4 版开始支持把结果导出成 LoRA，2.x 里配合 ARA 也能完整支持。

Heretic 是什么？有网友给了一个形象解释：拿 400 条类似不要抢银行之类的陈述，去看模型谈论这些内容时的内部反应，再把对应部分切掉。它处理的是模型对齐，NSFW 用户拿它做角色扮演，也有人注意到去除对齐时，一些反犯罪倾向也会被一起削弱。

问题出在落地。llama-impersonator 指出，Heretic 现在默认提供 ARA LoRA，但不是每个推理引擎都好好支持加载 LoRA。llama-server 做不到 vLLM、SGLang 那种按请求切换 LoRA，Exl3 也要加载和卸载。a_beautiful_rhind 说得更直白：LoRA 的支持这些年反而变差了。Exllamav3 还没实现，GGML 这边需要 BF16 版本，把 LoRA 合进量化 GGUF 的流程也不顺，最后可选的就剩 vLLM 或 transformers。对跑大模型的人来说，完整 BF16 权重并不现实。

也有人从另一个方向看。Double_Cause4609 问，为什么不自己 diff。把套了 LoRA 和没套的模型做对比，如果训练发生在低秩空间，一般能把 LoRA 还原出来。原始训练不是 LoRA、或者 LoRA 捕获不好的情况，还可以试 BitDelta。想要开箱即用的人，仍然可以下载别人做好的量化模型。darwinanim8or 则提到，整包发布除了浪费空间，用户还没法调 LoRA 强度。

至于性能，Oli_Luck 问在文本模型上叠 LoRA 会不会明显拖慢生成速度，帖子里没人给出 benchmark。Yu2sama 还提了一个说法，文本模型的潜空间和图像模型差别大，LoRA 对图像模型损伤小，对文本模型可能比全量微调更伤。pilkyton 直接回了一句：LoRA 就是两个微调结果之间的 diff。jacek2023 追问依据，Yu2sama 也承认自己只是凭记忆，可能完全说错。

这场讨论最后指向一个挺实际的分叉。只发 LoRA，省空间，也方便复用和调强度；可推理端支持不齐，量化合并麻烦，普通用户还是更愿意下载一个能直接跑的整模型。仓库好建，工具链不好补。