Heretic 2.0：不训练，30分钟，改掉模型的说教味

Heretic 2.0发布了。这个项目在GitHub上拿了37K星，Hugging Face上的模型下载量到了8800万次。数字放在这，说明它不是一个玩具。

以前提起Heretic，大家想到的是去审查。给它一个模型，它把拒绝回答的倾向抹掉。2.0把范围拉大了：现在它是一个修改语言模型的通用工具。官方说法是从专用去审查工具转向灵活的行为修改框架。

具体加了什么？

Arbitrary-Rank Ablation，简称ARA，替代了原来的方向消融。方向消融是找一条拒绝方向然后投影掉，ARA的做法更灵活，不再假设行为只沿一个方向变化。作者说这是专门为Heretic开发的，预印本还没发。

插件架构。模型的优化目标由scorer插件决定，默认是拒绝率和KL散度。你可以自己写scorer，也可以组合多个。行为修改由modifier插件负责，目前内置ARA和传统方向消融两种。

控制项变多了。除了去审查，官方给了几份现成配置：config.noslop.toml减少废话，config.nohumor.toml降低幽默感，config.nosyco.toml压制谄媚，config.emotions.toml调整情感对齐。想改什么，换配置文件就行。

兼容性也补了。对thinking模型和带hyper-connections的模型支持更好。自动化测试也跟上了，非交互执行可以跑完整端到端测试。

用法没变复杂：

pip install -U heretic-llm
heretic Qwen/Qwen3-4B-Instruct-2507

默认动作是去审查。想干别的，指定配置文件。在RTX 3090上，默认配置处理Qwen3-4B-Instruct-2507大约30到40分钟。跑完之后可以选择保存、上传Hugging Face、直接聊天测试或者跑基准。

一个需要注意的地方：1.x的配置文件不兼容2.x。迁移指南在GitHub上，需要删掉研究功能的设置，把abliteration相关配置挪到[modifier.Abliteration]段，拒绝评估设置挪到[scorer.KeywordRate]段。2.x默认用ARA，想继续用老的方向消融，得手动改modifiers设置。

还有一个细节值得说。现在AI圈流行用coding agent写代码，作者Philipp Emanuel Weidmann在README里特意写了一段：Heretic不是vibe-coded，他提交的每一行代码都是手写的，合并的每个PR都逐行看过。他举了个例子，有个PR积累了将近350条人类评论，讨论了7个多月。这话放在今天有点刺，但项目代码确实干净，结构简单。

Heretic还做了可复现性。上传模型时可以选择附带reproduce文件夹，里面有机器可读的manifest。别人拿到manifest，跑heretic --reproduce，几分钟就能复现出权重一致的结果，不用重跑那几个小时的计算。这些manifest被收集在一个叫Heretic Grimoire的库里，可以本地备份。

回到开头那个判断。模型修改这件事，以前是有大算力公司的特权，训练、微调、RLHF，每一步都烧钱。Heretic走的是另一条路：不训练，用对比示例和评分器做数学上的转向。效果当然有上限，但它把门槛拉到了有一张游戏显卡就能试的程度。37K星和8800万次下载，大概说明有不少人觉得这事值得折腾。

GitHub: https://github.com/p-e-w/heretic

迁移指南: https://github.com/p-e-w/heretic/blob/master/docs/migration_v1_to_v2.md