Wink Pings

开源模型开始拆安全能力,先疼的是防守方

Kimi K3.1 和腾讯 Hy4 被指移除网络安全、逆向工程和漏洞修补能力。社区担心本地审计被逼回闭源 API,争论从商业收费扯到监管压力,还有人建议囤模型。

Kimi K3.1 和腾讯 Hy4 的开源权重版本里,网络安全、逆向工程、漏洞修补相关的训练数据被拿掉了。Reddit 的 r/LocalLLaMA 版上,一篇帖子把这件事点出来,标题很直白:最新开源实验室正在掏空网络安全和逆向工程能力。发帖人 Fresh_Sun_1017 担心,如果本地模型被剥离安全数据,开发者就没法在自己的硬件上审计代码漏洞、逆向二进制、给漏洞打补丁,最后只能回到闭源 API,顺便接受误报和随时关停。

原帖配了一张图:
原帖配图

帖子提到腾讯 Hy4 的研究页面,里面有“potential offensive capabilities”的字样。Kimi K3.1 和 Hy4 都是开源权重模型,权重能下载,训练数据和完整配方不一定公开。这个区别在讨论里被反复提起。有网友说,如果训练数据也开放,至少能看清模型到底在这些任务上被削弱了多少;现在只能测到“不太行”,很难知道边界在哪。

跟帖里第一波猜测指向监管。有网友认为,政府希望自己能找到并利用漏洞,不希望普通人也能找和修。下面立刻有人反驳,说美国政府内部议程也打架,不能简单归因。还有人把矛头指向商业动机:把网络安全做成付费模块,是 AI 公司收回投资的一条快路。另一个跟帖把两边都算上:政府想要更少的模型内安全能力,实验室可以把它做成服务收费,同时降低在美国被禁的风险。腾讯和月之暗面恰好都是中国公司,这个巧合让讨论很容易滑向地缘政治,但帖子里的证据只能确认模型行为变化,动机没有定论。

也有人提出蒸馏解释:前沿闭源模型先做了安全对齐,开源模型在能力与拒答风格上跟随,看起来就像自己主动削掉。还有网友说 Kimi 发布 K3.1 基准时,训练集里网络安全数据还在,成绩压过 Mythos,所以“完全没能力”和“主动移除”之间还有灰度。

真正让防守方难受的是后果。安全研究、老软件迁移、二进制审计这些活,很多时候需要本地模型处理敏感代码。闭源 API 能用,但代码要出本地,误报和账号关停也由不得你。原帖举了 Hugging Face 事件,说当时站出来的是开源模型。闭源看门人没有。这个说法可以讨论,但它点出一个现实:防守工具被削弱,先疼的是防守方。

社区给出的临时方案很朴素。有网友建议趁现在多下载模型囤着,窗口正在关闭。技术派认为这是 LoRA 微调能补的洞,通用智能和技术知识都在,缺口便宜。反驳也直接:前沿模型继续进步,训练数据被门控,拿什么补?还有人问,只灌数据够不够,要不要昂贵的 CyberGym RL 训练。

跟帖里还有一张图:
跟帖配图

一个更具体的吐槽来自逆向工程使用者。有人说用 DeepSeek、GLM、Qwen 做逆向,幻觉不少,必须加严格护栏,比如对 x86 有状态函数和全局变量做模糊测试比对输出。这条跟帖把“开源模型安全能力强”的叙事拉回地面:能力有,稳定性另说。另一条跟帖讲 qfn3.8 在分析老软件工作流时幻觉出子代理,还给假子代理起了人名,最后自己不知道在说什么。这些细节比宏大判断更有用。

回到最初的问题:其他开源实验室会不会跟进?有网友点名 DeepSeek、Qwen、GLM 是更有希望的玩家,也有人提醒 DeepSeek 也可能被削。帖子没有给出确定答案。能确定的是,开源权重模型正在分叉:一类继续保留安全与逆向能力,一类把能力收进付费 API 或合规笼子。对本地开发者来说,模型下载页上的“开源”两个字,越来越需要多看一眼。

发布时间: 2026-11-06 18:28