模型有没有被偷换，Anthropic想用密码学证明给你看

Anthropic 在 X 上发布了 FlashProve，代码同步开源。它要解决的问题很具体：你调用某个模型，怎么证明返回结果真来自那个模型，而不是被中间环节换成了更便宜的版本。

FlashProve 基于已有密码学技术，让开发者验证一条回答是否由某个指定模型生成。Anthropic 称它比此前开源方法高效得多，推文里没给具体倍数。相关论文和说明在这里，代码在GitHub。

这件事的痛点很现实。模型服务经常经过第三方托管、API 转售、评估平台。你付钱调用某个模型，中间商是否偷偷调包，普通调用者很难发现。靠服务商自觉不靠谱，靠密码学至少能留下证据。

Anthropic 列了两类应用。第一，增加聊天被劫持的难度：攻击者篡改回答后，证明能暴露回答并非来自目标模型。第二，安全评估：评估者测试的模型，和客户实际调用的模型，是不是同一个。Anthropic 认为，可验证推理的后续进展会直接影响 AI 部署的信任。

先泼冷水：FlashProve 证明的是来源，不是正确性。答案仍可能错，模型仍可能胡说。它解决的是调包和甩锅，不解决事实核查。

限制也得说清楚。有回复指出，FlashProve 还是研究原型，目前只支持 greedy decoding。另一个问题是独立评估者怎么确认，提交的权重就是发布的模型，这层信任还没完全消掉。

回复里，Wayne L. 提到评估场景最让他在意：大家按 evals 选模型，然后只能相信端点服务的就是同一个模型。他还想要视频版本，证明一段片段确实来自它声称的 avatar 模型。

社区反应里，有人最看重第三方托管场景。开放模型放在第三方主机上时，现在只能信任主机跑的就是它声称的模型。也有人总结得很干脆：答案仍可能错，但现在不能把锅甩给便宜模型。开源是另一个被反复提到的点，其他团队可以尝试攻破或改进这套证明系统。

原帖在这里。