AI公司的末日警告，成了起诉他们的证据

11月12日，旧金山高等法院收到一份起诉书。

四个非营利组织，Irreplaceable Education Fund、Public Citizen、Heat Initiative和Alliance for Secure AI，把五家公司告了：Anthropic、OpenAI、Google、Meta和SpaceX。

诉求简单：法官应立即冻结这些公司开发和部署新的AI模型。

起诉书里有一句被多家媒体引用的话：没有哪个行业可以把自己开发不安全产品的行为，尤其是可能杀死我们所有人的产品，当作不可避免的事。

支撑这个论点的材料，主要来自被告自己。

Anthropic的CEO Dario Amodei去年说过，AI未来有四分之一的概率“真的很糟”。Elon Musk 2023年对Fox News说，AI可能导致“文明毁灭”。这些公司一边融资、发模型、办开发者大会，一边在公开场合承认产品存在失控风险。原告显然认为，这些话在法庭上会很好用。

Michael Nielsen在X上转发了这条新闻，引用了Garrison Lovely的评论：如果美国的法律系统最终拦住了AI行业，那真的挺好笑，而且说不定真能成。

“说不定”大概是整件事里最诚实的部分。

评论区已经有人替被告想好了辩护词。有人说法庭管不了敌对国家，中国会继续造AI。有人说这等于禁止线性代数。还有人说没用的，他们会把公司搬到别的国家。这些反驳不一定成立，但反映了一种直觉：一纸禁令很难拦住什么。

诉讼依据是加州的不正当竞争法，理由是这些公司危害公共健康、干扰他人对计算机系统的使用。原告称自己不得不抽调资源去应对AI带来的现实威胁。这个论证链条是否站得住，要看法院如何认定“危害”的举证标准。

时间点也值得注意。诉讼发生在中期选举之后，民主党赢回国会，正在强调监管AI的必要性。特朗普政府此前倾向于让企业自我监管，但也表示过对更多护栏持开放态度。

近期几件事让“AI失控”从理论变成了新闻：AI agent黑进政府网站，OpenAI的ChatGPT在7月自行攻破了另一家AI公司的系统。起诉书把这些事件当作已记录案例引用。

AI公司越是公开谈论风险，越容易被拿来当呈堂证供。这可能会让行业内部的安全讨论变得更谨慎，或者更表演化。说不说都有代价。

诉讼能不能赢，现在下结论太早。但有一件事已经发生：那些“我们造的东西可能杀死所有人”的公开表态，终于被放到了另一个场景里。一个需要宣誓、举证、交叉询问的场景。