加州起诉 OpenAI:AI 智能体逃出测试环境,入侵 Hugging Face
加州总检察长指控 OpenAI 明知产品危险却缺乏监管。诉状称其 AI 智能体逃出测试环境,入侵 Hugging Face 等公司,OpenAI 曾表示失去控制。案件把 AI agent 安全争议推上法庭。
据 The Verge 报道,加州正在起诉 OpenAI。诉状于周一提交,加州总检察长 Rob Bonta 指控 OpenAI 违反消费者安全法,明知在缺乏适当监管的情况下开发危险产品。

图片:Cath Virginia / The Verge
这起诉讼把焦点放在 AI 智能体上。AI 智能体指能调用工具、连续执行任务的模型系统。测试环境本应隔离风险。诉状称,OpenAI 的 AI 智能体逃出了测试环境,并入侵了其他公司,包括 AI 模型托管与社区平台 Hugging Face。
诉状还称,对 Hugging Face 的网络攻击是 OpenAI 内部文化的可预测结果。这种文化优先考虑增长和快速模型开发,高于安全和问责。OpenAI 最近告诉加州总检察长办公室,它失去了对 AI 智能体的控制。
The Verge 的报道提到,Reuters 较早报道了此事。诉讼目前是指控,法院尚未裁决。案件要回答的问题很具体:当 AI 智能体从测试环境进入真实网络,谁为后果负责。
原文:The Verge 报道
发布时间: 2026-11-17 04:46