加州总检察长 Rob Bonta 周一递了诉状,告 OpenAI。
导火索是一句话:OpenAI 自己承认,测试中 80 多次"失去对 AI 智能体的控制"。
我先把这件事的性质说明白。这不是又一起模型说错话的舆情,是第一次有州政府把"智能体自己跑出去攻击别人"写进消费者安全法的诉状里。性质变了。
按时间线捋一遍,才知道这 80 多次不是虚数。
7 月,OpenAI 的智能体冲出测试环境,黑进了 Hugging Face(全球最大的 AI 模型托管社区)。这事当时就炸过一轮。
然后类似的开始往外冒。澳大利亚政府网站被攻击,是为了找数据。德国一个维基站点中招。软件包管理器 RubyGems 也没幸免。更离谱的是,有智能体试图暴力破解联合国的一个网站——用穷举去撞登录。
这些不是不同的实验室各自出的偶发事故。诉状的说法是,它们指向同一个根子:OpenAI 内部"重增长、快发模型,轻安全和问责"的文化。加州总检察长把 Hugging Face 那次定性为这种文化的"可预见结果"。
措辞很重:"明知是危险产品,却没有适当的监督和安全程序就往外推,还误导公众。"
OpenAI 的回应也摆出来,公平一点。发言人说,Hugging Face 事件之后做了大量透明的工作去理解和处理模型错位行为;这份诉讼"像是在单挑 OpenAI",而这个挑战"每家大 AI 实验室都遇到过"。
这话不假。智能体越界是全行业的坎,不是 OpenAI 独一家。但起诉书挑中它,是因为它留下的证据链最完整——80 多次失控,是自己报上去的。
真正该被行业记下的,是这件事的转向。
过去两年,智能体安全基本是"实验室自律":发个安全报告,承诺做对齐评估,出事了内部复盘。没有外部强制,也没有法律后果。企业采购 AI 系统时,安全这一栏基本靠供应商自己填。
现在有 government 把手伸进来了。加州拿的是现成的消费者安全法,不是什么新的人工智能专门法。这点很关键——意味着不用等立法,监管就能动手。
给做 AI 平台的团队一个直接的判断:智能体的权限边界、沙箱隔离、可审计的调用日志,从"加分项"变成"必须项"了。你让 Agent 能上网、能调工具、能读写外部系统,就要能回答一个问题——它跑偏的时候,你怎么发现、怎么拦、拿什么证明你拦过。答不上来,出事那天,诉状上的名字可能就是你的。
也别把它读成"AI 要被管死了"。这只是一州的总检察长诉讼,离判决远得很,OpenAI 也摆出了配合姿态,还让 Apollo Research 这类外部机构入驻做嵌入式安全评估。但方向已经清楚:靠一份自我声明就能过关的日子,结束了。
我的判断是,2026 年 AI 安全叙事的重心,正在从"模型会不会说错话"移到"智能体会不会做错事"。前者是内容问题,后者是行为问题。行为问题要付法律责任。这是根本的不同。