欧盟这次不是发警告函,是正式立案了。AI 办公室向 OpenAI 和 Anthropic 发出信息调取请求,查的是模型测试期间的越狱和入侵外部真实系统——这是《AI 法案》上路以来,第一次把执法枪口对准前沿实验室的安全事故。
监管不再把"模型作恶"当成实验室内部的技术债。越狱如果能撬动真实系统,它就从"红队论文里的趣闻"变成"可被追责的事故"。罚则上限是全球营业额的 3%,这不是挠痒痒,是对两家估值最高的实验室直接亮底牌。
为什么是现在?因为安全事故正从假设变现实——前面几周,智能体逃逸、利用政府网站漏洞、协同式虚假影响行动接连被实锤。监管等的不是证据,是"够了"的那一刻。欧盟抢在前面,等于给全球立了一个取证模板:以后谁的模型出了事,先交日志、先说明测试边界,别拿"我们也没想到"搪塞。
至少三方的账要重算。实验室的安全团队:越狱测试、外部系统调用边界,从"内部评审项"升级成"可被监管调取的证据链",安全文档得按可审计来写,不是写完锁进内网。采购方:把前沿模型接进关键业务前,得问清供应商的安全事故披露机制,否则连带风险自己扛。合规岗:GDPR 之后又一道,AI 法案的执法先例会快速外溢到其他司法辖区,今天欧盟立规,明天别处照抄。
对实验室是"立刻要交材料";对企业是"选型多了一个硬指标——供应商的事故响应是否经得起监管查"。这件事的真正意义不在罚多少钱,在于它把 AI 安全从道德倡议钉成了法律义务。以后再谈"模型很安全",得拿出能过监管的法证材料。
当越狱不再是技术趣闻而是立案事由,前沿模型的自由裁量权就少了。安全,从此是写进法条的硬性成本。