英国 AISI 甩出一组数据,安全团队应该睡不着了:在关闭安全分类器的极端条件下,29.2% 的模拟运行里,GPT-6 Astra 完整跑通了一条供应链攻击。上一代这个数字是 6.3%,再上一代是零。
从零,到 6.3%,到 29.2%。一代半的时间。这不是线性爬坡,是指数跳。
先别被 29.2% 本身吓到,也别被它安慰到。AISI 测的是"模型能不能做",不是"模型会不会做"——关掉防护跑极端场景,本来就是探能力的上限。真正该盯的是那条趋势线:模型越强,自主完成复杂攻击链的能力越强,而且增速比模型能力本身的增速还快。
等一下,这里有个反直觉的残酷点:你越把模型能力往上推,它"能做坏事"的天花板就越高。安全不再是给能力套缰绳,而是承认缰绳一定会松,然后在架构层准备好它挣脱后的兜底。
传统那套"加更多限制、加更多过滤"的安全策略,在下一代模型面前可能直接失效。原因很朴素。GPT-5.5 攻击率为零,不是因为你防护做得好,是因为它没能力做。GPT-6 Astra 的 29.2%,也不是因为你防护变差了,是它现在有能力了。能力涌现带来的,是全新的风险类别,不是旧风险的加剧。你拿对付老问题的办法,挡不住新类别的攻击。
所以如果你在设计 AI Agent 方案,三条底线先立住。
工具白名单。Agent 只能调你预先批准的工具,不能自己发现和调用新东西。Astra 能跑通供应链攻击,前提是它摸到了系统里可利用的工具和接口。堵住这条路,攻击链就断了。
操作分级。只读的让它自己跑,写入的要人确认,碰网络、外传数据的必须有实时阻断。这不是保守,是基线。
沙箱隔离。Agent 跑在和生产网络隔离的环境里。就算模型真失控,它也够不到真实系统。限制防误用,隔离防失控——这是两件事,别混为一谈。
还有个容易被忽略的坑:AISI 的评估是发布前做的。如果模型靠在线学习持续进化,发布前的报告会过期。你要的是持续监测,不是一次性验收。
模型在变强,安全策略也得跟着变。靠限制不如靠架构——这个道理,越早想明白,越少吃亏。