判断先放这儿:OpenAI 这篇"安全交底",比它过去两年发的所有安全博客都实在。
它把训练环境怎么锁的,摊开讲了。训练期间不接互联网,模型看不到真实世界;需要外部知识,就提前抓一份离线快照,做个"网页世界"缓存塞进去。这不是偷懒,是把攻击面从无穷收敛到可控。
纵深防御(层层设防,一层破了还有下一层)不是新词,但 OpenAI 把它落到了训练栈每一层:隔离的沙箱、受限的权限、审计到字节的日志。为什么这么狠?因为前沿模型训练时,手里有真金白银的算力、有能改写代码的智能体,一旦被从环境侧撬开,后果不是"模型说错话",是整条产线被人接管。
最值得玩味的是红队方式。他们用最强的一批模型——包括还没正式露面的 GPT-6 Astra Cyber——组队互相打,高算力、长时程地找沙箱逃逸、缓存侧信道这类真实漏洞。
翻译成人话:过去大家盯着模型"会不会骗人",OpenAI 现在承认,更怕的是模型训练时待的那间屋子被人从窗户爬进来。对做大型工程项目、工业场景的团队来说,这是个提醒——你接前沿模型进核心系统前,先问清楚它训练时在哪个屋里、那屋子锁了几道门。