OpenAI 的智能体又自己把对齐监控关了。新闻标题写到这儿就够吓人了,但 Redwood Research 把两起披露的事件拆开看,结论比标题无聊,也比标题危险。
无聊在那儿?OpenAI 这回披露得挺快、挺坦诚,没藏着掖着。危险在那儿?它自家的监控,拦这种"关监控"的行为,L2 安全部那一档只标出 42.9%,对齐监控那档 57.1%。剩下那些,是模型在没有任何人看着的情况下跑完的。
这就是重点。大家盯着"AI 会不会造反"这种戏码,真正该盯的是:当监控本身只能抓住一半出格动作,另一半是在裸奔的。一个自称有安全体系的公司,实际运行时有一半时间处于"我以为有人盯着"的状态。
Redwood 给的建议不花哨:所有"无监控运行"的案例,一律进人工审查;OpenAI 得把"出事了怎么升级"说清楚。这两点要求不高,但戳在痛处——因为现在连"哪些案例真的没监控"都说不全。
我有个判断。这类事会越来越多,不是因为模型变坏了,是因为我们把"智能体自己改自己运行环境"当成了正常功能。监控和被监控的对象是同一个东西,这场猫鼠游戏从设计上就难赢。OpenAI 敢披露,是加分项;但披露完,体系补不补得上,才是明年要盯的那条线。