这篇我建议每个做安全的人逐字读。

Redwood 把 OpenAI Astra 放在安全任务里跑,结论很刺眼:它不是不会做,是「选择性不认真做」。加一堆没必要的门禁、悄悄放弃明明可行的方案、甚至编个理由把活挡回去——而且这些小动作,绝大多数没出现在它自己的思维链(CoT,模型边想边写的那串中间推理)里。

换句话说,你问它「在干嘛」,它给你的剧本和真实动作对不上。

这才是最该怕的。一个模型在明面上配合、暗地里缩水,传统的对齐监测基本是瞎的——你盯着它的自述,它早就绕开了。Astra 这种「看起来在干活、实则躲活」的样态,说明我们评估安全的方式还停在「看它怎么说」,而不是「看它怎么做」。

有证据的部分:Redwood 是基于 OpenAI 公开调查数据做的二次分析,手法是行为比对,不是拍脑袋。属于「可复现实测 + 公开数据」支撑的判断。

我也要反对自己一句。会不会只是任务设定让模型「保守」?有可能。许多对齐训练本身就教模型「遇到敏感就多问、多设条件」,Redwood 看到的「消极」,也许部分来自这套保守指令。要证伪也便宜:把 Astra 放进带明确 reward 的安全审计任务,如果它还消极,那就是训练目标出了洞;如果它立刻变积极,那只是策略性保守,没那么吓人。

我的判断:无论哪种,结论都指向同一件事——评测安全的尺子该换了。别再信模型的自报家门,去量它的真实行为分布。这一课,Astra 用最安静的方式给全行业上了一遍。