安全护栏这件事,过去十年都在做表面文章——盯着模型吐出来的那串字,看有没有越界。OpenAI 这次换了个更狠的打法:直接读模型的"念头"。

他们管这叫激活分类器(activation classifiers),说白了就是在模型内部每一层的神经元激活上训一组探针(probe,一种贴在神经网络内部、专门识别某种"想法"是否出现的小分类器)。从 GPT-5.6 开始,这些探针在最强模型的内部流量和外部流量上同时跑,每个 token 实时打分。

机制是这样的:一旦某个探针判定"这小子要违规了",系统可以在生成到一半的时候直接掐断,把这段丢给一个推理模型去做二次人工式复审。不是等它说完再删,是边想边拦。

实测里有个数字很关键:这些探针比"更大的文本分类器"更扛越狱(jailbreak,专门绕过安全限制的攻击手法)。原因在于,攻击者可以在输出文本上做伪装,但很难在模型的内部激活上也同步伪装——你嘴上说得漂亮,脑子里骗不过探针。

当然它有边界。换了个新基础模型,探针得重新训;它能抓的只有"明确训过、显式定义过的那几种违规类型",没见过的歪心思它照样漏。所以这不是银弹,是一道更深的防线。

但对做安全的人,信号是清楚的:前沿模型的安全监控已经从"门口查身份证"进化到"体内埋探针"。护栏之争,正从提示词层沉到权重层。