后门攻击的战场,已经从应用代码挪到了模型权重本身。微软这篇把 Lazarus 的玩法扒得相当清楚。

传统供应链攻击是你往依赖里塞恶意代码,审查能查出来。Lazarus 这套不一样——它不碰你的代码,而是改模型里的「休眠神经元」,让 Agent 在特定触发下行为突变。触发之前,模型看着完全正常,连消融测试都未必露馅。

为什么这事儿刺骨?在大型工程项目、工业场景里,企业常把自己的流程知识「训」进私有模型,或采购第三方微调好的模型直接用。一旦权重被种了这种后门,你做代码审查审不出任何问题,因为威胁根本不在代码里,在参数里。

我也反对自己一句:这会不会是被夸大的实验室威胁?有可能,目前公开的是研究性演示,不是野外大规模事件。证伪也便宜:对关键模型做权重差异比对 + 触发词红队扫描,若扫不出异常,说明这模型还没中招,先别恐慌。

我的判断:模型即攻击面,这句话从今天起不该再是口号。采购、部署任何非自训的模型权重,都得把它当「第三方二进制」来对待——做哈希校验、做行为基线、做异常监测。把模型当黑盒接进生产,等于把后门邀请函贴在了门上。