开放权重模型(参数完全公开、可本地部署的版本)在真实间接提示词注入(把恶意指令藏进模型要读的内容里诱导它听话)下,比闭源模型更容易被拿捏——而且不是高一点,是高出 88%。
PromptArmor 跑了 9800 次试验。开放权重阵营(DeepSeek、Kimi、GLM、Qwen)的易感率 26.7%,闭源阵营(GPT、Claude、Gemini)14.2%。差了快一倍。
这数字我一点不意外,但把它坐实成可引用的基准,意义不一样。过去我们选模型,安全靠的是厂商那句"我们做了红队"。现在有了硬差距:你自己部署的开源模型,等于把防御的最弱一环交到自己手里。
为什么开源反而更脆?因为它透明。攻击者能直接拿权重做对抗微调、找触发点,闭源那边至少还有一层不可见的护栏。透明是开源的信仰,也是它的攻击面。
别误读成"闭源更安全所以全用闭源"。真实场景里,很多团队把开源模型接进内部知识库、让智能体自动读邮件和文档——这正是间接注入最爱的温床。你省了调用费,可能也省了防线。
我的判断:这篇研究的真正用途不是吓退开源,而是给选型一个量化尺子。要接敏感数据时,开源权重前面得自己加一层输入净化与权限隔离,不然那 88% 的差距就是你系统的真实风险敞口。
开源给你自由,也把防御的担子原封不动地还给你。