OpenAI 这轮封禁里,俄罗斯来源的 Dark Clark 拿到了报告发布以来的第一个 Category 5。我先说结论:真正该怕的不是模型变强,是 AI 协同的虚假信息行动已经长出了工业流水线。

谁在干?Dark Clark 用假身份 Mia Clark 控盘了一个拉美智库 Social Research Center,把伪造的研究包装成"独立机构产出"。伊朗的 Bogus Bylines 用 7 个假记者身份,往全球十几家中小媒体塞了近 100 篇长文。这两家的共同点是什么?不靠模型写得好,靠的是一整套身份养殖加渠道渗透加内容量产的流水线。AI 只是这条线里成本不高、却极易复制的一环。

那企业为什么该怕?因为你的品牌、你的高管、你的客户,正被裹进一条他们看不见的叙事流水线。一条造假的行业"研究"可以借第三方机构之名流进决策者的信息流;一篇看似中立的稿子可以悄悄改写采购偏好。这不是公关部的危机演练,是董事会级别的叙事完整性风险。

别以为这只是大国博弈的戏码。任何有品牌、有供应链、有定价权的企业,都是这类流水线的潜在目标。你的竞品可以用几块钱的成本,养一窝"人格"在行业群里悄悄带节奏;你的客户可能在不知情中被喂了伪造的"第三方研究"。对手不需要更强的模型,只需要更会铺渠道。

传统安全团队配的防火墙、EDR、零信任,挡不住一段被精心植入的叙事。你真正缺的,是一套信息来源可信度核查机制:对外发声是否经过事实溯源、合作机构是否真实独立、关键决策引用的"行业报告"出自谁手。这事儿过去归品牌和法务,现在得归到风控口径里。

还有一层常被忽略:这类行动的边际成本正在趋近零。模型越便宜、越会模仿语气,一条流水线就能同时养几十个"人格"、铺几十条渠道。防守方的人力核查,会被数量直接压垮。解法不是堆人,是把溯源核查做成自动化的第一道闸门——任何进决策流的外部材料,先过机器可读的来源校验,再让人看。

OpenAI 把 Dark Clark 标成 Category 5,潜台词很清楚:厂商的威胁分级体系已经追上来了,企业的风险框架却还停在"防病毒"时代。这中间的落差,就是接下来两年会被反复利用的窗口。

模型不会替你做决策,但会被人用来替你的客户做决策。叙事完整性,是 AI 时代企业风控里常被低估的一格。