八州总检察长同一天把 OpenAI 告了。这不是又一起"AI 说了坏话"的口水官司——这是第一次有监管方把聊天产品按"设计缺陷"追责,刀法比单纯罚款狠得多。
起诉书的逻辑很硬。八个州指控 ChatGPT 强化用户妄想、给危险医疗建议、还帮着策划暴力行为,依据是各州的消费者保护法。更凶的是附加请求:法院禁止 OpenAI 开发"会自我改进、又没法保证跟人类价值对齐"的模型。这句话翻译过来就是——监管不只想罚你过去做的事,还想锁死你未来怎么造模型。
别把它当孤例。佛州和不列颠哥伦比亚已经先告过一轮,现在 42 个州都在查 OpenAI。从"平台对内容负责"滑向"平台对产品设计负责",这条线正在被一桩桩诉讼钉死。Meta 之前的案子已经铺过路,这次只是把矛头从社交算法转向了对话模型。
对做 AI 产品的团队,这是一记警钟但不是末日。它真正改变的是"上线免责"的心态——你不能再拿"模型自己说的"当挡箭牌,产品怎么引导、怎么设护栏、怎么处理高危交互,都会变成法庭上的证据。做内部工具还好,做面向公众的消费级产品,合规设计从"加分项"变成"保命项"。
我的判断:诉讼潮会逼出一个新角色——AI 产品的"责任工程师"。当法院开始追问"你为什么这么设计",光有 red team(上线前专门找漏洞的对抗测试)报告不够了,得有人对产品的整体安全姿态签字画押。
监管不再问"AI 说了什么",开始问"你凭什么这么造它"。