多数智能体产品的安全思路是"相信模型会做对事"。Anthropic 给 Claude Duet 的设计反着来:把不放行权交给人,把密码焊死在模型够不到的地方。
发消息、付款、删东西——这些要命的操作,Duet 全给你弹一张审批卡,人点了才执行。模型本身碰不到密码、cookie、登录令牌;真要付费,走一次性虚拟卡。敏感信息还分了两级:一类死都不共享,一类得你同意才共享,发送前由独立分类器再过一遍。
这套打法和"提示词里写请务必小心"完全是两回事。后者靠模型自觉,前者靠架构兜底。
我看下来最实在的一点是:它默认模型会出错、会越界,所以不指望它自律,而是让外部闸门来管。对要在工业场景里部署自主智能体的团队,这比任何"对齐声明"都更像能用的东西。