形式化验证(用严格的数学证明程序不会出错,而不是靠测试凑)一直是个奢侈品——贵、慢、只有航天和芯片敢用。Anthropic 这次想把它的价格打下来。
做法挺巧。
他们先拿 OSS-Fuzz(一个自动找程序崩溃的开源模糊测试工具)跑出一堆"这里会崩/不会崩"的证据,再让 Claude 把这些证据翻成规格,最后在 RISC-V 汇编层面对 123 个开源库的 239 个入口点逐一证明:任意小于 64MB 的输入都不会让程序崩。产出的 Rocq 证明约 1.8 亿行。
规模是重点,不是炫技。
这些库是你我每天都在间接依赖的基础件——一个解析器、一个压缩库,崩一次就是全网连锁反应。以前这种证明靠人写,写一份以年计;现在 Claude 批量产,门槛从"不敢想"降到"敢排期"。
但我得泼点冷水。
汇编层证明不等于业务层安全,64MB 边界也不等于所有边界。它是把"不崩溃"这道底线钉死了,至于逻辑对不对、权限该不该给,模型不替你负责。
我的判断:这是开源供应链安全少有的、真正可规模化的防线增量。
别神话它,但也别忽视——当证明可以批量生成,安全工程师的活法,要改了。