Anthropic 用 Claude 对 123 个开源库完成汇编级形式化验证
Anthropic 用 Claude 对 123 个开源软件库(在超过 100 个库中)在 RISC-V 汇编代码层面证明安全性质,包括程序在特定条件下不会触发内存安全错误或断言失败,作者称这是首次大规模用 AI 对生产软件做汇编级形式化验证。证明过程中 Claude 还发现了多年未被检测到的 bug;为防 reward hacking,团队对任何补丁施加惩罚,并奖励证明补丁未改变程序行为。
Anthropic 用 Claude 对百余个开源库做汇编级形式化验证,正文包含具体规模和防 reward hacking 的做法,读者可了解其方法与局限。










