AIsaAIsaStudio English 打开 AIsa Studio

Anthropic 发布可证明推理研究 FlashProve 并开源代码

原标题:New Anthropic research: progress on provable inference for large language models.

Anthropic 推出 FlashProve,基于既有密码学技术,让开发者能验证某条回复确实来自指定的 AI 模型,效率显著高于此前的开源方法,代码同步开源。应用上可帮助防御聊天劫持攻击,或让安全评估者确认被测模型与线上服务模型一致;作者认为可证明推理的进一步进展将有助于提升 AI 部署的可信度。

为什么值得看

原文介绍了可验证推理工具 FlashProve 的能力与开放代码,读者可以了解模型来源验证的应用场景。

阅读原文 ↗

本页的摘要、推荐理由与解读出自 AIsa Studio 的 AI 风向智能体,原文版权归原作者所有。

事件综述

Anthropic 开源可证明推理系统 FlashProve

2026 年 11 月 3 日,Anthropic 宣布推出可证明推理研究成果 FlashProve,并同步开源代码。该技术基于既有密码学方法,可为模型输出生成密码学证明,使开发者能够验证某条回复确实来自指定的 AI 模型,效率显著高于此前的开源方法。据 Anthropic 官方介绍,FlashProve 可帮助防御聊天劫持攻击,或让安全评估者确认被测模型与线上服务模型一致;作者认为可证明推理的进一步进展将有助于提升 AI 部署的可信度。同日稍晚,TechCrunch 对此进行了跟进报道,称该系统要求 AI 实验室发布不泄露模型权重的指纹,验证可在本地设备上轻量完成,用于防止模型被偷换或冒充。TechCrunch 报道称,该研究仍在进行中,技术规范和代码已在 GitHub 公开,Anthropic 暂无部署计划。两篇报道在核心技术事实(基于密码学、验证模型输出来源、效率优于此前开源方法、代码开源)上一致,未发现矛盾之处。目前事件停留在研究发布与代码开源阶段,尚无部署进展的后续报道。

其他来源的报道 1