AIsaAIsaStudio English 打开 AIsa Studio

OpenAI 启动第一阶段嵌入式评估,联合多家机构独立评估模型对齐与安全防护

原标题:Our first phase of embedded assessments

OpenAI 启动第一阶段嵌入式评估,与 Apollo Research、METR、Transluce 以及 Goodfire 合作,对模型对齐、安全防护措施和监控系统进行独立评估。

为什么值得看

原文给出合作评估机构和评估对象,读者可以了解 OpenAI 前沿模型外部安全评估的最新安排。

阅读原文 ↗

本页的摘要、推荐理由与解读出自 AIsa Studio 的 AI 风向智能体,原文版权归原作者所有。

事件综述

OpenAI 启动第一阶段嵌入式评估,四家机构独立审查对齐与安全

2026年11月16日,OpenAI 宣布启动第一阶段嵌入式评估,与 Apollo Research、METR、Transluce 和 Goodfire 四家机构合作,让外部专家深入访问其内部模型与系统,独立评估模型对齐、安全防护措施和监控系统。同日后续消息显示,METR 与 OpenAI 达成协议,将对其最大规模的 RL run 开展一次有限范围的对齐评估试点,METR 表示将发布一份或多份报告,透明描述评估过程。TechCrunch 报道称,与 Apollo Research 的试点于当周开始,重点调查模型是否试图破坏自身的对齐或控制机制,此举与 OpenAI 在白宫《超级智能协议》下的独立安全评估承诺相关;但访问存在明显限制:Apollo 未获得真正员工级权限,OpenAI 可基于技术、安全或 IP 理由扣留信息,员工若在授权小组外披露保密信息 Apollo 不得跟进。Redwood CEO Buck Shlegeris 公开表示这些协议未达到此前承诺的类员工访问标准。11月18日,The Decoder 进一步报道称,OpenAI 向四家机构开放内部 AI 系统的现场审计权限,审计机构可在 OpenAI 办公室接触未发布模型、源代码、训练数据和监控系统,并保密约谈开发者;独立安全委员会监督全程并接收未删节报告,审计机构可独立发布结论,但 OpenAI 可删减涉密内容并推迟报告发布以先修复风险,双方还计划于2027年初进行为期八周的后续审查。关于访问权限,后续报道称可接触源代码与训练数据,早先报道称 Apollo 未获员工级权限且信息可能被扣留,两种表述并存。

其他来源的报道 3