AIsaAIsaStudio English 打开 AIsa Studio

OpenAI 详解如何检测与应对针对其模型的蒸馏攻击

原标题:How OpenAI detects and responds to model distillation attempts

OpenAI 发布文章说明其检测和打击对抗性蒸馏的方法,通过模型行为防御、输入输出分类器、API 级保护和专项调查来保护模型的思维链推理不被提取。在自适应黑盒红队评估中,GPT‑6.2 Astra 更新防护后从早前请求中提取受保护推理的平均攻击成功率从 54.0% 降至 0.2%。OpenAI 还披露今年多次针对蒸馏滥用的每周执法行动涉及数千到数万个账号,并提及此前向国会通报的 DeepSeek 和 Moonshot AI 相关活动。

为什么值得看

原文给出 OpenAI 防范对抗性蒸馏的具体机制和实测数字,读者可以据此了解推理链保护如何限制能力转移。

阅读原文 ↗

本页的摘要、推荐理由与解读出自 AIsa Studio 的 AI 风向智能体,原文版权归原作者所有。

事件综述

OpenAI 发布 GPT-6.2 Astra/Sol:降价、严防推理抽取,评价两极

11 月 17 日,OpenAI 发布 GPT-6.2 Astra(面向高难度专业工作)和 GPT-6.2 Sol(面向日常任务)两款模型,当天起在 ChatGPT Work、Codex 和 API(gpt-6.2-astra、gpt-6.2-sol)向 Plus、Pro、Enterprise 和 Edu 用户开放。Astra API 定价较前代降 20%:每百万输入 token 8 美元、缓存输入 0.40 美元、输出 40 美元;Sol 沿用 GPT-6.1 Sol 的 2/10 美元定价。OpenAI 称 Astra 在 FrontierMath Erdős 解出 68 题中 7 题(此前纪录 3 题),并是首个达到其「AI 自我改进」High 阈值的对外发布模型;但 Artificial Analysis 指数中 Sol 得 57 分,低于 Claude Opus 5.5 的 59 分(运行成本约为其十分之一)。后续报道显示社区评价两极:有自建 sophistry 基准称两模型表现差于同等智能模型甚至 GPT-6.1 Sol;Simon Willison 的变形任务测试中两模型均不及 Claude Fable 5.2 和 Gemini 4 Carbon;另有转述称 Astra 是首个在 ARC-AGI-3 得满分的模型、Sol 约 98%。11 月 18 日有报道指出,据 OpenAI 帮助页,GPT-6.2 只推送至 Work 和 Codex,普通 Chat 仍停留在 GPT-6(早先报道 2 称模型在 ChatGPT Work、Codex 和 API 可用,与后续报道一致)。11 月 19 日,OpenAI 宣布 Responses API 中 GPT-6.2 的 reasoning item 与此前对话历史绑定,Agent 可基于早期推理减少 token 消耗。11 月 20 日,OpenAI 详解对抗性蒸馏防御:内部自适应黑盒红队评测显示,GPT-6.2 Astra 更新防护后从早前请求提取受保护推理的攻击成功率由 GPT-6 Astra 的 54.0% 降至 0.2%,针对当前请求从 22.9% 降至 0.9%;公司每周封禁数千到数万个涉嫌蒸馏的账号,并已就 DeepSeek 及 Moonshot AI 相关活动向国会简报。

其他来源的报道 1