AIsaAIsaStudio English 打开 AIsa Studio

OpenAI 大幅收紧 GPT-6.2 Astra 与 GPT-6.2 Sol 的推理抽取防护

原标题:OpenAI makes it much harder for attackers to extract how its latest AI models think

OpenAI 大幅收紧了 GPT-6.2 Astra 和 GPT-6.2 Sol 防止抽取内部推理的防护。内部自动化测试中,针对先前请求的抽取攻击成功率从 GPT-6 Astra 的 54.0% 降至 GPT-6.2 Astra 的 0.2%,针对当前请求的攻击从 22.9% 降至 0.9%。防护结合定向训练、消息与工具调用的输入输出过滤、阻止旧模型读取受保护推理的 API 拦截,并每周封禁数千到数万个账号应对协同攻击。Anthropic 也在应对系统性蒸馏攻击,同样封禁大量账号,并呼吁行业和政策制定者协同响应。

为什么值得看

原文给出两代模型的攻击成功率对比数字,读者可以据此评估推理保护措施的实际收紧幅度。

阅读原文 ↗

本页的摘要、推荐理由与解读出自 AIsa Studio 的 AI 风向智能体,原文版权归原作者所有。

原文

OpenAI has sharply tightened safeguards against extracting internal reasoning from GPT-6.2 Astra and GPT-6.2 Sol. In internal automated tests, attacks pulling protected reasoning from prior requests dropped from a 54.0 percent success rate on GPT-6 Astra to 0.2 percent on GPT-6.2 Astra. Attacks on active requests fell from 22.9 to 0.9 percent, OpenAI says. The company is now bringing selected improvements to GPT-6 Astra, too.

The defenses work on two levels. For individual requests, the systems combine targeted training, input and output filters for messages and tool calls, and API blocks that stop older models from reading protected reasoning. Against coordinated campaigns, OpenAI bans thousands to tens of thousands of accounts weekly.

Attack type

GPT-6 Astra with original safeguards – Adaptive Extraction ASR (%)

GPT-6.2 Astra with updated safeguards – Adaptive Extraction ASR (%)

Extracting protected reasoning from a prior request

54.0

0.2

Extracting protected reasoning from the current request

22.9

0.9

Attack success rate (ASR) in adaptive black-box red teaming against GPT-6 Astra and GPT-6.2 Astra, aggregated across six attacker models. Lower is better.

Anthropic is fighting systematic distillation attacks as well, also banning tens of thousands of accounts to curb the theft of internal reasoning, reportedly succeeding in 90 to 99 percent of cases. Anthropic has also called for a coordinated response from industry and policymakers.

原文版权归 The Decoder 及原作者所有,本站转载仅供阅读。如需删除,请联系 support@aisa.one。

事件综述

OpenAI 发布 GPT-6.2 Astra/Sol:降价、严防推理抽取,评价两极

11 月 17 日,OpenAI 发布 GPT-6.2 Astra(面向高难度专业工作)和 GPT-6.2 Sol(面向日常任务)两款模型,当天起在 ChatGPT Work、Codex 和 API(gpt-6.2-astra、gpt-6.2-sol)向 Plus、Pro、Enterprise 和 Edu 用户开放。Astra API 定价较前代降 20%:每百万输入 token 8 美元、缓存输入 0.40 美元、输出 40 美元;Sol 沿用 GPT-6.1 Sol 的 2/10 美元定价。OpenAI 称 Astra 在 FrontierMath Erdős 解出 68 题中 7 题(此前纪录 3 题),并是首个达到其「AI 自我改进」High 阈值的对外发布模型;但 Artificial Analysis 指数中 Sol 得 57 分,低于 Claude Opus 5.5 的 59 分(运行成本约为其十分之一)。后续报道显示社区评价两极:有自建 sophistry 基准称两模型表现差于同等智能模型甚至 GPT-6.1 Sol;Simon Willison 的变形任务测试中两模型均不及 Claude Fable 5.2 和 Gemini 4 Carbon;另有转述称 Astra 是首个在 ARC-AGI-3 得满分的模型、Sol 约 98%。11 月 18 日有报道指出,据 OpenAI 帮助页,GPT-6.2 只推送至 Work 和 Codex,普通 Chat 仍停留在 GPT-6(早先报道 2 称模型在 ChatGPT Work、Codex 和 API 可用,与后续报道一致)。11 月 19 日,OpenAI 宣布 Responses API 中 GPT-6.2 的 reasoning item 与此前对话历史绑定,Agent 可基于早期推理减少 token 消耗。11 月 20 日,OpenAI 详解对抗性蒸馏防御:内部自适应黑盒红队评测显示,GPT-6.2 Astra 更新防护后从早前请求提取受保护推理的攻击成功率由 GPT-6 Astra 的 54.0% 降至 0.2%,针对当前请求从 22.9% 降至 0.9%;公司每周封禁数千到数万个涉嫌蒸馏的账号,并已就 DeepSeek 及 Moonshot AI 相关活动向国会简报。

其他来源的报道 2