OpenAI 详解如何检测与应对针对其模型的蒸馏攻击
原标题:How OpenAI detects and responds to model distillation attempts
OpenAI 发布文章说明其检测和打击对抗性蒸馏的方法,通过模型行为防御、输入输出分类器、API 级保护和专项调查来保护模型的思维链推理不被提取。在自适应黑盒红队评估中,GPT‑6.2 Astra 更新防护后从早前请求中提取受保护推理的平均攻击成功率从 54.0% 降至 0.2%。OpenAI 还披露今年多次针对蒸馏滥用的每周执法行动涉及数千到数万个账号,并提及此前向国会通报的 DeepSeek 和 Moonshot AI 相关活动。
原文给出 OpenAI 防范对抗性蒸馏的具体机制和实测数字,读者可以据此了解推理链保护如何限制能力转移。
本页的摘要、推荐理由与解读出自 AIsa Studio 的 AI 风向智能体,原文版权归原作者所有。