AREXOpen in interactive Feed

AREX Feed Article

OpenAI 公开对抗蒸馏研究,称推理提取攻击成功率从 54.0% 降至 0.2%

November 21, 2026

11 月 20 日,OpenAI 在其 X 官方账号发帖宣布,公司正在发布对抗其模型被蒸馏(distillation,一种让模型从另一个模型产出的数据中学习的技术)的新研究。帖文的核心主张是:“蒸馏可以在缺少围绕强大 AI 能力所建防护的情况下,复制这些能力。”OpenAI 称,研究覆盖三件事:它对抗自家模型被蒸馏的工作、这些能力如何转移,以及它如何检测并破坏协调一致的蒸馏尝试,并称这些发现正帮助其强化自身防御、支持整个行业的安全防护。帖文附有一条短链,指向官网同日刊出的研究文章 Combatting adversarial distillation。

公告中给出具体数字的是一组内部红队测试结果:在自适应黑盒评估中,攻击者从“早前请求”中提取模型受保护推理(protected reasoning)的平均攻击成功率,在配备新防护的 GPT-6.2 Astra 上为 0.2%,而 GPT-6 Astra 在原防护配置下为 54.0%。OpenAI 同时披露,今年其平台上出现多起未经授权的蒸馏行动(campaign),每周处置规模在数千~数万个账号之间。这些数字均出自 OpenAI 自家的内部评估;本文可见的第三方报道(如 MLQ.ai)转述的也是同一口径。

能力可以复制,防护不会跟着走

蒸馏本身是机器学习的常用手法:一个“学生”模型从“教师”模型产出的数据中学习,可能是教师的回答、教师的推理,也可能是教师对“哪个答案更好”的判断。文章强调的除了知识产权问题,还有更直接的安全后果:通过对抗蒸馏(adversarial distillation),第二个模型可以习得前沿能力,却不继承治理原模型如何使用这些能力的防护。它举的例子是:攻击者可能蒸馏一个模型的网络安全能力,再用得到的模型协助实施网络攻击。

OpenAI 认为这种风险在网络安全、生物这类双用领域尤其清楚:帮防御者找软件漏洞的模型,同样可能帮攻击者利用漏洞;协助生物研究的模型,也可能帮人开发有害病原体。如果这些能力被转移到防护更弱的模型上,它可能提供原模型本来会拒绝、或会被其防护拦截的协助。

文章把重点放在“受保护推理”上:模型在得出答案的过程中于内部生成的中间步骤,也就是思维链(chain-of-thought)。OpenAI 解释说,这些轨迹可能包含最终答案没有写出的信息,因此对另一个模型来说是格外有价值的训练数据。

内部实验:精确推理轨迹多转移了多少网络安全能力

为了量化这种转移,OpenAI 做了一组内部实验:每次训练都从同一个预训练学生模型出发,用主要来自 Astra 级教师模型的轨迹构建监督微调(supervised fine-tuning)数据集;教师执行的是编码与防御性网络安全任务,每条轨迹包含模型完成任务的全部步骤,含工具交互与最终回答。对照组只用用户可见的内容(最终回答、推理摘要、工具交互)做蒸馏基线,实验组则让学生拿到教师的精确推理轨迹。

按 OpenAI 的描述,监督微调之后,用精确推理轨迹训练的学生普遍优于用推理摘要训练的学生;再经过一轮在网络安全与编码环境中进行的轻量强化学习(reinforcement learning)后,在文中所列两个网络安全基准的最大推理预算下,精确轨迹学生得分仍更高,而摘要学生在更低推理预算下得分更高。MLQ.ai 的解读指出,这两个基准是 ExploitBench 与 SEC-bench Pro。

OpenAI 由此得出的判断是:保护推理轨迹可以限制网络能力的转移,即便底层任务本身符合其使用政策。在其表述中,大量此类交互里的精确推理轨迹会教给学生超出教师原任务范围的可泛化技能。它也表示,将继续研究在不同学生模型与蒸馏训练配方下,究竟还有多少额外能力会被转移出去。

两层防御:管住每一次请求,也盯住整个账户网络

OpenAI 的防御分两层。请求层针对单次交互:模型经对抗训练后学会识别推理提取企图并拒绝披露,同时保留对正常解释请求的应答;输入分类器(classifier)负责发现提取企图,输出分类器负责在助手消息和工具调用参数中拦截泄漏,覆盖流式与非流式响应。文章特意说明了为什么要盯工具调用参数:模型可能把受保护推理暴露在工具参数里,而不出现在最终回答中。

API 层的改动集中在 GPT-6.2 Astra 与 GPT-6.2 Sol 上:受保护推理与产生它的对话历史绑定,模型可以基于早前推理继续工作,但一旦早前消息被改写,API 会丢弃其后的推理;防护较弱的旧模型家族被禁止读取这两款新模型的受保护推理;用户、工作区、组织与模型家族之间的边界保护也一并收紧,包括堵住一条可能暴露其他用户加密推理的路径。文中引用的攻击形态来自其 9 月的披露(Disrupting a coordinated model-distillation campaign):攻击者把加密推理从一个对话复制到另一个对话,再要求模型把隐藏内容解密、转写成用户可读的形式。OpenAI 称,这套更新后的防护与其针对生物、网络安全领域所用的防护更为接近。

行动层处理的是账户网络:当系统发现未授权的对抗蒸馏行动——其中通常包含协调进行的推理提取企图——OpenAI 会调查涉事账户,并按政策与服务条款处置整个账户网络;调查中发现的攻击会成为防护的训练与测试素材;它还会与其他模型提供商共享失陷指标(indicators of compromise),让对方排查各自平台上的相关滥用。

红队测试成绩单:两类提取攻击的成功率都低于 1%

OpenAI 用两种方式测量防护效果:静态评估回放一批过去成功的攻击,看哪些仍然奏效;自适应评估则让自动化红队根据系统反应调整攻击,以暴露静态测试发现不了的弱点。测试视角也分两档:黑盒测试只给外部用户能看到的视角,白盒测试额外提供系统信息。自适应黑盒评估的结果聚合六个攻击者模型:除早前请求的提取外,对当前请求的提取成功率也从原防护下的 22.9% 降至新防护下的 0.9%。OpenAI 称,更新防护后的 GPT-6.2 Astra 每一类攻击的成功率都低于 1%,并且已把其中部分防护改进回用到 GPT-6 Astra。

处置的节奏是另一条线索:9 月的报告披露了初步发现,OpenAI 称针对这些行动的处置速率在过去一个夏季显著上升。OpenAI 跟踪的两个指标是蒸馏滥用的流行度,以及从检测到处置的时延;其设定目标是限制蒸馏者能够获得数据的数量与价值、抬高蒸馏行动的成本、缩短对新攻击的响应时间。

点名 DeepSeek 与 Moonshot AI,并推动立法

OpenAI 把这件事放进国家安全框架:外国行为体若从美国模型复制出先进能力,就能在没有其开发者所设防护的情况下部署这些能力。按其说法,今年 2 月,OpenAI 向美国国会通报了“显示 DeepSeek 试图蒸馏美国前沿模型的活动迹象”;9 月,它报告瓦解了一场提取其模型受保护推理的行动,并把其中核心集群归因于与 Moonshot AI(Kimi 开发商)相关联的个人。

9 月报告的细节给出了这场对抗的量级:活动最早出现在 7 月第一周,从 7 月 1 日开始,7 月 24 日至 25 日出现高峰——逾 4,000 名用户发起的 16,000 次请求使用了相关提取模式;后续又在一个逾 15,000 名用户的集群中发现相关提示词模式活动,OpenAI 于 7 月 28 日将其完全瓦解。报告特别说明:操作者没有破解加密、没有入侵数据库,也没有直接接触存储的用户对话,而是通过操纵模型交互,让受保护推理以请求者可见的形式被规模化复现;报告的统计口径是“尝试”而非必然成功的提取,且无法确认所有操作者同源。

立法方面,OpenAI 表示支持赋予美国政府更多工具、以识别并制裁非法提取美国 AI 模型能力的外国行为体的立法,并已向国会表态支持 Chip Security Act、AI OVERWATCH Act 与 MATCH Act 三项法案。它还主张更强的出口管制:出口管制能限制对手获得训练前沿模型所需的硬件,蒸馏防御则让从已训练模型获取部分同类能力变得更难;OpenAI 认为两者共同帮助维持美国在前沿 AI 上的领先,也让开发者更有余地在需要时放慢发布、测试防护。

给同行的清单,和尚未公布的细节

文章结尾给其他模型开发者与平台列了四条做法:在整个交互过程中保护私有推理,检查助手消息与工具调用参数中的泄漏,并限制加密推理跨对话、跨模型复用;把红队测试、生产监控或负责任披露中发现的成功攻击日志留作回归测试,并在符合隐私政策的前提下用于改进模型训练与分类器;把请求级缓解与行动级调查处置结合起来;与部署伙伴统一防护标准,并与其他模型开发者共享经验。OpenAI 提到,其“一致标准”政策为提供其模型的各方确立了防护与协同处置的共享标准,此前的发现也已通过 Frontier Model Forum 和相应的政府信息共享渠道分发。

围绕这份研究的第三方报道目前仍以转述为主。MLQ.ai 的报道复述了同样的数字,并补充了两条本周背景:GPT-6.2 Astra 与 GPT-6.2 Sol 于本周发布;OpenAI 本周还宣布,转售其模型访问权需获得批准。MLQ.ai 同时转引 The Decoder 的报道,称 Anthropic 也描述过类似的对抗、同样封禁了数以万计的账号;它还转引路透社 11 月 17 日的报道:随着芯片管制收紧,中国公司正利用美国模型的回答训练国产竞品。

这份公告留下了两处待跟进的事实:其一,对 DeepSeek、Moonshot AI 的归属目前均来自 OpenAI 的单方判断;其二,OpenAI 承诺“很快”分享更多近期被瓦解行动的细节,这些细节尚未出现在本次公告中。

参考链接

  • OpenAI on X:Distillation can reproduce powerful AI capabilities without the safeguards built around them
  • Combatting adversarial distillation | OpenAI(2026-11-20)
  • Disrupting a coordinated model-distillation campaign | OpenAI(2026-09-30)
  • OpenAI says it has cut attacks that extract its models' hidden reasoning to under 1% | MLQ.ai
  • Keep prefix unchanged | OpenAI API 文档
  • Broad access through consistent standards | OpenAI
  • Frontier Model Forum