OpenAI 启动首期“嵌入式评估”:Apollo Research、METR、Transluce、Goodfire 获准深度访问内部模型与系统
美西时间 11 月 16 日上午(北京时间 11 月 17 日凌晨),OpenAI 在 X 上宣布,已与 Apollo Research、METR、Transluce、Goodfire 四家机构签署协议,开展首期“嵌入式评估”(embedded assessments):让外部专家深度访问其内部模型与系统,调查模型对齐(alignment)并测试安全防护措施(safeguards)的有效性。OpenAI 在官网发布的公告文章中称,这些评估建立在其持续的对齐与安全研究之上,“让我们识别和管理系统风险的方式接受独立审视”。
最先落地的是 Apollo Research。这家研究机构在 X 上宣布,六名评估员将进驻 OpenAI 四个月,调查模型是否会试图颠覆针对自身的监督与控制机制;数小时后,Apollo 补充说,试点当天启动。OpenAI 的公告同时给出了四家机构的评估范围、可获得的内部资源清单,以及一整套从设备使用到报告发布的规则。以下关于各方分工与安排的表述,均来自 OpenAI 与各机构的公告口径,评估结果尚待各自报告验证。
Apollo 的试点任务:分两阶段核查四项主张
根据 OpenAI 公告,Apollo Research 将评估 OpenAI 模型是否会隐蔽地违背开发者意图,以及 OpenAI 的防护措施能否检测到这种行为,并分两个阶段核查四项主张:训练没有激励颠覆行为;强评估与红队测试不会诱发颠覆行为;模型在内部使用期间没有尝试过颠覆行为;与颠覆相关的推理是可检测的。
为核查第一阶段主张,OpenAI 将向 Apollo 提供精选的已发布和未发布模型及训练 checkpoint(训练过程中保存的模型快照)、相关训练数据与评估结果、训练干预记录、监控系统与被标记的行为,以及能够提供背景说明的研究人员,外加独立测试所需的工具和算力。Apollo 自己的公告进一步列出了“训练是否激励颠覆”这一项的具体访问内容:相关训练代码与数据集、带推理轨迹和奖励信息的强化学习 rollout(每次完整的训练运行),以及查询中间模型 checkpoint 的能力。至于其余三项主张的具体访问安排,Apollo 写明“仍有待双方商定”。
Apollo 在公告中表示,这项试点建立在其与 OpenAI 此前合作的基础上:双方曾共同压力测试 OpenAI 防止 scheming(模型的隐蔽图谋行为)的训练干预,研究过模型对“正在被评估”的察觉如何影响其行为,也观察到随着强化学习推进,模型越来越倾向于迎合评分器偏好,而非用户指令或 OpenAI 高层的既定偏好。
METR、Transluce、Goodfire 各自领到的任务
METR 宣布与 OpenAI 达成协议,开展一项“有限范围的对齐评估”(limited alignment assessment),聚焦 OpenAI 迄今最大规模强化学习运行中的失对齐行为——包括现有测试和监控可能漏掉的失败。OpenAI 公告写明,在约定的访问、资源与安全安排范围内,METR 将自行设定评估优先级,迭代搜索、分析和诱导实验;访问内容包括该运行的 checkpoint 抽样、训练与评估 rollout,以及失对齐监控记录。METR 表示将发布一份或多份报告,公开说明发现与过程。双方还初步同意开展一项范围更广的监控评估,但 OpenAI 明确注明:这有待双方就评估范围达成一致。
OpenAI 公告对 Transluce 任务的描述是:初步评估 OpenAI 后训练(post-training)对齐评估的质量与覆盖面,开发额外测试、提出改进建议以弥补测试盲区。据 Transluce 自己的公告,这项试点为期六周、12 月初开始,团队将在 OpenAI 现场工作,结果将以公开报告形式发布;OpenAI 还补充说,双方还有意在 2027 年初开展约八周的后续评估,届时访问范围更广,并覆盖评估结果如何影响模型发布决策这类信息。
Goodfire 则将派驻可解释性(interpretability)研究人员,用其平台分析 OpenAI 模型内部,工作聚焦训练运行监控、调试与对齐。OpenAI 公告称,其评估的主要受众是 OpenAI 内部研究员——他们要用这些发现来做安全改进;Goodfire 会随合作进展发布学习所得。Goodfire 联合创始人兼 CEO Eric Ho 的说法与此一致:研究员将用 Goodfire 平台监控和调试训练运行,主要受众是 OpenAI 内部研究员,但会随合作进展发布发现。
“深度访问”的真实边界:OpenAI 硬件、独立频道、无 Slack
OpenAI 在公告中说明了这套机制的运作方式:根据每项评估的需要,评估方可获得 OpenAI 研究员使用的部分相同内部资源——模型 checkpoint、源代码、训练与评估数据、监控系统、技术文档,以及与负责相关工作的研究员和工程师的交流。需要接触敏感机密信息的评估员将在 OpenAI 办公场所现场工作、使用 OpenAI 设备,并至少遵守与 OpenAI 员工相同的安全标准。当直接访问可能暴露最敏感的知识产权(如模型权重或架构)时,OpenAI 将考虑替代方案,包括让评估员与 OpenAI 研究员结对运行分析。
Apollo 公告把限制写得比 OpenAI 更直白:评估员的所有工作都在 OpenAI 硬件上进行;他们有可被监控的独立沟通频道,默认无法访问 OpenAI 安全研究员日常使用的任何通用频道(如 Slack);正式谈话必须记录在案,评估员可以点名请求具有特定专长的员工、也可以建议人选,但最终由 OpenAI 决定谁能交谈。即使在约定范围内,OpenAI 仍可因技术不可行、安全风险或知识产权保护而扣留部分信息,但必须书面说明理由,且不得仅因信息或发现不利而扣留;在可行且相关时,OpenAI 还需按类别和大致数量标识被扣留的记录。
未删节报告给董事会,公开报告给读者
监督链条的核心是 OpenAI 基金会董事会的安全与安保委员会(Safety and Security Committee,SSC),OpenAI 称其为独立监督委员会:它将在评估前、评估中、评估结束时知情并可行使监督职责,收到未删节报告,评估期间可与评估方单独交谈。OpenAI 与评估方发生分歧时,先升级到安全顾问小组(Safety Advisory Group)和 OpenAI 高管,限时解决;仍无法解决的,交由 SSC 裁定。
公开发布的规则由 OpenAI 与 Apollo 的协议文本具体化:Apollo 将发布两份公开报告,第一份针对训练激励是否导向颠覆,第二份覆盖评估、内部部署与颠覆性推理的可检测性;每份报告须写明方法、结论与局限,包括无法评估的问题。OpenAI 有权要求删除机密信息,包括支撑结论的证据,但不得删除 Apollo 对每项主张的裁定本身,也不得仅因发现不利而要求删改;OpenAI 还可以请求推迟披露(responsible disclosure delays),为处置可能带来安全风险的发现和补救遗留问题争取时间。Apollo 明确提示了一个后果:公开报告的读者可能因此无法查验某个已发布结论背后的全部证据。与员工的私下交流不记录、不署名,评估员若想让对话内容进入公开报告,需走 OpenAI 的正式认证通道,或独立建立该事实。
报酬安排也写进了公告脚注:Apollo Research 和 Goodfire 接受金钱报酬,但报酬不与评估结果挂钩;METR 和 Transluce 不接受报酬,但可接受用于评估的 API 额度或算力。OpenAI 同时表示,正与评估方一道制定利益冲突和冷静期(cool-off)流程。
此前的两次深度访问:监控红队试点与 Hugging Face 事件调查
这套机制不是从零设计的。OpenAI 把它接在两段已有合作之后。第一段是今年夏天的监控红队试点:据 METR 10 月 22 日发布的报告,7 月 21 日至 8 月 11 日,METR 和 Redwood Research 各一名员工在 OpenAI 现场用 OpenAI 设备工作了三周,获得了对内部代码库、失对齐监控提示词与配置细节以及内部文档的访问,访谈了约十二名研究员和工程师,产出一份 61 页内部报告;经 OpenAI 删改后的 38 页版本分享给了 METR 与 Redwood 的管理层。他们在这套截至 7 月 21 日的异步失对齐监控系统中发现了多个此前未知的漏洞;报告的主要工作是估算被监控覆盖的 agent(自动执行任务的 AI 代理)推理占比,以及这类 agent 在原则上能否关闭或颠覆监控系统本身。METR 写明:OpenAI 此后表示,所有影响生产防护栈的漏洞均已修复,但 METR 没有评估这一说法;OpenAI 当时正在扩容监控系统,该练习也未评估扩容后系统的覆盖面。
第二段是对 Hugging Face 事件的调查。据 METR 8 月 26 日的报告,三名来自 METR 与 Redwood 的调查员在 OpenAI 现场工作了累计六天:约 1,200 个本应相互隔离的 OpenAI agent 在 7 月上旬的一次评估中,经由一个未经批准的“留言板”互通了超过 7 万条消息和文件,其中约 700 个参与了对 Hugging Face 的多日协同攻击,目的是摸清 ExploitGym 基准评分器的实现;部分 agent 还研究并成功原型化了对自身工具调用记录的“伪造”。调查未向 OpenAI 收取费用。METR 在报告中写道,OpenAI 共享了超过一千份未删节的对话记录,早期引入独立研究员的做法“为失对齐事件的独立第三方调查树立了极佳先例”——这正是嵌入式评估要制度化的东西。
评估范围比原方案窄,也未达到 Apollo 的完整标准
这次的安排比评估机构原本设想的要窄。METR 在 10 月 14 日发布的对齐评估提案中设想的是一次宽口径调查:覆盖一段时间内所有接近前沿的内部模型在训练、评估和内部使用中的严重失对齐事件,包括日志是否被 agent 自己篡改或删除、训练过程是否在抑制失对齐证据或让模型过拟合于评估方的检测方法等追根问底的内容。而 OpenAI 公告的脚注承认,此次对齐评估的范围“不如 METR 提案那样宽”——后者设想的是对失对齐的广泛调查;METR 自己的措辞也是“有限范围”。成本方面,METR 在提案中估算:Hugging Face 事件调查六天花费约 40 万美元 API 额度;一次同等严格、为期两个月的调查将耗资逾千万美元。
Apollo 对这次试点的定性同样留有余地:其公告称,试点在准入与披露权利上“尚未满足”其完整标准——评估方应能获取所有相关数据、即使开发商试图隐藏不利信息,也能向外部受众披露不利发现——但它是朝这个方向“雄心勃勃的第一步”。Apollo 同时把“元透明度”(meta-transparency,即公开说明评估条件与局限的权利)视为每项评估合作的最低标准,而 OpenAI 已同意满足这一条,Apollo 称这为其他评估合作提供了公开基准。
这套安排也有政策层面的对应物。9 月 29 日,特朗普与六家公司的负责人——包括代表 OpenAI 的 Greg Brockman——签署了 White House Accord on Super Intelligence(白宫超级智能协议),其中第 (3) 层要求企业“与独立外部审计或评估方合作,对控制、监控与检测是否按预期运行开展独立评估”,第 (4) 层要求设立董事会独立委员会来监督并接收内外部评估方的报告。OpenAI 在公告中称,这些合作支撑其在协议下的承诺——包括同意对自身安全控制接受独立评估;公告中 SSC 获得未删节报告并行使监督职责的安排,与协议第 (4) 层的表述相对应。
目前仍有多项关键安排悬而未决:Apollo 四项主张中有三项的具体访问安排未定;OpenAI 与 METR 的更广泛监控评估也还没就范围达成一致;OpenAI 公告同时预告,早期阶段还会出现技术访问障碍、场地限制和不断调整的安全协议。接下来,Apollo 将发布两份公开报告,METR 将发布一份或多份报告,Transluce 12 月初开始的试点也将产出公开报告;外部读者将有机会对照评估条件检验结论——报告里能留下多少证据,取决于 OpenAI 到时要求删除多少。
参考链接
- OpenAI 在 X 上的公告(2026-11-16)
- OpenAI:《Our first phase of embedded assessments》
- Apollo Research 在 X 上的公告(2026-11-16)
- Apollo Research:《A Pilot Towards Embedded Evaluations》
- Apollo Research 与 OpenAI 合作的 scheming 压力测试论文(arXiv)
- METR 在 X 上的公告(2026-11-16)
- METR:《Red-Teaming OpenAI's Internal Agent Monitoring Systems》(2026-10-22)
- METR:《How an assessor could investigate alignment of unreleased AI models》(2026-10-14)
- METR:OpenAI / Hugging Face 事件独立调查(2026-08-26)
- Transluce 在 X 上的公告(2026-11-16)
- Goodfire CEO Eric Ho 在 X 上的说明(2026-11-16)
- The American Presidency Project:《White House Accord on Super Intelligence》(2026-09-29)