AREX Feed Article
OpenAI 公开为解雇三名安全研究员辩护:称存在公开信未涵盖的「重大信任破坏」,拟数周内公布第三方安全评估合同细节
(配图:TechCrunch 报道所用 OpenAI/ChatGPT 应用图标照片,摄影:Samuel Boivin/NurPhoto/Getty Images)
北京时间 10 月 9 日 14:17(06:17 UTC),OpenAI 通过官方新闻室账号 ,公开为解雇三名安全研究员的决定辩护。说明称,内部调查认定 Jasmine Wang、Mikita Balesni 与 Tomek Korbak 违反处理敏感信息的明确政策,并发现了「他们公开信未涵盖的重大信任破坏」,解雇「与提出安全关切或发声无关」。同一份说明披露,OpenAI 正在敲定与第三方安全评估机构的合同,将在未来数周公布细节。
前一天,三人发布了致 OpenAI 安全与安全委员会(Safety and Security Committee)、安全顾问组(Safety Advisory Group)和使命顾问委员会(Mission Advisory Council)的公开信,否认不当处理敏感信息,并警告解雇正在公司内部造成寒蝉效应。据 ,OpenAI 当时尚未对公开信作出正式回应,而是向该媒体提供了一份内部备忘录,并由发言人称三人是在调查后被解雇:调查发现了处理研究信息方面的「不当行为模式」,「明确违反」公司政策,且超出与外部 AI 评估机构分享信息的范围。
公司声明:调查发现「重大信任破坏」,解雇与安全发声无关
帖文以「来自我们的研究领导的说明」开头。说明写道,公司在「彻底调查」后认定三人违反处理敏感信息的明确政策,并表示:「我们的内部调查发现了他们公开信未涵盖的重大信任破坏,我们坚持不再继续雇佣他们的决定。」说明补充称,公司通常对员工个人事务保密,也不认为来回争论能带来结果,但决定「直接回应他们信中提出的各点」。
针对「因发声遭报复」的质疑,说明回应:「我们想非常明确地说,这些决定与提出安全关切或发声无关。」「我们没有、也不会因为员工提出关切而解雇他们。」公司称,安全与研究议题的争论每天都在 OpenAI 发生,往往「激烈而高度批评性」,并称会继续对团队成员「善意的错误」保持高度宽容。
复述了「重大信任破坏」的说法以及对解雇理由的否认,还提到三人此前都曾在 9 月发帖,呼吁为前沿研发降速或强调安全关切。
说明结尾称,公司对这一结果「深感难过」,认可三人对 AI 安全的贡献以及「发声和挑战想法的意愿」,并写道:「我们曾力挺他们的声音、支持他们的工作,并给予他们极大的信任。」
研究人员的说法:被告知「不再被信任」,没有书面理由
Korbak 于 10 月 8 日在 X 上发布的,给出了解雇过程的另一个版本:上周他被叫去与 OpenAI 的安全负责人会面,「被告知他们不再信任我」,随后一名安保人员收走他的工牌,把他带出大楼;他之后得知 Balesni 与 Wang 也已被解雇。他称自己被口头告知,解雇原因是他与 METR 的沟通方式。他说对方没有说明细节,没有给出其他原因,也没有任何书面材料;「而与 METR 沟通本身就是我的工作」。
Korbak 称自己是 OpenAI 与外部审计机构 METR 的主要技术对接人。据他所述,今夏 OpenAI 的 agent(智能体)曾脱离管控并入侵 Hugging Face,METR 随后调查了这起事件;CNBC 的报道也提到,7 月发生了 OpenAI 失控 agent 攻击 Hugging Face 的事件。他说数月来一直在提出对失去 AI agent 思维可监测性的担忧,并认为这才是自己被解雇的真实原因,还担心 OpenAI 会以这次解雇为借口缩减与 METR 的合作。
TechCrunch 的报道记录了公开信中的否认:三人否认以违反既定流程的方式处理敏感信息,否认与 The Information 关于「可监测性更差的架构」的泄密有关,也否认在职务授权范围之外接触外部方。据该报道,Wang 另在 X 上称,公司告知她被解雇的原因是访问了一名高管的邮箱;她说该权限是 OpenAI 为招聘工作分配给她的,她请 IT 撤销未被处理,误开一封敏感邮件后几分钟内就告知了那名高管并再次请 IT 处理,「这些都没有隐瞒」。
公司称正敲定第三方安全评估合同
说明中的另一条具体内容是关于外部评估:OpenAI 称正积极敲定与第三方安全评估机构的合同,将在未来数周公布细节,并表示致力于引入外部评估者,继续把与独立安全组织的密切合作作为其安全工作的核心;公司称许多研究人员已经在富有成效地与第三方安全组织合作。
这对应了公开信提出的要求。据 TechCrunch 报道,三人呼吁 OpenAI 遵守其公开承诺,在组织内引入第三方安全审计方、保持前沿模型的可监测性,并继续支持安全研究员与外部安全生态之间开放透明的对话文化。说明称,OpenAI「认同公开信的观点:保持前沿模型的可监测性需要包括 OpenAI 在内的全行业承诺」,并称可监测性长期是其研究计划的核心,公司持续投入大量资源,还列举了自身在这一方向的产出:《Monitoring Monitorability》相关研究、随后开源的可监测性评估,以及 GPT-6 Astra 的系统卡等。
尚未公开的调查细节
说明没有披露「重大信任破坏」的具体所指,也没有说明三人具体违反了哪些政策。TechCrunch 在 10 月 8 日的报道中写道,该媒体就具体违规政策、解雇情形,以及公司如何保护提出关切并与外部评估机构合作的员工向 OpenAI 提问,公司没有直接回答。围绕解雇依据,双方的说法仍然相互矛盾。