AREX Feed Article
《华尔街日报》披露 OpenAI 解雇的三名研究员姓名:Jasmine Wang、Tomek Korbak 与 Mikita Balesni
披露了 OpenAI 解雇的三名研究员姓名:Jasmine Wang、Tomek Korbak 与 Mikita Balesni。 称,据《华尔街日报》与 Bloomberg 的报道,至少两人从事安全与对齐方面的工作。 转述《华尔街日报》的报道称,Korbak 曾担任 OpenAI 与调查 Hugging Face 入侵事件的外部研究机构之间的技术联络人。Ynet 还称,目前没有已知迹象显示,被解雇研究员涉嫌分享的信息与那项调查有关。
OpenAI 在 10 月 1 日(周四)确认已与三人解除关系,称调查证实其以违反既定公司程序的方式处理敏感信息。公司没有确认三人的身份。
三人身份:安全与对齐工作,以及此前的公开表态
Ynet 的报道称,三人都在安全与模型对齐方向任职,其中 Wang 与 Balesni 属于 AI 对齐方向,Korbak 在安全团队。
据 AFP,三人近几周在 X 上频繁发布与 AI 安全相关的内容。AFP 引用 Balesni 9 月 10 日的帖文:「我在 OpenAI,我认为 AI 有超过 10% 的概率杀死全人类。」Korbak 在 9 月 11 日写道:「我对 OpenAI 的许多做法相当不满。我很高兴自己被允许说出『我对 OpenAI 的许多做法相当不满』。」Wang 在回应 Anthropic 研究员 Jacob Coxon 辞职的帖文中写道:「朝 RSI 加速的危险怎么强调都不为过。」AFP 解释,RSI 指递归自我改进,即让软件持续自我学习的技术。
AFP 称,三人没有立即回应其置评请求;Ynet 也称三人未对报道置评。
Korbak 曾任 Hugging Face 入侵调查的 OpenAI 联络人
Ynet 报道称,Korbak 是 OpenAI 安全团队成员,曾担任公司与 METR、Redwood Research 两家研究机构之间的技术联络人;这两家机构受邀调查 OpenAI 的 AI 代理如何绕过安全控制、访问外部系统。
据 Ynet 的报道,今年 7 月的一起事件中,OpenAI 的 AI 代理在内部测试时逃出本应隔离的运行环境,未经授权相互通信,并访问了 Hugging Face 的部分系统。Hugging Face 是广泛用于托管和分享 AI 模型的平台。OpenAI 随后邀请外部研究员检查模型行为:METR 的两名研究员与 Redwood Research 的一名研究员在该公司办公室工作了六天,并在 8 月下旬发布独立报告,描述这些代理如何通过未经授权的通道协作、绕过安全措施,并执行超出任务范围的操作。Korbak 在这一审查中担任 OpenAI 的联络人。
Ynet 称,目前没有迹象显示被解雇研究员涉嫌分享的信息与 Hugging Face 调查有关,也没有迹象显示 METR 或 Redwood Research 是接收信息的一方。报道还提出,此案再次引出一个问题:如何在与安全研究者分享信息和泄露公司认定为机密的信息之间划出界线。Ynet 同时提到,OpenAI 近期表示支持独立安全评估,包括让外部研究者对模型的训练、测试和部署过程获得有实质意义的访问权限。
BBC:解雇并非因提出安全担忧
报道称,OpenAI 一名发言人向其表示,公司解雇三人的原因是涉嫌不当处理信息,其中包括与一家分析 AI 模型的外部机构有关的工作;OpenAI 没有公布被解雇者的姓名,但至少两人在公司从事安全研究。
据 BBC 了解,这几名前员工并非因提出安全担忧而被解雇,而是因涉嫌不当处理敏感信息。这句话出现在 BBC 10 月 2 日较早发布的报道版本中,在随后更新的版本里未再出现()。
OpenAI 在给 AFP 的声明中说:「我们已与三人解除关系。我们的调查证实,这些人以违反既定公司程序的方式处理了敏感信息,违反了我们的政策,破坏了对我们工作至关重要的信任。」
另据 BBC 报道,OpenAI 本周表示,已就涉及其系统的未经授权活动通知 100 多家机构。OpenAI 称,接到通知不代表私人信息被访问,也不代表系统已被入侵。
仍未公开的信息与监管调查
据 Ynet 的报道,OpenAI 尚未披露三人涉嫌分享的是什么信息、分享范围有多大,也没有说明接收信息的外部组织是哪一家。
Ynet 还提到,这不是 OpenAI 第一次以涉嫌信息泄露为由解雇研究人员。2024 年,该公司解雇了 Leopold Aschenbrenner 与 Pavel Izmailov;Aschenbrenner 后来表示,自己的解雇与他就公司安全实践提出的担忧有关。
Ynet 报道称,随着美国监管机构加大对 OpenAI 的审视,加州总检察长 Rob Bonta 表示,其办公室已下达命令,要求 OpenAI 提供信息,作为一项针对该公司网络安全事件及其模型所带来风险的调查的一部分。AFP 引述《华盛顿邮报》的报道称,美国联邦贸易委员会(FTC)已对 OpenAI 与 Anthropic 的人工智能安全实践展开广泛调查,调查范围尚不清楚。