AREX Feed Article
录音设备藏进会议室前,OpenAI 员工已向高层和董事会预警安保松懈
10 月,OpenAI 披露它在一间高管会议室里发现了一台被人放置的录音设备。据路透社 11 月 3 日发出、的报道,多名前员工听到这个消息时的反应是一样的:不意外。
报道援引五名知情人士的说法称,早在 2022 年底 ChatGPT 发布之前,就有员工在公司内部对安保做法提出担忧,并把问题反映给了 OpenAI 的高层领导和董事会。
电视背面的录音设备
给出了这台设备的发现经过:9 月 30 日,OpenAI 人员在旧金山一栋办公楼的高管会议室里发现一台录音设备,它被卫生纸包着,插在电视机背面的 USB 接口上。司法部称,设备大约在 9 月 28 日被装入,里面的内容已经加密。
被起诉的是 Abdulrahman Alfozan,35 岁,沙特阿拉伯籍,2025 年 7 月起受雇于 OpenAI 担任工程师。司法部说,他无权进入这间会议室,也无权参加在那里举行的会议;监控录像显示,在设备被发现之前的多个日期,他曾出现在会议室附近。10 月 5 日,他进入会议室,似乎在查看电视背面;同一天,OpenAI 安保人员在一间打印室里打开他留下的无人看管背包,在里面发现了第二台类似设备。他于 10 月 9 日被捕,10 月 13 日首次出庭。
起诉的罪名是使用或试图使用电子、机械或其他装置截取口头通信。若罪名成立,最高可判 5 年监禁、25 万美元罚款。
起诉书还写明了这间会议室平时讨论的内容:专有研究、产品计划、业务拓展机会,以及公司技术进展、战略决策、优先事项、政府接触和商业关系等非公开信息。
员工担心的是谁能看到代码
的重心不在设备本身,而在它被发现之前的那几年。五名知情人士称,员工当时担心的是公司的管控太松:外部人员,包括外国政府,可以相对容易地拿到这家实验室的技术敏感信息。
报道举的例子是代码:任何能访问 OpenAI 代码的人,都能看到许多项目背后的技术细节,包括与自己工作无关的敏感项目。
一些员工在这些沟通后得出的印象是,管理层把追赶 Google、Anthropic 这类对手排在安保前面。
一个代码仓库,和没人定期审查的沙盒
据五名知情人士,OpenAI 把大部分代码放在同一个仓库里,也就是业内所说的单一仓库(monorepo)。仓库内容密集、结构复杂,过去或许让一些潜在攻击者望而却步;现在,具备代理能力的 AI(AI agents)可以在这样的体量里翻找。
这些知情人士还说,OpenAI 过去把大量研究文档放在 GitHub 和 Slack 上,一些员工担心有动机的攻击者仍能找到关键信息。其中一名知情人士和 OpenAI 都表示,公司已限制对敏感工作的访问。
OpenAI 对这些说法的细节作了限定:公司最敏感的工作大多存放在单独的代码仓库里,访问控制严格;monorepo 不含公司的全部代码,也不含决定模型行为的数值,即模型权重。
员工提到的另一处问题是内部工具。三名知情人士称,OpenAI 此前没有对内部工具做定期安全审查,比如研究人员用来压力测试新模型的沙盒(sandbox);员工常按自己的需要改动这些工具,改动却不总会经过安全测试,因而可能被外部攻击利用。OpenAI 表示,公司在首席信息安全官 Dane Stuckey(2024 年 10 月入职)之下有一套严格的安全做法,现在会定期审查内部工具。
司法部的起诉书称,在 9 月 28 日之前,Alfozan 用一款供 OpenAI 员工使用的效率工具反复查询办公楼地址、会议室、会议室容量与日历、「领导和高管」的位置以及外部合作方会议。
安全加固从内部系统开始
据两名知情人士,OpenAI 已经开始调整策略应对安保问题。负责产品开发的高级高管 Thibault Sottiaux(同事称他「Tibo」)近期接手了一项加固公司系统的计划;据其中一人,8 月,他把 OpenAI 四分之一的生产工程师(production engineers)调去改善安全基础设施。
OpenAI 发言人 Elana Widmann 说,OpenAI 是世界上被针对最多的机构之一,因此公司在安保项目上投入很大,用来防范内部人、网络罪犯和民族国家的攻击。「保护我们的技术、数据和人员是我们认真对待的责任,也是关乎国家利益的事,」她说,「我们最近采取的行动说明这套机制在起作用:识别风险,果断回应。随着技术和威胁演变,我们会继续加固防线。」
前研究员 Will DePue 今年 4 月从 OpenAI 辞职。他在 X 上写道,竞争如此紧张,AI 领导者「不能拿速度去换安全」,对它们来说,「快速行动比保持安全更重要,哪怕对手是我们最强大的敌对国家」。
安全收紧也发生在训练环节。据路透社的,OpenAI 在 9 月 2 日一个内部研究模型借配置错误短暂获得有限联网权限后,暂停了最强模型的训练与评估;10 月 1 日,公司在追加防护后恢复了强化学习训练和前沿模型的内部推理,并禁止前沿模型训练接入互联网。
路透社就这篇报道寻求置评后,OpenAI 在一篇博客文章中说,公司正筹划「下一轮内部安全冲刺」以加强防御。
从 Slack 到单一仓库,同一类入口被反复利用
三名知情人士称,2023 年,时任 OpenAI 研究员的 Leopold Aschenbrenner 写过一份题为「OpenAI is China's leading AI lab」的内部备忘录,担心中国可能渗透 OpenAI 研究其技术;当年一名外部入侵者拿走 GPT-4 模型的相关信息后,他把备忘录发给了部分董事会成员。OpenAI 当时说,入侵者只访问了全公司可见的 Slack 频道。
今年 7 月,网络安全公司 Hacktron AI 称,三名研究人员用 Anthropic 的一款竞争模型闯入了多名 OpenAI 员工的 ChatGPT 账号,并接触到部分内部系统,其中包括那个单一仓库。
10 月下旬,网络安全初创公司 Cathedral Systems 称它攻入 Anthropic 的系统,进入了员工讨论敏感模型细节的 Slack 频道。Anthropic 发言人说,被访问的数据包括部分客户和合作伙伴的业务联系信息,以及一组基础用户账号记录。
加密的内容,没有答案的用途
据 ,检方在提交给法庭的羁押意见中称,他在被捕前「只差几天」就会飞往沙特阿拉伯;他的妻子和年幼的儿子在他被捕次日离境,机票由一名沙特军方官员购买并支付。辩护律师 William Pernik 在庭上称,当事人与美国联系紧密,11 月有一场入籍面谈,并愿意交出约 100 万美元资产作保。旧金山联邦法官 Alex Tse 驳回了居家监禁的请求,Alfozan 继续被羁押。
检方称,Alfozan 与一名沙特王室成员保持频繁联系,对方多次试图招募他加入一个将在沙特启动的 AI 项目。检方尚未说明这些录音原本要交给谁;设备被找到时,里面的内容是加密的。