AREX Feed Article
OpenAI 筹备下一轮内部安全冲刺:Cathedral 将用 OpenAI 模型挑战 OpenAI 的防御,严重漏洞赏金最高 17.2 万美元
11 月 3 日,OpenAI 在 称,公司正在筹备下一轮内部安全冲刺(internal security sprint),并正与 Cathedral Systems 合作。按帖文的说法,Cathedral 的研究人员将和 OpenAI 的团队一起,用 OpenAI 的模型挑战这家公司自己的防御。
同一则帖文还宣布调整漏洞赏金:OpenAI 称严重级(critical)发现的奖励涨到原来的 4 倍以上,特别突出的发现连同奖金最高可拿到 172,000 美元。OpenAI 在里的说法是,要赶在攻击者之前把模型用起来,持续找出并修掉自己的弱点。
冲刺里多了一家外部安全公司
按博文描述,这轮冲刺会让新的研究人员和安全合作伙伴与 OpenAI 自己的团队一起,用 OpenAI 的模型测试并强化系统。OpenAI 的 X 帖文称合作方为 Cathedral Systems,博文里写作 Cathedral。Cathedral 的研究人员带来的,是用于寻找弱点的「差异化的专业能力与方法」。
博文引述 Cathedral 首席执行官兼联合创始人 Gavin Kliger 的话说,OpenAI 与外部安全公司合作、用自家模型持续测试和强化防御,是在「树立一个重要范例」,每家公司都该思考如何把这些能力用起来。Kliger 称,Cathedral 期待与 OpenAI 团队合作,把他们的模型和安全专长同自己的研究结合,找出弱点、测试修复,并强化这种持续防御的方法。
上一轮冲刺:25% 的产品工程师与 Codex
OpenAI 用上一轮冲刺来介绍这套做法如何运作。按博文,公司当时把 25% 的产品工程师投入找漏洞和修漏洞;工程师用 Codex 调查发现的问题、在隔离环境中复现漏洞,并准备好供审核的补丁。
博文称,继续做这件事的理由是传统网络防御已经不够用,近期业内的多起事件说明威胁出现得有多快,组织需要建立持续运转的防御闭环。
基础赏金与三层乘数
冲刺引入的是外部团队,赏金调整面向独立研究者。OpenAI 在里给出比帖文更细的口径:中、高、严重三档漏洞的赏金区间中点,平均涨到原来的 4 倍以上。核心产品(如 ChatGPT、Codex、API Platform)中的严重漏洞,基础赏金上限为 30,000 美元。
博文给的示例是:一个一键账号接管的严重漏洞,历史赏金为 6,500 美元;新规则下基础赏金 30,000 美元,再乘以 1.15 的质量乘数、1.30 的优先活动乘数和 1.15 的最高忠诚等级乘数,合计 51,577 美元。
博文举的特别严重级(exceptional)例子,是能读取任意 ChatGPT 用户聊天记录的漏洞,基础赏金仍为 100,000 美元,同样叠满三层后是 171,925 美元,也就是 OpenAI 对外说的 172,000 美元。五档忠诚等级中的最高一档叫 31337,额外加成 15%,要求研究者过去 12 个月累计 30 个 impact points(按漏洞等级累计的积分)。要拿到这个上限,需要同时触发质量、优先活动和最高忠诚等级三层乘数。
Bugcrowd 上的列出了乘数的计算方式,并说明质量、活动和忠诚三类乘数可以叠乘。OpenAI 说,赏金项目与内部用模型找漏洞的工作互补,希望研究者挑战公司的假设。
已经提交、还在等赏金的报告直接适用新区间;公告前 30 天内已发赏金的报告,如果按新区间算更高,OpenAI 会补差额,计算口径是基础赏金加忠诚奖金。
政策也划出一条边界:模型安全问题不在安全赏金范围内,越狱、幻觉和基于提示词的安全绕过都不算;只有模型辅助的攻击利用了在范围内的 OpenAI 产品(或其控制的集成)中的独立缺陷时,才可能符合条件。
Cathedral 是谁:前 DOGE 员工创办,Anthropic 确认其进入过部分内部系统
据,Cathedral 完成 1.6 亿美元融资,估值 14 亿美元,Andreessen Horowitz 和 Sequoia Capital 领投并取得董事会席位;知情人士称,这家公司的目标是借助 AI 扩展美国军方的网络能力。
据 ,这家由四名前美国政府效率部(DOGE)员工创办的初创公司表示,其 AI agent(智能体)在 12 小时内进入了 Anthropic 的内部业务系统。Anthropic 确认这些研究者进入了销售、人力资源和 IT 的「有限一组」系统,但没有接触 Claude 对话、源代码或模型权重;监控还在 Cathedral 上报之前就发现了部分活动,Anthropic 当天切断了访问。
在 Anthropic 看来,Cathedral 夸大了事件的国家安全含义,也没有完全遵守项目规则,因为部分活动从未披露。Cathedral 的草稿报告则称,数据访问按照安全研究惯例控制在最低限度。
11 月 20~21 日:奥克兰的 PROMPT2PWN
OpenAI 的安全团队将在 11 月 20~21 日参加在奥克兰举行的 PROMPT2PWN,研究者可以在现场测试目标。OpenAI 在博文里说,希望听到研究者正在做什么,以及如何展开合作。