Anthropic 向国会山议员推介机密草案：拟为政府阻止模型发布设 10 亿美元损失门槛

据，Anthropic 的代表已向国会山议员推介一份此前未被报道的机密草案，内容是监管前沿 AI 的安全与安保。报道援引三名了解相关努力、获准匿名讨论私下磋商的人士，并称 POLITICO 取得了这份草案。

草案把政府阻止模型发布的条件写成了两个数字：造成超过 10 亿美元损失，或致 50 人以上死亡或重伤，且风险须可预见、迫在眉睫。草案还将预占（preempt）部分州级 AI 安全法，即由联邦法在这些事项上取代州法。

三类风险构成叫停的前提

按 POLITICO 看到的文本，上述门槛对应的风险必须来自三种情形之一：制造或释放生物武器、模型绕过开发者的控制、网络攻击。报道称，这一措辞与加州去年签署成法的 SB 53 等 AI 法律中的表述相仿。

据 POLITICO 报道，多家领先 AI 实验室今年夏天披露了一系列事件，其中 AI agent（智能体）入侵或探测了网站和平台；到目前为止，已披露的案例似乎没有造成大规模死亡，也没有造成超过 10 亿美元的损失。按报道给出的口径，这些事件都够不上草案设定的门槛。

叫停权只留一条通道

独立评估机构需在商务部登记，任务是定期评估实验室及其前沿模型；评估方可以由实验室自己付费，条件是付费不得与评估结果挂钩。评估方一旦认定某公司的前沿模型存在「迫在眉睫的列举风险」（imminent enumerated risk），必须在完成评估后 72 小时内向商务部报告。

商务部据此可以向哥伦比亚特区联邦地区法院的法官提出叫停模型发布的请求。文本同时明确禁止其他任何美国「部门、机构或官员」暂停模型的开发、部署或内部使用。

除叫停机制外，草案还对前沿实验室提出一组其他要求：建立安全框架、为新推出的前沿模型发布透明度报告、为举报人提供保护、向商务部报告重大安全事件。

发言人称草案源自公司的公开框架

Anthropic 发言人在给 POLITICO 的声明中说：「这项法案体现了 Anthropic《Advanced AI Framework》中提出的各项方案，我们自 6 月以来一直在向联邦和州议员推介这些方案。」这名发言人还说：「我们认为这些是合理的政策，国会应当采取行动。」

这份框架本身是公开的。在上，公司主张政府应获得阻止或威慑危险部署的法律授权，同时把适用范围限定在训练算力超过 10²⁵ FLOPs（浮点运算次数）、且开发商 AI 相关收入超过 5 亿美元或 AI 研发支出超过 10 亿美元的公司，并列出生物、网络、失控、自动化研发四类灾难性风险。框架对预占设了前提：除非国会通过一部至少与框架同等强度的联邦法律，否则不应预占州法；预占应当「精准」，让各州继续监管联邦法安全职能之外的事项，例如儿童安全和消费者保护。

今年夏天被关停的两个模型

今年夏天，Anthropic 曾受到大范围出口管制的约束，两个最先进的模型被关停。据 POLITICO 报道，决定是在政府官员与公司高管之间一连串匆忙的电话中作出的；这令科技行业一些人担心，自己技术的可用性可能取决于政府官员的临时意愿。

Anthropic 支持过的州法，和草案要预占的州法

草案预占的对象是部分与风险公开披露、第三方评估、重大事件报告相关的州级 AI 安全法。报道称，预占在国会山一直是争议焦点，民主党人否决过一些提案，因为他们担心这些提案会削弱加州、伊利诺伊州和纽约州已经通过的法规。许多科技行业团体则主张，各州法规拼成一片，比统一的国家标准更难遵守。

在州一级，Anthropic 支持过一些 AI 安全法，包括加州的两部；但在国会，报道称它尚未公开支持某项具体立法努力。其负责美国州与地方政府关系的主管此前对 POLITICO 表示，希望各州继续通过越来越强的 AI 安全法，把全国标准抬上去。

国会山上的三条并行线

众议院这边，Lori Trahan（马萨诸塞州民主党）与 Jay Obernolte（加州共和党）主导的 FRONTIER Act 将赋予政府阻止高风险模型部署的能力，并预占部分州法。

参议院这边，多数党领袖 John Thune 与 Amy Klobuchar（明尼苏达州民主党）、Ted Cruz（得克萨斯州共和党）一直在谈一部旨在缓解灾难性风险的 AI 安全法案，但遭到一些以安全为诉求的团体和参议院商务委员会级别最高的民主党人 Maria Cantwell（华盛顿州）的阻力。众议员 Greg Casar（得克萨斯州民主党）与参议员 Bernie Sanders（佛蒙特州独立人士）走得比同僚更远，主张暂停先进 AI 开发、禁止超级智能。

这份草案目前仍是一份向议员推介的文本。参议院那边的分歧正好落在草案的核心条款上：Cantwell 要政府在审查 AI 模型上拥有更大角色，草案给的则是商务部发起、联邦法官裁定的一道程序。