AREX Feed Article
马萨诸塞州 Mass Wins 法案或写入全美最严 AI 安全条款:独立第三方每年至少 3 次测试前沿模型
据 10 月 13 日转载 TNS/Advance Local 的报道,马萨诸塞州正在州议会谈判的经济开发法案 Mass Wins 可能写入一项全美尚无先例的 AI 安全要求:由独立第三方评估者每年至少 3 次对前沿模型(frontier model)做灾难性风险测试,适用于年收入超过 5 亿美元、并动用大规模算力训练 AI 系统的开发者。
条款尚未定案。州参议员 Barry Finegold 表示,相关内容「仍在讨论中」;Anthropic 与 OpenAI 已公开支持独立评估,Meta、Google、Amazon 未回应置评请求。报道指出,若条款按现有形态通过,将与特朗普政府 2025 年 12 月指示司法部起诉「苛刻」州 AI 法的发生冲突。
「灾难」的定义:50 人死伤或 10 亿美元损失
条款草案把「灾难」界定为:造成 50 人及以上死伤,或 10 亿美元及以上的损失;违反规定者,初犯最高罚款 100 万美元,再犯最高 300 万美元。
立法者担心的是模型能力的另一面:随着 AI 能力增长,它可能帮助恶意行为者实施网络攻击、开发化学、核或生物武器,也可能自作主张地执行恶意计划。
评估费用由科技公司自行承担。立法者的期待,是让这些仍处起步期的评估公司像企业财务审计师那样运转,不依赖任何单一客户——全美每年必须出具经审计财务报表的大公司数以千计,而符合门槛的大型 AI 开发者「可能远没有那么多」。
Healey 要求写入 AI 条款,四家公司游说议会
州长 Maura Healey 已要求议员把 AI 安全与透明的内容加进 Mass Wins。她在上月接受 采访时说:「建设这些 AI 技术的公司有责任把它们建得安全,政府也有责任设定合理的护栏。」她承认 50 个州各立一套监管「并非最优」,但表示在现届联邦政府治下,不指望联邦层面会有动作。
据 GovTech 报道,截至 10 月 9 日(上周五),州议会经济开发委员会主席、代表 Second Essex and Middlesex 选区的州参议员 Barry Finegold 仍称这一议题「仍在讨论中」。他同时透露,Google、Anthropic、OpenAI 和 Meta 都在积极游说州议会。
加州、纽约管披露,马萨诸塞州要看「引擎盖」
加州、伊利诺伊和纽约已经出台针对最大型 AI 开发者——OpenAI、Anthropic、Meta、Microsoft 这类建造「前沿模型」的公司——的法律:要求它们自行发布灾难性 AI 风险管理计划、向州政府报告严重安全事件,并保护举报不合规行为的员工。伊利诺伊州第一个要求每年进行第三方审计,但核实的是开发者是否遵守了自己定下的安全规程。
GovTech 报道说,这些法律共同缺的一块,是让外人「打开引擎盖」:看清技术如何运作,灾难性事件的可能性是否在上升。马萨诸塞州的条款补的就是这一块——由独立评估者直接测试核心软件,也就是模型本身。
Anthropic 称「全美最强的 AI 安全保障」,OpenAI 呼吁监督跟上
Anthropic(Claude 的开发商)美国州及地方政府关系负责人 Cesar Fernandez 在声明中说:「我们支持这项法案,因为它将为马萨诸塞州提供全美最强的 AI 安全保障——随着这些系统的能力越来越强,我们每一天都比前一天更迫切地需要它。」他把功劳归于州议会联合经济开发与新兴技术委员会,尤其是共同主席 Finegold 与 Carole Fiola 众议员(第 6 Bristol 选区),「他们明白,认真对待 AI 风险,我们等不起」。
OpenAI(ChatGPT 的开发商)一位发言人在邮件中写道:「随着 AI 系统能力增强,围绕它们的安全保障和监督必须跟上。人们应当有信心,公司的安全承诺经得起审视。我们支持独立评估,包括嵌入式评估员,并希望帮助这些机制有效运作——要有合格的专家、有实质意义的访问权限,并对它们所评估的敏感系统提供强有力的安全保护。」
「嵌入式评估员」指进入 AI 公司内部工作、可获得近似员工访问权限的外部评估者。GovTech 特别说明,马萨诸塞州法案文本并未使用这个词。
Anthropic 此前已开始把外部评估者引入公司:9 月 18 日,它与咨询公司 宣布共建嵌入式评估员团队,与 Anthropic 内部团队及安全伙伴一起对模型做评估和红队测试(red-teaming)、开展对齐评估、测试模型安全措施,双方各自预计在未来五年为 AI 安全投入至少 10 亿美元。9 月,Anthropic CEO Dario Amodei 发表文章 ,主张行业放慢 AI 能力提升的速度:「我们必须放慢提升 AI 模型能力的速度。进展看起来仍会很快,而我们必须善用由此争取到的时间。」
Amazon——AI 领域的主要玩家,在马萨诸塞州有数千名员工——与 Meta、Google 一样,未回应置评请求。
百万美元罚款被批「雷声大、棒子小」
在马萨诸塞州本地 AI 圈子里,报道接触到的从业者都没有参与游说:在创建 Massachusetts AI Week、把 AI 培训带进波士顿公立学校等事务上活跃的 Paul Baier、Paul English、Kara Peterson 和 Judah Phillips,都告诉报道作者自己没有介入。但他们有担忧。
曾在 UMass Boston 出资设立 Paul English Applied AI Institute 的创业者 English 说:「总有人拿『如果我们立法、中国不立』这个论点来反驳,我不知道该怎么回应。」
报道分析指出两个执行盲区:法案大概只能约束在美国开展业务的开发者,对没有美国存在、无从执行处罚的中国公司,州的手段有限;不法分子还可以下载公开的中国「open-weight」(开放权重)模型自行改造,绕开任何联邦或州监管。
波士顿研究公司 GAI Insights 的 CEO Baier 把各州这类法律和马萨诸塞州法案概括为「雷声大、棒子小」:在他看来,百万美元级的罚款上限太小。他在邮件中写道,监管最该有的是高额罚款和刑事指控,「针对 OpenAI、Anthropic、Meta 这些公司发布测试不充分的产品,让用户得以入侵其他公司,或助长自杀行为」。「Anthropic 和 OpenAI 想要的只是轻微处罚,」他写道,「罚款应该定为公司市值的 1%~5%。」
与白宫行政令的冲突:司法部 AI 诉讼特遣队
马萨诸塞州若按现有形态立法,将与白宫对 AI 放手不管的路线正面相遇。报道引述特朗普近日在社交媒体上的说法:AI 唯一需要的控制或「护栏」,是「一个强大而聪明(高智商!)的总统」。
2025 年 12 月,特朗普签署第 14365 号行政令(Ensuring a National Policy Framework for Artificial Intelligence),反对各州对 AI 的「过度监管」,指示司法部在 30 天内组建 AI 诉讼特遣队(AI Litigation Task Force),起诉被其认定与联邦政策相悖或「苛刻」的州 AI 法;行政令还要求商务部在 90 天内评估各州 AI 法、列出其中「苛刻」者,被点名的州在联邦法律允许的范围内将失去 BEAD(宽带公平接入与部署)项目的非部署类资金。
GovTech 的判断是:如果马萨诸塞州最终通过全美最严的 AI 安全法,可能与特朗普政府「正面对决」。法案最终写入哪些具体条款,报道称「未来几周内」应当见分晓。