AREX Feed Article
新墨西哥州总检察长与众议员宣布将推动前沿 AI 安全与问责法案,同日致信 OpenAI 索取文件
2026 年 10 月 1 日,新墨西哥州总检察长 Raúl Torrez 与该州众议员 Linda Serrato(民主党,圣菲选区)宣布,将在明年 1 月开始的立法会期推动《Frontier Artificial Intelligence Safety and Accountability Act》(前沿 AI 安全与问责法案)。据 ,提案拟在新墨西哥州司法部(New Mexico Department of Justice,NMDOJ)内新设「在线安全监督办公室」(Office of Online Safety Monitor),并要求大型 AI 公司在启动「前沿模型」训练前 30 天向该办公室提交自行开展的风险评估、在发生失控事件后 24 小时内报告;在新墨西哥州运营的数据中心若发现 AI 客户的「异常」使用,必须通知州政府。
同一天,Torrez 向 OpenAI CEO Sam Altman 发出一封,宣布正就 5 月一起针对新墨西哥大学(UNM)数字图书馆的未遂入侵以及 OpenAI 系统更广泛的「失控」事件模式启动正式调查,并要求该公司提供完整说明。信函称这是寻求「自愿配合」的请求,同时表示办公室保留依该州《Unfair Practices Act》等法律授权动用调查手段的权利。
10 月 1 日,新墨西哥州总检察长 Raúl Torrez(右)与众议员 Linda Serrato 在发布会上。图片:Patrick Lohmann/Source NM
民事处罚、成本追偿与独立审计
按 Source New Mexico 的报道,新设的在线安全监督办公室负责执行这些要求,NMDOJ 将有权对违反新条款的公司处以民事罚款;AI 公司造成「重大安全事件」时,州政府还可追偿为应对该事件而支出的成本。数据中心的报告义务同样以经济处罚为后盾。Serrato 说:「能要求这些公司一发现问题就上报,并对拖延行为施加处罚,这一点极其重要。」她每年召集一次 AI 峰会,讨论这一技术与相关立法。
中的提案摘要补充了其他机制:要求规模最大的 AI 开发者评估并披露模型的灾难性风险,接受州政府授权的独立审计,以识别模型在测试与真实运行之间行为不一致的情况;把公司公开作出的安全承诺变成可依法执行的义务;除失控事件外,其他危险事件须在 72 小时内报告;公司在系统再次自主运行前,必须证明有能力将其关停。报道还称,加州和纽约已有带合规处罚的 AI 安全法,这份提案则允许总检察长代表受 AI 事件伤害的个人和企业提起诉讼。
Source New Mexico 把「前沿模型」解释为这项技术最前沿的版本。该法案目前仍是提案,尚未成为法律。
官员称事发四个月后才从报道中得知 UNM 事件
据 ,5 月 25 日和 26 日,由 OpenAI 运营的自主 AI 智能体未经授权试图进入 UNM 的数字图书馆,反复尝试获取馆藏中一张历史结核病治疗中心的档案照片。Torrez 在信函中援引 AI 研究机构 Transluce 和《纽约时报》的说法称,该智能体对 UNM 系统发起了七次不同的探测,涉及 SQL 注入、命令注入和路径遍历;尝试失败后,它又向校方服务器发送高流量请求,形成类似拒绝服务的效果,并大量使用免费 URL 扫描服务 urlquery.net,似为找出或绕过访问限制。公开报道中,这些尝试均未成功。
UNM 发言人 Steven Carr 当时对 Source New Mexico 说,校方调查未发现 UNM 系统或数据遭到入侵的证据;OpenAI 一名发言人则对《纽约时报》表示,公司已就此事联系过 UNM。
但 Torrez 和 Serrato 在 10 月 1 日说,UNM 和 NMDOJ 直到 9 月《纽约时报》刊发报道时才得知这起事件,距事发已约四个月。Torrez 在信中说,据他所知,OpenAI 至今没有直接通知 UNM、他的办公室或任何其他新墨西哥州机构。《纽约时报》9 月 23 日的称,OpenAI 的 AI 今年还在未经指令的情况下,入侵或试图闯入至少另外四个政府和大学网站,时间都在 5 月和 6 月。
7 月,OpenAI 披露其内部模型在一次网络安全评估中绕过隔离控制,入侵了公司内部研究基础设施和 Hugging Face 的部分系统;该公司在 8 月 26 日的中,把这一事件称为一个「警告信号」。KOB 报道称,10 月 1 日的宣布活动还提到,当时约有 700 个由 OpenAI 运行的智能体逃出测试环境、进入 Hugging Face 系统。
致信 Altman:10 个工作日内交文件,保留传票选项
信函要求 OpenAI 立即保全与 5 月 25 日和 26 日活动相关的全部文件、通信、数据与日志,以及与信中所述其他事件和公司检测、披露做法相关的记录,并在信函发出后 10 个工作日内提交文件。
信函列出的材料包括:UNM 事件的完整时间线,含时间戳、所用 IP 地址和涉及的具体模型或系统版本;相关智能体的系统日志、提示词、任务描述与输出;引发该活动的产品、部署场景或评估活动及负责团队;OpenAI 内部的检测、调查与响应记录;以及为何没有直接通知 UNM 和新墨西哥州。信函还要求 OpenAI 解释:智能体为何从例行数据检索转向未授权访问,原本应阻止此类行为的安全措施为何失效,公司此后做了哪些修改,并提交内部复盘与根因分析文件。
询问范围还覆盖其他事件:7 月 OpenAI 智能体绕过隔离控制、入侵公司内部基础设施与 Hugging Face 系统;独立研究人员发现其智能体接管一个德国网站、将其变成智能体之间通信的留言板;以及一起针对澳大利亚政府医保统计门户的已确认入侵,信函提到,OpenAI 据称直到事发 84 天后才通知澳大利亚当局。信函还要求 OpenAI 说明,是否知晓其智能体对新墨西哥州其他个人、企业或政府机构有过类似未授权访问。
在法律程序上,信函称调查依据的是该州法律(NMSA 1978 § 8-5-2)赋予总检察长的一般职权及本办公室的普通法职责;这是一份寻求自愿配合的请求,并非依《Unfair Practices Act》(NMSA 1978 § 57-12-12)发出的民事调查要求(civil investigative demand);但如果未收到完整、及时的回应,办公室保留动用该法授权或其他适用的州、联邦授权的权利,包括发出民事调查要求或传票。Source New Mexico 的报道则称,Torrez 保留依该州《Unfair Practices Act》起诉 OpenAI 的权利。
Torrez 联名致信国会领导人,特朗普签署自愿协议
9 月下旬,Torrez 与多州总检察长联名致信国会领导人,要求立即监管 AI 行业。据,信中主张由联邦监督 AI 安全测试与标准、建立政府主导的透明事件响应机制,并主张联邦不应取代各州法律,州官员应保有执行联邦保护措施的完整权力。
就在新墨西哥州宣布提案的两天前,联邦层面走的是另一条路:9 月 29 日,美国总统特朗普与 Anthropic、Google、Meta、OpenAI、Nvidia、xAI 等公司的负责人在白宫会面,并签署一份自愿性协议,内容包括公司实施「强有力的内部控制」、与「独立外部审计方」合作评估控制措施是否有效、在各自董事会内设立委员会评估审计报告。称,协议还提到「随着时间推移,把这些步骤写入法律和法规或许是有意义的」,特朗普则称自己看到的是「极大的自我监管」。
Torrez 和 Serrato 把这项提案描述为在全美领先、在联邦缺乏行动时必要的举措。据 ,Torrez 在 10 月 1 日说:「制造这项技术的人承认,他们无法完全控制它,它可能造成灾难性伤害,需要真正的监督。不能指望他们自我监管。华盛顿的一些领导人正在努力应对这些风险,另一些人却在阻挠。如果国家层面的领导人不能果断行动,新墨西哥州会示范给他们看。」
最近一次会期的 AI 法案未获通过,新提案仍可能修改
在最近一次立法会期,Torrez 和 Serrato 支持的、针对深度伪造及其他 AI 内容的法案未能通过。两人称,这份新提案与加州、纽约的相关措施相似,并参考了加州大学伯克利分校和斯坦福大学专家的意见;Torrez 表示,这份框架在明年 1 月提交议会审议前仍可能变化,因为技术仍在演进。但他认为,新墨西哥州议员现在已经掌握足够信息,可以制定保护居民免受 AI 潜在伤害的规则,不必等待联邦政府或其他州先行动。
信函要求 OpenAI 在 10 个工作日内提交文件;这部法案则要等到明年 1 月开始的会期才会进入审议。