Ro Khanna 将提出「Human Control Over AI Act」：拟禁递归式自我改进模型，新建联邦机构监管前沿 AI

美国硅谷民主党众议员 Ro Khanna 将提出一项名为「Human Control Over AI Act」的人工智能监管法案。据，由 CNBC 独家获得的法案摘要显示，该法案将对 AI 施加严格责任（strict liability）标准。它还将禁止会递归式自我改进，或会自主修改自身核心目标、封控（containment）或关停（shutdown）控制的模型，直到联邦护栏（guardrails）建立、且监管机构批准相关活动为止。

法案还将创建一个新的联邦机构，重点监管 OpenAI、Anthropic、Google DeepMind 和 xAI 开发的前沿 AI 模型。

美国众议员 Ro Khanna。图片来自 CNBC 报道。

递归式自我改进：OpenAI 与 Anthropic 称比预期更快

递归式自我改进（recursive self-improvement，RSI）指 AI 参与改进构建新模型的流程本身。据，OpenAI 与 Anthropic 近几个月都表示，这种自主的模型改进速度比它们预想的更快；一旦 AI 掌控了新模型的训练方式，最初构建这些系统的人可能失去控制。Anthropic 6 月在 X 上发帖说，其内部数据显示 Claude 正在加速 AI 开发，这是一条可能通往递归式自我改进的路径。

新机构：训练与部署许可、驻场审计员、kill switch

按 CNBC 的报道，这个新机构的职责包括制定安全法规、建立许可制度以审批模型的训练与部署、对前沿 AI 模型进行审计，以及制定持续测试和「有效人类控制」方面的安全标准。独立审计员将被派驻在每一个前沿实验室，直接向该机构汇报。

该机构还将制定一系列技术标准：沙盒（sandbox）测试环境；气隙（air gap，把测试环境与互联网隔离）；kill switch（紧急关停开关）；以及防止模型逃出实验室环境、在互联网上漫游的管控措施。

芯片同样在监管范围内。该机构将负责监管前沿实验室使用的先进芯片，包括监测或控制其用途的机制。法案还呼吁行政当局寻求可执行的协议和有针对性的出口管制，以阻止中国及其他对手开发危险的 AI 系统。

严格责任、强制保险与「危害人类罪」条款

严格责任标准通常意味着，追责不以证明过错为前提。法案同时要求，AI 公司须持有高额的责任保险，才能发布其模型。

刑事条款则针对具体行为：部署 AI 模型导致平民群体毁灭的行为，将被定为「危害人类罪」；AI 公司员工若关闭安全防护、kill switch、日志或封控系统，或在知情情况下部署未经授权的系统，也将面临刑事处罚。

Khanna：这场辩论应由 AI 安全社群推动

Khanna 在周一（9 月 28 日）接受 CNBC 采访时说：「确实存在文明层面的灭绝风险。有一类是失控的安全风险，另一类是滥用风险，我们必须同时严肃对待这两类。」

他说，法案以他与 AI 安全组织的对话为蓝本，而非大型 AI 公司高管的诉求；这些组织包括独立非营利机构 Model Evaluation and Threat Research、Machine Intelligence Research Institute 和 Palisade Research。他还称，这是迄今已提出的「最全面的 AI 安全立法」。

「我希望这份法案成为一个范本，让 AI 安全社群发出声音。」Khanna 说，「我认为，他们被不公正地斥为科幻小说，没有得到足够重视……这场辩论应该由 AI 安全社群推动，而不是前沿实验室的高管。」

与 FRONTIER Act 并列，表决预计要等中期选举之后

Khanna 的法案加入了国会已有的多份 AI 安全提案之列。其中一项是两党提案 FRONTIER Act，由加州共和党众议员 Jay Obernolte 和马萨诸塞州民主党众议员 Lori Trahan 提出，要求在前沿实验室派驻独立审计员，并允许政府在模型具有灾难性风险潜力时将其关停。根据国会官网，于 7 月 23 日提出，已交付众议院能源与商业委员会、科学、空间与技术委员会审议。

CNBC 称，法案出现在华盛顿的 AI 监管推动之中。此前有 AI 公司高管警告说，技术可能脱离他们的控制，而国会迄今基本没有对 AI 采取监管行动。据其报道，在中期选举之前，预计不会有任何众议院法案被付诸表决；参议院则预计在本周之后离开华盛顿，直到选举结束才复会。这意味着 Khanna 的法案即使正式提出，也要等到选举之后才可能进入表决程序。