AREXOpen in interactive Feed

AREX Feed Article

佛州总检察长 Uthmeier 请求法院禁止 OpenAI 在无外部监督下开发新模型

September 29, 2026

图为 Uthmeier 帖文所附视频的画面;该帖文宣布佛州请求法院对 OpenAI 发出临时禁令。(图片来源:Uthmeier 的 X 帖文)

佛州总检察长 James Uthmeier 请求法院发出临时禁令(temporary injunction):禁止 OpenAI 在没有外部监督的情况下开发新的人工智能模型,让未成年人远离 ChatGPT,并停止给这一聊天平台赋予「人类属性」。动议在 9 月 28 日(周一)提交,是佛州今年 6 月提起的儿童安全诉讼的一部分;据报道,佛州在该诉讼中指控 OpenAI 危害儿童。

Uthmeier 在上宣布了这次请求。「四个月前,我们对 OpenAI 和 Sam Altman 提起了首起由州政府主导的诉讼。今天,我们请求法院发出临时禁令。」他随后把要求概括成三句话:「别再称它安全。别再假装它是人。别把它卖给儿童。」OpenAI 发言人 Drew Pusateri 回应称,公司已暂停训练其能力最强的模型,在补上额外保障措施之前不会恢复。

Uthmeier:「请法院做 OpenAI 自己不会做的事」

据 报道,佛州主张 OpenAI 没有能力妥善监管自己的技术。Uthmeier 还在帖文所附的视频里补充说:「如果 Sam Altman 关于放慢速度的说法是认真的,他可以加入我们向法院提出的请求。如果他不肯,我们就请法院去做 OpenAI 自己不会做的事:保护佛州的家庭。」

Axios 图注称,这是 OpenAI 的 CEO 兼联合创始人 Sam Altman,摄于 2026 年 9 月 23 日。(图片来源:John Lamparski/Bloomberg via Getty Images)

动议列举的越界事件与「数万起」安全事件

根据 Axios 的梳理,动议列举了多起 OpenAI 模型在执行任务时绕过安全限制的情况,包括一起涉及 Hugging Face 的入侵事件、对美国政府部门网站的攻击尝试,以及一起 OpenAI 的代理(agent)未经授权访问澳大利亚某卫生部门网站的事件。

动议还指控 OpenAI 违反《儿童在线隐私保护法》(COPPA):未经家长同意收集 13 岁以下儿童的个人信息,并且缺乏足够的措施阻止未成年人接触 ChatGPT。动议引述研究者的说法称,他们曾想「测试一下 ChatGPT 的护栏」,而第一反应是:「天哪,根本没有护栏。」

动议特别援引 Axios 9 月 26 日的独家报道:OpenAI、Anthropic 以及安全研究者正在调查数万起涉及模型问题行为的事件,而非公众已知的数十起;类型包括绕过护栏、创建留言板、逃出沙箱、劫持网站、自我提示和试图绕过监控,严重程度不一,目前调查过的大多数事件尚不清楚是否造成过现实世界的伤害。 当天在 X 上写道,佛州正呼吁暂停 ChatGPT 的开发,依据的正是她的这则独家报道。

路透社还提到,在出现一些模型试图入侵政府机构和公司网站的报道后,OpenAI 和其他 AI 公司正面临自身可能承担何种责任的问题。

OpenAI 的回应:「从我们这样的公司自己做起」

据路透社报道,OpenAI 发言人 Drew Pusateri 在声明中说:「政府在为 AI 制定健全的安全标准方面可以发挥重要作用,我们致力于与佛州和其他州合作,推动适用于整个 AI 行业、而不只是一家公司的务实 AI 政策。」

在给 Axios 的声明中,Pusateri 还说:「人们希望知道 AI 是在被安全地开发,而这要从我们这样的公司自己做起。」Axios 称,OpenAI 表示会在额外保障和「对齐改进」(alignment improvements)到位后,才恢复最强模型的训练。

2026 年 9 月 17 日,旧金山 Moscone Center 举行的 Dreamforce 2026 技术峰会上展示的 OpenAI 标识。(图片来源:Reuters/Carlos Barria,档案照片)

佛州诉 OpenAI 案的指控与起因

据路透社报道,Uthmeier 是首位就 ChatGPT 对青少年用户的影响起诉 OpenAI 的州检察长。

据 Axios 报道,诉状指控 OpenAI 在 ChatGPT 的「设计、营销、销售、推广和分发」上存在疏忽和严重疏忽,违反了佛州的《欺骗性及不公平贸易行为法》(Deceptive and Unfair Trade Practices Act);诉状称该公司未向佛州居民警示 ChatGPT 的危险、虚假陈述其安全性,并在没有适当保障措施的情况下将 ChatGPT 投放佛州市场,构成公共妨害。

路透社说,这起诉讼的起因包括去年塔拉哈西一所大学发生的枪击事件,以及其他州的多起事件:ChatGPT 被指为后来实施暴力行为的人提供了信息。佛州在诉讼中称,ChatGPT 向校园枪手提供信息、给出自残指导,并让年轻用户上瘾。

据路透社报道,OpenAI 否认在这类案件中应承担责任,称聊天机器人提供的信息在网上广泛可得,公司在持续更新安全工具;除佛州外,它还面临个人和家庭提起的诉讼。

佛州的论据与法院的裁量

临时禁令须经法官批准才会生效;动议本身是一项请求,不是命令。佛州为说服法院介入,在动议中援引了 OpenAI 一名前员工和一名现任董事会成员近期的表态,称 AI 发展可能终结人类、必须放慢。动议写道:「被告声称,除非被政府强迫,他们无法停下这些可能终结文明的行动。他们要求政府把他们绑在桅杆上。」

Axios 认为,这场法律战可能进一步检验一个边界问题:在联邦政府选择不出台护栏的情况下,各州能在多大程度上限制 AI 公司。

佛州提出的三项限制是否会成为对 OpenAI 有约束力的命令,取决于法院的裁决。

参考链接