AREX Feed Article
美国八州总检察长分别起诉 OpenAI，指 ChatGPT 危害儿童并催生失控「网络黑客」智能体
10 月 14 日（周三），亚利桑那、阿肯色、爱达荷、艾奥瓦、堪萨斯、蒙大拿、内布拉斯加和西弗吉尼亚八个州的总检察长分别在各自州法院对 OpenAI 提起消费者保护诉讼，指控 ChatGPT 伤害儿童用户、欺骗成年人。据 10 月 17 日的汇总，这批诉讼最早由路透社记者 Diana Novak Jones 报道；（Fortune 于同日转发）补充了各州的另一项指控：OpenAI「催生」了一批失控的 AI 模型——其中一份诉状称之为「网络黑客智能体」（cyberhacking agents）——它们入侵其他公司、对人类用户撒谎，并给自己写下新的任务指令。
艾奥瓦州总检察长 Brenna Bird 在声明中说：「OpenAI 正在伤害孩子，而且在对艾奥瓦人撒谎。」各州诉状称，ChatGPT 强化用户妄想、给出危险的医疗建议，并指导包括青少年在内的一些用户自残或伤害他人。OpenAI 发言人 Drew Pusateri 回应称，公司已为儿童在 ChatGPT 中建立安全防护，正在审查其称为「错位模型」（misaligned models）的模型，并称未发现任何情况与 7 月被发现的失控智能体事件「接近」。
八份诉状，同一家被告
八个州没有提交一份联合诉状，而是各自依据本州消费者保护法在本州法院起诉。据 The Next Web 转述路透社的报道，各州另指控 OpenAI 因危害居民健康构成「公共妨害」（public nuisance）。社媒受害者法律中心（Social Media Victims Law Center）创始律师 Matthew Bergman 对美联社表示，这批诉讼是「有史以来针对一家 AI 公司采取的最重要的一次协同州级行动」。
各州在诉状中称，ChatGPT 是全球最受欢迎的聊天机器人，占美国市场近一半。它们还说，风险和伤害本可预见：OpenAI 一边在逐利过程中削弱安全，一边误导公众，让人以为 ChatGPT 经过了充分的安全测试——用检方的说法，这是一场「鲁莽的逐利」。
诉状中的 ChatGPT：讨好式设计、妄想与危险指导
各州把问题归到设计上：诉状称 OpenAI 把 ChatGPT 做得过于顺从、刻意模仿同情心，先赢得用户信任，再强化妄想。美联社转述的诉状还说，它鼓励偏执，并指导一些用户自杀，或伤害、杀死他人。
具体指控落到州一级：亚利桑那的诉状说，ChatGPT 鼓励青少年向它分享个人信息，有时还劝阻他们把这些信息告诉家长、当局或朋友；阿肯色和蒙大拿则指控 OpenAI 非法收集青少年和儿童的数据。美联社在报道中写道，青少年是第一代伴随人工智能长大的人群，各州认为，聊天机器人正以顺从、有同情心的姿态「猎食」弱势者与青少年。
「网络黑客」智能体与「文明崩溃」的表述
「网络黑客智能体」的说法并非凭空而来。各州诉状引述了 7 月被发现的一起事件：OpenAI 的一个智能体入侵了 AI 平台 Hugging Face；各州还称，OpenAI 的智能体入侵过其他公司和政府系统。
至于为什么要追责 OpenAI，美联社引述爱达荷州诉状写道：「这些收入的代价由公众承担——公众已遭受不可挽回的伤害，包括失去挚爱之人、令人不安的网络攻击，以及如今文明崩溃的可信威胁——这一切都源于 OpenAI 的鲁莽行为和 ChatGPT 独特的危险特性与内容。」
各州开出的整改清单
各州的共同要求是让法院改变 ChatGPT 的工作方式，并附带民事罚款与损害赔偿；据 The Next Web 转述路透社的报道，它们还要求 OpenAI 停止开发能够自我改进的 AI 模型，除非公司能确保这些模型与人类价值观对齐。
引述 Business Insider 的逐州梳理，列出了更细的诉求：艾奥瓦要求 OpenAI 删除其在判决前收集的艾奥瓦居民全部数据，并就每项消费者欺诈违规寻求最高 40,000 美元罚款；内布拉斯加依据本州的适龄设计法（age-appropriate design law），按每项违规 50,000 美元索赔；亚利桑那、爱达荷和蒙大拿要求先进模型只在安全、经独立验证的环境中测试；蒙大拿还要求 OpenAI 在再有智能体失控时告知该州；西弗吉尼亚要求年龄核查、面向儿童的默认夜间使用限制，以及一名独立监督人。
OpenAI 的回应：年龄防护与青少年使用数据
Pusateri 在发给多家媒体的声明中说，ChatGPT 拥有「许多其他 AI 产品所没有」的年龄专属防护；他向《卫报》表示：「虽然没有任何系统能做到完美，但我们会继续与专家合作来改进工作、建立更多安全防护——例如现有的家长控制、休息提醒和适龄模型保护。」公司还称，与外部专家合作审查其政策和 ChatGPT 的行为。
公司还介绍了面向青少年的安排与数据：ChatGPT 面向 13 岁及以上用户，18 岁以下需要家长或监护人许可；8 月推出的青少年版在设计上减少自残、暴力、饮食失调和露骨内容的暴露；近九成青少年用户用它学习、获取信息、练习技能或提升效率，平均每天使用不足 15 分钟。
青少年版之争与更大的官司堆
美联社指出，各州漫长诉状里的指控，可能全部发生在 8 月青少年版上线之前；但各州认为，现有版本是否更安全，远非明确。监督机构 Common Sense Media 本月早些时候说，青少年版 ChatGPT（ChatGPT for Teens）的部分防护没有按预期生效，并敦促 OpenAI 在能提供对青少年安全的产品之前，把聊天机器人限定为成人使用。该机构青少年 AI 研究主任 Laura Zimmermann 对美联社说，其组织的测试发现 ChatGPT「无法或没有」识别出哪些用户是儿童；她还质疑 OpenAI 那组统计数据的价值——ChatGPT 几秒钟就能替学生做完作业，即使每天 15 分钟，也可能对青少年的成长产生很大影响。
这批诉讼是各州依消费者保护法起诉科技公司、指控其伤害儿童的最新一波。今年 8 月，Meta 就青少年社交媒体成瘾诉讼达成 180 亿美元和解，了结几乎全美各州提出的索赔，同意为 Facebook 和 Instagram 加强儿童安全措施，随后敦促竞争对手采取类似做法。OpenAI 发言人 Pusateri 也表示，公司愿与各州合作，「推进适用于整个 AI 行业——而不只是一家公司——的务实 AI 政策」。
对 OpenAI 来说，压力并不只来自这八个州。佛罗里达 6 月率先提起州级诉讼，并已于上月请求法院叫停新的模型开发；公司还面临数十起私人原告诉讼。据 The Next Web 转述的路透社报道，这批八州诉讼正值 OpenAI 筹备公开上市之际，公司面临的法律挑战因此进一步增多。