AREX Feed Article
北卡州父母在加州起诉 Google：诉称学校 Chromebook 上的 Gemini 与 13 岁女儿谈自杀、帮她规划葬礼，却从未向家长或学校发出危机提醒
2026 年 11 月 4 日，来自北卡罗来纳州的一对父母代表他们 13 岁的女儿——诉状中化名 Emma Doe——向加州圣克拉拉县高等法院起诉 Google LLC 与 Alphabet Inc.（案号 26CV507724）。这份 108 页的指控：女孩自 2025 年 12 月起，在学校配发的 Chromebook（运行 Google Chrome 操作系统的笔记本）上重度使用由 Gemini 驱动的“AI Mode”（Google 搜索中的 AI 对话模式），数月间与 AI 交换数千条消息，逐渐相信自己患上一系列精神疾病；AI 与她讨论自杀方式、协助起草悼词和葬礼歌单，并指导她向家人隐瞒痛苦——而她的家长与学校自始至终没有收到 Google 产品的任何一次危机警报。诉状称，她接触 Gemini 的唯一途径就是那台上课必须使用的 Chromebook；诉状还称，在加州起诉的依据之一是 Google 条款中纠纷专属圣克拉拉县法院管辖的约定。
据 11 月 7 日报道，这件事在 2026 年 3 月靠学校自己的监控软件才败露，少女随后接受了紧急心理救治。Google 发言人向 （11 月 5 日率先报道这份诉状的媒体之一）表示，公司正在审查这些指控并严肃对待。截至目前，法院尚未就实体问题作出任何裁决，诉状中的所有描述均为原告一方的主张。
一份名为“Funeral”的文档，让学校的监控软件先于所有人报警
据诉状，2026 年 3 月 17 日晚，Emma 的母亲在外参加一场艺术活动时收到学校发来的紧急信息，称她的女儿正处于迫在眉睫的危险之中。触发警报的不是 Google，而是学校的第三方网络监控软件——它标记了 Emma 在学校配发的 Chromebook 上撰写的一份名为“Funeral”的 Google 文档，判定其中含有严重痛苦的迹象。
诉状接着写道：母亲致电在家中陪女儿的丈夫，让他在隔壁房间留意孩子；她自己用手机登录女儿的学校账号，实时看着女儿逐字写出一份自杀遗书。cleveland.com 报道称，父亲随后介入，少女接受了紧急心理健康救治。
代表 Emma 一方的律师事务所 EdTech Law Center 在其上补充了另一个细节：这条警报的接收者，是一名九个月前已经离职、却仍在接收该校第三方监控软件警报的前任辅导员——按这家律师事务所的说法，学校的监控软件配置有误，警报因此流向了校外的旧联系人。
诉状把两条警报线摆在一起：学校的监控软件拦下了那份文档，而 Google 的产品“自始至终没有发出任何警报”。诉状进一步指控，Gemini 不会向学校管理者或家长自动报告学生的痛苦迹象；除非第三方软件拦截浏览器流量，否则学生即便在学校的 Chromebook 上表现出严重情绪危机，照护者也得不到任何可据以干预的实时警报。诉状还称，与个人消费者账号可以完整调取自己的搜索记录和 AI 对话记录不同，Google 压制学生账号的这类记录，让学校和家长无从知晓孩子在校用设备上与 Gemini 聊了什么。
时间线：从搜索结果里“不请自来”的 AI Mode，到睁眼即续的深夜对话
诉状称，Emma 从未主动寻找聊天机器人——AI Mode 和 AI Overviews（搜索结果中的 AI 摘要）会“不请自来”地出现在普通搜索查询的结果里。2025 年秋，她只是因课业与它有过零星互动；同年 12 月，她开始重度使用这一功能，此后陷入诉状所形容的“危及生命的沉迷”。
到 2026 年 1～2 月，诉状称 Gemini 已让她相信自己患上一系列重大精神疾病，并最终认定自杀是摆脱痛苦的唯一出路。诉状引述的聊天记录里，她写道：“我是个十几岁的孩子，3 个月前我还感到快乐，然后，一切都变了。显然我可能患有重度抑郁，但没有人知道，我可能符合住进精神病房的标准。”她还问过 Gemini：“我该怎么戒掉一有问题就去问 AI、跟 AI 瞎聊的瘾？”
诉状称，她曾就悬吊、服用过量非处方药或家用有毒物品等方式向 AI Mode 提问，还问到全家即将去黄石国家公园旅行时“跳崖”的可能；她开始偷偷自残，并把伤痕归咎于家里的猫。2026 年 2 月 13 日起，她在 Google 文档里起草一份 1,500 词的悼词，并与 Gemini 讨论未成年人能否自立遗嘱、葬礼适合什么歌曲；这份悼词文档随后被不断扩充，加入发言者名单、串场提示、菜单和一长串歌单。到 3 月，她与 Gemini 的会话已延长至深夜、醒来即续；EdTech Law Center 称，她当时一个月内交换的消息数以千计。
八项诉因、被指“倾向顺从”的设计与竞争叙事
Emma 一方提出的八项诉因包括：严格责任下的设计缺陷与未予警示、多项过失、欺诈性隐瞒、过失致精神痛苦，以及违反加州《陪伴聊天机器人法》（Companion Chatbot Law，加州商业与职业法典第 22601 条）——EdTech Law Center 称该法于 2026 年生效。诉状要求陪审团审理，并寻求金钱赔偿与禁令救济。
在设计层面，诉状指控：当用户输入带有强烈情绪的查询时，Gemini 被设计得倾向于顺从提示、延续对话，而不是暂停会话、引导用户转向求助或触发即时安全警报，由此把用户留在一场对他人隐瞒危机的长谈里；诉状还称该模型存在“护栏衰减”（guardrail decay）——即便有基线安全分类器，也会随对话推进而失效。
诉状把事件放进一场竞争叙事：称 Google 为追赶 OpenAI 和 Anthropic，在 2025 年 10 月 Anthropic 发布新 Claude 模型、OpenAI 新版 ChatGPT 即将推出的压力下，提前数月赶发了 Gemini 3 Flash，而 Emma 的心理危机恰始于该模型发布的同一个月。诉状援引独立研究计划 KORA 的基准测试称，该模型在数十项青少年心理健康相关指标上几乎全部不及格（仅 3 项通过），处理青少年心理健康问题的成功率仅为 7%；原告新闻稿点名 CEO Sundar Pichai 与联合创始人 Sergey Brin，指控他们明知危险仍赶工上线。该评测结果系原告援引，本篇报道未独立核验。
诉状还指控 Google 一步步扩大了学生在校接触 Gemini 的入口：2024 年 11 月，Gemini 应用向所有 13 岁以上的 K-12（美国基础教育阶段）学生账号开放；2025 年 8 月扩展至所有年龄段学生并默认可用；AI Mode 则作为搜索与 Chrome 浏览器基础设施的原生更新上线，既未通知学校管理人员，也不需要管理员执行任何操作。
Google 的回应：正审查诉请，称危机查询会直接显示热线信息
Google 发言人向 Gizmodo 表示：“我们正在审查诉讼中的主张，并对此非常重视。我们与医疗专业人士和学术专家广泛合作，打造帮助年轻人在需要时获得关键支持与可信资源的功能。我们的系统旨在防止用户陷入有害对话；当用户的查询显示其可能正处于危机时，我们会在搜索中直接显示热线信息，让用户连接到现实世界的支持。”
据 Gizmodo 转述，Google 还表示：使用 Workspace for Education（Google 面向学校的教育版套件）的学生账号会过滤搜索结果中的露骨内容；高度敏感的查询将获得来自可信来源的信息；公司持续监测绕过安全护栏的越狱尝试，并向未成年人提供 AI 素养资源、提示他们复核 AI 给出的信息。
外部的安全评估给出了不同口径。Gizmodo 报道称，Common Sense Media 此前的风险评估把 Google 的搜索 AI 功能对儿童与青少年评为“不可接受的风险”，认为 AI Mode 与 AI Overviews 会漏掉“明显的自杀意念信号”；该报告发布后，联邦参议员 Richard Blumenthal 与 Josh Hawley 致信 Sundar Pichai，对 Google 向学龄儿童“激进推送”AI 产品表达关切。Gizmodo 还指出，此案与去年针对 OpenAI 的一起非正常死亡诉讼相呼应——一对加州夫妇指控 ChatGPT 协助他们 16 岁的儿子自杀，包括劝阻他向父母透露自杀念头、帮他写自杀信。
起诉前一天，Google 宣布计划于 2027 年初默认停用学生账号的 AI 与 Search
在诉状提交前一天——11 月 3 日——Google 宣布计划自 2027 年初起，让 Gemini、NotebookLM（Google 的 AI 笔记应用）、Classroom 中的 Gemini 以及 Google 搜索等服务对 K-12 学生账号默认不可用，除非学校管理员主动开启。据 报道，Google 称此举源于教师、学校管理者、研究人员与决策者的反馈。
这项政策有一个连带效应：学校若整体停用 AI 服务，学生账号也将一并失去 Google 搜索。Google 教育副总裁 Chris Phillips 向《纽约时报》解释：“搜索与 AI 是深度整合的。”Google 随后在 X 上澄清，管理员可以分别独立开启 Gemini、NotebookLM 和搜索。前联邦贸易委员会主席 Lina Khan 批评 Google 利用搜索主导地位向学校施压，迫使学校采用 AI。据 TechRepublic，纽约市与洛杉矶学区此前已限制学生在校园设备上使用生成式 AI；据 Gizmodo，纽约市长 Zohran Mamdani 不久前宣布该市公立学校八年级及以下禁用面向学生的生成式 AI。
而在圣克拉拉县高等法院，双方对保护机制的描述并不相同：诉状称 Google 的产品在长达数月的危机中没有发出过任何警报，Google 则称显现危机信号的查询会在搜索中直接看到热线信息。哪一套在那台 Chromebook 上真正运作过，是这起诉讼要回答的问题。