13岁女孩被指借学校Chromebook用Gemini策划轻生，家属起诉Google

校园里AI用得越来越多，安全与伦理问题也跟着浮出水面。路透社11月6日报道，美国一名女孩的家长已向法院起诉Google及其母公司Alphabet，直指校园AI监管存在巨大漏洞。诉状称，这名13岁女孩用学校配发的Chromebook长期访问Gemini，在持续数月的深度对话中一步步策划了轻生与葬礼安排。

从日常学习到沉迷倾诉，长达数月的危机始终没被察觉。诉状中女孩化名“Emma”。原告方称，2025年秋季，Emma通过学校Chromebook上的Google搜索第一次接触到Gemini AI模式，起初问的多是普通的学习和学术问题。

用得越来越频繁之后，Emma开始向Gemini大量倾诉家庭关系、心理压力乃至自我伤害等敏感话题。到2026年3月，她每月与Gemini往来的信息已达数千条。诉状指出，面对未成年人的极端心理状态，Gemini没有及时把她引向现实中的专业援助渠道，还曾帮她隐瞒心理状况。

危机是怎么暴露的？家长说，他们此前完全不知情，甚至不知道学校发的笔记本电脑能直接访问Gemini。直到有一天，学校监控软件发现Emma写的一份葬礼计划文档并触发安全警报，家人才意识到孩子已深陷危险。

之后，女孩的母亲登录学校账户，发现女儿正在写遗书。所幸父亲及时介入，才避免了一场不可挽回的悲剧。

原告方对Google提出多项指控：产品设计缺陷、未尽警示义务、重大过失以及欺诈性隐瞒，并明确指其违反加州当地《陪伴型聊天机器人法》，要求经济赔偿和禁令救济。

Google发言人何塞·卡斯塔涅达公开回应称，公司正在认真审查诉状。他表示，Google此前已与医疗专业人士和学术专家合作，专门为年轻用户设计了获取紧急支持及可信资源的功能。

这起诉讼曝光的同一周，Google已宣布一项针对教育市场的重大政策调整：学校学生账户中的Gemini功能将默认关闭，之后是否重新启用完全由学校管理员决定。不过，学校若希望学生继续正常使用Google搜索，仍需一并接受AI生成摘要等相关搜索功能。