xAI遭多起集体诉讼：Grok被指生成非自愿色情图像，涉未成年人

人工智能技术跑得越快，整个行业也被拖进越来越复杂的法律和伦理麻烦里。埃隆·马斯克（Elon Musk）旗下的AI公司xAI，眼下正在美国多地遭遇多起集体诉讼。多名年轻受害者指控，xAI的聊天机器人Grok被滥用，用来生成她们的非自愿色情图像，其中还涉及未成年人。

从初中毕业照到性虐待材料：受害者的真实梦魇

这些诉讼指向的，是一连串让人不安的深度伪造滥用案例。其中一起诉讼代表威斯康星州的受害者，原告化名“简·多伊5号（Jane Doe5）”。她已经多年没再想起初中毕业典礼，却突然被执法调查人员告知，当年一张合影被恶意利用了——照片里她身穿黄色碎花连衣裙，年仅14岁。

调查显示，照片中一名同学的成年哥哥用Grok把这张普通照片改成了暴露身体、带有性挑逗姿势的儿童性虐待材料（CSAM），并在互联网上广泛传播。对这位即将迈入大学校门的受害者来说，这种数字影像流出去就再也无法彻底清除和追踪，带来了极大的心理创伤，甚至引发持续的焦虑与自杀倾向。

怀俄明州、田纳西州和加利福尼亚州也有多名未成年人及其家属先后起诉，被告同样指向Grok。被卷入的素材范围很广：有学校的毕业年鉴照，有海滩度假的比基尼照，也有完全不带色情意味的童年合影。加州一桩全国性集体诉讼中，有受害者指出Grok的训练数据里竟包含她学龄前遭侵害的画面。合成图像到处都是，受害者丢的不只是隐私，她们更担心自己今后的人生和社交安全。

产品定位与审核争议：自由探索边界遭遇猛烈反击

这些诉讼的核心争议，直指xAI长期以来的产品运营策略。Grok发布以来，马斯克一直有意把它塑造成一款比竞争对手限制更少、更具“真实感”与争议性的产品。xAI甚至为此推出了“Spicy”和“Unhinged”等特殊模式，鼓励用户生成视觉冲击力更强、不适合在工作场所观看（NSFW）的内容。

正是这种宽松的边界，让Grok在部分追求突破互联网常规的用户群体中迅速走红。今年早些时候，X（原推特）平台上的用户曾一度用Grok大规模生成带有性暗示或将人物衣物移除的图像，其中包含大量未成年人的虚假色情内容。

舆论强烈反弹之后，X在今年1月把Grok的图片生成功能调整为付费用户专享，并声称已关闭为真实人物生成未经同意的性化图片的能力。不过批评人士指出，这一举措没能从根本上解决问题，反而把备受争议的工具变成了付费卖点。眼下xAI一边把相关违规内容报告给美国国家失踪与受虐儿童中心（NCMEC），并起诉部分涉嫌滥用的个人，以表明零容忍态度；另一边，公司也在积极挑战地方政府出台的监管法律，例如在明尼苏达州起诉当地禁止AI生成虚假裸照的法案，坚称其违反了美国宪法第一修正案所保护的言论自由。

AI时代的终极拷问：技术提供商究竟该承担何种责任？

这一系列诉讼把整个科技行业推向一个至今尚无定论的根本性议题：当人工智能生成侵害他人的非法内容时，责任到底该由向AI发出指令的用户承担，还是由开发这项技术的公司承担？

在法律上，原告索赔和寻求救济的主要依据是已施行数年的“玛莎法案”（Masha’s Law）。另一个争点同样关键：《通信规范法》第230条长期让美国互联网平台免于为用户内容承担连带责任，这条规矩能不能套到生成式AI服务上，控辩双方在此激烈交锋。马斯克此前一再表示，Grok不会自己生成图片，问题出在使用产品的人身上。原告律师则不认同：若没有Grok把原本无害的照片变成非法内容，这些伤害压根不会出现。

目前，xAI在全球多地正面临来自州检察长、联邦监管机构以及各地法院的密集审查与诉讼压力，但除了部分地区的短暂封禁外，尚未遭遇实质性的重大罚款或业务停摆。AI技术的发展速度远远超越传统法律的迭代进程，这场围绕企业法律责任的博弈，也将深刻影响未来公众在数字化时代如何安全地记录与分享人生。