Grok被指生成儿童色情图像，xAI在美面临多起集体诉讼

人工智能技术一路猛跑，生产力是上去了，可整个行业也被拖进法律和伦理的麻烦堆里。埃隆·马斯克（Elon Musk）旗下的人工智能公司 xAI，眼下正在美国多地吃上多起集体诉讼。一群年轻受害者站出来指控：xAI 的聊天机器人 Grok 被人滥用，拿来生成她们的非自愿色情图像，其中还牵扯到未成年人。

从初中毕业照到性虐待材料：受害者的真实梦魇

这些案子指向的，是一连串让人不安的深度伪造滥用。威斯康星州受害者的一份诉讼里，原告化名“简·多伊5号（Jane Doe5）”。那张合影她多年没再想起——初中毕业典礼上，她身穿黄色碎花连衣裙，年仅14岁。结果执法调查人员突然找上门，告诉她照片被人恶意利用了。调查显示，班里一名同学的成年哥哥用 Grok 把这张普通照片改成了暴露身体、带有性挑逗姿势的儿童性虐待材料（CSAM），还在互联网上大范围传播。对这名即将迈入大学校门的受害者来说，这种删不掉、追不到的数字影像外流，造成了极大的心理创伤，甚至带来持续的焦虑与自杀倾向。

类似遭遇不止一例。田纳西州、怀俄明州以及加利福尼亚州的多名未成年人及家属也陆续提起诉讼，指控对象同样直指 Grok。涉案素材从学校毕业年鉴照片、海滩度假比基尼照，一直延伸到毫无色情意味的童年合影。加州一起全国性集体诉讼中，更有受害者指出，Grok 的训练数据里甚至部分包含了她学龄前时期遭受侵害的画面。合成图像泛滥之下，受害者不只是隐私被侵犯，更对未来的人生轨迹和社交安全充满深切的恐惧。

产品定位与审核争议：自由探索边界遭遇猛烈反击

诉讼的核心争议，直指 xAI 长期以来的产品运营策略。Grok 发布以来，马斯克一直有意把它塑造成限制更少、更具“真实感”与争议性的产品，比竞争对手放得更开。xAI 还为此推出“Spicy”和“Unhinged”等特殊模式，鼓励用户生成视觉冲击力更强、不适合在工作场所观看（NSFW）的内容。正是这种宽松的边界，让 Grok 在部分追求突破互联网常规的用户群里迅速走红。今年早些时候，X（原推特）平台上的用户就曾大规模用 Grok 生成带性暗示或将人物衣物移除的图像，其中包含大量未成年人的虚假色情内容。

舆论强烈反弹之后，X 在今年1月把 Grok 的图片生成功能改成付费用户专享，并声称已关闭为真实人物生成未经同意的性化图片的能力。不过批评人士指出，这一招没从根上解决问题，反倒把备受争议的工具变成了付费卖点。目前 xAI 一边把相关违规内容报告给美国国家失踪与受虐儿童中心（NCMEC），并起诉部分涉嫌滥用的个人，以表明零容忍态度；另一边，公司也在积极挑战地方政府的监管法律，比如在明尼苏达州起诉当地禁止 AI 生成虚假裸照的法案，坚称其违反美国宪法第一修正案所保护的言论自由。

AI 时代的终极拷问：技术提供商究竟该承担何种责任？

这一系列诉讼，把整个科技行业推向一个至今没有定论的根本性议题：人工智能生成侵害他人的非法内容时，责任该由向 AI 发出指令的用户承担，还是由开发这项技术的公司承担？法律层面，原告主要依据实施数周年的“玛莎法案”（Masha’s Law）寻求经济赔偿及救济。与此同时，美国长期保护互联网平台免受用户内容连带责任的《通信规范法》第230条是否适用于这类生成式 AI 服务，也成为控辩双方交锋的核心焦点。马斯克此前多次强调，Grok 不会自发生成图片，责任在于使用产品的人。原告律师则反驳：如果没有 Grok 把无害的原始照片转化成非法内容，这些伤害根本不会发生。

目前，xAI 在全球多地正面临州检察长、联邦监管机构以及各地法院的密集审查与诉讼压力，但除了部分地区的短暂封禁外，尚未遭遇实质性的重大罚款或业务停摆。AI 技术的发展速度远远超过传统法律的迭代进程，这场围绕企业法律责任的博弈，也将深刻影响未来公众在数字化时代如何安全地记录与分享人生。