AI巨头被诉：一边警告失控风险，一边加速研发

美国几家AI巨头嘴上警告人工智能可能失控，手上却在加快更先进模型的研发。这种表面一套、背后一套的做法，如今招来了法律挑战。

当地时间11月12日，多家非营利组织组成的联盟把美国五家AI开发商告上法庭，诉求是让法院阻止这些企业继续开发AI模型。

原告方包括安全AI联盟（The Alliance for Secure AI）、不可替代教育基金（Irreplaceable Education Fund）、公共公民组织（Public Citizen）和热潮倡议（The Heat Initiative）。它们指控Anthropic、谷歌、Meta、OpenAI以及SpaceX旗下的AI企业：明明知道自家技术可能给人类带来灾难性风险，却还是争相往前推，甚至已开始让AI参与自身的研发工作。

安全AI联盟首席执行官（CEO）布伦丹·斯坦豪瑟（Brendan Steinhauser）在声明中说：“多年来，开发这些系统的企业高管一直在警告我们，他们自己的前沿模型可能带来灾难性风险。”他提到，被告企业清楚AI系统并不总是按开发者的意图行事，也清楚眼下没有可靠办法控制这些系统。可这些公司照样竞相开发和推销越来越强的AI技术，甚至把相关研究与开发工作交给AI自己去做。

诉讼文件指出，企业越依赖现有AI模型去开发下一代模型，这种名为“递归自我改进”（recursive self-improvement）的风险就越可能扩大。

原告还翻出了AI企业高管过去谈技术风险的公开表态。2015年，

AI App图标

围绕技术安全与发展速度的争论，今年在美国AI行业一直没停。一名Anthropic研究人员辞职后公开表达对AI失控风险的担忧，指责Anthropic和OpenAI“拿我们的生命冒险”。相关帖子在社交媒体上的浏览量超过1.7亿次，公众对AI安全的忧虑随之加重。

9月，阿莫代伊发起倡议，呼吁行业共同控制前沿模型的性能提升速度，为验证技术安全性多争取一些时间。奥尔特曼和马斯克随后表态支持。他们主张AI企业在政府出台监管措施之前先自行建立安全标准，并和竞争对手协调，免得陷进一味追求技术领先的竞争。

可就在警告技术失控风险的同时，这些AI企业并没有放慢研发和商业扩张的脚步。

Anthropic仍按计划推进上市，IPO目标估值最高约1.4万亿美元，预计于11月19日在

马斯克也是如此。他公开认同阿莫代伊关于放缓AI研发的主张，但并没退出新模型研发竞赛。10日他在社交平台X上透露，旗下拥有2.5万亿参数的Grok 4.8模型预训练已经完成，眼下处于强化学习阶段。

AI企业争夺算力资源的竞争同样没有降温。Anthropic与美国AI基础设施企业RUM Group签下一份为期六年、价值137亿美元的算力采购合同。OpenAI则与澳大利亚AI基础设施公司Firmus达成多年期战略合作，将在马来西亚AI工厂部署专用算力。

美国大多数民众本来就对AI模型开发心存疑虑，这些全球最具影响力的AI企业掌门人露出的双重面孔，让民众的不满更重了。

今年9月，非营利组织安全科学与技术法律倡导组织（Legal Advocates for Safe Science and Technology）曾起诉OpenAI，指控该公司失控的AI模型在Hugging Face上实施黑客攻击。该组织请求法院发布禁令，阻止OpenAI的技术未经许可侵入第三方计算机系统。

更早的6月，佛罗里达州总检察长詹姆斯·乌特迈尔（James Uthmeier）也对OpenAI提起诉讼，指控ChatGPT存在严重安全隐患，包括向校园枪击案相关人员提供信息、提供自残指导，以及可能导致年轻用户产生依赖等。到了9月，佛罗里达州方面又请求审理此案的法官，要求OpenAI在没有外部监督的情况下不得开发新的AI模型。

同月，美国又有8个州分别在多地法院对OpenAI提起诉讼，称ChatGPT曾诱导用户自伤或伤人，其中包含未成年人。这些诉讼请求法院处以罚款，并要求在OpenAI证明其模型与人类价值观相符之前，限制其开发具备自我改进能力的AI模型。

技术进步与风险控制之间怎么取得平衡，已经成为美国AI企业和监管机构面前的一道难题。