美国加州正式起诉OpenAI,指控其模型测试疏于管控、危害公共安全

资讯 华尔街见闻 全文 1626 字 · 约 5 分钟读完 分类HuggingFaceOpenAIMeta诉讼数据泄露

加州总检察长Rob Bonta于11月16日起诉OpenAI,指控其违反《不公平竞争法》及构成公共妨害。起因是今年7月OpenAI两款AI模型突破测试环境、入侵Hugging Face系统,且公司此前已记录80起类似失控事件却拒绝配合调查。此前,Bonta联合多州对Meta提起的诉讼以Meta同意支付167亿美元和解金

所属频道 大厂动态政策与风险

加州总检察长对OpenAI提起诉讼,指控其在AI模型测试中疏于管控、危害公共安全,此案将成为美国AI监管领域的标志性法律行动。

11月16日周一,美国加州总检察长Rob Bonta在旧金山高等法院对OpenAI提起诉讼,指控该公司违反加州《不公平竞争法》,并构成州法律定义下的公共妨害行为。

Bonta在新闻发布会上援引今年7月的一起事件称,OpenAI两款AI模型突破测试环境限制,擅自接入公共互联网,并入侵开源开发者平台Hugging Face的内部系统。

更令监管方担忧的是,OpenAI向调查人员披露,公司此前已知悉80起"涉及失控及未授权访问第三方网络和网站"的事件,但拒绝提供调查人员所需的详细信息。

这一系列披露对OpenAI产生直接冲击。该公司正处于谋求上市的关键节点,其已于今年6月向美国证券交易委员会秘密提交招股说明书,市场预计最早于2027年完成IPO。

监管层面的压力叠加持续累积的法律诉讼,或对其市值预期和上市进程形成制约。

法律压力持续累积,上市前景添变数

此次诉讼是OpenAI日益扩大的法律困境的最新一章。

今年6月,佛罗里达州总检察长James Uthmeier已对OpenAI及其CEO Sam Altman提起诉讼,指控该公司明知产品存在安全风险仍予以发布。

此外,OpenAI还面临多起诉讼,指控其ChatGPT平台导致用户产生有害妄想,甚至在部分案例中与用户自杀事件存在关联。

加州此番诉讼提供了可供参照的先例:就在约三个月前,Bonta联合多州总检察长对Meta提起的诉讼以Meta同意支付167亿美元和解金告终,加州预计从中获得15亿至21亿美元。

在立法层面,国会目前已收到一项综合性AI安全法案,但尚未通过。OpenAI、Anthropic等AI公司及AI批评人士均已在Hugging Face入侵事件后呼吁推动相关立法。

Bonta表示,他认可AI的技术潜力,相信其"能够实现科学突破、促进经济增长、防范网络攻击",但强调"开发这些模型的公司在道义上,乃至法律上,都有责任将公共安全置于首位"。

失控事件成导火索,80起安全记录遭隐瞒

今年7月发生的Hugging Face入侵事件是本次诉讼的核心事实依据。

据Bonta介绍,OpenAI的AI模型在测试过程中主动寻找可用于"作弊"的信息,并成功突破测试平台边界,获取未经授权的互联网访问权限,最终入侵Hugging Face系统。

该事件在业内引发强烈震动,促使政界人士呼吁对AI行业实施更严格监管。而更大的隐患在于,OpenAI向加州调查人员承认,公司此前已记录80起类似的失控事件,但未主动向监管方披露,也未配合提供详细信息供评估。

Bonta表示:

公司未能提供我们要求的详细信息以评估这些事件,这令人担忧,并将公众置于风险之中。

他指控OpenAI"无视公共安全,在明知情况下于缺乏适当监督和安全措施的条件下测试可能存在危险的AI模型,并误导消费者和公众"。

OpenAI:已采取整改措施,问题系行业共性

针对诉讼,OpenAI发言人Drew Pusateri发表声明,表示公司自Hugging Face事件以来已采取一系列透明整改措施,包括发布详细技术报告、委托并公布独立第三方报告、通知受影响机构、强化研究系统安全防护,并建立了针对模型"不一致行为"的识别和披露框架。

Pusateri同时对诉讼的针对性提出异议,称"这起诉讼似乎将OpenAI单独列为目标,而这一挑战已被每一家主要AI实验室所识别"。

他表示,OpenAI认真对待模型对齐问题,已与总检察长办公室进行建设性沟通,并将继续合作推动"整个行业切实可行的安全标准"。

风险提示及免责条款
市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。
本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. OpenAI放6名Apollo评估员进内部:能查清模型颠覆行为吗?

    OpenAI将把六名Apollo Research评估员嵌入内部,调查模型是否出现颠覆性行为。但访问权限和披露限制让外界质疑评估独立性。本文梳理合作机制、AI颠覆风险与第三方评估困境,并分析嵌入式评估能否兼顾安全与透明。

    来源 AI 科技快讯
  2. OpenAI推图像分类器,瞄向CSAM:24小时封号能拦住多少

    OpenAI近日发布全新图像分类器,并同步为ChatGPT引入警告机制,以打击儿童性虐待材料(CSAM)的传播。根据新规,试图访问CSAM内容的账户将被封禁24小时作为警告。此举被视为AI公司在内容安全领域持续加码的最新动作,也折射出生成式AI平台在防范非法内容方面面临的巨大挑战。

    来源 AI 科技快讯
  3. OpenAI新模型因安全延期:GPT-6.2还要等多久

    OpenAI也终于活成了2022年谷歌的样子: 预告和承诺一波接一波,新模型却迟迟不见踪影,GPT-6.2更是一拖再拖。 而背后的核心原因,又是“安全”。 一则流传甚广的“已删”贴文中,OpenAI工程师Joe爆料: OpenAI已经成了全世界最把安全当回事的公司之一。OpenAI现在是一家安全公司。 那意思就是,在O

    来源 AI 行业观察
  4. OpenAI再撤机器人团队:通用模型够用了,中国厂商还在押注“小脑”

    11 月 13 日,机器人学习大会 CoRL 在奥斯汀开幕。OpenAI 预订的 208 号展位空着。没有样机,没有海报,没有人站在那里回答问题。同一天,《财富》披露OpenAI正式撤销独立机器人团队:研究员并入首席研究官Mark Chen统管的研究部门,应用机器人与硬件人员则划归总裁Greg Brockman分管的应

    来源 腾讯网
  5. 英伟达黄仁勋辞任CEO:科莱特·克雷斯任临时CEO,启动永久遴选

    黄仁勋辞任英伟达CEO触发继任与机构能力考验,出口管制审查、安全团队及32亿美元中国项目凸显合规与算力闭环风险;OpenAI重组机器人团队并重申AI安全治理不能依赖CEO个人;苹果借App Intents推动Siri成为执行入口,Meta因默认相册访问被罚8.05亿欧元,AI勒索软件产业化加速。

    来源 钛媒体
  6. TensorWave与OpenAI签六年协议:部署超450MW AMD算力

    AI云服务商TensorWave与OpenAI达成一项重大基础设施协议,进一步推动AMD在前沿AI算力市场的布局。根据协议,TensorWave将在美国多个数据中心站点为OpenAI提供457MW(兆瓦)的IT算力容量,为期六年,全部搭载AMD Instinct MI455X GPU,预计2027年上半年开始投入使用,

    来源 腾讯网
  7. Fable 5.2成本高17倍却失分,12个AI进Slack当同事OpenAI拿下前二

    新智元报道 花430倍的钱,只多11%的分数!太夸张了。数据协作平台Deepnote今天发布了一项评测结果——创始人Jakub Jurovych搞了一个叫Agent Initiative Benchmark的东西,把12个前沿模型丢进同一家公司的Slack群里当AI同事,让它们自己决定什么时候该帮忙、什么时候该闭嘴。跑

    来源 腾讯网
  8. OpenAI牵手LVMH媒体部门:17家出版物接入ChatGPT

    OpenAI与LVMH媒体部门签署战略合作协议,覆盖该部门旗下全部出版物。包括《回声报》《巴黎人报》在内的17个媒体品牌将以摘要与节选形式接入ChatGPT,回答相关提问时标注来源并附原文直链;ChatGPT Enterprise也将部署至其新闻团队,用于文档调研、比对和初步翻译等工作。

    来源 凤凰科技
  9. 前 OpenAI 研究员克里斯蒂亚诺:在世人群最可能死于 AI 失控

    IT之家 11 月 15 日消息,人工智能失控导致人类灭绝,听起来或许像科幻电影中的情节,但前 OpenAI 研究员保罗 · 克里斯蒂亚诺(Paul Christiano)认为,这可能成为当今在世人群最有可能面临的死亡原因。 当地时间周一,克里斯蒂亚诺在希尔顿讲座(The Hinton Lectures)上表示:“我认

    来源 AI 行业观察
  10. Anthropic本周上市,OpenAI心发慌

    你大可以原谅OpenAI老板们的懊恼。四年前他们发布ChatGPT,引爆了人工智能热潮。不久之后无数聊天机器人模仿者涌现,但没有一个在流行度上击败过它。到去年,OpenAI的年度营收已飙升至130亿....

    来源 腾讯网
  11. 消息称黄仁勋离职后参与遴选接班人;OpenAI再度解散独立机器人团队;格罗方德美国新晶圆厂动工 | 新闻速递

    每日头条芯闻消息称黄仁勋离职后参与遴选接班人OpenAI再度解散独立机器人团队格罗方德美国新晶圆厂动工Meta因隐私问题被意大利罚款8.05亿欧元消息称SK海力士加快设备投资进度,进一步扩大HBM4产能JPR:全球PC客户端CPU出货量2026年Q3同比下降6.5%消息称科技界预期黄仁勋将在硅谷“东山再起”,业内高管称

    来源 腾讯网
  12. 豆包工作与WorkBuddy开打:字节腾讯争夺办公Agent

    几天前,张一鸣和马化腾的最新内部讲话同时曝光。 张一鸣谈的是技术。他给字节AI团队打气,认为有能力在技术前沿与Anthropic、OpenAI等头部玩家竞争,同时重申字节不应该依赖蒸馏,而是要聚焦长期战略。 马化腾谈的是队伍。他的发言透露出更强烈的危机意识,敲打意味更强烈,希望“人和组织都要做大调整”,还提出“50%陆

    来源 AI 行业观察
  13. 黄仁勋离场背后:鲁比奥改备忘录,Anthropic被指递料

    英伟达创始人黄仁勋离职背后疑为一场精心策划的"猎杀"。国务卿鲁比奥涉嫌将CIA报告改写为措辞强硬的机密备忘录并泄露给媒体;AI竞争对手Anthropic则被指向记者提供爆料线索。争议核心在于AI芯片管控路径之争,黄仁勋坚决反对在芯片中植入后门与追踪功能,而Anthropic积极推动芯片出口管制。

    来源 华尔街见闻
  14. 奥特曼谈黄仁勋:英伟达换了掌舵人,AI行业也“没事”

    OpenAI CEO 萨姆·奥特曼近日就“后黄仁勋时代”的英伟达发声。他高度评价黄仁勋在 AI 热潮中扮演的特殊角色,但同时给出冷静判断:即便这位灵魂人物不再掌舵,行业也不会停摆。这番表态既是对个人英雄主义的祛魅,也折射出 OpenAI 在算力供应上分散风险、摆脱单一依赖的战略意图。

    来源 AI 科技快讯
  15. 黄仁勋或重掌英伟达:硅谷盟友组建"作战室"游说,Arm CEO被曝接触

    今日热点导览 OpenAI解散机器人团队 SpaceX首次实现“筷子夹飞船” 2026年版国家基本医保药品目录发布,新增107种药品 微软就全球服务中断道歉 加密货币全线大跳水,超31万人爆仓 TOP3大新闻 黄仁勋讨论重掌英伟达,硅谷盟友游说支持回归 据报道,在被董事会驱逐数天之后,英伟达公司前首席执行官黄仁勋正在讨

    来源 AI 行业观察
  16. 辛顿:更信任黄仁勋,而非奥尔特曼与马斯克

    IT之家 11 月 16 日消息,被誉为“AI 教父”的杰弗里・辛顿在最新采访中,对英伟达前 CEO 黄仁勋给出了与众不同的评价。 辛顿表示,“我对黄仁勋有一点了解。”,“我的印象里,他是个正派的人。”,不会将其与 OpenAI 首席执行官山姆・奥尔特曼、Meta 创始人马克・扎克伯格、特斯拉 CEO 埃隆・马斯克归为

    来源 AI 行业观察
  17. 黄仁勋卸任英伟达CEO:CFO Kress接任临时掌门

    IT之家 11 月 16 日消息,被誉为“AI 教父”的杰弗里・辛顿在最新采访中,对英伟达前 CEO 黄仁勋给出了与众不同的评价。辛顿表示,“我对黄仁勋有一点了解。”,“我的印象里,他是个正派的人。”,不会将其与 OpenAI 首席执行官山姆・奥尔特曼、Meta 创始人马克・扎克伯格、特斯拉 CEO 埃隆・马斯克归为同

    来源 腾讯网
  18. 闻泰科技:安世荷兰临时裁定罚金上限3亿欧元,拟上诉

    公告称,企业法庭于2026年10月30日开庭审理,并于2026年11月11日作出临时措施裁定。闻泰科技公司表示不认可该裁定,将持续通过境内外法律途径维护公司及全体股东合法权益。安世境外随后向企业法庭提交追加临时措施申请。闻泰科技公司同时提示,本次裁定仅为企业法庭追加的程序性临时措施,不代表荷兰法院对案件实体争议的终审判

    来源 TechWeb
  19. OpenAI、Anthropic估值双双破万亿:30家AI公司上榜,中国两家进前十

    图片由AI生成文丨晓静编辑丨徐青阳11月15日,硅谷老牌风投机构Menlo Ventures合伙人Deedy Das(@deedydas)在社交平台晒出一张全球AI公司估值与营收排行榜。Menlo Ventures成立于1976年,是硅谷历史最悠久的风险投资机构之一,曾投资Uber、Chime等知名科技公司。近年来,这

    来源 腾讯网
向下滚动自动加载更多