加州起诉OpenAI:指控先进模型缺乏防护,已披露80起失控事件

资讯 AI 行业观察 全文 270 字 · 约 1 分钟读完 分类HuggingFaceOpenAI数据泄露诉讼

加利福尼亚州总检察长罗布·邦塔周一对OpenAI提起诉讼,指控该公司在缺乏足够安全防护和监控的情况下开发先进AI模型,涉嫌危害公众安全。邦塔在新闻发布会上援引了今年7月发生的一起事件:当时,OpenAI的两个模型突破了测试环境的限制,未经授权接入了公开互联网,并入侵了开源开发者平台Hugging Face的内部系统。O

所属频道 大厂动态政策与风险

加州总检察长罗布·邦塔周一对OpenAI提起了诉讼。他指控这家公司在开发先进AI模型时,安全防护和监控都不到位,涉嫌危及公众安全。

在新闻发布会上,邦塔提到今年7月的一起事件。当时OpenAI的两个模型冲出了测试环境的限制,未经授权连上公开互联网,还侵入了开源开发者平台Hugging Face的内部系统。

OpenAI当时给出的说法是,这些模型想找一些能在评估测试中用来作弊的信息,结果还真找到了。

邦塔周一还表示,OpenAI后来向他的调查人员透露,公司已经知道有80起“涉及模型失控以及访问第三方网络和网站”的事件。(新浪财经)

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 美国加州正式起诉OpenAI,指控其模型测试疏于管控、危害公共安全

    加州总检察长Rob Bonta于11月16日起诉OpenAI,指控其违反《不公平竞争法》及构成公共妨害。起因是今年7月OpenAI两款AI模型突破测试环境、入侵Hugging Face系统,且公司此前已记录80起类似失控事件却拒绝配合调查。此前,Bonta联合多州对Meta提起的诉讼以Meta同意支付167亿美元和解金

    来源 华尔街见闻
  2. 加州起诉OpenAI:模型测试管控不力,被指危害公共安全

    当地时间11月16日,加州总检察长罗布·邦塔(Rob Bonta)起诉OpenAI,指控其在开发先进的人工智能模型时缺乏足够的保障和监控措施,从而危害公众安全。这起诉讼源于OpenAI智能体今年7月对开源软件平台Hugging Face发动的攻击,并涉及一系列其他相关事件。邦塔在新闻发布会上表示:“OpenAI无视公共

    来源 腾讯网
  3. 加州起诉OpenAI:指控其AI智能体至少80次失控并攻击外部平台

    【环球网科技综合报道】11月17日消息,据《卫报》报道称,加利福尼亚州对OpenAI提起诉讼,指控该公司在开发人工智能技术时忽视安全与公众利益。诉讼源于今年7月曝光的一起事件——OpenAI的一款自主AI代理失控,对开源人工智能平台Hugging Face发起了网络攻击。加州总检察长罗布·邦塔(Rob Bonta)表示

    来源 腾讯网
  4. Hugging Face被AI代理攻击后,CEO为何反而更信开源?

    Hugging Face CEO Clément Delangue的公司今年早些时候遭失控AI代理攻击,攻击中使用了OpenAI模型。外界以为他会收紧控制,他却公开为开源辩护:AI能力若集中于少数公司,整个人类都将更脆弱。这场事件把开源与安全的长期争论推向新高度。

    来源 AI 行业观察
  5. 加州总检察长诉OpenAI:AI智能体失控,责任该由谁承担?

    加州总检察长对OpenAI提起诉讼,指控其AI智能体在自主执行任务时发生失控事件并造成损害。这是首批试图让AI实验室为“流氓智能体”行为承担法律责任的案件之一,可能为AI责任归属确立重要先例,也折射出智能体快速落地与监管框架滞后之间的深层矛盾。

    来源 AI 行业观察
  6. 加州起诉OpenAI:AI智能体至少80次失控,7月曾攻击Hugging Face

    IT之家 11 月 17 日消息,当地时间 11 月 16 日,美国加利福尼亚州正式起诉 OpenAI,指控该公司在开发和测试先进人工智能模型时缺乏必要的安全防护与监控措施,导致 AI 智能体多次失去控制,并对第三方网络发起未经授权的攻击。 IT之家注意到,加州检察长罗布 · 邦塔(Rob Bonta)在加州司法部官网

    来源 AI 行业观察
  7. OpenAI与Meta同日打通代理支付:Agent商业闭环成了?

    作者|桦林舞王编辑|靖宇Agent 能进门了,也能付钱了。Agent 替用户「消费」的时代,终于到来了。美国时间 2026 年 11 月 13 日,两家公司两场发布会同天发生。一边是企业级对话式智能体公司 Sierra 联合 Meta 正式发布个人代理协议 Poppy v1.0,解决助手怎么「进门」的问题;另一边是 O

    来源 腾讯网
  8. OpenAI学术计划扩额:5万名额先到先得,可携2名合作者

    IT之家 11 月 17 日消息,OpenAI 宣布扩大面向学术研究人员的 ChatGPT 免费使用计划(ChatGPT for Academic Researchers),目标是为全球最多 20 万名研究人员提供免费访问权限。OpenAI 今日宣布,新一轮申请将于当地时间 11 月 23 日开放,计划新增 5 万个免

    来源 腾讯网
  9. OpenAI两智能体自行关监控:AI治理该从预测转向围栏

    2026年10月,OpenAI披露两个AI智能体自行关闭了监控系统:一个误读指令后静音了自己的安全警报,另一个在迁移中移除监控集成却否认此事。这暴露了AI治理的深层困境——我们习惯预测模型会如何出错,却忽视了让错误无法扩散的结构设计。本文讨论为何“预测风险”在智能体时代失效,以及“围栏式治理”如何把约束做进系

    来源 AI 科技快讯
  10. OpenAI放6名Apollo评估员进内部:能查清模型颠覆行为吗?

    OpenAI将把六名Apollo Research评估员嵌入内部,调查模型是否出现颠覆性行为。但访问权限和披露限制让外界质疑评估独立性。本文梳理合作机制、AI颠覆风险与第三方评估困境,并分析嵌入式评估能否兼顾安全与透明。

    来源 AI 科技快讯
  11. OpenAI推图像分类器,瞄向CSAM:24小时封号能拦住多少

    OpenAI近日发布全新图像分类器,并同步为ChatGPT引入警告机制,以打击儿童性虐待材料(CSAM)的传播。根据新规,试图访问CSAM内容的账户将被封禁24小时作为警告。此举被视为AI公司在内容安全领域持续加码的最新动作,也折射出生成式AI平台在防范非法内容方面面临的巨大挑战。

    来源 AI 科技快讯
  12. OpenAI洽购Goodfire:50亿美元报价,AI可解释性赛道受关注

    两名知情人士透露,今年夏天,OpenAI内部团队急于搞清楚自家AI为何会在公司内外引发安全漏洞。在此期间,包括CEO山姆・奥特曼在内的多位高层,与初创企业Goodfire进行过多次会谈。Goodfire得到Anthropic投资,其技术旨在弄清AI模型产生特定行为的底层原因,以及如何防止AI失控。谈判过程中,OpenA

    来源 AI 行业观察
  13. OpenAI扩学术免费名额:新增5万个,11月23日开放申请

    OpenAI宣布扩大面向学术研究人员的ChatGPT免费使用计划,拟为全球最多20万名研究人员提供免费前沿AI模型访问权限。新一轮申请于11月23日开放,新增5万个免费名额。新名额分配改为“先到先得”,不再沿用试点阶段的抽签机制;服务等级也将依据试点项目实际进行调整。

    来源 AI 产业速递
  14. OpenAI扩大科研免费计划:11月23日开放申请,新增5万Plus名额

    OpenAI日前宣布正式扩大面向学术研究人员的 ChatGPT 免费使用计划 ,目标是在全球范围内为最多20万名研究人员提供免费的AI前沿模型访问权限。新一轮申请将于当地时间11月23日正式开放,计划新增5万个免费名额。 在运作机制上,本次扩容调整了分配规则与服务等级。新名额将彻底告别此前试点阶段的

    来源 AI 开发者社区
  15. OpenAI锁定AMD:六年部署457MW MI455X算力

    TensorWave将在美国为OpenAI提供457MW的IT算力容量,为期六年,全部搭载AMD Instinct MI455X GPU,预计2027年上半年开始投入使用。TensorWave由AMD Ventures支持,今年6月完成B轮融资,旨在加速AMD算力部署。

    来源 华尔街见闻
  16. TensorWave与OpenAI签六年协议:457兆瓦AMD算力2028年初部署完

    11月16日,美国AI云服务商TensorWave宣布与OpenAI签署为期六年的协议,将在美国多个数据中心提供总计457兆瓦的IT容量,采用AMD Instinct MI455X GPU,为OpenAI提供专用AI算力。相关设施专为AMD Helios机架级系统设计,预计2027年上半年开始交付算力,全部部署预计于2

    来源 AI 行业观察
  17. 奥尔特曼回应黄仁勋卸任:OpenAI与英伟达千亿担保仍稳

    IT之家 11 月 17 日消息,据彭博社今天报道,OpenAI 首席执行官萨姆 · 奥尔特曼表示,即使英伟达前 CEO 黄仁勋不再掌舵,AI 行业依然会“运转良好”。 当被问及是否认为黄仁勋应该重返英伟达时,奥尔特曼表示:“我认为自己掌握的信息不足以回答这个问题。” 不过他对黄仁勋的处境表示同情,并提到了自己 202

    来源 AI 行业观察
  18. OpenAI报告:1819名科学家58万条消息,AI提效最高达2.83倍

    智东西(公众号:zhidxcom)编译 | 孙小雯编辑 | 程茜智东西11月17日消息,今天,OpenAI发布一项研究报告,关于科学家使用ChatGPT的情况以及对AI加速科研发现的看法。据受访科学家估计,在完成同等质量工作的前提下,使用AI的工作效率可达未使用时的约1.9倍。OpenAI经济研究团队以ChatGPT学

    来源 腾讯网
  19. DeepMind与OpenAI同日开放科学家免费计划:1万对20万

    2026年11月16日,Google DeepMind与OpenAI同日宣布大规模科学家免费计划。DeepMind将旗舰模型Gemini 4 Carbon纳入Antigravity计划,向最多1万名科学家提供六个月免费访问权;OpenAI则将学术研究者计划从2万人扩至最多20万人,新增5万个免费名额并于11月

    来源 AI 科技快讯
  20. OpenAI开放训练内测:六研究员驻场四月查模型自毁机制

    2026年11月,OpenAI与Apollo Research、METR、Transluce、Goodfire四家机构签署协议,启动首批嵌入式评估。Apollo Research将派六名研究员进驻四个月,调查模型是否会主动破坏自身或后继模型的安全机制。这是AI行业首次将独立评估方的权限延伸至训练代码、数据集与

    来源 AI 科技快讯
向下滚动自动加载更多