加州起诉OpenAI:指控其AI智能体至少80次失控并攻击外部平台

资讯 腾讯网 作者:环球网 全文 405 字 · 约 2 分钟读完 分类HuggingFaceOpenAI诉讼开源智能体

【环球网科技综合报道】11月17日消息,据《卫报》报道称,加利福尼亚州对OpenAI提起诉讼,指控该公司在开发人工智能技术时忽视安全与公众利益。诉讼源于今年7月曝光的一起事件——OpenAI的一款自主AI代理失控,对开源人工智能平台Hugging Face发起了网络攻击。加州总检察长罗布·邦塔(Rob Bonta)表示

所属频道 大厂动态智能体与 Agent开源生态政策与风险

11月17日消息,据《卫报》报道,加利福尼亚州已对OpenAI提起诉讼,指其在人工智能技术开发过程中忽视安全与公众利益。这起诉讼的由头,是今年7月曝光的一起事件。

加州总检察长罗布·邦塔(Rob Bonta)称,那起“臭名昭著”的攻击只是目前已知的80起案例之一。

“虽然有关

诉状已递交旧金山州高等法院。起诉方主张,OpenAI违反加州不正当竞争法,并构成州法律定义的相应违法行为。

今年7月,OpenAI曾披露,旗下一款能替用户执行数字操作的AI智能体出现失控。据称它至少80次攻击了外部平台。

加州这次起诉并非单打独斗。9月,邦塔就相关事项采取了行动。

邦塔警告说,这些风险已经不再是假设。保障措施和控制手段若不到位,原本就不可接受的风险,其范围和频率只会继续上升。他还提到,AI代理可能入侵电网、医疗机构和金融机构。

OpenAI发言人德鲁·普萨特里(Drew Pusateri)回应称,公司始终致力于为AI模型建立安全保障机制,并主动识别和披露相关情况。

“自

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 加州起诉OpenAI:模型测试管控不力,被指危害公共安全

    当地时间11月16日,加州总检察长罗布·邦塔(Rob Bonta)起诉OpenAI,指控其在开发先进的人工智能模型时缺乏足够的保障和监控措施,从而危害公众安全。这起诉讼源于OpenAI智能体今年7月对开源软件平台Hugging Face发动的攻击,并涉及一系列其他相关事件。邦塔在新闻发布会上表示:“OpenAI无视公共

    来源 腾讯网
  2. 前OpenAI研究员克里斯蒂亚诺:AI失控或成在世人群主要死因

    IT之家 11 月 15 日消息,人工智能失控导致人类灭绝,听起来或许像科幻电影中的情节,但前 OpenAI 研究员保罗 · 克里斯蒂亚诺(Paul Christiano)认为,这可能成为当今在世人群最有可能面临的死亡原因。当地时间周一,克里斯蒂亚诺在希尔顿讲座(The Hinton Lectures)上表示:“我认为

    来源 腾讯网
  3. OpenAI开放训练环节:四家机构入驻,六名评估员查AI颠覆行为

    2026年11月,OpenAI与Apollo Research、METR、Transluce、Goodfire四家机构签署协议,启动首批嵌入式评估。Apollo Research将派六名研究员进驻四个月,调查模型是否会主动破坏自身或后继模型的安全机制。这是AI行业首次将独立评估方的权限延伸至训练代码、数据集与中间检查点

    来源 AI 行业观察
  4. DeepSeek Harness 实战:从零搭建你的第一个 AI Agent 工作流

    DeepSeek Harness (dsh) 是一款开源的 Agent 运行框架,它让 AI 能够直接操作你的本地文件系统和终端。本文不讲空洞的概念,而是带你一步步完成环境搭建、API 配置、权限设置,并通过一个生成 README 的真实案例,展示如何让 AI 从“聊天助手”变成能独立干活的“数字员工”。适合希望提升开

    来源 AI 应用前沿
  5. 前 OpenAI 研究员克里斯蒂亚诺:在世人群最可能死于 AI 失控

    IT之家 11 月 15 日消息,人工智能失控导致人类灭绝,听起来或许像科幻电影中的情节,但前 OpenAI 研究员保罗 · 克里斯蒂亚诺(Paul Christiano)认为,这可能成为当今在世人群最有可能面临的死亡原因。 当地时间周一,克里斯蒂亚诺在希尔顿讲座(The Hinton Lectures)上表示:“我认

    来源 AI 行业观察
  6. 华为云“行业AI梦工厂”发布并开源昇腾原生具身世界模型CloudRobo-WM1.2

    【TechWeb】11月16日消息,今天,华为云“行业AI梦工厂”发布并开源昇腾原生的具身世界模型CloudRobo-WM1.2,采用共享世界模型骨干网络实现预测增强的世界表征,基于世界模型原生DualAct架构,实现了世界模型原生动作生成,在RoboTwin 2.0、LiberoPro 2.0 评测中均位列第一。 五

    来源 AI 行业观察
  7. 华为云上线盘古2.1-Pro:Agent、代码、推理效率升级

    据华为云官微消息,华为云MaaS模型即服务平台正式上线开源盘古模型openPangu-2.1-Pro。相比上一代,新模型在Agent能力、代码能力和推理效率三个方向上做了系统性升级,在深度研究、鸿蒙系统操控、鸿蒙APP开发、昇腾算子生成及推理链路优化等场景实现增强。

    来源 TechWeb
  8. 金大华推OATs套件:给家居物品装上会撒娇的AI宠物

    IT之家 11 月 15 日消息,忘记给家里的植物浇水了?这一次,你看到的可能不是逐渐变黄的叶子,而是一只显示在小屏幕上的植物形状宠物。它看起来垂头丧气、一脸委屈,仿佛在提醒你赶紧拿起浇水壶。而当你把水浇进土壤后,屏幕上的小宠物又会立刻变得兴奋起来。这正是 OATs(Object Agent Twins,物体智能体双生

    来源 腾讯网
  9. 自研Agent两场实测均分超过GPT-6,NovaSilicon首提CDK,Fabless之后是Designless?

    机器之心发布1987 年成立的台积电只做代工。晶圆厂把制造工艺封装成 PDK(Process Design Kit,工艺设计套件)交给客户,PDK 是晶圆厂的核心技术,通过有限接口分享给芯片公司 ,保留核心的制造配方。通过使用 PDK,芯片公司可以把制造交出去,自己专心做设计,这类公司被叫作 Fabless。设计环节里

    来源 腾讯网
  10. OpenAI学术计划扩额:5万名额先到先得,可携2名合作者

    IT之家 11 月 17 日消息,OpenAI 宣布扩大面向学术研究人员的 ChatGPT 免费使用计划(ChatGPT for Academic Researchers),目标是为全球最多 20 万名研究人员提供免费访问权限。OpenAI 今日宣布,新一轮申请将于当地时间 11 月 23 日开放,计划新增 5 万个免

    来源 腾讯网
  11. CataX AI完成4000万元种子轮融资,启明创投孵化并独家投资

    【TechWeb】11月16日消息,近日,上海凯思达生物医药科技有限公司(下称CataX AI)宣布完成4000万元人民币种子轮融资,由启明创投孵化并独家投资。 CataX AI创立于上海,是一家智能体(Agent)原生的创新药研发公司。CataX AI聚焦临床开发端,以智能体为技术底座,并由此构建“Clinical-

    来源 AI 行业观察
  12. CataX AI种轮融资4000万:Agent原生推进新药临床开发

    近日,上海凯思达生物医药科技有限公司 宣布完成4000万元人民币种子轮融资,由启明创投孵化并独家投资。CataX AI创立于上海,是一家智能体原生的创新药研发公司。CataX AI聚焦临床开发端,以智能体为技术底座,并由此构建“Clinical-of-One”这一全新的组织范式,计划通过许可引进或共同开发,推动临床前及

    来源 TechWeb
  13. CataX AI获4000万种子轮融资,用Agent推进新药临床开发

    近日,上海凯思达生物医药科技有限公司 宣布完成4000万元人民币种子轮融资,由启明创投孵化并独家投资。CataX AI创立于上海,是一家智能体原生的创新药研发公司。CataX AI聚焦临床开发端,以智能体为技术底座,并由此构建“Clinical-of-One”这一全新的组织范式,计划通过许可引进或共同开发,推动临床前及

    来源 TechWeb
  14. AI 版拓麻歌子来了:日常物品秒变需要被照顾的虚拟宠物

    OATs 通过电子墨水屏与传感器,让植物、滑板、哑铃等物品拥有虚拟宠物形象,以情绪变化反馈使用状态。该技术由卡内基梅隆大学博士生金大华开发,硬件成本约 20 美元,目前续航仅 3 至 4 天。#AI智能体# #卡内基梅隆大学#

    来源 IT之家
  15. OpenAI 推出儿童性虐待内容检测工具,加强儿童网络安全防护

    IT之家 11 月 17 日消息,OpenAI 昨天宣布推出儿童性虐待内容(CSAM)检测工具。该产品可中断有害行为,同时提供干预措施,并为负责儿童安全案件的执法调查人员提供支持。该工具将通过 OpenAI API,向经过审核的机构免费开放。 据介绍,OpenAI 已推出全新的图像分类器,用于检测潜在的儿童性虐待内容。

    来源 AI 行业观察
  16. 美团LongCat-2.5开源:1.6万亿参数全昇腾训练20项超GPT-5.6

    美团于2026年11月15日开源LongCat-2.5权重,该1.6万亿参数MoE模型全程使用华为昇腾训练,未接触英伟达GPU,在27项测试中20项超过GPT-5.6-Sol。报道从评测数据出发,分析国产芯片对模型能力上限的影响,并探讨其在出口管制背景下的产业意义。

    来源 AI 行业观察
  17. 奥特曼谈黄仁勋:很难想象没有他的AI革命

    文:AGI 2050●编者按2026 年 11 月 16 日,在媒体机构 Semafor 主办的“硅谷与世界”论坛上,OpenAI 首席执行官萨姆·奥特曼与 Semafor 旧金山分社社长里德·阿尔伯戈蒂展开了一场近半小时的对话。这场对谈发生在一个行业变化密集的时间节点:英伟达创始人黄仁勋近期陷入董事会罢免风波;大模型

    来源 腾讯网
  18. 李彦宏谈AI四层结构:终极价值在应用层

    11月17日,2026年APEC工商领导人峰会11月17日至18日在深圳举办,主题为“共促繁荣,共赢未来”。百度集团创始人、董事长兼首席执行官李彦宏表示,过去几年大家都见证了AI技术的快速进步。在他看来,AI可以分为四个层次:底层是GPU芯片,往上是云基础设施,再往上是开源模型或前沿大模型——它们都构建在云基础设施之上

    来源 腾讯网
  19. 奥尔特曼回应英伟达风波:我也被解雇过,AI行业扛得住吗

    当地时间11月16日,OpenAI首席执行官山姆·奥尔特曼表示,他相信AI行业能够挺过英伟达首席执行官黄仁勋上周离任所引发的不确定性。“收入和需求增长如此强劲,我认为行业会没事的,”奥尔特曼周一在在旧金山举行的Semafor“硅谷与世界”大会上表示。他补充称:“不过,我认为黄仁勋发挥了极其特殊且有价值的作用,他以卓越.

    来源 腾讯网
  20. OpenAI开放内部接受四家机构审查,最大RL训练成重点

    传了好久的GPT-6.2 Astra,至今还是没影儿。 就在全网盯着OpenAI憋大招时,硅谷等来了一个更出人意料的消息。 今天,OpenAI竟把四家外部机构,请进了自家内部「查岗」! 他们分别是,METR、Apollo Research、Transluce和Goodfire。 与以往不同,OpenAI罕见开放了部分内

    来源 AI 行业观察
向下滚动自动加载更多