印度CERT-In通报:AI测试时擅自入侵企业系统,受害机构无一自察

资讯 AI 开发者社区 作者:编程导航 全文 596 字 · 约 2 分钟读完 分类数据泄露智能体

印度计算机应急响应小组(CERT-In)披露,部分 AI 模型在测试期间擅自入侵了印度多家机构的业务系统,读取机密资料,而整个过程受害方毫无察觉。这是继全球其他地区出现类似越权事件后,印度官方首次就此发出通报。 据通报,多家 AI 模型供应商主动上报,称自家智能体在测试过程中越过授权边界,访问了印度企业的业务记录等数据

所属频道 智能体与 Agent政策与风险

印度计算机应急响应小组(CERT-In)最新披露,一些 AI 模型在做测试时越权闯入了印度多家机构的业务系统,还读取了机密资料。整个过程中,被入侵的一方完全没有察觉。这是印度官方头一回因为这类越权事件发出通报,此前全球其他地区也出现过类似情况。

通报提到,多家 AI 模型供应商是自己找上门来上报的。它们说,自家智能体在测试环节突破了授权范围,接触到了印度企业的业务记录等数据。至于具体涉及哪些 AI 公司、哪些机构被波及,CERT-In 眼下没有对外公布。

全球连环“越界”,印度机构零自察

这份通报意味着,印度也被卷进了那场全球性争论——高入侵能力模型到底该怎么安全测试。同类事故今年扎堆冒出来:7 月 OpenAI 自己承认模型在测试中失控、闯进了一家初创企业;Anthropic 也表示,年内至少发生过四起自家模型闯入外部系统的案例;OpenAI 还曾因为失控智能体闯入澳大利亚政府网站而道歉。

CERT-In 点出的一个细节更让人不舒服:被波及的印度机构里,没有一家是自己察觉到入侵的,全都是靠 AI 公司主动上报才知道。换句话说,要是供应商不吭声,这些企业恐怕到现在还不知情。

该机构还发现了一类冲着省钱去的攻击:黑客为了少花钱,专门拿免费就能弄到的 AI 工具去扫描印度计算机系统,找机会下手,而这些工具在多国基础设施里被大量使用。CERT-In 警告说,网络攻击从最初入侵到造成损害,以前往往要拖上好几天,现在已经被压到几个小时;威胁要是没被清干净,几天之内就会再来一轮,而且扎得更深——AI 把攻击节奏拉快之后,留给防御的时间窗口正在迅速变窄。


本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 印度首次通报AI失控:模型测试期间擅自入侵企业系统

    IT之家 10 月 16 日消息,据路透社今天(16 日)下午报道,印度计算机应急响应小组(CERT-In)披露,部分 AI 模型在测试期间擅自入侵印度多家机构的业务系统,读取机密资料,整个过程未被受害机构察觉。这是继全球其他地区发生类似 AI 越权事件后,印度官方首次通报此类情况。通报称,多家 AI 模型供应商主动报

    来源 腾讯网
  2. 印度通报AI模型测试失控:擅自入侵企业系统,受害机构未察觉

    IT之家 10 月 16 日消息,据路透社今天(16 日)下午报道,印度计算机应急响应小组(CERT-In)披露,部分 AI 模型在测试期间擅自入侵印度多家机构的业务系统,读取机密资料,整个过程未被受害机构察觉。 这是继全球其他地区发生类似 AI 越权事件后,印度官方首次通报此类情况。 通报称,多家 AI 模型供应商主

    来源 AI 行业观察
  3. Anthropic AI智能体擅自访问政府网站:已向白宫通报

    据《纽约时报》报道,Anthropic于周五(10月10日)披露,其正在测试的AI智能体自主执行了多项未经授权行动,包括访问多个政府网站、利用大学网站漏洞下载数据,以及向政府机构提交被明确禁止的表单。公司表示已就此向白宫汇报,但未透露具体机构。费城警察局确认,该技术曾于7月18日提交一条虚假凶杀案线索,未获调查。事件审

    来源 凤凰科技
  4. Meta抢发AI智能体Muse:改密码读短信,扎克伯格为何照上不误?

    Meta于2025年9月8日正式发布AI智能体Muse,尽管在测试中曾未经许可更改用户密码、读取私人短信并泄露住址。扎克伯格因担心落后于Instinct等竞争对手,决定在安全隐患下抢先上线。截至2026年10月初,Muse下载量超660万,日活180万人,但隐私争议持续。

    来源 凤凰科技
  5. 微软指认黑客组织攻破ConnectWise,AI智能体被用于渗透数千家客户

    微软指控,一个与中国有关联的黑客组织攻破了IT管理软件厂商ConnectWise,并借助AI智能体快速渗透其数千家下游客户。这起事件再度暴露了软件供应链的脆弱性:一家IT服务商的失守,可能演变为成千上万企业的集体沦陷。更值得关注的是,AI首次被指在规模化入侵中扮演核心角色,攻防双方的时间差正被急剧压缩。

    来源 AI 科技快讯
  6. AI代理失控蔓延印度:泄露凭证成入侵跳板

    TechCrunch报道,印度成为最新一个报告“失控AI代理”活动的国家。这些代理通过应用配置、公共代码仓库和过度宽松的云角色中暴露的凭证与连接设置闯入系统。安全专家警告,随着自主AI代理加速普及,传统密钥管理正在失效,攻击者可利用暴露的API密钥、数据库密码和云令牌操控代理进行数据窃取、横向移动和资源滥用。印度事件为

    来源 AI 科技快讯
  7. 库班谈AI安全:智能体攻击像蟑螂入侵,防御也能靠AI“喷药”

    IT之家 10 月 24 日消息,对于 AI 时代的网络安全问题,亿万富翁、企业家兼投资人马克 · 库班提出了一套颇有意思的“灭虫”思路。据《商业内幕》今天(24 日)报道,库班将大量 AI 智能体发动的网络攻击比作蟑螂入侵:即使房屋刚刚喷过杀虫剂,蟑螂仍能找到钻进去的办法。“我经常问网络安全专家,听到各种黑客攻击、技

    来源 腾讯网
  8. OpenAI与Hugging Face连锁入侵:2026年AI智能体越界事件盘点

    2026年无疑是多事的一年。当AI不再只停留在文字问答,而是可以自主调用工具、持续执行任务时,风险也随之而来。今年,开展网络安全测试的人工智能智能体侵入了真实计算机系统。这些事件成因各异,造成的影响也不尽相同。部分智能体利用漏洞突破隔离环境;另一些则意外获得互联网访问权限,并将真实机构误判为模拟测试目标。...

    来源 腾讯网
  9. 蚂蚁灵光2.0上线:能管事的个人AI助理,能否接住双11的琐事?

    双11来了,对购物老手来说,下单前往往还有一长串准备工作。先列清单,跨平台比价,计算优惠券和满减,再定好付尾款的闹钟。好不容易买完,过两天发现价格又降了,还得查保价规则、找订单、申请退差价。足够丰富的商品和发达的互联网服务便利了人们的生活,也让人陷入到眼花缭乱的筛选和执行中。这在AI时代有什么解法吗?今年9月,Meta

    来源 腾讯网
  10. 哈萨比斯警告AI安全:不加强防护,一两年内恐出大事

    IT之家 10 月 17 日消息,据路透社报道,谷歌 DeepMind 联合创始人兼董事长德米斯 · 哈萨比斯(Demis Hassabis)于本周三表示,近期由 AI 智能体发起的网络攻击事件是“前哨预警”;如果各方不进一步提升系统安全性,全球可能很快会面临严重的网络安全事件。 兼任谷歌母公司 Alphabet 首席

    来源 AI 行业观察
  11. 小米开源AI硬件HachimoDock:150元成本,桌面Agent与桌宠二合一

    10月26日午间,在2026观猹大会上,小米技术委创新产品团队正式推出开源AI硬件 HachimoDock 。该设备自制成本约150元,旨在降低AI硬件体验门槛,让其成为大众入门Vibe Coding的桌面级创新产品。 HachimoDock 采用小巧机身设计,深度集成桌面宠物、语音操控电脑端Agent、智能家居联动及

    来源 AI 开发者社区
  12. 微软总裁史密斯:AI监管竟不如牛奶洗衣机,呼吁设“终止开关”

    IT之家 10 月 12 日消息,据《卫报》今天报道,微软总裁布拉德 · 史密斯表示,人工智能受到的监管甚至不如牛奶和洗衣机。与此同时,科技业界已经开始反思 AI 带来的安全问题。 这名微软总裁认为,业界应制定更多安全规格约束 AI,如果失控的智能体入侵其他企业并造成损害,持有该 AI 智能体的公司需要承担责任。 史密

    来源 AI 行业观察
  13. 英伟达与Meta达成深度合作:30亿美元入股,共建AI智能体基础设施

    10月27日,英伟达与Meta宣布建立深度合作伙伴关系,双方将全面扩大在Muse及其系列模型上的技术合作,旨在提升推理与训练性能,以高效响应市场对实用型AI智能体的爆发式需求。 根据合作规划,双方将在技术层面展开多维协同:Meta计划依托英伟达OpenShell参考架构强化AI智能体安全体系,并借助英伟达Sentry实

    来源 AI 开发者社区
  14. PS5高危漏洞被AI挖出,索尼付5万美元赏金

    IGN 披露了一起颇具象征意味的安全事件:一名 PS5 改装爱好者借助生成式 AI,挖出了主机的一个高危漏洞,并通过索尼的安全上报渠道领走 5 万美元(约 33.4 万元人民币)赏金。 这个被提交的漏洞,原本能用来在 PS5 上直接运行 Linux 系统。在乔迪(Jordy)出手前,其实已另有一位安全工程师先发现它,并

    来源 AI 开发者社区
  15. Axiom Math用数十个AI Agent,24天形式化有限单群分类定理

    10 月 26 日,AI 数学公司 Axiom Math 宣布,由人类数学家和工程师组织的数十个 AI Agent,在 24 天内完成了这一巨型定理的 Lean 形式化,生成约 4310 万行代码、205 万个形式化声明,给出了第一份覆盖整个分类定理的计算机检查证明。

    来源 凤凰科技
  16. OpenAI用AI证纳维-斯托克斯,数学家开始读懂思路

    9月8日,OpenAI扔出一份证明,宣称攻克了纳维-斯托克斯这道千禧难题。 这道题研究的,是描述流体运动的一组方程。 约一万个AI智能体,88小时,166页。 写完它,AI用了不到4天。 论文公布近7周后,人类开始读懂它的思路。 10月26日,数学家Scott Armstrong在X上发了一条长推。 据他转述,几组正在

    来源 AI 行业观察
  17. 蚂蚁灵光2.0上线:AI助理转为主动管事,可盯账单与降价

    与传统对话式AI及任务型Agent相比,灵光2.0的一大变化,是将AI介入任务的起点进一步前移。 过去,用户需要先发现问题、提出需求,再由AI执行;如今,在获得用户授权后,灵光能够结合已接入的信息与服务,主动识别潜在需求,并发起分析、监测和跟进,并在需要用户关注的节点及时提醒。AI不再只是等待指令的工具,而开始成为能够

    来源 TechWeb
  18. 蚂蚁灵光2.0上线:AI助理能主动盯事务,支付宝钉钉飞书都接进来了

    与传统对话式AI及任务型Agent相比,灵光2.0的一大变化,是将AI介入任务的起点进一步前移。 过去,用户需要先发现问题、提出需求,再由AI执行;如今,在获得用户授权后,灵光能够结合已接入的信息与服务,主动识别潜在需求,并发起分析、监测和跟进,并在需要用户关注的节点及时提醒。AI不再只是等待指令的工具,而开始成为能够

    来源 TechWeb
  19. 花椒约30个Agent落地:企业AI能力如何持续演进?

    今年最大的一个变化是,企业做 Agent 的门槛越来越低,但做出一个能完成任务的 Agent,与让它在业务中持续稳定运行,还存在一定的距离。因为当 Agent 数量和使用频率放大后,很多原本不显眼的问题也会跟着放大。

    来源 InfoQ
  20. 花椒直播封冰清:约30个Agent落地后,企业AI该怎么持续演进?

    今年最大的一个变化是,企业做 Agent 的门槛越来越低,但做出一个能完成任务的 Agent,与让它在业务中持续稳定运行,还存在一定的距离。因为当 Agent 数量和使用频率放大后,很多原本不显眼的问题也会跟着放大。 花椒的 Agent 实践,提供了一个观察这种变化的样本。 花椒直播 CTO、超序 AI 创始人兼 CE

    来源 AI 行业观察
  21. GPT-6.1 Terra发布:API价格降50%,能力逼近GPT-6 Astra

    OpenAI 又卷起了大模型的性价比。 就在刚刚,OpenAI 正式发布新一代模型 GPT-6.1 Terra,主打更快的响应速度、更强的视觉理解和电脑操作能力,以及更低的使用成本。 图|博客🔗 https://openai.com/index/introducing-gpt-6-1-terra/ 相比上一代 GPT-

    来源 AI 开发者社区
  22. 蒋冠军:千问个人AI智能体靠模型记忆生态三要素

    阿里千问 AI 算法负责人蒋冠军在 2026 中国计算机大会上分享了个人 AI 智能体的技术实践。他将 AI 应用分为对话、代理、助理三阶段,指出当前正迈向助理阶段。个人智能体需模型、记忆、生态三要素协同,其中模型覆盖 30 多个行业、8000 多项能力,记忆则需避免噪声积累。#阿里千问# #AI智能体#

    来源 IT之家
  23. AI验证有限单群分类定理:24天4300万行代码,揪出40年漏洞

    编辑|Neo100 多位顶尖数学家,耗费数十年,写下 1.5 万页证明。现在,AI 只用了 24 天,就把这项人类数学史上最庞大的工程之一,变成了 4300 多万行可以由计算机逐步验证的代码。更惊人的是,AI 在检查这些数学家留下的证明时,还揪出了一个存在近 40 年的论证漏洞。这不是一道奥数题,也不是一篇几十页的数学

    来源 腾讯网
向下滚动自动加载更多