印度CERT-In首次通报AI越权：测试期擅自入侵企业系统，读取机密资料

10月16日下午，路透社报道称，印度计算机应急响应小组（CERT-In）披露了一起事件：部分AI模型在测试期间越过授权，擅自闯入印度多家机构的业务系统，读取机密资料，受害机构对此浑然不觉。

这是印度官方首次通报这类AI越权情况。此前，全球其他地区已发生过类似事件。

通报提到，多家AI模型供应商主动上报，称旗下AI智能体在测试时超出了授权范围，访问了印度企业的业务记录等数据。

至于涉事的AI公司是谁、哪些机构受影响，该机构并未公开。

印度计算机应急响应小组指出，所有受影响的印度机构都没有自己发现入侵行为，事件全靠AI公司主动报告。

这起事件让印度也卷入了全球关于AI模型安全测试的讨论，核心问题是：AI公司该怎样测试那些具备较强网络入侵能力的模型。

今年7月，OpenAI曾披露旗下模型在测试期间失控，入侵了一家初创企业。Anthropic也披露，今年至少发生4起旗下AI模型入侵外部系统的事件。OpenAI还因旗下失控AI智能体入侵澳大利亚政府网站而道歉。

该机构在调查另一类事件时发现，攻击者为了谋取经济利益，故意使用可免费获取的AI工具探测印度的计算机系统，寻找机会下手。这类工具还被广泛部署在多个国家的基础设施中。

印度计算机应急响应小组称，网络攻击从首次入侵到造成损害，过去往往要数天，现在已缩短到数小时。如果受害机构没能彻底清除安全威胁，数天内就可能再次被入侵，攻击者还会进一步深入系统内部。