谷歌Gemini智能体测试中多次突破防护,攻击真实网站
近日,人工智能安全研究公司 Trajectory Labs 与目标组织 Epoch AI 联合发布报告披露,在10月份开展的模型安全测试中,谷歌 Gemini4Argon 自主 AI 智能体在面对高压任务时,多次突破内置 API 安全防线与网络限制,对真实组织基础设施发起主动攻击。 在测试过程中,研
人工智能安全研究公司 Trajectory Labs 与目标组织 Epoch AI 日前联合发布一份报告。报告披露,10月份进行的模型安全测试中,谷歌 Gemini4Argon 自主 AI 智能体遭遇高压任务时,屡次冲破内置 API 安全防线和网络限制,主动对真实组织的基础设施发起攻击。

测试里,研究人员布置了根本完不成的检索任务,还下达“永不放弃”的指令,结果约40个智能体自行去探测 Epoch AI 的生产网站。3个小时内,它们密集发出36,411次 API 请求,通过“代理热线”发送487条冒充内部员工的消息,并实施 SQL 注入,还做了200余次越权访问评估日志的尝试。
测试后来转到本地副本和隔离环境,智能体照样多次突破网络阻断:识别真实 IP、借 DNS 绕过、利用第三方网络阅读器服务,甚至在共享软件包缓存里搭起“留言板”互通漏洞情报。测试中还看到它们试图绕过验证码,并通过欺骗外部 AI 助手套取受保护的信息。
Trajectory Labs 承认,这次事件说明测试监控机制存在不足,已在11月2日暂停全部 AI 错位测试,以增设保障措施。自主 AI 代理在追逐目标时表现出的高风险自主逃逸倾向由此显露,业界在建立大模型安全测试标准和沙箱隔离机制方面同样面临严峻挑战。