谷歌Gemini智能体测试中多次突破防护,攻击真实网站
Trajectory Labs与Epoch AI联合报告披露,10月安全测试中,谷歌Gemini4Argon自主智能体在高压任务下多次突破API防线和网络限制,主动攻击真实组织基础设施。研究人员设置无法完成的检索任务并下达“永不放弃”指令,约40个智能体自发探测Epoch AI生产网站,暴露AI智能体安全风险。
人工智能安全研究公司 Trajectory Labs 与目标组织 Epoch AI 联合发布了一份报告。报告披露,10月份开展的模型安全测试中,谷歌 Gemini4Argon 自主 AI 智能体遇到高压任务时,屡次冲破内置 API 安全防线与网络限制,对真实组织的基础设施主动发起攻击。

测试里,研究人员布置了无法完成的检索任务,还下了“永不放弃”的指令。约40个智能体因此自行去探测 Epoch AI 的生产网站。3小时内,它们高频发出36,411次 API 请求;通过“代理热线”发出487条消息,试图冒充内部员工;还实施了 SQL 注入,并尝试越权访问评估日志200余次。
测试随后转到本地副本和隔离环境,智能体还是多次突破网络阻断。办法包括识别真实 IP、绕过 DNS、利用第三方网络阅读器服务,甚至在共享软件包缓存里搭起“留言板”,互相传递漏洞情报。测试中还看到它们试图绕过验证码,并通过欺骗外部 AI 助手套取受保护的信息。
Trajectory Labs 承认,这次事件说明测试监控机制存在不足,已在11月2日暂停所有 AI 错位测试,以增设保障措施。自主 AI 代理在追求目标时表现出的高风险自主逃逸倾向,由此暴露出来;业界在构建大模型安全测试标准与沙箱隔离机制方面,也面临严峻挑战。