HD Moore 实测近200万条请求:AI服务链泄密,“零数据保留”也失守
IT之家 11 月 21 日消息,科技媒体 Ars Technica 今天(11 月 21 日)发布博文,报道称安全公司 Dragos 首席研究官 HD Moore 向多家 AI 服务商发送近 200 万条带有可追踪“诱饵”的请求,发现 AI 服务链存在黑客窃取提示词、转售商泄露数据及未遵守隐私设置等问题。 研究人员故
11 月 21 日,科技媒体 Ars Technica 发布博文称,安全公司 Dragos 首席研究官 HD Moore 向多家 AI 服务商发送了近 200 万条带可追踪“诱饵”的请求。这些请求暴露出 AI 服务链上的几类问题:提示词被黑客窃取、转售商泄露数据,以及隐私设置没有被遵守。
这批可追踪的“测试秘密”是研究人员故意发给 AI 的,并非从真实用户渠道收集。发出之后,他们观察是否有其他程序或人拿这些秘密去访问系统,据此判断数据有没有流出、可能从服务链的哪个环节流出。

调查显示,至少三家服务商出现了遭入侵的迹象。攻击者用窃取到的诱饵密钥发起数万次云服务接口调用,想找到更多凭证、开通服务并保住访问权限。有的密钥在提交后几小时内就被用了;甚至有些请求在模型运行前已被拒绝,其中的密钥照样被偷走。
风险还来自层层转手的服务链。不少 AI 应用通过中间商分配请求,内容可能途经多个平台,并在各环节被解密处理。研究还发现,部分转售商会记录请求并向外传送;一些标着“零数据保留”或“禁止数据收集”的请求,其私密网址在数日后仍被抓取。
针对这些情况,Moore 给出的建议是:敏感业务可以考虑本地部署;无法自建的用户,应尽量直接选择可信服务商,并明确指定上游提供方。

IT之家附上参考地址