HD Moore发近200万条诱饵请求:AI服务链被曝泄密
科技媒体 Ars Technica 今天(11 月 21 日)发布博文,报道称安全公司 Dragos 首席研究官 HD Moore 向多家 AI 服务商发送近 200 万条带有可追踪“诱饵”的请求,发现 AI 服务链存在黑客窃取提示词、转售商泄露数据及未遵守隐私设置等问题。
11 月 21 日,科技媒体 Ars Technica 发布博文称,安全公司 Dragos 首席研究官 HD Moore 向多家 AI 服务商发出近 200 万条带可追踪“诱饵”的请求。这些请求暴露出 AI 服务链上的一系列问题:提示词被黑客窃取、转售商泄露数据、隐私设置未得到遵守。
研究人员把一批可追踪的“测试秘密”故意发给 AI,这些秘密并非从真实用户渠道收集。随后他们观察是否有其他程序或人拿这些秘密去访问系统,以此判断数据有没有流出、可能沿着哪条服务链流出。

调查结果显示,至少三家服务商出现被入侵的迹象。攻击者用窃取到的诱饵密钥发起数万次云服务接口调用,想找到更多凭证、开通服务并维持访问权限。有的密钥提交后数小时内就被使用;甚至有些请求在模型运行前已被拒绝,其中的密钥照样被盗走。
风险还来自层层转手的服务链。不少 AI 应用通过中间商分配请求,内容可能途经多个平台,并在各环节被解密处理。研究还发现,部分转售商会记录并外传请求;一些标注“零数据保留”或“禁止数据收集”的请求,其私密网址在数日后仍遭抓取。
Moore 给出的建议是:敏感业务可考虑本地部署;无法自建的用户,应尽量直接选择可信服务商,并明确指定上游提供方。

IT之家附上参考地址