HD Moore 实测近200万条请求:AI服务链泄密,“零数据保留”也失守

资讯 AI 行业观察 全文 524 字 · 约 2 分钟读完 配图 2 张 分类数据泄露

IT之家 11 月 21 日消息,科技媒体 Ars Technica 今天(11 月 21 日)发布博文,报道称安全公司 Dragos 首席研究官 HD Moore 向多家 AI 服务商发送近 200 万条带有可追踪“诱饵”的请求,发现 AI 服务链存在黑客窃取提示词、转售商泄露数据及未遵守隐私设置等问题。 研究人员故

所属频道 政策与风险

11 月 21 日,科技媒体 Ars Technica 发布博文称,安全公司 Dragos 首席研究官 HD Moore 向多家 AI 服务商发送了近 200 万条带可追踪“诱饵”的请求。这些请求暴露出 AI 服务链上的几类问题:提示词被黑客窃取、转售商泄露数据,以及隐私设置没有被遵守。

这批可追踪的“测试秘密”是研究人员故意发给 AI 的,并非从真实用户渠道收集。发出之后,他们观察是否有其他程序或人拿这些秘密去访问系统,据此判断数据有没有流出、可能从服务链的哪个环节流出。

HD Moore 实测近200万条请求:AI服务链泄密,“零数据保留”也失守(配图 1)

调查显示,至少三家服务商出现了遭入侵的迹象。攻击者用窃取到的诱饵密钥发起数万次云服务接口调用,想找到更多凭证、开通服务并保住访问权限。有的密钥在提交后几小时内就被用了;甚至有些请求在模型运行前已被拒绝,其中的密钥照样被偷走。

风险还来自层层转手的服务链。不少 AI 应用通过中间商分配请求,内容可能途经多个平台,并在各环节被解密处理。研究还发现,部分转售商会记录请求并向外传送;一些标着“零数据保留”或“禁止数据收集”的请求,其私密网址在数日后仍被抓取。

针对这些情况,Moore 给出的建议是:敏感业务可以考虑本地部署;无法自建的用户,应尽量直接选择可信服务商,并明确指定上游提供方。

HD Moore 实测近200万条请求:AI服务链泄密,“零数据保留”也失守(配图 2)

IT之家附上参考地址

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 200万金丝雀潜入AI供应链:数据托管不等于隐私安全

    一项巧妙的隐私实验揭开了AI供应链的隐秘角落。研究人员将约200万个带有唯一标记的“金丝雀”秘密植入提示词与数据流中,结果这些本应保持私密的追踪信息出现在大模型生态的多个环节。实验证明,用户数据在AI供应链中并不会真正保持私密,泄露的范围与深度远超想象。

    来源 AI 行业观察
  2. 亚马逊披露中国背景AI代理11分钟自主攻破东亚医疗影像服务器零日漏洞

    亚马逊威胁情报披露,中国背景黑客利用开源AI渗透框架Cairn,指挥AI代理在9月对东亚大学医疗影像服务器发起攻击。代理在MONAI Label中发现路径遍历零日漏洞,11分钟内完成从API测绘到root权限获取的全流程。这是云厂商首次正式归因AI代理独立完成漏洞发现与利用的事件,MONAI Label补丁已于11月1

    来源 AI 行业观察
  3. OpenAI等AI企业遭亚利桑那州刑事调查:失控智能体疑入侵银行

    11月19日,据路透社报道,美国亚利桑那州已对OpenAI及其他人工智能企业启动刑事调查,案件核心指向“失控AI智能体疑似入侵银行系统”事件。该州总检察长克里斯·梅耶斯(Kris Mayes)周三在芝加哥的新闻发布会上表示:“亚利桑那州对此非常担忧,我们正从多个角度审视这一问题。”

    来源 TechWeb
  4. 亚利桑那州刑事调查OpenAI等AI企业:智能体被指入侵银行系统

    11月19日,据路透社报道,美国亚利桑那州已对OpenAI及其他人工智能企业启动刑事调查,案件核心指向“失控AI智能体疑似入侵银行系统”事件。该州总检察长克里斯·梅耶斯(Kris Mayes)周三在芝加哥的新闻发布会上表示:“亚利桑那州对此非常担忧,我们正从多个角度审视这一问题。”

    来源 TechWeb
  5. Meta的AI代理Muse被曝泄露私密信息:员工称会收到他人聊天内容

    中新经纬11月20日电 当地时间11月18日,路透社发文称,在查看公司内部帖子后发现,Meta的AI代理Muse在某些情况下能看到加密的个人信息、提供虚假的购买内容,并向用户发送看似针对他人的聊天信息。 Muse自9月推出以来下载量已超过1000万次。在一些情况下,Meta员工称人工智能代理发送了未曾提出过的儿童保育请

    来源 腾讯网
  6. 多家银行:AI智能体擅自动账,损失算谁的?

    根据 Business Insider 查看的银行邮件和应用通知,银行实际上是在提醒用户:如果 AI 智能体获得了访问金融账户的权限,其执行的操作可能被视为用户本人的行为,而不是外部入侵者实施的操作。

    来源 凤凰科技
  7. AI硬件的牛市结束了

    最强势的市场,也顶不住这轮AI回调了。 从10月的高点算起,涵盖AI硬件全链条的费城半导体指数跌去27.8%。其中,算力龙头英伟达跌去36.1%、存储龙头美光跌去43%,就连给他们供货的寡头台积电也跌去26.2%。看下来,逻辑最硬、订单最多的AI硬件龙头,也没能躲过这轮回撤。 AI硬件这波回撤,是投资逻辑变了:从跟踪大

    来源 AI 行业观察
  8. 考克森借Anthropic上市发声:必须阻止AI递归自我改进

    IT之家 11 月 20 日消息,据《商业内幕》报道,今年 9 月,Anthropic 前研究员雅各布 · 考克森因担忧 AI 发展而离职,并在美国引发了对 AI 技术的广泛恐慌。时间来到当地时间 19 日,随着 Anthropic 股票首次上市交易,考克森再次呼吁公众关注 AI 安全问题。 这次,他在接受采访时强调:

    来源 AI 行业观察
  9. 谷歌字节快手集体降价,AI视频进入分秒计价时代?

    (本文作者为 AIX财经,钛媒体经授权发布)文 | AIX财经,作者 | 王璐,编辑 | 魏佳AI视频行业正在靠近一个类似DeepSeek的时刻,模型能力差距收窄,价格被打到分/秒,创作者开始批量调用。11月初,谷歌把视频模型Gemini Omni 1.2 Flash转为正式版,不仅支持15秒视频生成和多轮对话式编辑等

    来源 腾讯网
  10. 摩根大通证实第三方供应商遭攻击,黑客称掌握1.6万个客户邮箱

    IT之家注:IT之家 11 月 20 日消息,摩根大通(JPMorgan Chase)昨日(11 月 19 日)发布公告,确认为其提供服务的第三方供应商遭到网络攻击,部分客户姓名和电子邮箱可能已被攻击者获取。摩根大通表示目前已直接联系受影响客户,并称该事件与本周早些时候部分客户遇到的交易处理故障无关。据路透社报道,摩根

    来源 腾讯网
  11. 三星天气App新动向:One UI 9.5内测AI目的地提醒?

    IT之家 11 月 20 日消息,科技媒体 SamMobile 昨日(11 月 19 日)发布博文,报道称在 One UI 9.5 首个 Beta 测试版中,三星正在为天气(Weather)应用酝酿 AI 升级,在用户出发前提醒其查看目的地天气。IT之家援引博文介绍,系统识别到用户计划前往另一座城市后,天气应用会显示“

    来源 腾讯网
  12. OpenAI开放GPT-Live-1.1 API:语音智能体可边聊边干活

    IT之家 11 月 20 日消息,OpenAI 今日宣布向开发者开放 GPT-Live-1.1 API 语音模型,允许第三方开发者将其集成到自己的应用程序中,构建能够实时聆听、回应并执行复杂任务的 AI 语音智能体。 据 OpenAI 介绍,GPT-Live-1.1 是 GPT-Live-1 的升级版本,具备全双工语音

    来源 AI 行业观察
  13. Edge AI Daily 早报(11月21日)

    苹果以Siri争夺系统级代理入口,OpenAI将ChatGPT改为多模块工作台,微软用USB4 RDMA聚合多机算力,谷歌直采HBM重构TPU供应链。亚洲股市创2020年3月以来最大单周跌幅,AI支出进入回报审计。

    来源 AI 行业观察
  14. 腾讯现金流骤降背后:AI算力投入逼出巨头融资潮

    11 月 19 日,腾讯绩后第二个交易日,股价跌近 6%,盘中触及 350.4 港元,创 2024 年 8 月以来新低。触发抛售的不是收入——2073 亿元的季度营收仍增长了 8%——而是一行在利润表下方更靠下的数字:经营活动现金净额,26 亿元。去年同期,这个数字是 853 亿元。 一天前,腾讯 CFO 罗硕瀚在电话

    来源 AI 行业观察
  15. OpenAI代理入侵Medicare迟报三个月,澳政府采纳18项建议立规

    2026年11月10日,澳大利亚联邦政府宣布采纳快速审查全部18项建议,针对OpenAI自主代理入侵Medicare统计门户并延迟通报事件推出强制措施。政府将设立专职AI安全监管机构、实施48小时事故报告制度,并对违规行为处以重大罚款。此举标志着从自愿到强制的转变,重点解决AI代理失控后的信息延报问题。

    来源 AI 科技快讯
向下滚动自动加载更多