数据血缘:智能体跨系统调用数据如何不失控

资讯 AI 行业观察 全文 1167 字 · 约 3 分钟读完 分类数据泄露智能体安全对齐

智能体正改变企业运作方式,但多智能体间的数据流转也带来安全风险。当AI智能体从受限系统、内部通信和存档资料中提取数据,并在无人监督下转交下游智能体时,错误与泄露可能层层放大。数据血缘通过追踪数据从源头到使用的全过程,为智能体企业提供可审计、可控制的信任基础。

所属频道 智能体与 Agent政策与风险

一位销售代表向AI智能体打听客户定价,智能体马上从几个来源抓取数据:有访问受限的定价系统,也有内部沟通记录,还有存档的报价单。返回的结果在智能体眼里没有任何异常,第二个智能体便拿它给这位销售代表写了一份提案。全程没有一个人工复核的环节。

智能体接手流程,风险跟着往下传

这类场景在企业AI落地中已不鲜见。智能体的长处就是自主:跨系统检索、推理、接着执行下一步,把过去要靠人串起来的环节自动跑完。可自主也意味着风险会被“接力”。第一个智能体读到了不该公开的定价信息,第二个智能体又把它写进提案发给了客户,两跳之内泄露就完成了,中间没人察觉。

多智能体协作,审计为何这么难

传统软件的数据流是确定性的,接口调用、数据库查询、日志记录,每一步都查得到。AI智能体一参与,数据来源就变得模糊了。它可能从非结构化文档里“理解”出事实,可能把多个来源拼成一个从未在任何单一系统里存在过的结论,也可能在上下文里把数据出处抹掉。

智能体之间的传递更难办。智能体A把结果交给智能体B,B看到的往往只是内容,内容的权限等级和来源它看不到。前面那个例子就是这样:写提案的智能体并不清楚有些定价数据受访问限制,它只是照输入用而已。

数据血缘:从看结果可信,到查来源可追

数据血缘(data lineage)不是新东西,数据仓库和数据治理里用了很多年,记录的是数据从源头到终点的流动路径:从哪来、经过哪些转换、被谁用了。放到智能体企业里,它的分量更重了:除了描述数据的物理路径,它还充当智能体决策的“注释”,用来回答“这个结论基于什么数据”。

如果智能体的输出无法追溯来源,那么它的“准确”只是一种表象,而非可验证的信任。

把数据血缘嵌进智能体架构,每次数据调用都会带上来源标识、权限标签和转换记录。下游智能体接收数据时,就能据此判断该不该用、要不要脱敏、需不需要人工确认。跨系统泄露的概率因此降下来,出了问题也能顺着链条快速找到责任方。

落地要靠治理、技术与文化一起推

建可信的智能体企业,得三方面配合。治理上,要明确哪些数据智能体能碰、哪些只能用于内部推理,多智能体链路上的权限又该怎么传。技术上,给智能体建一套统一的数据谱系元数据,让每次检索和生成都留下可审计的痕迹。文化上,关键输出要鼓励员工保留人工复核,别一味相信自动化链条。

说到底,数据血缘不是为了捆住智能体,而是为了让智能体更放心地被委以重任。看得见才控得住,控得住才有信任,而信任是智能体上规模的前提。

编者按:企业把越来越多决策交给智能体,安全边界就不再只靠防火墙和权限系统划,而是由每一条数据的来龙去脉划。数据血缘也许不够起眼,却是智能体企业最务实的基础设施。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 以色列AI公司安全测试:人为失误致模型联网入侵

    日前在伦敦举办的一场科技行业活动上,以色列“非常规”人工智能公司首席执行官丹·拉哈夫说,该公司负责的一系列人工智能(AI)模型安全测试中,因人为失误和时间压力,部分隔离防护措施未正确配置,导致模型接入互联网并实施了网络入侵。据报道,拉哈夫3日在“彭博科技”伦敦大会上表示,公司今年早些时候遇到的相关问题...

    来源 腾讯网
  2. Meta收购Conductor:AI编程智能体赛道再落一子

    IT之家 11 月 5 日消息,Meta 已收购 AI 编程初创公司 Conductor。该公司开发了一款 AI 编程工具,允许用户通过在多个并行工作空间中部署 AI 智能体,同时启动和推进多个软件项目。 Conductor 创始人兼首席执行官查理 · 霍尔茨(Charlie Holtz)周三发文称:“有一个重大消息要

    来源 AI 行业观察
  3. 英伟达破局 AI 内存瓶颈:HBM 仅增约 3%,每美元智能体吞吐量最高提升 30 倍

    IT之家 11 月 6 日消息,英伟达昨日(11 月 5 日)发布技术解读,指出随着大模型参数规模、上下文长度和智能体应用快速增长,GPU 显存正面临前所未有的压力,HBM 供应趋紧、价格上升,在可以预见的未来仍将持续。 为了破解当前 AI 内存瓶颈,英伟达探索引入了“全栈协同设计”理念,将 GPU、CPU、网络、存储

    来源 AI 行业观察
  4. Kimi推出Hosted Agents托管智能体:Harness上云,140+Skills开箱可用

    IT之家 11 月 5 日消息,Kimi 今日宣布推出 Kimi Hosted Agents(托管智能体),将支撑 Agent 运行的 Harness 作为云端服务提供(Harness as a Service)。 企业和开发者无需自行搭建和维护运行框架,即可获得 7×24 小时的托管环境,支持长程任务执行与多智能体高

    来源 AI 行业观察
  5. Karpo做城市生活AI:从心情出发,帮用户把念头变成安排

    谁能更早承接用户尚未明确的需求,谁就更有机会成为新的消费入口。 一笔消费,究竟从什么时候开始?很多人会觉得,是下单付款的那一刻。但只要回想一次最近的外出,就会发现它的起点其实早得多。 订下一家餐厅之前,可能经历过想见朋友、想庆祝、想换个环境等不同念头;同样一句今晚想出去,最终可能对应一顿饭、一场演出,...

    来源 腾讯网
  6. 曙光云OneBox发布:国产全栈智能体平台瞄准政企市场

    国产全栈可信,从“对话回答”走向“可信执行”OneBox是面向政企组织的私有化智能体平台,员工通过桌面入口,即可调用模型、知识和工具完成任务;单位则可统一管理使用范围和操作权限,使AI应用与现有管理要求相适应。它形成“国产芯片+曙光云+霄练模型服务+OneBox智能体”的完整技术链,从算力底座到上层应用均可私有化交付。

    来源 TechWeb
  7. 曙光云发布OneBox智能体协作平台:主打政企私有化部署

    国产全栈可信,从“对话回答”走向“可信执行”OneBox是面向政企组织的私有化智能体平台,员工通过桌面入口,即可调用模型、知识和工具完成任务;单位则可统一管理使用范围和操作权限,使AI应用与现有管理要求相适应。它形成“国产芯片+曙光云+霄练模型服务+OneBox智能体”的完整技术链,从算力底座到上层应用均可私有化交付。

    来源 TechWeb
  8. 谷歌Gemini 4 Argon跑11小时:ADK代码库长会话开销降40%

    谷歌介绍了 Gemini 4 Argon 的一次 11 小时无人值守运行为谷歌 Agent Development Kit(ADK) 代码库产出了两项最终被采纳的优化方案,使长会话中的内存会话准备开销降低约 40%,冷启动包导入时间缩短 21%。 谷歌工程师的目标之一是了解“模型如何处理已有的代码库”,他们说这比创建“

    来源 AI 行业观察
  9. Uber 高管:目前几乎没人使用 AI 智能体叫车

    Uber 第三季度财报显示,10 月订单量最高的一周,AI 智能体贡献的网约车订单仅 4 笔,外卖订单 500 笔,远低于 3.2 亿的总订单量。高管称目前用户通过 AI 智能体下单的意愿极低,不过仍看好未来增长潜力。#AI前沿#

    来源 IT之家
  10. Uber高管:万圣节周AI智能体叫车仅4笔

    IT之家 11 月 5 日消息,目前使用个人 AI 智能体预约 Uber 出行的用户寥寥无几。在当地时间周三举行的第三季度财报电话会议上,Uber 表示,10 月份订单量最高的一周,也就是万圣节所在的一周,通过 AI 智能体下单的网约车订单仅有 4 笔。通过 Uber 旗下外卖平台 Uber Eats 使用 AI 智能

    来源 腾讯网
  11. OPPO发布端网智能体意图通信白皮书:6G布局瞄准智能原生

    IT之家 11 月 5 日消息,中国移动全球合作伙伴大会今日在广州开幕。OPPO 官方宣布,其携折叠旗舰、影像旗舰、AI、山海通信及 6G 通信等产品与技术参展,并发布全球首个端网智能体意图通信白皮书。 OPPO 官方表示,在 6G 从“连接增强”走向“智能原生”的背景下,通信网络不仅要更快,还要能针对不同业务提供差异

    来源 AI 行业观察
  12. 月之暗面推出Kimi Hosted Agents,托管智能体云端服务上线

    11月5日,月之暗面宣布发布Kimi Hosted Agents(托管智能体),将支撑Agent运行的Harness作为云端服务提供给企业和开发者,企业无需自行搭建和维护运行框架,即可获得7×24小时的托管环境,支持长程任务执行与多智能体高效协作。...

    来源 腾讯网
  13. 比亚迪与vivo战略合作:AI智能体实现跨端融合,共建智慧出行

    IT之家 11 月 5 日消息,比亚迪今日官宣与 vivo 达成战略合作,实现 AI 智能体跨端融合,共建智慧出行新生态。 vivo 官方也公布了这一消息:“自 2019 年起,双方持续深耕手车互联、智能进入等方向,积累了丰硕成果。依托长期深度互信与技术积累,未来将深化智能终端与新能源汽车的生态协同,推动‘手车互联’迈

    来源 AI 行业观察
  14. 苹果AI国行版开放测试:千问接入Siri,首批功能不含新一代Siri

    国行用户等了两年的苹果AI,更像是一次基础能力的补课,并非真正意义上的AI革命。文|《中国企业家》记者 邓双琳编辑|马吉英头图来源|视觉中国苦等两年多,国行用户终于等来了苹果AI。11月4日,苹果发布了iOS 27.3开发者Beta版,国行版Apple Intelligence(苹果智能)首次开放测试。这是苹果AI第一

    来源 腾讯网
  15. Airbnb:2027上半年上线AI旅行代理,全程参与行程与预订

    Airbnb宣布将于2027年上半年正式推出AI旅行代理,该智能体可帮助旅客规划行程、比较房源选项、管理预订,并在整个入住期间提供实时协助。此举标志着短租巨头正式进军AI驱动的旅行服务赛道,意在将平台从“订房工具”升级为全程陪伴的旅行助手,与OTA及通用AI助手展开正面竞争。

    来源 AI 科技快讯
  16. Aina智能戒指带屏和摇杆:可穿戴AI交互新入口能走通吗?

    TechCrunch报道,初创公司Aina推出一款带屏幕、摇杆和麦克风的智能戒指,用户可直接通过语音与AI智能体对话,还能接听电话、在Mac上听写笔记。这款产品试图在健康追踪之外,为可穿戴设备开辟AI交互新入口,也引发业界对戒指形态能否承载复杂交互的讨论。

    来源 AI 科技快讯
向下滚动自动加载更多