Agent效率优化:Snowflake CoCo如何减少上下文膨胀

资讯 InfoQ 作者:Snowflake 王玮 全文 3133 字 · 约 8 分钟读完 配图 3 张 分类智能体

你的 Agent 并不缺信息,它只是被信息淹没了。

所属频道 智能体与 Agent

2026 年智能体在企业级应用里会拿出哪些实质性的突破?《2026 年 AI 与数据发展预测》白皮书现已开放下载,里面有专家的一手前瞻,可以帮企业抢先适应新的工作方式。

你的 Agent 其实不缺信息,问题是信息把它淹了。

每定义一项工具、每拿到一次查询结果、每走完一轮对话,Agent 干活时要处理的上下文都会往上加。放到一项耗时较长的调查任务里,这些额外开销会一层层累积。哪怕早期步骤里的信息早就没用了,Agent 在后面的每一轮交互中还是可能把它反复带上。

这就是上下文膨胀(Context Bloat)。它不光推高 token 消耗,还可能让 Agent 更难把注意力放在真正关键的信息上。

只把上下文窗口做大,并不能从根上解决这件事。更管用的做法是管好三件事:哪些信息能进上下文、哪些信息要留下、Agent 在动手执行任务之前得先掌握什么知识。

Snowflake AI Research 在 Snowflake CoCo 和 Snowflake CoWork 里对这个问题做了探索。研究给出两条互相配合的 Agent 效率优化路径:一条是搭建能智能管理上下文的运行框架(Harness),另一条是提前把业务上下文交给 Agent,省掉它自己去摸索和理解业务信息的成本。

问题所在:每一轮交互都有成本

设想某条数据管道在夜里运行时出了故障。Agent 得找出最常见的错误,去 Slack 和 Jira 里翻相关讨论,再定位到对应的代码负责人。

要完成这次调查,Agent 可能要查 Snowflake、搜 Slack、翻 Jira 问题记录,还要看代码。按传统的 Agent 架构,调查还没开始,所有可用工具的定义就已经被塞进上下文了,可实际用到的只有其中少数几个。

接着,各种查询结果陆续回来。一次数据库查询可能带回数千行数据,一次 Slack 搜索可能带回一大段讨论记录。每轮交互都在往对话里追加信息,而这些信息模型都得处理。

症结不是 Agent 能力太多,而是它同一时间要背着、要处理的信息太多。

Snowflake CoCo 如何减少上下文膨胀

Snowflake AI Research 团队是从 Agent Harness 下手解决的。Harness 是那层软件,负责协调工具调用、管理上下文,把模型和外部系统接起来。

CoCo 的 Harness 没有把整个流程的所有环节都丢给模型自己处理,而是由它来管工具的发现方式、独立操作怎么执行,以及工具结果以什么方式进入上下文。

这里面有三项技术起了关键作用。

Article content

按需加载工具

就算 Agent 能访问几十种工具,也没必要一上来就把所有工具定义都装进上下文。

CoCo 会按任务需要动态找出相关工具,等到实际要用时再把它的定义拉进工作流程。这样一来,完整的工具调用能力保住了,所有工具定义也不用占着初始上下文的空间。

对要应付多种不同任务的通用 Agent 来说,这套机制尤其重要。比如调查数据管道故障时,Agent 可能需要 Snowflake 查询工具和 Slack 搜索工具,跟当前工作无关的其他工具则不必加载。

并行执行相互独立的工具调用

设想 Agent 要搜 Slack、翻 Jira 问题记录,还要查数据仓库里的遥测数据。这几项操作彼此没有依赖关系,要是拆到多个模型交互轮次里挨个执行,就会产生不必要的开销。

CoCo 能把相互独立的工具调用并成一次统一调度,等执行结果收集齐了,再一起交回给模型处理。

当然,工具调用之间的依赖关系还是得保证。某项操作如果依赖另一项操作的输出,执行顺序就必须保留正确。优化的关键在于:能并行做完的活,尽量别再多跑几轮交互。

尽可能避免将大量结果直接放入上下文

一次查询哪怕吐出数万行数据,也不代表模型在之后每一轮交互里都得把这些数据重新过一遍。CoCo 的做法是压缩工具输出、管好大规模结果:让 Agent 能拿相关信息把活干完,又不必在整个对话里一直拖着完整的原始输出。

数据管道故障调查就是个例子。Agent 可以先看按类别汇总的错误信息、错误次数、时间戳和代表性案例,需要时再往下翻原始数据。几项技术搭在一起,能削掉不必要的上下文负担,省掉多余的工具调用往返,也让模型的注意力集中在完成当前任务所需的信息上。

Article content

实际测试结果如何?

在 Snowflake AI Research 的内部 SQL 修复基准测试里,CoCo 配 Sonnet 5 三次重复试验的通过率达到 86%;Claude Code 配 Opus 5 的通过率是 72%。成本这边,CoCo 每次试验的报告成本降了 33%,从 0.446 美元降到 0.298 美元。

这些结果只对测试所用的特定配置和工作负载成立,不代表所有 Agent 都能拿到同样的性能提升。但它们点出了一件事:衡量 Agent 效率,token 使用量之外还得看任务完成情况。

问题的另一面:你的 Agent 真正理解数据的含义吗?

设计良好的 Harness 能让 Agent 干活更高效,可效率高不等于答案一定对。还拿前面的数据管道故障调查来说,Agent 已经找到失败的任务,也算出了错误率。但它知不知道哪些工作负载属于生产环境?清不清楚哪些测试任务该排除?企业内部对错误率的具体定义,它又是否理解?

这些业务规则未必能从表名、列名里直接看出来。相关信息缺失时,Agent 可能写出一段语法正确、能正常执行的 SQL,返回一个看上去合理的数值,可这个结果未必符合实际的业务定义。

这正是语义视图(Semantic Views)派上用场的地方。语义视图描述的是数据在业务层面的含义,包括指标、维度、关系以及相关业务逻辑。有了经过治理、可重复使用的定义,Agent 就不用自己去推断数据表之间的关联,也不用反复摸索某项指标怎么算。

这里有个重要区别:Harness 解决的是 Agent 如何高效利用上下文;语义视图管的是确保 Agent 手里握着回答问题的正确上下文。

构建 Agent 真正需要的上下文

过去做语义建模,得由数据团队手动定义指标及其关联关系。Snowflake Semantic View Autopilot 能利用现有数据、查询历史、SQL 示例以及受支持的 BI 资产自动生成语义视图,把这一过程加快。之后,团队可以在 Semantic Studio 里审核并完善相关定义。

不必一上来就给整个企业的数据资产建语义模型。可以先挑一个经常因为指标定义不一致而出现理解偏差的业务领域,比如数据管道运行状况、客户活动、营收或客户支持表现。先把业务人员最常提的问题、回答这些问题用的 SQL,以及相关指标背后的业务规则梳理清楚;以此为基础构建语义视图,再审核生成的关系和定义,确认无误后投入使用。

这样就能攒下可复用的业务上下文,帮 Agent 回答反复出现的问题,不用每次都重新摸索相同的数据关联和业务规则。

总结

高效的 Agent 不光要有能力强大的模型和丰富的工具,还得有能智能管理上下文的 Harness,以及可靠的数据业务语义定义。少掉不必要的工具定义和原始输出,有助于控制上下文开销;把业务定义写清楚,则有助于 Agent 给出更贴合企业实际需求的答案。

两者缺一不可:工作流程再精简,缺了必要的业务逻辑,Agent 照样可能答错。

开始使用:

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. AI Agent进入文件任务阶段:比拼重点从写代码转向可靠交付?

    AI Agent正从内容生成走向实际任务执行。处理本地文件看似是一个普通办公场景,却暴露出任务理解、代码执行、结果验证与权限管理等关键问题。Python-Use提供了一种新的执行思路,但Agent真正走向工作场景,仍需跨越可靠性与安全性的门槛。

    来源 AI 行业观察
  2. AI Agent文件任务:交付可靠性成新难点

    (本文作者为 科技新星球,钛媒体经授权发布)文 | 科技新星球过去一段时间,AI产品的能力竞争主要围绕模型展开:参数规模、推理能力、上下文长度,以及生成文本和代码的质量。但当AI进入实际工作流程,评价标准正在发生变化。用户不再只问AI能不能写一段Python代码,而是会提出更具体的要求:把一个目录里的表格整理好,提..

    来源 腾讯网
  3. 小红书推Personal Agent“蜜薯”:用生活经验切入AI助理赛道

    近日,小红书技术团队REDtech发布文章,正式官宣了一款名为“蜜薯”的Personal Agent,并将其定位为“AI生活搭子”。 从官方披露的应用场景来看,蜜薯并没有急着展示多么复杂的技术能力,而是把重点放在了一些具体的生活问题,如在陌生城市寻找本地人爱去的小店,对着菜单商量怎么点菜,比较两件商品的真实使用体验,了

    来源 AI 行业观察
  4. AI短剧爆火,Agent也开始卷了

    界面新闻记者 | 佘晓晨界面新闻编辑 | 文姝琪 在2023年的时候,AI和短剧还是两个看起来没有太大关系的行业。一位AI内容创业者向界面新闻回忆,在当时的市场上,很少有人真正把这两件事结合起来——做AI的人看不上短剧,做短剧的人也不懂AI。在AI进入广告、影视等相对成熟的内容领域之后,短剧也没有成为技术创业者眼中的主

    来源 腾讯网
  5. 阿里Qwen4-Max预览版上线:编程与Agent升级,最低1折体验

    11月11日,阿里巴巴发布新一代大模型Qwen4-Max预览版,并首发上线千问AI平台Token Plan。新模型重点提升编程、智能体(Agent)及复杂任务处理能力,可用于3D建模、网页设计、专业办公和软件操作等场景。用户可通过Token Plan及千问办公、Qoder、千问APP、QwenStudio体验,Toke

    来源 凤凰科技
  6. openJiuwen双轨自演进框架:Agent换环境为何失灵?

    同样的大模型和工具,换个文件路径或数据格式,Agent就可能反复试错。openJiuwen发布的TTSE框架借鉴认知科学,将经验拆分为“环境事实”和“执行技巧”两条轨道。在ALFWorld等五个基准测试中,该方法显著提升了任务成功率并减少了工具调用次数。目前该机制已落地WorkSwarm办公智能体,实测显示在Excel

    来源 AI 应用前沿
  7. openJiuwen发布ADF:让物理设备成为Agent可调用的能力

    今天的 Agent 已经可以写代码、查资料、调用 API、操作软件。当 Agent 逐步走出屏幕,会发生什么? 想象一下: 你不再需要分别操作门锁、空调、灯光和扫地机器人。家庭 Agent 可以理解家中设备的功能,在获得授权后按需组合调用;当某个设备临时不可用时,还能寻找替代方案,继续完成日常任务。 走进一间会议室,你

    来源 AI 行业观察
  8. Instinct估值100亿美元:无App的Personal Agent如何改写消费入口?

    “保持灵活,保持敏锐。”来源|多知作者|徐晶晶Personal Agent正在重塑消费入口。AI创业公司Instinct是一个标志性样本。过去几个月,它的估值从种子轮的5000万美元迅速冲到C轮时的100亿美元。Instinct没有App,你发条消息或打个电话,它就能替你订票、购物、协调日程等。截至2026年9月,In

    来源 腾讯网
  9. ego-lite:AI Agent 如何复用浏览器登录态并实现隔离?

    Web 自动化最头疼的往往不是脚本编写,而是登录态维护和风控拦截。ego-lite 通过 Space 隔离机制,让 AI Agent 在独立空间中运行,同时直接继承主浏览器的 Cookie 和会话状态。它解决了 Playwright 等无头浏览器在复杂登录场景下的痛点,支持人机协同处理验证码,适合内部系统测试和探索性任

    来源 AI 应用前沿
  10. HyperAgent:openJiuwen对未来Agent架构的思考和实践

    机器之心发布Agent 正在从「回答一个问题」走向「承担一份工作」。近日,开源 AI Agent 社区 openJiuwen 针对 HyperAgent 架构详细解读,系统阐述了它对下一代 Agent 形态的判断 ——HyperAgent 应具备的八项特征,以及支撑这一形态的开源 AgentOS 分层设计。今年 9 月

    来源 腾讯网
  11. Agent评估难在哪:五大基准与pass^k指标解析

    评估AI Agent不只是看准确率。本文拆解终态判定、结果方差与归因模糊三大难点,对比GAIA、SWE-bench等五大主流基准,重点解释为何生产环境更应关注pass^k而非pass@k,并给出构建私有评测集的实操建议。

    来源 AI 应用前沿
  12. Harness大战

    11月7日,微软发布了一份关于Agent执行系统的技术白皮书,包含一组有点出人意料的测试结果:同样使用Claude Opus 4.8,只换掉Copilot Studio背后的Harness,复杂任务通过率就提高了22.1个百分点。新系统每项任务调用模型的次数几乎翻倍,折算后的输入Token消耗却可以减少21%。 就在十

    来源 AI 行业观察
  13. Adobe Creative Cloud接入第三方智能体:本地修图剪片迎新变

    IT之家 11 月 10 日消息,在今天(10 日)于迈阿密举行的 Adobe MAX 大会上,Adobe 公布了一系列新功能:第三方 AI 智能体能直接访问和修改 Creative Cloud 项目、升级 Firefly AI 助手,支持智能体在后台持续处理定期任务。 Adobe 在大会上展示了 Creative C

    来源 AI 行业观察
  14. 红帽曹衡康谈AI落地:平台给选择权,智能体要围栏

    【TechWeb】AI从试点走向生产,企业最怕什么?可能不是模型不够强,而是刚搭好的工作流,明天就可能因为一个新模型、一张新GPU卡而推倒重来。 AI技术快速迭代,模型、算力、云平台和智能体层出不穷。对于企业而言,如何避免被单一技术路线绑定,在保持系统稳定与安全的同时,持续拥抱创新,已经成为一道重要课题。 红帽给出的答

    来源 AI 行业观察
  15. 红帽曹衡康谈AI落地:三个C、四个A,把选择权还给企业

    AI技术快速迭代,模型、算力、云平台和智能体层出不穷。对于企业而言,如何避免被单一技术路线绑定,在保持系统稳定与安全的同时,持续拥抱创新,已经成为一道重要课题。红帽给出的答案是提供一个能够承载过去、现在与未来的稳固平台,把选择权交还给企业。

    来源 TechWeb
  16. 红帽AI平台战略:三个C四个A,支持任意加速器与模型

    AI技术快速迭代,模型、算力、云平台和智能体层出不穷。对于企业而言,如何避免被单一技术路线绑定,在保持系统稳定与安全的同时,持续拥抱创新,已经成为一道重要课题。红帽给出的答案是提供一个能够承载过去、现在与未来的稳固平台,把选择权交还给企业。

    来源 TechWeb
向下滚动自动加载更多