智能体AI架构:挑战与机遇并存,工程师如何应对

资讯 AI 行业观察 作者:作者:Rafał Gancarz 全文 4386 字 · 约 11 分钟读完 配图 1 张 分类智能体存储

大多数软件工程师和架构师对微服务和云原生架构早已耳熟能详,多年来也一直参与构建基于这些架构的系统。基于微服务的系统通常由数十、数百甚至数千个服务组成,负责不同类型的数据处理任务——API 端点、数据管道、后台工作流,以及各类中间场景——但它们都有一个共同点:按照代码确定的逻辑或基于从数据存储中检索到的数据来处理数据。这

所属频道 算力与芯片智能体与 Agent

微服务和云原生架构,大多数软件工程师与架构师早已熟悉,多年来也一直在用它们搭系统。这类系统往往包含几十、几百乃至上千个服务,分别承担 API 端点、数据管道、后台工作流以及各种中间形态的数据处理任务。规模差别很大,但有一点一致:处理数据时,靠的是代码写死的逻辑,或者从数据存储里取出来的数据。这不代表系统简单。恰恰相反,它们可以非常复杂。但再复杂,人们仍能用确定性的方式去推演,这对划定功能边界、落地实现、验证改动、运维系统都有帮助,哪怕碰上基础设施或应用层的故障也一样。

不过,这种局面就要变了。未来软件系统里会有相当一部分继续保持确定性,形态和今天大家熟悉的差不多。但用不了多久,大量正在设计、正在交付的 IT 系统就会借助基于 AI 的方案来驱动面向用户的功能。对绝大多数架构师和工程师来说——甚至可能是全部——他们得适应 IT 行业这个全新的现实。

AI 之所以进入软件架构,关键推力是它带来的新能力,这些能力对知识工作者使用的产品尤其有用。过去 IT 系统干的事,是存数据、处理数据,再通过 API 和用户界面把数据送出去。与此同时,相当一部分数据管理工作由人承担:业务规则、流程、团队里沉淀下来的隐性经验,还有个人判断力,都在发挥作用。客观讲,其中一部分智能——甚至很大一部分——被直接做进了 IT 系统,用来提效,业务规模化扩张的关键阶段尤其如此。有了 AI 能力,软件系统就能从操作原始数据转向操作知识,IT 的角色也随之从单纯的数据管理与处理,上升到在知识层面支撑业务运转、支撑终端用户。

基于 AI 的方案会在多大程度上主导下一代软件系统,很难判断。但种种迹象显示,它的影响会极其深远,足以催生一种全新的软件架构:大量功能模块由 AI 驱动,用这套下一代系统做产品的人,效率会大幅提升。所谓智能体 AI 架构,指的是大规模使用智能体 AI 系统、以充分发挥生成式 AI(以及其他)模型能力为目标的软件架构。这类架构建立在微服务和云原生架构之上,再叠加智能体 AI 能力。

智能体 AI 系统的兴起

智能体 AI 不算新概念,但也还没成熟。过去几年,智能体 AI 系统从简单的单智能体方案,走到链式结构,再走到图结构和多智能体系统(MAS)——多个智能体按不同拓扑结构协同工作。这个领域仍在快速演进,未来必然会出现更复杂的应用场景。不过要注意,不同的协作策略或拓扑结构各有适用的场景,很多时候选更简洁的方案反而更有利。

智能体要充分发挥与之交互的大语言模型的能力,离不开合适的上下文。上下文方案同样在迭代:最早是预设提示词,后来逐步演化为动态上下文——上下文信息来自其他智能体的输出、上下文传递,或者通过检索增强生成(RAG)从外部数据源拉取的数据。

不同来源的上下文信息越积越多,推理能力下降的问题就开始冒头,工程师于是摸索出新的上下文管理方式,上下文工程由此成为一项独立实践。渐进式上下文披露(Progressive Context Disclosure)技术能把上下文准备步骤再优化一步:智能体可以根据用户提示词,有选择地把详细信息加载进上下文窗口。

LLM 的上下文窗口有大小限制,上下文工程的作用就在于让所用的上下文尽可能提高模型产出期望结果的概率,或者至少把上下文模糊、不充分导致幻觉的几率压到最低。要做好上下文工程,需要上下文管理来存储、优化和复用上下文元素,供后续的智能体调用。

最近,面向 AI 智能体的记忆系统也出现了,上下文编辑能力进一步增强。这类系统会组织并查询不同类型的长期记忆(情景记忆、语义记忆、程序记忆),让智能体能用过去的经验与决策、相关事实与定义、规则或习得的行为来补充上下文。

上下文工程已经是智能体 AI 系统的一项基础性架构关注点。构建和运营基于 AI 的产品,要求和期望都在不断增长,它也必然继续演化。

智能体 AI 已经发展出一批专有的通信协议。推动这一进程的,很大程度上是智能体开发的复杂性、标准化的需求,以及改进互操作性的需求:

  • Agent2Agent 协议(A2A)——专为多智能体系统设计,实现 AI 智能体之间的互操作。

  • 模型上下文协议(MCP)——专注于 AI 智能体与外部服务(数据库、工具等)之间的通信。

从智能体 AI 系统到智能体 AI 架构

智能体 AI 系统要产生价值,就得集成进更大的企业架构。在企业环境里,集成智能体 AI 系统有以下几种方式:

  • 将智能体嵌入到对外暴露 API(HTTP/GRPC)的微服务中;

  • 把智能体作为 MCP 工具或是基于 A2A 协议进行调用;

  • 让智能体微服务消费来自异步通道(队列/主题)的消息。

大型企业级架构里可能有很多专门的智能体 AI 系统。AI 智能体能通过 MCP 直接访问数据库、服务/API 或任意数据源,因此有必要按领域驱动设计(DDD)的思路,把智能体的交互范围限制在限界上下文内。在大架构中限制智能体 AI 系统的作用域,能减少相距遥远或不相关的组件与数据源之间的耦合,工程团队也就能维护内聚性更强的区域,不至于产生过多依赖,或在引入变更时造成过大影响。

智能体AI架构:挑战与机遇并存,工程师如何应对(配图 1)

图 1 画的是一个简化架构,里面有两个限界上下文,每个上下文都嵌入了一个含多个智能体(A)的智能体 AI 系统,外加其他微服务(S)。智能体只用本地数据源和服务来扩展上下文,与更大软件系统其他部分的耦合随之降低。

智能体 AI 系统的性能与可扩展性

云原生软件架构的可扩展性,架构师和工程师已经琢磨得很透,搭建、运维这类系统也有年头了。智能体AI系统不一样:大模型调用延迟更高,多智能体系统一复杂,处理耗时还可能继续往上走。所以看智能体AI系统的性能,光盯着吞吐量、延迟、错误率这些传统指标不够。

谷歌和麻省理工学院的研究人员发过一篇论文,讲的是多智能体系统的扩展框架。他们试了多种多智能体协调策略,每种策略都带若干配置参数,比如LLM调用次数、智能体数量、每个智能体的交互次数。结论是:最佳协调策略要看具体任务——金融推理场景更适合中心化编排,网页导航类场景反而去中心化策略效果更好。

换句话说,智能体AI领域没有一刀切的方案。谷歌和MIT的研究结果表明,构建复杂解决方案的团队只能反复试验,靠实证找出最适合自己任务的智能体协调策略。

智能体AI的安全挑战

把智能体AI纳入分布式系统架构,安全模型会明显改变。智能体AI多出来的安全威胁,主要集中在智能体运行时、工具服务器(MCP或其他)以及模型服务商侧。举个例子,AI智能体可能容易中提示词注入、指令混淆或工具输出投毒的招,结果就是行为偏离预期,或者把它能访问的数据泄露出去。另外,用外部LLM模型还会带来数据属地、数据保留、数据使用合规这些风险。

现有访问控制模型打磨了几十年,可放到智能体身上并不合适——智能体实际上既算不上人类用户,也算不上后端服务。Auth0高级开发者Cameron Pavey最近提出了一种专门针对AI智能体的新权限模型。他的看法是,常规(非AI)后端服务通常更受信任,原因是它们确定性、可审计,认证会话和用户界面也会对用户形成约束。智能体则不同,它可以在用户不知情或未明确许可的情况下,自主触发包含其他智能体、工具调用的多步骤工作流。

针对智能体的权限问题,Pavey提出用能力范围权限和任务范围凭证作为关键步骤,再配合细粒度授权系统做分层执行。

安全领域其实不是第一次出现这种重大变化。当年微服务、云原生架构兴起时,这一领域同样发生过转变,访问控制机制和协议被重塑,JWT和OAuth这些如今司空见惯的技术也是那时候出现的。

可观测性

智能体AI系统具备非确定性,所以要有效构建、增强、排查故障和运维这类系统,可观测性是关键。

团队应力求覆盖现代可观测性平台的全部核心维度:

  • 日志——用结构化日志,记录决策及其理由和证据;带上关联ID;清除个人身份信息。

  • 指标——评估输出质量、延迟、成本;为性能和预算创建SLO仪表盘。

  • 追踪——追踪任务/步骤(规划、工具、验证);包含关联ID。

  • 告警——对性能下降、延迟突增、异常情况进行告警。

  • 运行手册——维护一套定期评审的运行手册。

微服务、云原生与智能体AI架构的融合

智能体AI有望成为未来IT产品和服务的主导力量,但切换不可能瞬间完成。未来许多年里,今天所熟知的分布式系统架构会和下一代架构共存,就像面向服务架构(SOA)用了数年时间才逐步被微服务替代一样。

况且智能体AI还处在相对初级的阶段,这一领域要发展成熟、获得广泛采用,得花些时间。过渡会循序渐进,新的设计模式、最佳实践、配套技术也会不断冒出来,进一步推动普及。

说到底,并非所有产品或业务流程都需要智能体AI,部分场景下用AI也不具备经济可行性。某些行业或某类产品/系统,可能没法像其他行业一样快速从AI中受益。从这个意义上说,微服务和云原生架构会以某种形式继续存在。

从微服务与云原生到智能体AI平台

智能体AI逐步成为行业主流,行业内的成熟度和采用度不断提升,我预计很多眼下需要定制开发的组件和方案,未来会封装成通用平台能力。这些平台能支持多智能体系统的交付和运维,也能把智能体系统集成到更大规模的企业架构中。

尤其是智能体AI基础组件:智能体记忆、资产注册、安全护栏、编排能力,还有配套的可观测性和运维能力,都会变成智能体AI平台的内置能力——自研也好,供应商或云服务商提供也好。

这条路和微服务架构走过的路径一样:企业落地新架构产生大量需求,先催生内部自建运维方案,之后逐步被托管式商业化产品替代。

智能体AI架构的未来

整个行业正站在一场大变革的门槛上。往后几年,甚至几十年,分布式系统的主流形态很可能就是智能体 AI 架构。不过,这不代表微服务和云原生架构会被淘汰。恰恰相反,它们会成为下一代系统的底座,而在这类系统里,绝大部分用户体验由 AI 驱动。今天架构师和工程师已经熟悉的那套东西,会变成交付 AI 产品与服务的基础。这些产品和服务,把数据、知识以及基于计算的推理融到了一起。

这种转变会带来什么?众多行业里知识工作者的生产力会往上走,使用体验也会变好。它重塑的不只是 IT 行业,整个现代社会也会被深刻改变。

眼下还处在早期。创新一个接一个冒出来,目标也在不断调整,大量的实践、试错和学习正在进行。说到底,前面的路一定有不少机会。

【声明:本文由 InfoQ 翻译,未经许可禁止转载。】

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. AI硬件的牛市结束了

    最强势的市场,也顶不住这轮AI回调了。 从10月的高点算起,涵盖AI硬件全链条的费城半导体指数跌去27.8%。其中,算力龙头英伟达跌去36.1%、存储龙头美光跌去43%,就连给他们供货的寡头台积电也跌去26.2%。看下来,逻辑最硬、订单最多的AI硬件龙头,也没能躲过这轮回撤。 AI硬件这波回撤,是投资逻辑变了:从跟踪大

    来源 AI 行业观察
  2. 谷歌AI智能体改一处代码成功率翻8倍:Harness自我优化研究

    IT之家 11 月 20 日消息,谷歌研究人员当地时间 11 月 17 日最新发表的研究论文《Harnesses That Improve Themselves》(《能够自我改进的 Harness》)显示,通过让 AI 智能体逐步修改自身运行框架,并对每次修改进行验证,可以显著提高软件工程任务的完成率。在一项 SWE-

    来源 腾讯网
  3. OpenAI等AI企业遭亚利桑那州刑事调查:失控智能体疑入侵银行

    11月19日,据路透社报道,美国亚利桑那州已对OpenAI及其他人工智能企业启动刑事调查,案件核心指向“失控AI智能体疑似入侵银行系统”事件。该州总检察长克里斯·梅耶斯(Kris Mayes)周三在芝加哥的新闻发布会上表示:“亚利桑那州对此非常担忧,我们正从多个角度审视这一问题。”

    来源 TechWeb
  4. 亚利桑那州刑事调查OpenAI等AI企业:智能体被指入侵银行系统

    11月19日,据路透社报道,美国亚利桑那州已对OpenAI及其他人工智能企业启动刑事调查,案件核心指向“失控AI智能体疑似入侵银行系统”事件。该州总检察长克里斯·梅耶斯(Kris Mayes)周三在芝加哥的新闻发布会上表示:“亚利桑那州对此非常担忧,我们正从多个角度审视这一问题。”

    来源 TechWeb
  5. Gemini登陆Mac桌面:AI代理可代操作电脑,隐私风险几何?

    谷歌为Gemini推出面向Mac的重磅更新,首次将可执行任务的AI代理引入桌面端,能够整理文件、填写表单并完成多步骤工作流。这标志着Gemini从对话助手向“能动手”的操作型智能体进化,也意味着谷歌在桌面AI代理赛道正式与OpenAI、Anthropic和微软正面交锋。与此同时,桌面自动化带来的便利与隐私风险

    来源 AI 科技快讯
  6. AI做PPT、搭网页居然都免费?用完豆包工作我算了下账

    就拿小雷自己来说,自从把整理资料、分析财报、制作PPT等工作交给Agent软件(WorkBuddy、豆包工作等)后,也发现随着使用次数和任务复杂度的增加,AI消耗的积分也确实不少,很多时候赠送积分已经完全不够用,需要额外开会员和充值才行。

    来源 凤凰科技
  7. 苹果AI新布局:自研智能体操控Mac,对标四款竞品

    TechCrunch报道称,苹果似乎正在开发可在Mac上自主执行任务的AI智能体,直接对标Meta Muse、Instinct、Claude与OpenAI Dots等产品。这标志着苹果的AI战略正从Siri式的语音助手,转向能够理解目标、拆解步骤并操作用户界面的“行动型AI”。凭借软硬件一体化与端侧算力优势,

    来源 AI 科技快讯
  8. 苹果招聘曝光AI Agent计划:Siri要从动嘴变动手?

    苹果招聘信息透露,公司正开发可跨应用操作、独立规划并执行多步骤任务的 AI Agent,并强调隐私与权限管理。据彭博社报道,项目仍处早期阶段。面对已积累用户与收入的竞争对手,苹果正争夺下一代计算入口。

    来源 爱范儿
  9. 苹果押注自主式AI Agent:Siri要从动嘴变动手

    Siri 可能终于要从「动嘴」进化到「动手」了。让 Siri 查天气、设置闹钟、打开应用,早已不是什么新鲜事。但如果你现在让它安排一次出差,查好机票和酒店,再根据日历整理行程,恐怕还是得自己动手。苹果最近的一系列动作,透露了它想改变这种状况的野心。11 月中旬,苹果官网出现了两则与自主式 AI Agent 有关的招聘信

    来源 腾讯网
  10. AMD XDNA2 NPU 率先获得 Unsloth Desktop 适配,支持超百款智能体

    IT之家 11 月 20 日消息,AMD 当地时间 19 日宣布,其锐龙 AI 处理器上的 "XDNA 2" NPU 成为首款获得 Unsloth Desktop 本地界面支持的神经网络处理器。 具体来看,兼容的应用程序向 Unsloth Desktop API 发送模型请求,而 Lemonade 和 FastFlow

    来源 AI 行业观察
  11. 工业AI进产线:单次推理0.3元起,2000家客户已用上智能体

    《科创板日报》11月20日讯(记者 余诗琪)“以前要靠人工完成的流程,需要几个小时,现在用智能体,9到12分钟就能完成。”11月19日,在武汉举行的2026中国5G+工业互联网大会上,黑湖科技联合创始人肖哲给出了一组工业智能体的应用数据:单次推理成本约0.3元至1元,目前已有约2000家客户使用其工业智能体。工业AI的

    来源 腾讯网
  12. OpenAI开放GPT-Live-1.1 API:实时双向对话,智能体边聊边干活

    OpenAI 今日宣布向开发者开放 GPT-Live-1.1 API 语音模型,允许第三方开发者将其集成到自己的应用程序中,构建能够实时聆听、回应并执行复杂任务的 AI 语音智能体。 据 OpenAI 介绍,GPT-Live-1.1 是 GPT-Live-1 的升级版本,具备全双工语音交互能力,可以

    来源 AI 开发者社区
  13. 阿莫迪:AI领路人

    美国时间11月19日,Anthropic正式登陆纳斯达克,以“ANT”为股票代码挂牌,创下了全球史上最大规模IPO纪录。 就在上市前一天,Anthropic将发行价定在每股83美元,并将发行数量从8.25亿股增加到9.8亿股,最终公开发行规模达到813.4亿美元。 按发行价计算,这家成立不到六年的AI公司,完全稀释估值

    来源 AI 行业观察
  14. 2027 AI进化峰会12月26日落地上海张江:模型如何走向物理世界

    12月26日,机器之心联合张江AI创新小镇在上海举办「2027 AI进化峰会」。大会聚焦模型底层、智能形成、系统承载与真实落地四大维度,邀请全球学者与产业专家探讨AI从单点能力向体系化协同进化的关键变量,解析Agent自主探索、光计算及具身智能等前沿趋势。

    来源 AI 应用前沿
  15. 谷歌AI智能体:模块化改代码,成功率从5.0%升至40.0%

    谷歌研究提出一种可自我改进的Harness框架,让优化模型通过修改代码而非仅调整提示词来提升智能体执行效率。实验中模块化修改并通过验证筛选的方案把任务成功率从5.0%提高到40.0%,每项任务约消耗4.67万Token;不受限整体重写虽达42.5%,但Token消耗约45.16万,接近前者的10倍。

    来源 凤凰科技
  16. 央企财务谈蕾用上TeleAgent:194张发票20分钟核完,带AI比带徒弟省力

    财务人亲历智能体做账变革|图 AI生成作者/ IT时报 孙妍编辑/ 钱立富 孙妍每个工作日早上,谈蕾(化名)坐到办公桌前,第一件事不是打开账务软件,而是点亮那款AI工具,在对话框唤出昵称“小星”。谈蕾是一名央企财务人员,和账本打交道近30年。核对发票、做凭证、出报表、申报税金,她负责集团内多家分公司的整盘账务,...

    来源 腾讯网
  17. 多家银行:AI智能体擅自动账,损失算谁的?

    根据 Business Insider 查看的银行邮件和应用通知,银行实际上是在提醒用户:如果 AI 智能体获得了访问金融账户的权限,其执行的操作可能被视为用户本人的行为,而不是外部入侵者实施的操作。

    来源 凤凰科技
向下滚动自动加载更多