智能体AI架构:挑战与机遇并存,工程师如何应对
大多数软件工程师和架构师对微服务和云原生架构早已耳熟能详,多年来也一直参与构建基于这些架构的系统。基于微服务的系统通常由数十、数百甚至数千个服务组成,负责不同类型的数据处理任务——API 端点、数据管道、后台工作流,以及各类中间场景——但它们都有一个共同点:按照代码确定的逻辑或基于从数据存储中检索到的数据来处理数据。这
微服务和云原生架构,大多数软件工程师与架构师早已熟悉,多年来也一直在用它们搭系统。这类系统往往包含几十、几百乃至上千个服务,分别承担 API 端点、数据管道、后台工作流以及各种中间形态的数据处理任务。规模差别很大,但有一点一致:处理数据时,靠的是代码写死的逻辑,或者从数据存储里取出来的数据。这不代表系统简单。恰恰相反,它们可以非常复杂。但再复杂,人们仍能用确定性的方式去推演,这对划定功能边界、落地实现、验证改动、运维系统都有帮助,哪怕碰上基础设施或应用层的故障也一样。
不过,这种局面就要变了。未来软件系统里会有相当一部分继续保持确定性,形态和今天大家熟悉的差不多。但用不了多久,大量正在设计、正在交付的 IT 系统就会借助基于 AI 的方案来驱动面向用户的功能。对绝大多数架构师和工程师来说——甚至可能是全部——他们得适应 IT 行业这个全新的现实。
AI 之所以进入软件架构,关键推力是它带来的新能力,这些能力对知识工作者使用的产品尤其有用。过去 IT 系统干的事,是存数据、处理数据,再通过 API 和用户界面把数据送出去。与此同时,相当一部分数据管理工作由人承担:业务规则、流程、团队里沉淀下来的隐性经验,还有个人判断力,都在发挥作用。客观讲,其中一部分智能——甚至很大一部分——被直接做进了 IT 系统,用来提效,业务规模化扩张的关键阶段尤其如此。有了 AI 能力,软件系统就能从操作原始数据转向操作知识,IT 的角色也随之从单纯的数据管理与处理,上升到在知识层面支撑业务运转、支撑终端用户。
基于 AI 的方案会在多大程度上主导下一代软件系统,很难判断。但种种迹象显示,它的影响会极其深远,足以催生一种全新的软件架构:大量功能模块由 AI 驱动,用这套下一代系统做产品的人,效率会大幅提升。所谓智能体 AI 架构,指的是大规模使用智能体 AI 系统、以充分发挥生成式 AI(以及其他)模型能力为目标的软件架构。这类架构建立在微服务和云原生架构之上,再叠加智能体 AI 能力。
智能体 AI 系统的兴起
智能体 AI 不算新概念,但也还没成熟。过去几年,智能体 AI 系统从简单的单智能体方案,走到链式结构,再走到图结构和多智能体系统(MAS)——多个智能体按不同拓扑结构协同工作。这个领域仍在快速演进,未来必然会出现更复杂的应用场景。不过要注意,不同的协作策略或拓扑结构各有适用的场景,很多时候选更简洁的方案反而更有利。
智能体要充分发挥与之交互的大语言模型的能力,离不开合适的上下文。上下文方案同样在迭代:最早是预设提示词,后来逐步演化为动态上下文——上下文信息来自其他智能体的输出、上下文传递,或者通过检索增强生成(RAG)从外部数据源拉取的数据。
不同来源的上下文信息越积越多,推理能力下降的问题就开始冒头,工程师于是摸索出新的上下文管理方式,上下文工程由此成为一项独立实践。渐进式上下文披露(Progressive Context Disclosure)技术能把上下文准备步骤再优化一步:智能体可以根据用户提示词,有选择地把详细信息加载进上下文窗口。
LLM 的上下文窗口有大小限制,上下文工程的作用就在于让所用的上下文尽可能提高模型产出期望结果的概率,或者至少把上下文模糊、不充分导致幻觉的几率压到最低。要做好上下文工程,需要上下文管理来存储、优化和复用上下文元素,供后续的智能体调用。
最近,面向 AI 智能体的记忆系统也出现了,上下文编辑能力进一步增强。这类系统会组织并查询不同类型的长期记忆(情景记忆、语义记忆、程序记忆),让智能体能用过去的经验与决策、相关事实与定义、规则或习得的行为来补充上下文。
上下文工程已经是智能体 AI 系统的一项基础性架构关注点。构建和运营基于 AI 的产品,要求和期望都在不断增长,它也必然继续演化。
智能体 AI 已经发展出一批专有的通信协议。推动这一进程的,很大程度上是智能体开发的复杂性、标准化的需求,以及改进互操作性的需求:
-
Agent2Agent 协议(A2A)——专为多智能体系统设计,实现 AI 智能体之间的互操作。
-
模型上下文协议(MCP)——专注于 AI 智能体与外部服务(数据库、工具等)之间的通信。
从智能体 AI 系统到智能体 AI 架构
智能体 AI 系统要产生价值,就得集成进更大的企业架构。在企业环境里,集成智能体 AI 系统有以下几种方式:
-
将智能体嵌入到对外暴露 API(HTTP/GRPC)的微服务中;
-
把智能体作为 MCP 工具或是基于 A2A 协议进行调用;
-
让智能体微服务消费来自异步通道(队列/主题)的消息。
大型企业级架构里可能有很多专门的智能体 AI 系统。AI 智能体能通过 MCP 直接访问数据库、服务/API 或任意数据源,因此有必要按领域驱动设计(DDD)的思路,把智能体的交互范围限制在限界上下文内。在大架构中限制智能体 AI 系统的作用域,能减少相距遥远或不相关的组件与数据源之间的耦合,工程团队也就能维护内聚性更强的区域,不至于产生过多依赖,或在引入变更时造成过大影响。
图 1 画的是一个简化架构,里面有两个限界上下文,每个上下文都嵌入了一个含多个智能体(A)的智能体 AI 系统,外加其他微服务(S)。智能体只用本地数据源和服务来扩展上下文,与更大软件系统其他部分的耦合随之降低。
智能体 AI 系统的性能与可扩展性
云原生软件架构的可扩展性,架构师和工程师已经琢磨得很透,搭建、运维这类系统也有年头了。智能体AI系统不一样:大模型调用延迟更高,多智能体系统一复杂,处理耗时还可能继续往上走。所以看智能体AI系统的性能,光盯着吞吐量、延迟、错误率这些传统指标不够。
谷歌和麻省理工学院的研究人员发过一篇论文,讲的是多智能体系统的扩展框架。他们试了多种多智能体协调策略,每种策略都带若干配置参数,比如LLM调用次数、智能体数量、每个智能体的交互次数。结论是:最佳协调策略要看具体任务——金融推理场景更适合中心化编排,网页导航类场景反而去中心化策略效果更好。
换句话说,智能体AI领域没有一刀切的方案。谷歌和MIT的研究结果表明,构建复杂解决方案的团队只能反复试验,靠实证找出最适合自己任务的智能体协调策略。
智能体AI的安全挑战
把智能体AI纳入分布式系统架构,安全模型会明显改变。智能体AI多出来的安全威胁,主要集中在智能体运行时、工具服务器(MCP或其他)以及模型服务商侧。举个例子,AI智能体可能容易中提示词注入、指令混淆或工具输出投毒的招,结果就是行为偏离预期,或者把它能访问的数据泄露出去。另外,用外部LLM模型还会带来数据属地、数据保留、数据使用合规这些风险。
现有访问控制模型打磨了几十年,可放到智能体身上并不合适——智能体实际上既算不上人类用户,也算不上后端服务。Auth0高级开发者Cameron Pavey最近提出了一种专门针对AI智能体的新权限模型。他的看法是,常规(非AI)后端服务通常更受信任,原因是它们确定性、可审计,认证会话和用户界面也会对用户形成约束。智能体则不同,它可以在用户不知情或未明确许可的情况下,自主触发包含其他智能体、工具调用的多步骤工作流。
针对智能体的权限问题,Pavey提出用能力范围权限和任务范围凭证作为关键步骤,再配合细粒度授权系统做分层执行。
安全领域其实不是第一次出现这种重大变化。当年微服务、云原生架构兴起时,这一领域同样发生过转变,访问控制机制和协议被重塑,JWT和OAuth这些如今司空见惯的技术也是那时候出现的。
可观测性
智能体AI系统具备非确定性,所以要有效构建、增强、排查故障和运维这类系统,可观测性是关键。
团队应力求覆盖现代可观测性平台的全部核心维度:
-
日志——用结构化日志,记录决策及其理由和证据;带上关联ID;清除个人身份信息。
-
指标——评估输出质量、延迟、成本;为性能和预算创建SLO仪表盘。
-
追踪——追踪任务/步骤(规划、工具、验证);包含关联ID。
-
告警——对性能下降、延迟突增、异常情况进行告警。
-
运行手册——维护一套定期评审的运行手册。
微服务、云原生与智能体AI架构的融合
智能体AI有望成为未来IT产品和服务的主导力量,但切换不可能瞬间完成。未来许多年里,今天所熟知的分布式系统架构会和下一代架构共存,就像面向服务架构(SOA)用了数年时间才逐步被微服务替代一样。
况且智能体AI还处在相对初级的阶段,这一领域要发展成熟、获得广泛采用,得花些时间。过渡会循序渐进,新的设计模式、最佳实践、配套技术也会不断冒出来,进一步推动普及。
说到底,并非所有产品或业务流程都需要智能体AI,部分场景下用AI也不具备经济可行性。某些行业或某类产品/系统,可能没法像其他行业一样快速从AI中受益。从这个意义上说,微服务和云原生架构会以某种形式继续存在。
从微服务与云原生到智能体AI平台
智能体AI逐步成为行业主流,行业内的成熟度和采用度不断提升,我预计很多眼下需要定制开发的组件和方案,未来会封装成通用平台能力。这些平台能支持多智能体系统的交付和运维,也能把智能体系统集成到更大规模的企业架构中。
尤其是智能体AI基础组件:智能体记忆、资产注册、安全护栏、编排能力,还有配套的可观测性和运维能力,都会变成智能体AI平台的内置能力——自研也好,供应商或云服务商提供也好。
这条路和微服务架构走过的路径一样:企业落地新架构产生大量需求,先催生内部自建运维方案,之后逐步被托管式商业化产品替代。
智能体AI架构的未来
整个行业正站在一场大变革的门槛上。往后几年,甚至几十年,分布式系统的主流形态很可能就是智能体 AI 架构。不过,这不代表微服务和云原生架构会被淘汰。恰恰相反,它们会成为下一代系统的底座,而在这类系统里,绝大部分用户体验由 AI 驱动。今天架构师和工程师已经熟悉的那套东西,会变成交付 AI 产品与服务的基础。这些产品和服务,把数据、知识以及基于计算的推理融到了一起。
这种转变会带来什么?众多行业里知识工作者的生产力会往上走,使用体验也会变好。它重塑的不只是 IT 行业,整个现代社会也会被深刻改变。
眼下还处在早期。创新一个接一个冒出来,目标也在不断调整,大量的实践、试错和学习正在进行。说到底,前面的路一定有不少机会。
【声明:本文由 InfoQ 翻译,未经许可禁止转载。】