智能体AI架构落地:挑战在哪,机会又在哪
智能体 AI 架构在微服务与云原生架构的基础上进行了扩展,引入具备上下文感知、记忆能力,并遵循 MCP、A2A 等协议的 AI 智能体。本文探讨受限上下文集成、依赖任务的协同策略、新型安全风险以及可观测性需求。
微服务和云原生架构,大多数软件工程师与架构师早就熟悉,多年里也一直在用它们搭系统。这类系统往往由几十、几百乃至上千个服务构成,分别承担 API 端点、数据管道、后台工作流以及各种中间形态的数据处理任务。它们的共同之处在于:处理数据时,要么依据代码写定的逻辑,要么依据从数据存储里取出的数据。这不代表系统简单,相反,复杂起来可以非常复杂。可再复杂,人们仍能用确定性的方式去推理,从而划定功能边界、完成实现、测试改动、运维系统,即便碰上基础设施或应用层的故障也不妨碍。
这种局面要变了。未来软件系统里会有相当一部分继续保持确定性,形态和今天差不多。但用不了多久,大量正在设计、正在交付的 IT 系统就会靠基于 AI 的方案来驱动面向用户的功能。对绝大多数架构师和工程师来说——甚至可能是全部——他们得适应 IT 行业这个全新的现实。
AI 之所以进入软件架构,关键推力是它带来的新能力,这些能力对知识工作者使用的产品格外有用。以前 IT 系统干的是存储数据、处理数据,再通过 API 和用户界面把数据交出去;数据管理里有相当一部分由人来做,靠的是业务规则、流程、团队里沉淀下来的隐性经验,还有个人判断。平心而论,其中一部分智能——甚至很大一部分——被直接写进了 IT 系统,用来提生产力,业务规模化扩张的关键阶段尤其如此。有了 AI 能力,软件系统可以从操作原始数据转向操作知识,IT 的角色也就从单纯的数据管理和处理,升格为在知识层面支撑业务运转、支撑终端用户。
基于 AI 的方案会在多大程度上主导下一代软件系统,很难判断。不过种种迹象显示,它的影响会极其深远,深到足以催生一种全新的软件架构:大量功能模块由 AI 驱动,用这套下一代系统做产品的人,效率会大幅提升。所谓智能体 AI 架构,指的是大规模使用智能体 AI 系统、以充分发挥生成式 AI(以及其他)模型能力为目标的软件架构。它建立在微服务和云原生架构之上,再叠加智能体 AI 能力。
智能体 AI 系统的兴起
智能体 AI 不算新概念,但也远没到成熟。过去几年,智能体 AI 系统从简单的单智能体方案,走到链式结构,再走到图结构和多智能体系统(MAS)——多个智能体按不同拓扑结构协同干活。这个领域还在快速演进,将来必然出现更复杂的应用场景。不过要留意,不同的协作策略或拓扑结构各有适配的场景,很多时候选更简洁的方案反而更划算。
智能体要靠合适的上下文,才能把与之交互的大语言模型的能力用足。上下文方案同样在迭代:最早是预设提示词,后来逐步转向动态上下文——上下文信息来自其他智能体的输出、上下文传递,或者通过检索增强生成(RAG)从外部数据源拉取的数据。
不同来源的上下文信息越积越多,推理能力就开始往下掉。工程师于是摸索出新的上下文管理方式,上下文工程由此成为一项独立的实践。渐进式上下文披露(Progressive Context Disclosure)能把上下文准备这一步再优化一层:智能体可以按用户提示词,有选择地把详细信息载入上下文窗口。
LLM 的上下文窗口有大小限制,上下文工程要做的,就是让所用上下文尽可能提高模型产出期望结果的概率,至少也要把上下文模糊或不充分引发幻觉的几率压到最低。要做好上下文工程,离不开上下文管理——存储、优化、复用上下文元素,供后续智能体调用。
面向 AI 智能体的记忆系统最近也出现了,上下文编辑能力因此进一步增强。这类系统对不同类型的长期记忆(情景记忆、语义记忆、程序记忆)加以组织和查询,智能体便能用过去的经验与决策、相关事实与定义、规则或习得的行为来补充上下文。
上下文工程已经是智能体 AI 系统的基础性架构关注点。构建和运营基于 AI 的产品,要求和期望都在往上走,它势必继续演化。
智能体 AI 已经长出一批专有的通信协议。推动这一进程的,主要是智能体开发的复杂性、标准化的需求,以及改进互操作性的需求:
Agent2Agent 协议(A2A)——为多智能体系统而设计,让 AI 智能体之间可以互操作。
模型上下文协议(
MCP)——聚焦 AI 智能体与外部服务(数据库、工具等)之间的通信。
从智能体 AI 系统到智能体 AI 架构
智能体 AI 系统要产生价值,就得集成进更大的企业架构。在企业环境里,集成智能体 AI 系统有以下几种方式:
把智能体嵌进对外暴露 API(HTTP/GRPC)的微服务;
把智能体当作 MCP 工具调用,或基于 A2A 协议调用;
让智能体微服务消费异步通道(队列/主题)上的消息。
大型企业级架构里可能装着许多专门的智能体 AI 系统。AI 智能体通过 MCP 就能直接访问数据库、服务/API 或任意数据源,因此有必要按领域驱动设计(DDD)的思路,把智能体的交互范围收在限界上下文内。在大型架构中限定智能体 AI 系统的作用域,能减少相距遥远或不相关的组件与数据源之间的耦合,工程团队得以维护内聚性更强的区域,不至于堆出过多依赖,也不至于引入变更时影响面过大。

图 1 画的是一个简化架构,里面有两个限界上下文,每个上下文都嵌了一个智能体 AI 系统(内含多个智能体 A)和其他微服务(S)。智能体只用本地数据源和服务来扩展上下文,与更大软件系统其他部分的耦合因此降低。
智能体 AI 系统的性能与可扩展性
云原生软件架构的可扩展性,业界早就摸透了——架构师和工程师搭建、运维这类系统已有多年经验。智能体 AI 系统却不一样:大模型调用本身延迟就高,碰上复杂的多智能体系统,处理耗时还可能继续往上走。所以衡量这类系统的性能,光看吞吐量、延迟、错误率这些传统指标并不够。
谷歌和麻省理工学院的研究人员发过一篇论文,专门讲多智能体系统的扩展框架。他们测试了多种协调策略,每种策略都带若干配置参数,比如 LLM 调用次数、智能体数量、每个智能体的交互次数。结论是:最佳协调策略要看具体任务——金融推理场景更适合中心化编排,网页导航类场景则去中心化策略效果更好。
换句话说,智能体 AI 领域没有一刀切的方案。谷歌和 MIT 的研究结果指向同一点:构建复杂解决方案的团队只能反复试验,靠实证找出最适合自身任务的智能体协调策略。
智能体 AI 的安全挑战
把智能体 AI 放进分布式系统架构,安全模型会明显改变。新增的威胁主要集中在三处:智能体运行时、工具服务器(MCP 或其他),以及模型服务商侧。举个例子,AI 智能体可能遭到提示词注入、指令混淆或工具输出投毒,结果要么行为偏离预期,要么把它能访问的数据泄露出去。另外,用外部 LLM 模型还会带来数据属地、数据保留、数据使用合规等方面的风险。
现有访问控制模型打磨了几十年,放到智能体身上并不合适——智能体既不算人类用户,也不算后端服务。Auth0 高级开发者 Cameron Pavey 最近提出了一种专为 AI 智能体设计的新权限模型。他的看法是:常规(非 AI)后端服务通常更受信任,原因在于它们是确定性的、可审计的,认证会话和用户界面也对用户形成约束。智能体则不同,它可以在用户不知情或未明确许可的情况下,自主触发包含其他智能体、工具调用的多步骤工作流。
针对智能体的权限难题,Pavey 给出的关键步骤是能力范围权限和任务范围凭证,再配合细粒度授权系统做分层执行。
安全领域其实不是头一回遇到这种大变化。当年微服务、云原生架构兴起,同样引发过这一领域的转变,访问控制机制和协议随之重塑,JWT、OAuth 这些如今司空见惯的技术就是那时候出现的。
可观测性
智能体 AI 系统是非确定性的,所以要有效构建、增强、排查故障和运维这类系统,可观测性不可或缺。
团队应尽量覆盖现代可观测性平台的各个核心维度:
日志——采用结构化日志,记下决策、理由和证据;带上关联 ID;把个人身份信息清除掉。
指标——关注输出质量、延迟和成本;为性能和预算建 SLO 仪表盘。
追踪——覆盖任务和步骤,包括规划、工具、验证;关联 ID 不能少。
告警——性能下降、延迟突增、异常情况都要触发告警。
运行手册——维护一套运行手册,并定期评审。
微服务、云原生与智能体 AI 架构的融合
智能体 AI 有望成为未来 IT 产品和服务的主导力量,但切换不可能一夜完成。未来许多年里,今天熟悉的分布式系统架构会和下一代架构并存,就像面向服务架构(SOA)被微服务逐步替代,前后花了数年时间。
再说智能体 AI 本身还处在相对初级的阶段,成熟起来、被广泛采用都需要时间。过渡会是循序渐进的,新的设计模式、最佳实践、配套技术会不断冒出来,反过来又推动普及。
还有一点:并非所有产品或业务流程都需要智能体 AI,有些场景用 AI 在经济上并不划算。某些行业、某类产品或系统从 AI 中获益的速度,可能就是比不上其他行业。从这个意义上说,微服务和云原生架构会以某种形式继续存在。
从微服务与云原生到智能体 AI 平台
智能体 AI 逐渐成为主流、行业成熟度和采用度往上走之后,我预计不少现在还得定制开发的组件和方案,未来会封装成通用平台能力。这些平台要支撑多智能体系统的交付和运维,也要能把智能体系统集成进更大规模的企业架构。
特别是智能体 AI 的基础组件——智能体记忆、资产注册、安全护栏、编排能力,加上配套的可观测性和运维能力,都会变成智能体 AI 平台的内置能力,不管是自研,还是供应商、云服务商提供。
这条路和微服务架构走过的路径一样:企业落地新架构产生大量需求,先催生内部自建运维方案,之后逐步被托管式商业化产品替代。
智能体 AI 架构的未来
接下来几年乃至几十年,分布式系统的主流架构很可能会转向智能体 AI 架构——行业眼下正站在一场大变革的门槛上。不过微服务和云原生架构并不会因此被淘汰。相反,它们会成为下一代系统的地基,而在这类系统里,绝大部分用户体验由 AI 来驱动。今天架构师和工程师已经熟悉的那套东西,会是交付 AI 产品与服务的基础;这些产品和服务把数据、知识以及基于计算的推理揉在一起。这一转变会抬升许多行业知识工作者的生产力,也会改善他们的使用体验。受影响的不仅是 IT 行业,整个现代社会都会被深刻改变。
现在还在早期。创新一个接一个冒出来,目标也在不断调整,大量实践、试错和学习同时在进行。但前面的路,机会是明摆着的。
【声明:本文由 InfoQ 翻译,未经许可禁止转载。】