混合智能体（MoA）

混合智能体（Mixture-of-Agents）采用分层结构，同一层内多个模型各自独立作答，下一层的模型把上一层的全部输出作为额外上下文，逐层提炼与修正，最终由聚合环节给出答案。它与模型集成、投票机制的思路相通，但强调以自然语言为媒介传递信息，因此对异构模型同样适用，无需重新训练更大的模型。

它带来的收益

• 质量提升：多份草稿互相补缺，聚合结果通常优于任意单个模型。
• 模型无关：可以混用不同厂商、不同规模的模型，无需统一权重格式。
• 即插即用：不改动原有模型，只在调用编排层增加一层聚合环节。
• 过程可查：中间草稿可保留展示，便于观察分歧出现在哪个环节。
• 难度自适应：简单问题少跑几层，复杂问题再展开，把预算用在刀刃上。

与相近技术的对比

模型融合需要访问参数并在权重层面做合并，适用范围受架构一致性限制；投票法只看最终答案，无法让模型互相借鉴推理过程；多智能体协作强调角色分工与工具使用，流程更长。混合智能体的定位介于三者之间：它停留在调用层，用分层聚合换取质量，同时对时延与成本较为敏感，层数越多开销越大。可见它们的共同点是增加算力换取质量，差别在于算力花在参数、样本还是调用次数上。

代价与常见误解

主要代价是算力与延迟成倍增加，因此常用于对质量敏感而非对时延敏感的场景，例如离线批处理、评审辅助与高价值问答。它容易被误认为参数合并技术，实际上并不涉及权重修改；也不等同于多智能体协作，后者需要工具与角色定义。此外，若各层模型同源且风格高度相似，收益会明显缩水，多样性才是聚合发挥作用的前提。聚合模型本身的选择同样关键，若它能力偏弱，多份草稿反而会被错误综合。

实践要点

• 优先拉开模型差异：选用不同训练来源或不同规模的模型，比堆叠同款模型更有效。
• 控制层数与候选数：收益往往在最初一两层最明显，继续叠加需谨慎评估成本。
• 固定聚合指令：聚合环节的提示应稳定可复现，否则结果波动难以归因。
• 留出降级路径：时延或成本超限时能够退回单模型调用，避免整条链路不可用。
• 控制单层并发：并行调用需要限流，避免触发上游配额限制造成大面积失败。