文心5.5 Flash：ERNIE Evolve系统曝光，已用于推理优化

ERNIE Evolve在基准测试中的表现

递归自我改进（Recursive Self-Improvement，简称RSI）是全球AI领域当前的重要探索方向之一。它的核心理念，是让AI直接介入自身研发流程，不断优化自身能力，形成自我改进的闭环。OpenAI、Anthropic、腾讯、智谱等多家厂商，都在尝试把RSI引入模型研发。

ERNIE Evolve的研究组织采用双层循环。外层循环会结合历史实验结果和已有知识，提出新的研究方向，并安排多条研究线并行探索；内层循环则针对具体方向，持续做代码修改、效果评测和经验沉淀。系统内部由多个智能体分工协作：Director负责挑选研究方向，Selector负责确定每轮实验的目标和代码起点，Executor负责修改代码并生成新版本。每轮实验结束后，独立评测程序Evaluator负责评测代码性能和实验结果，Reviewer再进一步检查研究是否偏离目标、有没有评测漏洞。只有通过评测和复核的改进才会被保留。每轮实验的代码改动、结果和经验都会被记录下来，供后续研究参考。

ERNIE Evolve的架构

把ERNIE Evolve接入文心5.5 Flash的真实推理优化之后，系统在生产环境中持续取得明显收益。

• 昆仑芯P800低时延场景优化中，ERNIE Evolve历时约168小时，经过4轮方向探索，先后接入原生融合算子并启用投机解码，再优化主机调度与同步机制、通信路径，最优版本的生成速度提升至基线的623.6%。
• 确定性推理吞吐优化中，ERNIE Evolve用3天时间，围绕确定性采样、确定性开关及算子并行策略开展3个方向的探索，在严格保持确定性的前提下，最终把吞吐提升至基线的133.7%，平均每token生成时间缩短26%，首token延迟降低12%。
• 为了让解码跑得更快，ERNIE Evolve 一共试过 7 个研究方向，其中 3 个方向经优化 MoE 与 mHC 算子、矩阵乘和调度策略，以及草稿模型的关键路径后，都取得了实际收益。整套下来，推理性能达到基线的 114.9%，精度则和基线持平。

这些改动都已通过文心团队的压测与正确性检查，并完成生产级验证。

昆仑芯P800低时延场景的性能优化过程

确定性推理吞吐的优化过程

极致解码速度的优化过程

文心技术博客提到，RSI 落到真实研发里，头一个切入点是推理基础设施优化。之后，同一套研究闭环会一步步扩展到训练系统优化、模型能力研究和评测体系迭代上，让 AI 自己去发现问题、提出假设、设计实验、验证结果。扩展的过程会划定清楚的目标、权限和资源边界，同时持续接受安全评估和人工监督。

11月5日，百度把最新基座模型文心5.5 Flash Base 正式开源。知识、推理、数学、代码、多语言和长上下文等多类基准测试中，这个模型都跑出了同尺寸模型的 SOTA。有接近百度的人士称，文心的新模型可能近期就会发布。

• 技术博客：https://ernie.baidu.com/zh/research/posts/ernie-evolve/