超衍智能发布Apex-35B-V1.0:35B模型如何靠递归自我改进追上更大模型
10月28日,超衍智能(Apex Intelligence)发布首个模型 Apex-35B-V1.0。 该模型以 Qwen3.6-35B-A3B 为基础,经过中训练和后训练进一步优化,并在....
10月28日,超衍智能(Apex Intelligence)推出其首个模型 Apex-35B-V1.0。这一模型基于
Qwen3.6-35B-A3B 打造,又经过中训练与后训练做了进一步优化,开发期间还投入了自家积累的大量数据集和研究轨迹。在同量级参与评测的模型里,Apex-35B-V1.0 的研发能力排在前列,通用能力也没有落下;有些基准测试上,它甚至能和尺寸更大的模型掰手腕。
在模型构建的各个环节,AI 都自主插手了数据构造、实验设计、代码执行、训练结果分析和训练优化。落到实际使用中,Apex-35B-V1.0 一边能接 Coding、Agent、问答和深度搜索这类常规活,一边也能做计算闭环的研究任务,比如AI研究、计算科学、机器人仿真,算得上是通用能力与研究能力兼有的一款模型。
Apex-35B-V1.0 本身是递归自我改进的产物,接下来它还要当推动 AI 与科学研究的工具。
01
研究能力突出的同时,通用能力也不含糊。
21 项基准测试里,Apex-35B-V1.0 对同量级的 Qwen3.6-35B-A3B 拿下 20 项领先;对 Recursive Flint(40B)则是 18 项领先、1 项持平。研究任务之外,它在智能体任务、编程和推理上也显出不俗的竞争力,部分基准测试的成绩超过了规模更大的模型。
02
递归自我改进是怎么构建的
超衍智能的自进化AI研究系统 Apex Research,能不断找出模型的弱项、提出假设、跑实验,再把研究所得变成可以衡量的模型改进。
从自进化训练数据和自动化实验,一直到训练方案、GPU 内核及推理优化,Apex-35B-V1.0 的整个开发过程都有 Apex Research 参与。
先看自进化数据。Apex Research 会锁定模型的弱点,自动生成对症的训练数据。举个例子,评测发现模型在计算流体力学(CFD)任务上出错时,系统就去分析背后的推理缺口,合成并验证新的科学训练样例,再把这些样例纳入后续训练。靠着这套自进化数据流程,模型在内部 CFD-Bench 上的成绩提高了 32.1 分。
再看自动化实验。Apex Research 会分析评测结果和智能体运行轨迹,找出系统性的失败模式,据此优化训练策略。比如它发现,过长的推理上下文和失衡的数据配比会拖累智能体表现。随后系统试了不同的序列长度分布、长短轨迹采样比例,以及考虑 token 数量的批次组成,最终找到更有效的训练配置,智能体的可靠性和训练效率都上去了。
训练与推理基础设施也在优化范围内。Apex Research 把自动化优化延伸到底层计算系统,去探索更高效的 GPU 内核、负载均衡、通信策略和执行调度。训练侧,它优化 GPU 负载均衡、通信与计算重叠、动态批处理,以及考虑 token 数量的工作负载分配,目的是减少同步开销、缩短 GPU 空闲时间、提高硬件利用率,结果训练吞吐量提升 45%–60%。推理侧,它优化注意力内核、KV 缓存管理,以及预填充和解码阶段的执行方式;在可比工作负载下,解码速度提升至 1.6–1.8 倍,首 token 响应时间降低 30%–35%。
这些改进分布在数据、训练和基础设施各处,一点点攒成一个持续反馈的研究循环:每一轮研究的成果,都成为下一轮改进的基础。
03
下一步是下一代自进化基础大模型
超衍智能由清华大学人工智能学院助理教授陈勇超创立,目标是构建下一代自进化基础大模型。所谓“自进化”,指的是递归自我改进(Recursive Self-Improvement,RSI):让 AI 参与研究、实验与验证,并将成果用于改进模型自身。我们希望推动 AI 从辅助工具成为共同研究者,从加速已知走向发现未知。我们的长期愿景是让模型具备相当于并逐步超过10 万名覆盖不同学科的顶尖 AI Scientist 的整体科研能力,持续参与科学研究与发现。35B 模型之后,超衍智能计划推出更大量级的自进化基础大模型,新模型会继续提升 AI 研发能力,并拓展到芯片、量子计算等科学研究领域。
Apex-35B-V1.0的模型权重已经发布;配套代码、部署指南和使用示例可在GitHub查看。