近日，NVIDIA Research推出的GPU算子性能评测榜单SOL-ExecBench [1] 上，无问芯穹（Infinigence AI）成绩抢眼。

该团队先后在L1基础算子、L2融合算子、Quant量化算子与FlashInfer-Bench推理算子四大赛道登顶。

SOL-ExecBench由NVIDIA Research在2026年3月19日推出，是一个算子优化Benchmark。SOL即Speed of Light，取“光速”之意，此处指按硬件能力推算出的理论性能上限。

过去的评测大多看相对软件基线的加速幅度，SOL-ExecBench的做法不同：它设了一个以硬件性能上限为参照的SOL Score，测试都在高性能计算卡上实打实跑。

榜单的题目共235道，取自124个真实及前沿AI模型，涉及语言、视觉、语音、视频、多模态等领域，分成四大赛道：

• L1基础算子：看基础计算模块实现得够不够高效。
• L2融合算子：看多个计算步骤能否融合执行、协同优化，把访存、数据搬运和执行开销压下来。
• Quant量化算子：涵盖FP8、NVFP4等低精度计算技术，直接关系到大模型推理的性能与成本。
• FlashInfer-Bench推理算子：盯的是注意力机制、混合专家网络等大模型在线推理中的关键计算。

SOL-ExecBench有个鲜明特点：工作负载直接从真实前沿模型的计算图中提取，重点考察它们在最新一代GPU上的性能极限。

注：这是一个持续竞争、高频动态刷新的全球榜单。各支团队不断提交新方案，排名也随之变动，竞争相当激烈。

到2026年10月26日为止，无问芯穹在L1与Quant两大赛道的总分仍居全球第一，L2与FlashInfer-Bench赛道的总分排在全球第二；235道GPU算子优化题中，它拿下88项单题第一，在所有参赛团队里最多，是第二名单题第一数量的2倍以上。

尤其是最考验复杂计算优化能力的L2融合算子赛道，82道题目里无问芯穹拿下39项第一，接近一半。

全球顶尖的AI基础设施和智能体研发力量都聚到了这场比赛里，它正成为检验新一代AI算力优化能力的重要舞台。

从GPU Maxxing到Token Maxxing，一场AI生产力转化的全球竞技

AI生产力要落地，背后是一条完整的转化链：“投入-电/卡-Token-生产力-价值”。

早期在Scaling Law推动下，多投计算资源、把GPU效率做到最大，是模型性能突破和Token生产提量的重要手段。

可随着Agent发展，Token成了任务执行的投入，而不再是最终交付物。模型能靠更长的推理、更多轮的尝试和验证，解决原本难啃的问题；但光是把Token投入加上去，任务效果未必跟着提升。

要是一直重复相似的尝试，没法从执行反馈里修正方向，再多的Token也可能耗在原地打转。

行业关注的重心，正从GPU Maxxing进一步转向Token Maxxing：既要把从“电”到“Token”的转化效率提上去，也要让更多Token真正变成模型能力与任务成果，把“Token”高效转化成“生产力”。

真实前沿模型里的计算负载，被SOL-ExecBench拿来搭出了一个具体考场：基础算子、复杂融合、低精度计算、推理优化都在覆盖范围内，提交的代码必须同时过正确性和性能两道关。Agent在这里要走完代码生成、编译运行、性能分析、反复调优整条路，最终成绩只看真实硬件上的执行结果。

这个考场聚起了不少参赛者。全球数据与AI平台企业Databricks来了，Y Combinator孵化的AI Infra创业公司SF Tensor来了，知名AI编程工具团队Cursor也来了，还有Recursive、doubleAI、Geometric这些长期活跃在自动化算子优化领域的技术团队。

SF Tensor在2026年9月25日公布过一组数字：583支团队累计提交评测超过3.1万次，平均大约每8分钟就有一条公开提交，榜单被持续刷新。

大量团队用Agent自动生成、测试、优化底层计算代码。竞赛考的不只是GPU Kernel优化水平，还有把模型能力组织成一套系统、让它持续完成复杂工程任务的本事。

全球竞逐如此激烈，无问芯穹还是先后在L1、L2、Quant与FlashInfer-Bench四大赛道拿到全球第一。

这背后既有团队在算子优化与软硬件协同上的技术积累，也检验了一件事：靠Agentic Infra把Token投入转成经过验证的计算性能收益，并借此摸索AI自主完成复杂任务的有效路径。

以AI生产力反哺Infra进化，以技术实践助力RSI工程化落地

资源投进去，Token产出来，再到实际生产力交付、价值兑现，无问芯穹Agentic Infra想推动这条链路从单向推进转向闭环进化。

团队的设想是，Agent不能只消耗Token完成任务，还得把创造出来的生产力反哺给基础设施本身，让Token生产持续提升，由此探索AI基础设施RSI的实现路径。

算子优化任务正好是观察这一过程的切口。GPU Kernel执行效率直接决定硬件性能能发挥多少；Agent找到的高效实现一旦通过验证、进入训练与推理系统，计算开销有望进一步下降，算子优化的收益也就延伸到了Token生产环节。

沿着这条路走，先要解决的是Agent能不能持续产出可靠的优化成果。代码跑不跑得起来、瓶颈卡在哪、一次修改有没有带来真实收益，都得靠实际运行来判断，再拿这个判断当下一轮探索的依据。

围绕SOL-ExecBench，无问芯穹搭了一套算子优化Agent，把代码生成、执行验证、性能分析、经验积累串成连续的工作流程。

具体怎么支持Agent在真实硬件反馈下持续改进，下面从三方面说：容器隔离执行、Skills感知与共享Memory、面向不同任务的优化策略。

容器化隔离架构

执行架构采用容器化隔离，Agent工作区、评测区、调试区彼此解耦。工作区允许联网、但不直接分配GPU，Agent在这里通过外部挂载加载Skills、共享Memory与优化策略，写完代码再提交计算请求。

宿主侧资源调度器统一管理GPU，对请求排队、按需分配，评测与调试分别在两类镜像里执行：一类与官方评测环境对齐，一类集成性能剖析工具。两类执行容器都禁用网络访问，结果回传给Agent，形成“代码生成—评测验证—性能分析—策略调整”的迭代闭环。

这套隔离设计要防的是Agent在自动优化时绕开评测约束。当性能指标成为优化目标，Agent的探索可能偏离算子实现本身，转而改评测脚本、干预计时逻辑、访问参考结果、利用环境漏洞，拿到并非来自真实计算效率提升的分数。容器隔离、权限控制与受控提交接口共同划出执行边界，Agent可以持续优化候选算子，对评测过程本身的干预则被限制住。

模块化Skills与共享记忆机制

Agent能力构建上，系统一方面用模块化Skills接入开源社区的技术积累，一方面靠专门的框架感知Skill帮Agent理解并使用相关框架，同时用共享Memory把优化经验持续沉淀、反复复用。

• 知识库及性能调试Skills：来自开源社区，为Agent提供GPU编程知识、性能分析方法及优化工具等能力支持。
• 给运行框架配一个交互Skill：Agent 借此能看清自己跑在什么执行环境里、手头有哪些能力可调、操作边界划在哪里；调试、提交评测、查任务状态、读结果，都从同一个CLI入口发起。
• 共享Memory：用于记录实际优化过程中验证有效的策略、适用条件与实践经验，使不同任务能够复用已有探索成果。

这几套机制一起起作用：Agent能调用专业能力，能正确使用运行框架，还能在持续迭代中攒下经验、少走重复路。

△共享记忆的沉淀

优化策略按任务特征做精细化处理。

具体做法上，系统把工作负载特征、性能瓶颈与时间预算三者结合起来，分层展开探索。

Agent会依据优化时间预算挑选合适的编程抽象与DSL（领域特定语言），在Triton、TileLang、CuTe DSL等粒度不同的DSL之间权衡开发效率与性能潜力，再逐层生成CUDA、PTX这类低层语言，不断挖掘硬件性能空间。

△图片仅为实例案例，并非大规模消融实验结果

面对不同计算场景，优化策略还会继续细分：

• 计算密集型任务：主要看Tensor Core利用率、分块方式与数据复用，尝试异步数据搬运和流水线重叠，同时权衡寄存器、共享内存占用与有效并行度。
• 访存密集型任务：先想办法减少冗余读写和中间结果落地，优化合并访存、向量化访问与缓存复用，把单位有效计算所需的数据搬运量压下来。
• 多算子计算链路：评估算子融合在访存和启动开销上能带来多少收益，同时还要看融合之后寄存器压力、同步复杂度以及并行度会怎么变。碰到适用的依赖链路，可以试试程序化依赖启动（PDL）——把后继Kernel里不依赖前序结果的那部分工作提前跑起来，等真正要读依赖数据之前再把该做的同步补上；至于适合持久化执行的任务，就试Persistent Kernel，靠CTA一直驻留、循环处理多个工作单元，把线程块调度和初始化的开销摊薄，再借流水线并行把执行效率往上推。
• 小Shape、低延迟任务：重点控制线程块数量、无效线程、边界处理、指令与同步开销，避免过度分块或复杂流水线带来无法被有效计算摊薄的固定成本。

开放能力复用、分层性能优化与真实硬件反馈三者结合，无问芯穹想做的，是把高度依赖专家经验的GPU算子调优，变成Agent能自主探索、持续学习并规模化执行的优化过程。

以持续创新的Agentic Infra，拓展智能进化边界

SOL-ExecBench的成绩不是一次孤立的技术突破，而是无问芯穹长期深耕Agenetic Infra技术创新的自然延伸。

从连接“M种模型”与“N种芯片”，到以“多元异构、软硬协同、自主式AI”为核心的“前店后厂一中心”的Agentic Infra战略布局，无问芯穹的技术探索与实践始终围绕AI生产力链条的核心环节展开。

此次在SOL-ExecBench上的探索与成果，是其长期技术路线在底层计算优化领域的阶段性体现。更关键的是，它证明了把这种效率优化能力进一步交给AI本身这一RSI路径可行，初步跑通了从Token生产到生产力创造、再由生产力反哺Infra的进化闭环。

下一步，无问芯穹希望把这一探索延伸到Agent自身的任务执行框架：通过修改和验证任务规划、工具调用、记忆管理与反馈机制，让Agent在完成任务的过程中逐步改进自己解决问题的方法。

当优化成果不只能提高计算效率，还能改善产生优化方案的机制，持续探索就有机会转化为持续的能力增长。

面向RSI与AGI的未来演进，无问芯穹的技术团队既有信心，也清楚看到：单点技术突破离真正的系统级能力还差得远，局部优化要变成实际生产力，还得靠更多技术探索与协同。

从让AI更高效地用算力，到让AI参与到算力系统自身的优化里，无问芯穹正在推动基础设施从支撑AI创新转向与AI协同进化，为有效AI生产力的持续交付摸出新路子。

致谢：Humanize社区（https://github.com/humanfia/humanize）

参考文献： [1] SOL-ExecBench: Speed-of-Light Benchmarking for Real-World GPU Kernels Against Hardware Limits. 2026. https://arxiv.org/abs/2603.19173 [2] KernelBench: Can LLMs Write Efficient GPU Kernels? ICML 2025. https://arxiv.org/abs/2502.10517 [3] MultiKernelBench: A Multi-Platform Benchmark for Kernel Generation. 2025. https://arxiv.org/abs/2507.17773 [4] CANN Bench: Benchmarking Agent Generated Kernels against Real NPU and Algorithmic Limits. 2026. https://arxiv.org/abs/2607.20518

*本文系获授权刊载，观点仅为原作者所有。