Claude三天改写GPU内核,英伟达CUDA壁垒还稳吗
作者 | 四月计算产业半个世纪的历史反复证明:最难被逾越的工业壁垒,往往不是硅片本身的物理极限,而是数以万计的工程师长期积累的技术经验、海量存量代码,以及由此形成的高昂迁移成本。英伟达耗时近二十年搭建的 CUDA 帝国就是最生动的例子。然而,这道看似坚不可摧的防线,正因它的产物——大模型而开始动摇。11 月 11...
半个世纪的计算产业史一再说明,最难翻越的工业门槛通常并非硅片自身的物理极限,而是成千上万工程师多年攒下的技术经验、海量存量代码,以及由此堆起来的高昂迁移成本。英伟达花了近二十年建起的 CUDA 帝国,就是最直观的样本。
可这道看着牢不可破的防线,恰恰因为自己的产物——大模型,开始松动。
11 月 11 日消息,
Anthropic 在最新的 IPO 路演中披露了一项工程突破:其前沿模型 Claude Mythos Preview 只用了约三天,在几乎没有人工介入的情况下,自己完成了核心 GPU 底层计算内核(Kernels)的代码移植与重写,让 Claude 模型在 AMD 旗舰 GPU 上跑通了关键推理环节。
按 Anthropic 以往的工程经验,把大模型适配到一款全新的异构芯片平台,过去往往要数十名顶尖编译器与高性能计算工程师攻坚 6 到 12 个月。
硅谷投资人 Marcelo P. Lima 在 X 上说得直接:“英伟达的 CUDA 护城河已经不复存在”。
这番话很快在行业里引出分歧。谨慎的工程师认为,跑通部分推理算子,和支撑万卡集群在大规模生产中稳定运行,中间还隔着很大的工程鸿沟。但眼光敏锐的观察者看到的是一条更深的线索:大模型一旦具备向下重写系统软件的能力,过去靠“人类工程劳动力”堆出来的兼容性门槛,就会被智能本身的自动化推演迅速抹平。
在 Anthropic 的 IPO 路演里,联合创始人兼首席算力官 Tom Brown 用了一整块篇幅讲公司的算力战略。
他一开口就切进那个被全行业视为高壁垒的难题:“如何让同一个前沿 AI 模型顺畅运行在不同厂商的物理芯片上”。
过去每引入一种新芯片架构,企业都得自下而上重写整套系统工程:适配底层计算内核、重构推理软件栈、排查微架构兼容性,还要做极其繁琐的性能优化。竞品的物理算力和显存配置再出色,也不代表原本针对。
对一家必须持续训练和部署顶尖大模型的实验室来说,这种迁移既拖时间,又要消耗大量稀缺的高性能计算专家。
但今年,Anthropic 换了打法。
Tom Brown 在路演中透露,公司首次接入后,就让 Claude Mythos Preview 直接参与这项工程任务。执行结果出乎团队意料:
“底层内核几乎 100% 由 Claude 自行移植或编写,整个过程基本没要人插手,三天时间就把 Claude 跑在了 AMD 上。”
GPU Kernel(底层计算内核)是直接跑在图形处理器硬件单元上的底层微程序(算子)。大模型实际运行时,大规模矩阵乘法、注意力机制(Attention)计算以及各类激活与归一化操作,都靠这些内核程序高效执行。
问题是,针对英伟达 CUDA 环境深度优化过的内核代码,不可能在 AMD GPU 上直接满血运行。两家芯片的微架构设计有本质差异:
• 线程调度单位不同:英伟达按 32 线程的 Warp 调度,AMD CDNA 架构用的是 64 线程的 Wavefront,分支预测和掩码计算逻辑都得全面调整;
• 访存这块的门槛:片上共享内存(Shared Memory / LDS)怎么组织、寄存器堆有多大、访存冲突如何触发,各家并不一样。算子代码一旦写得有偏差,流水线就会严重停顿,显存也可能溢出。
换句话说,Anthropic 交给 Mythos 的,不是简单的应用层代码格式转换,而是直接决定物理计算效率的核心工程。
这项实验还有个挺有画面感的细节。
今年 7 月,Tom Brown 曾在 AMD 的 Advancing AI 大会上向苏姿丰介绍过这项早期尝试。当时 AMD 为 Anthropic 提供了一台最新的 MI355X 服务器,Anthropic 工程师原本预计调试会极其复杂。
后来有位工程师把机器控制接口直接连到 Claude 上,交给它硬件适配的活,让系统整个周末无人看管地跑。周一回办公室调出监控一看,模型在新硬件上的性能曲线在 AI 自主调优下已经一路往上走,这让他颇感意外。
如今,这项工程探索被正式写进了 IPO 路演的核心材料。
当然,从严谨的技术维度看,三天完成的并非整个系统端到端的全部重写。路演图表附注显示,Mythos Preview 实际达成的指标是:让某款 Claude 模型的提示词处理阶段(Prefill),在配备 288GB HBM3E 显存的 AMD Instinct MI355X 上达到了可用性能。
大模型推理里,Prefill 阶段要把输入的整段上下文提示词并行吞进去、同时建起 KV 缓存,是典型的吃算力活;到了后半段逐字往外吐的 Decode 阶段,更看重多卡之间的互联带宽,以及网络通信延迟能压到多低。路演中,Anthropic 没有给出具体的吞吐量基准,也没公布性能损耗的对照数据。
这项实验到底狠在哪里,得先看清楚英伟达 CUDA 那道墙是靠什么撑起来的。
CUDA 是 2006 年问世的。二十年下来,英伟达在它周围堆起了底层计算库、自动化编译链、性能分析器、多卡通信组件,还有数百万开发者的使用习惯。PyTorch、TensorFlow 这些主流深度学习框架,多年来一直把 CUDA 当作第一优先级。
图注:早年 CUDA 技术栈示意图
产业惯性就是这么养成的,而且相当牢固:开发者选英伟达,算力强只是其中一面,更关键的是整个行业的存量代码早就围着英伟达硬件适配完了。对手就算造出一款纸面性能能打的芯片,用户想搬过去,工程摩擦力和重构风险照样摆在面前。
AMD 对软件上的劣势心里有数。它长期维护开源平台 ROCm,拿出 HIP、HIPIFY 这类代码转换工具,业内也有 Triton 这种跨硬件 DSL 想撬开缺口。可落到真实工程里,自动化工具一般只解决“语法能编译”,碰上深度优化的复杂算子,生成的代码效率常常大打折扣,最后还得靠专家团队花几个月去啃汇编。
Mythos 一进来,这套研发的成本结构就被翻了个底朝天。
AI Agent 一旦具备高阶的代码理解和推理能力,就不再是死板的转译脚本,而是一个能跟编译器深度打交道的自主系统。它会自己去读 AMD 的硬件白皮书,重写底层算子代码,再调编译器到真实硬件上跑测试;性能分析器返回寄存器占用、访存瓶颈这些数据后,它据此反复调参、自我修正。
过去这种手工重构,严重依赖稀缺工程师的工时;现在正被换成 AI 驱动的高并发、低成本自动化流水线。
更有意味的是,Anthropic 已经把这项技术突破做成了分量不轻的产业联盟。
7 月 22 日,AMD 与 Anthropic 宣布达成深度战略合作:
• 算力部署上超大规模推进:Anthropic 计划部署最高达 2GW 的 AMD Instinct MI450 系列 GPU 集群,首期 1GW 预定 2027 年上半年上线;
• 资本和股权绑在一起:AMD 承诺向 Anthropic 进行最高达 50 亿美元的战略股权投资;
• 软硬件协同开发:双方明确要用 Claude 优化 AMD GPU 的真实运行负载,并直接拿大模型加速 AMD ROCm 软件栈的开发。
故事的商业纵深,到这里就完全铺开了。
以前 AMD 只能靠有限的人力,一点点去追英伟达攒了二十年的软件帝国;如今它直接拉上顶尖大模型实验室,让最前沿的 AI 当自己的“全职编译器架构师”。
对 Anthropic 来说,这能帮它快速接上性价比更高的新算力;对 AMD 来说,这是借外部前沿模型强行补软件短板的捷径。双方其实在联手验证一件事:用 AI 的生产力,去冲开软件垄断给硬件工业划下的界线。
路演中,Tom Brown 把这次技术突破放进了一个更大的商业顶层设计里:彻底甩开对单点的绑定,让异构硬件变成统一的弹性算力底座。
2021 年成立之初,Anthropic 就走了一条当时看着很不合群的技术路线:同时适配多种芯片架构。
大多数初创公司为了压低启动成本,会完全依靠英伟达公有云实例;Anthropic 却投入大量精力自建调度抽象层。如今它宣布,自家模型已经能在全球四大主流加速芯片家族上做混合训练与推理服务:英伟达 GPU、AMD GPU、Google TPU、亚马逊 Trainium。
具体执行时,Anthropic 并不要求所有芯片干同样的活,而是按硬件特性分流:互联带宽高的芯片,专门承接大规模预训练;显存大、每代币成本低的芯片,则分配给特定推理场景。
Tom Brown 把它定义为一个跨供应商、跨微架构、跨地理区域的统一算力池。
这套体系在商业上的防御价值极高。算力供应链波动剧烈,单一巨头又握着绝对定价权,卖方市场里,系统一旦深度绑定某家芯片,交货排期与高昂溢价就只能无条件接受。反过来,只要具备跨架构迁移能力,Anthropic 就能在全球供应链中自由切换,按实际性价比和供应配额做最优采购。
成本还能再往下压。Anthropic 在路演里还讲到了 Anthropic Direct 模式:不再走云服务商那套溢价很高的打包方案,改为直接租物理裸芯片,装进专门为它定制建设的数据中心。综合拥有成本(TCO)随之明显下降;对数据中心基础设施的长周期投入,和芯片硬件本身的短周期换代,从此彻底分开算账。
这些工程动作最终都汇聚到 Tom Brown 提出的核心概念——“算力乘数”(Compute Multipliers)。
算力军备竞赛里,粗放地增加物理卡数,必然会撞上资本开支、晶圆产能与电网负荷的物理天花板。算力乘数则不同,它来自模型算法改良与系统底层效率的深度榨干。
算法与编译优化如果带来一个 4 倍的算力乘数,商业上便意味着两种质变:
• 物理硬件投入仅用 25%,就能交付出与竞争对手同等智能等级的模型,换来极高的毛利安全垫;
• 算力预算不变,却能释放出相当于 400 单位 算力的极限模型能力,在模型前沿上保持领跑。
路演披露的数字也说明这套打法有效:从 2025 年第一季度算起,Anthropic 按“业务收入除以算力及基础设施开支”计算的综合经营效率,提升幅度已超过 4 倍。
更有想象空间的是 Tom Brown 勾勒的终极演进路径:递归式自我改进。
Claude 具备底层系统编程能力后,能持续自主识别硬件特性、找出新的算力乘数,大模型由此进入反哺底层物理基础设施的正向循环。3 天跑通 AMD 内核只是这个循环中的一小块,最终的模样是 AI 成了自家算力工厂的优化设计师。
投资人 Marcelo P. Lima 宣称“CUDA 护城河已经消失”,显然带有二级市场的夸张修辞。
半导体系统分析师 Ben Pouladian 等一线技术专家的反驳同样冷静、也站得住脚:CUDA 不是几段能单独转译的算子代码,它是一整套系统工程,经过二十年打磨,覆盖软硬件协同、分布式网络通信容错和工业级稳定性。
然而,如果仅仅因为 CUDA 体系极其庞大,就断定 AI 无法撼动既有格局,同样会低估这次实验的深远影响。
这场实验真正要看的核心变量,并不是 AI 能不能在几天里凭空造出另一个 CUDA。它指向另一个确定的趋势:开发者要“跨出 CUDA 生态”,所需付出的工程转换成本正在以数量级的速度下滑。
过去,英伟达最让对手头疼的恰恰就是这种转换成本(Switching Cost)。哪怕外部竞争者报出的硬件单价、显存配置再诱人,企业真要换架构,也得把几十名资深专家一整年的研发工时、业务迁移中断带来的巨大风险,全都算进账里。这道看不见的工程摩擦力,就是英伟达最厚的一层防护网。
但如果这些繁重的底层适配与调试工作,能够成倍甚至以指数级速度由 AI 自动化接管,企业替换芯片的经济账就会彻底重构。
这一变化带来的启发不只对 AMD 有用。对正在自研定制芯片的云巨头,对软件生态推进艰难的国产 AI 芯片厂商,同样有战略参考价值。