1年的活3天干完,Claude大幅压缩AMD芯片适配周期,英伟达CUDA护城河遭遇挑战
最近,Anthropic 披露了一项新技术进展,其旗下模型 Claude Mythos 仅仅使用 3 天时间,几乎无需人工干预就写完了将近 100% 的底层内核代码。之前几十名工程师耗时 6 到 12 个月才能完成的 AMD 芯片适配时间周期,现在被压缩至只有 72 小时,这件事有可能直接影响了英伟达深厚的 CUDA
最近,
Claude Mythos 仅仅使用 3 天时间,几乎无需人工干预就写完了将近 100% 的
在科技圈里,离开英伟达向来都很难,背后原因在于每更换一款新芯片,工程师们就得重新翻译一遍
三天究竟发生了什么?
此次技术突破的细节,最初出现在
图 | AMD Instinct™ MI355X GPU(来源:AMD)
芯片想要跑通 AI 大模型,必须得依靠
许多人担心自动化生成的程序跑得慢,实际测试数据则打消了这种疑虑。根据公开的基准测试记录来看,移植之后的模型在 AMD 硬件上运行流畅,响应延迟和
在技术验证通过之后,真金白银的商业合作迅速开始落地。Anthropic 今年首次大规模引入了 AMD 显卡,双方还签署了一份算力供应协议,总规模最高达到 2 吉瓦。这意味着未来将会有海量的大模型推理任务,直接运行在 AMD 的芯片集群之上。
为什么英伟达的
那么,这次突破的分量到底如何?我们得先回到计算芯片的底层运作原理。芯片其实是一块刻满微小电路的硅片,它本身是听不懂人类语言的,也无法看懂高级编程代码。软件想要指挥硬件干活的话,中间必须经过一层精密的翻译以及调度系统,英伟达的
早在 2006 年的时候,英伟达就推出了
对于全世界的开发者而言,使用 CUDA 的顺手程度就好比是各种现成的工具摆在手边,调用起来方便又高效。大家早已习惯了这套开发语言,大学教材也是围绕它编写,开源社区的代码亦是默认基于它运行。久而久之以后,全球数百万开发者都聚集在这个生态里面,形成了非常强的
假设此时有另一家芯片公司造出了性能不错的硬件,那么摆在客户面前的却是一座难以逾越的高山。鉴于芯片内部电路设计不同,英伟达的软件无法直接运行在竞争对手的硬件上面。这时企业要想更换供应商,就必须组建一支精通底层硬件架构的技术团队,把原本运行良好的程序全部推倒重来一遍。
这支团队往往需要耗费半年甚至一年的时间,去重写成千上万行的底层内核代码,同时还要反复调试各种莫名其妙的系统崩溃。对于争分夺秒的科技公司 CEO 来说,产品晚发布半年就意味着丢失了整个市场。当算清楚这笔时间账之后,绝大多数企业只能果断放弃更换硬件的念头,继续排队购买英伟达的芯片。
买方反击:
面对昂贵的硬件采购成本,大型 AI 公司其实一直在寻找破局的办法。他们认为既然大模型的本质是矩阵乘法与数据搬运,那么只要能够把底层翻译工作自动化,任何品牌的芯片都能够成为算力底座。Anthropic 正是沿着这样一个思路,在公司创业早期就制定了多芯片并行的战略。
Anthropic 公司首席计算官汤姆·布朗在上述
图 | Anthropic 公司首席计算官汤姆·布朗(来源:领英)
这种架构设计在之前需要非常高的维护成本,每次引入新硬件之后都得经历一个漫长的适配期。现在出现了 Claude Mythos 这样的自动化工具之后,软件移植的工程量削减了大约 95%,适配周期从一年缩短到只有三天时间。硬件切换的技术门槛被大幅地拉低,芯片采购从此变成了一道简单纯粹的商业算术题。
当软件不再是一个限制条件,AI 公司在采购硬件的时候就拥有了充足的底气。哪家芯片厂商的供货充足、价格合理、能耗表现出色,买方就可以在几天之内把计算任务全部迁移过去。这种灵活性极大地提升了买方市场的议价空间,迫使芯片巨头开始重新地审视自己的定价策略。
放眼整个美国硅谷来看,去单一化已经成为各大科技公司的共同行动。谷歌旗下的
CUDA 壁垒真的消失了吗?
看到三天完成适配的消息之后,也许很多人觉得英伟达的软件优势已经彻底瓦解。但假如我们仔细核对技术资料中的每一个细节的话,就会得出一个更为严谨客观的结论。那就是 Claude Mythos 确实在软件壁垒上撕开了一道口子,不过距离彻底颠覆 CUDA 生态依然有很长的路要走。
首先需要注意 Anthropic
AI 研发中最为考验硬件极限的环节,其实是动用数万张芯片进行长达数月的分布式大模型训练。在超大规模集群训练之中,成千上万张芯片需要同时交换海量的数据,任何一张卡出现了延迟都会拖慢整体进度。而英伟达依靠
同时,大模型自主地编写底层代码的能力,高度依赖于真人工程师积累的历史资料与硬件文档。当英伟达推出全新一代
就算存在这些客观限制,AI 要想学会自己编写底层代码,依然是计算机发展史上的一个重要节点。它证明了软件生态的壁垒并非那么的坚不可摧,并表明了自动化工具正在重塑芯片行业的竞争格局,未来的算力市场无疑也将变得更加开放多元。
参考资料:
https://www.tomshardware.com/tech-industry/artificial-intelligence/anthropic-says-claude-mythos-slashed-software-work-to-onboard-amd-gpus-from-up-to-12-months-to-around-three-days-writing-almost-100-percent-of-kernels-autonomously-chips-away-at-nvidias-cuda-moat
https://emergent.sh/news/claude-running-amd-chips-3-days-via-mythos#:~:text=The%20company%20has%20since%20made%20the%20tooling,use%20cases.%20*%20Hardware%20Flexibility%20for%20Enterprises.
https://www.linkedin.com/in/nottombrown
https://www.amd.com/ja/products/accelerators/instinct/mi350/mi355x.html
运营/排版:何晨龙
注:封面/首图由 AI 辅助生成