Anthropic披露:Claude三天完成AMD芯片适配,数十人半年工作量被压缩
过去,让一个大模型在一种新芯片上跑起来,往往需要几十名工程师埋头苦干好几个月。现在,这项工作可能只需要一个AI,外加三天时间。 据科技媒体OfficeChai报道,Anthropic在上市路演中披露,其Claude Mythos模型几乎独自完成了把Claude部署到AMD芯片上的工作,只用了大约三天。 按照这家公司的说
以前把一个大模型搬到一种新芯片上跑,得几十名工程师耗上几个月埋头调试。如今这件事,或许一个AI加三天就能办完。
科技媒体OfficeChai报道称,
Anthropic在上市路演中透露,其Claude Mythos模型基本靠自己完成了把Claude部署到AMD芯片上的活,前后大约花了三天。
按这家公司的说法,同样的事情过去要数十名工程师做上6到12个月。这一回,所需的专用GPU代码几乎全由
Claude编写或改写。
路演把这个案例当作例子,用来说明Anthropic最早、也最不寻常的一笔基础设施押注:不在芯片厂商里选边站,而是让Claude同时在四大芯片家族上训练和运行。
三天“搬家”靠的是什么
据报道,Claude Mythos被部署到AMD基于CDNA 4架构的MI355X GPU上。一名Anthropic工程师只做了把模型接到新硬件这一步,随后就让它自己干。
之后,Mythos在几乎没有人工介入的情况下,自主移植或编写了接近100%的计算内核,使Claude能在AMD芯片上处理请求。
这里说的“内核”,指的是直接在芯片上跑计算的底层程序。
像矩阵乘法、注意力计算这类大模型最核心的运算,都得靠一个个高度优化的内核来支撑。
各家厂商的芯片架构不一样,同一种计算往往要针对每种芯片重新编写、重新优化,适配工作最费时间的地方就在这里。
报道还提到,AMD首席执行官苏姿丰确认,AMD事先备好的额外工程支援,最后一点都没用上。
这次突破并不是孤立的一件事。
Anthropic与AMD早前签过协议,承诺部署最多2吉瓦的AMD Instinct MI450系列芯片,这些芯片会装进AMD的Helios机架级系统。
作为交换,AMD答应随着部署里程碑逐步达成,向Anthropic投资最多50亿美元。
协议里还有一项:用Claude帮助优化AMD的ROCm软件栈。这一软件栈长期被视作AMD相对英伟达的弱项。
为什么非要“四条腿走路”
路演视频中,一位Anthropic高管讲了公司的多芯片战略。
他说,Anthropic现在在四大芯片家族上训练和运行Claude。当初做这个决定时,业内不少人怀疑,为此付出这么大的努力到底值不值。
每种芯片都要配一套量身定制的软件和推理栈,既贵又难。不过多年积累下来,Anthropic在这方面已经相当熟练。
在这位高管看来,这一战略带来两大好处。
这两点都戳中了当下人工智能行业的痛处。
其一,算力供应紧张的市场里,公司可以去追性价比最好的选择,不管它出自哪家供应商。其二,让每种芯片干自己最擅长的事,有的芯片更适合训练,有的更适合推理。
公司的终极目标,是把在用的所有芯片,不论来自哪家厂商、采用什么架构、部署在什么地方,都当成一个统一、可互换的算力池。
目前,Anthropic的算力池已经包括英伟达GPU、亚马逊AWS的Trainium芯片和谷歌的TPU。与谷歌的合作起于一项最多采购100万颗TPU的协议,之后又进一步加深。
路演中还有一条信息:Anthropic正着手搭建自己的芯片设计团队。定制芯片被纳入长期规划,但它的位置是与外购芯片并行使用,并非要取代外购芯片。
这种外购与自研并行的路子,和谷歌、亚马逊、微软等巨头的做法相近。算力直接关系到竞争力,头部企业里没有谁愿意把命运完全押在一家供应商身上。
报道提到,这轮招聘还从竞争对手的芯片项目里挖来了人,其中就有参与过OpenAI与博通合作定制芯片项目的工程师。
CUDA护城河,还有多深
这件事最值得琢磨的地方,是它可能对英伟达的软件护城河造成冲击。
近二十年来,CUDA平台一直是英伟达统治地位的基石。原因很简单:离开CUDA的代价太高,代码得重写,工程师得重新培训,整条流程得重新验证。
相比之下,AMD的ROCm软件栈过去普遍被认为成熟度和可靠性都不够。
假如AI模型能在三天之内、在极少人工监督的情况下,把几乎所有底层内核都移植并重写一遍,那么支撑CUDA护城河的最大一项成本——迁移所需的巨大工程投入——就可能大幅缩水。
OfficeChai的分析认为,一旦芯片真的可以互换,竞争的基础就会变。芯片厂商再想靠多年积累的软件生态锁住客户会越来越难,必须在性价比、供货能力和能效上正面比拼。
对买家来说,这意味着不用再对某一种架构做多年的“全押”,采用较新或较小众平台的风险也跟着降低。
不过,英伟达的地位不会一夜之间瓦解。
单芯片性能、网络互联和系统级整合能力,加上庞大的开发者生态,仍然是英伟达实打实的优势。能在新硬件上“跑起来”只是第一步,真正决定工作负载会不会大规模转移的,是新硬件上的吞吐量和能效。
这些内容出自Anthropic在路演中的自述以及媒体的转述,具体技术细节和性能数据都还没有公开,外界也无法独立核实。
但方向已经清晰。当越来越多的前沿实验室手里有了快速跨架构移植模型的工具,客户为留在英伟达生态中支付的“溢价”,很可能要承受越来越大的压力。
这或许是人工智能发展中一个颇有象征意义的时刻:AI不只是芯片的“用户”,也开始反过来重塑芯片产业的竞争规则。