微软Maia 300明年上量:推理效率比主流GPU高40%
微软计划明年以吉瓦级规模部署新一代Maia 300芯片,预计其每兆瓦token产出较主流GPU系统高出40%。微软将优先用自研芯片支撑内部AI服务,而非向外出租算力,借此降低对英伟达GPU的依赖与推理成本,推动AI业务利润率改善。
微软正在加大自研AI芯片的投入,打算以吉瓦级的规模部署
Maia系列,一步步减少对英伟达GPU的倚重,同时靠推理效率的提升把AI基础设施的成本压下来。
10月12日彭博报道称,微软周一对外表示,新一代Maia 300芯片明年起进入数据中心,专门面向AI推理任务。按微软的估算,Maia 300每兆瓦能处理的token数量比主流GPU系统多出40%,同样的能耗可以扛起更多AI工作负载。不过谷歌和亚马逊已经把自研芯片的算力开放给云端客户,微软眼下没打算把Maia的算力直接租给外部客户。这一取舍说明微软的优先级:先拿自研芯片喂饱自家庞大的AI服务需求,再把硬件效率上的优势变成业务竞争力。
吉瓦级部署,能效优势是核心逻辑
微软押注自研芯片,说到底是为了把AI推理效率提上去、把运营成本降下来。推理指的是用训练好的AI模型去执行实际任务,比如总结会议记录、回答研究问题,这也是AI应用运行中一块重要的算力需求。微软称,Maia系列是针对自家数据中心的推理工作负载专门设计的,跑这类任务更高效,也能少买一些英伟达GPU——后者目前仍是微软推理业务的主要算力来源。
微软数据中心硬件业务负责人Rani Borkar称,针对这类工作负载,微软拿出的产品是最好的。她还表示,从明年开始,Maia将以吉瓦级规模铺开部署,用实际动作来兑现这份底气。
前代产品已在多地落地,新款明年接力
微软的自研芯片战略并不是现在才起步。今年年初,公司开始在数据中心安装上一代Maia 200,这颗芯片目前已经用来驱动Copilot等AI软件以及其他任务。据Borkar介绍,Maia 200能支持OpenAI模型、微软自研AI模型以及多个开源模型系列,部署范围横跨美国、欧洲和澳大利亚的数据中心,为Microsoft Teams、Copilot等产品提供AI能力。
新一代Maia 300预计明年启动部署。微软想借它的能效优势,在不断扩张的AI业务里进一步优化算力配置,把推理成本降下来。
自研芯片赛道,微软追赶谷歌和亚马逊
云计算巨头们都在做自研AI芯片,微软的布局相对靠后。谷歌和亚马逊起步更早,已经在自研芯片上攒下先发优势,还把相关算力开放给云端客户。
微软走的是另一条商业路径。Borkar表示:“我们自身的AI服务业务已经足够庞大,我们希望优先服务自己。”也就是说,微软现阶段更愿意把Maia芯片用在内部AI业务上,而不是靠出租算力直接赚钱。对投资者来说,Maia的商业价值更多要看它能不能提高AI服务的运行效率、压低推理成本,最终改善相关业务的利润率,而不是看芯片租赁能带来多少直接收入。