谷歌TPU首对外卖:四款齐发,推理每美元性能超GB200五成

资讯 36氪 全文 2346 字 · 约 6 分钟读完 配图 6 张 分类Google英伟达TPU芯片

本周内,谷歌祭出了两款新TPU芯片,分别瞄准机密推理和长上下文。算上上半年发布的两款TPU芯片,第八代TPU已经扩到四种配置。

所属频道 大厂动态算力与芯片

英伟达最近要操心的事,可不止老黄那摊子。就在本周,谷歌拿出两款新TPU芯片,一款盯机密推理,一款盯长上下文。把上半年那两款也算上,第八代TPU如今已经有四种配置。

同一年里推出四款TPU系统,谷歌这是头一回。而它对TPU的盘算,恐怕比外界猜的还要大——同样是今年,谷歌头一次把TPU系统卖到了外面。

量子位从谷歌内部人士那里了解到,谷歌内部底气很足,说法是“明年TPU市场份额会快速上升”,到时候“会有更多大型企业大规模使用TPU”。性能上他们同样不含糊。起码在谷歌高层眼里,“英伟达一家独步天下的日子快要结束了”。

(苏妈:咩啊?.jpg)

谷歌TPU首对外卖:四款齐发,推理每美元性能超GB200五成(配图 1)

△图片由AI生成

“像英伟达一样”,对外销售TPU系统

今年谷歌干了一件违背祖宗的决定——头一回把整套TPU系统卖给外部客户。

量子位从接近谷歌的人士处获悉,推动这个决策的是一位进谷歌不到三年的高管。内部争论很大,他仍坚持要改TPU的商业打法,最后让管理层拍板,“像英伟达一样”把TPU卖出去。

谷歌TPU首对外卖:四款齐发,推理每美元性能超GB200五成(配图 2)

△图片由AI生成

最早在2013年,TPU不过是谷歌为了压住自家AI业务的算力开销而自研的专用加速芯片;到2018年,Google Cloud上才开放TPU对外的算力租赁。租赁这种形式,意味着TPU相关的硬件基础设施全由谷歌自己管理和运营。

不过时间跳到今年Q1财报会,CEO劈柴哥说,谷歌看到AI实验室、资本市场公司以及高性能计算应用领域对TPU的需求“强劲”,于是宣布面向部分精选客户,支持他们把TPU部署到自己的数据中心里。

内部把这轮外售看成一次“以售养研”的结构性置换——外部订单来分摊数据中心的天量资本开支,规模化需求再反过来压低自研硬件的成本曲线。

从Q2起,谷歌开始向客户交付完整的TPU系统。这套系统把计算、存储、网络硬件和软件等一整套能力都包含在内,训练和推理相关服务也一并提供。

谷歌TPU首对外卖:四款齐发,推理每美元性能超GB200五成(配图 3)

△图片由AI生成

这套商业模式已经显露出收入潜力。今年以来Google Cloud的增长一路提速:Q1同比增长63%,Q2增长82%;到Q3,收入达到307亿美元,同比增长103%,经营利润也从35.94亿美元升到111.21亿美元。

(超小声,Google Cloud大概是Q3财报上唯一让人看了不皱眉的part)

Alphabet在最新10-Q里把“产品销售,主要为TPU系统”写进了Google Cloud收入项,管理层还预计这项销售在Q4会接着放大。这家谷歌母公司也明确表态,TPU系统卖出去是第三季度Google Cloud增长的重要推力之一。

不过TPU系统销售的大头合同收入得等到2027年才进报表,眼下财报上还看不到落点,但方向恐怕已经掉不了头。

为什么今年才这么做?

说到底,谷歌把TPU拿出来卖,是自身演化加上外部条件一起推出来的必然一步。Q2财报会上劈柴哥说过,谷歌内部对前沿AGI的算力需求仍是一条不可逾越的红线;可这两年高端GPU一直紧俏,求购英伟达无门的客户只好另找路子,谷歌想的就是抓住这个窗口。

2025年发布的第七代TPU Ironwood本就专门为推理做过设计,到今年的第八代,谷歌又把训练、实时推理、机密计算和超长上下文拆成不同的系统配置。谷歌芯片业务负责人Amin Vahdat对外放过一句话——“未来属于专业化”,意思正是拿专业化芯片路线去撬英伟达“一颗通用芯片包打天下”的说法。

谷歌TPU首对外卖:四款齐发,推理每美元性能超GB200五成(配图 4)

△图片由AI生成

再者,谷歌在TPU软件生态上补课补得很凶。英伟达这些年最大的本钱之一就是CUDA生态,它早早把AI开发者的工具箱配齐,大量软件都围着CUDA做过适配和优化。

PyTorch是主流AI框架里对CUDA支持最成熟的一个。业界通行做法就是用PyTorch搭模型、经CUDA调英伟达GPU,这道生态壁垒因此很难被替掉。

而谷歌TPU长期深度绑定TensorFlow、JAX,软硬件栈跟GPU差得远,迁移门槛很高。直到2025年年中,谷歌才拉着Meta的PyTorch团队一起做TorchTPU,目标就是让PyTorch模型只改少量代码就能在TPU上跑起来。

上个月底,TorchTPU这项合作的成果正式开源。效果如何,相信不用我在这里废话了。

谷歌TPU首对外卖:四款齐发,推理每美元性能超GB200五成(配图 5)

△图片由AI生成

性能和成本上,11月5日SemiAnalysis公布了一组新的Agent推理测试结果。在Muse Spark等模型上,谷歌第七代TPU Ironwood已经能在部分测试里做到每美元token产出高于英伟达GPU。

过去英伟达只在少数场景输给过AMD;TPU带来的性价比冲击,则是它没见过、也不想接受的局面。

SemiAnalysis称,谷歌提交AgentX测试结果、证明TPUv7在每美元性能上能击败GB300 NVL72 FP4之后,英伟达很快拉了一支工程师团队反击。

为了应对,英伟达拉起的工程师团队连同Agent一起连轴转,周末也照常干活。

有人一直干到当地时间凌晨2点。

四轮优化下来,在某个模型的测试中,GB300的每美元Token产出终于实现反超,达到TPU的1.5-2.6倍。

谷歌TPU首对外卖:四款齐发,推理每美元性能超GB200五成(配图 6)

眼下的局面是,GPU阵营内部有AMD在后面追。

外部则有谷歌出手,想从架构层面动摇GPU作为默认算力选项的位置。

这一回,英伟达想不自己卷自己都难。

老黄的烦心事还没处理完,AI芯片市场又给英伟达添了一道“左右为难”。

对英伟达来说,这真是多事之秋,多事之秋啊。

参考资料:

[1]https://newsletter.semianalysis.com/p/tpu-strikes-the-king?utm_source=chatgpt.com

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 黄仁勋谋划回归英伟达:国会质询与Anthropic IPO本周登场

    英伟达董事会夹在两股方向相反的力量之间,独立调查仍在进行,而这场角力的走向,将直接定义这家市值数万亿美元芯片巨头的未来权力结构。另外,Anthropic代表的一种更隐蔽、更系统性的产业政策游说对此次黄仁勋下台事件的影响也被媒体曝光。另外,美国参议员Chris Coons在针对黄仁勋的指控出炉后迅速公开发难,而他今年七月

    来源 TechWeb
  2. 黄仁勋谋划回归英伟达:16万人联署,国会质询与万亿IPO同周登场

    英伟达董事会夹在两股方向相反的力量之间,独立调查仍在进行,而这场角力的走向,将直接定义这家市值数万亿美元芯片巨头的未来权力结构。另外,Anthropic代表的一种更隐蔽、更系统性的产业政策游说对此次黄仁勋下台事件的影响也被媒体曝光。另外,美国参议员Chris Coons在针对黄仁勋的指控出炉后迅速公开发难,而他今年七月

    来源 TechWeb
  3. 英伟达博通到光模块,AI硬件资产预期重估

    导语:从英伟达、博通到光模块、半导体设备,AI硬件资产正在经历一场预期重估。过去两年,全球资本市场最拥挤的交易之一,就是买入AI硬件。英伟达的GPU、博通的定制芯片、台积电的先进制程,以及光模块、服务器、电源和散热设备,几乎构成了AI投资浪潮中最确定的一条受益链。投资者当时的逻辑并不复杂:只要微软、谷歌、亚...

    来源 腾讯网
  4. 英伟达份额降至28%,摩根大通称CUDA壁垒正被AI攻破

    摩根大通指出,英伟达在2026年算力协议中份额仅剩28%,AMD、谷歌TPU等竞品强势崛起;与此同时,CUDA护城河三天被AI攻破。开源市场则遭遇监管收紧,出口合规风险上升。尽管英伟达当前估值具备吸引力,但支撑高增速预期的两大引擎均已动摇。

    来源 华尔街见闻
  5. 英伟达发布Rubin HPC GPU:5万CUDA核心,2028年上市

    Rubin HPC单颗GPU搭载超5万CUDA核心,专为科学计算优化,预计2028年上市。CUDA-X扩展科学计算版图,覆盖天体物理、材料科学、药物研发和单细胞生物学等领域,黑洞分析从一个月缩短至8分钟。英伟达展示光子互连与量子计算融合、补齐超算基础设施,称Lambda采用英伟达光子共封装光学技术(CPO)实现最高5倍

    来源 华尔街见闻
  6. 黄仁勋卸任英伟达CEO:AI算力格局将如何改写?

    英伟达CEO黄仁勋在一场令人震惊的变故后黯然离职。这位以皮衣形象深入人心的AI算力布道者离场,对全球最关键的芯片公司、整个AI产业以及他本人都意味着什么?《连线》记者Lauren Goode深入解析权力交接背后的迷雾,以及这场变故将如何重塑行业格局。

    来源 AI 科技快讯
  7. 黄仁勋辞职后盟友筹建“作战室”,力推创始人回归英伟达

    深陷丑闻数日后闪电辞职,黄仁勋却可能很快重返英伟达。据Ars Technica报道,其核心圈子正组建非正式“作战室”,试图推动这位创始人重新掌舵。这场围绕个人与公司的博弈,折射出AI芯片巨头在公司治理与创始人光环之间的深层张力:英伟达卖的不只是芯片,还有一张由黄仁勋本人书写了十余年的路线图。

    来源 AI 科技快讯
  8. 黄仁勋辞任英伟达CEO:AI初创融资格局生变,谁来接棒

    IT之家 11 月 15 日消息,这是一场震动全球科技行业的人事变动。执掌英伟达 33 年、共同创立这家芯片巨头的首席执行官黄仁勋(Jensen Huang)已正式辞职。TechCrunch 援引一位新兴云计算公司的创始人的话称,他第一次听到这一消息时的反应是:“这就像一颗炸弹突然爆炸了。” 过去几年,英伟达一直是科技

    来源 AI 行业观察
  9. 摩根大通:英伟达2026年后算力份额仅28%,CUDA壁垒正被AI攻破

    英伟达正面临来自两端的结构性压力,而这与创始人黄仁勋的离任同等重要,甚至可能更为深远。摩根大通策略师Michael Cembalest在最新研报《英伟达与AI的下一步》中指出,前沿AI实验室正将采购重心向AMD、谷歌、亚马逊等多家供应商分散,英伟达在2026年后计算协议中的份额仅占28%。与此同时,开源模型生态圈则面临

    来源 腾讯网
  10. 英伟达财报夜焦点:克雷斯临时掌舵,五大疑问待解

    英伟达将于周二发布第三季度财报,临时CEO兼CFO科莱特·克雷斯迎来职业生涯最关键的一天。TechCrunch指出,深陷动荡的英伟达有一连串问题应当回答——从AI芯片需求可持续性、对华出口限制,到客户自研芯片与管理层稳定性。但外界预期,该公司大概率会回避最尖锐的提问。本文梳理五大核心议题及其行业背景。

    来源 AI 科技快讯
  11. 英伟达财报夜:克雷斯首次以临时CEO身份面对五大追问

    英伟达将于周二发布第三季度财报,临时CEO兼CFO科莱特·克雷斯迎来职业生涯最关键的一天。TechCrunch指出,深陷动荡的英伟达有一连串问题应当回答——从AI芯片需求可持续性、对华出口限制,到客户自研芯片与管理层稳定性。但外界预期,该公司大概率会回避最尖锐的提问。本文梳理五大核心议题及其行业背景。

    来源 AI 行业观察
  12. 英伟达推Rubin HPC:超5万CUDA核心,押注AI智能体改写科学计算

    英伟达正将AI基础设施的竞争进一步延伸至科学计算领域。在11月16日于芝加哥举行的超级计算大会SC26上,英伟达发布专为科学计算、工程仿真和数据分析设计的新一代GPU Rubin HPC,并围绕CUDA-X软件库、光子计算和量子计算等领域公布一系列进展,试图将GPU加速计算、AI智能体与传统高性能计算(HPC)整合到统

    来源 腾讯网
  13. 黄仁勋离开英伟达:芯片巨头与AI行业走向何方

    英伟达CEO黄仁勋在一场令人震惊的变故后黯然离职。这位以皮衣形象深入人心的AI算力布道者离场,对全球最关键的芯片公司、整个AI产业以及他本人都意味着什么?《连线》记者Lauren Goode深入解析权力交接背后的迷雾,以及这场变故将如何重塑行业格局。

    来源 AI 行业观察
  14. 英伟达财报前芯片股重挫5.3%,标普纳指三连跌

    芯片指数大跌5.3%。英伟达收创2025年7月1日以来收盘新低。Arm跌8.1%,美光跌7.6%,AMD跌5.6%。超微电脑收跌6.8%。美元指数涨0.13%,创19个月新高,收复了去年4月关税冲击以来的全部跌幅。现货黄金跌约0.88%,盘中触及3840.52美元的一年多低位。WTI原油跌约3.5%。

    来源 华尔街见闻
  15. 黄仁勋卸任英伟达CEO:33年掌舵结束,AI初创融资生变?

    IT之家 11 月 15 日消息,这是一场震动全球科技行业的人事变动。执掌英伟达 33 年、共同创立这家芯片巨头的首席执行官黄仁勋(Jensen Huang)已正式辞职。TechCrunch 援引一位新兴云计算公司的创始人的话称,他第一次听到这一消息时的反应是:“这就像一颗炸弹突然爆炸了。”过去几年,英伟达一直是科技初

    来源 腾讯网
  16. SemiAnalysis下调AI算力预测:2028年资本开支降28%,英伟达承压最重

    SemiAnalysis将2028年全球AI加速器资本开支预测下调28%,2030年下修40%;2026—2030年加速器硅片出货面积累计预测下调17%,2028年HBM需求预测更被砍掉30%,2030年功耗需求预测下调34%。英伟达成为最大受冲击者,占全球硅片出货削减幅度的66%,其2030年按计算收入测算的出货预测

    来源 华尔街见闻
  17. 黄仁勋被曝商讨重返英伟达CEO,贝森特施压要外部人选

    据报道,黄仁勋已与亲信讨论复职,盟友正在硅谷组建“战情室”并寻求白宫支持,马斯克等人联署公开信签名逾10万。但财政部长贝森特公开唱反调,要求英伟达从外部引入新CEO,并在10天内就对相关芯片销售合规问题作出答复。

    来源 华尔街见闻
  18. NVIDIA Rubin HPC曝光:单卡超5万CUDA核心,2028年推出

    近期,NVIDIA面向AI数据中心市场的Vera Rubin平台已经开始批量供货,这是一套完整的AI超级计算系统,是从芯片、互连、机架到软件栈全面重构的系统级平台。Vera Rubin平台的第一主角,自然就是Rubin GPU,采用台积电N3P 3nm级工艺,集成3360亿个晶体管(对比B300增加62%),双Die设

    来源 腾讯网
  19. 段永平H&H三季度美股持仓172亿美元:减英伟达苹果,加仓拼多多特斯拉

    投资人段永平旗下H&H International Investment披露2026年三季度13F持仓文件,截至三季度末,该机构美股持仓市值约为172亿美元。三季度组合延续高集中度特征,苹果、伯克希尔B股仍为前两大重仓股,拼多多、特斯拉获明显加仓,英伟达、谷歌、苹果等科技龙头被减持,同时清仓阿里巴巴、CRCL等公司,新

    来源 AI 行业观察
  20. 美团开源1.6万亿参数模型,全程未用英伟达GPU

    美团发布LongCat-2.5智能体模型,基于华为昇腾训练且未使用英伟达芯片。Anthropic CEO坦言IPO前算力采购存在巨大风险。vLLM修复共享缓存越界写漏洞,MIT与DeepMind研究揭示AI顾问的“忠诚捕获”现象。本期还涵盖Seedance视频生成更新及Vercel子代理工作流实践。

    来源 AI 应用前沿
  21. 黄仁勋卸任英伟达CEO:4天交接,17万签名请愿复职

    封面图源:网络11月12日,英伟达创始人黄仁勋卸任CEO,这场由私人丑闻引发的管理层地震,从消息曝光到权力交接仅4天,是近年来硅谷科技巨头中最为仓促的高层更迭。不过,截至11月16日,一份呼吁恢复黄仁勋CEO职务的线上请愿书已收获超17万签名,马斯克亦在签名者之列。图源:网络目前公开证据中,私人关系和芯片交易违规本..

    来源 腾讯网
  22. 英伟达暗盘一度涨超4%,黄仁勋被曝讨论回归CEO

    北京时间11月16日凌晨,英伟达暗盘股价直线拉升,涨幅一度超过4%;截至发稿时,英伟达暗盘涨3.56%。其他AI硬件股也集体走高,美光科技、SK海力士、闪迪涨超2%,英特尔、迈威尔科技、康宁、超威半导体等暗盘涨幅均超过1%。美股期货也直线拉升,纳指期货涨0.60%。 据券商中国援引英国《金融时报》报道,黄仁勋正考虑重返

    来源 AI 行业观察
向下滚动自动加载更多