谷歌TPU四款齐发:整柜外售,推理每美元性能超GB200五成
英伟达最近头疼的事儿可不止老黄那一件。 本周内,谷歌祭出了两款新TPU芯片,分别瞄准机密推理和长上下文。算上上半年发布的两款TPU芯片,第八代TPU已经扩到四种配置。 今年,谷歌第一次在同一年内推出四款TPU系统。而谷歌对TPU的野心,可能比外界想象得更大—— 还是今年,谷歌破天荒开始对外销售TPU系统。 量子位从谷歌
老黄最近头疼的事,可不止一件。
就在本周,谷歌拿出两款新TPU芯片,一款主攻机密推理,一款针对长上下文。再加上上半年发布的两款,第八代TPU如今已有四种配置。
四款TPU系统在同一年内落地,这在谷歌还是头一回。外界或许低估了谷歌对TPU的企图心。
同样在今年,谷歌第一次把TPU系统卖到了公司门外。
量子位从谷歌内部人士处了解到,谷歌内部对此颇有底气,称“明年TPU市场份额会快速上升”,到那时“会有更多大型企业大规模使用TPU”。
性能上,他们同样不含糊。
起码在谷歌高层眼中,“英伟达一家独步天下的日子快要结束了”。
(苏妈:咩啊?.jpg)

△图片由AI生成
“像英伟达一样”,对外销售TPU系统
今年谷歌做了一件违背祖宗的决定——
头一次向外部客户卖整套TPU系统。
量子位从接近谷歌的人士处得知,拍板这项决策的是一位入职谷歌不满三年的高管。
内部争论很大,他仍坚持调整TPU的商业打法,最终促使管理层拍板,“像英伟达一样”把TPU卖给外部客户。

△图片由AI生成
追根溯源,TPU最早(2013年)只是谷歌自研的专用加速芯片,图的是压住自家AI业务的算力成本;到2018年,Google Cloud才把TPU的算力对外出租。
云上租赁,意味着TPU相关的硬件基础设施全由谷歌自己管理和运营。
情况到今年Q1财报会起了变化。CEO劈柴哥说,谷歌看到AI实验室、资本市场公司以及高性能计算应用领域对TPU的需求“强劲”,于是宣布面向部分精选客户,支持他们把TPU部署进自己的数据中心。
内部把这轮外售看作一次“以售养研”的结构性置换——外部订单替数据中心的天量资本开支分担压力,规模化需求再反过来摊薄自研硬件的成本曲线。
Q2起,谷歌开始向客户交付完整的TPU系统。
一整套系统里,计算、存储、网络硬件和软件都在其中,训练和推理相关服务也一并提供。

△图片由AI生成
这套商业模式,收入潜力已经开始露头。
今年以来Google Cloud的增长不断提速:Q1同比增长63%,Q2增长82%;到Q3,收入做到307亿美元,同比增长103%,经营利润也从35.94亿美元升到111.21亿美元。
(超小声说一句,Google Cloud大概是Q3财报里唯一不让人皱眉的部分)
谷歌母公司Alphabet已经讲明,TPU系统销售是第三季度Google Cloud增长的重要推力之一。
最新10-Q里,Alphabet把“产品销售,主要为TPU系统”写进了Google Cloud收入项下。管理层预计,TPU系统销售在Q4还会继续放大。
不过TPU系统销售的大部分合同收入要到2027年才进报表,眼下还没落到财报数字上,这个方向却很难再掉头。
为什么今年才这么做?
说到底,谷歌把TPU拿出来卖,是自身演化走到这一步,加上外部条件推着走的结果。
Q2财报会上,劈柴哥说过,谷歌内部对前沿AGI的算力需求仍是一条不可逾越的红线。可这两年高端GPU一直紧俏,找英伟达买不到货的客户只能另想办法。
这个窗口,谷歌想抓住。
2025年发布的第七代TPU Ironwood,本来就是冲着推理专门设计的。到今年的第八代,谷歌又把训练、实时推理、机密计算和超长上下文拆成不同的系统配置。
谷歌芯片业务负责人Amin Vahdat对外放过口风:“未来属于专业化”。这话的用意,正是拿专业化芯片路线去撬英伟达“一颗通用芯片包打天下”的说法。

△图片由AI生成
另一头,谷歌在TPU软件生态上疯狂补课,一锤一锤地砸。
英伟达这些年最大的优势之一就是CUDA生态。它早早把AI开发者的工具箱配齐了,大量软件都围着CUDA做过适配和优化。
主流AI框架里,PyTorch对CUDA的支持最成熟。
业界通行的做法,是用PyTorch搭模型,再经CUDA调用英伟达GPU,生态壁垒就这么立了起来,很难替代。
可很长一段时间里,谷歌TPU跟TensorFlow、JAX绑得很深,软硬件栈和GPU差别大,迁移门槛很高。
2025年年中,谷歌总算拉上Meta的PyTorch团队一起开发TorchTPU,目标就是只改少量代码,就能在TPU上跑PyTorch模型。
上个月底,TorchTPU这项合作成果正式开源。
会带来什么效果,这里就不多说了。

△图片由AI生成
性能和成本上,11月5日SemiAnalysis公布了一组新的Agent推理测试结果。
在Muse Spark等模型上,结果显示谷歌第七代TPU Ironwood在部分测试中每美元token产出已经高过英伟达GPU。
过去英伟达只在少数场景输给AMD;TPU带来的性价比冲击,是它没碰过、也不想接受的局面。
SemiAnalysis称,谷歌提交AgentX测试结果,证明TPUv7在每美元性能上能击败GB300 NVL72 FP4之后,英伟达很快组织了一支工程师团队反击。
那段时间,英伟达的工程师带着Agent连轴转,周末也搭了进去,甚至干到当地时间凌晨2点。
四轮优化下来,某个模型的测试里,GB300每美元Token产出终于压过TPU,反超幅度为1.5-2.6倍。

GPU阵营里头,AMD正在后头追;架构这一层,谷歌又想把GPU从默认算力选项的位置上撬下来。
两头受挤,英伟达不想自己跟自己较劲也难。老黄手头的事还没了结,AI芯片市场又递来一道“左右为难”。
对英伟达来说,这真是一个多事之秋,多事之秋啊……
参考资料:
[1]https://newsletter.semianalysis.com/p/tpu-strikes-the-king?utm_source=chatgpt.com