谷歌整柜TPU开卖,推理每美元性能超GB200五成
谷歌芯片业务负责人Amin Vahdat对外透露口风说“未来属于专业化”,其意图正是以专业化芯片路线,撬动英伟达“一颗通用芯片包打天下”的叙事根基。
老黄那边烦心事不少,英伟达最近头疼的还不止这一桩。
就在本周,谷歌又拿出两款新TPU芯片,一款主打机密推理,一款面向长上下文。加上上半年发布的两款,第八代TPU已经凑齐四种配置。同一年里连推四款TPU系统,谷歌还是头一回这么干。而它对TPU的盘算,恐怕比外界猜的要大得多。
同样是今年,谷歌头一次把TPU系统卖到了外部。量子位从谷歌内部人士处了解到,内部底气很足,说法是“明年TPU市场份额会快速上升”,到时候“会有更多大型企业大规模使用TPU”。
性能上他们同样不含糊。至少谷歌高层人士的判断是,“英伟达一家独步天下的日子快要结束了”。
(苏妈:咩啊?.jpg)

△图片由AI生成
“像英伟达一样”,对外销售TPU系统
今年谷歌干了一件违背祖宗的决定——头一回向外部客户卖整套TPU系统。
量子位从接近谷歌的人士处打听到,推动这个决策的是一位进谷歌不到三年的高管。内部争论很大,他坚持要改TPU的商业打法,最后让管理层拍板,“像英伟达一样”把TPU卖给外部客户。

△图片由AI生成
追根溯源,2013年TPU还只是谷歌为压低自家AI业务算力成本而自研的专用加速芯片;到2018年,才在Google Cloud上开放对外算力租赁。云上租赁,意味着TPU相关的硬件基础设施全由谷歌自己管理运营。
转折出现在今年Q1财报会。CEO劈柴哥说,谷歌看到AI实验室、资本市场公司以及高性能计算应用领域对TPU的“强劲需求”,于是宣布面向部分精选客户,支持他们把TPU部署进自己的数据中心。
内部把这轮外售看成一次“以售养研”的结构性置换——拿外部订单分摊数据中心的天量资本开支,再用规模化需求反哺自研硬件的成本曲线。
Q2起,谷歌开始向客户交付完整TPU系统。这套系统把计算、存储、网络硬件和软件一整套能力都包含在内,训练和推理相关服务也一并提供。

△图片由AI生成
这套商业模式已经显露出收入潜力。Google Cloud今年增长一路提速:Q1同比增长63%,Q2增长82%;到Q3,收入达到307亿美元,同比增长103%,经营利润也从35.94亿美元升到111.21亿美元。
声音不大,但Google Cloud大概是Q3财报里唯一没让人皱眉头的板块。
谷歌母公司Alphabet已经点明,TPU系统销售是第三季度Google Cloud增长的重要推手之一。最新10-Q里,「产品销售,主要为TPU系统」已被明确归入Google Cloud收入。管理层预计,TPU系统销售在Q4还会继续放大。
不过,TPU系统销售合同收入的大头要等到2027年才会体现在报表上,眼下财报里还看不到。这个势头,怕是很难再逆转。
那为什么今年才开始这么做?
说到底,谷歌把TPU拿出来卖,是自身演进和外部条件一块儿推出来的必然结果。
Q2财报会上,劈柴哥说过,谷歌内部对前沿AGI的算力需求仍是一条不可逾越的红线。可这两年高端GPU一直紧俏,找英伟达买不到货的客户只能另想办法。
这个窗口,谷歌想抓住。
2025年推出的第七代TPU Ironwood,本来就专门为推理做了设计。到了今年的第八代,谷歌又把训练、实时推理、机密计算和超长上下文拆成了不同的系统配置。
谷歌芯片业务负责人Amin Vahdat对外放出话来:「未来属于专业化」。这话的用意,就是拿专业化芯片路线去动摇英伟达「一颗通用芯片包打天下」的根基。

△图片由AI生成
另一边,谷歌正抡着小锤一锤四十、一锤八十地狂补TPU软件生态。英伟达这些年的最大优势之一就是CUDA生态,早早把AI开发者的工具箱配齐了,大量软件都围着CUDA做过适配和优化。作为主流AI框架,PyTorch对CUDA的支持也最成熟。
业界通行的路子,是用PyTorch搭模型,再经CUDA调用英伟达GPU,生态壁垒就这么垒了起来,很难替代。可很长一段时间里,谷歌TPU跟TensorFlow、JAX绑得很深,软硬件栈和GPU差别大,迁移门槛不低。
2025年年中,谷歌终于拉上Meta的PyTorch团队一起开发TorchTPU,目标就是只改少量代码,就能在TPU上跑PyTorch模型。上个月底,这项合作成果正式开源。
效果会怎样,这里就不多说了。

△图片由AI生成
性能和成本上,11月5日SemiAnalysis放出一组新的Agent推理测试结果。在Muse Spark等模型上,谷歌第七代TPU Ironwood已能在部分测试中做到每美元token产出高于英伟达GPU。
以往,英伟达只在少数场景输给过AMD;TPU带来的性价比冲击,是它没遇到过、也不想接受的局面。
SemiAnalysis称,谷歌提交AgentX测试结果、证明TPUv7在每美元性能上能击败GB300 NVL72 FP4之后,英伟达很快组织了一支工程师团队进行反击。
为了应对,英伟达的工程师连同Agent们连轴转,周末也搭了进去,高强度加班一直干到当地时间凌晨2点。
四轮优化下来,在某个模型的测试中,GB300的每美元Token产出终于实现反超,达到TPU的1.5-2.6倍。

GPU阵营里,AMD正在后面追赶;架构层面上,谷歌又想动摇GPU作为默认算力选项的位置。
两头受挤,英伟达这回不自己跟自己较劲都难。
老黄手头的麻烦还没理清,AI芯片市场又给英伟达添了一道“左右为难”的题。
对英伟达来说,这真是一个多事之秋。