谷歌TPU一年推4款:8tx与8i Max系统级重构
谷歌于当地时间11月9日宣布,在其第八代张量处理单元(TPU)产品线中新增TPU 8tx与TPU 8i Max两款系统。这是谷歌首次在同一个自然年内推出四款TPU系统,标志着其自研AI芯片策略从“一代两芯”转向针对智能体(Agentic)时代不同负载的精细化切割。需要指出的是,这两款新品并非全新设计的芯片,而是基于今年
当地时间11月9日,谷歌宣布第八代张量处理单元(TPU)产品线新增TPU 8tx与TPU 8i Max两款系统。同一个自然年内推出四款TPU系统,这在谷歌尚属首次。其自研AI芯片策略也随之从“一代两芯”转向按智能体(Agentic)时代不同负载做更细的切分。
不过,这两款新品并非从零设计的芯片,而是在今年4月发布的TPU 8t与TPU 8i基础上做系统级重构。谷歌AI与基础设施首席技术官Amin Vahdat给出的解释是:芯片流片周期长达数年,AI软件的迭代速度却远快于此。于是谷歌以模块化硅片为基础,调整封装、内存、网络与安全配置,在数月内交付面向特定负载的系统。
TPU 8tx:机密计算被做进硬件层
作为谷歌第八代TPU系统的第三款,TPU 8tx面向安全机密推理做了优化,小规模训练同样适用。它的目标用户是受监管的企业和政府机构——这些机构要在处理最敏感数据的同时,运行前沿或专有模型及自主智能体。
数据在存储或网络传输时通常会加密,但到了计算机处理环节,就必须在内存中解密。TPU 8tx沿用与TPU 8t相同的硅芯片,主机搭配第五代AMD EPYC CPU,把安全机制直接建在硬件层,敏感数据和模型权重即便处于活跃使用状态,也能保持受保护与隔离。它采用谷歌为实时推理打造的低延迟Boardfly网络,可让多步骤智能体持续运转,相比TPU 8t最高降低2倍延迟,性能损耗接近于零。
训练级算力加上高速推理网络,还意味着企业能在单一系统上同时运行并定制自己的模型。团队可以用私有数据微调模型、把大模型蒸馏为小模型、通过强化学习训练智能体,全程不必在独立集群之间迁移敏感数据。
TPU 8i Max:双芯片封装撞开内存墙
第八代TPU系统的第四款是TPU 8i Max,它要解决的是另一个问题:内存墙。
数十个AI智能体同时在一个软件代码库或数小时视频上协同工作时,内存带宽很快会成为瓶颈。谷歌的做法是把两颗低延迟TPU 8i芯片组合进单一封装。
这样一来,TPU 8i Max的HBM容量从单颗8i的288GB提升至384GB,内存带宽从8.6TB/s翻倍至17.2TB/s,SRAM容量同步翻倍至768MB,算力也是8i的两倍,大型工作负载因此不会停滞。
另外,TPU 8i Max在现有单机柜空间内集成了两倍硅片面积,数据中心每平方英尺和每瓦功耗所能部署的算力由此显著提升。
TPU外部客户已接近100家
据介绍,两款新系统预计2027年对外上线交付。届时谷歌第八代TPU将形成四款定位清晰的矩阵:8t负责大规模训练,8i负责低延迟推理,8tx守机密计算,8i Max攻超大上下文与高密度算力。这一布局背后的判断是:智能体时代的AI基础设施不再靠一颗芯片打天下,而是需要针对安全、内存、延迟、吞吐分别优化的系统组合。
谷歌方面透露,TPU 的外部客户数量已逼近 100 家,涵盖交易机构、前沿研究实验室、大学和零售商;这些客户的使用场景包括模型训练、Gemini 内部服务、智能体工作流,以及在自家数据中心里部署专有硬件。
彭博社称,苹果、Meta 和甲骨文都在这批 TPU 客户名单中。彭博行业研究的测算是,把相关软硬件一并计入,TPU 销售额今年约为 120 亿美元,到 2028 年有望超过 1350 亿美元。