谷歌一年推四款TPU:第八代新增8tx与8i Max,向英伟达发起挑战
【TechWeb】11月10日消息,谷歌正在用前所未有的产品节奏,向英伟达在AI芯片市场的主导地位发起一轮系统性挑战。当地时间11月9日,谷歌宣布推出第八代TPU的两款新变体:TPU 8tx和TPU 8i Max,分别面向机密AI计算与超大长上下文推理场景。TPU是谷歌自研的AI专用芯片系列,用于AI模型的训练和推理,
11月10日消息,谷歌正以从未有过的产品节奏,对英伟达在AI芯片市场的主导地位展开一轮系统性挑战。
当地时间11月9日,谷歌推出第八代TPU的两款新变体——TPU 8tx和TPU 8i Max,前者面向机密AI计算,后者面向超大长上下文推理场景。
TPU属于谷歌自研的AI专用芯片系列,承担AI模型的训练与推理任务,与英伟达GPU构成竞争关系。
过去,谷歌芯片部门大体上每两年推出一代TPU;今年则是其第一次在一年之内拿出四款TPU。
今年4月的Google Cloud Next大会上,谷歌已经发布过两款第八代TPU:面向大模型训练的TPU 8t,以及针对实时推理优化的TPU 8i。
一年四款TPU,谷歌押注“专用化”算力
这两款新品并不是全新的硅设计,而是在TPU 8t和TPU 8i基础上重新配置、衍生而来。核心思路,是围绕AI智能体时代越来越分化的算力需求做“专用化”切割。
谷歌首席技术官Amin Vahdat说得相当直白:“这确实遵循了谷歌的核心理念,即未来在于专用化,而专用化带来的优势依然十分显著。”
具体而言,TPU 8tx主打硬件级机密计算,是谷歌首款支持硬件强制机密计算的云端TPU。它的关键价值在于:敏感数据和模型权重在计算过程中也保持加密状态,解密后的明文不会暴露在内存中。目标客户主要是政府机构、金融机构和受监管行业。
据悉,该芯片将搭配
TPU 8i Max则直接对准大模型推理中的“内存墙”。它采用双芯片封装架构,计算能力、内存容量和HBM带宽都提升到TPU 8i的两倍,支持百万Token级别的超大上下文窗口,适合药物研发、数学推理、编程等需要在单次请求中处理海量信息的任务。
谷歌官方数据显示,年初发布的TPU 8t和TPU 8i相较上一代TPU,训练性能最高提升2.7倍,推理性价比提升80%。
谷歌TPU商业化提速
谷歌TPU的商业化正在加快。TPU最初只是谷歌为内部负载定制的“自用工具”,十多年前与博通共同开发,如今已逐步走向对外销售和外部数据中心部署。
谷歌对部分客户直接售卖TPU系统,这事最早是今年4月对外公布的。到了第三季度财报,TPU销售对云业务收入的拉动已经看得比较清楚,成了增长的重要来源之一。
谷歌高级副总裁兼首席技术官Amin Vahdat的说法是,TPU眼下是一项增长很快的业务,客户数量接近100家,前沿AI实验室、交易公司、零售商、大学都在其中。
根据公开报道,苹果、Meta、甲骨文均是谷歌的客户,
在业内人士看来,英伟达在AI算力市场上的分量依然不轻。但谷歌正在铺开更多产品、拓宽销售渠道,想从英伟达手里争出更大的市场空间。
不过,要与英伟达竞争,光靠硬件性能还不够。英伟达最坚固的壁垒仍然是CUDA软件生态,大量AI开发者长期把CUDA当作默认编程模型,迁移成本不容低估。
训练这一块,英伟达的位置尤其难被撼动。Jump Trading首席技术官直言,公司的训练任务现在还是主要跑在英伟达芯片上;TPU更吸引人的地方,是在某些特定任务上表现不相上下,同时能效更高,有助于把成本压下来。
一年发布四款TPU,谷歌用场景化、专用化的TPU矩阵,在机密推理、长上下文、大规模训练等细分战场上与英伟达逐个争夺份额。
业内人士认为,一年推出四款TPU,说明谷歌的产品定义能力和迭代节奏都拿得出手。不过要把这种节奏变成能稳住的份额,还得看软件生态是否够成熟、供应能不能跟得上,以及客户在真实工作负载里对“专用化”价值投不投票。