谷歌一年连发四款TPU:TPU 8tx与TPU 8i Max亮相,英伟达迎来挑战?
【TechWeb】11月10日消息,谷歌正在用前所未有的产品节奏,向英伟达在AI芯片市场的主导地位发起一轮系统性挑战。 当地时间11月9日,谷歌宣布推出第八代TPU的两款新变体:TPU 8tx和TPU 8i Max,分别面向机密AI计算与超大长上下文推理场景。 TPU是谷歌自研的AI专用芯片系列,用于AI模型的训练和推
11月10日消息,谷歌正以过去少见的节奏推新,对英伟达在AI芯片市场的主导位置展开一轮系统性冲击。
当地时间11月9日,谷歌发布第八代TPU的两个新变体——TPU 8tx和TPU 8i Max,前者面向机密AI计算,后者面向超大长上下文推理。
TPU属于谷歌自研的AI专用芯片序列,承担AI模型的训练与推理任务,与英伟达GPU正面竞争。
谷歌芯片部门以往大致两年推出一代TPU,而今年是它头一回在一年内拿出四款TPU。
今年4月的Google Cloud Next大会上,谷歌已经发布两款第八代TPU:针对大模型训练的TPU 8t,以及面向实时推理优化的TPU 8i。
一年四款TPU,谷歌把筹码压在“专用化”算力上
这两款新品并不是全新的硅设计,而是在TPU 8t和TPU 8i基础上重新配置、衍生而来。核心思路很明确:围绕AI智能体时代越来越分化的算力需求,做“专用化”切割。
谷歌首席技术官Amin Vahdat说得相当直接:“这确实遵循了谷歌的核心理念,即未来在于专用化,而专用化带来的优势依然十分显著。”
先看TPU 8tx。它主打硬件级机密计算,是谷歌首款支持硬件强制机密计算的云端TPU。关键价值在于让敏感数据和模型权重在计算过程中保持加密,避免解密后的明文暴露在内存里。目标客户主要是政府机构、金融机构以及受监管行业。
据悉,该芯片将搭配AMD第五代EPYC处理器作为主机配套基础设施,这也是谷歌与AMD合作的一部分。
TPU 8i Max则直接对准大模型推理中的“内存墙”。它采用双芯片封装架构,计算能力、内存容量和HBM带宽都提升到TPU 8i的两倍,支持百万Token级别的超大上下文窗口。药物研发、数学推理、编程等需要模型在单次请求中处理海量信息的任务,是它的用武之地。
谷歌官方数据显示,年初发布的TPU 8t和TPU 8i相较上一代TPU,训练性能最高提升2.7倍,推理性价比提升80%。
谷歌TPU商业化提速,英伟达受挑战?
谷歌TPU走向商业化的步子明显快了。十多年前,这颗芯片还是谷歌拉上博通一起为自家业务量身打造的“内部工具”,如今已经慢慢卖到外部客户手里,也进了外面的数据中心。
4月,谷歌第一次对外宣布,将TPU系统直接卖给部分客户。到了第三季度财报,TPU销售已经被列为云业务收入的重要增长来源之一。
谷歌高级副总裁兼首席技术官Amin Vahdat透露,TPU眼下是一项增长很快的业务,客户数量接近100家,涵盖前沿AI实验室、交易公司、零售商和大学等。
根据公开报道,苹果、Meta、甲骨文均是谷歌的客户,OpenAI也有采购谷歌TPU的计划。
一些业内人士认为,英伟达在AI算力市场上的分量依然很重,但谷歌正在借更多产品和更多销售渠道去撬大市场空间,向英伟达发起挑战。
可真要跟英伟达掰手腕,光靠硬件性能并不够。CUDA软件生态才是英伟达最硬的壁垒——大批AI开发者早就把CUDA当成默认的编程模型,迁移成本不能小看。
训练市场更是英伟达的稳固阵地。Jump Trading首席技术官直言,公司的训练任务现在还主要跑在英伟达芯片上;TPU的吸引力,更多落在那些特定任务上表现相当、能效更高、有助于压成本的场景。
一年内发布四款TPU,谷歌用场景化、专用化的TPU矩阵,在机密推理、长上下文、大规模训练等细分战场上与英伟达逐个争夺份额。
业内人士指出,一年推出四款TPU,说明谷歌的产品定义能力和迭代速度都拿得出手。但这份速度能不能变成持续的市场份额,还得看软件生态成不成熟、供应能力跟不跟得上,以及客户在真实工作负载里对“专用化”价值投不投票。