OpenAI拟采购谷歌TPU,Oracle云2027年引入
据报道,英伟达的长期客户OpenAI计划采购谷歌的人工智能芯片(TPU),不过,相关交易的财务条款、采购规模及其他细节目前尚不清楚。 如果这一计划最终落地,意味着OpenAI在获取AI算力....
有消息称,英伟达的老客户OpenAI打算购买谷歌的人工智能芯片(TPU)。不过这笔交易涉及多少钱、买多少、其他细节如何,眼下都还不清楚。
一旦这个打算变成现实,OpenAI在获取AI算力时,能挑的外部芯片供应商可能就更多了。长期以来,AI训练和推理的基础设施里,英伟达GPU一直占着重要位置,谷歌TPU则是谷歌自己研发的AI加速芯片。大模型训练和推理对算力的胃口越来越大,AI芯片这一市场的较量,也从单颗芯片的性能,扩展到算力供给、基础设施怎么部署、成本高低这些方面。
另一头,当地时间10月27日,Oracle宣布要把谷歌的张量处理器(TPU)搬进Oracle Cloud Infrastructure(OCI)。按安排,OCI客户从2027年起可以用上谷歌TPU,相关算力会在之后几年里逐步加码。
The Register的报道指出,有了这次合作,OCI就成了谷歌自家云服务之外,第一家提供谷歌TPU的超大规模云平台。
对Oracle来说,这不只是多了一条芯片供应渠道,它的AI算力布局也在往更多元的方向走。在继续采购
Oracle Cloud Infrastructure总裁Mahesh Thiagarajan说,不同的AI工作负载,计算需求各不相同;把谷歌TPU引进OCI,客户就能按性能、吞吐量和经济性,给不同的工作负载挑合适的基础设施。
不过,这次部署谷歌TPU到底上多少,Oracle没有说;2027年之后具体怎么扩容,也没有公布。
从公布的计划看,Oracle并不是想拿TPU简单替掉英伟达GPU,它想在同一个云平台上摆出更多计算架构,让客户照自己的需求挑。
同期公布的其他硬件计划也能看出这一点。Oracle宣布,英伟达Vera Rubin NVL72系统和Vera CPU已经正式可用,还计划推出HGX Rubin NVL8系统,但后者什么时候上市,目前还没个准话。
换句话说,一边引进谷歌TPU,Oracle一边还在扩大英伟达硬件的部署。两者不是二选一,而是一起组成OCI面对不同AI工作负载的算力选项。
Oracle拿出的AI业务进展,也不止计算硬件这一块。
其中,Oracle AI Workspace想做的事,是通过ChatGPT插件,把OpenAI的前沿模型跟Oracle应用、企业数据和云服务连起来。用户可以在ChatGPT里描述业务目标,再借相关插件调用Oracle平台上的工具和信息。
网络安全这块,Oracle另有产品Oracle AI Security Mesh在布局。按照介绍,这项服务会调用OpenAI的网络安全模型,用来查找漏洞、验证漏洞能否被利用,并针对企业已获授权的技术环境给出修复方案。
与Snowflake的合作也在同一批公告中亮相,双方要把Snowflake的AI数据云以原生服务的形式搬进OCI。合作落地后,Oracle客户能直接从Oracle下单并调用Snowflake服务,定价、折扣和账单都由Oracle统一管理,相关费用还可以用Oracle Universal Credits结算。
Oracle这一轮动作覆盖了云计算硬件、AI模型应用、网络安全和数据服务几条线。谷歌TPU的引入只是其中AI基础设施布局的一环。
但AI基础设施投入越铺越大,商业回报是否已经站得住脚,还不好说。The Register在报道中提到,Oracle截至8月31日的季度营收同比增长30%,创下新高;同一篇报道也指出,AI投资的回报眼下更多落在科技行业,其他行业能不能拿到类似收益,仍缺足够证据。
把TPU引进来之后,OCI客户在同一个云平台上就能在谷歌TPU和英伟达GPU之间做选择。Oracle同时借OpenAI相关产品往外扩AI应用,又靠Snowflake合作把数据服务做宽。扩大与谷歌、英伟达、OpenAI等公司的合作,既是在加AI基础设施的供给,也是在继续铺相关业务。
不过从现有公告看,谷歌TPU的部署规模有多大、扩容按什么节奏走,这些新增业务最终能带来多少收入,都还要等后续披露。
对Oracle来说,接下来要回答的不只是能不能提供更多AI算力选项,还包括怎么把不断加码的基础设施投入变成真实的客户需求和商业回报。
将 Google TPU 引入 Oracle 云基础设施
人工智能工作负载在各行各业的规模持续扩大,企业对计算方案的要求也随之提高,要能在AI生命周期内优化吞吐量、延迟和单位经济效益。Oracle与Google Cloud为此展开合作,把Google张量处理单元(TPU)引入Oracle云基础设施(OCI)。OCI由此成为谷歌之外首个提供TPU的超大规模云服务提供商,TPU容量将从2027年起在OCI上部署。
谷歌的第一颗TPU诞生于十多年前,背后是一套明确的产品思路:定制芯片要和光网络、供电、液冷以及编译器软件一起设计。这种协同方式能拉高每瓦性能、压低总拥有成本,单靠独立组件拼凑做不到。
当年TPU v1的每瓦吞吐量达到同期处理器的30倍。眼下,TPU支撑着谷歌旗下十亿级用户产品的Gemini训练与推理服务;第八代TPU单芯片原生FP4算力为12.6 PFLOPS,而TPU v1是92 TFLOPS,前者已是后者的100多倍,每瓦性能也比上一代高出近2倍。不过,光看原始FLOPS决定不了客户在训练和推理上的经济效益。训练要看有效吞吐量,也就是集群真正用于有效计算的时间占比;推理则看延迟和每个令牌的成本。TPU靠系统级协同设计来应对这两点。
片上芯片间互连(ICI)路由与光路交换(OCS)配合之后,控制平面能发现硬件或链路性能下滑,并实时绕开故障光路,作业不用重启。大规模训练时,数千颗芯片上可以维持超过97%的吞吐量,生产环境也因此获得高可用性。再加上更大的片上SRAM、更高的HBM容量,以及把网络跳数砍掉50%以上的新型低直径互连拓扑,最新一代TPU在低延迟服务中拿到的性价比提升最高可达80%。
硬件效率上去了,产品开发节奏也跟着快,开发者接入时几乎不用费劲。最近的PyTorch大会上,谷歌公布了一系列动作,继续把Google TPU软件生态往开放、对开发者友好的PyTorch社区环境方向推。为Google TPU打造的原生PyTorch技术栈TorchTPU,现已在GitHub上开源。vLLM、SGLang、llm-d、TorchTitan、Ray、TorchRec、Hugging Face和LiteRT这些开发者已经在用的工具,现在都能在TPU上训练、运行和部署模型。
有了这种可移植性,团队可以把每项工作负载分给每个令牌成本最低或训练最快的加速器,模型代码不用重写。今天公告发布后,他们很快就能把这些负载分配到Google Cloud或Oracle基础设施上的TPU。
即便Google Cloud上TPU的采用率一直在涨,全球AI算力的需求还是超出了任何一家云厂商的容量。TPU进入OCI,给客户带来四方面明显好处:
数据中心层面,谷歌TPU系统是机架级直接液冷设计,OCI的下一代数据中心恰好按这个思路建设。Oracle提供的容量灵活、耐用,能随客户需求在尖端模型训练和生产推理之间切换。TPU的高能效加上Oracle的供电和冷却方案,有助于节能型AI算力快速、大规模落地。
网络层面,TPU的芯片间流量走ICI和OCS,Oracle Acceleron则负责把TPU容量与OCI其余部分连起来。Acceleron的SmartNIC具备硬件级租户隔离、高性能架构和零信任数据包路由,Oracle数据库、存储和TPU集群之间的数据传输因此能做到高吞吐、低延迟,既不给主机增加计算负担,也不削弱安全边界。
数据位置层面,Oracle数据库往往就是企业组织的记录系统。TPU直接在OCI中提供,企业就能在既有企业数据旁边跑微调和推理,省掉昂贵的跨云传输。
架构选择层面,OCI同时提供TPU和GPU,团队可以把每个AI工作负载阶段安排给性价比最高的加速器。
谷歌把TPU放进Oracle云基础设施,等于把十多年来专为AI系统工程积累的资源,开放给更大的开发者群体。客户在更多云平台上有了更多定制算力可选,整个行业构建系统的速度会更快,运营效率也会更高。接下来就看开发者能做出什么了。