英伟达，悄然成为网络芯片龙头

英伟达不仅是图形和人工智能硬件领域的领导者，它还已成为网络行业的巨头，其数据中心以太网的销售额超过了任何其他供应商。

第二季度，英伟达的网络业务收入超过175 亿美元。作为对比，思科同期所有产品的总收入为 173 亿美元。

GPUzilla 成为网络巨头似乎来得突然，但 Jensen Huang 早在 2019 年就通过斥资 69 亿美元收购长期网络合作伙伴 Mellanox 开始朝着这个目标努力。

当时，Mellanox在以太网交换领域并不算知名企业。该公司主要以其ConnectX网卡和InfiniBand交换机而闻名。除了高性能计算（HPC）和超级计算集群，以及微软的大规模部署之外，InfiniBand在超大规模数据中心并未得到广泛应用。

收购Mellanox使英伟达得以重新定位自身，成为一家系统集成商，这在分布式计算领域有着截然不同的意义。

多年来，黄仁勋一直倡导协同设计——设计组件和软件，使其能够协同工作以完成特定任务，而不是仅仅追求成为性能最佳的GPU、交换机或网卡。他与Mellanox的合作就是这种理念的绝佳例证。

据 Dell'Oro Group 分析师 Sameh Boujelbene 称，英伟达决定整合计算和网络技术，成为该公司成功的关键。

她告诉《The Register》 ： “客户选择英伟达是因为它拥有紧密集成的计算和网络架构，并针对人工智能工作负载进行了优化。”这种集成简化了部署流程，加快了产品上市速度。

人工智能和机器学习先驱公司 Recursion 的首席技术官 Ben Mabey 告诉The Reg ，英伟达的集成方案赢得了他的青睐。

Recursion 成立于 2013 年，比 ChatGPT 让 AI 成为餐桌上的热门话题早了近十年。该公司致力于将运行在 GPU 上的机器学习应用于药物发现问题。

这项工作涉及处理海量数据集，Mabey 告诉我们，这些数据集的总大小现在超过 50 PB。

“当你想到我们的工作量时，与需要处理的数据量相比，LLM 的工作量培训似乎就显得容易了，”他告诉《注册报》。

他补充说：“在生物学领域乃至整个科学领域，人们并没有充分意识到数据量究竟有多大。互联网固然庞大，但从整体来看，人们用来训练的文本数据实际上非常少，与我们拥有的PB级图像数据相比，简直微不足道。”

Recursion 的第一个集群系统名为 BioHive Zero，它由原本用于游戏系统的 GTX 1080 显卡拼凑而成。该系统使用

因此，对于其第二个集群（一台基于 A100 的机器，拥有大约 300 个加速器），Recursion 选择了英伟达的 Quantum InfiniBand 交换机和 ConnectX 网卡。

正如 Mabey 所解释的，从同一供应商处采购计算资源和互连设备极大地简化了优化和故障排除工作。当 Recursion 联系 Nvidia 寻求系统调优方面的帮助时，Nvidia 可以将整个系统视为一个整体，而不是独立的计算和网络资源。这种程度的集成此前只有像 Cray 或 Atos（Eviden/Bull/或者它接下来会改什么名字）这样的精品超级计算机制造商才能提供。

英伟达并非一直将网络业务收入作为单独的财务报表项目列出。然而，根据首席财务官的评论和一些简单的估算，我们可以推断出其中的缘由。

自 2019 年收购 Mellanox 以来，英伟达的网络业务收入呈爆炸式增长，这使得该公司能够以系统集成商而非 GPU 制造商的身份参与竞争。自收购Mellanox以来，英伟达的网络业务收入稳步增长。但其中有两个时期，其收入出现了突然飙升。

第一个是在 2023 年（2024 财年），当时

第二个阶段跨越 2024 年和 2025 年，届时英伟达开始销售 Blackwell 一代 GPU，然后开始大量出货。

Boujelbene 表示：“我看到了两个主要的转折点，这两个转折点都与 Blackwell 平台的普及同步：NVLink 交换机的推出以及 Spectrum-X 以太网交换机在 AI 后端网络中的加速普及，这得益于 Nvidia GPU 集群部署的不断增长以及 Nvidia 交换机、网卡、光模块和线缆连接率的提高。”

大约就在这个时候，用户开始在英伟达集群上大规模部署以太网交换机。

正如我们当时报道的那样，基于 H100 和 H200 芯片的 20 万个芯片组成的集群的第一部分于 2024 年上线，当时它是使用英伟达 Spectrum-X 以太网交换机部署的最大集群之一。

Meta 还在其自身的训练集群中广泛使用了英伟达的 Spectrum 交换机，包括位于俄亥俄州新奥尔巴尼的拥有百万 GPU 的 Prometheus 站点。

Nvidia 的 Spectrum-X 产品表现如此出色，主要有两个原因。

首先，通过结合 Spectrum 以太网交换机、超级网卡和一些巧妙的软件优化，Nvidia 能够复制 InfiniBand 的许多吸引人的特性，同时还受益于更高的基数和互操作性。

以太网交换机（包括英伟达自家的产品）历来都提供更多端口。基数越高，在给定端口速度下支持集群所需的交换机数量就越少。

这常常被误解为InfiniBand无法扩展到特定规模以上的集群，但事实并非如此。不过，对于GPU数量超过一定限度的集群，以太网通常更经济，因为它在实现类似利用率的同时，所需的设备更少。

话虽如此，英伟达的Spectrum-X并非独一无二。博通、

正如 Mabey 和 Boujelbene 之前指出的那样，Nvidia 的主要区别在于计算和网络之间的集成程度。

随后 Blackwell 进入市场，实现了更大的规模扩张，并带动了英伟达网络收入的激增。

在 Blackwell 之前，Nvidia 的 NVLink 和 NVSwitch 互连技术主要局限于最多配备八个 GPU 的单个系统。随着 GB200 NVL72 的发布，这些 NVSwitch 被拆分为专用设备。（是的，我们还记得 GH200 NVL256 和 NVL32，但据我们所知，它们从未大规模出货，甚至可能根本没有出货。）

每售出一套NVL72 机架系统，英伟达就同时售出九个 NVSwitch 托架，这使得该系统中的六十多个 GPU 可以作为一个巨型 GPU 协同工作。这有效地保证了网络业务收入的稳定增长：即使客户没有购买英伟达的横向扩展交换机，如果他们需要 NVL72 机架，就相当于同时购买了 NVSwitch。

Boujelbene告诉El Reg ： “我们估计，NVSwitch目前约占英伟达网络业务收入的三分之一，而不到两年前这部分收入几乎为零。这凸显了NVLink交换技术如何迅速成为英伟达网络业务的主要增长引擎。”

英伟达正通过一项新的授权计划，进一步拓展其网络业务。

直到最近，英伟达的NVSwitch技术还仅限于其自家的加速器使用。然而，随着去年初NVLink Fusion的推出，英伟达向第三方开放了这项互连技术，允许其获得授权。

包括 Marvell、高通、Arm、富士通、联发科和 d-Matrix 在内的多家芯片设计公司已宣布计划开发采用 NVLink Fusion 互连技术的 CPU 和 XPU。这种互连技术的普及为 NVSwitch 的进一步销售打开了大门，因为采用 NVLink Fusion 的芯片仍然依赖 NVSwitch 进行芯片间通信，而且由于英伟达尚未授权 NVSwitch，目前尚无其他途径获得 NVSwitch。

“NVLink Fusion 让英伟达能够将其网络业务拓展到自家 GPU 之外，进入快速增长的定制加速器市场。我认为这是一项战略举措，旨在占据更大的 AI 网络支出份额，即使在不使用英伟达 GPU 的集群中也是如此，”Boujelbene 表示。

英伟达在网络领域的雄心壮志远不止于此。

“随着网络需求不断演变，以满足日益增长的人工智能工作负载需求，英伟达将继续在新兴网络领域寻求机遇，”布杰尔本补充道。“最新的例子是可扩展网络，旨在满足智能体人工智能的新需求；而诸如CPO之类的创新将有助于克服日益增长的带宽、功耗和可扩展性挑战。”