Uber推NCU标准化计算单元:异构服务器集群如何分配CPU
作者 | Craig Risi译者 | 田橙Uber 引入了 标准化计算单元(Normalized Compute Units,NCU),以便在高度异构的服务器集群中更一致地分配 CPU。这种方法已应用于 Uber 的有状态编排平台 Odin,它会考虑处理器之间的性能差异,而不是将每个 CPU 核心都视为具有相同性能。
Uber 提出了标准化计算单元(Normalized Compute Units,NCU)这一做法,目的是让 CPU 在高度异构的服务器集群里分配得更一致。目前该方法已经在 Uber 的系统中投入使用。
Odin 管理的 CPU 核心约有 500 万个,分布在本地数据中心和公有云上,涵盖多个世代的硬件。
这里头藏着两种互相矛盾的风险。若按最慢硬件的性能来分配资源,快服务器上的算力就白白浪费;若按平均使用量来分,工作负载一旦迁到慢服务器上,又可能不够用。
Uber 的办法,是把工作负载所需的计算性能,和提供这些性能的物理 CPU 核心数量拆开来看。
Odin 会给每一种服务器类型标定一个系数,用来换算核心数与实际算力。
系统再依据这些系数折算资源分配。
结果就是,同一项工作负载在快硬件上拿到的核心可能少一些,在慢硬件上反而多一些。目标并不在于核心数一致,而是让实际计算能力尽量接近。
Uber 还注意到,不同技术栈对应的系数并不相同。
对于
有状态系统就没这么灵活了。请求有时必须落到保存特定分片或数据的服务器上,把请求挪到别处,底层的资源问题依然存在。
Uber 在文章中列举了一些工作负载的情况。
这套方案已经用在 Odin 上。
引入性能感知的资源分配后,这一差距收窄到约 3 个百分点,利用率最高的硬件只比最低的高出约 10%。Uber 同时还做了其他调整。
这种做法与以往的方式不一样。
NCU 模型要解决的是另一个略有差别的问题:让资源本身就能感知性能。它关心的不只是一台机器上该放多少工作负载、一项工作负载该分多少 CPU,而是一次 CPU 分配究竟代表多少计算能力。
https://www.infoq.com/news/2026/10/uber-cpu-stateful-workloads/
声明:本文为 InfoQ 翻译,未经许可禁止转载。