Uber推NCU标准化计算单元:异构服务器集群如何分配CPU

资讯 腾讯网 作者:InfoQ 全文 798 字 · 约 2 分钟读完 分类Uber数据中心

作者 | Craig Risi译者 | 田橙Uber 引入了 标准化计算单元(Normalized Compute Units,NCU),以便在高度异构的服务器集群中更一致地分配 CPU。这种方法已应用于 Uber 的有状态编排平台 Odin,它会考虑处理器之间的性能差异,而不是将每个 CPU 核心都视为具有相同性能。

所属频道 算力与芯片
译者 田橙

Uber 提出了标准化计算单元(Normalized Compute Units,NCU)这一做法,目的是让 CPU 在高度异构的服务器集群里分配得更一致。目前该方法已经在 Uber 的系统中投入使用。

Odin 管理的 CPU 核心约有 500 万个,分布在本地数据中心和公有云上,涵盖多个世代的硬件。

这里头藏着两种互相矛盾的风险。若按最慢硬件的性能来分配资源,快服务器上的算力就白白浪费;若按平均使用量来分,工作负载一旦迁到慢服务器上,又可能不够用。

Uber 的办法,是把工作负载所需的计算性能,和提供这些性能的物理 CPU 核心数量拆开来看。

Odin 会给每一种服务器类型标定一个系数,用来换算核心数与实际算力。

系统再依据这些系数折算资源分配。

结果就是,同一项工作负载在快硬件上拿到的核心可能少一些,在慢硬件上反而多一些。目标并不在于核心数一致,而是让实际计算能力尽量接近。

Uber 还注意到,不同技术栈对应的系数并不相同。

对于

有状态系统就没这么灵活了。请求有时必须落到保存特定分片或数据的服务器上,把请求挪到别处,底层的资源问题依然存在。

Uber 在文章中列举了一些工作负载的情况。

这套方案已经用在 Odin 上。

引入性能感知的资源分配后,这一差距收窄到约 3 个百分点,利用率最高的硬件只比最低的高出约 10%。Uber 同时还做了其他调整。

这种做法与以往的方式不一样。

NCU 模型要解决的是另一个略有差别的问题:让资源本身就能感知性能。它关心的不只是一台机器上该放多少工作负载、一项工作负载该分多少 CPU,而是一次 CPU 分配究竟代表多少计算能力。

https://www.infoq.com/news/2026/10/uber-cpu-stateful-workloads/

声明:本文为 InfoQ 翻译,未经许可禁止转载。

END
本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 第三方供应商 Fireworks AI 遭黑客入侵,近 15 万 Uber 司机驾照信息泄露

    IT之家 11 月 17 日消息,Uber 正在通知近 15 万名司机,在该公司一家技术供应商 10 月份发生的数据泄露事件中,他们的个人信息和驾照信息被盗取。本周,Uber 向美国多个州的总检察长办公室提交了数据泄露通知,其中包括加利福尼亚州和艾奥瓦州。Uber 在通知中表示,公司于 10 月 9 日接到供应商告知,

    来源 腾讯网
  2. 苏姿丰谈黄仁勋与AMD:数据中心明年占八成,服务器CPU市场剑指2200亿

    AMD CEO苏姿丰称,英伟达是“了不起的公司”,黄仁勋是推动整个行业发展的杰出领导者;AMD拥有巨大的发展机遇,应专注自身、屏蔽“噪音”;数据中心业务在AMD收入中占比将从去年的25%升至今年的60%;AI智能体带动CPU需求,服务器CPU市场到2030年将扩大至2200亿美元;AI编程能力降低芯片适配门槛,Anth

    来源 华尔街见闻
  3. TensorWave与OpenAI签六年协议:部署超450MW AMD算力

    AI云服务商TensorWave与OpenAI达成一项重大基础设施协议,进一步推动AMD在前沿AI算力市场的布局。根据协议,TensorWave将在美国多个数据中心站点为OpenAI提供457MW(兆瓦)的IT算力容量,为期六年,全部搭载AMD Instinct MI455X GPU,预计2027年上半年开始投入使用,

    来源 腾讯网
  4. 微软全球宕机超两天:一个潜伏数月的漏洞,如何拖垮全球业务

    (文/翁彬凯 编辑/吕栋)据彭博社等媒体报道,上周微软公司包括人工智能服务在内的软件发生系统故障,造成全球范围内的服务中断与业务停摆。据称,导致该故障的漏洞自7月以来一直潜伏在该公司数据中心中未被发现。11月11日,在微软公司对用户流量进行例行重定向时,系统发生了故障。随后,随后,支持Outlook、Teams、Cop

    来源 腾讯网
  5. 黄仁勋辞职后:美商务部管制远程AI算力

    美国商务部2026年11月16日发布临时规则,要求数据中心向受限国家提供远程AI算力访问前须获得美国政府许可证。规则源于一个长期漏洞:中国企业虽被禁止直接购买Nvidia高端芯片,却通过第三国数据中心远程调用算力绕过限制。规则发布时间节点高度敏感——英伟达联合创始人黄仁勋刚因涉嫌与中国间谍关联的客户丑闻而辞职

    来源 AI 科技快讯
  6. 黄仁勋离任英伟达:新云债务风险骤升,CoreWeave跌超6%

    随着黄仁勋卸任,AI基础设施融资生态面临系统性重构风险。CoreWeave周一曾跌超8%,无担保债券收益率逼近困境区间;Nebius一度跌近10%。数据中心运营商同步收紧对垃圾评级客户的租约条件,投资级信用利差走阔,超大规模数据中心CDS重返450基点上方。

    来源 华尔街见闻
  7. 三星美光海力士内存涨价7倍,法官戳破AI背锅说法

    最近,硬件圈发生了一件魔幻的事。因为新一代DDR5内存条贵得离谱,而老款DDR4和DDR5插槽互不兼容,逼得多家主板厂从年中开始掉头重启了原本停产的DDR4主板产线。更离谱的是,玩家去市场上一问价,发现老旧的DDR4不仅没便宜,近期涨幅一度反超了新款DDR5。今年的笔记本新品们,更是集体退回16GB内存时代。这一年多来

    来源 腾讯网
  8. 微软数据中心工地遭抗议,弗吉尼亚经验揭示机房落地难在哪

    11月6日,100多名抗议者聚集在阿姆斯特丹一座计划供微软使用的数据中心工地,部分人进入现场、爬上起重机。路透社报道,组织这轮行动的联盟要求暂停大规模建设,直到政府制定更清楚的规则。项目业主表示愿意与当地各方沟通,微软则表示尊重和平表达意见的权利,但不赞同违法行为。 从云计算到人工智能,数据中心承接的需求越来越多,落地

    来源 AI 行业观察
  9. 高盛称乌兰察布为亚太最大AI算力集群,22个数据中心同时在建

    高盛约两个月前发布报告,称乌兰察布已崛起为亚太地区规模最大、增长最快的AI算力集群。当地察哈尔高新区巴音片区一块地就有22个数据中心在建,华为、快手、世纪互联等企业在此布局算力基地。报道同时指出,2025年数据中心仅消耗全市用电量5%,算力产业税收3.68亿元,对当地就业和税收带动有限。

    来源 凤凰科技
  10. 乌兰察布数据中心运维岗走俏:约1MW配一人,相亲彩礼或少10万

    AI算力集群在乌兰察布快速扩张,数据中心运维成为当地受青睐的新职业,一座数据中心一栋楼维护人员不到20人。培训机构统计约120名入职学员中10%月薪7000元以上;因岗位体面稀缺,相亲时说在数据中心工作彩礼可能少十万元。但当地运维岗位需求不超过500个,数据中心解决最多的仍是建筑工人、保安和保洁。

    来源 凤凰科技
  11. 4.2万亿美元蒸发:AI"卖铲"交易为何急速逆转

    全球制造、公用事业与矿业企业自今年6月以来市值合计蒸发4.2万亿美元,这场抛售几乎抹去了此前12个月内同类企业所积累的9.4万亿美元涨幅的近半数,曾风靡一时的AI“卖铲”交易正在急速逆转。 据英国《金融时报》分析,在媒体报道中与数据中心建设关联度越高的企业,遭受的冲击越为惨烈。投资者对AI热潮的信心正在动摇,从适配超大

    来源 AI 行业观察
  12. ING与法兴甩卖8亿美元数据中心债,甲骨文项目贷款打折

    涉及甲骨文旗下新墨西哥、威斯康星、得克萨斯三州项目。新墨西哥项目因电力许可证延误,预计折价至面值85美分;其余项目仍在90美分以上。核心矛盾在于对少数科技巨头集中敞口过高,英欧央行已同步启动监管审查,部分银行甚至退出了Anthropic融资交易。

    来源 华尔街见闻
  13. OpenAI学术计划扩额:5万名额先到先得,可携2名合作者

    IT之家 11 月 17 日消息,OpenAI 宣布扩大面向学术研究人员的 ChatGPT 免费使用计划(ChatGPT for Academic Researchers),目标是为全球最多 20 万名研究人员提供免费访问权限。OpenAI 今日宣布,新一轮申请将于当地时间 11 月 23 日开放,计划新增 5 万个免

    来源 腾讯网
  14. 于胜淇团队南迁苏州:43万部AI短剧催热长三角机房

    于胜淇的团队最近搬了一次家。编剧和审片的人留在原来的城市,大批量视频生成任务从北京搬到苏州的托管机房。于胜淇是一家AI(人工智能)漫剧制作公司的创始人,带着几人规模的团队正赶年末漫剧上线旺季,机器7×24小时连轴转。 于胜淇对经济观察报记者说,同样一分钟成片,算力开销已经涨到年初的两三倍,“希望借此(团队南迁)缩短制作

    来源 AI 行业观察
  15. 爱优腾芒抢AI导演,谁的offer更有吸引力

    作者|莉拉 去年,张蓓带着团队参加爱奇艺“鲍德熹·爱奇艺AI剧场”的AI短片比赛。16个入围作品里,她的团队是唯一做动画片的。比赛结束后,爱奇艺找到她,问了一个问题:有没有可能把作品做成长....

    来源 腾讯网
向下滚动自动加载更多