Uber Eats搜索管道重构:端到端延迟降50%

资讯 AI 行业观察 作者:作者: Leela Kumili 全文 1417 字 · 约 4 分钟读完 配图 1 张 分类Uber广告营销智能体

优步重构了Uber Eats搜索管道的主要部分,使端到端搜索延迟降低了 50%。这些改进涵盖了检索、特征填充(feature hydration)、排序、广告、展示和基础设施等多个环节,同时优步还引入了智能体编码(agentic coding)工作流,以识别、基准测试并验证额外的优化方案。 这项工作始于对主要延迟指标的

所属频道 智能体与 Agent行业落地

Uber Eats 的搜索管道被优步做了较大幅度重构,端到端搜索延迟因此下降 50%。优化覆盖检索、特征填充、排序、广告、展示以及基础设施等环节,优步同时搭起了智能体编码工作流,用来找出、做基准测试并验证更多可优化的点。

这轮工作从调整主要延迟指标开始。优步把关注点从后端 API 的响应时间挪开,转而测量“首屏渲染完成时间”,也就是从请求发出到首屏结果连同图片全部渲染完成所花的时间。分页改由服务端缓存承担,初始响应时间随之缩短;异步渲染机制则让结果项可以并发处理。优步称,首屏渲染延迟因此减少 200 毫秒以上。

Uber Eats搜索管道重构:端到端延迟降50%(配图 1)

Uber Eats 搜索管道架构图(来源:优步博客文章)

优步发现,排序之前有数万个候选项被填入了特征数据,其中不少最后会被丢弃。顺着这条线索,检索阶段的工作量被大幅压缩。砍掉低价值的检索策略省下约 120 毫秒;产品级嵌入的引入让数据查询次数减少 100 倍以上,又省出 50 毫秒。排序阶段把特征填充与展示数据拆开后,延迟下降 100 毫秒以上。另外,去掉不必要的依赖项、取消请求对冲,分别带来 35 毫秒和 40 毫秒的缩减。

广告链路也重新做了一版:竞价数据改为面向列的组织方式,走内存访问,序列化操作减少,延迟降低约 130 毫秒。基础设施方面还有几处改动,包括并行编码、更小的嵌入向量、连接管理优化,以及调整 Go 语言数据结构以压低垃圾回收开销。

这组工作引来参与项目的工程师公开讨论。Anubhooti Nagar 把这一性能挑战概括为:

与其说是把现有的事情做得更快,不如说是减少不必要的工作,并避免无谓的等待。

Nagar 还专门提到优步的:

测量、识别、修复、验证(Measure, Identify, Fix, Validate)循环,认为这是持续性能优化的典范。

Pratik Dhanave 的看法是,成果来自渐进式的增量优化,而不是一次系统架构大改。他的描述是,“背后并没有某个单一的宏大创意,而是贯穿整个技术栈的一系列审慎决策”。他举出的例子包括延迟指标测量、特征填充、广告链路和基础设施等方面的改动。

Vidya Pandey 把这些改动归纳成三条原则:减少工作量、尽早开始处理、移除不必要的依赖。他还把优步打算采用的微批处理方法,与 AI 系统中用来减少处理阶段之间同步等待的技术联系了起来。

这轮改进建立在优步现有搜索平台之上。此前公开的资料显示,该平台用到了 Apache Lucene、基于 Spark 的索引、基于 Kafka 的流式更新以及分布式服务层;InfoQ 早先对优步搜索架构的报道,也为该平台早期的索引和查询执行提供了更多背景。眼下优步正在摸索端到端微批处理、基于产品的检索、零遍历排序以及 HTTP 多部分流式传输。该公司称,早期基于产品的检索测试已让 p99 延迟下降 50%以上。这些计划中的改动允许各处理阶段相互重叠,不必等前序阶段全部跑完。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 网约车平台 Uber 优步遭黑客攻击,致美国多州司机驾照信息外泄

    IT之家 11 月 14 日消息,网约车平台 Uber 优步披露公司遭遇数据泄露事件,导致数千名司机的个人信息及驾照信息被盗,涉及美国马萨诸塞州、南卡罗来纳州、罗得岛州和伊利诺伊州等地。 IT之家参考通报获悉,黑客首先入侵了该公司的一家第三方服务供应商,并窃取员工登录凭据,随后利用这些信息访问 Uber 的系统及数据,

    来源 AI 行业观察
  2. CataX AI种轮融资4000万:Agent原生推进新药临床开发

    近日,上海凯思达生物医药科技有限公司 宣布完成4000万元人民币种子轮融资,由启明创投孵化并独家投资。CataX AI创立于上海,是一家智能体原生的创新药研发公司。CataX AI聚焦临床开发端,以智能体为技术底座,并由此构建“Clinical-of-One”这一全新的组织范式,计划通过许可引进或共同开发,推动临床前及

    来源 TechWeb
  3. CataX AI获4000万种子轮融资,用Agent推进新药临床开发

    近日,上海凯思达生物医药科技有限公司 宣布完成4000万元人民币种子轮融资,由启明创投孵化并独家投资。CataX AI创立于上海,是一家智能体原生的创新药研发公司。CataX AI聚焦临床开发端,以智能体为技术底座,并由此构建“Clinical-of-One”这一全新的组织范式,计划通过许可引进或共同开发,推动临床前及

    来源 TechWeb
  4. 华为云上线盘古2.1-Pro:Agent、代码、推理效率升级

    据华为云官微消息,华为云MaaS模型即服务平台正式上线开源盘古模型openPangu-2.1-Pro。相比上一代,新模型在Agent能力、代码能力和推理效率三个方向上做了系统性升级,在深度研究、鸿蒙系统操控、鸿蒙APP开发、昇腾算子生成及推理链路优化等场景实现增强。

    来源 TechWeb
  5. AI 版拓麻歌子来了:日常物品秒变需要被照顾的虚拟宠物

    OATs 通过电子墨水屏与传感器,让植物、滑板、哑铃等物品拥有虚拟宠物形象,以情绪变化反馈使用状态。该技术由卡内基梅隆大学博士生金大华开发,硬件成本约 20 美元,目前续航仅 3 至 4 天。#AI智能体# #卡内基梅隆大学#

    来源 IT之家
  6. OpenAI、Anthropic估值双双破万亿:30家AI公司上榜,中国两家进前十

    图片由AI生成文丨晓静编辑丨徐青阳11月15日,硅谷老牌风投机构Menlo Ventures合伙人Deedy Das(@deedydas)在社交平台晒出一张全球AI公司估值与营收排行榜。Menlo Ventures成立于1976年,是硅谷历史最悠久的风险投资机构之一,曾投资Uber、Chime等知名科技公司。近年来,这

    来源 腾讯网
  7. 京东11.11数字人队长:Super Agent进群,主动干活

    本文导读 每年 11.11,都是对京东技术保障体系的一次集中检验:高并发流量、复杂业务链路、多团队协同交织在一起,考验的不只是系统稳定性,更是信息聚合、风险判断与协同推进。 今年 11.11,京东零售技术保障现场出现了一位新的"队友"——数字人队长。它不是简单的问答机器人,也不是替代人的自动化指挥系统,而是面向大促保障

    来源 AI 行业观察
  8. 金大华推OATs套件:给家居物品装上会撒娇的AI宠物

    IT之家 11 月 15 日消息,忘记给家里的植物浇水了?这一次,你看到的可能不是逐渐变黄的叶子,而是一只显示在小屏幕上的植物形状宠物。它看起来垂头丧气、一脸委屈,仿佛在提醒你赶紧拿起浇水壶。而当你把水浇进土壤后,屏幕上的小宠物又会立刻变得兴奋起来。这正是 OATs(Object Agent Twins,物体智能体双生

    来源 腾讯网
  9. 谷歌TPU四款齐发:整柜外售,推理每美元性能超GB200五成

    英伟达最近头疼的事儿可不止老黄那一件。 本周内,谷歌祭出了两款新TPU芯片,分别瞄准机密推理和长上下文。算上上半年发布的两款TPU芯片,第八代TPU已经扩到四种配置。 今年,谷歌第一次在同一年内推出四款TPU系统。而谷歌对TPU的野心,可能比外界想象得更大—— 还是今年,谷歌破天荒开始对外销售TPU系统。 量子位从谷歌

    来源 AI 行业观察
  10. 百度Q3营收308亿元:AI业务占53%,AI云基础设施增94%

    36氪获悉,百度发布2026年第三季度财报,财报显示,三季度百度实现营收308亿元;一般性业务收入250亿元,同比增长1%;AI业务收入132亿元,占百度一般性业务收入53%,已连续三季占比过半。报告期内,百度AI云基础设施收入82亿元,同比增长94%;AI应用收入26亿元;AI原生营销服务收入24亿元。

    来源 AI 行业观察
  11. 微软全球服务中断致歉:网络容量升级引发,涉74个国家和地区

    微软表示,此次故障“与网络攻击或人工智能/智能体无关”,而是由早先一次“网络容量升级”引发。据外媒报道,微软此次故障迅速外溢至公共服务和商业活动。微软表示已解决底层问题,正在为剩余客户和地区恢复服务,并将在事件解决后提供详细事后报告,但截至致歉声明发布时,尚无法给出完全恢复的明确时间表。对微软而言,这是其历史上持续时间

    来源 TechWeb
  12. 微软致歉全球服务中断:网络容量升级所致,与攻击和AI无关

    微软表示,此次故障“与网络攻击或人工智能/智能体无关”,而是由早先一次“网络容量升级”引发。据外媒报道,微软此次故障迅速外溢至公共服务和商业活动。微软表示已解决底层问题,正在为剩余客户和地区恢复服务,并将在事件解决后提供详细事后报告,但截至致歉声明发布时,尚无法给出完全恢复的明确时间表。对微软而言,这是其历史上持续时间

    来源 TechWeb
  13. 中数联物流科技:AI落地真实生产,靠数据闭环还是安全边界?

    “AI产业化的关键,是让产业AI以数据、闭环与安全托底真实生产。 在2026人工智能+大会上,算力、模型、智能体、具身智能、行业应用成为密集出现的关键词。但走出主论坛和分论坛之后,一个更具体的问题浮现出来: 当AI不再只是生成一段文字、回答一个问题,而是要读懂物流单证、进入生产线、连接内网系统,甚至操控现实世界中的设备

    来源 AI 行业观察
  14. LG U+明年做AI Token业务:帮企业压低AI转型成本

    LG U+ 将自研 Agent 任务路径设计、智能路由与异构芯片组合三项技术用于 Token 优化,端侧模型体积缩至三分之一性能仍达云端 95% 以上,Token 生成速度翻倍。随着 LG U+ 入局,韩国三大运营商将全部进入 Token 经济。#AI Token# #LG U+#

    来源 IT之家
  15. 黄敏珊晋升加快:黄仁勋接班人还差十年?

    黄仁勋女儿黄敏珊2020年加入英伟达,已晋升为物理AI产品营销高级总监,影响力超出职位本身。前员工认为她像父亲一样坚毅敏锐,但职业背景在商业和营销领域,缺乏引领技术战略的经验,短期内难以接班,十年后接掌公司则有可能。

    来源 凤凰科技
向下滚动自动加载更多