AI终端创新背后:云边端算力如何分工

资讯 36氪 全文 3555 字 · 约 9 分钟读完 配图 4 张 分类算力

算力无疑已经成为AI产业的核心议题。

所属频道 算力与芯片

消费电子创新大会(CEIC)每年都在深圳办,今年展会上多了一个新变量——具身智能机器人。

AI终端创新背后:云边端算力如何分工(配图 1)

跟以往相比,这些机器人在理解指令、感知环境、执行动作之间的衔接更紧了。能力也不再只是完成单个动作,而是能处理那种要分好几步、中途还可能生变的任务。

支撑这些能力的,是贯穿任务全程的计算。机器人接到指令后,机载软件按既定分工,把指令和现场信息交给边缘或云端服务器去做规划;云端收到请求,超节点里的多颗计算芯片协同跑规划模型,给出操作方案;机器人再按返回的方案执行动作。

终端上处理任务,服务器上跑模型计算,机房里管供电和散热,这些环节配合起来,才撑起了CEIC上各种各样的AI终端新能力。

算力已经是AI产业绕不开的核心议题。不过把终端能力背后的算力部署和计算过程拆开看就会发现,从过去孤立的性能指标,到用户实际感受到的体验,中间还隔着体系化的系统设计和部署选择。终端和后台怎么分工、计算资源怎么组织、各环节怎么配合,都决定了一项AI功能最终能做到什么程度、以什么成本持续提供。

计算能力怎么变成产品能力,围绕这个问题,AI终端创新背后还有另一场竞争在打。

计算调度最先动起来,云边端协同重新回到焦点

AI终端接到任务,第一步是任务解析和计算调度。系统先结合用户指令和现场感知信息把任务拆开,再按响应速度、计算量、网络条件,把不同环节分给终端本地、边缘设备或云端服务器。

拿收拾桌面这个指令来说,具身智能机器人的摄像头和传感器会不停获取桌面信息,系统理解任务的具体含义,判断不同物品该放到哪,同时排好抓取和移动的先后顺序。

这些计算对响应速度和资源的要求并不一样。识别用户意图、规划一连串操作步骤,可能要跑规模较大的模型,计算量更高;机械臂伸出去之后,对位置、力度和碰撞风险的调整,得依据最新感知信息及时完成,经不起太长的网络等待。

所以具身智能机器人更常见的分工是:动作控制、安全避障这类对响应要求高的计算留在本地;任务理解和复杂规划需要较强的模型能力,可以交给边缘设备或云端。结果返回后,再由本地控制系统转成关节和机械臂的具体动作。

这种分工通常在产品设计和模型部署阶段就定好了。到了机器人实际运行的时候,调度程序再按既定规则、网络状态和任务要求,把相应请求发到不同位置。

全球计算联盟(GCC)秘书处CTO苗福友告诉36氪,云边端智能协同这套分工,云计算发展初期就有人讨论过,当时主要是想缩短通信距离来改善响应。如今AI终端要处理的任务更复杂,资源利用率、能耗和成本,也成了企业重新安排计算分工的重要原因。

在这样的背景下,GCC在CEIC大会期间发布的《全球算力十大趋势2027》,把“云边端全域协同智能”列为十大趋势之一。

苗福友拿家庭机器人举例,进一步说明云边端协同会怎样改变算力配置方式。

他说,机器人规划复杂任务时,可能短时间内需要较高的计算能力,进入重复性操作后需求又降下来;没任务的时候,高性能芯片甚至可能长时间闲着。如果每台机器人都按峰值需求配本地硬件,企业和消费者就得为使用频率并不高的资源买单。把部分复杂计算放到云端,让多台设备共享计算资源,单台终端的硬件负担就能减轻。

到了工厂场景,计算则可能被放到离机器人更近的地方。多台设备集中作业时,车间附近的边缘服务器既能供多台机器人共享,又能减少请求传到远端数据中心的时延,更适合承接一部分对响应速度有要求、本地设备又难以独立完成的任务。

模型能力最终能不能落到产品体验上,很大程度上要看云、边、端三层的算力怎么调。任务放在哪一层跑、交给哪些资源去接,直接牵动终端响应快不快、续航扛不扛得住,以及服务成本高不高。

不过苗福友也坦言,这样的部署对终端企业的模型设计和工程开发提出了更高要求。目前GCC具身智能产业发展委员会正在研究云边端协同架构,探索模型推理任务如何在本地、边缘和云端之间分配,为企业选择适合自身产品的计算方案提供参考。

超节点让后台响应更快

计算任务分到边缘或云端,解决了第一步“在哪里计算”。对终端来说,指令和现场信息发出去之后,还得等服务器跑完模型、生成操作方案,再把结果传回来。从接收请求到返回结果,这个过程就是后台响应。

AI终端承担的任务越来越复杂,后台要处理的就不只是一次简单运算了,模型规模、上下文长度、同时发起的请求数量都在涨。怎么在有限时间内接住大量推理需求,成了后台计算系统要面对的问题。 DeepSeek最近公开的V4.1 Flash推理系统提供了一个参照。其单个生产集群目前每天服务约155万亿个Token;系统内部,处理输入的预填充阶段用的是普通8卡服务器,逐步生成输出的解码阶段则采用64至128卡超节点。DeepSeek方面给出的解释是,把专家并行做到大规模,能减轻解码阶段每一步的内存访问负担,从而提升系统处理Token的效率。解码阶段每一步都要访问内存,专家规模铺开之后,这份压力就被摊薄了,Token的处理速度也随之上去。

AI终端创新背后:云边端算力如何分工(配图 2)

从眼下的实践看,超节点是把多颗计算芯片组织起来跑模型更管用的架构。苗福友对36氪表示,当下和今后的算力消耗里,有相当大一块、甚至可能是最大的一块,会来自大模型推理。传统计算可以把任务拆成若干独立部分,各自算完再汇总;大模型推理不是这样,不同的计算节点要反复读数据、交换中间结果,一起把同一件事往前推。

所以超节点干的并不是让单颗芯片算得更快。它靠的是更高带宽、更低时延的互联,加上更省事的内存访问方式,把芯片之间传数据、等数据的时间压下去。

GCC与鹏城实验室此前联合发布的《超节点定义与实践白皮书》对此有过解释:这类架构能缩短数据移动的路径,减少大规模并行计算里的通信与同步开销。落到收拾桌面这个具体任务上,从请求进入模型到操作方案生成,超节点都在起作用——让跑模型的多颗芯片配合得更顺,后台推理就能更快出结果,或者在同一段时间里接下更多机器人的请求。

换句话说,AI终端亮出来的本事,不只看设备上的芯片和模型,还要看后台算得够不够快。

打通虚拟运算的真实载体

超节点、服务器、网络设备,这些都不是飘在“云”里的抽象资源。它们最后都要装进真实的机柜和机房,一直通电,还得把跑起来产生的热量排出去。计算系统的下一层,就是机房怎么把这些设备装下、让它们稳定运行。

苗福友在接受36kr采访时说,机房的生命周期可能有二三十年,GPU却几乎年年出新版本,一两年就可能换一代大的。建设方就得琢磨:现在砸下重资产建的机房,过几年还配得上新的计算设备吗?

芯片迭代快,冷却液的流速、温差却受现实条件卡着,输电线这类管道和配套设施也得提前留出空间。要规划兆瓦级算力系统、吉瓦级数据中心,供电、冷却和建筑条件得早点纳入系统设计。

另一边,多家供应商的设备怎么适配,也直接关系到交付快不快。苗福友表示,云厂商常常从不同供应商那里采购芯片,如果每种芯片都要单独做板卡、节点和机柜,管理方式还各不一样,部署和运维的复杂度就上去了。

正因如此,围绕机房设计和管理要求形成共识,变得越来越要紧。苗福友告诉36kr,GCC眼下就在为这类产业协调提供一套适用的标准。据他介绍,GCC旗下的Open AI Infra社区设了机房基础设施、整机柜和板卡等项目群,让使用方、建设方、芯片与整机供应商坐到一起讨论这些问题。

AI终端创新背后:云边端算力如何分工(配图 3)

这当中,AIDC基础设施规范及配套认证把机房该具备的条件变成了可以对照、可以核验的要求,覆盖建筑架构、机房环境、供配电、风冷与液冷、交付和运维等。云厂商找机房时,能据此判断设施达不达标;建设方则有了规划和交付的参照,推动基础设施尽快投用。

AI终端创新背后:云边端算力如何分工(配图 4)

在与CEIC同期举行的2026全球计算大会(CGC)现场,GCC集中推出10项产业共识成果、9项团体标准及技术规范,并启动两项重点项目。大会还举行了首批GCC-OAII AIDC认证证书颁发仪式,涉及7家单位旗下14个智算数据中心,累计认证项目的IT功率规模约1.45GW。

把一项AI终端任务背后的算力链条拆开来看,用户感受到的每一次顺畅响应,背后都是一整条长链:任务先经过云边端之间的调度,再进入后台模型的并行计算,这中间还靠机房持续供电、散热、提供部署条件。哪一环效率不够,终端那边就可能表现为等得更久、能耗压力更大,或者服务成本更高。

CEIC上能看到AI终端形态在快速扩张,而这些终端背后,计算资源的调度、组织和承载方式也在跟着重构。AI终端的创新竞争,不只是设备和模型之间的较量,还在于能不能用更快的响应、更稳的运行、更可控的成本,把算力真正变成产品体验。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 纳德拉谈AI算力:价格战难避免,五年后企业核心资产是专有评测基准

    微软CEO纳德拉认为大模型底层将面临“极其惨烈的价格战”,算力终将沦为廉价大宗商品,连微软Copilot内部也在大量混用廉价模型。他推翻了“安全对齐随规模自动涌现”的假设,呼吁企业假定先进模型“已被攻陷”并建立零信任架构。在商业化落地方面,他警告企业不可沦为模型的数据养料,未来企业的核心资产将是“专有AI评测基准”。

    来源 华尔街见闻
  2. AI漫剧的老板们在给算力打工

    AI漫剧玩家分两种: 一种自己掏钱做剧,赌平台分账。另一种接单代工,按分钟收制作费,片子归甲方。 钱进来就这两个口子;钱出去,花在人工、算力和买量投流上。 可奇怪的是,....

    来源 腾讯网
  3. OpenAI拟采购谷歌TPU:英伟达独占AI算力格局生变

    据彭博社和The Information报道,OpenAI计划采购谷歌母公司Alphabet旗下的TPU芯片,这将是英伟达GPU主导AI基础设施格局出现的最高级别裂缝。两家公司在大模型和搜索领域直接竞争,却在算力供应上愈发深度绑定。更值得关注的是,谷歌同日宣布与Oracle合作在其云平台上提供TPU,标志着谷歌芯片战略

    来源 AI 科技快讯
  4. 博通630亿美元AI芯片融资落地:Anthropic以债代股获独立算力

    2026年10月26日,博通联合美国银行、花旗、摩根士丹利及黑石,通过新设特殊目的载体完成630亿美元融资,用于购买博通AI加速芯片及网络设备后租赁给Anthropic,设备预计2027年起交付。该交易同日与Anthropic递交纳斯达克IPO申请一同发布,是迄今与AI算力建设相关的最大规模债务交易之一,标志着华尔街以

    来源 AI 行业观察
  5. 塔塔通讯投4亿美元建AI网络走廊,铺1万公里光纤

    塔塔通讯(Tata Communications)于当地时间 26 日放出一桩大基建计划:拟投入 4 至 4.5 亿美元(约 26.7 亿至 30.1 亿元人民币),在印度建起一条连接关键 AI 数据中心的"AI 就绪型"高速率低延迟网络走廊。 为撑起这条走廊,塔塔通讯打算分三阶段,在印度境内新铺总长 1 万公里的长途

    来源 AI 开发者社区
  6. 英伟达台积电们互相代工:AI芯片制造分工正在重写

    过去,半导体产业链有着一套分工明确的运转模式:芯片设计公司负责定义产品,晶圆代工厂负责制造,封装测试厂承接后续加工,各个环节依托订单与统一的技术标准完成对接。但AI算力需求的爆发,打破了芯片制造产业的传统运行规则。 芯片尺寸越做越大、先进制程和先进封装的复杂度不断提高。一颗AI芯片能否顺利交付,不再只取决于某一个生产环

    来源 AI 行业观察
  7. 马斯克看衰AI算力:200家新云将迎终局,2027年现搁浅算力

    (本文作者为 Tech商业,钛媒体经授权发布)文 | Tech商业在AI大模型的狂欢里,算力一直被视作新时代的“石油”。为了抢夺算力,硅谷的巨头们不惜砸下数百亿美元;而一众没有大厂背景的“新云”服务商(Neoclouds)更是通过疯狂借债,买下成千上万张英伟达GPU,试图在这场淘金热中扮演“卖铲人”的角色。然而,这场击

    来源 腾讯网
  8. AI Agent改写CPU价值:Arm提出智能体时代算力评价新方法

    过去两年,AI 基础设施的竞争几乎围绕 GPU 展开。模型能生成多少 Token、每秒能输出多少 Token、每瓦功耗能够支撑多少推理吞吐量,成为衡量算力效率的重要指标。 但随着 AI Agent 从聊天问答走向软件开发、企业自动化和复杂任务执行,一个新的问题开始浮现:如果模型生成了代码,却要花很长时间才能完成编译和测

    来源 AI 行业观察
  9. AI短剧吃掉55%算力?这组数据其实算不出来

    这两天一份几个月前的 PDF 文档被传开来,是某家咨询公司的投资者关系活动纪要,里面给出了一组惊人的数字:在国内所有 Token 消耗中,AI 短剧与视频生成占到 55%,电商与营销占 24%,软件....

    来源 腾讯网
  10. AI全流程院线片《三星堆:未来往事》上映,基层演员被推到斩杀线下

    2026年10月23日,注定是中国影视行业一个值得被记住的节点。 这一天,国内首部获得国家电影局公映许可证的AI全流程院线长片《三星堆:未来往事》正式登陆全国影院,100分钟的超写实影像里,所有角色均为原创数字形象,没有一位真人演员出镜。 同样是在这天,国务院办公厅印发的《关于适应人工智能技术发展助力构建就业友好型发展

    来源 AI 行业观察
  11. AMD投Meta 10亿美元:EPYC与Instinct GPU深化AI合作

    IT之家 10 月 27 日消息,继英伟达的 30 亿美元之后,AMD 也宣布向 Meta 的股权发行投资 10 亿美元(IT之家注:现汇率约合 66.84 亿元人民币),从而进一步深化与 Meta 的战略合作。 双方将围绕 CPU、GPU、网络、系统及软件展开协作,为 Meta 的人工智能基础设施及 AI 服务提供算

    来源 AI 行业观察
  12. Edge AI Daily 早报(10月27日)

    今日核心情报聚焦 AI 资本与治理的结构性转折。Anthropic 公开递交 S-1、以代码 ANT 登陆纳斯达克,H1 营收 163 亿美元同比增长约 13.5 倍,净亏 807 亿美元(约 720 亿为非现金公允价值费用),锁定至少 5180 亿美元不可取消算力承诺,估值瞄准至多 2 万亿美元,英伟达洽谈最高 10

    来源 AI 行业观察
  13. AI算力需求带动高端芯片变局:封装、互连与6G工艺成新战场

    《科创板日报》10月28日讯(记者 余诗琪)AI算力需求增长,正在给高端芯片产业链带来新的变化。从GPU与高带宽存储器(HBM)的集成,到数据中心芯片的供电、光互连,再到面向下一代通信的特色制造工艺,芯片产业的竞争正在延伸到更多环节。其中,部分技术已形成规模化业务,部分进入客户验证阶段,也有企业正在为尚未成熟的...

    来源 腾讯网
  14. 英国设AI生物安全实验室:3亿英镑资源,模型积分值多少?

    英国政府2026年10月24日宣布出资1亿英镑建立全球首个专职AI生物安全实验室(AIBL),并获得OpenAI与Anthropic各自承诺最高1亿英镑的模型算力支持,以及谷歌DeepMind的科研合作,总资源规模达3亿英镑。这是更大规模6亿英镑AI安全整体方案的核心支柱,其背后驱动力是AI技术正在系统性降低生物威胁的

    来源 AI 科技快讯
向下滚动自动加载更多