智算云需求生变:从租卡到按Token交付,千亿美元市场的下一战

资讯 AI 行业观察 作者:智东西 全文 4283 字 · 约 11 分钟读完 配图 4 张 分类产品更新算力Gartner

近日,一位智算云企业的工作人员告诉智东西,最近半年,客户的需求点发生了显著变化:过去他们问“一张卡多少钱、能租多久”,现在问题变成了“一百万Token花多少钱、任务能不能稳定跑完”。 问题的变化,折射出AI基础设施的一次重要升级。 全球AI云市场仍在高速扩张。知名行研机构Gartner预计,到2030年AI云市场将达到

所属频道 产品更新算力与芯片

智算云行业的一位从业者向智东西透露,近半年客户关注点明显换了方向:以前开口先问“一张卡什么价、能租多长时间”,如今关心的是“一百万Token要花多少、任务能不能稳定跑完”。

问法一变,AI基础设施的升级方向也就显出来了。

全球AI云市场仍在快速膨胀。Gartner预测,2030年这一市场规模将达2670亿美元(约合人民币1.78万亿元);其中新云(NeoCloud)厂商有望占到20%的份额,换算下来是3500亿元人民币级别的盘子。

可另一头,算力资源用得好不好,仍是产业绕不开的难题。IDC与中国信通院今年4月面向250家企业做过调研,结果显示近半数受访企业的智算资源利用率落在51%至70%区间;制造、政务等行业里,利用率超过70%的企业不到35%。

下一道题已经摆在算力产业面前:建好的算力资源,怎么用得更充分、更灵活、也更稳定?

前两年,新云靠采购GPU、搭建集群和出租算力,把商业模式初步跑通了。眼下算力架构、AI负载和客户需求同时生变,行业比拼的标准也跟着挪了位置。

新云的下一程,竞争重心正从算力规模的大小,转向算力组织调度能力的高低。

智算云需求生变:从租卡到按Token交付,千亿美元市场的下一战(配图 1)

01 从GPU租赁到智能交付,新云为什么必须升级?

回看NeoCloud的第一阶段,主要任务是补上算力供给的缺口。

那时以GPU采购、集群建设、算力租赁为主,解决的是AI产业早期的算力供给不足。竞争看的是资源规模、硬件性能和集群交付速度,说白了,谁拿得到卡、建得起集群,谁就说了算。

但AI产业没有停在训练这一站,需求侧正在改写规则。

模型进入应用阶段后,推理逐步变成持续性负载。Agent开始执行多步骤任务以后,一次用户请求可能牵出多轮模型推理、工具调用、代码执行和数据读取,任务时长也可能从几秒拉长到数小时乃至数天。

底层基础设施因此有了新要求。谷歌2026年7月发布的一项调查显示,受访的1400多名企业IT高管中,83%认为生产级Agentic AI正急切需要基础设施升级。物理AI又把算力需求的边界推得更远,微软研究院9月关于物理AI的研究表明,一部分推理任务可以从机器人本体卸载到边缘或云端GPU,云边端协同成了重要新课题。

政策层面同样在推动算力组织方式变化。今年2月,工信部推进“1+M+N”国家算力互联互通节点体系建设,让不同区域、不同主体、不同架构的算力资源实现标准化互联和高效流动,并全面开展算力态势感知自动化监测。算力从分散建设转向统一监测、互联调度,越来越像一张需要被调度的网络。

放到全球范围看,新云的升级动作也很清楚。美国头部新云厂商CoreWeave把推理拆成三条路径:按Token计费的Serverless Inference、按GPU小时计费的Dedicated Inference,以及自管Kubernetes推理;欧洲的Nebius通过Token Factory提供企业级托管推理,并与Nebius AI Cloud的裸金属算力和serverless能力串起来,形成从算力到推理服务的递进层级;美国另一家新云厂商Crusoe则把业务延伸到托管推理、模型微调和集群自动化管理等服务。

智算云需求生变:从租卡到按Token交付,千亿美元市场的下一战(配图 2)

一位产业链人士对智东西表示,新云上半场比的是资源获取能力,下半场比的是资源组织能力。

客户要的东西已经不只是GPU卡时,而是持续、稳定、经济地拿到智能产出。新云的角色也随之从算力资源出租方,慢慢变成算力组织者和智能交付者。

围绕算力资源的组织、调度与交付,一场关于“可控算力”的较量正在铺开。

02 什么叫“可控算力”?门槛从资产规模改写为三层能力

可控算力的核心,是让算力资源从“可获得”再往前走,做到“可组织、可调度、可计量、可交付”。

那可控算力和单纯拥有算力,本质差别在哪?可以分成三层能力来看:技术层的定制、调度和计量,商业层的资源控制与稳定供应,以及产业层面向客户交付算力服务。

1、技术层:算力可控,先过调度和计量两道关

第一层是技术控制力,关键落在异构调度和统一计量上。

中国信通院《智能算力服务研究报告(2026年)》把智能算力服务体系分为资源层、互联互通层和应用层,三者分别承担资源汇聚与池化、跨域连接与统一调度,以及场景适配与服务交付。换句话说,算力要真正变成可调用的服务,得走完资源汇聚、池化管理、任务调度和持续运营这几道环节。

智算云需求生变:从租卡到按Token交付,千亿美元市场的下一战(配图 3)

NVIDIA与Nebius在2月的联合测试给出了一个直观例子:借助GPU切分(比如MIG)或时间分片,半张卡的吞吐量能到整卡的77%,可承载的并发用户数为整卡的86%;多种模型混跑时,总承载量接近单模型部署的3倍。折算下来,单位资源的吞吐效率大约提升54%。也就是说,同一批算力,切分粒度、显存分配和调度策略不同,能释放出的有效算力就不一样。

统一计量是另一项基础能力。各家的芯片在理论峰值、实际表现和适用任务上并不一致,得有一个统一的衡量尺子。业内正在尝试用DCU,也就是“一度算力”,来计量算力投入。

国内智算新云厂商九章云极公开披露的DCU(一度算力)是这么定的:312 TFLOPS的FP16算力连续跑1小时,算作1度算力;不同芯片的算力投入,由此可以试着折算到同一尺度上。九章云极自身的增长也提供了一个观察样本。公开招股书显示,其可控智算规模已超过29000PFLOPS,算力资源利用率从2025年度的56.0%升到2026年上半年的79.6%;在504卡集群连续30天满载运行的情况下,MFU(模型算力利用率)达到54.1%,日间波动率1.60%。

从这些数字,可以侧面看看软件调度、资源管理和算力利用效率之间的关系。不过,单靠一个指标并不能完整代表平台的综合能力。

2、商业层:算力可控不等于必须自有,运营要兑现资本效率

第二层是商业控制力,关键落在资源供应稳不稳、资本效率高不高。

算力运营是门重资产生意。买GPU、建数据中心、更新设备,样样都要砸钱;芯片迭代又快,设备折旧会拖累长期经营成本。

于是新云厂商得回答一个问题:是不是必须把底层算力资产全攥在手里,才能保证对客户的持续交付?

一个取巧的办法是:不拥有全部算力资产,但用长期协议把算力资源的可用性锁住。九章云极公开招股书披露,其通过签订3至8年固定期限、无延期及终止选择权的租赁合约,获取AIDC及底层算力底座。这种做法把资本效率和资源调度能力摆在同一位置,新云更像算力的组织者,看重的是资源可用性、调度权和服务连续性。

当然,长期协议也带来履约责任和需求匹配的压力。资源锁多久、客户合同签多长、价格怎么定、实际利用率多少,都得一起纳入经营管理。只有资源供应和客户需求对得上,长期协议才能变成稳定的服务能力。

3、产业层:从卖卡时到交付智能,服务边界被重写

第三层是产业控制力,核心是交付什么。

过去的算力租赁,一般按GPU数量和使用时长计价,客户拿到的是一段计算资源的使用权。推理服务和Agent应用起来之后,客户更在意的变成了任务完成成本、Token产出效率和服务稳定性。

这就要求新云厂商把服务边界从硬件资源往外推,覆盖模型部署、推理优化、任务调度和运行保障。计费方式也可能从卡时慢慢转向Token或具体任务产出。

要说清楚的是,Token数量本身并不能完全代表智能服务的价值。模型能力、任务复杂度、响应时延、准确性和服务可靠性,都会影响客户最终拿到的结果。所以未来的智能交付,需要一套更完整的投入产出评价体系。

从资源到产出,技术、商业、产业三层能力互相牵连。只做资源供给的,多靠资源差价赚钱;有部分调度能力的服务商,能提升资源配置效率;而能做到资源定制、异构调度、统一计量、长期供应保障和持续优化交付的运营者,才算具备可控算力的完整能力。

新云的核心竞争力,正从资产规模往调度、组织和交付能力上延伸。

智算云需求生变:从租卡到按Token交付,千亿美元市场的下一战(配图 4)

03 客群与负载双迁移,可控算力正重塑新云

算力服务升级,也在反过来改变新云面对的客户群体。

过去,智算资源的需求主要集中在少数大型互联网企业和模型厂商手里;如今情况变了,一大批AI原生企业、模型厂商和Agent团队涌现出来,它们对算力的灵活性、可迁移性、成本以及实际产出看得更重。那些能提供“可控算力”服务的新云厂商,正好承接了这部分新增需求。九章云极公开招股书里也透出这个走向:智算云客户在2024年度只有2家,到2026年上半年已经涨到84家。这组数字可以当作观察AI原生算力需求增长的一个样本,说明这类需求确实在真实放量。

对新云来说,客户结构变了,服务方式就得更精细。不同规模的企业,用的模型、芯片和推理框架可能都不一样,任务类型也会跟着产品迭代不断变。平台得按客户需求配资源,再通过调度和优化把单位任务成本压下来。

变的不只是客户,负载也在变。

从训练到推理,再到Agent和物理AI,每迁移一次,新云的服务边界就拓宽一次。

训练阶段,考验的是大规模集群的计算性能、网络通信和长时间运行稳定性。到了推理阶段,竞争重点慢慢转到时延、吞吐量、并发能力和单位Token成本。Agent又加上了任务状态管理、资源弹性分配和长时间运行保障等要求。再到物理AI阶段,云端、边缘和机器人本体之间的协同计算,把时延、任务优先级和跨节点调度推到了台前。

CoreWeave 围绕 Agentic AI 对计算、存储和网络做了升级,尤其看重多步骤 Agent 工作流对数据访问时延的敏感。其实每一次负载跃迁,都会把对“可控算力”的要求往上抬一档。

放回产业里看,可控算力得把资源感知、异构纳管、动态调度、效率优化和服务交付串成一条线,才谈得上完整的运营闭环。算力先得看得见,才管得住;管得住,才调得动;调得动,才优化得了;走到这一步,才有本事把算力变成稳定、可持续的 AI 服务。

04 结语:算力化为可持续智能产能,AI新云迈入新周期

AI 基础设施的比拼,重心正从抢稀缺资源转向提升资源组织效率。新云的升级路径也跟着变:从供给资源到智能交付,从拥有算力到可控算力,从短期供给到长尾运营。

往后看,真正能打的新云,不会只是算力更多的厂商,而是能把分散、异构、动态变化的算力资源组织成稳定、高效、可持续 AI 服务的厂商。

算力军备竞赛过后,下一道门槛已经摆在面前。把算力变成可持续的智能产能,恐怕才是新云拿到新周期入场券的关键。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 智算云需求变了:从租卡问价到按Token算账,市场拼什么?

    智东西(公众号:zhidxcom)作者 | 三北编辑 | 漠影近日,一位智算云企业的工作人员告诉智东西,最近半年,客户的需求点发生了显著变化:过去他们问“一张卡多少钱、能租多久”,现在问题变成了“一百万Token花多少钱、任务能不能稳定跑完”。问题的变化,折射出AI基础设施的一次重要升级。全球AI云市场仍在高速扩张。知

    来源 腾讯网
  2. 迈富时Token工厂:双11Token成交环比涨450%,怎么接住

    今年双11,Token(词元)走出后台技术参数,成为AI消费赛道的核心焦点。早在9月,天猫就上线Token充值中心、京东同步推出AI软件充值馆,提前铺好AI算力商品的电商货架;大促正式开启后热度持续走高,双11开售首日,天猫Token相关品类成交额环比大涨450%;更具标志性的是11月2日,Token首次登陆头部直播间

    来源 腾讯网
  3. 算力租赁改按Token分成:周咏降固定租金,头部客户试点

    自2026年一季度起,保底+Token超额分成的算力计价方案开始在国内头部算力租赁服务商与头部大模型、Agent应用厂商之间试点落地,目前仍属于小范围探索,集中在推理业务占比高、调用量具备增长预期的战略客户,尚未向中小客户、训练类订单铺开。

    来源 凤凰科技
  4. 双十一购物车变了:Token卖爆、服务订单1.5亿,消费往哪走

    又到一年“双十一”。每年“双十一”购物节都是外媒集中观察中国消费市场新变化的窗口,但今年格外具备标志性意义:消费重心正明显从实物商品向服务消费迁移。 行业数据监测显示,截至10月31日,“双十一”首轮25天综合电商销售额10263亿元,同比增长2.4%。这一增速和今年“618”同比4.0%的增长水平相近,契合国内网络消

    来源 腾讯网
  5. 百度世界2026:昆仑芯M100已上市,M300定档2027年

    坐标北京,今天百度世界2026开幕式上,李彦宏把AI算力的风向讲得很清楚,过去十年大家拼的是训练,现在推理已经成了AI芯片长期增长的主引擎。昆仑芯这边也同步亮出了下一步产品节奏:- M100已如期上市,主打极致性价比,面向大规模推理场景;- M300将于2027年推出,定位旗舰,在算力、存储、互联等维度全面升级;- 到

    来源 腾讯网
  6. 库库全球月活5000万:推四类产品矩阵,海外版KOOKO服务1200万用户

    【TechWeb】11月12日消息,11月12日,百度世界2026在北京召开。大会上,百度文库、百度网盘联合推出的库库再次升级,扎根本土、服务全球个人和组织,构建库库日常、库库办公、库库企业版和库库海外版KOOKO等在内的全球产品矩阵。截至目前,库库全球月活用户已达5000万。 面向个人用户,百度网盘和库库将专业知识、

    来源 AI 行业观察
  7. OpenRouter并入Stripe:80亿美元交易落地,月处理790万亿Token

    IT之家 11 月 12 日消息,Stripe 昨日(11 月 11 日)发布博文,宣布全球最大 AI 模型 API 聚合平台 OpenRouter 已正式并入旗下,并共同携手帮助企业探索新的商业模式,并优化词元(Token)路由和用量。 Stripe 对 AI 领域的布局,正在进一步延伸至企业如何选择和使用模型。双方

    来源 AI 行业观察
  8. Qwen4-Max预览版上线千问AI平台,Token Plan限时最低1折

    刚刚,阿里全新一代大模型Qwen4-Max预览版发布,首发千问AI平台Token Plan。 Qwen4模型拥有更强的世界知识和感知能力,并且在编程和Agentic这两项最关键的能力上再度升级,能更好地完成复杂编程、专业办公、前端设计、专业软件操作等真实任务。开发者提前内测的成果显示,Qwen4在3D建模、网页设计、交

    来源 AI 开发者社区
  9. 摩尔线程 MUSA 开发者大会 · 2026 定档 12 月 29 日,全新重磅产品将发布

    IT之家 11 月 12 日消息,摩尔线程最近在官网宣布,MUSA 开发者大会 · 2026(MDC 2026)将于 12 月 29 日至 12 月 30 日,在北京中关村国际创新中心举办。 据官方介绍,本次大会将带来摩尔线程 MUSA 平台的最新进展。从下一代 GPU 架构的深入解析,到全新升级的软件开发工具与库,帮

    来源 AI 行业观察
  10. 三星AMD合作:EPYC 9006赋能半导体测试

    IT之家 11 月 11 日消息,AMD 今天(11 月 11 日)凌晨发布了霄龙(EPYC)嵌入式 9006 系列 SP7 处理器,基于 Zen 6 架构,最高可达 256 核 512 线程,率先在嵌入式平台落地 PCIe Gen6、CXL3.1,搭配 16 通道 DDR5/MRDIMM 内存、7 年产品生命周期。

    来源 AI 行业观察
  11. 百度上线词元所:大模型交易平台能否破解落地难题?

    为解决这一落地难题,百度正式推出大模型交易平台词元所。词元所希望汇聚好的模型和模型提供商,让企业乃至个人都能便捷地找到、购买和使用可信的模型Token。向客户提供中立可信、公开透明的模型交易服务。词元所上线一个月以来,入驻供应资源已超100个,日均调用次数突破5000万,日均调用Token超7000亿。

    来源 TechWeb
  12. Meta基础设施负责人将离职,AI算力军备竞赛生变

    据TechCrunch报道,Meta长期负责基础设施的高管Santosh Janardhan即将卸任,他最早于2009年加入公司。从社交网络到AI大模型,Meta的算力底座正处在投入最密集的阶段,这一人事变动引发外界对其数据中心、自研芯片与超大规模集群战略走向的关注。

    来源 AI 行业观察
  13. OpenRouter并入Stripe:75亿美元交易落定,10月处理790万亿Token

    IT之家 11 月 12 日消息,Stripe 昨日(11 月 11 日)发布博文,宣布全球最大 AI 模型 API 聚合平台 OpenRouter 已正式并入旗下,并共同携手帮助企业探索新的商业模式,并优化词元(Token)路由和用量。Stripe 对 AI 领域的布局,正在进一步延伸至企业如何选择和使用模型。双方提

    来源 腾讯网
  14. OpenAI CEO密会三星高管:AI需求存重复计算,双方拟共研下一代终端

    OpenAI首席执行官在三星高管闭门会议上罕见坦承AI基础设施需求存在重复计算,并提出与三星联合开发下一代AI终端设备。据韩国《金融新闻》报道,Sam Altman在上月底赴韩访问期间,向三星集团旗下约50名事业部社长级高管发出警告:AI内存及数据中心需求在短期内可能出现波动,市场上存在需求重复计算的情况。与此同时,奥

    来源 腾讯网
  15. OpenRouter并入Stripe:400款模型、790万亿Token的去向

    感谢IT之家网友 lous、咩咩洋 的线索投递! Stripe 昨日(11 月 11 日)发布博文,宣布全球最大 AI 模型 API 聚合平台 OpenRouter 已正式并入旗下,并共同携手帮助企业探索新的商业模式,并优化词元(Token)路由和用量。 Stripe 对 AI 领域的布局,正在进一步延伸至企业如何选择

    来源 AI 开发者社区
  16. 月之暗面徐天天:AI 迭代还会更快,三条增长曲线在叠加

    IT之家 11 月 12 日消息,据新浪财经报道,在今日“以发展应变局”为主题的第十七届财新峰会上,月之暗面金融行业与生态负责人徐天天发表讲话。针对“AI 迭代速度是否还会加快”问题,徐天天表示,当前整个 AI 智能远远未达到上限。她指出,这背后有三条增长曲线:其一,预训练算力曲线;其二,后训练与推理端曲线,AI 已从

    来源 腾讯网
  17. Altman向三星高管承认AI需求有水分:短期泡沫与联合造终端

    Sam Altman在与三星高管的闭门会上,罕见警告AI算力存“重复计算”的短期泡沫风险,并强调"真正能带动大规模需求增长的只有OpenAI和Anthropic两家。面对盈利质疑,Altman明确 OpenAI 的策略是:通过垂直整合降低成本,以“低利润率、大规模销售 Token”来以量取胜。

    来源 华尔街见闻
向下滚动自动加载更多