智算云需求生变:从租卡到按Token交付,千亿美元市场的下一战
近日,一位智算云企业的工作人员告诉智东西,最近半年,客户的需求点发生了显著变化:过去他们问“一张卡多少钱、能租多久”,现在问题变成了“一百万Token花多少钱、任务能不能稳定跑完”。 问题的变化,折射出AI基础设施的一次重要升级。 全球AI云市场仍在高速扩张。知名行研机构Gartner预计,到2030年AI云市场将达到
智算云行业的一位从业者向智东西透露,近半年客户关注点明显换了方向:以前开口先问“一张卡什么价、能租多长时间”,如今关心的是“一百万Token要花多少、任务能不能稳定跑完”。
问法一变,AI基础设施的升级方向也就显出来了。
全球AI云市场仍在快速膨胀。Gartner预测,2030年这一市场规模将达2670亿美元(约合人民币1.78万亿元);其中新云(NeoCloud)厂商有望占到20%的份额,换算下来是3500亿元人民币级别的盘子。
可另一头,算力资源用得好不好,仍是产业绕不开的难题。IDC与中国信通院今年4月面向250家企业做过调研,结果显示近半数受访企业的智算资源利用率落在51%至70%区间;制造、政务等行业里,利用率超过70%的企业不到35%。
下一道题已经摆在算力产业面前:建好的算力资源,怎么用得更充分、更灵活、也更稳定?
前两年,新云靠采购GPU、搭建集群和出租算力,把商业模式初步跑通了。眼下算力架构、AI负载和客户需求同时生变,行业比拼的标准也跟着挪了位置。
新云的下一程,竞争重心正从算力规模的大小,转向算力组织调度能力的高低。

01 从GPU租赁到智能交付,新云为什么必须升级?
回看NeoCloud的第一阶段,主要任务是补上算力供给的缺口。
那时以GPU采购、集群建设、算力租赁为主,解决的是AI产业早期的算力供给不足。竞争看的是资源规模、硬件性能和集群交付速度,说白了,谁拿得到卡、建得起集群,谁就说了算。
但AI产业没有停在训练这一站,需求侧正在改写规则。
模型进入应用阶段后,推理逐步变成持续性负载。Agent开始执行多步骤任务以后,一次用户请求可能牵出多轮模型推理、工具调用、代码执行和数据读取,任务时长也可能从几秒拉长到数小时乃至数天。
底层基础设施因此有了新要求。谷歌2026年7月发布的一项调查显示,受访的1400多名企业IT高管中,83%认为生产级Agentic AI正急切需要基础设施升级。物理AI又把算力需求的边界推得更远,微软研究院9月关于物理AI的研究表明,一部分推理任务可以从机器人本体卸载到边缘或云端GPU,云边端协同成了重要新课题。
政策层面同样在推动算力组织方式变化。今年2月,工信部推进“1+M+N”国家算力互联互通节点体系建设,让不同区域、不同主体、不同架构的算力资源实现标准化互联和高效流动,并全面开展算力态势感知自动化监测。算力从分散建设转向统一监测、互联调度,越来越像一张需要被调度的网络。
放到全球范围看,新云的升级动作也很清楚。美国头部新云厂商CoreWeave把推理拆成三条路径:按Token计费的Serverless Inference、按GPU小时计费的Dedicated Inference,以及自管Kubernetes推理;欧洲的Nebius通过Token Factory提供企业级托管推理,并与Nebius AI Cloud的裸金属算力和serverless能力串起来,形成从算力到推理服务的递进层级;美国另一家新云厂商Crusoe则把业务延伸到托管推理、模型微调和集群自动化管理等服务。

一位产业链人士对智东西表示,新云上半场比的是资源获取能力,下半场比的是资源组织能力。
客户要的东西已经不只是GPU卡时,而是持续、稳定、经济地拿到智能产出。新云的角色也随之从算力资源出租方,慢慢变成算力组织者和智能交付者。
围绕算力资源的组织、调度与交付,一场关于“可控算力”的较量正在铺开。
02 什么叫“可控算力”?门槛从资产规模改写为三层能力
可控算力的核心,是让算力资源从“可获得”再往前走,做到“可组织、可调度、可计量、可交付”。
那可控算力和单纯拥有算力,本质差别在哪?可以分成三层能力来看:技术层的定制、调度和计量,商业层的资源控制与稳定供应,以及产业层面向客户交付算力服务。
1、技术层:算力可控,先过调度和计量两道关
第一层是技术控制力,关键落在异构调度和统一计量上。
中国信通院《智能算力服务研究报告(2026年)》把智能算力服务体系分为资源层、互联互通层和应用层,三者分别承担资源汇聚与池化、跨域连接与统一调度,以及场景适配与服务交付。换句话说,算力要真正变成可调用的服务,得走完资源汇聚、池化管理、任务调度和持续运营这几道环节。

NVIDIA与Nebius在2月的联合测试给出了一个直观例子:借助GPU切分(比如MIG)或时间分片,半张卡的吞吐量能到整卡的77%,可承载的并发用户数为整卡的86%;多种模型混跑时,总承载量接近单模型部署的3倍。折算下来,单位资源的吞吐效率大约提升54%。也就是说,同一批算力,切分粒度、显存分配和调度策略不同,能释放出的有效算力就不一样。
统一计量是另一项基础能力。各家的芯片在理论峰值、实际表现和适用任务上并不一致,得有一个统一的衡量尺子。业内正在尝试用DCU,也就是“一度算力”,来计量算力投入。
国内智算新云厂商九章云极公开披露的DCU(一度算力)是这么定的:312 TFLOPS的FP16算力连续跑1小时,算作1度算力;不同芯片的算力投入,由此可以试着折算到同一尺度上。九章云极自身的增长也提供了一个观察样本。公开招股书显示,其可控智算规模已超过29000PFLOPS,算力资源利用率从2025年度的56.0%升到2026年上半年的79.6%;在504卡集群连续30天满载运行的情况下,MFU(模型算力利用率)达到54.1%,日间波动率1.60%。
从这些数字,可以侧面看看软件调度、资源管理和算力利用效率之间的关系。不过,单靠一个指标并不能完整代表平台的综合能力。
2、商业层:算力可控不等于必须自有,运营要兑现资本效率
第二层是商业控制力,关键落在资源供应稳不稳、资本效率高不高。
算力运营是门重资产生意。买GPU、建数据中心、更新设备,样样都要砸钱;芯片迭代又快,设备折旧会拖累长期经营成本。
于是新云厂商得回答一个问题:是不是必须把底层算力资产全攥在手里,才能保证对客户的持续交付?
一个取巧的办法是:不拥有全部算力资产,但用长期协议把算力资源的可用性锁住。九章云极公开招股书披露,其通过签订3至8年固定期限、无延期及终止选择权的租赁合约,获取AIDC及底层算力底座。这种做法把资本效率和资源调度能力摆在同一位置,新云更像算力的组织者,看重的是资源可用性、调度权和服务连续性。
当然,长期协议也带来履约责任和需求匹配的压力。资源锁多久、客户合同签多长、价格怎么定、实际利用率多少,都得一起纳入经营管理。只有资源供应和客户需求对得上,长期协议才能变成稳定的服务能力。
3、产业层:从卖卡时到交付智能,服务边界被重写
第三层是产业控制力,核心是交付什么。
过去的算力租赁,一般按GPU数量和使用时长计价,客户拿到的是一段计算资源的使用权。推理服务和Agent应用起来之后,客户更在意的变成了任务完成成本、Token产出效率和服务稳定性。
这就要求新云厂商把服务边界从硬件资源往外推,覆盖模型部署、推理优化、任务调度和运行保障。计费方式也可能从卡时慢慢转向Token或具体任务产出。
要说清楚的是,Token数量本身并不能完全代表智能服务的价值。模型能力、任务复杂度、响应时延、准确性和服务可靠性,都会影响客户最终拿到的结果。所以未来的智能交付,需要一套更完整的投入产出评价体系。
从资源到产出,技术、商业、产业三层能力互相牵连。只做资源供给的,多靠资源差价赚钱;有部分调度能力的服务商,能提升资源配置效率;而能做到资源定制、异构调度、统一计量、长期供应保障和持续优化交付的运营者,才算具备可控算力的完整能力。
新云的核心竞争力,正从资产规模往调度、组织和交付能力上延伸。

03 客群与负载双迁移,可控算力正重塑新云
算力服务升级,也在反过来改变新云面对的客户群体。
过去,智算资源的需求主要集中在少数大型互联网企业和模型厂商手里;如今情况变了,一大批AI原生企业、模型厂商和Agent团队涌现出来,它们对算力的灵活性、可迁移性、成本以及实际产出看得更重。那些能提供“可控算力”服务的新云厂商,正好承接了这部分新增需求。九章云极公开招股书里也透出这个走向:智算云客户在2024年度只有2家,到2026年上半年已经涨到84家。这组数字可以当作观察AI原生算力需求增长的一个样本,说明这类需求确实在真实放量。
对新云来说,客户结构变了,服务方式就得更精细。不同规模的企业,用的模型、芯片和推理框架可能都不一样,任务类型也会跟着产品迭代不断变。平台得按客户需求配资源,再通过调度和优化把单位任务成本压下来。
变的不只是客户,负载也在变。
从训练到推理,再到Agent和物理AI,每迁移一次,新云的服务边界就拓宽一次。
训练阶段,考验的是大规模集群的计算性能、网络通信和长时间运行稳定性。到了推理阶段,竞争重点慢慢转到时延、吞吐量、并发能力和单位Token成本。Agent又加上了任务状态管理、资源弹性分配和长时间运行保障等要求。再到物理AI阶段,云端、边缘和机器人本体之间的协同计算,把时延、任务优先级和跨节点调度推到了台前。
CoreWeave 围绕 Agentic AI 对计算、存储和网络做了升级,尤其看重多步骤 Agent 工作流对数据访问时延的敏感。其实每一次负载跃迁,都会把对“可控算力”的要求往上抬一档。
放回产业里看,可控算力得把资源感知、异构纳管、动态调度、效率优化和服务交付串成一条线,才谈得上完整的运营闭环。算力先得看得见,才管得住;管得住,才调得动;调得动,才优化得了;走到这一步,才有本事把算力变成稳定、可持续的 AI 服务。
04 结语:算力化为可持续智能产能,AI新云迈入新周期
AI 基础设施的比拼,重心正从抢稀缺资源转向提升资源组织效率。新云的升级路径也跟着变:从供给资源到智能交付,从拥有算力到可控算力,从短期供给到长尾运营。
往后看,真正能打的新云,不会只是算力更多的厂商,而是能把分散、异构、动态变化的算力资源组织成稳定、高效、可持续 AI 服务的厂商。
算力军备竞赛过后,下一道门槛已经摆在面前。把算力变成可持续的智能产能,恐怕才是新云拿到新周期入场券的关键。