智算云需求变了:从租卡问价到按Token算账,市场拼什么?
智东西(公众号:zhidxcom)作者 | 三北编辑 | 漠影近日,一位智算云企业的工作人员告诉智东西,最近半年,客户的需求点发生了显著变化:过去他们问“一张卡多少钱、能租多久”,现在问题变成了“一百万Token花多少钱、任务能不能稳定跑完”。问题的变化,折射出AI基础设施的一次重要升级。全球AI云市场仍在高速扩张。知
智东西 作者 三北 编辑 漠影
最近半年,一家智算云企业的工作人员向智东西透露,客户关心的事明显换了:以前开口是“一张卡多少钱、能租多久”,如今变成“一百万Token要花多少、任务能不能稳稳跑完”。
问法一变,AI基础设施其实已经往前走了一级。
全球AI云市场还在快速膨胀。Gartner的预测是,2030年这一市场会做到2670亿美元(约合人民币1.78万亿元);其中新云(NeoCloud)厂商有望占到20%,算下来是3500亿元人民币级别的盘子。
可另一头,算力利用率仍是产业绕不开的难题。IDC与中国信通院今年4月调研了250家企业,结果显示近一半受访企业的智算资源利用率落在51%至70%区间;制造、政务等行业里,利用率超过70%的企业不到35%。
下一道题已经摆在面前:建好的算力资源,怎么用得更充分、更灵活、更稳定?
过去两年,新云靠买GPU、建集群、出租算力,把商业模式初步跑通了。现在算力架构、AI负载、客户需求三头同时变,行业的竞争标准也跟着挪。
AI新云下一阶段要比的,不再是算力规模大小,而是把算力组织调度起来的能力。
一、GPU租赁到智能交付,新云为何非升级不可?
回看NeoCloud的第一阶段,核心任务就是补上算力供给的缺口。
买GPU、建集群、租算力,是那个阶段的主线;竞争指标看资源规模、硬件性能、集群交付速度。说白了,谁能拿到卡、把集群建起来,谁说话就硬气。
但AI产业没有停在训练这一步,需求侧正在改写规则。
模型进入应用阶段后,推理渐渐成了持续性负载。Agent开始执行多步骤任务以后,一次用户请求可能牵出多轮模型推理、工具调用、代码执行和数据读取,任务时长也可能从几秒拉长到数小时乃至数天。
底层基础设施因此被提出新要求。谷歌在2026年7月发布的一项调查中,受访的1400多名企业IT高管里有83%认为,生产级Agentic AI正迫切需要基础设施升级。物理AI又把算力需求的边界往外推了一步:微软研究院9月关于物理AI的研究表明,部分推理任务可以从机器人本体卸载到边缘或云端GPU,云边端协同成了重要新课题。
政策侧同样在推动算力组织方式的变化。今年2月,我国工信部推进“1+M+N”国家算力互联互通节点体系建设,让不同区域、不同主体、不同架构的算力资源实现标准化互联和高效流动,并全面开展算力态势感知自动化监测。算力从分散建设转向统一监测、互联调度,越来越像一张需要被调度的网络。
横向看全球新云,升级动作也很明显。美国头部新云厂商CoreWeave把推理拆成三条路径:按Token计费的Serverless Inference、按GPU小时计费的Dedicated Inference,以及自管Kubernetes推理;欧洲新云厂商Nebius通过Token Factory提供企业级托管推理,并与Nebius AI Cloud的裸金属算力和serverless能力串起来,形成从算力到推理服务的递进层级;另一家美国新云厂商Crusoe则把业务延伸到托管推理、模型微调和集群自动化管理等服务。
一位产业链人士对智东西说,新云上半场拼的是拿资源的能力,下半场拼的是组织资源的能力。
客户要的已经不只是GPU卡时,而是持续、稳定、经济地拿到智能产出。新云的角色也随之从算力资源出租方,慢慢变成算力组织者和智能交付者。
围绕算力资源的组织、调度与交付,一场关于“可控算力”的竞争正在铺开。
二、“可控算力”指什么?门槛从资产规模
可控算力的核心,是让算力资源从“可获得”再往前一步,做到“可组织、可调度、可计量、可交付”。
那可控算力和拥有算力,本质区别在哪?可以拆成三层能力:技术层的定制、调度和计量,商业层的资源控制与稳定供应,以及产业层面向客户交付算力服务。
1、技术层:算力要可控,先过调度和计量两道关
第一层是技术控制力,关键落在异构调度和统一计量上。
中国信通院《智能算力服务研究报告(2026年)》把智能算力服务体系划成三层:资源层、互联互通层和应用层。三层各管一摊——资源汇聚与池化、跨域连接与统一调度、场景适配与服务交付。说白了,算力想变成真正能调用的服务,得走完资源汇聚、池化管理、任务调度、持续运营这几道工序。
NVIDIA和Nebius今年2月做过一次联合测试,结果挺直观:靠GPU切分(比如MIG)或者时间分片,半张卡能跑到整卡77%的吞吐量,并发用户数能撑到整卡的86%;几种模型混着部署时,总承载量接近单模型部署的3倍。折算下来,单位资源的吞吐效率提升约54%。同一批算力,切分颗粒度、显存分配和调度策略换一换,有效算力就不一样。
统一计量是另一项基础能力。不同芯片的理论峰值、实际性能、适用任务都不一样,得有个统一的衡量标准。行业里正在试的,是以DCU(“一度算力”)作为算力投入侧的计量单位。
国内智算新云厂商九章云极公开披露过自己的DCU定义:312 TFLOPS的FP16算力连续跑1小时,算1度算力。有了这个尺子,不同芯片的算力投入就能试着折算到同一标准上。九章云极自身的增长也是个观察样本。公开招股书显示,其可控智算规模已超29000PFLOPS,算力资源利用率从2025年度的56.0%升到2026年上半年的79.6%;504卡集群连续30天满载运行,MFU(模型算力利用率)达到54.1%,日间波动率1.60%。
这组数据能帮我们从侧面看软件调度、资源管理和算力利用效率之间的关系。不过单一指标并不等于平台综合能力的全部。
2、商业层:可控算力不必以所有权为前提,运营兑现资本效率
第二层是商业控制力,核心在于资源供应的稳定性和资本效率。
算力运营是门重资产生意。GPU采购、数据中心建设、设备更新,哪一样都要砸大钱;芯片迭代又快,设备折旧会长期压着经营成本。
于是新云厂商得回答一个问题:是不是非得把底层算力资产全攥在手里,才能给客户持续交付?
有一种思路挺巧:不拥有全部算力资产,靠长期协议把算力资源的可用性控制住。九章云极公开招股书披露,其通过3至8年固定期限、无延期及终止选择权的租赁合约,获取AIDC及底层算力底座。这种打法把资本效率和资源调度能力摆在同一位置,新云更像算力的组织者,看重的是资源可用性、调度权和服务连续性。
长期协议当然也意味着履约责任和需求匹配的压力。资源锁定期限、客户合同期限、价格机制、实际利用率,这些得一起纳入经营管理。资源供应和客户需求对上了,长期协议才能变成稳定的服务能力。
3、产业层:从卡时交易到智能交付,服务边界重写
第三层是产业控制力,核心在于交付什么。
传统算力租赁一般按GPU数量和使用时长计价,客户拿到的是一段计算资源的使用权。推理服务和Agent应用起来之后,客户越来越在意最终任务完成成本、Token产出效率和服务稳定性。
这就要求新云厂商把服务边界从硬件资源往外推,延伸到模型部署、推理优化、任务调度和运行保障。计费方式也可能从卡时慢慢扩到Token或具体任务产出。
不过,光看Token数量,并不能把智能服务的价值说全。客户最后拿到什么样的结果,还取决于模型能力、任务复杂度、响应时延、准确性以及服务可靠性。也就是说,未来做智能交付,得有一套更完整的投入产出评价体系。
从资源到产出,技术、商业、产业三层能力彼此关联。只做资源供给的,更多靠资源差价赚钱;有部分调度能力的服务商,能提升资源配置效率;而能做到资源定制、异构调度、统一计量、长期供应保障和持续优化交付的运营者,才算具备可控算力的完整能力。
新云的核心竞争力,正从资产规模往调度、组织与交付能力上延伸。
三、客群与负载双迁移,可控算力正重塑新云
算力服务升级,也在反过来改变新云面对的客户群体。
早些年,智算资源的大客户主要是少数大型互联网企业和模型厂商;如今,大批AI原生企业、模型厂商和Agent团队涌现出来,它们更看重算力的灵活性、可迁移性、成本和实际产出。能提供这种“可控算力”服务的新云厂商,正好接住了这波新增需求。九章云极公开招股书里能看出这个趋势:其智算云客户从2024年度的2家增长到2026年上半年的84家。这组数据可以当作观察AI原生算力需求增长的一个样本,说明这类需求确实在放量。
对新云来说,客户结构变了,服务方式就得做得更细。不同规模的企业可能用不同的模型、芯片和推理框架,任务类型也会随产品迭代不断变化。平台得按客户需求配置资源,再通过调度和优化把单位任务成本压下来。
变的不只是客户,负载也在变。
从训练到推理,再到Agent和物理AI,每迁移一次,新云的服务边界就拓宽一次。
训练阶段比拼的是大规模集群的计算性能、网络通信以及长时间运行的稳定性。模型转入推理后,时延、吞吐量、并发能力与单位Token成本就成了竞争焦点。到了Agent阶段,任务状态管理、资源弹性分配、长时间运行保障等要求又叠加进来。
再往物理AI走,云端、边缘与机器人本体之间的协同计算,把时延、任务优先级和跨节点调度推到了前台。
CoreWeave围绕Agentic AI对计算、存储和网络做了升级,并特别提到多步骤Agent工作流对数据访问时延很敏感。负载每跃迁一次,对“可控算力”的要求就更高一层。
回到产业本身,可控算力得把资源感知、异构纳管、动态调度、效率优化和服务交付串成一条线,形成完整的运营闭环。算力先要看得见,才谈得上管得住;管得住,才调得动;调得动,才有优化的空间;走到这一步,才算有能力把算力转成稳定、可持续的AI服务。
结语:把算力变成可持续的智能产能,AI新云进入新周期
AI基础设施的竞争,正从抢稀缺资源转向提升资源组织效率。新云的升级路径也随之变化:从资源供给到智能交付,从拥有算力到可控算力,从短期供给到长尾运营。
未来真正有竞争力的新云,恐怕不只是算力更多的厂商,而是能把分散、异构、动态变化的算力资源组织成稳定、高效、可持续AI服务的厂商。算力军备竞赛过后,下一道门槛已经摆在面前——把算力变成可持续的智能产能,或许正是新云进入新周期的入场券。