智算云需求变了:从租卡问价到按Token算账,市场拼什么?

资讯 腾讯网 作者:腾讯网 全文 4304 字 · 约 11 分钟读完 分类产品更新算力

智东西(公众号:zhidxcom)作者 | 三北编辑 | 漠影近日,一位智算云企业的工作人员告诉智东西,最近半年,客户的需求点发生了显著变化:过去他们问“一张卡多少钱、能租多久”,现在问题变成了“一百万Token花多少钱、任务能不能稳定跑完”。问题的变化,折射出AI基础设施的一次重要升级。全球AI云市场仍在高速扩张。知

所属频道 产品更新算力与芯片

智东西 作者 三北 编辑 漠影

最近半年,一家智算云企业的工作人员向智东西透露,客户关心的事明显换了:以前开口是“一张卡多少钱、能租多久”,如今变成“一百万Token要花多少、任务能不能稳稳跑完”。

问法一变,AI基础设施其实已经往前走了一级。

全球AI云市场还在快速膨胀。Gartner的预测是,2030年这一市场会做到2670亿美元(约合人民币1.78万亿元);其中新云(NeoCloud)厂商有望占到20%,算下来是3500亿元人民币级别的盘子。

可另一头,算力利用率仍是产业绕不开的难题。IDC与中国信通院今年4月调研了250家企业,结果显示近一半受访企业的智算资源利用率落在51%至70%区间;制造、政务等行业里,利用率超过70%的企业不到35%。

下一道题已经摆在面前:建好的算力资源,怎么用得更充分、更灵活、更稳定?

过去两年,新云靠买GPU、建集群、出租算力,把商业模式初步跑通了。现在算力架构、AI负载、客户需求三头同时变,行业的竞争标准也跟着挪。

AI新云下一阶段要比的,不再是算力规模大小,而是把算力组织调度起来的能力。

一、GPU租赁到智能交付,新云为何非升级不可?

回看NeoCloud的第一阶段,核心任务就是补上算力供给的缺口。

买GPU、建集群、租算力,是那个阶段的主线;竞争指标看资源规模、硬件性能、集群交付速度。说白了,谁能拿到卡、把集群建起来,谁说话就硬气。

但AI产业没有停在训练这一步,需求侧正在改写规则。

模型进入应用阶段后,推理渐渐成了持续性负载。Agent开始执行多步骤任务以后,一次用户请求可能牵出多轮模型推理、工具调用、代码执行和数据读取,任务时长也可能从几秒拉长到数小时乃至数天。

底层基础设施因此被提出新要求。谷歌在2026年7月发布的一项调查中,受访的1400多名企业IT高管里有83%认为,生产级Agentic AI正迫切需要基础设施升级。物理AI又把算力需求的边界往外推了一步:微软研究院9月关于物理AI的研究表明,部分推理任务可以从机器人本体卸载到边缘或云端GPU,云边端协同成了重要新课题。

政策侧同样在推动算力组织方式的变化。今年2月,我国工信部推进“1+M+N”国家算力互联互通节点体系建设,让不同区域、不同主体、不同架构的算力资源实现标准化互联和高效流动,并全面开展算力态势感知自动化监测。算力从分散建设转向统一监测、互联调度,越来越像一张需要被调度的网络。

横向看全球新云,升级动作也很明显。美国头部新云厂商CoreWeave把推理拆成三条路径:按Token计费的Serverless Inference、按GPU小时计费的Dedicated Inference,以及自管Kubernetes推理;欧洲新云厂商Nebius通过Token Factory提供企业级托管推理,并与Nebius AI Cloud的裸金属算力和serverless能力串起来,形成从算力到推理服务的递进层级;另一家美国新云厂商Crusoe则把业务延伸到托管推理、模型微调和集群自动化管理等服务。

一位产业链人士对智东西说,新云上半场拼的是拿资源的能力,下半场拼的是组织资源的能力。

客户要的已经不只是GPU卡时,而是持续、稳定、经济地拿到智能产出。新云的角色也随之从算力资源出租方,慢慢变成算力组织者和智能交付者。

围绕算力资源的组织、调度与交付,一场关于“可控算力”的竞争正在铺开。

二、“可控算力”指什么?门槛从资产规模

可控算力的核心,是让算力资源从“可获得”再往前一步,做到“可组织、可调度、可计量、可交付”。

那可控算力和拥有算力,本质区别在哪?可以拆成三层能力:技术层的定制、调度和计量,商业层的资源控制与稳定供应,以及产业层面向客户交付算力服务。

1、技术层:算力要可控,先过调度和计量两道关

第一层是技术控制力,关键落在异构调度和统一计量上。

中国信通院《智能算力服务研究报告(2026年)》把智能算力服务体系划成三层:资源层、互联互通层和应用层。三层各管一摊——资源汇聚与池化、跨域连接与统一调度、场景适配与服务交付。说白了,算力想变成真正能调用的服务,得走完资源汇聚、池化管理、任务调度、持续运营这几道工序。

NVIDIA和Nebius今年2月做过一次联合测试,结果挺直观:靠GPU切分(比如MIG)或者时间分片,半张卡能跑到整卡77%的吞吐量,并发用户数能撑到整卡的86%;几种模型混着部署时,总承载量接近单模型部署的3倍。折算下来,单位资源的吞吐效率提升约54%。同一批算力,切分颗粒度、显存分配和调度策略换一换,有效算力就不一样。

统一计量是另一项基础能力。不同芯片的理论峰值、实际性能、适用任务都不一样,得有个统一的衡量标准。行业里正在试的,是以DCU(“一度算力”)作为算力投入侧的计量单位。

国内智算新云厂商九章云极公开披露过自己的DCU定义:312 TFLOPS的FP16算力连续跑1小时,算1度算力。有了这个尺子,不同芯片的算力投入就能试着折算到同一标准上。九章云极自身的增长也是个观察样本。公开招股书显示,其可控智算规模已超29000PFLOPS,算力资源利用率从2025年度的56.0%升到2026年上半年的79.6%;504卡集群连续30天满载运行,MFU(模型算力利用率)达到54.1%,日间波动率1.60%。

这组数据能帮我们从侧面看软件调度、资源管理和算力利用效率之间的关系。不过单一指标并不等于平台综合能力的全部。

2、商业层:可控算力不必以所有权为前提,运营兑现资本效率

第二层是商业控制力,核心在于资源供应的稳定性和资本效率。

算力运营是门重资产生意。GPU采购、数据中心建设、设备更新,哪一样都要砸大钱;芯片迭代又快,设备折旧会长期压着经营成本。

于是新云厂商得回答一个问题:是不是非得把底层算力资产全攥在手里,才能给客户持续交付?

有一种思路挺巧:不拥有全部算力资产,靠长期协议把算力资源的可用性控制住。九章云极公开招股书披露,其通过3至8年固定期限、无延期及终止选择权的租赁合约,获取AIDC及底层算力底座。这种打法把资本效率和资源调度能力摆在同一位置,新云更像算力的组织者,看重的是资源可用性、调度权和服务连续性。

长期协议当然也意味着履约责任和需求匹配的压力。资源锁定期限、客户合同期限、价格机制、实际利用率,这些得一起纳入经营管理。资源供应和客户需求对上了,长期协议才能变成稳定的服务能力。

3、产业层:从卡时交易到智能交付,服务边界重写

第三层是产业控制力,核心在于交付什么。

传统算力租赁一般按GPU数量和使用时长计价,客户拿到的是一段计算资源的使用权。推理服务和Agent应用起来之后,客户越来越在意最终任务完成成本、Token产出效率和服务稳定性。

这就要求新云厂商把服务边界从硬件资源往外推,延伸到模型部署、推理优化、任务调度和运行保障。计费方式也可能从卡时慢慢扩到Token或具体任务产出。

不过,光看Token数量,并不能把智能服务的价值说全。客户最后拿到什么样的结果,还取决于模型能力、任务复杂度、响应时延、准确性以及服务可靠性。也就是说,未来做智能交付,得有一套更完整的投入产出评价体系。

从资源到产出,技术、商业、产业三层能力彼此关联。只做资源供给的,更多靠资源差价赚钱;有部分调度能力的服务商,能提升资源配置效率;而能做到资源定制、异构调度、统一计量、长期供应保障和持续优化交付的运营者,才算具备可控算力的完整能力。

新云的核心竞争力,正从资产规模往调度、组织与交付能力上延伸。

三、客群与负载双迁移,可控算力正重塑新云

算力服务升级,也在反过来改变新云面对的客户群体。

早些年,智算资源的大客户主要是少数大型互联网企业和模型厂商;如今,大批AI原生企业、模型厂商和Agent团队涌现出来,它们更看重算力的灵活性、可迁移性、成本和实际产出。能提供这种“可控算力”服务的新云厂商,正好接住了这波新增需求。九章云极公开招股书里能看出这个趋势:其智算云客户从2024年度的2家增长到2026年上半年的84家。这组数据可以当作观察AI原生算力需求增长的一个样本,说明这类需求确实在放量。

对新云来说,客户结构变了,服务方式就得做得更细。不同规模的企业可能用不同的模型、芯片和推理框架,任务类型也会随产品迭代不断变化。平台得按客户需求配置资源,再通过调度和优化把单位任务成本压下来。

变的不只是客户,负载也在变。

从训练到推理,再到Agent和物理AI,每迁移一次,新云的服务边界就拓宽一次。

训练阶段比拼的是大规模集群的计算性能、网络通信以及长时间运行的稳定性。模型转入推理后,时延、吞吐量、并发能力与单位Token成本就成了竞争焦点。到了Agent阶段,任务状态管理、资源弹性分配、长时间运行保障等要求又叠加进来。

再往物理AI走,云端、边缘与机器人本体之间的协同计算,把时延、任务优先级和跨节点调度推到了前台。

CoreWeave围绕Agentic AI对计算、存储和网络做了升级,并特别提到多步骤Agent工作流对数据访问时延很敏感。负载每跃迁一次,对“可控算力”的要求就更高一层。

回到产业本身,可控算力得把资源感知、异构纳管、动态调度、效率优化和服务交付串成一条线,形成完整的运营闭环。算力先要看得见,才谈得上管得住;管得住,才调得动;调得动,才有优化的空间;走到这一步,才算有能力把算力转成稳定、可持续的AI服务。

结语:把算力变成可持续的智能产能,AI新云进入新周期

AI基础设施的竞争,正从抢稀缺资源转向提升资源组织效率。新云的升级路径也随之变化:从资源供给到智能交付,从拥有算力到可控算力,从短期供给到长尾运营。

未来真正有竞争力的新云,恐怕不只是算力更多的厂商,而是能把分散、异构、动态变化的算力资源组织成稳定、高效、可持续AI服务的厂商。算力军备竞赛过后,下一道门槛已经摆在面前——把算力变成可持续的智能产能,或许正是新云进入新周期的入场券。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 迈富时Token工厂:双11Token成交环比涨450%,怎么接住

    今年双11,Token(词元)走出后台技术参数,成为AI消费赛道的核心焦点。早在9月,天猫就上线Token充值中心、京东同步推出AI软件充值馆,提前铺好AI算力商品的电商货架;大促正式开启后热度持续走高,双11开售首日,天猫Token相关品类成交额环比大涨450%;更具标志性的是11月2日,Token首次登陆头部直播间

    来源 腾讯网
  2. 谷歌Gemini Decisions API上线:100个问题0.41秒,输出Token不收费

    智东西(公众号:zhidxcom)编译 | 黄菲编辑 | 江宇智东西11月12日消息,今日,谷歌宣布推出Gemini Decisions API,该API可通过同日新发布的模型Gemini Decision 1调用。与传统生成式模型不同,Gemini Decision 1可以直接评估输入内容,并针对最多1000个预设问

    来源 腾讯网
  3. 松下进博会全勤亮相:903平方米展区呈现三大核心事业

    第九届中国国际进口博览会上,连续九年参展的“全勤生”松下以903平方米的展区,系统呈现元器件、解决方案、智能生活三大领域的创新成果。从支撑算力运行的核心元器件,到赋能工厂升级的智能制造方案,再到覆盖全龄人群的健康居住空间,松下以“理解时代课题 用技术给出答案”为主题,将集团成长战略与中国“十五五”发展导...

    来源 腾讯网
  4. Muse上线AI外呼:付费让AI替你打电话给美国企业

    Muse的AI助手如今可以主动拨打美国企业电话,替用户完成预约、咨询等事务,但该功能需付费订阅。这标志着AI正从被动应答的聊天工具,进化为能主动执行任务的智能体。外呼算力成本高企是收费主因,同时也折射出AI能力扩张与商业可持续之间的行业性难题。

    来源 AI 行业观察
  5. MiniMax H3 Image开源:原生4K直出,10秒生成

    编辑|泽南、杨文「GPT is cooked.」这两天,这句话在 AI 社区里反复出现。让人坐不住的是 MiniMax 刚发布的图像模型 MiniMax H3 Image。这是一个原生 4K 直出、10 秒级生成、支持 16 张参考图的模型,本周二刚刚开源,刷新了开源图像模型的 SOTA。从大家的第一波反应看,这个说法

    来源 腾讯网
  6. 平头哥启动港股IPO:阿里仍控股,超60%收入来自外部客户

    (本文作者为 反应堆Reactor,钛媒体经授权发布)文 | 反应堆Reactor国产算力赛道,又迎来一位重磅 IPO 选手。11月10日晚,阿里巴巴公告,旗下芯片子公司平头哥已申请独立上市。公告显示,2026 年 9 月 11 日,平头哥就以保密方式向港交所递交 A1 上市申请,计划发行 H 股登陆港交所主板。截至目

    来源 腾讯网
  7. Cortex-M42发布:边缘AI向量算力提升3倍

    Arm宣布推出全新Cortex-M42处理器,并将其纳入Arm Flexible Access和Arm Total Access两大技术授权方案,进一步扩充面向边缘AI设备的处理器产品组合。

    来源 TechWeb
  8. 谷歌发布Gemini 4 Hydrogen:幻觉降5倍、速度翻倍,不叫Flash了

    谷歌发布Gemini 4 Hydrogen,定位高效执行引擎,主打速度与准确性。相较上代Flash,任务速度提升2.5倍,幻觉率降低逾5倍。该模型已全球上线,覆盖搜索、Gemini应用及API等多平台。谷歌同步推出Orchestrator功能,动态调度Carbon与Hydrogen协作,降低24%配额消耗。

    来源 华尔街见闻
  9. 长鑫科技骆晓东:服务器内存需求占比超50%,AI算力年均增速将达96.1%

    IT之家 11 月 12 日消息,据中国基金报报道,长鑫科技副总裁骆晓东今日(11 月 12 日)在第八届 IC 企业家大会上发表了题为《算力分层时代探索 DRAM 产品新边界》的主题演讲。骆晓东指出,算力增长趋势还在持续。据行业预测,2024 年到 2031 年,全球 AI 算力年均增速将达 96.1%;2026 年

    来源 腾讯网
  10. 京东内测短剧产品“追剧福利社”:免费看剧,剧中同款可直接下单

    京东要下场做短剧了。近日,京东内测独立短剧产品“京东追剧福利社”上线微信小程序,采用免费模式,核心玩法是“看剧领福利、领优惠,剧中同款直接买,京东发货”,页面底端设有“刷一刷”与“我的”两个板块。与大多短剧平台不同,京东以免费短剧聚拢用户注意力,主要通过看剧领优惠券和“剧中同款直接买”将观看行为与消...

    来源 腾讯网
  11. Anthropic封号新规生效:按股权穿透查地区,IPO前清退不合规客户

    11月12日,AI公司Anthropic被称为“Claude史上最严封号机制”正式生效,明确地区准入的穿透式审查标准,目的是封堵壳公司、代理中转等绕开地区限制的方式。 当地时间10月8日,Anthropic发布2026版Claude使用政策更新公告,对可接受使用条款(AUP)与支持地区规则作出细化澄清。 本次新规覆盖全

    来源 AI 行业观察
  12. 百度昆仑芯M300与天池1024卡超节点明年上市,训练推理需求并重

    随着智能体开始处理更多任务,模型需要频繁响应用户指令,日常推理的AI算力需求日益旺盛。百度(BIDU.US)创始人李彦宏在11月12日的百度世界2026开幕式上表示,训练和推理需求已并重,智能体规模化将带动推理需求增长,推理会成为AI芯片长期增长的重要推动力。李彦宏 顾群生/摄百度此次公布的芯片和算力产品计划,主要围绕

    来源 腾讯网
  13. 李佳琦直播间上架千问办公月卡:0.01元卖出近10万份,双十一玩法生变

    2026年,市场迎来了AI加持下的第一个双十一。在AI时代,今年双十一的玩法已截然不同。11月2日晚,李佳琦直播间就上架了一款特别的商品,即千问办公个人会员月卡,原价28元,促销价0.01元。开售半小时,近10万份售出,对应约2万亿Token。对于习惯在直播间购买口红、家电和零食的消费者而言,这种看不见、摸不着的“算力

    来源 AI 行业观察
  14. 谷歌上线Gemini 4 Hydrogen:3.8 Flash退役,发布节奏变了

    谷歌正式发布Gemini 4 Hydrogen,一改Carbon与Argon缓慢谨慎的安全发布节奏,以更快速度推向市场,并取代服役已久的3.8 Flash。本文梳理此次发布的策略转变、模型定位与行业影响,分析谷歌在模型迭代速度与安全治理之间如何重新取舍,以及这一动作对整个大模型竞争格局可能带来的连锁反应。

    来源 AI 科技快讯
  15. 苹果HomeView开售:299美元起,首发八国不含欧盟

    苹果的智能家居野心,今天正式落到了实体产品上。当地时间11月13日,苹果首款智能家庭中枢HomeView正式开售,与时隔四年更新的第四代Apple TV 4K同日登场——由于时区原因,澳大利亚和新西兰首批预购用户的订单已率先送达;由于新西兰没有Apple零售店,澳大利亚消费者也成为全球首批能在Apple Store店内

    来源 TechWeb
  16. 苹果HomeView开售:299美元起,首发八国,欧盟缺席

    苹果的智能家居野心,今天正式落到了实体产品上。当地时间11月13日,苹果首款智能家庭中枢HomeView正式开售,与时隔四年更新的第四代Apple TV 4K同日登场——由于时区原因,澳大利亚和新西兰首批预购用户的订单已率先送达;由于新西兰没有Apple零售店,澳大利亚消费者也成为全球首批能在Apple Store店内

    来源 TechWeb
向下滚动自动加载更多