国产大模型占海外开源支出89%,存储成本成新压力
(本文作者为 硅碳变量,钛媒体经授权发布)文|硅碳变量,作者|温宁硅谷知名风险投资机构门罗风投(Menlo Ventures)发布的《2026年企业AI现状报告》显示,美国企业用于开源模型的支出中,89%付给了中国模型。前三名中,Kimi占61%,DeepSeek占15%,GLM占11%。市场很愿意接受一套简洁叙事:依
本文作者为硅碳变量,钛媒体经授权发布。
在硅谷知名风险投资机构开源模型的支出里,89%流向了中国模型。Kimi拿走了61%,
DeepSeek占15%,GLM占11%,三者排在前列。
市场很愿意接受一套简洁叙事:国产大模型靠性能与定价,抢走了海外开发者的预算。
可同一份报告里还列着另一组数字:开源模型在整体支出中的占比并不高。
换句话说,89%是一份浓度很高、体量却有限的份额。
体量本身不是最大问题,真正的变化在成本结构。卖词元表面是出售算力,本质却是交付状态。状态并不依附算力,它落在内存与存储上,而这正是本轮涨价压力最集中的元器件。
矛盾由此显现:收入按词元核算,成本却跟着GB走。
01.流量在跑,资产在静置
当市场紧盯各大聚合平台持续更新的数据时,很少有人去看机房账面上那些静置的资产。
这套理解放在传统对话场景中尚可自洽,但在当下撑起海外新增流量的Agent任务里,负载的底层逻辑正在出现分化。
传统对话推理对应的资源模型足够直观,也是支撑当下绝大多数API定价体系的基础。
按这套理想设定,用户提出问题后,由推理集群算完再把结果回传;等这轮对话结束、会话一关,该请求占着的缓存资源就会一并释放,硬件重新回到空闲状态。
服务商可以依托这套模型来估算单次请求的成本与容量。
而海外聚合渠道里拉动增量的流量主力,正在从零散的人机对话转向具备自动化链路的Agent任务。
这类负载的资源节奏和普通问答存在明显分化:任务启动阶段,部分场景需要灌入几十万词元的上下文。
更关键的是,在没有主动关闭会话的前提下,这部分上下文缓存会持续占用资源。模型持续生成新内容,缓存也跟着不断累积。
随着长会话Agent流量占比上升,约束点也在切换:比拼的不只是推理速度,系统可同时支撑的常驻会话上限会成为新的紧约束。
厂商宣传的百万级上下文窗口,说到底是卖给客户的产品卖点;可真要算机房里的资源账,只要会话把这个窗口用满,每一路活跃并发恐怕都得留出数十GB存储。
市面上的
不过这些办法说穿了都只是压单位成本,那条底层约束并不好绕开:会话只要还处于随时能响应的活跃状态,它的核心状态数据就得一直待在高速存储里。
本轮词元流量的扩张,核心增量不完全来自新生成的输出文本。
万亿级调用量容易让人产生一种错觉,好像增长全靠源源不断生成新内容。其实有相当一部分流量增长,对应的是集群里不断堆叠、长期锁定、又很难低成本跨任务调度回收的动态状态资产。
平台统计面板往往只记录进出的词元数量,却不显示这些被长期占住的状态。
矛盾就在这里:行业主流的计价框架还是从瞬时算力时代沿用下来的,收入按输入、输出词元来算。可相应的资本开支和高速显存占用成本,偏偏会随着并发会话驻留时间的拉长而不断累积。
有些Agent一挂就是全天,单位时间产出的词元少、营收也有限,显存却一直被占着。榜单上的调用规模被它抬了上去,收入却追不上资源的持续消耗,原本走势趋同的两条增长曲线,就这样裂开了口子。
成本与计费的这种错位,可能正在悄然改变行业的走向。
过去这条赛道的打法很直接:把单位成本压下来。可眼下,事情没那么简单了。
调用量往上走,表面看是业务向好的信号。问题是,不少服务商没有留意到,越积越多的会话状态资产,正在一点点啃食毛利。
热闹的份额榜单之外,状态资产管理得怎么样,或许正成为一条新的隐性分水岭。
02.词元出海,看不见的显存负债
存储成本一涨,市场很容易把它讲成存储芯片涨价的故事。可放进推理集群运营和资本开支的框架里看,元器件现货价格只是众多变量中的一个。真正长期压住利润的,往往是一整套规则链条:绑定供货、资产折旧、跨境流量、客户合规,几样东西缠在一起。
上游存储芯片正处在结构性紧平衡周期,服务器DRAM、面向AI集群的企业级NAND以及相关产品都受影响。想拿到稳定供货,自建推理集群的服务商已经很难靠现货随买随用撑住持续扩容,通常得提前签下季度乃至半年度量级的保底采购长单。
投入的性质也由此变了。硬件采购不再能跟着业务节奏灵活调整,成了一笔带有刚性履约约束的资本开支。
合约一旦签定,哪怕后续海外流量填不满集群容量,合约款项和资产折旧照样要按期兑现、计提。营收再怎么波动,也很难对冲掉这部分刚性支出。
还有一块成本容易被盖住,来自海外企业客户的合规留存要求。不少海外企业采购推理服务时,会要求完整审计日志、调用链路乃至会话原始内容都能长期追溯、可供审计。
这部分持久化存储,和推理时临时生成的那部分不是一回事。而多数标准化词元采购合同并不会把这项存储服务费单列出来,相关开销被摊进统一的计价里。
即便依靠
服务商因此不得不下调资产预期回报周期,单位词元分摊的折旧随之走高。多重约束叠在一起,存储早就不只是服务器的配套成本——在这类负载下,它的权重正在逼近算力,还常常成为集群扩容的瓶颈。存储对利润的侵蚀,也不是笼统的成本上涨,而是沿着好几条独立路径持续压低集群的资产回报。这类信号不会出现在对外报价单上,大多只能在服务商后台的运维和经营报表里看到。
首先是
但缓存本身带着写入开销、淘汰调度逻辑和生命周期约束。一旦流量高度碎片化、租户分散、请求随机性上升,缓存命中率就可能很快跌破盈亏平衡点。为缓存预留的大量显存一直占着资本,却很难兑现预期的算力节约,整套集群的资产回报率也就被拉低了。
其次是峰值保底带来的闲置折旧。为了接住突发流量、避免会话被强制清理、防止服务稳定性下滑,运营侧通常要留出足够的存储与显存冗余。这些冗余是冲着尖峰留的,常态下大多闲着。冗余多了,稳定性更强,代价是资产周转效率下降。跨境潮汐流量之下,这笔折旧成本始终刚性,很难跟着淡季的词元营收一起回落。
最后是长会话造成的静默资源锁死。一部分Agent自动化任务有个特点:单会话的词元产出速率不高,但会话生命周期极长,一段显存空间被一直占着。这类负载不会迅速抬高平台吞吐榜单上的调用规模,却会慢慢挤占显存,持续吃掉集群的扩容余量,有可能逼着服务商提前启动新一轮硬件采购。
市场习惯用词元单价和模型能力来判断国产大模型出海的竞争格局。但在Agent主导的新流量结构下,竞争重心正从单纯的算力比拼,延伸到更精细的资产效率管理。
当行业目光还停在词元调用榜单上时,存储资产周转、缓存盈亏线和折旧节奏,正逐渐成为影响出海业务盈亏的隐性标尺。
03.存储涨价,正在改写大模型出海的生意账?
存储成本往上走,分销链路里已经出现一道分界线:手里握着承载长驻会话硬件资产的一方,要扛下最难向外转嫁的刚性压力。
有些服务商掌握调度策略和缓存规则,对下游报价有主动权,可风险敞口也是最大的。
不少自建集群的供给方得靠季度或半年度保底长协才能拿到稳定供货,芯片报价上行、跨时区流量错配造成的资产闲置、硬件快速迭代带来的减值压力,大概率要自己独自承接。
存储处于紧平衡、还要持续扩容的阶段,流量增长带来的新增营收,很容易被不断追加的资本开支迅速吞掉。
另一条主流路径是和海外云厂商做分成托管合作。从产业账本看,这常被理解成资产负债的通俗出表:模型方输出模型授权,内存、持久化存储、跨时区运维以及合规日志留存对应的硬件投入与资产风险,主要由云厂商承接。
不过这不等同于会计准则意义上的资产剥离,也不是股权投资。合约里一旦设了保底用量或成本联动条款,部分成本压力仍可能反向传导回来。
还有一条路是只输出模型权重,分发完全交给聚合平台。这类供给方基本不持有推理硬件,存储和算力资产的直接敞口最小,但议价能力通常也最弱。
路由分配、流量限额、缓存策略的调整权限都在平台手里,供给方大多只能被动承接分过来的流量。就算能靠版本和参数配置微调负载特征,也难自主干预底层集群的资产效率。
没有绝对完美的路径。这些选择大多是在流量增长潜力与存储资产敞口之间做权衡,同时还得兼顾合规、客户归属与定价主动权等其他约束。
存储价格上行的周期里,资产出表对不少玩家会变得更有吸引力;等到上游产能释放、长协报价回落,自建集群的盈利窗口才会重新打开。
行业里层出不穷的
但落到运营账本上,各类工程方案都有清晰的上限。它们能拉高资产利用率,却根除不了状态侧的存储刚需。
KV压缩可以压低单会话显存占用,代价往往是额外的算力开销;
更关键的是,优化收益高度绑定流量结构:上下文复用度高的Agent任务能充分吃到缓存红利,碎片化、一次性的请求,优化回报会快速衰减。
技术手段能抬升资产效率的上限,却很难绕开会话状态必须依托硬件存储这一底层约束。
长期来看,
可整套基础设施的重构链条漫长,短期内很难扭转当下的成本格局。
调用量榜单只体现规模,另一组指标更能映照这笔生意的真实成色:长上下文请求占比、缓存命中率、单会话平均存活时长、海外节点存储闲置率、存储长协季度报价。
一个朴素的检验标尺是:在调用量持续抬升的过程中,单位
营收持续上行、毛利却长期横盘甚至走低,往往预示增量收益正在被存储折旧持续侵蚀。
词元出海正在经历一轮不声不响的业态转变:早先这门生意多被当作算力租赁来看,规模上去之后,边际成本还有继续摊薄的余地。等到长会话Agent慢慢成了流量主力,它更像是在做在线状态的托管。
显存与存储成了核心沉淀资产,边际成本很难持续下行,资产周转率直接决定利润底盘。
流量能顺着聚合平台的路由随时迁移,但硬件资本开支一旦落地,折旧节奏不会跟着客流同步调整。用流动性极强的短期订单,去匹配长期计提折旧的重资产,收益与成本天然存在周期错配。
大家习惯拿词元调用总量和份额排名来比高下,可供给侧算账时更该问一句:每多一条常驻会话,要占住多少GB存储,这笔资产在折旧周期里又能不能收回足够的现金流。
需求端用份额投票,但大模型出海这门生意能不能长期跑通,真正的约束在存储资产的账本上。
词元一旦变成标准化的大宗商品,最后拉开盈利差距的,可能不是生成文本那部分算力,而是用来存上下文记忆的存储资产。