Kimi拿下61%开源份额:Token出海为何追不上存储成本?
门罗风投报告显示,美国企业开源模型支出中,89%流向中国模型,但开源模型仅占企业AI总支出的4%。随着Agent成为新增流量主力,长会话持续占用显存与存储,Token收入与硬件成本逐渐脱钩。存储涨价、长协采购与资产折旧进一步挤压利润,国产大模型出海的竞争正从性能和价格转向存储效率与资产回报。
门罗风投(Menlo Ventures)这份《2026年企业AI现状报告》给出了一组数字:美国企业花在开源模型上的钱,89%进了中国模型厂商的口袋。具体到前三名,Kimi拿下61%,DeepSeek是15%,GLM为11%。
一套简洁叙事很容易被市场接受:国产大模型靠性能和定价,把海外开发者的预算抢了过来。
可同一份报告里还躺着另一组数字。开源模型在Token使用量上已经占到接近五分之一(19%),然而企业模型总体支出里,开源只占4%。绝大部分企业AI预算,还是流向了闭源大模型。
换句话说,89%这份份额浓度很高,体量却有限。
体量还不是最大的问题。真正的变化出在成本结构上。卖词元表面上卖的是算力,本质交付的却是状态。状态不依附算力,它落在内存与存储上,而这两样正是本轮涨价压力最集中的元器件。
矛盾就在这里:收入按词元核算,成本却跟着GB走。
流量在跑,资产在静置
各大聚合平台的Token调用榜单持续更新,市场盯着这些数字,热议国产大模型在海外开源市场的份额之争。多数分析仍把叙事锚在模型能力与报价优势上,默认这终究是一门“算力换Token”的生意。
这套理解放在传统对话场景里尚且自洽。但当下撑起海外新增流量的Agent任务,负载的底层逻辑正在分化。
传统对话推理对应的资源模型足够直观,当下绝大多数API定价体系也是靠它支撑的。
理想的框架是这样:用户发起提问,推理集群算完把内容返回;一轮对话收尾、会话关闭,本次请求占用的缓存随之释放,硬件回到空闲。
服务商可以按Token总量估算成本。集群利用率还有空间时,吞吐越高越有机会摊薄单位开销,低价跑量、以规模换利润的逻辑因此自洽,Token数量与资源消耗也被默认处在相近的增长节奏上。
但海外聚合渠道里拉动增量的主力,正从零散的人机对话转向带自动化链路的Agent任务。
与普通问答相比,这类负载在资源占用上的节奏差别很明显。任务刚启动时,有些场景得先灌进几十万Token量级的前置文档和批量业务数据;接下来要跑数十轮链式工具调用,不断检索、读取外部信息;会话可能一挂就是几个小时甚至更久,同一份前置上下文还要被反复拿来用。
更关键的是,只要没有主动关闭会话,这部分上下文缓存就会一直占着资源。模型不断生成新Token,只是往缓存里追加,并不会自动把这块占用释放回资源池。
长会话Agent流量占比一升,约束点也跟着切换:比的就不只是推理速度了,系统能同时撑住多少常驻会话,会成为新的紧约束。
厂商对外宣传的百万级上下文窗口,更多是面向客户的产品卖点。落到机房的资源账面上,它意味着会话一旦把窗口用起来,每一路活跃并发都可能要预留数十GB的HBM空间,用来承载持续在线的会话状态。
市面上的KV量化、MLA以及各类缓存压缩技术,都在试图压低单会话的显存开销、抬升集群可承载的并发规模。
可它们本质上只是优化单位成本,那条底层约束很难绕开:只要会话处于可随时响应的活跃状态,核心状态数据就得驻留在高速存储里。
本轮词元流量的扩张,核心增量并不完全来自新生成的输出文本。
万亿级调用量很容易制造一种错觉,好像增长来自源源不断的新内容生成。实际上,相当一部分流量增长对应的是集群里持续堆叠、长期锁定、又很难低成本跨任务调度回收的动态状态资产。
平台统计面板往往只记录进出的Token数量。放到服务商的经营账本里,真正持续沉淀的成本,来自那些长期占用、很难低成本二次分配给其他业务的显存与高速内存。
矛盾也就出在这里。眼下行业里主流的计价框架,骨子里还是瞬时算力时代那套逻辑,收入按输入、输出的词元来算;可对应的资本开支和高速显存占用成本,却会跟着并发会话驻留时间越拉越长而不断往上堆。
有的Agent会长时间挂起、运行一整天,单位时间产出的词元很少,营收有限,显存却被持续占用。它抬高了榜单上的调用规模,收入却跟不上资源的持续消耗,曾经趋于同步的两条增长曲线就此拉开缺口。
成本与计费之间的错位,或许正一点点改变Token出海这条赛道的竞争底色。
过去,这条赛道的打法很直接:把单Token的算力开销压下去,用低价换量,再靠规模把硬件投入摊薄。可当负载结构往Agent倾斜,只盯着吞吐和报价这一个维度,就容易掉进流量涨、利润缩的坑里。
调用数字往上走,很容易被当成业务向好的信号。问题是,不断累积的会话状态资产正在持续侵蚀毛利,这一点不少服务商没注意到。
热闹的份额榜单之外,状态资产的管理能力,或许正划出另一条看不见的分界线。
词元出海,看不见的显存负债
存储成本一抬升,市场很容易把它讲成存储芯片涨价的故事。可放进推理集群运营和资本开支的框架里看,元器件现货价格只是众多变量中的一个。
真正对利润形成持续刚性约束的,往往是一整套规则链条:绑定供货、资产折旧、跨境流量、客户合规,几样东西交织在一起。
存储芯片上游眼下处于结构性紧平衡阶段。HBM、服务器DRAM和面向AI集群的企业级NAND,长期协议价格还在往上走;原厂整体库存则一直压在偏低水平。
想拿到稳定供货,自建推理集群的服务商已经很难靠现货随买随用来保障持续扩容,往往得提前签下季度乃至半年度量级的保底采购长单。
投入的性质也因此变了:硬件采购不再能跟着业务节奏灵活调整,从可变投入变成了带有刚性履约约束的资本开支。
合约一旦敲定,哪怕后续海外流量填不满集群容量,合约款项和资产折旧照样要按期兑现、计提,营收再怎么波动也很难对冲这部分刚性支出。
还有一块成本很容易被盖住,来自海外企业客户的合规留存要求。不少海外企业采购推理服务时,会要求完整审计日志、调用链路乃至会话原始内容长期可追溯、可审计。
这部分持久化存储和推理时临时生成的KV缓存是两回事,会长期稳定占用存储容量。
可大部分标准化词元采购合同并不会把这项存储服务费单独列出来,相关开销被摊进统一的Token报价里,外部很难单独剥离识别。
就算靠KV缓存压缩、量化方案和迭代模型版本去做优化,集群硬件的物理服役周期还在,但适配当前Agent负载的有效业务生命周期正在被不断压缩。
服务商因此被迫下调资产预期回报周期,单位词元对应的折旧分摊跟着走高。多重约束叠在一起,存储早就不只是服务器的配套成本,在这类负载下,它正逼近算力的权重,还经常成为集群扩容的瓶颈。
存储对利润的侵蚀,并不是笼统的成本上涨,而是沿着多条独立路径持续压低集群的资产回报。这类信号不会拆开摆在对外的报价单上,大多只能在服务商后台的运维与经营报表里看到。
头一条是前缀缓存的命中率陷阱。前缀缓存的逻辑说白了是以存储换算力复用:把高频重复的上下文前缀缓存起来,一旦命中就跳过重复计算,把单Token的算力开销压下去。
但缓存本身也带着写入开销、淘汰调度逻辑和生命周期约束。
一旦流量高度碎片化、租户分散、请求随机性抬升,缓存命中率就可能很快跌破盈亏平衡点。为缓存预留的大量显存一直占着资本,却很难兑现预期的算力节约,整套集群的资产回报率也就被拉低了。
第二条是峰值保底带来的闲置折旧。为了接住突发流量、避免会话被强制清理、防止服务稳定性下滑,运营侧往往要预留足够的存储与显存冗余。
这些冗余是冲着尖峰留的,常态下大多闲着。冗余抬高带来更强的稳定性,代价是资产周转效率下降。跨境潮汐流量之下,这笔折旧成本持续刚性,很难跟着淡季的词元营收一起回落。
最后是长会话造成的静默资源锁死。一部分Agent自动化任务有个特征:单会话的词元产出速率不高,但会话生命周期极长,一段显存空间被一直占着。
这类负载不会很快拉高平台吞吐榜单上的调用规模,却会一点点挤占显存资源,持续消耗集群的扩容余量,有可能逼得服务商提前启动新一轮硬件采购。
过去看国产大模型出海,市场习惯盯着词元单价和模型能力排座次。可Agent成了流量主力之后,竞争的重心已经挪了位置,从单纯比算力,转向一套更细的资产效率管理。
行业目光还停在词元调用榜单上,存储资产周转、缓存盈亏线、折旧节奏这些字眼,正悄悄成为左右出海业务盈亏的隐性标尺。
存储通胀重塑大模型出海生意?
存储成本往上走,分销链路里就划出一道明确分界:手里攥着承载长驻会话硬件资产的一方,要扛最难以向外转嫁的刚性压力。这当中,部分服务商握着调度策略和缓存规则,对下游报价有主动权,可风险敞口也最大。
不少自建集群的供给方,得靠季度或半年度保底长协才能拿到稳定供货,芯片报价上行、跨时区流量错配造成的资产闲置、硬件快速迭代带来的减值压力,大概率要自己独自承接。
存储处于紧平衡、还得持续扩容的阶段,流量增长带来的新增营收,很容易被不断追加的资本开支快速吃掉。
另一条主流路子,是跟海外云厂商做分成托管合作。从产业账本看,这常被理解成资产负债的通俗出表:模型方出模型授权,内存、持久化存储、跨时区运维以及合规日志留存对应的硬件投入与资产风险,主要归云厂商扛。不过这不等于会计准则意义上的资产剥离,也不是股权投资。合约里一旦设了保底用量或成本联动条款,部分成本压力仍可能反向传导回来。
还有一条路径是只输出模型权重,分发完全交给聚合平台。这类供给方基本不持有推理硬件,存储和算力资产的直接敞口最小,议价能力通常也最弱。
路由分配、流量限额、缓存策略的调整权限都在平台手里,供给方大多只能被动接住分过来的流量。就算能靠版本和参数配置微调负载特征,底层集群的资产效率也很难自主干预。
没有哪条路绝对完美。这些选择大多是在流量增长潜力和存储资产敞口之间做权衡,合规、客户归属、定价主动权等约束也得一并兼顾。
存储价格往上走的周期里,资产出表对不少玩家会更有吸引力;等上游产能释放、长协报价回落,自建集群的盈利窗口才会重新打开。
KV量化、稀疏注意力、CXL内存池、分层缓存,行业里这类方案层出不穷,很容易让人产生错觉,以为靠技术优化就能抹平存储成本约束。可落到运营账本上,各类工程方案都有清晰的上限。资产利用率能拉高,状态侧的存储刚需却除不掉。
KV压缩能压低单会话显存占用,代价往往是额外算力开销;稀疏注意力可以削减计算量,会话状态的驻留需求却免不了;CXL内存池有助于分流显存压力,可服务器硬件改造本身又会带来新一轮资本投入。
更关键的一点,优化收益高度绑定流量结构:上下文复用度高的Agent任务能充分吃到缓存红利,碎片化、一次性的请求,优化回报会快速衰减。
技术手段能抬升资产效率的上限,会话状态必须依托硬件存储这条底层约束,却很难绕开。
长期看,存算分离架构有机会把计算与状态存储深度解耦,让会话状态跨节点灵活迁移,重新塑造集群的资产配置逻辑。但整套基础设施的重构链条漫长,短期内很难扭转当下的成本格局。
调用量榜单只体现规模,另一组指标更能映照这笔生意的真实成色:长上下文请求占比、缓存命中率、单会话平均存活时长、海外节点存储闲置率、存储长协季度报价。
一个朴素的检验标尺是:调用量持续抬升的过程中,单位Token毛利能不能维持甚至改善。营收一直上行,毛利却长期横盘甚至走低,往往说明增量收益正在被存储折旧持续侵蚀。
词元出海正在经历一场安静的业态切换:早期它更容易被归入算力租赁生意,边际成本有望随规模持续摊薄。随着长会话Agent逐步成为流量主力,这项业务的属性正往在线状态托管靠拢。
显存和存储成了真正沉淀下来的资产,边际成本想一直往下走并不容易,资产周转率的高低,直接卡住利润的基本盘。
流量可以沿着聚合平台的路由随时搬走,可硬件资本开支一旦砸下去,折旧的节奏不会跟着客流一起调。说到底,拿流动性极强的短期订单,去配长期计提折旧的重资产,收益和成本在周期上本来就对不齐。
市场里比的往往是词元调用总量和份额排名。但换成供给侧的账本来看,更该问的是:每多一条常驻会话,要锁住多少GB的存储?这笔资产在折旧周期里能不能收回足够的现金流?
份额是需求端投出来的票,存储资产的账本才是大模型出海这门生意能不能长期跑通的关键约束。
词元一步步变成标准化的大宗商品之后,最后拉开盈利差距的,可能不再是拿来生成文本的算力,而是装着上下文记忆的存储资产。