门罗风投报告：美国企业开源模型支出89%流向中国模型

门罗风投（Menlo Ventures）是一家在硅谷颇有名气的风险投资机构，其《2026年企业AI现状报告》给出了一组数据：美国企业在开源模型上的花销，有89%落进了中国模型的口袋。排在前三的分别是Kimi的61%、DeepSeek的15%和GLM的11%。

于是市场上很快流行起一个简单说法：国产大模型凭着性能和价格，把海外开发者的预算抢了过来。

可同一份报告里还记着另外几个数：开源模型在Token用量上已经占到接近五分之一（19%），落到企业模型总支出上却只有4%，企业AI预算的大头仍旧流向了闭源大模型。

也就是说，89%这个比例浓度很高，盘子却不大。

盘子大小还不是最要紧的，真正变了的是成本结构。卖词元看着是卖算力，交付的其实是状态。状态不挂在算力上，它落在内存和存储里，而这两样恰恰是本轮涨价压力最集中的元器件。

矛盾就出在这儿：收入按词元算，成本却按GB走。

01.流量在跑，资产在静置

各大聚合平台的Token调用榜单不断刷新，国产大模型在海外开源市场的份额之争也被反复讨论。多数分析还是把叙事拴在模型能力和报价优势上，默认这终究是门“算力换Token”的生意。

放在传统对话场景里，这么理解还说得通。可如今撑起海外新增流量的Agent任务，负载的底层逻辑已经在分化。

传统对话推理对应的资源模型很直观，眼下绝大多数API定价体系也是照它搭起来的。

按这套理想框架，用户提问，推理集群算完把内容返回；一轮对话结束、会话关闭，这次请求占用的缓存跟着释放，硬件回到空闲。

服务商靠Token总量就能估成本，集群利用率还有余量时，吞吐越高越能摊薄单位开销。低价跑量、以规模换利润的逻辑因此站得住，Token数量和资源消耗也被默认按相近的节奏增长。

但海外聚合渠道里拉动增量的主力，正从零散的人机对话转向带自动化链路的Agent任务。

这类负载的资源节奏跟普通问答差得很明显：任务启动时，有些场景要先灌进几十万Token级别的前置文档和批量业务数据；接着是数十轮链式工具调用，不停检索、读取外部信息；整个会话可能挂起数小时甚至更久，同一份前置上下文被反复复用。

更要紧的是，只要没人主动关掉会话，这部分上下文缓存就一直占着资源。模型不断生成新Token，也只是往缓存里追加，并不会自动把这块占用还给资源池。

长会话Agent流量占比一升，约束点也跟着换：比的就不只是推理速度了，系统能同时撑住多少常驻会话，成了新的紧约束。

厂商对外吆喝的百万级上下文窗口，更多是卖给客户的产品卖点；落到机房的资源账上，它意味着一会话把窗口用起来，每一路活跃并发都可能要预留数十GB的HBM来承载持续在线的会话状态。

KV量化、MLA以及各种缓存压缩技术，市面上都在试，目的无非是压低单会话的显存开销、把集群能承载的并发规模抬上去。

可这些说到底只是优化单位成本，那条底层约束很难绕开：会话只要处于随时能响应的活跃状态，核心状态数据就得驻留在高速存储里。

本轮词元流量的扩张，增量核心并不完全来自新生成的输出文本。

万亿级调用量容易让人产生错觉，以为增长全靠源源不断的新内容生成。其实相当一部分流量增长，对应的是集群里持续堆叠、长期锁定、又很难低成本跨任务调度回收的动态状态资产。

平台统计面板通常只记进出的Token数量。可放到服务商的经营账本里，真正持续沉淀的成本，来自那些长期占用、很难低成本二次分配给其他业务的显存和高速内存。

矛盾也由此显现：行业主流计价框架还是从瞬时算力时代脱胎而来，收入按输入、输出词元计量。对应的资本开支和高速显存占用成本，却会随并发会话的驻留时长不断累积。

有的Agent一挂就是一天，单位时间产出的词元很少，营收有限，显存却被一直占着。它把榜单上的调用规模抬高了，收入却追不上资源的持续消耗，曾经趋于同步的两条增长曲线就这样拉开了缺口。

成本与计费之间的这种错位，可能正一点点改变Token出海这条赛道的竞争底色。

过去竞争的路子很直接：把单Token的算力开销压下去，靠低价走量，再用规模把硬件投入摊薄。可当负载结构往Agent这边偏，只盯着吞吐和报价这一个维度打，就可能掉进流量涨、利润缩的坑里。

调用量往上走，很容易被当成业务向好的信号。问题是，一部分服务商没留意，越积越多的会话状态资产正在持续啃食毛利。

热闹的份额榜单之外，状态资产的管理能力，或许正划出一道新的隐形分界线。

02.词元出海，看不见的显存负债

存储成本一抬升，市场很容易把它讲成存储芯片涨价的故事。可放进推理集群运营和资本开支的框架里看，元器件现货价格只是众多变量里的一个。

真正长期卡住利润的，往往是一整套规则链条：绑定供货、资产折旧、跨境流量、客户合规，几样交织在一起。

上游存储芯片正处在结构性紧平衡周期。服务器DRAM、面向AI集群的企业级NAND以及HBM，长期协议报价都在往上走，原厂整体库存则维持在偏低区间。

想拿到稳定供货，自建推理集群的服务商已经很难只靠现货随买随用来支撑持续扩容，通常得提前签下季度乃至半年度量级的保底采购长单。

投入的性质也跟着变了：硬件采购不再能随业务节奏灵活调整，而成了带刚性履约约束的资本开支。

这种合约一旦签定，后面就算海外流量填不满集群容量，合约款项和资产折旧照样要按期兑现、按期计提，营收再怎么波动也难对冲这部分刚性支出。

还有一块成本很容易被盖住，来自海外企业客户的合规留存要求。不少海外企业买推理服务时，会要求完整审计日志、调用链路乃至会话原始内容都能长期追溯、可审计。

这部分持久化存储跟推理时临时生成的KV缓存是两回事，会长期稳定地占着存储容量。

可大多数标准化词元采购合同并不会把这项存储服务费单列出来，相关开销被摊进统一的Token报价里，外部很难单独拆出来识别。

就算靠KV缓存压缩、量化方案和模型版本迭代去做优化，集群硬件的物理服役周期还在，但适配当前Agent负载的有效业务生命周期却在被不断压缩。

服务商只好下调资产的预期回报周期，单位词元摊到的折旧随之走高。几重约束叠在一起，存储早就不只是服务器的配套成本——在这类负载下，它的权重正逼近算力，还经常成为集群扩容的瓶颈。

存储侵蚀利润，并不是笼统的一句成本上涨，而是顺着好几条独立路径持续压低集群的资产回报。这类信号不会拆开摆在对外的报价单上，大多只能在服务商后台的运维和经营报表里看到。

头一条是前缀缓存的命中率陷阱。前缀缓存的思路是用存储换算力复用：把高频重复的上下文前缀缓存起来，一旦命中就跳过重复计算，把单Token的算力开销压下去。

但缓存本身带着写入开销、淘汰调度逻辑和生命周期约束。

一旦流量变得高度碎片化、租户分散、请求随机性上升，缓存命中率就可能很快跌破盈亏平衡点。为缓存留出的大量显存一直占着资本，却很难兑现预期的算力节约，整套集群的资产回报率因此被拉低。

第二条是峰值保底带来的闲置折旧。为了接住突发流量、避免会话被强制清理、防止服务稳定性下滑，运营侧往往得预留足够的存储和显存冗余。

冗余资源是冲着尖峰留的，平时大多闲着。冗余拉高，稳定性是更强了，代价是资产周转效率下降。跨境潮汐流量之下，这笔折旧成本一直刚性，很难跟着淡季的词元营收一起回落。

最后是长会话造成的静默资源锁死。一部分Agent自动化任务有这样的特点：单个会话的词元产出速率不高，但会话生命周期极长，一直占着一块显存空间。

这类负载不会很快把平台吞吐榜单上的调用规模抬起来，却会一点点挤占显存资源，持续消耗集群的扩容余量，有可能逼着服务商提前启动新一轮硬件采购。

过去大家看国产大模型出海，习惯盯着词元单价和模型能力排座次。可Agent成了流量主力之后，竞争的重心已经不只是算力比拼，还往资产效率管理那边延伸。行业目光还停在词元调用榜单上时，存储资产周转、缓存盈亏线、折旧节奏这些指标，正一点点变成影响出海业务盈亏的隐性标尺。

03.存储通胀重塑大模型出海生意？

存储成本往上走，分销链路里的分界也随之清晰：手里攥着承载长驻会话硬件资产的服务商，要扛最难向外转嫁的刚性压力。其中一部分玩家把调度策略和缓存规则握在手里，对下游报价有主动权，可风险敞口也是最大的。还有不少自建集群的供给方，得靠季度或半年度保底长协才能拿到稳定供货，芯片报价上涨、跨时区流量错配造成的资产闲置、硬件快速迭代带来的减值，大概率都得自己吞下去。

存储处在紧平衡、集群还在持续扩容的阶段，流量增长带来的新增营收，很容易被一笔接一笔追加的资本开支吃掉。另一条主流路径是跟海外云厂商做分成托管。从产业账本看，这常被理解成资产负债的通俗出表：模型方出模型授权，内存、持久化存储、跨时区运维、合规日志留存对应的硬件投入和资产风险，主要交给云厂商扛。

不过这不等于会计准则意义上的资产剥离，也不是股权投资。合约里一旦设了保底用量或成本联动条款，部分成本压力仍可能反向传导回来。此外还有一条路是只输出模型权重，分发完全依托聚合平台。这类供给方基本不持有推理硬件，存储和算力资产的直接敞口最小，议价能力通常也最弱。

路由分配、流量限额、缓存策略的调整权限都在平台手上，供给方大多只能被动接平台分过来的流量。就算能靠版本和参数配置微调负载特征，也难自主干预底层集群的资产效率。没有哪条路绝对完美，这些选择大多是在流量增长潜力和存储资产敞口之间做权衡，合规、客户归属、定价主动权等约束也得一并考虑。

存储价格往上走的周期里，资产出表对不少玩家来说会更有吸引力；等上游产能释放、长协报价回落，自建集群的盈利窗口才会重新打开。

行业里KV量化、稀疏注意力、CXL内存池、分层缓存这些方案层出不穷，很容易让人产生一种错觉：靠技术优化就能把存储成本约束抹平。可落到运营账本上，各类工程方案都有清晰的上限。它们能把资产利用率拉高，却除不掉状态侧的存储刚需。

KV压缩能压低单会话显存占用，代价往往是额外的算力开销；稀疏注意力能削减计算量，会话状态的驻留需求却免不掉；CXL内存池有助于分流显存压力，但服务器硬件改造本身又会带来新一轮资本投入。更关键的是，优化收益高度绑定流量结构：上下文复用度高的Agent任务能充分吃到缓存红利，碎片化、一次性的请求，优化回报则会快速衰减。

技术手段能把资产效率的上限抬起来，却很难绕开会话状态必须依托硬件存储这一底层约束。往长看，存算分离架构有机会把计算与状态存储深度解耦，让会话状态跨节点灵活迁移，重新塑造集群的资产配置逻辑。但整套基础设施的重构链条很长，短期内很难扭转当下的成本格局。

比起只体现规模的调用量榜单，另一组指标更能照出这笔生意的真实成色：长上下文请求占比、缓存命中率、单会话平均存活时长、海外节点存储闲置率、存储长协季度报价。

一个朴素的检验标尺是：调用量持续抬升的过程中，单位Token毛利能不能维持甚至改善。如果营收一直在涨，毛利却长期横盘甚至走低，往往说明增量收益正在被存储折旧持续侵蚀。

词元出海正在经历一场安静的业态切换：早期它更容易被归入算力租赁生意，边际成本有望随规模持续摊薄。随着长会话Agent逐步成为流量主力，这项业务的属性正在向在线状态托管靠拢。

显存和存储现在成了最核心的沉淀资产，边际成本想一直往下走并不容易，资产周转率的高低，直接决定了利润的底盘有多厚。

流量可以顺着聚合平台的路由随时迁走，可硬件资本开支一旦花出去，折旧的节奏不会跟着客流一起调。短期订单流动性极强，重资产却要长期计提折旧，收益和成本在周期上天然就对不上。

市场上比的往往是词元调用总量和份额排名，但换成供给侧的账本来看，更该问的是：每多一条常驻会话，要锁住多少GB的存储，这笔资产在折旧周期里能不能收回足够的现金流。

份额是需求端投出来的票，存储资产的账本才是决定大模型出海这门生意能不能长期跑通的关键约束。

词元逐渐变成标准化的大宗商品之后，最后拉开盈利差距的，或许不再是生成文本用的算力，而是装着上下文记忆的存储资产。