国产大模型接连限额:算力都去哪了?
► 文 观察者网心智观察所 2026年11月16日,不少用户在打开DeepSeek客户端或网页版时,意外收到了一条弹窗提示。系统告知用户,受算力约束,平台不再支持存续超过7天且无活跃交互的长对话,单次输入文字上限被缩短到约4万字,连续使用不到2小时的免费用户甚至会直接触发每日使用额度上限。无独有偶,就在20天前的10月
观察者网心智观察所 文
2026年11月16日,一些用户点开某个大模型产品时发现,长对话功能已经用不了了。
往前推20天,10月24日,月之暗面旗下那款产品也出过类似状况。
一个月之内,国内两款头部大模型产品先后搞起限额,普通用户不得不追问一句:算力到底去哪儿了?
长对话被掐,算力不够用
对那批靠AI改几十页论文、成批处理代码、整理长篇文档的人来说,最近用起来明显不如从前顺手。
在
主动把服务范围收窄,背后是服务器扛着的巨大压力。全球多模型聚合平台的token调用数据显示,环比涨幅达到801%;11月9日至11月15日这一周,token调用量冲到59.2万亿,排在全球第1位。7月底到8月初,该模型周调用量还只有7.22万亿,不到3个月,需求翻了8倍以上。
调用量猛涨,服务就频繁出问题。2026年10月以来,平台至少发生8起服务异常或中断。10月15日那次故障持续4小时52分钟,网页端、客户端对话服务以及核心应用程序接口同时受限。平台在2026年8月已对开发者接口启用限制措施,以缓解压力。
同样的算力紧张,也压在另一家厂商身上。
大模型的记忆,代价有多高
大模型公司为什么这么怕用户聊长天,甚至宁可惹恼重度用户,也要把7天没动静的聊天窗口收回去?得先看AI大模型在芯片里是怎么干活的。
其实每次回答完,大模型本身就立刻“失忆”了。它之所以能记住上下文,是因为用户发第10句话时,后台要把第1句到第9句,加上AI此前给出的全部回答,打包成一个巨大的文本包,重新送进芯片算一遍。
回回都从头算,速度慢到没法忍,芯片耗电也会是个天文数字。于是有了键值缓存技术:把此前聊天算出的中间结果,临时存在图形处理器读写最快的那块核心存储里。
然而,
跨洋电缆那头的监管风暴
国内厂商在显存上精打细算的同时,全球算力供应链的硬件流向正经历剧烈震荡。
过去几年,国内科技企业为了满足庞大的AI训练与推理需求,除了在本土买设备,还大量采用出海租算力的办法。顶尖算力芯片不好直接运回国内,企业就把代码和数据传到海外,租第三国数据中心的服务器,远程调用里面的芯片。
马来西亚、泰国、印度尼西亚这些地方,土地和电力成本相对低,阿里巴巴、字节跳动等巨头砸下巨资建或租基础设施。南美巴西东北部有丰富的可再生能源,还有南美最大的高速光纤电缆枢纽,字节跳动也在那里投了数十亿美元建数据中心。新加坡本地土地有限,却成了这些算力交易的金融与账单结算中心。
数字最能说明跨国租算力有多火。英伟达2025财年报告按客户账单地址统计,来自新加坡的营收涨到约240亿美元,接近前一年的4倍,占这家芯片巨头全球总营收的18%左右。到2026财年,英伟达改了会计口径,按直接客户总部所在地统计区域销售额,美国本土营收占比马上从47%跳到69%,新加坡的账面营收则大幅缩水,被并进其他类别。
最近,美国财政部与国家安全委员会绕开常规流程,直接指导商务部写下2026年11月16日公布的那份临时规则。新规要求,新加坡、马来西亚、泰国、印度尼西亚和巴西这5个国家的数据中心运营商,在采购并使用英伟达等美国厂商的先进AI芯片向当地客户提供服务之前,必须先拿到美国政府颁发的许可证,所有申请逐案审查。
规定2026年11月19日正式生效。新规给总部在美国的跨国公司留了豁免通道,也允许用于在线零售商或社交媒体商业推荐系统的芯片继续出货,但大模型训练和前沿推理所需的远程算力租赁通道被精准卡住。消息公布当天,英伟达股价跌超4%。
海外租高端算力的路骤然收紧,存量硬件面对爆发式增长的用户调用本就吃紧,两头一夹,国内大模型厂商在这个初冬感到了算力的寒意。
草原上的破局,进入倒计时
海外云端算力靠不住,大模型每天又要消耗几十万亿token,国内AI产业的出路在哪儿?答案指向内蒙古乌兰察布。
这座北方小城正上演一场史无前例的算力基建狂飙。在乌兰察布的
科技大厂扎堆往草原跑,图的是这儿独一份的自然条件。AI数据中心是实打实的电老虎,日常运营成本里头,电费一般要占到70%以上。一个200亩地、投资超过30亿元的算力园区,里头立着5000多个2米多高的服务器机柜,每个机柜塞满几十张价格不菲的算力卡,连芯片的线缆拉出去几十公里,光纤超过1000公里,整座园区用掉的电,顶得上145万户普通人家加起来。乌兰察布的风光资源正好管够,全市新能源并网装机约2100万千瓦,绿电既便宜又供得稳。
发电之外,散热同样让算力中心犯难。乌兰察布年平均气温只有4.3摄氏度,夏天平均也就18.8摄氏度,一年里将近10个月能把室外自然冷风直接引进机房降温,再配上先进的
靠着这片天然适合放算力的地方,国内科技企业自建的算力集群正加快落地。到2026年10月,乌兰察布已签约的数据中心项目超过100个,实际投运的算力规模突破19万P,有的最新统计已经到22万P,其中专门用于AI的
这些新冒出来的机房,装的多是面向大模型训练和推理的国产算力设备。阿里巴巴2018年就动手在乌兰察布建数据中心,占地近600亩,前三个地块分别在2022年和2024年投产,眼下加紧扩建的机房,正是基于国产算力打造的
软件算法上砍键值缓存、推错峰计价,硬件设施上3万工人在草原上会战,国内大模型行业正走在一段难熬的阵痛期里。等乌兰察布等地的国产算力集群在2027年前后陆续建成并网,庞大的绿电就会顺着电缆变成token不断输出,到那时,屏幕上那条累瘫的大肥鱼大概就能成历史了。
禁止转载