DeepSeek算力吃紧:闲置超7天会话停用,单次输入限约4万字
据多名用户反馈,DeekSeek出现弹窗提示,受算力约束,不再支持存续超过7天且无活跃交互的长对话。
11月16日,科创版日报消息,由于算力资源供给吃紧,
DeepSeek对普通用户端的App和网页版对话服务上了限额措施。
多名用户反馈,DeekSeek会弹出提示:受算力约束,存续超过7天、期间没有活跃交互的长对话不再支持,这类闲置会话没法接着用;单次输入文本的上限也调低了,眼下单次最多能输入约4万字。每日对话额度同样被限制,日用量触顶时会弹出“因服务器繁忙,使用额度已达上限”。
行业分析认为,这次调整是想把闲置会话占用的KV缓存资源收回来,优先保证活跃用户的推理需求。KV缓存是大模型为了加快对话、留住上下文而驻留在GPU显存里的中间数据,对话越长缓存堆得越多,长期没人用的会话就会一直占着稀缺的显存。 DeepSeek的算力一直扛着压力,10月以来服务多次中断,状态页记录了8起故障。按照DeepSeek官方状态页的事件记录,这些故障分别出现在10月2日、10月8日、10月12日(当天两次)、10月15日、10月20日、10月27日、11月3日,包含两类不同等级的异常,并非全是彻底宕机:多数是性能降级,表现为响应变慢、生成延迟高、偶尔请求失败,用户仍有可能提交对话;少数是部分中断。
10月15日那次故障持续超过4小时,C端网页、App对话服务与V4 Pro、V4.1 Flash API同时受限,是10月影响范围最大、持续时间最长的一次,事后DeepSeek给API用户推出了赠金补偿方案,并表示“坚决杜绝同类问题再次发生”。其余故障大多持续数分钟到数十分钟,有些只波及搜索附属工具,基础对话能力不受影响。
据DeepSeek官方状态页显示,8月至10月,V4.1 Flash API可用性为99.46%,V4 Pro API为99.74%。有媒体换算成时间直观估算:一年8760小时,99.46%意味着用户平均每年有47.3个小时用不了Flash;V4 Pro对应约22.8小时。
11月13日,DeepSeek正式开放全家桶应用API。在原有API里开启对应参数,就能获得深度思考搜索、文件输入等对话功能;语音及相关底层能力也开放了独立接口(含OCR、ASR、TTS等),可单独调用也可组合调用。开发者能在自己的应用中实现复杂的对话功能,甚至1:1复刻出完整的DeepSeek App。
算力供给承压之下,DeepSeek先后推出多项技术、定价与调度手段,主动调节算力负载。
除了减轻KV缓存压力、省下昂贵的HBM显存,DeepSeek在定价调度上给API服务启用了峰谷分时定价,闲时价格是高峰时段的一半,引导开发者错峰调用,把峰值流量削平。调度机制上,API侧维持独立并发限额,deepseek-flash、v4-pro分别设置2500、500账号并发上限,与C端服务资源池隔开。
科技日报10月的报道提到,DeepSeek打算在乌兰察布建一座GW级数据中心,部署的国产AI芯片至少16万颗。项目若建成,这里会是国内规模靠前的国产AI推理算力集群,整座集群预计从2027年底到2028年初陆续投产。
中国新闻周刊则称,10月DeepSeek走完第二轮融资,金额1055亿元,投后估值6155亿元,腾讯、宁德时代等近30家机构参与。DeepSeek官方并未发公告确认融资金额、估值和资金用途。市场的看法是,这轮钱主要会投向算力基础设施,此外用于大模型训练、扩充研发团队和支持模型迭代。
API聚合平台OpenRouter的周度调用榜单显示,在10月19日至25日这个统计周期内,DeepSeek于10月17日更新的V4.1-Flash-1017版本拿下榜首,周调用量33.6万亿Token,环比涨了801%;旧版V4.1 Flash以18万亿Token同期排在第二,该周期榜单前五名全部是国内大模型。
算力供给吃紧并不是DeepSeek一家的问题。海内外头部AI厂商普遍在推理、训练算力上承压,行业也在加大对智算中心和算力硬件的投入。
国内多家科技公司管理层在财报沟通会上谈到,算力利用率居高不下、硬件供给偏紧,资本开支的大头落在AI基础设施、服务器和芯片采购上,服务于自有大模型的训练、推理以及云客户的AI需求。
海外同样如此,OpenAI、Anthropic等公司持续锁定远期算力,用长期大额合同把未来数年的芯片和机房资源定下来,支撑模型迭代与用户调用增长。OpenAI与AWS签了7年期算力合作协议,承诺投入380亿美元,分批拿到数十万颗英伟达GPU算力,集群部署周期延续到2027年以后;Anthropic在IPO招股书中披露,已向谷歌作出至少1145亿美元的算力采购承诺,协议周期到2033年7月。