DeepSeek限流调整:长对话不再续用,单次输入上限约4万字
11月16日,科创版日报,因算力资源供给紧张,DeepSeek面向普通用户的App及网页版对话服务推出限额使用措施。据多名用户反馈,DeekSeek出现弹窗提示,受算力约束,不再支持存续超过7天且无活跃交互的长对话,这类闲置会话将无法接续使用,与此同时下调单次输入文本上限,当前单次输入文字上限约为4万字。此外,还会限制
11月16日,科创版日报消息,算力资源供给紧张。
多名用户反馈,
DeepSeek弹出提示称受算力约束,存续超过7天且无活跃交互的长对话不再支持,这类闲置会话将无法接续使用。同时,单次输入文本上限被下调,目前约为4万字。每日对话额度也受到限制,用户日使用量达到上限时,会看到“因服务器繁忙,使用额度已达上限”的提示。
行业分析认为,这一调整是为了回收闲置会话占用的KV缓存资源,把推理能力优先留给活跃用户。KV缓存是大模型为了加速对话、保留下文上下文而驻留在GPU显存中的中间数据。长对话会不断累积KV缓存,长期闲置的会话则持续占用稀缺的显存资源。
DeepSeek的故障出现在10月2日、10月8日、10月12日(当日两次)、10月15日、10月20日、10月27日、11月3日。这些异常包含两类不同等级,并非全部为完全宕机:性能降级居多,表现为响应变慢、生成延迟高、偶发请求失败,用户仍有概率提交对话;少数为部分中断。
10月15日的那次故障延续了4个多小时,C端网页和App的对话服务都受影响,官方表态“坚决杜绝同类问题再次发生”。其余几次大多只持续几分钟到几十分钟,有些只涉及搜索附属工具,基础对话能力没受波及。
据
11月13日,DeepSeek把全家桶应用的API正式对外开放。用户在原有API里打开对应参数,就能用上深度思考搜索、文件输入等对话功能;语音以及相关底层能力也已有独立接口(含
算力供给承压之下,DeepSeek陆续推出多项技术、定价与调度手段,主动调节算力负载。
除了减少KV缓存压力,节约昂贵的
科技日报10月报道,DeepSeek计划在乌兰察布建设
中国新闻周刊还提到,10月DeepSeek完成第二轮融资1055亿元,投后估值6155亿元,腾讯、宁德时代等近30家机构参与。融资金额、估值和资金用途,DeepSeek官方均未发公告确认。市场方面的看法是,这轮资金首先会投入算力基础设施建设,此外还用于大模型训练、扩充研发团队、支撑模型迭代等。
API聚合平台
算力供给吃紧,并不只是DeepSeek一家的处境。国内外头部AI厂商在推理、训练上的算力资源普遍承压,整个行业都在加大投入
国内多家科技公司管理层在财报沟通会上谈到,算力利用率居高不下、硬件供给偏紧,资本开支大头落在AI基础设施、服务器与芯片采购上,用于自家大模型训练、推理以及云客户的AI需求。
海外方面,OpenAI、