商汤SenseNova Loop-9B发布:4bit量化权重约4.9GB,10GB显存可跑
IT之家 11 月 17 日消息,商汤科技今天(17 日)晚间正式发布 SenseNova Loop-9B 模型。 该模型延续了 Preview 版本对参数效率的探索:通过 Loop 结构复用模型层的参数,并结合流形约束超连接(mHC),在约 9B 参数规模下扩展计算深度,面向复杂推理、代码、工具调用和多模态任务。 模
商汤科技在11月17日晚间正式推出SenseNova Loop-9B模型。
新模型延续了Preview版本在参数效率上的做法:靠
Loop结构把模型层参数反复复用,再配合流形约束超连接(mHC),在约9B参数规模下把计算深度做大,面向复杂推理、代码、工具调用和多模态任务。
总参数量约9B。模型让共享的中间层执行两次,把32个物理解码层扩展成56次层计算;输入支持文本和图像,输出为文本,上下文长度最高512K tokens。
凭借Loop的高效循环结构,官方4bit量化后权重只有约4.9GB,部署显存需求压到10 GB以内。可部署的硬件范围因此明显放宽,低显存芯片也有机会跑出前沿27B级别模型的性能。
官方称,在Agent与数据分析评测中,该模型表现出与Qwen3.8-27B相当的竞争力:NL2Repo得分41.36,接近后者的44.60;AIDABench得分65.31,高于后者的65.01。
-
共享循环模块把第4–27层组成共享权重的循环模块,执行两次,模型在一次前向传播中即完成56次解码器层计算。
-
双流mHC则借助可学习映射,对循环模块中两条残差流做信息路由与融合。
-
混合注意力方面,解码器以四层为一组,配置为三层线性注意力加一层全注意力。
-
长上下文多模态的训练方案覆盖文本、图像、代码和工具调用轨迹,上下文长度最高扩展到512K tokens。
-
对低资源私有化部署也比较友好:用4bit权重量化加8bit KV缓存时,256K长上下文推理的显存需求约为15 GiB,本地与私有化部署的门槛随之降低。
-
官方量化版Day 0就提供:发布首日同步给出官方AWQ 4bit量化版本,用户可快速部署。
SenseNova Loop-9B的模型权重与相关代码已经开放,开发者和研究者可以下载、部署和探索。

围绕通用Agent、代码和数据分析等任务,评测结果显示正式版在多个榜单上较Preview版本提升明显;在约9B参数规模下,性能表现与Qwen3.8-27B比肩。