商汤发布 SenseNova Loop-9B:部署显存低至10GB
商汤科技正式推出 SenseNova Loop-9B 模型。该模型延续 Preview 版本对参数效率的探索,以 Loop 结构复用模型层参数,并结合流形约束超连接(mHC),在约 9B 参数规模下增加有效计算深度,主要面向复杂推理、代码生成、工具调用和多模态应用。
得益于循环结构,SenseNova Loop-9B 的官方 4bit 量化权重约为 4.9GB,整体部署显存需求可控制在 10GB 以内,从而扩大可运行该模型的硬件范围,使低显存设备具备接近前沿 27B 级模型的使用可能。
模型总参数量约 9B,通过两次执行共享中间层,将 32 个物理解码层扩展为 56 次层计算。它支持文本和图像输入、文本输出,最大上下文长度达到 512K tokens。在 Agent 和数据分析评测中,NL2Repo 得分为 41.36,接近 Qwen3.8-27B 的 44.60;AIDABench 得分为 65.31,高于后者的 65.01。
其架构包括多个设计:第 4 至第 27 层组成共享权重的循环模块并重复执行两次;双流 mHC 借助可学习映射完成两条残差流的信息路由与融合;解码器每四层采用三层线性注意力搭配一层全注意力。训练数据和任务覆盖文本、图像、代码及工具调用轨迹,以支持长上下文多模态处理。
在部署方面,使用 4bit 权重量化和 8bit KV 缓存时,256K 长上下文推理所需显存约为 15 GiB。模型发布首日同步提供 AWQ 4bit 官方量化版本,降低本地及私有化部署门槛。模型权重和相关代码也已开放,开发者与研究者可自行下载、部署和测试。
围绕通用 Agent、代码和数据分析任务的评测显示,正式版 SenseNova Loop-9B 相比 Preview 版本在多个榜单上取得明显提升,并在约 9B 参数规模下展现出接近 Qwen3.8-27B 的性能。相关模型资源已发布至 Hugging Face 的 SenseNova Loop 集合页面。
本文基于公开渠道信息整理,内容可能存在不准确或遗漏之处,不代表本站立场,如内容涉及侵权或错误,请联系我们处理。
阅读原文