9B参数跑出27B性能:商汤开源SenseNova Loop-9B

结论:商汤科技于 2026 年 11 月 17 日晚发布 SenseNova Loop-9B,用约 9B 参数换取接近 27B 模型的性能,4bit 量化后权重仅约 4.9GB,把部署显存需求压到 10GB 以内。 关键数字:32 个物理层扩展为 56 次层计算,上下文最高 512K 词元,AIDABench 得分 65.31。

指标数值对比参照
总参数量约 9B推理等效约 14.6B
4bit 量化权重约 4.9GB部署显存低至 10GB 内
上下文长度最高 512K 词元256K 推理约需 15 GiB
NL2Repo 得分41.36Qwen3.8-27B 为 44.60
AIDABench 得分65.31Qwen3.8-27B 为 65.01

9B 参数如何跑出 27B 级的计算深度

SenseNova Loop-9B 延续 Preview 版本对参数效率的探索:通过 Loop 结构复用模型层参数,并结合流形约束超连接,在约 9B 参数规模下扩展计算深度,面向复杂推理、代码、工具调用和多模态任务。

核心做法是把第 4 至第 27 层组成共享权重的循环模块,并执行两次,使模型在一次前向传播中完成 56 次解码器层计算。解码器以四层为一组,采用三层线性注意力与一层全注意力相结合的混合注意力配置。

模型支持文本、图像输入和文本输出,上下文长度最高可达 512K 词元,训练方案覆盖文本、图像、代码和工具调用轨迹。

10GB 显存部署的门槛意味着什么

模型得益于 Loop 的高效循环结构,4bit 量化后权重仅约 4.9GB,部署显存需求低至 10GB 以内。官方给出的显存表显示:64K 上下文配 8bit 键值缓存约需 10 GiB,256K 上下文配 4bit 键值缓存约需 12 GiB,配 8bit 键值缓存约需 15 GiB。

这意味着低显存芯片获得前沿 27B 级别模型性能成为可能,本地与私有化部署的硬件门槛被明显拉低。模型发布首日同步提供官方 4bit 量化版本,方便开发者快速部署。

与 Qwen3.8-27B 比肩有多少含金量

官方表示,在 Agent 与数据分析评测中,该模型展现出与 Qwen3.8-27B 相当的竞争力:NL2Repo 得分 41.36,接近后者的 44.60;AIDABench 得分 65.31,高于后者的 65.01。正式版在多个榜单上的表现较 Preview 版本有明显提升。

值得注意的是,这两项得分来自官方公布的评测,NL2Repo 一项仍略低于对照模型,”比肩”主要体现在参数效率而非全面超越。

谁适合部署 SenseNova Loop-9B

对需要在消费级显卡或本地工作站跑代码、工具调用与数据分析任务的开发者,10GB 以内的显存需求和已开放的模型权重与代码,让私有化部署具备可操作性。

对追求极致推理性能、或者需要超长上下文稳定输出的用户,官方也列出当前不足:面对较多、较复杂的工具定义或多重条件约束时,模型仍可能出现理解与执行偏差。所以更稳妥的做法是先在自己的任务上验证,再决定是否替代更大参数模型。

常见问题

4.9GB 权重是不是等于只用 4.9GB 显存?

不是。4.9GB 指 4bit 量化后的权重体积,实际部署显存还要算上键值缓存。官方数据为:64K 上下文约需 9 至 10 GiB,256K 上下文约需 12 至 15 GiB。

支持哪些输入输出和上下文?

支持文本、图像输入和文本输出,上下文长度最高 512K 词元。

模型权重开放了吗?

已开放。SenseNova Loop-9B 的模型权重与相关代码已放出,发布首日同步提供官方 4bit 量化版本,可在 Hugging Face 的商汤合集页下载。

信息来源:IT之家 2026 年 11 月 17 日报道、商汤科技 SenseNova 官方发布(2026-11-17)。


说说

全部说说