<?xml version="1.0" encoding="UTF-8"?><rss version="2.0"
	xmlns:content="http://purl.org/rss/1.0/modules/content/"
	xmlns:wfw="http://wellformedweb.org/CommentAPI/"
	xmlns:dc="http://purl.org/dc/elements/1.1/"
	xmlns:atom="http://www.w3.org/2005/Atom"
	xmlns:sy="http://purl.org/rss/1.0/modules/syndication/"
	xmlns:slash="http://purl.org/rss/1.0/modules/slash/"
	>

<channel>
	<title>MLU &#8211; mylogs.cn</title>
	<atom:link href="https://mylogs.cn/tag/mlu/feed/" rel="self" type="application/rss+xml" />
	<link>https://mylogs.cn</link>
	<description>发现、记录、分享</description>
	<lastBuildDate>Tue, 17 Nov 2026 21:18:54 +0000</lastBuildDate>
	<language>zh-Hans</language>
	<sy:updatePeriod>
	hourly	</sy:updatePeriod>
	<sy:updateFrequency>
	1	</sy:updateFrequency>
	
	<item>
		<title>9B参数跑出56次层计算：寒武纪首日适配商汤新模型</title>
		<link>https://mylogs.cn/9b%e5%8f%82%e6%95%b0%e8%b7%91%e5%87%ba56%e6%ac%a1%e5%b1%82%e8%ae%a1%e7%ae%97%ef%bc%9a%e5%af%92%e6%ad%a6%e7%ba%aa%e9%a6%96%e6%97%a5%e9%80%82%e9%85%8d%e5%95%86%e6%b1%a4%e6%96%b0%e6%a8%a1%e5%9e%8b/</link>
		
		<dc:creator><![CDATA[steve, zhang]]></dc:creator>
		<pubDate>Tue, 17 Nov 2026 21:18:54 +0000</pubDate>
				<category><![CDATA[科技]]></category>
		<category><![CDATA[AI推理]]></category>
		<category><![CDATA[Loop-9B]]></category>
		<category><![CDATA[MLU]]></category>
		<category><![CDATA[SenseNova]]></category>
		<category><![CDATA[商汤科技]]></category>
		<category><![CDATA[国产算力]]></category>
		<category><![CDATA[大语言模型]]></category>
		<category><![CDATA[寒武纪]]></category>
		<guid isPermaLink="false">https://mylogs.cn/9b%e5%8f%82%e6%95%b0%e8%b7%91%e5%87%ba56%e6%ac%a1%e5%b1%82%e8%ae%a1%e7%ae%97%ef%bc%9a%e5%af%92%e6%ad%a6%e7%ba%aa%e9%a6%96%e6%97%a5%e9%80%82%e9%85%8d%e5%95%86%e6%b1%a4%e6%96%b0%e6%a8%a1%e5%9e%8b/</guid>

					<description><![CDATA[结论：寒武纪在2026年11月17日宣布完成对商汤SenseNova Loop-9B模型的Day 0适配，该模 [&#8230;]]]></description>
										<content:encoded><![CDATA[<p class="wp-block-paragraph"><strong>结论</strong>：寒武纪在2026年11月17日宣布完成对商汤SenseNova Loop-9B模型的Day 0适配，该模型约9B参数却扩展出56次层计算，4bit量化权重约4.9GB，部署显存需求低至10GB以内。<br><strong>关键数字</strong>：9B参数 / 56次层计算 / 4.9GB权重</p>
<figure class="wp-block-table"><table><thead><tr><th>指标</th><th>数值</th><th>说明</th></tr></thead><tbody><tr><td>模型参数</td><td>约9B</td><td>循环复用共享中间层</td></tr><tr><td>计算深度</td><td>32个物理解码层扩展为56次层计算</td><td>静态展开为56个顺序层</td></tr><tr><td>量化后权重</td><td>约4.9GB</td><td>官方4bit量化</td></tr><tr><td>部署显存需求</td><td>低至10GB以内</td><td>降低本地与私有化部署门槛</td></tr></tbody></table></figure>
<h2 class="wp-block-heading">寒武纪做了哪些适配</h2>
<p class="wp-block-paragraph">商汤科技2026年11月17日晚发布SenseNova Loop-9B模型，寒武纪次日宣布完成Day 0适配，基于vllm_mlu打通模型在MLU平台上的推理链路。适配围绕Loop循环结构、MLU算子适配、mHC路由优化三个方向展开。</p>
<p class="wp-block-paragraph">第一个方向是Loop循环层静态展开。寒武纪将循环计算转换为56个顺序执行的层，使模型复用vLLM标准调度和KV cache机制。不同执行槽位的循环层共享同一份权重存储，显存占用与32层模型相同。</p>
<h2 class="wp-block-heading">三个技术方向如何落地</h2>
<p class="wp-block-paragraph">第二个方向是MLU算子适配。针对Attention、Linear Attention和MLP等核心模块，寒武纪替换为vllm_mlu中已有的Qwen3-Next系列算子；多模态部分复用Qwen3.5-VL的视觉变换器与处理器，打通文本与图像输入的推理链路。</p>
<p class="wp-block-paragraph">第三个方向是mHC路由性能优化。归一化通过TMO融合接口实现，减少算子执行开销；Sinkhorn计算则借助CNAgent Triton Skill自动生成Triton融合算子，整合为单个内核，降低多次内核启动带来的调度成本。</p>
<figure data-wp-context="{&quot;imageId&quot;:&quot;6afcc575182ab&quot;}" data-wp-interactive="core/image" data-wp-key="6afcc575182ab" class="wp-block-image wp-lightbox-container"><img decoding="async" data-wp-class--hide="state.isContentHidden" data-wp-class--show="state.isContentVisible" data-wp-init="callbacks.setButtonStyles" data-wp-on--click="actions.showLightbox" data-wp-on--load="callbacks.setButtonStyles" data-wp-on--pointerdown="actions.preloadImage" data-wp-on--pointerenter="actions.preloadImageWithDelay" data-wp-on--pointerleave="actions.cancelPreload" data-wp-on-window--resize="callbacks.setButtonStyles" src="https://mylogs.cn/wp-content/uploads/2026/11/body_cambricon-loop9b.webp" alt="寒武纪与商汤Loop-9B模型适配示意" style="max-width:100%;height:auto;"/><button
			class="lightbox-trigger"
			type="button"
			aria-haspopup="dialog"
			data-wp-bind--aria-label="state.thisImage.triggerButtonAriaLabel"
			data-wp-init="callbacks.initTriggerButton"
			data-wp-on--click="actions.showLightbox"
			data-wp-style--right="state.thisImage.buttonRight"
			data-wp-style--top="state.thisImage.buttonTop"
		>
			<svg xmlns="http://www.w3.org/2000/svg" width="12" height="12" fill="none" viewBox="0 0 12 12">
				<path fill="#fff" d="M2 0a2 2 0 0 0-2 2v2h1.5V2a.5.5 0 0 1 .5-.5h2V0H2Zm2 10.5H2a.5.5 0 0 1-.5-.5V8H0v2a2 2 0 0 0 2 2h2v-1.5ZM8 12v-1.5h2a.5.5 0 0 0 .5-.5V8H12v2a2 2 0 0 1-2 2H8Zm2-12a2 2 0 0 1 2 2v2h-1.5V2a.5.5 0 0 0-.5-.5H8V0h2Z" />
			</svg>
		</button><figcaption>图片来源：IT之家</figcaption></figure>
<h2 class="wp-block-heading">这次适配意味着什么</h2>
<p class="wp-block-paragraph">对开发者而言，这意味着新模型发布当天就能在国产算力平台上部署，不必等待适配窗口。约4.9GB的量化权重与10GB以内的显存需求，把部署门槛压到消费级硬件可覆盖的范围，有利于本地与私有化落地。</p>
<p class="wp-block-paragraph">值得注意的是，Day 0适配解决的是“能不能跑”，模型在Agent、代码与数据分析任务中的实际表现，仍需结合具体业务场景评估。寒武纪表示将持续完善vllm_mlu对循环计算、混合注意力、多模态等架构的支持。</p>
<h2 class="wp-block-heading">常见问题</h2>
<h3 class="wp-block-heading">Day 0适配是什么意思？</h3>
<p class="wp-block-paragraph">指模型发布当天即完成硬件平台适配，寒武纪在SenseNova Loop-9B发布次日宣布打通其MLU平台推理链路。</p>
<h3 class="wp-block-heading">普通显卡能部署这个模型吗？</h3>
<p class="wp-block-paragraph">官方4bit量化后权重约4.9GB，部署显存需求低至10GB以内，显存达到该门槛的显卡具备部署条件。</p>
<p class="wp-block-paragraph">信息来源：IT之家2026年11月18日报道，结合寒武纪官方公告及凤凰科技当日报道整理。</p>]]></content:encoded>
					
		
		
			</item>
	</channel>
</rss>
