<?xml version="1.0" encoding="UTF-8"?><rss version="2.0"
	xmlns:content="http://purl.org/rss/1.0/modules/content/"
	xmlns:wfw="http://wellformedweb.org/CommentAPI/"
	xmlns:dc="http://purl.org/dc/elements/1.1/"
	xmlns:atom="http://www.w3.org/2005/Atom"
	xmlns:sy="http://purl.org/rss/1.0/modules/syndication/"
	xmlns:slash="http://purl.org/rss/1.0/modules/slash/"
	>

<channel>
	<title>Qwen3 &#8211; mylogs.cn</title>
	<atom:link href="https://mylogs.cn/tag/qwen3/feed/" rel="self" type="application/rss+xml" />
	<link>https://mylogs.cn</link>
	<description>发现、记录、分享</description>
	<lastBuildDate>Fri, 20 Nov 2026 10:21:22 +0000</lastBuildDate>
	<language>zh-Hans</language>
	<sy:updatePeriod>
	hourly	</sy:updatePeriod>
	<sy:updateFrequency>
	1	</sy:updateFrequency>
	
	<item>
		<title>多台Win11电脑合体：一根USB4线叠加内存算力跑大模型</title>
		<link>https://mylogs.cn/%e5%a4%9a%e5%8f%b0win11%e7%94%b5%e8%84%91%e5%90%88%e4%bd%93%ef%bc%9a%e4%b8%80%e6%a0%b9usb4%e7%ba%bf%e5%8f%a0%e5%8a%a0%e5%86%85%e5%ad%98%e7%ae%97%e5%8a%9b%e8%b7%91%e5%a4%a7%e6%a8%a1%e5%9e%8b/</link>
		
		<dc:creator><![CDATA[steve, zhang]]></dc:creator>
		<pubDate>Fri, 20 Nov 2026 10:21:22 +0000</pubDate>
				<category><![CDATA[科技]]></category>
		<category><![CDATA[Qwen3]]></category>
		<category><![CDATA[RDMA]]></category>
		<category><![CDATA[USB4]]></category>
		<category><![CDATA[Windows11]]></category>
		<category><![CDATA[多机协同]]></category>
		<category><![CDATA[微软]]></category>
		<category><![CDATA[本地大模型]]></category>
		<guid isPermaLink="false">https://mylogs.cn/%e5%a4%9a%e5%8f%b0win11%e7%94%b5%e8%84%91%e5%90%88%e4%bd%93%ef%bc%9a%e4%b8%80%e6%a0%b9usb4%e7%ba%bf%e5%8f%a0%e5%8a%a0%e5%86%85%e5%ad%98%e7%ae%97%e5%8a%9b%e8%b7%91%e5%a4%a7%e6%a8%a1%e5%9e%8b/</guid>

					<description><![CDATA[单台电脑内存不够跑大模型怎么办？微软给出的思路是&#8221;搭积木&#8221;：用一根 USB4 线缆把两 [&#8230;]]]></description>
										<content:encoded><![CDATA[<p class="wp-block-paragraph">单台电脑内存不够跑大模型怎么办？微软给出的思路是&#8221;搭积木&#8221;：用一根 USB4 线缆把两台或多台 Windows 11 电脑连起来，让它们调动各自的内存和 GPU 算力，共同运行同一个 AI 模型。2026 年 11 月 19 日，微软以开发者预览的方式推出基于 USB4 的远程直接内存访问（RDMA）体验。初步测试中，三台各配 128GB 统一内存的 AMD 迷你电脑合力跑 2350 亿参数的 Qwen3 模型，生成速度约为每秒 18.5 个词元。</p>
<figure data-wp-context="{&quot;imageId&quot;:&quot;6b00201437046&quot;}" data-wp-interactive="core/image" data-wp-key="6b00201437046" class="wp-block-image wp-lightbox-container"><img decoding="async" data-wp-class--hide="state.isContentHidden" data-wp-class--show="state.isContentVisible" data-wp-init="callbacks.setButtonStyles" data-wp-on--click="actions.showLightbox" data-wp-on--load="callbacks.setButtonStyles" data-wp-on--pointerdown="actions.preloadImage" data-wp-on--pointerenter="actions.preloadImageWithDelay" data-wp-on--pointerleave="actions.cancelPreload" data-wp-on-window--resize="callbacks.setButtonStyles" src="https://mylogs.cn/wp-content/uploads/2026/11/body_ms-usb4-rdma-2026.webp" alt="USB4 连接多台 Windows 11 电脑协同跑模型示意图" style="max-width:100%;height:auto;"/><button
			class="lightbox-trigger"
			type="button"
			aria-haspopup="dialog"
			data-wp-bind--aria-label="state.thisImage.triggerButtonAriaLabel"
			data-wp-init="callbacks.initTriggerButton"
			data-wp-on--click="actions.showLightbox"
			data-wp-style--right="state.thisImage.buttonRight"
			data-wp-style--top="state.thisImage.buttonTop"
		>
			<svg xmlns="http://www.w3.org/2000/svg" width="12" height="12" fill="none" viewBox="0 0 12 12">
				<path fill="#fff" d="M2 0a2 2 0 0 0-2 2v2h1.5V2a.5.5 0 0 1 .5-.5h2V0H2Zm2 10.5H2a.5.5 0 0 1-.5-.5V8H0v2a2 2 0 0 0 2 2h2v-1.5ZM8 12v-1.5h2a.5.5 0 0 0 .5-.5V8H12v2a2 2 0 0 1-2 2H8Zm2-12a2 2 0 0 1 2 2v2h-1.5V2a.5.5 0 0 0-.5-.5H8V0h2Z" />
			</svg>
		</button><figcaption>图片来源：IT之家</figcaption></figure>
<h2 class="wp-block-heading">RDMA 是什么，为什么需要它</h2>
<p class="wp-block-paragraph">RDMA（远程直接内存访问）指的是让一台电脑高效地读写另一台电脑中获授权的内存区域，减少操作系统和 CPU 在数据搬运过程中的介入，优势是低延迟、高吞吐和较低的 CPU 占用。</p>
<p class="wp-block-paragraph">这套机制原本依赖数据中心的专用硬件，要在多台电脑间实现类似协同，通常得另购 RDMA 网卡或配置交换机。微软这次的路径是：符合要求的电脑用 USB4 线缆连接后，无需这些额外硬件，借助兼容的推理框架就能调动各自的内存和 GPU 算力。</p>
<p class="wp-block-paragraph">意义在于，当推理框架用张量并行把模型分摊到多台机器时，机器间要为每个词元反复交换数据，通信延迟往往比带宽更能决定整体速度。微软把 Windows 已有的 NetworkDirect 接口扩展到 USB4 连接上，并发布了改版 llama.cpp 作演示。</p>
<h2 class="wp-block-heading">延迟与速度：实测数据怎么说</h2>
<p class="wp-block-paragraph">微软给出的延迟数据是，在单次传输数据量较小的情况下，电脑间通信的往返延迟约为 28 至 50 微秒，仅为同一 USB4 链路上传统以太网 UDP 方式的四分之一。</p>
<p class="wp-block-paragraph">初步测试分两组。第一组是三台各配 128GB 统一内存的 AMD 迷你电脑，通过 40Gbps USB4 连接，运行 4 位量化的 2350 亿参数 Qwen3 模型，生成速度约为每秒 18.5 个词元；AMD 自己测得约每秒 22 个。在三台搭载 AMD Ryzen AI Max+ 395 处理器的迷你电脑上，具体表现如下：</p>
<figure class="wp-block-table"><table><thead><tr><th>测试方</th><th>模型与量化方式</th><th>上下文长度 / 生成词元数</th><th>解码速度（词元/秒）</th><th>提示词处理速度（词元/秒）</th></tr></thead><tbody><tr><td>AMD</td><td>Qwen3-235B-A22B，4 位量化（Q4_K_M）</td><td>1,600 / 2,048</td><td>21.98</td><td>117.98</td></tr></tbody></table></figure>
<p class="wp-block-paragraph">第二组来自英特尔，用四台各配 64GB 内存的酷睿 Ultra Series 3 电脑运行 GPT-OSS-120B。微软指出，单台 64GB 内存其实装不下这个模型。在约 1000 词元上下文下，四台机器的生成速度达到每秒 54.2 个词元。增加机器数量带来的提升如下：</p>
<figure class="wp-block-table"><table><thead><tr><th>电脑数量（台）</th><th>上下文长度（词元）</th><th>首个词元生成时间（秒）</th><th>解码速度（词元/秒）</th></tr></thead><tbody><tr><td>3</td><td>1K</td><td>1.1</td><td>49.4</td></tr><tr><td>4</td><td>1K</td><td>1.2</td><td>54.2</td></tr><tr><td>3</td><td>2K</td><td>2.9</td><td>49.4</td></tr><tr><td>4</td><td>2K</td><td>3.2</td><td>51.7</td></tr></tbody></table></figure>
<figure data-wp-context="{&quot;imageId&quot;:&quot;6b0020143746c&quot;}" data-wp-interactive="core/image" data-wp-key="6b0020143746c" class="wp-block-image wp-lightbox-container"><img decoding="async" data-wp-class--hide="state.isContentHidden" data-wp-class--show="state.isContentVisible" data-wp-init="callbacks.setButtonStyles" data-wp-on--click="actions.showLightbox" data-wp-on--load="callbacks.setButtonStyles" data-wp-on--pointerdown="actions.preloadImage" data-wp-on--pointerenter="actions.preloadImageWithDelay" data-wp-on--pointerleave="actions.cancelPreload" data-wp-on-window--resize="callbacks.setButtonStyles" src="https://mylogs.cn/wp-content/uploads/2026/11/body_ms-usb4-rdma-2026.webp" alt="多机协同跑模型性能测试数据" style="max-width:100%;height:auto;"/><button
			class="lightbox-trigger"
			type="button"
			aria-haspopup="dialog"
			data-wp-bind--aria-label="state.thisImage.triggerButtonAriaLabel"
			data-wp-init="callbacks.initTriggerButton"
			data-wp-on--click="actions.showLightbox"
			data-wp-style--right="state.thisImage.buttonRight"
			data-wp-style--top="state.thisImage.buttonTop"
		>
			<svg xmlns="http://www.w3.org/2000/svg" width="12" height="12" fill="none" viewBox="0 0 12 12">
				<path fill="#fff" d="M2 0a2 2 0 0 0-2 2v2h1.5V2a.5.5 0 0 1 .5-.5h2V0H2Zm2 10.5H2a.5.5 0 0 1-.5-.5V8H0v2a2 2 0 0 0 2 2h2v-1.5ZM8 12v-1.5h2a.5.5 0 0 0 .5-.5V8H12v2a2 2 0 0 1-2 2H8Zm2-12a2 2 0 0 1 2 2v2h-1.5V2a.5.5 0 0 0-.5-.5H8V0h2Z" />
			</svg>
		</button><figcaption>图片来源：IT之家</figcaption></figure>
<h2 class="wp-block-heading">收益有限，且还不是即插即用</h2>
<p class="wp-block-paragraph">从数据看，增加机器数量并非线性提升。以 GPT-OSS-120B 为例，从三台增到四台，1K 上下文下解码速度从每秒 49.4 提至 54.2 个词元，首个词元生成时间反而从 1.1 秒略增至 1.2 秒；2K 上下文下，四台甚至略低于三台。叠加机器能换来加载更大模型的能力，但速度收益要视配置而定。</p>
<p class="wp-block-paragraph">更重要的是，这还不是开箱即用的功能。开源组件与改装版 llama.cpp 演示已放出，但所需的 Windows Insider 版本构建尚未发布。微软把它定位为面向开发者的起点，而非普通用户可直接升级的桌面功能。其价值在于把门槛从&#8221;买专用网卡、配交换机&#8221;降低到&#8221;插一根 USB4 线&#8221;，实际效果仍待后续版本验证。</p>
<h2 class="wp-block-heading">常见问题</h2>
<h3 class="wp-block-heading">这套方案需要额外买 RDMA 网卡吗？</h3>
<p class="wp-block-paragraph">不需要。符合要求的电脑通过 USB4 线缆连接即可，无需另购专用 RDMA 网卡或配置交换机，但要借助兼容的推理框架。</p>
<h3 class="wp-block-heading">延迟表现如何？</h3>
<p class="wp-block-paragraph">微软测试显示，小数据量传输时电脑间往返延迟约 28 至 50 微秒，约为同一 USB4 链路上传统以太网 UDP 方式的四分之一。</p>
<h3 class="wp-block-heading">能跑多大的模型？</h3>
<p class="wp-block-paragraph">测试中三台 128GB 内存的 AMD 迷你电脑跑起了 2350 亿参数的 Qwen3 模型；四台 64GB 内存的英特尔电脑则跑起了单家装不下的 GPT-OSS-120B。</p>
<h3 class="wp-block-heading">现在普通用户能用吗？</h3>
<p class="wp-block-paragraph">暂时不能。功能以开发者预览形式推出，开源组件已可用，但所需的 Windows Insider 版本和设置说明尚未到位。</p>
<h2 class="wp-block-heading">信息来源</h2>
<p class="wp-block-paragraph">微软官方博客（2026 年 11 月 19 日）；IT之家 2026 年 11 月 20 日报道；凤凰网科技、搜狐、网易科技及 Superpower Daily 同题报道。</p>]]></content:encoded>
					
		
		
			</item>
	</channel>
</rss>
