<?xml version="1.0" encoding="UTF-8"?><rss version="2.0"
	xmlns:content="http://purl.org/rss/1.0/modules/content/"
	xmlns:wfw="http://wellformedweb.org/CommentAPI/"
	xmlns:dc="http://purl.org/dc/elements/1.1/"
	xmlns:atom="http://www.w3.org/2005/Atom"
	xmlns:sy="http://purl.org/rss/1.0/modules/syndication/"
	xmlns:slash="http://purl.org/rss/1.0/modules/slash/"
	>

<channel>
	<title>PyTorch &#8211; mylogs.cn</title>
	<atom:link href="https://mylogs.cn/tag/pytorch/feed/" rel="self" type="application/rss+xml" />
	<link>https://mylogs.cn</link>
	<description>发现、记录、分享</description>
	<lastBuildDate>Wed, 21 Oct 2026 09:02:35 +0000</lastBuildDate>
	<language>zh-Hans</language>
	<sy:updatePeriod>
	hourly	</sy:updatePeriod>
	<sy:updateFrequency>
	1	</sy:updateFrequency>
	
	<item>
		<title>AMD 与英特尔罕见联手 统一 x86 的 AI 开发路径</title>
		<link>https://mylogs.cn/amd-%e4%b8%8e%e8%8b%b1%e7%89%b9%e5%b0%94%e7%bd%95%e8%a7%81%e8%81%94%e6%89%8b-%e7%bb%9f%e4%b8%80-x86-%e7%9a%84-ai-%e5%bc%80%e5%8f%91%e8%b7%af%e5%be%84/</link>
		
		<dc:creator><![CDATA[steve, zhang]]></dc:creator>
		<pubDate>Wed, 21 Oct 2026 09:02:35 +0000</pubDate>
				<category><![CDATA[科技]]></category>
		<category><![CDATA[AMD]]></category>
		<category><![CDATA[PyTorch]]></category>
		<category><![CDATA[x86]]></category>
		<category><![CDATA[人工智能]]></category>
		<category><![CDATA[英特尔]]></category>
		<guid isPermaLink="false">https://mylogs.cn/amd-%e4%b8%8e%e8%8b%b1%e7%89%b9%e5%b0%94%e7%bd%95%e8%a7%81%e8%81%94%e6%89%8b-%e7%bb%9f%e4%b8%80-x86-%e7%9a%84-ai-%e5%bc%80%e5%8f%91%e8%b7%af%e5%be%84/</guid>

					<description><![CDATA[把各自优化并入同一开源库 AMD 与英特尔于 10 月 20 日共同宣布，将在 PyTorch 的 x86 中 [&#8230;]]]></description>
										<content:encoded><![CDATA[<h2 class="wp-block-heading">把各自优化并入同一开源库</h2>
<p class="wp-block-paragraph">AMD 与英特尔于 10 月 20 日共同宣布，将在 PyTorch 的 x86 中央处理器优化上展开合作：双方把各自的优化工作整合进开源深度学习库 oneDNN，为开发者提供跨两家处理器的统一软件路径。oneDNN 将作为 PyTorch 内部 x86 加速的默认开源库。</p>
<p class="wp-block-paragraph">PyTorch 是广受学术界与产业界使用的开源深度学习框架，用于构建、训练和部署神经网络。过去，针对 AMD 或英特尔 CPU 的 PyTorch 负载往往要分别适配、调优；合作落地后，开发者有望通过同一条软件路径完成优化，降低 x86 人工智能生态的碎片化，减少重复开发与维护成本。</p>
<figure data-wp-context="{&quot;imageId&quot;:&quot;6b015fc15cb03&quot;}" data-wp-interactive="core/image" data-wp-key="6b015fc15cb03" class="wp-block-image wp-lightbox-container"><img decoding="async" data-wp-class--hide="state.isContentHidden" data-wp-class--show="state.isContentVisible" data-wp-init="callbacks.setButtonStyles" data-wp-on--click="actions.showLightbox" data-wp-on--load="callbacks.setButtonStyles" data-wp-on--pointerdown="actions.preloadImage" data-wp-on--pointerenter="actions.preloadImageWithDelay" data-wp-on--pointerleave="actions.cancelPreload" data-wp-on-window--resize="callbacks.setButtonStyles" src="https://mylogs.cn/wp-content/uploads/2026/10/inline_82402b8237637156975ac2b3428c74bc_0.webp" alt="AMD 与英特尔联合优化 PyTorch x86 路径" title="图片来源：IT之家" style="max-width:100%;height:auto;"/><button
			class="lightbox-trigger"
			type="button"
			aria-haspopup="dialog"
			data-wp-bind--aria-label="state.thisImage.triggerButtonAriaLabel"
			data-wp-init="callbacks.initTriggerButton"
			data-wp-on--click="actions.showLightbox"
			data-wp-style--right="state.thisImage.buttonRight"
			data-wp-style--top="state.thisImage.buttonTop"
		>
			<svg xmlns="http://www.w3.org/2000/svg" width="12" height="12" fill="none" viewBox="0 0 12 12">
				<path fill="#fff" d="M2 0a2 2 0 0 0-2 2v2h1.5V2a.5.5 0 0 1 .5-.5h2V0H2Zm2 10.5H2a.5.5 0 0 1-.5-.5V8H0v2a2 2 0 0 0 2 2h2v-1.5ZM8 12v-1.5h2a.5.5 0 0 0 .5-.5V8H12v2a2 2 0 0 1-2 2H8Zm2-12a2 2 0 0 1 2 2v2h-1.5V2a.5.5 0 0 0-.5-.5H8V0h2Z" />
			</svg>
		</button></figure>
<h2 class="wp-block-heading">ZenDNN 并入，AMD 加入 UXL 基金会</h2>
<p class="wp-block-paragraph">公告称，AMD 将把其 ZenDNN 优化集成至 oneDNN，并加入统一加速基金会（UXL Foundation）担任指导委员会成员。促成这次罕见合作的是 x86 生态咨询组的推动，两家公司在中央处理器软件生态上「化竞争为协作」。若推进顺利，开发者、云服务商与企业用户都能在 x86 服务器、工作站与人工智能个人电脑上获得更一致的 PyTorch 性能体验。</p>
<h2 class="wp-block-heading">下一代指令集 ACE 同步推进</h2>
<p class="wp-block-paragraph">除 oneDNN 外，AMD 与英特尔还在推进面向 x86 的「AI 计算扩展」（AI Compute Extensions，ACE）下一代指令集架构，重点加速矩阵乘法——人工智能训练与推理中的核心运算。相关能力计划未来通过 oneDNN 更新接入 PyTorch。</p>
<p class="wp-block-paragraph">对构建、部署和跨平台迁移人工智能应用而言，统一的底层路径意味着更顺畅的开发体验。在英伟达在人工智能加速硬件上占据领先的背景下，x86 阵营选择在软件栈上抱团，折射出传统处理器厂商希望通过生态协同守住人工智能工作负载话语权的思路。</p>]]></content:encoded>
					
		
		
			</item>
		<item>
		<title>谷歌开源 TorchTPU，联手亚马逊挑战英伟达生态</title>
		<link>https://mylogs.cn/%e8%b0%b7%e6%ad%8c%e5%bc%80%e6%ba%90-torchtpu%ef%bc%8c%e8%81%94%e6%89%8b%e4%ba%9a%e9%a9%ac%e9%80%8a%e6%8c%91%e6%88%98%e8%8b%b1%e4%bc%9f%e8%be%be%e7%94%9f%e6%80%81/</link>
		
		<dc:creator><![CDATA[steve, zhang]]></dc:creator>
		<pubDate>Wed, 21 Oct 2026 00:28:08 +0000</pubDate>
				<category><![CDATA[科技]]></category>
		<category><![CDATA[PyTorch]]></category>
		<category><![CDATA[TPU]]></category>
		<category><![CDATA[人工智能]]></category>
		<category><![CDATA[开源]]></category>
		<category><![CDATA[英伟达]]></category>
		<category><![CDATA[谷歌]]></category>
		<guid isPermaLink="false">https://mylogs.cn/%e8%b0%b7%e6%ad%8c%e5%bc%80%e6%ba%90-torchtpu%ef%bc%8c%e8%81%94%e6%89%8b%e4%ba%9a%e9%a9%ac%e9%80%8a%e6%8c%91%e6%88%98%e8%8b%b1%e4%bc%9f%e8%be%be%e7%94%9f%e6%80%81/</guid>

					<description><![CDATA[人工智能应用的开发，长期以来被英伟达的图形处理器（GPU）及其软件生态所主导。绝大多数模型从训练到部署，默认都 [&#8230;]]]></description>
										<content:encoded><![CDATA[<p class="wp-block-paragraph">人工智能应用的开发，长期以来被英伟达的图形处理器（GPU）及其软件生态所主导。绝大多数模型从训练到部署，默认都跑在英伟达的硬件与工具链上。当地时间 10 月 20 日，谷歌宣布面向自家张量处理单元（TPU）的原生 PyTorch 框架 TorchTPU 已在 GitHub 上开源，与亚马逊几天前发布的同类方案形成呼应，两家云巨头同时向英伟达在人工智能行业的主导地位发起冲击。</p>
<h2 class="wp-block-heading">PyTorch 为何成了英伟达的&#8221;护城河&#8221;</h2>
<p class="wp-block-paragraph">PyTorch 是目前最热门的开源深度学习框架，人工智能应用开发者与初创企业依靠它来搭建、训练和部署模型。有统计显示，约 85% 的人工智能应用都在使用 PyTorch。</p>
<p class="wp-block-paragraph">这一框架最初由 Meta 于 2016 年开发，彼时行业还完全没有意识到大语言模型会改变世界。当时英伟达的 GPU 已经成为人工智能研究的标准硬件，因此 PyTorch 的许多底层功能都是专门为适配英伟达 GPU 而打造的。2022 年，Meta 将 PyTorch 移交至 Linux 基金会，由这家非营利机构统一管理众多重要开源项目。</p>
<p class="wp-block-paragraph">正是这种&#8221;为 GPU 而生&#8221;的历史路径，让英伟达在人工智能时代构筑起深厚的生态壁垒：开发者的习惯、第三方库的适配、运维工具链，几乎都围绕英伟达硬件展开。</p>
<h2 class="wp-block-heading">谷歌 TorchTPU：改配置即可迁移，无需重写代码</h2>
<p class="wp-block-paragraph">谷歌推出的 TorchTPU，能够让人工智能应用直接在谷歌自研的 TPU 上运行。更重要的是，它提供了便捷的迁移路径——开发者只需简单修改配置，无需重写应用代码，就能把现有的 PyTorch 应用迁移到 TPU，进而迁移到谷歌云平台。</p>
<p class="wp-block-paragraph">这意味着，对于那些已经在英伟达 GPU 上跑通的业务，切换到谷歌的硬件与云服务在理论上不再需要伤筋动骨的改写，迁移门槛被大幅拉低。</p>
<h2 class="wp-block-heading">亚马逊同步推出 TorchNeuron</h2>
<p class="wp-block-paragraph">在谷歌之前，亚马逊于当地时间 10 月 19 日发布了类似的方案——自家的 PyTorch 版本 TorchNeuron。它可以在不重写代码的情况下，把人工智能应用移植到亚马逊自研芯片 Trainium 以及亚马逊云（AWS）上。</p>
<p class="wp-block-paragraph">亚马逊还表示，将进一步削弱英伟达对 PyTorch 的掌控力。其正在向 PyTorch 主项目提交代码，把各类功能与英伟达芯片解耦，让 PyTorch 从底层就能原生兼容各类不同硬件。</p>
<h2 class="wp-block-heading">更广泛的阵容：联合生态伙伴</h2>
<p class="wp-block-paragraph">IT之家注意到，谷歌在部分举措的力度上或许超过了亚马逊。谷歌称，其直接联合 Meta、Hugging Face、Inferact（vLLM 开发方）、RadixArk（SGLang 开发方）等多方合作，保证 TorchTPU 的功能与代码库能够像原版 PyTorch 一样，与这些主流人工智能开发工具良好兼容。换句话说，谷歌不只是做了一个&#8221;能跑&#8221;的移植层，而是试图把整个推理与服务生态一并接上 TPU。</p>
<p class="wp-block-paragraph">此外，谷歌推出了专用工具&#8221;TPU 智能体套件&#8221;，帮助开发者把应用迁移到谷歌芯片与云平台，并在迁移过程中自动排查、修复错误。谷歌还升级了被广泛使用的 LiteRT 工具——该工具用于在手机、笔记本电脑和嵌入式设备上运行人工智能模型，升级后可以更好地支持基于 PyTorch 开发的人工智能应用，把&#8221;去英伟达化&#8221;的触角延伸到端侧设备。</p>
<figure data-wp-context="{&quot;imageId&quot;:&quot;6b015fc15dae8&quot;}" data-wp-interactive="core/image" data-wp-key="6b015fc15dae8" class="wp-block-image wp-lightbox-container"><img decoding="async" data-wp-class--hide="state.isContentHidden" data-wp-class--show="state.isContentVisible" data-wp-init="callbacks.setButtonStyles" data-wp-on--click="actions.showLightbox" data-wp-on--load="callbacks.setButtonStyles" data-wp-on--pointerdown="actions.preloadImage" data-wp-on--pointerenter="actions.preloadImageWithDelay" data-wp-on--pointerleave="actions.cancelPreload" data-wp-on-window--resize="callbacks.setButtonStyles" src="https://mylogs.cn/wp-content/uploads/2026/10/inline_49dd37437991a5050789d25a37c8d10d_0.webp" alt="谷歌 TPU 与 PyTorch 生态示意" title="图片来源：IT之家" style="max-width:100%;height:auto;"/><button
			class="lightbox-trigger"
			type="button"
			aria-haspopup="dialog"
			data-wp-bind--aria-label="state.thisImage.triggerButtonAriaLabel"
			data-wp-init="callbacks.initTriggerButton"
			data-wp-on--click="actions.showLightbox"
			data-wp-style--right="state.thisImage.buttonRight"
			data-wp-style--top="state.thisImage.buttonTop"
		>
			<svg xmlns="http://www.w3.org/2000/svg" width="12" height="12" fill="none" viewBox="0 0 12 12">
				<path fill="#fff" d="M2 0a2 2 0 0 0-2 2v2h1.5V2a.5.5 0 0 1 .5-.5h2V0H2Zm2 10.5H2a.5.5 0 0 1-.5-.5V8H0v2a2 2 0 0 0 2 2h2v-1.5ZM8 12v-1.5h2a.5.5 0 0 0 .5-.5V8H12v2a2 2 0 0 1-2 2H8Zm2-12a2 2 0 0 1 2 2v2h-1.5V2a.5.5 0 0 0-.5-.5H8V0h2Z" />
			</svg>
		</button></figure>
<h2 class="wp-block-heading">能否真正撼动英伟达仍是未知数</h2>
<p class="wp-block-paragraph">这些进展并不意味着人工智能开发者会仅仅因为迁移变得方便，就集体放弃英伟达硬件。英伟达多年积累的性能、稳定性、开发者社区与软件完整性，并非一两个开源框架就能轻易抹平。</p>
<p class="wp-block-paragraph">但可以确定的是，谷歌与亚马逊正在从不同方向同时发力：一个用云与自研芯片的组合拳，一个用框架层与生态伙伴的合围，目标都是终结英伟达一家独大的局面。对于广大开发者而言，硬件与平台选择空间的扩大，本身就是这场博弈最直接的价值。</p>]]></content:encoded>
					
		
		
			</item>
		<item>
		<title>华为：昇腾已跨过生态拐点</title>
		<link>https://mylogs.cn/%e5%8d%8e%e4%b8%ba%ef%bc%9a%e6%98%87%e8%85%be%e5%b7%b2%e8%b7%a8%e8%bf%87%e7%94%9f%e6%80%81%e6%8b%90%e7%82%b9/</link>
		
		<dc:creator><![CDATA[steve, zhang]]></dc:creator>
		<pubDate>Sat, 19 Sep 2026 09:04:09 +0000</pubDate>
				<category><![CDATA[科技]]></category>
		<category><![CDATA[AI 算力]]></category>
		<category><![CDATA[PyTorch]]></category>
		<category><![CDATA[华为]]></category>
		<category><![CDATA[开源社区]]></category>
		<category><![CDATA[昇腾]]></category>
		<category><![CDATA[智能体]]></category>
		<guid isPermaLink="false">https://mylogs.cn/%e5%8d%8e%e4%b8%ba%ef%bc%9a%e6%98%87%e8%85%be%e5%b7%b2%e8%b7%a8%e8%bf%87%e7%94%9f%e6%80%81%e6%8b%90%e7%82%b9/</guid>

					<description><![CDATA[华为：昇腾已跨过生态拐点 9 月 19 日，华为计算战略与业务发展部部长朱照生公开表示，昇腾已经跨越了生态的拐 [&#8230;]]]></description>
										<content:encoded><![CDATA[<p class="wp-block-paragraph"><a href="https://mylogs.cn/%e9%b8%bf%e8%92%99-7-%e8%b6%85%e7%a9%ba%e9%97%b4%e5%ad%98%e5%82%a8%e6%89%a9%e5%ae%b9%ef%bc%9a1tb-%e6%9c%ba%e5%9e%8b%e6%9c%80%e5%a4%9a%e8%85%be-109gb/"><a href="https://mylogs.cn/%e5%be%ae%e4%bf%a1%e9%b8%bf%e8%92%99%e7%89%88-8-0-22-34-%e5%b0%9d%e9%b2%9c%ef%bc%9a%e8%bf%99%e4%ba%9b%e6%96%b0%e5%8a%9f%e8%83%bd%e5%80%bc%e5%be%97%e5%85%b3%e6%b3%a8/"><a href="https://mylogs.cn/%e5%8d%8e%e4%b8%ba-watch-gt-6-%e6%8e%a8%e9%b8%bf%e8%92%99-7-%e5%85%ac%e6%b5%8b%ef%bc%9a%e5%85%89%e7%a9%b9%e8%a1%a8%e7%9b%98%e9%a2%86%e8%a1%94-12-%e9%a1%b9%e6%96%b0%e7%89%b9%e6%80%a7/"><a href="https://mylogs.cn/harmonyos-7%e6%ad%a3%e5%bc%8f%e7%89%88%e6%8e%a8%e9%80%81%ef%bc%9amate-80%e7%ad%89%e9%a6%96%e6%89%b9%e6%9c%ba%e5%9e%8b%e5%8f%af%e5%8d%87/">华为</a></a></a></a>：昇腾已跨过生态拐点</p>
<p class="wp-block-paragraph">9 月 19 日，华为计算战略与业务发展部部长朱照生公开表示，昇腾已经跨越了生态的拐点，完全有能力、有机会在智能体时代构建<a href="https://mylogs.cn/chatgpt-pro-%e9%87%8d%e5%bc%80-200-%e7%be%8e%e5%85%83%e6%a1%a3%ef%bc%9aapi-%e4%bb%b7%e5%80%bc%e8%bf%91%e7%bf%bb%e5%80%8d/"><a href="https://mylogs.cn/%e8%85%be%e8%ae%af%e5%86%85%e6%b5%8b-ai-%e6%b8%b8%e6%88%8f%e6%90%ad%e5%ad%90%e9%b9%85%e6%ac%a1%e5%85%83%ef%bc%9a%e6%95%b0%e5%ad%97%e4%ba%ba%e9%99%aa%e4%bd%a0%e5%bc%80%e9%bb%91/">人工智能</a></a>新生态。这番表态出现在人工智能<a href="https://mylogs.cn/ai-%e6%99%ba%e8%83%bd%e4%bd%93%e5%bc%95%e7%88%86%e9%9c%80%e6%b1%82%ef%bc%9a%e6%9c%8d%e5%8a%a1%e5%99%a8-cpu-%e4%ba%a4%e4%bb%98%e8%a6%81%e7%ad%89-30-%e5%91%a8/">算力</a>竞争白热化的当下，也为外界观察华为算力战略的进展提供了最新注脚。</p>
<p class="wp-block-paragraph"><img decoding="async" style="max-width:100%;height:auto" src="https://mylogs.cn/wp-content/uploads/2026/09/ithome441_header.webp" alt="华为昇腾 AI 算力生态概念图" title="图片来源：华为" /></p>
<h2 class="wp-block-heading">开源社区：月活超 5200，非华为开发者反超</h2>
<p class="wp-block-paragraph">朱照生披露的数据显示，昇腾 CANN 开源社区月均活跃用户数已超过 5200 人，自今年 6 月起成为国内活跃度最高的开源社区。更关键的变化在于，社区中非华为开发者的数量已经超过华为开发者数量，表明外部力量正成为生态贡献的主力。</p>
<p class="wp-block-paragraph">目前该社区日均新增合入代码超过 3 万行，代码迭代速度颇为可观。对于一个底层算力软件栈而言，开发者生态的活跃度往往比单点性能更能决定长期竞争力。</p>
<h2 class="wp-block-heading">模型层面：国内唯一支持预训练的算力平台</h2>
<p class="wp-block-paragraph">在模型支持上，基于昇腾完成预训练的<a href="https://mylogs.cn/claude-opus-5-5-%e7%a0%b4%e6%8a%98%e5%8f%b7%e7%94%a8%e9%87%8f%e9%99%8d-95%ef%bc%8c%e6%96%87%e9%a3%8e%e6%9b%b4%e5%85%8b%e5%88%b6/">大语言模型</a>和多模态模型已超过 40 个，昇腾由此成为国内唯一支持预训练的 AI 算力平台。这意味着从底层芯片到上层大模型训练，华为正在补齐全栈自主的闭环。</p>
<p class="wp-block-paragraph">生态兼容性方面，昇腾除自身开源 CANN 外，已接入 PyTorch 等主流开源框架，降低了开发者的迁移门槛。</p>
<h2 class="wp-block-heading">硬件与云服务：一年一代演进</h2>
<p class="wp-block-paragraph">在硬件与云服务节奏上，华为灵衢昇腾 950 智算集群云服务计划于 9 月 30 日面向国内市场商用，并于 11 月 30 日面向全球市场商用。此前，华为在全联接大会 2026 上发布了昇腾 960 超节点，将于 2027 年第三季度正式上市。</p>
<p class="wp-block-paragraph">华为方面表示，后续将坚持一年一代的演进节奏：昇腾 970 计划于 2028 年发布，昇腾 980 计划于 2029 年发布。另据华为轮值董事长汪涛此前介绍，昇腾 960 芯片将提前至 2027 年第一季度发布，实现性能翻番。</p>
<h2 class="wp-block-heading">小结</h2>
<p class="wp-block-paragraph">从开源社区的反超到预训练能力的落地，再到一年一代的硬件节奏，华为正在用一套组合拳证明昇腾生态的可持续性。生态拐点是否真正到来，最终仍要看开发者与模型厂商能否持续用脚投票。</p>]]></content:encoded>
					
		
		
			</item>
		<item>
		<title>3块钱、2小时从零训一个大模型：MiniMind 火了</title>
		<link>https://mylogs.cn/3%e5%9d%97%e9%92%b1%e3%80%812%e5%b0%8f%e6%97%b6%e4%bb%8e%e9%9b%b6%e8%ae%ad%e4%b8%80%e4%b8%aa%e5%a4%a7%e6%a8%a1%e5%9e%8b%ef%bc%9aminimind-%e7%81%ab%e4%ba%86/</link>
		
		<dc:creator><![CDATA[steve, zhang]]></dc:creator>
		<pubDate>Thu, 10 Sep 2026 20:58:09 +0000</pubDate>
				<category><![CDATA[科技]]></category>
		<category><![CDATA[AI学习]]></category>
		<category><![CDATA[GitHub]]></category>
		<category><![CDATA[PyTorch]]></category>
		<category><![CDATA[大模型]]></category>
		<category><![CDATA[开源项目]]></category>
		<guid isPermaLink="false">https://mylogs.cn/3%e5%9d%97%e9%92%b1%e3%80%812%e5%b0%8f%e6%97%b6%e4%bb%8e%e9%9b%b6%e8%ae%ad%e4%b8%80%e4%b8%aa%e5%a4%a7%e6%a8%a1%e5%9e%8b%ef%bc%9aminimind-%e7%81%ab%e4%ba%86/</guid>

					<description><![CDATA[训练一个大模型要多少钱？很多人的第一反应是&#8221;几百万张显卡、几十亿预算&#8221;。GitHub  [&#8230;]]]></description>
										<content:encoded><![CDATA[<p class="wp-block-paragraph">训练一个<a href="https://mylogs.cn/chatgpt-pro-%e9%87%8d%e5%bc%80-200-%e7%be%8e%e5%85%83%e6%a1%a3%ef%bc%9aapi-%e4%bb%b7%e5%80%bc%e8%bf%91%e7%bf%bb%e5%80%8d/">大模型</a>要多少钱？很多人的第一反应是&#8221;几百万张显卡、几十亿预算&#8221;。GitHub 上一个名为 MiniMind 的开源项目给出了另一个答案：单张 RTX 3090 显卡，约 2 小时、约 3 元人民币的租卡成本，就能从零训练出一个 64M 参数、能对话、会调用工具的语言模型。</p>
<p class="wp-block-paragraph">这个项目最近重新冲上 GitHub 趋势榜，单日新增上千星标。截至目前，MiniMind 已累计收获超过 5.68 万 Star 和 7400 多次 Fork。需要注意的是，它并非横空出世的新项目——仓库创建于 2024 年 7 月，持续迭代超过两年，最近一次提交落在 2026 年 8 月 31 日，采用完全免费的 Apache 2.0 协议开源。</p>
<h2 class="wp-block-heading">&#8220;大道至简&#8221;：不是微调，而是从零造一遍</h2>
<p class="wp-block-paragraph">MiniMind 的核心理念写在 README 的开头：&#8221;用乐高自己拼出一架飞机，远比坐在头等舱里飞行更让人兴奋。&#8221;</p>
<p class="wp-block-paragraph">与市面上大多数&#8221;挂个 LoRA 微调一下&#8221;的教程不同，MiniMind 的所有核心算法——Transformer 结构、分词器、训练循环、对齐流程——全部用原生 PyTorch 从零实现，不依赖 transformers、trl、peft 等任何高层框架封装。训练过程中的每一次张量变换、每一处注意力计算都清晰可见。</p>
<p class="wp-block-paragraph">作者在项目说明中打过一个比方：只会调用现成模型，就像教牛顿使用 21 世纪的<a href="https://mylogs.cn/iqoo-16-%e9%a6%96%e5%8f%91%e7%ac%ac%e5%85%ad%e4%bb%a3%e9%aa%81%e9%be%99-8-%e8%87%b3%e5%b0%8a%e7%89%88%ef%bc%8c5999-%e5%85%83%e8%b5%b7/"><a href="https://mylogs.cn/iqoo-15-%e9%94%80%e9%87%8f%e7%aa%81%e7%a0%b4-200-%e4%b8%87%e5%8f%b0/"><a href="https://mylogs.cn/%e8%8d%a3%e8%80%80-magic9-%e5%85%a8%e7%b3%bb%e8%8e%b7%e9%a6%96%e6%89%b9-ai-%e6%99%ba%e8%83%bd%e4%bd%93%e6%89%8b%e6%9c%ba%e8%ae%a4%e8%af%81/">智能手机</a></a></a>——手机玩得再溜，物理还是没碰着。MiniMind 想解决的就是这个问题：让学习者亲手把&#8221;预训练&#8221;&#8221;SFT&#8221;&#8221;RLHF&#8221;这些被说烂的名词跑一遍。</p>
<h2 class="wp-block-heading">&#8220;2小时3块钱&#8221;的账，官方自己算清楚了</h2>
<p class="wp-block-paragraph">&#8220;2 小时、3 元钱&#8221;听起来像营销话术，但 README 里给出了实测口径：所谓 2 小时，指的是 SFT（指令微调）阶段在单张 RTX 3090 上跑完 1 个 epoch 的实测耗时，约 1.10 小时；预训练约 1.21 小时，两者合计约 2.31 小时。按 3090 租卡单价约 1.3 元/小时计算，全程约 3 元人民币。</p>
<p class="wp-block-paragraph">这条最快路线使用 1.2GB 的 mini 版预训练数据和 1.6GB 的 SFT 数据，产出的是一个名为 MiniMind-3 Zero 的对话模型。想训得更充分，也有 10GB/14GB 的完整版数据集可选。</p>
<p class="wp-block-paragraph">训出来的模型有多大本事？64M 参数，约为 GPT-3 的两千七百分之一。作者自己在 README 里反复强调：它打不过任何商用模型。官方保留的对话样例里，这个模型会一本正经地编造&#8221;杭州特色美食是鸡肉串、鳗鱼头&#8221;。在中文评测 C-Eval 上它只拿到 24.89 分——几乎贴着四选一瞎蒙的期望线。</p>
<p class="wp-block-paragraph">但有两组数据值得认真看：其一，数学工具调用任务的 20 道题，SFT 权重答对 12 道，经过 Agentic RL（智能体强化学习）后答对 17 道，正确率从 60% 提升到 85%——一个 64M 的模型学会了&#8221;先调计算器再报答案&#8221;；其二，强化学习后的权重在开放问答上事实性会下降、幻觉更明显，这就是常说的&#8221;对齐税&#8221;，作者的坦率记录本身就是很好的学习材料。</p>
<figure data-wp-context="{&quot;imageId&quot;:&quot;6b015fc15f72b&quot;}" data-wp-interactive="core/image" data-wp-key="6b015fc15f72b" class="wp-block-image size-large wp-lightbox-container"><img decoding="async" data-wp-class--hide="state.isContentHidden" data-wp-class--show="state.isContentVisible" data-wp-init="callbacks.setButtonStyles" data-wp-on--click="actions.showLightbox" data-wp-on--load="callbacks.setButtonStyles" data-wp-on--pointerdown="actions.preloadImage" data-wp-on--pointerenter="actions.preloadImageWithDelay" data-wp-on--pointerleave="actions.cancelPreload" data-wp-on-window--resize="callbacks.setButtonStyles" src="https://mylogs.cn/wp-content/uploads/2026/09/r24_01_inner_1.webp" alt="MiniMind 模型结构与训练流程" /><button
			class="lightbox-trigger"
			type="button"
			aria-haspopup="dialog"
			data-wp-bind--aria-label="state.thisImage.triggerButtonAriaLabel"
			data-wp-init="callbacks.initTriggerButton"
			data-wp-on--click="actions.showLightbox"
			data-wp-style--right="state.thisImage.buttonRight"
			data-wp-style--top="state.thisImage.buttonTop"
		>
			<svg xmlns="http://www.w3.org/2000/svg" width="12" height="12" fill="none" viewBox="0 0 12 12">
				<path fill="#fff" d="M2 0a2 2 0 0 0-2 2v2h1.5V2a.5.5 0 0 1 .5-.5h2V0H2Zm2 10.5H2a.5.5 0 0 1-.5-.5V8H0v2a2 2 0 0 0 2 2h2v-1.5ZM8 12v-1.5h2a.5.5 0 0 0 .5-.5V8H12v2a2 2 0 0 1-2 2H8Zm2-12a2 2 0 0 1 2 2v2h-1.5V2a.5.5 0 0 0-.5-.5H8V0h2Z" />
			</svg>
		</button><figcaption class="wp-element-caption">图片来源：MiniMind GitHub 仓库（jingyaogong/minimind）</figcaption></figure>
<h2 class="wp-block-heading">技术上怎么做到的</h2>
<p class="wp-block-paragraph">MiniMind 的省钱秘诀从词典开始：主流模型的词表动辄十几万（Qwen2 为 151,643、Llama 3 为 128,000），MiniMind 只配了 6,400 个词元。词典薄，分词就碎，但 embedding 层省下的参数可以匀给真正干活的网络主体。主线模型配置为 8 层 Transformer、隐藏维度 768，结构对齐 Qwen3 生态，训完可直接扔进 ollama、vllm、llama.cpp 等推理框架运行。</p>
<p class="wp-block-paragraph">训练流水线覆盖了语言模型的完整生命周期：预训练让模型学会&#8221;词语接龙&#8221;；SFT 让它理解 user、assistant、system、tool 等对话角色；之后的对齐阶段，DPO、PPO、GRPO、CISPO 等强化学习算法全部以原生 PyTorch 从零实现。一个值得注意的细节是，SFT 主线数据里直接混入了约 10 万条由 qwen3-4b 合成的工具调用样本，所以训完的模型天然就会一点 Tool Call。</p>
<p class="wp-block-paragraph">进阶的 Agentic RL 部分更激进：让模型在多轮工具调用中自己摸索，整条轨迹跑完才结算一次总奖励。大厂强化学习框架里显得最玄的&#8221;训推分离&#8221;&#8221;延迟奖励&#8221;，在这里被串成了能一口气读完的代码。</p>
<figure data-wp-context="{&quot;imageId&quot;:&quot;6b015fc15f9a1&quot;}" data-wp-interactive="core/image" data-wp-key="6b015fc15f9a1" class="wp-block-image size-large wp-lightbox-container"><img decoding="async" data-wp-class--hide="state.isContentHidden" data-wp-class--show="state.isContentVisible" data-wp-init="callbacks.setButtonStyles" data-wp-on--click="actions.showLightbox" data-wp-on--load="callbacks.setButtonStyles" data-wp-on--pointerdown="actions.preloadImage" data-wp-on--pointerenter="actions.preloadImageWithDelay" data-wp-on--pointerleave="actions.cancelPreload" data-wp-on-window--resize="callbacks.setButtonStyles" src="https://mylogs.cn/wp-content/uploads/2026/09/r24_01_inner_2.webp" alt="MiniMind 评测雷达图" /><button
			class="lightbox-trigger"
			type="button"
			aria-haspopup="dialog"
			data-wp-bind--aria-label="state.thisImage.triggerButtonAriaLabel"
			data-wp-init="callbacks.initTriggerButton"
			data-wp-on--click="actions.showLightbox"
			data-wp-style--right="state.thisImage.buttonRight"
			data-wp-style--top="state.thisImage.buttonTop"
		>
			<svg xmlns="http://www.w3.org/2000/svg" width="12" height="12" fill="none" viewBox="0 0 12 12">
				<path fill="#fff" d="M2 0a2 2 0 0 0-2 2v2h1.5V2a.5.5 0 0 1 .5-.5h2V0H2Zm2 10.5H2a.5.5 0 0 1-.5-.5V8H0v2a2 2 0 0 0 2 2h2v-1.5ZM8 12v-1.5h2a.5.5 0 0 0 .5-.5V8H12v2a2 2 0 0 1-2 2H8Zm2-12a2 2 0 0 1 2 2v2h-1.5V2a.5.5 0 0 0-.5-.5H8V0h2Z" />
			</svg>
		</button><figcaption class="wp-element-caption">图片来源：MiniMind GitHub 仓库（jingyaogong/minimind）</figcaption></figure>
<p class="wp-block-paragraph">评测部分还藏着一个有价值的细节：MiniMind-3 在 C-Eval 存在数据污染的子集上能跑到约 97%，去掉泄漏的题目后只剩 25 分上下。作者据此提醒：下次看到哪个新模型榜单刷得漂亮，先问一句它见过原题没有。</p>
<h2 class="wp-block-heading">谁适合上手</h2>
<p class="wp-block-paragraph">环境要求很低：Python 3.10 加一张消费级显卡即可。没有大显卡也有变通——训练脚本支持断点续训，LoRA 支路在 CPU 上也能跑；想先看看效果，直接执行 ollama 命令就能体验 64M 模型的&#8221;嘴硬&#8221;程度。</p>
<p class="wp-block-paragraph">项目还延伸出一系列子项目：视觉多模态的 MiniMind-V、全模态的 MiniMind-O、扩散语言模型 MiniMind-dLM、线性注意力版本 MiniMind-Linear，以及 198M 参数（激活 64M）的 MoE 版本。ICML 2025 上还有论文被作者列入由该项目促成的成果清单。</p>
<p class="wp-block-paragraph">客观地说，MiniMind 的价值不在生产力——想直接要生产力的用户继续调 API 更划算。它的价值在于把大模型的&#8221;黑盒&#8221;打开：当预训练、奖励稀疏、对齐税这些词变成亲手跑过的 loss 曲线，再看各家厂商的发布稿时，眼光会完全不同。</p>
<p class="wp-block-paragraph">]]&gt;</p>]]></content:encoded>
					
		
		
			</item>
	</channel>
</rss>
