2.4 万亿参数，每步只激活 950 亿

这组数字的命名已经写明了规格：「2.4T」代表模型总参数量达到 2.4 万亿；「A95B」代表每次前向计算只为单个词元激活 950 亿参数。实现这一点的，是混合专家（MoE）结构：模型共 92 层，每层拥有 512 个专家，每个词元只路由到其中 10 个路由专家加 1 个共享专家。底层采用 Qwen3.5 架构，并混合了门控 DeltaNet 与门控注意力机制。

相比训练一个 2.4 万亿参数的稠密模型，MoE 让「模型很大、跑起来却只需算一小部分」成为可能，大幅压低了推理成本。原生上下文长度为 262144 个词元，最长可扩展至约 101 万词元，足以覆盖长文档与长周期智能体任务。

和云端 Max 版不是一回事

需要区分的是，放权的开源版与早先上线的云端版 Qwen3.8-Max 并不完全相同。云端 Max 于 8 月初发布，额外支持视觉输入、可关闭的思考模式、默认 100 万词元上下文，以及官方内置工具；而开源版 Qwen3.8-2.4T-A95B 目前只有文本输入，且思考模式默认开启、无法关闭——模型在给出最终回答前会先生成推理过程，并通过 preserve_thinking 标记在多次对话间保留推理上下文，适合需要跨步骤保持「草稿」的智能体循环。

在官方公布的基准中，同架构的云端版本 Qwen3.8-Max 在论文复现基准 PaperBench 取得 93.0 分、在计算机操作基准 OSWorld-Verified 取得 86.1 分、在参数化 CAD 基准取得 91.5 分，均居参评模型前列；不过在 TerminalBench 2.1（86.6）与 SWE-bench Pro（67.7）上仍略低于部分对手。整体定位被千问团队形容为「除 Fable 5 外最强的模型之一」。

自己跑起来要多少硬件

开源权重意味着可以本地部署。官方支持通过 Hugging Face Transformers、SGLang、vLLM、TokenSpeed 等推理框架加载，正式部署时需使用各框架针对 Qwen3.8 的最新配方，并按权重精度与 GPU 数量选择并行策略。

全精度权重体积可观，但开源社区已经给出了瘦身方案。Unsloth 团队用动态 1-bit 分层选择性量化技术，把原始约 4.9TB 的模型压到 397GB，存储空间缩减约 91%；借助其 Unsloth-Desktop 工具，只要设备的内存与显存合计达到 410GB 以上，就能在本地把模型跑起来。对没有数据中心的中小团队而言，这意味着前沿级能力第一次能以自托管的形式落在自己手里。

许可证与价格

开放不等于完全自由。Qwen3.8-2.4T-A95B 采用千问自定义许可证，而非早先常见的 Apache 2.0：个人下载、修改、部署不受限，但大规模商业使用需要另行取得授权。配套发布的还有一颗约 270 亿参数的稠密伴随模型 Qwen3.8-27B，面向算力有限的场景，不过在开源权重放出时尚未同步上线。

云端 Qwen3.8-Max 的国内 API 定价为每百万词元输入 12 元、输出 36 元，海外为每百万词元输入 2 美元、输出 6 美元。

为什么这件事值得关注

把旗舰级权重交到社区手中，意义不只在「又大了一点」。过去一年，西方实验室谈开源时往往只放出 200 亿到 300 亿参数量级的中等模型，而阿里这次直接把自家最强旗舰摆上了桌面。无论动机如何，实际效果是：当前能完全自托管、可离线运行的最强模型之一，来自于中国的开源阵营，且差距明显。

对开发者与研究者来说，这意味着不必再为前沿能力向专有 API 持续付费，也能在本地做微调、评测与私有化部署；对下游应用，则把竞争拉回了「在模型之上能做出什么」这一层。

来源：Hugging Face 模型页 / 千问团队（经 Hacker News 收录）

Agentic Index 衡量的是 AI 调用工具、规划多步任务、在真实工作场景中交付结果的能力——简单说就是”能不能当助手干活”。它由两项核心测试等权平均组成：GDPval-AA v2（模拟 44 种职业的知识工作完成度）和 τ³-Banking（金融客服多轮对话与知识检索）。两项都是实打实的工具调用测试，不是做选择题。

说白了，这个榜单一向被美国闭源模型垄断。此前中国模型最好的成绩是 Kimi K3 的 50.1 分，而这次 Qwen3.8-Max 直接把纪录拉高了 5 分以上。这意味着在”让 AI 真正动手做事”这条赛道上，中美差距正在快速收窄。

从模型规格看，Qwen3.8-Max 总参数量达 2.4 万亿（采用稀疏 MoE 架构），激活参数约 950 亿，上下文窗口支持 100 万 Token。它在多项子测试中表现突出：PaperBench（论文复现）93.0 分、OSWorld-Verified（电脑操作）86.1 分、Terminal-Bench 2.1（终端命令行操作）86.6 分——后两项均超过了 Claude Fable 5 和 GPT-5.6 Sol。

价格方面也有明显优势。Qwen3.8-Max 的 API 定价约为 Claude Opus 5 输入价格的 40%、输出价格的 24%。阿里还宣布将于下周开源 Qwen3.8-Max 权重，如果兑现承诺，这将是迄今公开的最大规模模型之一。

对开发者来说，这个排名传递了一个信号：选模型不必只盯美国闭源方案。如果你的应用涉及多模态操作、长程任务调度或成本敏感部署，Qwen3.8-Max 值得放进对比清单。

来源：Artificial Analysis / MarkTechPost / 量子位 / 上海证券报

它靠的不是压缩，是搬家。这两代通义千问用的是混合专家架构（MoE，一个大模型内部拆成许多小专家，每次只喊几个干活）：800 亿参数版每层从 512 个专家里挑 10 个，实际每个词元只激活约 30 亿参数。Swiftlet 把常驻不变的那部分留在内存里，只占 1.3GB 到 2.5GB；剩下几万个专家权重打包成固定步长的容器文件放进固态硬盘，用哪个读哪个，一次读取对应一个专家，热门专家再用小缓存兜着，实测命中率 43% 到 70%。

说白了，不是模型变小了，是内存这道门槛被硬盘顶掉了。这类”以存换存”的思路，落地速度大概会快过等更大内存的新机器。

代价也得说清楚。作者自己承认，每个词元只激活 30 亿参数，模型”聊天和写作像大模型，记事实像小模型”；长提示词处理更慢，社区实测一万词元的提示要跑约半小时。项目采用 Apache 2.0 协议，要求苹果芯片、macOS 14 或 iOS 17 以上，同时提供命令行工具和兼容主流接口的本地服务。

为了让数据不出本机，你愿意忍受每秒几个词元的速度吗？

来源：GitHub / leonickson1 · Swiftlet，Hacker News「Show HN: Run an 80B Qwen in 4.3 GB of RAM on a Mac, and a 35B on an iPhone」

它走的是稀疏MoE（混合专家）架构，总参数2.4万亿，每次推理只激活约950亿。上下文长度顶到1M tokens，硬件、显存、推理延迟这些事留给模型自己。定价是国际版每百万token输入2美元、输出6美元，对标Claude Opus 5只到对手的40%和24%。国内千问AI平台价格为每百万token输入12元、输出36元。

动手能力方面，官方甩出三个真实案例：模型从零搭建oh-my-cli项目，无人工介入跑16天，265次提交、127个PR、151个issue；复现一篇推理论文并自我迭代，连续工作125小时、7600行代码、33轮GPU训练，AIME24比原方法再涨2.7分；参加WWW2025多模态对话挑战赛，24小时内击败458支人类队伍。芯片设计任务里，500轮交互把硬件门数从8298压到678，物理面积从106×106微米缩到46×46微米，整体缩小81%。

基准上，PaperBench 93.0、IFBench 82.8、HealthBench 60.2、CoWorkBench 74.8、JobBench 53.4，多项超过Anthropic Fable 5和GPT-5.6 Sol；OSWorld-Verified 86.1、MLVU 90.8，多模态也不落下风。

说白了，这版千问终于把”长程自主”摆到台面上了，标杆不再是单点刷分，而是能不能从一个空文件夹干完一个真实项目。权重下周登陆Hugging Face和ModelScope，Qwen3.8-27B同步开源。能调用Codex、Claude Code、Qoder这些主流框架，国内直接上qianwenai.com。

我的判断是，国产大模型真正可用的临界点，不是榜单分数，而是这种”扔进去一个目标，干完十几个工作日”的工程闭环。等开源权重放出来，你会拿它跑什么？先想好怎么用。

来源：千问官方博客、凤凰网科技、IT之家

核心是阿里开源的千问语音模型

Qwen Scribe 的底层是阿里巴巴开源的 Qwen3-ASR 语音识别模型，通过 mlx-qwen3-asr 项目跑在 Mac 的 Metal GPU 上。Qwen3-ASR 是目前最强的开源语音识别模型之一，有第三方移植测试显示，它在多语言和嘈杂环境下的识别表现优于 OpenAI 的 Whisper-large-v3。

工具提供两档模型可选：追求准确率可以用 17 亿参数版本，占用约 3.4GB 统一内存；追求速度可以用 6 亿参数版本，只占约 1.2GB 内存。模型权重在首次使用时自动下载，之后即使断网也能正常转写。

两种用法：拖文件转写，或全局听写

Qwen Scribe 的功能分两块。第一块是文件转写：在本地网页界面里把音频或视频文件拖进去，工具会自动识别语言，支持强制指定语言、专有词汇提示、逐词时间戳，还能直接导出 SRT 字幕文件。所有转写记录自动保存在本地，可以随时重新打开或删除。

第二块是系统级听写，这也是最实用的部分：在任意应用的文本输入框里，按住右侧 Command 键说话，松开后文字就会在光标处自动粘贴出来——全程在本地完成识别。屏幕上会显示一个不抢焦点的悬浮提示，标明「聆听中」「转写中」以及成功或失败状态。

隐私设计上，这款工具做得相当细致：本地服务只监听 127.0.0.1，并做了 Host 和浏览器来源校验；听写助手只响应右 Command 键，粘贴文字前会在内存里暂存剪贴板内容，粘贴后如果剪贴板没被改动就自动恢复原状。

上手门槛：目前需要自己动手编译

想尝鲜的用户需要注意几个条件：必须是搭载 Apple Silicon 芯片的 Mac，系统要求 macOS 14 或更新版本，还需要安装 Python 3.12 以上版本和 ffmpeg。

目前的测试版只提供源码，没有现成的安装包——因为应用还没有经过苹果的开发者签名和公证，开发者不希望用户绕过系统安全警告安装未签名程序。用户需要克隆代码仓库后用 make app 命令自行编译。按照路线图，签名和公证过的正式安装包计划在 v0.2 版本推出。

另外要说明的是，Qwen Scribe 是独立的社区项目，与阿里云、千问团队以及苹果公司均无官方关联。

对于经常需要整理录音、写字幕，又不放心把敏感内容传到云端的用户来说，这类「模型在本地、数据不出门」的工具正在变成一个值得关注的方向——大厂的开源模型加上社区开发者的打磨，免费方案的体验已经越来越接近付费云服务。

来源：GitHub – VladUZH/qwen-scribe（via Hacker News）

实测数据：小模型跑赢大模型

在 iPhone 16 上通过 PocketPal 应用运行本地模型时，4B 参数规模的模型稳定在每秒约 13 个 token，2B 模型甚至能超过每秒 20 个。而在台式机上，用 LM Studio 运行 9B 模型，即便把 GPU 卸载层数推到不影响其他软件使用的极限，同样的任务只有每秒 9 个 token 左右——参数更小、硬件更弱的一方反而更快。

原因出在显存瓶颈上。LM Studio 允许把模型的 transformer 层卸载到 GPU 上运行，但每多推一层都要占用显存。9B 模型塞不进 8GB 显存的显卡时，溢出部分只能放进内存由 CPU 处理，速度随之断崖式下跌。想同时开着浏览器、Figma、Obsidian 等日常软件，就必须给显卡留余量，卸载层数减少，生成速度进一步变慢。

手机反而没有这种取舍。它本来就只能运行小模型，而这些模型正是针对移动端约束设计的——比如 Qwen 3.5 2B 就是该系列面向智能手机部署的版本。A18 芯片采用统一内存架构，不存在独立显存预算的冲突。且小模型的能力差距比参数量看起来小得多：据称 Qwen 4B 在许多基准测试上已能追平上一代 80B 模型的表现。

使用体验：省掉「启动税」

除了速度，手机还省掉了本地模型的「启动成本」。台式机上如果 LM Studio 没有预先加载好模型，从打开到出第一个 token 要等十秒以上；而 PocketPal 打开即自动载入上次使用的模型，几秒内就能开始输入。与手机上的云端 AI 相比，本地模型没有服务器往返延迟，首 token 响应反而更快。

台式机仍有不可替代的场景

这并不是说手机全面胜出。当关闭其他软件、让 LM Studio 独占整台机器时，9B 或 12B 模型可以轻松达到每秒 20 个 token 以上，小模型甚至能冲上三位数。需要长上下文的任务——比如解析整篇论文或长篇转录文本——2B 模型很快就会塞满，且手机在持续生成时会因发热降频。文档解析、研究综合这类需要「坐下来认真干活」的场景，台式机依然是更好的选择。

这次对比的结论是：对本地大模型而言，「合适」比「性能强」更重要，关键是让模型规模匹配设备与使用场景。

来源：XDA Developers