搭载 M4 Pro 芯片的 MacBook Pro 只有 24GB 统一内存，在本地运行参数量较大的大模型时，预填充（prefill）阶段的速度会受到明显制约。一名 Reddit 用户近日给出一个出人意料的思路：用一根 USB-C 线把 iPhone 17 Pro Max 接上 Mac，让手机的图形处理器分担一部分计算，把预填充性能最高提升了 44%。

跨设备拆层：Mac 算前 40 层，iPhone 算后 24 层

这套方案来自开源项目「backburner」，由 Reddit 用户 u/StayLameBro 发布，已在 GitHub 公开，采用 MIT 许可证。它基于 llama.cpp 的一个分支，专门适配苹果芯片的核间协同。

具体做法是把每一批 256 个 token 的运算拆开：MacBook Pro 负责计算第 1 至第 40 层，再把激活值数据流传输到手机端；与此同时，iPhone 利用 A19 Pro 的图形处理器运行第 41 至第 64 层，而 Mac 这边已经开始处理下一批数据。依靠图形处理器运算，手机端的处理速度相比不使用图形处理器时提升了约 2.4 倍。

神经网络引擎也没有闲置。每 16K 长度的旧上下文会被编译成一套神经网络引擎模型。在 140K 上下文长度下，相较于仅用 A19 Pro 图形处理器，单个 token 的写入耗时从 279 毫秒缩短到 176 毫秒。

实测数据：16K 上下文提速 44%

以把一份 2000 个 token 的文件做预填充并保存会话为例，性能表现如下：

上下文设为 8K 时，仅靠 Mac 本机的速度是每秒 132 个 token；外接 iPhone 之后达到每秒 177 个 token，提升 35%。上下文设为 16K 时，速度从每秒 109 个 token 涨到每秒 157 个 token，增幅高达 44%。当上下文窗口设为 32K 时，预填充速度从每秒 101 个 token 提升到每秒 130 个 token，改善 29%。

局限同样明显：生成环节帮不上忙

正如这名 Reddit 用户自己指出的，现实并没有这么理想。在 64K 以内的场景中，手机并不会加速文本生成，生成工作依旧全部由 Mac 完成。换句话说，这套方案主要改善的是「读取」类任务——比如把长文件或工具结果预填充进已保存的会话，而最影响体感的逐字输出环节，手机目前还插不上手。

未来空间：A20 Pro 余量更大

驱动 iPhone 18 Pro 与 iPhone 18 Pro Max 的 A20 Pro 芯片有望提供更大的性能余量。一方面它整体性能更强，另一方面配备双 16 核神经网络引擎。据称，针对专门适配神经网络处理器的任务，该引擎的数据吞吐能力甚至超过芯片内置的 7 核图形处理器。

即便仅作为一项实验，也能看出预填充加速带来的收益相当可观，后续仍有继续挖掘性能的潜力。不过这也引出一个有趣的猜想：如果这类「手机当外接算力」的用法普及，未来 iPhone 是否也会像内存、固态硬盘那样步入供货紧缺的阶段。

需要提醒的是，该项目目前仅由作者本人在一台 M4 Pro MacBook Pro 与两部 iPhone 上完成测试，数据属于单一来源，实际效果会因设备、模型量化方式与系统版本而异。

新配置基于 AMD 锐龙 AI Max+ PRO 495（代号 Gorgon Halo）处理器，最大亮点是板载 192GB LPDDR5X-8533 内存。如此庞大的统一内存容量，使这台迷你主机能够在本机运行参数量较大的大模型，对本地 AI 推理、代码编译与虚拟机等场景颇具吸引力。

价格与配置

单主板定价 6469 美元（约合人民币 43451 元），不含存储与基础配件的 DIY 版本整机定价 6799 美元（约合人民币 45668 元）。

整机扩展方面，Framework Desktop 提供 1 条开放式 PCIe Gen4 ×4 插槽、2 个 M.2 2280（PCIe Gen4 ×4）SSD 盘位，并配备 AMD RZ717 Wi-Fi 7 无线网卡。接口包含 1 个基于瑞昱 RTL8126 的 5GbE 网口、2 个 USB-C 40Gbps、2 个 USB-A 10Gbps、2 个 DisplayPort 2.1 与 1 个 HDMI 2.1，前面板还支持 2 个扩展卡模块。

面向本地 AI 的迷你主机

192GB 统一内存是 Framework Desktop 这一代最被关注的卖点。对开发者与 AI 爱好者而言，它意味着不必依赖云端即可在桌面上加载和调试较大的模型，兼顾数据隐私与离线可用。不过仅支持 Linux 也意味着它更像一款面向极客与专业用户的开发设备，而非普通家庭娱乐主机。

Framework 以模块化、可维修的设计著称，Framework Desktop 延续了这种思路，让用户能自行更换与升级核心部件。对于看重可维护性与本地算力的技术用户，这台”AI 迷你主机”提供了一个不同于传统台式机的新选项。

核心规格

磐镭 YO2 搭载 AMD 锐龙 AI MAX+ PRO 495 处理器，采用 Zen 5 架构，拥有 16 核 32 线程，集成 Radeon 8065S 核显。其 NPU 算力达到 55 TOPS，系统总算力为 131 TOPS，TDP 峰值可释放 160W 性能。

内存方面，机型配备 192GB LPDDR5X 8533 MHz 内存，最高可分配 160GB 作为独立动态显存，这对运行大参数模型尤为关键。存储上内置 3 个 PCIe 4.0 x4 2280 M.2 插槽，扩展空间充裕。

接口与连接能力

在接口配置上，磐镭 YO2 提供 2 个 USB4 40Gbps Type-C 接口、3 个 USB 3.2 Gen2 Type-A 接口以及 2 个 USB 2.0 接口；视频输出包含 1 个 HDMI 2.1 接口与 1 个 DP 2.0 接口。网络方面板载 2 个 2.5G 有线网口，并支持 WiFi 7 与蓝牙 5.4，同时搭载指纹识别模块。

面向大模型本地部署

磐镭在发布中强调该主机的 AI 属性。官方表示，YO2 支持 4 台满配设备串联，可形成最高 640GB 的显存池，从而运行超大量化的大语言模型。功耗管理上提供 55W、85W、120W 三档动态调节，用户可根据负载与散热条件灵活平衡性能与能耗。

从规格组合来看，192GB 超大内存、可分配的大容量动态显存，以及多机串联扩展能力，使磐镭 YO2 成为一台面向开发者与创作者的高密度本地 AI 计算设备。49999 元的定价也清晰指向高端专业市场，而非普通家用迷你主机用户。

图表按设备定位列出了可承载的最大激活参数规模：

iPhone 与 iPad：最高 140 亿参数，配备 16GB 统一内存、76GB/s 内存带宽，主要覆盖 Siri、文字润色、图片处理等轻量端侧任务。

MacBook Air：最高 350 亿参数，32GB 统一内存、153GB/s 带宽，面向中等 AI 负载与移动办公场景。

Mac mini：最高 700 亿参数，64GB 统一内存、307GB/s 带宽，适合运行更强的本地模型与隐私敏感任务。

MacBook Pro：最高 1,200 亿参数，128GB 统一内存、614GB/s 带宽，定位专业级大型模型与重度创作开发。

Mac Studio：最高 4,800 亿参数，512GB 统一内存、1.2TB/s 带宽，承担高强度 AI 推理及影视、科研算力。

Mac Studio 集群：最高 1.6 万亿参数，2TB 统一内存、1.2TB/s 带宽，面向集群级超大模型本地训练与推理。

苹果的方案依托统一内存架构，内存容量与带宽直接决定硬件可加载模型的参数量。设备定位越高，本地 AI 能力越强，这意味着越高端的设备越能在不依赖云端的情况下运行更大规模的模型，在隐私与离线场景中具备明显优势。

核心配置：128GB 内存配 1TB 存储

AI Max+ 395 款雷神 STATION 系列 AI 工作站配备 128GB LPDDR5X-8000+ 内存与 1TB PCIe Gen4 SSD，机身体积仅 2L，采用铝合金中框与 4 热管 3 风扇散热系统，支持 132W TDP，并预留 2 个空闲 M.2 SSD 盘位以扩展存储。无线网络方面搭载 Wi-Fi 7 与蓝牙 5.4 网卡。

在接口布局上，前面板提供 SD UHS-II 读卡器、1 个 USB-C 40Gbps、2 个 USB-A 10Gbps 以及 3.5mm 音频插孔；后面板则提供 1 个 USB-A 480Mbps、1 个 USB-A 10Gbps、HDMI 2.1、DisplayPort 1.4、1 个 USB-C 40Gbps、2 个 10GbE RJ-45 网口以及 3.5mm 音频插孔。双 10GbE 网口的配置，使其更适合需要高速内网传输与本地模型推理的小型工作站场景。

定位：面向本地 AI 推理的紧凑主机

从配置不难看出，雷神将这款产品定位为面向本地大模型推理与轻量级创作的小型 AI 工作站。128GB 统一内存能够容纳较大参数的模型在本地运行，双 10GbE 网口与丰富的高速 USB 接口则兼顾了数据传输与外接扩展需求。2L 的体积相比传统塔式工作站大幅压缩了占地面积，适合桌面空间有限但需要较强算力的开发者与小型团队。

该机型目前处于预约阶段，最终抢购价格以电商平台国补后 25499 元为准。对于关注本地化 AI 部署、希望摆脱云端算力依赖的用户而言，这类高内存紧凑主机提供了一个新的可选方案。

（图片来源：腾讯新闻）

9 月 22 日，散热与硬件厂商超频三正式开售融核系列 27 英寸 AI 模组化整机，首发售价 11999 元，已在天猫平台上线。官方对它的定位并非传统一体机，而是「高品质显示器 + AI 主机的融合体」，面向本地轻量 AI 部署场景。

屏幕背后塞进一颗 AI 芯

显示部分给得并不含糊：27 英寸 2K 分辨率、180Hz 高刷 IPS 面板，支持 DC 调光，最高亮度 350cd/m²，放在纯显示器市场也属中高端规格。主机部分搭载英特尔酷睿 Ultra 5 125U 处理器，采用 12 核心 24 线程架构，配备 DDR5 高频内存；机身采用全铝 CNC 工艺，配色为星空银。

磁吸顶盖：把可升级做成卖点

这款产品最特别的设计是磁吸顶盖——徒手即可更换硬盘、加装内存和清灰，官方称支持后续升级高算力主板。接口方面提供 USB 3.2、HDMI、DisplayPort、USB 2.0 和 RJ45，核心部件享 3 年质保。

把可升级性做成核心卖点，指向的是一体机「买定即锁死」的老问题：用户买到手后很难再动内部硬件。超频三的思路是用模组化打破这一点，让屏幕与主机各自独立、后续可单独升级。

NPU 本地加速能干什么

融核系列 AI 模组化整机原生内置独立 NPU，通过 CPU、GPU、NPU 三引擎协同承接 AI 负载。据官方介绍，其可稳定运行云端 AI 助手，支持 Ollama 搭配 Qwen 本地大模型并提供 NPU 硬件加速，依托 NPU 与 GPU 双引擎加速 Stable Diffusion、ComfyUI 出图，同时支持剪映 AI 视频创作，以及飞书、钉钉会议的 AI 音视频处理。

换句话说，云端 AI 应用稳定运行、本地 AI 任务加速处理，是这台机器主打的使用方式。至于本地 AI 部署最终能跑到什么程度，仍取决于后续可更换主板的级别。

对想在桌面上获得一台「能跑本地大模型、又能当高素质显示器用」的一体化设备的用户来说，11999 元的融核系列给出的是一个把可升级性写进产品定义的答案。

评测集中出炉

在苹果全新 M5 Ultra Mac Studio 于 9 月 22 日正式发售前夕，多家媒体提前放出评测。这台机器与同步亮相的 M6 Mac mini 一起，成为专业用户关注的焦点。科技媒体 9to5Mac 汇总了首批评测观点，核心结论高度一致：M5 Ultra Mac Studio 是一台为本地人工智能任务而生的”算力怪兽”。

本地跑大模型成为现实

知名评测人 Federico Viticci 在 MacStories 上用顶配版（256GB 内存）进行了数天测试。他的结论是：这台机器是运行本地 AI 智能体的”梦想设备”，可以在不额外支付云端算力费用的情况下，用本地模型驱动个人助手。他还把新机与搭载 M3 Ultra、512GB 内存的上一代，以及一台配备 RTX 5090 的台式机做了对比，认为苹果的统一内存架构从根本上改变了人们对本地模型能力的认知。

在视频博主实测中，满配版本（36 核 CPU、80 核 GPU、256GB 内存）成功在本地完整运行参数规模达 156GB 的 DeepSeek v4 Flash 模型，并用它几分钟时间做出了一款小游戏。另有评测者指出，256GB 版本上表现最佳的模型是 Qwen 3.8 Flash Next。

速度提升显著

Viticci 给出的量化数据颇具说服力：M5 Ultra 的提示词处理速度平均比 M3 Ultra 快约 150%，接近 2.5 倍。在 6.5 万 token 的提示词下，M3 Ultra 需要 59.7 秒才输出首个 token，M5 Ultra 仅需 24.4 秒；当上下文拉长到 26 万 token 时，两者分别为 246 秒和 104 秒。生成速度方面，Flash-Next 在短提示词下可超过每秒 100 token，即便上下文堆到 64K 至 256K，仍有每秒 60 至 85 token。

与独立显卡的取舍

相比 RTX 5090，M5 Ultra 在提示词处理上仍落后约 25%，生成速度也稳定落后，原因在于内存带宽（1.79 TB/s 对 1.2 TB/s）。不过 5090 仅有 32GB 显存，要处理 256K 上下文只能开启 8-bit 注意力缓存，一旦通过 PCIe 借用系统内存，生成速度会骤降到每秒 1.5 至 4.6 token。Mac 的统一内存池则不会出现溢出问题。

价格与定位

顶配版本（256GB 内存、4TB 存储）售价 12,299 美元；M5 Ultra 版本起售价 5,499 美元，512GB 内存版本预计 10 月底上市。在中国市场，M5 Ultra 版本起售价 42,999 元，M5 Max 版本起售价 19,999 元，顶配（256GB 内存、2TB 存储）售价 90,499 元。

苹果称 M5 Ultra 的 AI 性能较 M3 Ultra 最高提升 4.3 倍，较 M1 Ultra 提升 9.8 倍，内存带宽达 1.2 TB/s，可本地运行 700 亿参数级别的大模型。Geekbench 显示其 Metal GPU 得分最高 360,019 分，较 M3 Ultra 快 56.2%。

Tom’s Guide 评价其为迄今评测过的最强电脑：紧凑、凉快且安静，配备 6 个雷雳 5 接口。Viticci 也坦言，如果只是为了每月花 20 美元使用云端 Claude，这套本地方案并不值得折腾，它仍属于最前沿那一档。

雷神（THUNDEROBOT）近日正式发售其移动工作站笔记本 AI Master M7000，定价 24999 元。这款产品面向本地大模型推理与专业创作场景，核心卖点在于可离线部署百亿参数级别的大模型。

锐龙 AI Max+ 395 与 85GB AI 缓存

AI Master M7000 基于 AMD 锐龙 AI Max+ 395“Strix Halo”处理器，配备 64GB LPDDR5X-8000 内存。其 1TB SSD 被划分为 768GB 常规存储与 85GB 的 SLC 模式 AI Cache，官方称可支持 120B MoE（混合专家）模型本地部署。系统预装 FlowyAIPC 与 Herdsman 双人工智能引擎。

散热与屏幕规格

散热部分采用 2 风扇、3 热管、2 进风、4 出风设计，支持 160W 性能释放。屏幕为 16 英寸 2560×1600 分辨率、165Hz 刷新率、500nits 亮度、100% sRGB 高色域面板。机身采用全金属材质，内置 99Whr 电池，厚度 24.9mm，重量 2.45kg。

接口与影像

该机配备带物理遮蔽开关的 FHD IR 摄像模组，以及机械式玻璃触控板。外部接口涵盖 OCuLink、microSD UHS-II 读卡器、2.5GbE RJ-45 网口、USB-C 40Gbps 与 HDMI 2.1（FRL）等，扩展能力较为完整。

（本文基于 IT之家报道改写，头图来源：IT之家）

iPhone 18 Pro 与 iPhone 18 Pro Max 均配备 12GB、96 位位宽的 LPDDR5X 内存，内存带宽较上一代 iPhone 17 Pro 系列有明显提升，达到 115.2GB/s。配合双 16 核神经网络引擎，手机本地 AI 推理性能被推上新的台阶。开发者 Adrien Grondin 在 iPhone 18 Pro 上运行 Bonsai-27B 模型，直观展示了这一提升：模型生词速度相当惊人。

不过，能在离线状态下跑通 270 亿参数模型，也伴随着现实取舍。初代 Bonsai 采用 1 比特量化，4GB 内存设备即可流畅运行，8GB 乃至 12GB 内存的手机更是毫无压力；但采用 2 比特量化的 Bonsai 2 体积过大，无法完整装入 iPhone 18 Pro 的本地内存，反而会造成性能下降。这也点出了智能手机本地运行大模型的普遍困境：量化越激进，精度损失越大；要保住效果，就对内存容量提出更高要求。

在双 16 核神经网络引擎与高带宽统一内存的支撑下，iPhone 18 Pro 运行 Bonsai-27B 可保持高速、不卡顿，峰值吞吐甚至超过芯片内 7 核 GPU 在神经网络专用任务下的表现。对于希望进一步加大本地模型参数量的用户而言，后续机型的内存规格仍是关键变量。

背包里的 120B 大模型

官方称，AI Master M7000 可运行 1200 亿（120B）参数的端侧大模型，面向创作、开发、科研、涉密四大场景。其核心搭载 AMD 锐龙 AI Max+ 395 处理器，配备 64GB 内存与专门的 AI 固态硬盘，出厂预装本地推理引擎 Herdsman（牧马人），开机即可直接运行大模型，无需自行配置环境。

用固态硬盘“借”显存

让 120B 模型能在 64GB 内存上流畅跑起来的关键，是群联（Phison）的 aiDaptiv+ 方案。它的思路是把固态硬盘（SSD）当成显存的延伸：在推理过程中，模型权重可临时从硬盘“借”出来使用，相当于给本就不宽裕的内存扩容。借此，GPT-OSS-120B 这类体量的模型不再依赖专业显卡，普通消费级内存也能支撑长上下文的吞吐。

配置与接口

AI Master M7000 采用 16 英寸 2.5K 屏幕，内置 99Wh 电池，提供 OCuLink 扩展接口、2.5G 有线网口与 MicroSD（TF）高速读卡器，机身总重 2.45 公斤。市售款为 64GB 内存搭配 768GB 主存储与 85GB AI 加速存储的组合。

谁会需要它

当大模型推理从云端一路退回到桌面、再退回到背包，雷神这步棋瞄准的是一批既要求数据本地私密、又不愿牺牲参数规模的用户——科研机构、开发者团队，以及对数据合规有要求的涉密场景，都可以在不连接公网的情况下完成大模型推理。