MakeUseOf 撰稿人 Yadullah Abidi 分享了一个反例。DeepReinforce 的 Ornith 1.0 家族中体积最小的 Ornith 9B，在他 16GB 内存的笔记本上给出了接近 35B 级别的回答，换个版本还能读图。要复现这个结果，第一步是把硬件账算清楚。

一、先分清内存和显存

1. 全精度 bf16 运行 Ornith 9B 大约需要 19GB 内存，官方建议用 80GB 显存的 GPU 做非量化部署，个人机器基本无缘。
2. 量化版本才是可行路径。Q4_K_M 量化后模型体积压到约 5.6GB，扣掉系统占用和一个合理的上下文窗口，16GB 内存放得下。
3. 这里的 16GB 指系统内存，不是苹果芯片 Mac 那种 GPU 可以直接调用的统一内存。Abidi 的机器是 16GB 内存搭配 RTX 4060，显存 8GB。
4. 在装了独立显卡的机器上，决定速度的是显存而非总内存。5.6GB 的量化模型若塞不进显存，Ollama 会把一部分交给 CPU 处理，速度立刻掉下来。这与显卡品牌无关，显存只有几 GB 就会撞上同一堵墙。Mac 的内存和 GPU 共用一个池子，在这件事上反而占便宜。

二、想要读图能力，别拉错版本

1. Ornith-1.0-9B 的官方模型卡把文本列为主要模态。直接拉默认的 GGUF 或标准权重，是没有图像能力的。
2. 视觉能力来自单独导出的版本，在 Ollama 上以社区标签 robit/ornith-vision:9b 分发，并非 DeepReinforce 官方发布，它在同一套推理骨干上叠加了视觉和工具调用。
3. 另有至少一个量化 MLX 版本在模型卡上同时标注了文本和图像两种模态。也就是说多模态是特定构建的附加项，并非所有 Ornith 9B 文件都具备。
4. 结论很直接：按命名空间拉带 vision 标签的那一个，别随手拉搜索结果里第一个 Ornith 9B 量化包。Ollama 和 LM Studio 目前对多模态模型的支持都已经比较顺畅。

三、它强在哪，弱在哪

这个家族的特别之处在训练方式。Ornith 1.0 以 Qwen 3.5 为底座做后训练，采用自我改进的强化学习配方，让模型自行搭建并打磨解题脚手架，而不是依赖人工写死的智能体流程。体积小却能打，靠的是这一点，不是参数量。家族里还有 31B 稠密版、35B 混合专家版和一个 397B 混合专家版。

成绩方面，Ornith 9B 在 SWE-bench Verified 拿到 69.4%，Terminal-Bench 2.1 得 43.1，对手是 Gemma 4-31B、Qwen 3.6-35B 这类三到四倍体积的模型。不过同门的 35B 混合专家版在相同基准上仍明显更强。

短板也很明确：面对很长的多步智能体任务，9B 版本容易打转或卡住，大一号的兄弟处理得从容得多；如果模型有一部分跑在 CPU 上，这种情况来得更早。它的优势集中在编程和终端类任务，通用推理不要按 35B 的水准去期待。

来源：MakeUseOf

How-To Geek 作者 Nick Lewis 用自己的经历给出了对照：8GB 显存大致只能跑 70 亿参数（7B）模型，12GB 能跑 140 亿（14B），到了 16GB 才够跑 240 亿（24B）量级；而一个 270 亿（27B）的 Q4_K_M 量化模型，单是权重就要吃掉约 16GB 显存。

这还没算注意力缓存（KV cache）。它是模型记住上下文的临时内存，会额外占用显存的 25%（在 8K 上下文下）到翻倍（32K 上下文）。很多工具的默认上下文很短，比如 Ollama 默认只有 4096，所以小测试里显得很省，一旦把上下文拉长，显存立刻见底。

更关键的是，真实场景往往是好几个模型一起跑：主对话模型、负责向量检索的嵌入模型、再做一遍重排序的模型……一条典型的自动化流水线里同时跑 4 到 5 个模型并不稀奇。

混合专家模型（MoE）是个出路。这类模型只在每次推理时激活其中一部分参数，一个 200 亿级量化模型配 6 万上下文，在 RTX 5070 Ti 这样的显卡上能跑出每秒 100 个词以上的速度。优化手段还包括：把注意力缓存量化到 8 位或 4 位（一行配置即可）、主动限制上下文长度、用 MoE 替代稠密模型、把放不下的层卸载到 32GB 或 64GB 的系统内存。

说白了，16GB 不是「过剩」，而是「刚好及格」。想同时舒服地跑多个模型、留足上下文，24GB 才是真正的甜点档。打算本地玩 AI 的人，买卡时显存容量比核心频率更该排在前头。

来源：How-To Geek（作者 Nick Lewis，2026-08-09）

一年翻了近四倍

2025 年 8 月，Steam 上用 16GB 显存显卡的玩家只有 6.8%。不到一年，这个数字接近翻了四倍。

推力来自 RTX 5060 Ti 16GB、RX 9060 XT 16GB 和 9070 系列这批中端卡，加上英伟达高端型号的常规贡献；RTX 5070 冲到显卡榜第三，但它只有 12GB。另外 Valve 今年修好了一个统计漏洞——此前部分 AMD Radeon 显卡识别不出来，被塞进「通用 Radeon」类别，修完之后这部分也回到了 16GB 阵营。

别急着乐观：36% 的玩家手里是 16GB 或更高，反过来说近三分之二仍在 16GB 以下，47% 还停在 8GB 及以下。

想升级的，赶上了最坏的时候

我的判断是，这波「觉醒」来得有点晚。显存涨价正把大显存型号打得最狠：英伟达已经通知板卡厂，GDDR6 和 GDDR7 的供货价要涨；Tom’s Hardware 的报道称韩国市场 RTX 5000 本月起提价，Blackwell 一线最高可能涨 30%，其他地区大概率跟进。AMD 那边也预告了 Radeon 涨价，并直言 2026 下半年对 PC 玩家不会好过。

换句话说，大家终于认清 8GB 不够用的时候，16GB 正在变贵。手上是 8GB 又暂时够用的，不妨再扛一阵；真到非换不可，盯紧渠道实际成交价而不是首发价，比死等新卡实在。

来源：TechRadar