llama.cpp 1.0.0 发布:支持超 150 种模型

结论:llama.cpp 与 ggml 在 2026-11-13 发布 1.0.0,确立版本兼容规则,已支持超 150 种模型架构。
关键数字:版本 1.0.0 / 模型架构超 150 种 / 获 6 家芯片厂商测试支持。

维度1.0.0 规则含义
MAJOR1.x.x → 2.0.0/include 公共 C API 破坏性变更
MINOR1.0.x → 1.1.0向后兼容功能、后端/模型/API 新增
PATCH1.0.0 → 1.0.1仅 bug 修复,不改 API
模型支持超 150 种架构变体含主流推测解码方法

为什么 1.0.0 对开发者重要

此前版本号不标记兼容性,依赖这些库的应用难以判断升级边界;现在 MAJOR 专用于 API 或 ABI 不兼容的变更。

应用可从版本号直接判断某次升级是否要求同步修改代码,降低集成与维护的不确定性。

150 种模型架构背后的硬件版图

llama.cpp 已支持超过 150 种模型架构变体及主流推测解码方法,覆盖英伟达、AMD、高通、Arm、IBM、英特尔六大厂商。

ggml 通过专用后端支持不同硬件,每个后端可编译为动态库并按需在运行时加载;团队在各厂商硬件支持下扩大跨平台测试。

工程质量:持续集成与模型使用的取舍

团队使用 Hugging Face 的 HF Buckets、HF Jobs 扩展持续集成基础设施,并在六大厂商硬件支持下增加自托管测试运行器。

官方强调在开发流程中审慎使用大模型,把代码质量、架构控制与对实现细节的理解放在首位。

llama.cpp 1.0.0 适合在本地或边缘设备运行大模型的开发者,以及需要稳定推理接口的下游项目。

这意味着本地推理从”能用”走向”可长期维护”,版本规则降低了下游集成与升级的风险,有利于生态沉淀。

常见问题

1.0.0 会让我现有的程序跑不了吗?

不会立即破坏。MAJOR 升级(如未来 2.0.0)才标记 API 或 ABI 不兼容;1.0.x 的 MINOR 与 PATCH 均向后兼容。

llama.cpp 和 ggml 是什么关系?

llama.cpp(libllama)是上层 C/C++ 大模型推理库,ggml(libggml)是底层机器学习张量库;两者同步迈入 1.0.0 并共用版本规则。

信息来源:IT之家 2026-11-14 报道《本地推理引擎 llama.cpp 1.0.0 史诗级更新》(作者故渊),原始信源为 Gerganov 2026-11-13 X 平台推文。


说说

全部说说