首个支持的模型来自 Gradium

率先接入的是人工智能公司 Gradium 开发的 Phonon 系列语音模型。该模型体积较小、技术指标先进，用户无需依赖任何云端服务，即可通过 Ollama 直接下载，并在搭载 Apple Silicon 芯片的 Mac 上本地运行，非常适合注重隐私、需要离线使用的场景。

在 macOS 端，Ollama 采用苹果开源的机器学习框架 MLX，充分利用 Apple Silicon 的统一内存架构来提升运行效率。

速度比原方案最高快 35%

官方测试显示，在搭载 M5 Max 芯片的 MacBook Pro 上，Phonon 在保持与 Hugging Face Transformers 参考实现相当的词错误率前提下，语音生成速度比 Gradium 自身实现快 35%。换言之，同样一段语音，本地输出更快、准确率却不打折。

新功能还支持实时语音生成：用户不必等待 AI 完整输出文本，而是可以在回答生成的过程中同步听到语音，交互体验更接近自然对话。

五种语言与多种口音

Phonon 目前提供英语、法语、德语、西班牙语和葡萄牙语五种语言的独立模型，并配有覆盖全部五种语言的多语言模型。用户还可选择美式英语或英式英语等不同口音的音色。

根据 Ollama 官方博客补充的信息，本次语音能力随 Ollama 0.40.11 版本上线，Phonon 通过兼容 OpenAI 的 /v1/audio/speech 接口调用，默认输出 24kHz 单声道 WAV 音频；其中 40M 参数模型基于 CC BY-NC 4.0 许可（限制非商业使用），多语言模型则采用 Apache 2.0 许可。

仍是热门开源项目

Ollama 是 GitHub 上广受欢迎的 AI 开源项目之一，拥有近 18.5 万颗 Star 和约 1.86 万个 Fork 分叉。用户可以在本地下载、运行开放 AI 模型，也可按需接入云端更强大的模型。此次离线语音的加入，让”本地大模型”的可用性又向前迈了一步。