本地运行的 AI 模型平台 Ollama 于 10 月 24 日宣布,其 Mac 应用正式加入文本转语音(TTS)能力,Windows 与 Linux 版本将在后续跟进。这意味着本地 AI 从”能读会写”进一步迈向”能开口说话”,且整个过程完全在设备端完成,用户数据无需上传云端。

首个支持的模型来自 Gradium
率先接入的是人工智能公司 Gradium 开发的 Phonon 系列语音模型。该模型体积较小、技术指标先进,用户无需依赖任何云端服务,即可通过 Ollama 直接下载,并在搭载 Apple Silicon 芯片的 Mac 上本地运行,非常适合注重隐私、需要离线使用的场景。
在 macOS 端,Ollama 采用苹果开源的机器学习框架 MLX,充分利用 Apple Silicon 的统一内存架构来提升运行效率。
速度比原方案最高快 35%
官方测试显示,在搭载 M5 Max 芯片的 MacBook Pro 上,Phonon 在保持与 Hugging Face Transformers 参考实现相当的词错误率前提下,语音生成速度比 Gradium 自身实现快 35%。换言之,同样一段语音,本地输出更快、准确率却不打折。
新功能还支持实时语音生成:用户不必等待 AI 完整输出文本,而是可以在回答生成的过程中同步听到语音,交互体验更接近自然对话。
五种语言与多种口音
Phonon 目前提供英语、法语、德语、西班牙语和葡萄牙语五种语言的独立模型,并配有覆盖全部五种语言的多语言模型。用户还可选择美式英语或英式英语等不同口音的音色。
根据 Ollama 官方博客补充的信息,本次语音能力随 Ollama 0.40.11 版本上线,Phonon 通过兼容 OpenAI 的 /v1/audio/speech 接口调用,默认输出 24kHz 单声道 WAV 音频;其中 40M 参数模型基于 CC BY-NC 4.0 许可(限制非商业使用),多语言模型则采用 Apache 2.0 许可。
仍是热门开源项目
Ollama 是 GitHub 上广受欢迎的 AI 开源项目之一,拥有近 18.5 万颗 Star 和约 1.86 万个 Fork 分叉。用户可以在本地下载、运行开放 AI 模型,也可按需接入云端更强大的模型。此次离线语音的加入,让”本地大模型”的可用性又向前迈了一步。







