AI搜索不必按月付费,本地就能搭

你可能也在为某个 AI 搜索工具按月掏钱,图的无非是它给完答案还附上来源,方便回头核对。XDA 撰稿人 Anurag Singh 干脆把这套体验搬回了自己的电脑,省下的正是那笔月费。

组合其实很简单:Ollama 负责在本地跑模型,Vane 负责搜索和界面。Vane 就是原先的 Perplexica 改名而来,内部用 SearXNG 从多个搜索引擎抓结果,再把相关页面交给模型阅读,生成一段带引用的答案,每条结论都能点回原始网页核对。它还分三种模式:Speed 给快答,Balanced 多花点时间收集,Quality 会反复检索、读页、修正,慢一些,但适合一次搜不清楚的问题。

部署比想象中省事。先装好 Ollama、下载模型,Vane 本身跑在 Docker 里,官方推荐的镜像已经把 SearXNG 打包在内,不用单独配搜索引擎。容器起来后浏览器打开 localhost:3000,在初始界面连上 Ollama、选好模型即可。真正耗时的是下模型,配置本身只要几分钟;没有账号也没有订阅,搜索记录都留在本地的 Docker 卷里。

我的判断是,选模型别一味求大。检索回来的网页要占上下文,内存必须留够,一个勉强塞得下的大模型,一旦开始读好几个网页就会慢到让人想放弃,反而不如中等模型跑得顺。这意味着这套方案的门槛,比很多人想的要低。

月费省下来,数据也留在自己机器上,这笔交换你换不换?

来源:XDA Developers