敏感文件不敢喂AI?本地三款实测

你电脑里总有那么几份文件是不太想传上云的——合同、体检报告、公司内部纪要。云端 AI 再好用,这类东西交出去心里总不踏实。XDA 撰稿人 Nolen Jonker 干脆拿同一批八份文档,把三款能装在自己机器上的 AI 工具摆到一起较量:Cherry Studio、AnythingLLM 和 Jan。

三款都走 RAG 路线(把文件切成小块转成向量存本地,提问时再把最相关的片段捞回来),所以他出的题也很刁:先问一个埋在最长那份文档深处的配置值,再问一个两份文档互相打架的信息——后一份其实已经把前一份作废了。

Cherry Studio 的表现是”装完就能用”。模型一挂、文件一喂,知识库几下就建好了,那个配置值被原样引用出来,连注释字符串都对得上;矛盾题它也自己挑了较新的那条,还主动说明旧的已被废止。唯一的遗憾是不给看推理过程,答案信得过就没事,信不过就没处查。

AnythingLLM 开局最劝退。它默认把整篇文档硬塞进提示词而不是走向量检索,改这个开关得翻文档;每开一个新对话又自动跳进智能体模式空转。等设置理顺了,配上 Qwen 3.5 9B,它反而答得最扎实——矛盾题的整个思考过程摊开给你看,每条依据出自哪份文件都标得明明白白。

Jan 这次是陪跑的。开启文档扩展后首次启动直接黑屏,重装才进去;每加一份文件都要点一次确认;每次提问还非要联网搜一遍,得手动拒绝。最后矛盾那题它干脆说文件里没提到。

说白了,本地跑文档问答已经不是”能不能用”的问题,而是”愿不愿意花半小时调设置”的问题。图省事选 Cherry Studio,想看清 AI 凭什么这么答就忍一忍 AnythingLLM,Jan 留着日常跑模型聊天更合适。

你有哪些文件是打死也不往云端传的?

来源:XDA Developers