本地AI – mylogs.cn https://mylogs.cn 发现、记录、分享 Sat, 08 Aug 2026 17:51:45 +0000 zh-Hans hourly 1 抠图别再交订阅费，这个开源工具够用 https://mylogs.cn/%e6%8a%a0%e5%9b%be%e5%88%ab%e5%86%8d%e4%ba%a4%e8%ae%a2%e9%98%85%e8%b4%b9%ef%bc%8c%e8%bf%99%e4%b8%aa%e5%bc%80%e6%ba%90%e5%b7%a5%e5%85%b7%e5%a4%9f%e7%94%a8/ https://mylogs.cn/%e6%8a%a0%e5%9b%be%e5%88%ab%e5%86%8d%e4%ba%a4%e8%ae%a2%e9%98%85%e8%b4%b9%ef%bc%8c%e8%bf%99%e4%b8%aa%e5%bc%80%e6%ba%90%e5%b7%a5%e5%85%b7%e5%a4%9f%e7%94%a8/#respond Sat, 08 Aug 2026 17:51:45 +0000 https://mylogs.cn/%e6%8a%a0%e5%9b%be%e5%88%ab%e5%86%8d%e4%ba%a4%e8%ae%a2%e9%98%85%e8%b4%b9%ef%bc%8c%e8%bf%99%e4%b8%aa%e5%bc%80%e6%ba%90%e5%b7%a5%e5%85%b7%e5%a4%9f%e7%94%a8/ 需要一张透明底的图，很多人第一反应是打开 Photoshop 点「移除背景」。功能确实好用，但要点这一下，必须维持一份有效订阅。更麻烦的是量：手上有两百张产品图要处理，Photoshop 基本是一张张点，即便用它的批处理，配置起来也比想象中繁琐。还有一类情况是内部资料、证件照这种不方便上传的图片，走云端总归让人心里没底。

抠图别再交订阅费，这个开源工具够用
图片来源：How-To Geek

How-To Geek 编辑 Nick Lewis 分享了自己的替代方案：开源工具 rembg。它把 AI 模型跑在本机上，直接输出透明背景的 PNG。原理并不神秘——先用目标检测模型生成一张蒙版，把主体和背景分开，再把这张蒙版作为 alpha 通道（图像里控制透明度的那一层）应用上去，相当于自动完成了手动抠图的整套动作。工具本身采用 MIT 许可，模型首次使用时自动下载，之后可以完全离线运行。

一、装好命令行版本

  1. 只用 CPU 的电脑执行：pip install "rembg[cpu,cli]"。
  2. 有 NVIDIA 显卡并已配好 CUDA 环境，改用：pip install "rembg[gpu,cli]"。
  3. AMD 显卡先按官方文档装好 onnxruntime-rocm，再执行：pip install "rembg[rocm,cli]"。
  4. 如果 GPU 版本装不上，退回 CPU 版本即可，功能一致，只是速度慢一些。

二、三种用法，按需要挑一种

  1. 单张处理：rembg i 输入.png 输出.png。省略输出文件名时，会自动生成一个「输入.out.png」。
  2. 整个文件夹批量处理：rembg p 输入文件夹 输出文件夹。这条命令是它相对 Photoshop 最大的优势，两百张图一条命令跑完。
  3. 加上监视参数 rembg p -w 输入文件夹 输出文件夹，之后往输入文件夹里丢新图会被自动处理。
  4. 想要图形界面：执行 rembg s --host 0.0.0.0 --port 7000 --log_level info 启动本地服务，然后在浏览器里打开对应端口操作。

三、按素材类型换模型

模型可以通过 -m 参数指定，例如 rembg i -m u2netp 输入.png 输出.png。

  1. 默认使用 u2net，属通用型，多数场景够用。
  2. 电脑配置低或追求速度，选轻量的 u2netp。
  3. 处理人像，可试 u2net_human_seg 或 birefnet-portrait。
  4. 遇到发丝、半透明物体这类细节，换更重的 birefnet-general 系列，代价是耗时更长、更吃内存。
  5. 模型默认下载到用户目录下的 .u2net 文件夹，想换位置可通过环境变量 U2NET_HOME 指定。

四、三个必须注意的前提

  1. 商用要查许可。软件本体是 MIT 协议，但部分模型权重带有非商用限制，开源不等于每个可下载的模型都能用于商业项目，下载前务必确认清楚。
  2. 它没有手动修补工具。Photoshop 可以用「选择并遮住」手绘修正边缘，rembg 只给结果，边缘出错需要另外用 GIMP 或 Krita 打开修一遍。
  3. 极端精细的场景仍有差距。对边界清晰的主体，成品与 Photoshop 几乎看不出区别；但如果工作要求毫厘级精度，付费方案或 ComfyUI 这类更复杂的工作流更合适。

如果订阅 Photoshop 主要就是为了那一个抠图按钮，换成 rembg 基本可以直接替代。这个思路也可以推广：不少订阅软件里的所谓 AI 功能，都能在本地用开源模型找到对应实现。

来源：How-To Geek

]]> https://mylogs.cn/%e6%8a%a0%e5%9b%be%e5%88%ab%e5%86%8d%e4%ba%a4%e8%ae%a2%e9%98%85%e8%b4%b9%ef%bc%8c%e8%bf%99%e4%b8%aa%e5%bc%80%e6%ba%90%e5%b7%a5%e5%85%b7%e5%a4%9f%e7%94%a8/feed/ 0 专买“坏”显卡：RTX 3090 半价到手，跑 AI 不耽误 https://mylogs.cn/buying-broken-gpus-for-compute-not-gaming/ https://mylogs.cn/buying-broken-gpus-for-compute-not-gaming/#respond Fri, 07 Aug 2026 14:43:44 +0000 https://mylogs.cn/buying-broken-gpus-for-compute-not-gaming/ 在二手交易平台上，标注”损坏”的显卡通常被视为烫手山芋。但 How-To Geek 编辑 Nick Lewis 给出了一个反直觉的做法：他专门收这类卡，而且从一开始就没打算修。

专买“坏”显卡：RTX 3090 半价到手，跑 AI 不耽误
图片来源：How-To Geek

Lewis 目前手上有好几块显示输出接口损坏的显卡，其中包括两块 RTX 50 系产品。之所以敢买，理由很简单——这些卡只用来做计算，而计算根本不需要视频输出口。

“坏”往往只坏在一个点上

在二手市场上流通的所谓”坏卡”，很多并没有真正报废。常见情况是某个接口被扯坏——有人拽 HDMI 线用力过猛；或者风扇轴承磨损，导致显卡在负载下无法正常散热、运行不稳定。

Lewis 认为，这两类故障对特定用途的买家来说都不构成障碍。无法输出画面，不等于无法进行运算。对游戏玩家而言这卡确实一文不值，但对自建服务器、折腾家庭实验室的人来说，它的功能是完整的。至于风扇损坏这种物理问题，只要愿意订一个替换件、重新涂上硅脂，处理起来并不复杂。

真正需要警惕的是另外两类信号：电容鼓包爆浆，以及显存故障。这两种问题在缺少专业诊断维修设备、缺少足够经验的情况下很难解决，属于应当直接放弃的情形。

显卡的价值不只在于画面

尽管消费者习惯把显卡等同于游戏和显示设备，但渲染画面从来不是它唯一的用途。事实上，A100、H100 这类高端计算卡压根就没有视频输出接口——对它们来说，输出口毫无意义。

显卡的设计核心是”高度并行”，也就是同时处理大量小规模运算。玩游戏时，这种能力体现为实时完成路径追踪光照、物理对象模拟和数百万个三角面的渲染而不掉帧。

同样的并行能力在其他场景里一样管用。许多科学模拟本质上就是在计算大量对象之间的相互作用力——可能是星系中恒星之间的引力，也可能是两个分子之间的电磁力；具体问题不同，但并行运算的价值始终存在。

现代显卡还专门针对 AI 场景做了优化，配备了处理低精度运算的专用硬件单元，而低精度运算恰恰是 AI 计算的关键。想在本地跑 AI，需要的不是一颗靠液氮压制的高频处理器，而是一块显卡。哪怕用 RTX 5060 Ti 这样的”入门级”产品，也足以支撑实时语音合成、自然语言处理、图像生成、声音合成和视觉识别等任务，还可以运行各类开放权重的大语言模型，在自己的硬件上复现 ChatGPT 或 Claude 的不少功能。

Lewis 自己就以相当可观的折扣拿下了一块 RTX 5070 和一块 16GB 版 RTX 5060 Ti，原因都是无法正常输出画面。这两块卡此后一直在他的机器里稳定工作。

折扣不够大就不值得赌

Lewis 强调，买”坏卡”的目的很明确：用折扣价买到算力和显存。他见过因为风扇轴承损坏、或者接口被拽坏而被打上”故障”标签的 RTX 3090。

作为参考，同等显存规格的正常 RTX 3090 目前售价可以超过 1300 美元，而”损坏”版本的价格往往不到其一半。类似的机会在其他型号上也时常出现。

但他也给出一条警告：如果折扣幅度不大，这个险就不值得冒。轻微降价的”故障卡”是一笔糟糕的买卖——买家真正应该等待的，是那种足以反映”这卡对游戏玩家毫无价值”的深度折扣。

它们能干的活比想象中多

按 Lewis 的说法，”坏”显卡最适合放进无显示需求的家庭实验室服务器。自从开始使用这些卡，他已经把它们用在了这些地方：

  • 驱动一套自动为截图生成描述文字的 AI 视觉系统
  • 承担自然语言处理、语音合成，以及为一个 AI 聊天机器人提供大语言模型支持
  • 搭建一个自托管的语音助手替代方案
  • 运行一个能自己玩游戏的《我的世界》AI

在他看来这些只是开始。消费级显卡确实不具备旗舰 AI 设备的原始算力，但这不代表它们干不了正经活。诀窍在于把任务拆得足够具体、把参数约束得足够明确，这样才能得到理想的结果。

来源：How-To Geek

]]> https://mylogs.cn/buying-broken-gpus-for-compute-not-gaming/feed/ 0 敏感文件不敢喂AI？本地三款实测 https://mylogs.cn/%e6%95%8f%e6%84%9f%e6%96%87%e4%bb%b6%e4%b8%8d%e6%95%a2%e5%96%82ai%ef%bc%9f%e6%9c%ac%e5%9c%b0%e4%b8%89%e6%ac%be%e5%ae%9e%e6%b5%8b/ https://mylogs.cn/%e6%95%8f%e6%84%9f%e6%96%87%e4%bb%b6%e4%b8%8d%e6%95%a2%e5%96%82ai%ef%bc%9f%e6%9c%ac%e5%9c%b0%e4%b8%89%e6%ac%be%e5%ae%9e%e6%b5%8b/#respond Wed, 05 Aug 2026 00:43:26 +0000 https://mylogs.cn/%e6%95%8f%e6%84%9f%e6%96%87%e4%bb%b6%e4%b8%8d%e6%95%a2%e5%96%82ai%ef%bc%9f%e6%9c%ac%e5%9c%b0%e4%b8%89%e6%ac%be%e5%ae%9e%e6%b5%8b/ 你电脑里总有那么几份文件是不太想传上云的——合同、体检报告、公司内部纪要。云端 AI 再好用，这类东西交出去心里总不踏实。XDA 撰稿人 Nolen Jonker 干脆拿同一批八份文档，把三款能装在自己机器上的 AI 工具摆到一起较量：Cherry Studio、AnythingLLM 和 Jan。

敏感文件不敢喂AI？本地三款实测
图片来源：XDA Developers

三款都走 RAG 路线（把文件切成小块转成向量存本地，提问时再把最相关的片段捞回来），所以他出的题也很刁：先问一个埋在最长那份文档深处的配置值，再问一个两份文档互相打架的信息——后一份其实已经把前一份作废了。

Cherry Studio 的表现是”装完就能用”。模型一挂、文件一喂，知识库几下就建好了，那个配置值被原样引用出来，连注释字符串都对得上；矛盾题它也自己挑了较新的那条，还主动说明旧的已被废止。唯一的遗憾是不给看推理过程，答案信得过就没事，信不过就没处查。

AnythingLLM 开局最劝退。它默认把整篇文档硬塞进提示词而不是走向量检索，改这个开关得翻文档；每开一个新对话又自动跳进智能体模式空转。等设置理顺了，配上 Qwen 3.5 9B，它反而答得最扎实——矛盾题的整个思考过程摊开给你看，每条依据出自哪份文件都标得明明白白。

Jan 这次是陪跑的。开启文档扩展后首次启动直接黑屏，重装才进去；每加一份文件都要点一次确认；每次提问还非要联网搜一遍，得手动拒绝。最后矛盾那题它干脆说文件里没提到。

说白了，本地跑文档问答已经不是”能不能用”的问题，而是”愿不愿意花半小时调设置”的问题。图省事选 Cherry Studio，想看清 AI 凭什么这么答就忍一忍 AnythingLLM，Jan 留着日常跑模型聊天更合适。

你有哪些文件是打死也不往云端传的？

来源：XDA Developers

]]> https://mylogs.cn/%e6%95%8f%e6%84%9f%e6%96%87%e4%bb%b6%e4%b8%8d%e6%95%a2%e5%96%82ai%ef%bc%9f%e6%9c%ac%e5%9c%b0%e4%b8%89%e6%ac%be%e5%ae%9e%e6%b5%8b/feed/ 0 AI搜索不必按月付费，本地就能搭 https://mylogs.cn/ai%e6%90%9c%e7%b4%a2%e4%b8%8d%e5%bf%85%e6%8c%89%e6%9c%88%e4%bb%98%e8%b4%b9%ef%bc%8c%e6%9c%ac%e5%9c%b0%e5%b0%b1%e8%83%bd%e6%90%ad/ https://mylogs.cn/ai%e6%90%9c%e7%b4%a2%e4%b8%8d%e5%bf%85%e6%8c%89%e6%9c%88%e4%bb%98%e8%b4%b9%ef%bc%8c%e6%9c%ac%e5%9c%b0%e5%b0%b1%e8%83%bd%e6%90%ad/#respond Mon, 03 Aug 2026 09:04:04 +0000 https://mylogs.cn/ai%e6%90%9c%e7%b4%a2%e4%b8%8d%e5%bf%85%e6%8c%89%e6%9c%88%e4%bb%98%e8%b4%b9%ef%bc%8c%e6%9c%ac%e5%9c%b0%e5%b0%b1%e8%83%bd%e6%90%ad/ 你可能也在为某个 AI 搜索工具按月掏钱，图的无非是它给完答案还附上来源，方便回头核对。XDA 撰稿人 Anurag Singh 干脆把这套体验搬回了自己的电脑，省下的正是那笔月费。

AI搜索不必按月付费，本地就能搭
图片来源：XDA Developers

组合其实很简单：Ollama 负责在本地跑模型，Vane 负责搜索和界面。Vane 就是原先的 Perplexica 改名而来，内部用 SearXNG 从多个搜索引擎抓结果，再把相关页面交给模型阅读，生成一段带引用的答案，每条结论都能点回原始网页核对。它还分三种模式：Speed 给快答，Balanced 多花点时间收集，Quality 会反复检索、读页、修正，慢一些，但适合一次搜不清楚的问题。

部署比想象中省事。先装好 Ollama、下载模型，Vane 本身跑在 Docker 里，官方推荐的镜像已经把 SearXNG 打包在内，不用单独配搜索引擎。容器起来后浏览器打开 localhost:3000，在初始界面连上 Ollama、选好模型即可。真正耗时的是下模型，配置本身只要几分钟；没有账号也没有订阅，搜索记录都留在本地的 Docker 卷里。

我的判断是，选模型别一味求大。检索回来的网页要占上下文，内存必须留够，一个勉强塞得下的大模型，一旦开始读好几个网页就会慢到让人想放弃，反而不如中等模型跑得顺。这意味着这套方案的门槛，比很多人想的要低。

月费省下来，数据也留在自己机器上，这笔交换你换不换？

来源：XDA Developers

]]> https://mylogs.cn/ai%e6%90%9c%e7%b4%a2%e4%b8%8d%e5%bf%85%e6%8c%89%e6%9c%88%e4%bb%98%e8%b4%b9%ef%bc%8c%e6%9c%ac%e5%9c%b0%e5%b0%b1%e8%83%bd%e6%90%ad/feed/ 0 本地离线跑 AI：敏感文档不用再喂云端 https://mylogs.cn/%e6%9c%ac%e5%9c%b0%e7%a6%bb%e7%ba%bf%e8%b7%91-ai%ef%bc%9a%e6%95%8f%e6%84%9f%e6%96%87%e6%a1%a3%e4%b8%8d%e7%94%a8%e5%86%8d%e5%96%82%e4%ba%91%e7%ab%af/ https://mylogs.cn/%e6%9c%ac%e5%9c%b0%e7%a6%bb%e7%ba%bf%e8%b7%91-ai%ef%bc%9a%e6%95%8f%e6%84%9f%e6%96%87%e6%a1%a3%e4%b8%8d%e7%94%a8%e5%86%8d%e5%96%82%e4%ba%91%e7%ab%af/#respond Sun, 02 Aug 2026 10:21:13 +0000 https://mylogs.cn/%e6%9c%ac%e5%9c%b0%e7%a6%bb%e7%ba%bf%e8%b7%91-ai%ef%bc%9a%e6%95%8f%e6%84%9f%e6%96%87%e6%a1%a3%e4%b8%8d%e7%94%a8%e5%86%8d%e5%96%82%e4%ba%91%e7%ab%af/ 每次把一份客户方案、一份尚未公开的产品路线图，或一张私人财务表格粘贴进网页版 AI 聊天框，很多人心里都会冒出一个念头：这些东西真的适合放进云端吗？企业 IT 部门显然也认为不该这么做。可另一方面，用 AI 处理那些重复的文本编辑、格式整理和摘要归纳，又是日常里最省时间的手段之一。

本地离线跑 AI：敏感文档不用再喂云端
图片来源：ImageFlow / Adobe Stock（Fast Company）

把 AI 搬回自己的电脑

答案不是放弃 AI，而是把体积小、响应快的开源模型直接跑在自己的电脑上。借助几款免费、好上手的桌面应用，Mac 或 Windows 电脑就能完全离线运行紧凑的开源模型——数据不出本机，云服务器看不到你的文件，结果照样即时返回。对经常接触机密材料的办公场景，这套思路刚好补齐了网页 AI 的隐私短板。

两款免费桌面应用：LM Studio 与 Jan.ai

普通用户不必懂命令行，也能轻松跑起本地 AI。LM Studio（lmstudio.ai）和 Jan.ai（jan.ai）都提供免费、跨平台的桌面客户端，覆盖 macOS、Windows 和 Linux，使用方式和普通软件没有区别，后台的执行细节全部由应用代劳。在应用内搜索模型、点一下下载，就能开始对话。

轻量开源模型就够了

这类本地任务并不需要庞大的旗舰模型。在应用的模型库里，Llama 3.2 3B、Mistral 7B、Phi-3 这类轻量开源模型就足够胜任。它们对硬件的要求也很亲民：任意一台较新的苹果 silicon Mac（M1 及以后），或是一台带独显、内存达到 16GB 的 Windows 电脑，都能流畅带动。

适合交给本地 AI 的活儿

最该交给本地模型的，正是那些「敏感又琐碎」的活：整理合同草稿的措辞、统一报表格式、摘要内部会议纪要、翻译带保密信息的邮件。这些内容一旦离开本机就有泄露风险，而本地模型既能保住隐私，又不耽误效率。

两分钟上手

整套流程很简单：装好 LM Studio 或 Jan.ai，在搜索框里挑一个轻量模型下载，等它就绪后断开网络也能照常使用。相比把资料传给云端，本地方案多花几分钟配置，换来的却是「数据始终在自己手里」的安心。对于注重隐私的个人和团队，这或许是使用 AI 最稳妥的起步方式。

来源：Fast Company / Doug Aamoth（2026-08-01）

]]> https://mylogs.cn/%e6%9c%ac%e5%9c%b0%e7%a6%bb%e7%ba%bf%e8%b7%91-ai%ef%bc%9a%e6%95%8f%e6%84%9f%e6%96%87%e6%a1%a3%e4%b8%8d%e7%94%a8%e5%86%8d%e5%96%82%e4%ba%91%e7%ab%af/feed/ 0