LM Studio – mylogs.cn https://mylogs.cn 发现、记录、分享 Sat, 15 Aug 2026 06:36:52 +0000 zh-Hans hourly 1 Mac 上真正用得住的四款 AI 工具 https://mylogs.cn/mac-ai-tools-worth-keeping/ Sat, 15 Aug 2026 06:36:34 +0000 https://mylogs.cn/mac-ai-tools-worth-keeping/ ChatGPT 走红近三年，Mac 平台上的 AI 工具越来越多。但真正能让人长期留下的，往往是几款能把具体工作做得更顺手的产品。本文梳理了一位科技写作者在 Mac 上高频使用的四款 AI 工具，以及它们分别适合哪些场景。

Mac 上真正用得住的四款 AI 工具
图片来源：9to5Mac

MacWhisper：播客后期的转写保险

MacWhisper 由开发者 Jordi Bruin 制作，核心功能是把音频转成文字。与简单的在线转写服务不同，它在本地提供丰富的自定义选项： watched folders 自动转写、会议录音、快捷键调用、实时字幕、批量导出、自定义词典，也支持接入云端或本地模型。

一位每周录制并剪辑多档播客的作者描述自己的工作流：导出节目后，先用 MacWhisper 调用 Nvidia 的 Parakeet v3 模型跑一遍完整转写，再把转写稿和写好的节目描述一起交给 ChatGPT，检查有没有漏掉链接、时间点或适合发社交媒体的引用。他坦言，MacWhisper 的使用方式其实非常基础，但光是「有一个准确的文字底稿」这一点，就让整理 shownotes 和社交媒体文案时少了很多返工。

对于需要处理采访、播客、课堂录音或会议纪要的 Mac 用户，这款工具基本可以替代多款在线订阅服务。

Codex：不会写代码也能搭小工具

OpenAI 的 Codex 和 Anthropic 的 Claude Code 是近期最受关注的 AI 编程工具。两位作者都曾尝试用它们完成同一个需求：做一个能监控没有 RSS 的网站、并在更新时提醒的小工具。

Claude Code 在这次比拼里整体表现更好，但命令行界面让非程序员用户上手成本更高；Codex 的集成方式更顺手，作者最终选择留在 Codex 上。两个月后他再次打开 Codex 时，发现模型能力已经比去年底有了明显进步，于是又陆续开始写两个新的小工具。他现在的习惯是：遇到 bug 或想到功能改进时，先把问题丢给 Codex，再人工检查输出。

这种「自然语言描述需求、AI 生成代码」的方式，降低了制作一次性工具的门槛。

Perplexity Computer：让 AI 替你跑长任务

Perplexity Computer 是一款能直接操作电脑、完成多步骤任务的智能体产品。它不是把结果直接塞给用户，而是可以在文档、表格、浏览器和第三方工具之间自动流转。

定价上，Perplexity Pro 用户需要购买积分，Perplexity Max 用户每月赠送一万积分，超出部分再额外付费。作者用它处理的一项重复工作，是每月分析约 200 份多页文档，把其中部分数据整理进多页电子表格。过去这几乎要花掉大半天，现在由 Perplexity Computer 在几分钟内完成初稿，之后他再人工复核。

它并不能做到完全无需检查，但在「先跑一遍、再人工确认」的 workflow 里，省下的时间非常可观。

LM Studio：在本地跑模型，兼顾隐私与离线

LM Studio 让 Mac 用户可以在本地运行开源大模型。它的优势有两类场景：一是在飞机、高铁等没有网络的环境里继续工作；二是处理不方便上传到云端服务器的敏感资料。

作者曾在一趟航班上用 LM Studio 运行 Google 的 Gemma 4 120 亿参数模型，认为效果已经接近网页版大模型的体验。LM Studio 还会根据机器配置自动判断哪些模型能流畅运行、哪些会吃力，省去用户自己试错。此外，LM Studio 近期推出了 Bionic，这是一个面向智能体模型的本地运行框架，同时提供按量付费的云端开源模型接口，并声称对用户数据执行零保留政策。

工具不在多，关键是用得上

上述四款工具解决的问题各不相同：转写、编程、长任务自动化、本地模型运行。它们的共同点是都围绕具体的工作环节做深，而不是泛泛地「聊天」或「生成」。对于 Mac 用户来说，与其追逐新模型，不如先理清自己每天重复最多的事情，再判断哪款工具能真正接管其中一部分。

来源：9to5Mac｜原文标题：These AI tools make my life much easier on the Mac

]]> 8 款被低估的免费应用，Windows 与 Linux 都该装 https://mylogs.cn/8-underrated-free-apps-windows-linux/ Thu, 13 Aug 2026 15:16:46 +0000 https://mylogs.cn/8-underrated-free-apps-windows-linux/ 8 款被低估的免费应用，Windows 与 Linux 都该装

8 款被低估的免费应用，Windows 与 Linux 都该装
图片来源：How-To Geek

给电脑装软件，很多人习惯打开应用商店随便挑。How-To Geek 作者 Dibakar Ghosh 长期在 Windows 和 Linux 之间来回切换，他整理出一份「每台必装」清单：八款完全免费、跨平台、且常常被低估的工具。它们的共同点是——开源、轻量，且解决的是真实痛点。

八款应用逐一拆解

  • Portmaster——一款开源应用防火墙，能监控电脑上每一个联网程序的去向，看清它们连的是哪台服务器、何时连接，并可精细封锁特定连接，甚至彻底切断某个应用的网络。对经常试用新软件的人来说，它能在「电话回家」发生前就拦住。
  • Mailspring——现代开源邮件客户端，支持多账户统一收件箱，四栏布局把文件夹、邮件列表、预览和发件人信息安排得井井有条。最出彩的是内置的已读回执与链接追踪，求职者或做客户沟通时能知道对方何时打开邮件、有没有点开链接。
  • LM Studio——把开源大模型搬到你自己的电脑上。它让下载和运行各类开源大语言模型变得像点几下鼠标一样简单，还会按你的硬件推荐兼容型号。作者强调，本地模型的优势不在于多强，而在于「隐私」——收据图片转表格、语音转结构化笔记、个人任务路由，都能在离线环境完成。
  • Super Productivity——作者用过的功能最密集的开源任务管理工具之一。快速捕获任务、子任务、附件、标签、截止日与工时估算，工作时还能比对「预估时间」和「实际耗时」。内置日历、看板、 Eisenhower 矩阵、习惯追踪、番茄钟和插件，Voice Reminder 插件还能像啦啦队一样催你干活。
  • KDE Connect——手机与电脑的「终极伴侣」，开源且跨平台，Android 与 iOS 都有配套应用（苹果设备功能略受限）。传文件、共享剪贴板、镜像通知都不在话下，杀手锏是「远程命令执行」：把常用终端命令存进手机，一点就能锁屏、关机或启动程序。
  • Syncthing——点对点文件同步工具，没有云端组件，因此不必向别人租用存储。在每台设备上装好，文件夹就在设备之间直接互相同步。作者用它跨 Windows、Linux 和 Android 同步笔记库，代价是配对设备需同时在线才能完成同步。
  • Brave——作者的「备用浏览器」。它基于 Chromium，体验接近 Chrome，但去掉了谷歌的遥测，无需谷歌账号，自带广告与追踪拦截。由于另一款主浏览器 Zen 对部分 Chromium 优化站点支持一般，Brave 正好补位。
  • Zen Browser——作者当前的主浏览器，基于 Firefox 但外观更现代，几乎把整块窗口都留给网页，标签栏和地址栏收进会自动隐藏的侧边栏，还支持原生分屏。它常被比作 macOS 上 Arc 浏览器的开源版本，可用 Firefox 账号同步并调用丰富的扩展库，代价是对 Chromium 优化站点偶尔卡顿。

装机的思路

这八款工具覆盖了网络可视、邮件、本地 AI、任务管理、设备互联、文件同步和浏览器七个环节。它们的共同底色是「开源 + 隐私优先」：与其把数据和流量交给大厂，不如用社区维护的轻量工具自己掌控。对于喜欢折腾的用户，这份清单值得作为新机初始化时的起点。

来源：How-To Geek（作者 Dibakar Ghosh），原文发布于 2026 年 8 月 13 日。

]]> 9B 小模型跑赢 35B？先看显存够不够 https://mylogs.cn/9b-%e5%b0%8f%e6%a8%a1%e5%9e%8b%e8%b7%91%e8%b5%a2-35b%ef%bc%9f%e5%85%88%e7%9c%8b%e6%98%be%e5%ad%98%e5%a4%9f%e4%b8%8d%e5%a4%9f/ Mon, 10 Aug 2026 07:35:53 +0000 https://mylogs.cn/9b-%e5%b0%8f%e6%a8%a1%e5%9e%8b%e8%b7%91%e8%b5%a2-35b%ef%bc%9f%e5%85%88%e7%9c%8b%e6%98%be%e5%ad%98%e5%a4%9f%e4%b8%8d%e5%a4%9f/ 想在自己电脑上跑大模型，最常见的劝退理由是硬件。参数量往上走，显存需求跟着涨，一台 16GB 内存的普通笔记本似乎只配跑最小号的模型，回答质量也就那样。

9B 小模型跑赢 35B？先看显存够不够
图片来源：MakeUseOf

MakeUseOf 撰稿人 Yadullah Abidi 分享了一个反例。DeepReinforce 的 Ornith 1.0 家族中体积最小的 Ornith 9B，在他 16GB 内存的笔记本上给出了接近 35B 级别的回答，换个版本还能读图。要复现这个结果，第一步是把硬件账算清楚。

一、先分清内存和显存

  1. 全精度 bf16 运行 Ornith 9B 大约需要 19GB 内存，官方建议用 80GB 显存的 GPU 做非量化部署，个人机器基本无缘。
  2. 量化版本才是可行路径。Q4_K_M 量化后模型体积压到约 5.6GB，扣掉系统占用和一个合理的上下文窗口，16GB 内存放得下。
  3. 这里的 16GB 指系统内存，不是苹果芯片 Mac 那种 GPU 可以直接调用的统一内存。Abidi 的机器是 16GB 内存搭配 RTX 4060，显存 8GB。
  4. 在装了独立显卡的机器上，决定速度的是显存而非总内存。5.6GB 的量化模型若塞不进显存，Ollama 会把一部分交给 CPU 处理，速度立刻掉下来。这与显卡品牌无关，显存只有几 GB 就会撞上同一堵墙。Mac 的内存和 GPU 共用一个池子，在这件事上反而占便宜。

二、想要读图能力，别拉错版本

  1. Ornith-1.0-9B 的官方模型卡把文本列为主要模态。直接拉默认的 GGUF 或标准权重，是没有图像能力的。
  2. 视觉能力来自单独导出的版本，在 Ollama 上以社区标签 robit/ornith-vision:9b 分发，并非 DeepReinforce 官方发布，它在同一套推理骨干上叠加了视觉和工具调用。
  3. 另有至少一个量化 MLX 版本在模型卡上同时标注了文本和图像两种模态。也就是说多模态是特定构建的附加项，并非所有 Ornith 9B 文件都具备。
  4. 结论很直接：按命名空间拉带 vision 标签的那一个，别随手拉搜索结果里第一个 Ornith 9B 量化包。Ollama 和 LM Studio 目前对多模态模型的支持都已经比较顺畅。

三、它强在哪，弱在哪

这个家族的特别之处在训练方式。Ornith 1.0 以 Qwen 3.5 为底座做后训练，采用自我改进的强化学习配方，让模型自行搭建并打磨解题脚手架，而不是依赖人工写死的智能体流程。体积小却能打，靠的是这一点，不是参数量。家族里还有 31B 稠密版、35B 混合专家版和一个 397B 混合专家版。

成绩方面，Ornith 9B 在 SWE-bench Verified 拿到 69.4%，Terminal-Bench 2.1 得 43.1，对手是 Gemma 4-31B、Qwen 3.6-35B 这类三到四倍体积的模型。不过同门的 35B 混合专家版在相同基准上仍明显更强。

短板也很明确：面对很长的多步智能体任务，9B 版本容易打转或卡住，大一号的兄弟处理得从容得多；如果模型有一部分跑在 CPU 上，这种情况来得更早。它的优势集中在编程和终端类任务，通用推理不要按 35B 的水准去期待。

来源：MakeUseOf

]]> 本地大模型总车轱辘话？两个滑块就能治 https://mylogs.cn/%e6%9c%ac%e5%9c%b0%e5%a4%a7%e6%a8%a1%e5%9e%8b%e6%80%bb%e8%bd%a6%e8%bd%b1%e8%be%98%e8%af%9d%ef%bc%9f%e4%b8%a4%e4%b8%aa%e6%bb%91%e5%9d%97%e5%b0%b1%e8%83%bd%e6%b2%bb/ https://mylogs.cn/%e6%9c%ac%e5%9c%b0%e5%a4%a7%e6%a8%a1%e5%9e%8b%e6%80%bb%e8%bd%a6%e8%bd%b1%e8%be%98%e8%af%9d%ef%bc%9f%e4%b8%a4%e4%b8%aa%e6%bb%91%e5%9d%97%e5%b0%b1%e8%83%bd%e6%b2%bb/#respond Sun, 09 Aug 2026 19:06:01 +0000 https://mylogs.cn/%e6%9c%ac%e5%9c%b0%e5%a4%a7%e6%a8%a1%e5%9e%8b%e6%80%bb%e8%bd%a6%e8%bd%b1%e8%be%98%e8%af%9d%ef%bc%9f%e4%b8%a4%e4%b8%aa%e6%bb%91%e5%9d%97%e5%b0%b1%e8%83%bd%e6%b2%bb/ 在自己电脑上跑本地大模型的人，多半遇到过这样的场景：模型答着答着开始原地打转，同一个意思换四种说法反复讲。多数人的第一反应是模型太小、量化太狠，于是换更大的模型，问题却依旧。

本地大模型总车轱辘话？两个滑块就能治
图片来源：XDA Developers

XDA 撰稿人分享了自己的排查过程：元凶往往不是模型，而是设置面板里两个几乎没人动过的滑块——重复惩罚（repeat penalty）与出现惩罚（presence penalty）。二者功能相近却各司其职，网上大量教程把它们混为一谈，反而误导了调参方向。

一、默认值为什么不适合日常使用

本地模型的默认参数多为跑分评测调校，并非为日常对话设计。日常很少人每次都精心挑选示例、配上完整思维链指令。

LM Studio、Ollama、llama.cpp 基于同一核心引擎，但默认参数各自不同。

量化会把问题继续放大。多数人为了塞进显存跑 Q4 或 Q5 而非 FP16，精度一降最先冒头的就是重复和循环，小模型尤其明显。另外 Qwen 倾向过度解释，Gemma 长对话易啰嗦。

二、两个滑块分别管什么

重复惩罚是词元级别的控制，来自 2019 年的 CTRL 论文，作用是惩罚已出现过的具体词元。中性值 1.0，高于 1.0 开始抑制复用。甜区很窄，调到 1.05 或 1.1 通常就能清掉词语层面的循环；一旦推到 1.2，模型可能连「的」这类常用词都开始躲，输出反而古怪。命名上需留意：llama.cpp 称 repeat_penalty，OpenAI 接口最接近 frequency_penalty，Hugging Face 则名 repetition_penalty。

出现惩罚同样作用在词元层，算法却不同。重复惩罚随复用次数加重，出现惩罚是「出现过就扣一次固定分」，出现十次和一次扣得一样多，中性值 0，常见区间 -2.0 到 2.0。它把模型推离刚用过的那批词，换了词往往就换了话题——「同一个观点绕四遍」正源于此，并非模型真在做语义理解，只是好用的词元被耗尽后的副产品。

三、三组实测对照

这位撰稿人用同一条提示词跑了三轮，模型、温度、min-p、系统提示词全部固定，只改这两个参数：「用三种方式解释什么是 REST API：面向新手、懂 HTTP 的人、正在动手实现的人」。

  1. 两项都保持中性：回答表面正常，但 Qwen 犯了老毛病，每个小节都要先把「REST API 是一套规则」重述一遍才进入正题。
  2. 两项都拉满（重复 1.3、出现 1.8）：开头尚可，接近结尾时不再生成完整句子，退化成一串地理名词堆砌，只能手动中止。这就是过度矫正——惩罚把合理的高概率词元也饿死了。
  3. 取中间值（重复 1.1、出现 0.6）：输出干净的三段式解释，三类读者各自拿到了不同角度。

注意事项

这两个滑块奖励微调、惩罚猛拉。上述数值是在 LM Studio 里跑 Qwen 9B 得出的，只能当起点。温度也会参与其中：处于 0 或 0.1 时模型本就趋于确定，惩罚几乎没有发挥空间，0.6 到 0.8 之间才留有余地。

按任务微调同样重要：写代码时重复惩罚应贴近中性，因为代码本就要重复语法；推理类模型需要更低的出现惩罚；Q3、Q4 这类低精度量化整体宜用更轻的惩罚。模型的 Hugging Face 页面若给了推荐配置，从那里开始最省事。

来源：XDA Developers

]]> https://mylogs.cn/%e6%9c%ac%e5%9c%b0%e5%a4%a7%e6%a8%a1%e5%9e%8b%e6%80%bb%e8%bd%a6%e8%bd%b1%e8%be%98%e8%af%9d%ef%bc%9f%e4%b8%a4%e4%b8%aa%e6%bb%91%e5%9d%97%e5%b0%b1%e8%83%bd%e6%b2%bb/feed/ 0 本地离线跑 AI：敏感文档不用再喂云端 https://mylogs.cn/%e6%9c%ac%e5%9c%b0%e7%a6%bb%e7%ba%bf%e8%b7%91-ai%ef%bc%9a%e6%95%8f%e6%84%9f%e6%96%87%e6%a1%a3%e4%b8%8d%e7%94%a8%e5%86%8d%e5%96%82%e4%ba%91%e7%ab%af/ Sun, 02 Aug 2026 10:21:13 +0000 https://mylogs.cn/%e6%9c%ac%e5%9c%b0%e7%a6%bb%e7%ba%bf%e8%b7%91-ai%ef%bc%9a%e6%95%8f%e6%84%9f%e6%96%87%e6%a1%a3%e4%b8%8d%e7%94%a8%e5%86%8d%e5%96%82%e4%ba%91%e7%ab%af/ 每次把一份客户方案、一份尚未公开的产品路线图，或一张私人财务表格粘贴进网页版 AI 聊天框，很多人心里都会冒出一个念头：这些东西真的适合放进云端吗？企业 IT 部门显然也认为不该这么做。可另一方面，用 AI 处理那些重复的文本编辑、格式整理和摘要归纳，又是日常里最省时间的手段之一。

本地离线跑 AI：敏感文档不用再喂云端
图片来源：ImageFlow / Adobe Stock（Fast Company）

把 AI 搬回自己的电脑

答案不是放弃 AI，而是把体积小、响应快的开源模型直接跑在自己的电脑上。借助几款免费、好上手的桌面应用，Mac 或 Windows 电脑就能完全离线运行紧凑的开源模型——数据不出本机，云服务器看不到你的文件，结果照样即时返回。对经常接触机密材料的办公场景，这套思路刚好补齐了网页 AI 的隐私短板。

两款免费桌面应用：LM Studio 与 Jan.ai

普通用户不必懂命令行，也能轻松跑起本地 AI。LM Studio（lmstudio.ai）和 Jan.ai（jan.ai）都提供免费、跨平台的桌面客户端，覆盖 macOS、Windows 和 Linux，使用方式和普通软件没有区别，后台的执行细节全部由应用代劳。在应用内搜索模型、点一下下载，就能开始对话。

轻量开源模型就够了

这类本地任务并不需要庞大的旗舰模型。在应用的模型库里，Llama 3.2 3B、Mistral 7B、Phi-3 这类轻量开源模型就足够胜任。它们对硬件的要求也很亲民：任意一台较新的苹果 silicon Mac（M1 及以后），或是一台带独显、内存达到 16GB 的 Windows 电脑，都能流畅带动。

适合交给本地 AI 的活儿

最该交给本地模型的，正是那些「敏感又琐碎」的活：整理合同草稿的措辞、统一报表格式、摘要内部会议纪要、翻译带保密信息的邮件。这些内容一旦离开本机就有泄露风险，而本地模型既能保住隐私，又不耽误效率。

两分钟上手

整套流程很简单：装好 LM Studio 或 Jan.ai，在搜索框里挑一个轻量模型下载，等它就绪后断开网络也能照常使用。相比把资料传给云端，本地方案多花几分钟配置，换来的却是「数据始终在自己手里」的安心。对于注重隐私的个人和团队，这或许是使用 AI 最稳妥的起步方式。

来源：Fast Company / Doug Aamoth（2026-08-01）

]]> 手机跑本地AI比游戏PC还快？实测原因出人意料 https://mylogs.cn/%e6%89%8b%e6%9c%ba%e8%b7%91%e6%9c%ac%e5%9c%b0ai%e6%af%94%e6%b8%b8%e6%88%8fpc%e8%bf%98%e5%bf%ab%ef%bc%9f%e5%ae%9e%e6%b5%8b%e5%8e%9f%e5%9b%a0%e5%87%ba%e4%ba%ba%e6%84%8f%e6%96%99/ Tue, 28 Jul 2026 23:07:28 +0000 https://mylogs.cn/%e6%89%8b%e6%9c%ba%e8%b7%91%e6%9c%ac%e5%9c%b0ai%e6%af%94%e6%b8%b8%e6%88%8fpc%e8%bf%98%e5%bf%ab%ef%bc%9f%e5%ae%9e%e6%b5%8b%e5%8e%9f%e5%9b%a0%e5%87%ba%e4%ba%ba%e6%84%8f%e6%96%99/ 提到在本地设备上运行大语言模型，多数人的第一反应是：得有一台带独立显卡的台式机。但 XDA 撰稿人 Nolen Jonker 分享了一个反直觉的实测结果——他日常真正常用的本地 AI 设备不是游戏 PC，而是手机，而且手机的出词速度经常反超台式机。

手机跑本地AI比游戏PC还快？实测原因出人意料
图片来源：XDA Developers

实测数据：小模型跑赢大模型

在 iPhone 16 上通过 PocketPal 应用运行本地模型时，4B 参数规模的模型稳定在每秒约 13 个 token，2B 模型甚至能超过每秒 20 个。而在台式机上，用 LM Studio 运行 9B 模型，即便把 GPU 卸载层数推到不影响其他软件使用的极限，同样的任务只有每秒 9 个 token 左右——参数更小、硬件更弱的一方反而更快。

原因出在显存瓶颈上。LM Studio 允许把模型的 transformer 层卸载到 GPU 上运行，但每多推一层都要占用显存。9B 模型塞不进 8GB 显存的显卡时，溢出部分只能放进内存由 CPU 处理，速度随之断崖式下跌。想同时开着浏览器、Figma、Obsidian 等日常软件，就必须给显卡留余量，卸载层数减少，生成速度进一步变慢。

手机反而没有这种取舍。它本来就只能运行小模型，而这些模型正是针对移动端约束设计的——比如 Qwen 3.5 2B 就是该系列面向智能手机部署的版本。A18 芯片采用统一内存架构，不存在独立显存预算的冲突。且小模型的能力差距比参数量看起来小得多：据称 Qwen 4B 在许多基准测试上已能追平上一代 80B 模型的表现。

使用体验：省掉「启动税」

除了速度，手机还省掉了本地模型的「启动成本」。台式机上如果 LM Studio 没有预先加载好模型，从打开到出第一个 token 要等十秒以上；而 PocketPal 打开即自动载入上次使用的模型，几秒内就能开始输入。与手机上的云端 AI 相比，本地模型没有服务器往返延迟，首 token 响应反而更快。

台式机仍有不可替代的场景

这并不是说手机全面胜出。当关闭其他软件、让 LM Studio 独占整台机器时，9B 或 12B 模型可以轻松达到每秒 20 个 token 以上，小模型甚至能冲上三位数。需要长上下文的任务——比如解析整篇论文或长篇转录文本——2B 模型很快就会塞满，且手机在持续生成时会因发热降频。文档解析、研究综合这类需要「坐下来认真干活」的场景，台式机依然是更好的选择。

这次对比的结论是：对本地大模型而言，「合适」比「性能强」更重要，关键是让模型规模匹配设备与使用场景。

来源：XDA Developers

]]>