本地模型 – mylogs.cn https://mylogs.cn 发现、记录、分享 Sat, 15 Aug 2026 04:24:14 +0000 zh-Hans hourly 1 Mole：把深度研究搬进终端，预算和引用都上了锁 https://mylogs.cn/mole%ef%bc%9a%e6%8a%8a%e6%b7%b1%e5%ba%a6%e7%a0%94%e7%a9%b6%e6%90%ac%e8%bf%9b%e7%bb%88%e7%ab%af%ef%bc%8c%e9%a2%84%e7%ae%97%e5%92%8c%e5%bc%95%e7%94%a8%e9%83%bd%e4%b8%8a%e4%ba%86%e9%94%81/ Sat, 15 Aug 2026 04:23:54 +0000 https://mylogs.cn/mole%ef%bc%9a%e6%8a%8a%e6%b7%b1%e5%ba%a6%e7%a0%94%e7%a9%b6%e6%90%ac%e8%bf%9b%e7%bb%88%e7%ab%af%ef%bc%8c%e9%a2%84%e7%ae%97%e5%92%8c%e5%bc%95%e7%94%a8%e9%83%bd%e4%b8%8a%e4%ba%86%e9%94%81/ 在聊天框里让大模型联网搜索，最大的两个隐患是费用失控和引用造假。一个新发布的开源工具 Mole，把「深度研究」做成了一个跑在本地终端的单一静态二进制文件，并且给预算和引用双双加上了硬约束。它的定位很明确：带强制预算、可验证引用、以及本地数据隐私边界的深度研究智能体。

Mole：把深度研究搬进终端，预算和引用都上了锁
图片来源：GitHub

一条流水线式的调研流程

用户提出问题后，Mole 会先把问题拆解成子问题，再依次执行检索、抓取、提取主张、逐条核对引用、寻找主张之间的矛盾，最后综合出带引文的答案。

具体来说，规划器把任务分解为子问题并随证据动态调整；执行器为每一条线索预留并结算预算；抓取端完成搜索、读取、提取「主张」这一步时，要求每条主张都附带与源页面逐字匹配的引文；核验端则把相关主张两两配对、裁定冲突、构建关系图，并对样本重新回读；输出阶段再从通过核验的主张中综合出答案。

预算是硬上限，不是估算

Mole 最特别的地方，在于预算不是「建议值」而是架构层面的强制约束。每次模型调用前，系统会在账本里先预留额度，调用结束后再结算，账本本身不允许出现负数。`–usd 0.50` 意味着运行严格停在 50 美分，官方测试语料的溢出率为 0%。

同样，可验证引用要求每条主张必须携带出自源页面、逐字匹配的引文，否则在提取阶段就被丢弃；留存的命题之后还能被重新回读核查，无法支撑的说法会在报告里被标记出来。

本地数据不出本机

分析本地 CSV 或文件夹时，Mole 的内容留在机器内。模型只能选择假设模板和列名，真正的 SQL 由 Mole 渲染并执行，返回结果仅限于聚合值——计数、均值，以及不少于 5 条记录的的分桶统计。想知道有哪些信息离开了本机，可以执行 `mole crossings` 做审计。

Mole 提供两种运行模式。自主模式下，Mole 持有模型，负责规划、挖掘和撰写；工具包模式下，推理由调用方自己的模型完成，Mole 只负责确定性较强的一半工作，比如引文检查、配对检索和 SQL 渲染，适合已经订阅了 Claude、通义千问等服务的用户。

模型与安装

抓取端支持网页、学术（Crossref、OpenAlex、arXiv、PubMed）和本地计算三类数据源，并内置了 SSRF 防护、 robots 协议处理和速率限制。模型方面可接入 Anthropic（如 Claude Sonnet 5、Claude Haiku 4.5），以及 DeepSeek、Ollama、llama.cpp、vLLM 等兼容 OpenAI 接口的端点；搜索提供商支持 Tavily 与 Brave。密钥存放在权限为 0600 的本地配置文件里，不会写进环境变量或工程配置。

安装渠道很全：一条带 SHA-256 校验的脚本命令、Homebrew、Arch 的 AUR、Debian/Ubuntu 的 deb/rpm 包，以及 Go 1.25 以上的源码编译都可用。项目以 Apache-2.0 许可证发布。

对开发者而言，Mole 解决的正是三类痛点：聊天式联网搜索成本不可控，它用硬预算把溢出压到零；模型容易编造引文，它用逐字核查把不实主张挡在门外；本地敏感数据怕外泄，它用隐私边界只输出聚合量。对于已订阅大模型服务的团队，工具包模式还能把闲置的算力复用起来。

来源：GitHub 项目 lajosdeme/mole

]]> 监控只会录像？给它接个 AI 就会说人话了 https://mylogs.cn/%e7%9b%91%e6%8e%a7%e5%8f%aa%e4%bc%9a%e5%bd%95%e5%83%8f%ef%bc%9f%e7%bb%99%e5%ae%83%e6%8e%a5%e4%b8%aa-ai-%e5%b0%b1%e4%bc%9a%e8%af%b4%e4%ba%ba%e8%af%9d%e4%ba%86/ https://mylogs.cn/%e7%9b%91%e6%8e%a7%e5%8f%aa%e4%bc%9a%e5%bd%95%e5%83%8f%ef%bc%9f%e7%bb%99%e5%ae%83%e6%8e%a5%e4%b8%aa-ai-%e5%b0%b1%e4%bc%9a%e8%af%b4%e4%ba%ba%e8%af%9d%e4%ba%86/#respond Sun, 09 Aug 2026 12:28:17 +0000 https://mylogs.cn/%e7%9b%91%e6%8e%a7%e5%8f%aa%e4%bc%9a%e5%bd%95%e5%83%8f%ef%bc%9f%e7%bb%99%e5%ae%83%e6%8e%a5%e4%b8%aa-ai-%e5%b0%b1%e4%bc%9a%e8%af%b4%e4%ba%ba%e8%af%9d%e4%ba%86/ 家用监控摄像头能录下门内门外的画面，但大多数时候，还得自己一帧一帧翻录像才知道到底发生了什么。有些摄像头带物体识别，能认出人、车、宠物、包裹，可也就到此为止。

监控只会录像？给它接个 AI 就会说人话了
图片来源：How-To Geek

How-To Geek 撰稿人 Adam Davidson 分享，一个开源工具能让 AI 直接”看懂”画面，并用大白话描述出来。这个工具叫 LLM Vision，是一个免费开源的 Home Assistant 集成。它不替代 Frigate 这类本地录像与物体识别系统，而是叠加在上面：物体识别只告诉你”检测到一个人”，LLM Vision 则能进一步说清这个人在做什么、有没有拿包裹、往哪个方向走、穿着什么。它支持静态图片、视频片段、实时画面，也能直接分析 Frigate 事件。

一、在 Home Assistant 里安装

  1. 打开 HACS（Home Assistant 社区商店），搜索并下载 LLM Vision。
  2. 进入 设置 → 设备与服务 → 添加集成，搜索并选择 LLM Vision。
  3. 在 Provider（服务商）下拉菜单里选择要用的 AI，并填入对应的 API Key。

二、选对 AI 服务商：云端还是本地

  1. 云端可选 OpenAI、Anthropic、Google、OpenRouter、Groq 等；多数按次计费，其中 Groq 提供一定的免费额度。
  2. 注意隐私：用云端等于把家里的画面上传到第三方服务器。
  3. 想让画面不出家门，可指向本地模型——用 Ollama、Open WebUI 或 LocalAI 运行本地模型，分析全程在自家硬件完成。
  4. 硬件较弱也别灰心，可试试测试版的 Glimpse-v1：一个 40 亿参数的轻量开源视觉模型，专为小内存设计，能在 Ollama 里运行。

三、用自然语言提问，做更聪明的自动化

  1. 传图片或视频给 LLM Vision 时，可附上自己的提问，例如”快递员把包裹放哪了”，收到的通知就会是”快递员把包裹放在了前门花盆后面”。
  2. 自动化可以基于”语境”而非单纯的动作触发：比如有人拿着传单走到门口、又空手离开，就不推送通知，免得被垃圾广告打扰。
  3. 倒垃圾前一晚，可让它看看垃圾桶是否已摆到门口，甚至分辨是蓝色回收桶还是黑色垃圾桶。
  4. 仪表盘可添加 Timeline Card，回看最近被分析和记录的事件，例如上次猫出现的时间、包裹送达的时刻。

注意事项

  • LLM Vision 本身不做 AI 运算，只负责把画面转交给所选模型，响应的质量与速度取决于模型和硬件。
  • 在意隐私的家庭，优先选择本地模型方案，让画面始终留在家中。

来源：How-To Geek

]]> https://mylogs.cn/%e7%9b%91%e6%8e%a7%e5%8f%aa%e4%bc%9a%e5%bd%95%e5%83%8f%ef%bc%9f%e7%bb%99%e5%ae%83%e6%8e%a5%e4%b8%aa-ai-%e5%b0%b1%e4%bc%9a%e8%af%b4%e4%ba%ba%e8%af%9d%e4%ba%86/feed/ 0