端侧AI – mylogs.cn https://mylogs.cn 发现、记录、分享 Thu, 06 Aug 2026 16:31:31 +0000 zh-Hans hourly 1 CleanMyMac 母公司要给 Mac 装本地 AI：断网也能用 https://mylogs.cn/macpaw-liquid-ai-on-device-ai-mac-eney-setapp/ https://mylogs.cn/macpaw-liquid-ai-on-device-ai-mac-eney-setapp/#respond Thu, 06 Aug 2026 16:31:09 +0000 https://mylogs.cn/macpaw-liquid-ai-on-device-ai-mac-eney-setapp/ 以 CleanMyMac 为人熟知的软件公司 MacPaw，正在把赌注押在一个与云端 AI 相反的方向上：让智能能力直接跑在用户的 Mac 上。

CleanMyMac 母公司要给 Mac 装本地 AI：断网也能用
图片来源：MacPaw / 9to5Mac

8 月 5 日，MacPaw 与位于美国马萨诸塞州剑桥市的 Liquid AI 宣布达成长期战略合作，共同开发面向 Mac 的本地 AI 技术栈。合作的第一站是 MacPaw 去年发布的 macOS 智能助手 Eney，相关成果预计在今年晚些时候落地。

三块拼图：基础模型、推理引擎与记忆层

这套技术栈由三部分组成。

Liquid AI 负责提供并微调其液态基础模型（Liquid Foundation Models，简称 LFM），针对 macOS 场景下的助手任务做专门适配。MacPaw 则贡献两项自研技术：名为 Elix 的端侧推理引擎，负责让模型在苹果自研芯片上本地运行；以及名为 Mnemos 的记忆层，让助手能够在多次交互之间保留上下文，随使用时间推移变得更好用。

Eney 去年就已切换到本地模型，将推理、上下文检索、技能执行和对话历史尽可能保留在设备本地。此次合作的意义在于，两家公司是在联合开发底层技术栈，而不是 MacPaw 简单地再接入一个第三方模型。云端模型不会被完全放弃——按照官方说法，在云端确实是更合适工具的场景下，它仍会被调用。

MacPaw 创始人兼首席执行官 Oleksandr Kosovan 表示：「在为 Mac 开发软件近二十年之后，MacPaw 正把独立产品演进成一个互联的生态，而 AI 是我们自己构建并掌握的核心技术。我们相信智能应该存在于人们工作的地方：默认私密、默认快速，同时在云端是更好选择时能够触达云端。」

Liquid AI 联合创始人兼首席执行官 Ramin Hasani 则强调模型效率：「我们构建高效的基础模型以及围绕它们的工具，让企业能把智能带到客户已经在使用的设备上。」

Liquid AI 是谁

Liquid AI 是麻省理工学院衍生出的创业公司，主攻在受限硬件上运行的小型高效模型，覆盖手机、笔记本、汽车与嵌入式系统等场景。据公司披露，其模型已被梅赛德斯-奔驰、Insilico Medicine 和 Shopify 等企业采用。

Hasani 向 TechCrunch 解释了这种思路的底层逻辑：「在训练模型之前，我们会先选择一套与硬件相匹配的独特架构。这让我们能得到直接在设备上运行的最高效版本的智能，同时带来隐私和安全方面的好处。」

苹果本身也向开发者提供系统内置的本地模型。对此 Hasani 的说法是，Liquid AI 的模型在不同能力维度上追求更好的性能表现，并且「我们还在围绕模型构建一套定制化技术栈——借助用户输入，模型可以利用这些数据自我改进」。

下一步：把这套能力开放给 Setapp 开发者

对 MacPaw 而言，在 Eney 中落地本地 AI 只是起点。模型、推理框架与记忆层从设计之初就被定位为共享基础设施，服务于 MacPaw 旗下全线产品，并向外延伸。

延伸的通道是 Setapp——MacPaw 运营的订阅制 Mac 软件市场，目前拥有超过 15 万付费用户。一旦本地处理架构成型，MacPaw 计划将端侧推理能力开放给平台上的第三方开发者，让他们的应用也能在本地跑模型。Kosovan 提到，该平台还将提供来自谷歌等厂商的云端模型接入，试图成为开发者的一站式入口。事实上，Setapp 已上线名为 AI Gateway 的服务，为云端模型提供统一接口并代管账号与计费。

计费方式也在同步调整。MacPaw 正在 Setapp 上试验基于额度（credit）的定价模式——用户根据持有的额度和任务复杂度，执行相应数量的 AI 操作。

如果这套方案跑通，参与其中的 Mac 应用可以向 Eney 开放更多能力与上下文，让助手理解应用内部正在发生什么，从而给出更有用的回答或直接代为执行操作。对用户来说，最直接的变化是三点：个人数据留在本机、响应更快、断网状态下核心任务依然可用。

来源：9to5Mac、TechCrunch、MacPaw 官方公告

]]> https://mylogs.cn/macpaw-liquid-ai-on-device-ai-mac-eney-setapp/feed/ 0 手机AI是真本地还是假噱头？开飞行模式一测便知 https://mylogs.cn/%e6%89%8b%e6%9c%baai%e6%98%af%e7%9c%9f%e6%9c%ac%e5%9c%b0%e8%bf%98%e6%98%af%e5%81%87%e5%99%b1%e5%a4%b4%ef%bc%9f%e5%bc%80%e9%a3%9e%e8%a1%8c%e6%a8%a1%e5%bc%8f%e4%b8%80%e6%b5%8b%e4%be%bf%e7%9f%a5/ Wed, 29 Jul 2026 23:06:46 +0000 https://mylogs.cn/%e6%89%8b%e6%9c%baai%e6%98%af%e7%9c%9f%e6%9c%ac%e5%9c%b0%e8%bf%98%e6%98%af%e5%81%87%e5%99%b1%e5%a4%b4%ef%bc%9f%e5%bc%80%e9%a3%9e%e8%a1%8c%e6%a8%a1%e5%bc%8f%e4%b8%80%e6%b5%8b%e4%be%bf%e7%9f%a5/ 如今几乎每部手机的宣传页上都印着”AI”字样，但很多用户分不清：这些功能到底是在手机芯片上本地运行，还是必须联网把数据传到服务器处理？两者差别很大——真正的端侧 AI 在没有网络时照常工作，照片、录音和文字都不会离开设备；而云端 AI 一断网就彻底罢工，隐私数据也要先上传再处理。麻烦的是，厂商在宣传时很少注明处理发生在哪里。

手机AI是真本地还是假噱头？开飞行模式一测便知
图片来源：MakeUseOf

MakeUseOf 编辑 Rob LeFebvre 分享了一个简单粗暴的验证方法：把手机调成飞行模式，再逐个触发号称”端侧运行”的 AI 功能。他用手头的 5 台设备做了同一套测试——iPhone 15 Pro Max、Pixel 9、一加 Open、2018 款 12.9 英寸 iPad Pro（第三代）和 TCL NXTPAPER 14 平板，结果只有 2 台真正过关。

自己动手验证的方法

想知道自己的设备是真端侧还是伪 AI，可以照以下步骤操作：

  1. 下拉控制中心或进入”设置”，开启飞行模式，确保 Wi-Fi 和移动数据全部断开；
  2. 打开一个官方宣称可离线使用的 AI 功能，比如录音转写摘要、写作润色、通知摘要等；
  3. 观察结果：功能正常出结果，说明确实在本地处理；如果一直转圈、报”无网络连接”错误，或者设备上根本找不到该功能，那它要么依赖云端，要么压根不存在。

过关的两台：Pixel 9 与 iPhone 15 Pro Max

在飞行模式下，Pixel 9 的表现毫无破绽：录音机应用生成了完整的三点式语音备忘摘要，Pixel Screenshots 能搜索已保存的截图，Google 信息里的 Magic Compose 也能正常建议回复。这三项功能都跑在 Gemini Nano 上——谷歌直接内置在 Tensor 芯片里的小模型，Pixel 8a 及更新机型均支持，Pixel 9 系列的版本还加入了多模态能力。

iPhone 15 Pro Max 同样顺利：备忘录里的写作工具在完全断网状态下重写了一段文字，通知摘要也照常生成。这符合苹果的官方要求——Apple Intelligence 至少需要 A17 Pro 芯片加 8GB 内存，15 Pro Max 刚好达标。

落榜的三台各有原因

一加 Open 和 TCL NXTPAPER 14 输在同一处：整台设备上找不到安卓的 AICore 应用，应用商店和系统应用列表里都没有。没有 AICore 就没有 Gemini Nano，宣传里写再多”AI”也没用。一加设备直到搭载骁龙 8 Elite 的一加 13 才获得 Gemini Nano 支持，Open 的骁龙 8 Gen 2 始终没等到这个更新。Open 相册里确实内置了 AI 消除工具，但飞行模式下点开直接弹出”无网络连接”，连启动都不行。TCL 平板的联发科 Helio G99 属于主打续航和成本的入门芯片，达不到 AICore 的硬件门槛。

2018 款 iPad Pro 则纯粹是太老了：设置里只有普通的 Siri 菜单，没有”Apple Intelligence 与 Siri”选项。它的 A12X 芯片早于苹果的要求好几年，不过面容 ID 和实况文本这类基础功能仍在本地运行。

注意事项

规格表上的”AI 功能”四个字含金量远比看起来低——5 台设备里 3 台没通过断网测试。购机时如果在意端侧 AI，别只看宣传页，安卓机型可先确认是否有 AICore 应用，苹果设备则核对芯片是否达到 A17 Pro 或 M 系列门槛。最可靠的办法始终是：关掉网络，看看还剩什么能用。

来源：MakeUseOf

]]> 苹果洽谈PrismML：270亿参数大模型或将直接运行于iPhone https://mylogs.cn/%e8%8b%b9%e6%9e%9c%e6%b4%bd%e8%b0%88prismml%ef%bc%9a270%e4%ba%bf%e5%8f%82%e6%95%b0%e5%a4%a7%e6%a8%a1%e5%9e%8b%e6%88%96%e5%b0%86%e7%9b%b4%e6%8e%a5%e8%bf%90%e8%a1%8c%e4%ba%8eiphone/ Wed, 15 Jul 2026 00:29:59 +0000 https://mylogs.cn/%e8%8b%b9%e6%9e%9c%e6%b4%bd%e8%b0%88prismml%ef%bc%9a270%e4%ba%bf%e5%8f%82%e6%95%b0%e5%a4%a7%e6%a8%a1%e5%9e%8b%e6%88%96%e5%b0%86%e7%9b%b4%e6%8e%a5%e8%bf%90%e8%a1%8c%e4%ba%8eiphone/ 据CNBC报道，苹果公司正与硅谷AI初创公司PrismML展开初步洽谈，探讨一项有望重塑端侧AI格局的模型压缩技术。该消息经格隆汇于7月15日跟进报道，引发业界对苹果端侧AI战略方向的广泛关注。 PrismML的核心技术方向是AI模型深度压缩。据披露，该公司开发的压缩技术能够将AI模型的内存占用降低10至15倍。这一量级的压缩幅度意味着，原本需要依赖云端算力才能运行的大型语言模型，有望被”塞进”智能手机的本地存储中。具体而言，该技术能够使拥有270亿参数的大型AI模型在iPhone 15及以上设备上实现本地运行，而无需依赖网络连接和远程服务器。 性能指标方面，这项压缩技术不仅缩减了模型体积，还带来了显著的效率提升。据相关报道，在端侧部署场景下，AI模型的响应速度可提升6至8倍，同时能耗降低3至6倍。对于电池容量和散热条件均受限的移动设备而言，能效比的改善尤为关键。 若该技术经过验证并达到商业化成熟度，苹果有望将更多Siri及生成式AI功能从云端迁移至设备本地运行。这一转变将带来多重优势：首先是响应速度的进一步提升，本地推理省去了数据上传与结果回传的网络延迟；其次是隐私保护能力的增强，用户数据无需离开设备即可完成AI处理；第三是支持离线使用场景，在无网络连接的环境下仍可调用AI功能；此外，大规模本地化推理还将显著降低苹果在云计算基础设施方面的运营成本。 值得注意的是，苹果在今年WWDC 2026上已发布了全新Siri AI，并对全线操作系统进行了AI能力升级。此次与PrismML的接洽，被视为苹果进一步强化端侧AI布局的重要信号。 然而，业内人士也对该技术的实际落地前景保持了审慎态度。一方面，实验室环境下的压缩效果与大规模实际应用之间往往存在差距，该技术仍需经过大量真实场景的验证才能确认其可靠性。另一方面，将270亿参数模型部署于手机端后，对电池续航、系统稳定性以及长期性能表现的影响，目前仍有待观察。移动设备的硬件资源有限，如何在压缩模型与维持输出质量之间取得平衡，将是技术落地的核心挑战。 目前苹果与PrismML的洽谈尚处于初步阶段，双方尚未公布具体合作细节或时间表。但这一动向本身已清晰表明，端侧AI正在成为科技巨头竞争的新焦点，而模型压缩技术则是实现这一愿景的关键桥梁。

]]>