苹果洽谈PrismML:270亿参数大模型或将直接运行于iPhone

据CNBC报道,苹果公司正与硅谷AI初创公司PrismML展开初步洽谈,探讨一项有望重塑端侧AI格局的模型压缩技术。该消息经格隆汇于7月15日跟进报道,引发业界对苹果端侧AI战略方向的广泛关注。

PrismML的核心技术方向是AI模型深度压缩。据披露,该公司开发的压缩技术能够将AI模型的内存占用降低10至15倍。这一量级的压缩幅度意味着,原本需要依赖云端算力才能运行的大型语言模型,有望被”塞进”智能手机的本地存储中。具体而言,该技术能够使拥有270亿参数的大型AI模型在iPhone 15及以上设备上实现本地运行,而无需依赖网络连接和远程服务器。

性能指标方面,这项压缩技术不仅缩减了模型体积,还带来了显著的效率提升。据相关报道,在端侧部署场景下,AI模型的响应速度可提升6至8倍,同时能耗降低3至6倍。对于电池容量和散热条件均受限的移动设备而言,能效比的改善尤为关键。

若该技术经过验证并达到商业化成熟度,苹果有望将更多Siri及生成式AI功能从云端迁移至设备本地运行。这一转变将带来多重优势:首先是响应速度的进一步提升,本地推理省去了数据上传与结果回传的网络延迟;其次是隐私保护能力的增强,用户数据无需离开设备即可完成AI处理;第三是支持离线使用场景,在无网络连接的环境下仍可调用AI功能;此外,大规模本地化推理还将显著降低苹果在云计算基础设施方面的运营成本。

值得注意的是,苹果在今年WWDC 2026上已发布了全新Siri AI,并对全线操作系统进行了AI能力升级。此次与PrismML的接洽,被视为苹果进一步强化端侧AI布局的重要信号。

然而,业内人士也对该技术的实际落地前景保持了审慎态度。一方面,实验室环境下的压缩效果与大规模实际应用之间往往存在差距,该技术仍需经过大量真实场景的验证才能确认其可靠性。另一方面,将270亿参数模型部署于手机端后,对电池续航、系统稳定性以及长期性能表现的影响,目前仍有待观察。移动设备的硬件资源有限,如何在压缩模型与维持输出质量之间取得平衡,将是技术落地的核心挑战。

目前苹果与PrismML的洽谈尚处于初步阶段,双方尚未公布具体合作细节或时间表。但这一动向本身已清晰表明,端侧AI正在成为科技巨头竞争的新焦点,而模型压缩技术则是实现这一愿景的关键桥梁。