人工智能实验室 Underdog AI 本月发布 Saluki 27B 模型。这个「27B」背后,是一次把大模…
微软把本地大模型塞进系统层 科技媒体 NeoWin 于 10 月 8 日报道,微软正与开源项目 llama.c…
在本地跑一个开放权重模型,真正卡住人的从来不是模型本身,而是模型之前的一长串准备工作:查显卡显存、猜该下哪个量…
在苹果芯片的 Mac 上跑大模型,很多人会选择 llama.cpp。但当它运行在 macOS 虚拟机里时,推理…
别被「必须旗舰显卡」吓退 很多人以为跑本地大模型一定得配一张昂贵的独立显卡。这个说法有一半是对的——确实有不少…
在自己电脑上跑本地大模型的人,多半遇到过这样的场景:模型答着答着开始原地打转,同一个意思换四种说法反复讲。多数…