KoboldCpp – mylogs.cn https://mylogs.cn 发现、记录、分享 Mon, 17 Aug 2026 00:48:40 +0000 zh-Hans hourly 1 集显笔记本也能跑本地大模型，这 4 款实测可用 https://mylogs.cn/%e9%9b%86%e6%98%be%e7%ac%94%e8%ae%b0%e6%9c%ac%e4%b9%9f%e8%83%bd%e8%b7%91%e6%9c%ac%e5%9c%b0%e5%a4%a7%e6%a8%a1%e5%9e%8b%ef%bc%8c%e8%bf%99-4-%e6%ac%be%e5%ae%9e%e6%b5%8b%e5%8f%af%e7%94%a8/ Mon, 17 Aug 2026 00:48:40 +0000 https://mylogs.cn/%e9%9b%86%e6%98%be%e7%ac%94%e8%ae%b0%e6%9c%ac%e4%b9%9f%e8%83%bd%e8%b7%91%e6%9c%ac%e5%9c%b0%e5%a4%a7%e6%a8%a1%e5%9e%8b%ef%bc%8c%e8%bf%99-4-%e6%ac%be%e5%ae%9e%e6%b5%8b%e5%8f%af%e7%94%a8/ 集显笔记本也能跑本地大模型，这 4 款实测可用

集显笔记本也能跑本地大模型，这 4 款实测可用
图片来源：XDA Developers

很多人想在自己电脑上跑大模型，第一反应就是得配一张昂贵的独立显卡。XDA Developers 撰稿人 Yash Patel 在文中分享，他只用一台搭载 AMD 锐龙 7 5000 系列处理器、16GB 内存与 AMD Radeon 核显的联想 IdeaPad Slim 3，就跑通了多个本地模型，日常写稿、写代码完全够用。他的体会是：只要选对模型、放低预期，核显机器照样能玩转本地 AI，而且所有提示词和文件都留在自己电脑上，不必担心隐私外泄。

一、先装一个轻量运行器

他用的开源工具是 KoboldCpp，专门用来加载 GGUF 格式的模型文件。它的好处是简单、可控：下载后把模型文件拖进去、按需调整参数，就能在本机直接对话，不需要复杂的部署流程，换模型也只需重新加载，不必关掉整个程序。

二、按用途挑 4 款模型

  1. Mistral 7B（Mistral-7B-Instruct-v0.3-Q8_0，8 位量化）：他用来头脑风暴、列提纲、扩展思路，是能力与核显负载之间最平衡的一款，适合写作前先理框架；
  2. Phi-4 Mini（Phi-4-mini-instruct-Q6_K，6 位量化）：体积小、启动快，适合改写字句、总结短文、解释概念这类零碎活，随手就用；
  3. Gemma 3 4B（gemma-3-4b-it-Q4_K_M，4 位量化）：需要多一点推理时用，比如拆解问题、比较方案、核对思路，资源占用也不高；
  4. Qwen 3.5 4B（Qwen3.5-4B-UD-Q8_K_XL，8 位量化）：他主要的本地写代码助手，能写代码、修报错、解释代码段，小任务尤其顺手。

三、控制模型规模

他的经验是，3B 到 7B 区间的模型在速度与质量上最均衡；再大的模型（比如 12B 以上）也能跑，但明显变慢，往往不值当。按任务切模型，比死守一个大模型更省心。

注意事项

模型文件名里的 Q8_0、Q6_K、Q4_K_M 代表量化精度，位数越低体积越小、越省显存，但输出质量也会略降，可按自己机器灵活取舍。若从模型社区下载，记得确认文件来自可信来源。

来源：XDA Developers

]]>