一位德国开发者为了少看手机、多读长文,把个人博客订阅做成了每天一张「电子报纸」。整个项目使用一款国产 4.3 …
同样一张显卡,同样一个模型,换个推理引擎,能同时服务的用户数可以差出好几倍。差距不在模型,而在显存怎么管、请求…
用命令行 AI 编程助手的开发者,大多遇到过同一个麻烦:对话记录堆了几十上百条,全是没有标题的文件,想找回上周…
训练一个模型必须要有显卡或者数据中心,这几乎是行业默认的常识。一个名为 Qapla’ 的开源项目给…
你要是因为显卡只有 4GB 就放弃了本地微调大模型,这个开源项目值得看一眼。 它叫 Soup,最近登上 Hac…
你把一段视频丢给大模型,它其实并没在”看”视频——它看到的是从里面抽出来的一沓静态截图…