标签: 推理引擎

colibri 技术解读：一块普通 NVMe 如何喂饱一个 744B 模型

colibri 技术解读：29,000 行 C 代码之外，一块普通 NVMe 如何喂饱一个 744B 模型 744B 参数的模型，在 25 GB 内存、一块普通 NVMe 的机器上能跑吗？GitHub 上的 colibrì 项目给出了一个可复现的答案：能，只是慢。这个 2026 年 7 月创建的开源项目在两个月内涨到 29,233 star，Apache-2…