Lin
Lin博客
记录技术与生活
667
文章
900
标签
标签
热门推荐
标签: 模型压缩 清除筛选
    27B 模型塞进手机：PrismML Bonsai 27B 把权重压到 1-bit
    27B 模型塞进手机：PrismML Bonsai 27B 把权重压到 1-bit
    27B 模型塞进手机：PrismML 的 Bonsai 27B 把权重压到 1-bit

    2026 年 7 月 14 日，从加州理工学院分拆出来的初创公司 PrismML 发布了 Bonsai 27B——一个把 270 亿参数的 Qwen3.6-27B 模型压缩到 3.9 GB 的开源模型。这个数字本身已经足够扎眼：同样参数规模在 16-bit 精度下要 54 GB，连主流的 4-bit 量化版本也要 13–18 GB，而 1-bit Bonsai 27B 把它压到了约原来的十四分之一。PrismML 给出的部署场景更激进：在一台 iPhone 17 Pro 上能跑出 11 tokens

    7/18/2026开源AILLM模型压缩端侧