标签: 千问

清除筛选

Qwen3.8 27B 量化实测:4-bit 无损,1-bit 崩到随机线以下

把一个 55GB 的开源模型压到 17GB,跑分几乎不动;继续压到 6.2GB,它的成绩掉到瞎猜水平以下。Quesma 工程师 Piotr Migdał 8 月 26 日发表的实测,把阿里千问 Qwen3.8 27B 的五个量化档位逐个放上三个基准,量出了这条异常清晰的分界线。整轮测试在 Modal 租用 GPU 上完成,llama.cpp 推理,总计烧掉约…