Bonsai-27B-mlx-1bit (Prism ML)

独立证据与社区反馈

4 个独立来源最近验证 2026-07-22

1-bit 技术方向引发好奇,但 27B 实测数据极少——社区对 8B 版本的失望让更大版本的能力存疑

• 1-bit 27B 仅 3.9GB,宣称可部署在手机上,降低了大模型的本地运行门槛
• llama.cpp 上的 1-bit 推理性能令人满意

• 1-bit 量化可能过度损害模型能力,8B 版本实测远逊于同量级 Gemma-4-E2B
• 实际输出质量难以评判,1-bit 模型的可用性仍有待验证
• 三元(Bonsai)版本表现甚至比 1-bit 版本更差

• 独立评测PrismML — Concentrating intelligence
• 社区实测PrismML — Announcing 1-bit Bonsai: The First Commercially Viable 1- ...
• 社区实测Bonsai-8B is MUCH dumber than Gemma-4-E2B : r ...
• 社区实测You guys seen this? 1-bit model with an MMLU-R of 65.7, 8B params

可信度公布15项思维模式基准平均76.11分，保留FP16的89.5%，含详细部署说明