模型 / Bonsai-27B (Prism ML)

Bonsai-27B (Prism ML)

27B 1-bit 量化模型，面向笔记本与手机本地推理

作者 prism-ml

~4.1GB 1-bit许可需自查任务文本生成最近核对 2026-07-15

格式: 1-bit
文件: ~3.5GB
运行内存: ~4.1GB–5.3GB
运行时: OLLAMA
下载: 513

Hugging Face 源仓库 ↗

快速上手示例

ollama run hf.co/prism-ml/Bonsai-27B-gguf

依赖版本和硬件参数请以源仓库说明为准。

适合与不适合

入选理由: 基于 Qwen3.6-27B 的 1-bit 量化，仅 3.9GB 即可运行 27B 推理，保留 89.5% 性能，适合笔记本和单卡，直接下载 GGUF 运行。
对位: 对位 Qwen3.6-27B 及 Gemma-4-31B 的量化版
适合: 本地隐私推理，笔记本/手机可用 / 262K 上下文，数学与编程任务
不适合: 长期 agent 编码与多文件重构

完整规格

规模: 27B · 262K · 下载 ~3.5GB · 显存最低 ~4.1GB · 推荐 ~5.3GB · 1-bit(估算)
授权: Apache 2.0 · 需自查
框架: llama.cpp
血统: 量化自 Qwen3.6-27B
访问提示: Hugging Face 可能需要代理

下载动量

30天下载 513 → 1405k

观测时间线

2026-07-15 · 当日卡片 →

模型家族

Qwen3.6-27B
- 量化 Bonsai-27B (Prism ML)
- 量化 Bonsai-27B-mlx-1bit (Prism ML)
- 量化 Qwen3.6-27B (OBLITERATUS)
- LoRA Qwen3.6-27b-Fable5 (hotdogs)
- 量化 Qwen3.6-27B-GGUF (unsloth)
- 量化 Qwen3.6-27B-MTP-pi-tune (bytkim)
- 量化 Qwen3.6-27B-OptiQ-4bit (mlx-community)
- LoRA Qwopus3.6-27B-v2-MTP-GGUF (Jackrong)
- 量化 Ternary-Bonsai-27B (Prism ML)

查看全部家族 →