模型 / Bonsai-27B (Prism ML)

Bonsai-27B (Prism ML)

多模态 27B 模型,纯 Q1_0 量化,语言部分仅 3.8 GB

作者 prism-ml

仓库标识prism-ml/Bonsai-27B-gguf

~4.1GB 1-bit许可 可商用任务 文本生成最近核对 2026-08-05
格式
1-bit
文件
~3.5GB
运行内存
~4.1GB–5.3GB
运行时
OLLAMA
下载
513

Hugging Face 源仓库 ↗

快速上手示例

ollama run hf.co/prism-ml/Bonsai-27B-gguf

依赖版本和硬件参数请以源仓库说明为准。

适合与不适合

入选理由
Bonsai-27B 的 1-bit GGUF 量化,含视觉投影,可用 llama.cpp/LM Studio 本地运行;适合低资源设备尝鲜多模态,但 1-bit 精度损失大。
对位
对位 InternVL2-26B
适合
低显存本地多模态聊天 / 图片描述与视觉问答
不适合
复杂文档视觉解析

独立证据与社区反馈

4 个独立来源最近验证 2026-08-05

能跑在手机上的 27B 级模型,tool calling 意外可用,但日常聊天不及同体量竞品

  • 在手机上运行 27B 级别语言模型
  • 在同等内存占用下提供可用的 tool calling
  • 作为模型路由器将查询分发到不同专长模型
  • 日常对话质量不及同内存占用的 Qwen 3.6 27B 和 Gemma 4

可信度由 LM Studio 官方社区转换,SHA256 校验,Apache-2.0 许可证

完整规格

规模
27B · 262K · 下载 ~3.5GB · 显存最低 ~4.1GB · 推荐 ~5.3GB · 1-bit(估算)
授权
Apache-2.0 · 可商用
框架
llama.cpp / lmstudio
血统
量化自 Bonsai-27B-unpacked
访问提示
Hugging Face 可能需要代理

下载动量

30天下载 458.1k → 430k · likes +67

在线体验

观测时间线