归档 / 2026-05-18 / Qwen3.6-27B-GGUF (unsloth)
Qwen3.6-27B-GGUF (unsloth)
观察 Qwen3.6-27B GGUF量化版,面向本地部署与边缘推理
- 部署
-
- py llama.cpp: ./main -m Qwen3.6-27B-Q4_K_M.gguf 复制
- py ollama: 通过 Modelfile 导入 GGUF 后运行 复制
- 对位
- 对标 Qwen3-35B-A3B MoE 与 DeepSeek-Coder-V2
- 适合
- 本地代码智能体与工具调用 / 长上下文文档分析及问答
- 不适合
- 依赖全精度浮点的科研场景
- 规模
- 27B · 262K · Apache-2.0
- 框架
- llama.cpp / ollama
- 可信度
- HuggingFace下载量184万+,源自Apache-2.0许可的Qwen3.6-27B
评分详情
- Q1
- 今天能接上用吗 5 / 5
- Q2
- 有可信证据吗 3 / 5
- Q3
- 是新东西吗 1 / 5
- 总分
- 9
- 判定
- LLM: 观察 → 规则: 观察
GGUF格式即用,下载量高但属量化重打包,无新增能力。
HuggingFace 原始数据 (抓取于 2026-05-18)
- 作者
- unsloth
- 推理库
- transformers
- 下载
- 1,845,912
- 点赞
- 692
- 许可证
- Apache-2.0
- 标签
- transformers, gguf, unsloth, qwen, qwen3_5, image-text-to-text, base_model:Qwen/Qwen3.6-27B, base_model:quantized:Qwen/Qwen3.6-27B, license:apache-2.0, endpoints_compatible, region:us, imatrix, conversational
探索
源链接 ↗