Qwen3.5-9B (Qwen)
Qwen3.5-9B MoQ量化版,MTP推测解码,适合本地快速生成
~5.4GB 4-bit许可 可商用任务 文本生成最近核对 2026-06-21
- 格式
- 4-bit
- 文件
- ~4.7GB
- 运行内存
- ~5.4GB–7GB
- 运行时
- OLLAMA
- 下载
- 6,044
快速上手示例
ollama run hf.co/w-ahmad/Qwen3.5-9B-GGUF-MoQ-MTP 依赖版本和硬件参数请以源仓库说明为准。
适合与不适合
独立证据与社区反馈
社区口碑两极分化明显:在 agentic coding 和本地小任务上表现出超预期的性价比与速度,benchmark 成绩亮眼;但在工具调用格式遵循、多语言逻辑一致性、事实准确性方面翻车案例不少,实际体验与 benchmark 排名存在落差。
- 搭配 Kilo Code、Roo Code、Continue 做 agentic coding 体验良好
- 代码补全质量优于更小的 Qwen2.5 Coder 模型
- 在部分用户实测中产出可直接交付的代码,整体优于 Qwen 2.5 Coder 32B
- 可在 8GB 内存、2019 年笔记本等 modest 硬件上本地运行
- 适合本地工具调用与信息抽取等嵌入式应用
- 适合邮件分类等小型实用任务
- 在 GPQA Diamond、MMLU-Pro、MMMLU 等 benchmark 上超越数倍参数量的更大模型
- 在 5/8 项共享 benchmark 上击败 Gemma-4-12B,参数量更小
- 对自定义工具调用格式(如 <call>...</call>)遵循能力差
- 部分 prompt 字符串会破坏输出逻辑
- 在多语言交流中逻辑有问题,英语场景也偶有出现
- 事实性任务中存在明显幻觉
- benchmark 高分与实际使用可靠性之间存在落差
- 不能替代 Opus 等大模型用于专业日常工作
- 纯编码能力上 Gemma-4-12B 可能略优
- 社区实测Qwen3.5-9B is actually quite good for agentic coding - Reddit
- 社区实测Qwen3.5-9B Surprised Me - Faster and More Reliable Than ... - Reddit
- 社区实测Qwen 3.5 9B Low Quality Performance : r/ollama - Reddit
- 社区实测Is Qwen3.5-9B enough for Agentic Coding? : r/LocalLLaMA - Reddit
- 社区实测Just want to echo the recommendation for qwen3.5:9b. This is a ...
- 社区实测I have spent a HUGE amount of time the last two years ...
- 社区实测Qwen 2.5 -> 3 -> 3.5, smallest models. Incredible improvement over ...
- 独立评测Qwen3.5-9B tops every AI benchmark right now, but that's not how ...
- 社区实测gemma-4-12b-it vs Qwen3.5-9B on shared benchmarks - Reddit
- 社区实测qwen 3.5-9b beats bigger models in reasoning - Facebook
- 独立评测A 9B Model Just Beat a 120B One. Here's What Nobody's Telling You.
可信度6k下载,基于Qwen3.5-9B,MoQ量化在WikiText上优于UnslothDynamic约10%
完整规格
下载动量
30天下载 2.7k → 2k · likes +1
观测时间线
模型家族
- Qwen3.5-9B
- 量化 MaralGPT-Mythos-9B (MaralGPT)
- 量化 Qwen3.5-9B (Qwen)
- 量化 Qwen3.5-9B-MTP-GGUF (unsloth)
- 量化 Qwen3.5-9B-OptiQ-4bit (mlx-community)
- 微调 Qwythos-9B (Empero)