模型 / Qwen3.5-9B-OptiQ-4bit (mlx-community)

Qwen3.5-9B-OptiQ-4bit (mlx-community)

Apple Silicon 本地 4-bit 混合精度量化文本生成模型

作者 mlx-community

仓库标识mlx-community/Qwen3.5-9B-OptiQ-4bit

显存未知许可 可商用任务 文本生成最近核对 2026-07-13
运行内存
格式线索互相矛盾(含估算映射未支持的位宽),无法估算显存
运行时
MLX_LM
下载
11,971

仅 safetensors · 无 pickle 加载风险

Hugging Face 源仓库 ↗

快速上手示例

mlx_lm.generate --model mlx-community/Qwen3.5-9B-OptiQ-4bit

依赖版本和硬件参数请以源仓库说明为准。

适合与不适合

入选理由
Apple Silicon上的Qwen3.5-9B 4bit混合精度量化,比统一4bit稍好,用mlx-lm可直接加载运行,适合Mac用户本地高效部署。
对位
对位 Llama-3-8B / Gemma-2-9B
适合
本地代码/推理/工具调用任务 / Apple Silicon 上的高精度轻量部署
不适合
需 NVIDIA GPU 的部署场景

完整规格

规模
9B · 128k · 格式线索互相矛盾(含估算映射未支持的位宽),无法估算显存
授权
apache-2.0 · 可商用
框架
mlx
血统
量化自 Qwen3.5-9B
访问提示
Hugging Face 可能需要代理

下载动量

30天下载 16.9k → 18.6k · likes +6

观测时间线

模型家族

查看全部家族 →