Qwen3.5-35B-A3B (Qwen)

4-bit MLX 量化，Apple Silicon 本地运行文本生成

仓库标识mlx-community/Qwen3.5-35B-A3B-OptiQ-4bit

显存未知许可可商用任务文本生成最近核对 2026-07-15

链接指向的配置不在本页收录的形态里,已显示默认形态(4bit)。

仅 safetensors · 无 pickle 加载风险

快速上手示例

mlx_lm.generate --model mlx-community/Qwen3.5-35B-A3B-OptiQ-4bit --prompt 'Explain quantum computing.' --max-tokens 200

依赖版本和硬件参数请以源仓库说明为准。

适合与不适合

入选理由: 为Apple Silicon优化的混合精度量化版Qwen3.5-35B-A3B，5分钟即可本地运行，基准略优于均匀4bit。适合Mac用户快速部署。
对位: 对位 Qwen2.5-3B
适合: Apple Silicon 本地大模型推理 / 敏感层 8-bit 保精度的代码/指令任务
不适合: 显存<16GB 设备运行受限

30天下载 434 → 439 · likes +1