模型 / Qwen3.6-35B-A3B-VQ-4.6bpw (TheDrainFlorist)

Qwen3.6-35B-A3B-VQ-4.6bpw (TheDrainFlorist)

Mac 可跑的 Qwen3.6-35B VQ 量化

作者 TheDrainFlorist

仓库标识TheDrainFlorist/Qwen3.6-35B-A3B-VQ-4.6bpw

显存未知许可 可商用任务 文本生成最近核对 2026-09-07
运行内存
格式线索互相矛盾(含估算映射未支持的位宽),无法估算显存
运行时
PYTHON
下载
930

仅 safetensors · 无 pickle 加载风险

Hugging Face 源仓库 ↗

快速上手示例

python -m mlx_lm generate --model TheDrainFlorist/Qwen3.6-35B-A3B-VQ-4.6bpw --prompt "Hello"

依赖版本和硬件参数请以源仓库说明为准。

适合与不适合

入选理由
Qwen3.6-35B-A3B的MLX向量量化版,18.7GB在32GB Mac上可跑,困惑度接近bf16,优于社区4-bit。有现成mlx-lm命令,适合Apple Silicon本地部署。
对位
对位 Qwen3-30B-A3B
适合
Mac 32GB 本地推理 / 英文文本与代码生成
不适合
对精确 token 敏感的任务

完整规格

规模
35B-A3B · 格式线索互相矛盾(含估算映射未支持的位宽),无法估算显存
授权
apache-2.0 · 可商用
框架
mlx-lm / mlx_vlm
血统
量化自 Qwen3.6-35B-A3B
访问提示
Hugging Face 可能需要代理

下载动量

30天下载 1.4k → 1.8k

观测时间线

模型家族

查看全部家族 →