模型 / Ornith-35b-MLX-6bit (AtomicChat)

Ornith-35b-MLX-6bit (AtomicChat)

35B MoE MLX 量化，Mac 本地多模态推理

作者 AtomicChat

~21GB 4-bit许可 可商用任务 文本生成最近核对 2026-07-23
格式
4-bit
文件
~18GB
运行内存
~21GB–27GB
运行时
MLX_LM
下载
927

仅 safetensors · 无 pickle 加载风险

Hugging Face 源仓库 ↗

快速上手示例

mlx_lm.generate --model AtomicChat/ornith-35b-MLX-6bit --prompt 'Hello'

依赖版本和硬件参数请以源仓库说明为准。

适合与不适合

入选理由
Ornith-1.0 35B的MLX 6-bit量化版，Apple Silicon上直接运行，适合Mac用户本地部署；但本身无新能力。
对位
对位 Qwen2.5-32B 等同级开源模型
适合
Apple Silicon 本地多模态推理 / 256K 长上下文编码与创作
不适合
非 Apple Silicon 设备部署

完整规格

规模
35B · 256K · 下载 ~18GB · 显存最低 ~21GB · 推荐 ~27GB · 4-bit(估算)
授权
MIT · 可商用
框架
mlx
血统
量化自 Ornith-1.0-35B
访问提示
Hugging Face 可能需要代理

观测时间线

模型家族

查看全部家族 →