模型 / Edge0-35B-A3B-preview (Edge0)

Edge0-35B-A3B-preview (Edge0)

35B 稀疏 MoE，3 GiB 内存可跑，面向设备端推理

作者 Edge0

仓库标识Edge0/Edge0-35B-A3B-preview

~21GB 4-bit许可 可商用任务 文本生成最近核对 2026-09-12
格式
4-bit
文件
~18GB
运行内存
~21GB–27GB
运行时
edge0
下载
951

仅 safetensors · 无 pickle 加载风险

Hugging Face 源仓库 ↗

适合与不适合

入选理由
在 Apple Silicon 上以约 3GiB 内存运行 35B MoE，提供 OpenAI 兼容接口和现成 CLI，适合边缘部署。
对位
对位 Qwen3-30B-A3B 等开源 MoE
适合
Apple Silicon / 边缘设备本地推理 / 单机多 LoRA 适配器批量服务
不适合
长上下文与代理工具调用

完整规格

规模
35B (3B 激活) · 下载 ~18GB · 显存最低 ~21GB · 推荐 ~27GB · 4-bit(估算)
授权
Apache-2.0 · 可商用
框架
edge0
血统
LoRA · 基于 Qwen3.5-MoE-35B-A3B
访问提示
Hugging Face 可能需要代理

下载动量

观测时间线