模型 / GPT-OSS-20B (OpenAI)

GPT-OSS-20B (OpenAI)

2-bit 量化 MLX 模型,专为 Apple Silicon 推理

作者 majentik

仓库标识majentik/gpt-oss-20b-TurboQuant-MLX-2bit

显存未知许可 需自查任务 文本生成最近核对 2026-08-05
运行内存
格式线索互相矛盾(含估算映射未支持的位宽),无法估算显存
运行时
MLX_LM
下载
283

仅 safetensors · 无 pickle 加载风险

Hugging Face 源仓库 ↗

快速上手示例

mlx_lm.generate --model majentik/gpt-oss-20b-TurboQuant-MLX-2bit --prompt '你的提示'

依赖版本和硬件参数请以源仓库说明为准。

适合与不适合

入选理由
苹果M芯片用户可用mlx-lm快速跑2bit量化版GPT-OSS-20B,约6GB显存,质量有损但适合低内存设备。无第三方验证,仅量化重打包。
适合
Apple Silicon 设备本地推理 / 极低内存占用(约 6 GB)
不适合
高精度文本生成

独立证据与社区反馈

5 个独立来源最近验证 2026-08-05

小体量高性能的开源模型,在同尺寸中表现突出且本地部署门槛低,但安全过滤过严和输出重复问题影响实际使用。

  • 可在 16GB 内存(非 GPU)上运行,降低本地部署门槛
  • Apache 2.0 许可,附带原始推理轨迹和微调指南
  • 同尺寸模型中表现突出,部分场景可对标 2-3 倍参数量模型
  • 可用于低成本生成高质量合成数据
  • 安全过滤极为严格,频繁拒答
  • 输出中过度重复'alternatively'等固定词汇,日常使用体验不佳
  • 部分用户评价极低,称其为'最愚蠢的 COT MOE 模型'

可信度OpenAI 开源 MoE 20B 的 2-bit MLX 量化版,hf 下载数 283

完整规格

规模
20B (MoE) · 格式线索互相矛盾(含估算映射未支持的位宽),无法估算显存
授权
Apache 2.0 · 需自查
框架
mlx
血统
量化自 gpt-oss-20b
访问提示
Hugging Face 可能需要代理

下载动量

30天下载 407 → 425

观测时间线

模型家族

查看全部家族 →