gemma-4-E2B-it-GGUF (LM Studio)

独立证据与社区反馈

12 个独立来源 · 另 1 官方/转载最近验证 2026-08-09

Gemma 4 E2B 是小体量模型中的黑马,在手机和笔记本上能以可观速度运行,推理链短于同量级竞品,一次性编程能力亮眼。GGUF 版本在 LM Studio 中兼容良好,但默认设置和量化选择对实际体验影响很大。

• E2B 体积紧凑,适合手机和笔记本端本地部署
• 推理速度快,在 RTX 3060 上约 40 tokens/s
• GGUF 版本在 LM Studio 中可直接加载使用
• 推理时间明显短于同体量 Qwen3.5-4B,而质量不输甚至更好
• 一次性编程(one-shot coding)表现接近 GPT-5.2 和 Gemini 3 Pro
• 翻译能力(非中文方向)在 Google 系列模型中一贯出色
• E2B/E4B 版本审查极宽松,几乎无安全限制
• MTP 支持使本地编程代理实际速度提升明显

• LM Studio 默认设置会关闭推理链(reasoning/thinking),需手动开启
• MLX 版本在 LM Studio 中不进入 thinking 阶段,仅 GGUF 版本正常
• q6_k 量化下视觉质量不优于 e2b,音频则完全不可用
• 代码生成偶有低级语法错误,如多余括号、用逗号分隔函数定义
• 在 agentic coding 和非编程基准测试中表现不佳
• 同硬件下速度略慢于 Qwen3.5
• E2B/E4B 上下文窗口仅 128K,小于高配版本的 256K
• Unsloth 版 GGUF 偶有加载失败,lmstudio-community 版更稳定

• 社区实测r/LocalLLaMA: Gemma 4 is good
• 社区实测r/LocalLLaMA: google/gemma-4-12B · Hugging Face
• 社区实测Gemma 4 12B: A unified, encoder-free multimodal model | Hacker News
• 社区实测r/LocalLLaMA: Gemma 4 just casually destroyed every model on our leaderboard
• 社区实测I ran Gemma 4 as a local model in Codex CLI | Hacker News
• 社区实测r/LocalLLM: LM Studio - Gemma 4 question
• 社区实测r/LocalLLaMA: Benchmark & Reality Check on Gemma 4 12B
• 社区实测r/LocalLLaMA: Gemma-4-E2B-IT seems to be as good or better than Qwen3.5-4B
• 社区实测r/LocalLLaMA: Qwen3.5 vs Gemma 4: Benchmarks vs real world use?
• 独立评测Gemma 4 by Google: Specs, Benchmarks, Model Sizes, and How to Run It Locally
• 独立评测Gemma 4 Review: Benchmarks, Performance, and Whether It Is Worth Using
• 独立评测Gemma 4 - How to Run Locally | Unsloth Documentation
• 转载/仓库unsloth/gemma-4-E2B-it-GGUF · Hugging Face

可信度HuggingFace 下载量超 26 万，谷歌官方模型，LM Studio 团队量化