Huihui-gemma-4-12B-coder-abliterated (huihui-ai)

独立证据与社区反馈

6 个独立来源 · 另 4 官方/转载最近验证 2026-08-05

Gemma 4 12B 在消费级硬件上做到了速度与性能的出色平衡，12B 参数即可接近 26B MoE 的水平，且支持本地运行；huihui-ai 的 abliteration 版本移除了拒绝回答，coder 变体在 tau2-bench 真实编程任务中比原版 Gemma 4 12B 提升 42%，但初始权重曾有 bug 需重新下载，abliteration 实现较为粗糙，安全过滤大幅降低。

• 12B 模型可在 16GB RAM 的消费级笔记本上本地运行
• 速度与性能比在本地模型中属上乘，适合消费级硬件
• coder 变体在 tau2-bench 真实编程任务中比原版 Gemma 4 12B 提升 42%
• 支持本地运行 state-of-the-art agent
• 通过 Ollama 一行命令即可部署，12b 版本仅 7.6GB
• abliteration 移除了模型的拒绝回答，可讨论原本被过滤的话题
• 支持 128K 上下文窗口
• 支持文本、图像、音频、视频多模态输入

• 最早发布的 google/gemma-4-12B-it 权重有问题，已重新 ablation 并上传，已下载用户需重新下载
• Gemma 12B 是唯一没有视觉编码器的版本，图像理解可能受限
• abliteration 是「粗略的概念验证」实现，并非精细优化的安全方案
• 官方明确警告安全过滤大幅降低，可能生成敏感或不当内容，不适合所有受众
• coder 变体在 Spheron 估算的 VRAM 需求约 26 GB，对部分消费级 GPU 仍偏高

• 社区实测huihui.ai on X: "New Model: huihui-ai/Huihui-gemma-4-12B-it-abliterated This is an uncensored version of google/gemma-4-12B-it created with abliteration. For this model, both the thinking mode and the non-thinking mode have been completely abliterated. Only layers 23-28 have been abliterated." / X
• 独立评测Huihui-gemma-4-12B-it-abliterated
• 社区实测Gemma 4 12b needs glasses : r/LocalLLaMA
• 独立评测Gemma 4 12B Is INCREDIBLE! BEST Local AI Coding Model! IS POWERFUL! (Fully Tested)
• 独立评测Huihui-gemma-4-12B-coder-fable5-composer2.5-v1-abliterated VRAM Requirements: ~26 GB, Cheapest GPU from $0.53/hr | Spheron
• 社区实测What the hell is this? gemma-4-12B-coder-fable5-composer2.5-v1-...
• 官方/厂商huihui-ai/Huihui-gemma-4-12B-it-abliterated · Hugging Face
• 官方/厂商huihui-ai/Huihui-gemma-4-12B-coder-fable5-composer2.5-v1-abliterated · Hugging Face
• 官方/厂商huihui_ai/gemma-4-abliterated
• 官方/厂商Introducing Gemma 4 12B: a unified, encoder-free multimodal model

可信度HuggingFace 下载量 1773, 点赞 91, 基于 abliteration 移除安全对齐