模型 / Averroes-Q-Instruct (hayulalab)

Averroes-Q-Instruct (hayulalab)

Qwen2 架构的阿/英指令模型 GGUF 量化

作者 mradermacher

~4.2GB 4-bit许可 可商用任务 文本生成最近核对 2026-06-14
格式
4-bit
文件
~3.7GB
运行内存
~4.2GB–5.5GB
运行时
OLLAMA
下载
388

Hugging Face 源仓库 ↗

快速上手示例

ollama run hf.co/mradermacher/Averroes-Q-Instruct-GGUF

依赖版本和硬件参数请以源仓库说明为准。

适合与不适合

入选理由
阿拉伯语/英语双语指令Qwen2模型的GGUF量化，可直接用llama.cpp或Ollama本地运行，适合需要阿拉伯语对话的用户。
对位
对位 Qwen2-7B-Instruct
适合
阿拉伯语/英语混合指令跟随 / 消费级设备本地推理
不适合
非阿拉伯语/英语任务

完整规格

规模
7B · 下载 ~3.7GB · 显存最低 ~4.2GB · 推荐 ~5.5GB · 4-bit(估算)
授权
apache-2.0 · 可商用
框架
llama.cpp / ollama / llama-cpp-python
血统
量化自 Averroes-Q-Instruct
访问提示
Hugging Face 可能需要代理

下载动量

观测时间线