模型 / niko_orchestrator_gguf (SAi404)

niko_orchestrator_gguf (SAi404)

Llama-3.2-3B 微调，GGUF 格式，给本地推理用户

作者 SAi404

仓库标识SAi404/niko_constitution_gguf

显存未知许可 需自查最近核对 2026-06-19
运行内存
权重格式未知,无法估算显存
运行时
LLAMA-CLI
下载
115

Hugging Face 源仓库 ↗

快速上手示例

llama-cli -hf SAi404/niko_orchestrator_gguf --jinja

依赖版本和硬件参数请以源仓库说明为准。

适合与不适合

入选理由
基于 Llama-3.2-3B 微调的 GGUF 模型，可直接用 llama.cpp 或 Ollama 运行，适合本地对话推理。
对位
对位 Llama-3.2-3B-Instruct
适合
资源受限的本地推理 / 轻量级对话与编排任务
不适合
高精度复杂推理

独立证据与社区反馈

3 个独立来源最近验证 2026-06-19

社区文化独特且被刻意维护，但内容发现机制简陋、非技术话题覆盖有限。

  • 高质量技术讨论，信噪比高于 Reddit 等主流平台
  • 社区成员有意识地维护讨论氛围，保持理性交流
  • 界面和信息发现机制简陋，难以按兴趣筛选内容
  • 用户群体以美国富裕自由意志主义者为主，非技术话题讨论质量差
  • 非技术类新闻覆盖不足
  • 社区文化独特，新用户需要先潜水观察再参与讨论

可信度下载 115 次，基于 Llama-3.2-3B-Instruct 微调，Unsloth 量化 Q4_K_M。

完整规格

规模
3B · 权重格式未知,无法估算显存
商用
需自查
框架
llama.cpp / ollama
访问提示
Hugging Face 可能需要代理

下载动量

30天下载 29 → 31

观测时间线