此页是 2026-07-16 的观测快照,查看该模型当前信息 → /m/angelslim__hy3-gguf/

归档 / 2026-07-16 / Hy3-GGUF (腾讯)

Hy3-GGUF (腾讯)

腾讯 Hy3 混合精度 GGUF，针对本地受限硬件极限压缩

入选理由: 腾讯Hy3的GGUF量化版，提供完整部署脚本和混合精度配方，支持MTP自推测解码，适合多卡服务器本地运行。
对位: 未知
适合: H20 单卡/双卡本地推理 / 带自推测解码的低延迟生成
不适合: 生产环境高并发在线服务
规模: 未公开 · 65536
授权: apache-2.0 · 需自查
框架: llama.cpp / ollama
血统: 量化自 Hy3
可信度: 腾讯 AngelSlim 团队提供，附 llama.cpp 补丁与量化配方

快速上手示例

ollama run hf.co/AngelSlim/Hy3-GGUF

依赖版本和硬件参数请以源仓库说明为准。

评分详情

Q1: 今天能接上用吗 5 / 5
Q2: 有可信证据吗 1 / 5
Q3: 是新东西吗 3 / 5
总分: 9

HuggingFace 原始数据 (抓取于 2026-07-16)

作者: AngelSlim
任务类型: text-generation
推理库: 未指定
下载: 0
点赞: 107
许可证: apache-2.0
标签: gguf, text-generation, base_model:tencent/Hy3, base_model:quantized:tencent/Hy3, license:apache-2.0, endpoints_compatible, region:us, imatrix, conversational

探索