Swift-Qwen3.8-27B-GGUF (UkisAI)

Qwen3.8-27B 低思考 token GGUF，支持图像输入

入选理由: Swift 是 Qwen3.8-27B 的推理精简微调版，思考 token 减少约 58%、速度提升近一倍，支持图像输入，有 GGUF 和免费 API 可立即试用。
对位: 对位 Qwen3.8-27B 原版及同级 27B 多模态开源模型
适合: 低显存本地多模态推理 / 长推理、低 token 消耗的 agent 编码
不适合: 年收入超 $1M 企业未获商业授权
规模: 27B · 262k · Q4 ~18GB / FP16 ~65GB
授权: Swift Open License v1.0 (gated) · 需自查
框架: llama.cpp / lmstudio / koboldcpp / jan
血统: 量化自 Swift-Qwen3.8-27b
可信度: 16,624 次下载、95 点赞；仓库提供 Q8_0 至 IQ2_XXS 的 KLD 量化表

快速上手示例

llama-server -hf ukisai/Swift-Qwen3.8-27B-GGUF:Q4_K_M --jinja -fa on -ngl 99 -c 262144 --temp 1.0 --top-p 0.95 --top-k 20 --min-p 0 --presence-penalty 0 --repeat-penalty 1.0

依赖版本和硬件参数请以源仓库说明为准。

评分详情

Q1: 今天能接上用吗 5 / 5
Q2: 有可信证据吗 1 / 5
Q3: 是新东西吗 3 / 5
总分: 9

HuggingFace 原始数据 (抓取于 2026-09-15)

作者: ukisai
任务类型: image-text-to-text
推理库: gguf
下载: 16,624
点赞: 95
许可证: Swift Open License v1.0 (gated)
标签: gguf, llama.cpp, qwen3_8, qwen3_5, efficient-thinking, reasoning, token-efficient, image-text-to-text, base_model:ukisai/Swift-Qwen3.8-27b, base_model:quantized:ukisai/Swift-Qwen3.8-27b, license:other, endpoints_compatible, region:us, imatrix, conversational

探索

源链接