支持MTP加速的3B激活参数量化视觉语言模型，面向本地编程代理
- 部署
-
- py llama-server -hf unsloth/Qwen3.6-35B-A3B-MTP-GGUF:UD-Q4_K_XL --spec-type draft-mtp --spec-draft-n-max 6
- py Unsloth Studio 图形界面直接运行 MTP 模型
最近 3 天 · 共 15 个推荐
第 3 期 · 2026-05-19
第 2 期 · 2026-05-18
13B激活MoE，1M上下文，面向推理与代码
- 已量化
- 部署
-
- py modelscope download deepseek-ai/DeepSeek-V4-Flash
- py transformers: from_pretrained('deepseek-ai/DeepSeek-V4-Flash')
解禁版Qwen3.6-27B量化模型，为创意写作与代码而生
- 部署
-
- py 下载GGUF及mmproj文件，llama.cpp: ./llama-cli -m Qwen3.6-27B-Heretic.gguf --mmproj mmproj.gguf
- py ollama: 创建Modelfile指定GGUF路径，ollama create Qwen3.6-27B-Heretic -f Modelfile
无审查Gemma 4 26B GGUF，适合苹果硅本地快速推理
- 部署
-
- hf huggingface-cli download Jiunsong/supergemma4-26b-uncensored-gguf-v2 --include '*.gguf' --local-dir .
- py llama-cli -m supergemma4-26b-uncensored-fast-v2-Q4_K_M.gguf
像素空间文生图模型，基于AsymFlow，适合文字渲染与细节生成
- 部署
-
- url HF Space: https://huggingface.co/spaces/Lakonik/AsymFLUX.2-klein
- py Python: pip install lakonlab 后用 PixelFlux2KleinPipeline 加载适配器
- py 代码参考: https://github.com/Lakonik/LakonLab
多模态嵌入模型，支持文本/图像/视频/音频
- 部署
-
- pip pip install sentence-transformers && python -c "from sentence_transformers import SentenceTransformer; model = SentenceTransformer('jinaai/jina-embeddings-v5-omni-small', trust_remote_code=True)"
- pip pip install transformers && python -c "from transformers import AutoModel; model = AutoModel.from_pretrained('jinaai/jina-embeddings-v5-omni-small', trust_remote_code=True)"
- vll vllm serve jinaai/jina-embeddings-v5-omni-small --trust-remote-code --hf-overrides '{"task":"retrieval"}'
Qwen3.6 MoE GGUF 量化版，用于本地代理编程与多模态推理
- 部署
-
- py ollama run hf.co/unsloth/Qwen3.6-35B-A3B-GGUF
- py llama-cli -m Qwen3.6-35B-A3B-Q4_K_M.gguf
面向Agent编码与工具调用的9B视觉推理模型
- 部署
-
- py 下载GGUF文件，通过llama.cpp -m <model>.gguf --mmproj mmproj.gguf运行
第 1 期 · 2026-05-16
为开发者提供600+语言零样本语音合成
- 部署
31种语言本地TTS，面向AI应用开发者的语音合成
- 部署
-
- pip pip install supertonic
- url HF Space: https://huggingface.co/spaces/Supertone/supertonic-3
1.6T参数MoE模型,1M上下文,含推理模式
- 已量化
- 部署
-
- py transformers.AutoModelForCausalLM.from_pretrained('deepseek-ai/DeepSeek-V4-Pro')
- url ModelScope: https://modelscope.cn/models/deepseek-ai/DeepSeek-V4-Pro
多模态无审查推理模型，面向代码与视觉应用
- 部署
-
- hf huggingface-cli download DavidAU/Qwen3.6-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking-NEO-CODE-Di-IMatrix-MAX-GGUF --include '*.gguf' --local-dir .
- py llama-cli -m <gguf-file> -p '你的提示'
无审查文本/图像生成视频，基于LTX2.3
- 部署
-
- py diffusers.from_pretrained('SulphurAI/Sulphur-2-base')
- py lmstudio load gguf + mmproj for prompt enhancer
动漫风格图像生成，面向二次元AI应用开发者
- 部署
-
- hf huggingface-cli download SeeSee21/Z-Anime
- py from diffusers import StableDiffusionPipeline; pipe = StableDiffusionPipeline.from_pretrained('SeeSee21/Z-Anime')
通用问答模型，适合知识型对话与事实查询。
- 部署
-
- py transformers: AutoModel.from_pretrained('jackxinning/Leanly_AI')