可用 CPU 运行的智能体模型
共 30 个
当前运行配置
openbmb/MiniCPM5-2B- 显存
- 暂无估算
查看详情查看运行方式
llama-server -hf openbmb/MiniCPM5-2B-GGUF- 为何暂无估算
- 权重格式未知,无法估算显存
- 许可证
- Apache-2.0
- 上下文
- 131k
- 国内可达
- 魔搭可用
- 其它形态
- 原生 · GGUF
当前运行配置
Jackrong/Qwopus3.8-27B-Flash-GGUF- 显存
- 暂无估算
查看详情查看运行方式
llama-server -hf Jackrong/Qwopus3.8-27B-Flash-GGUF- 为何暂无估算
- 权重格式未知,无法估算显存
- 许可证
- apache-2.0
- 国内可达
- 需代理
当前运行配置
lmstudio-community/granite-4.2-3b-MLX-8bit- 显存
- ~3.3GB 8-bit(估算)
查看详情查看运行方式
mlx_lm.generate --model lmstudio-community/granite-4.2-3b-MLX-8bit- 许可证
- apache-2.0
- 国内可达
- 需代理
- 其它形态
- 8bit · GGUF · 4bit
当前运行配置
orcarouter/Qwen3.8-Flash-Next-Uncensored-GGUF- 显存
- 暂无估算
查看详情查看运行方式
llama-server -hf orcarouter/Qwen3.8-Flash-Next-Uncensored-GGUF- 为何暂无估算
- 权重格式未知,无法估算显存
- 国内可达
- 需代理
当前运行配置
ibm-granite/granite-4.2-30b- 显存
- 暂无估算
查看详情查看运行方式
vllm serve ibm-granite/granite-4.2-30b- 为何暂无估算
- 权重格式未知,无法估算显存
- 许可证
- Apache-2.0
- 上下文
- 128K (可扩展 512K)
- 国内可达
- 需代理
- 其它形态
- 原生 · GGUF · 4bit · 8bit
当前运行配置
lmstudio-community/granite-4.2-8b-GGUF- 显存
- 暂无估算
查看详情查看运行方式
llama-server -hf lmstudio-community/granite-4.2-8b-GGUF- 为何暂无估算
- 权重格式未知,无法估算显存
- 许可证
- apache-2.0
- 国内可达
- 需代理
- 其它形态
- GGUF · 4bit · 8bit
当前运行配置
orcarouter/Qwen3.8-27B-Uncensored-GGUF- 显存
- 暂无估算
查看详情查看运行方式
llama-server -hf orcarouter/Qwen3.8-27B-Uncensored-GGUF- 为何暂无估算
- 权重格式未知,无法估算显存
- 许可证
- Apache-2.0
- 上下文
- 262k
- 国内可达
- 需代理
- 其它形态
- GGUF·orcarouter · GGUF·jonathancoletti
当前运行配置
empero-ai/Qwen3.8-9B-Distill- 显存
- 暂无估算
查看详情查看运行方式
vllm serve empero-ai/Qwen3.8-9B-Distill- 为何暂无估算
- 权重格式未知,无法估算显存
- 许可证
- Apache-2.0
- 上下文
- 262k
- 国内可达
- 需代理
- 其它形态
- 原生 · GGUF
Qwen3.8-27B-ABLITERATED (Blackfrost)
量化自 Qwen3.8-27B-ABLITERATED-BF16
GGUF 量化 27B 图文模型，供 llama.cpp 本地部署
- 参数量
- 27B
- 商用
- 可商用
当前运行配置
Blackfrost-AI/Qwen3.8-27B-ABLITERATED-GGUF- 显存
- 暂无估算
查看详情查看运行方式
llama-server -hf Blackfrost-AI/Qwen3.8-27B-ABLITERATED-GGUF:Q4_K_M -ngl 999 --jinja -c 16384- 为何暂无估算
- 权重格式未知,无法估算显存
- 许可证
- Apache-2.0
- 上下文
- 262k
- 国内可达
- 需代理
Qwen3.6-35B-A3B (Qwen)
量化自 Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive
35B MoE多模态GGUF，无审查角色扮演与函数调用代理
- 参数量
- 35B (3B激活)
- 商用
- 可商用
当前运行配置
LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-Hermes-V7-GGUF- 显存
- 暂无估算
查看详情暂无收录命令
本站暂未收录这个配置的命令;请看详情页或官方仓库,不借用其它配置的命令。
- 为何暂无估算
- 权重格式未知,无法估算显存
- 许可证
- apache-2.0
- 上下文
- 262K (可扩至1M)
- 国内可达
- 需代理
Qwen3.6-35B-A3B (LuffyTheFox)
量化自 Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive
无审查多模态MoE，经Genesis去噪，适合角色扮演和代理
- 参数量
- 35B (3B active)
- 商用
- 可商用
当前运行配置
LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-Hermes-V6-GGUF- 显存
- 暂无估算
查看详情查看运行方式
llama-server -hf LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-Hermes-V6-GGUF --jinja -ngl 99- 为何暂无估算
- 权重格式未知,无法估算显存
- 许可证
- apache-2.0
- 上下文
- 262K
- 国内可达
- 需代理
Qwen3.6-35B-A3B-Genesis-Hermes-V5-GGUF (LuffyTheFox)
量化自 Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive
无审查多模态 MoE，支持 Hermes 工具调用，为创作者
- 参数量
- 35B (激活 3B)
- 商用
- 可商用
当前运行配置
LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-Hermes-V5-GGUF- 显存
- 暂无估算
查看详情查看运行方式
llama-server -hf LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-Hermes-V5-GGUF --jinja- 为何暂无估算
- 权重格式未知,无法估算显存
- 许可证
- apache-2.0
- 上下文
- 262K (可扩展至 1M)
- 国内可达
- 需代理
无审查视觉 MoE 模型，Hermes 工具调用，GGUF 本地推理
- 参数量
- 35B (3B 激活)
- 商用
- 可商用
当前运行配置
LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-Hermes-V3-GGUF- 显存
- 暂无估算
查看详情查看运行方式
llama-server -hf LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-Hermes-V3-GGUF --jinja- 为何暂无估算
- 权重格式未知,无法估算显存
- 许可证
- Apache-2.0
- 上下文
- 262K (可扩展至 1M)
- 国内可达
- 需代理
MiniCPM5-1B-Claude-Opus-Fable5-V2-Thinking (GnLOLot)
量化自 MiniCPM5-1B-Claude-Opus-Fable5-V2-Thinking
1B 工具调用思考模型 GGUF 量化，本地运行
- 参数量
- 1B
- 商用
- 可商用
当前运行配置
MaralGPT/MaralGPT-Mythos-9B-2606-GGUF- 显存
- 暂无估算
查看详情查看运行方式
ollama run hf.co/MaralGPT/MaralGPT-Mythos-9B-2606-GGUF- 为何暂无估算
- 权重格式未知,无法估算显存
- 许可证
- apache-2.0
- 上下文
- 1M
- 国内可达
- 需代理
当前运行配置
yuxinlu1/gemma-4-12B-agentic-fable5-composer2.5-v2-3.5x-tau2- 显存
- 暂无估算
查看详情查看运行方式
llama-server -hf yuxinlu1/gemma-4-12B-agentic-fable5-composer2.5-v2-3.5x-tau2-GGUF -ngl 99 --jinja- 为何暂无估算
- 权重格式未知,无法估算显存
- 许可证
- Apache-2.0
- 上下文
- 16k（示例命令）
- 国内可达
- 需代理
- 其它形态
- 原生 · GGUF
当前运行配置
huihui-ai/Huihui-Qwythos-9B-Claude-Mythos-5-1M-abliterated-GGUF- 显存
- 暂无估算
查看详情查看运行方式
llama-cli -hf huihui-ai/Huihui-Qwythos-9B-Claude-Mythos-5-1M-abliterated-GGUF --model Huihui-Qwythos-9B-Claude-Mythos-5-1M-abliterated-Q4_K.gguf -ngl 99 -c 262144 -fa on -np 1 --spec-type draft-mtp --spec-draft-n-max 2- 为何暂无估算
- 权重格式未知,无法估算显存
- 许可证
- apache-2.0
- 上下文
- 1M
- 国内可达
- 需代理
Qwopus-3.6-35B-A3B-Coder (Jackrong)
LoRA · 基于 Qwopus3.6-35B-A3B-v1
关闭思考的编码代理模型，降低 token 延迟，适合本地工作流
- 参数量
- 35B (3B 激活)
- 商用
- 可商用
Qwen3.6-27B-AEON-Uncensored (AEON-7)
量化自 Qwen3.6-27B-AEON-Ultimate-Uncensored-BF16
无审查的27B视觉语言模型，用于多模态对话与图像理解
- 参数量
- 27B
- 商用
- 可商用
Qwen3.6-27B-Uncensored (AEON-7/mradermacher)
量化自 Qwen3.6-27B-AEON-Ultimate-Uncensored-BF16
27B 无审查多模态混合模型，本地创作者使用
- 参数量
- 27B
- 商用
- 可商用
当前运行配置
Jackrong/Qwopus3.6-27B-Coder-Compat-MTP-GGUF- 显存
- 暂无估算
查看详情查看运行方式
llama-server -hf Jackrong/Qwopus3.6-27B-Coder-Compat-MTP-GGUF (需代理下载)- 为何暂无估算
- 权重格式未知,无法估算显存
- 许可证
- apache-2.0
- 上下文
- 32K
- 国内可达
- 需代理
当前运行配置
Jackrong/Qwopus3.6-27B-Coder-GGUF- 显存
- 暂无估算
查看详情查看运行方式
llama-server -hf Jackrong/Qwopus3.6-27B-Coder-GGUF- 为何暂无估算
- 权重格式未知,无法估算显存
- 许可证
- Apache-2.0
- 上下文
- 32K
- 国内可达
- 需代理
- 其它形态
- GGUF·jackrong · GGUF·jackrong·MTP
North-Mini-Code-1.0 (CohereLabs)
量化自 North-Mini-Code-1.0
30B总/3B激活的MoE代码代理模型，专注代码生成与终端任务
- 参数量
- 30B总 / 3B激活
- 商用
- 可商用