此页是 2026-07-23 的观测快照,查看该模型当前信息 → /m/poolside__laguna-s-21-nvfp4/

归档 / 2026-07-23 / Laguna-S-2.1-NVFP4 (poolside)

Laguna-S-2.1-NVFP4 (poolside)

117.6B MoE (8.5B 激活) 代理编码模型，本地设备可运行

已量化

入选理由: Laguna S 2.1 的 NVFP4 量化版，Ollama 一键运行，适合本地部署做编码 agent 任务，但本质是量化版本。
对位: 对位 Mixtral-8x7B (12.9B 激活)
适合: 代理编码与长周期任务 / 支持工具调用与推理
不适合: 通用闲聊或非代码场景
规模: 117.6B (8.5B 激活) · 256K · Q4 ~45GB / FP16 ~163GB
授权: OpenMDW-1.1 · 需自查
框架: vllm / sglang / transformers / trt-llm / ollama / llama.cpp
工具调用: poolside_v1 格式
血统: 量化自 Laguna-S-2.1
可信度: 已集成 vLLM/SGLang/TRT-LLM/Ollama，本地部署文档详细

仅 safetensors · 无 pickle 加载风险

快速上手示例

vllm serve poolside/Laguna-S-2.1-NVFP4

依赖版本和硬件参数请以源仓库说明为准。

评分详情

Q1: 今天能接上用吗 5 / 5
Q2: 有可信证据吗 4 / 5
Q3: 是新东西吗 1 / 5
总分: 10

HuggingFace 原始数据 (抓取于 2026-07-23)

作者: poolside
任务类型: text-generation
推理库: vllm
下载: 1,953
点赞: 88
许可证: OpenMDW-1.1
标签: vllm, safetensors, laguna, laguna-s-2.1, text-generation, conversational, custom_code, base_model:poolside/Laguna-S-2.1, base_model:quantized:poolside/Laguna-S-2.1, license:openmdw-1.1, 8-bit, compressed-tensors, region:us

探索