FastContext-1.0-4B-RL (Microsoft)
为编码代理提供仓库探索与精确文件引用
~2.4GB 4-bit许可 可商用任务 文本生成最近核对 2026-06-28
- 格式
- 4-bit
- 文件
- ~2.1GB
- 运行内存
- ~2.4GB–3.1GB
- 运行时
- PYTHON3
- 下载
- 2,900
快速上手示例
python3 -m sglang.launch_server --model-path microsoft/FastContext-1.0-4B-RL --tool-call-parser qwen --context-length 262144 --trust-remote-code --dtype bfloat16 --tp-size 1 依赖版本和硬件参数请以源仓库说明为准。
适合与不适合
独立证据与社区反馈
社区普遍认为 FastContext 是一个被严重低估的实用架构——以 4B 小模型将仓库探索从主 coding agent 中剥离,实测可节省最多 60% token 并提升最多 5.5% 准确率,且消费级 GPU 即可部署(FP16 ~8.8GB,INT4 ~2.2GB),但讨论热度极低,与现有 agent 工作流的集成仍处于早期阶段。
- 将仓库探索与代码求解分离,避免探索过程的读取和搜索污染主 agent 的上下文
- 主 agent token 消耗降低最多 60%
- 端到端解决率提升最多 5.5%
- 以 4B 小模型承担仓库探索,在 SWE-bench Multilingual、SWE-bench Pro 和 SWE-QA 上改善 score-token 权衡
- FP16 仅需约 8.8GB 显存,INT4 仅需约 2.2GB,消费级 GPU 即可部署
- 并行发起只读工具调用(READ、GLOB、GREP),返回紧凑的文件路径和行号范围
- 适用于大型遗留代码库和代码审查场景
- 在 GPT-5.4 轨迹分析中,读取和搜索占工具调用轮次的 56.2% 和主 agent 总 token 的 46.5%,FastContext 将这些开销外移
- 社区讨论度很低,Reddit 帖子直言"Why is NO one talking about"
- 作为子 agent 而非独立模型,需要配合主 coding agent 使用,不能单独完成编码任务
- 与现有 agent 工作流的实际集成仍处于早期阶段,社区自行添加支持
- 官方仅提及"边际开销很小",但缺乏子 agent 本身的详细性能基准
- 独立评测FastContext 1.0 4B RL - AI Model Radar
- 社区实测Why is NO one talking about Microsoft's open source Fast Context!!! : r/LocalLLaMA
- 社区实测AI agents with up-to-date Microsoft Learn guidance - LinkedIn
- 社区实测FastContext is Microsoft's TINY 4B model that finds bugs better than ...
- 独立评测FastContext-1.0-4B-RL VRAM Requirements & Cheapest GPU to Run It from $0.58/hr | Spheron
- 官方/厂商microsoft/FastContext-1.0-4B-RL - Hugging Face
- 转载/仓库FastContext: Training Efficient Repository Explorer for Coding Agents
- 官方/厂商FastContext: Training Efficient Repository Explorer for Coding Agents
- 官方/厂商microsoft/FastContext-1.0-4B-SFT · Hugging Face
可信度微软研究院,代码与论文开源;HF 2.9k 下载,基于 Qwen3-4B-Instruct 训练
完整规格
下载动量
观测时间线
模型家族
- Qwen3-4B-Instruct-2507
- 微调 FastContext-1.0-4B-RL (Microsoft)
- 微调 FastContext-1.0-4B-SFT (Microsoft)