Langfuse

platform
framework

可自托管的 LLM 应用观测平台:trace、成本、评测与 prompt 管理

自定义(主体 MIT;ee/ 目录企业版另有授权)
TypeScript
可自托管(另有官方托管版 Langfuse Cloud)
Docker Compose;数据存 ClickHouse

面向 LLM 应用的工程平台,核心是链路追踪:把一次请求里的模型调用、检索、工具调用串成可展开的 trace,附带 token 成本与延迟。在此之上还有 prompt 管理、数据集与评测、playground。接入面广 —— OpenTelemetry、LangChain、OpenAI SDK、LiteLLM 都有官方集成。可用 Docker Compose 在本机或自己的 VM 上跑起来,数据不出自己的环境;官方另有 Langfuse Cloud 托管版,二者是同一产品的两种部署方式。许可证不是标准 OSI 协议:仓库主体为 MIT,ee/ 等目录下的企业版功能另有商业授权条款。

社区实测

社区认为 Langfuse 是简单 pipeline 的合适起点，内置评分好用，但复杂度提升后容易不够用

较简单 LLM pipeline 的可观测与评估需求
内置评分/eval 流程，无需自建评估体系

项目复杂度提升后容易超出其能力范围，部分用户反馈很快会不够用
跨 agent span 与嵌套调用支持不如 Phoenix 等竞品

来源

Langfuse solid for simpler pipelines with built-in evals Langfuse a good start but outgrew quickly We really like langfuse, the team and the product

截至 2026-08-16

git clone --depth=1 https://github.com/langfuse/langfuse.git && cd langfuse && docker compose up