Langfuse
TypeScript · NOASSERTION
开源 LLM 可观测性平台,提供追踪、评估、提示管理和数据集管理功能,支持 LangChain、OpenAI、Anthropic 等主流框架的集成。
概览
Langfuse(31k+ stars)专门做 LLM 可观测性,trace + prompt 管理 + evaluation 三件套;SigNoz(31k+ stars)是 OpenTelemetry 原生的通用 APM,把 LLM 当一种新 workload。本文从定位、协议支持、数据模型、扩展性和典型场景五个角度对比。
TypeScript · NOASSERTION
开源 LLM 可观测性平台,提供追踪、评估、提示管理和数据集管理功能,支持 LangChain、OpenAI、Anthropic 等主流框架的集成。
| 适合场景 | Langfuse |
|---|---|
| 产品定位 | LLM 应用专门观测:trace / span / generation / prompt / score 都是一等公民,UI 专为 LLM 调试设计(按 prompt 切片、按 user 看 feedback) |
| 协议支持 | OpenTelemetry + 自己的 Python / JS SDK + LangChain / LlamaIndex 集成。LLM-as-judge / heuristic eval 内置 |
| 数据模型 | LLM-centric:trace 包含 generation(模型调用)+ tool(工具调用)+ score(评价)。prompt 版本和 user feedback 一等公民 |
| 扩展能力 | Prompt 版本 + LLM-as-judge + 自定义 score + webhook。够用但不灵活 |
| 典型场景 | 纯 LLM 产品(ChatGPT 替代 / Agent / RAG 应用),需要 trace + prompt 调试 + eval 闭环。LLM 团队首选 |
| Metric | Langfuse |
|---|---|
| Stars | 33.2k |
| Forks | 3.6k |
| 语言 | TypeScript |
| 许可证 | NOASSERTION |
| 最近提交 | 2026年8月16日 |
建议根据你的主要工作流、技术栈语言和集成需求来选择。用于生产前,请进一步查看项目文档、社区活跃度和最近的 GitHub 维护情况。
能。常见做法是把 SigNoz 当统一可观测性栈(trace + metrics + logs),把 Langfuse 当 LLM 专用 UI(prompt 调试 + eval)。两者都支持 OpenTelemetry export,可以共用一个 collector,数据路由到不同的 backend。
纯 LLM 产品选 Langfuse:trace + prompt 管理 + eval + user feedback 一站式。多 workload(含传统服务)选 SigNoz:统一可观测性成本更低,LLM 数据也能 trace 但要自己组织属性。
ClickHouse 对高基数(high cardinality)查询极快,适合 LLM 应用里"按 user_id / prompt_id / model 切片"这种查询。Langfuse 用 ClickHouse 做 OLAP(traces)+ Postgres 做 OLTP。SigNoz 全栈 ClickHouse 更轻。
可以监控任何 instrumented 代码(OpenTelemetry SDK 都能发),但 UI 是 LLM-centric。如果你只跑 LLM 应用,它够用;如果你想监控 API latency + DB query + LLM 三种 workload,SigNoz 更通用。