Langfuse
TypeScript · NOASSERTION
开源 LLM 可观测性平台,提供追踪、评估、提示管理和数据集管理功能,支持 LangChain、OpenAI、Anthropic 等主流框架的集成。
概览
Langfuse 走 trace + prompt 管理 + evaluation 三件套路线,YC 投资的开源项目;Helicone 走 LLM gateway + analytics 路线,更轻量。本文从部署模式、核心能力、数据归属、价格模型和典型使用场景对比。
TypeScript · NOASSERTION
开源 LLM 可观测性平台,提供追踪、评估、提示管理和数据集管理功能,支持 LangChain、OpenAI、Anthropic 等主流框架的集成。
TypeScript · Apache-2.0
开源 LLM 可观测性平台,一行代码接入,提供请求日志、缓存、速率限制、成本追踪和实验功能。
| 适合场景 | Langfuse | Helicone |
|---|---|---|
| 部署模式 | 自托管 Docker / Kubernetes(Postgres + ClickHouse + Redis + Next.js),能跑在小型 VM 上。托管版分 US / EU / HIPAA 区,按 ingestion 体积计费 | 纯 SaaS,主打一行代码接入(改 base_url 即可),不提供 self-host 方案。对数据合规严格的客户不友好 |
| 核心能力 | Trace、prompt 版本管理、evaluation(LLM-as-judge + heuristic)、user feedback 闭环、session replay,全栈覆盖。SDK 支持 Python / JS / OpenTelemetry | Request-level analytics(cost / latency / token 用量按 user / model / prompt 维度聚合)+ request body 详情。轻量,但缺 prompt 版本管理这类 LLM-specific 工具 |
| 数据归属 | 自托管版本所有数据在自己 Postgres / ClickHouse 里。托管版数据默认在 US / EU 区,按 contract 可签 DPA | 数据默认存在 Helicone 的 Postgres(US),企业版可签 DPA 但没有 self-host 选项,敏感数据不能出网 |
| 价格模型 | 托管版按 units 计数(一个 trace / span / event / generation / score 都算一个 unit):免费 Hobby 50k units/月,Pro $199/月含 100k units 和 3 年数据保留,超出按 $8/100k units 阶梯计价(约 $0.08/1k)。Self-host 全部免费但要自己跑 Postgres + ClickHouse + Redis/Valkey + S3 | 免费版每月 10k request(不是每天);Pro $79/月,附加按用量计费;超过部分的具体单价不公开,需联系 sales。简单透明,但自托管不开放 |
| 典型场景 | 生产环境 LLM 应用需要 trace、prompt 版本管理、A/B 评估;多个 prompt 候选同时跑、对比哪个效果好;对接内部 evaluation pipeline | 中小团队快速接入,想要"换 base_url 就上线"的轻量分析;不打算搭自托管 Kubernetes;预算敏感 |
| Metric | Langfuse | Helicone |
|---|---|---|
| Stars | 31.6k | 6.0k |
| Forks | 3.3k | 632 |
| 语言 | TypeScript | TypeScript |
| 许可证 | NOASSERTION | Apache-2.0 |
| 最近提交 | 2026年7月21日 | 2026年7月21日 |
建议根据你的主要工作流、技术栈语言和集成需求来选择。用于生产前,请进一步查看项目文档、社区活跃度和最近的 GitHub 维护情况。
Helicone 上手更快——一行代码改 base_url 就接入,免费版 10k request/月对 MVP 够用。Langfuse 的 trace / prompt / eval 三件套完整,但需要花时间配置,10k units 免费额度对一个 demo 来说够,但 prompt 版本管理这个能力 Helicone 没有。
自托管 Langfuse。Helicone 没 self-host 选项,敏感数据必然出网。Langfuse 自托管全栈在你自己的 VPC 里,配合 DPA + 客户合同条款可以做到 GDPR / HIPAA 合规。
能。常见做法是 Helicone 做 LLM 网关(限流、缓存、cost attribution),Langfuse 做 trace + eval + prompt 管理。两者通过 OpenTelemetry exporter 接同一个 trace pipeline。或者把 Helicone 当 LLM 代理,Langfuse 通过 proxy mode 收 span。
Langfuse。Helicone 主要做 request-level analytics,对 multi-agent 的 session / chain / tool call 三层 trace 覆盖不够。Langfuse 的 session replay + step-by-step trace 能看清 Agent 内部的 tool 选择和反思循环。