Langtrace

不活跃
GitHub TypeScript AGPL-3.0

简介

Langtrace 是一个基于 OpenTelemetry 的开源 LLM 应用可观测性工具，提供实时追踪、评估和指标监控，支持主流 LLM、智能体框架和向量数据库的集成。

核心特性

  • 基于 OpenTelemetry 的追踪——遵循 OTEL 标准捕获追踪，为 LLM Span 定义语义约定
  • 实时监控——通过实时仪表板追踪 LLM API 调用、向量操作和框架使用情况
  • 广泛的集成支持——自动捕获来自 OpenAI、Anthropic、Azure、LangChain、LlamaIndex、Pinecone 等 30+ 供应商的追踪
  • 性能分析——分析延迟、Token 成本和 LLM 应用的使用模式
  • 自托管选项——通过 Docker Compose（Next.js + Postgres + Clickhouse）部署在自有基础设施上
  • TypeScript 和 Python SDK——两种语言都只需 2 行代码即可完成设置，支持环境变量或 API Key 初始化

适用场景

💡 LLM 应用调试——追踪和调试复杂的多步骤 LLM 工作流，定位故障和瓶颈
💡 成本优化——监控跨供应商的 Token 使用量和成本，优化开支
💡 性能监控——追踪生产级 LLM 服务的延迟、吞吐量和错误率
💡 RAG 管道可观测性——监控向量数据库查询和检索增强生成中的检索质量
💡 合规与审计——维护 AI 生成输出的追踪日志以满足监管合规要求

标签

observability evaluation llm typescript agent

分类

📊 可观测性

快速开始

云端版：在 langtrace.ai 注册，创建项目并生成 API Key。安装 SDK（`npm i @langtrase/typescript-sdk` 或 `pip install langtrace-python-sdk`），在其他模块之前导入，调用 `Langtrace.init({ api_key })`。自托管：运行 `docker compose up` 启动 Next.js + Postgres + Clickhouse，访问 localhost:3000。
访问 GitHub

相关项目