Helicone

LiteLLM 提供统一的大模型调用接口与代理网关，简化多模型切换、路由与成本控制。

Langfuse 是开源 LLM 可观测性平台，支持 trace、评估、提示词版本管理与成本分析。

Blaxel AI SDK 是面向生产 Agent 系统的开发工具包，强调工具定义、执行控制、运行追踪与服务集成，适合企业内部 Agent 应用开发。

DeepEval 是一个用于 LLM 应用的开源评估框架。提供丰富的评估指标和工具，支持单元测试、集成测试，帮助开发者构建可靠的 LLM 应用。