Helicone

LiteLLM은 다중 모델 전환, 라우팅 및 비용 제어를 단순화하는 통합 인터페이스와 프록시 게이트웨이를 제공합니다.

Langfuse는 추적, 평가, 프롬프트 버전 관리 및 비용 분석을 지원하는 오픈소스 LLM 관찰 가능성 플랫폼입니다.

DeepEval은 LLM 애플리케이션을 위한 오픈 소스 평가 프레임워크입니다.

TruLens는 LLM 앱을 평가하고 추적하기 위한 오픈 소스 도구입니다.