Helicone

LiteLLM fournit une interface unifiee et une passerelle proxy pour les appels LLM, et simplifie le changement multi-modeles, le routage et le controle des couts.

Langfuse est une plateforme open source d observabilite pour applications LLM, avec tracing, evaluation, versioning des prompts et analyse des couts.

DeepEval est un framework d evaluation open-source pour les applications LLM.

TruLens est un outil open-source pour evaluer et suivre les applications LLM.