Langfuse

Helicone là nền tảng proxy và quan sát mã nguồn mở cho ứng dụng LLM, cung cấp tracing request, caching và phân tích chi phí.

Phoenix là công cụ quan sát và đánh giá mã nguồn mở cho ứng dụng LLM và agent, hỗ trợ tracing trực tuyến và chẩn đoán ngoại tuyến.

TruLens là công cụ mã nguồn mở để đánh giá và theo dõi các ứng dụng LLM.

AgentOps là nền tảng quan sát cho AI agent, cung cấp giám sát, gỡ lỗi và đánh giá để giúp nhà phát triển tối ưu hóa hiệu suất agent.