Evidently

活跃
GitHub Jupyter Notebook Apache-2.0

简介

Evidently 是一个开源 ML 和 LLM 可观测性框架,提供 100+ 评估指标,用于测试、监控和评估 AI 驱动的系统。

核心特性

  • 100+ 内置评估指标,覆盖数据漂移、ML 模型和 LLM 输出
  • LLM-as-a-judge 评估器用于生成式 AI 质量评测
  • 报告和测试套件支持通过/失败条件,可集成 CI/CD
  • 自托管或云端监控仪表盘,支持实时告警
  • 支持表格数据、文本、分类、回归、排序和 RAG 等场景
  • 开放架构,支持自定义指标和数据导出

适用场景

💡 监控 LLM 应用在生产环境中的质量退化
💡 对 ML 管道进行数据漂移检测
💡 评估 RAG 检索质量和相关性
💡 在 CI/CD 中自动化模型性能回归测试

优势与不足

优势

  • 活跃维护,近期持续更新
  • 社区热度高(7.9k stars)
  • 开源许可证友好(Apache-2.0)
  • 项目有一定历史沉淀(已维护 5 年)

快速开始

安装:`pip install evidently`。使用内置预设如 `DataDriftPreset` 或 `TextEvals` 创建报告,在 pandas DataFrame 上运行,可在 Jupyter 中查看结果或导出为 HTML/JSON。使用 `evidently ui --demo-projects all` 启动监控界面,访问 localhost:8000。

相关项目

SwanLab

4.2k · Python
活跃 A+

开源的现代设计 AI 训练追踪与可视化工具,支持 PyTorch、Transformers 等主流框架,帮助开发者监控和评估 AI Agent 的训练过程。

pythonobservabilityevaluation +2
  • · 50+ 主流框架无缝集成:原生支持 PyTorch、Transformers、HuggingFace Accelerate、PaddleNLP、NVIDIA NeMo RL 等框架,两行代码接入训练流程
  • · 丰富的可视化图表系统:支持折线图、标量图、PR 曲线、ROC 曲线、混淆矩阵、3D 点云、分子结构、ECharts 自定义图表等 20+ 图表类型
  • · 多维度硬件监控:实时监控 GPU(NVIDIA/AMD ROCm/海光 DCU/寒武纪 MLU/摩尔线程/沐曦/天数智芯/昆仑芯)、磁盘利用率、网络流量等硬件指标

OpenInference

1.2k · Python
活跃 A

OpenInference 是一个基于 OpenTelemetry 的 AI 可观测性检测规范和工具包,为 LLM 应用的推理过程提供标准化追踪、指标采集和 Span 定义,帮助开发者监控和调试 AI Agent 系统。

observabilitypythonllm +2
  • · 基于 OpenTelemetry 的检测规范,用于追踪 LLM 推理和应用上下文
  • · 为 15+ ML 框架提供检测库:OpenAI、LlamaIndex、LangChain、DSPy、CrewAI、Agno 等
  • · 语义约定,为 LLM 应用提供标准化的 Span 属性