SwanLab

OpenInference 是一个基于 OpenTelemetry 的 AI 可观测性检测规范和工具包，为 LLM 应用的推理过程提供标准化追踪、指标采集和 Span 定义，帮助开发者监控和调试 AI Agent 系统。

开源 LLM 监控工具包，从提示词和回复中提取信号，帮助团队评估和监控大语言模型的质量与安全。

Meta 推出的 LLM 安全评估工具集，提供安全基准测试、提示注入检测和输出审核等功能，帮助评估和提升大型语言模型的安全性。

Meta 开源的大语言模型 Prompt 优化工具，通过自动化流程帮助开发者持续改进和优化 LLM 提示词效果。