OpenPlayground

不活跃
GitHub TypeScript MIT

简介

可在笔记本电脑上本地运行的 LLM Playground,支持多种模型快速切换对比,适合开发者在本地进行 prompt 测试和模型评估。

核心特性

  • 支持 OpenAI、Anthropic、Cohere 等多种 LLM 提供商
  • 使用相同提示的并排模型对比
  • 自动检测本地 HuggingFace 模型
  • 完整的 Playground UI,支持历史记录和参数调整
  • 键盘快捷键和对数概率显示
  • 支持 Docker 容器化部署

适用场景

💡 跨多个模型的提示工程和测试
💡 本地 LLM 评估和对比
💡 模型参数调优和优化
💡 理解 LLM 行为的教学工具
💡 LLM 驱动应用的开发环境

快速开始

通过 pip install openplayground 安装并运行 openplayground run。或使用 Docker:docker run --name openplayground -p 5432:5432 natorg/openplayground。访问 UI 配置 API 密钥并开始对比模型。

相关项目