OpenPlayground
不活跃简介
可在笔记本电脑上本地运行的 LLM Playground,支持多种模型快速切换对比,适合开发者在本地进行 prompt 测试和模型评估。
核心特性
- 支持 OpenAI、Anthropic、Cohere 等多种 LLM 提供商
- 使用相同提示的并排模型对比
- 自动检测本地 HuggingFace 模型
- 完整的 Playground UI,支持历史记录和参数调整
- 键盘快捷键和对数概率显示
- 支持 Docker 容器化部署
适用场景
💡 跨多个模型的提示工程和测试
💡 本地 LLM 评估和对比
💡 模型参数调优和优化
💡 理解 LLM 行为的教学工具
💡 LLM 驱动应用的开发环境
快速开始
通过 pip install openplayground 安装并运行 openplayground run。或使用 Docker:docker run --name openplayground -p 5432:5432 natorg/openplayground。访问 UI 配置 API 密钥并开始对比模型。