Harbor
活跃简介
一条命令启动完整的 LLM 技术栈，预集成数百种 AI 服务，快速搭建本地 AI 开发环境。
核心特性
- 一键启动完整本地 LLM 技术栈，预配置 Docker Compose 编排
- 支持热切换推理后端：Ollama、llama.cpp、vLLM 等
- 集成前端界面：Open WebUI 内置 RAG、TTS/STT 语音能力
- 可扩展服务生态：SearXNG 网页搜索、Speaches 语音聊天、ComfyUI 图像生成
- 提供配套 GUI 应用，与 CLI 配合进行可视化管理
- 零手动配置，跨服务连接自动完成
适用场景
💡 快速搭建本地 AI 开发环境进行模型实验
💡 构建无云依赖的私有 LLM 驱动应用
💡 通过 SearXNG 集成运行支持网页搜索的 AI 助手
💡 结合 LLM 推理在本地使用 ComfyUI 生成图像
💡 搭建支持 TTS/STT 的语音 AI 聊天机器人
优势与不足
✅ 优势
- • 活跃维护，近期持续更新
- • 社区热度高（3.2k stars）
- • 开源许可证友好（Apache-2.0）
- • 项目有一定历史沉淀（已维护 2 年）
分类
快速开始
```bash
# 安装 Harbor CLI
brew install av/tap/harbor # macOS
# 启动完整 LLM 技术栈
harbor up
# 添加网页搜索和语音聊天
harbor up searxng speaches
```
访问 Open WebUI：http://localhost:33801