CoAI
不活跃简介
下一代多租户 AI 一站式解决方案，内置管理和计费系统，企业级统一 LLM 网关支持 200+ 模型和 35+ 供应商。
核心特性
- 支持 OpenAI、Anthropic、Gemini 等 200+ 模型和 35+ 供应商的统一 LLM 网关
- 企业级多租户架构，内置完整的管理后台和订阅计费系统
- 美观的响应式 UI，兼容 PC/Pad/移动端，支持明暗主题切换和国际化
- 强大的渠道管理算法，支持多渠道优先级设置、负载均衡和自动故障重试
- 支持文本转图像（DALL-E、Midjourney、Stable Diffusion）和完整 Markdown 渲染
- 模型缓存机制：相同参数哈希直接返回缓存结果，命中不计费，降低成本
适用场景
💡 企业内部 AI 服务平台，为不同团队分配独立租户和配额管理
💡 AI 产品创业公司快速搭建多模型聚合 API，对外提供 SaaS 服务
💡 教育机构部署统一 AI 平台，支持多语言和多模型对比体验
💡 通过 OpenAI API 兼容格式分发大模型能力，同时运营 B 端和 C 端业务
💡 基于 SearXNG 的全网搜索增强对话，结合 OCR 和文件解析构建 RAG 应用
分类
快速开始
1. 克隆仓库并进入项目目录
2. 配置 .env 文件中的模型供应商 API Key
3. 运行 docker compose up 启动服务
4. 访问 localhost:3000 进入管理后台
5. 在后台配置模型渠道和计费规则
6. 注册用户并开始对话测试