OpenRAG

Quivr 是一个开箱即用的 RAG 框架，支持将任意文件转化为知识库并与 GenAI 应用集成。兼容多种 LLM 和向量数据库，开发者只需专注于产品本身，无需从头构建 RAG 管道。

OpenLLM 是一个开源 LLM 部署平台，可将 DeepSeek、Llama 等任意开源模型以 OpenAI 兼容的 API 端点形式部署到云端。支持模型微调、量化和分布式推理，简化生产环境中的大模型运维。

Langchain-Chatchat 是一个基于 Langchain 和多种大语言模型的本地知识库 RAG 与 Agent 应用平台，支持 ChatGLM、Qwen、Llama 等模型，提供对话、知识库管理、Agent 调用等功能。

LocalAI 是一个开源的本地 AI 推理引擎，支持在任意硬件上运行 LLM、视觉、语音、图像和视频模型，无需 GPU。提供与 OpenAI 兼容的 API，可完全本地化部署，保障数据隐私。