AnythingLLM

活跃
GitHub JavaScript MIT

简介

AnythingLLM 是一体化 AI 生产力工具,支持本地部署的聊天界面、RAG 知识库、AI Agent 与多模型管理,隐私优先且零配置。

核心特性

  • 多模型支持 — 支持 OpenAI、Anthropic、Ollama、LM Studio 等 30+ LLM 提供商,以及本地 llama.cpp 兼容模型
  • 动态模型路由 — 根据用户定义的规则自动将对话路由到最佳提供商和模型
  • AI Agent 构建器 — 无代码 AI Agent 构建器,支持网页浏览等内置工具,支持 MCP 协议兼容
  • 多用户与权限管理 — Docker 版支持多用户实例,可按用户控制访问权限和体验
  • 可嵌入聊天组件 — 提供可嵌入网站的自定义聊天组件,支持文档拖拽上传和来源引用
  • 智能技能选择 — 通过智能工具选择为模型启用无限工具,同时将每次查询的 token 使用量降低最高 80%

适用场景

💡 搭建私有 ChatGPT 替代品,支持本地 LLM 部署以保护数据隐私
💡 将公司文档导入知识库,通过 RAG 实现基于内部资料的智能问答
💡 为网站嵌入 AI 客服组件,支持文档上传和多轮对话
💡 使用 AI Agent 自动化复杂工作流,如网页数据采集和信息汇总
💡 通过 API 集成将 AnythingLLM 接入现有业务系统,实现文档智能处理

优势与不足

优势

  • 活跃维护,近期持续更新
  • 社区热度高(65.8k stars)
  • 开源许可证友好(MIT)
  • 项目有一定历史沉淀(已维护 3 年)

快速开始

docker pull mintplexlabs/anythingllm
docker run -d -p 3001:3001 \
  --cap-add SYS_ADMIN \
  -v /path/to/storage:/app/server/storage \
  -v /path/to/collector/hotdir:/app/collector/hotdir \
  mintplexlabs/anythingllm

# 然后在浏览器中打开 http://localhost:3001 配置 LLM 和上传文档

相关项目

MaxKB

22.7k · Python
活跃 A+

MaxKB 是基于 LLM 大模型的开源知识库问答与 Agent 构建平台,支持向量检索、工作流编排与多种模型接入,开箱即用。

knowledge-baseragchatbot +3
  • · RAG 流水线 — 支持文档上传与在线爬取,自动切分、向量化,有效减少大模型幻觉
  • · Agentic 工作流 — 强大的工作流引擎、函数库与 MCP 工具调用,满足复杂业务场景
  • · 零代码集成 — 无缝接入第三方业务系统,快速赋予现有系统智能问答能力

AstrBot

40.2k · Python
活跃 A

集成多种即时通讯平台、LLM 和插件的 AI Agent 助手,支持 QQ、Telegram、Discord 等平台。

chatbotim-integrationmcp +2
  • · 多平台 IM 集成 — 通过插件接入 QQ、微信企业版、飞书、钉钉、Telegram、Slack 等主流即时通讯平台
  • · LLM 对话与多模态 — 支持多款 LLM 接入,提供文本对话、图像理解等多模态能力
  • · Agent 与 MCP 协议 — 内置 Agent 调度与 MCP 协议支持,可执行工具调用和技能编排