AnythingLLM

活跃
GitHub JavaScript MIT

简介

AnythingLLM 是一体化 AI 生产力工具，支持本地部署的聊天界面、RAG 知识库、AI Agent 与多模型管理，隐私优先且零配置。

核心特性

  • 多模型支持 — 支持 OpenAI、Anthropic、Ollama、LM Studio 等 30+ LLM 提供商，以及本地 llama.cpp 兼容模型
  • 动态模型路由 — 根据用户定义的规则自动将对话路由到最佳提供商和模型
  • AI Agent 构建器 — 无代码 AI Agent 构建器，支持网页浏览等内置工具，支持 MCP 协议兼容
  • 多用户与权限管理 — Docker 版支持多用户实例，可按用户控制访问权限和体验
  • 可嵌入聊天组件 — 提供可嵌入网站的自定义聊天组件，支持文档拖拽上传和来源引用
  • 智能技能选择 — 通过智能工具选择为模型启用无限工具，同时将每次查询的 token 使用量降低最高 80%

适用场景

💡 搭建私有 ChatGPT 替代品，支持本地 LLM 部署以保护数据隐私
💡 将公司文档导入知识库，通过 RAG 实现基于内部资料的智能问答
💡 为网站嵌入 AI 客服组件，支持文档上传和多轮对话
💡 使用 AI Agent 自动化复杂工作流，如网页数据采集和信息汇总
💡 通过 API 集成将 AnythingLLM 接入现有业务系统，实现文档智能处理

标签

chatbot rag knowledge-base local-llm mcp javascript

分类

💬 聊天界面 ⚡ Agent 工具

快速开始

docker pull mintplexlabs/anythingllm
docker run -d -p 3001:3001 \
  --cap-add SYS_ADMIN \
  -v /path/to/storage:/app/server/storage \
  -v /path/to/collector/hotdir:/app/collector/hotdir \
  mintplexlabs/anythingllm

# 然后在浏览器中打开 http://localhost:3001 配置 LLM 和上传文档
访问 GitHub 访问官网 查看文档

相关项目