Langchain-Chatchat

不活跃
GitHub Python Apache-2.0

简介

Langchain-Chatchat 是一个基于 Langchain 和多种大语言模型的本地知识库 RAG 与 Agent 应用平台,支持 ChatGLM、Qwen、Llama 等模型,提供对话、知识库管理、Agent 调用等功能。

核心特性

  • 本地知识库问答 — 基于 Langchain 实现文档加载、文本分割、向量化和语义检索,支持 BM25+KNN 混合检索
  • 多模型推理框架接入 — 支持 Xinference、Ollama、FastChat、LocalAI 等框架,接入 GLM-4、Qwen2、Llama3 等模型
  • Agent 工具调用 — 针对 ChatGLM3 和 Qwen 优化,支持多工具自动选择、单工具参数解析、手动工具调用和多模态图片对话
  • 数据库对话 — 通过自然语言查询 SQL 数据库,支持 MySQL、PostgreSQL 等关系型数据库交互
  • WebUI 多会话管理 — 基于 Streamlit 的 Web 界面,支持多会话、自定义系统提示词、ARXIV 文献和 Wolfram 查询
  • 全离线私有部署 — 完全使用开源模型和向量数据库,支持 Ollama/Xinference 本地部署,无需联网

适用场景

💡 企业内部知识库 — 上传公司文档构建私有知识库,员工通过自然语言查询内部政策、产品手册和技术规范
💡 离线数据分析 — 在无网络环境下,通过本地模型和数据库对话功能完成数据查询和分析报告生成
💡 多模态文档问答 — 上传图片和文档,使用 Qwen-VL 等多模态模型进行视觉问答和文档理解
💡 学术文献检索 — 集成 ARXIV 和 Wolfram,辅助研究人员进行论文检索和数据计算
💡 定制化 Agent 服务 — 为不同业务场景构建专用 Agent,如客服机器人、技术支持助手

快速开始

```bash
pip install langchain-chatchat
chatchat init
# 编辑 configs/model_config.py 配置模型
chatchat kb -n my_knowledge  # 创建知识库
chatchat webui  # 启动 WebUI
# 访问 http://localhost:8501
```

相关项目

相关文章