📚

RAG 工具

检索增强生成(RAG)相关开源工具,包括向量数据库、文档切分、混合检索、重排序、RAG 评估等,帮助构建高质量的私域知识问答与文档检索应用。

185 个项目

LangChain

144.4k · Python
活跃 A+

LangChain 是面向 Agent 工程化的开源框架与编排平台,提供模型接入、工具调用、RAG、记忆与可观测性的统一抽象。

agent-frameworkragorchestration +2
  • · 统一模型抽象 — 通过 ChatModel 接口接入 OpenAI、Anthropic、Bedrock、Vertex 等上百家模型
  • · 工具调用与 Agent — 提供 tool calling、ReAct、OpenAI Tools、Plan-and-Execute 等多种 Agent 范式
  • · RAG 一等公民 — 内置 Document Loader、Text Splitter、Retriever 与索引抽象

Awesome LLM Apps

132.9k · Python
活跃 A+

100 多个可直接运行的 AI 智能体与 RAG 应用合集,涵盖克隆、定制和部署,是快速上手构建 LLM 应用的绝佳参考。

agentragllm +1
  • · 100+ 可运行模板 — 每个模板都是原创开发、端到端测试的完整项目,非外部链接合集
  • · 多类别覆盖 — 涵盖 AI Agent、Multi-agent、MCP Agent、Voice AI、RAG、Agent Skills、Fine-tuning 等 14 个分类
  • · 多模型兼容 — 支持 Claude、Gemini、OpenAI、xAI、Qwen、Llama 等主流 LLM,切换仅需改配置

llama.cpp

124.2k · C++
活跃 A+

llama.cpp 是一个用 C/C++ 编写的轻量级 LLM 推理引擎,可在消费级硬件上高效运行各类开源大语言模型。

llm-inferencellamagguf +2
  • · 极轻量推理 — 纯 C/C++ 实现,零依赖即可在 CPU 上运行量化 LLM
  • · GGUF 模型格式 — 统一的量化模型格式,跨平台、可分块加载
  • · 多硬件加速 — 支持 Apple Silicon Metal、NVIDIA CUDA、AMD ROCm、Vulkan、OpenCL

vLLM

89.2k · Python
活跃 A

vLLM 是一个高吞吐量、低内存占用的 LLM 推理与服务引擎,支持连续批处理、PagedAttention 等优化技术,广泛用于生产环境中的大模型部署。

llmpythonframework +2
  • · PagedAttention 内存管理 — 通过分页机制高效管理注意力 KV cache,大幅降低显存占用
  • · 连续批处理与分块预取 — 支持 continuous batching、chunked prefill 和 prefix caching,实现高吞吐推理
  • · 多量化格式支持 — 覆盖 FP8、INT8、INT4、GPTQ/AWQ、GGUF、compressed-tensors 等主流量化方案

RAGFlow

88.6k · Go
活跃 A+

领先的开源 RAG 引擎,融合前沿 RAG 技术与 Agent 能力,为 LLM 提供高质量的上下文层,支持深度文档理解、知识库管理和智能检索。

ragdocument-understandingknowledge-base +3
  • · 深度文档理解 — 基于 deepdoc 技术从复杂格式非结构化数据中提取知识,支持 PDF、Word、PPT、Excel、图片等
  • · 模板化分块 — 提供多种智能分块模板选项,实现可解释的文档切分与知识组织
  • · 可追溯引用与减少幻觉 — 可视化文本分块结果,支持人工干预,答案附带关键参考来源

MinerU

77.7k · Python
活跃 A+

MinerU 是一个高质量文档解析工具,能够将 PDF 等复杂文档转化为 LLM 友好的 Markdown 和 JSON 格式,为 RAG 流程和 Agentic 工作流提供文档数据预处理能力。

data-processingragpython +2
  • · 多格式文档解析 — 原生支持 PDF、DOCX、PPTX、XLSX、图片输入,输出 Markdown/JSON
  • · VLM + OCR 双引擎 — 视觉语言模型与 OCR 结合,支持 109 种语言识别,准确率 OmniDocBench 95+
  • · 公式与表格提取 — 公式自动转 LaTeX,表格转 HTML,支持跨页表格合并和图表解析

Prompt Engineering Guide

77.5k · MDX
不活跃 A

全面的提示工程指南,涵盖论文、教程、笔记本和资源,涉及提示工程、上下文工程、RAG 和 AI 智能体等核心主题。

prompt-engineeringragagent +2
  • · 提示工程技术体系 — 系统覆盖 Zero-Shot、Few-Shot、Chain-of-Thought、Tree of Thoughts 等核心提示方法
  • · RAG 与工具集成指南 — 详解检索增强生成(RAG)、ART、ReAct 等工具调用与推理结合的技术
  • · 多模型适配指南 — 针对 ChatGPT、GPT-4、LLaMA、Gemini、Mistral、Code Llama 等主流模型的专属提示策略

codegraph

66.6k · C
活跃 A

CodeGraph 是为编码 Agent 设计的预索引代码知识图谱,自动同步代码变更,显著降低 Claude Code、Codex 等工具的 token 消耗。

code-intelligencemcprag +2
  • · 预索引代码知识图谱 — 自动同步代码变更,毫秒级查询
  • · 多编码 Agent 兼容 — 适配 Claude Code、Codex、Cursor、AntiGravity 等
  • · 100% 本地运行 — 索引与查询都在本地,代码不外传

Docling

64.9k · Python
活跃 A+

Docling 是 IBM 开源的文档解析工具,支持 PDF、Word、PPT、HTML 等格式转换为 AI 可用结构化数据,专为 GenAI 和 RAG 管道设计。

document-parsingpdfrag +1
  • · 多格式文档解析 — 支持 PDF、DOCX、PPTX、XLSX、HTML、WAV、MP3、邮件、图片、LaTeX 等多种格式
  • · 高级 PDF 理解 — 支持页面布局分析、阅读顺序识别、表格结构提取、公式识别和图像分类
  • · DoclingDocument 统一表示 — 提供统一的文档表示格式,支持 Markdown、HTML、WebVTT、DocTags 和无损 JSON 导出

Embedchain

63.4k · Python
活跃 A+

Embedchain 是一个面向 AI Agent 的通用记忆层,支持将多种数据源快速接入 LLM,构建具有上下文记忆的 AI 应用。

memoryragembeddings +2
  • · 通用记忆层 — 将多种数据源(网页、PDF、YouTube、Notion 等)快速接入 LLM 构建上下文
  • · 向量化存储 — 自动将数据分块、嵌入并存入向量数据库,支持语义检索
  • · 多 LLM 后端支持 — 兼容 OpenAI、Cohere、Ollama 等多种 LLM 和嵌入模型

Mem0

63.4k · Python
活跃 A+

Mem0 是面向 AI Agent 的长期记忆层,支持跨会话记忆管理与个性化上下文检索。

memoryragpersonalization +1
  • · 多层级记忆 — 无缝管理用户级、会话级和 Agent 级三层记忆状态,支持自适应个性化
  • · 单次 ADD 提取 — 一次 LLM 调用完成记忆提取,无 UPDATE/DELETE,记忆只累积不覆盖
  • · 实体链接 — 提取实体并跨记忆嵌入链接,提升检索准确性

Daily Stock Analysis

63.0k · Python
活跃 A+

LLM 驱动的 A/H/美股智能分析器,集成多数据源行情、实时新闻、LLM 决策仪表盘和多渠道推送,零成本定时运行。

agentpythonllm +2
  • · 多市场数据聚合 — 支持 A 股、港股、美股 ETF,集成行情、K 线、技术指标、资金流、筹码、新闻和基本面数据
  • · AI 决策仪表盘 — 生成核心结论、评分、趋势、买卖点位、风险警报、催化因素和操作检查清单
  • · Agent 策略问股 — 多轮追问,内置 15 种策略(均线、缠论、波浪、趋势、热点、事件、成长、预期等),覆盖 Web/Bot/API

Pathway

62.5k · Python
活跃 A+

Pathway 是一个 Python ETL 框架,支持流处理、实时分析、LLM 管道和 RAG 应用构建。

etlstreamingrag +2
  • · Rust 引擎驱动 — 基于 Differential Dataflow 的可扩展 Rust 引擎,支持多线程、多进程和分布式计算
  • · 统一批流处理 — 同一份代码可用于本地开发、批处理作业和流数据回放,无需切换框架
  • · 丰富的连接器 — 内置 Kafka、GDrive、PostgreSQL、SharePoint 等连接器,Airbyte 连接器覆盖 300+ 数据源

TrendRadar

61.5k · Python
活跃 A+

AI 驱动的舆情监控与热点追踪工具,支持多平台热点聚合、RSS 订阅、关键词筛选、AI 智能分析与简报推送,集成微信、飞书、钉钉、Telegram 等多种通知渠道,并支持 MCP 架构接入。

automationllmpython +3
  • · 多平台热点聚合 — 30+ 信息源实时抓取,涵盖科技、金融、社交等领域
  • · AI 智能筛选与分析 — LLM 驱动的新闻摘要生成和智能筛选,自动过滤无关内容
  • · 多渠道推送通知 — 支持企业微信、个人微信、Telegram、钉钉、飞书、Slack 等 10+ 通知渠道

Context7

60.8k · TypeScript
活跃 A+

Context7 是 Upstash 面向 Agent 场景打造的上下文工程工具,帮助应用管理长上下文、检索注入与历史压缩,适合提升对话型 Agent 的上下文利用效率。

contextmemoryretrieval +1
  • · 实时文档检索 — 通过 MCP 或 CLI 从源头拉取最新版本的库文档和代码示例,注入 LLM 上下文
  • · 双模式集成 — 支持 CLI + Skills(ctx7 命令行)和 MCP Server 两种接入方式,兼容 Cursor/Claude Code/OpenCode 等主流 Agent
  • · 库版本匹配 — 自动识别库名称和版本,获取对应版本的精确文档,避免版本不匹配导致的幻觉代码

Pathway LLM App

59.0k · Jupyter Notebook
正常 A

即开即用的 RAG 和 AI 管道云模板,支持 Docker 部署,实时同步 Sharepoint、Google Drive、S3、Kafka 等数据源。

ragpythondata-processing +1
  • · 实时数据同步 — 自动同步文件系统、Google Drive、Sharepoint、S3、Kafka、PostgreSQL 等数据源的增量变更
  • · 内置向量索引 — 基于 usearch 的向量搜索和基于 Tantivy 的全文混合搜索,无需外部数据库
  • · 多模态 RAG — 支持 GPT-4o 解析 PDF/DOCX 中的图表、表格和文本,实时提取非结构化数据

LlamaIndex

51.7k · Python
活跃 A+

LlamaIndex 是一个用于构建 LLM 应用的数据框架,提供数据连接、索引构建、查询引擎和 Agent 工作流编排能力,是 RAG 领域的核心工具之一。

ragdata-frameworkindexing +2
  • · 数据连接器 — 300+ 集成包连接各类数据源(文件、数据库、API、网页等)
  • · 向量索引与查询引擎 — 支持多种向量数据库,提供语义搜索和混合检索能力
  • · Agent 工作流编排 — 基于 Workflows 构建复杂的多步骤 AI Agent 流程

LocalAI

48.5k · Go
活跃 A+

LocalAI 是一个开源的本地 AI 推理引擎,支持在任意硬件上运行 LLM、视觉、语音、图像和视频模型,无需 GPU。提供与 OpenAI 兼容的 API,可完全本地化部署,保障数据隐私。

llmapilocal +3
  • · 可组合后端架构 — 每个后端(llama.cpp、vLLM、whisper.cpp等)独立镜像,按需拉取,按需安装
  • · OpenAI/Anthropic/ElevenLabs兼容API — 全后端统一API接口,无缝替换云端服务
  • · 任意模态支持 — LLM、视觉、语音、图像、视频模型统一在一个API背后

SiYuan

45.8k · TypeScript
活跃 A+

隐私优先、自托管、完全开源的个人知识管理软件,支持块级引用、双向链接、Markdown、AI 增强与插件扩展。

knowledge-managementnote-takingmarkdown +2
  • · 块级引用与双向链接 — 借鉴 Roam Research 的块引用模型,文档块可被多处引用并自动追踪
  • · 完全本地优先 — 数据存储在用户本地,不上传云端,可选择端到端加密同步
  • · Markdown 原生 — 支持标准 Markdown 与 LaTeX、Mermaid、流程图、代码高亮

(24 / 185)

相关文章

Memory记忆系统长期记忆

Agent Memory 架构:短期、长期与共享记忆的设计取舍

系统对比 Agent Memory 的三大类别——短期记忆、长期记忆、共享记忆,从存储介质、生命周期、检索方式、典型框架到设计模式,完整覆盖 Agent 个性化和多 Agent 协作的工程实现。

AI Agent记忆系统向量检索

Agent 记忆系统设计:从短期上下文到持久化知识

深入解析 Agent 记忆的四层架构,结合向量检索和记忆压缩的实战代码,帮你构建可扩展的 Agent 长期记忆系统。

rate limitingcost controlprompt injection

Agent 速率限制与成本攻击防御:Token 配额、滑动窗口、攻击向量实战

系统讲解 LLM Agent 在生产环境中的速率限制(Rate Limiting)与成本攻击(Cost Attack)防御:从单用户 Token 配额、多租户滑动窗口、Prompt 注入放大成本,到 DDoS 防护与 LangChain/CrewAI/AutoGen 框架的集成。

small-language-modelsedge-inferencefine-tuning

小模型微调与边缘推理:让 AI Agent 在资源受限场景下跑得更快、更省

本文系统讲解小语言模型(SLM)在 Agent 场景中的微调策略与边缘推理架构,覆盖 QLoRA 量化、推理引擎选型、上下文压缩与工具调用约束,帮助在边缘端以低延迟、低成本、强隐私地部署生产级 Agent。

容错工具调用重试

Agent 工具调用容错:超时、重试、熔断、降级与幂等

系统梳理 Agent 工具调用的 7 大容错模式:超时分级、指数退避 + 抖动、熔断器、备用 Provider 链、可恢复错误分类、结构化校验、幂等键设计,让 Agent 在不稳定的真实环境中保持稳定输出。

AI Agent框架对比LangChain

2026 最佳 AI Agent 框架横评:LangGraph、CrewAI、OpenAI Agents SDK、Google ADK 深度对比

2026 年主流 AI Agent 框架横评,覆盖 LangGraph、CrewAI、AutoGen、OpenAI Agents SDK、Google ADK、Microsoft Agent Framework、Mastra、Claude Agent SDK 等十大框架,对比架构哲学、生产成熟度、多语言支持、可观测性与团队适配度,附选型决策树。