rocketride-server

活跃

GitHub Python MIT

简介

RocketRide 是高性能 AI 管道引擎，C++ 核心提供 50+ Python 可扩展节点，是 RAG 与 Agent 流水线的高吞吐运行时。

核心特性

高性能 AI 管道引擎 — C++ 核心提供 50+ Python 可扩展节点
面向 RAG 与 Agent — 内置文档解析、向量化、检索与执行节点
可组合工作流 — 节点以有向无环图形式自由拼接
生产可观测性 — 内置指标、日志与追踪集成
多语言 SDK — Python 优先，同时支持其他语言

适用场景

💡 搭建企业级 RAG 系统，处理大规模文档摄取与检索

💡 把多个 AI 能力组合成可观测的 Agent 流水线

💡 为多模型推理场景提供统一的管道抽象

💡 在低延迟要求下调度 RAG + Agent 的混合工作流

优势与不足

✅ 优势

• 活跃维护，近期持续更新
• 社区热度高（7.6k stars）
• 开源许可证友好（MIT）

⚠️ 不足

• Issue 积压较多（419 个 open issues）

标签

pipeline rag cpp workflow

分类

⚡ Agent 工具 📚 RAG 工具

快速开始

# 安装 RocketRide
pip install rocketride

# 定义一个 RAG + Agent 的工作流
from rocketride import Pipeline, nodes

pipe = Pipeline()
pipe.add(nodes.DocumentLoader(source="docs/"))
pipe.add(nodes.Embedder(model="text-embedding-3-small"))
pipe.add(nodes.VectorStore(name="kb"))
pipe.add(nodes.AgentNode(llm="claude-sonnet-4"))

# 执行
result = pipe.run(query="总结产品 FAQ")

相关项目

Crawlee

25.6k · TypeScript

Crawlee 是一个面向 Node.js 的 Web 爬取和浏览器自动化库，支持 Puppeteer、Playwright、Cheerio 等多种引擎，专为构建可靠的爬虫而设计，可提取 HTML、PDF 等数据用于 AI、LLM 和 RAG 应用。

typescriptjavascriptdata-processing +3

· 多引擎统一接口 — 同一 API 支持 Puppeteer、Playwright、Cheerio 和原始 HTTP
· 反检测伪装 — 默认配置即可模拟人类行为规避主流反爬机制
· 代理轮换与会话管理 — 内置代理轮换、指纹生成和会话持久化

查看完整详情 → 在 GitHub 查看

Graphiti

30.5k · Python

Graphiti 是面向 Agent 记忆的时序知识图谱引擎，帮助系统持续沉淀长期上下文。

memoryknowledge-graphrag +1

· 时序事实管理 — 每个事实具有时间窗口，旧事实被失效而非删除，可查询当前或历史任意时刻的真实状态
· 溯源与血缘追踪 — 每个实体和关系追溯到产生它的原始数据（Episodes），完整的推导事实到数据源的血缘
· 混合检索 — 结合语义嵌入、关键词 BM25 和图遍历实现低延迟高精度查询，无需依赖 LLM 摘要

查看完整详情 → 在 GitHub 查看

llama.cpp

llama.cpp 是一个用 C/C++ 编写的轻量级 LLM 推理引擎，可在消费级硬件上高效运行各类开源大语言模型。

llm-inferencellamagguf +2

· 极轻量推理 — 纯 C/C++ 实现，零依赖即可在 CPU 上运行量化 LLM
· GGUF 模型格式 — 统一的量化模型格式，跨平台、可分块加载
· 多硬件加速 — 支持 Apple Silicon Metal、NVIDIA CUDA、AMD ROCm、Vulkan、OpenCL

查看完整详情 → 在 GitHub 查看

PromptTools

PromptTools 是开源的提示词测试与实验工具集，支持多种 LLM（OpenAI、LLaMA）和向量数据库（Chroma、Weaviate、LanceDB），帮助开发者系统化评估和优化 RAG 系统。

prompt-testingragevaluation +3

· 开源的提示词测试与实验工具，支持多种 LLM 提供商
· 支持 OpenAI、Anthropic、LLaMA、Mistral、Gemini、HuggingFace 等
· 向量数据库评估：Chroma、Weaviate、Qdrant、LanceDB、Pinecone

在 GitHub 查看