Infinity

活跃
GitHub C++ Apache-2.0

简介

Infinity 是 AI 原生数据库,提供极快的稠密向量、稀疏向量、张量与全文混合搜索,专为 LLM 应用和 RAG 系统设计。

核心特性

  • 百万级向量数据集上实现 0.1 毫秒查询延迟和 15K+ QPS
  • 支持稠密向量、稀疏向量、张量和全文的混合搜索
  • 内置多种重排序器:RRF、加权求和和 ColBERT
  • 丰富的数据类型支持:字符串、数值、向量等
  • 单二进制架构无外部依赖,Docker 一键部署
  • 支持作为 Python 模块嵌入,对 AI 开发者友好

适用场景

💡 RAG 检索增强生成系统的高性能向量检索后端
💡 语义搜索与推荐系统的核心数据库
💡 对话式 AI 的上下文检索与记忆存储
💡 多模态内容的混合检索与排序
💡 大规模文档集合的全文搜索与向量搜索融合

快速开始

使用 Docker 拉取镜像并启动 Infinity 服务:docker run -d --name infinity --network=host infiniflow/infinity:nightly,然后通过 pip install infinity-sdk 安装 Python 客户端即可连接使用。

相关项目