Kong

活跃
GitHub Lua Apache-2.0

简介

云原生 API 和 AI 网关,支持 LLM 请求路由、速率限制、负载均衡和可观测性,是 AI Agent 应用的关键基础设施。

核心特性

  • API 流量管理 — 高级路由、负载均衡、健康检查,支持 RESTful Admin API 和声明式配置
  • AI Gateway 能力 — 统一 LLM API 路由,支持 OpenAI、Anthropic、Gemini、Bedrock 等多提供商
  • MCP 流量治理 — MCP 安全、可观测性,以及从 REST API 自动生成 MCP 接口
  • 认证与授权 — JWT、OAuth、基本认证、ACL 等多种认证方式
  • 60+ 插件 — 速率限制、请求转换、日志监控等丰富插件生态
  • K8s 原生支持 — 通过 Ingress Controller 原生运行在 Kubernetes 上

适用场景

💡 为微服务架构提供统一的 API 网关和流量入口
💡 在 AI 应用中实现多 LLM 提供商的统一接入和负载均衡
💡 保护 MCP 和 AI 服务的流量安全与访问控制
💡 对 API 和 AI 服务进行速率限制、熔断和可观测性监控
💡 在 Kubernetes 环境中部署和管理 API 网关

快速开始

# 使用 Docker 启动 Kong
git clone https://github.com/Kong/docker-kong
cd docker-kong/compose/

# 启动 Gateway
docker-compose up -d

# 访问 Kong Admin API
curl http://localhost:8001/services

# 访问 Kong Manager 管理界面
open http://localhost:8002

相关项目