Kong

活跃
GitHub Lua Apache-2.0

简介

云原生 API 和 AI 网关,支持 LLM 请求路由、速率限制、负载均衡和可观测性,是 AI Agent 应用的关键基础设施。

核心特性

  • API 流量管理 — 高级路由、负载均衡、健康检查,支持 RESTful Admin API 和声明式配置
  • AI Gateway 能力 — 统一 LLM API 路由,支持 OpenAI、Anthropic、Gemini、Bedrock 等多提供商
  • MCP 流量治理 — MCP 安全、可观测性,以及从 REST API 自动生成 MCP 接口
  • 认证与授权 — JWT、OAuth、基本认证、ACL 等多种认证方式
  • 60+ 插件 — 速率限制、请求转换、日志监控等丰富插件生态
  • K8s 原生支持 — 通过 Ingress Controller 原生运行在 Kubernetes 上

适用场景

💡 为微服务架构提供统一的 API 网关和流量入口
💡 在 AI 应用中实现多 LLM 提供商的统一接入和负载均衡
💡 保护 MCP 和 AI 服务的流量安全与访问控制
💡 对 API 和 AI 服务进行速率限制、熔断和可观测性监控
💡 在 Kubernetes 环境中部署和管理 API 网关

优势与不足

优势

  • 活跃维护,近期持续更新
  • 社区热度高(44.0k stars)
  • 开源许可证友好(Apache-2.0)
  • Issue 响应及时,积压少

快速开始

# 使用 Docker 启动 Kong
git clone https://github.com/Kong/docker-kong
cd docker-kong/compose/

# 启动 Gateway
docker-compose up -d

# 访问 Kong Admin API
curl http://localhost:8001/services

# 访问 Kong Manager 管理界面
open http://localhost:8002

相关项目

Agents Towards Production

21.3k · Jupyter Notebook
活跃 A+

端到端的代码优先教程,教授如何构建生产级 GenAI 智能体,涵盖从原型到企业级部署的完整流程。

agentframeworkevaluation +2
  • · 28 个生产级教程 — 涵盖有状态工作流、向量记忆、Web 搜索 API 等核心主题
  • · 端到端覆盖 — 从 Docker 部署、FastAPI 端点到安全防护、GPU 扩展
  • · 多智能体协调 — 教授多 Agent 协作架构设计与实现