AgentGateway
活跃简介
下一代 AI Agent 代理网关，为 AI Agent 和 MCP 服务器提供统一的流量管理、路由转发和安全控制层。支持多协议适配和可扩展的中间件架构。
核心特性
- 统一 LLM 网关，提供 OpenAI 兼容 API 路由到 OpenAI、Anthropic、Gemini、Bedrock 等
- MCP 网关，支持工具联邦、stdio/HTTP/SSE 传输、OpenAPI 集成和 OAuth 认证
- A2A 网关，实现安全的 Agent 间通信，支持能力发现和任务协作
- 多层护栏，包括正则、OpenAI 审核、AWS Bedrock Guardrails 和自定义 webhook
- 安全特性包括 JWT/API 密钥/OAuth 认证、基于 CEL 策略引擎的 RBAC、速率限制和 TLS
- Kubernetes 原生推理路由，基于 GPU 利用率、KV 缓存、LoRA 适配器和队列深度
适用场景
💡 多 Agent AI 部署的集中式流量管理和安全治理
💡 跨多个 LLM 提供商的统一 API 网关路由请求，支持故障转移
💡 通过 MCP 协议实现 Agent 到工具的连接，支持认证和可观测性
💡 基于 Kubernetes 的 AI 推理工作负载路由和资源优化
快速开始
访问 agentgateway.dev/docs/quickstart 获取独立快速入门指南。对于 Kubernetes，按照 agentgateway.dev/docs/kubernetes/latest 的指南操作。通过二进制发布或 Docker 安装 agentgateway。配置 LLM 提供商、MCP 工具服务器和安全策略。内置 UI 可帮助探索 Agent 间和 Agent 到工具的连接。