Portkey AI Gateway
正常简介
Portkey AI Gateway 是一个高性能 AI 网关，支持路由到 200+ LLM 提供商，内置 50+ AI 安全护栏，提供统一 API 接口。
核心特性
- 通过单一 OpenAI 兼容 API 端点路由到 250+ 种 LLM
- 极速性能：延迟低于 1ms，体积仅 122kb
- 内置自动重试、故障转移和负载均衡确保可靠性
- 50+ AI 安全护栏用于内容过滤和安全策略执行
- MCP Gateway 提供企业级认证和 MCP 服务器可观测性
- 支持任意部署：Cloudflare Workers、Docker、Node.js 或 Portkey Cloud
适用场景
💡 生产级 AI 应用的集中式 LLM 管理与提供商故障转移
💡 为任意 LLM 集成添加安全护栏和内容审核
💡 基于价格和性能跨提供商路由以优化成本
💡 需要审计日志和合规性的企业级 AI 部署
💡 需要按用户限速和配额的多租户 AI 平台
快速开始
npx @portkey-ai/gateway — 网关在 http://localhost:8787/v1 运行。使用 Portkey Python 客户端：client = Portkey(provider='openai', Authorization='sk-***'); client.chat.completions.create(model='gpt-4o-mini', messages=[...])