Higress
活跃简介
Higress 是云原生 AI 原生 API 网关，原生支持 LLM 代理、Function Calling 与插件扩展。
核心特性
- AI 网关 — 统一代理 LLM API 与 Function Calling
- Envoy + WASM — 高性能 + 可扩展插件
- 多协议 — HTTP/1, HTTP/2, gRPC, WebSocket
- 插件生态 — 认证、限流、缓存、转换
- 云原生 — 基于 Istio + Envoy 数据面
- 开源 — 阿里开源，企业级稳定性
适用场景
💡 代理多家 LLM 提供商并统一鉴权
💡 为 Function Calling 统一协议与限流
💡 把企业内部 AI 服务通过统一网关暴露
💡 用 WASM 自定义插件加工 LLM 输出
分类
快速开始
helm repo add higress https://higress.io/helm
helm install higress higress/higress -n higress-system --create-namespace
# 安装 Higress Console (可选)
kubectl get svc -n higress-system # 检查 svc