Helicone
活跃简介
Helicone 是面向大模型应用的开源代理与监控平台，提供请求追踪、缓存与成本分析能力。
核心特性
- AI Gateway — 一个 API Key 访问 100+ AI 模型，支持智能路由和自动故障转移
- 一行代码集成 — 支持 OpenAI、Anthropic、LangChain、Gemini、Vercel AI SDK 等主流框架
- 可观测性平台 — 检查和调试 Agent、聊天机器人、文档处理管道的追踪与会话
- 成本与延迟分析 — 追踪成本、延迟、质量等指标，一键导出到 PostHog
- Prompt 版本管理 — 使用生产数据版本化提示词，通过 AI Gateway 无需代码变更即可部署
- 企业级安全 — SOC 2 和 GDPR 合规，支持自托管（Docker/Helm）
适用场景
💡 LLM 应用监控 — 实时追踪 AI 应用的请求、成本、延迟和质量
💡 多模型路由与故障转移 — 通过统一网关在多个 AI 提供商之间智能路由
💡 Agent 追踪与调试 — 检查多轮 Agent 对话的完整执行轨迹
💡 Prompt 工程迭代 — 在 Playground 中快速测试和迭代提示词
💡 成本优化与预算控制 — 通过缓存和速率限制优化 LLM 使用成本
分类
快速开始
# 1. 注册获取 API Key
# https://helicone.ai/signup
# 2. 修改代码中的 baseURL
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://ai-gateway.helicone.ai",
apiKey: process.env.HELICONE_API_KEY,
});
const response = await client.chat.completions.create({
model: "gpt-4o-mini",
messages: [{ role: "user", content: "Hello!" }]
});
# 3. 查看日志: https://us.helicone.ai/dashboard
# 自托管
git clone https://github.com/Helicone/helicone.git
cd docker && cp .env.example .env
./helicone-compose.sh helicone up