Helicone

一行代理即可获得 LLM 追踪、缓存与成本分析

核心功能

Helicone 是开源（Apache 2.0）的 LLM 可观测与 AI 网关，把 OpenAI/Anthropic/Google 等调用代理到其 base URL，自动记录提示、延迟、token 与成本。具备响应缓存、重试、限流、供应商回退、提示词版本与 HQL 查询；2026-03 被 Mintlify 收购后进入维护模式。

功能亮点

一行接入

改 base URL 即开始记录

网关能力

缓存重试限流与回退

成本归因

按用户功能拆解花费

HQL 查询

类 SQL 查调用日志

适用场景

• 生产请求调试与追溯
• 多供应商路由与容灾
• 按用户/功能成本归因

安装配置

在 helicone.ai 建账号拿 Key，把 OpenAI/Anthropic 客户端的 base_url 改为 oai.helicone.ai 等代理地址并加 Helicone-Auth 头；自托管用 Docker 跑 Apache 2.0 版本。

使用方法

bash

1) 注册 Helicone 生成 API Key，并把 LLM 客户端的 base_url 指向其代理（如 oai.helicone.ai）
2) 在请求头加 Helicone-Auth，之后每次调用自动记录提示、延迟、token 与成本
3) 用 Helicone-Property 头按用户/功能打标签，做成本与用量归因
4) 开启网关能力：响应缓存、按 key 限流、供应商故障时自动回退
5) 用 HQL（类 SQL）查询日志，或在看板按模型/供应商对比可靠性与花费

关键指标

尚未核验对标产品，此处只列本工具自身指标，不做对比结论。

指标Helicone

价格免费增值

开源否

上手难度进阶

优点

一行改动即可接入极快
开源可自托管无锁定
网关+观测一体省工具
成本归因细到用户维度

缺点

2026-03 被收购后进入维护模式
不提供护栏与内容审核
无低代码应用搭建
深度追踪晚于 Langfuse