Helicone 替代方案
Helicone 是一个开源的 AI 网关和 LLM 可观测性平台。2026 年 3 月,Mintlify 收购了 Helicone,并表示该产品将以维护模式继续运行。现在许多团队正在计划迁移。本指南提供当前状态,将可观测性与路由区分开,并比较各种选项。
代码、模型名称和目录中的实时标签以英文显示。
2026 年 11 月的 Helicone 状态
- 2026 年 3 月 3 日: Mintlify 宣布收购 Helicone。Helicone 团队加入了 Mintlify。
- 维护模式: Mintlify 表示,Helicone 将以维护模式继续运行,提供安全更新、错误修复和新模型支持。
- 迁移帮助: Mintlify 表示,它将为每位迁移到其他平台的客户提供协助。
- 新通知: Helicone 网站现在说明,Helicone 隶属于 Experiential Labs,详细信息即将公布。截至 2026 年 11 月 20 日,我们未能找到更多官方详情。
- 仍列出的方案: 定价页面显示一个免费的 Hobby 方案,每月 10,000 个请求,数据保留 7 天。页面还显示付费的 Pro 和 Team 方案。
可观测性还是路由:你需要替换什么?
Helicone 承担两项工作。选择替代方案之前,请先确定你使用的是哪一项。
| 工作 | 涵盖内容 | 常见替代方案 |
|---|---|---|
| 可观测性 | 请求日志、提示词和响应视图、每个请求的成本、会话、评估 | Langfuse、Portkey、你自己的日志系统 |
| 路由(AI 网关) | 一个兼容 OpenAI 的端点,提供商之间的故障转移,一个密钥 | LiteLLM、OpenRouter、Portkey、FreeLLMAPI |
| 两者兼有 | 同时记录每个请求日志的网关 | Portkey,或网关加 Langfuse |
许多团队会将这两项工作分开。网关负责发送请求,另一个独立的工具负责存储追踪记录和评估结果。例如,LiteLLM 提供回调功能,可将日志发送到 Langfuse、MLflow 和其他工具。
Helicone 替代方案对比
| 工具 | 主要功能 | 运行位置 | 状态与许可证 |
|---|---|---|---|
| Langfuse | 面向 LLM 应用和智能体的可观测性与评估 | 托管,或使用 Docker Compose、Helm 或 Terraform 自托管 | MIT 许可,ee 文件夹除外。自 2026 年 1 月起隶属于 ClickHouse |
| LiteLLM | 带虚拟密钥、支出跟踪和故障转移的 AI 网关 | 自托管 | 开源。通过回调将日志发送到其他工具 |
| Portkey | 带日志功能的托管 AI 网关 | 托管 | 免费的 Developer 层级,不适用于生产环境。付费的 Production 层级 |
| OpenRouter | 提供统一账单的托管模型网关 | 托管 | 带每日上限的免费模型,其余使用付费积分 |
| FreeLLMAPI | 汇集免费提供商层级的自托管网关 | 你的电脑或服务器 | 开源(MIT)。单用户 |
| Helicone(自托管) | 网关和可观测性 | 使用 Docker Compose 的你的服务器 | Apache 2.0。上游处于维护模式 |
有关网关的详细信息,请阅读 LiteLLM 替代方案、Portkey 替代方案 和 免费 LLM API 网关对比。
FreeLLMAPI 替换什么,不替换什么
FreeLLMAPI 替换网关的工作,但目标不同。它只将每个请求路由到提供商的免费层级,因此推理成本为 $0。它为每个请求记录基本数据。它不是完整的可观测性平台。
- 每个请求: 提供商、模型、状态、输入和输出 token、延迟以及首个 token 的时间。
- 每次失败的尝试: 提供商、错误类别,以及一条简短的已脱敏错误信息。
- 仪表板: 24 小时至 90 天内的 p50 和 p95 延迟、首个 token 的时间、成功率和 token 用量。
- 标头:
X-Routed-Via显示作出应答的提供商。X-Fallback-Trail显示每个失败的提供商。 - 不包括: 提示词管理、评估、用户会话或团队工作区。这些功能请使用 Langfuse 或类似工具。
| 模型 | 免费提供方 | 上下文 | 免费额度(最优惠) | 工具 | 视觉 |
|---|---|---|---|---|---|
| GLM 5.3 | UnoRouter | 1M | 1 请求/分钟 1 req/min per model | 是 | 否 |
| Qwen3.8 Max | ACLIDE | - | €20/month shared internal usage credits · no card | 是 | 否 |
| GLM 5.3 Flash | NVIDIA NIM, UnoRouter | 1M | 40 请求/分钟 40 RPM | 是 | 是 |
| Gemini 3.8 Flash | Google AI Studio | 1M | Recurring provider quota | 是 | 是 |
| Gemini Flash (latest alias) | Google AI Studio | - | 10 请求/分钟 20 请求/天 250,000 令牌/分钟 ~3M | 是 | 是 |
| Qwen3.8 Flash Next | AMD Radeon Cloud | 262K | Recurring daily account allowance | 是 | 否 |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | 是 | 是 |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 请求/分钟 20 请求/天 250,000 令牌/分钟 ~3M | 是 | 是 |
显示 8 个(共 146 个匹配的免费模型)。 查看所有模型.
数据来自 FreeLLMAPI 目录(版本 2026.11.19,检查于 2026-11-19)。免费额度经常变化。该目录每天检查一次。
选择前的检查清单
- 列出你的团队每周使用的 Helicone 功能。大多数团队只使用其中少数几项。
- 确定你需要托管服务还是自托管工具。
- 检查每个工具在何处存储你的提示词和响应。一些团队必须将数据保存在某个地区。
- 检查每个工具免费方案的数据保留期。
- 检查该工具能否将数据发送到第二个工具,例如将日志发送到 Langfuse 的网关。
- 在关闭 Helicone 之前,先让新方案与 Helicone 并行运行一段时间。
如果你的主要成本是推理而非日志记录,请先考虑网关。使用免费提供商层级的网关可以将测试和开发成本降至 $0。对于确实需要的流量,请保留付费提供商。
如何迁移离开 Helicone 网关
Helicone 网关兼容 OpenAI,基础 URL 为 https://ai-gateway.helicone.ai。大多数应用只需更改两个值即可完成迁移。请执行以下步骤:
- 在更改任何内容之前,导出你想保留的 Helicone 数据。
- 选择新的网关和新的可观测性工具。
- 在你的应用中更改基础 URL 和 API 密钥。
- 将模型名称更改为新网关中的名称。
- 发送测试流量,并将日志与 Helicone 的日志比较一天。
- 从你的应用中删除 Helicone 密钥。
前后对比:更改基础 URL 和密钥
from openai import OpenAI
# Before: Helicone AI Gateway
# client = OpenAI(base_url="https://ai-gateway.helicone.ai", api_key="<helicone-key>")
# After: FreeLLMAPI on your own computer
client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")
resp = client.chat.completions.create(
model="auto",
messages=[{"role": "user", "content": "Hello"}],
)
print(resp.choices[0].message.content)常见问题
Helicone 会关闭吗?
尚未宣布关闭日期。Mintlify 于 2026 年 3 月收购了 Helicone,并表示 Helicone 将以维护模式继续运行,提供安全更新、错误修复和新模型支持。
现在谁拥有 Helicone?
Mintlify 于 2026 年 3 月 3 日宣布收购。Helicone 网站现在还说明,Helicone 隶属于 Experiential Labs,详细信息即将公布。我们无法确认更多详情。
最好的开源 Helicone 替代方案是什么?
在可观测性方面,Langfuse 是开源的,可以自托管。在路由方面,LiteLLM 是开源的,可以自托管。FreeLLMAPI 是一个开源网关,只路由到免费的提供商层级。
我可以自托管 Helicone 吗?
可以。Helicone 代码仓库采用 Apache 2.0 许可,并包含一个 Docker Compose 文件。上游开发处于维护模式,因此请预期更新会减少。
FreeLLMAPI 能替代 Helicone 的可观测性功能吗?
部分可以。它会为每个请求记录状态、token、延迟和失败的尝试,并提供仪表板。它没有提示词管理、评估或团队工作区。
相关指南
来源
- Mintlify blog: Mintlify acquires Helicone (检查于 20 November 2026)
- Helicone website (Experiential Labs notice) (检查于 20 November 2026)
- Helicone pricing (检查于 20 November 2026)
- Helicone docs (检查于 20 November 2026)
- Helicone GitHub repository (检查于 20 November 2026)
- Langfuse GitHub repository (检查于 20 November 2026)
- FreeLLMAPI docs: Observability (检查于 20 November 2026)