OVH AI Endpoints 免费 API
OVHcloud AI Endpoints 是一个面向开放模型的无服务器 API,托管在欧盟。您可以在较低的速率限制下,无需 API 密钥即可调用它。本指南提供匿名和带密钥的限制、免费目录中的模型,以及设置步骤。
代码、模型名称和目录中的实时标签以英文显示。
匿名与带密钥的限制
OVHcloud 功能指南列出了两项速率限制。如果您超过其中任何一项,API 会返回状态 429。
| 访问方式 | 速率限制 | 所需条件 | 费用 |
|---|---|---|---|
| 匿名(无密钥) | 每分钟 2 次请求,按 IP 和模型计算 | 无 | OVHcloud 表示,您可以在沙盒中或通过 API 免费测试这些模型 |
| API 访问密钥 | 每分钟 400 次请求,按公共云项目和模型计算 | 一个带有支付方式的公共云项目 | 按输入和输出 tokens 计费 |
- 匿名限制按模型计算。您可以对多个模型分别以每分钟 2 次请求进行调用。
- 处于 Discovery 模式且没有支付方式的公共云项目密钥无法使用该服务。
- OVHcloud 表示,未来可能会增加基于 tokens、字符或音频秒数的限制。
OVH AI Endpoints 上的免费模型
下表列出当前 FreeLLMAPI 目录中的 OVH 模型,并给出匿名限制。当 OVHcloud 增加或移除模型时,此列表会相应变化。
| 模型 | 免费提供方 | 上下文 | 免费额度(最优惠) | 工具 | 视觉 |
|---|---|---|---|---|---|
| Qwen3.8 27B | OVH AI Endpoints | 262K | 2 请求/分钟 2/min per IP | 是 | 否 |
| Qwen3.6 27B | OVH AI Endpoints | 131K | 2 请求/分钟 2/min per IP | 是 | 否 |
| Qwen3.5 397B | OVH AI Endpoints | 262K | 2 请求/分钟 2/min per IP | 是 | 否 |
| Qwen3.5 9B | OVH AI Endpoints | 262K | 2 请求/分钟 2/min per IP | 是 | 否 |
| GPT-OSS 120B | OVH AI Endpoints | 131K | 2 请求/分钟 2/min per IP | 是 | 否 |
| GPT-OSS 20B | OVH AI Endpoints | 131K | 2 请求/分钟 2/min per IP | 是 | 否 |
| Llama 3.3 70B | OVH AI Endpoints | 131K | 2 请求/分钟 2/min per IP | 是 | 否 |
| Mistral Small 3.2 24B | OVH AI Endpoints | 131K | 2 请求/分钟 2/min per IP | 是 | 否 |
| Qwen2.5 VL 72B | OVH AI Endpoints | 33K | 2 请求/分钟 2/min per IP | 否 | 是 |
| Qwen3Guard Gen 8B | OVH AI Endpoints | 33K | 2 请求/分钟 2/min per IP | 否 | 否 |
| Qwen3Guard Gen 0.6B | OVH AI Endpoints | 33K | 2 请求/分钟 2/min per IP | 否 | 否 |
数据来自 FreeLLMAPI 目录(版本 2026.11.19,检查于 2026-11-19)。免费额度经常变化。该目录每天检查一次。
其中部分模型在其他提供方也有免费套餐,且限制更高。例如,GPT-OSS 120B 在 Groq 和 Cloudflare Workers AI 上也免费。免费提供方列显示每个模型的所有提供方。
无密钥调用 API
AI Endpoints 使用 OpenAI API 格式。FreeLLMAPI 适配器中的基础 URL 为 https://oai.endpoints.kepler.ai.cloud.ovh.net/v1。请使用表中的模型 ID。
使用 curl 的匿名请求
curl https://oai.endpoints.kepler.ai.cloud.ovh.net/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{"model": "gpt-oss-120b", "messages": [{"role": "user", "content": "Hello"}]}'如需使用密钥,请在 OVHcloud 控制面板中创建。依次进入 Public Cloud、选择您的项目、AI,然后选择 AI Endpoints。打开 API keys 标签页并创建密钥。OVHcloud 只显示一次密钥值,因此请立即保存。
将 OVH 与其他免费套餐组成一个池
在 FreeLLMAPI 中,OVH 被注册为无需密钥的提供方。您无需添加密钥。启动 FreeLLMAPI 后,路由器即可将请求发送到 OVH 模型。
- 安装 FreeLLMAPI,并在浏览器中打开仪表板
http://localhost:3001。 - 在 Keys 页面添加一个或多个其他提供方的免费密钥。
- 打开 Fallback Chain,并按需要放置 OVH 模型。
- 使用您的统一密钥发送请求。路由器会为每个模型跟踪每分钟 2 次请求的限制。
当 OVH 返回 429 时,路由器会将该模型置于冷却状态,并尝试链中的下一个模型。X-Routed-Via 标头显示作出回答的提供方。
| 提供方 | 已知问题 | 处理方法 |
|---|---|---|
| OVH AI Endpoints | Anonymous tier is 2 req/min | OVH AI Endpoints anonymous mode is documented at 2 req/min per IP per model (observed even stricter across models). The 400 req/min authenticated tier requires a Public Cloud project with a payment method, so the catalog ships the keyless path. Treat as a breadth/fallback tier, not a throughput tier. |
| OVH AI Endpoints | No API key required | Routes anonymously — the catalog ships a keyless sentinel row and calls work with no account or key. |
| OVH AI Endpoints | Needs token room | Some free routes spend hidden reasoning tokens before visible output. Avoid tiny max_tokens values or requests can finish by length with empty content. |
| OVH AI Endpoints | May emit thinking trace | OVH Qwen reasoning routes can include <think> blocks or reasoning prose. Strip or suppress the thinking trace when a plain answer is required. |
| OVH AI Endpoints | Safety classifier output | This route returns moderation/safety labels rather than normal assistant prose. Use it as a guardrail model, not a primary chat model. |
数据来自 FreeLLMAPI 目录(版本 2026.11.19,检查于 2026-11-19)。免费额度经常变化。该目录每天检查一次。
OVH AI Endpoints 故障排除
| 问题 | 原因 | 解决方法 |
|---|---|---|
| 一分钟内的第二次请求返回错误 429 | 匿名限制为每个模型每分钟 2 次请求 | 两次请求之间等待 30 秒,或调用其他模型 |
| 您最近没有发送请求,却返回错误 429 | 同一 IP 地址上的其他用户正在使用匿名套餐 | 使用密钥,或在高峰时段使用其他免费提供方 |
| 密钥返回身份验证错误 | 该密钥来自处于 Discovery 模式的公共云项目 | 为该项目添加支付方式,然后创建新密钥 |
| 找不到模型 ID | OVHcloud 移除或重命名了该模型 | 重新检查模型列表,并使用当前的模型 ID |
| 回答在结束前中断 | 该模型的输出预算较小,或输出了思考过程 | 设置更大的 max_tokens 值,或选择其他模型 |
这些错误大多是速率限制。单一的匿名套餐使用简单,但处理长任务时速度较慢。将它与其他免费套餐组成一个池,可在 OVH 返回 429 时保持您的应用继续运行。
数据位置与隐私
OVHcloud 声明,AI Endpoints 托管并运行于欧盟。它还声明,您的数据绝不会用于训练其模型。它仅保留计费所需的数据。
- 因此,对于欧洲项目,OVH 是有用的免费选项。欧盟的其他选项请阅读欧洲的免费 LLM API。
- 匿名限制按 IP 地址计算。同一 IP 后面的多个用户共享每分钟 2 次请求的额度。
- 该服务受 OVHcloud 公共云特别条款约束。在用于生产环境之前,请先阅读这些条款。
常见问题
OVH AI Endpoints 免费吗?
您可以无需密钥调用它,限制为每个 IP 和每个模型每分钟 2 次请求。OVHcloud 表示,您可以免费测试这些模型。使用密钥时,按输入和输出 tokens 计费。
使用 OVH AI Endpoints 是否需要 API 密钥?
匿名套餐不需要。密钥提供每个模型每分钟 400 次请求,但需要一个带有支付方式的公共云项目。
OVH AI Endpoints 的速率限制是多少?
匿名访问允许每个 IP 和每个模型每分钟 2 次请求。密钥允许每个公共云项目和每个模型每分钟 400 次请求。超过限制时,两者都会返回 429。
OVH AI Endpoints 上哪些模型免费?
本页的表格列出了当前免费目录中的 OVH 模型,例如 GPT-OSS、Qwen、Llama 和 Mistral 模型。当 OVHcloud 更新其目录时,列表会发生变化。
OVH 会使用我的提示词进行训练吗?
OVHcloud 声明,您的数据绝不会用于训练其模型,并且该服务运行于欧盟。
相关指南
来源
- OVHcloud docs: AI Endpoints features, capabilities and limitations (检查于 20 November 2026)
- OVHcloud docs: AI Endpoints getting started (检查于 20 November 2026)
- OVHcloud: AI Endpoints product page (检查于 20 November 2026)
- FreeLLMAPI docs: Supported platforms (检查于 20 November 2026)