首页 / 指南 / 免费兼容 OpenAI 的 API Base URL

免费兼容 OpenAI 的 API Base URL

大多数免费 LLM 提供商接受 OpenAI API 格式。您只需在客户端中更改两个值:Base URL 和 API 密钥。本页列出了每个免费提供商的 Base URL,并已对照提供商自身的文档进行核对。

代码、模型名称和目录中的实时标签以英文显示。

免费提供商的 Base URL

依据提供商文档核对
提供商兼容 OpenAI 的 Base URL密钥
Google AI Studio (Gemini)https://generativelanguage.googleapis.com/v1beta/openai/Gemini API 密钥
Groqhttps://api.groq.com/openai/v1Groq API 密钥
OpenRouterhttps://openrouter.ai/api/v1OpenRouter 密钥。请使用以 :free 结尾的模型 ID。
NVIDIA API Cataloghttps://integrate.api.nvidia.com/v1NVIDIA API 密钥
Cloudflare Workers AIhttps://api.cloudflare.com/client/v4/accounts/<account-id>/ai/v1Cloudflare API token
Coherehttps://api.cohere.ai/compatibility/v1Cohere 试用版或生产版密钥
Z.ai (Zhipu)https://api.z.ai/api/paas/v4/Z.ai API 密钥
OVHcloud AI Endpointshttps://oai.endpoints.kepler.ai.cloud.ovh.net/v1可选。匿名使用允许较低的限制。
Kilo Gatewayhttps://ai-gateway.kilo.ai/api/v1免费模型可选
AI Hordehttps://oai.aihorde.net/v1Horde 密钥,或匿名密钥 0000000000
Mistralhttps://api.mistral.ai/v1Mistral 密钥。该 API 需要激活计费。
Scaleway Generative APIshttps://api.scaleway.ai/v1Scaleway 私密密钥
注意:部分 SDK 会在 Base URL 后追加 /chat/completions。请勿自行在 Base URL 中加入 /chat/completions。请完全按照所示保留末尾路径。

如何在客户端中更改 Base URL

OpenAI SDK 从参数或环境变量中读取 Base URL。此示例使用 Groq。如需使用其他提供商,请更改 URL、密钥和模型 ID。

Python(OpenAI SDK)

from openai import OpenAI

client = OpenAI(
    base_url="https://api.groq.com/openai/v1",
    api_key="<groq-key>",
)
resp = client.chat.completions.create(
    model="openai/gpt-oss-20b",
    messages=[{"role": "user", "content": "Say hello"}],
)
print(resp.choices[0].message.content)

环境变量

export OPENAI_BASE_URL=https://api.groq.com/openai/v1
export OPENAI_API_KEY=<groq-key>

许多工具(例如 Open WebUI、Cline 和 Aider)都有一个用于兼容 OpenAI 的 Base URL 的字段。将表格中的 URL 填入该字段。

使用前测试 Base URL

在配置工具之前,请进行两项检查。首先,列出模型。此检查可确认 URL 和密钥正确。其次,发送一条简短的对话请求。此检查可确认模型 ID 有效,并且您有剩余配额。

检查 URL、密钥和一个模型

BASE=https://api.groq.com/openai/v1
KEY=<groq-key>

# 1. List the models
curl -s $BASE/models -H "Authorization: Bearer $KEY" | head -c 600

# 2. Send one short request
curl -s $BASE/chat/completions \
  -H "Authorization: Bearer $KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "ping"}], "max_tokens": 200}'

请勿在推理模型上设置很小的 max_tokens 值。部分免费模型会在可见回答之前使用隐藏的推理 token。如果上限过小,响应可能会在返回空回答时停止。

如果第一项检查返回 401,则说明该 URL 对应的密钥错误。如果第二项检查返回 429,则说明 URL 和密钥正确,但已达到免费限制。请阅读提供商的速率限制标头,以查找重置时间。

需要了解的兼容性差异

"兼容 OpenAI"并不意味着每个参数都能使用。每个提供商支持的参数子集各不相同。

  • Groq:带有 logprobs、logit_bias、top_logprobs、messages[].name 或非 1 的 n 的请求会返回错误 400。temperature 为 0 时会变为 1e-8。
  • Cloudflare:URL 中包含您的账户 ID。token 以 Bearer token 的形式发送。
  • AI Horde:该端点支持 /v1/chat/completions 和 /v1/models。模型由志愿者运行,因此速度和模型列表会发生变化。
  • 模型 ID:每个提供商使用其自有的模型名称。请在每个 Base URL 上读取 GET /v1/models,以获取有效的 ID。

当前可调用的免费模型

这些免费模型支持工具调用,并且上下文窗口至少为 128K token。表格列出了免费提供每个模型的提供商。

支持工具调用且上下文为 128K 以上的免费模型
模型免费提供方上下文免费额度(最优惠)工具视觉
GLM 5.3 FlashNVIDIA NIM1M40 请求/分钟
40 RPM
是否
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quota是是
Gemini 3.7 FlashGoogle AI Studio1M10 请求/分钟
20 请求/天
250,000 令牌/分钟
~3M
是是
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 请求/分钟
50 请求/天
50 req/day account-wide (1,000 after a $10 purchase)
是是
Qwen3.8 27BGroq, OVH AI Endpoints262K30 请求/分钟
250 请求/天
70,000 令牌/分钟
~6M
是是
Gemini 3.6 FlashGoogle AI Studio1M10 请求/分钟
20 请求/天
250,000 令牌/分钟
~3M
是是
Qwen 3.8 27BCloudflare Workers AI262KShared 10k neurons/day是是
Gemini 3.5 FlashGoogle AI Studio1M10 请求/分钟
20 请求/天
250,000 令牌/分钟
~3M
是是
Nemotron 3 Ultra 550BKilo Gateway, NVIDIA NIM, OpenRouter1M20 请求/分钟
50 请求/天
50 req/day account-wide (1,000 after a $10 purchase)
是否
Gemini 3.5 Flash LiteGoogle AI Studio1M15 请求/分钟
20 请求/天
250,000 令牌/分钟
~3M
是是
Qwen3.6 27BOVH AI Endpoints131K2 请求/分钟
2/min per IP
是否
Muse Glimmer 30BNVIDIA NIM131K40 请求/分钟
40 RPM
是是

显示 12 个(共 46 个匹配的免费模型)。 查看所有模型.

数据来自 FreeLLMAPI 目录(版本 2026.11.19,检查于 2026-11-19)。免费额度经常变化。该目录每天检查一次。

所有免费提供商共用一个 Base URL

表中的每个 Base URL 都有自己的密钥和速率限制。当某个提供商返回 429 错误时,您的代码必须切换到另一个 URL。FreeLLMAPI 则为您提供一个兼容 OpenAI 的 Base URL。它在您的计算机上运行,并将每个请求发送给仍有剩余配额的免费提供商。

安装并调用本地 Base URL

curl -fsSL https://freellmapi.co/install.sh | bash

export OPENAI_BASE_URL=http://localhost:3001/v1
export OPENAI_API_KEY=<unified-key>

curl $OPENAI_BASE_URL/chat/completions \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "auto", "messages": [{"role": "user", "content": "hi"}]}'
  • 在 http://localhost:3001 的密钥页面添加您的提供商密钥。
  • 使用 auto 让路由器自行选择。使用 auto:fast 或 auto:smart 以优先考虑速度或智能程度。您也可以发送模型 ID。
  • X-Routed-Via 响应标头会显示应答的提供商和模型。
  • 同一服务器还提供 /v1/messages,供 Anthropic 客户端使用,以及 /v1beta,供 Gemini CLI 使用。

FreeLLMAPI 使用免费套餐,因此每个提供商的速率限制仍然适用。故障切换会将负载分散到多个提供商,但并不能取消这些限制。

故障排除

问题原因解决方法
404 Not FoundBase URL 路径错误,或包含 /chat/completions完全按照表中的 Base URL 填写
401 Unauthorized密钥属于其他提供商使用与 Base URL 属于同一提供商的密钥
有效请求返回 400该提供商不支持某个参数删除 logprobs 或 n 等参数
找不到模型模型 ID 来自其他提供商在 Base URL 上调用 GET /v1/models
429 Too Many Requests已达到免费限制等待配额重置,或使用支持故障切换的网关
通过一个密钥使用以上每一个模型。 FreeLLMAPI 是一个开源的自托管路由器。它将所有这些免费套餐放在一个兼容 OpenAI 的端点之后,并在某个套餐被限速时自动切换。 浏览目录 或 立即开始.

常见问题

Gemini 兼容 OpenAI 的 Base URL 是什么?

Google 文档中给出的 Base URL 为 https://generativelanguage.googleapis.com/v1beta/openai/。请使用您在 AI Studio 中获取的 Gemini API 密钥作为 API 密钥。

Groq 的 OpenAI Base URL 是什么?

Groq 文档中给出的地址为 https://api.groq.com/openai/v1。请使用 Groq API 密钥和 Groq 模型 ID。

是否存在无需密钥的免费兼容 OpenAI 的 API?

有,但限制较低。OVHcloud AI Endpoints 允许每个 IP 和每个模型每分钟 2 次匿名请求。Kilo Gateway 允许对免费模型每小时 200 次匿名请求。

我可以将 OpenAI Python SDK 用于免费提供商吗?

可以。将 base_url 设置为提供商的 URL,并将 api_key 设置为提供商的密钥。请使用该提供商的模型 ID。

如何通过一个 Base URL 使用多个免费提供商?

在您的计算机上运行 FreeLLMAPI 等网关。将客户端指向 http://localhost:3001/v1 并使用一个统一密钥,路由器会为每个请求选择提供商。

相关指南

来源

全部指南 · 浏览所有免费模型