免费兼容 OpenAI 的 API Base URL
大多数免费 LLM 提供商接受 OpenAI API 格式。您只需在客户端中更改两个值:Base URL 和 API 密钥。本页列出了每个免费提供商的 Base URL,并已对照提供商自身的文档进行核对。
代码、模型名称和目录中的实时标签以英文显示。
免费提供商的 Base URL
| 提供商 | 兼容 OpenAI 的 Base URL | 密钥 |
|---|---|---|
| Google AI Studio (Gemini) | https://generativelanguage.googleapis.com/v1beta/openai/ | Gemini API 密钥 |
| Groq | https://api.groq.com/openai/v1 | Groq API 密钥 |
| OpenRouter | https://openrouter.ai/api/v1 | OpenRouter 密钥。请使用以 :free 结尾的模型 ID。 |
| NVIDIA API Catalog | https://integrate.api.nvidia.com/v1 | NVIDIA API 密钥 |
| Cloudflare Workers AI | https://api.cloudflare.com/client/v4/accounts/<account-id>/ai/v1 | Cloudflare API token |
| Cohere | https://api.cohere.ai/compatibility/v1 | Cohere 试用版或生产版密钥 |
| Z.ai (Zhipu) | https://api.z.ai/api/paas/v4/ | Z.ai API 密钥 |
| OVHcloud AI Endpoints | https://oai.endpoints.kepler.ai.cloud.ovh.net/v1 | 可选。匿名使用允许较低的限制。 |
| Kilo Gateway | https://ai-gateway.kilo.ai/api/v1 | 免费模型可选 |
| AI Horde | https://oai.aihorde.net/v1 | Horde 密钥,或匿名密钥 0000000000 |
| Mistral | https://api.mistral.ai/v1 | Mistral 密钥。该 API 需要激活计费。 |
| Scaleway Generative APIs | https://api.scaleway.ai/v1 | Scaleway 私密密钥 |
/chat/completions。请勿自行在 Base URL 中加入 /chat/completions。请完全按照所示保留末尾路径。如何在客户端中更改 Base URL
OpenAI SDK 从参数或环境变量中读取 Base URL。此示例使用 Groq。如需使用其他提供商,请更改 URL、密钥和模型 ID。
Python(OpenAI SDK)
from openai import OpenAI
client = OpenAI(
base_url="https://api.groq.com/openai/v1",
api_key="<groq-key>",
)
resp = client.chat.completions.create(
model="openai/gpt-oss-20b",
messages=[{"role": "user", "content": "Say hello"}],
)
print(resp.choices[0].message.content)环境变量
export OPENAI_BASE_URL=https://api.groq.com/openai/v1
export OPENAI_API_KEY=<groq-key>许多工具(例如 Open WebUI、Cline 和 Aider)都有一个用于兼容 OpenAI 的 Base URL 的字段。将表格中的 URL 填入该字段。
使用前测试 Base URL
在配置工具之前,请进行两项检查。首先,列出模型。此检查可确认 URL 和密钥正确。其次,发送一条简短的对话请求。此检查可确认模型 ID 有效,并且您有剩余配额。
检查 URL、密钥和一个模型
BASE=https://api.groq.com/openai/v1
KEY=<groq-key>
# 1. List the models
curl -s $BASE/models -H "Authorization: Bearer $KEY" | head -c 600
# 2. Send one short request
curl -s $BASE/chat/completions \
-H "Authorization: Bearer $KEY" \
-H "Content-Type: application/json" \
-d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "ping"}], "max_tokens": 200}'请勿在推理模型上设置很小的 max_tokens 值。部分免费模型会在可见回答之前使用隐藏的推理 token。如果上限过小,响应可能会在返回空回答时停止。
如果第一项检查返回 401,则说明该 URL 对应的密钥错误。如果第二项检查返回 429,则说明 URL 和密钥正确,但已达到免费限制。请阅读提供商的速率限制标头,以查找重置时间。
需要了解的兼容性差异
"兼容 OpenAI"并不意味着每个参数都能使用。每个提供商支持的参数子集各不相同。
- Groq:带有
logprobs、logit_bias、top_logprobs、messages[].name或非 1 的n的请求会返回错误 400。temperature为 0 时会变为1e-8。 - Cloudflare:URL 中包含您的账户 ID。token 以 Bearer token 的形式发送。
- AI Horde:该端点支持
/v1/chat/completions和/v1/models。模型由志愿者运行,因此速度和模型列表会发生变化。 - 模型 ID:每个提供商使用其自有的模型名称。请在每个 Base URL 上读取
GET /v1/models,以获取有效的 ID。
当前可调用的免费模型
这些免费模型支持工具调用,并且上下文窗口至少为 128K token。表格列出了免费提供每个模型的提供商。
| 模型 | 免费提供方 | 上下文 | 免费额度(最优惠) | 工具 | 视觉 |
|---|---|---|---|---|---|
| GLM 5.3 Flash | NVIDIA NIM | 1M | 40 请求/分钟 40 RPM | 是 | 否 |
| Gemini 3.8 Flash | Google AI Studio | 1M | Recurring provider quota | 是 | 是 |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 请求/分钟 20 请求/天 250,000 令牌/分钟 ~3M | 是 | 是 |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 请求/分钟 50 请求/天 50 req/day account-wide (1,000 after a $10 purchase) | 是 | 是 |
| Qwen3.8 27B | Groq, OVH AI Endpoints | 262K | 30 请求/分钟 250 请求/天 70,000 令牌/分钟 ~6M | 是 | 是 |
| Gemini 3.6 Flash | Google AI Studio | 1M | 10 请求/分钟 20 请求/天 250,000 令牌/分钟 ~3M | 是 | 是 |
| Qwen 3.8 27B | Cloudflare Workers AI | 262K | Shared 10k neurons/day | 是 | 是 |
| Gemini 3.5 Flash | Google AI Studio | 1M | 10 请求/分钟 20 请求/天 250,000 令牌/分钟 ~3M | 是 | 是 |
| Nemotron 3 Ultra 550B | Kilo Gateway, NVIDIA NIM, OpenRouter | 1M | 20 请求/分钟 50 请求/天 50 req/day account-wide (1,000 after a $10 purchase) | 是 | 否 |
| Gemini 3.5 Flash Lite | Google AI Studio | 1M | 15 请求/分钟 20 请求/天 250,000 令牌/分钟 ~3M | 是 | 是 |
| Qwen3.6 27B | OVH AI Endpoints | 131K | 2 请求/分钟 2/min per IP | 是 | 否 |
| Muse Glimmer 30B | NVIDIA NIM | 131K | 40 请求/分钟 40 RPM | 是 | 是 |
显示 12 个(共 46 个匹配的免费模型)。 查看所有模型.
数据来自 FreeLLMAPI 目录(版本 2026.11.19,检查于 2026-11-19)。免费额度经常变化。该目录每天检查一次。
所有免费提供商共用一个 Base URL
表中的每个 Base URL 都有自己的密钥和速率限制。当某个提供商返回 429 错误时,您的代码必须切换到另一个 URL。FreeLLMAPI 则为您提供一个兼容 OpenAI 的 Base URL。它在您的计算机上运行,并将每个请求发送给仍有剩余配额的免费提供商。
安装并调用本地 Base URL
curl -fsSL https://freellmapi.co/install.sh | bash
export OPENAI_BASE_URL=http://localhost:3001/v1
export OPENAI_API_KEY=<unified-key>
curl $OPENAI_BASE_URL/chat/completions \
-H "Authorization: Bearer $OPENAI_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model": "auto", "messages": [{"role": "user", "content": "hi"}]}'- 在
http://localhost:3001的密钥页面添加您的提供商密钥。 - 使用
auto让路由器自行选择。使用auto:fast或auto:smart以优先考虑速度或智能程度。您也可以发送模型 ID。 X-Routed-Via响应标头会显示应答的提供商和模型。- 同一服务器还提供
/v1/messages,供 Anthropic 客户端使用,以及/v1beta,供 Gemini CLI 使用。
FreeLLMAPI 使用免费套餐,因此每个提供商的速率限制仍然适用。故障切换会将负载分散到多个提供商,但并不能取消这些限制。
故障排除
| 问题 | 原因 | 解决方法 |
|---|---|---|
| 404 Not Found | Base URL 路径错误,或包含 /chat/completions | 完全按照表中的 Base URL 填写 |
| 401 Unauthorized | 密钥属于其他提供商 | 使用与 Base URL 属于同一提供商的密钥 |
| 有效请求返回 400 | 该提供商不支持某个参数 | 删除 logprobs 或 n 等参数 |
| 找不到模型 | 模型 ID 来自其他提供商 | 在 Base URL 上调用 GET /v1/models |
| 429 Too Many Requests | 已达到免费限制 | 等待配额重置,或使用支持故障切换的网关 |
常见问题
Gemini 兼容 OpenAI 的 Base URL 是什么?
Google 文档中给出的 Base URL 为 https://generativelanguage.googleapis.com/v1beta/openai/。请使用您在 AI Studio 中获取的 Gemini API 密钥作为 API 密钥。
Groq 的 OpenAI Base URL 是什么?
Groq 文档中给出的地址为 https://api.groq.com/openai/v1。请使用 Groq API 密钥和 Groq 模型 ID。
是否存在无需密钥的免费兼容 OpenAI 的 API?
有,但限制较低。OVHcloud AI Endpoints 允许每个 IP 和每个模型每分钟 2 次匿名请求。Kilo Gateway 允许对免费模型每小时 200 次匿名请求。
我可以将 OpenAI Python SDK 用于免费提供商吗?
可以。将 base_url 设置为提供商的 URL,并将 api_key 设置为提供商的密钥。请使用该提供商的模型 ID。
如何通过一个 Base URL 使用多个免费提供商?
在您的计算机上运行 FreeLLMAPI 等网关。将客户端指向 http://localhost:3001/v1 并使用一个统一密钥,路由器会为每个请求选择提供商。
相关指南
- 无需信用卡的免费 LLM API
- 无需注册的 LLM API
- 免费 LLM API 速率限制
- Python 中的免费 LLM API
- free llm api
- openrouter free alternative
来源
- Google AI Studio: OpenAI compatibility (检查于 20 November 2026)
- GroqCloud: OpenAI compatibility (检查于 20 November 2026)
- OpenRouter: API rate limits (检查于 20 November 2026)
- NVIDIA API Catalog: API reference (检查于 20 November 2026)
- Cloudflare Workers AI: OpenAI compatible endpoints (检查于 20 November 2026)
- Cohere: Compatibility API (检查于 20 November 2026)
- Z.ai: OpenAI Python SDK (检查于 20 November 2026)
- OVHcloud: AI Endpoints Responses API (检查于 20 November 2026)
- Kilo Gateway: Authentication (检查于 20 November 2026)
- AI Horde README (检查于 20 November 2026)
- Mistral API reference (检查于 20 November 2026)
- Scaleway Generative APIs: Rate limits (检查于 20 November 2026)
- FreeLLMAPI docs: REST API (检查于 20 November 2026)