免费推理模型 API
推理模型会先思考,再作答。它会写出隐藏或可见的步骤,然后给出最终答案。这对数学、逻辑、规划和复杂代码很有帮助。多家提供商免费提供推理模型。本指南列出这些模型,说明思考 token 的成本,并提供可运行的代码。
代码、模型名称和目录中的实时标签以英文显示。
当前免费推理模型
该表格列出名称中带有推理能力的免费模型,例如 GPT-OSS、R1、QwQ、Thinking、Reasoning 和 Magistral。数据来自实时目录。许多其他模型(例如 Gemini Flash)也会进行思考,但其名称中不体现这一点。
| 模型 | 免费提供方 | 上下文 | 免费额度(最优惠) | 工具 | 视觉 |
|---|---|---|---|---|---|
| Gemini 3.8 Live Extended Thinking | Google AI Studio | - | 10 请求/分钟 20 请求/天 250,000 令牌/分钟 ~3M | 是 | 是 |
| GPT-OSS 20B | Api.Airforce, Cloudflare Workers AI, Groq 另外 5 个 | 131K | 30 请求/分钟 1,000 请求/天 8,000 令牌/分钟 200,000 令牌/天 ~6M | 是 | 否 |
| GPT-OSS 120B | Cloudflare Workers AI, ElectronHub, Groq 另外 2 个 | 131K | 30 请求/分钟 1,000 请求/天 8,000 令牌/分钟 200,000 令牌/天 ~6M | 是 | 否 |
| GPT-OSS Safeguard 20B | Groq, LLMTR | 131K | 30 请求/分钟 1,000 请求/天 8,000 令牌/分钟 200,000 令牌/天 ~6M | 是 | 否 |
| OpenAI: GPT OSS 20B | ElectronHub | 128K | $0.25/week shared free credits | 否 | 否 |
| DeepSeek V4 Flash Thinking | ElectronHub | - | $0.25/week shared recurring credit | 否 | 否 |
| Qwen3 235B A22B Thinking 2507 | ModelScope | 262K | 200 请求/天 Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experience | 否 | 否 |
| GPT-OSS 120B (via Groq) | DreamPrompting | 131K | 100 请求/分钟 5,000 请求/天 500,000 令牌/天 500K tokens/day · 5,000 req/day | 否 | 否 |
| Qwen3 Next 80B A3B Thinking | ModelScope | 262K | 200 请求/天 Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experience | 否 | 否 |
| QwQ 32B | Cloudflare Workers AI | 131K | ~10-20M | 是 | 否 |
| Nemotron 3 Nano Omni Reasoning | BlockRun, Kilo Gateway, Requesty | 262K | 200 请求/天 200 rpd | 否 | 是 |
| Nemotron 3 Nano Omni 30B A3B Reasoning | NVIDIA NIM, Waterfall | 262K | 40 请求/分钟 40 RPM | 否 | 是 |
| Command A Reasoning | Cohere | 256K | 20 请求/分钟 33 请求/天 ~1-2M | 是 | 否 |
| Nemotron 3 Nano 30B Reasoning | OpenRouter | 262K | 20 请求/分钟 50 请求/天 50 req/day account-wide (1,000 after a $10 purchase) | 否 | 否 |
| Nemotron 3 Nano Omni | ElectronHub | 256K | $0.25/week shared recurring credit | 是 | 是 |
| GPT-OSS 20B (via Groq) | DreamPrompting | 131K | 100 请求/分钟 5,000 请求/天 500,000 令牌/天 500K tokens/day · 5,000 req/day | 否 | 否 |
| DeepSeek R1 Distill Qwen 32B | Cloudflare Workers AI | 131K | ~3-5M | 是 | 否 |
| R1 Distill Qwen 32B | ElectronHub | 131K | $0.25/week shared recurring credit | 是 | 否 |
数据来自 FreeLLMAPI 目录(版本 2026.11.19,检查于 2026-11-19)。免费额度经常变化。该目录每天检查一次。
GPT-OSS 120B 由多家提供商免费提供,因此故障转移有很多选择。QwQ 32B 和 DeepSeek R1 Distill Qwen 32B 在 Cloudflare Workers AI 上运行。Qwen3 Thinking 模型在 ModelScope 上的上下文为 262K token。
思考 token 占用你的输出预算
这是推理模型最常见的问题。模型会先写出它的思考过程。这些思考 token 与答案一样计入输出限制。
- Google 说明: Gemini 的输出限制包括思考 token。如果模型在思考时达到限制,输出可能会被截断或为空。思考 token 仍会被计数。
- Groq 说明: 默认的 1,024 个补全 token 对于复杂推理来说可能太少。
- 免费限制: 思考 token 也计入每分钟 token 数和每日 token 数的限制。对于同一个问题,推理式回答所用的 token 可能比直接回答多得多。
max_tokens。从 4,000 或更高开始。如果 finish_reason 为 length 且内容为空,说明模型把全部预算都用于思考了。第 1 步:安装 FreeLLMAPI 并添加密钥
FreeLLMAPI 是开源软件。它在你的电脑上通过 Docker 运行。你的提供商密钥保存在你的电脑上。
安装(macOS 或 Linux)
curl -fsSL https://freellmapi.co/install.sh | bash在 http://localhost:3001 打开仪表板。在 Keys 页面添加 Groq、Cloudflare 和 Google AI Studio 的密钥。每个提供商都提供免费推理模型。从同一页面复制你的统一密钥。
第 2 步:调用推理模型
curl
curl http://localhost:3001/v1/chat/completions \
-H "Authorization: Bearer <unified-key>" \
-H "Content-Type: application/json" \
-d '{
"model": "openai/gpt-oss-120b",
"max_tokens": 4000,
"messages": [{"role": "user", "content": "A bat and a ball cost 1.10 in total. The bat costs 1.00 more than the ball. What does the ball cost?"}]
}'Python:检查答案是否被截断,并移除思考文本
import re
from openai import OpenAI
client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")
resp = client.chat.completions.create(
model="openai/gpt-oss-120b", # or "auto:smart" to rank by intelligence
max_tokens=4000,
messages=[{"role": "user", "content": "Plan a 3-step database migration with no downtime."}],
)
choice = resp.choices[0]
text = choice.message.content or ""
text = re.sub(r"<think>.*?</think>", "", text, flags=re.S).strip() # some models return visible thinking
if choice.finish_reason == "length" and not text:
print("The model used the full budget to think. Raise max_tokens.")
else:
print(text)
print("tokens used:", resp.usage.completion_tokens if resp.usage else "unknown")一些提供商会在内容中的 <think> 标签内返回思考内容。另一些则会隐藏它,或将其放在单独的字段中返回。在向用户显示答案之前,请先移除这些标签。
控制思考的长度
各提供商对思考长度有各自的设置。Groq 在 GPT-OSS 模型上接受 reasoning_effort,其值可为 low、medium 或 high。Gemini 3 模型使用 thinking_level 设置。FreeLLMAPI 文档没有说明这些字段如何通过网关传递,因此请先在你的安装环境中进行测试。
FreeLLMAPI 的原生 Gemini 端点 /v1beta/models/{model}:generateContent 会转换思考预算。如果你需要控制 Gemini 的思考,请使用该端点。
| 任务 | 是否使用推理模型? | 原因 |
|---|---|---|
| 数学、逻辑谜题、规划 | 是 | 逐步思考可减少错误 |
| 疑难错误和算法设计 | 是 | 模型会检查自己的步骤 |
| 聊天、简短回答、翻译 | 否 | 思考会增加时间和 token,收益很小 |
| 需要多次工具调用的智能体 | 有时 | 每一轮都会再次产生思考成本 |
推理任务的提示词与路由
- 说明目标和规则: 在提示词中提供所有事实、限制和预期结果。推理模型在思考过程中无法向你询问缺失的事实。
- 设定答案格式: 要求以固定形式给出最终答案,例如一个数字或一个 JSON 对象。这样你的代码就可以在不读取思考文本的情况下解析答案。
- 提供测试用例: 对于代码,添加示例输入和输出。模型可以据此检查其答案。
- 按任务路由: 对于困难任务,使用
model: "auto:smart",按智能能力对模型排序。对于简单任务,使用auto:fast,以避免支付思考成本。 - 每个请求只提一个难题: 同一请求中的多个难题共享一个输出预算。请将它们拆分为单独的请求。
auto:* 策略会对所有已启用的模型排序,并忽略你的链顺序。要让推理请求只使用推理模型,请固定一个模型 ID。你也可以创建一个仅包含推理模型的命名备用链。然后使用 auto:<profile-name> 调用它。
故障排除
| 问题 | 原因 | 解决方法 |
|---|---|---|
内容为空,finish_reason: "length" | 思考用完了全部输出预算 | 将 max_tokens 提高到 4,000 或更高 |
回答中出现 <think> 文本 | 提供商返回了可见的思考内容 | 在你的代码中移除这些标签 |
| 简单问题得到冗长的解释 | 一些推理模型会解释其思考过程 | 要求"只给出最终答案",或使用非推理模型 |
| 几次请求后出现错误 429 | 思考 token 占用了每分钟 token 数限制 | 添加更多提供商密钥,或仅对困难任务使用推理 |
| 回答速度慢 | 模型写出了大量思考 token | 对简单任务使用 auto:fast |
常见问题
是否有免费的推理模型 API?
有。Groq、Cloudflare、NVIDIA、OVH、OpenRouter 和其他提供商免费提供推理模型,例如 GPT-OSS 120B、QwQ 32B 和 DeepSeek R1 Distill。FreeLLMAPI 将它们置于一个兼容 OpenAI 的密钥之后。
思考 token 是否计入输出 token?
是。Google 表示,Gemini 的输出限制包括思考 token,并且思考 token 会被计数。在免费层级上,它们还会占用你的每分钟 token 数限制。
为什么我的推理模型返回空答案?
模型用完了全部 max_tokens 预算来思考,因此没有剩余 token 用于答案。请将 max_tokens 提高到 4,000 或更高。
能否通过 API 免费使用 DeepSeek R1?
DeepSeek R1 Distill Qwen 32B 在 Cloudflare Workers AI 的免费目录中。本页的表格列出了目前提供该模型的提供商。
哪个免费推理模型最好?
GPT-OSS 120B 是一个不错的默认选择,因为有多家提供商免费提供它。请使用本页的表格,该表格按实时目录中的智能能力排名对模型排序。
相关指南
来源
- FreeLLMAPI docs: Routing strategies and native Gemini API (检查于 20 November 2026)
- Google AI Studio docs: Thinking (检查于 20 November 2026)
- Gemini Developer API pricing (检查于 20 November 2026)
- Groq docs: Reasoning (检查于 20 November 2026)