首页 / 指南 / 免费推理模型 API

免费推理模型 API

推理模型会先思考,再作答。它会写出隐藏或可见的步骤,然后给出最终答案。这对数学、逻辑、规划和复杂代码很有帮助。多家提供商免费提供推理模型。本指南列出这些模型,说明思考 token 的成本,并提供可运行的代码。

代码、模型名称和目录中的实时标签以英文显示。

当前免费推理模型

该表格列出名称中带有推理能力的免费模型,例如 GPT-OSS、R1、QwQ、Thinking、Reasoning 和 Magistral。数据来自实时目录。许多其他模型(例如 Gemini Flash)也会进行思考,但其名称中不体现这一点。

免费推理模型,按能力从强到弱排列
模型免费提供方上下文免费额度(最优惠)工具视觉
Gemini 3.8 Live Extended ThinkingGoogle AI Studio-10 请求/分钟
20 请求/天
250,000 令牌/分钟
~3M
是是
GPT-OSS 20BApi.Airforce, Cloudflare Workers AI, Groq 另外 5 个131K30 请求/分钟
1,000 请求/天
8,000 令牌/分钟
200,000 令牌/天
~6M
是否
GPT-OSS 120BCloudflare Workers AI, ElectronHub, Groq 另外 2 个131K30 请求/分钟
1,000 请求/天
8,000 令牌/分钟
200,000 令牌/天
~6M
是否
GPT-OSS Safeguard 20BGroq, LLMTR131K30 请求/分钟
1,000 请求/天
8,000 令牌/分钟
200,000 令牌/天
~6M
是否
OpenAI: GPT OSS 20BElectronHub128K$0.25/week shared free credits否否
DeepSeek V4 Flash ThinkingElectronHub-$0.25/week shared recurring credit否否
Qwen3 235B A22B Thinking 2507ModelScope262K200 请求/天
Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experience
否否
GPT-OSS 120B (via Groq)DreamPrompting131K100 请求/分钟
5,000 请求/天
500,000 令牌/天
500K tokens/day · 5,000 req/day
否否
Qwen3 Next 80B A3B ThinkingModelScope262K200 请求/天
Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experience
否否
QwQ 32BCloudflare Workers AI131K~10-20M是否
Nemotron 3 Nano Omni ReasoningBlockRun, Kilo Gateway, Requesty262K200 请求/天
200 rpd
否是
Nemotron 3 Nano Omni 30B A3B ReasoningNVIDIA NIM, Waterfall262K40 请求/分钟
40 RPM
否是
Command A ReasoningCohere256K20 请求/分钟
33 请求/天
~1-2M
是否
Nemotron 3 Nano 30B ReasoningOpenRouter262K20 请求/分钟
50 请求/天
50 req/day account-wide (1,000 after a $10 purchase)
否否
Nemotron 3 Nano OmniElectronHub256K$0.25/week shared recurring credit是是
GPT-OSS 20B (via Groq)DreamPrompting131K100 请求/分钟
5,000 请求/天
500,000 令牌/天
500K tokens/day · 5,000 req/day
否否
DeepSeek R1 Distill Qwen 32BCloudflare Workers AI131K~3-5M是否
R1 Distill Qwen 32BElectronHub131K$0.25/week shared recurring credit是否

数据来自 FreeLLMAPI 目录(版本 2026.11.19,检查于 2026-11-19)。免费额度经常变化。该目录每天检查一次。

GPT-OSS 120B 由多家提供商免费提供,因此故障转移有很多选择。QwQ 32B 和 DeepSeek R1 Distill Qwen 32B 在 Cloudflare Workers AI 上运行。Qwen3 Thinking 模型在 ModelScope 上的上下文为 262K token。

思考 token 占用你的输出预算

这是推理模型最常见的问题。模型会先写出它的思考过程。这些思考 token 与答案一样计入输出限制。

  • Google 说明: Gemini 的输出限制包括思考 token。如果模型在思考时达到限制,输出可能会被截断或为空。思考 token 仍会被计数。
  • Groq 说明: 默认的 1,024 个补全 token 对于复杂推理来说可能太少。
  • 免费限制: 思考 token 也计入每分钟 token 数和每日 token 数的限制。对于同一个问题,推理式回答所用的 token 可能比直接回答多得多。
规则: 请勿在推理模型上设置较小的 max_tokens。从 4,000 或更高开始。如果 finish_reason 为 length 且内容为空,说明模型把全部预算都用于思考了。

第 1 步:安装 FreeLLMAPI 并添加密钥

FreeLLMAPI 是开源软件。它在你的电脑上通过 Docker 运行。你的提供商密钥保存在你的电脑上。

安装(macOS 或 Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

在 http://localhost:3001 打开仪表板。在 Keys 页面添加 Groq、Cloudflare 和 Google AI Studio 的密钥。每个提供商都提供免费推理模型。从同一页面复制你的统一密钥。

第 2 步:调用推理模型

curl

curl http://localhost:3001/v1/chat/completions \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "openai/gpt-oss-120b",
    "max_tokens": 4000,
    "messages": [{"role": "user", "content": "A bat and a ball cost 1.10 in total. The bat costs 1.00 more than the ball. What does the ball cost?"}]
  }'

Python:检查答案是否被截断,并移除思考文本

import re
from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")

resp = client.chat.completions.create(
    model="openai/gpt-oss-120b",  # or "auto:smart" to rank by intelligence
    max_tokens=4000,
    messages=[{"role": "user", "content": "Plan a 3-step database migration with no downtime."}],
)
choice = resp.choices[0]
text = choice.message.content or ""
text = re.sub(r"<think>.*?</think>", "", text, flags=re.S).strip()  # some models return visible thinking

if choice.finish_reason == "length" and not text:
    print("The model used the full budget to think. Raise max_tokens.")
else:
    print(text)
print("tokens used:", resp.usage.completion_tokens if resp.usage else "unknown")

一些提供商会在内容中的 <think> 标签内返回思考内容。另一些则会隐藏它,或将其放在单独的字段中返回。在向用户显示答案之前,请先移除这些标签。

控制思考的长度

各提供商对思考长度有各自的设置。Groq 在 GPT-OSS 模型上接受 reasoning_effort,其值可为 low、medium 或 high。Gemini 3 模型使用 thinking_level 设置。FreeLLMAPI 文档没有说明这些字段如何通过网关传递,因此请先在你的安装环境中进行测试。

FreeLLMAPI 的原生 Gemini 端点 /v1beta/models/{model}:generateContent 会转换思考预算。如果你需要控制 Gemini 的思考,请使用该端点。

任务是否使用推理模型?原因
数学、逻辑谜题、规划是逐步思考可减少错误
疑难错误和算法设计是模型会检查自己的步骤
聊天、简短回答、翻译否思考会增加时间和 token,收益很小
需要多次工具调用的智能体有时每一轮都会再次产生思考成本

推理任务的提示词与路由

  • 说明目标和规则: 在提示词中提供所有事实、限制和预期结果。推理模型在思考过程中无法向你询问缺失的事实。
  • 设定答案格式: 要求以固定形式给出最终答案,例如一个数字或一个 JSON 对象。这样你的代码就可以在不读取思考文本的情况下解析答案。
  • 提供测试用例: 对于代码,添加示例输入和输出。模型可以据此检查其答案。
  • 按任务路由: 对于困难任务,使用 model: "auto:smart",按智能能力对模型排序。对于简单任务,使用 auto:fast,以避免支付思考成本。
  • 每个请求只提一个难题: 同一请求中的多个难题共享一个输出预算。请将它们拆分为单独的请求。

auto:* 策略会对所有已启用的模型排序,并忽略你的链顺序。要让推理请求只使用推理模型,请固定一个模型 ID。你也可以创建一个仅包含推理模型的命名备用链。然后使用 auto:<profile-name> 调用它。

故障排除

问题原因解决方法
内容为空,finish_reason: "length"思考用完了全部输出预算将 max_tokens 提高到 4,000 或更高
回答中出现 <think> 文本提供商返回了可见的思考内容在你的代码中移除这些标签
简单问题得到冗长的解释一些推理模型会解释其思考过程要求"只给出最终答案",或使用非推理模型
几次请求后出现错误 429思考 token 占用了每分钟 token 数限制添加更多提供商密钥,或仅对困难任务使用推理
回答速度慢模型写出了大量思考 token对简单任务使用 auto:fast
通过一个密钥使用以上每一个模型。 FreeLLMAPI 是一个开源的自托管路由器。它将所有这些免费套餐放在一个兼容 OpenAI 的端点之后,并在某个套餐被限速时自动切换。 浏览目录 或 立即开始.

常见问题

是否有免费的推理模型 API?

有。Groq、Cloudflare、NVIDIA、OVH、OpenRouter 和其他提供商免费提供推理模型,例如 GPT-OSS 120B、QwQ 32B 和 DeepSeek R1 Distill。FreeLLMAPI 将它们置于一个兼容 OpenAI 的密钥之后。

思考 token 是否计入输出 token?

是。Google 表示,Gemini 的输出限制包括思考 token,并且思考 token 会被计数。在免费层级上,它们还会占用你的每分钟 token 数限制。

为什么我的推理模型返回空答案?

模型用完了全部 max_tokens 预算来思考,因此没有剩余 token 用于答案。请将 max_tokens 提高到 4,000 或更高。

能否通过 API 免费使用 DeepSeek R1?

DeepSeek R1 Distill Qwen 32B 在 Cloudflare Workers AI 的免费目录中。本页的表格列出了目前提供该模型的提供商。

哪个免费推理模型最好?

GPT-OSS 120B 是一个不错的默认选择,因为有多家提供商免费提供它。请使用本页的表格,该表格按实时目录中的智能能力排名对模型排序。

相关指南

来源

全部指南 · 浏览所有免费模型