무료 추론 모델 API
추론 모델은 답하기 전에 생각합니다. 숨겨지거나 보이는 단계를 쓴 다음 최종 답변을 줍니다. 이는 수학, 논리, 계획, 어려운 코드에 도움이 됩니다. 여러 제공업체가 추론 모델을 무료로 제공합니다. 이 가이드는 이들을 소개하고, 사고 토큰의 비용을 설명하며, 동작하는 코드를 제공합니다.
코드, 모델 이름, 실시간 카탈로그 레이블은 영어로 표시합니다.
오늘의 무료 추론 모델
표에는 이름에 GPT-OSS, R1, QwQ, Thinking, Reasoning, Magistral 같은 추론 표시가 있는 무료 모델이 나열됩니다. 데이터는 실시간 카탈로그에서 가져옵니다. Gemini Flash처럼 이름에 표시되지 않지만 생각하는 모델도 많습니다.
| 모델 | 무료 제공 | 컨텍스트 | 무료 한도 (가장 좋은 조건) | 도구 | 비전 |
|---|---|---|---|---|---|
| Gemini 3.8 Live Extended Thinking | Google AI Studio | - | 10 요청/분 20 요청/일 250,000 토큰/분 ~3M | 예 | 예 |
| GPT-OSS 20B | Api.Airforce, Cloudflare Workers AI, Groq +5개 더 | 131K | 30 요청/분 1,000 요청/일 8,000 토큰/분 200,000 토큰/일 ~6M | 예 | 아니요 |
| GPT-OSS 120B | Cloudflare Workers AI, ElectronHub, Groq +2개 더 | 131K | 30 요청/분 1,000 요청/일 8,000 토큰/분 200,000 토큰/일 ~6M | 예 | 아니요 |
| GPT-OSS Safeguard 20B | Groq, LLMTR | 131K | 30 요청/분 1,000 요청/일 8,000 토큰/분 200,000 토큰/일 ~6M | 예 | 아니요 |
| OpenAI: GPT OSS 20B | ElectronHub | 128K | $0.25/week shared free credits | 아니요 | 아니요 |
| DeepSeek V4 Flash Thinking | ElectronHub | - | $0.25/week shared recurring credit | 아니요 | 아니요 |
| Qwen3 235B A22B Thinking 2507 | ModelScope | 262K | 200 요청/일 Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experience | 아니요 | 아니요 |
| GPT-OSS 120B (via Groq) | DreamPrompting | 131K | 100 요청/분 5,000 요청/일 500,000 토큰/일 500K tokens/day · 5,000 req/day | 아니요 | 아니요 |
| Qwen3 Next 80B A3B Thinking | ModelScope | 262K | 200 요청/일 Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experience | 아니요 | 아니요 |
| QwQ 32B | Cloudflare Workers AI | 131K | ~10-20M | 예 | 아니요 |
| Nemotron 3 Nano Omni Reasoning | BlockRun, Kilo Gateway, Requesty | 262K | 200 요청/일 200 rpd | 아니요 | 예 |
| Nemotron 3 Nano Omni 30B A3B Reasoning | NVIDIA NIM, Waterfall | 262K | 40 요청/분 40 RPM | 아니요 | 예 |
| Command A Reasoning | Cohere | 256K | 20 요청/분 33 요청/일 ~1-2M | 예 | 아니요 |
| Nemotron 3 Nano 30B Reasoning | OpenRouter | 262K | 20 요청/분 50 요청/일 50 req/day account-wide (1,000 after a $10 purchase) | 아니요 | 아니요 |
| Nemotron 3 Nano Omni | ElectronHub | 256K | $0.25/week shared recurring credit | 예 | 예 |
| GPT-OSS 20B (via Groq) | DreamPrompting | 131K | 100 요청/분 5,000 요청/일 500,000 토큰/일 500K tokens/day · 5,000 req/day | 아니요 | 아니요 |
| DeepSeek R1 Distill Qwen 32B | Cloudflare Workers AI | 131K | ~3-5M | 예 | 아니요 |
| R1 Distill Qwen 32B | ElectronHub | 131K | $0.25/week shared recurring credit | 예 | 아니요 |
FreeLLMAPI 카탈로그의 실시간 데이터입니다 (버전 2026.11.19, 2026-11-19 확인). 무료 한도는 자주 바뀝니다. 카탈로그는 매일 확인합니다.
GPT-OSS 120B는 여러 제공업체가 무료로 제공하므로 실패 전환 선택지가 많습니다. QwQ 32B와 DeepSeek R1 Distill Qwen 32B는 Cloudflare Workers AI에서 실행됩니다. Qwen3 Thinking 모델은 ModelScope에서 262K 토큰 컨텍스트를 제공합니다.
사고 토큰은 출력 예산을 사용합니다
이는 추론 모델에서 가장 흔한 문제입니다. 모델은 먼저 생각을 씁니다. 이 사고 토큰은 답변과 마찬가지로 출력 한도에 포함됩니다.
- Google의 설명: Gemini의 출력 한도에는 사고 토큰이 포함됩니다. 모델이 생각하는 동안 한도에 도달하면 출력이 잘리거나 비어 있을 수 있습니다. 사고 토큰도 계속 계산됩니다.
- Groq의 설명: 기본값인 완성 토큰 1,024개는 복잡한 추론에는 너무 적을 수 있습니다.
- 무료 한도: 사고 토큰은 분당 토큰 한도와 일일 토큰 한도에도 계산됩니다. 같은 질문에 대한 추론 답변은 바로 답하는 답변보다 훨씬 많은 토큰을 쓸 수 있습니다.
max_tokens를 설정하지 마세요. 4,000 이상부터 시작하세요. finish_reason이 length이고 content가 비어 있다면, 모델이 생각하는 데 전체 예산을 썼다는 뜻입니다.1단계: FreeLLMAPI 설치하고 키 추가하기
FreeLLMAPI는 오픈 소스입니다. Docker에서 사용자의 컴퓨터를 기반으로 실행됩니다. 제공업체 키는 사용자의 컴퓨터에 남아 있습니다.
설치 (macOS 또는 Linux)
curl -fsSL https://freellmapi.co/install.sh | bashhttp://localhost:3001에서 대시보드를 여세요. Keys 페이지에 Groq, Cloudflare, Google AI Studio 키를 추가하세요. 각 제공업체는 무료 추론 모델을 제공합니다. 같은 페이지에서 통합 키를 복사하세요.
2단계: 추론 모델 호출하기
curl
curl http://localhost:3001/v1/chat/completions \
-H "Authorization: Bearer <unified-key>" \
-H "Content-Type: application/json" \
-d '{
"model": "openai/gpt-oss-120b",
"max_tokens": 4000,
"messages": [{"role": "user", "content": "A bat and a ball cost 1.10 in total. The bat costs 1.00 more than the ball. What does the ball cost?"}]
}'Python: 잘린 답변 확인과 사고 텍스트 제거
import re
from openai import OpenAI
client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")
resp = client.chat.completions.create(
model="openai/gpt-oss-120b", # or "auto:smart" to rank by intelligence
max_tokens=4000,
messages=[{"role": "user", "content": "Plan a 3-step database migration with no downtime."}],
)
choice = resp.choices[0]
text = choice.message.content or ""
text = re.sub(r"<think>.*?</think>", "", text, flags=re.S).strip() # some models return visible thinking
if choice.finish_reason == "length" and not text:
print("The model used the full budget to think. Raise max_tokens.")
else:
print(text)
print("tokens used:", resp.usage.completion_tokens if resp.usage else "unknown")일부 제공업체는 content 안의 <think> 태그에 사고 과정을 담아 반환합니다. 다른 제공업체는 이를 숨기거나 별도 필드로 반환합니다. 답변을 사용자에게 보여 주기 전에 태그를 제거하세요.
사고량 조절하기
제공업체마다 사고 길이에 대한 자체 설정이 있습니다. Groq는 GPT-OSS 모델에서 reasoning_effort에 low, medium, high를 받습니다. Gemini 3 모델은 thinking_level 설정을 사용합니다. FreeLLMAPI 문서는 이 필드가 게이트웨이를 어떻게 통과하는지 설명하지 않으므로, 먼저 설치 환경에서 테스트하세요.
FreeLLMAPI의 기본 Gemini 엔드포인트인 /v1beta/models/{model}:generateContent는 사고 예산을 변환합니다. Gemini 사고를 직접 제어해야 한다면 이 엔드포인트를 사용하세요.
| 작업 | 추론 모델을 사용합니까? | 이유 |
|---|---|---|
| 수학, 논리 퍼즐, 계획 | 예 | 단계별 사고는 오류를 줄입니다 |
| 어려운 버그와 알고리즘 설계 | 예 | 모델이 자신의 단계를 검토합니다 |
| 채팅, 짧은 답변, 번역 | 아니요 | 사고는 시간과 토큰을 늘리지만 얻는 것은 적습니다 |
| 도구 호출이 많은 에이전트 | 경우에 따라 | 매 라운드마다 사고 비용이 다시 발생합니다 |
추론 작업을 위한 프롬프트와 라우팅
- 목표와 규칙을 명시하세요: 모든 사실, 제한, 기대 결과를 프롬프트에 주세요. 추론 모델은 사고 중에 누락된 사실을 물어볼 수 없습니다.
- 답변 형식을 정하세요: 최종 답변을 고정된 형식으로 요청하세요. 예를 들면 숫자 하나나 JSON 객체입니다. 그러면 코드가 사고 텍스트 없이 답변을 읽을 수 있습니다.
- 테스트 사례를 주세요: 코드라면 예시 입력과 출력을 추가하세요. 모델은 이를 기준으로 자신의 답변을 확인할 수 있습니다.
- 작업별로 라우팅하세요: 어려운 작업에는
model: "auto:smart"를 사용해 지능 기준으로 모델 순위를 매기세요. 쉬운 작업에는auto:fast를 사용해 사고 비용을 내지 않도록 하세요. - 요청마다 어려운 질문 하나만: 한 요청에 어려운 질문이 여러 개 있으면 하나의 출력 예산을 나눠 씁니다. 별도의 요청으로 나누세요.
auto:* 전략은 활성화된 모든 모델의 순위를 매기며 사용자의 체인 순서는 무시합니다. 추론 요청을 추론 모델에만 두려면 모델 ID를 고정하세요. 추론 모델만 담은 이름 있는 실패 전환 체인을 만들 수도 있습니다. 그다음 auto:<profile-name>으로 호출하세요.
문제 해결
| 문제 | 원인 | 해결 방법 |
|---|---|---|
content가 비어 있고, finish_reason: "length" | 사고가 출력 예산 전체를 사용했습니다 | max_tokens를 4,000 이상으로 올리세요 |
답변에 <think> 텍스트가 있습니다 | 제공업체가 보이는 사고 과정을 반환합니다 | 코드에서 태그를 제거하세요 |
| 짧은 질문에 긴 설명이 붙습니다 | 일부 추론 모델은 사고 과정을 설명합니다 | "최종 답변만"을 요청하거나 비추론 모델을 사용하세요 |
| 몇 번의 요청 후 오류 429 | 사고 토큰이 분당 토큰 한도를 사용했습니다 | 제공업체 키를 더 추가하거나, 추론은 어려운 작업에만 사용하세요 |
| 느린 답변 | 모델이 많은 사고 토큰을 씁니다 | 간단한 작업에는 auto:fast를 사용하세요 |
자주 묻는 질문
무료 추론 모델 API가 있나요?
네. Groq, Cloudflare, NVIDIA, OVH, OpenRouter 및 다른 제공업체가 GPT-OSS 120B, QwQ 32B, DeepSeek R1 Distill 같은 추론 모델을 무료로 제공합니다. FreeLLMAPI는 이들을 하나의 OpenAI 호환 키 뒤에 묶습니다.
사고 토큰은 출력 토큰으로 계산되나요?
네. Google은 Gemini 출력 한도에 사고 토큰이 포함되며 사고 토큰도 계산된다고 밝힙니다. 무료 요금제에서는 분당 토큰 한도도 사용합니다.
추론 모델이 빈 답변을 반환하는 이유는 무엇인가요?
모델이 생각하는 데 max_tokens 예산 전체를 사용해서, 답변에 쓸 토큰이 남지 않았습니다. max_tokens를 4,000 이상으로 올리세요.
DeepSeek R1은 API로 무료로 쓸 수 있나요?
DeepSeek R1 Distill Qwen 32B는 Cloudflare Workers AI의 무료 카탈로그에 있습니다. 이 페이지의 표는 현재 이를 제공하는 제공업체를 보여 줍니다.
가장 좋은 무료 추론 모델은 무엇인가요?
GPT-OSS 120B는 여러 제공업체가 무료로 제공하므로 좋은 기본값입니다. 이 페이지의 표를 사용하세요. 이 표는 실시간 카탈로그의 지능 순위로 모델을 정렬합니다.
관련 가이드
출처
- FreeLLMAPI docs: Routing strategies and native Gemini API (20 November 2026 확인)
- Google AI Studio docs: Thinking (20 November 2026 확인)
- Gemini Developer API pricing (20 November 2026 확인)
- Groq docs: Reasoning (20 November 2026 확인)