100만 토큰 컨텍스트를 갖춘 무료 LLM API
긴 컨텍스트 윈도우를 사용하면 모델이 한 번의 요청으로 책 한 권, 큰 코드베이스, 몇 시간 분량의 전사본을 읽을 수 있습니다. FreeLLMAPI 카탈로그에는 컨텍스트 윈도우가 100만 토큰 이상인 무료 모델 옵션이 56개 있습니다. 이 가이드는 이 모델들과, 실제로 보낼 수 있는 양을 결정하는 무료 요금제 한도를 보여 줍니다.
코드, 모델 이름, 실시간 카탈로그 레이블은 영어로 표시합니다.
오늘의 100만 토큰 이상 컨텍스트 무료 모델
표는 컨텍스트 윈도우가 최소 1,000,000 토큰인 무료 모델을 가장 큰 순서대로 나열합니다. 데이터는 실시간 카탈로그에서 가져옵니다. 컨텍스트 크기와 함께 "Free limits" 열도 보세요.
| 모델 | 무료 제공 | 컨텍스트 | 무료 한도 (가장 좋은 조건) | 도구 | 비전 |
|---|---|---|---|---|---|
| OpenAI: GPT-6 Luna | ElectronHub | 1.1M | $0.25/week shared free credits | 아니요 | 아니요 |
| Gemini 3.8 Flash | APINex, Google AI Studio | 1M | 5 요청/분 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | 예 | 예 |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 요청/분 20 요청/일 250,000 토큰/분 ~3M | 예 | 예 |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 요청/분 50 요청/일 Shared rate limit | 예 | 아니요 |
| DeepSeek V4 Flash 0731 | Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | 아니요 | 아니요 |
| Gemini 3.6 Flash | Google AI Studio | 1M | 10 요청/분 20 요청/일 250,000 토큰/분 ~3M | 예 | 예 |
| GLM 5.2 | Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | 아니요 | 아니요 |
| Gemini 3.5 Flash | Google AI Studio | 1M | 10 요청/분 20 요청/일 250,000 토큰/분 ~3M | 예 | 예 |
| DeepSeek V4 Pro | APINex, Router9 | 1M | 5 요청/분 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | 아니요 | 아니요 |
| Nemotron 3 Ultra 550B | Gizmo, Kilo Gateway, LLMTR +3개 더 | 1M | 200 요청/일 200 rpd | 예 | 아니요 |
| Gemini 3.5 Flash Lite | ElectronHub, Google AI Studio | 1M | 15 요청/분 20 요청/일 250,000 토큰/분 ~3M | 예 | 예 |
| Gemini 3 Flash Preview | Google AI Studio | 1M | 10 요청/분 20 요청/일 250,000 토큰/분 ~3M | 예 | 예 |
| Gemini 3.1 Flash-Lite | DreamPrompting, Google AI Studio | 1M | 100 요청/분 5,000 요청/일 500,000 토큰/일 500K tokens/day · 5,000 req/day | 예 | 예 |
| Gemini 2.5 Flash | DreamPrompting, ElectronHub, Google AI Studio | 1M | 100 요청/분 5,000 요청/일 500,000 토큰/일 500K tokens/day · 5,000 req/day | 예 | 예 |
| Nemotron 3.5 Lightning | ElectronHub, Gizmo, Kilo Gateway +2개 더 | 1M | 20 요청/분 50 요청/일 50 req/day account-wide (1,000 after a $10 purchase) | 예 | 아니요 |
일치하는 무료 모델 33개 중 15개를 표시합니다. 모든 모델 보기.
FreeLLMAPI 카탈로그의 실시간 데이터입니다 (버전 2026.11.19, 2026-11-19 확인). 무료 한도는 자주 바뀝니다. 카탈로그는 매일 확인합니다.
Google AI Studio의 Gemini Flash 모델은 잘 알려진 100만 토큰 무료 모델입니다. 이미지와 도구 호출도 받습니다. 다른 행은 무료 라우터와 NVIDIA에서 나옵니다.
실제 한도: 분당 토큰 수
컨텍스트 윈도우는 모델이 읽을 수 있는 가장 큰 프롬프트입니다. 무료 요금제에는 분당 토큰 수(TPM) 한도도 있습니다. 많은 무료 요금제에서 TPM 한도는 컨텍스트 윈도우보다 작습니다.
- 예: 표에 있는 무료 Gemini Flash 키는 분당 250,000 토큰을 허용합니다. 800,000 토큰의 프롬프트는 컨텍스트 윈도우 안에 있지만 TPM 한도를 넘습니다. 제공업체는 오류 429를 보냅니다.
- 하루 요청 수: 일부 무료 Gemini 모델은 하루에 약 20개 요청만 허용합니다. 긴 프롬프트가 필요한 작업에만 사용하세요.
- 출력은 별도입니다: 답변에는 자체 최대 길이가 있습니다. 100만 토큰 컨텍스트가 100만 토큰짜리 답변을 주지는 않습니다.
따라서 실제로는 무료 100만 컨텍스트 모델이 한 요청에서 수십만 토큰 정도를 읽을 수 있습니다. 보내기 전에 프롬프트를 측정하세요.
1단계: FreeLLMAPI 설치하고 키 추가하기
FreeLLMAPI는 오픈 소스입니다. Docker에서 사용자의 컴퓨터를 기반으로 실행됩니다. 제공업체 키는 사용자의 컴퓨터에 남아 있습니다.
설치 (macOS 또는 Linux)
curl -fsSL https://freellmapi.co/install.sh | bashhttp://localhost:3001에서 대시보드를 여세요. Keys 페이지에 Google AI Studio 키를 추가하세요. Google이 429 오류를 보낼 때 라우터가 다른 긴 컨텍스트 모델을 사용할 수 있도록 표에 있는 다른 제공업체의 키도 추가하세요. 같은 페이지에서 통합 키를 복사하세요.
2단계: 토큰을 센 다음 긴 문서 보내기
FreeLLMAPI는 네이티브 Gemini countTokens 메서드를 제공합니다. 프롬프트를 보내기 전에 이 메서드로 크기를 측정하세요.
curl: 네이티브 Gemini 엔드포인트로 토큰 세기
curl "http://localhost:3001/v1beta/models/gemini-2.5-flash:countTokens" \
-H "x-goog-api-key: <unified-key>" \
-H "Content-Type: application/json" \
-d '{"contents": [{"role": "user", "parts": [{"text": "Paste the long text here"}]}]}'Python: 긴 파일을 100만 컨텍스트 모델로 보내기
from openai import OpenAI
client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>", timeout=300)
doc = open("annual-report.txt", encoding="utf-8").read()
print("about", len(doc) // 4, "tokens") # rough rule for English text
resp = client.chat.completions.with_raw_response.create(
model="gemini-2.5-flash", # pin a 1M-context model; "auto" can pick a smaller one
messages=[
{"role": "system", "content": "Answer only from the document. Quote the section you use."},
{"role": "user", "content": doc + "\n\nQuestion: What are the three largest risks?"},
],
max_tokens=4000,
)
print("Routed via:", resp.headers.get("x-routed-via"))
print(resp.parse().choices[0].message.content)긴 컨텍스트 모델은 ID로 고정하세요. model: "auto"를 쓰면 라우터가 컨텍스트 윈도우가 더 작은 모델을 고를 수 있습니다. 큰 프롬프트는 읽는 데 시간이 걸리므로 클라이언트 시간 제한을 길게 설정하세요.
긴 컨텍스트인가, RAG인가?
| 긴 컨텍스트를 쓸 때 | RAG를 쓸 때 |
|---|---|
| 문서를 한 번 읽을 때. 예를 들어 계약서 한 건 또는 보고서 한 편 | 같은 대용량 데이터에 대해 많은 질문을 할 때 |
| 요약이나 섹션 비교처럼 답변에 전체 텍스트가 필요할 때 | 답변이 짧은 몇 단락에 있을 때 |
| 텍스트가 무료 키의 TPM 한도보다 작을 때 | 데이터가 어떤 무료 컨텍스트 윈도우나 TPM 한도보다 클 때 |
| 모델이 텍스트의 순서와 구조를 봐야 할 때 | 각 요청을 작고 빠르게 유지해야 할 때 |
RAG는 질문마다 데이터의 관련 부분만 보냅니다. 무료 요금제에서 토큰을 적게 씁니다. 설정하려면 RAG용 무료 LLM API와 무료 임베딩 API를 읽으세요.
주의점과 문제 해결
- 세부 정보 누락: 아주 긴 프롬프트의 중간에 있는 사실은 모델이 놓칠 수 있습니다. 질문은 문서 뒤에 두고, 모델에게 출처를 인용하라고 요청하세요.
- 사고 토큰: Gemini Flash 모델은 출력 예산에서 보이지 않는 사고 토큰을 쓸 수 있습니다.
max_tokens를 아주 작게 설정하지 마세요. - PDF 파일: FreeLLMAPI는 PDF, DOCX, XLSX 파일을 변환하지 않습니다. 바이너리 문서 첨부는 오류 400을 반환합니다. 먼저 텍스트를 추출한 다음 텍스트를 보내세요.
- 텍스트 정리: 문서를 보내기 전에 페이지 머리글, 바닥글, 반복되는 목차를 제거하세요. 이들은 토큰을 쓰고 사실은 더하지 않습니다.
- 반복되는 프롬프트: 요청마다 전체 문서를 다시 보냅니다. 가능하면 한 요청에 여러 질문을 하세요.
| 문제 | 원인 | 해결 방법 |
|---|---|---|
| 첫 긴 요청에서 오류 429 | 프롬프트가 TPM 한도보다 큽니다 | 프롬프트를 줄이거나 RAG를 사용하세요 |
| 컨텍스트 길이에 관한 오류 400 | 요청이 더 작은 윈도우를 가진 모델로 갔습니다 | 표에 있는 모델 ID를 고정하세요 |
| 빈 답변 또는 잘린 답변 | max_tokens가 너무 작거나 사고가 그것을 사용했습니다 | 더 큰 max_tokens를 설정하세요 |
| 시간 초과 | 모델이 프롬프트를 읽는 데 시간이 필요합니다 | 클라이언트 시간 제한을 300초 이상으로 설정하세요 |
자주 묻는 질문
100만 토큰 컨텍스트를 갖춘 무료 LLM API가 있나요?
네. Google AI Studio 무료 요금제의 Gemini Flash 모델은 약 100만 토큰의 컨텍스트 윈도우를 가집니다. FreeLLMAPI 카탈로그에는 100만 토큰 이상인 무료 모델 옵션이 56개 있습니다.
한 요청에 100만 토큰을 무료로 보낼 수 있나요?
보통은 아닙니다. 카탈로그의 무료 Gemini 요금제는 분당 250,000 토큰을 허용하므로, 더 큰 프롬프트는 오류 429를 받습니다. 요청마다 수십만 토큰 정도를 계획하세요.
프롬프트를 보내기 전에 토큰을 어떻게 세나요?
FreeLLMAPI를 통해 /v1beta/models/{model}:countTokens에서 네이티브 Gemini countTokens 메서드를 호출하세요. 영어 텍스트는 약 4글자가 토큰 하나입니다.
컨텍스트 윈도우가 가장 큰 무료 LLM은 무엇인가요?
이 페이지의 표는 무료 모델을 컨텍스트 크기 순으로, 가장 큰 것부터 정렬합니다. 여러 무료 모델이 약 100만 토큰에 도달합니다. 또한 무료 한도 열도 보세요. 요청 하나의 실제 크기는 TPM 한도가 결정하기 때문입니다.
긴 컨텍스트가 RAG보다 나은가요?
긴 컨텍스트는 한 번 읽는 문서 하나에 더 좋습니다. RAG는 대용량 데이터에 대한 많은 질문에 더 좋습니다. 매번 보내는 토큰이 적기 때문입니다.
관련 가이드
출처
- FreeLLMAPI docs: Native Gemini API (20 November 2026 확인)
- FreeLLMAPI docs: Chat completions and routing (20 November 2026 확인)
- Google AI Studio docs: Thinking (20 November 2026 확인)
- Gemini Developer API pricing (20 November 2026 확인)