홈 / 가이드 / 100만 토큰 컨텍스트를 갖춘 무료 LLM API

100만 토큰 컨텍스트를 갖춘 무료 LLM API

긴 컨텍스트 윈도우를 사용하면 모델이 한 번의 요청으로 책 한 권, 큰 코드베이스, 몇 시간 분량의 전사본을 읽을 수 있습니다. FreeLLMAPI 카탈로그에는 컨텍스트 윈도우가 100만 토큰 이상인 무료 모델 옵션이 56개 있습니다. 이 가이드는 이 모델들과, 실제로 보낼 수 있는 양을 결정하는 무료 요금제 한도를 보여 줍니다.

코드, 모델 이름, 실시간 카탈로그 레이블은 영어로 표시합니다.

오늘의 100만 토큰 이상 컨텍스트 무료 모델

표는 컨텍스트 윈도우가 최소 1,000,000 토큰인 무료 모델을 가장 큰 순서대로 나열합니다. 데이터는 실시간 카탈로그에서 가져옵니다. 컨텍스트 크기와 함께 "Free limits" 열도 보세요.

100만 토큰 이상 컨텍스트를 가진 무료 모델, 가장 큰 순서
모델무료 제공컨텍스트무료 한도 (가장 좋은 조건)도구비전
OpenAI: GPT-6 LunaElectronHub1.1M$0.25/week shared free credits아니요아니요
Gemini 3.8 FlashAPINex, Google AI Studio1M5 요청/분
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
예예
Gemini 3.7 FlashGoogle AI Studio1M10 요청/분
20 요청/일
250,000 토큰/분
~3M
예예
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 요청/분
50 요청/일
Shared rate limit
예아니요
DeepSeek V4 Flash 0731Router91M10,000 credits/month (~$1), shared; account-anniversary reset아니요아니요
Gemini 3.6 FlashGoogle AI Studio1M10 요청/분
20 요청/일
250,000 토큰/분
~3M
예예
GLM 5.2Router91M10,000 credits/month (~$1), shared; account-anniversary reset아니요아니요
Gemini 3.5 FlashGoogle AI Studio1M10 요청/분
20 요청/일
250,000 토큰/분
~3M
예예
DeepSeek V4 ProAPINex, Router91M5 요청/분
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
아니요아니요
Nemotron 3 Ultra 550BGizmo, Kilo Gateway, LLMTR +3개 더1M200 요청/일
200 rpd
예아니요
Gemini 3.5 Flash LiteElectronHub, Google AI Studio1M15 요청/분
20 요청/일
250,000 토큰/분
~3M
예예
Gemini 3 Flash PreviewGoogle AI Studio1M10 요청/분
20 요청/일
250,000 토큰/분
~3M
예예
Gemini 3.1 Flash-LiteDreamPrompting, Google AI Studio1M100 요청/분
5,000 요청/일
500,000 토큰/일
500K tokens/day · 5,000 req/day
예예
Gemini 2.5 FlashDreamPrompting, ElectronHub, Google AI Studio1M100 요청/분
5,000 요청/일
500,000 토큰/일
500K tokens/day · 5,000 req/day
예예
Nemotron 3.5 LightningElectronHub, Gizmo, Kilo Gateway +2개 더1M20 요청/분
50 요청/일
50 req/day account-wide (1,000 after a $10 purchase)
예아니요

일치하는 무료 모델 33개 중 15개를 표시합니다. 모든 모델 보기.

FreeLLMAPI 카탈로그의 실시간 데이터입니다 (버전 2026.11.19, 2026-11-19 확인). 무료 한도는 자주 바뀝니다. 카탈로그는 매일 확인합니다.

Google AI Studio의 Gemini Flash 모델은 잘 알려진 100만 토큰 무료 모델입니다. 이미지와 도구 호출도 받습니다. 다른 행은 무료 라우터와 NVIDIA에서 나옵니다.

실제 한도: 분당 토큰 수

컨텍스트 윈도우는 모델이 읽을 수 있는 가장 큰 프롬프트입니다. 무료 요금제에는 분당 토큰 수(TPM) 한도도 있습니다. 많은 무료 요금제에서 TPM 한도는 컨텍스트 윈도우보다 작습니다.

  • 예: 표에 있는 무료 Gemini Flash 키는 분당 250,000 토큰을 허용합니다. 800,000 토큰의 프롬프트는 컨텍스트 윈도우 안에 있지만 TPM 한도를 넘습니다. 제공업체는 오류 429를 보냅니다.
  • 하루 요청 수: 일부 무료 Gemini 모델은 하루에 약 20개 요청만 허용합니다. 긴 프롬프트가 필요한 작업에만 사용하세요.
  • 출력은 별도입니다: 답변에는 자체 최대 길이가 있습니다. 100만 토큰 컨텍스트가 100만 토큰짜리 답변을 주지는 않습니다.

따라서 실제로는 무료 100만 컨텍스트 모델이 한 요청에서 수십만 토큰 정도를 읽을 수 있습니다. 보내기 전에 프롬프트를 측정하세요.

1단계: FreeLLMAPI 설치하고 키 추가하기

FreeLLMAPI는 오픈 소스입니다. Docker에서 사용자의 컴퓨터를 기반으로 실행됩니다. 제공업체 키는 사용자의 컴퓨터에 남아 있습니다.

설치 (macOS 또는 Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

http://localhost:3001에서 대시보드를 여세요. Keys 페이지에 Google AI Studio 키를 추가하세요. Google이 429 오류를 보낼 때 라우터가 다른 긴 컨텍스트 모델을 사용할 수 있도록 표에 있는 다른 제공업체의 키도 추가하세요. 같은 페이지에서 통합 키를 복사하세요.

2단계: 토큰을 센 다음 긴 문서 보내기

FreeLLMAPI는 네이티브 Gemini countTokens 메서드를 제공합니다. 프롬프트를 보내기 전에 이 메서드로 크기를 측정하세요.

curl: 네이티브 Gemini 엔드포인트로 토큰 세기

curl "http://localhost:3001/v1beta/models/gemini-2.5-flash:countTokens" \
  -H "x-goog-api-key: <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"contents": [{"role": "user", "parts": [{"text": "Paste the long text here"}]}]}'

Python: 긴 파일을 100만 컨텍스트 모델로 보내기

from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>", timeout=300)

doc = open("annual-report.txt", encoding="utf-8").read()
print("about", len(doc) // 4, "tokens")  # rough rule for English text

resp = client.chat.completions.with_raw_response.create(
    model="gemini-2.5-flash",  # pin a 1M-context model; "auto" can pick a smaller one
    messages=[
        {"role": "system", "content": "Answer only from the document. Quote the section you use."},
        {"role": "user", "content": doc + "\n\nQuestion: What are the three largest risks?"},
    ],
    max_tokens=4000,
)
print("Routed via:", resp.headers.get("x-routed-via"))
print(resp.parse().choices[0].message.content)

긴 컨텍스트 모델은 ID로 고정하세요. model: "auto"를 쓰면 라우터가 컨텍스트 윈도우가 더 작은 모델을 고를 수 있습니다. 큰 프롬프트는 읽는 데 시간이 걸리므로 클라이언트 시간 제한을 길게 설정하세요.

긴 컨텍스트인가, RAG인가?

긴 컨텍스트를 쓸 때RAG를 쓸 때
문서를 한 번 읽을 때. 예를 들어 계약서 한 건 또는 보고서 한 편같은 대용량 데이터에 대해 많은 질문을 할 때
요약이나 섹션 비교처럼 답변에 전체 텍스트가 필요할 때답변이 짧은 몇 단락에 있을 때
텍스트가 무료 키의 TPM 한도보다 작을 때데이터가 어떤 무료 컨텍스트 윈도우나 TPM 한도보다 클 때
모델이 텍스트의 순서와 구조를 봐야 할 때각 요청을 작고 빠르게 유지해야 할 때

RAG는 질문마다 데이터의 관련 부분만 보냅니다. 무료 요금제에서 토큰을 적게 씁니다. 설정하려면 RAG용 무료 LLM API와 무료 임베딩 API를 읽으세요.

주의점과 문제 해결

  • 세부 정보 누락: 아주 긴 프롬프트의 중간에 있는 사실은 모델이 놓칠 수 있습니다. 질문은 문서 뒤에 두고, 모델에게 출처를 인용하라고 요청하세요.
  • 사고 토큰: Gemini Flash 모델은 출력 예산에서 보이지 않는 사고 토큰을 쓸 수 있습니다. max_tokens를 아주 작게 설정하지 마세요.
  • PDF 파일: FreeLLMAPI는 PDF, DOCX, XLSX 파일을 변환하지 않습니다. 바이너리 문서 첨부는 오류 400을 반환합니다. 먼저 텍스트를 추출한 다음 텍스트를 보내세요.
  • 텍스트 정리: 문서를 보내기 전에 페이지 머리글, 바닥글, 반복되는 목차를 제거하세요. 이들은 토큰을 쓰고 사실은 더하지 않습니다.
  • 반복되는 프롬프트: 요청마다 전체 문서를 다시 보냅니다. 가능하면 한 요청에 여러 질문을 하세요.
문제원인해결 방법
첫 긴 요청에서 오류 429프롬프트가 TPM 한도보다 큽니다프롬프트를 줄이거나 RAG를 사용하세요
컨텍스트 길이에 관한 오류 400요청이 더 작은 윈도우를 가진 모델로 갔습니다표에 있는 모델 ID를 고정하세요
빈 답변 또는 잘린 답변max_tokens가 너무 작거나 사고가 그것을 사용했습니다더 큰 max_tokens를 설정하세요
시간 초과모델이 프롬프트를 읽는 데 시간이 필요합니다클라이언트 시간 제한을 300초 이상으로 설정하세요
하나의 키로 이 모델을 모두 사용하십시오. FreeLLMAPI는 오픈 소스이며 직접 호스팅하는 라우터입니다. 이 모든 무료 제공 서비스를 하나의 OpenAI 호환 엔드포인트로 묶고, 요청 한도에 걸리면 다른 모델로 자동 전환합니다. 카탈로그 보기 또는 바로 시작.

자주 묻는 질문

100만 토큰 컨텍스트를 갖춘 무료 LLM API가 있나요?

네. Google AI Studio 무료 요금제의 Gemini Flash 모델은 약 100만 토큰의 컨텍스트 윈도우를 가집니다. FreeLLMAPI 카탈로그에는 100만 토큰 이상인 무료 모델 옵션이 56개 있습니다.

한 요청에 100만 토큰을 무료로 보낼 수 있나요?

보통은 아닙니다. 카탈로그의 무료 Gemini 요금제는 분당 250,000 토큰을 허용하므로, 더 큰 프롬프트는 오류 429를 받습니다. 요청마다 수십만 토큰 정도를 계획하세요.

프롬프트를 보내기 전에 토큰을 어떻게 세나요?

FreeLLMAPI를 통해 /v1beta/models/{model}:countTokens에서 네이티브 Gemini countTokens 메서드를 호출하세요. 영어 텍스트는 약 4글자가 토큰 하나입니다.

컨텍스트 윈도우가 가장 큰 무료 LLM은 무엇인가요?

이 페이지의 표는 무료 모델을 컨텍스트 크기 순으로, 가장 큰 것부터 정렬합니다. 여러 무료 모델이 약 100만 토큰에 도달합니다. 또한 무료 한도 열도 보세요. 요청 하나의 실제 크기는 TPM 한도가 결정하기 때문입니다.

긴 컨텍스트가 RAG보다 나은가요?

긴 컨텍스트는 한 번 읽는 문서 하나에 더 좋습니다. RAG는 대용량 데이터에 대한 많은 질문에 더 좋습니다. 매번 보내는 토큰이 적기 때문입니다.

관련 가이드

출처

전체 가이드 · 무료 모델 전체 보기