Darmowe API LLM z kontekstem 1 miliona tokenów
Długie okno kontekstu pozwala modelowi przeczytać w jednym żądaniu całą książkę, dużą bazę kodu albo godziny transkryptów. Katalog FreeLLMAPI ma 56 darmowych ofert modeli z oknem kontekstu 1 miliona tokenów lub większym. Ten poradnik pokazuje te modele i darmowe limity, które decydują, ile naprawdę możesz wysłać.
Kod, nazwy modeli i etykiety z katalogu na żywo są podane po angielsku.
Darmowe modele z kontekstem 1M+ tokenów dziś
Tabela zawiera darmowe modele z oknem kontekstu co najmniej 1,000,000 tokenów, od największego. Dane pochodzą z aktywnego katalogu. Zwróć uwagę na kolumnę "Darmowy limit" oraz na rozmiar kontekstu.
| Model | Za darmo w | Kontekst | Darmowe limity (najlepsza oferta) | Narzędzia | Wizja |
|---|---|---|---|---|---|
| OpenAI: GPT-6 Luna | ElectronHub | 1.1M | $0.25/week shared free credits | Nie | Nie |
| Gemini 3.8 Flash | APINex, Google AI Studio | 1M | 5 żądań/min 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | Tak | Tak |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 żądań/min 20 żądań/dzień 250,000 tokenów/min ~3M | Tak | Tak |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 żądań/min 50 żądań/dzień Shared rate limit | Tak | Nie |
| DeepSeek V4 Flash 0731 | Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | Nie | Nie |
| Gemini 3.6 Flash | Google AI Studio | 1M | 10 żądań/min 20 żądań/dzień 250,000 tokenów/min ~3M | Tak | Tak |
| GLM 5.2 | Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | Nie | Nie |
| Gemini 3.5 Flash | Google AI Studio | 1M | 10 żądań/min 20 żądań/dzień 250,000 tokenów/min ~3M | Tak | Tak |
| DeepSeek V4 Pro | APINex, Router9 | 1M | 5 żądań/min 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | Nie | Nie |
| Nemotron 3 Ultra 550B | Gizmo, Kilo Gateway, LLMTR +3 więcej | 1M | 200 żądań/dzień 200 rpd | Tak | Nie |
| Gemini 3.5 Flash Lite | ElectronHub, Google AI Studio | 1M | 15 żądań/min 20 żądań/dzień 250,000 tokenów/min ~3M | Tak | Tak |
| Gemini 3 Flash Preview | Google AI Studio | 1M | 10 żądań/min 20 żądań/dzień 250,000 tokenów/min ~3M | Tak | Tak |
| Gemini 3.1 Flash-Lite | DreamPrompting, Google AI Studio | 1M | 100 żądań/min 5,000 żądań/dzień 500,000 tokenów/dzień 500K tokens/day · 5,000 req/day | Tak | Tak |
| Gemini 2.5 Flash | DreamPrompting, ElectronHub, Google AI Studio | 1M | 100 żądań/min 5,000 żądań/dzień 500,000 tokenów/dzień 500K tokens/day · 5,000 req/day | Tak | Tak |
| Nemotron 3.5 Lightning | ElectronHub, Gizmo, Kilo Gateway +2 więcej | 1M | 20 żądań/min 50 żądań/dzień 50 req/day account-wide (1,000 after a $10 purchase) | Tak | Nie |
Pokazano 15 z 33 pasujących darmowych modeli. Zobacz wszystkie modele.
Dane na żywo z katalogu FreeLLMAPI (wersja 2026.11.19, sprawdzono 2026-11-19). Darmowe limity często się zmieniają. Katalog jest sprawdzany codziennie.
Modele Gemini Flash z Google AI Studio to najbardziej znane darmowe modele z 1M tokenów. Obsługują też obrazy i wywołania narzędzi. Pozostałe wiersze pochodzą z darmowych routerów i z NVIDIA.
Prawdziwy limit: tokeny na minutę
Okno kontekstu to największy prompt, jaki model może przeczytać. Darmowy plan ma też limit tokenów na minutę (TPM). W wielu darmowych planach limit TPM jest mniejszy niż okno kontekstu.
- Przykład: darmowy klucz Gemini Flash z tabeli pozwala na 250,000 tokenów na minutę. Prompt z 800,000 tokenami mieści się w oknie kontekstu, ale przekracza limit TPM. Dostawca wysyła błąd 429.
- Żądania dziennie: niektóre darmowe modele Gemini pozwalają tylko na około 20 żądań dziennie. Używaj długich promptów tam, gdzie są potrzebne.
- Wyjście jest osobne: odpowiedź ma własną maksymalną długość. Kontekst 1M tokenów nie daje odpowiedzi 1M tokenów.
W praktyce darmowy model z kontekstem 1M może przeczytać w jednym żądaniu kilkaset tysięcy tokenów. Zmierz prompt, zanim go wyślesz.
Krok 1: zainstaluj FreeLLMAPI i dodaj klucze
FreeLLMAPI ma otwarty kod. Działa na Twoim komputerze w Dockerze. Klucze dostawców zostają na Twoim komputerze.
Instalacja (macOS lub Linux)
curl -fsSL https://freellmapi.co/install.sh | bashOtwórz panel pod adresem http://localhost:3001. Dodaj klucz Google AI Studio na stronie Keys. Dodaj też klucze innych dostawców z tabeli, aby router miał kolejny model z długim kontekstem, gdy Google wyśle błąd 429. Skopiuj swój wspólny klucz z tej samej strony.
Krok 2: policz tokeny, potem wyślij długi dokument
FreeLLMAPI udostępnia natywną metodę Gemini countTokens. Użyj jej, aby zmierzyć prompt, zanim go wyślesz.
curl: policz tokeny natywnym punktem końcowym Gemini
curl "http://localhost:3001/v1beta/models/gemini-2.5-flash:countTokens" \
-H "x-goog-api-key: <unified-key>" \
-H "Content-Type: application/json" \
-d '{"contents": [{"role": "user", "parts": [{"text": "Paste the long text here"}]}]}'Python: wyślij długi plik do modelu z kontekstem 1M
from openai import OpenAI
client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>", timeout=300)
doc = open("annual-report.txt", encoding="utf-8").read()
print("about", len(doc) // 4, "tokens") # rough rule for English text
resp = client.chat.completions.with_raw_response.create(
model="gemini-2.5-flash", # pin a 1M-context model; "auto" can pick a smaller one
messages=[
{"role": "system", "content": "Answer only from the document. Quote the section you use."},
{"role": "user", "content": doc + "\n\nQuestion: What are the three largest risks?"},
],
max_tokens=4000,
)
print("Routed via:", resp.headers.get("x-routed-via"))
print(resp.parse().choices[0].message.content)Przypnij model z długim kontekstem przez jego identyfikator. Przy model: "auto" router może wybrać model z mniejszym oknem kontekstu. Ustaw długi timeout klienta, bo duże prompty potrzebują czasu na przeczytanie.
Długi kontekst czy RAG?
| Użyj długiego kontekstu, gdy | Użyj RAG, gdy |
|---|---|
| Dokument jest czytany raz, na przykład jedna umowa albo jeden raport | Zadajesz wiele pytań o te same duże dane |
| Odpowiedź wymaga pełnego tekstu, na przykład streszczenia albo porównania sekcji | Odpowiedź znajduje się w kilku krótkich fragmentach |
| Tekst jest mniejszy niż limit TPM Twojego darmowego klucza | Dane są większe niż jakiekolwiek darmowe okno kontekstu albo limit TPM |
| Model musi widzieć kolejność i strukturę tekstu | Chcesz, aby każde żądanie było małe i szybkie |
RAG wysyła z każdym pytaniem tylko istotne części danych. Na darmowych planach zużywa mniej tokenów. Aby go skonfigurować, przeczytaj Darmowe API LLM dla RAG i Darmowe API embeddingów.
Pułapki i rozwiązywanie problemów
- Zgubione szczegóły: modele mogą pominąć fakty w środku bardzo długiego promptu. Umieść pytanie po dokumencie i poproś model o cytowanie źródła.
- Tokeny myślenia: modele Gemini Flash mogą zużywać ukryte tokeny myślenia z budżetu wyjścia. Nie ustawiaj bardzo małego
max_tokens. - Pliki PDF: FreeLLMAPI nie konwertuje plików PDF, DOCX ani XLSX. Binarny załącznik dokumentu zwraca błąd 400. Najpierw wyciągnij tekst, a potem wyślij tekst.
- Oczyść tekst: przed wysłaniem dokumentu usuń nagłówki i stopki stron oraz powtarzające się spisy treści. Zużywają tokeny i nie dodają faktów.
- Powtarzane prompty: każde żądanie wysyła cały dokument od nowa. Gdy możesz, zadaj kilka pytań w jednym żądaniu.
| Problem | Przyczyna | Rozwiązanie |
|---|---|---|
| Błąd 429 przy pierwszym długim żądaniu | Prompt jest większy niż limit TPM | Zmniejsz prompt albo użyj RAG |
| Błąd 400 o długości kontekstu | Żądanie trafiło do modelu z mniejszym oknem | Przypnij identyfikator modelu z tabeli |
| Pusta albo ucięta odpowiedź | max_tokens jest za mały albo zużyło go myślenie | Ustaw większe max_tokens |
| Timeout | Model potrzebuje czasu na przeczytanie promptu | Ustaw timeout klienta na 300 sekund lub więcej |
Najczęstsze pytania
Czy istnieje darmowe API LLM z kontekstem 1 miliona tokenów?
Tak. Modele Gemini Flash w darmowym planie Google AI Studio mają okno kontekstu około 1 miliona tokenów. Katalog FreeLLMAPI ma 56 darmowych ofert modeli z 1M lub większą liczbą tokenów.
Czy mogę za darmo wysłać 1 milion tokenów w jednym żądaniu?
Zwykle nie. Darmowy plan Gemini w katalogu pozwala na 250,000 tokenów na minutę, więc większy prompt dostaje błąd 429. Przy każdym żądaniu planuj kilkaset tysięcy tokenów.
Jak policzyć tokeny przed wysłaniem promptu?
Wywołaj natywną metodę Gemini countTokens przez FreeLLMAPI pod adresem /v1beta/models/{model}:countTokens. W tekście angielskim około 4 znaki to jeden token.
Który darmowy LLM ma największe okno kontekstu?
Tabela na tej stronie sortuje darmowe modele według rozmiaru kontekstu, od największego. Kilka darmowych modeli osiąga około 1 miliona tokenów. Przeczytaj też kolumnę darmowych limitów, bo limit TPM decyduje o prawdziwym rozmiarze jednego żądania.
Czy długi kontekst jest lepszy niż RAG?
Długi kontekst jest lepszy dla jednego dokumentu, który czytasz raz. RAG jest lepszy przy wielu pytaniach do dużych danych, bo za każdym razem wysyła mniej tokenów.
Powiązane poradniki
- Darmowe API LLM dla RAG
- Darmowe API embeddings
- free gemini api
- Przekroczony limit Gemini API (429 RESOURCE_EXHAUSTED)
- Darmowe API LLM: limity żądań
Źródła
- FreeLLMAPI docs: Native Gemini API (sprawdzono 20 November 2026)
- FreeLLMAPI docs: Chat completions and routing (sprawdzono 20 November 2026)
- Google AI Studio docs: Thinking (sprawdzono 20 November 2026)
- Gemini Developer API pricing (sprawdzono 20 November 2026)