Strona główna / Poradniki / Darmowe API LLM z kontekstem 1 miliona tokenów

Darmowe API LLM z kontekstem 1 miliona tokenów

Długie okno kontekstu pozwala modelowi przeczytać w jednym żądaniu całą książkę, dużą bazę kodu albo godziny transkryptów. Katalog FreeLLMAPI ma 56 darmowych ofert modeli z oknem kontekstu 1 miliona tokenów lub większym. Ten poradnik pokazuje te modele i darmowe limity, które decydują, ile naprawdę możesz wysłać.

Kod, nazwy modeli i etykiety z katalogu na żywo są podane po angielsku.

Darmowe modele z kontekstem 1M+ tokenów dziś

Tabela zawiera darmowe modele z oknem kontekstu co najmniej 1,000,000 tokenów, od największego. Dane pochodzą z aktywnego katalogu. Zwróć uwagę na kolumnę "Darmowy limit" oraz na rozmiar kontekstu.

Darmowe modele z kontekstem 1M+ tokenów, od największego
ModelZa darmo wKontekstDarmowe limity (najlepsza oferta)NarzędziaWizja
OpenAI: GPT-6 LunaElectronHub1.1M$0.25/week shared free creditsNieNie
Gemini 3.8 FlashAPINex, Google AI Studio1M5 żądań/min
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
TakTak
Gemini 3.7 FlashGoogle AI Studio1M10 żądań/min
20 żądań/dzień
250,000 tokenów/min
~3M
TakTak
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 żądań/min
50 żądań/dzień
Shared rate limit
TakNie
DeepSeek V4 Flash 0731Router91M10,000 credits/month (~$1), shared; account-anniversary resetNieNie
Gemini 3.6 FlashGoogle AI Studio1M10 żądań/min
20 żądań/dzień
250,000 tokenów/min
~3M
TakTak
GLM 5.2Router91M10,000 credits/month (~$1), shared; account-anniversary resetNieNie
Gemini 3.5 FlashGoogle AI Studio1M10 żądań/min
20 żądań/dzień
250,000 tokenów/min
~3M
TakTak
DeepSeek V4 ProAPINex, Router91M5 żądań/min
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
NieNie
Nemotron 3 Ultra 550BGizmo, Kilo Gateway, LLMTR +3 więcej1M200 żądań/dzień
200 rpd
TakNie
Gemini 3.5 Flash LiteElectronHub, Google AI Studio1M15 żądań/min
20 żądań/dzień
250,000 tokenów/min
~3M
TakTak
Gemini 3 Flash PreviewGoogle AI Studio1M10 żądań/min
20 żądań/dzień
250,000 tokenów/min
~3M
TakTak
Gemini 3.1 Flash-LiteDreamPrompting, Google AI Studio1M100 żądań/min
5,000 żądań/dzień
500,000 tokenów/dzień
500K tokens/day · 5,000 req/day
TakTak
Gemini 2.5 FlashDreamPrompting, ElectronHub, Google AI Studio1M100 żądań/min
5,000 żądań/dzień
500,000 tokenów/dzień
500K tokens/day · 5,000 req/day
TakTak
Nemotron 3.5 LightningElectronHub, Gizmo, Kilo Gateway +2 więcej1M20 żądań/min
50 żądań/dzień
50 req/day account-wide (1,000 after a $10 purchase)
TakNie

Pokazano 15 z 33 pasujących darmowych modeli. Zobacz wszystkie modele.

Dane na żywo z katalogu FreeLLMAPI (wersja 2026.11.19, sprawdzono 2026-11-19). Darmowe limity często się zmieniają. Katalog jest sprawdzany codziennie.

Modele Gemini Flash z Google AI Studio to najbardziej znane darmowe modele z 1M tokenów. Obsługują też obrazy i wywołania narzędzi. Pozostałe wiersze pochodzą z darmowych routerów i z NVIDIA.

Prawdziwy limit: tokeny na minutę

Okno kontekstu to największy prompt, jaki model może przeczytać. Darmowy plan ma też limit tokenów na minutę (TPM). W wielu darmowych planach limit TPM jest mniejszy niż okno kontekstu.

  • Przykład: darmowy klucz Gemini Flash z tabeli pozwala na 250,000 tokenów na minutę. Prompt z 800,000 tokenami mieści się w oknie kontekstu, ale przekracza limit TPM. Dostawca wysyła błąd 429.
  • Żądania dziennie: niektóre darmowe modele Gemini pozwalają tylko na około 20 żądań dziennie. Używaj długich promptów tam, gdzie są potrzebne.
  • Wyjście jest osobne: odpowiedź ma własną maksymalną długość. Kontekst 1M tokenów nie daje odpowiedzi 1M tokenów.

W praktyce darmowy model z kontekstem 1M może przeczytać w jednym żądaniu kilkaset tysięcy tokenów. Zmierz prompt, zanim go wyślesz.

Krok 1: zainstaluj FreeLLMAPI i dodaj klucze

FreeLLMAPI ma otwarty kod. Działa na Twoim komputerze w Dockerze. Klucze dostawców zostają na Twoim komputerze.

Instalacja (macOS lub Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

Otwórz panel pod adresem http://localhost:3001. Dodaj klucz Google AI Studio na stronie Keys. Dodaj też klucze innych dostawców z tabeli, aby router miał kolejny model z długim kontekstem, gdy Google wyśle błąd 429. Skopiuj swój wspólny klucz z tej samej strony.

Krok 2: policz tokeny, potem wyślij długi dokument

FreeLLMAPI udostępnia natywną metodę Gemini countTokens. Użyj jej, aby zmierzyć prompt, zanim go wyślesz.

curl: policz tokeny natywnym punktem końcowym Gemini

curl "http://localhost:3001/v1beta/models/gemini-2.5-flash:countTokens" \
  -H "x-goog-api-key: <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"contents": [{"role": "user", "parts": [{"text": "Paste the long text here"}]}]}'

Python: wyślij długi plik do modelu z kontekstem 1M

from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>", timeout=300)

doc = open("annual-report.txt", encoding="utf-8").read()
print("about", len(doc) // 4, "tokens")  # rough rule for English text

resp = client.chat.completions.with_raw_response.create(
    model="gemini-2.5-flash",  # pin a 1M-context model; "auto" can pick a smaller one
    messages=[
        {"role": "system", "content": "Answer only from the document. Quote the section you use."},
        {"role": "user", "content": doc + "\n\nQuestion: What are the three largest risks?"},
    ],
    max_tokens=4000,
)
print("Routed via:", resp.headers.get("x-routed-via"))
print(resp.parse().choices[0].message.content)

Przypnij model z długim kontekstem przez jego identyfikator. Przy model: "auto" router może wybrać model z mniejszym oknem kontekstu. Ustaw długi timeout klienta, bo duże prompty potrzebują czasu na przeczytanie.

Długi kontekst czy RAG?

Użyj długiego kontekstu, gdyUżyj RAG, gdy
Dokument jest czytany raz, na przykład jedna umowa albo jeden raportZadajesz wiele pytań o te same duże dane
Odpowiedź wymaga pełnego tekstu, na przykład streszczenia albo porównania sekcjiOdpowiedź znajduje się w kilku krótkich fragmentach
Tekst jest mniejszy niż limit TPM Twojego darmowego kluczaDane są większe niż jakiekolwiek darmowe okno kontekstu albo limit TPM
Model musi widzieć kolejność i strukturę tekstuChcesz, aby każde żądanie było małe i szybkie

RAG wysyła z każdym pytaniem tylko istotne części danych. Na darmowych planach zużywa mniej tokenów. Aby go skonfigurować, przeczytaj Darmowe API LLM dla RAG i Darmowe API embeddingów.

Pułapki i rozwiązywanie problemów

  • Zgubione szczegóły: modele mogą pominąć fakty w środku bardzo długiego promptu. Umieść pytanie po dokumencie i poproś model o cytowanie źródła.
  • Tokeny myślenia: modele Gemini Flash mogą zużywać ukryte tokeny myślenia z budżetu wyjścia. Nie ustawiaj bardzo małego max_tokens.
  • Pliki PDF: FreeLLMAPI nie konwertuje plików PDF, DOCX ani XLSX. Binarny załącznik dokumentu zwraca błąd 400. Najpierw wyciągnij tekst, a potem wyślij tekst.
  • Oczyść tekst: przed wysłaniem dokumentu usuń nagłówki i stopki stron oraz powtarzające się spisy treści. Zużywają tokeny i nie dodają faktów.
  • Powtarzane prompty: każde żądanie wysyła cały dokument od nowa. Gdy możesz, zadaj kilka pytań w jednym żądaniu.
ProblemPrzyczynaRozwiązanie
Błąd 429 przy pierwszym długim żądaniuPrompt jest większy niż limit TPMZmniejsz prompt albo użyj RAG
Błąd 400 o długości kontekstuŻądanie trafiło do modelu z mniejszym oknemPrzypnij identyfikator modelu z tabeli
Pusta albo ucięta odpowiedźmax_tokens jest za mały albo zużyło go myślenieUstaw większe max_tokens
TimeoutModel potrzebuje czasu na przeczytanie promptuUstaw timeout klienta na 300 sekund lub więcej
Używaj wszystkich tych modeli przez jeden klucz. FreeLLMAPI to router o otwartym kodzie, uruchamiany na własnym serwerze. Łączy wszystkie te darmowe plany za jednym punktem końcowym zgodnym z OpenAI i przełącza się na inny dostawcę, gdy limit zostanie przekroczony. Przeglądaj katalog lub uruchom.

Najczęstsze pytania

Czy istnieje darmowe API LLM z kontekstem 1 miliona tokenów?

Tak. Modele Gemini Flash w darmowym planie Google AI Studio mają okno kontekstu około 1 miliona tokenów. Katalog FreeLLMAPI ma 56 darmowych ofert modeli z 1M lub większą liczbą tokenów.

Czy mogę za darmo wysłać 1 milion tokenów w jednym żądaniu?

Zwykle nie. Darmowy plan Gemini w katalogu pozwala na 250,000 tokenów na minutę, więc większy prompt dostaje błąd 429. Przy każdym żądaniu planuj kilkaset tysięcy tokenów.

Jak policzyć tokeny przed wysłaniem promptu?

Wywołaj natywną metodę Gemini countTokens przez FreeLLMAPI pod adresem /v1beta/models/{model}:countTokens. W tekście angielskim około 4 znaki to jeden token.

Który darmowy LLM ma największe okno kontekstu?

Tabela na tej stronie sortuje darmowe modele według rozmiaru kontekstu, od największego. Kilka darmowych modeli osiąga około 1 miliona tokenów. Przeczytaj też kolumnę darmowych limitów, bo limit TPM decyduje o prawdziwym rozmiarze jednego żądania.

Czy długi kontekst jest lepszy niż RAG?

Długi kontekst jest lepszy dla jednego dokumentu, który czytasz raz. RAG jest lepszy przy wielu pytaniach do dużych danych, bo za każdym razem wysyła mniej tokenów.

Powiązane poradniki

Źródła

Wszystkie poradniki · Przeglądaj wszystkie darmowe modele