Accueil / Guides / API LLM gratuite avec un contexte d'un million de tokens

API LLM gratuite avec un contexte d'un million de tokens

Une longue fenêtre de contexte permet à un modèle de lire un livre entier, une grande base de code ou des heures de transcriptions dans une seule requête. Le catalogue FreeLLMAPI compte 56 offres de modèles gratuits avec une fenêtre de contexte d'un million de tokens ou plus. Ce guide présente ces modèles et les limites des offres gratuites qui déterminent la quantité que vous pouvez réellement envoyer.

Le code, les noms de modèles et les libellés du catalogue en direct sont affichés en anglais.

Modèles gratuits avec un contexte de 1M+ tokens aujourd'hui

Le tableau liste les modèles gratuits avec une fenêtre de contexte d'au moins 1,000,000 tokens, du plus grand au plus petit. Les données proviennent du catalogue en direct. Regardez la colonne « Free limits » en plus de la taille du contexte.

Modèles gratuits avec un contexte de 1M+ tokens, du plus grand au plus petit
ModèleGratuit surContexteLimites gratuites (meilleure offre)OutilsVision
OpenAI: GPT-6 LunaElectronHub1.1M$0.25/week shared free creditsNonNon
Gemini 3.8 FlashAPINex, Google AI Studio1M5 req/min
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
OuiOui
Gemini 3.7 FlashGoogle AI Studio1M10 req/min
20 req/jour
250,000 jetons/min
~3M
OuiOui
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 req/min
50 req/jour
Shared rate limit
OuiNon
DeepSeek V4 Flash 0731Router91M10,000 credits/month (~$1), shared; account-anniversary resetNonNon
Gemini 3.6 FlashGoogle AI Studio1M10 req/min
20 req/jour
250,000 jetons/min
~3M
OuiOui
GLM 5.2Router91M10,000 credits/month (~$1), shared; account-anniversary resetNonNon
Gemini 3.5 FlashGoogle AI Studio1M10 req/min
20 req/jour
250,000 jetons/min
~3M
OuiOui
DeepSeek V4 ProAPINex, Router91M5 req/min
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
NonNon
Nemotron 3 Ultra 550BGizmo, Kilo Gateway, LLMTR +3 de plus1M200 req/jour
200 rpd
OuiNon
Gemini 3.5 Flash LiteElectronHub, Google AI Studio1M15 req/min
20 req/jour
250,000 jetons/min
~3M
OuiOui
Gemini 3 Flash PreviewGoogle AI Studio1M10 req/min
20 req/jour
250,000 jetons/min
~3M
OuiOui
Gemini 3.1 Flash-LiteDreamPrompting, Google AI Studio1M100 req/min
5,000 req/jour
500,000 jetons/jour
500K tokens/day · 5,000 req/day
OuiOui
Gemini 2.5 FlashDreamPrompting, ElectronHub, Google AI Studio1M100 req/min
5,000 req/jour
500,000 jetons/jour
500K tokens/day · 5,000 req/day
OuiOui
Nemotron 3.5 LightningElectronHub, Gizmo, Kilo Gateway +2 de plus1M20 req/min
50 req/jour
50 req/day account-wide (1,000 after a $10 purchase)
OuiNon

Affichage de 15 modèles gratuits sur 33 correspondants. Voir tous les modèles.

Données en direct du catalogue FreeLLMAPI (version 2026.11.19, vérifié le 2026-11-19). Les limites gratuites changent souvent. Le catalogue est vérifié chaque jour.

Les modèles Gemini Flash de Google AI Studio sont les modèles gratuits à 1M tokens les plus connus. Ils acceptent aussi les images et les appels d'outils. Les autres lignes viennent de routeurs gratuits et de NVIDIA.

La vraie limite : les tokens par minute

La fenêtre de contexte est le plus grand prompt que le modèle peut lire. L'offre gratuite a aussi une limite de tokens par minute (TPM). Sur de nombreuses offres gratuites, la limite TPM est plus petite que la fenêtre de contexte.

  • Exemple : une clé Gemini Flash gratuite du tableau autorise 250,000 tokens par minute. Un prompt de 800,000 tokens tient dans la fenêtre de contexte, mais dépasse la limite TPM. Le fournisseur renvoie l'erreur 429.
  • Requêtes par jour : certains modèles Gemini gratuits n'autorisent qu'environ 20 requêtes par jour. Utilisez les longs prompts pour les tâches qui en ont besoin.
  • La sortie est distincte : la réponse a sa propre longueur maximale. Un contexte de 1M tokens ne donne pas une réponse de 1M tokens.

En pratique, un modèle gratuit à contexte de 1M peut donc lire quelques centaines de milliers de tokens dans une seule requête. Mesurez votre prompt avant de l'envoyer.

Étape 1 : installer FreeLLMAPI et ajouter des clés

FreeLLMAPI est open source. Il tourne sur votre ordinateur dans Docker. Vos clés de fournisseurs restent sur votre ordinateur.

Installer (macOS ou Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

Ouvrez le tableau de bord à l'adresse http://localhost:3001. Ajoutez une clé Google AI Studio sur la page Keys. Ajoutez aussi des clés d'autres fournisseurs du tableau, pour que le routeur dispose d'un autre modèle à long contexte quand Google renvoie une erreur 429. Copiez votre clé unifiée depuis la même page.

Étape 2 : compter les tokens, puis envoyer un long document

FreeLLMAPI sert la méthode native countTokens de Gemini. Utilisez-la pour mesurer le prompt avant de l'envoyer.

curl : compter les tokens avec l'endpoint Gemini natif

curl "http://localhost:3001/v1beta/models/gemini-2.5-flash:countTokens" \
  -H "x-goog-api-key: <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"contents": [{"role": "user", "parts": [{"text": "Paste the long text here"}]}]}'

Python : envoyer un long fichier à un modèle à contexte de 1M

from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>", timeout=300)

doc = open("annual-report.txt", encoding="utf-8").read()
print("about", len(doc) // 4, "tokens")  # rough rule for English text

resp = client.chat.completions.with_raw_response.create(
    model="gemini-2.5-flash",  # pin a 1M-context model; "auto" can pick a smaller one
    messages=[
        {"role": "system", "content": "Answer only from the document. Quote the section you use."},
        {"role": "user", "content": doc + "\n\nQuestion: What are the three largest risks?"},
    ],
    max_tokens=4000,
)
print("Routed via:", resp.headers.get("x-routed-via"))
print(resp.parse().choices[0].message.content)

Fixez un modèle à long contexte par son identifiant. Avec model: "auto", le routeur peut choisir un modèle à fenêtre de contexte plus petite. Réglez un délai d'attente client long, car les gros prompts prennent du temps à lire.

Long contexte ou RAG ?

Utilisez le long contexte quandUtilisez le RAG quand
Le document n'est lu qu'une fois, par exemple un contrat ou un rapportVous posez de nombreuses questions sur les mêmes grandes données
La réponse demande le texte complet, par exemple un résumé ou une comparaison de sectionsLa réponse se trouve dans quelques passages courts
Le texte est plus petit que la limite TPM de votre clé gratuiteLes données sont plus grandes que toute fenêtre de contexte gratuite ou limite TPM
Vous avez besoin que le modèle voie l'ordre et la structure du texteVous devez garder chaque requête petite et rapide

Le RAG envoie seulement les parties pertinentes des données avec chaque question. Il utilise moins de tokens sur les offres gratuites. Lisez Free LLM API for RAG et Free embeddings API pour le mettre en place.

Pièges et dépannage

  • Détails perdus : les modèles peuvent manquer des faits au milieu d'un prompt très long. Placez votre question après le document, et demandez au modèle de citer sa source.
  • Tokens de réflexion : les modèles Gemini Flash peuvent utiliser des tokens de réflexion cachés dans le budget de sortie. Ne définissez pas un max_tokens très petit.
  • Fichiers PDF : FreeLLMAPI ne convertit pas les fichiers PDF, DOCX ou XLSX. Une pièce jointe binaire renvoie l'erreur 400. Extrayez d'abord le texte, puis envoyez le texte.
  • Nettoyez le texte : retirez les en-têtes et pieds de page, ainsi que les tables des matières répétées, avant d'envoyer un document. Ils consomment des tokens sans rien apporter.
  • Prompts répétés : chaque requête renvoie tout le document. Posez plusieurs questions dans une même requête quand c'est possible.
ProblèmeCauseSolution
Erreur 429 sur la première longue requêteLe prompt est plus grand que la limite TPMRéduisez le prompt, ou utilisez le RAG
Erreur 400 sur la longueur du contexteLa requête est allée vers un modèle à fenêtre plus petiteFixez un identifiant de modèle du tableau
Réponse vide ou coupéemax_tokens est trop petit, ou la réflexion l'a consomméDéfinissez un max_tokens plus grand
Délai d'attente dépasséLe modèle a besoin de temps pour lire le promptRéglez un délai d'attente client de 300 secondes ou plus
Utilisez chacun de ces modèles avec une seule clé. FreeLLMAPI est un routeur open source auto-hébergé. Il place toutes ces offres gratuites derrière un seul point de terminaison compatible OpenAI, et bascule vers une autre offre lorsqu'une limite de débit est atteinte. Parcourir le catalogue ou passer en production.

Questions fréquentes

Existe-t-il une API LLM gratuite avec un contexte d'un million de tokens ?

Oui. Les modèles Gemini Flash de l'offre gratuite de Google AI Studio ont une fenêtre de contexte d'environ 1 million de tokens. Le catalogue FreeLLMAPI compte 56 offres de modèles gratuits à 1M tokens ou plus.

Puis-je envoyer 1 million de tokens gratuitement dans une seule requête ?

En général, non. L'offre Gemini gratuite du catalogue autorise 250,000 tokens par minute, donc un prompt plus grand reçoit l'erreur 429. Prévoyez quelques centaines de milliers de tokens pour chaque requête.

Comment compter les tokens avant d'envoyer un prompt ?

Appelez la méthode native countTokens de Gemini via FreeLLMAPI, à l'adresse /v1beta/models/{model}:countTokens. Pour un texte en anglais, environ 4 caractères font un token.

Quel LLM gratuit a la plus grande fenêtre de contexte ?

Le tableau de cette page trie les modèles gratuits par taille de contexte, du plus grand au plus petit. Plusieurs modèles gratuits atteignent environ 1 million de tokens. Lisez aussi la colonne des limites gratuites, car la limite TPM détermine la taille réelle d'une requête.

Le long contexte est-il meilleur que le RAG ?

Le long contexte convient mieux à un document unique que vous lisez une fois. Le RAG convient mieux à de nombreuses questions sur de grandes données, car il envoie moins de tokens à chaque fois.

Guides associés

Sources

Tous les guides · Parcourir tous les modèles gratuits