Accueil / Guides / Limite de débit Groq atteinte (429)

Limite de débit Groq atteinte (429)

Groq est rapide, donc une clé Groq gratuite atteint vite ses limites. Dans ce cas, Groq renvoie HTTP 429 avec un message qui nomme la limite. Cette page explique le message, les limites gratuites par modèle, les en-têtes à lire et la façon de continuer à travailler.

Le code, les noms de modèles et les libellés du catalogue en direct sont affichés en anglais.

Lire le message d'erreur

Le message 429 de Groq indique le modèle, l'organisation, le niveau de service, le type de limite et le temps d'attente. Cet exemple a été publié dans un rapport de bogue public :

Exemple de texte du corps d'une erreur 429

Rate limit reached for model openai/gpt-oss-120b in organization org_<id>
service tier on_demand on tokens per day (TPD): Limit 200000, Used 193487,
Requested 7464. Please try again in 6m50.832s.
Limite dans le messageCe qui a été épuiséAction à mener
requêtes par minute (RPM)Trop de requêtes en 60 secondesAttendez quelques secondes, puis réessayez
tokens par minute (TPM)Trop de tokens en 60 secondesAttendez, ou envoyez des prompts plus courts
requêtes par jour (RPD)Le quota quotidien de requêtesAttendez le délai indiqué dans le message, ou utilisez un autre modèle
tokens par jour (TPD)Le quota quotidien de tokensAttendez le délai indiqué dans le message, ou utilisez un autre modèle

Une autre erreur est HTTP 413 avec « Request too large ». Elle signifie qu'une requête dépasse la limite TPM du modèle. Attendre ne sert à rien. Réduisez la taille de la requête, ou utilisez un modèle avec une limite TPM plus élevée.

Limites de l'offre gratuite de Groq

Groq applique les limites de débit à l'organisation, et non à chaque utilisateur ou clé. Ces valeurs proviennent de l'onglet Free Plan de la page des limites de débit de Groq. Les tokens mis en cache ne comptent pas dans les limites.

Limites de l'offre gratuite Groq, vérifiées le 20 novembre 2026
ModèleRPMRPDTPMTPD
openai/gpt-oss-120b301,0008,000200,000
openai/gpt-oss-20b301,0008,000200,000
openai/gpt-oss-safeguard-20b31,0002,000200,000
qwen/qwen3.8-27b301,0008,000200,000
meta-llama/llama-prompt-guard-2-86m3014,40015,000500,000
whisper-large-v3202,000--

Les modèles Whisper ont aussi des limites audio : 7,200 secondes d'audio par heure et 28,800 par jour. Le tableau ci-dessous présente les lignes Groq du catalogue FreeLLMAPI. Si une valeur du catalogue et la page de Groq diffèrent, la page de Groq fait foi.

Modèles Groq du catalogue gratuit actuel
ModèleGratuit surContexteLimites gratuites (meilleure offre)OutilsVision
Qwen3.8 27BGroq262K30 req/min
250 req/jour
70,000 jetons/min
~6M
OuiOui
GPT-OSS 120BGroq131K30 req/min
1,000 req/jour
8,000 jetons/min
200,000 jetons/jour
~6M
OuiNon
GPT-OSS 20BGroq131K30 req/min
1,000 req/jour
8,000 jetons/min
200,000 jetons/jour
~6M
OuiNon
GPT-OSS Safeguard 20BGroq131K30 req/min
1,000 req/jour
8,000 jetons/min
200,000 jetons/jour
~6M
OuiNon
ALLaM 2 7BGroq4K30 req/min
1,000 req/jour
6,000 jetons/min
500,000 jetons/jour
~15M
NonNon
Llama Prompt Guard 2 22MGroq51230 req/min
14,400 req/jour
15,000 jetons/min
14.4K rpd
NonNon
Llama Prompt Guard 2 86MGroq51230 req/min
14,400 req/jour
15,000 jetons/min
14.4K rpd
NonNon

Données en direct du catalogue FreeLLMAPI (version 2026.11.19, vérifié le 2026-11-19). Les limites gratuites changent souvent. Le catalogue est vérifié chaque jour.

Les en-têtes de limite de débit

Chaque réponse de Groq contient des en-têtes de limite de débit. Lisez-les pour ralentir avant de recevoir une erreur 429.

En-têteConcerneSignification
x-ratelimit-limit-requestsRPDRequêtes autorisées par jour
x-ratelimit-remaining-requestsRPDRequêtes restantes aujourd'hui
x-ratelimit-reset-requestsRPDDélai avant la réinitialisation de la limite de requêtes, par exemple 2m59.56s
x-ratelimit-limit-tokensTPMTokens autorisés par minute
x-ratelimit-remaining-tokensTPMTokens restants cette minute
x-ratelimit-reset-tokensTPMDélai avant la réinitialisation de la limite de tokens, par exemple 7.66s
retry-afterTousSecondes à attendre. Groq ne la définit qu'après que vous avez atteint une limite.

Afficher les en-têtes

curl -s -D - -o /dev/null https://api.groq.com/openai/v1/chat/completions \
  -H "Authorization: Bearer <groq-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "hi"}]}' \
  | grep -i -E 'x-ratelimit|retry-after'

Relancer correctement

Utilisez retry-after lorsque Groq l'envoie. Si elle manque, utilisez un délai exponentiel avec un plafond. Ne relancez pas les limites quotidiennes en boucle serrée. Chaque nouvelle tentative est une nouvelle requête.

Relancer avec retry-after (Python)

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.groq.com/openai/v1", api_key="<groq-key>")

def ask(prompt, model="openai/gpt-oss-20b"):
    for attempt in range(5):
        try:
            r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
            return r.choices[0].message.content
        except RateLimitError as e:
            wait = e.response.headers.get("retry-after")
            time.sleep(float(wait) if wait else min(60, 2 ** attempt))
    raise RuntimeError("Groq rate limit: retries used up")
  • Si le message nomme RPD ou TPD et que l'attente se compte en minutes, passez à un autre modèle ou fournisseur.
  • Pour obtenir des limites plus élevées de Groq, passez au niveau Developer. Il nécessite un moyen de paiement.
  • HTTP 498 est une autre erreur. Elle signifie que le niveau flex est à sa capacité maximale.

Planifier votre budget Groq

Les limites gratuites sont faibles quand on fait le calcul. Vérifiez quelle limite vous bloque en premier pour votre charge de travail.

  • Requêtes : à 30 requêtes par minute, 1,000 requêtes par jour durent environ 34 minutes d'usage à pleine vitesse.
  • Tokens par minute : 8,000 TPM permettent environ quatre requêtes de 2,000 tokens chacune par minute. Une requête de 9,000 tokens renvoie l'erreur 413.
  • Tokens par jour : 200,000 TPD représentent environ 25 requêtes de 8,000 tokens. Les agents de programmation envoient de grands prompts, donc les TPD s'épuisent souvent avant les RPD.
  • Organisation : toutes les clés et tous les membres de l'organisation partagent ces chiffres.

Pour le travail d'agent, gardez les prompts courts et clairs, et supprimez souvent l'ancien contexte. Utilisez Groq pour des appels rapides et courts. Envoyez les appels à long contexte vers des fournisseurs ayant une limite de tokens plus élevée.

Basculer lorsque Groq est saturé

FreeLLMAPI est une passerelle open source qui s'exécute sur votre ordinateur. Elle tient des compteurs RPM, RPD, TPM et TPD pour chaque modèle et chaque clé Groq. Elle les vérifie avant chaque requête. Lorsque Groq est saturé, le routeur envoie la requête au fournisseur gratuit suivant.

  • Une courte erreur 429 sur une limite par minute place la clé en pause de 90 secondes.
  • Une erreur 429 sur une limite quotidienne utilise une pause plus longue, ou le délai de relance de Groq s'il est plus long.
  • Lorsque le corps d'une erreur Groq indique la vraie limite, le routeur la mémorise. Par exemple, une erreur 413 avec Limit 30000, Requested 33476 fixe la limite TPM à 30,000.
  • L'en-tête X-Fallback-Trail indique chaque saut en échec, par exemple groq/llama-3.3-70b key1=rate_limited.

Appeler la passerelle au lieu de Groq

curl -i http://localhost:3001/v1/chat/completions \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "auto:fast", "messages": [{"role": "user", "content": "hi"}]}'

auto:fast privilégie les modèles avec la meilleure vitesse mesurée. Lorsque Groq atteint sa limite, d'autres fournisseurs répondent. Ils peuvent être plus lents que Groq.

Utilisez chacun de ces modèles avec une seule clé. FreeLLMAPI est un routeur open source auto-hébergé. Il place toutes ces offres gratuites derrière un seul point de terminaison compatible OpenAI, et bascule vers une autre offre lorsqu'une limite de débit est atteinte. Parcourir le catalogue ou passer en production.

Questions fréquentes

Que signifie « Rate limit reached for model » sur Groq ?

Votre organisation a utilisé toute une limite pour ce modèle. Le message nomme la limite (RPM, RPD, TPM ou TPD) et le temps d'attente.

Quelles sont les limites de débit de l'offre gratuite de Groq ?

Elles varient selon le modèle. Sur l'offre gratuite, openai/gpt-oss-120b autorise 30 requêtes par minute, 1,000 par jour, 8,000 tokens par minute et 200,000 tokens par jour.

Pourquoi reçois-je l'erreur Groq 413 Request too large ?

Une requête contient plus de tokens que la limite TPM du modèle. Raccourcissez le prompt ou utilisez un modèle avec une limite TPM plus élevée. Attendre ne règle pas le problème.

Une nouvelle clé API Groq réinitialise-t-elle la limite de débit ?

Non. Groq applique les limites à l'organisation, donc toutes les clés de celle-ci partagent les mêmes limites.

Comment augmenter ma limite de débit Groq ?

Passez au niveau Developer avec un moyen de paiement. Pour rester gratuit, ajoutez d'autres fournisseurs derrière une passerelle qui bascule lorsque Groq est saturé.

Guides associés

Sources

Tous les guides · Parcourir tous les modèles gratuits