Досягнуто ліміту Groq (429)
Groq працює швидко, тому безкоштовний ключ Groq швидко досягає своїх лімітів. Коли це стається, Groq повертає HTTP 429 з повідомленням, яке називає ліміт. Ця сторінка пояснює повідомлення, безкоштовні ліміти для кожної моделі, заголовки, які варто читати, і те, як продовжувати роботу.
Код, назви моделей і мітки живого каталогу показано англійською.
Прочитайте повідомлення про помилку
Повідомлення Groq 429 називає модель, організацію, рівень сервісу, тип ліміту і час очікування. Цей приклад опубліковано у загальнодоступному звіті про помилку:
Приклад тексту відповіді 429
Rate limit reached for model openai/gpt-oss-120b in organization org_<id>
service tier on_demand on tokens per day (TPD): Limit 200000, Used 193487,
Requested 7464. Please try again in 6m50.832s.| Ліміт у повідомленні | Що вичерпалося | Що робити |
|---|---|---|
| запити за хвилину (RPM) | Забагато запитів за 60 секунд | Зачекайте кілька секунд і повторіть спробу |
| токени за хвилину (TPM) | Забагато токенів за 60 секунд | Зачекайте або надсилайте коротші запити |
| запити за день (RPD) | Денна квота запитів | Зачекайте час, вказаний у повідомленні, або використайте іншу модель |
| токени за день (TPD) | Денна квота токенів | Зачекайте час, вказаний у повідомленні, або використайте іншу модель |
Інша помилка це HTTP 413 з текстом «Request too large». Вона означає, що один запит більший за ліміт TPM моделі. Очікування не допоможе. Зробіть запит меншим або використайте модель з вищим лімітом TPM.
Ліміти безкоштовного плану Groq
Groq застосовує ліміти частоти до організації, а не до кожного користувача або ключа. Ці значення взято з вкладки Free Plan на сторінці лімітів частоти Groq. Кешовані токени не враховуються в лімітах.
| Модель | RPM | RPD | TPM | TPD |
|---|---|---|---|---|
openai/gpt-oss-120b | 30 | 1,000 | 8,000 | 200,000 |
openai/gpt-oss-20b | 30 | 1,000 | 8,000 | 200,000 |
openai/gpt-oss-safeguard-20b | 3 | 1,000 | 2,000 | 200,000 |
qwen/qwen3.8-27b | 30 | 1,000 | 8,000 | 200,000 |
meta-llama/llama-prompt-guard-2-86m | 30 | 14,400 | 15,000 | 500,000 |
whisper-large-v3 | 20 | 2,000 | - | - |
Моделі Whisper також мають ліміти аудіо: 7,200 секунд аудіо на годину і 28,800 на день. Нижче в таблиці наведено рядки Groq у каталозі FreeLLMAPI. Якщо значення в каталозі і на сторінці Groq відрізняються, остаточною є сторінка Groq.
| Модель | Безкоштовно на | Контекст | Безкоштовні ліміти (найкращі) | Інструменти | Зображення |
|---|---|---|---|---|---|
| Qwen3.8 27B | Groq | 262K | 30 запитів/хв 250 запитів/добу 70,000 токенів/хв ~6M | Так | Так |
| GPT-OSS 120B | Groq | 131K | 30 запитів/хв 1,000 запитів/добу 8,000 токенів/хв 200,000 токенів/добу ~6M | Так | Ні |
| GPT-OSS 20B | Groq | 131K | 30 запитів/хв 1,000 запитів/добу 8,000 токенів/хв 200,000 токенів/добу ~6M | Так | Ні |
| GPT-OSS Safeguard 20B | Groq | 131K | 30 запитів/хв 1,000 запитів/добу 8,000 токенів/хв 200,000 токенів/добу ~6M | Так | Ні |
| ALLaM 2 7B | Groq | 4K | 30 запитів/хв 1,000 запитів/добу 6,000 токенів/хв 500,000 токенів/добу ~15M | Ні | Ні |
| Llama Prompt Guard 2 22M | Groq | 512 | 30 запитів/хв 14,400 запитів/добу 15,000 токенів/хв 14.4K rpd | Ні | Ні |
| Llama Prompt Guard 2 86M | Groq | 512 | 30 запитів/хв 14,400 запитів/добу 15,000 токенів/хв 14.4K rpd | Ні | Ні |
Дані в реальному часі з каталогу FreeLLMAPI (версія 2026.11.19, перевірено 2026-11-19). Безкоштовні ліміти часто змінюються. Каталог перевіряється щодня.
Заголовки ліміту частоти
Кожна відповідь Groq містить заголовки ліміту частоти. Читайте їх, щоб сповільнитися до того, як ви отримаєте 429.
| Заголовок | Стосується | Значення |
|---|---|---|
x-ratelimit-limit-requests | RPD | Запити, дозволені за день |
x-ratelimit-remaining-requests | RPD | Запити, що залишилися сьогодні |
x-ratelimit-reset-requests | RPD | Час до скидання ліміту запитів, наприклад 2m59.56s |
x-ratelimit-limit-tokens | TPM | Токени, дозволені за хвилину |
x-ratelimit-remaining-tokens | TPM | Токени, що залишилися цієї хвилини |
x-ratelimit-reset-tokens | TPM | Час до скидання ліміту токенів, наприклад 7.66s |
retry-after | Будь-який | Секунди очікування. Groq встановлює його лише після того, як ви досягли ліміту. |
Перегляньте заголовки
curl -s -D - -o /dev/null https://api.groq.com/openai/v1/chat/completions \
-H "Authorization: Bearer <groq-key>" \
-H "Content-Type: application/json" \
-d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "hi"}]}' \
| grep -i -E 'x-ratelimit|retry-after'Правильні повторні спроби
Використовуйте retry-after, коли Groq його надсилає. Якщо його немає, використовуйте експоненційну затримку з верхньою межею. Не повторюйте денні ліміти у щільному циклі. Кожна повторна спроба це новий запит.
Повторна спроба з retry-after (Python)
import time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.groq.com/openai/v1", api_key="<groq-key>")
def ask(prompt, model="openai/gpt-oss-20b"):
for attempt in range(5):
try:
r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
return r.choices[0].message.content
except RateLimitError as e:
wait = e.response.headers.get("retry-after")
time.sleep(float(wait) if wait else min(60, 2 ** attempt))
raise RuntimeError("Groq rate limit: retries used up")- Якщо повідомлення називає RPD або TPD, а очікування становить хвилини, перейдіть на іншу модель або провайдера.
- Щоб отримати вищі ліміти від Groq, перейдіть на рівень Developer. Для нього потрібен спосіб оплати.
- HTTP 498 це інша помилка. Вона означає, що рівень flex вичерпав свою потужність.
Розрахуйте бюджет Groq
Безкоштовні ліміти малі, якщо порахувати. Перевірте, який ліміт зупиняє вас першим для вашого навантаження.
- Запити: при 30 запитах за хвилину 1,000 запитів на день вистачає приблизно на 34 хвилини роботи на повній швидкості.
- Токени за хвилину: 8,000 TPM дозволяє приблизно чотири запити по 2,000 токенів кожен за хвилину. Один запит на 9,000 токенів отримує помилку 413.
- Токени за день: 200,000 TPD це приблизно 25 запитів по 8,000 токенів. Агенти написання коду надсилають великі запити, тому TPD часто вичерпується раніше за RPD.
- Організація: усі ключі і всі учасники організації спільно використовують ці числа.
Для роботи з агентами тримайте запити короткими і часто очищайте старий контекст. Використовуйте Groq для швидких коротких викликів. Надсилайте виклики з довгим контекстом провайдерам з вищим лімітом токенів.
Перемикання на резерв, коли Groq заповнений
FreeLLMAPI це шлюз з відкритим кодом, який працює на вашому комп'ютері. Він веде лічильники RPM, RPD, TPM і TPD для кожної моделі та ключа Groq. Він перевіряє їх перед кожним запитом. Коли Groq заповнений, маршрутизатор надсилає запит наступному безкоштовному провайдеру.
- Короткий 429 за хвилинним лімітом ставить ключ на паузу 90 секунд.
- 429 за денним лімітом використовує довшу паузу або час повторної спроби від Groq, якщо він довший.
- Коли текст помилки Groq вказує реальний ліміт, маршрутизатор його зберігає. Наприклад, 413 з
Limit 30000, Requested 33476встановлює ліміт TPM на 30,000. - Заголовок
X-Fallback-Trailпоказує кожну невдалу ланку, наприкладgroq/llama-3.3-70b key1=rate_limited.
Викликайте шлюз замість Groq
curl -i http://localhost:3001/v1/chat/completions \
-H "Authorization: Bearer <unified-key>" \
-H "Content-Type: application/json" \
-d '{"model": "auto:fast", "messages": [{"role": "user", "content": "hi"}]}'auto:fast віддає перевагу моделям з найкращою виміряною швидкістю. Коли Groq досягає свого ліміту, відповідають інші провайдери. Вони можуть бути повільнішими за Groq.
Часті запитання
Що означає «Rate limit reached for model» у Groq?
Ваша організація вичерпала один ліміт для цієї моделі. Повідомлення називає ліміт (RPM, RPD, TPM або TPD) і час очікування.
Які ліміти частоти безкоштовного тарифу Groq?
Вони різняться залежно від моделі. На безкоштовному плані openai/gpt-oss-120b дозволяє 30 запитів за хвилину, 1,000 на день, 8,000 токенів за хвилину і 200,000 токенів на день.
Чому я отримую помилку Groq 413 Request too large?
Один запит має більше токенів, ніж ліміт TPM моделі. Зробіть запит коротшим або використайте модель з вищим лімітом TPM. Очікування це не виправить.
Чи скидає новий ключ API Groq ліміт частоти?
Ні. Groq застосовує ліміти до організації, тому всі ключі в ній мають спільні ліміти.
Як підвищити свій ліміт частоти Groq?
Перейдіть на рівень Developer зі способом оплати. Щоб залишитися безкоштовним, додайте інших провайдерів за шлюзом, який перемикається на резерв, коли Groq заповнений.
Схожі посібники
- Ліміти запитів безкоштовного LLM API
- free groq api
- Перевищено квоту Gemini API (429 RESOURCE_EXHAUSTED)
- Ліміт API NVIDIA NIM
- Groq проти Cerebras
Джерела
- GroqCloud: Rate limits (перевірено 20 November 2026)
- GroqCloud: Errors (перевірено 20 November 2026)
- GroqCloud: Billing FAQs (перевірено 20 November 2026)
- Public report of the Groq TPD message (Discourse) (перевірено 20 November 2026)
- FreeLLMAPI docs: Quota and cooldown engine (перевірено 20 November 2026)
- FreeLLMAPI docs: Response headers (перевірено 20 November 2026)