முகப்பு / வழிகாட்டிகள் / Groq rate limit எட்டப்பட்டது (429)

Groq rate limit எட்டப்பட்டது (429)

Groq வேகமானது, எனவே இலவச Groq key விரைவில் அதன் வரம்புகளை எட்டுகிறது. அது எட்டும்போது, Groq வரம்பைப் பெயரிடும் ஒரு செய்தியுடன் HTTP 429-ஐத் திருப்புகிறது. இந்தப் பக்கம் அந்தச் செய்தியை விளக்குகிறது, model வாரியான இலவச வரம்புகளையும், படிக்க வேண்டிய headers-ஐயும், தொடர்ந்து வேலை செய்யும் வழியையும் விளக்குகிறது.

குறியீடு, மாதிரிப் பெயர்கள் மற்றும் நேரடி பட்டியல் லேபிள்கள் ஆங்கிலத்தில் காட்டப்படுகின்றன.

பிழைச் செய்தியைப் படிக்கவும்

Groq-இன் 429 செய்தி model, அமைப்பு, சேவை அடுக்கு, வரம்பு வகை மற்றும் காத்திருக்கும் நேரத்தைப் பெயரிடுகிறது. இந்த எடுத்துக்காட்டு ஒரு பொது bug report-இல் இடப்பட்டது:

எடுத்துக்காட்டு 429 body உரை

Rate limit reached for model openai/gpt-oss-120b in organization org_<id>
service tier on_demand on tokens per day (TPD): Limit 200000, Used 193487,
Requested 7464. Please try again in 6m50.832s.
செய்தியில் உள்ள வரம்புஎது தீர்ந்ததுஎன்ன செய்ய வேண்டும்
நிமிடத்துக்கு கோரிக்கைகள் (RPM)60 வினாடிகளில் அதிக கோரிக்கைகள்சில வினாடிகள் காத்திருந்து மீண்டும் முயலவும்
நிமிடத்துக்கு tokens (TPM)60 வினாடிகளில் அதிக tokensகாத்திருக்கவும், அல்லது குறுகிய prompts-ஐ அனுப்பவும்
நாளுக்கு கோரிக்கைகள் (RPD)நாளாந்த கோரிக்கை quotaசெய்தியில் உள்ள நேரம் காத்திருக்கவும், அல்லது வேறு model-ஐப் பயன்படுத்தவும்
நாளுக்கு tokens (TPD)நாளாந்த token quotaசெய்தியில் உள்ள நேரம் காத்திருக்கவும், அல்லது வேறு model-ஐப் பயன்படுத்தவும்

"Request too large" என்ற செய்தியுடன் HTTP 413 என்பது வேறு பிழை. அதாவது ஒரு கோரிக்கை model-இன் TPM வரம்பை விடப் பெரியது. காத்திருப்பது உதவாது. கோரிக்கையைச் சிறியதாக்கவும், அல்லது அதிக TPM வரம்புள்ள model-ஐப் பயன்படுத்தவும்.

Groq இலவசத் திட்ட வரம்புகள்

Groq rate limits-ஐ ஒவ்வொரு பயனருக்கோ key-க்கோ அல்ல, அமைப்புக்குப் பொருத்துகிறது. இந்த மதிப்புகள் Groq-இன் rate limits பக்கத்தின் Free Plan tab-இலிருந்து வந்தவை. Cache செய்யப்பட்ட tokens வரம்புகளில் கணக்கிடப்படுவதில்லை.

Groq இலவசத் திட்ட வரம்புகள், 20 நவம்பர் 2026 அன்று சரிபார்க்கப்பட்டது
ModelRPMRPDTPMTPD
openai/gpt-oss-120b301,0008,000200,000
openai/gpt-oss-20b301,0008,000200,000
openai/gpt-oss-safeguard-20b31,0002,000200,000
qwen/qwen3.8-27b301,0008,000200,000
meta-llama/llama-prompt-guard-2-86m3014,40015,000500,000
whisper-large-v3202,000--

Whisper models-க்கு audio வரம்புகளும் உண்டு: மணிக்கு 7,200 audio வினாடிகள் மற்றும் நாளுக்கு 28,800. கீழுள்ள அட்டவணை FreeLLMAPI catalog-இல் உள்ள Groq வரிசைகளைக் காட்டுகிறது. Catalog மதிப்பும் Groq பக்கமும் வேறுபட்டால், Groq பக்கமே அதிகாரபூர்வமானது.

இன்று இலவச catalog-இல் உள்ள Groq models
மாதிரிஇலவசம்சூழல் அளவுஇலவச வரம்புகள் (சிறந்த சலுகை)கருவிகள்படப் பார்வை
Qwen3.8 27BGroq262K30 கோரிக்கை/நிமிடம்
250 கோரிக்கை/நாள்
70,000 டோக்கன்/நிமிடம்
~6M
ஆம்ஆம்
GPT-OSS 120BGroq131K30 கோரிக்கை/நிமிடம்
1,000 கோரிக்கை/நாள்
8,000 டோக்கன்/நிமிடம்
200,000 டோக்கன்/நாள்
~6M
ஆம்இல்லை
GPT-OSS 20BGroq131K30 கோரிக்கை/நிமிடம்
1,000 கோரிக்கை/நாள்
8,000 டோக்கன்/நிமிடம்
200,000 டோக்கன்/நாள்
~6M
ஆம்இல்லை
GPT-OSS Safeguard 20BGroq131K30 கோரிக்கை/நிமிடம்
1,000 கோரிக்கை/நாள்
8,000 டோக்கன்/நிமிடம்
200,000 டோக்கன்/நாள்
~6M
ஆம்இல்லை
ALLaM 2 7BGroq4K30 கோரிக்கை/நிமிடம்
1,000 கோரிக்கை/நாள்
6,000 டோக்கன்/நிமிடம்
500,000 டோக்கன்/நாள்
~15M
இல்லைஇல்லை
Llama Prompt Guard 2 22MGroq51230 கோரிக்கை/நிமிடம்
14,400 கோரிக்கை/நாள்
15,000 டோக்கன்/நிமிடம்
14.4K rpd
இல்லைஇல்லை
Llama Prompt Guard 2 86MGroq51230 கோரிக்கை/நிமிடம்
14,400 கோரிக்கை/நாள்
15,000 டோக்கன்/நிமிடம்
14.4K rpd
இல்லைஇல்லை

FreeLLMAPI பட்டியலிலிருந்து நேரடி தரவு (பதிப்பு 2026.11.19, சரிபார்க்கப்பட்டது 2026-11-19). இலவச வரம்புகள் அடிக்கடி மாறும். பட்டியல் ஒவ்வொரு நாளும் சரிபார்க்கப்படுகிறது.

Rate limit headers

ஒவ்வொரு Groq பதிலிலும் rate limit headers உள்ளன. 429-ஐப் பெறுவதற்கு முன் வேகத்தைக் குறைக்க அவற்றைப் படிக்கவும்.

Headerகுறிப்பதுபொருள்
x-ratelimit-limit-requestsRPDஒரு நாளுக்கு அனுமதிக்கப்பட்ட கோரிக்கைகள்
x-ratelimit-remaining-requestsRPDஇன்று மீதமுள்ள கோரிக்கைகள்
x-ratelimit-reset-requestsRPDகோரிக்கை வரம்பு மீட்டமைக்கும் வரையிலான நேரம், எடுத்துக்காட்டாக 2m59.56s
x-ratelimit-limit-tokensTPMநிமிடத்துக்கு அனுமதிக்கப்பட்ட tokens
x-ratelimit-remaining-tokensTPMஇந்த நிமிடத்தில் மீதமுள்ள tokens
x-ratelimit-reset-tokensTPMToken வரம்பு மீட்டமைக்கும் வரையிலான நேரம், எடுத்துக்காட்டாக 7.66s
retry-afterஏதேனும்காத்திருக்க வேண்டிய வினாடிகள். ஒரு வரம்பை எட்டிய பிறகு மட்டுமே Groq அதை அமைக்கிறது.

Headers-ஐப் பார்க்கவும்

curl -s -D - -o /dev/null https://api.groq.com/openai/v1/chat/completions \
  -H "Authorization: Bearer <groq-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "hi"}]}' \
  | grep -i -E 'x-ratelimit|retry-after'

சரியாக மீண்டும் முயலவும்

Groq அனுப்பும்போது retry-after-ஐப் பயன்படுத்தவும். அது இல்லையென்றால், ஒரு வரம்புடன் exponential backoff-ஐப் பயன்படுத்தவும். நாளாந்த வரம்புகளை இறுக்கமான loop-இல் மீண்டும் முயல வேண்டாம். ஒவ்வொரு retry-உம் ஒரு புதிய கோரிக்கை.

retry-after உடன் மீண்டும் முயலவும் (Python)

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.groq.com/openai/v1", api_key="<groq-key>")

def ask(prompt, model="openai/gpt-oss-20b"):
    for attempt in range(5):
        try:
            r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
            return r.choices[0].message.content
        except RateLimitError as e:
            wait = e.response.headers.get("retry-after")
            time.sleep(float(wait) if wait else min(60, 2 ** attempt))
    raise RuntimeError("Groq rate limit: retries used up")
  • செய்தி RPD அல்லது TPD-ஐப் பெயரிட்டு, காத்திருப்பு நேரம் நிமிடங்களாக இருந்தால், வேறு model அல்லது provider-க்கு மாறவும்.
  • Groq-இடமிருந்து அதிக வரம்புகளைப் பெற, Developer அடுக்குக்கு மேம்படுத்தவும். அதற்குக் கட்டண முறை தேவை.
  • HTTP 498 வேறு பிழை. Flex அடுக்கு கொள்ளளவை எட்டியுள்ளது என்று அதன் பொருள்.

உங்கள் Groq பட்ஜெட்டைத் திட்டமிடவும்

கணக்கிட்டுப் பார்த்தால் இலவச வரம்புகள் சிறியவை. உங்கள் வேலைச் சுமைக்கு எந்த வரம்பு முதலில் உங்களை நிறுத்துகிறது என்று சரிபார்க்கவும்.

  • கோரிக்கைகள்: நிமிடத்துக்கு 30 கோரிக்கைகளில், நாளுக்கு 1,000 கோரிக்கைகள் முழு வேகப் பயன்பாட்டில் சுமார் 34 நிமிடங்கள் நீடிக்கும்.
  • நிமிடத்துக்கு tokens: 8,000 TPM ஒவ்வொரு நிமிடமும் தலா 2,000 tokens கொண்ட சுமார் நான்கு கோரிக்கைகளை அனுமதிக்கிறது. 9,000 tokens கொண்ட ஒரு கோரிக்கை பிழை 413-ஐப் பெறுகிறது.
  • நாளுக்கு tokens: 200,000 TPD என்பது தலா 8,000 tokens கொண்ட சுமார் 25 கோரிக்கைகள். Coding முகவர்கள் பெரிய prompts-ஐ அனுப்புகின்றன, எனவே RPD-க்கு முன் TPD பெரும்பாலும் தீர்ந்துவிடுகிறது.
  • அமைப்பு: அமைப்பின் எல்லா keys-உம் எல்லா உறுப்பினர்களும் இந்த எண்களைப் பகிர்கின்றனர்.

முகவர் வேலைக்கு, prompts-ஐ குறுகியதாகவும் தெளிவாகவும் வைத்திருக்கவும், பழைய context-ஐ அடிக்கடி அகற்றவும். வேகமான, குறுகிய அழைப்புகளுக்கு Groq-ஐப் பயன்படுத்தவும். நீண்ட context அழைப்புகளை அதிக token வரம்புள்ள வழங்குநர்களுக்கு அனுப்பவும்.

Groq நிறையும்போது failover செய்யவும்

FreeLLMAPI உங்கள் கணினியில் இயங்கும் ஒரு open-source gateway. அது ஒவ்வொரு Groq model-க்கும் key-க்கும் RPM, RPD, TPM மற்றும் TPD எண்ணிக்கைகளை வைத்திருக்கிறது. ஒவ்வொரு கோரிக்கைக்கு முன்பும் அவற்றைச் சரிபார்க்கிறது. Groq நிறைந்திருக்கும்போது, router கோரிக்கையை அடுத்த இலவச வழங்குநருக்கு அனுப்புகிறது.

  • நிமிட வரம்பில் ஒரு குறுகிய 429, key-ஐ 90 வினாடி cooldown-இல் வைக்கிறது.
  • நாளாந்த வரம்பில் வரும் 429, நீண்ட cooldown-ஐப் பயன்படுத்துகிறது, அல்லது Groq-இன் retry நேரம் நீண்டதாக இருந்தால் அதைப் பயன்படுத்துகிறது.
  • Groq பிழை உடல் உண்மையான வரம்பைக் குறிப்பிடும்போது, router அதைச் சேமிக்கிறது. எடுத்துக்காட்டாக, Limit 30000, Requested 33476 கொண்ட 413, TPM வரம்பை 30,000-ஆக அமைக்கிறது.
  • X-Fallback-Trail header தோல்வியுற்ற ஒவ்வொரு hop-ஐயும் காட்டுகிறது, எடுத்துக்காட்டாக groq/llama-3.3-70b key1=rate_limited.

Groq-க்குப் பதிலாக gateway-ஐ அழைக்கவும்

curl -i http://localhost:3001/v1/chat/completions \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "auto:fast", "messages": [{"role": "user", "content": "hi"}]}'

auto:fast, அளவிடப்பட்ட சிறந்த வேகம் கொண்ட models-ஐ விரும்புகிறது. Groq தனது வரம்பில் இருக்கும்போது, மற்ற வழங்குநர்கள் பதிலளிக்கின்றனர். அவை Groq-ஐ விட மெதுவாக இருக்கலாம்.

இவை அனைத்தையும் ஒரே விசை மூலம் பயன்படுத்துங்கள். FreeLLMAPI என்பது திறந்த மூலமான, நீங்களே நிறுவும் ரூட்டர். இந்த இலவச அடுக்குகள் அனைத்தையும் ஒரே OpenAI-இணக்கமான இறுதிப்புள்ளிக்குப் பின்னால் வைக்கிறது. ஒரு வழங்குநர் வரம்பை எட்டும்போது தானாக அடுத்ததற்கு மாறுகிறது. பட்டியலைப் பார்க்கவும் அல்லது நேரலைக்குச் செல்லவும்.

அடிக்கடி கேட்கப்படும் கேள்விகள்

Groq-இல் 'Rate limit reached for model' என்றால் என்ன?

அந்த model-க்கு உங்கள் அமைப்பு ஒரு வரம்பை முழுவதும் பயன்படுத்தியுள்ளது. செய்தி வரம்பை (RPM, RPD, TPM அல்லது TPD) மற்றும் காத்திருக்க வேண்டிய நேரத்தைப் பெயரிடுகிறது.

Groq இலவச அடுக்கின் rate limits என்ன?

அவை model வாரியாக வேறுபடுகின்றன. இலவசத் திட்டத்தில், openai/gpt-oss-120b நிமிடத்துக்கு 30 கோரிக்கைகள், நாளுக்கு 1,000, நிமிடத்துக்கு 8,000 tokens மற்றும் நாளுக்கு 200,000 tokens அனுமதிக்கிறது.

Groq பிழை 413 Request too large ஏன் வருகிறது?

ஒரு கோரிக்கையில் model-இன் TPM வரம்பை விட அதிக tokens உள்ளன. Prompt-ஐ குறுகியதாக்கவும், அல்லது அதிக TPM வரம்புள்ள model-ஐப் பயன்படுத்தவும். காத்திருப்பது இதைச் சரிசெய்யாது.

புதிய Groq API key rate limit-ஐ மீட்டமைக்குமா?

இல்லை. Groq வரம்புகளை அமைப்புக்குப் பொருத்துகிறது, எனவே அதில் உள்ள எல்லா keys-உம் ஒரே வரம்புகளைப் பகிர்கின்றன.

எனது Groq rate limit-ஐ எப்படி அதிகரிப்பது?

கட்டண முறையுடன் Developer அடுக்குக்கு மேம்படுத்தவும். இலவசமாகவே இருக்க, Groq நிறையும்போது failover செய்யும் ஒரு gateway-க்குப் பின் வேறு வழங்குநர்களைச் சேர்க்கவும்.

தொடர்புடைய வழிகாட்டிகள்

ஆதாரங்கள்

அனைத்து வழிகாட்டிகள் · அனைத்து இலவச மாதிரிகளையும் பார்க்கவும்