হোম / গাইড / Groq রেট লিমিট পৌঁছেছে (429)

Groq রেট লিমিট পৌঁছেছে (429)

Groq দ্রুত, তাই একটি ফ্রি Groq কী দ্রুত সীমায় পৌঁছায়। পৌঁছালে Groq এমন একটি বার্তাসহ HTTP 429 ফেরত দেয় যাতে সীমার নাম থাকে। এই পেজ বার্তাটি ব্যাখ্যা করে, প্রতি মডেলের ফ্রি সীমা, যে হেডারগুলো পড়তে হয় এবং কীভাবে কাজ চালিয়ে যাওয়া যায় তা দেখায়।

কোড, মডেলের নাম এবং লাইভ ক্যাটালগের লেবেল ইংরেজিতে দেখানো হয়।

ত্রুটি বার্তা পড়ুন

Groq-এর 429 বার্তায় মডেল, সংস্থা, সেবার টিয়ার, সীমার ধরন এবং অপেক্ষার সময়ের নাম থাকে। এই উদাহরণটি একটি পাবলিক বাগ রিপোর্টে পোস্ট করা হয়েছিল:

উদাহরণ 429 বডি টেক্সট

Rate limit reached for model openai/gpt-oss-120b in organization org_<id>
service tier on_demand on tokens per day (TPD): Limit 200000, Used 193487,
Requested 7464. Please try again in 6m50.832s.
বার্তায় সীমাযা শেষ হয়েছেকী করবেন
প্রতি মিনিটে অনুরোধ (RPM)60 সেকেন্ডে অনেক বেশি অনুরোধকয়েক সেকেন্ড অপেক্ষা করে আবার চেষ্টা করুন
প্রতি মিনিটে টোকেন (TPM)60 সেকেন্ডে অনেক বেশি টোকেনঅপেক্ষা করুন, অথবা ছোট প্রম্পট পাঠান
প্রতিদিনের অনুরোধ (RPD)দৈনিক অনুরোধের কোটাবার্তার সময়টুকু অপেক্ষা করুন, অথবা অন্য মডেল ব্যবহার করুন
প্রতিদিনের টোকেন (TPD)দৈনিক টোকেন কোটাবার্তার সময়টুকু অপেক্ষা করুন, অথবা অন্য মডেল ব্যবহার করুন

"Request too large" বার্তাসহ একটি ভিন্ন ত্রুটি হলো HTTP 413। এর অর্থ একটি অনুরোধ মডেলের TPM সীমার চেয়ে বড়। অপেক্ষায় কাজ হয় না। অনুরোধ ছোট করুন, অথবা একটি উচ্চ TPM সীমার মডেল ব্যবহার করুন।

Groq ফ্রি প্ল্যানের সীমা

Groq রেট লিমিট প্রয়োগ করে সংস্থার উপর, প্রতি ব্যবহারকারী বা কীর উপর নয়। এই মানগুলো Groq-এর rate limits পেজের Free Plan ট্যাব থেকে নেওয়া। ক্যাশ করা টোকেন সীমায় গণনা হয় না।

Groq ফ্রি প্ল্যানের সীমা, 20 নভেম্বর 2026-এ যাচাই করা
মডেলRPMRPDTPMTPD
openai/gpt-oss-120b301,0008,000200,000
openai/gpt-oss-20b301,0008,000200,000
openai/gpt-oss-safeguard-20b31,0002,000200,000
qwen/qwen3.8-27b301,0008,000200,000
meta-llama/llama-prompt-guard-2-86m3014,40015,000500,000
whisper-large-v3202,000--

Whisper মডেলেরও অডিও সীমা আছে: প্রতি ঘণ্টায় 7,200 অডিও সেকেন্ড এবং প্রতিদিন 28,800। নিচের টেবিলে FreeLLMAPI ক্যাটালগের Groq সারিগুলো দেখানো হয়েছে। ক্যাটালগের মান ও Groq-এর পেজ আলাদা হলে, Groq-এর পেজই কর্তৃত্বপূর্ণ।

আজ ফ্রি ক্যাটালগে Groq মডেল
মডেলবিনামূল্যেকনটেক্সটবিনামূল্যের সীমা (সেরা অফার)টুলভিশন
Qwen3.8 27BGroq262K30 অনুরোধ/মিনিট
250 অনুরোধ/দিন
70,000 টোকেন/মিনিট
~6M
হ্যাঁহ্যাঁ
GPT-OSS 120BGroq131K30 অনুরোধ/মিনিট
1,000 অনুরোধ/দিন
8,000 টোকেন/মিনিট
200,000 টোকেন/দিন
~6M
হ্যাঁনা
GPT-OSS 20BGroq131K30 অনুরোধ/মিনিট
1,000 অনুরোধ/দিন
8,000 টোকেন/মিনিট
200,000 টোকেন/দিন
~6M
হ্যাঁনা
GPT-OSS Safeguard 20BGroq131K30 অনুরোধ/মিনিট
1,000 অনুরোধ/দিন
8,000 টোকেন/মিনিট
200,000 টোকেন/দিন
~6M
হ্যাঁনা
ALLaM 2 7BGroq4K30 অনুরোধ/মিনিট
1,000 অনুরোধ/দিন
6,000 টোকেন/মিনিট
500,000 টোকেন/দিন
~15M
নানা
Llama Prompt Guard 2 22MGroq51230 অনুরোধ/মিনিট
14,400 অনুরোধ/দিন
15,000 টোকেন/মিনিট
14.4K rpd
নানা
Llama Prompt Guard 2 86MGroq51230 অনুরোধ/মিনিট
14,400 অনুরোধ/দিন
15,000 টোকেন/মিনিট
14.4K rpd
নানা

FreeLLMAPI ক্যাটালগের লাইভ ডেটা (সংস্করণ 2026.11.19, যাচাই: 2026-11-19)। বিনামূল্যের সীমা প্রায়ই বদলায়। ক্যাটালগ প্রতিদিন যাচাই করা হয়।

রেট লিমিট হেডার

প্রতিটি Groq রেসপন্সে রেট লিমিট হেডার থাকে। 429 পাওয়ার আগে ধীর হতে এগুলো পড়ুন।

হেডারকোন সীমাঅর্থ
x-ratelimit-limit-requestsRPDপ্রতিদিন অনুমোদিত অনুরোধ
x-ratelimit-remaining-requestsRPDআজ বাকি অনুরোধ
x-ratelimit-reset-requestsRPDঅনুরোধ সীমা রিসেট হওয়ার সময়, যেমন 2m59.56s
x-ratelimit-limit-tokensTPMপ্রতি মিনিটে অনুমোদিত টোকেন
x-ratelimit-remaining-tokensTPMএই মিনিটে বাকি টোকেন
x-ratelimit-reset-tokensTPMটোকেন সীমা রিসেট হওয়ার সময়, যেমন 7.66s
retry-afterযেকোনোঅপেক্ষা করার সেকেন্ড। আপনি একটি সীমায় পৌঁছানোর পরেই Groq এটি সেট করে।

হেডারগুলো দেখুন

curl -s -D - -o /dev/null https://api.groq.com/openai/v1/chat/completions \
  -H "Authorization: Bearer <groq-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "hi"}]}' \
  | grep -i -E 'x-ratelimit|retry-after'

সঠিকভাবে আবার চেষ্টা করুন

Groq পাঠালে retry-after ব্যবহার করুন। না থাকলে একটি সীমাসহ exponential backoff ব্যবহার করুন। দৈনিক সীমা টাইট লুপে আবার চেষ্টা করবেন না। প্রতিটি আবার চেষ্টা একটি নতুন অনুরোধ।

retry-after সহ আবার চেষ্টা করুন (Python)

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.groq.com/openai/v1", api_key="<groq-key>")

def ask(prompt, model="openai/gpt-oss-20b"):
    for attempt in range(5):
        try:
            r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
            return r.choices[0].message.content
        except RateLimitError as e:
            wait = e.response.headers.get("retry-after")
            time.sleep(float(wait) if wait else min(60, 2 ** attempt))
    raise RuntimeError("Groq rate limit: retries used up")
  • বার্তায় RPD বা TPD নাম থাকলে এবং অপেক্ষা কয়েক মিনিট হলে, অন্য মডেল বা প্রোভাইডারে যান।
  • Groq থেকে বেশি সীমা পেতে Developer টিয়ারে আপগ্রেড করুন। এর জন্য একটি পেমেন্ট পদ্ধতি লাগে।
  • HTTP 498 একটি ভিন্ন ত্রুটি। এর অর্থ flex টিয়ার ধারণক্ষমতার সীমায়।

Groq বাজেট পরিকল্পনা করুন

হিসাব করলে ফ্রি সীমা ছোট। আপনার কাজের জন্য কোন সীমা আগে থামায় তা পরীক্ষা করুন।

  • অনুরোধ: প্রতি মিনিটে 30 অনুরোধে, প্রতিদিন 1,000 অনুরোধ পূর্ণ গতিতে প্রায় 34 মিনিট চলে।
  • প্রতি মিনিটে টোকেন: 8,000 TPM প্রতি মিনিটে প্রায় চারটি 2,000 টোকেনের অনুরোধ দেয়। 9,000 টোকেনের একটি অনুরোধ error 413 পায়।
  • প্রতিদিনের টোকেন: 200,000 TPD প্রায় 25টি 8,000 টোকেনের অনুরোধ। কোডিং এজেন্ট বড় প্রম্পট পাঠায়, তাই TPD প্রায়ই RPD-এর আগে শেষ হয়।
  • সংস্থা: সব কী ও সংস্থার সব সদস্য এই সংখ্যাগুলো ভাগ করে।

এজেন্টের কাজের জন্য প্রম্পট ছোট ও স্পষ্ট রাখুন, এবং পুরনো কনটেক্সট ঘন ঘন পরিষ্কার করুন। দ্রুত, ছোট কলের জন্য Groq ব্যবহার করুন। দীর্ঘ-কনটেক্সট কলের জন্য বেশি টোকেন সীমার প্রোভাইডারে পাঠান।

Groq ভরা থাকলে ফেইলওভার

FreeLLMAPI একটি ওপেন-সোর্স গেটওয়ে, যা আপনার কম্পিউটারে চলে। এটি প্রতিটি Groq মডেল ও কীর জন্য RPM, RPD, TPM ও TPD কাউন্টার রাখে। প্রতিটি অনুরোধের আগে এগুলো যাচাই করে। Groq ভরা থাকলে রাউটার অনুরোধটি পরবর্তী ফ্রি প্রোভাইডারে পাঠায়।

  • প্রতি মিনিটের সীমায় একটি ছোট 429 কীটিকে 90 সেকেন্ডের কুলডাউনে রাখে।
  • দৈনিক সীমায় 429 একটি দীর্ঘ কুলডাউন ব্যবহার করে, অথবা Groq-এর রিট্রাই সময় যদি আরও দীর্ঘ হয়, সেটি ব্যবহার করে।
  • Groq-এর ত্রুটি বডি প্রকৃত সীমা বললে, রাউটার সেটি সংরক্ষণ করে। উদাহরণস্বরূপ, Limit 30000, Requested 33476 সহ একটি 413 TPM সীমা 30,000-এ সেট করে।
  • X-Fallback-Trail হেডার প্রতিটি ব্যর্থ ধাপ দেখায়, উদাহরণস্বরূপ groq/llama-3.3-70b key1=rate_limited।

Groq-এর বদলে গেটওয়ে কল করুন

curl -i http://localhost:3001/v1/chat/completions \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "auto:fast", "messages": [{"role": "user", "content": "hi"}]}'

auto:fast মাপা সবচেয়ে ভালো গতির মডেলগুলোকে অগ্রাধিকার দেয়। Groq সীমায় থাকলে অন্য প্রোভাইডার উত্তর দেয়। তারা Groq-এর চেয়ে ধীর হতে পারে।

একটি কী দিয়ে এর প্রতিটি ব্যবহার করুন। FreeLLMAPI একটি ওপেন-সোর্স, নিজের সার্ভারে চালানো রাউটার। এটি এই সব বিনামূল্যের টিয়ার একটি মাত্র OpenAI-সামঞ্জস্যপূর্ণ এন্ডপয়েন্টের পেছনে রাখে এবং কোনো একটির সীমা শেষ হলে অন্যটিতে সরে যায়। ক্যাটালগ ব্রাউজ করুন অথবা শুরু করুন.

সাধারণ প্রশ্ন

Groq-এ 'Rate limit reached for model' মানে কী?

আপনার সংস্থা সেই মডেলের একটি সীমা পুরোটাই ব্যবহার করে ফেলেছে। বার্তায় সীমার নাম (RPM, RPD, TPM বা TPD) এবং অপেক্ষার সময় থাকে।

Groq ফ্রি টিয়ারের রেট লিমিট কত?

মডেল অনুযায়ী আলাদা। ফ্রি প্ল্যানে openai/gpt-oss-120b প্রতি মিনিটে 30 অনুরোধ, প্রতিদিন 1,000, প্রতি মিনিটে 8,000 টোকেন এবং প্রতিদিন 200,000 টোকেন অনুমোদন করে।

কেন আমি Groq error 413 Request too large পাই?

একটি অনুরোধে মডেলের TPM সীমার চেয়ে বেশি টোকেন আছে। প্রম্পট ছোট করুন, অথবা উচ্চ TPM সীমার মডেল ব্যবহার করুন। অপেক্ষা করলে এটি ঠিক হয় না।

নতুন Groq API কী কি রেট লিমিট রিসেট করে?

না। Groq সংস্থার উপর সীমা প্রয়োগ করে, তাই তার সব কী একই সীমা ভাগ করে।

কীভাবে আমার Groq রেট লিমিট বাড়াব?

একটি পেমেন্ট পদ্ধতিসহ Developer টিয়ারে আপগ্রেড করুন। ফ্রি থাকতে, একটি গেটওয়ের পিছনে অন্য প্রোভাইডার যোগ করুন যা Groq ভরা থাকলে ফেইলওভার করে।

সম্পর্কিত গাইড

উৎস

সব গাইড · সব বিনামূল্যের মডেল দেখুন