NVIDIA NIM API ریٹ حد
build.nvidia.com پر مفت NVIDIA API Catalog میں کریڈٹ بیلنس نہیں، بلکہ ریٹ حد ہے۔ بہت سے مفت اکاؤنٹس فی منٹ 40 درخواستوں کی حد بتاتے ہیں۔ یہ صفحہ بتاتا ہے کہ NVIDIA حد کے بارے میں کیا کہتا ہے، حد بڑھانے کی درخواستیں کم ہی کیوں کام کرتی ہیں، اور اس کے اندر کیسے رہا جائے۔
کوڈ، ماڈل کے نام اور براہِ راست کیٹلاگ کے لیبل انگریزی میں دکھائے جاتے ہیں۔
NVIDIA حد کے بارے میں کیا کہتا ہے
ستمبر 2025 میں، ایک NVIDIA عملے کے رکن نے ڈیولپر فورم پر لکھا: "We no longer use a credit-based system for build.nvidia.com." ٹرائل استعمال کی ریٹ حدوں نے کریڈٹس کی جگہ لے لی۔ اسی جواب میں لکھا ہے کہ حدیں ہر ماڈل کے لیے مختلف ہیں اور NVIDIA انہیں شائع نہیں کرتا۔ آپ اپنی زیادہ سے زیادہ ریٹ حد build.nvidia.com کے اوپر دائیں جانب دیکھ سکتے ہیں۔
NIM FAQ کہتا ہے کہ ایک مدت میں اجازت شدہ کالز کی تعداد "is designed to serve evaluation and prototyping needs only"۔ NVIDIA Developer Program کے ممبران پروٹو ٹائپنگ کے لیے NIM API اینڈ پوائنٹس تک مفت رسائی حاصل کرتے ہیں۔
کیا 40 RPM حد بڑھائی جا سکتی ہے؟
NVIDIA ڈیولپر فورم پر بہت سی پوسٹس میں 200 RPM یا اس سے زیادہ کی درخواست کی گئی ہے۔ ہمیں مفت اکاؤنٹ کے لیے حد بڑھانے کا کوئی سرکاری طریقہ نہیں ملا۔ ایک فورم جواب کہتا ہے کہ NVIDIA مفت ذاتی اکاؤنٹس کے لیے حدیں دستی طور پر نہیں بڑھا سکتا۔ ہم تصدیق نہیں کر سکے کہ یہ جواب NVIDIA عملے کی طرف سے ہے۔
NIM FAQ زیادہ صلاحیت کے لیے دوسرے اختیارات بتاتا ہے:
- NIM کو اپنے کلاؤڈ فراہم کنندہ یا اپنے GPUs پر خود میزبانی کریں۔
- کسی پارٹنر کا پروڈکشن سرور لیس NIM API استعمال کریں، مثلاً Hugging Face، جس کی قیمت استعمال کے حساب سے ہے۔
- 90 دن کا NVIDIA AI Enterprise ٹرائل شروع کریں، جو پروڈکشن تعیناتی کے لیے ہے۔
زیادہ درخواستوں کے لیے مزید NVIDIA اکاؤنٹس نہ بنائیں۔ ٹرائل شرائط NVIDIA کو استعمال کی حدیں مقرر کرنے دیتی ہیں، اور مفت رسائی صرف محدود ٹرائل مقاصد کے لیے ہے۔
| اختیار | لاگت | زیادہ درخواستیں؟ |
|---|---|---|
| فورم پر زیادہ مفت حد کی درخواست کریں | مفت | کوئی سرکاری طریقہ نہیں ملا |
| حد کے اندر درخواستوں کی رفتار رکھیں | مفت | نہیں، لیکن 429 غلطیاں کم |
| فال اوور کے ساتھ دوسرے مفت فراہم کنندگان شامل کریں | مفت | ہاں، دوسرے فراہم کنندگان سے |
| پارٹنر سے سرور لیس NIM | استعمال کے حساب سے ادائیگی | ہاں |
| NIM کی خود میزبانی | آپ کے GPUs | ہاں |
ٹرائل شرائط کیا اجازت دیتی ہیں
NVIDIA API Trial Terms کا سیکشن 1.2 رسائی "for limited trial purposes only" دیتا ہے۔ یہ سروس یا اس کے آؤٹ پٹ کو پروڈکشن میں استعمال سے خارج کرتا ہے۔ سیکشن 1.4 کہتا ہے کہ سبسکرپشن کے بغیر آپ سروس صرف اندرونی جانچ اور جائزے کے لیے استعمال کر سکتے ہیں۔
سیکشن 3.3 کہتا ہے کہ NVIDIA اپنی مصنوعات بشمول AI ماڈلز کو بہتر بنانے کے لیے آپ کا مواد اور تیار شدہ مواد جمع کرتا ہے۔ ٹرائل سروس کو نجی ڈیٹا نہ بھیجیں۔ دوسرے فراہم کنندگان کے لیے مفت LLM API کا تجارتی استعمال پڑھیں۔
آج کے مفت NIM ماڈلز
کیٹلاگ یہ مفت NVIDIA ماڈلز درج کرتا ہے۔ حد فی اکاؤنٹ ہے، اس لیے تمام ماڈلز ایک ہی فی منٹ درخواستیں شیئر کرتے ہیں۔
| ماڈل | مفت دستیاب | سیاق و سباق | مفت حدیں (بہترین پیشکش) | ٹولز | ویژن |
|---|---|---|---|---|---|
| GLM 5.3 Flash | NVIDIA NIM | 1M | 40 درخواستیں فی منٹ 40 RPM | ہاں | نہیں |
| Step 5 Preview | NVIDIA NIM | - | Ongoing developer prototyping | نہیں | نہیں |
| Nemotron-3 Ultra 550B | NVIDIA NIM | 1M | 40 درخواستیں فی منٹ 40 RPM | ہاں | نہیں |
| Muse Glimmer 30B | NVIDIA NIM | 131K | 40 درخواستیں فی منٹ 40 RPM | ہاں | ہاں |
| Gemma 4 31B | NVIDIA NIM | 262K | 40 درخواستیں فی منٹ 40 RPM | نہیں | نہیں |
| Poolside Laguna XS 2.1 | NVIDIA NIM | 262K | 40 درخواستیں فی منٹ 40 RPM | ہاں | نہیں |
| Nemotron 3 Super 120B | NVIDIA NIM | 262K | 40 درخواستیں فی منٹ 40 RPM | ہاں | نہیں |
| Nemotron 3.5 Lightning 30B A3B | NVIDIA NIM | 1M | 40 درخواستیں فی منٹ 40 RPM | ہاں | نہیں |
| DiffusionGemma 26B A4B IT | NVIDIA NIM | 262K | 40 درخواستیں فی منٹ 40 RPM | نہیں | ہاں |
| GPT-OSS 20B | NVIDIA NIM | 131K | 40 درخواستیں فی منٹ 40 RPM | ہاں | نہیں |
| Nemotron 3 Nano Omni 30B A3B Reasoning | NVIDIA NIM | 262K | 40 درخواستیں فی منٹ 40 RPM | نہیں | ہاں |
| Ising Calibration 1.5 31B | NVIDIA NIM | 131K | 40 درخواستیں فی منٹ 40 RPM | نہیں | ہاں |
19 میں سے 12 مماثل مفت ماڈلز دکھائے جا رہے ہیں۔ تمام ماڈلز دیکھیں.
FreeLLMAPI کیٹلاگ کا براہِ راست ڈیٹا (ورژن 2026.11.19، 2026-11-19 کو جانچا گیا)۔ مفت حدیں اکثر بدلتی ہیں۔ کیٹلاگ ہر روز جانچا جاتا ہے۔
| فراہم کنندہ | معلوم مسئلہ | کیا کریں |
|---|---|---|
| NVIDIA NIM | Recurring free, 40 RPM, eval-only ToS | NVIDIA NIM replaced its depleting trial credits with a recurring per-account rate limit (40 RPM default, varies by model), verified June 2026. The trial ToS still scopes usage to evaluation/prototyping, not production. |
| NVIDIA NIM | Developer evaluation and data-use terms | Ongoing zero-price hosted developer access, not a monthly credit grant or unrestricted production service. NVIDIA trial/prototyping and data-use terms apply. Do not submit personal or confidential data. Text completions with exact model identity passed on October 15, 2026; tool and vision flags remain off until separately tested. Sources: https://build.nvidia.com/stepfun-ai/step-5-preview and https://openrouter.ai/nvidia/nemotron-3.5-super-vl:free |
FreeLLMAPI کیٹلاگ کا براہِ راست ڈیٹا (ورژن 2026.11.19، 2026-11-19 کو جانچا گیا)۔ مفت حدیں اکثر بدلتی ہیں۔ کیٹلاگ ہر روز جانچا جاتا ہے۔
حد کے اندر کیسے رہیں
فی منٹ 40 درخواستوں پر، آپ اوسطاً ہر 1.5 سیکنڈ میں ایک درخواست بھیج سکتے ہیں۔ متوازی درخواستوں کا ایک جھونکا چند سیکنڈ میں حد تک پہنچ جاتا ہے۔ یہ اصول استعمال کریں:
- اپنے کلائنٹ میں متوازی درخواستوں کی تعداد محدود کریں۔ زیادہ تر ایجنٹس کے لیے ایک وقت میں دو یا تین محفوظ ہیں۔
- ہر 429 کو exponential backoff اور jitter کے ساتھ دوبارہ کوشش کریں۔ ایک مقررہ تعداد کی کوششوں کے بعد رک جائیں۔
- تمام ماڈلز پر درخواستیں گنیں۔ حد اکاؤنٹ کے لیے ہے، ہر ماڈل کے لیے نہیں۔
- چھوٹے، سادہ کام دوسرے فراہم کنندگان کو بھیجیں۔ NVIDIA کو وہ بڑے ماڈلز دیں جو صرف NVIDIA مفت دیتا ہے۔
سادہ کلائنٹ کی طرف سے رفتار کنٹرول (Python)
import time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://integrate.api.nvidia.com/v1", api_key="<nvidia-key>")
MIN_GAP = 60 / 40 # seconds between requests at 40 RPM
last = 0.0
def ask(prompt, model="openai/gpt-oss-20b"):
global last
for attempt in range(5):
wait = MIN_GAP - (time.time() - last)
if wait > 0:
time.sleep(wait)
last = time.time()
try:
r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
return r.choices[0].message.content
except RateLimitError:
time.sleep(2 ** attempt)
raise RuntimeError("NVIDIA rate limit: retries used up")FreeLLMAPI کے ساتھ لوڈ تقسیم کریں
FreeLLMAPI ایک اوپن سورس گیٹ وے ہے جو آپ کے کمپیوٹر پر چلتا ہے۔ یہ NVIDIA کو پورے اکاؤنٹ کے لیے فی منٹ 40 درخواستوں کا ایک پول سمجھتا ہے۔ درخواست بھیجنے سے پہلے یہ اس پول کو چیک کرتا ہے۔ جب پول بھرا ہو، تو یہ درخواست آپ کی چین کے اگلے مفت فراہم کنندہ کو بھیجتا ہے۔
- پورے اکاؤنٹ کی فی منٹ حد
PROVIDER_MINUTE_REQUEST_CAP_NVIDIAسے مقرر ہوتی ہے۔ اگر آپ کے اکاؤنٹ میں چھوٹی حد دکھائی دے تو اسے کم کریں۔ - NVIDIA کو متوازی درخواستیں محدود کرنے کے لیے
MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIAمقرر کریں۔ - NVIDIA سے 429 کلید کو مختصر کول ڈاؤن پر ڈالتا ہے۔ اس کے بعد راؤٹر دوسرے فراہم کنندگان آزماتا ہے۔
X-Routed-Viaہیڈر دکھاتا ہے کہ ہر درخواست کا جواب کس فراہم کنندہ نے دیا۔
~/freellmapi/.env (Docker انسٹال)
PROVIDER_MINUTE_REQUEST_CAP_NVIDIA=30
MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIA=2
# then restart the container
cd ~/freellmapi && docker compose up -dون لائن انسٹالر اپنی ترتیبات ~/freellmapi/.env میں رکھتا ہے۔ ان دو لائنوں کو اس فائل میں شامل کریں، پھر کنٹینر دوبارہ شروع کریں۔ NVIDIA کی ڈیفالٹ کیپ فی منٹ 40 درخواستیں ہے۔ قدر 0 اس فراہم کنندہ کے لیے اکاؤنٹ کی سطح کا گیٹ بند کر دیتی ہے۔
فال اوور NVIDIA کی حد نہیں بڑھاتا۔ جب NVIDIA بھرا ہو، تو یہ دوسرے مفت ٹائرز استعمال کرتا ہے، مثلاً Groq، Gemini اور Cloudflare۔
اکثر پوچھے گئے سوالات
NVIDIA NIM API کی ریٹ حد کیا ہے؟
NVIDIA ایک نمبر شائع نہیں کرتا۔ عملے کا کہنا ہے کہ حدیں ماڈل کے لحاظ سے مختلف ہیں، اور آپ اپنی حد build.nvidia.com کے اوپر دائیں جانب دیکھ سکتے ہیں۔ زیادہ تر مفت اکاؤنٹس فی منٹ 40 درخواستیں بتاتے ہیں۔
40 RPM سے NVIDIA NIM ریٹ حد کیسے بڑھاؤں؟
ہمیں مفت اکاؤنٹس کے لیے کوئی سرکاری طریقہ نہیں ملا۔ NVIDIA کا FAQ زیادہ صلاحیت کے لیے خود میزبانی، Hugging Face جیسا ادا شدہ سرور لیس پارٹنر، یا NVIDIA AI Enterprise ٹرائل کی طرف اشارہ کرتا ہے۔
کیا NVIDIA NIM اب بھی کریڈٹس استعمال کرتا ہے؟
نہیں۔ NVIDIA عملے نے ستمبر 2025 میں کہا تھا کہ build.nvidia.com اب کریڈٹس استعمال نہیں کرتا۔ ٹرائل استعمال اب ریٹ حدوں سے کنٹرول ہوتا ہے۔
کیا میں مفت NVIDIA API پروڈکشن میں استعمال کر سکتا ہوں؟
نہیں۔ NVIDIA API Trial Terms صرف محدود ٹرائل استعمال کی اجازت دیتی ہیں، پروڈکشن کی نہیں۔ پروڈکشن استعمال کے لیے NVIDIA AI Enterprise لائسنس یا ادا شدہ فراہم کنندہ درکار ہے۔
کیا NVIDIA کی 40 RPM حد فی ماڈل ہے یا فی اکاؤنٹ؟
مفت صارفین پورے اکاؤنٹ پر ایک حد بتاتے ہیں۔ منصوبہ بنائیں کہ تمام ماڈلز اسے شیئر کریں گے، اور ہر اس ماڈل پر درخواستوں کی رفتار رکھیں جسے آپ کال کرتے ہیں۔
متعلقہ گائیڈز
- free nvidia api
- مفت LLM API ریٹ حدیں
- Groq کی rate limit پوری ہو گئی (429)
- Gemini API کا کوٹہ ختم (429 RESOURCE_EXHAUSTED)
- تجارتی استعمال کے لیے مفت LLM API
ماخذ
- NVIDIA developer forum: credit system replaced by rate limits (20 November 2026 کو جانچا گیا)
- NVIDIA NIM FAQ (20 November 2026 کو جانچا گیا)
- NVIDIA API Trial Terms of Service (PDF) (20 November 2026 کو جانچا گیا)
- NVIDIA developer forum: request to raise 40 RPM (20 November 2026 کو جانچا گیا)
- NVIDIA API Catalog: API reference (20 November 2026 کو جانچا گیا)
- FreeLLMAPI docs: Quota and cooldown engine (20 November 2026 کو جانچا گیا)