ہوم / گائیڈز / NVIDIA NIM API ریٹ حد

NVIDIA NIM API ریٹ حد

build.nvidia.com پر مفت NVIDIA API Catalog میں کریڈٹ بیلنس نہیں، بلکہ ریٹ حد ہے۔ بہت سے مفت اکاؤنٹس فی منٹ 40 درخواستوں کی حد بتاتے ہیں۔ یہ صفحہ بتاتا ہے کہ NVIDIA حد کے بارے میں کیا کہتا ہے، حد بڑھانے کی درخواستیں کم ہی کیوں کام کرتی ہیں، اور اس کے اندر کیسے رہا جائے۔

کوڈ، ماڈل کے نام اور براہِ راست کیٹلاگ کے لیبل انگریزی میں دکھائے جاتے ہیں۔

NVIDIA حد کے بارے میں کیا کہتا ہے

ستمبر 2025 میں، ایک NVIDIA عملے کے رکن نے ڈیولپر فورم پر لکھا: "We no longer use a credit-based system for build.nvidia.com." ٹرائل استعمال کی ریٹ حدوں نے کریڈٹس کی جگہ لے لی۔ اسی جواب میں لکھا ہے کہ حدیں ہر ماڈل کے لیے مختلف ہیں اور NVIDIA انہیں شائع نہیں کرتا۔ آپ اپنی زیادہ سے زیادہ ریٹ حد build.nvidia.com کے اوپر دائیں جانب دیکھ سکتے ہیں۔

NIM FAQ کہتا ہے کہ ایک مدت میں اجازت شدہ کالز کی تعداد "is designed to serve evaluation and prototyping needs only"۔ NVIDIA Developer Program کے ممبران پروٹو ٹائپنگ کے لیے NIM API اینڈ پوائنٹس تک مفت رسائی حاصل کرتے ہیں۔

40 RPM قدر کے بارے میں: فی منٹ 40 درخواستیں وہ قدر ہے جو زیادہ تر مفت اکاؤنٹس NVIDIA فورم پر بتاتے ہیں۔ یہ کسی سرکاری NVIDIA صفحے پر نہیں ہے۔ اپنی اصل حد کے لیے اپنا اکاؤنٹ چیک کریں۔

کیا 40 RPM حد بڑھائی جا سکتی ہے؟

NVIDIA ڈیولپر فورم پر بہت سی پوسٹس میں 200 RPM یا اس سے زیادہ کی درخواست کی گئی ہے۔ ہمیں مفت اکاؤنٹ کے لیے حد بڑھانے کا کوئی سرکاری طریقہ نہیں ملا۔ ایک فورم جواب کہتا ہے کہ NVIDIA مفت ذاتی اکاؤنٹس کے لیے حدیں دستی طور پر نہیں بڑھا سکتا۔ ہم تصدیق نہیں کر سکے کہ یہ جواب NVIDIA عملے کی طرف سے ہے۔

NIM FAQ زیادہ صلاحیت کے لیے دوسرے اختیارات بتاتا ہے:

  • NIM کو اپنے کلاؤڈ فراہم کنندہ یا اپنے GPUs پر خود میزبانی کریں۔
  • کسی پارٹنر کا پروڈکشن سرور لیس NIM API استعمال کریں، مثلاً Hugging Face، جس کی قیمت استعمال کے حساب سے ہے۔
  • 90 دن کا NVIDIA AI Enterprise ٹرائل شروع کریں، جو پروڈکشن تعیناتی کے لیے ہے۔

زیادہ درخواستوں کے لیے مزید NVIDIA اکاؤنٹس نہ بنائیں۔ ٹرائل شرائط NVIDIA کو استعمال کی حدیں مقرر کرنے دیتی ہیں، اور مفت رسائی صرف محدود ٹرائل مقاصد کے لیے ہے۔

زیادہ تھروپٹ حاصل کرنے کے طریقے
اختیارلاگتزیادہ درخواستیں؟
فورم پر زیادہ مفت حد کی درخواست کریںمفتکوئی سرکاری طریقہ نہیں ملا
حد کے اندر درخواستوں کی رفتار رکھیںمفتنہیں، لیکن 429 غلطیاں کم
فال اوور کے ساتھ دوسرے مفت فراہم کنندگان شامل کریںمفتہاں، دوسرے فراہم کنندگان سے
پارٹنر سے سرور لیس NIMاستعمال کے حساب سے ادائیگیہاں
NIM کی خود میزبانیآپ کے GPUsہاں

ٹرائل شرائط کیا اجازت دیتی ہیں

NVIDIA API Trial Terms کا سیکشن 1.2 رسائی "for limited trial purposes only" دیتا ہے۔ یہ سروس یا اس کے آؤٹ پٹ کو پروڈکشن میں استعمال سے خارج کرتا ہے۔ سیکشن 1.4 کہتا ہے کہ سبسکرپشن کے بغیر آپ سروس صرف اندرونی جانچ اور جائزے کے لیے استعمال کر سکتے ہیں۔

سیکشن 3.3 کہتا ہے کہ NVIDIA اپنی مصنوعات بشمول AI ماڈلز کو بہتر بنانے کے لیے آپ کا مواد اور تیار شدہ مواد جمع کرتا ہے۔ ٹرائل سروس کو نجی ڈیٹا نہ بھیجیں۔ دوسرے فراہم کنندگان کے لیے مفت LLM API کا تجارتی استعمال پڑھیں۔

آج کے مفت NIM ماڈلز

کیٹلاگ یہ مفت NVIDIA ماڈلز درج کرتا ہے۔ حد فی اکاؤنٹ ہے، اس لیے تمام ماڈلز ایک ہی فی منٹ درخواستیں شیئر کرتے ہیں۔

آج کیٹلاگ میں مفت NVIDIA NIM ماڈلز
ماڈلمفت دستیابسیاق و سباقمفت حدیں (بہترین پیشکش)ٹولزویژن
GLM 5.3 FlashNVIDIA NIM1M40 درخواستیں فی منٹ
40 RPM
ہاںنہیں
Step 5 PreviewNVIDIA NIM-Ongoing developer prototypingنہیںنہیں
Nemotron-3 Ultra 550BNVIDIA NIM1M40 درخواستیں فی منٹ
40 RPM
ہاںنہیں
Muse Glimmer 30BNVIDIA NIM131K40 درخواستیں فی منٹ
40 RPM
ہاںہاں
Gemma 4 31BNVIDIA NIM262K40 درخواستیں فی منٹ
40 RPM
نہیںنہیں
Poolside Laguna XS 2.1NVIDIA NIM262K40 درخواستیں فی منٹ
40 RPM
ہاںنہیں
Nemotron 3 Super 120BNVIDIA NIM262K40 درخواستیں فی منٹ
40 RPM
ہاںنہیں
Nemotron 3.5 Lightning 30B A3BNVIDIA NIM1M40 درخواستیں فی منٹ
40 RPM
ہاںنہیں
DiffusionGemma 26B A4B ITNVIDIA NIM262K40 درخواستیں فی منٹ
40 RPM
نہیںہاں
GPT-OSS 20BNVIDIA NIM131K40 درخواستیں فی منٹ
40 RPM
ہاںنہیں
Nemotron 3 Nano Omni 30B A3B ReasoningNVIDIA NIM262K40 درخواستیں فی منٹ
40 RPM
نہیںہاں
Ising Calibration 1.5 31BNVIDIA NIM131K40 درخواستیں فی منٹ
40 RPM
نہیںہاں

19 میں سے 12 مماثل مفت ماڈلز دکھائے جا رہے ہیں۔ تمام ماڈلز دیکھیں.

FreeLLMAPI کیٹلاگ کا براہِ راست ڈیٹا (ورژن 2026.11.19، 2026-11-19 کو جانچا گیا)۔ مفت حدیں اکثر بدلتی ہیں۔ کیٹلاگ ہر روز جانچا جاتا ہے۔

فراہم کنندہمعلوم مسئلہکیا کریں
NVIDIA NIMRecurring free, 40 RPM, eval-only ToSNVIDIA NIM replaced its depleting trial credits with a recurring per-account rate limit (40 RPM default, varies by model), verified June 2026. The trial ToS still scopes usage to evaluation/prototyping, not production.
NVIDIA NIMDeveloper evaluation and data-use termsOngoing zero-price hosted developer access, not a monthly credit grant or unrestricted production service. NVIDIA trial/prototyping and data-use terms apply. Do not submit personal or confidential data. Text completions with exact model identity passed on October 15, 2026; tool and vision flags remain off until separately tested. Sources: https://build.nvidia.com/stepfun-ai/step-5-preview and https://openrouter.ai/nvidia/nemotron-3.5-super-vl:free

FreeLLMAPI کیٹلاگ کا براہِ راست ڈیٹا (ورژن 2026.11.19، 2026-11-19 کو جانچا گیا)۔ مفت حدیں اکثر بدلتی ہیں۔ کیٹلاگ ہر روز جانچا جاتا ہے۔

حد کے اندر کیسے رہیں

فی منٹ 40 درخواستوں پر، آپ اوسطاً ہر 1.5 سیکنڈ میں ایک درخواست بھیج سکتے ہیں۔ متوازی درخواستوں کا ایک جھونکا چند سیکنڈ میں حد تک پہنچ جاتا ہے۔ یہ اصول استعمال کریں:

  1. اپنے کلائنٹ میں متوازی درخواستوں کی تعداد محدود کریں۔ زیادہ تر ایجنٹس کے لیے ایک وقت میں دو یا تین محفوظ ہیں۔
  2. ہر 429 کو exponential backoff اور jitter کے ساتھ دوبارہ کوشش کریں۔ ایک مقررہ تعداد کی کوششوں کے بعد رک جائیں۔
  3. تمام ماڈلز پر درخواستیں گنیں۔ حد اکاؤنٹ کے لیے ہے، ہر ماڈل کے لیے نہیں۔
  4. چھوٹے، سادہ کام دوسرے فراہم کنندگان کو بھیجیں۔ NVIDIA کو وہ بڑے ماڈلز دیں جو صرف NVIDIA مفت دیتا ہے۔

سادہ کلائنٹ کی طرف سے رفتار کنٹرول (Python)

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://integrate.api.nvidia.com/v1", api_key="<nvidia-key>")
MIN_GAP = 60 / 40  # seconds between requests at 40 RPM
last = 0.0

def ask(prompt, model="openai/gpt-oss-20b"):
    global last
    for attempt in range(5):
        wait = MIN_GAP - (time.time() - last)
        if wait > 0:
            time.sleep(wait)
        last = time.time()
        try:
            r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(2 ** attempt)
    raise RuntimeError("NVIDIA rate limit: retries used up")

FreeLLMAPI کے ساتھ لوڈ تقسیم کریں

FreeLLMAPI ایک اوپن سورس گیٹ وے ہے جو آپ کے کمپیوٹر پر چلتا ہے۔ یہ NVIDIA کو پورے اکاؤنٹ کے لیے فی منٹ 40 درخواستوں کا ایک پول سمجھتا ہے۔ درخواست بھیجنے سے پہلے یہ اس پول کو چیک کرتا ہے۔ جب پول بھرا ہو، تو یہ درخواست آپ کی چین کے اگلے مفت فراہم کنندہ کو بھیجتا ہے۔

  • پورے اکاؤنٹ کی فی منٹ حد PROVIDER_MINUTE_REQUEST_CAP_NVIDIA سے مقرر ہوتی ہے۔ اگر آپ کے اکاؤنٹ میں چھوٹی حد دکھائی دے تو اسے کم کریں۔
  • NVIDIA کو متوازی درخواستیں محدود کرنے کے لیے MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIA مقرر کریں۔
  • NVIDIA سے 429 کلید کو مختصر کول ڈاؤن پر ڈالتا ہے۔ اس کے بعد راؤٹر دوسرے فراہم کنندگان آزماتا ہے۔
  • X-Routed-Via ہیڈر دکھاتا ہے کہ ہر درخواست کا جواب کس فراہم کنندہ نے دیا۔

~/freellmapi/.env (Docker انسٹال)

PROVIDER_MINUTE_REQUEST_CAP_NVIDIA=30
MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIA=2

# then restart the container
cd ~/freellmapi && docker compose up -d

ون لائن انسٹالر اپنی ترتیبات ~/freellmapi/.env میں رکھتا ہے۔ ان دو لائنوں کو اس فائل میں شامل کریں، پھر کنٹینر دوبارہ شروع کریں۔ NVIDIA کی ڈیفالٹ کیپ فی منٹ 40 درخواستیں ہے۔ قدر 0 اس فراہم کنندہ کے لیے اکاؤنٹ کی سطح کا گیٹ بند کر دیتی ہے۔

فال اوور NVIDIA کی حد نہیں بڑھاتا۔ جب NVIDIA بھرا ہو، تو یہ دوسرے مفت ٹائرز استعمال کرتا ہے، مثلاً Groq، Gemini اور Cloudflare۔

ان سب کو ایک ہی کلید سے استعمال کریں۔ FreeLLMAPI ایک اوپن سورس، خود میزبانی والا راؤٹر ہے۔ یہ ان تمام مفت ٹائرز کو ایک ہی OpenAI سے ہم آہنگ اینڈ پوائنٹ کے پیچھے رکھتا ہے، اور جب کوئی ایک ریٹ لمٹ ہو جائے تو خودکار طور پر دوسرے پر منتقل ہو جاتا ہے۔ کیٹلاگ دیکھیں یا لائیو جائیں.

اکثر پوچھے گئے سوالات

NVIDIA NIM API کی ریٹ حد کیا ہے؟

NVIDIA ایک نمبر شائع نہیں کرتا۔ عملے کا کہنا ہے کہ حدیں ماڈل کے لحاظ سے مختلف ہیں، اور آپ اپنی حد build.nvidia.com کے اوپر دائیں جانب دیکھ سکتے ہیں۔ زیادہ تر مفت اکاؤنٹس فی منٹ 40 درخواستیں بتاتے ہیں۔

40 RPM سے NVIDIA NIM ریٹ حد کیسے بڑھاؤں؟

ہمیں مفت اکاؤنٹس کے لیے کوئی سرکاری طریقہ نہیں ملا۔ NVIDIA کا FAQ زیادہ صلاحیت کے لیے خود میزبانی، Hugging Face جیسا ادا شدہ سرور لیس پارٹنر، یا NVIDIA AI Enterprise ٹرائل کی طرف اشارہ کرتا ہے۔

کیا NVIDIA NIM اب بھی کریڈٹس استعمال کرتا ہے؟

نہیں۔ NVIDIA عملے نے ستمبر 2025 میں کہا تھا کہ build.nvidia.com اب کریڈٹس استعمال نہیں کرتا۔ ٹرائل استعمال اب ریٹ حدوں سے کنٹرول ہوتا ہے۔

کیا میں مفت NVIDIA API پروڈکشن میں استعمال کر سکتا ہوں؟

نہیں۔ NVIDIA API Trial Terms صرف محدود ٹرائل استعمال کی اجازت دیتی ہیں، پروڈکشن کی نہیں۔ پروڈکشن استعمال کے لیے NVIDIA AI Enterprise لائسنس یا ادا شدہ فراہم کنندہ درکار ہے۔

کیا NVIDIA کی 40 RPM حد فی ماڈل ہے یا فی اکاؤنٹ؟

مفت صارفین پورے اکاؤنٹ پر ایک حد بتاتے ہیں۔ منصوبہ بنائیں کہ تمام ماڈلز اسے شیئر کریں گے، اور ہر اس ماڈل پر درخواستوں کی رفتار رکھیں جسے آپ کال کرتے ہیں۔

متعلقہ گائیڈز

ماخذ

تمام گائیڈز · تمام مفت ماڈلز دیکھیں