होम / गाइड / NVIDIA NIM API रेट सीमा

NVIDIA NIM API रेट सीमा

build.nvidia.com पर मुफ़्त NVIDIA API Catalog में क्रेडिट बैलेंस नहीं, बल्कि एक रेट सीमा है। कई मुफ़्त खाते प्रति मिनट 40 अनुरोधों की सीमा बताते हैं। यह पेज बताता है कि NVIDIA सीमा के बारे में क्या कहता है, सीमा बढ़ाने के अनुरोध कम ही क्यों काम करते हैं, और उसके भीतर कैसे रहा जाए।

कोड, मॉडल नाम और लाइव कैटलॉग लेबल अंग्रेज़ी में दिखाए गए हैं।

NVIDIA सीमा के बारे में क्या कहता है

सितंबर 2025 में, एक NVIDIA स्टाफ़ सदस्य ने डेवलपर फ़ोरम पर लिखा: "We no longer use a credit-based system for build.nvidia.com." ट्रायल उपयोग के लिए रेट सीमाओं ने क्रेडिट की जगह ले ली। उसी उत्तर में लिखा है कि सीमाएँ हर मॉडल के अनुसार बदलती हैं और NVIDIA उन्हें प्रकाशित नहीं करता। आप build.nvidia.com के ऊपर दाएँ कोने में अपनी अधिकतम रेट सीमा देख सकते हैं।

NIM FAQ कहता है कि किसी अवधि में अनुमत कॉल की संख्या "is designed to serve evaluation and prototyping needs only"। NVIDIA Developer Program के सदस्यों को प्रोटोटाइप के लिए NIM API एंडपॉइंट की मुफ़्त पहुँच मिलती है।

40 RPM मान के बारे में: 40 अनुरोध प्रति मिनट वह मान है जो अधिकतर मुफ़्त खाते NVIDIA फ़ोरम पर बताते हैं। यह किसी आधिकारिक NVIDIA पेज पर नहीं है। अपनी असली सीमा के लिए अपना खाता जाँचें।

क्या 40 RPM सीमा बढ़ाई जा सकती है?

NVIDIA डेवलपर फ़ोरम पर कई पोस्ट 200 RPM या उससे अधिक माँगती हैं। हमें मुफ़्त खाते के लिए सीमा बढ़ाने की कोई आधिकारिक प्रक्रिया नहीं मिली। एक फ़ोरम उत्तर कहता है कि NVIDIA मुफ़्त व्यक्तिगत खातों की सीमा मैन्युअल रूप से नहीं बढ़ा सकता। हम इस उत्तर की पुष्टि नहीं कर सके कि यह NVIDIA स्टाफ़ का है।

NIM FAQ अधिक क्षमता के लिए दूसरे विकल्प बताता है:

  • अपने क्लाउड प्रदाता पर या अपने GPU पर NIM को खुद होस्ट करें।
  • किसी साझेदार का production serverless NIM API इस्तेमाल करें, उदाहरण के लिए Hugging Face, जिसकी कीमत उपयोग के हिसाब से है।
  • 90 दिन का NVIDIA AI Enterprise ट्रायल शुरू करें, जो production परिनियोजन के लिए है।

अधिक अनुरोधों के लिए और NVIDIA खाते न बनाएँ। ट्रायल शर्तें NVIDIA को उपयोग सीमाएँ तय करने देती हैं, और मुफ़्त पहुँच केवल सीमित ट्रायल उद्देश्यों के लिए है।

अधिक थ्रूपुट पाने के तरीके
विकल्पलागतअधिक अनुरोध?
फ़ोरम पर अधिक मुफ़्त सीमा माँगेंमुफ़्तकोई आधिकारिक प्रक्रिया नहीं मिली
सीमा के भीतर अनुरोधों की गति रखेंमुफ़्तनहीं, पर 429 त्रुटियाँ कम
फ़ेलओवर के साथ दूसरे मुफ़्त प्रदाता जोड़ेंमुफ़्तहाँ, दूसरे प्रदाताओं से
साझेदार से serverless NIMउपयोग के हिसाब से भुगतानहाँ
NIM को खुद होस्ट करेंआपके GPUहाँ

ट्रायल शर्तें क्या अनुमति देती हैं

NVIDIA API Trial Terms की धारा 1.2 पहुँच देती है "for limited trial purposes only"। यह सेवा या उसके आउटपुट के production में उपयोग को बाहर रखती है। धारा 1.4 कहती है कि सदस्यता के बिना आप सेवा का उपयोग केवल आंतरिक परीक्षण और मूल्यांकन के लिए कर सकते हैं।

धारा 3.3 कहती है कि NVIDIA AI मॉडलों सहित अपने उत्पादों को बेहतर बनाने के लिए आपकी सामग्री और उत्पन्न सामग्री एकत्र करता है। ट्रायल सेवा को निजी डेटा न भेजें। दूसरे प्रदाताओं के लिए मुफ़्त LLM API का व्यावसायिक उपयोग पढ़ें।

आज के मुफ़्त NIM मॉडल

कैटलॉग ये मुफ़्त NVIDIA मॉडल सूचीबद्ध करता है। सीमा खाते के अनुसार है, इसलिए सभी मॉडल प्रति मिनट एक ही अनुरोध संख्या साझा करते हैं।

आज कैटलॉग में मुफ़्त NVIDIA NIM मॉडल
मॉडलमुफ़्त उपलब्धकॉन्टेक्स्टमुफ़्त सीमाएँ (सबसे अच्छा विकल्प)टूलविज़न
GLM 5.3 FlashNVIDIA NIM1M40 अनुरोध/मिनट
40 RPM
हाँनहीं
Step 5 PreviewNVIDIA NIM-Ongoing developer prototypingनहींनहीं
Nemotron-3 Ultra 550BNVIDIA NIM1M40 अनुरोध/मिनट
40 RPM
हाँनहीं
Muse Glimmer 30BNVIDIA NIM131K40 अनुरोध/मिनट
40 RPM
हाँहाँ
Gemma 4 31BNVIDIA NIM262K40 अनुरोध/मिनट
40 RPM
नहींनहीं
Poolside Laguna XS 2.1NVIDIA NIM262K40 अनुरोध/मिनट
40 RPM
हाँनहीं
Nemotron 3 Super 120BNVIDIA NIM262K40 अनुरोध/मिनट
40 RPM
हाँनहीं
Nemotron 3.5 Lightning 30B A3BNVIDIA NIM1M40 अनुरोध/मिनट
40 RPM
हाँनहीं
DiffusionGemma 26B A4B ITNVIDIA NIM262K40 अनुरोध/मिनट
40 RPM
नहींहाँ
GPT-OSS 20BNVIDIA NIM131K40 अनुरोध/मिनट
40 RPM
हाँनहीं
Nemotron 3 Nano Omni 30B A3B ReasoningNVIDIA NIM262K40 अनुरोध/मिनट
40 RPM
नहींहाँ
Ising Calibration 1.5 31BNVIDIA NIM131K40 अनुरोध/मिनट
40 RPM
नहींहाँ

19 मिलते-जुलते मुफ़्त मॉडल में से 12 दिखाए जा रहे हैं। सभी मॉडल देखें.

FreeLLMAPI कैटलॉग से लाइव डेटा (संस्करण 2026.11.19, जाँच 2026-11-19)। मुफ़्त सीमाएँ अक्सर बदलती हैं। कैटलॉग की हर दिन जाँच होती है।

प्रदाताज्ञात समस्याक्या करें
NVIDIA NIMRecurring free, 40 RPM, eval-only ToSNVIDIA NIM replaced its depleting trial credits with a recurring per-account rate limit (40 RPM default, varies by model), verified June 2026. The trial ToS still scopes usage to evaluation/prototyping, not production.
NVIDIA NIMDeveloper evaluation and data-use termsOngoing zero-price hosted developer access, not a monthly credit grant or unrestricted production service. NVIDIA trial/prototyping and data-use terms apply. Do not submit personal or confidential data. Text completions with exact model identity passed on October 15, 2026; tool and vision flags remain off until separately tested. Sources: https://build.nvidia.com/stepfun-ai/step-5-preview and https://openrouter.ai/nvidia/nemotron-3.5-super-vl:free

FreeLLMAPI कैटलॉग से लाइव डेटा (संस्करण 2026.11.19, जाँच 2026-11-19)। मुफ़्त सीमाएँ अक्सर बदलती हैं। कैटलॉग की हर दिन जाँच होती है।

सीमा के भीतर कैसे रहें

40 अनुरोध प्रति मिनट पर, औसतन हर 1.5 सेकंड में एक अनुरोध भेज सकते हैं। समानांतर अनुरोधों का एक झटका कुछ सेकंड में सीमा तक पहुँच जाता है। ये नियम इस्तेमाल करें:

  1. अपने क्लाइंट में समानांतर अनुरोधों की संख्या सीमित करें। अधिकतर एजेंटों के लिए एक समय में दो या तीन सुरक्षित हैं।
  2. हर 429 को exponential backoff और jitter के साथ रिट्राई करें। एक तय संख्या के रिट्राई के बाद रुकें।
  3. सभी मॉडलों पर अनुरोध गिनें। सीमा खाते के लिए है, हर मॉडल के लिए नहीं।
  4. छोटे, सरल कार्य दूसरे प्रदाताओं को भेजें। NVIDIA को उन बड़े मॉडलों के लिए रखें जो केवल NVIDIA मुफ़्त देता है।

सरल क्लाइंट-साइड गति नियंत्रण (Python)

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://integrate.api.nvidia.com/v1", api_key="<nvidia-key>")
MIN_GAP = 60 / 40  # seconds between requests at 40 RPM
last = 0.0

def ask(prompt, model="openai/gpt-oss-20b"):
    global last
    for attempt in range(5):
        wait = MIN_GAP - (time.time() - last)
        if wait > 0:
            time.sleep(wait)
        last = time.time()
        try:
            r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(2 ** attempt)
    raise RuntimeError("NVIDIA rate limit: retries used up")

FreeLLMAPI के साथ लोड बाँटें

FreeLLMAPI एक ओपन-सोर्स गेटवे है जो आपके कंप्यूटर पर चलता है। यह NVIDIA को पूरे खाते के लिए 40 अनुरोध प्रति मिनट के एक पूल की तरह देखता है। अनुरोध भेजने से पहले यह उस पूल की जाँच करता है। जब पूल भरा होता है, तो यह अनुरोध आपकी चेन में अगले मुफ़्त प्रदाता को भेज देता है।

  • पूरे खाते की प्रति-मिनट सीमा PROVIDER_MINUTE_REQUEST_CAP_NVIDIA से तय होती है। यदि आपके खाते में कम सीमा दिखती है, तो इसे कम करें।
  • NVIDIA को समानांतर अनुरोध सीमित करने के लिए MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIA सेट करें।
  • NVIDIA से 429 कुंजी को छोटे कूलडाउन पर डाल देता है। तब राउटर दूसरे प्रदाताओं को आज़माता है।
  • X-Routed-Via हेडर दिखाता है कि हर अनुरोध का उत्तर किस प्रदाता ने दिया।

~/freellmapi/.env (Docker इंस्टॉल)

PROVIDER_MINUTE_REQUEST_CAP_NVIDIA=30
MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIA=2

# then restart the container
cd ~/freellmapi && docker compose up -d

एक-लाइन इंस्टॉलर अपनी सेटिंग ~/freellmapi/.env में रखता है। उस फ़ाइल में दो पंक्तियाँ जोड़ें, फिर कंटेनर दोबारा शुरू करें। NVIDIA की डिफ़ॉल्ट सीमा 40 अनुरोध प्रति मिनट है। 0 मान उस प्रदाता के लिए पूरे खाते का गेट बंद कर देता है।

फ़ेलओवर NVIDIA की सीमा नहीं बढ़ाता। जब NVIDIA भरा हो, तब यह दूसरे मुफ़्त टियर इस्तेमाल करता है, उदाहरण के लिए Groq, Gemini और Cloudflare।

इनमें से हर एक का उपयोग एक ही कुंजी से करें। FreeLLMAPI एक ओपन-सोर्स, सेल्फ़-होस्टेड राउटर है। यह इन सभी मुफ़्त टियर को एक OpenAI-संगत एंडपॉइंट के पीछे रखता है। जब कोई एक सीमा पर पहुँचता है, तो यह अगले प्रदाता पर स्विच कर देता है। कैटलॉग देखें या शुरू करें.

अक्सर पूछे जाने वाले प्रश्न

NVIDIA NIM API रेट सीमा क्या है?

NVIDIA एक संख्या प्रकाशित नहीं करता। स्टाफ़ कहता है कि सीमाएँ मॉडल के अनुसार बदलती हैं, और आप अपनी सीमा build.nvidia.com के ऊपर दाएँ कोने में देख सकते हैं। अधिकतर मुफ़्त खाते प्रति मिनट 40 अनुरोध बताते हैं।

NVIDIA NIM रेट सीमा को 40 RPM से कैसे बढ़ाएँ?

हमें मुफ़्त खातों के लिए कोई आधिकारिक प्रक्रिया नहीं मिली। NVIDIA का FAQ अधिक क्षमता के लिए self-hosting, Hugging Face जैसे भुगतान वाले serverless साझेदार, या NVIDIA AI Enterprise ट्रायल की ओर इशारा करता है।

क्या NVIDIA NIM अब भी क्रेडिट इस्तेमाल करता है?

नहीं। NVIDIA स्टाफ़ ने सितंबर 2025 में कहा था कि build.nvidia.com अब क्रेडिट इस्तेमाल नहीं करता। ट्रायल उपयोग अब रेट सीमाओं से नियंत्रित होता है।

क्या मैं मुफ़्त NVIDIA API को production में इस्तेमाल कर सकता हूँ?

नहीं। NVIDIA API Trial Terms केवल सीमित ट्रायल उपयोग की अनुमति देती हैं, production की नहीं। Production उपयोग के लिए NVIDIA AI Enterprise लाइसेंस या भुगतान वाला प्रदाता चाहिए।

क्या NVIDIA की 40 RPM सीमा मॉडल के अनुसार है या खाते के अनुसार?

मुफ़्त उपयोगकर्ता पूरे खाते में एक ही सीमा बताते हैं। योजना ऐसी बनाएँ कि सभी मॉडल उसे साझा करें, और उन सभी मॉडलों पर अनुरोधों की गति रखें जिन्हें आप कॉल करते हैं।

संबंधित गाइड

स्रोत

सभी गाइड · सभी मुफ़्त मॉडल देखें