NVIDIA NIM API रेट सीमा
build.nvidia.com पर मुफ़्त NVIDIA API Catalog में क्रेडिट बैलेंस नहीं, बल्कि एक रेट सीमा है। कई मुफ़्त खाते प्रति मिनट 40 अनुरोधों की सीमा बताते हैं। यह पेज बताता है कि NVIDIA सीमा के बारे में क्या कहता है, सीमा बढ़ाने के अनुरोध कम ही क्यों काम करते हैं, और उसके भीतर कैसे रहा जाए।
कोड, मॉडल नाम और लाइव कैटलॉग लेबल अंग्रेज़ी में दिखाए गए हैं।
NVIDIA सीमा के बारे में क्या कहता है
सितंबर 2025 में, एक NVIDIA स्टाफ़ सदस्य ने डेवलपर फ़ोरम पर लिखा: "We no longer use a credit-based system for build.nvidia.com." ट्रायल उपयोग के लिए रेट सीमाओं ने क्रेडिट की जगह ले ली। उसी उत्तर में लिखा है कि सीमाएँ हर मॉडल के अनुसार बदलती हैं और NVIDIA उन्हें प्रकाशित नहीं करता। आप build.nvidia.com के ऊपर दाएँ कोने में अपनी अधिकतम रेट सीमा देख सकते हैं।
NIM FAQ कहता है कि किसी अवधि में अनुमत कॉल की संख्या "is designed to serve evaluation and prototyping needs only"। NVIDIA Developer Program के सदस्यों को प्रोटोटाइप के लिए NIM API एंडपॉइंट की मुफ़्त पहुँच मिलती है।
क्या 40 RPM सीमा बढ़ाई जा सकती है?
NVIDIA डेवलपर फ़ोरम पर कई पोस्ट 200 RPM या उससे अधिक माँगती हैं। हमें मुफ़्त खाते के लिए सीमा बढ़ाने की कोई आधिकारिक प्रक्रिया नहीं मिली। एक फ़ोरम उत्तर कहता है कि NVIDIA मुफ़्त व्यक्तिगत खातों की सीमा मैन्युअल रूप से नहीं बढ़ा सकता। हम इस उत्तर की पुष्टि नहीं कर सके कि यह NVIDIA स्टाफ़ का है।
NIM FAQ अधिक क्षमता के लिए दूसरे विकल्प बताता है:
- अपने क्लाउड प्रदाता पर या अपने GPU पर NIM को खुद होस्ट करें।
- किसी साझेदार का production serverless NIM API इस्तेमाल करें, उदाहरण के लिए Hugging Face, जिसकी कीमत उपयोग के हिसाब से है।
- 90 दिन का NVIDIA AI Enterprise ट्रायल शुरू करें, जो production परिनियोजन के लिए है।
अधिक अनुरोधों के लिए और NVIDIA खाते न बनाएँ। ट्रायल शर्तें NVIDIA को उपयोग सीमाएँ तय करने देती हैं, और मुफ़्त पहुँच केवल सीमित ट्रायल उद्देश्यों के लिए है।
| विकल्प | लागत | अधिक अनुरोध? |
|---|---|---|
| फ़ोरम पर अधिक मुफ़्त सीमा माँगें | मुफ़्त | कोई आधिकारिक प्रक्रिया नहीं मिली |
| सीमा के भीतर अनुरोधों की गति रखें | मुफ़्त | नहीं, पर 429 त्रुटियाँ कम |
| फ़ेलओवर के साथ दूसरे मुफ़्त प्रदाता जोड़ें | मुफ़्त | हाँ, दूसरे प्रदाताओं से |
| साझेदार से serverless NIM | उपयोग के हिसाब से भुगतान | हाँ |
| NIM को खुद होस्ट करें | आपके GPU | हाँ |
ट्रायल शर्तें क्या अनुमति देती हैं
NVIDIA API Trial Terms की धारा 1.2 पहुँच देती है "for limited trial purposes only"। यह सेवा या उसके आउटपुट के production में उपयोग को बाहर रखती है। धारा 1.4 कहती है कि सदस्यता के बिना आप सेवा का उपयोग केवल आंतरिक परीक्षण और मूल्यांकन के लिए कर सकते हैं।
धारा 3.3 कहती है कि NVIDIA AI मॉडलों सहित अपने उत्पादों को बेहतर बनाने के लिए आपकी सामग्री और उत्पन्न सामग्री एकत्र करता है। ट्रायल सेवा को निजी डेटा न भेजें। दूसरे प्रदाताओं के लिए मुफ़्त LLM API का व्यावसायिक उपयोग पढ़ें।
आज के मुफ़्त NIM मॉडल
कैटलॉग ये मुफ़्त NVIDIA मॉडल सूचीबद्ध करता है। सीमा खाते के अनुसार है, इसलिए सभी मॉडल प्रति मिनट एक ही अनुरोध संख्या साझा करते हैं।
| मॉडल | मुफ़्त उपलब्ध | कॉन्टेक्स्ट | मुफ़्त सीमाएँ (सबसे अच्छा विकल्प) | टूल | विज़न |
|---|---|---|---|---|---|
| GLM 5.3 Flash | NVIDIA NIM | 1M | 40 अनुरोध/मिनट 40 RPM | हाँ | नहीं |
| Step 5 Preview | NVIDIA NIM | - | Ongoing developer prototyping | नहीं | नहीं |
| Nemotron-3 Ultra 550B | NVIDIA NIM | 1M | 40 अनुरोध/मिनट 40 RPM | हाँ | नहीं |
| Muse Glimmer 30B | NVIDIA NIM | 131K | 40 अनुरोध/मिनट 40 RPM | हाँ | हाँ |
| Gemma 4 31B | NVIDIA NIM | 262K | 40 अनुरोध/मिनट 40 RPM | नहीं | नहीं |
| Poolside Laguna XS 2.1 | NVIDIA NIM | 262K | 40 अनुरोध/मिनट 40 RPM | हाँ | नहीं |
| Nemotron 3 Super 120B | NVIDIA NIM | 262K | 40 अनुरोध/मिनट 40 RPM | हाँ | नहीं |
| Nemotron 3.5 Lightning 30B A3B | NVIDIA NIM | 1M | 40 अनुरोध/मिनट 40 RPM | हाँ | नहीं |
| DiffusionGemma 26B A4B IT | NVIDIA NIM | 262K | 40 अनुरोध/मिनट 40 RPM | नहीं | हाँ |
| GPT-OSS 20B | NVIDIA NIM | 131K | 40 अनुरोध/मिनट 40 RPM | हाँ | नहीं |
| Nemotron 3 Nano Omni 30B A3B Reasoning | NVIDIA NIM | 262K | 40 अनुरोध/मिनट 40 RPM | नहीं | हाँ |
| Ising Calibration 1.5 31B | NVIDIA NIM | 131K | 40 अनुरोध/मिनट 40 RPM | नहीं | हाँ |
19 मिलते-जुलते मुफ़्त मॉडल में से 12 दिखाए जा रहे हैं। सभी मॉडल देखें.
FreeLLMAPI कैटलॉग से लाइव डेटा (संस्करण 2026.11.19, जाँच 2026-11-19)। मुफ़्त सीमाएँ अक्सर बदलती हैं। कैटलॉग की हर दिन जाँच होती है।
| प्रदाता | ज्ञात समस्या | क्या करें |
|---|---|---|
| NVIDIA NIM | Recurring free, 40 RPM, eval-only ToS | NVIDIA NIM replaced its depleting trial credits with a recurring per-account rate limit (40 RPM default, varies by model), verified June 2026. The trial ToS still scopes usage to evaluation/prototyping, not production. |
| NVIDIA NIM | Developer evaluation and data-use terms | Ongoing zero-price hosted developer access, not a monthly credit grant or unrestricted production service. NVIDIA trial/prototyping and data-use terms apply. Do not submit personal or confidential data. Text completions with exact model identity passed on October 15, 2026; tool and vision flags remain off until separately tested. Sources: https://build.nvidia.com/stepfun-ai/step-5-preview and https://openrouter.ai/nvidia/nemotron-3.5-super-vl:free |
FreeLLMAPI कैटलॉग से लाइव डेटा (संस्करण 2026.11.19, जाँच 2026-11-19)। मुफ़्त सीमाएँ अक्सर बदलती हैं। कैटलॉग की हर दिन जाँच होती है।
सीमा के भीतर कैसे रहें
40 अनुरोध प्रति मिनट पर, औसतन हर 1.5 सेकंड में एक अनुरोध भेज सकते हैं। समानांतर अनुरोधों का एक झटका कुछ सेकंड में सीमा तक पहुँच जाता है। ये नियम इस्तेमाल करें:
- अपने क्लाइंट में समानांतर अनुरोधों की संख्या सीमित करें। अधिकतर एजेंटों के लिए एक समय में दो या तीन सुरक्षित हैं।
- हर 429 को exponential backoff और jitter के साथ रिट्राई करें। एक तय संख्या के रिट्राई के बाद रुकें।
- सभी मॉडलों पर अनुरोध गिनें। सीमा खाते के लिए है, हर मॉडल के लिए नहीं।
- छोटे, सरल कार्य दूसरे प्रदाताओं को भेजें। NVIDIA को उन बड़े मॉडलों के लिए रखें जो केवल NVIDIA मुफ़्त देता है।
सरल क्लाइंट-साइड गति नियंत्रण (Python)
import time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://integrate.api.nvidia.com/v1", api_key="<nvidia-key>")
MIN_GAP = 60 / 40 # seconds between requests at 40 RPM
last = 0.0
def ask(prompt, model="openai/gpt-oss-20b"):
global last
for attempt in range(5):
wait = MIN_GAP - (time.time() - last)
if wait > 0:
time.sleep(wait)
last = time.time()
try:
r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
return r.choices[0].message.content
except RateLimitError:
time.sleep(2 ** attempt)
raise RuntimeError("NVIDIA rate limit: retries used up")FreeLLMAPI के साथ लोड बाँटें
FreeLLMAPI एक ओपन-सोर्स गेटवे है जो आपके कंप्यूटर पर चलता है। यह NVIDIA को पूरे खाते के लिए 40 अनुरोध प्रति मिनट के एक पूल की तरह देखता है। अनुरोध भेजने से पहले यह उस पूल की जाँच करता है। जब पूल भरा होता है, तो यह अनुरोध आपकी चेन में अगले मुफ़्त प्रदाता को भेज देता है।
- पूरे खाते की प्रति-मिनट सीमा
PROVIDER_MINUTE_REQUEST_CAP_NVIDIAसे तय होती है। यदि आपके खाते में कम सीमा दिखती है, तो इसे कम करें। - NVIDIA को समानांतर अनुरोध सीमित करने के लिए
MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIAसेट करें। - NVIDIA से 429 कुंजी को छोटे कूलडाउन पर डाल देता है। तब राउटर दूसरे प्रदाताओं को आज़माता है।
X-Routed-Viaहेडर दिखाता है कि हर अनुरोध का उत्तर किस प्रदाता ने दिया।
~/freellmapi/.env (Docker इंस्टॉल)
PROVIDER_MINUTE_REQUEST_CAP_NVIDIA=30
MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIA=2
# then restart the container
cd ~/freellmapi && docker compose up -dएक-लाइन इंस्टॉलर अपनी सेटिंग ~/freellmapi/.env में रखता है। उस फ़ाइल में दो पंक्तियाँ जोड़ें, फिर कंटेनर दोबारा शुरू करें। NVIDIA की डिफ़ॉल्ट सीमा 40 अनुरोध प्रति मिनट है। 0 मान उस प्रदाता के लिए पूरे खाते का गेट बंद कर देता है।
फ़ेलओवर NVIDIA की सीमा नहीं बढ़ाता। जब NVIDIA भरा हो, तब यह दूसरे मुफ़्त टियर इस्तेमाल करता है, उदाहरण के लिए Groq, Gemini और Cloudflare।
अक्सर पूछे जाने वाले प्रश्न
NVIDIA NIM API रेट सीमा क्या है?
NVIDIA एक संख्या प्रकाशित नहीं करता। स्टाफ़ कहता है कि सीमाएँ मॉडल के अनुसार बदलती हैं, और आप अपनी सीमा build.nvidia.com के ऊपर दाएँ कोने में देख सकते हैं। अधिकतर मुफ़्त खाते प्रति मिनट 40 अनुरोध बताते हैं।
NVIDIA NIM रेट सीमा को 40 RPM से कैसे बढ़ाएँ?
हमें मुफ़्त खातों के लिए कोई आधिकारिक प्रक्रिया नहीं मिली। NVIDIA का FAQ अधिक क्षमता के लिए self-hosting, Hugging Face जैसे भुगतान वाले serverless साझेदार, या NVIDIA AI Enterprise ट्रायल की ओर इशारा करता है।
क्या NVIDIA NIM अब भी क्रेडिट इस्तेमाल करता है?
नहीं। NVIDIA स्टाफ़ ने सितंबर 2025 में कहा था कि build.nvidia.com अब क्रेडिट इस्तेमाल नहीं करता। ट्रायल उपयोग अब रेट सीमाओं से नियंत्रित होता है।
क्या मैं मुफ़्त NVIDIA API को production में इस्तेमाल कर सकता हूँ?
नहीं। NVIDIA API Trial Terms केवल सीमित ट्रायल उपयोग की अनुमति देती हैं, production की नहीं। Production उपयोग के लिए NVIDIA AI Enterprise लाइसेंस या भुगतान वाला प्रदाता चाहिए।
क्या NVIDIA की 40 RPM सीमा मॉडल के अनुसार है या खाते के अनुसार?
मुफ़्त उपयोगकर्ता पूरे खाते में एक ही सीमा बताते हैं। योजना ऐसी बनाएँ कि सभी मॉडल उसे साझा करें, और उन सभी मॉडलों पर अनुरोधों की गति रखें जिन्हें आप कॉल करते हैं।
संबंधित गाइड
- free nvidia api
- मुफ़्त LLM API रेट सीमाएँ
- Groq rate limit पहुंच गई (429)
- Gemini API का quota खत्म (429 RESOURCE_EXHAUSTED)
- व्यावसायिक उपयोग के लिए मुफ़्त LLM API
स्रोत
- NVIDIA developer forum: credit system replaced by rate limits (जाँचा गया 20 November 2026)
- NVIDIA NIM FAQ (जाँचा गया 20 November 2026)
- NVIDIA API Trial Terms of Service (PDF) (जाँचा गया 20 November 2026)
- NVIDIA developer forum: request to raise 40 RPM (जाँचा गया 20 November 2026)
- NVIDIA API Catalog: API reference (जाँचा गया 20 November 2026)
- FreeLLMAPI docs: Quota and cooldown engine (जाँचा गया 20 November 2026)