NVIDIA NIM API റേറ്റ് പരിധി
build.nvidia.com-ലെ സൗജന്യ NVIDIA API Catalog-ന് ഒരു credit ബാലൻസ് അല്ല, ഒരു റേറ്റ് പരിധിയാണ് ഉള്ളത്. പല സൗജന്യ അക്കൗണ്ടുകളും മിനിറ്റിൽ 40 അഭ്യർത്ഥനകളുടെ പരിധി റിപ്പോർട്ട് ചെയ്യുന്നു. ഈ പേജ് പരിധിയെക്കുറിച്ച് NVIDIA എന്ത് പറയുന്നു, പരിധി ഉയർത്താനുള്ള അഭ്യർത്ഥനകൾ എന്തുകൊണ്ട് അപൂർവമായേ പ്രവർത്തിക്കുന്നുള്ളൂ, അതിന് താഴെ എങ്ങനെ നിൽക്കാം എന്നിവ വിശദീകരിക്കുന്നു.
കോഡ്, മോഡൽ പേരുകളും തത്സമയ കാറ്റലോഗ് ലേബലുകളും ഇംഗ്ലീഷിൽ കാണിക്കുന്നു.
പരിധിയെക്കുറിച്ച് NVIDIA എന്ത് പറയുന്നു
2025 സെപ്റ്റംബറിൽ ഒരു NVIDIA ജീവനക്കാരൻ developer forum-ൽ എഴുതി: "build.nvidia.com-ന് ഞങ്ങൾ ഇനി credit അടിസ്ഥാനമാക്കിയുള്ള സംവിധാനം ഉപയോഗിക്കുന്നില്ല." trial ഉപയോഗത്തിനുള്ള റേറ്റ് പരിധികൾ credits-ന് പകരമായി. അതേ മറുപടി പറയുന്നത്, പരിധികൾ ഓരോ മോഡലിനും വ്യത്യസ്തമാണെന്നും NVIDIA അവ പ്രസിദ്ധീകരിക്കുന്നില്ലെന്നുമാണ്. build.nvidia.com-ന്റെ മുകളിൽ വലത് ഭാഗത്ത് നിങ്ങളുടെ പരമാവധി റേറ്റ് പരിധി കാണാം.
NIM FAQ പറയുന്നത്, ഒരു കാലയളവിൽ അനുവദിച്ച കോളുകളുടെ എണ്ണം "മൂല്യനിർണ്ണയ, prototyping ആവശ്യങ്ങൾ മാത്രം നിറവേറ്റാൻ രൂപകൽപ്പന ചെയ്തത്" ആണെന്നാണ്. NVIDIA Developer Program അംഗങ്ങൾക്ക് prototyping-നായി NIM API endpoints-ലേക്ക് സൗജന്യ ആക്സസ് ലഭിക്കുന്നു.
40 RPM പരിധി ഉയർത്താമോ?
NVIDIA developer forum-ൽ 200 RPM അല്ലെങ്കിൽ അതിൽ കൂടുതൽ ആവശ്യപ്പെടുന്ന പല പോസ്റ്റുകളുമുണ്ട്. സൗജന്യ അക്കൗണ്ടിന്റെ പരിധി ഉയർത്തുന്ന ഒരു ഔദ്യോഗിക പ്രക്രിയ ഞങ്ങൾ കണ്ടെത്തിയില്ല. സൗജന്യ വ്യക്തിഗത അക്കൗണ്ടുകൾക്ക് NVIDIA പരിധികൾ സ്വമേധയാ ഉയർത്താൻ കഴിയില്ലെന്ന് ഒരു forum മറുപടി പറയുന്നു. ആ മറുപടി NVIDIA ജീവനക്കാരിൽ നിന്നാണെന്ന് ഞങ്ങൾക്ക് സ്ഥിരീകരിക്കാൻ കഴിഞ്ഞില്ല.
കൂടുതൽ capacity-ക്ക് NIM FAQ മറ്റ് ഓപ്ഷനുകൾ നൽകുന്നു:
- നിങ്ങളുടെ cloud provider-ലോ സ്വന്തം GPU-കളിലോ NIM സ്വയം ഹോസ്റ്റ് ചെയ്യുക.
- ഒരു partner-ൽ നിന്നുള്ള production serverless NIM API ഉപയോഗിക്കുക, ഉദാഹരണത്തിന് Hugging Face, ഉപയോഗത്തിനനുസരിച്ച് പണം നൽകുന്ന വിലനിർണ്ണയത്തോടെ.
- production വിന്യാസങ്ങൾക്കായുള്ള 90-ദിവസ NVIDIA AI Enterprise trial ആരംഭിക്കുക.
കൂടുതൽ അഭ്യർത്ഥനകൾക്കായി കൂടുതൽ NVIDIA അക്കൗണ്ടുകൾ ഉണ്ടാക്കരുത്. trial നിബന്ധനകൾ NVIDIA-യ്ക്ക് ഉപയോഗ പരിധികൾ നിശ്ചയിക്കാൻ അനുവദിക്കുന്നു, സൗജന്യ ആക്സസ് പരിമിതമായ trial ആവശ്യങ്ങൾക്ക് മാത്രമാണ്.
| ഓപ്ഷൻ | ചെലവ് | കൂടുതൽ അഭ്യർത്ഥനകളോ? |
|---|---|---|
| forum-ൽ ഉയർന്ന സൗജന്യ പരിധിക്കായി ചോദിക്കുക | സൗജന്യം | ഔദ്യോഗിക പ്രക്രിയ കണ്ടെത്തിയില്ല |
| പരിധിക്ക് താഴെ അഭ്യർത്ഥനകൾ ക്രമീകരിക്കുക | സൗജന്യം | ഇല്ല, പക്ഷേ 429 പിശകുകൾ കുറയും |
| പരാജയ മാറ്റത്തോടെ മറ്റ് സൗജന്യ providers ചേർക്കുക | സൗജന്യം | അതെ, മറ്റ് providers-ൽ നിന്ന് |
| partner-ൽ നിന്നുള്ള serverless NIM | ഉപയോഗത്തിന് പണം | അതെ |
| NIM സ്വയം ഹോസ്റ്റ് ചെയ്യുക | നിങ്ങളുടെ GPU-കൾ | അതെ |
trial നിബന്ധനകൾ അനുവദിക്കുന്നത്
NVIDIA API Trial Terms-ന്റെ വിഭാഗം 1.2 "പരിമിതമായ trial ആവശ്യങ്ങൾക്ക് മാത്രം" ആക്സസ് നൽകുന്നു. production-ൽ സേവനത്തിന്റെ ഉപയോഗവും അതിന്റെ output-ഉം ഇത് ഒഴിവാക്കുന്നു. വിഭാഗം 1.4 പറയുന്നത്, ഒരു subscription ഇല്ലാതെ, നിങ്ങൾക്ക് സേവനം internal testing-നും മൂല്യനിർണ്ണയത്തിനും മാത്രമേ ഉപയോഗിക്കാൻ കഴിയൂ എന്നാണ്.
വിഭാഗം 3.3 പറയുന്നത്, AI മോഡലുകൾ ഉൾപ്പെടെ അതിന്റെ ഉൽപ്പന്നങ്ങൾ മെച്ചപ്പെടുത്താൻ NVIDIA നിങ്ങളുടെ ഉള്ളടക്കവും സൃഷ്ടിച്ച ഉള്ളടക്കവും ശേഖരിക്കുന്നു എന്നാണ്. trial സേവനത്തിലേക്ക് സ്വകാര്യ ഡാറ്റ അയയ്ക്കരുത്. മറ്റ് providers-നെക്കുറിച്ച് സൗജന്യ LLM API വാണിജ്യ ഉപയോഗം വായിക്കുക.
ഇന്നത്തെ സൗജന്യ NIM മോഡലുകൾ
catalog ഈ സൗജന്യ NVIDIA മോഡലുകൾ പട്ടികപ്പെടുത്തുന്നു. പരിധി അക്കൗണ്ട് അടിസ്ഥാനത്തിലാണ്, അതിനാൽ എല്ലാ മോഡലുകളും ഒരേ മിനിറ്റിലെ അഭ്യർത്ഥനകൾ പങ്കിടുന്നു.
| മോഡൽ | സൗജന്യമായി ലഭ്യം | കോൺടെക്സ്റ്റ് | സൗജന്യ പരിധികൾ (ഏറ്റവും മികച്ച ഓഫർ) | ടൂളുകൾ | ദൃശ്യ ശേഷി |
|---|---|---|---|---|---|
| GLM 5.3 Flash | NVIDIA NIM | 1M | 40 അഭ്യർഥന/മിനിറ്റ് 40 RPM | അതെ | ഇല്ല |
| Step 5 Preview | NVIDIA NIM | - | Ongoing developer prototyping | ഇല്ല | ഇല്ല |
| Nemotron-3 Ultra 550B | NVIDIA NIM | 1M | 40 അഭ്യർഥന/മിനിറ്റ് 40 RPM | അതെ | ഇല്ല |
| Muse Glimmer 30B | NVIDIA NIM | 131K | 40 അഭ്യർഥന/മിനിറ്റ് 40 RPM | അതെ | അതെ |
| Gemma 4 31B | NVIDIA NIM | 262K | 40 അഭ്യർഥന/മിനിറ്റ് 40 RPM | ഇല്ല | ഇല്ല |
| Poolside Laguna XS 2.1 | NVIDIA NIM | 262K | 40 അഭ്യർഥന/മിനിറ്റ് 40 RPM | അതെ | ഇല്ല |
| Nemotron 3 Super 120B | NVIDIA NIM | 262K | 40 അഭ്യർഥന/മിനിറ്റ് 40 RPM | അതെ | ഇല്ല |
| Nemotron 3.5 Lightning 30B A3B | NVIDIA NIM | 1M | 40 അഭ്യർഥന/മിനിറ്റ് 40 RPM | അതെ | ഇല്ല |
| DiffusionGemma 26B A4B IT | NVIDIA NIM | 262K | 40 അഭ്യർഥന/മിനിറ്റ് 40 RPM | ഇല്ല | അതെ |
| GPT-OSS 20B | NVIDIA NIM | 131K | 40 അഭ്യർഥന/മിനിറ്റ് 40 RPM | അതെ | ഇല്ല |
| Nemotron 3 Nano Omni 30B A3B Reasoning | NVIDIA NIM | 262K | 40 അഭ്യർഥന/മിനിറ്റ് 40 RPM | ഇല്ല | അതെ |
| Ising Calibration 1.5 31B | NVIDIA NIM | 131K | 40 അഭ്യർഥന/മിനിറ്റ് 40 RPM | ഇല്ല | അതെ |
പൊരുത്തപ്പെടുന്ന 19 സൗജന്യ മോഡലുകളിൽ 12 എണ്ണം കാണിക്കുന്നു. എല്ലാ മോഡലുകളും കാണുക.
FreeLLMAPI കാറ്റലോഗിൽ നിന്നുള്ള തത്സമയ ഡാറ്റ (പതിപ്പ് 2026.11.19, 2026-11-19 ൽ പരിശോധിച്ചത്). സൗജന്യ പരിധികൾ പലപ്പോഴും മാറുന്നു. കാറ്റലോഗ് എല്ലാ ദിവസവും പരിശോധിക്കുന്നു.
| ദാതാവ് | അറിയപ്പെടുന്ന പ്രശ്നം | എന്തു ചെയ്യണം |
|---|---|---|
| NVIDIA NIM | Recurring free, 40 RPM, eval-only ToS | NVIDIA NIM replaced its depleting trial credits with a recurring per-account rate limit (40 RPM default, varies by model), verified June 2026. The trial ToS still scopes usage to evaluation/prototyping, not production. |
| NVIDIA NIM | Developer evaluation and data-use terms | Ongoing zero-price hosted developer access, not a monthly credit grant or unrestricted production service. NVIDIA trial/prototyping and data-use terms apply. Do not submit personal or confidential data. Text completions with exact model identity passed on October 15, 2026; tool and vision flags remain off until separately tested. Sources: https://build.nvidia.com/stepfun-ai/step-5-preview and https://openrouter.ai/nvidia/nemotron-3.5-super-vl:free |
FreeLLMAPI കാറ്റലോഗിൽ നിന്നുള്ള തത്സമയ ഡാറ്റ (പതിപ്പ് 2026.11.19, 2026-11-19 ൽ പരിശോധിച്ചത്). സൗജന്യ പരിധികൾ പലപ്പോഴും മാറുന്നു. കാറ്റലോഗ് എല്ലാ ദിവസവും പരിശോധിക്കുന്നു.
പരിധിക്ക് താഴെ നിൽക്കുന്നത് എങ്ങനെ
മിനിറ്റിൽ 40 അഭ്യർത്ഥനകളിൽ, ശരാശരി ഓരോ 1.5 സെക്കൻഡിലും ഒരു അഭ്യർത്ഥന അയയ്ക്കാം. സമാന്തര അഭ്യർത്ഥനകളുടെ ഒരു പൊട്ടിത്തെറി സെക്കൻഡുകൾക്കുള്ളിൽ പരിധിയിൽ എത്തുന്നു. ഈ നിയമങ്ങൾ ഉപയോഗിക്കുക:
- നിങ്ങളുടെ client-ൽ സമാന്തര അഭ്യർത്ഥനകളുടെ എണ്ണം പരിമിതപ്പെടുത്തുക. ഒരേസമയം രണ്ടോ മൂന്നോ മിക്ക ഏജന്റുകൾക്കും സുരക്ഷിതമാണ്.
- ഓരോ 429-ഉം exponential backoff-ഉം jitter-ഉം ഉപയോഗിച്ച് വീണ്ടും ശ്രമിക്കുക. നിശ്ചിത എണ്ണം retries-ന് ശേഷം നിർത്തുക.
- എല്ലാ മോഡലുകളിലുമായി അഭ്യർത്ഥനകൾ എണ്ണുക. പരിധി അക്കൗണ്ടിനാണ്, ഓരോ മോഡലിനുമല്ല.
- ചെറുതും ലളിതവുമായ ജോലികൾ മറ്റ് providers-ലേക്ക് അയയ്ക്കുക. NVIDIA മാത്രം സൗജന്യമായി നൽകുന്ന വലിയ മോഡലുകൾക്കായി NVIDIA നിലനിർത്തുക.
ലളിതമായ client-side pacing (Python)
import time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://integrate.api.nvidia.com/v1", api_key="<nvidia-key>")
MIN_GAP = 60 / 40 # seconds between requests at 40 RPM
last = 0.0
def ask(prompt, model="openai/gpt-oss-20b"):
global last
for attempt in range(5):
wait = MIN_GAP - (time.time() - last)
if wait > 0:
time.sleep(wait)
last = time.time()
try:
r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
return r.choices[0].message.content
except RateLimitError:
time.sleep(2 ** attempt)
raise RuntimeError("NVIDIA rate limit: retries used up")FreeLLMAPI ഉപയോഗിച്ച് ലോഡ് വിതരണം ചെയ്യുക
FreeLLMAPI നിങ്ങളുടെ കമ്പ്യൂട്ടറിൽ പ്രവർത്തിക്കുന്ന ഒരു open-source ഗേറ്റ്വേയാണ്. മുഴുവൻ അക്കൗണ്ടിനും മിനിറ്റിൽ 40 അഭ്യർത്ഥനകളുടെ ഒരൊറ്റ pool ആയി ഇത് NVIDIA-യെ കണക്കാക്കുന്നു. അഭ്യർത്ഥന അയയ്ക്കുന്നതിന് മുമ്പ്, ഇത് ആ pool പരിശോധിക്കുന്നു. pool നിറയുമ്പോൾ, അത് നിങ്ങളുടെ chain-ലെ അടുത്ത സൗജന്യ provider-ലേക്ക് അഭ്യർത്ഥന അയയ്ക്കുന്നു.
- അക്കൗണ്ട് മുഴുവനുമുള്ള മിനിറ്റ് പരിധി
PROVIDER_MINUTE_REQUEST_CAP_NVIDIAഉപയോഗിച്ചാണ് സജ്ജമാക്കുന്നത്. നിങ്ങളുടെ അക്കൗണ്ട് ചെറിയ പരിധി കാണിക്കുന്നുവെങ്കിൽ അത് കുറയ്ക്കുക. - NVIDIA-യിലേക്കുള്ള സമാന്തര അഭ്യർത്ഥനകൾ പരിമിതപ്പെടുത്താൻ,
MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIAസജ്ജമാക്കുക. - NVIDIA-യിൽ നിന്നുള്ള 429, key-യെ ചെറിയ cooldown-ൽ ഇടുന്നു. പിന്നെ റൂട്ടർ മറ്റ് providers പരീക്ഷിക്കുന്നു.
- ഓരോ അഭ്യർത്ഥനയ്ക്കും ഉത്തരം നൽകിയ provider
X-Routed-Viaheader കാണിക്കുന്നു.
~/freellmapi/.env (Docker ഇൻസ്റ്റാൾ)
PROVIDER_MINUTE_REQUEST_CAP_NVIDIA=30
MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIA=2
# then restart the container
cd ~/freellmapi && docker compose up -dഒറ്റ-വരി installer അതിന്റെ ക്രമീകരണങ്ങൾ ~/freellmapi/.env-ൽ സൂക്ഷിക്കുന്നു. ആ file-ലേക്ക് രണ്ട് വരികൾ ചേർക്കുക, തുടർന്ന് container വീണ്ടും ആരംഭിക്കുക. NVIDIA-യുടെ default cap മിനിറ്റിൽ 40 അഭ്യർത്ഥനകളാണ്. 0 മൂല്യം ആ provider-നുള്ള അക്കൗണ്ട് മുഴുവൻ gate ഓഫാക്കുന്നു.
failover NVIDIA-യുടെ പരിധി ഉയർത്തുന്നില്ല. NVIDIA നിറയുമ്പോൾ, ഉദാഹരണത്തിന് Groq, Gemini, Cloudflare പോലുള്ള മറ്റ് സൗജന്യ tiers ഇത് ഉപയോഗിക്കുന്നു.
പതിവ് ചോദ്യങ്ങൾ
NVIDIA NIM API റേറ്റ് പരിധി എന്താണ്?
NVIDIA ഒരൊറ്റ സംഖ്യ പ്രസിദ്ധീകരിക്കുന്നില്ല. മോഡൽ അനുസരിച്ച് പരിധികൾ വ്യത്യാസപ്പെടുന്നുവെന്ന് ജീവനക്കാർ പറയുന്നു, നിങ്ങളുടേത് build.nvidia.com-ന്റെ മുകളിൽ വലത് ഭാഗത്ത് കാണാം. മിക്ക സൗജന്യ അക്കൗണ്ടുകളും മിനിറ്റിൽ 40 അഭ്യർത്ഥനകൾ റിപ്പോർട്ട് ചെയ്യുന്നു.
NVIDIA NIM റേറ്റ് പരിധി 40 RPM-ൽ നിന്ന് എങ്ങനെ ഉയർത്താം?
സൗജന്യ അക്കൗണ്ടുകൾക്ക് ഒരു ഔദ്യോഗിക പ്രക്രിയയും ഞങ്ങൾ കണ്ടെത്തിയില്ല. കൂടുതൽ capacity-ക്ക് NVIDIA-യുടെ FAQ സ്വയം ഹോസ്റ്റിംഗ്, Hugging Face പോലുള്ള പണമടച്ചുള്ള serverless partner, അല്ലെങ്കിൽ NVIDIA AI Enterprise trial എന്നിവയിലേക്ക് വിരൽ ചൂണ്ടുന്നു.
NVIDIA NIM ഇപ്പോഴും credits ഉപയോഗിക്കുന്നുണ്ടോ?
ഇല്ല. 2025 സെപ്റ്റംബറിൽ build.nvidia.com ഇനി credits ഉപയോഗിക്കുന്നില്ലെന്ന് NVIDIA ജീവനക്കാർ പറഞ്ഞു. trial ഉപയോഗം ഇപ്പോൾ റേറ്റ് പരിധികളാൽ നിയന്ത്രിക്കപ്പെടുന്നു.
സൗജന്യ NVIDIA API production-ൽ ഉപയോഗിക്കാമോ?
ഇല്ല. NVIDIA API Trial Terms പരിമിതമായ trial ഉപയോഗം മാത്രമേ അനുവദിക്കുന്നുള്ളൂ, production അല്ല. production ഉപയോഗത്തിന് NVIDIA AI Enterprise ലൈസൻസോ പണമടച്ചുള്ള provider-ഓ ആവശ്യമാണ്.
NVIDIA 40 RPM പരിധി ഓരോ മോഡലിനോ ഓരോ അക്കൗണ്ടിനോ?
സൗജന്യ ഉപയോക്താക്കൾ അക്കൗണ്ട് മുഴുവനും ഒരൊറ്റ പരിധി റിപ്പോർട്ട് ചെയ്യുന്നു. എല്ലാ മോഡലുകളും അത് പങ്കിടുമെന്ന് കരുതി, നിങ്ങൾ വിളിക്കുന്ന എല്ലാ മോഡലുകളിലുമായി അഭ്യർത്ഥനകൾ ക്രമീകരിക്കുക.
അനുബന്ധ ഗൈഡുകൾ
- free nvidia api
- സൗജന്യ LLM API റേറ്റ് പരിധികൾ
- Groq rate limit എത്തി (429)
- Gemini API ക്വോട്ട കവിഞ്ഞു (429 RESOURCE_EXHAUSTED)
- വാണിജ്യ ഉപയോഗത്തിനുള്ള സൗജന്യ LLM API
ഉറവിടങ്ങൾ
- NVIDIA developer forum: credit system replaced by rate limits (20 November 2026 ൽ പരിശോധിച്ചത്)
- NVIDIA NIM FAQ (20 November 2026 ൽ പരിശോധിച്ചത്)
- NVIDIA API Trial Terms of Service (PDF) (20 November 2026 ൽ പരിശോധിച്ചത്)
- NVIDIA developer forum: request to raise 40 RPM (20 November 2026 ൽ പരിശോധിച്ചത്)
- NVIDIA API Catalog: API reference (20 November 2026 ൽ പരിശോധിച്ചത്)
- FreeLLMAPI docs: Quota and cooldown engine (20 November 2026 ൽ പരിശോധിച്ചത്)