ഹോം / ഗൈഡുകൾ / NVIDIA NIM API റേറ്റ് പരിധി

NVIDIA NIM API റേറ്റ് പരിധി

build.nvidia.com-ലെ സൗജന്യ NVIDIA API Catalog-ന് ഒരു credit ബാലൻസ് അല്ല, ഒരു റേറ്റ് പരിധിയാണ് ഉള്ളത്. പല സൗജന്യ അക്കൗണ്ടുകളും മിനിറ്റിൽ 40 അഭ്യർത്ഥനകളുടെ പരിധി റിപ്പോർട്ട് ചെയ്യുന്നു. ഈ പേജ് പരിധിയെക്കുറിച്ച് NVIDIA എന്ത് പറയുന്നു, പരിധി ഉയർത്താനുള്ള അഭ്യർത്ഥനകൾ എന്തുകൊണ്ട് അപൂർവമായേ പ്രവർത്തിക്കുന്നുള്ളൂ, അതിന് താഴെ എങ്ങനെ നിൽക്കാം എന്നിവ വിശദീകരിക്കുന്നു.

കോഡ്, മോഡൽ പേരുകളും തത്സമയ കാറ്റലോഗ് ലേബലുകളും ഇംഗ്ലീഷിൽ കാണിക്കുന്നു.

പരിധിയെക്കുറിച്ച് NVIDIA എന്ത് പറയുന്നു

2025 സെപ്റ്റംബറിൽ ഒരു NVIDIA ജീവനക്കാരൻ developer forum-ൽ എഴുതി: "build.nvidia.com-ന് ഞങ്ങൾ ഇനി credit അടിസ്ഥാനമാക്കിയുള്ള സംവിധാനം ഉപയോഗിക്കുന്നില്ല." trial ഉപയോഗത്തിനുള്ള റേറ്റ് പരിധികൾ credits-ന് പകരമായി. അതേ മറുപടി പറയുന്നത്, പരിധികൾ ഓരോ മോഡലിനും വ്യത്യസ്തമാണെന്നും NVIDIA അവ പ്രസിദ്ധീകരിക്കുന്നില്ലെന്നുമാണ്. build.nvidia.com-ന്റെ മുകളിൽ വലത് ഭാഗത്ത് നിങ്ങളുടെ പരമാവധി റേറ്റ് പരിധി കാണാം.

NIM FAQ പറയുന്നത്, ഒരു കാലയളവിൽ അനുവദിച്ച കോളുകളുടെ എണ്ണം "മൂല്യനിർണ്ണയ, prototyping ആവശ്യങ്ങൾ മാത്രം നിറവേറ്റാൻ രൂപകൽപ്പന ചെയ്തത്" ആണെന്നാണ്. NVIDIA Developer Program അംഗങ്ങൾക്ക് prototyping-നായി NIM API endpoints-ലേക്ക് സൗജന്യ ആക്സസ് ലഭിക്കുന്നു.

40 RPM മൂല്യത്തെക്കുറിച്ച്: മിക്ക സൗജന്യ അക്കൗണ്ടുകളും NVIDIA forum-ൽ റിപ്പോർട്ട് ചെയ്യുന്ന മൂല്യം മിനിറ്റിൽ 40 അഭ്യർത്ഥനകളാണ്. ഇത് ഔദ്യോഗിക NVIDIA പേജിൽ ഇല്ല. നിങ്ങളുടെ യഥാർത്ഥ പരിധിക്കായി സ്വന്തം അക്കൗണ്ട് പരിശോധിക്കുക.

40 RPM പരിധി ഉയർത്താമോ?

NVIDIA developer forum-ൽ 200 RPM അല്ലെങ്കിൽ അതിൽ കൂടുതൽ ആവശ്യപ്പെടുന്ന പല പോസ്റ്റുകളുമുണ്ട്. സൗജന്യ അക്കൗണ്ടിന്റെ പരിധി ഉയർത്തുന്ന ഒരു ഔദ്യോഗിക പ്രക്രിയ ഞങ്ങൾ കണ്ടെത്തിയില്ല. സൗജന്യ വ്യക്തിഗത അക്കൗണ്ടുകൾക്ക് NVIDIA പരിധികൾ സ്വമേധയാ ഉയർത്താൻ കഴിയില്ലെന്ന് ഒരു forum മറുപടി പറയുന്നു. ആ മറുപടി NVIDIA ജീവനക്കാരിൽ നിന്നാണെന്ന് ഞങ്ങൾക്ക് സ്ഥിരീകരിക്കാൻ കഴിഞ്ഞില്ല.

കൂടുതൽ capacity-ക്ക് NIM FAQ മറ്റ് ഓപ്ഷനുകൾ നൽകുന്നു:

  • നിങ്ങളുടെ cloud provider-ലോ സ്വന്തം GPU-കളിലോ NIM സ്വയം ഹോസ്റ്റ് ചെയ്യുക.
  • ഒരു partner-ൽ നിന്നുള്ള production serverless NIM API ഉപയോഗിക്കുക, ഉദാഹരണത്തിന് Hugging Face, ഉപയോഗത്തിനനുസരിച്ച് പണം നൽകുന്ന വിലനിർണ്ണയത്തോടെ.
  • production വിന്യാസങ്ങൾക്കായുള്ള 90-ദിവസ NVIDIA AI Enterprise trial ആരംഭിക്കുക.

കൂടുതൽ അഭ്യർത്ഥനകൾക്കായി കൂടുതൽ NVIDIA അക്കൗണ്ടുകൾ ഉണ്ടാക്കരുത്. trial നിബന്ധനകൾ NVIDIA-യ്ക്ക് ഉപയോഗ പരിധികൾ നിശ്ചയിക്കാൻ അനുവദിക്കുന്നു, സൗജന്യ ആക്സസ് പരിമിതമായ trial ആവശ്യങ്ങൾക്ക് മാത്രമാണ്.

കൂടുതൽ throughput നേടാനുള്ള വഴികൾ
ഓപ്ഷൻചെലവ്കൂടുതൽ അഭ്യർത്ഥനകളോ?
forum-ൽ ഉയർന്ന സൗജന്യ പരിധിക്കായി ചോദിക്കുകസൗജന്യംഔദ്യോഗിക പ്രക്രിയ കണ്ടെത്തിയില്ല
പരിധിക്ക് താഴെ അഭ്യർത്ഥനകൾ ക്രമീകരിക്കുകസൗജന്യംഇല്ല, പക്ഷേ 429 പിശകുകൾ കുറയും
പരാജയ മാറ്റത്തോടെ മറ്റ് സൗജന്യ providers ചേർക്കുകസൗജന്യംഅതെ, മറ്റ് providers-ൽ നിന്ന്
partner-ൽ നിന്നുള്ള serverless NIMഉപയോഗത്തിന് പണംഅതെ
NIM സ്വയം ഹോസ്റ്റ് ചെയ്യുകനിങ്ങളുടെ GPU-കൾഅതെ

trial നിബന്ധനകൾ അനുവദിക്കുന്നത്

NVIDIA API Trial Terms-ന്റെ വിഭാഗം 1.2 "പരിമിതമായ trial ആവശ്യങ്ങൾക്ക് മാത്രം" ആക്സസ് നൽകുന്നു. production-ൽ സേവനത്തിന്റെ ഉപയോഗവും അതിന്റെ output-ഉം ഇത് ഒഴിവാക്കുന്നു. വിഭാഗം 1.4 പറയുന്നത്, ഒരു subscription ഇല്ലാതെ, നിങ്ങൾക്ക് സേവനം internal testing-നും മൂല്യനിർണ്ണയത്തിനും മാത്രമേ ഉപയോഗിക്കാൻ കഴിയൂ എന്നാണ്.

വിഭാഗം 3.3 പറയുന്നത്, AI മോഡലുകൾ ഉൾപ്പെടെ അതിന്റെ ഉൽപ്പന്നങ്ങൾ മെച്ചപ്പെടുത്താൻ NVIDIA നിങ്ങളുടെ ഉള്ളടക്കവും സൃഷ്ടിച്ച ഉള്ളടക്കവും ശേഖരിക്കുന്നു എന്നാണ്. trial സേവനത്തിലേക്ക് സ്വകാര്യ ഡാറ്റ അയയ്ക്കരുത്. മറ്റ് providers-നെക്കുറിച്ച് സൗജന്യ LLM API വാണിജ്യ ഉപയോഗം വായിക്കുക.

ഇന്നത്തെ സൗജന്യ NIM മോഡലുകൾ

catalog ഈ സൗജന്യ NVIDIA മോഡലുകൾ പട്ടികപ്പെടുത്തുന്നു. പരിധി അക്കൗണ്ട് അടിസ്ഥാനത്തിലാണ്, അതിനാൽ എല്ലാ മോഡലുകളും ഒരേ മിനിറ്റിലെ അഭ്യർത്ഥനകൾ പങ്കിടുന്നു.

catalog-ൽ ഇന്ന് സൗജന്യ NVIDIA NIM മോഡലുകൾ
മോഡൽസൗജന്യമായി ലഭ്യംകോൺടെക്സ്റ്റ്സൗജന്യ പരിധികൾ (ഏറ്റവും മികച്ച ഓഫർ)ടൂളുകൾദൃശ്യ ശേഷി
GLM 5.3 FlashNVIDIA NIM1M40 അഭ്യർഥന/മിനിറ്റ്
40 RPM
അതെഇല്ല
Step 5 PreviewNVIDIA NIM-Ongoing developer prototypingഇല്ലഇല്ല
Nemotron-3 Ultra 550BNVIDIA NIM1M40 അഭ്യർഥന/മിനിറ്റ്
40 RPM
അതെഇല്ല
Muse Glimmer 30BNVIDIA NIM131K40 അഭ്യർഥന/മിനിറ്റ്
40 RPM
അതെഅതെ
Gemma 4 31BNVIDIA NIM262K40 അഭ്യർഥന/മിനിറ്റ്
40 RPM
ഇല്ലഇല്ല
Poolside Laguna XS 2.1NVIDIA NIM262K40 അഭ്യർഥന/മിനിറ്റ്
40 RPM
അതെഇല്ല
Nemotron 3 Super 120BNVIDIA NIM262K40 അഭ്യർഥന/മിനിറ്റ്
40 RPM
അതെഇല്ല
Nemotron 3.5 Lightning 30B A3BNVIDIA NIM1M40 അഭ്യർഥന/മിനിറ്റ്
40 RPM
അതെഇല്ല
DiffusionGemma 26B A4B ITNVIDIA NIM262K40 അഭ്യർഥന/മിനിറ്റ്
40 RPM
ഇല്ലഅതെ
GPT-OSS 20BNVIDIA NIM131K40 അഭ്യർഥന/മിനിറ്റ്
40 RPM
അതെഇല്ല
Nemotron 3 Nano Omni 30B A3B ReasoningNVIDIA NIM262K40 അഭ്യർഥന/മിനിറ്റ്
40 RPM
ഇല്ലഅതെ
Ising Calibration 1.5 31BNVIDIA NIM131K40 അഭ്യർഥന/മിനിറ്റ്
40 RPM
ഇല്ലഅതെ

പൊരുത്തപ്പെടുന്ന 19 സൗജന്യ മോഡലുകളിൽ 12 എണ്ണം കാണിക്കുന്നു. എല്ലാ മോഡലുകളും കാണുക.

FreeLLMAPI കാറ്റലോഗിൽ നിന്നുള്ള തത്സമയ ഡാറ്റ (പതിപ്പ് 2026.11.19, 2026-11-19 ൽ പരിശോധിച്ചത്). സൗജന്യ പരിധികൾ പലപ്പോഴും മാറുന്നു. കാറ്റലോഗ് എല്ലാ ദിവസവും പരിശോധിക്കുന്നു.

ദാതാവ്അറിയപ്പെടുന്ന പ്രശ്നംഎന്തു ചെയ്യണം
NVIDIA NIMRecurring free, 40 RPM, eval-only ToSNVIDIA NIM replaced its depleting trial credits with a recurring per-account rate limit (40 RPM default, varies by model), verified June 2026. The trial ToS still scopes usage to evaluation/prototyping, not production.
NVIDIA NIMDeveloper evaluation and data-use termsOngoing zero-price hosted developer access, not a monthly credit grant or unrestricted production service. NVIDIA trial/prototyping and data-use terms apply. Do not submit personal or confidential data. Text completions with exact model identity passed on October 15, 2026; tool and vision flags remain off until separately tested. Sources: https://build.nvidia.com/stepfun-ai/step-5-preview and https://openrouter.ai/nvidia/nemotron-3.5-super-vl:free

FreeLLMAPI കാറ്റലോഗിൽ നിന്നുള്ള തത്സമയ ഡാറ്റ (പതിപ്പ് 2026.11.19, 2026-11-19 ൽ പരിശോധിച്ചത്). സൗജന്യ പരിധികൾ പലപ്പോഴും മാറുന്നു. കാറ്റലോഗ് എല്ലാ ദിവസവും പരിശോധിക്കുന്നു.

പരിധിക്ക് താഴെ നിൽക്കുന്നത് എങ്ങനെ

മിനിറ്റിൽ 40 അഭ്യർത്ഥനകളിൽ, ശരാശരി ഓരോ 1.5 സെക്കൻഡിലും ഒരു അഭ്യർത്ഥന അയയ്ക്കാം. സമാന്തര അഭ്യർത്ഥനകളുടെ ഒരു പൊട്ടിത്തെറി സെക്കൻഡുകൾക്കുള്ളിൽ പരിധിയിൽ എത്തുന്നു. ഈ നിയമങ്ങൾ ഉപയോഗിക്കുക:

  1. നിങ്ങളുടെ client-ൽ സമാന്തര അഭ്യർത്ഥനകളുടെ എണ്ണം പരിമിതപ്പെടുത്തുക. ഒരേസമയം രണ്ടോ മൂന്നോ മിക്ക ഏജന്റുകൾക്കും സുരക്ഷിതമാണ്.
  2. ഓരോ 429-ഉം exponential backoff-ഉം jitter-ഉം ഉപയോഗിച്ച് വീണ്ടും ശ്രമിക്കുക. നിശ്ചിത എണ്ണം retries-ന് ശേഷം നിർത്തുക.
  3. എല്ലാ മോഡലുകളിലുമായി അഭ്യർത്ഥനകൾ എണ്ണുക. പരിധി അക്കൗണ്ടിനാണ്, ഓരോ മോഡലിനുമല്ല.
  4. ചെറുതും ലളിതവുമായ ജോലികൾ മറ്റ് providers-ലേക്ക് അയയ്ക്കുക. NVIDIA മാത്രം സൗജന്യമായി നൽകുന്ന വലിയ മോഡലുകൾക്കായി NVIDIA നിലനിർത്തുക.

ലളിതമായ client-side pacing (Python)

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://integrate.api.nvidia.com/v1", api_key="<nvidia-key>")
MIN_GAP = 60 / 40  # seconds between requests at 40 RPM
last = 0.0

def ask(prompt, model="openai/gpt-oss-20b"):
    global last
    for attempt in range(5):
        wait = MIN_GAP - (time.time() - last)
        if wait > 0:
            time.sleep(wait)
        last = time.time()
        try:
            r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(2 ** attempt)
    raise RuntimeError("NVIDIA rate limit: retries used up")

FreeLLMAPI ഉപയോഗിച്ച് ലോഡ് വിതരണം ചെയ്യുക

FreeLLMAPI നിങ്ങളുടെ കമ്പ്യൂട്ടറിൽ പ്രവർത്തിക്കുന്ന ഒരു open-source ഗേറ്റ്‌വേയാണ്. മുഴുവൻ അക്കൗണ്ടിനും മിനിറ്റിൽ 40 അഭ്യർത്ഥനകളുടെ ഒരൊറ്റ pool ആയി ഇത് NVIDIA-യെ കണക്കാക്കുന്നു. അഭ്യർത്ഥന അയയ്ക്കുന്നതിന് മുമ്പ്, ഇത് ആ pool പരിശോധിക്കുന്നു. pool നിറയുമ്പോൾ, അത് നിങ്ങളുടെ chain-ലെ അടുത്ത സൗജന്യ provider-ലേക്ക് അഭ്യർത്ഥന അയയ്ക്കുന്നു.

  • അക്കൗണ്ട് മുഴുവനുമുള്ള മിനിറ്റ് പരിധി PROVIDER_MINUTE_REQUEST_CAP_NVIDIA ഉപയോഗിച്ചാണ് സജ്ജമാക്കുന്നത്. നിങ്ങളുടെ അക്കൗണ്ട് ചെറിയ പരിധി കാണിക്കുന്നുവെങ്കിൽ അത് കുറയ്ക്കുക.
  • NVIDIA-യിലേക്കുള്ള സമാന്തര അഭ്യർത്ഥനകൾ പരിമിതപ്പെടുത്താൻ, MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIA സജ്ജമാക്കുക.
  • NVIDIA-യിൽ നിന്നുള്ള 429, key-യെ ചെറിയ cooldown-ൽ ഇടുന്നു. പിന്നെ റൂട്ടർ മറ്റ് providers പരീക്ഷിക്കുന്നു.
  • ഓരോ അഭ്യർത്ഥനയ്ക്കും ഉത്തരം നൽകിയ provider X-Routed-Via header കാണിക്കുന്നു.

~/freellmapi/.env (Docker ഇൻസ്റ്റാൾ)

PROVIDER_MINUTE_REQUEST_CAP_NVIDIA=30
MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIA=2

# then restart the container
cd ~/freellmapi && docker compose up -d

ഒറ്റ-വരി installer അതിന്റെ ക്രമീകരണങ്ങൾ ~/freellmapi/.env-ൽ സൂക്ഷിക്കുന്നു. ആ file-ലേക്ക് രണ്ട് വരികൾ ചേർക്കുക, തുടർന്ന് container വീണ്ടും ആരംഭിക്കുക. NVIDIA-യുടെ default cap മിനിറ്റിൽ 40 അഭ്യർത്ഥനകളാണ്. 0 മൂല്യം ആ provider-നുള്ള അക്കൗണ്ട് മുഴുവൻ gate ഓഫാക്കുന്നു.

failover NVIDIA-യുടെ പരിധി ഉയർത്തുന്നില്ല. NVIDIA നിറയുമ്പോൾ, ഉദാഹരണത്തിന് Groq, Gemini, Cloudflare പോലുള്ള മറ്റ് സൗജന്യ tiers ഇത് ഉപയോഗിക്കുന്നു.

ഇവയെല്ലാം ഒരൊറ്റ കീ വഴി ഉപയോഗിക്കുക. FreeLLMAPI ഒരു ഓപ്പൺ-സോഴ്സ്, സ്വയം ഹോസ്റ്റ് ചെയ്യാവുന്ന റൂട്ടറാണ്. ഇത് ഈ സൗജന്യ ടയറുകളെല്ലാം ഒരൊറ്റ OpenAI-അനുയോജ്യ എൻഡ്‌പോയിന്റിനു പിന്നിൽ വയ്ക്കുന്നു. ഒരു മോഡലിന്റെ നിരക്ക് പരിധി എത്തുമ്പോൾ മറ്റൊന്നിലേക്ക് മാറുന്നു. കാറ്റലോഗ് ബ്രൗസ് ചെയ്യുക അല്ലെങ്കിൽ തത്സമയമാക്കുക.

പതിവ് ചോദ്യങ്ങൾ

NVIDIA NIM API റേറ്റ് പരിധി എന്താണ്?

NVIDIA ഒരൊറ്റ സംഖ്യ പ്രസിദ്ധീകരിക്കുന്നില്ല. മോഡൽ അനുസരിച്ച് പരിധികൾ വ്യത്യാസപ്പെടുന്നുവെന്ന് ജീവനക്കാർ പറയുന്നു, നിങ്ങളുടേത് build.nvidia.com-ന്റെ മുകളിൽ വലത് ഭാഗത്ത് കാണാം. മിക്ക സൗജന്യ അക്കൗണ്ടുകളും മിനിറ്റിൽ 40 അഭ്യർത്ഥനകൾ റിപ്പോർട്ട് ചെയ്യുന്നു.

NVIDIA NIM റേറ്റ് പരിധി 40 RPM-ൽ നിന്ന് എങ്ങനെ ഉയർത്താം?

സൗജന്യ അക്കൗണ്ടുകൾക്ക് ഒരു ഔദ്യോഗിക പ്രക്രിയയും ഞങ്ങൾ കണ്ടെത്തിയില്ല. കൂടുതൽ capacity-ക്ക് NVIDIA-യുടെ FAQ സ്വയം ഹോസ്റ്റിംഗ്, Hugging Face പോലുള്ള പണമടച്ചുള്ള serverless partner, അല്ലെങ്കിൽ NVIDIA AI Enterprise trial എന്നിവയിലേക്ക് വിരൽ ചൂണ്ടുന്നു.

NVIDIA NIM ഇപ്പോഴും credits ഉപയോഗിക്കുന്നുണ്ടോ?

ഇല്ല. 2025 സെപ്റ്റംബറിൽ build.nvidia.com ഇനി credits ഉപയോഗിക്കുന്നില്ലെന്ന് NVIDIA ജീവനക്കാർ പറഞ്ഞു. trial ഉപയോഗം ഇപ്പോൾ റേറ്റ് പരിധികളാൽ നിയന്ത്രിക്കപ്പെടുന്നു.

സൗജന്യ NVIDIA API production-ൽ ഉപയോഗിക്കാമോ?

ഇല്ല. NVIDIA API Trial Terms പരിമിതമായ trial ഉപയോഗം മാത്രമേ അനുവദിക്കുന്നുള്ളൂ, production അല്ല. production ഉപയോഗത്തിന് NVIDIA AI Enterprise ലൈസൻസോ പണമടച്ചുള്ള provider-ഓ ആവശ്യമാണ്.

NVIDIA 40 RPM പരിധി ഓരോ മോഡലിനോ ഓരോ അക്കൗണ്ടിനോ?

സൗജന്യ ഉപയോക്താക്കൾ അക്കൗണ്ട് മുഴുവനും ഒരൊറ്റ പരിധി റിപ്പോർട്ട് ചെയ്യുന്നു. എല്ലാ മോഡലുകളും അത് പങ്കിടുമെന്ന് കരുതി, നിങ്ങൾ വിളിക്കുന്ന എല്ലാ മോഡലുകളിലുമായി അഭ്യർത്ഥനകൾ ക്രമീകരിക്കുക.

അനുബന്ധ ഗൈഡുകൾ

ഉറവിടങ്ങൾ

എല്ലാ ഗൈഡുകളും · എല്ലാ സൗജന്യ മോഡലുകളും കാണുക