Kikomo cha kiwango cha API ya NVIDIA NIM
API ya bure ya NVIDIA Catalog kwenye build.nvidia.com ina kikomo cha kiwango, si salio la mikopo. Akaunti nyingi bure huripoti kikomo cha maombi 40 kwa dakika. Ukurasa huu unaeleza NVIDIA inasema nini kuhusu kikomo, kwa nini kuomba kikomo kikubwa mara chache kunafanya kazi, na jinsi ya kukaa chini yake.
Msimbo, majina ya modeli na lebo za katalogi ya moja kwa moja zinaonyeshwa kwa Kiingereza.
NVIDIA inasema nini kuhusu kikomo
Mnamo Septemba 2025, mfanyakazi wa NVIDIA aliandika kwenye jukwaa la wasanidi: "We no longer use a credit-based system for build.nvidia.com." Mipaka ya kiwango kwa matumizi ya majaribio ilichukua nafasi ya mikopo. Jibu hilohilo linasema kwamba mipaka inatofautiana kwa kila modeli na kwamba NVIDIA haichapishi. Unaweza kuona kiwango chako cha juu zaidi upande wa juu kulia wa build.nvidia.com.
FAQ ya NIM inasema kwamba idadi ya wito inayoruhusiwa kwa kipindi "is designed to serve evaluation and prototyping needs only". Wanachama wa NVIDIA Developer Program wanapata ufikiaji bure wa sehemu za mwisho za NIM API kwa kutengeneza prototaipu.
Je, unaweza kuongeza kikomo cha 40 RPM?
Jukwaa la wasanidi wa NVIDIA lina machapisho mengi yanayoomba 200 RPM au zaidi. Hatukupata mchakato rasmi unaoongeza kikomo kwa akaunti bure. Jibu moja la jukwaani linasema kwamba NVIDIA haiwezi kuongeza kwa mkono mipaka ya akaunti binafsi bure. Hatukuweza kuthibitisha kwamba jibu hili linatoka kwa wafanyakazi wa NVIDIA.
FAQ ya NIM inatoa chaguo zingine za uwezo zaidi:
- Jiendeshe NIM kwenye mtoa huduma wako wa wingu au kwenye GPU zako mwenyewe.
- Tumia API ya NIM ya serverless ya uzalishaji kutoka mshirika, kwa mfano Hugging Face, yenye bei ya kulipa kwa matumizi.
- Anzisha jaribio la siku 90 la NVIDIA AI Enterprise, ambalo limekusudiwa kwa usambazaji wa uzalishaji.
Usifungue akaunti nyingi za NVIDIA ili upate maombi zaidi. Masharti ya majaribio yanaruhusu NVIDIA kuweka mipaka ya matumizi, na ufikiaji bure ni kwa madhumuni machache ya majaribio pekee.
| Chaguo | Gharama | Maombi zaidi? |
|---|---|---|
| Omba kikomo bure cha juu kwenye jukwaa | Bure | Hakuna mchakato rasmi uliopatikana |
| Panga maombi yabaki chini ya kikomo | Bure | Hapana, lakini hitilafu chache za 429 |
| Ongeza watoa huduma wengine bure wenye akiba | Bure | Ndiyo, kutoka kwa watoa huduma wengine |
| NIM ya serverless kutoka mshirika | Lipa kwa matumizi | Ndiyo |
| Jiendeshe NIM | GPU zako | Ndiyo |
Masharti ya majaribio yanaruhusu nini
Kifungu 1.2 cha NVIDIA API Trial Terms kinatoa ufikiaji "for limited trial purposes only". Kinatenga matumizi ya huduma au pato lake kwenye uzalishaji. Kifungu 1.4 kinasema kwamba bila usajili, unaweza kutumia huduma kwa upimaji wa ndani na tathmini pekee.
Kifungu 3.3 kinasema kwamba NVIDIA hukusanya maudhui yako na maudhui yaliyotengenezwa ili kuboresha bidhaa zake, ikiwa ni pamoja na modeli za AI. Usitume data binafsi kwenye huduma ya majaribio. Soma free LLM API commercial use kwa watoa huduma wengine.
Modeli bure za NIM leo
Orodha ya modeli inaorodhesha modeli hizi bure za NVIDIA. Kikomo ni cha kila akaunti, kwa hiyo modeli zote zinashiriki maombi sawa kwa dakika.
| Modeli | Bure kwenye | Muktadha | Vikomo vya bure (ofa bora) | Zana | Uoni |
|---|---|---|---|---|---|
| GLM 5.3 Flash | NVIDIA NIM | 1M | 40 maombi/dakika 40 RPM | Ndiyo | Hapana |
| Step 5 Preview | NVIDIA NIM | - | Ongoing developer prototyping | Hapana | Hapana |
| Nemotron-3 Ultra 550B | NVIDIA NIM | 1M | 40 maombi/dakika 40 RPM | Ndiyo | Hapana |
| Muse Glimmer 30B | NVIDIA NIM | 131K | 40 maombi/dakika 40 RPM | Ndiyo | Ndiyo |
| Gemma 4 31B | NVIDIA NIM | 262K | 40 maombi/dakika 40 RPM | Hapana | Hapana |
| Poolside Laguna XS 2.1 | NVIDIA NIM | 262K | 40 maombi/dakika 40 RPM | Ndiyo | Hapana |
| Nemotron 3 Super 120B | NVIDIA NIM | 262K | 40 maombi/dakika 40 RPM | Ndiyo | Hapana |
| Nemotron 3.5 Lightning 30B A3B | NVIDIA NIM | 1M | 40 maombi/dakika 40 RPM | Ndiyo | Hapana |
| DiffusionGemma 26B A4B IT | NVIDIA NIM | 262K | 40 maombi/dakika 40 RPM | Hapana | Ndiyo |
| GPT-OSS 20B | NVIDIA NIM | 131K | 40 maombi/dakika 40 RPM | Ndiyo | Hapana |
| Nemotron 3 Nano Omni 30B A3B Reasoning | NVIDIA NIM | 262K | 40 maombi/dakika 40 RPM | Hapana | Ndiyo |
| Ising Calibration 1.5 31B | NVIDIA NIM | 131K | 40 maombi/dakika 40 RPM | Hapana | Ndiyo |
Inaonyesha 12 kati ya 19 modeli za bure zinazolingana. Tazama modeli zote.
Data ya moja kwa moja kutoka katalogi ya FreeLLMAPI (toleo 2026.11.19, imekaguliwa 2026-11-19). Vikomo vya bure hubadilika mara kwa mara. Katalogi hukaguliwa kila siku.
| Mtoa huduma | Tatizo linalojulikana | Cha kufanya |
|---|---|---|
| NVIDIA NIM | Recurring free, 40 RPM, eval-only ToS | NVIDIA NIM replaced its depleting trial credits with a recurring per-account rate limit (40 RPM default, varies by model), verified June 2026. The trial ToS still scopes usage to evaluation/prototyping, not production. |
| NVIDIA NIM | Developer evaluation and data-use terms | Ongoing zero-price hosted developer access, not a monthly credit grant or unrestricted production service. NVIDIA trial/prototyping and data-use terms apply. Do not submit personal or confidential data. Text completions with exact model identity passed on October 15, 2026; tool and vision flags remain off until separately tested. Sources: https://build.nvidia.com/stepfun-ai/step-5-preview and https://openrouter.ai/nvidia/nemotron-3.5-super-vl:free |
Data ya moja kwa moja kutoka katalogi ya FreeLLMAPI (toleo 2026.11.19, imekaguliwa 2026-11-19). Vikomo vya bure hubadilika mara kwa mara. Katalogi hukaguliwa kila siku.
Jinsi ya kukaa chini ya kikomo
Kwa maombi 40 kwa dakika, unaweza kutuma ombi moja kila sekunde 1.5 kwa wastani. Mlipuko wa maombi sambamba unafikia kikomo ndani ya sekunde chache. Tumia kanuni hizi:
- Punguza idadi ya maombi sambamba kwenye mteja wako. Mawili au matatu kwa wakati mmoja ni salama kwa mawakala wengi.
- Jaribu tena kila 429 kwa exponential backoff na jitter. Simama baada ya idadi maalum ya majaribio.
- Hesabu maombi kwenye modeli zote. Kikomo ni cha akaunti, si cha kila modeli.
- Tuma kazi fupi na rahisi kwa watoa huduma wengine. Weka NVIDIA kwa modeli kubwa ambazo NVIDIA pekee inazitoa bure.
Udhibiti rahisi wa kasi upande wa mteja (Python)
import time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://integrate.api.nvidia.com/v1", api_key="<nvidia-key>")
MIN_GAP = 60 / 40 # seconds between requests at 40 RPM
last = 0.0
def ask(prompt, model="openai/gpt-oss-20b"):
global last
for attempt in range(5):
wait = MIN_GAP - (time.time() - last)
if wait > 0:
time.sleep(wait)
last = time.time()
try:
r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
return r.choices[0].message.content
except RateLimitError:
time.sleep(2 ** attempt)
raise RuntimeError("NVIDIA rate limit: retries used up")Sambaza mzigo kwa FreeLLMAPI
FreeLLMAPI ni lango la chanzo huria linaloendeshwa kwenye kompyuta yako. Inaichukulia NVIDIA kama bwawa moja la maombi 40 kwa dakika kwa akaunti nzima. Kabla ya kutuma ombi, inaangalia bwawa hilo. Bwawa likijaa, inatuma ombi kwa mtoa huduma bure anayefuata kwenye mnyororo wako.
- Kikomo cha dakika cha akaunti nzima kinawekwa kwa
PROVIDER_MINUTE_REQUEST_CAP_NVIDIA. Kipunguze ikiwa akaunti yako inaonyesha kikomo kidogo. - Ili kupunguza maombi sambamba kwenda NVIDIA, weka
MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIA. - 429 kutoka NVIDIA inaweka ufunguo kwenye muda mfupi wa kupumzika. Kipanga njia kisha kinajaribu watoa huduma wengine.
- Kichwa cha
X-Routed-Viakinaonyesha mtoa huduma aliyejibu kila ombi.
~/freellmapi/.env (usakinishaji wa Docker)
PROVIDER_MINUTE_REQUEST_CAP_NVIDIA=30
MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIA=2
# then restart the container
cd ~/freellmapi && docker compose up -dKisakinishi cha mstari mmoja kinahifadhi mipangilio yake kwenye ~/freellmapi/.env. Ongeza mistari miwili kwenye faili hilo, kisha uanzishe kontena tena. Kikomo chaguo-msingi cha NVIDIA ni maombi 40 kwa dakika. Thamani ya 0 inazima lango la akaunti nzima kwa mtoa huduma huyo.
Akiba haiongezi kikomo cha NVIDIA. Inatumia viwango vingine bure, kwa mfano Groq, Gemini na Cloudflare, NVIDIA ikijaa.
Maswali yanayoulizwa mara kwa mara
Kikomo cha kiwango cha API ya NVIDIA NIM ni kipi?
NVIDIA haichapishi nambari moja. Wafanyakazi wanasema mipaka inatofautiana kwa modeli, na unaweza kuona yako upande wa juu kulia wa build.nvidia.com. Akaunti nyingi bure huripoti maombi 40 kwa dakika.
Ninawezaje kuongeza kikomo cha NVIDIA NIM kutoka 40 RPM?
Hatukupata mchakato rasmi kwa akaunti bure. FAQ ya NVIDIA inaelekeza kwenye kujiendeshea, mshirika wa serverless anayelipiwa kama Hugging Face, au jaribio la NVIDIA AI Enterprise kwa uwezo zaidi.
Je, NVIDIA NIM bado inatumia mikopo?
Hapana. Wafanyakazi wa NVIDIA walisema mnamo Septemba 2025 kwamba build.nvidia.com haitumii tena mikopo. Matumizi ya majaribio sasa yanadhibitiwa na mipaka ya kiwango.
Naweza kutumia API ya bure ya NVIDIA kwenye uzalishaji?
Hapana. NVIDIA API Trial Terms zinaruhusu matumizi ya majaribio machache pekee, si uzalishaji. Matumizi ya uzalishaji yanahitaji leseni ya NVIDIA AI Enterprise au mtoa huduma wa kulipia.
Je, kikomo cha 40 RPM cha NVIDIA ni kwa kila modeli au kwa kila akaunti?
Watumiaji bure huripoti kikomo kimoja kwa akaunti nzima. Panga modeli zote zishiriki, na upange maombi kwenye kila modeli unayoita.
Miongozo inayohusiana
- free nvidia api
- Mipaka ya kiwango cha API ya LLM bure
- Kikomo cha Groq kimefikiwa (429)
- Kikomo cha Gemini API kimezidi (429 RESOURCE_EXHAUSTED)
- API ya LLM ya bure kwa matumizi ya kibiashara
Vyanzo
- NVIDIA developer forum: credit system replaced by rate limits (imekaguliwa 20 November 2026)
- NVIDIA NIM FAQ (imekaguliwa 20 November 2026)
- NVIDIA API Trial Terms of Service (PDF) (imekaguliwa 20 November 2026)
- NVIDIA developer forum: request to raise 40 RPM (imekaguliwa 20 November 2026)
- NVIDIA API Catalog: API reference (imekaguliwa 20 November 2026)
- FreeLLMAPI docs: Quota and cooldown engine (imekaguliwa 20 November 2026)