Nyumbani / Miongozo / Kikomo cha kiwango cha API ya NVIDIA NIM

Kikomo cha kiwango cha API ya NVIDIA NIM

API ya bure ya NVIDIA Catalog kwenye build.nvidia.com ina kikomo cha kiwango, si salio la mikopo. Akaunti nyingi bure huripoti kikomo cha maombi 40 kwa dakika. Ukurasa huu unaeleza NVIDIA inasema nini kuhusu kikomo, kwa nini kuomba kikomo kikubwa mara chache kunafanya kazi, na jinsi ya kukaa chini yake.

Msimbo, majina ya modeli na lebo za katalogi ya moja kwa moja zinaonyeshwa kwa Kiingereza.

NVIDIA inasema nini kuhusu kikomo

Mnamo Septemba 2025, mfanyakazi wa NVIDIA aliandika kwenye jukwaa la wasanidi: "We no longer use a credit-based system for build.nvidia.com." Mipaka ya kiwango kwa matumizi ya majaribio ilichukua nafasi ya mikopo. Jibu hilohilo linasema kwamba mipaka inatofautiana kwa kila modeli na kwamba NVIDIA haichapishi. Unaweza kuona kiwango chako cha juu zaidi upande wa juu kulia wa build.nvidia.com.

FAQ ya NIM inasema kwamba idadi ya wito inayoruhusiwa kwa kipindi "is designed to serve evaluation and prototyping needs only". Wanachama wa NVIDIA Developer Program wanapata ufikiaji bure wa sehemu za mwisho za NIM API kwa kutengeneza prototaipu.

Kuhusu thamani ya 40 RPM: maombi 40 kwa dakika ni thamani ambayo akaunti nyingi bure huripoti kwenye jukwaa la NVIDIA. Haipo kwenye ukurasa rasmi wa NVIDIA. Angalia akaunti yako mwenyewe kwa kikomo chako halisi.

Je, unaweza kuongeza kikomo cha 40 RPM?

Jukwaa la wasanidi wa NVIDIA lina machapisho mengi yanayoomba 200 RPM au zaidi. Hatukupata mchakato rasmi unaoongeza kikomo kwa akaunti bure. Jibu moja la jukwaani linasema kwamba NVIDIA haiwezi kuongeza kwa mkono mipaka ya akaunti binafsi bure. Hatukuweza kuthibitisha kwamba jibu hili linatoka kwa wafanyakazi wa NVIDIA.

FAQ ya NIM inatoa chaguo zingine za uwezo zaidi:

  • Jiendeshe NIM kwenye mtoa huduma wako wa wingu au kwenye GPU zako mwenyewe.
  • Tumia API ya NIM ya serverless ya uzalishaji kutoka mshirika, kwa mfano Hugging Face, yenye bei ya kulipa kwa matumizi.
  • Anzisha jaribio la siku 90 la NVIDIA AI Enterprise, ambalo limekusudiwa kwa usambazaji wa uzalishaji.

Usifungue akaunti nyingi za NVIDIA ili upate maombi zaidi. Masharti ya majaribio yanaruhusu NVIDIA kuweka mipaka ya matumizi, na ufikiaji bure ni kwa madhumuni machache ya majaribio pekee.

Njia za kupata uwezo zaidi wa kuchakata
ChaguoGharamaMaombi zaidi?
Omba kikomo bure cha juu kwenye jukwaaBureHakuna mchakato rasmi uliopatikana
Panga maombi yabaki chini ya kikomoBureHapana, lakini hitilafu chache za 429
Ongeza watoa huduma wengine bure wenye akibaBureNdiyo, kutoka kwa watoa huduma wengine
NIM ya serverless kutoka mshirikaLipa kwa matumiziNdiyo
Jiendeshe NIMGPU zakoNdiyo

Masharti ya majaribio yanaruhusu nini

Kifungu 1.2 cha NVIDIA API Trial Terms kinatoa ufikiaji "for limited trial purposes only". Kinatenga matumizi ya huduma au pato lake kwenye uzalishaji. Kifungu 1.4 kinasema kwamba bila usajili, unaweza kutumia huduma kwa upimaji wa ndani na tathmini pekee.

Kifungu 3.3 kinasema kwamba NVIDIA hukusanya maudhui yako na maudhui yaliyotengenezwa ili kuboresha bidhaa zake, ikiwa ni pamoja na modeli za AI. Usitume data binafsi kwenye huduma ya majaribio. Soma free LLM API commercial use kwa watoa huduma wengine.

Modeli bure za NIM leo

Orodha ya modeli inaorodhesha modeli hizi bure za NVIDIA. Kikomo ni cha kila akaunti, kwa hiyo modeli zote zinashiriki maombi sawa kwa dakika.

Modeli bure za NVIDIA NIM kwenye orodha leo
ModeliBure kwenyeMuktadhaVikomo vya bure (ofa bora)ZanaUoni
GLM 5.3 FlashNVIDIA NIM1M40 maombi/dakika
40 RPM
NdiyoHapana
Step 5 PreviewNVIDIA NIM-Ongoing developer prototypingHapanaHapana
Nemotron-3 Ultra 550BNVIDIA NIM1M40 maombi/dakika
40 RPM
NdiyoHapana
Muse Glimmer 30BNVIDIA NIM131K40 maombi/dakika
40 RPM
NdiyoNdiyo
Gemma 4 31BNVIDIA NIM262K40 maombi/dakika
40 RPM
HapanaHapana
Poolside Laguna XS 2.1NVIDIA NIM262K40 maombi/dakika
40 RPM
NdiyoHapana
Nemotron 3 Super 120BNVIDIA NIM262K40 maombi/dakika
40 RPM
NdiyoHapana
Nemotron 3.5 Lightning 30B A3BNVIDIA NIM1M40 maombi/dakika
40 RPM
NdiyoHapana
DiffusionGemma 26B A4B ITNVIDIA NIM262K40 maombi/dakika
40 RPM
HapanaNdiyo
GPT-OSS 20BNVIDIA NIM131K40 maombi/dakika
40 RPM
NdiyoHapana
Nemotron 3 Nano Omni 30B A3B ReasoningNVIDIA NIM262K40 maombi/dakika
40 RPM
HapanaNdiyo
Ising Calibration 1.5 31BNVIDIA NIM131K40 maombi/dakika
40 RPM
HapanaNdiyo

Inaonyesha 12 kati ya 19 modeli za bure zinazolingana. Tazama modeli zote.

Data ya moja kwa moja kutoka katalogi ya FreeLLMAPI (toleo 2026.11.19, imekaguliwa 2026-11-19). Vikomo vya bure hubadilika mara kwa mara. Katalogi hukaguliwa kila siku.

Mtoa hudumaTatizo linalojulikanaCha kufanya
NVIDIA NIMRecurring free, 40 RPM, eval-only ToSNVIDIA NIM replaced its depleting trial credits with a recurring per-account rate limit (40 RPM default, varies by model), verified June 2026. The trial ToS still scopes usage to evaluation/prototyping, not production.
NVIDIA NIMDeveloper evaluation and data-use termsOngoing zero-price hosted developer access, not a monthly credit grant or unrestricted production service. NVIDIA trial/prototyping and data-use terms apply. Do not submit personal or confidential data. Text completions with exact model identity passed on October 15, 2026; tool and vision flags remain off until separately tested. Sources: https://build.nvidia.com/stepfun-ai/step-5-preview and https://openrouter.ai/nvidia/nemotron-3.5-super-vl:free

Data ya moja kwa moja kutoka katalogi ya FreeLLMAPI (toleo 2026.11.19, imekaguliwa 2026-11-19). Vikomo vya bure hubadilika mara kwa mara. Katalogi hukaguliwa kila siku.

Jinsi ya kukaa chini ya kikomo

Kwa maombi 40 kwa dakika, unaweza kutuma ombi moja kila sekunde 1.5 kwa wastani. Mlipuko wa maombi sambamba unafikia kikomo ndani ya sekunde chache. Tumia kanuni hizi:

  1. Punguza idadi ya maombi sambamba kwenye mteja wako. Mawili au matatu kwa wakati mmoja ni salama kwa mawakala wengi.
  2. Jaribu tena kila 429 kwa exponential backoff na jitter. Simama baada ya idadi maalum ya majaribio.
  3. Hesabu maombi kwenye modeli zote. Kikomo ni cha akaunti, si cha kila modeli.
  4. Tuma kazi fupi na rahisi kwa watoa huduma wengine. Weka NVIDIA kwa modeli kubwa ambazo NVIDIA pekee inazitoa bure.

Udhibiti rahisi wa kasi upande wa mteja (Python)

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://integrate.api.nvidia.com/v1", api_key="<nvidia-key>")
MIN_GAP = 60 / 40  # seconds between requests at 40 RPM
last = 0.0

def ask(prompt, model="openai/gpt-oss-20b"):
    global last
    for attempt in range(5):
        wait = MIN_GAP - (time.time() - last)
        if wait > 0:
            time.sleep(wait)
        last = time.time()
        try:
            r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(2 ** attempt)
    raise RuntimeError("NVIDIA rate limit: retries used up")

Sambaza mzigo kwa FreeLLMAPI

FreeLLMAPI ni lango la chanzo huria linaloendeshwa kwenye kompyuta yako. Inaichukulia NVIDIA kama bwawa moja la maombi 40 kwa dakika kwa akaunti nzima. Kabla ya kutuma ombi, inaangalia bwawa hilo. Bwawa likijaa, inatuma ombi kwa mtoa huduma bure anayefuata kwenye mnyororo wako.

  • Kikomo cha dakika cha akaunti nzima kinawekwa kwa PROVIDER_MINUTE_REQUEST_CAP_NVIDIA. Kipunguze ikiwa akaunti yako inaonyesha kikomo kidogo.
  • Ili kupunguza maombi sambamba kwenda NVIDIA, weka MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIA.
  • 429 kutoka NVIDIA inaweka ufunguo kwenye muda mfupi wa kupumzika. Kipanga njia kisha kinajaribu watoa huduma wengine.
  • Kichwa cha X-Routed-Via kinaonyesha mtoa huduma aliyejibu kila ombi.

~/freellmapi/.env (usakinishaji wa Docker)

PROVIDER_MINUTE_REQUEST_CAP_NVIDIA=30
MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIA=2

# then restart the container
cd ~/freellmapi && docker compose up -d

Kisakinishi cha mstari mmoja kinahifadhi mipangilio yake kwenye ~/freellmapi/.env. Ongeza mistari miwili kwenye faili hilo, kisha uanzishe kontena tena. Kikomo chaguo-msingi cha NVIDIA ni maombi 40 kwa dakika. Thamani ya 0 inazima lango la akaunti nzima kwa mtoa huduma huyo.

Akiba haiongezi kikomo cha NVIDIA. Inatumia viwango vingine bure, kwa mfano Groq, Gemini na Cloudflare, NVIDIA ikijaa.

Tumia kila moja ya hizi kwa ufunguo mmoja. FreeLLMAPI ni kipanga njia huria, unachoendesha mwenyewe. Kinaweka tabaka hizi zote za bure nyuma ya kituo kimoja cha OpenAI kinachooana, na kinahamia kwenye nyingine pale kikomo kinapofikiwa. Vinjari katalogi au anza sasa.

Maswali yanayoulizwa mara kwa mara

Kikomo cha kiwango cha API ya NVIDIA NIM ni kipi?

NVIDIA haichapishi nambari moja. Wafanyakazi wanasema mipaka inatofautiana kwa modeli, na unaweza kuona yako upande wa juu kulia wa build.nvidia.com. Akaunti nyingi bure huripoti maombi 40 kwa dakika.

Ninawezaje kuongeza kikomo cha NVIDIA NIM kutoka 40 RPM?

Hatukupata mchakato rasmi kwa akaunti bure. FAQ ya NVIDIA inaelekeza kwenye kujiendeshea, mshirika wa serverless anayelipiwa kama Hugging Face, au jaribio la NVIDIA AI Enterprise kwa uwezo zaidi.

Je, NVIDIA NIM bado inatumia mikopo?

Hapana. Wafanyakazi wa NVIDIA walisema mnamo Septemba 2025 kwamba build.nvidia.com haitumii tena mikopo. Matumizi ya majaribio sasa yanadhibitiwa na mipaka ya kiwango.

Naweza kutumia API ya bure ya NVIDIA kwenye uzalishaji?

Hapana. NVIDIA API Trial Terms zinaruhusu matumizi ya majaribio machache pekee, si uzalishaji. Matumizi ya uzalishaji yanahitaji leseni ya NVIDIA AI Enterprise au mtoa huduma wa kulipia.

Je, kikomo cha 40 RPM cha NVIDIA ni kwa kila modeli au kwa kila akaunti?

Watumiaji bure huripoti kikomo kimoja kwa akaunti nzima. Panga modeli zote zishiriki, na upange maombi kwenye kila modeli unayoita.

Miongozo inayohusiana

Vyanzo

Miongozo yote · Tazama modeli zote za bure