Home / Guide / Limite di rate dell'API NVIDIA NIM

Limite di rate dell'API NVIDIA NIM

L'API Catalog gratuita di NVIDIA su build.nvidia.com ha un limite di rate, non un saldo di crediti. Molti account gratuiti segnalano un tetto di 40 richieste al minuto. Questa pagina spiega cosa dice NVIDIA sul limite, perché le richieste per aumentarlo funzionano di rado e come restare al di sotto.

Codice, nomi dei modelli ed etichette del catalogo in tempo reale sono mostrati in inglese.

Cosa dice NVIDIA sul limite

Nel settembre 2025, un membro dello staff NVIDIA ha scritto sul forum per sviluppatori: "non usiamo più un sistema basato sui crediti per build.nvidia.com." I limiti di rate per l'uso di prova hanno sostituito i crediti. La stessa risposta dice che i limiti variano per ogni modello e che NVIDIA non li pubblica. Puoi vedere il tuo limite massimo in alto a destra su build.nvidia.com.

La FAQ di NIM dice che il numero di chiamate consentite in un periodo "è progettato solo per le esigenze di valutazione e prototipazione". I membri del NVIDIA Developer Program ottengono accesso gratuito agli endpoint NIM API per la prototipazione.

Sul valore di 40 RPM: 40 richieste al minuto è il valore che la maggior parte degli account gratuiti riporta sul forum NVIDIA. Non è in una pagina ufficiale di NVIDIA. Controlla il tuo account per conoscere il tuo limite reale.

Puoi aumentare il limite di 40 RPM?

Il forum per sviluppatori NVIDIA contiene molti post che chiedono 200 RPM o più. Non abbiamo trovato un processo ufficiale che aumenti il limite per un account gratuito. Una risposta del forum dice che NVIDIA non può aumentare manualmente i limiti per gli account personali gratuiti. Non siamo riusciti a confermare che questa risposta provenga dallo staff NVIDIA.

La FAQ di NIM propone altre opzioni per avere più capacità:

  • Installa NIM in self-hosting sul tuo provider cloud o sulle tue GPU.
  • Usa un'API NIM serverless di produzione da un partner, per esempio Hugging Face, con prezzi a consumo.
  • Avvia la prova di 90 giorni di NVIDIA AI Enterprise, pensata per i deployment di produzione.

Non creare altri account NVIDIA per ottenere più richieste. I termini di prova permettono a NVIDIA di impostare limiti d'uso, e l'accesso gratuito è solo per scopi limitati di prova.

Modi per ottenere più throughput
OpzioneCostoPiù richieste?
Chiedi sul forum un limite gratuito più altoGratuitoNessun processo ufficiale trovato
Distribuisci le richieste sotto il limiteGratuitoNo, ma meno errori 429
Aggiungi altri provider gratuiti con failoverGratuitoSì, da altri provider
NIM serverless da un partnerA consumoSì
Installa NIM in self-hostingLe tue GPUSì

Cosa consentono i termini di prova

La sezione 1.2 dei Termini di servizio della NVIDIA API Trial concede l'accesso "solo per scopi limitati di prova". Esclude l'uso del servizio o del suo output in produzione. La sezione 1.4 dice che, senza un abbonamento, puoi usare il servizio solo per test interni e valutazione.

La sezione 3.3 dice che NVIDIA raccoglie i tuoi contenuti e i contenuti generati per migliorare i suoi prodotti, inclusi i modelli IA. Non inviare dati privati al servizio di prova. Leggi uso commerciale delle free LLM API per altri provider.

Modelli NIM gratuiti oggi

Il catalogo elenca questi modelli NVIDIA gratuiti. Il limite è per account, quindi tutti i modelli condividono le stesse richieste al minuto.

Modelli NVIDIA NIM gratuiti nel catalogo oggi
ModelloGratis suContestoLimiti gratuiti (offerta migliore)StrumentiVisione
GLM 5.3 FlashNVIDIA NIM1M40 richieste/min
40 RPM
SìNo
Step 5 PreviewNVIDIA NIM-Ongoing developer prototypingNoNo
Nemotron-3 Ultra 550BNVIDIA NIM1M40 richieste/min
40 RPM
SìNo
Muse Glimmer 30BNVIDIA NIM131K40 richieste/min
40 RPM
SìSì
Gemma 4 31BNVIDIA NIM262K40 richieste/min
40 RPM
NoNo
Poolside Laguna XS 2.1NVIDIA NIM262K40 richieste/min
40 RPM
SìNo
Nemotron 3 Super 120BNVIDIA NIM262K40 richieste/min
40 RPM
SìNo
Nemotron 3.5 Lightning 30B A3BNVIDIA NIM1M40 richieste/min
40 RPM
SìNo
DiffusionGemma 26B A4B ITNVIDIA NIM262K40 richieste/min
40 RPM
NoSì
GPT-OSS 20BNVIDIA NIM131K40 richieste/min
40 RPM
SìNo
Nemotron 3 Nano Omni 30B A3B ReasoningNVIDIA NIM262K40 richieste/min
40 RPM
NoSì
Ising Calibration 1.5 31BNVIDIA NIM131K40 richieste/min
40 RPM
NoSì

Mostrati 12 di 19 modelli gratuiti corrispondenti. Vedi tutti i modelli.

Dati in tempo reale dal catalogo FreeLLMAPI (versione 2026.11.19, verificato il 2026-11-19). I limiti gratuiti cambiano spesso. Il catalogo viene verificato ogni giorno.

ProviderProblema notoCosa fare
NVIDIA NIMRecurring free, 40 RPM, eval-only ToSNVIDIA NIM replaced its depleting trial credits with a recurring per-account rate limit (40 RPM default, varies by model), verified June 2026. The trial ToS still scopes usage to evaluation/prototyping, not production.
NVIDIA NIMDeveloper evaluation and data-use termsOngoing zero-price hosted developer access, not a monthly credit grant or unrestricted production service. NVIDIA trial/prototyping and data-use terms apply. Do not submit personal or confidential data. Text completions with exact model identity passed on October 15, 2026; tool and vision flags remain off until separately tested. Sources: https://build.nvidia.com/stepfun-ai/step-5-preview and https://openrouter.ai/nvidia/nemotron-3.5-super-vl:free

Dati in tempo reale dal catalogo FreeLLMAPI (versione 2026.11.19, verificato il 2026-11-19). I limiti gratuiti cambiano spesso. Il catalogo viene verificato ogni giorno.

Come restare sotto il limite

A 40 richieste al minuto, puoi inviare una richiesta ogni 1,5 secondi in media. Una raffica di richieste parallele raggiunge il limite in pochi secondi. Usa queste regole:

  1. Limita il numero di richieste parallele nel tuo client. Due o tre alla volta sono sicure per la maggior parte degli agenti.
  2. Riprova ogni 429 con backoff esponenziale e jitter. Fermati dopo un numero fisso di tentativi.
  3. Conta le richieste su tutti i modelli. Il limite vale per l'account, non per ogni modello.
  4. Invia i compiti brevi e semplici ad altri provider. Riserva NVIDIA ai modelli grandi che solo NVIDIA offre gratis.

Distribuzione semplice lato client (Python)

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://integrate.api.nvidia.com/v1", api_key="<nvidia-key>")
MIN_GAP = 60 / 40  # seconds between requests at 40 RPM
last = 0.0

def ask(prompt, model="openai/gpt-oss-20b"):
    global last
    for attempt in range(5):
        wait = MIN_GAP - (time.time() - last)
        if wait > 0:
            time.sleep(wait)
        last = time.time()
        try:
            r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(2 ** attempt)
    raise RuntimeError("NVIDIA rate limit: retries used up")

Distribuisci il carico con FreeLLMAPI

FreeLLMAPI è un gateway open source che gira sul tuo computer. Tratta NVIDIA come un unico pool di 40 richieste al minuto per l'intero account. Prima di inviare una richiesta, controlla quel pool. Quando il pool è pieno, invia la richiesta al provider gratuito successivo della tua catena.

  • Il tetto al minuto per l'intero account si imposta con PROVIDER_MINUTE_REQUEST_CAP_NVIDIA. Abbassalo se il tuo account mostra un limite più basso.
  • Per limitare le richieste parallele verso NVIDIA, imposta MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIA.
  • Un 429 da NVIDIA mette la chiave in una breve pausa. Il router prova poi altri provider.
  • L'intestazione X-Routed-Via mostra quale provider ha risposto a ogni richiesta.

~/freellmapi/.env (installazione Docker)

PROVIDER_MINUTE_REQUEST_CAP_NVIDIA=30
MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIA=2

# then restart the container
cd ~/freellmapi && docker compose up -d

L'installer a una riga conserva le sue impostazioni in ~/freellmapi/.env. Aggiungi le due righe a quel file, poi avvia di nuovo il container. Il tetto predefinito di NVIDIA è di 40 richieste al minuto. Un valore di 0 disattiva il controllo a livello di account per quel provider.

Il failover non aumenta il limite di NVIDIA. Usa altri piani gratuiti, per esempio Groq, Gemini e Cloudflare, quando NVIDIA è piena.

Usa ognuno di questi modelli con una sola chiave. FreeLLMAPI è un router open source self-hosted che mette tutti questi piani gratuiti dietro un unico endpoint compatibile con OpenAI e passa al successivo quando uno raggiunge il limite di frequenza. Sfoglia il catalogo oppure inizia.

Domande frequenti

Qual è il limite di rate dell'API NVIDIA NIM?

NVIDIA non pubblica un unico numero. Lo staff dice che i limiti variano per modello, e puoi vedere il tuo in alto a destra su build.nvidia.com. La maggior parte degli account gratuiti riporta 40 richieste al minuto.

Come aumento il limite di rate di NVIDIA NIM da 40 RPM?

Non abbiamo trovato un processo ufficiale per gli account gratuiti. La FAQ di NVIDIA indica il self-hosting, un partner serverless a pagamento come Hugging Face, oppure la prova di NVIDIA AI Enterprise per più capacità.

NVIDIA NIM usa ancora i crediti?

No. Lo staff NVIDIA ha detto nel settembre 2025 che build.nvidia.com non usa più i crediti. L'uso di prova è ora controllato dai limiti di rate.

Posso usare l'API NVIDIA gratuita in produzione?

No. I Termini di servizio della NVIDIA API Trial consentono solo un uso di prova limitato, non la produzione. L'uso in produzione richiede una licenza NVIDIA AI Enterprise o un provider a pagamento.

Il limite di 40 RPM di NVIDIA vale per modello o per account?

Gli utenti gratuiti riportano un unico limite per l'account. Calcola che tutti i modelli lo condividono e distribuisci le richieste su ogni modello che chiami.

Guide correlate

Fonti

Tutte le guide · Sfoglia tutti i modelli gratuiti