Limite di rate dell'API NVIDIA NIM
L'API Catalog gratuita di NVIDIA su build.nvidia.com ha un limite di rate, non un saldo di crediti. Molti account gratuiti segnalano un tetto di 40 richieste al minuto. Questa pagina spiega cosa dice NVIDIA sul limite, perché le richieste per aumentarlo funzionano di rado e come restare al di sotto.
Codice, nomi dei modelli ed etichette del catalogo in tempo reale sono mostrati in inglese.
Cosa dice NVIDIA sul limite
Nel settembre 2025, un membro dello staff NVIDIA ha scritto sul forum per sviluppatori: "non usiamo più un sistema basato sui crediti per build.nvidia.com." I limiti di rate per l'uso di prova hanno sostituito i crediti. La stessa risposta dice che i limiti variano per ogni modello e che NVIDIA non li pubblica. Puoi vedere il tuo limite massimo in alto a destra su build.nvidia.com.
La FAQ di NIM dice che il numero di chiamate consentite in un periodo "è progettato solo per le esigenze di valutazione e prototipazione". I membri del NVIDIA Developer Program ottengono accesso gratuito agli endpoint NIM API per la prototipazione.
Puoi aumentare il limite di 40 RPM?
Il forum per sviluppatori NVIDIA contiene molti post che chiedono 200 RPM o più. Non abbiamo trovato un processo ufficiale che aumenti il limite per un account gratuito. Una risposta del forum dice che NVIDIA non può aumentare manualmente i limiti per gli account personali gratuiti. Non siamo riusciti a confermare che questa risposta provenga dallo staff NVIDIA.
La FAQ di NIM propone altre opzioni per avere più capacità:
- Installa NIM in self-hosting sul tuo provider cloud o sulle tue GPU.
- Usa un'API NIM serverless di produzione da un partner, per esempio Hugging Face, con prezzi a consumo.
- Avvia la prova di 90 giorni di NVIDIA AI Enterprise, pensata per i deployment di produzione.
Non creare altri account NVIDIA per ottenere più richieste. I termini di prova permettono a NVIDIA di impostare limiti d'uso, e l'accesso gratuito è solo per scopi limitati di prova.
| Opzione | Costo | Più richieste? |
|---|---|---|
| Chiedi sul forum un limite gratuito più alto | Gratuito | Nessun processo ufficiale trovato |
| Distribuisci le richieste sotto il limite | Gratuito | No, ma meno errori 429 |
| Aggiungi altri provider gratuiti con failover | Gratuito | Sì, da altri provider |
| NIM serverless da un partner | A consumo | Sì |
| Installa NIM in self-hosting | Le tue GPU | Sì |
Cosa consentono i termini di prova
La sezione 1.2 dei Termini di servizio della NVIDIA API Trial concede l'accesso "solo per scopi limitati di prova". Esclude l'uso del servizio o del suo output in produzione. La sezione 1.4 dice che, senza un abbonamento, puoi usare il servizio solo per test interni e valutazione.
La sezione 3.3 dice che NVIDIA raccoglie i tuoi contenuti e i contenuti generati per migliorare i suoi prodotti, inclusi i modelli IA. Non inviare dati privati al servizio di prova. Leggi uso commerciale delle free LLM API per altri provider.
Modelli NIM gratuiti oggi
Il catalogo elenca questi modelli NVIDIA gratuiti. Il limite è per account, quindi tutti i modelli condividono le stesse richieste al minuto.
| Modello | Gratis su | Contesto | Limiti gratuiti (offerta migliore) | Strumenti | Visione |
|---|---|---|---|---|---|
| GLM 5.3 Flash | NVIDIA NIM | 1M | 40 richieste/min 40 RPM | Sì | No |
| Step 5 Preview | NVIDIA NIM | - | Ongoing developer prototyping | No | No |
| Nemotron-3 Ultra 550B | NVIDIA NIM | 1M | 40 richieste/min 40 RPM | Sì | No |
| Muse Glimmer 30B | NVIDIA NIM | 131K | 40 richieste/min 40 RPM | Sì | Sì |
| Gemma 4 31B | NVIDIA NIM | 262K | 40 richieste/min 40 RPM | No | No |
| Poolside Laguna XS 2.1 | NVIDIA NIM | 262K | 40 richieste/min 40 RPM | Sì | No |
| Nemotron 3 Super 120B | NVIDIA NIM | 262K | 40 richieste/min 40 RPM | Sì | No |
| Nemotron 3.5 Lightning 30B A3B | NVIDIA NIM | 1M | 40 richieste/min 40 RPM | Sì | No |
| DiffusionGemma 26B A4B IT | NVIDIA NIM | 262K | 40 richieste/min 40 RPM | No | Sì |
| GPT-OSS 20B | NVIDIA NIM | 131K | 40 richieste/min 40 RPM | Sì | No |
| Nemotron 3 Nano Omni 30B A3B Reasoning | NVIDIA NIM | 262K | 40 richieste/min 40 RPM | No | Sì |
| Ising Calibration 1.5 31B | NVIDIA NIM | 131K | 40 richieste/min 40 RPM | No | Sì |
Mostrati 12 di 19 modelli gratuiti corrispondenti. Vedi tutti i modelli.
Dati in tempo reale dal catalogo FreeLLMAPI (versione 2026.11.19, verificato il 2026-11-19). I limiti gratuiti cambiano spesso. Il catalogo viene verificato ogni giorno.
| Provider | Problema noto | Cosa fare |
|---|---|---|
| NVIDIA NIM | Recurring free, 40 RPM, eval-only ToS | NVIDIA NIM replaced its depleting trial credits with a recurring per-account rate limit (40 RPM default, varies by model), verified June 2026. The trial ToS still scopes usage to evaluation/prototyping, not production. |
| NVIDIA NIM | Developer evaluation and data-use terms | Ongoing zero-price hosted developer access, not a monthly credit grant or unrestricted production service. NVIDIA trial/prototyping and data-use terms apply. Do not submit personal or confidential data. Text completions with exact model identity passed on October 15, 2026; tool and vision flags remain off until separately tested. Sources: https://build.nvidia.com/stepfun-ai/step-5-preview and https://openrouter.ai/nvidia/nemotron-3.5-super-vl:free |
Dati in tempo reale dal catalogo FreeLLMAPI (versione 2026.11.19, verificato il 2026-11-19). I limiti gratuiti cambiano spesso. Il catalogo viene verificato ogni giorno.
Come restare sotto il limite
A 40 richieste al minuto, puoi inviare una richiesta ogni 1,5 secondi in media. Una raffica di richieste parallele raggiunge il limite in pochi secondi. Usa queste regole:
- Limita il numero di richieste parallele nel tuo client. Due o tre alla volta sono sicure per la maggior parte degli agenti.
- Riprova ogni 429 con backoff esponenziale e jitter. Fermati dopo un numero fisso di tentativi.
- Conta le richieste su tutti i modelli. Il limite vale per l'account, non per ogni modello.
- Invia i compiti brevi e semplici ad altri provider. Riserva NVIDIA ai modelli grandi che solo NVIDIA offre gratis.
Distribuzione semplice lato client (Python)
import time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://integrate.api.nvidia.com/v1", api_key="<nvidia-key>")
MIN_GAP = 60 / 40 # seconds between requests at 40 RPM
last = 0.0
def ask(prompt, model="openai/gpt-oss-20b"):
global last
for attempt in range(5):
wait = MIN_GAP - (time.time() - last)
if wait > 0:
time.sleep(wait)
last = time.time()
try:
r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
return r.choices[0].message.content
except RateLimitError:
time.sleep(2 ** attempt)
raise RuntimeError("NVIDIA rate limit: retries used up")Distribuisci il carico con FreeLLMAPI
FreeLLMAPI è un gateway open source che gira sul tuo computer. Tratta NVIDIA come un unico pool di 40 richieste al minuto per l'intero account. Prima di inviare una richiesta, controlla quel pool. Quando il pool è pieno, invia la richiesta al provider gratuito successivo della tua catena.
- Il tetto al minuto per l'intero account si imposta con
PROVIDER_MINUTE_REQUEST_CAP_NVIDIA. Abbassalo se il tuo account mostra un limite più basso. - Per limitare le richieste parallele verso NVIDIA, imposta
MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIA. - Un 429 da NVIDIA mette la chiave in una breve pausa. Il router prova poi altri provider.
- L'intestazione
X-Routed-Viamostra quale provider ha risposto a ogni richiesta.
~/freellmapi/.env (installazione Docker)
PROVIDER_MINUTE_REQUEST_CAP_NVIDIA=30
MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIA=2
# then restart the container
cd ~/freellmapi && docker compose up -dL'installer a una riga conserva le sue impostazioni in ~/freellmapi/.env. Aggiungi le due righe a quel file, poi avvia di nuovo il container. Il tetto predefinito di NVIDIA è di 40 richieste al minuto. Un valore di 0 disattiva il controllo a livello di account per quel provider.
Il failover non aumenta il limite di NVIDIA. Usa altri piani gratuiti, per esempio Groq, Gemini e Cloudflare, quando NVIDIA è piena.
Domande frequenti
Qual è il limite di rate dell'API NVIDIA NIM?
NVIDIA non pubblica un unico numero. Lo staff dice che i limiti variano per modello, e puoi vedere il tuo in alto a destra su build.nvidia.com. La maggior parte degli account gratuiti riporta 40 richieste al minuto.
Come aumento il limite di rate di NVIDIA NIM da 40 RPM?
Non abbiamo trovato un processo ufficiale per gli account gratuiti. La FAQ di NVIDIA indica il self-hosting, un partner serverless a pagamento come Hugging Face, oppure la prova di NVIDIA AI Enterprise per più capacità.
NVIDIA NIM usa ancora i crediti?
No. Lo staff NVIDIA ha detto nel settembre 2025 che build.nvidia.com non usa più i crediti. L'uso di prova è ora controllato dai limiti di rate.
Posso usare l'API NVIDIA gratuita in produzione?
No. I Termini di servizio della NVIDIA API Trial consentono solo un uso di prova limitato, non la produzione. L'uso in produzione richiede una licenza NVIDIA AI Enterprise o un provider a pagamento.
Il limite di 40 RPM di NVIDIA vale per modello o per account?
Gli utenti gratuiti riportano un unico limite per l'account. Calcola che tutti i modelli lo condividono e distribuisci le richieste su ogni modello che chiami.
Guide correlate
- free nvidia api
- Rate limit delle Free LLM API
- Limite di frequenza Groq raggiunto (429)
- Quota Gemini API superata (429 RESOURCE_EXHAUSTED)
- API LLM gratuita per uso commerciale
Fonti
- NVIDIA developer forum: credit system replaced by rate limits (verificato il 20 November 2026)
- NVIDIA NIM FAQ (verificato il 20 November 2026)
- NVIDIA API Trial Terms of Service (PDF) (verificato il 20 November 2026)
- NVIDIA developer forum: request to raise 40 RPM (verificato il 20 November 2026)
- NVIDIA API Catalog: API reference (verificato il 20 November 2026)
- FreeLLMAPI docs: Quota and cooldown engine (verificato il 20 November 2026)