Limite de taxa da API NVIDIA NIM
O catálogo gratuito de APIs da NVIDIA em build.nvidia.com tem um limite de taxa, não um saldo de créditos. Muitas contas gratuitas relatam um teto de 40 requisições por minuto. Esta página explica o que a NVIDIA diz sobre o limite, por que pedir um aumento raramente funciona e como ficar abaixo dele.
O código, os nomes dos modelos e os rótulos do catálogo ao vivo são exibidos em inglês.
O que a NVIDIA diz sobre o limite
Em setembro de 2025, um membro da equipe da NVIDIA escreveu no fórum de desenvolvedores: "Não usamos mais um sistema baseado em créditos para build.nvidia.com." Os limites de taxa para o uso de teste substituíram os créditos. A mesma resposta diz que os limites variam para cada modelo e que a NVIDIA não os publica. Você pode ver seu limite máximo de taxa no canto superior direito de build.nvidia.com.
O FAQ do NIM diz que o número de chamadas permitido em um período "is designed to serve evaluation and prototyping needs only". Os membros do NVIDIA Developer Program têm acesso gratuito aos endpoints da NIM API para prototipagem.
Dá para aumentar o limite de 40 RPM?
O fórum de desenvolvedores da NVIDIA tem muitas postagens que pedem 200 RPM ou mais. Não encontramos um processo oficial que aumente o limite de uma conta gratuita. Uma resposta no fórum diz que a NVIDIA não pode aumentar manualmente os limites de contas pessoais gratuitas. Não conseguimos confirmar que essa resposta é de um membro da equipe da NVIDIA.
O FAQ do NIM dá outras opções para mais capacidade:
- Faça self-hosting do NIM no seu provedor de nuvem ou nas suas próprias GPUs.
- Use uma API NIM serverless de produção de um parceiro, por exemplo a Hugging Face, com preço por uso.
- Inicie o teste de 90 dias do NVIDIA AI Enterprise, que é destinado a implantações de produção.
Não crie mais contas da NVIDIA para obter mais requisições. Os termos de teste permitem que a NVIDIA defina limites de uso, e o acesso gratuito é apenas para fins limitados de teste.
| Opção | Custo | Mais requisições? |
|---|---|---|
| Pedir no fórum um limite gratuito maior | Gratuito | Nenhum processo oficial encontrado |
| Espaçar as requisições abaixo do limite | Gratuito | Não, mas com menos erros 429 |
| Adicionar outros provedores gratuitos com failover | Gratuito | Sim, com outros provedores |
| NIM serverless de um parceiro | Pago por uso | Sim |
| Self-hosting do NIM | Suas GPUs | Sim |
O que os termos de teste permitem
A seção 1.2 dos Termos de Teste da API NVIDIA concede acesso "for limited trial purposes only". Ela exclui o uso do serviço ou da sua saída em produção. A seção 1.4 diz que, sem uma assinatura, você só pode usar o serviço para teste e avaliação internos.
A seção 3.3 diz que a NVIDIA coleta o seu conteúdo e o conteúdo gerado para melhorar os seus produtos, incluindo modelos de IA. Não envie dados privados ao serviço de teste. Leia Uso comercial de API LLM gratuita para outros provedores.
Modelos NIM gratuitos hoje
O catálogo lista estes modelos gratuitos da NVIDIA. O limite é por conta, então todos os modelos compartilham as mesmas requisições por minuto.
| Modelo | Gratuito em | Contexto | Limites gratuitos (melhor oferta) | Ferramentas | Visão |
|---|---|---|---|---|---|
| GLM 5.3 Flash | NVIDIA NIM | 1M | 40 req/min 40 RPM | Sim | Não |
| Step 5 Preview | NVIDIA NIM | - | Ongoing developer prototyping | Não | Não |
| Nemotron-3 Ultra 550B | NVIDIA NIM | 1M | 40 req/min 40 RPM | Sim | Não |
| Muse Glimmer 30B | NVIDIA NIM | 131K | 40 req/min 40 RPM | Sim | Sim |
| Gemma 4 31B | NVIDIA NIM | 262K | 40 req/min 40 RPM | Não | Não |
| Poolside Laguna XS 2.1 | NVIDIA NIM | 262K | 40 req/min 40 RPM | Sim | Não |
| Nemotron 3 Super 120B | NVIDIA NIM | 262K | 40 req/min 40 RPM | Sim | Não |
| Nemotron 3.5 Lightning 30B A3B | NVIDIA NIM | 1M | 40 req/min 40 RPM | Sim | Não |
| DiffusionGemma 26B A4B IT | NVIDIA NIM | 262K | 40 req/min 40 RPM | Não | Sim |
| GPT-OSS 20B | NVIDIA NIM | 131K | 40 req/min 40 RPM | Sim | Não |
| Nemotron 3 Nano Omni 30B A3B Reasoning | NVIDIA NIM | 262K | 40 req/min 40 RPM | Não | Sim |
| Ising Calibration 1.5 31B | NVIDIA NIM | 131K | 40 req/min 40 RPM | Não | Sim |
Mostrando 12 de 19 modelos gratuitos correspondentes. Ver todos os modelos.
Dados ao vivo do catálogo FreeLLMAPI (versão 2026.11.19, verificado em 2026-11-19). Os limites gratuitos mudam com frequência. O catálogo é verificado todos os dias.
| Provedor | Problema conhecido | O que fazer |
|---|---|---|
| NVIDIA NIM | Recurring free, 40 RPM, eval-only ToS | NVIDIA NIM replaced its depleting trial credits with a recurring per-account rate limit (40 RPM default, varies by model), verified June 2026. The trial ToS still scopes usage to evaluation/prototyping, not production. |
| NVIDIA NIM | Developer evaluation and data-use terms | Ongoing zero-price hosted developer access, not a monthly credit grant or unrestricted production service. NVIDIA trial/prototyping and data-use terms apply. Do not submit personal or confidential data. Text completions with exact model identity passed on October 15, 2026; tool and vision flags remain off until separately tested. Sources: https://build.nvidia.com/stepfun-ai/step-5-preview and https://openrouter.ai/nvidia/nemotron-3.5-super-vl:free |
Dados ao vivo do catálogo FreeLLMAPI (versão 2026.11.19, verificado em 2026-11-19). Os limites gratuitos mudam com frequência. O catálogo é verificado todos os dias.
Como ficar abaixo do limite
Com 40 requisições por minuto, você pode enviar uma requisição a cada 1,5 segundo, em média. Uma rajada de requisições paralelas atinge o limite em segundos. Use estas regras:
- Limite o número de requisições paralelas no seu cliente. Duas ou três de cada vez é seguro para a maioria dos agentes.
- Tente de novo cada 429 com backoff exponencial e jitter. Pare após um número fixo de novas tentativas.
- Conte as requisições de todos os modelos. O limite é da conta, não de cada modelo.
- Envie tarefas curtas e simples a outros provedores. Reserve a NVIDIA para os modelos grandes que só a NVIDIA oferece gratuitamente.
Espaçamento simples no cliente (Python)
import time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://integrate.api.nvidia.com/v1", api_key="<nvidia-key>")
MIN_GAP = 60 / 40 # seconds between requests at 40 RPM
last = 0.0
def ask(prompt, model="openai/gpt-oss-20b"):
global last
for attempt in range(5):
wait = MIN_GAP - (time.time() - last)
if wait > 0:
time.sleep(wait)
last = time.time()
try:
r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
return r.choices[0].message.content
except RateLimitError:
time.sleep(2 ** attempt)
raise RuntimeError("NVIDIA rate limit: retries used up")Distribua a carga com o FreeLLMAPI
O FreeLLMAPI é um gateway de código aberto que roda no seu computador. Ele trata a NVIDIA como um pool de 40 requisições por minuto para a conta inteira. Antes de enviar uma requisição, ele verifica esse pool. Quando o pool está cheio, ele envia a requisição ao próximo provedor gratuito da sua cadeia.
- O teto por minuto da conta é definido com
PROVIDER_MINUTE_REQUEST_CAP_NVIDIA. Reduza-o se a sua conta mostrar um limite menor. - Para limitar as requisições paralelas à NVIDIA, defina
MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIA. - Um 429 da NVIDIA coloca a chave em uma espera curta. O roteador então tenta outros provedores.
- O cabeçalho
X-Routed-Viamostra qual provedor respondeu a cada requisição.
~/freellmapi/.env (instalação com Docker)
PROVIDER_MINUTE_REQUEST_CAP_NVIDIA=30
MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIA=2
# then restart the container
cd ~/freellmapi && docker compose up -dO instalador de uma linha guarda as configurações em ~/freellmapi/.env. Adicione as duas linhas a esse arquivo e depois inicie o contêiner de novo. O teto padrão da NVIDIA é de 40 requisições por minuto. O valor 0 desliga o controle da conta inteira para esse provedor.
O failover não aumenta o limite da NVIDIA. Ele usa outros níveis gratuitos, por exemplo Groq, Gemini e Cloudflare, quando a NVIDIA está cheia.
Perguntas frequentes
Qual é o limite de taxa da API NVIDIA NIM?
A NVIDIA não publica um número único. A equipe diz que os limites variam por modelo, e você pode ver o seu no canto superior direito de build.nvidia.com. A maioria das contas gratuitas relata 40 requisições por minuto.
Como aumento o limite de taxa da NVIDIA NIM de 40 RPM?
Não encontramos um processo oficial para contas gratuitas. O FAQ da NVIDIA aponta para o self-hosting, para um parceiro serverless pago, como a Hugging Face, ou para o teste do NVIDIA AI Enterprise, para mais capacidade.
A NVIDIA NIM ainda usa créditos?
Não. A equipe da NVIDIA disse em setembro de 2025 que o build.nvidia.com não usa mais créditos. O uso de teste agora é controlado por limites de taxa.
Posso usar a API gratuita da NVIDIA em produção?
Não. Os Termos de Teste da API NVIDIA permitem apenas uso limitado de teste, não produção. O uso em produção exige uma licença do NVIDIA AI Enterprise ou um provedor pago.
O limite de 40 RPM da NVIDIA é por modelo ou por conta?
Os usuários gratuitos relatam um único limite para a conta inteira. Considere que todos os modelos compartilham esse limite, e espace as requisições entre todos os modelos que você chama.
Guias relacionados
- free nvidia api
- Limites de taxa da API LLM gratuita
- Limite de taxa da Groq atingido (429)
- Cota da API Gemini excedida (429 RESOURCE_EXHAUSTED)
- API LLM gratuita para uso comercial
Fontes
- NVIDIA developer forum: credit system replaced by rate limits (verificado em 20 November 2026)
- NVIDIA NIM FAQ (verificado em 20 November 2026)
- NVIDIA API Trial Terms of Service (PDF) (verificado em 20 November 2026)
- NVIDIA developer forum: request to raise 40 RPM (verificado em 20 November 2026)
- NVIDIA API Catalog: API reference (verificado em 20 November 2026)
- FreeLLMAPI docs: Quota and cooldown engine (verificado em 20 November 2026)