Início / Guias / Limite de taxa da API NVIDIA NIM

Limite de taxa da API NVIDIA NIM

O catálogo gratuito de APIs da NVIDIA em build.nvidia.com tem um limite de taxa, não um saldo de créditos. Muitas contas gratuitas relatam um teto de 40 requisições por minuto. Esta página explica o que a NVIDIA diz sobre o limite, por que pedir um aumento raramente funciona e como ficar abaixo dele.

O código, os nomes dos modelos e os rótulos do catálogo ao vivo são exibidos em inglês.

O que a NVIDIA diz sobre o limite

Em setembro de 2025, um membro da equipe da NVIDIA escreveu no fórum de desenvolvedores: "Não usamos mais um sistema baseado em créditos para build.nvidia.com." Os limites de taxa para o uso de teste substituíram os créditos. A mesma resposta diz que os limites variam para cada modelo e que a NVIDIA não os publica. Você pode ver seu limite máximo de taxa no canto superior direito de build.nvidia.com.

O FAQ do NIM diz que o número de chamadas permitido em um período "is designed to serve evaluation and prototyping needs only". Os membros do NVIDIA Developer Program têm acesso gratuito aos endpoints da NIM API para prototipagem.

Sobre o valor de 40 RPM: 40 requisições por minuto é o valor que a maioria das contas gratuitas relata no fórum da NVIDIA. Ele não aparece em nenhuma página oficial da NVIDIA. Confira o seu limite real na sua conta.

Dá para aumentar o limite de 40 RPM?

O fórum de desenvolvedores da NVIDIA tem muitas postagens que pedem 200 RPM ou mais. Não encontramos um processo oficial que aumente o limite de uma conta gratuita. Uma resposta no fórum diz que a NVIDIA não pode aumentar manualmente os limites de contas pessoais gratuitas. Não conseguimos confirmar que essa resposta é de um membro da equipe da NVIDIA.

O FAQ do NIM dá outras opções para mais capacidade:

  • Faça self-hosting do NIM no seu provedor de nuvem ou nas suas próprias GPUs.
  • Use uma API NIM serverless de produção de um parceiro, por exemplo a Hugging Face, com preço por uso.
  • Inicie o teste de 90 dias do NVIDIA AI Enterprise, que é destinado a implantações de produção.

Não crie mais contas da NVIDIA para obter mais requisições. Os termos de teste permitem que a NVIDIA defina limites de uso, e o acesso gratuito é apenas para fins limitados de teste.

Formas de obter mais vazão
OpçãoCustoMais requisições?
Pedir no fórum um limite gratuito maiorGratuitoNenhum processo oficial encontrado
Espaçar as requisições abaixo do limiteGratuitoNão, mas com menos erros 429
Adicionar outros provedores gratuitos com failoverGratuitoSim, com outros provedores
NIM serverless de um parceiroPago por usoSim
Self-hosting do NIMSuas GPUsSim

O que os termos de teste permitem

A seção 1.2 dos Termos de Teste da API NVIDIA concede acesso "for limited trial purposes only". Ela exclui o uso do serviço ou da sua saída em produção. A seção 1.4 diz que, sem uma assinatura, você só pode usar o serviço para teste e avaliação internos.

A seção 3.3 diz que a NVIDIA coleta o seu conteúdo e o conteúdo gerado para melhorar os seus produtos, incluindo modelos de IA. Não envie dados privados ao serviço de teste. Leia Uso comercial de API LLM gratuita para outros provedores.

Modelos NIM gratuitos hoje

O catálogo lista estes modelos gratuitos da NVIDIA. O limite é por conta, então todos os modelos compartilham as mesmas requisições por minuto.

Modelos NVIDIA NIM gratuitos no catálogo hoje
ModeloGratuito emContextoLimites gratuitos (melhor oferta)FerramentasVisão
GLM 5.3 FlashNVIDIA NIM1M40 req/min
40 RPM
SimNão
Step 5 PreviewNVIDIA NIM-Ongoing developer prototypingNãoNão
Nemotron-3 Ultra 550BNVIDIA NIM1M40 req/min
40 RPM
SimNão
Muse Glimmer 30BNVIDIA NIM131K40 req/min
40 RPM
SimSim
Gemma 4 31BNVIDIA NIM262K40 req/min
40 RPM
NãoNão
Poolside Laguna XS 2.1NVIDIA NIM262K40 req/min
40 RPM
SimNão
Nemotron 3 Super 120BNVIDIA NIM262K40 req/min
40 RPM
SimNão
Nemotron 3.5 Lightning 30B A3BNVIDIA NIM1M40 req/min
40 RPM
SimNão
DiffusionGemma 26B A4B ITNVIDIA NIM262K40 req/min
40 RPM
NãoSim
GPT-OSS 20BNVIDIA NIM131K40 req/min
40 RPM
SimNão
Nemotron 3 Nano Omni 30B A3B ReasoningNVIDIA NIM262K40 req/min
40 RPM
NãoSim
Ising Calibration 1.5 31BNVIDIA NIM131K40 req/min
40 RPM
NãoSim

Mostrando 12 de 19 modelos gratuitos correspondentes. Ver todos os modelos.

Dados ao vivo do catálogo FreeLLMAPI (versão 2026.11.19, verificado em 2026-11-19). Os limites gratuitos mudam com frequência. O catálogo é verificado todos os dias.

ProvedorProblema conhecidoO que fazer
NVIDIA NIMRecurring free, 40 RPM, eval-only ToSNVIDIA NIM replaced its depleting trial credits with a recurring per-account rate limit (40 RPM default, varies by model), verified June 2026. The trial ToS still scopes usage to evaluation/prototyping, not production.
NVIDIA NIMDeveloper evaluation and data-use termsOngoing zero-price hosted developer access, not a monthly credit grant or unrestricted production service. NVIDIA trial/prototyping and data-use terms apply. Do not submit personal or confidential data. Text completions with exact model identity passed on October 15, 2026; tool and vision flags remain off until separately tested. Sources: https://build.nvidia.com/stepfun-ai/step-5-preview and https://openrouter.ai/nvidia/nemotron-3.5-super-vl:free

Dados ao vivo do catálogo FreeLLMAPI (versão 2026.11.19, verificado em 2026-11-19). Os limites gratuitos mudam com frequência. O catálogo é verificado todos os dias.

Como ficar abaixo do limite

Com 40 requisições por minuto, você pode enviar uma requisição a cada 1,5 segundo, em média. Uma rajada de requisições paralelas atinge o limite em segundos. Use estas regras:

  1. Limite o número de requisições paralelas no seu cliente. Duas ou três de cada vez é seguro para a maioria dos agentes.
  2. Tente de novo cada 429 com backoff exponencial e jitter. Pare após um número fixo de novas tentativas.
  3. Conte as requisições de todos os modelos. O limite é da conta, não de cada modelo.
  4. Envie tarefas curtas e simples a outros provedores. Reserve a NVIDIA para os modelos grandes que só a NVIDIA oferece gratuitamente.

Espaçamento simples no cliente (Python)

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://integrate.api.nvidia.com/v1", api_key="<nvidia-key>")
MIN_GAP = 60 / 40  # seconds between requests at 40 RPM
last = 0.0

def ask(prompt, model="openai/gpt-oss-20b"):
    global last
    for attempt in range(5):
        wait = MIN_GAP - (time.time() - last)
        if wait > 0:
            time.sleep(wait)
        last = time.time()
        try:
            r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(2 ** attempt)
    raise RuntimeError("NVIDIA rate limit: retries used up")

Distribua a carga com o FreeLLMAPI

O FreeLLMAPI é um gateway de código aberto que roda no seu computador. Ele trata a NVIDIA como um pool de 40 requisições por minuto para a conta inteira. Antes de enviar uma requisição, ele verifica esse pool. Quando o pool está cheio, ele envia a requisição ao próximo provedor gratuito da sua cadeia.

  • O teto por minuto da conta é definido com PROVIDER_MINUTE_REQUEST_CAP_NVIDIA. Reduza-o se a sua conta mostrar um limite menor.
  • Para limitar as requisições paralelas à NVIDIA, defina MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIA.
  • Um 429 da NVIDIA coloca a chave em uma espera curta. O roteador então tenta outros provedores.
  • O cabeçalho X-Routed-Via mostra qual provedor respondeu a cada requisição.

~/freellmapi/.env (instalação com Docker)

PROVIDER_MINUTE_REQUEST_CAP_NVIDIA=30
MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIA=2

# then restart the container
cd ~/freellmapi && docker compose up -d

O instalador de uma linha guarda as configurações em ~/freellmapi/.env. Adicione as duas linhas a esse arquivo e depois inicie o contêiner de novo. O teto padrão da NVIDIA é de 40 requisições por minuto. O valor 0 desliga o controle da conta inteira para esse provedor.

O failover não aumenta o limite da NVIDIA. Ele usa outros níveis gratuitos, por exemplo Groq, Gemini e Cloudflare, quando a NVIDIA está cheia.

Use todos estes modelos com uma única chave. FreeLLMAPI é um roteador de código aberto e de hospedagem própria. Ele coloca todas estas camadas gratuitas atrás de um único endpoint compatível com OpenAI e passa para o próximo provedor quando um deles está com limite de requisições. Ver o catálogo ou colocar em produção.

Perguntas frequentes

Qual é o limite de taxa da API NVIDIA NIM?

A NVIDIA não publica um número único. A equipe diz que os limites variam por modelo, e você pode ver o seu no canto superior direito de build.nvidia.com. A maioria das contas gratuitas relata 40 requisições por minuto.

Como aumento o limite de taxa da NVIDIA NIM de 40 RPM?

Não encontramos um processo oficial para contas gratuitas. O FAQ da NVIDIA aponta para o self-hosting, para um parceiro serverless pago, como a Hugging Face, ou para o teste do NVIDIA AI Enterprise, para mais capacidade.

A NVIDIA NIM ainda usa créditos?

Não. A equipe da NVIDIA disse em setembro de 2025 que o build.nvidia.com não usa mais créditos. O uso de teste agora é controlado por limites de taxa.

Posso usar a API gratuita da NVIDIA em produção?

Não. Os Termos de Teste da API NVIDIA permitem apenas uso limitado de teste, não produção. O uso em produção exige uma licença do NVIDIA AI Enterprise ou um provedor pago.

O limite de 40 RPM da NVIDIA é por modelo ou por conta?

Os usuários gratuitos relatam um único limite para a conta inteira. Considere que todos os modelos compartilham esse limite, e espace as requisições entre todos os modelos que você chama.

Guias relacionados

Fontes

Todos os guias · Ver todos os modelos gratuitos