Ana sayfa / Rehberler / NVIDIA NIM API hız sınırı

NVIDIA NIM API hız sınırı

build.nvidia.com üzerindeki ücretsiz NVIDIA API Catalog bir kredi bakiyesi değil, bir hız sınırı kullanır. Birçok ücretsiz hesap, dakikada 40 istek sınırı bildirir. Bu sayfa, NVIDIA'nın sınır hakkında ne söylediğini, sınırı artırma isteklerinin neden nadiren çalıştığını ve sınırın altında nasıl kalınacağını açıklar.

Kod, model adları ve canlı katalog etiketleri İngilizce gösterilir.

NVIDIA'nın sınır hakkında söyledikleri

Eylül 2025'te bir NVIDIA personeli geliştirici forumuna şunu yazdı: "build.nvidia.com için artık kredi tabanlı bir sistem kullanmıyoruz." Deneme kullanımı için hız sınırları, kredilerin yerini aldı. Aynı yanıt, sınırların her model için değiştiğini ve NVIDIA'nın bunları yayımlamadığını söyler. Maksimum hız sınırınızı build.nvidia.com sayfasının sağ üst kısmında görebilirsiniz.

NIM SSS, belirli bir dönemde izin verilen çağrı sayısının "yalnızca değerlendirme ve prototipleme ihtiyaçlarına hizmet etmek için tasarlandığını" söyler. NVIDIA Developer Program üyeleri, prototipleme için NIM API uç noktalarına ücretsiz erişim alır.

40 RPM değeri hakkında: dakikada 40 istek, NVIDIA forumunda çoğu ücretsiz hesabın bildirdiği değerdir. Bu, resmi bir NVIDIA sayfasında yer almaz. Gerçek sınırınız için kendi hesabınızı kontrol edin.

40 RPM sınırını artırabilir misiniz?

NVIDIA geliştirici forumunda 200 RPM veya daha fazlasını isteyen çok sayıda ileti var. Ücretsiz bir hesabın sınırını yükselten resmi bir süreç bulamadık. Forumdaki bir yanıt, NVIDIA'nın ücretsiz kişisel hesaplar için sınırları elle artıramayacağını söylüyor. Bu yanıtın NVIDIA personelinden geldiğini doğrulayamadık.

NIM SSS, daha fazla kapasite için diğer seçenekleri verir:

  • NIM'i kendi bulut sağlayıcınızda veya kendi GPU'larınızda barındırın.
  • Bir ortaktan, örneğin Hugging Face'ten, kullandıkça ödeme fiyatlandırmalı üretim sunucusuz NIM API'si kullanın.
  • Üretim dağıtımları için tasarlanan 90 günlük NVIDIA AI Enterprise denemesini başlatın.

Daha fazla istek için daha fazla NVIDIA hesabı açmayın. Deneme koşulları, NVIDIA'nın kullanım sınırları koymasına izin verir ve ücretsiz erişim yalnızca sınırlı deneme amaçları içindir.

Daha fazla verim elde etmenin yolları
SeçenekMaliyetDaha fazla istek?
Forumda daha yüksek ücretsiz sınır isteyinÜcretsizResmi bir süreç bulunamadı
İstekleri sınırın altında aralıklandırınÜcretsizHayır, ama daha az 429 hatası
Yedeklemeyle diğer ücretsiz sağlayıcıları ekleyinÜcretsizEvet, diğer sağlayıcılardan
Bir ortaktan sunucusuz NIMKullanıldıkça ödemeEvet
NIM'i kendi sunucunuzda barındırınKendi GPU'larınızEvet

Deneme koşulları neye izin verir

NVIDIA API Trial Terms'ün 1.2. bölümü erişimi "yalnızca sınırlı deneme amaçları için" verir. Üretimde hizmetin veya çıktısının kullanımını dışlar. 1.4. bölüm, abonelik olmadan hizmeti yalnızca dahili test ve değerlendirme için kullanabileceğinizi söyler.

3.3. bölüm, NVIDIA'nın, yapay zeka modelleri dahil ürünlerini geliştirmek için içeriğinizi ve üretilen içeriği topladığını söyler. Deneme hizmetine özel veri göndermeyin. Diğer sağlayıcılar için ücretsiz LLM API ticari kullanım sayfasını okuyun.

Bugün ücretsiz NIM modelleri

Katalog bu ücretsiz NVIDIA modellerini listeler. Sınır hesap başınadır, bu yüzden tüm modeller dakikadaki istekleri paylaşır.

Bugün katalogdaki ücretsiz NVIDIA NIM modelleri
ModelÜcretsiz olduğu yerBağlamÜcretsiz limitler (en iyi teklif)AraçlarGörsel girdi
GLM 5.3 FlashNVIDIA NIM1M40 istek/dk
40 RPM
EvetHayır
Step 5 PreviewNVIDIA NIM-Ongoing developer prototypingHayırHayır
Nemotron-3 Ultra 550BNVIDIA NIM1M40 istek/dk
40 RPM
EvetHayır
Muse Glimmer 30BNVIDIA NIM131K40 istek/dk
40 RPM
EvetEvet
Gemma 4 31BNVIDIA NIM262K40 istek/dk
40 RPM
HayırHayır
Poolside Laguna XS 2.1NVIDIA NIM262K40 istek/dk
40 RPM
EvetHayır
Nemotron 3 Super 120BNVIDIA NIM262K40 istek/dk
40 RPM
EvetHayır
Nemotron 3.5 Lightning 30B A3BNVIDIA NIM1M40 istek/dk
40 RPM
EvetHayır
DiffusionGemma 26B A4B ITNVIDIA NIM262K40 istek/dk
40 RPM
HayırEvet
GPT-OSS 20BNVIDIA NIM131K40 istek/dk
40 RPM
EvetHayır
Nemotron 3 Nano Omni 30B A3B ReasoningNVIDIA NIM262K40 istek/dk
40 RPM
HayırEvet
Ising Calibration 1.5 31BNVIDIA NIM131K40 istek/dk
40 RPM
HayırEvet

19 eşleşen ücretsiz modelden 12 tanesi gösteriliyor. Tüm modelleri gör.

Canlı veriler FreeLLMAPI kataloğundan alınır (sürüm 2026.11.19, 2026-11-19 tarihinde kontrol edildi). Ücretsiz limitler sık değişir. Katalog her gün kontrol edilir.

SağlayıcıBilinen sorunNe yapmalı
NVIDIA NIMRecurring free, 40 RPM, eval-only ToSNVIDIA NIM replaced its depleting trial credits with a recurring per-account rate limit (40 RPM default, varies by model), verified June 2026. The trial ToS still scopes usage to evaluation/prototyping, not production.
NVIDIA NIMDeveloper evaluation and data-use termsOngoing zero-price hosted developer access, not a monthly credit grant or unrestricted production service. NVIDIA trial/prototyping and data-use terms apply. Do not submit personal or confidential data. Text completions with exact model identity passed on October 15, 2026; tool and vision flags remain off until separately tested. Sources: https://build.nvidia.com/stepfun-ai/step-5-preview and https://openrouter.ai/nvidia/nemotron-3.5-super-vl:free

Canlı veriler FreeLLMAPI kataloğundan alınır (sürüm 2026.11.19, 2026-11-19 tarihinde kontrol edildi). Ücretsiz limitler sık değişir. Katalog her gün kontrol edilir.

Sınırın altında kalmanın yolu

Dakikada 40 istekte, ortalama 1.5 saniyede bir istek gönderebilirsiniz. Paralel isteklerin ani artışı, saniyeler içinde sınıra ulaşır. Şu kuralları kullanın:

  1. İstemcinizde paralel istek sayısını sınırlayın. Çoğu ajan için aynı anda iki veya üç istek güvenlidir.
  2. Her 429 hatasını üstel geri çekilme ve rastgele gecikmeyle (jitter) yeniden deneyin. Sabit sayıda denemeden sonra durun.
  3. İstekleri tüm modeller genelinde sayın. Sınır, her model için değil hesap içindir.
  4. Kısa ve basit görevleri diğer sağlayıcılara gönderin. NVIDIA'yı yalnızca NVIDIA'nın ücretsiz sunduğu büyük modeller için tutun.

Basit istemci tarafı hız ayarı (Python)

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://integrate.api.nvidia.com/v1", api_key="<nvidia-key>")
MIN_GAP = 60 / 40  # seconds between requests at 40 RPM
last = 0.0

def ask(prompt, model="openai/gpt-oss-20b"):
    global last
    for attempt in range(5):
        wait = MIN_GAP - (time.time() - last)
        if wait > 0:
            time.sleep(wait)
        last = time.time()
        try:
            r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(2 ** attempt)
    raise RuntimeError("NVIDIA rate limit: retries used up")

FreeLLMAPI ile yükü dağıtın

FreeLLMAPI, bilgisayarınızda çalışan açık kaynaklı bir ağ geçididir. NVIDIA'yı, tüm hesap için dakikada 40 isteklik tek bir havuz olarak ele alır. Bir istek göndermeden önce bu havuzu denetler. Havuz dolduğunda isteği zincirinizdeki sonraki ücretsiz sağlayıcıya gönderir.

  • Hesap genelindeki dakika sınırı PROVIDER_MINUTE_REQUEST_CAP_NVIDIA ile ayarlanır. Hesabınız daha küçük bir sınır gösteriyorsa bunu düşürün.
  • NVIDIA'ya paralel istekleri sınırlamak için MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIA değerini ayarlayın.
  • NVIDIA'dan gelen 429 hatası anahtarı kısa bir bekleme süresine alır. Yönlendirici sonra diğer sağlayıcıları dener.
  • X-Routed-Via üstbilgisi, her isteği hangi sağlayıcının yanıtladığını gösterir.

~/freellmapi/.env (Docker kurulumu)

PROVIDER_MINUTE_REQUEST_CAP_NVIDIA=30
MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIA=2

# then restart the container
cd ~/freellmapi && docker compose up -d

Tek satırlık kurulum programı ayarlarını ~/freellmapi/.env dosyasında tutar. Bu dosyaya iki satırı ekleyin, sonra konteyneri yeniden başlatın. Varsayılan NVIDIA sınırı dakikada 40 istektir. 0 değeri, o sağlayıcı için hesap genelindeki kapıyı kapatır.

Yedekleme, NVIDIA'nın sınırını yükseltmez. NVIDIA dolu olduğunda Groq, Gemini ve Cloudflare gibi diğer ücretsiz katmanları kullanır.

Bunların hepsini tek bir anahtarla kullanın. FreeLLMAPI, açık kaynaklı ve kendi sunucunuzda çalışan bir yönlendiricidir. Tüm bu ücretsiz katmanları tek bir OpenAI uyumlu uç noktanın arkasında toplar ve bir sağlayıcı hız limitine takıldığında otomatik olarak başka birine geçer. Kataloğa göz atın veya canlı olarak incele.

Sık sorulan sorular

NVIDIA NIM API hız sınırı nedir?

NVIDIA tek bir sayı yayımlamaz. Personel, sınırların modele göre değiştiğini söyler ve sınırınızı build.nvidia.com sayfasının sağ üst kısmında görebilirsiniz. Çoğu ücretsiz hesap dakikada 40 istek bildirir.

NVIDIA NIM hız sınırını 40 RPM'den nasıl artırabilirim?

Ücretsiz hesaplar için resmi bir süreç bulamadık. NVIDIA'nın SSS'si daha fazla kapasite için kendi sunucunuzda barındırmayı, Hugging Face gibi ücretli bir sunucusuz ortağı veya NVIDIA AI Enterprise denemesini önerir.

NVIDIA NIM hâlâ kredi kullanıyor mu?

Hayır. NVIDIA personeli Eylül 2025'te build.nvidia.com'un artık kredi kullanmadığını söyledi. Deneme kullanımı artık hız sınırlarıyla denetlenir.

Ücretsiz NVIDIA API'sini üretimde kullanabilir miyim?

Hayır. NVIDIA API Trial Terms yalnızca sınırlı deneme kullanımına izin verir, üretime izin vermez. Üretim kullanımı için bir NVIDIA AI Enterprise lisansı veya ücretli bir sağlayıcı gerekir.

NVIDIA'nın 40 RPM sınırı model başına mı, hesap başına mı?

Ücretsiz kullanıcılar tüm hesap için tek bir sınır bildirir. Tüm modellerin bunu paylaştığını varsayın ve çağırdığınız her model genelinde istekleri aralıklandırın.

İlgili rehberler

Kaynaklar

Tüm rehberler · Tüm ücretsiz modelleri incele