NVIDIA NIM API hız sınırı
build.nvidia.com üzerindeki ücretsiz NVIDIA API Catalog bir kredi bakiyesi değil, bir hız sınırı kullanır. Birçok ücretsiz hesap, dakikada 40 istek sınırı bildirir. Bu sayfa, NVIDIA'nın sınır hakkında ne söylediğini, sınırı artırma isteklerinin neden nadiren çalıştığını ve sınırın altında nasıl kalınacağını açıklar.
Kod, model adları ve canlı katalog etiketleri İngilizce gösterilir.
NVIDIA'nın sınır hakkında söyledikleri
Eylül 2025'te bir NVIDIA personeli geliştirici forumuna şunu yazdı: "build.nvidia.com için artık kredi tabanlı bir sistem kullanmıyoruz." Deneme kullanımı için hız sınırları, kredilerin yerini aldı. Aynı yanıt, sınırların her model için değiştiğini ve NVIDIA'nın bunları yayımlamadığını söyler. Maksimum hız sınırınızı build.nvidia.com sayfasının sağ üst kısmında görebilirsiniz.
NIM SSS, belirli bir dönemde izin verilen çağrı sayısının "yalnızca değerlendirme ve prototipleme ihtiyaçlarına hizmet etmek için tasarlandığını" söyler. NVIDIA Developer Program üyeleri, prototipleme için NIM API uç noktalarına ücretsiz erişim alır.
40 RPM sınırını artırabilir misiniz?
NVIDIA geliştirici forumunda 200 RPM veya daha fazlasını isteyen çok sayıda ileti var. Ücretsiz bir hesabın sınırını yükselten resmi bir süreç bulamadık. Forumdaki bir yanıt, NVIDIA'nın ücretsiz kişisel hesaplar için sınırları elle artıramayacağını söylüyor. Bu yanıtın NVIDIA personelinden geldiğini doğrulayamadık.
NIM SSS, daha fazla kapasite için diğer seçenekleri verir:
- NIM'i kendi bulut sağlayıcınızda veya kendi GPU'larınızda barındırın.
- Bir ortaktan, örneğin Hugging Face'ten, kullandıkça ödeme fiyatlandırmalı üretim sunucusuz NIM API'si kullanın.
- Üretim dağıtımları için tasarlanan 90 günlük NVIDIA AI Enterprise denemesini başlatın.
Daha fazla istek için daha fazla NVIDIA hesabı açmayın. Deneme koşulları, NVIDIA'nın kullanım sınırları koymasına izin verir ve ücretsiz erişim yalnızca sınırlı deneme amaçları içindir.
| Seçenek | Maliyet | Daha fazla istek? |
|---|---|---|
| Forumda daha yüksek ücretsiz sınır isteyin | Ücretsiz | Resmi bir süreç bulunamadı |
| İstekleri sınırın altında aralıklandırın | Ücretsiz | Hayır, ama daha az 429 hatası |
| Yedeklemeyle diğer ücretsiz sağlayıcıları ekleyin | Ücretsiz | Evet, diğer sağlayıcılardan |
| Bir ortaktan sunucusuz NIM | Kullanıldıkça ödeme | Evet |
| NIM'i kendi sunucunuzda barındırın | Kendi GPU'larınız | Evet |
Deneme koşulları neye izin verir
NVIDIA API Trial Terms'ün 1.2. bölümü erişimi "yalnızca sınırlı deneme amaçları için" verir. Üretimde hizmetin veya çıktısının kullanımını dışlar. 1.4. bölüm, abonelik olmadan hizmeti yalnızca dahili test ve değerlendirme için kullanabileceğinizi söyler.
3.3. bölüm, NVIDIA'nın, yapay zeka modelleri dahil ürünlerini geliştirmek için içeriğinizi ve üretilen içeriği topladığını söyler. Deneme hizmetine özel veri göndermeyin. Diğer sağlayıcılar için ücretsiz LLM API ticari kullanım sayfasını okuyun.
Bugün ücretsiz NIM modelleri
Katalog bu ücretsiz NVIDIA modellerini listeler. Sınır hesap başınadır, bu yüzden tüm modeller dakikadaki istekleri paylaşır.
| Model | Ücretsiz olduğu yer | Bağlam | Ücretsiz limitler (en iyi teklif) | Araçlar | Görsel girdi |
|---|---|---|---|---|---|
| GLM 5.3 Flash | NVIDIA NIM | 1M | 40 istek/dk 40 RPM | Evet | Hayır |
| Step 5 Preview | NVIDIA NIM | - | Ongoing developer prototyping | Hayır | Hayır |
| Nemotron-3 Ultra 550B | NVIDIA NIM | 1M | 40 istek/dk 40 RPM | Evet | Hayır |
| Muse Glimmer 30B | NVIDIA NIM | 131K | 40 istek/dk 40 RPM | Evet | Evet |
| Gemma 4 31B | NVIDIA NIM | 262K | 40 istek/dk 40 RPM | Hayır | Hayır |
| Poolside Laguna XS 2.1 | NVIDIA NIM | 262K | 40 istek/dk 40 RPM | Evet | Hayır |
| Nemotron 3 Super 120B | NVIDIA NIM | 262K | 40 istek/dk 40 RPM | Evet | Hayır |
| Nemotron 3.5 Lightning 30B A3B | NVIDIA NIM | 1M | 40 istek/dk 40 RPM | Evet | Hayır |
| DiffusionGemma 26B A4B IT | NVIDIA NIM | 262K | 40 istek/dk 40 RPM | Hayır | Evet |
| GPT-OSS 20B | NVIDIA NIM | 131K | 40 istek/dk 40 RPM | Evet | Hayır |
| Nemotron 3 Nano Omni 30B A3B Reasoning | NVIDIA NIM | 262K | 40 istek/dk 40 RPM | Hayır | Evet |
| Ising Calibration 1.5 31B | NVIDIA NIM | 131K | 40 istek/dk 40 RPM | Hayır | Evet |
19 eşleşen ücretsiz modelden 12 tanesi gösteriliyor. Tüm modelleri gör.
Canlı veriler FreeLLMAPI kataloğundan alınır (sürüm 2026.11.19, 2026-11-19 tarihinde kontrol edildi). Ücretsiz limitler sık değişir. Katalog her gün kontrol edilir.
| Sağlayıcı | Bilinen sorun | Ne yapmalı |
|---|---|---|
| NVIDIA NIM | Recurring free, 40 RPM, eval-only ToS | NVIDIA NIM replaced its depleting trial credits with a recurring per-account rate limit (40 RPM default, varies by model), verified June 2026. The trial ToS still scopes usage to evaluation/prototyping, not production. |
| NVIDIA NIM | Developer evaluation and data-use terms | Ongoing zero-price hosted developer access, not a monthly credit grant or unrestricted production service. NVIDIA trial/prototyping and data-use terms apply. Do not submit personal or confidential data. Text completions with exact model identity passed on October 15, 2026; tool and vision flags remain off until separately tested. Sources: https://build.nvidia.com/stepfun-ai/step-5-preview and https://openrouter.ai/nvidia/nemotron-3.5-super-vl:free |
Canlı veriler FreeLLMAPI kataloğundan alınır (sürüm 2026.11.19, 2026-11-19 tarihinde kontrol edildi). Ücretsiz limitler sık değişir. Katalog her gün kontrol edilir.
Sınırın altında kalmanın yolu
Dakikada 40 istekte, ortalama 1.5 saniyede bir istek gönderebilirsiniz. Paralel isteklerin ani artışı, saniyeler içinde sınıra ulaşır. Şu kuralları kullanın:
- İstemcinizde paralel istek sayısını sınırlayın. Çoğu ajan için aynı anda iki veya üç istek güvenlidir.
- Her 429 hatasını üstel geri çekilme ve rastgele gecikmeyle (jitter) yeniden deneyin. Sabit sayıda denemeden sonra durun.
- İstekleri tüm modeller genelinde sayın. Sınır, her model için değil hesap içindir.
- Kısa ve basit görevleri diğer sağlayıcılara gönderin. NVIDIA'yı yalnızca NVIDIA'nın ücretsiz sunduğu büyük modeller için tutun.
Basit istemci tarafı hız ayarı (Python)
import time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://integrate.api.nvidia.com/v1", api_key="<nvidia-key>")
MIN_GAP = 60 / 40 # seconds between requests at 40 RPM
last = 0.0
def ask(prompt, model="openai/gpt-oss-20b"):
global last
for attempt in range(5):
wait = MIN_GAP - (time.time() - last)
if wait > 0:
time.sleep(wait)
last = time.time()
try:
r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
return r.choices[0].message.content
except RateLimitError:
time.sleep(2 ** attempt)
raise RuntimeError("NVIDIA rate limit: retries used up")FreeLLMAPI ile yükü dağıtın
FreeLLMAPI, bilgisayarınızda çalışan açık kaynaklı bir ağ geçididir. NVIDIA'yı, tüm hesap için dakikada 40 isteklik tek bir havuz olarak ele alır. Bir istek göndermeden önce bu havuzu denetler. Havuz dolduğunda isteği zincirinizdeki sonraki ücretsiz sağlayıcıya gönderir.
- Hesap genelindeki dakika sınırı
PROVIDER_MINUTE_REQUEST_CAP_NVIDIAile ayarlanır. Hesabınız daha küçük bir sınır gösteriyorsa bunu düşürün. - NVIDIA'ya paralel istekleri sınırlamak için
MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIAdeğerini ayarlayın. - NVIDIA'dan gelen 429 hatası anahtarı kısa bir bekleme süresine alır. Yönlendirici sonra diğer sağlayıcıları dener.
X-Routed-Viaüstbilgisi, her isteği hangi sağlayıcının yanıtladığını gösterir.
~/freellmapi/.env (Docker kurulumu)
PROVIDER_MINUTE_REQUEST_CAP_NVIDIA=30
MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIA=2
# then restart the container
cd ~/freellmapi && docker compose up -dTek satırlık kurulum programı ayarlarını ~/freellmapi/.env dosyasında tutar. Bu dosyaya iki satırı ekleyin, sonra konteyneri yeniden başlatın. Varsayılan NVIDIA sınırı dakikada 40 istektir. 0 değeri, o sağlayıcı için hesap genelindeki kapıyı kapatır.
Yedekleme, NVIDIA'nın sınırını yükseltmez. NVIDIA dolu olduğunda Groq, Gemini ve Cloudflare gibi diğer ücretsiz katmanları kullanır.
Sık sorulan sorular
NVIDIA NIM API hız sınırı nedir?
NVIDIA tek bir sayı yayımlamaz. Personel, sınırların modele göre değiştiğini söyler ve sınırınızı build.nvidia.com sayfasının sağ üst kısmında görebilirsiniz. Çoğu ücretsiz hesap dakikada 40 istek bildirir.
NVIDIA NIM hız sınırını 40 RPM'den nasıl artırabilirim?
Ücretsiz hesaplar için resmi bir süreç bulamadık. NVIDIA'nın SSS'si daha fazla kapasite için kendi sunucunuzda barındırmayı, Hugging Face gibi ücretli bir sunucusuz ortağı veya NVIDIA AI Enterprise denemesini önerir.
NVIDIA NIM hâlâ kredi kullanıyor mu?
Hayır. NVIDIA personeli Eylül 2025'te build.nvidia.com'un artık kredi kullanmadığını söyledi. Deneme kullanımı artık hız sınırlarıyla denetlenir.
Ücretsiz NVIDIA API'sini üretimde kullanabilir miyim?
Hayır. NVIDIA API Trial Terms yalnızca sınırlı deneme kullanımına izin verir, üretime izin vermez. Üretim kullanımı için bir NVIDIA AI Enterprise lisansı veya ücretli bir sağlayıcı gerekir.
NVIDIA'nın 40 RPM sınırı model başına mı, hesap başına mı?
Ücretsiz kullanıcılar tüm hesap için tek bir sınır bildirir. Tüm modellerin bunu paylaştığını varsayın ve çağırdığınız her model genelinde istekleri aralıklandırın.
İlgili rehberler
- free nvidia api
- Ücretsiz LLM API hız sınırları
- Groq hız limitine ulaşıldı (429)
- Gemini API kotası aşıldı (429 RESOURCE_EXHAUSTED)
- Ticari kullanım için ücretsiz LLM API
Kaynaklar
- NVIDIA developer forum: credit system replaced by rate limits (20 November 2026 tarihinde kontrol edildi)
- NVIDIA NIM FAQ (20 November 2026 tarihinde kontrol edildi)
- NVIDIA API Trial Terms of Service (PDF) (20 November 2026 tarihinde kontrol edildi)
- NVIDIA developer forum: request to raise 40 RPM (20 November 2026 tarihinde kontrol edildi)
- NVIDIA API Catalog: API reference (20 November 2026 tarihinde kontrol edildi)
- FreeLLMAPI docs: Quota and cooldown engine (20 November 2026 tarihinde kontrol edildi)