محدودیت نرخ NVIDIA NIM API
کاتالوگ رایگان API متعلق به NVIDIA در build.nvidia.com محدودیت نرخ دارد، نه موجودی اعتبار. بسیاری از حسابهای رایگان سقف 40 درخواست در دقیقه گزارش میکنند. این صفحه توضیح میدهد که NVIDIA درباره این محدودیت چه میگوید، چرا درخواست برای افزایش آن کمتر نتیجه میدهد و چطور زیر آن بمانید.
کد، نام مدلها و برچسبهای زندهٔ کاتالوگ به زبان انگلیسی نمایش داده میشوند.
NVIDIA درباره این محدودیت چه میگوید
در سپتامبر 2025، یکی از کارکنان NVIDIA در انجمن توسعهدهندگان نوشت: "ما دیگر برای build.nvidia.com از سیستم مبتنی بر اعتبار استفاده نمیکنیم." محدودیتهای نرخ برای استفاده آزمایشی جای اعتبارها را گرفتند. همان پاسخ میگوید که محدودیتها برای هر مدل فرق میکنند و NVIDIA آنها را منتشر نمیکند. بیشترین نرخ مجاز خود را در بالا سمت راست build.nvidia.com میبینید.
پرسشهای متداول NIM میگوید که تعداد فراخوانیهای مجاز در یک بازه "فقط برای نیازهای ارزیابی و نمونهسازی طراحی شده است". اعضای برنامه توسعهدهندگان NVIDIA برای نمونهسازی به نقطههای پایانی NIM API دسترسی رایگان دارند.
آیا میتوان محدودیت 40 RPM را افزایش داد؟
در انجمن توسعهدهندگان NVIDIA پستهای زیادی هست که 200 RPM یا بیشتر میخواهند. فرایند رسمیای که محدودیت یک حساب رایگان را بالا ببرد پیدا نکردیم. یک پاسخ در انجمن میگوید که NVIDIA نمیتواند برای حسابهای شخصی رایگان محدودیتها را دستی افزایش دهد. تأیید نکردیم که این پاسخ از کارکنان NVIDIA باشد.
پرسشهای متداول NIM گزینههای دیگری برای ظرفیت بیشتر میدهد:
- NIM را روی ارائهدهنده ابری خودتان یا روی GPUهای خودتان خودمیزبان کنید.
- از یک NIM API بدون سرور در سطح تولید از یک شریک استفاده کنید، برای مثال Hugging Face، با قیمت پرداخت بر اساس استفاده.
- آزمایش 90 روزه NVIDIA AI Enterprise را شروع کنید که برای استقرار در تولید است.
برای درخواست بیشتر، حساب NVIDIA بیشتری نسازید. شرایط آزمایشی به NVIDIA اجازه میدهد محدودیتهای استفاده را تعیین کند و دسترسی رایگان فقط برای اهداف آزمایشی محدود است.
| گزینه | هزینه | درخواست بیشتر؟ |
|---|---|---|
| در انجمن برای محدودیت رایگان بالاتر بپرسید | رایگان | فرایند رسمیای پیدا نشد |
| درخواستها را زیر محدودیت تنظیم کنید | رایگان | نه، اما خطاهای 429 کمتر میشوند |
| ارائهدهندگان رایگان دیگر را با جایگزینی اضافه کنید | رایگان | بله، از ارائهدهندگان دیگر |
| NIM بدون سرور از یک شریک | پرداخت بر اساس استفاده | بله |
| خودمیزبانی NIM | GPUهای شما | بله |
شرایط آزمایشی چه چیزی را مجاز میداند
بخش 1.2 شرایط NVIDIA API Trial دسترسی را "فقط برای اهداف آزمایشی محدود" میدهد. استفاده از سرویس یا خروجی آن در تولید را مستثنا میکند. بخش 1.4 میگوید که بدون اشتراک، فقط برای آزمون و ارزیابی داخلی میتوانید از سرویس استفاده کنید.
بخش 3.3 میگوید که NVIDIA محتوای شما و محتوای تولیدشده را برای بهبود محصولات خود، از جمله مدلهای هوش مصنوعی، جمعآوری میکند. داده خصوصی را به سرویس آزمایشی نفرستید. برای ارائهدهندگان دیگر، استفاده تجاری از API رایگان LLM را بخوانید.
مدلهای رایگان NIM امروز
کاتالوگ این مدلهای رایگان NVIDIA را فهرست میکند. محدودیت برای هر حساب است، پس همه مدلها درخواستهای دقیقهای یکسانی دارند.
| مدل | رایگان در | متن ورودی | محدودیتهای رایگان (بهترین پیشنهاد) | ابزارها | بینایی |
|---|---|---|---|---|---|
| GLM 5.3 Flash | NVIDIA NIM | 1M | 40 درخواست در دقیقه 40 RPM | بله | خیر |
| Step 5 Preview | NVIDIA NIM | - | Ongoing developer prototyping | خیر | خیر |
| Nemotron-3 Ultra 550B | NVIDIA NIM | 1M | 40 درخواست در دقیقه 40 RPM | بله | خیر |
| Muse Glimmer 30B | NVIDIA NIM | 131K | 40 درخواست در دقیقه 40 RPM | بله | بله |
| Gemma 4 31B | NVIDIA NIM | 262K | 40 درخواست در دقیقه 40 RPM | خیر | خیر |
| Poolside Laguna XS 2.1 | NVIDIA NIM | 262K | 40 درخواست در دقیقه 40 RPM | بله | خیر |
| Nemotron 3 Super 120B | NVIDIA NIM | 262K | 40 درخواست در دقیقه 40 RPM | بله | خیر |
| Nemotron 3.5 Lightning 30B A3B | NVIDIA NIM | 1M | 40 درخواست در دقیقه 40 RPM | بله | خیر |
| DiffusionGemma 26B A4B IT | NVIDIA NIM | 262K | 40 درخواست در دقیقه 40 RPM | خیر | بله |
| GPT-OSS 20B | NVIDIA NIM | 131K | 40 درخواست در دقیقه 40 RPM | بله | خیر |
| Nemotron 3 Nano Omni 30B A3B Reasoning | NVIDIA NIM | 262K | 40 درخواست در دقیقه 40 RPM | خیر | بله |
| Ising Calibration 1.5 31B | NVIDIA NIM | 131K | 40 درخواست در دقیقه 40 RPM | خیر | بله |
نمایش 12 مدل رایگان مطابق از 19 مدل. مشاهده همه مدلها.
دادههای زنده از کاتالوگ FreeLLMAPI (نسخه 2026.11.19، بررسیشده در 2026-11-19). محدودیتهای رایگان اغلب تغییر میکنند. کاتالوگ هر روز بررسی میشود.
| ارائهدهنده | مشکل شناختهشده | چه کاری انجام دهید |
|---|---|---|
| NVIDIA NIM | Recurring free, 40 RPM, eval-only ToS | NVIDIA NIM replaced its depleting trial credits with a recurring per-account rate limit (40 RPM default, varies by model), verified June 2026. The trial ToS still scopes usage to evaluation/prototyping, not production. |
| NVIDIA NIM | Developer evaluation and data-use terms | Ongoing zero-price hosted developer access, not a monthly credit grant or unrestricted production service. NVIDIA trial/prototyping and data-use terms apply. Do not submit personal or confidential data. Text completions with exact model identity passed on October 15, 2026; tool and vision flags remain off until separately tested. Sources: https://build.nvidia.com/stepfun-ai/step-5-preview and https://openrouter.ai/nvidia/nemotron-3.5-super-vl:free |
دادههای زنده از کاتالوگ FreeLLMAPI (نسخه 2026.11.19، بررسیشده در 2026-11-19). محدودیتهای رایگان اغلب تغییر میکنند. کاتالوگ هر روز بررسی میشود.
چطور زیر محدودیت بمانید
با 40 درخواست در دقیقه، به طور میانگین میتوانید هر 1.5 ثانیه یک درخواست بفرستید. یک رگبار درخواست موازی در چند ثانیه به محدودیت میرسد. این قواعد را استفاده کنید:
- تعداد درخواستهای موازی را در کلاینت خود محدود کنید. دو یا سه درخواست همزمان برای بیشتر عاملها امن است.
- هر 429 را با عقبنشینی نمایی و jitter دوباره امتحان کنید. بعد از تعداد ثابتی تلاش مجدد متوقف شوید.
- درخواستها را در همه مدلها بشمارید. محدودیت برای حساب است، نه برای هر مدل.
- وظایف کوتاه و ساده را به ارائهدهندگان دیگر بفرستید. NVIDIA را برای مدلهای بزرگی نگه دارید که فقط NVIDIA آنها را رایگان ارائه میدهد.
کنترل ساده نرخ در سمت کلاینت (پایتون)
import time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://integrate.api.nvidia.com/v1", api_key="<nvidia-key>")
MIN_GAP = 60 / 40 # seconds between requests at 40 RPM
last = 0.0
def ask(prompt, model="openai/gpt-oss-20b"):
global last
for attempt in range(5):
wait = MIN_GAP - (time.time() - last)
if wait > 0:
time.sleep(wait)
last = time.time()
try:
r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
return r.choices[0].message.content
except RateLimitError:
time.sleep(2 ** attempt)
raise RuntimeError("NVIDIA rate limit: retries used up")پخش بار با FreeLLMAPI
FreeLLMAPI یک دروازه متنباز است که روی رایانه شما اجرا میشود. NVIDIA را یک استخر 40 درخواست در دقیقه برای کل حساب در نظر میگیرد. پیش از ارسال درخواست، آن استخر را بررسی میکند. وقتی استخر پر است، درخواست را به ارائهدهنده رایگان بعدی در زنجیره شما میفرستد.
- سقف دقیقهای کل حساب با
PROVIDER_MINUTE_REQUEST_CAP_NVIDIAتنظیم میشود. اگر حساب شما محدودیت کوچکتری نشان میدهد، آن را کم کنید. - برای محدود کردن درخواستهای موازی به NVIDIA،
MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIAرا تنظیم کنید. - یک 429 از NVIDIA کلید را برای مدت کوتاهی در حالت استراحت میگذارد. سپس مسیریاب ارائهدهندگان دیگر را امتحان میکند.
- هدر
X-Routed-Viaنشان میدهد که کدام ارائهدهنده هر درخواست را پاسخ داد.
~/freellmapi/.env (نصب Docker)
PROVIDER_MINUTE_REQUEST_CAP_NVIDIA=30
MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIA=2
# then restart the container
cd ~/freellmapi && docker compose up -dنصبکننده یکخطی تنظیمات خود را در ~/freellmapi/.env نگه میدارد. دو خط را به آن فایل اضافه کنید، سپس کانتینر را دوباره اجرا کنید. سقف پیشفرض NVIDIA 40 درخواست در دقیقه است. مقدار 0 دروازه کل حساب را برای آن ارائهدهنده خاموش میکند.
جایگزینی محدودیت NVIDIA را بالا نمیبرد. وقتی NVIDIA پر است، از سطحهای رایگان دیگر، برای مثال Groq، Gemini و Cloudflare، استفاده میکند.
پرسشهای متداول
محدودیت نرخ NVIDIA NIM API چقدر است؟
NVIDIA یک عدد واحد منتشر نمیکند. کارکنان میگویند محدودیتها بر اساس مدل فرق میکنند و محدودیت خود را در بالا سمت راست build.nvidia.com میبینید. بیشتر حسابهای رایگان 40 درخواست در دقیقه گزارش میکنند.
چطور محدودیت 40 RPM در NVIDIA NIM را افزایش دهم؟
فرایند رسمیای برای حسابهای رایگان پیدا نکردیم. پرسشهای متداول NVIDIA برای ظرفیت بیشتر به خودمیزبانی، یک شریک بدون سرور پولی مانند Hugging Face، یا آزمایش NVIDIA AI Enterprise اشاره میکند.
آیا NVIDIA NIM هنوز از اعتبار استفاده میکند؟
خیر. کارکنان NVIDIA در سپتامبر 2025 گفتند که build.nvidia.com دیگر از اعتبار استفاده نمیکند. استفاده آزمایشی اکنون با محدودیتهای نرخ کنترل میشود.
آیا میتوانم API رایگان NVIDIA را در تولید استفاده کنم؟
خیر. شرایط NVIDIA API Trial فقط استفاده آزمایشی محدود را مجاز میداند، نه تولید. استفاده در تولید به مجوز NVIDIA AI Enterprise یا یک ارائهدهنده پولی نیاز دارد.
آیا محدودیت 40 RPM در NVIDIA برای هر مدل است یا برای هر حساب؟
کاربران رایگان یک محدودیت را برای کل حساب گزارش میکنند. برنامهریزی کنید که همه مدلها آن را به اشتراک بگذارند و درخواستها را در همه مدلهایی که فرامیخوانید تنظیم کنید.
راهنماهای مرتبط
- free nvidia api
- محدودیت نرخ API رایگان LLM
- محدودیت نرخ Groq رسیده است (429)
- عبور از سهمیه Gemini API (429 RESOURCE_EXHAUSTED)
- API رایگان LLM برای استفاده تجاری
منابع
- NVIDIA developer forum: credit system replaced by rate limits (بررسیشده در 20 November 2026)
- NVIDIA NIM FAQ (بررسیشده در 20 November 2026)
- NVIDIA API Trial Terms of Service (PDF) (بررسیشده در 20 November 2026)
- NVIDIA developer forum: request to raise 40 RPM (بررسیشده در 20 November 2026)
- NVIDIA API Catalog: API reference (بررسیشده در 20 November 2026)
- FreeLLMAPI docs: Quota and cooldown engine (بررسیشده در 20 November 2026)