خانه / راهنماها / محدودیت نرخ NVIDIA NIM API

محدودیت نرخ NVIDIA NIM API

کاتالوگ رایگان API متعلق به NVIDIA در build.nvidia.com محدودیت نرخ دارد، نه موجودی اعتبار. بسیاری از حساب‌های رایگان سقف 40 درخواست در دقیقه گزارش می‌کنند. این صفحه توضیح می‌دهد که NVIDIA درباره این محدودیت چه می‌گوید، چرا درخواست برای افزایش آن کم‌تر نتیجه می‌دهد و چطور زیر آن بمانید.

کد، نام مدل‌ها و برچسب‌های زندهٔ کاتالوگ به زبان انگلیسی نمایش داده می‌شوند.

NVIDIA درباره این محدودیت چه می‌گوید

در سپتامبر 2025، یکی از کارکنان NVIDIA در انجمن توسعه‌دهندگان نوشت: "ما دیگر برای build.nvidia.com از سیستم مبتنی بر اعتبار استفاده نمی‌کنیم." محدودیت‌های نرخ برای استفاده آزمایشی جای اعتبارها را گرفتند. همان پاسخ می‌گوید که محدودیت‌ها برای هر مدل فرق می‌کنند و NVIDIA آن‌ها را منتشر نمی‌کند. بیشترین نرخ مجاز خود را در بالا سمت راست build.nvidia.com می‌بینید.

پرسش‌های متداول NIM می‌گوید که تعداد فراخوانی‌های مجاز در یک بازه "فقط برای نیازهای ارزیابی و نمونه‌سازی طراحی شده است". اعضای برنامه توسعه‌دهندگان NVIDIA برای نمونه‌سازی به نقطه‌های پایانی NIM API دسترسی رایگان دارند.

درباره مقدار 40 RPM: 40 درخواست در دقیقه مقداری است که بیشتر حساب‌های رایگان در انجمن NVIDIA گزارش می‌کنند. در هیچ صفحه رسمی NVIDIA نیست. محدودیت واقعی خود را در حساب خودتان بررسی کنید.

آیا می‌توان محدودیت 40 RPM را افزایش داد؟

در انجمن توسعه‌دهندگان NVIDIA پست‌های زیادی هست که 200 RPM یا بیشتر می‌خواهند. فرایند رسمی‌ای که محدودیت یک حساب رایگان را بالا ببرد پیدا نکردیم. یک پاسخ در انجمن می‌گوید که NVIDIA نمی‌تواند برای حساب‌های شخصی رایگان محدودیت‌ها را دستی افزایش دهد. تأیید نکردیم که این پاسخ از کارکنان NVIDIA باشد.

پرسش‌های متداول NIM گزینه‌های دیگری برای ظرفیت بیشتر می‌دهد:

  • NIM را روی ارائه‌دهنده ابری خودتان یا روی GPUهای خودتان خودمیزبان کنید.
  • از یک NIM API بدون سرور در سطح تولید از یک شریک استفاده کنید، برای مثال Hugging Face، با قیمت پرداخت بر اساس استفاده.
  • آزمایش 90 روزه NVIDIA AI Enterprise را شروع کنید که برای استقرار در تولید است.

برای درخواست بیشتر، حساب NVIDIA بیشتری نسازید. شرایط آزمایشی به NVIDIA اجازه می‌دهد محدودیت‌های استفاده را تعیین کند و دسترسی رایگان فقط برای اهداف آزمایشی محدود است.

راه‌های رسیدن به توان عملیاتی بیشتر
گزینههزینهدرخواست بیشتر؟
در انجمن برای محدودیت رایگان بالاتر بپرسیدرایگانفرایند رسمی‌ای پیدا نشد
درخواست‌ها را زیر محدودیت تنظیم کنیدرایگاننه، اما خطاهای 429 کم‌تر می‌شوند
ارائه‌دهندگان رایگان دیگر را با جایگزینی اضافه کنیدرایگانبله، از ارائه‌دهندگان دیگر
NIM بدون سرور از یک شریکپرداخت بر اساس استفادهبله
خودمیزبانی NIMGPUهای شمابله

شرایط آزمایشی چه چیزی را مجاز می‌داند

بخش 1.2 شرایط NVIDIA API Trial دسترسی را "فقط برای اهداف آزمایشی محدود" می‌دهد. استفاده از سرویس یا خروجی آن در تولید را مستثنا می‌کند. بخش 1.4 می‌گوید که بدون اشتراک، فقط برای آزمون و ارزیابی داخلی می‌توانید از سرویس استفاده کنید.

بخش 3.3 می‌گوید که NVIDIA محتوای شما و محتوای تولیدشده را برای بهبود محصولات خود، از جمله مدل‌های هوش مصنوعی، جمع‌آوری می‌کند. داده خصوصی را به سرویس آزمایشی نفرستید. برای ارائه‌دهندگان دیگر، استفاده تجاری از API رایگان LLM را بخوانید.

مدل‌های رایگان NIM امروز

کاتالوگ این مدل‌های رایگان NVIDIA را فهرست می‌کند. محدودیت برای هر حساب است، پس همه مدل‌ها درخواست‌های دقیقه‌ای یکسانی دارند.

مدل‌های رایگان NVIDIA NIM در کاتالوگ امروز
مدلرایگان درمتن ورودیمحدودیت‌های رایگان (بهترین پیشنهاد)ابزارهابینایی
GLM 5.3 FlashNVIDIA NIM1M40 درخواست در دقیقه
40 RPM
بلهخیر
Step 5 PreviewNVIDIA NIM-Ongoing developer prototypingخیرخیر
Nemotron-3 Ultra 550BNVIDIA NIM1M40 درخواست در دقیقه
40 RPM
بلهخیر
Muse Glimmer 30BNVIDIA NIM131K40 درخواست در دقیقه
40 RPM
بلهبله
Gemma 4 31BNVIDIA NIM262K40 درخواست در دقیقه
40 RPM
خیرخیر
Poolside Laguna XS 2.1NVIDIA NIM262K40 درخواست در دقیقه
40 RPM
بلهخیر
Nemotron 3 Super 120BNVIDIA NIM262K40 درخواست در دقیقه
40 RPM
بلهخیر
Nemotron 3.5 Lightning 30B A3BNVIDIA NIM1M40 درخواست در دقیقه
40 RPM
بلهخیر
DiffusionGemma 26B A4B ITNVIDIA NIM262K40 درخواست در دقیقه
40 RPM
خیربله
GPT-OSS 20BNVIDIA NIM131K40 درخواست در دقیقه
40 RPM
بلهخیر
Nemotron 3 Nano Omni 30B A3B ReasoningNVIDIA NIM262K40 درخواست در دقیقه
40 RPM
خیربله
Ising Calibration 1.5 31BNVIDIA NIM131K40 درخواست در دقیقه
40 RPM
خیربله

نمایش 12 مدل رایگان مطابق از 19 مدل. مشاهده همه مدل‌ها.

داده‌های زنده از کاتالوگ FreeLLMAPI (نسخه 2026.11.19، بررسی‌شده در 2026-11-19). محدودیت‌های رایگان اغلب تغییر می‌کنند. کاتالوگ هر روز بررسی می‌شود.

ارائه‌دهندهمشکل شناخته‌شدهچه کاری انجام دهید
NVIDIA NIMRecurring free, 40 RPM, eval-only ToSNVIDIA NIM replaced its depleting trial credits with a recurring per-account rate limit (40 RPM default, varies by model), verified June 2026. The trial ToS still scopes usage to evaluation/prototyping, not production.
NVIDIA NIMDeveloper evaluation and data-use termsOngoing zero-price hosted developer access, not a monthly credit grant or unrestricted production service. NVIDIA trial/prototyping and data-use terms apply. Do not submit personal or confidential data. Text completions with exact model identity passed on October 15, 2026; tool and vision flags remain off until separately tested. Sources: https://build.nvidia.com/stepfun-ai/step-5-preview and https://openrouter.ai/nvidia/nemotron-3.5-super-vl:free

داده‌های زنده از کاتالوگ FreeLLMAPI (نسخه 2026.11.19، بررسی‌شده در 2026-11-19). محدودیت‌های رایگان اغلب تغییر می‌کنند. کاتالوگ هر روز بررسی می‌شود.

چطور زیر محدودیت بمانید

با 40 درخواست در دقیقه، به طور میانگین می‌توانید هر 1.5 ثانیه یک درخواست بفرستید. یک رگبار درخواست موازی در چند ثانیه به محدودیت می‌رسد. این قواعد را استفاده کنید:

  1. تعداد درخواست‌های موازی را در کلاینت خود محدود کنید. دو یا سه درخواست هم‌زمان برای بیشتر عامل‌ها امن است.
  2. هر 429 را با عقب‌نشینی نمایی و jitter دوباره امتحان کنید. بعد از تعداد ثابتی تلاش مجدد متوقف شوید.
  3. درخواست‌ها را در همه مدل‌ها بشمارید. محدودیت برای حساب است، نه برای هر مدل.
  4. وظایف کوتاه و ساده را به ارائه‌دهندگان دیگر بفرستید. NVIDIA را برای مدل‌های بزرگی نگه دارید که فقط NVIDIA آن‌ها را رایگان ارائه می‌دهد.

کنترل ساده نرخ در سمت کلاینت (پایتون)

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://integrate.api.nvidia.com/v1", api_key="<nvidia-key>")
MIN_GAP = 60 / 40  # seconds between requests at 40 RPM
last = 0.0

def ask(prompt, model="openai/gpt-oss-20b"):
    global last
    for attempt in range(5):
        wait = MIN_GAP - (time.time() - last)
        if wait > 0:
            time.sleep(wait)
        last = time.time()
        try:
            r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(2 ** attempt)
    raise RuntimeError("NVIDIA rate limit: retries used up")

پخش بار با FreeLLMAPI

FreeLLMAPI یک دروازه متن‌باز است که روی رایانه شما اجرا می‌شود. NVIDIA را یک استخر 40 درخواست در دقیقه برای کل حساب در نظر می‌گیرد. پیش از ارسال درخواست، آن استخر را بررسی می‌کند. وقتی استخر پر است، درخواست را به ارائه‌دهنده رایگان بعدی در زنجیره شما می‌فرستد.

  • سقف دقیقه‌ای کل حساب با PROVIDER_MINUTE_REQUEST_CAP_NVIDIA تنظیم می‌شود. اگر حساب شما محدودیت کوچک‌تری نشان می‌دهد، آن را کم کنید.
  • برای محدود کردن درخواست‌های موازی به NVIDIA، MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIA را تنظیم کنید.
  • یک 429 از NVIDIA کلید را برای مدت کوتاهی در حالت استراحت می‌گذارد. سپس مسیریاب ارائه‌دهندگان دیگر را امتحان می‌کند.
  • هدر X-Routed-Via نشان می‌دهد که کدام ارائه‌دهنده هر درخواست را پاسخ داد.

~/freellmapi/.env (نصب Docker)

PROVIDER_MINUTE_REQUEST_CAP_NVIDIA=30
MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIA=2

# then restart the container
cd ~/freellmapi && docker compose up -d

نصب‌کننده یک‌خطی تنظیمات خود را در ~/freellmapi/.env نگه می‌دارد. دو خط را به آن فایل اضافه کنید، سپس کانتینر را دوباره اجرا کنید. سقف پیش‌فرض NVIDIA 40 درخواست در دقیقه است. مقدار 0 دروازه کل حساب را برای آن ارائه‌دهنده خاموش می‌کند.

جایگزینی محدودیت NVIDIA را بالا نمی‌برد. وقتی NVIDIA پر است، از سطح‌های رایگان دیگر، برای مثال Groq، Gemini و Cloudflare، استفاده می‌کند.

هر یک از این‌ها را با یک کلید استفاده کنید. FreeLLMAPI یک روتر متن‌باز و میزبانی‌شده روی سرور خودتان است. این روتر همه این سطوح رایگان را پشت یک نقطه پایانی سازگار با OpenAI قرار می‌دهد و وقتی یک سرویس به محدودیت نرخ برسد، به سرویس بعدی منتقل می‌شود. مرور کاتالوگ یا اجرای زنده.

پرسش‌های متداول

محدودیت نرخ NVIDIA NIM API چقدر است؟

NVIDIA یک عدد واحد منتشر نمی‌کند. کارکنان می‌گویند محدودیت‌ها بر اساس مدل فرق می‌کنند و محدودیت خود را در بالا سمت راست build.nvidia.com می‌بینید. بیشتر حساب‌های رایگان 40 درخواست در دقیقه گزارش می‌کنند.

چطور محدودیت 40 RPM در NVIDIA NIM را افزایش دهم؟

فرایند رسمی‌ای برای حساب‌های رایگان پیدا نکردیم. پرسش‌های متداول NVIDIA برای ظرفیت بیشتر به خودمیزبانی، یک شریک بدون سرور پولی مانند Hugging Face، یا آزمایش NVIDIA AI Enterprise اشاره می‌کند.

آیا NVIDIA NIM هنوز از اعتبار استفاده می‌کند؟

خیر. کارکنان NVIDIA در سپتامبر 2025 گفتند که build.nvidia.com دیگر از اعتبار استفاده نمی‌کند. استفاده آزمایشی اکنون با محدودیت‌های نرخ کنترل می‌شود.

آیا می‌توانم API رایگان NVIDIA را در تولید استفاده کنم؟

خیر. شرایط NVIDIA API Trial فقط استفاده آزمایشی محدود را مجاز می‌داند، نه تولید. استفاده در تولید به مجوز NVIDIA AI Enterprise یا یک ارائه‌دهنده پولی نیاز دارد.

آیا محدودیت 40 RPM در NVIDIA برای هر مدل است یا برای هر حساب؟

کاربران رایگان یک محدودیت را برای کل حساب گزارش می‌کنند. برنامه‌ریزی کنید که همه مدل‌ها آن را به اشتراک بگذارند و درخواست‌ها را در همه مدل‌هایی که فرامی‌خوانید تنظیم کنید.

راهنماهای مرتبط

منابع

همه راهنماها · مرور همه مدل‌های رایگان