หน้าแรก / คู่มือ / NVIDIA NIM API rate limit

NVIDIA NIM API rate limit

NVIDIA API Catalog ฟรีบน build.nvidia.com มี rate limit ไม่ได้มียอดเครดิต บัญชีฟรีจำนวนมากรายงานเพดาน 40 คำขอต่อนาที หน้านี้อธิบายว่า NVIDIA ระบุอะไรเกี่ยวกับขีดจำกัด เหตุใดการขอเพิ่มจึงแทบไม่ได้ผล และวิธีให้การใช้งานอยู่ต่ำกว่าขีดจำกัด

โค้ด ชื่อโมเดล และป้ายกำกับของแคตตาล็อกสดจะแสดงเป็นภาษาอังกฤษ

NVIDIA ระบุอะไรเกี่ยวกับขีดจำกัด

ในเดือนกันยายน 2025 เจ้าหน้าที่ของ NVIDIA เขียนในฟอรัมนักพัฒนาว่า "เราไม่ใช้ระบบเครดิตสำหรับ build.nvidia.com อีกต่อไป" rate limit สำหรับการใช้งานทดลองเข้ามาแทนเครดิต คำตอบเดียวกันระบุว่าขีดจำกัดแตกต่างกันในแต่ละโมเดล และ NVIDIA ไม่เผยแพร่ค่าเหล่านั้น คุณดูอัตราสูงสุดของคุณได้ที่มุมขวาบนของ build.nvidia.com

FAQ ของ NIM ระบุว่าจำนวนการเรียกที่อนุญาตในช่วงเวลาหนึ่ง "ออกแบบมาเพื่อรองรับความต้องการด้านการประเมินและการสร้างต้นแบบเท่านั้น" สมาชิกของ NVIDIA Developer Program ได้สิทธิ์ใช้ endpoint ของ NIM API ฟรีสำหรับการสร้างต้นแบบ

เกี่ยวกับค่า 40 RPM: 40 คำขอต่อนาทีคือค่าที่บัญชีฟรีส่วนใหญ่รายงานในฟอรัมของ NVIDIA ค่านี้ไม่ได้อยู่ในหน้าทางการของ NVIDIA ตรวจสอบบัญชีของคุณเพื่อดูขีดจำกัดจริงของคุณ

คุณเพิ่มขีดจำกัด 40 RPM ได้หรือไม่

ฟอรัมนักพัฒนาของ NVIDIA มีโพสต์จำนวนมากที่ขอ 200 RPM ขึ้นไป เรายังไม่พบกระบวนการทางการที่เพิ่มขีดจำกัดสำหรับบัญชีฟรี คำตอบหนึ่งในฟอรัมระบุว่า NVIDIA ไม่สามารถเพิ่มขีดจำกัดด้วยตนเองสำหรับบัญชีบุคคลฟรี เรายืนยันไม่ได้ว่าคำตอบนี้มาจากเจ้าหน้าที่ของ NVIDIA

FAQ ของ NIM ให้ตัวเลือกอื่นสำหรับความจุที่มากขึ้น:

  • โฮสต์ NIM เอง บนผู้ให้บริการคลาวด์ของคุณ หรือบน GPU ของคุณ
  • ใช้ NIM API แบบ serverless สำหรับงานจริงจากพาร์ทเนอร์ เช่น Hugging Face โดยคิดค่าใช้จ่ายตามการใช้งาน
  • เริ่มการทดลอง NVIDIA AI Enterprise 90 วัน ซึ่งออกแบบมาสำหรับการติดตั้งใช้งานจริง

อย่าสร้างบัญชี NVIDIA เพิ่มเพื่อให้ได้คำขอมากขึ้น ข้อกำหนดการทดลองให้ NVIDIA กำหนดขีดจำกัดการใช้งานได้ และการเข้าถึงฟรีมีไว้เพื่อวัตถุประสงค์การทดลองที่จำกัดเท่านั้น

วิธีเพิ่มปริมาณงาน
ตัวเลือกค่าใช้จ่ายได้คำขอมากขึ้นหรือไม่
ขอขีดจำกัดฟรีที่สูงขึ้นในฟอรัมฟรีไม่พบกระบวนการทางการ
ปรับจังหวะคำขอให้อยู่ใต้ขีดจำกัดฟรีไม่ได้ แต่มี error 429 น้อยลง
เพิ่มผู้ให้บริการฟรีรายอื่นพร้อมการสลับสำรองฟรีได้ จากผู้ให้บริการอื่น
NIM แบบ serverless จากพาร์ทเนอร์จ่ายตามการใช้งานได้
โฮสต์ NIM เองGPU ของคุณได้

ข้อกำหนดการทดลองอนุญาตอะไร

ส่วนที่ 1.2 ของ NVIDIA API Trial Terms ให้สิทธิ์เข้าถึงเพื่อ "วัตถุประสงค์การทดลองที่จำกัดเท่านั้น" ข้อนี้ไม่รวมการใช้บริการหรือผลลัพธ์ในการใช้งานจริง ส่วนที่ 1.4 ระบุว่า หากไม่มีการสมัครสมาชิก คุณใช้บริการได้เฉพาะการทดสอบและการประเมินภายในเท่านั้น

ส่วนที่ 3.3 ระบุว่า NVIDIA เก็บเนื้อหาของคุณและเนื้อหาที่สร้างขึ้นเพื่อปรับปรุงผลิตภัณฑ์ รวมถึงโมเดล AI อย่าส่งข้อมูลส่วนตัวไปยังบริการทดลอง อ่าน การใช้ free LLM API เชิงพาณิชย์ สำหรับผู้ให้บริการอื่น

โมเดล NIM ฟรีในปัจจุบัน

แคตตาล็อกแสดงโมเดลฟรีของ NVIDIA เหล่านี้ ขีดจำกัดใช้ต่อบัญชี ดังนั้นทุกโมเดลใช้คำขอต่อนาทีร่วมกัน

โมเดล NVIDIA NIM ฟรีในแคตตาล็อกปัจจุบัน
โมเดลฟรีบนขนาดบริบทขีดจำกัดฟรี (ข้อเสนอที่ดีที่สุด)เครื่องมือการอ่านภาพ
GLM 5.3 FlashNVIDIA NIM1M40 คำขอ/นาที
40 RPM
ใช่ไม่
Step 5 PreviewNVIDIA NIM-Ongoing developer prototypingไม่ไม่
Nemotron-3 Ultra 550BNVIDIA NIM1M40 คำขอ/นาที
40 RPM
ใช่ไม่
Muse Glimmer 30BNVIDIA NIM131K40 คำขอ/นาที
40 RPM
ใช่ใช่
Gemma 4 31BNVIDIA NIM262K40 คำขอ/นาที
40 RPM
ไม่ไม่
Poolside Laguna XS 2.1NVIDIA NIM262K40 คำขอ/นาที
40 RPM
ใช่ไม่
Nemotron 3 Super 120BNVIDIA NIM262K40 คำขอ/นาที
40 RPM
ใช่ไม่
Nemotron 3.5 Lightning 30B A3BNVIDIA NIM1M40 คำขอ/นาที
40 RPM
ใช่ไม่
DiffusionGemma 26B A4B ITNVIDIA NIM262K40 คำขอ/นาที
40 RPM
ไม่ใช่
GPT-OSS 20BNVIDIA NIM131K40 คำขอ/นาที
40 RPM
ใช่ไม่
Nemotron 3 Nano Omni 30B A3B ReasoningNVIDIA NIM262K40 คำขอ/นาที
40 RPM
ไม่ใช่
Ising Calibration 1.5 31BNVIDIA NIM131K40 คำขอ/นาที
40 RPM
ไม่ใช่

แสดง 12 จาก 19 โมเดลฟรีที่ตรงกัน ดูโมเดลทั้งหมด.

ข้อมูลสดจากแคตตาล็อก FreeLLMAPI (เวอร์ชัน 2026.11.19 ตรวจสอบเมื่อ 2026-11-19) ขีดจำกัดฟรีเปลี่ยนบ่อย แคตตาล็อกถูกตรวจสอบทุกวัน

ผู้ให้บริการปัญหาที่ทราบสิ่งที่ควรทำ
NVIDIA NIMRecurring free, 40 RPM, eval-only ToSNVIDIA NIM replaced its depleting trial credits with a recurring per-account rate limit (40 RPM default, varies by model), verified June 2026. The trial ToS still scopes usage to evaluation/prototyping, not production.
NVIDIA NIMDeveloper evaluation and data-use termsOngoing zero-price hosted developer access, not a monthly credit grant or unrestricted production service. NVIDIA trial/prototyping and data-use terms apply. Do not submit personal or confidential data. Text completions with exact model identity passed on October 15, 2026; tool and vision flags remain off until separately tested. Sources: https://build.nvidia.com/stepfun-ai/step-5-preview and https://openrouter.ai/nvidia/nemotron-3.5-super-vl:free

ข้อมูลสดจากแคตตาล็อก FreeLLMAPI (เวอร์ชัน 2026.11.19 ตรวจสอบเมื่อ 2026-11-19) ขีดจำกัดฟรีเปลี่ยนบ่อย แคตตาล็อกถูกตรวจสอบทุกวัน

วิธีให้การใช้งานอยู่ต่ำกว่าขีดจำกัด

ที่ 40 คำขอต่อนาที คุณส่งได้หนึ่งคำขอทุก 1.5 วินาทีโดยเฉลี่ย คำขอแบบขนานที่ส่งพร้อมกันจะถึงขีดจำกัดภายในไม่กี่วินาที ใช้กฎเหล่านี้:

  1. จำกัดจำนวนคำขอแบบขนานในไคลเอนต์ของคุณ สองหรือสามรายการพร้อมกันปลอดภัยสำหรับ agent ส่วนใหญ่
  2. ลองใหม่ทุก 429 ด้วย exponential backoff และ jitter หยุดหลังจากจำนวนครั้งที่ลองใหม่ที่กำหนดไว้
  3. นับคำขอข้ามทุกโมเดล ขีดจำกัดเป็นของบัญชี ไม่ใช่ของแต่ละโมเดล
  4. ส่งงานที่สั้นและง่ายไปยังผู้ให้บริการอื่น เก็บ NVIDIA ไว้สำหรับโมเดลขนาดใหญ่ที่ NVIDIA ให้บริการฟรีเพียงรายเดียว

การปรับจังหวะฝั่งไคลเอนต์แบบง่าย (Python)

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://integrate.api.nvidia.com/v1", api_key="<nvidia-key>")
MIN_GAP = 60 / 40  # seconds between requests at 40 RPM
last = 0.0

def ask(prompt, model="openai/gpt-oss-20b"):
    global last
    for attempt in range(5):
        wait = MIN_GAP - (time.time() - last)
        if wait > 0:
            time.sleep(wait)
        last = time.time()
        try:
            r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(2 ** attempt)
    raise RuntimeError("NVIDIA rate limit: retries used up")

กระจายโหลดด้วย FreeLLMAPI

FreeLLMAPI เป็นเกตเวย์โอเพนซอร์สที่ทำงานบนคอมพิวเตอร์ของคุณ ระบบถือ NVIDIA เป็นพูลเดียวที่มี 40 คำขอต่อนาทีสำหรับทั้งบัญชี ก่อนส่งคำขอ ระบบตรวจพูลนั้น เมื่อพูลเต็ม ระบบส่งคำขอไปยังผู้ให้บริการฟรีรายถัดไปในเชนของคุณ

  • เพดานต่อนาทีของทั้งบัญชีตั้งด้วย PROVIDER_MINUTE_REQUEST_CAP_NVIDIA ลดค่านี้หากบัญชีของคุณแสดงขีดจำกัดที่ต่ำกว่า
  • หากต้องการจำกัดคำขอแบบขนานไปยัง NVIDIA ให้ตั้ง MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIA
  • 429 จาก NVIDIA ทำให้คีย์พักสั้นๆ เราเตอร์จะลองผู้ให้บริการอื่น
  • header X-Routed-Via แสดงผู้ให้บริการที่ตอบแต่ละคำขอ

~/freellmapi/.env (การติดตั้งด้วย Docker)

PROVIDER_MINUTE_REQUEST_CAP_NVIDIA=30
MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIA=2

# then restart the container
cd ~/freellmapi && docker compose up -d

ตัวติดตั้งแบบคำสั่งเดียวเก็บการตั้งค่าไว้ใน ~/freellmapi/.env เพิ่มสองบรรทัดลงในไฟล์นั้น แล้วเริ่ม container ใหม่ เพดาน NVIDIA ค่าเริ่มต้นคือ 40 คำขอต่อนาที ค่า 0 ปิดการควบคุมทั้งบัญชีสำหรับผู้ให้บริการนั้น

การสลับสำรองไม่ได้เพิ่มขีดจำกัดของ NVIDIA ระบบใช้โควตาฟรีรายอื่น เช่น Groq, Gemini และ Cloudflare เมื่อ NVIDIA เต็ม

ใช้ทุกตัวในรายการนี้ผ่านคีย์เดียว FreeLLMAPI คือเราเตอร์โอเพนซอร์สที่คุณโฮสต์เอง รวมระดับฟรีทั้งหมดนี้ไว้หลังปลายทางเดียวที่เข้ากันได้กับ OpenAI และเปลี่ยนไปใช้ตัวอื่นเมื่อตัวใดตัวหนึ่งถูกจำกัดอัตรา ดูแคตตาล็อก หรือ เริ่มใช้งานจริง.

คำถามที่พบบ่อย

NVIDIA NIM API rate limit คืออะไร

NVIDIA ไม่เผยแพร่ตัวเลขเดียว เจ้าหน้าที่ระบุว่าขีดจำกัดแตกต่างกันตามโมเดล และคุณดูของคุณได้ที่มุมขวาบนของ build.nvidia.com บัญชีฟรีส่วนใหญ่รายงาน 40 คำขอต่อนาที

จะเพิ่ม rate limit ของ NVIDIA NIM จาก 40 RPM ได้อย่างไร

เราไม่พบกระบวนการทางการสำหรับบัญชีฟรี FAQ ของ NVIDIA ชี้ไปที่การโฮสต์เอง NIM แบบ serverless ที่มีค่าใช้จ่ายจากพาร์ทเนอร์ เช่น Hugging Face หรือการทดลอง NVIDIA AI Enterprise เพื่อความจุที่มากขึ้น

NVIDIA NIM ยังใช้เครดิตอยู่หรือไม่

ไม่ เจ้าหน้าที่ของ NVIDIA ระบุในเดือนกันยายน 2025 ว่า build.nvidia.com ไม่ใช้เครดิตอีกต่อไป การใช้งานทดลองถูกควบคุมด้วย rate limit ในปัจจุบัน

ฉันใช้ NVIDIA API ฟรีในการใช้งานจริงได้หรือไม่

ไม่ได้ NVIDIA API Trial Terms อนุญาตการใช้งานทดลองที่จำกัดเท่านั้น ไม่รวมการใช้งานจริง การใช้งานจริงต้องมีใบอนุญาต NVIDIA AI Enterprise หรือผู้ให้บริการแบบเสียเงิน

ขีดจำกัด 40 RPM ของ NVIDIA ใช้ต่อโมเดลหรือต่อบัญชี

ผู้ใช้ฟรีรายงานขีดจำกัดเดียวทั้งบัญชี วางแผนให้ทุกโมเดลใช้ร่วมกัน และกระจายคำขอให้ครอบคลุมทุกโมเดลที่คุณเรียก

คู่มือที่เกี่ยวข้อง

แหล่งข้อมูล

คู่มือทั้งหมด · ดูโมเดลฟรีทั้งหมด