NVIDIA NIM API rate limit
NVIDIA API Catalog ฟรีบน build.nvidia.com มี rate limit ไม่ได้มียอดเครดิต บัญชีฟรีจำนวนมากรายงานเพดาน 40 คำขอต่อนาที หน้านี้อธิบายว่า NVIDIA ระบุอะไรเกี่ยวกับขีดจำกัด เหตุใดการขอเพิ่มจึงแทบไม่ได้ผล และวิธีให้การใช้งานอยู่ต่ำกว่าขีดจำกัด
โค้ด ชื่อโมเดล และป้ายกำกับของแคตตาล็อกสดจะแสดงเป็นภาษาอังกฤษ
NVIDIA ระบุอะไรเกี่ยวกับขีดจำกัด
ในเดือนกันยายน 2025 เจ้าหน้าที่ของ NVIDIA เขียนในฟอรัมนักพัฒนาว่า "เราไม่ใช้ระบบเครดิตสำหรับ build.nvidia.com อีกต่อไป" rate limit สำหรับการใช้งานทดลองเข้ามาแทนเครดิต คำตอบเดียวกันระบุว่าขีดจำกัดแตกต่างกันในแต่ละโมเดล และ NVIDIA ไม่เผยแพร่ค่าเหล่านั้น คุณดูอัตราสูงสุดของคุณได้ที่มุมขวาบนของ build.nvidia.com
FAQ ของ NIM ระบุว่าจำนวนการเรียกที่อนุญาตในช่วงเวลาหนึ่ง "ออกแบบมาเพื่อรองรับความต้องการด้านการประเมินและการสร้างต้นแบบเท่านั้น" สมาชิกของ NVIDIA Developer Program ได้สิทธิ์ใช้ endpoint ของ NIM API ฟรีสำหรับการสร้างต้นแบบ
คุณเพิ่มขีดจำกัด 40 RPM ได้หรือไม่
ฟอรัมนักพัฒนาของ NVIDIA มีโพสต์จำนวนมากที่ขอ 200 RPM ขึ้นไป เรายังไม่พบกระบวนการทางการที่เพิ่มขีดจำกัดสำหรับบัญชีฟรี คำตอบหนึ่งในฟอรัมระบุว่า NVIDIA ไม่สามารถเพิ่มขีดจำกัดด้วยตนเองสำหรับบัญชีบุคคลฟรี เรายืนยันไม่ได้ว่าคำตอบนี้มาจากเจ้าหน้าที่ของ NVIDIA
FAQ ของ NIM ให้ตัวเลือกอื่นสำหรับความจุที่มากขึ้น:
- โฮสต์ NIM เอง บนผู้ให้บริการคลาวด์ของคุณ หรือบน GPU ของคุณ
- ใช้ NIM API แบบ serverless สำหรับงานจริงจากพาร์ทเนอร์ เช่น Hugging Face โดยคิดค่าใช้จ่ายตามการใช้งาน
- เริ่มการทดลอง NVIDIA AI Enterprise 90 วัน ซึ่งออกแบบมาสำหรับการติดตั้งใช้งานจริง
อย่าสร้างบัญชี NVIDIA เพิ่มเพื่อให้ได้คำขอมากขึ้น ข้อกำหนดการทดลองให้ NVIDIA กำหนดขีดจำกัดการใช้งานได้ และการเข้าถึงฟรีมีไว้เพื่อวัตถุประสงค์การทดลองที่จำกัดเท่านั้น
| ตัวเลือก | ค่าใช้จ่าย | ได้คำขอมากขึ้นหรือไม่ |
|---|---|---|
| ขอขีดจำกัดฟรีที่สูงขึ้นในฟอรัม | ฟรี | ไม่พบกระบวนการทางการ |
| ปรับจังหวะคำขอให้อยู่ใต้ขีดจำกัด | ฟรี | ไม่ได้ แต่มี error 429 น้อยลง |
| เพิ่มผู้ให้บริการฟรีรายอื่นพร้อมการสลับสำรอง | ฟรี | ได้ จากผู้ให้บริการอื่น |
| NIM แบบ serverless จากพาร์ทเนอร์ | จ่ายตามการใช้งาน | ได้ |
| โฮสต์ NIM เอง | GPU ของคุณ | ได้ |
ข้อกำหนดการทดลองอนุญาตอะไร
ส่วนที่ 1.2 ของ NVIDIA API Trial Terms ให้สิทธิ์เข้าถึงเพื่อ "วัตถุประสงค์การทดลองที่จำกัดเท่านั้น" ข้อนี้ไม่รวมการใช้บริการหรือผลลัพธ์ในการใช้งานจริง ส่วนที่ 1.4 ระบุว่า หากไม่มีการสมัครสมาชิก คุณใช้บริการได้เฉพาะการทดสอบและการประเมินภายในเท่านั้น
ส่วนที่ 3.3 ระบุว่า NVIDIA เก็บเนื้อหาของคุณและเนื้อหาที่สร้างขึ้นเพื่อปรับปรุงผลิตภัณฑ์ รวมถึงโมเดล AI อย่าส่งข้อมูลส่วนตัวไปยังบริการทดลอง อ่าน การใช้ free LLM API เชิงพาณิชย์ สำหรับผู้ให้บริการอื่น
โมเดล NIM ฟรีในปัจจุบัน
แคตตาล็อกแสดงโมเดลฟรีของ NVIDIA เหล่านี้ ขีดจำกัดใช้ต่อบัญชี ดังนั้นทุกโมเดลใช้คำขอต่อนาทีร่วมกัน
| โมเดล | ฟรีบน | ขนาดบริบท | ขีดจำกัดฟรี (ข้อเสนอที่ดีที่สุด) | เครื่องมือ | การอ่านภาพ |
|---|---|---|---|---|---|
| GLM 5.3 Flash | NVIDIA NIM | 1M | 40 คำขอ/นาที 40 RPM | ใช่ | ไม่ |
| Step 5 Preview | NVIDIA NIM | - | Ongoing developer prototyping | ไม่ | ไม่ |
| Nemotron-3 Ultra 550B | NVIDIA NIM | 1M | 40 คำขอ/นาที 40 RPM | ใช่ | ไม่ |
| Muse Glimmer 30B | NVIDIA NIM | 131K | 40 คำขอ/นาที 40 RPM | ใช่ | ใช่ |
| Gemma 4 31B | NVIDIA NIM | 262K | 40 คำขอ/นาที 40 RPM | ไม่ | ไม่ |
| Poolside Laguna XS 2.1 | NVIDIA NIM | 262K | 40 คำขอ/นาที 40 RPM | ใช่ | ไม่ |
| Nemotron 3 Super 120B | NVIDIA NIM | 262K | 40 คำขอ/นาที 40 RPM | ใช่ | ไม่ |
| Nemotron 3.5 Lightning 30B A3B | NVIDIA NIM | 1M | 40 คำขอ/นาที 40 RPM | ใช่ | ไม่ |
| DiffusionGemma 26B A4B IT | NVIDIA NIM | 262K | 40 คำขอ/นาที 40 RPM | ไม่ | ใช่ |
| GPT-OSS 20B | NVIDIA NIM | 131K | 40 คำขอ/นาที 40 RPM | ใช่ | ไม่ |
| Nemotron 3 Nano Omni 30B A3B Reasoning | NVIDIA NIM | 262K | 40 คำขอ/นาที 40 RPM | ไม่ | ใช่ |
| Ising Calibration 1.5 31B | NVIDIA NIM | 131K | 40 คำขอ/นาที 40 RPM | ไม่ | ใช่ |
แสดง 12 จาก 19 โมเดลฟรีที่ตรงกัน ดูโมเดลทั้งหมด.
ข้อมูลสดจากแคตตาล็อก FreeLLMAPI (เวอร์ชัน 2026.11.19 ตรวจสอบเมื่อ 2026-11-19) ขีดจำกัดฟรีเปลี่ยนบ่อย แคตตาล็อกถูกตรวจสอบทุกวัน
| ผู้ให้บริการ | ปัญหาที่ทราบ | สิ่งที่ควรทำ |
|---|---|---|
| NVIDIA NIM | Recurring free, 40 RPM, eval-only ToS | NVIDIA NIM replaced its depleting trial credits with a recurring per-account rate limit (40 RPM default, varies by model), verified June 2026. The trial ToS still scopes usage to evaluation/prototyping, not production. |
| NVIDIA NIM | Developer evaluation and data-use terms | Ongoing zero-price hosted developer access, not a monthly credit grant or unrestricted production service. NVIDIA trial/prototyping and data-use terms apply. Do not submit personal or confidential data. Text completions with exact model identity passed on October 15, 2026; tool and vision flags remain off until separately tested. Sources: https://build.nvidia.com/stepfun-ai/step-5-preview and https://openrouter.ai/nvidia/nemotron-3.5-super-vl:free |
ข้อมูลสดจากแคตตาล็อก FreeLLMAPI (เวอร์ชัน 2026.11.19 ตรวจสอบเมื่อ 2026-11-19) ขีดจำกัดฟรีเปลี่ยนบ่อย แคตตาล็อกถูกตรวจสอบทุกวัน
วิธีให้การใช้งานอยู่ต่ำกว่าขีดจำกัด
ที่ 40 คำขอต่อนาที คุณส่งได้หนึ่งคำขอทุก 1.5 วินาทีโดยเฉลี่ย คำขอแบบขนานที่ส่งพร้อมกันจะถึงขีดจำกัดภายในไม่กี่วินาที ใช้กฎเหล่านี้:
- จำกัดจำนวนคำขอแบบขนานในไคลเอนต์ของคุณ สองหรือสามรายการพร้อมกันปลอดภัยสำหรับ agent ส่วนใหญ่
- ลองใหม่ทุก 429 ด้วย exponential backoff และ jitter หยุดหลังจากจำนวนครั้งที่ลองใหม่ที่กำหนดไว้
- นับคำขอข้ามทุกโมเดล ขีดจำกัดเป็นของบัญชี ไม่ใช่ของแต่ละโมเดล
- ส่งงานที่สั้นและง่ายไปยังผู้ให้บริการอื่น เก็บ NVIDIA ไว้สำหรับโมเดลขนาดใหญ่ที่ NVIDIA ให้บริการฟรีเพียงรายเดียว
การปรับจังหวะฝั่งไคลเอนต์แบบง่าย (Python)
import time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://integrate.api.nvidia.com/v1", api_key="<nvidia-key>")
MIN_GAP = 60 / 40 # seconds between requests at 40 RPM
last = 0.0
def ask(prompt, model="openai/gpt-oss-20b"):
global last
for attempt in range(5):
wait = MIN_GAP - (time.time() - last)
if wait > 0:
time.sleep(wait)
last = time.time()
try:
r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
return r.choices[0].message.content
except RateLimitError:
time.sleep(2 ** attempt)
raise RuntimeError("NVIDIA rate limit: retries used up")กระจายโหลดด้วย FreeLLMAPI
FreeLLMAPI เป็นเกตเวย์โอเพนซอร์สที่ทำงานบนคอมพิวเตอร์ของคุณ ระบบถือ NVIDIA เป็นพูลเดียวที่มี 40 คำขอต่อนาทีสำหรับทั้งบัญชี ก่อนส่งคำขอ ระบบตรวจพูลนั้น เมื่อพูลเต็ม ระบบส่งคำขอไปยังผู้ให้บริการฟรีรายถัดไปในเชนของคุณ
- เพดานต่อนาทีของทั้งบัญชีตั้งด้วย
PROVIDER_MINUTE_REQUEST_CAP_NVIDIAลดค่านี้หากบัญชีของคุณแสดงขีดจำกัดที่ต่ำกว่า - หากต้องการจำกัดคำขอแบบขนานไปยัง NVIDIA ให้ตั้ง
MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIA - 429 จาก NVIDIA ทำให้คีย์พักสั้นๆ เราเตอร์จะลองผู้ให้บริการอื่น
- header
X-Routed-Viaแสดงผู้ให้บริการที่ตอบแต่ละคำขอ
~/freellmapi/.env (การติดตั้งด้วย Docker)
PROVIDER_MINUTE_REQUEST_CAP_NVIDIA=30
MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIA=2
# then restart the container
cd ~/freellmapi && docker compose up -dตัวติดตั้งแบบคำสั่งเดียวเก็บการตั้งค่าไว้ใน ~/freellmapi/.env เพิ่มสองบรรทัดลงในไฟล์นั้น แล้วเริ่ม container ใหม่ เพดาน NVIDIA ค่าเริ่มต้นคือ 40 คำขอต่อนาที ค่า 0 ปิดการควบคุมทั้งบัญชีสำหรับผู้ให้บริการนั้น
การสลับสำรองไม่ได้เพิ่มขีดจำกัดของ NVIDIA ระบบใช้โควตาฟรีรายอื่น เช่น Groq, Gemini และ Cloudflare เมื่อ NVIDIA เต็ม
คำถามที่พบบ่อย
NVIDIA NIM API rate limit คืออะไร
NVIDIA ไม่เผยแพร่ตัวเลขเดียว เจ้าหน้าที่ระบุว่าขีดจำกัดแตกต่างกันตามโมเดล และคุณดูของคุณได้ที่มุมขวาบนของ build.nvidia.com บัญชีฟรีส่วนใหญ่รายงาน 40 คำขอต่อนาที
จะเพิ่ม rate limit ของ NVIDIA NIM จาก 40 RPM ได้อย่างไร
เราไม่พบกระบวนการทางการสำหรับบัญชีฟรี FAQ ของ NVIDIA ชี้ไปที่การโฮสต์เอง NIM แบบ serverless ที่มีค่าใช้จ่ายจากพาร์ทเนอร์ เช่น Hugging Face หรือการทดลอง NVIDIA AI Enterprise เพื่อความจุที่มากขึ้น
NVIDIA NIM ยังใช้เครดิตอยู่หรือไม่
ไม่ เจ้าหน้าที่ของ NVIDIA ระบุในเดือนกันยายน 2025 ว่า build.nvidia.com ไม่ใช้เครดิตอีกต่อไป การใช้งานทดลองถูกควบคุมด้วย rate limit ในปัจจุบัน
ฉันใช้ NVIDIA API ฟรีในการใช้งานจริงได้หรือไม่
ไม่ได้ NVIDIA API Trial Terms อนุญาตการใช้งานทดลองที่จำกัดเท่านั้น ไม่รวมการใช้งานจริง การใช้งานจริงต้องมีใบอนุญาต NVIDIA AI Enterprise หรือผู้ให้บริการแบบเสียเงิน
ขีดจำกัด 40 RPM ของ NVIDIA ใช้ต่อโมเดลหรือต่อบัญชี
ผู้ใช้ฟรีรายงานขีดจำกัดเดียวทั้งบัญชี วางแผนให้ทุกโมเดลใช้ร่วมกัน และกระจายคำขอให้ครอบคลุมทุกโมเดลที่คุณเรียก
คู่มือที่เกี่ยวข้อง
- free nvidia api
- Rate limit ของ Free LLM API
- Groq ถึงขีดจำกัดอัตรา (429)
- Gemini API เกินโควตา (429 RESOURCE_EXHAUSTED)
- Free LLM API สำหรับการใช้เชิงพาณิชย์
แหล่งข้อมูล
- NVIDIA developer forum: credit system replaced by rate limits (ตรวจสอบเมื่อ 20 November 2026)
- NVIDIA NIM FAQ (ตรวจสอบเมื่อ 20 November 2026)
- NVIDIA API Trial Terms of Service (PDF) (ตรวจสอบเมื่อ 20 November 2026)
- NVIDIA developer forum: request to raise 40 RPM (ตรวจสอบเมื่อ 20 November 2026)
- NVIDIA API Catalog: API reference (ตรวจสอบเมื่อ 20 November 2026)
- FreeLLMAPI docs: Quota and cooldown engine (ตรวจสอบเมื่อ 20 November 2026)