ಮುಖಪುಟ / ಮಾರ್ಗದರ್ಶಿಗಳು / NVIDIA NIM API ದರ ಮಿತಿ

NVIDIA NIM API ದರ ಮಿತಿ

build.nvidia.com ನಲ್ಲಿರುವ ಉಚಿತ NVIDIA API Catalog ಗೆ ಕ್ರೆಡಿಟ್ ಬ್ಯಾಲೆನ್ಸ್ ಅಲ್ಲ, ದರ ಮಿತಿ ಇದೆ. ಹಲವು ಉಚಿತ ಖಾತೆಗಳು ನಿಮಿಷಕ್ಕೆ 40 ವಿನಂತಿಗಳ ಮಿತಿಯನ್ನು ವರದಿ ಮಾಡುತ್ತವೆ. ಈ ಪುಟ ಮಿತಿಯ ಬಗ್ಗೆ NVIDIA ಏನು ಹೇಳುತ್ತದೆ, ಅದನ್ನು ಹೆಚ್ಚಿಸಲು ವಿನಂತಿಗಳು ಏಕೆ ಅಪರೂಪವಾಗಿ ಕೆಲಸ ಮಾಡುತ್ತವೆ, ಮತ್ತು ಅದರ ಕೆಳಗೆ ಹೇಗೆ ಉಳಿಯುವುದು ಎಂದು ವಿವರಿಸುತ್ತದೆ.

ಕೋಡ್, ಮಾದರಿ ಹೆಸರುಗಳು ಮತ್ತು ನೇರ ಕ್ಯಾಟಲಾಗ್ ಲೇಬಲ್‌ಗಳನ್ನು ಇಂಗ್ಲಿಷ್‌ನಲ್ಲಿ ತೋರಿಸಲಾಗಿದೆ.

ಮಿತಿಯ ಬಗ್ಗೆ NVIDIA ಏನು ಹೇಳುತ್ತದೆ

ಸೆಪ್ಟೆಂಬರ್ 2025 ರಲ್ಲಿ, ಒಬ್ಬ NVIDIA ಸಿಬ್ಬಂದಿ ಡೆವಲಪರ್ ಫೋರಮ್‌ನಲ್ಲಿ ಬರೆದರು: "We no longer use a credit-based system for build.nvidia.com." ಟ್ರಯಲ್ ಬಳಕೆಗಾಗಿ ದರ ಮಿತಿಗಳು ಕ್ರೆಡಿಟ್‌ಗಳನ್ನು ಬದಲಿಸಿದವು. ಅದೇ ಉತ್ತರ ಹೇಳುತ್ತದೆ, ಮಿತಿಗಳು ಪ್ರತಿ ಮಾದರಿಗೆ ಬೇರೆಯಾಗಿರುತ್ತವೆ ಮತ್ತು NVIDIA ಅವುಗಳನ್ನು ಪ್ರಕಟಿಸುವುದಿಲ್ಲ. ನಿಮ್ಮ ಗರಿಷ್ಠ ದರ ಮಿತಿಯನ್ನು build.nvidia.com ನ ಮೇಲಿನ ಬಲಭಾಗದಲ್ಲಿ ನೋಡಬಹುದು.

NIM FAQ ಹೇಳುತ್ತದೆ, ಒಂದು ಅವಧಿಯಲ್ಲಿ ಅನುಮತಿಸಲಾದ ಕರೆಗಳ ಸಂಖ್ಯೆ "is designed to serve evaluation and prototyping needs only". NVIDIA Developer Program ಸದಸ್ಯರು ಪ್ರೋಟೋಟೈಪಿಂಗ್‌ಗಾಗಿ NIM API ಎಂಡ್‌ಪಾಯಿಂಟ್‌ಗಳಿಗೆ ಉಚಿತ ಪ್ರವೇಶ ಪಡೆಯುತ್ತಾರೆ.

40 RPM ಮೌಲ್ಯದ ಬಗ್ಗೆ: ನಿಮಿಷಕ್ಕೆ 40 ವಿನಂತಿಗಳು ಹೆಚ್ಚಿನ ಉಚಿತ ಖಾತೆಗಳು NVIDIA ಫೋರಮ್‌ನಲ್ಲಿ ವರದಿ ಮಾಡುವ ಮೌಲ್ಯ. ಇದು ಅಧಿಕೃತ NVIDIA ಪುಟದಲ್ಲಿಲ್ಲ. ನಿಮ್ಮ ನಿಜವಾದ ಮಿತಿಗಾಗಿ ನಿಮ್ಮ ಸ್ವಂತ ಖಾತೆಯನ್ನು ಪರಿಶೀಲಿಸಿ.

ನೀವು 40 RPM ಮಿತಿಯನ್ನು ಹೆಚ್ಚಿಸಬಹುದೇ?

NVIDIA ಡೆವಲಪರ್ ಫೋರಮ್‌ನಲ್ಲಿ 200 RPM ಅಥವಾ ಹೆಚ್ಚನ್ನು ಕೇಳುವ ಅನೇಕ ಪೋಸ್ಟ್‌ಗಳಿವೆ. ಉಚಿತ ಖಾತೆಗೆ ಮಿತಿಯನ್ನು ಹೆಚ್ಚಿಸುವ ಯಾವುದೇ ಅಧಿಕೃತ ಪ್ರಕ್ರಿಯೆಯನ್ನು ನಾವು ಕಂಡುಕೊಳ್ಳಲಿಲ್ಲ. ಒಂದು ಫೋರಮ್ ಉತ್ತರ ಹೇಳುತ್ತದೆ, NVIDIA ವೈಯಕ್ತಿಕ ಉಚಿತ ಖಾತೆಗಳಿಗೆ ಮಿತಿಗಳನ್ನು ಕೈಯಾರೆ ಹೆಚ್ಚಿಸಲು ಸಾಧ್ಯವಿಲ್ಲ. ಆ ಉತ್ತರ NVIDIA ಸಿಬ್ಬಂದಿಯಿಂದ ಬಂದಿದೆ ಎಂದು ನಾವು ದೃಢೀಕರಿಸಲಾಗಲಿಲ್ಲ.

NIM FAQ ಹೆಚ್ಚಿನ ಸಾಮರ್ಥ್ಯಕ್ಕಾಗಿ ಇತರ ಆಯ್ಕೆಗಳನ್ನು ನೀಡುತ್ತದೆ:

  • ನಿಮ್ಮ ಕ್ಲೌಡ್ ಪೂರೈಕೆದಾರ ಅಥವಾ ನಿಮ್ಮ ಸ್ವಂತ GPU ಗಳಲ್ಲಿ NIM ಅನ್ನು ಸ್ವಯಂ-ಹೋಸ್ಟ್ ಮಾಡಿ.
  • ಪಾಲುದಾರರಿಂದ ಪ್ರೊಡಕ್ಷನ್ ಸರ್ವರ್‌ಲೆಸ್ NIM API ಬಳಸಿ, ಉದಾಹರಣೆಗೆ Hugging Face, ಬಳಕೆಯ ಆಧಾರದ ಬೆಲೆಯೊಂದಿಗೆ.
  • 90-ದಿನದ NVIDIA AI Enterprise ಟ್ರಯಲ್ ಆರಂಭಿಸಿ, ಇದು ಪ್ರೊಡಕ್ಷನ್ ನಿಯೋಜನೆಗಳಿಗಾಗಿ.

ಹೆಚ್ಚು ವಿನಂತಿಗಳಿಗಾಗಿ ಹೆಚ್ಚು NVIDIA ಖಾತೆಗಳನ್ನು ಮಾಡಬೇಡಿ. ಟ್ರಯಲ್ ನಿಯಮಗಳು NVIDIA ಬಳಕೆಯ ಮಿತಿಗಳನ್ನು ಹೊಂದಿಸಲು ಅನುಮತಿಸುತ್ತವೆ, ಮತ್ತು ಉಚಿತ ಪ್ರವೇಶ ಸೀಮಿತ ಟ್ರಯಲ್ ಉದ್ದೇಶಗಳಿಗೆ ಮಾತ್ರ.

ಹೆಚ್ಚು ಥ್ರೂಪುಟ್ ಪಡೆಯುವ ಮಾರ್ಗಗಳು
ಆಯ್ಕೆವೆಚ್ಚಹೆಚ್ಚು ವಿನಂತಿಗಳು?
ಫೋರಮ್‌ನಲ್ಲಿ ಹೆಚ್ಚಿನ ಉಚಿತ ಮಿತಿಗಾಗಿ ಕೇಳಿಉಚಿತಯಾವುದೇ ಅಧಿಕೃತ ಪ್ರಕ್ರಿಯೆ ಕಂಡುಬಂದಿಲ್ಲ
ಮಿತಿಯ ಕೆಳಗೆ ವಿನಂತಿಗಳನ್ನು ಅಂತರದಲ್ಲಿ ಕಳುಹಿಸಿಉಚಿತಇಲ್ಲ, ಆದರೆ ಕಡಿಮೆ 429 ದೋಷಗಳು
ಫೇಲ್‌ಓವರ್ ಜೊತೆ ಇತರ ಉಚಿತ ಪೂರೈಕೆದಾರರನ್ನು ಸೇರಿಸಿಉಚಿತಹೌದು, ಇತರ ಪೂರೈಕೆದಾರರಿಂದ
ಪಾಲುದಾರರಿಂದ ಸರ್ವರ್‌ಲೆಸ್ NIMಬಳಕೆಗೆ ತಕ್ಕಂತೆ ಪಾವತಿಹೌದು
NIM ಅನ್ನು ಸ್ವಯಂ-ಹೋಸ್ಟ್ ಮಾಡಿನಿಮ್ಮ GPU ಗಳುಹೌದು

ಟ್ರಯಲ್ ನಿಯಮಗಳು ಏನನ್ನು ಅನುಮತಿಸುತ್ತವೆ

NVIDIA API Trial Terms ನ ವಿಭಾಗ 1.2, "for limited trial purposes only" ಎಂದು ಪ್ರವೇಶ ನೀಡುತ್ತದೆ. ಉತ್ಪಾದನೆಯಲ್ಲಿ ಸೇವೆ ಅಥವಾ ಅದರ ಔಟ್‌ಪುಟ್ ಬಳಕೆಯನ್ನು ಅದು ಹೊರಗಿಡುತ್ತದೆ. ವಿಭಾಗ 1.4 ಹೇಳುತ್ತದೆ, ಚಂದಾದಾರಿಕೆ ಇಲ್ಲದೆ, ನೀವು ಸೇವೆಯನ್ನು ಆಂತರಿಕ ಪರೀಕ್ಷೆ ಮತ್ತು ಮೌಲ್ಯಮಾಪನಕ್ಕಾಗಿ ಮಾತ್ರ ಬಳಸಬಹುದು.

ವಿಭಾಗ 3.3 ಹೇಳುತ್ತದೆ, AI ಮಾದರಿಗಳು ಸೇರಿದಂತೆ ತನ್ನ ಉತ್ಪನ್ನಗಳನ್ನು ಸುಧಾರಿಸಲು NVIDIA ನಿಮ್ಮ ವಿಷಯ ಮತ್ತು ಉತ್ಪಾದಿತ ವಿಷಯವನ್ನು ಸಂಗ್ರಹಿಸುತ್ತದೆ. ಟ್ರಯಲ್ ಸೇವೆಗೆ ಖಾಸಗಿ ಡೇಟಾವನ್ನು ಕಳುಹಿಸಬೇಡಿ. ಇತರ ಪೂರೈಕೆದಾರರಿಗಾಗಿ ಉಚಿತ LLM API ವಾಣಿಜ್ಯ ಬಳಕೆ ಓದಿ.

ಇಂದು ಉಚಿತ NIM ಮಾದರಿಗಳು

ಕ್ಯಾಟಲಾಗ್ ಈ ಉಚಿತ NVIDIA ಮಾದರಿಗಳನ್ನು ಪಟ್ಟಿ ಮಾಡುತ್ತದೆ. ಮಿತಿ ಪ್ರತಿ ಖಾತೆಗೆ, ಆದ್ದರಿಂದ ಎಲ್ಲಾ ಮಾದರಿಗಳು ಒಂದೇ ನಿಮಿಷದ ವಿನಂತಿಗಳನ್ನು ಹಂಚಿಕೊಳ್ಳುತ್ತವೆ.

ಇಂದು ಕ್ಯಾಟಲಾಗ್‌ನಲ್ಲಿ ಉಚಿತ NVIDIA NIM ಮಾದರಿಗಳು
ಮಾದರಿಉಚಿತಸಂದರ್ಭಉಚಿತ ಮಿತಿಗಳು (ಅತ್ಯುತ್ತಮ ಕೊಡುಗೆ)ಉಪಕರಣಗಳುದೃಷ್ಟಿ
GLM 5.3 FlashNVIDIA NIM1M40 ವಿನಂತಿ/ನಿಮಿಷ
40 RPM
ಹೌದುಇಲ್ಲ
Step 5 PreviewNVIDIA NIM-Ongoing developer prototypingಇಲ್ಲಇಲ್ಲ
Nemotron-3 Ultra 550BNVIDIA NIM1M40 ವಿನಂತಿ/ನಿಮಿಷ
40 RPM
ಹೌದುಇಲ್ಲ
Muse Glimmer 30BNVIDIA NIM131K40 ವಿನಂತಿ/ನಿಮಿಷ
40 RPM
ಹೌದುಹೌದು
Gemma 4 31BNVIDIA NIM262K40 ವಿನಂತಿ/ನಿಮಿಷ
40 RPM
ಇಲ್ಲಇಲ್ಲ
Poolside Laguna XS 2.1NVIDIA NIM262K40 ವಿನಂತಿ/ನಿಮಿಷ
40 RPM
ಹೌದುಇಲ್ಲ
Nemotron 3 Super 120BNVIDIA NIM262K40 ವಿನಂತಿ/ನಿಮಿಷ
40 RPM
ಹೌದುಇಲ್ಲ
Nemotron 3.5 Lightning 30B A3BNVIDIA NIM1M40 ವಿನಂತಿ/ನಿಮಿಷ
40 RPM
ಹೌದುಇಲ್ಲ
DiffusionGemma 26B A4B ITNVIDIA NIM262K40 ವಿನಂತಿ/ನಿಮಿಷ
40 RPM
ಇಲ್ಲಹೌದು
GPT-OSS 20BNVIDIA NIM131K40 ವಿನಂತಿ/ನಿಮಿಷ
40 RPM
ಹೌದುಇಲ್ಲ
Nemotron 3 Nano Omni 30B A3B ReasoningNVIDIA NIM262K40 ವಿನಂತಿ/ನಿಮಿಷ
40 RPM
ಇಲ್ಲಹೌದು
Ising Calibration 1.5 31BNVIDIA NIM131K40 ವಿನಂತಿ/ನಿಮಿಷ
40 RPM
ಇಲ್ಲಹೌದು

ಹೊಂದಾಣಿಕೆಯಾಗುವ 19 ಉಚಿತ ಮಾದರಿಗಳಲ್ಲಿ 12 ಅನ್ನು ತೋರಿಸಲಾಗುತ್ತಿದೆ. ಎಲ್ಲಾ ಮಾದರಿಗಳನ್ನು ನೋಡಿ.

FreeLLMAPI ಕ್ಯಾಟಲಾಗ್‌ನಿಂದ ನೇರ ಡೇಟಾ (ಆವೃತ್ತಿ 2026.11.19, 2026-11-19 ರಂದು ಪರಿಶೀಲಿಸಲಾಗಿದೆ). ಉಚಿತ ಮಿತಿಗಳು ಆಗಾಗ್ಗೆ ಬದಲಾಗುತ್ತವೆ. ಕ್ಯಾಟಲಾಗ್ ಪ್ರತಿದಿನ ಪರಿಶೀಲಿಸಲಾಗುತ್ತದೆ.

ಪೂರೈಕೆದಾರತಿಳಿದಿರುವ ಸಮಸ್ಯೆಏನು ಮಾಡಬೇಕು
NVIDIA NIMRecurring free, 40 RPM, eval-only ToSNVIDIA NIM replaced its depleting trial credits with a recurring per-account rate limit (40 RPM default, varies by model), verified June 2026. The trial ToS still scopes usage to evaluation/prototyping, not production.
NVIDIA NIMDeveloper evaluation and data-use termsOngoing zero-price hosted developer access, not a monthly credit grant or unrestricted production service. NVIDIA trial/prototyping and data-use terms apply. Do not submit personal or confidential data. Text completions with exact model identity passed on October 15, 2026; tool and vision flags remain off until separately tested. Sources: https://build.nvidia.com/stepfun-ai/step-5-preview and https://openrouter.ai/nvidia/nemotron-3.5-super-vl:free

FreeLLMAPI ಕ್ಯಾಟಲಾಗ್‌ನಿಂದ ನೇರ ಡೇಟಾ (ಆವೃತ್ತಿ 2026.11.19, 2026-11-19 ರಂದು ಪರಿಶೀಲಿಸಲಾಗಿದೆ). ಉಚಿತ ಮಿತಿಗಳು ಆಗಾಗ್ಗೆ ಬದಲಾಗುತ್ತವೆ. ಕ್ಯಾಟಲಾಗ್ ಪ್ರತಿದಿನ ಪರಿಶೀಲಿಸಲಾಗುತ್ತದೆ.

ಮಿತಿಯ ಕೆಳಗೆ ಹೇಗೆ ಉಳಿಯುವುದು

ನಿಮಿಷಕ್ಕೆ 40 ವಿನಂತಿಗಳಲ್ಲಿ, ಸರಾಸರಿ ಪ್ರತಿ 1.5 ಸೆಕೆಂಡಿಗೆ ಒಂದು ವಿನಂತಿ ಕಳುಹಿಸಬಹುದು. ಸಮಾನಾಂತರ ವಿನಂತಿಗಳ ಸ್ಫೋಟ ಸೆಕೆಂಡುಗಳಲ್ಲಿ ಮಿತಿಯನ್ನು ತಲುಪುತ್ತದೆ. ಈ ನಿಯಮಗಳನ್ನು ಬಳಸಿ:

  1. ನಿಮ್ಮ ಕ್ಲೈಂಟ್‌ನಲ್ಲಿ ಸಮಾನಾಂತರ ವಿನಂತಿಗಳ ಸಂಖ್ಯೆಯನ್ನು ಮಿತಿಗೊಳಿಸಿ. ಒಂದು ಸಮಯದಲ್ಲಿ ಎರಡು ಅಥವಾ ಮೂರು ಹೆಚ್ಚಿನ ಏಜೆಂಟ್‌ಗಳಿಗೆ ಸುರಕ್ಷಿತ.
  2. ಪ್ರತಿ 429 ಅನ್ನು ಘಾತೀಯ ಬ್ಯಾಕ್‌ಆಫ್ ಮತ್ತು ಜಿಟ್ಟರ್‌ನೊಂದಿಗೆ ಮತ್ತೆ ಪ್ರಯತ್ನಿಸಿ. ನಿಗದಿತ ಸಂಖ್ಯೆಯ ಮರುಪ್ರಯತ್ನಗಳ ನಂತರ ನಿಲ್ಲಿಸಿ.
  3. ಎಲ್ಲಾ ಮಾದರಿಗಳಲ್ಲಿ ವಿನಂತಿಗಳನ್ನು ಎಣಿಸಿ. ಮಿತಿಯು ಖಾತೆಗಾಗಿ, ಪ್ರತಿ ಮಾದರಿಗೆ ಅಲ್ಲ.
  4. ಸರಳ, ಚಿಕ್ಕ ಕೆಲಸಗಳನ್ನು ಇತರ ಪೂರೈಕೆದಾರರಿಗೆ ಕಳುಹಿಸಿ. ಉಚಿತವಾಗಿ NVIDIA ಮಾತ್ರ ನೀಡುವ ದೊಡ್ಡ ಮಾದರಿಗಳಿಗೆ NVIDIA ಇಟ್ಟುಕೊಳ್ಳಿ.

ಸರಳ ಕ್ಲೈಂಟ್-ಬದಿ ವೇಗ ನಿಯಂತ್ರಣ (Python)

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://integrate.api.nvidia.com/v1", api_key="<nvidia-key>")
MIN_GAP = 60 / 40  # seconds between requests at 40 RPM
last = 0.0

def ask(prompt, model="openai/gpt-oss-20b"):
    global last
    for attempt in range(5):
        wait = MIN_GAP - (time.time() - last)
        if wait > 0:
            time.sleep(wait)
        last = time.time()
        try:
            r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(2 ** attempt)
    raise RuntimeError("NVIDIA rate limit: retries used up")

FreeLLMAPI ಜೊತೆ ಹೊರೆ ಹಂಚಿ

FreeLLMAPI ನಿಮ್ಮ ಕಂಪ್ಯೂಟರ್‌ನಲ್ಲಿ ಚಲಿಸುವ ಓಪನ್-ಸೋರ್ಸ್ ಗೇಟ್‌ವೇ. ಇದು NVIDIA ಅನ್ನು ಇಡೀ ಖಾತೆಗೆ ನಿಮಿಷಕ್ಕೆ 40 ವಿನಂತಿಗಳ ಒಂದು ಪೂಲ್ ಎಂದು ಪರಿಗಣಿಸುತ್ತದೆ. ವಿನಂತಿಯನ್ನು ಕಳುಹಿಸುವ ಮೊದಲು, ಅದು ಆ ಪೂಲ್ ಅನ್ನು ಪರಿಶೀಲಿಸುತ್ತದೆ. ಪೂಲ್ ತುಂಬಿದಾಗ, ಅದು ವಿನಂತಿಯನ್ನು ನಿಮ್ಮ ಸರಪಳಿಯಲ್ಲಿನ ಮುಂದಿನ ಉಚಿತ ಪೂರೈಕೆದಾರರಿಗೆ ಕಳುಹಿಸುತ್ತದೆ.

  • ಖಾತೆ-ವ್ಯಾಪಿ ನಿಮಿಷದ ಮಿತಿಯನ್ನು PROVIDER_MINUTE_REQUEST_CAP_NVIDIA ನೊಂದಿಗೆ ಹೊಂದಿಸಲಾಗಿದೆ. ನಿಮ್ಮ ಖಾತೆ ಚಿಕ್ಕ ಮಿತಿ ತೋರಿಸಿದರೆ ಅದನ್ನು ಕಡಿಮೆ ಮಾಡಿ.
  • NVIDIA ಗೆ ಸಮಾನಾಂತರ ವಿನಂತಿಗಳನ್ನು ಮಿತಿಗೊಳಿಸಲು, MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIA ಅನ್ನು ಹೊಂದಿಸಿ.
  • NVIDIA ನಿಂದ 429 ಕೀಯನ್ನು ಚಿಕ್ಕ ಕೂಲ್‌ಡೌನ್‌ನಲ್ಲಿ ಇರಿಸುತ್ತದೆ. ನಂತರ ರೂಟರ್ ಇತರ ಪೂರೈಕೆದಾರರನ್ನು ಪ್ರಯತ್ನಿಸುತ್ತದೆ.
  • X-Routed-Via ಹೆಡರ್ ಪ್ರತಿ ವಿನಂತಿಗೆ ಯಾವ ಪೂರೈಕೆದಾರ ಉತ್ತರಿಸಿದೆ ಎಂದು ತೋರಿಸುತ್ತದೆ.

~/freellmapi/.env (Docker ಸ್ಥಾಪನೆ)

PROVIDER_MINUTE_REQUEST_CAP_NVIDIA=30
MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIA=2

# then restart the container
cd ~/freellmapi && docker compose up -d

ಒಂದು-ಸಾಲಿನ ಇನ್‌ಸ್ಟಾಲರ್ ತನ್ನ ಸೆಟ್ಟಿಂಗ್‌ಗಳನ್ನು ~/freellmapi/.env ನಲ್ಲಿ ಇಡುತ್ತದೆ. ಆ ಫೈಲ್‌ಗೆ ಎರಡು ಸಾಲುಗಳನ್ನು ಸೇರಿಸಿ, ನಂತರ ಕಂಟೈನರ್ ಅನ್ನು ಮತ್ತೆ ಪ್ರಾರಂಭಿಸಿ. ಡೀಫಾಲ್ಟ್ NVIDIA ಮಿತಿ ನಿಮಿಷಕ್ಕೆ 40 ವಿನಂತಿಗಳು. 0 ಮೌಲ್ಯವು ಆ ಪೂರೈಕೆದಾರರಿಗೆ ಖಾತೆ-ವ್ಯಾಪಿ ಗೇಟ್ ಅನ್ನು ಆಫ್ ಮಾಡುತ್ತದೆ.

ಫೇಲ್‌ಓವರ್ NVIDIA ನ ಮಿತಿಯನ್ನು ಹೆಚ್ಚಿಸುವುದಿಲ್ಲ. NVIDIA ತುಂಬಿದಾಗ, ಇತರ ಉಚಿತ ಶ್ರೇಣಿಗಳನ್ನು ಬಳಸುತ್ತದೆ, ಉದಾಹರಣೆಗೆ Groq, Gemini ಮತ್ತು Cloudflare.

ಇವೆಲ್ಲವನ್ನೂ ಒಂದೇ ಕೀ ಮೂಲಕ ಬಳಸಿ. FreeLLMAPI ಒಂದು ಮುಕ್ತ ಮೂಲದ, ಸ್ವಯಂ-ಹೋಸ್ಟ್ ಮಾಡಿದ ರೂಟರ್ ಆಗಿದೆ. ಇದು ಈ ಎಲ್ಲಾ ಉಚಿತ ಶ್ರೇಣಿಗಳನ್ನು ಒಂದೇ OpenAI-ಹೊಂದಾಣಿಕೆಯ ಎಂಡ್‌ಪಾಯಿಂಟ್ ಹಿಂದೆ ಇಡುತ್ತದೆ ಮತ್ತು ಒಂದು ಮಿತಿಗೆ ಒಳಪಟ್ಟಾಗ ಬದಲಾಯಿಸುತ್ತದೆ. ಕ್ಯಾಟಲಾಗ್ ನೋಡಿ ಅಥವಾ ಲೈವ್ ಆಗಿ.

ಪದೇ ಪದೇ ಕೇಳುವ ಪ್ರಶ್ನೆಗಳು

NVIDIA NIM API ದರ ಮಿತಿ ಎಷ್ಟು?

NVIDIA ಒಂದು ಸಂಖ್ಯೆಯನ್ನು ಪ್ರಕಟಿಸುವುದಿಲ್ಲ. ಮಿತಿಗಳು ಮಾದರಿಯ ಆಧಾರದಲ್ಲಿ ಬದಲಾಗುತ್ತವೆ ಎಂದು ಸಿಬ್ಬಂದಿ ಹೇಳುತ್ತಾರೆ, ಮತ್ತು ನಿಮ್ಮದನ್ನು build.nvidia.com ನ ಮೇಲಿನ ಬಲಭಾಗದಲ್ಲಿ ನೋಡಬಹುದು. ಹೆಚ್ಚಿನ ಉಚಿತ ಖಾತೆಗಳು ನಿಮಿಷಕ್ಕೆ 40 ವಿನಂತಿಗಳನ್ನು ವರದಿ ಮಾಡುತ್ತವೆ.

40 RPM ನಿಂದ NVIDIA NIM ದರ ಮಿತಿಯನ್ನು ಹೇಗೆ ಹೆಚ್ಚಿಸುವುದು?

ಉಚಿತ ಖಾತೆಗಳಿಗೆ ನಾವು ಯಾವುದೇ ಅಧಿಕೃತ ಪ್ರಕ್ರಿಯೆ ಕಂಡುಕೊಳ್ಳಲಿಲ್ಲ. ಹೆಚ್ಚಿನ ಸಾಮರ್ಥ್ಯಕ್ಕಾಗಿ NVIDIA ನ FAQ ಸ್ವಯಂ-ಹೋಸ್ಟಿಂಗ್, Hugging Face ನಂತಹ ಪಾವತಿಸಿದ ಸರ್ವರ್‌ಲೆಸ್ ಪಾಲುದಾರ, ಅಥವಾ NVIDIA AI Enterprise ಟ್ರಯಲ್ ಅನ್ನು ಸೂಚಿಸುತ್ತದೆ.

NVIDIA NIM ಇನ್ನೂ ಕ್ರೆಡಿಟ್‌ಗಳನ್ನು ಬಳಸುತ್ತದೆಯೇ?

ಇಲ್ಲ. ಸೆಪ್ಟೆಂಬರ್ 2025 ರಲ್ಲಿ NVIDIA ಸಿಬ್ಬಂದಿ ಹೇಳಿದರು, build.nvidia.com ಇನ್ನು ಕ್ರೆಡಿಟ್‌ಗಳನ್ನು ಬಳಸುವುದಿಲ್ಲ. ಟ್ರಯಲ್ ಬಳಕೆ ಈಗ ದರ ಮಿತಿಗಳಿಂದ ನಿಯಂತ್ರಿಸಲ್ಪಡುತ್ತದೆ.

ಉಚಿತ NVIDIA API ಅನ್ನು ಪ್ರೊಡಕ್ಷನ್‌ನಲ್ಲಿ ಬಳಸಬಹುದೇ?

ಇಲ್ಲ. NVIDIA API Trial Terms ಸೀಮಿತ ಟ್ರಯಲ್ ಬಳಕೆಯನ್ನು ಮಾತ್ರ ಅನುಮತಿಸುತ್ತದೆ, ಪ್ರೊಡಕ್ಷನ್ ಅಲ್ಲ. ಪ್ರೊಡಕ್ಷನ್ ಬಳಕೆಗೆ NVIDIA AI Enterprise ಪರವಾನಗಿ ಅಥವಾ ಪಾವತಿಸಿದ ಪೂರೈಕೆದಾರ ಬೇಕು.

NVIDIA 40 RPM ಮಿತಿ ಪ್ರತಿ ಮಾದರಿಗೆಯೇ ಅಥವಾ ಪ್ರತಿ ಖಾತೆಗೆಯೇ?

ಉಚಿತ ಬಳಕೆದಾರರು ಖಾತೆಯಾದ್ಯಂತ ಒಂದು ಮಿತಿಯನ್ನು ವರದಿ ಮಾಡುತ್ತಾರೆ. ಎಲ್ಲಾ ಮಾದರಿಗಳು ಅದನ್ನು ಹಂಚಿಕೊಳ್ಳುತ್ತವೆ ಎಂದು ಯೋಜಿಸಿ, ಮತ್ತು ನೀವು ಕರೆ ಮಾಡುವ ಪ್ರತಿ ಮಾದರಿಯಾದ್ಯಂತ ವಿನಂತಿಗಳನ್ನು ಅಂತರದಲ್ಲಿ ಕಳುಹಿಸಿ.

ಸಂಬಂಧಿತ ಮಾರ್ಗದರ್ಶಿಗಳು

ಮೂಲಗಳು

ಎಲ್ಲಾ ಮಾರ್ಗದರ್ಶಿಗಳು · ಎಲ್ಲಾ ಉಚಿತ ಮಾದರಿಗಳನ್ನು ನೋಡಿ