ホーム / ガイド / NVIDIA NIM APIのレート制限

NVIDIA NIM APIのレート制限

build.nvidia.comの無料のNVIDIA API Catalogには、クレジットの残高ではなく、レート制限があります。多くの無料アカウントは、毎分40リクエストの上限を報告しています。このページでは、制限についてNVIDIAが述べている内容、上限の引き上げリクエストがほとんど機能しない理由、制限内にとどまる方法を説明します。

コード、モデル名、ライブのカタログラベルは英語で表示します。

制限についてNVIDIAが述べている内容

2025年9月、NVIDIAの担当者が開発者フォーラムに次のように書きました:「build.nvidia.comでは、もうクレジットベースのシステムを使っていません。」試用の利用に対するレート制限が、クレジットに代わりました。同じ返信には、制限はモデルごとに異なり、NVIDIAはそれを公開していないとも記載されています。最大のレート制限は、build.nvidia.comの右上で確認できます。

NIMのFAQには、一定期間に許可される呼び出しの数は「評価と試作のニーズにのみ対応するよう設計されています」と記載されています。NVIDIA Developer Programのメンバーは、試作用にNIM APIのエンドポイントへ無料でアクセスできます。

40 RPMの値について: 毎分40リクエストは、ほとんどの無料アカウントがNVIDIAのフォーラムで報告している値です。これは、NVIDIAの公式ページには記載されていません。実際の制限は、お使いのアカウントで確認してください。

40 RPMの制限を上げられますか?

NVIDIAの開発者フォーラムには、200 RPM以上を求める投稿が多くあります。無料アカウントの制限を上げる、公式の手続きは見つかりませんでした。あるフォーラムの返信には、NVIDIAは無料の個人アカウントの制限を手動で上げられないと記載されています。この返信がNVIDIAの担当者からのものであるかは、確認できませんでした。

NIMのFAQには、より多くの容量を得るためのほかの選択肢が記載されています:

  • クラウドプロバイダーまたは独自のGPUで、NIMをセルフホストする。
  • パートナーの本番用のサーバーレスNIM APIを使う。例えば、従量課金のHugging Faceです。
  • 本番環境への導入を想定した、90日間のNVIDIA AI Enterpriseの試用を開始する。

リクエストを増やすために、NVIDIAのアカウントを増やさないでください。試用の規約により、NVIDIAは利用の制限を設定できます。また、無料のアクセスは、限定的な試用の目的のみです。

スループットを上げる方法
選択肢費用リクエストを増やせますか?
フォーラムで、無料の制限の引き上げを依頼する無料公式の手続きは見つかりませんでした
制限内に、リクエストの間隔を空ける無料いいえ。ただし、429エラーは減ります
フェイルオーバーとともに、ほかの無料のプロバイダーを追加する無料はい。ほかのプロバイダーから
パートナーのサーバーレスNIM従量課金はい
NIMをセルフホストするお使いのGPUはい

試用の規約が許可すること

NVIDIA API Trial Termsのセクション1.2は、「限定的な試用の目的のみ」でのアクセスを許可しています。本番環境でのサービスまたはその出力の利用は除外されています。セクション1.4には、サブスクリプションがない場合、サービスは社内のテストと評価にのみ使用できると記載されています。

セクション3.3には、NVIDIAが、AIモデルを含む製品を改善するために、お客様のコンテンツと生成されたコンテンツを収集すると記載されています。試用サービスに、非公開のデータを送らないでください。ほかのプロバイダーについては、free LLM API commercial useをお読みください。

現在の無料のNIMモデル

カタログには、これらの無料のNVIDIAモデルが掲載されています。制限はアカウントごとなので、すべてのモデルが同じ毎分のリクエスト数を共有します。

現在カタログにある無料のNVIDIA NIMモデル
モデル無料で利用可能コンテキスト無料枠の上限(最良の条件)ツール画像入力
GLM 5.3 FlashNVIDIA NIM1M40 リクエスト/分
40 RPM
はいいいえ
Step 5 PreviewNVIDIA NIM-Ongoing developer prototypingいいえいいえ
Nemotron-3 Ultra 550BNVIDIA NIM1M40 リクエスト/分
40 RPM
はいいいえ
Muse Glimmer 30BNVIDIA NIM131K40 リクエスト/分
40 RPM
はいはい
Gemma 4 31BNVIDIA NIM262K40 リクエスト/分
40 RPM
いいえいいえ
Poolside Laguna XS 2.1NVIDIA NIM262K40 リクエスト/分
40 RPM
はいいいえ
Nemotron 3 Super 120BNVIDIA NIM262K40 リクエスト/分
40 RPM
はいいいえ
Nemotron 3.5 Lightning 30B A3BNVIDIA NIM1M40 リクエスト/分
40 RPM
はいいいえ
DiffusionGemma 26B A4B ITNVIDIA NIM262K40 リクエスト/分
40 RPM
いいえはい
GPT-OSS 20BNVIDIA NIM131K40 リクエスト/分
40 RPM
はいいいえ
Nemotron 3 Nano Omni 30B A3B ReasoningNVIDIA NIM262K40 リクエスト/分
40 RPM
いいえはい
Ising Calibration 1.5 31BNVIDIA NIM131K40 リクエスト/分
40 RPM
いいえはい

一致する無料モデル 19 件のうち 12 件を表示しています。 すべてのモデルを見る.

FreeLLMAPI カタログのライブデータ(バージョン 2026.11.19、確認日 2026-11-19)。無料枠の上限は頻繁に変わります。カタログは毎日確認されます。

プロバイダー既知の問題対処方法
NVIDIA NIMRecurring free, 40 RPM, eval-only ToSNVIDIA NIM replaced its depleting trial credits with a recurring per-account rate limit (40 RPM default, varies by model), verified June 2026. The trial ToS still scopes usage to evaluation/prototyping, not production.
NVIDIA NIMDeveloper evaluation and data-use termsOngoing zero-price hosted developer access, not a monthly credit grant or unrestricted production service. NVIDIA trial/prototyping and data-use terms apply. Do not submit personal or confidential data. Text completions with exact model identity passed on October 15, 2026; tool and vision flags remain off until separately tested. Sources: https://build.nvidia.com/stepfun-ai/step-5-preview and https://openrouter.ai/nvidia/nemotron-3.5-super-vl:free

FreeLLMAPI カタログのライブデータ(バージョン 2026.11.19、確認日 2026-11-19)。無料枠の上限は頻繁に変わります。カタログは毎日確認されます。

制限内にとどまる方法

毎分40リクエストでは、平均して1.5秒ごとに1リクエストを送れます。並列のリクエストが一度に送られると、数秒で制限に達します。次のルールを使ってください:

  1. クライアントで同時に送る並列のリクエスト数を制限してください。ほとんどのエージェントでは、一度に2つか3つが安全です。
  2. 各429を、指数バックオフとジッターを使って再試行してください。再試行の回数を決めて、その後は停止してください。
  3. すべてのモデルのリクエストを数えてください。制限はモデルごとではなく、アカウントに対するものです。
  4. 短く単純なタスクは、ほかのプロバイダーに送ってください。NVIDIAは、NVIDIAだけが無料で提供する大きなモデルのために残してください。

簡単なクライアント側のペース調整(Python)

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://integrate.api.nvidia.com/v1", api_key="<nvidia-key>")
MIN_GAP = 60 / 40  # seconds between requests at 40 RPM
last = 0.0

def ask(prompt, model="openai/gpt-oss-20b"):
    global last
    for attempt in range(5):
        wait = MIN_GAP - (time.time() - last)
        if wait > 0:
            time.sleep(wait)
        last = time.time()
        try:
            r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(2 ** attempt)
    raise RuntimeError("NVIDIA rate limit: retries used up")

FreeLLMAPIで負荷を分散する

FreeLLMAPIは、お使いのコンピューターで動作するオープンソースのゲートウェイです。NVIDIAを、アカウント全体で毎分40リクエストの1つのプールとして扱います。リクエストを送る前に、そのプールを確認します。プールが満杯のときは、チェーン内の次の無料のプロバイダーにリクエストを送ります。

  • アカウント全体の毎分の上限は、PROVIDER_MINUTE_REQUEST_CAP_NVIDIAで設定します。アカウントに小さい制限が表示される場合は、この値を下げてください。
  • NVIDIAへの並列のリクエストを制限するには、MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIAを設定してください。
  • NVIDIAからの429により、キーは短いクールダウンに入ります。その後、ルーターはほかのプロバイダーを試します。
  • X-Routed-Viaヘッダーには、各リクエストに応答したプロバイダーが示されます。

~/freellmapi/.env(Dockerインストール)

PROVIDER_MINUTE_REQUEST_CAP_NVIDIA=30
MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIA=2

# then restart the container
cd ~/freellmapi && docker compose up -d

1行のインストーラーは、設定を~/freellmapi/.envに保持します。そのファイルに2行を追加してから、コンテナーを再起動してください。NVIDIAの既定の上限は、毎分40リクエストです。値を0にすると、そのプロバイダーのアカウント全体のゲートが無効になります。

フェイルオーバーは、NVIDIAの制限を上げません。NVIDIAが満杯のとき、ほかの無料ティア(例えば、Groq、Gemini、Cloudflare)を使います。

これらすべてを 1 つのキーで利用できます。 FreeLLMAPI は、オープンソースのセルフホスト型ルーターです。これらの無料枠すべてを 1 つの OpenAI 互換エンドポイントの背後にまとめ、レート制限に達した場合は自動的に別のプロバイダーへ切り替えます。 カタログを見る または 公開.

よくある質問

NVIDIA NIM APIのレート制限は、どのくらいですか?

NVIDIAは、1つの数値を公開していません。担当者によると、制限はモデルごとに異なります。お使いの制限は、build.nvidia.comの右上で確認できます。ほとんどの無料アカウントは、毎分40リクエストと報告しています。

40 RPMから、NVIDIA NIMのレート制限を上げるには、どうすればよいですか?

無料アカウントの公式の手続きは見つかりませんでした。NVIDIAのFAQでは、より多くの容量を得るために、セルフホスト、Hugging Faceなどの有料のサーバーレスのパートナー、またはNVIDIA AI Enterpriseの試用を挙げています。

NVIDIA NIMは、まだクレジットを使いますか?

いいえ。NVIDIAの担当者は2025年9月に、build.nvidia.comはもうクレジットを使わないと述べました。試用の利用は、現在はレート制限で管理されています。

無料のNVIDIA APIを、本番環境で使えますか?

いいえ。NVIDIA API Trial Termsは、限定的な試用の利用のみを許可し、本番環境は許可していません。本番環境での利用には、NVIDIA AI Enterpriseのライセンスまたは有料のプロバイダーが必要です。

NVIDIAの40 RPMの制限は、モデルごとですか、アカウントごとですか?

無料ユーザーは、アカウント全体で1つの制限を報告しています。すべてのモデルがそれを共有すると想定し、呼び出すすべてのモデルでリクエストのペースを調整してください。

関連ガイド

出典

すべてのガイド · 無料モデルをすべて見る