NVIDIA NIM APIのレート制限
build.nvidia.comの無料のNVIDIA API Catalogには、クレジットの残高ではなく、レート制限があります。多くの無料アカウントは、毎分40リクエストの上限を報告しています。このページでは、制限についてNVIDIAが述べている内容、上限の引き上げリクエストがほとんど機能しない理由、制限内にとどまる方法を説明します。
コード、モデル名、ライブのカタログラベルは英語で表示します。
制限についてNVIDIAが述べている内容
2025年9月、NVIDIAの担当者が開発者フォーラムに次のように書きました:「build.nvidia.comでは、もうクレジットベースのシステムを使っていません。」試用の利用に対するレート制限が、クレジットに代わりました。同じ返信には、制限はモデルごとに異なり、NVIDIAはそれを公開していないとも記載されています。最大のレート制限は、build.nvidia.comの右上で確認できます。
NIMのFAQには、一定期間に許可される呼び出しの数は「評価と試作のニーズにのみ対応するよう設計されています」と記載されています。NVIDIA Developer Programのメンバーは、試作用にNIM APIのエンドポイントへ無料でアクセスできます。
40 RPMの制限を上げられますか?
NVIDIAの開発者フォーラムには、200 RPM以上を求める投稿が多くあります。無料アカウントの制限を上げる、公式の手続きは見つかりませんでした。あるフォーラムの返信には、NVIDIAは無料の個人アカウントの制限を手動で上げられないと記載されています。この返信がNVIDIAの担当者からのものであるかは、確認できませんでした。
NIMのFAQには、より多くの容量を得るためのほかの選択肢が記載されています:
- クラウドプロバイダーまたは独自のGPUで、NIMをセルフホストする。
- パートナーの本番用のサーバーレスNIM APIを使う。例えば、従量課金のHugging Faceです。
- 本番環境への導入を想定した、90日間のNVIDIA AI Enterpriseの試用を開始する。
リクエストを増やすために、NVIDIAのアカウントを増やさないでください。試用の規約により、NVIDIAは利用の制限を設定できます。また、無料のアクセスは、限定的な試用の目的のみです。
| 選択肢 | 費用 | リクエストを増やせますか? |
|---|---|---|
| フォーラムで、無料の制限の引き上げを依頼する | 無料 | 公式の手続きは見つかりませんでした |
| 制限内に、リクエストの間隔を空ける | 無料 | いいえ。ただし、429エラーは減ります |
| フェイルオーバーとともに、ほかの無料のプロバイダーを追加する | 無料 | はい。ほかのプロバイダーから |
| パートナーのサーバーレスNIM | 従量課金 | はい |
| NIMをセルフホストする | お使いのGPU | はい |
試用の規約が許可すること
NVIDIA API Trial Termsのセクション1.2は、「限定的な試用の目的のみ」でのアクセスを許可しています。本番環境でのサービスまたはその出力の利用は除外されています。セクション1.4には、サブスクリプションがない場合、サービスは社内のテストと評価にのみ使用できると記載されています。
セクション3.3には、NVIDIAが、AIモデルを含む製品を改善するために、お客様のコンテンツと生成されたコンテンツを収集すると記載されています。試用サービスに、非公開のデータを送らないでください。ほかのプロバイダーについては、free LLM API commercial useをお読みください。
現在の無料のNIMモデル
カタログには、これらの無料のNVIDIAモデルが掲載されています。制限はアカウントごとなので、すべてのモデルが同じ毎分のリクエスト数を共有します。
| モデル | 無料で利用可能 | コンテキスト | 無料枠の上限(最良の条件) | ツール | 画像入力 |
|---|---|---|---|---|---|
| GLM 5.3 Flash | NVIDIA NIM | 1M | 40 リクエスト/分 40 RPM | はい | いいえ |
| Step 5 Preview | NVIDIA NIM | - | Ongoing developer prototyping | いいえ | いいえ |
| Nemotron-3 Ultra 550B | NVIDIA NIM | 1M | 40 リクエスト/分 40 RPM | はい | いいえ |
| Muse Glimmer 30B | NVIDIA NIM | 131K | 40 リクエスト/分 40 RPM | はい | はい |
| Gemma 4 31B | NVIDIA NIM | 262K | 40 リクエスト/分 40 RPM | いいえ | いいえ |
| Poolside Laguna XS 2.1 | NVIDIA NIM | 262K | 40 リクエスト/分 40 RPM | はい | いいえ |
| Nemotron 3 Super 120B | NVIDIA NIM | 262K | 40 リクエスト/分 40 RPM | はい | いいえ |
| Nemotron 3.5 Lightning 30B A3B | NVIDIA NIM | 1M | 40 リクエスト/分 40 RPM | はい | いいえ |
| DiffusionGemma 26B A4B IT | NVIDIA NIM | 262K | 40 リクエスト/分 40 RPM | いいえ | はい |
| GPT-OSS 20B | NVIDIA NIM | 131K | 40 リクエスト/分 40 RPM | はい | いいえ |
| Nemotron 3 Nano Omni 30B A3B Reasoning | NVIDIA NIM | 262K | 40 リクエスト/分 40 RPM | いいえ | はい |
| Ising Calibration 1.5 31B | NVIDIA NIM | 131K | 40 リクエスト/分 40 RPM | いいえ | はい |
一致する無料モデル 19 件のうち 12 件を表示しています。 すべてのモデルを見る.
FreeLLMAPI カタログのライブデータ(バージョン 2026.11.19、確認日 2026-11-19)。無料枠の上限は頻繁に変わります。カタログは毎日確認されます。
| プロバイダー | 既知の問題 | 対処方法 |
|---|---|---|
| NVIDIA NIM | Recurring free, 40 RPM, eval-only ToS | NVIDIA NIM replaced its depleting trial credits with a recurring per-account rate limit (40 RPM default, varies by model), verified June 2026. The trial ToS still scopes usage to evaluation/prototyping, not production. |
| NVIDIA NIM | Developer evaluation and data-use terms | Ongoing zero-price hosted developer access, not a monthly credit grant or unrestricted production service. NVIDIA trial/prototyping and data-use terms apply. Do not submit personal or confidential data. Text completions with exact model identity passed on October 15, 2026; tool and vision flags remain off until separately tested. Sources: https://build.nvidia.com/stepfun-ai/step-5-preview and https://openrouter.ai/nvidia/nemotron-3.5-super-vl:free |
FreeLLMAPI カタログのライブデータ(バージョン 2026.11.19、確認日 2026-11-19)。無料枠の上限は頻繁に変わります。カタログは毎日確認されます。
制限内にとどまる方法
毎分40リクエストでは、平均して1.5秒ごとに1リクエストを送れます。並列のリクエストが一度に送られると、数秒で制限に達します。次のルールを使ってください:
- クライアントで同時に送る並列のリクエスト数を制限してください。ほとんどのエージェントでは、一度に2つか3つが安全です。
- 各429を、指数バックオフとジッターを使って再試行してください。再試行の回数を決めて、その後は停止してください。
- すべてのモデルのリクエストを数えてください。制限はモデルごとではなく、アカウントに対するものです。
- 短く単純なタスクは、ほかのプロバイダーに送ってください。NVIDIAは、NVIDIAだけが無料で提供する大きなモデルのために残してください。
簡単なクライアント側のペース調整(Python)
import time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://integrate.api.nvidia.com/v1", api_key="<nvidia-key>")
MIN_GAP = 60 / 40 # seconds between requests at 40 RPM
last = 0.0
def ask(prompt, model="openai/gpt-oss-20b"):
global last
for attempt in range(5):
wait = MIN_GAP - (time.time() - last)
if wait > 0:
time.sleep(wait)
last = time.time()
try:
r = client.chat.completions.create(model=model, messages=[{"role": "user", "content": prompt}])
return r.choices[0].message.content
except RateLimitError:
time.sleep(2 ** attempt)
raise RuntimeError("NVIDIA rate limit: retries used up")FreeLLMAPIで負荷を分散する
FreeLLMAPIは、お使いのコンピューターで動作するオープンソースのゲートウェイです。NVIDIAを、アカウント全体で毎分40リクエストの1つのプールとして扱います。リクエストを送る前に、そのプールを確認します。プールが満杯のときは、チェーン内の次の無料のプロバイダーにリクエストを送ります。
- アカウント全体の毎分の上限は、
PROVIDER_MINUTE_REQUEST_CAP_NVIDIAで設定します。アカウントに小さい制限が表示される場合は、この値を下げてください。 - NVIDIAへの並列のリクエストを制限するには、
MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIAを設定してください。 - NVIDIAからの429により、キーは短いクールダウンに入ります。その後、ルーターはほかのプロバイダーを試します。
X-Routed-Viaヘッダーには、各リクエストに応答したプロバイダーが示されます。
~/freellmapi/.env(Dockerインストール)
PROVIDER_MINUTE_REQUEST_CAP_NVIDIA=30
MAX_CONCURRENT_REQUESTS_PER_KEY_NVIDIA=2
# then restart the container
cd ~/freellmapi && docker compose up -d1行のインストーラーは、設定を~/freellmapi/.envに保持します。そのファイルに2行を追加してから、コンテナーを再起動してください。NVIDIAの既定の上限は、毎分40リクエストです。値を0にすると、そのプロバイダーのアカウント全体のゲートが無効になります。
フェイルオーバーは、NVIDIAの制限を上げません。NVIDIAが満杯のとき、ほかの無料ティア(例えば、Groq、Gemini、Cloudflare)を使います。
よくある質問
NVIDIA NIM APIのレート制限は、どのくらいですか?
NVIDIAは、1つの数値を公開していません。担当者によると、制限はモデルごとに異なります。お使いの制限は、build.nvidia.comの右上で確認できます。ほとんどの無料アカウントは、毎分40リクエストと報告しています。
40 RPMから、NVIDIA NIMのレート制限を上げるには、どうすればよいですか?
無料アカウントの公式の手続きは見つかりませんでした。NVIDIAのFAQでは、より多くの容量を得るために、セルフホスト、Hugging Faceなどの有料のサーバーレスのパートナー、またはNVIDIA AI Enterpriseの試用を挙げています。
NVIDIA NIMは、まだクレジットを使いますか?
いいえ。NVIDIAの担当者は2025年9月に、build.nvidia.comはもうクレジットを使わないと述べました。試用の利用は、現在はレート制限で管理されています。
無料のNVIDIA APIを、本番環境で使えますか?
いいえ。NVIDIA API Trial Termsは、限定的な試用の利用のみを許可し、本番環境は許可していません。本番環境での利用には、NVIDIA AI Enterpriseのライセンスまたは有料のプロバイダーが必要です。
NVIDIAの40 RPMの制限は、モデルごとですか、アカウントごとですか?
無料ユーザーは、アカウント全体で1つの制限を報告しています。すべてのモデルがそれを共有すると想定し、呼び出すすべてのモデルでリクエストのペースを調整してください。
関連ガイド
- free nvidia api
- 無料LLM APIのレート制限
- Groq のレート制限に達した (429)
- Gemini API のクォータ超過(429 RESOURCE_EXHAUSTED)
- 商用利用できる無料 LLM API
出典
- NVIDIA developer forum: credit system replaced by rate limits (確認日 20 November 2026)
- NVIDIA NIM FAQ (確認日 20 November 2026)
- NVIDIA API Trial Terms of Service (PDF) (確認日 20 November 2026)
- NVIDIA developer forum: request to raise 40 RPM (確認日 20 November 2026)
- NVIDIA API Catalog: API reference (確認日 20 November 2026)
- FreeLLMAPI docs: Quota and cooldown engine (確認日 20 November 2026)