AIエージェント向けの無料LLM API
AIエージェントは、1つのタスクで多くのモデルリクエストを送ります。各ステップには、ツール呼び出しと大きなコンテキストが必要です。1つの無料ティアでは、エージェントはすぐに停止します。FreeLLMAPIは、45件の無料プロバイダーティアを1つのOpenAI互換キーの背後にまとめます。制限によってリクエストが止まると、次のプロバイダーに移るため、エージェントは処理を続けられます。このガイドでは、ツール呼び出し、ステップごとのルーティング、長いセッション、ルーターのMCPサーバーを扱います。
コード、モデル名、ライブのカタログラベルは英語で表示します。
無料APIに対するエージェントの要件
| 要件 | 理由 | FreeLLMAPIの動作 |
|---|---|---|
| ツール呼び出し | エージェントがツールを選択して実行します | 各プロバイダーに、OpenAI形式のtoolsを渡します。テキストのツール呼び出しを、実際のtool_callsに変換します。 |
| 多数のリクエスト | 1つのタスクに20から100ステップかかることがあります | 各キーの割り当て量を数えます。429が返ると、次のキーまたはプロバイダーに移ります。 |
| 大きなコンテキスト | ツールの結果と履歴は、ステップごとに増えます | チェーン内のモデルにルーティングします。長いコンテキスト用のプロファイルを作成できます。 |
| 安定した動作 | タスクの途中でモデルが変わると、エージェントが混乱することがあります | セッションを30分間、同じモデルに保ちます。切り替えが起きたときは、任意でコンテキストを引き継げます。 |
| 可視性 | どのモデルが失敗したかを知る必要があります | 各レスポンスのX-Routed-ViaヘッダーとX-Fallback-Trailヘッダー |
無料ティアには制限があります。フェイルオーバーは負荷をキーに分散しますが、合計は無料制限の合計のままです。エージェント作業には、4つ以上のプロバイダーのキーを追加してください。
| モデル | 無料で利用可能 | コンテキスト | 無料枠の上限(最良の条件) | ツール | 画像入力 |
|---|---|---|---|---|---|
| GLM 5.3 | UnoRouter | 1M | 1 リクエスト/分 1 req/min per model | はい | いいえ |
| GLM 5.3 Flash | NVIDIA NIM, UnoRouter | 1M | 40 リクエスト/分 40 RPM | はい | はい |
| Gemini 3.8 Flash | Google AI Studio | 1M | Recurring provider quota | はい | はい |
| Qwen3.8 Flash Next | AMD Radeon Cloud | 262K | Recurring daily account allowance | はい | いいえ |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | はい | はい |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 リクエスト/分 20 リクエスト/日 250,000 トークン/分 ~3M | はい | はい |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | はい | はい |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 リクエスト/分 50 リクエスト/日 50 req/day account-wide (1,000 after a $10 purchase) | はい | はい |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 リクエスト/分 50 リクエスト/日 Shared rate limit | はい | いいえ |
| Qwen3.8 27B | ElectronHub, Groq, OVH AI Endpoints | 262K | 30 リクエスト/分 250 リクエスト/日 70,000 トークン/分 ~6M | はい | はい |
| Gemini 3.6 Flash | Google AI Studio | 1M | 10 リクエスト/分 20 リクエスト/日 250,000 トークン/分 ~3M | はい | はい |
| Qwen 3.8 27B | Cloudflare Workers AI | 262K | Shared 10k neurons/day | はい | はい |
一致する無料モデル 109 件のうち 12 件を表示しています。 すべてのモデルを見る.
FreeLLMAPI カタログのライブデータ(バージョン 2026.11.19、確認日 2026-11-19)。無料枠の上限は頻繁に変わります。カタログは毎日確認されます。
Pythonによる完全なエージェントループ
以下のループは、公式のOpenAI SDKを使います。ツールを送信し、各ツール呼び出しを実行し、結果を返送します。モデルが最終回答を返すと停止します。最大ステップ数に達しても停止します。
agent.py
import json
import os
import time
import openai
from openai import OpenAI
client = OpenAI(
base_url="http://localhost:3001/v1",
api_key=os.environ["FREELLMAPI_API_KEY"], # <unified-key>
max_retries=3,
)
def get_weather(city: str) -> dict:
return {"city": city, "temp_c": 18, "sky": "cloudy"}
TOOLS = [{
"type": "function",
"function": {
"name": "get_weather",
"description": "Get the current weather for a city.",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string"}},
"required": ["city"],
},
},
}]
FUNCTIONS = {"get_weather": get_weather}
def call_model(messages, session_id):
for attempt in range(5):
try:
return client.chat.completions.create(
model="auto:smart",
messages=messages,
tools=TOOLS,
extra_headers={"X-Session-Id": session_id},
)
except openai.RateLimitError as err:
header = err.response.headers.get("retry-after", "")
wait = int(header) if header.isdigit() else 2 ** attempt
time.sleep(min(wait, 60))
raise RuntimeError("All free providers are at their limit")
def run(task: str, session_id: str, max_steps: int = 10) -> str:
messages = [
{"role": "system", "content": "Use the tools when they help. Be brief."},
{"role": "user", "content": task},
]
for _ in range(max_steps):
msg = call_model(messages, session_id).choices[0].message
messages.append(msg)
if not msg.tool_calls:
return msg.content
for call in msg.tool_calls:
fn = FUNCTIONS.get(call.function.name)
try:
args = json.loads(call.function.arguments or "{}")
result = fn(**args) if fn else {"error": "unknown tool"}
except Exception as exc: # return tool errors to the model
result = {"error": str(exc)}
messages.append({
"role": "tool",
"tool_call_id": call.id,
"content": json.dumps(result),
})
return "Stopped: too many steps."
print(run("Should I take an umbrella in Dublin today?", session_id="task-001"))- X-Session-Id: このモデルに割り当て量が残っている間、1つのタスクのすべてのステップを同じモデルに保ちます。
- Retry-After: すべてのキーが制限に達すると、ゲートウェイはこのヘッダー付きで429を返します。ループは待機してから再試行します。
- ツールのエラー: ループは、エラーをツールの結果としてモデルに返します。モデルは呼び出しを修正できます。
各ステップを正しいモデルにルーティングする
エージェントのステップは、すべて同じではありません。計画のステップには強いモデルが必要です。1つのフィールドを抽出するステップには、高速なモデルが必要です。ステップの種類ごとに、異なるモデル文字列を使ってください。ダッシュボードを変更する必要はありません。
| モデル文字列 | ランキングの基準 | エージェントでの用途 |
|---|---|---|
auto:smart | 知能 | 計画、ツールの選択、最終回答 |
auto:fast | 実測の速度と最初のバイトまでの時間 | 抽出、分類、ツール出力の短い要約 |
auto:reliable | 最近の成功率 | 完了しなければならない定期実行のエージェント |
auto:balanced | 信頼性を最優先し、次に速度と知能 | 一般的な既定値 |
auto:<profile> | 指定した名前付きのフォールバックチェーン | ツール呼び出しモデルだけのチェーン |
auto:*戦略は、有効なすべてのモデルをランク付けし、チェーンの順序を無視します。ツールを含むリクエストには、ツール呼び出しに対応したモデルが必要です。有効なモデルの中に、ツールを十分にサポートしないものがある場合は、ツール呼び出しモデルだけを含むプロファイルを作成してください。次に、ツールのステップにはauto:<profile>を使ってください。存在しないプロファイル名は、エラー400を返します。
ヘッダーX-FreeLLM-Task-Type: codeは、1つのリクエストについて、ルーティングの重みを速度から知能へ移します。これは弱い優先設定です。機能チェックやフォールバックチェーンは変わりません。
長いエージェントのセッションとモデルの変更
長いタスクの間に、モデルが1日の制限に達することがあります。すると、ルーターは別のモデルに移ります。新しいモデルは、メッセージ履歴全体を受け取りますが、別のモデルが以前のステップを実行したことは分かりません。
モデルが変わったときに、短いシステムメッセージを1つ追加するには、コンテキストの引き継ぎを有効にしてください。このメッセージは、新しいモデルにタスクを続けること、以前のツールの結果を保つことを指示します。
FreeLLMAPI .env
FREELLMAPI_CONTEXT_HANDOFF=on_model_switch- 引き継ぎメッセージは、セッションで選択されたモデルが変わったときだけ追加されます。
- セッションは3時間メモリ内に保持されます。ディスクには何も書き込まれません。
- セッションキーは
X-Session-Idヘッダーです。ヘッダーがない場合は、最初のユーザーメッセージのハッシュになります。
ルーターをMCPサーバーとして使う
FreeLLMAPIは、/mcpでMCPサーバーにもなります。MCPに対応するエージェントは、テキストのタスクをFreeLLMAPIのモデルに送れます。また、セッション中にゲートウェイの状態を読み取れます。状態には、使用可能なモデルとそのパラメーター、プロバイダーの正常性、使用量とキャッシュの統計、ルーティング戦略が含まれます。
MCPの機能は、新規インストールでは無効です。キーページのAgent compatibilityの下で、ダッシュボードから有効にしてください。無効の間、/mcpは403を返します。
Claude CodeにMCPサーバーを追加する
claude mcp add --transport http freellmapi http://localhost:3001/mcp \
--header "Authorization: Bearer <unified-key>"Streamable HTTPに対応するMCPクライアントは、すべて同じ方法で動きます。/mcpを指定し、統合キーをBearerトークンとして送ってください。役に立つツールは、healthcheck、list_models、ask_freellmapiです。ask_freellmapiツールは、APIと同じチャットのルートでタスクを実行します。ルーティングとフォールバックも含まれます。
コーディングエージェント向けに、FreeLLMAPIにはクライアントの設定を書き込むセットアップコマンドがあります。例はnpx freellmapi setup-claude、setup-codex、setup-cline、setup-openclaw、setup-hermesです。各コマンドは--dry-runに対応し、最初にバックアップを作成します。
トラブルシューティング
| 問題 | 原因 | 対処 |
|---|---|---|
| モデルがテキストで回答し、ツールを呼び出しません | モデルのツール呼び出しが弱いです | ツール呼び出しモデルだけでauto:<profile>を使ってください |
| エージェントがタスクを途中から再開します | 制限によりモデルの変更が必要になりました | X-Session-Idを送信し、コンテキストの引き継ぎを有効にしてください |
| 多数のステップの後にエラー429が出ます | チェーン内のすべてのキーが制限に達しています | プロバイダーを追加し、小さいステップにはauto:fastを使い、Retry-Afterを待ってください |
auto:nameでエラー400が出ます | プロファイルが存在しません | ダッシュボードでプロファイル名を確認してください |
/mcpが403を返します | MCPの機能が無効です | キーページの Agent compatibility で有効にしてください |
| タスクの後半で、コンテキスト長のエラーが出ます | 履歴がモデルのウィンドウより大きいです | 古いツールの結果を要約するか、長いコンテキスト用のプロファイルを使ってください |
よくある質問
AIエージェント向けの無料LLM APIはありますか?
はい。ツール呼び出しに対応した無料ティアを持つプロバイダーがいくつかあります。FreeLLMAPIは、それらを1つのOpenAI互換キーにまとめ、制限によってリクエストが止まると次のプロバイダーに移ります。
ツール呼び出しに最適な無料LLMはどれですか?
ツール呼び出しに対応し、128Kトークン以上のコンテキストウィンドウを持つモデルを使ってください。このページの表は、現時点でこの両方の条件を満たす、最も強力な無料モデルを示しています。
FreeLLMAPIをMCPサーバーとして使えますか?
はい。キーページの Agent compatibility で、MCPの機能を有効にしてください。次に、統合キーをBearerトークンとして使い、MCPクライアントを/mcpに接続してください。
レート制限でエージェントが失敗しないようにするには、どうすればよいですか?
より多くのプロバイダーのキーを追加し、小さいステップはauto:fastに送ってください。429の場合は、Retry-Afterヘッダーを使って再試行し、ステップの最大数を設定してください。
エージェントのタスクの途中でモデルが変わると、どうなりますか?
新しいモデルは、メッセージ履歴全体を受け取ります。コンテキストの引き継ぎを有効にすると、タスクを続けるように指示する短い注記も受け取ります。
関連ガイド
- 関数呼び出しに対応した無料 LLM API
- PythonでのLLM API無料利用
- LangChain 向けの無料 LLM API
- n8n 向け無料 LLM API
- Claude Codeを無料で使う方法
- 無料LLM APIのレート制限
出典
- FreeLLMAPI docs: REST API (tool calling, routing strategies, response headers) (確認日 20 November 2026)
- FreeLLMAPI docs: clients, MCP server and context handoff (確認日 20 November 2026)
- OpenAI Python SDK: errors and retries (確認日 20 November 2026)
- Claude Code docs: MCP (確認日 20 November 2026)