ホーム / ガイド / AIエージェント向けの無料LLM API

AIエージェント向けの無料LLM API

AIエージェントは、1つのタスクで多くのモデルリクエストを送ります。各ステップには、ツール呼び出しと大きなコンテキストが必要です。1つの無料ティアでは、エージェントはすぐに停止します。FreeLLMAPIは、45件の無料プロバイダーティアを1つのOpenAI互換キーの背後にまとめます。制限によってリクエストが止まると、次のプロバイダーに移るため、エージェントは処理を続けられます。このガイドでは、ツール呼び出し、ステップごとのルーティング、長いセッション、ルーターのMCPサーバーを扱います。

コード、モデル名、ライブのカタログラベルは英語で表示します。

無料APIに対するエージェントの要件

要件理由FreeLLMAPIの動作
ツール呼び出しエージェントがツールを選択して実行します各プロバイダーに、OpenAI形式のtoolsを渡します。テキストのツール呼び出しを、実際のtool_callsに変換します。
多数のリクエスト1つのタスクに20から100ステップかかることがあります各キーの割り当て量を数えます。429が返ると、次のキーまたはプロバイダーに移ります。
大きなコンテキストツールの結果と履歴は、ステップごとに増えますチェーン内のモデルにルーティングします。長いコンテキスト用のプロファイルを作成できます。
安定した動作タスクの途中でモデルが変わると、エージェントが混乱することがありますセッションを30分間、同じモデルに保ちます。切り替えが起きたときは、任意でコンテキストを引き継げます。
可視性どのモデルが失敗したかを知る必要があります各レスポンスのX-Routed-ViaヘッダーとX-Fallback-Trailヘッダー

無料ティアには制限があります。フェイルオーバーは負荷をキーに分散しますが、合計は無料制限の合計のままです。エージェント作業には、4つ以上のプロバイダーのキーを追加してください。

ツール呼び出しと128K以上のコンテキストに対応する無料モデル
モデル無料で利用可能コンテキスト無料枠の上限(最良の条件)ツール画像入力
GLM 5.3UnoRouter1M1 リクエスト/分
1 req/min per model
はいいいえ
GLM 5.3 FlashNVIDIA NIM, UnoRouter1M40 リクエスト/分
40 RPM
はいはい
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaはいはい
Qwen3.8 Flash NextAMD Radeon Cloud262KRecurring daily account allowanceはいいいえ
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditはいはい
Gemini 3.7 FlashGoogle AI Studio1M10 リクエスト/分
20 リクエスト/日
250,000 トークン/分
~3M
はいはい
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditはいはい
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 リクエスト/分
50 リクエスト/日
50 req/day account-wide (1,000 after a $10 purchase)
はいはい
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 リクエスト/分
50 リクエスト/日
Shared rate limit
はいいいえ
Qwen3.8 27BElectronHub, Groq, OVH AI Endpoints262K30 リクエスト/分
250 リクエスト/日
70,000 トークン/分
~6M
はいはい
Gemini 3.6 FlashGoogle AI Studio1M10 リクエスト/分
20 リクエスト/日
250,000 トークン/分
~3M
はいはい
Qwen 3.8 27BCloudflare Workers AI262KShared 10k neurons/dayはいはい

一致する無料モデル 109 件のうち 12 件を表示しています。 すべてのモデルを見る.

FreeLLMAPI カタログのライブデータ(バージョン 2026.11.19、確認日 2026-11-19)。無料枠の上限は頻繁に変わります。カタログは毎日確認されます。

Pythonによる完全なエージェントループ

以下のループは、公式のOpenAI SDKを使います。ツールを送信し、各ツール呼び出しを実行し、結果を返送します。モデルが最終回答を返すと停止します。最大ステップ数に達しても停止します。

agent.py

import json
import os
import time

import openai
from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:3001/v1",
    api_key=os.environ["FREELLMAPI_API_KEY"],  # <unified-key>
    max_retries=3,
)

def get_weather(city: str) -> dict:
    return {"city": city, "temp_c": 18, "sky": "cloudy"}

TOOLS = [{
    "type": "function",
    "function": {
        "name": "get_weather",
        "description": "Get the current weather for a city.",
        "parameters": {
            "type": "object",
            "properties": {"city": {"type": "string"}},
            "required": ["city"],
        },
    },
}]
FUNCTIONS = {"get_weather": get_weather}

def call_model(messages, session_id):
    for attempt in range(5):
        try:
            return client.chat.completions.create(
                model="auto:smart",
                messages=messages,
                tools=TOOLS,
                extra_headers={"X-Session-Id": session_id},
            )
        except openai.RateLimitError as err:
            header = err.response.headers.get("retry-after", "")
            wait = int(header) if header.isdigit() else 2 ** attempt
            time.sleep(min(wait, 60))
    raise RuntimeError("All free providers are at their limit")

def run(task: str, session_id: str, max_steps: int = 10) -> str:
    messages = [
        {"role": "system", "content": "Use the tools when they help. Be brief."},
        {"role": "user", "content": task},
    ]
    for _ in range(max_steps):
        msg = call_model(messages, session_id).choices[0].message
        messages.append(msg)
        if not msg.tool_calls:
            return msg.content
        for call in msg.tool_calls:
            fn = FUNCTIONS.get(call.function.name)
            try:
                args = json.loads(call.function.arguments or "{}")
                result = fn(**args) if fn else {"error": "unknown tool"}
            except Exception as exc:  # return tool errors to the model
                result = {"error": str(exc)}
            messages.append({
                "role": "tool",
                "tool_call_id": call.id,
                "content": json.dumps(result),
            })
    return "Stopped: too many steps."

print(run("Should I take an umbrella in Dublin today?", session_id="task-001"))
  • X-Session-Id: このモデルに割り当て量が残っている間、1つのタスクのすべてのステップを同じモデルに保ちます。
  • Retry-After: すべてのキーが制限に達すると、ゲートウェイはこのヘッダー付きで429を返します。ループは待機してから再試行します。
  • ツールのエラー: ループは、エラーをツールの結果としてモデルに返します。モデルは呼び出しを修正できます。

各ステップを正しいモデルにルーティングする

エージェントのステップは、すべて同じではありません。計画のステップには強いモデルが必要です。1つのフィールドを抽出するステップには、高速なモデルが必要です。ステップの種類ごとに、異なるモデル文字列を使ってください。ダッシュボードを変更する必要はありません。

モデル文字列ランキングの基準エージェントでの用途
auto:smart知能計画、ツールの選択、最終回答
auto:fast実測の速度と最初のバイトまでの時間抽出、分類、ツール出力の短い要約
auto:reliable最近の成功率完了しなければならない定期実行のエージェント
auto:balanced信頼性を最優先し、次に速度と知能一般的な既定値
auto:<profile>指定した名前付きのフォールバックチェーンツール呼び出しモデルだけのチェーン

auto:*戦略は、有効なすべてのモデルをランク付けし、チェーンの順序を無視します。ツールを含むリクエストには、ツール呼び出しに対応したモデルが必要です。有効なモデルの中に、ツールを十分にサポートしないものがある場合は、ツール呼び出しモデルだけを含むプロファイルを作成してください。次に、ツールのステップにはauto:<profile>を使ってください。存在しないプロファイル名は、エラー400を返します。

ヘッダーX-FreeLLM-Task-Type: codeは、1つのリクエストについて、ルーティングの重みを速度から知能へ移します。これは弱い優先設定です。機能チェックやフォールバックチェーンは変わりません。

長いエージェントのセッションとモデルの変更

長いタスクの間に、モデルが1日の制限に達することがあります。すると、ルーターは別のモデルに移ります。新しいモデルは、メッセージ履歴全体を受け取りますが、別のモデルが以前のステップを実行したことは分かりません。

モデルが変わったときに、短いシステムメッセージを1つ追加するには、コンテキストの引き継ぎを有効にしてください。このメッセージは、新しいモデルにタスクを続けること、以前のツールの結果を保つことを指示します。

FreeLLMAPI .env

FREELLMAPI_CONTEXT_HANDOFF=on_model_switch
  • 引き継ぎメッセージは、セッションで選択されたモデルが変わったときだけ追加されます。
  • セッションは3時間メモリ内に保持されます。ディスクには何も書き込まれません。
  • セッションキーはX-Session-Idヘッダーです。ヘッダーがない場合は、最初のユーザーメッセージのハッシュになります。

ルーターをMCPサーバーとして使う

FreeLLMAPIは、/mcpでMCPサーバーにもなります。MCPに対応するエージェントは、テキストのタスクをFreeLLMAPIのモデルに送れます。また、セッション中にゲートウェイの状態を読み取れます。状態には、使用可能なモデルとそのパラメーター、プロバイダーの正常性、使用量とキャッシュの統計、ルーティング戦略が含まれます。

MCPの機能は、新規インストールでは無効です。キーページのAgent compatibilityの下で、ダッシュボードから有効にしてください。無効の間、/mcpは403を返します。

Claude CodeにMCPサーバーを追加する

claude mcp add --transport http freellmapi http://localhost:3001/mcp \
  --header "Authorization: Bearer <unified-key>"

Streamable HTTPに対応するMCPクライアントは、すべて同じ方法で動きます。/mcpを指定し、統合キーをBearerトークンとして送ってください。役に立つツールは、healthcheck、list_models、ask_freellmapiです。ask_freellmapiツールは、APIと同じチャットのルートでタスクを実行します。ルーティングとフォールバックも含まれます。

コーディングエージェント向けに、FreeLLMAPIにはクライアントの設定を書き込むセットアップコマンドがあります。例はnpx freellmapi setup-claude、setup-codex、setup-cline、setup-openclaw、setup-hermesです。各コマンドは--dry-runに対応し、最初にバックアップを作成します。

トラブルシューティング

問題原因対処
モデルがテキストで回答し、ツールを呼び出しませんモデルのツール呼び出しが弱いですツール呼び出しモデルだけでauto:<profile>を使ってください
エージェントがタスクを途中から再開します制限によりモデルの変更が必要になりましたX-Session-Idを送信し、コンテキストの引き継ぎを有効にしてください
多数のステップの後にエラー429が出ますチェーン内のすべてのキーが制限に達していますプロバイダーを追加し、小さいステップにはauto:fastを使い、Retry-Afterを待ってください
auto:nameでエラー400が出ますプロファイルが存在しませんダッシュボードでプロファイル名を確認してください
/mcpが403を返しますMCPの機能が無効ですキーページの Agent compatibility で有効にしてください
タスクの後半で、コンテキスト長のエラーが出ます履歴がモデルのウィンドウより大きいです古いツールの結果を要約するか、長いコンテキスト用のプロファイルを使ってください
これらすべてを 1 つのキーで利用できます。 FreeLLMAPI は、オープンソースのセルフホスト型ルーターです。これらの無料枠すべてを 1 つの OpenAI 互換エンドポイントの背後にまとめ、レート制限に達した場合は自動的に別のプロバイダーへ切り替えます。 カタログを見る または 公開.

よくある質問

AIエージェント向けの無料LLM APIはありますか?

はい。ツール呼び出しに対応した無料ティアを持つプロバイダーがいくつかあります。FreeLLMAPIは、それらを1つのOpenAI互換キーにまとめ、制限によってリクエストが止まると次のプロバイダーに移ります。

ツール呼び出しに最適な無料LLMはどれですか?

ツール呼び出しに対応し、128Kトークン以上のコンテキストウィンドウを持つモデルを使ってください。このページの表は、現時点でこの両方の条件を満たす、最も強力な無料モデルを示しています。

FreeLLMAPIをMCPサーバーとして使えますか?

はい。キーページの Agent compatibility で、MCPの機能を有効にしてください。次に、統合キーをBearerトークンとして使い、MCPクライアントを/mcpに接続してください。

レート制限でエージェントが失敗しないようにするには、どうすればよいですか?

より多くのプロバイダーのキーを追加し、小さいステップはauto:fastに送ってください。429の場合は、Retry-Afterヘッダーを使って再試行し、ステップの最大数を設定してください。

エージェントのタスクの途中でモデルが変わると、どうなりますか?

新しいモデルは、メッセージ履歴全体を受け取ります。コンテキストの引き継ぎを有効にすると、タスクを続けるように指示する短い注記も受け取ります。

関連ガイド

出典

すべてのガイド · 無料モデルをすべて見る