ホーム / ガイド / 関数呼び出しに対応した無料 LLM API

関数呼び出しに対応した無料 LLM API

関数呼び出し (ツール呼び出し) を使うと、LLM がお客様のコードに関数の実行を依頼できます。エージェント、ライブデータを扱うチャットボット、構造化された抽出は、すべてこれを使います。FreeLLMAPI のカタログには、ツール呼び出しに対応する無料モデルが 190 件あります。OpenAI 形式の tools を送ると、ゲートウェイが各プロバイダ向けに変換します。

コード、モデル名、ライブのカタログラベルは英語で表示します。

FreeLLMAPI でのツール呼び出しの仕組み

  1. メッセージと、tools の一覧を送信します。各ツールには、名前、説明、パラメーターの JSON Schema があります。
  2. モデルは、tool_calls と finish_reason: "tool_calls" で応答します。モデル自身は何も実行しません。
  3. お客様のコードが関数を実行し、結果を role: "tool" のメッセージとして追加します。
  4. 会話を再び送信します。モデルは結果を使って最終的な回答を書きます。

Groq、Cerebras、Mistral、OpenRouter、Cloudflare などの OpenAI 互換のプロバイダは、リクエストをそのまま受け取ります。Gemini の場合、FreeLLMAPI はツールを Google の functionDeclarations 形式に変換し、応答を元に戻します。コードは、すべてのプロバイダで同じです。

一部のモデルは、ツール呼び出しを実際のツール呼び出しではなく、平文のテキストとして書きます。FreeLLMAPI はこれを検出し、実際の tool_calls に変換します。

現時点でツール呼び出しに対応する無料モデル

表には、ツール呼び出しに対応する、最も性能の高い無料モデルを示しています。データはライブのカタログから取得しています。エージェントには、コンテキストのサイズも確認してください。ツールの定義と結果は多くのトークンを使うためです。

ツール呼び出しに対応する無料モデル (性能の高い順)
モデル無料で利用可能コンテキスト無料枠の上限(最良の条件)ツール画像入力
GLM 5.3UnoRouter1M1 リクエスト/分
1 req/min per model
はいいいえ
Qwen3.8 MaxACLIDE-€20/month shared internal usage credits · no cardはいいいえ
GLM 5.3 FlashNVIDIA NIM, UnoRouter1M40 リクエスト/分
40 RPM
はいはい
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaはいはい
Gemini Flash (latest alias)Google AI Studio-10 リクエスト/分
20 リクエスト/日
250,000 トークン/分
~3M
はいはい
Qwen3.8 Flash NextAMD Radeon Cloud262KRecurring daily account allowanceはいいいえ
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditはいはい
Gemini 3.7 FlashGoogle AI Studio1M10 リクエスト/分
20 リクエスト/日
250,000 トークン/分
~3M
はいはい
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditはいはい
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 リクエスト/分
50 リクエスト/日
50 req/day account-wide (1,000 after a $10 purchase)
はいはい
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 リクエスト/分
50 リクエスト/日
Shared rate limit
はいいいえ
Qwen3.8 27BElectronHub, Groq, OVH AI Endpoints262K30 リクエスト/分
250 リクエスト/日
70,000 トークン/分
~6M
はいはい
Gemini 3.6 FlashGoogle AI Studio1M10 リクエスト/分
20 リクエスト/日
250,000 トークン/分
~3M
はいはい
Qwen 3.8 27BCloudflare Workers AI262KShared 10k neurons/dayはいはい
Gemini 3.5 FlashGoogle AI Studio1M10 リクエスト/分
20 リクエスト/日
250,000 トークン/分
~3M
はいはい

一致する無料モデル 146 件のうち 15 件を表示しています。 すべてのモデルを見る.

FreeLLMAPI カタログのライブデータ(バージョン 2026.11.19、確認日 2026-11-19)。無料枠の上限は頻繁に変わります。カタログは毎日確認されます。

手順 1: FreeLLMAPI をインストールし、キーを追加する

FreeLLMAPI はオープンソースです。Docker でお使いのコンピュータ上で動作します。プロバイダのキーは、お使いのコンピュータに保存されたままになります。

インストールする (macOS または Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

http://localhost:3001 でダッシュボードを開きます。Keys ページで、3 社以上のプロバイダのキーを追加します。ツールの一連の処理では、1 つのタスクに対して複数のリクエストが送られるため、キーが多いほど余裕が生まれます。同じページから統合キーをコピーします。

手順 2: 完全なツール呼び出しの処理を実行する

curl: 最初のリクエスト

curl http://localhost:3001/v1/chat/completions \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "auto",
    "messages": [{"role": "user", "content": "What is the weather in Karachi?"}],
    "tools": [{
      "type": "function",
      "function": {
        "name": "get_weather",
        "description": "Get the current weather for a city.",
        "parameters": {
          "type": "object",
          "properties": {"city": {"type": "string"}},
          "required": ["city"]
        }
      }
    }]
  }'

Python: モデルが最終的な回答を返すまでループする

import json
from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")

def get_weather(city: str) -> dict:
    return {"city": city, "temp_c": 32, "condition": "sunny"}  # call a real API here

FUNCS = {"get_weather": get_weather}
tools = [{
    "type": "function",
    "function": {
        "name": "get_weather",
        "description": "Get the current weather for a city.",
        "parameters": {
            "type": "object",
            "properties": {"city": {"type": "string"}},
            "required": ["city"],
        },
    },
}]
messages = [{"role": "user", "content": "What is the weather in Karachi and Lahore?"}]

for _ in range(5):  # stop after 5 rounds
    msg = client.chat.completions.create(model="auto", messages=messages, tools=tools).choices[0].message
    if not msg.tool_calls:
        print(msg.content)
        break
    messages.append(msg)
    for call in msg.tool_calls:
        try:
            args = json.loads(call.function.arguments or "{}")
            result = FUNCS[call.function.name](**args)
        except Exception as exc:  # bad JSON, unknown tool or wrong arguments
            result = {"error": str(exc)}
        messages.append({"role": "tool", "tool_call_id": call.id, "content": json.dumps(result)})

ツール呼び出しは stream=True でも動作します。delta.tool_calls のチャンクを受け取り、その後に finish_reason: "tool_calls" を含む最後のチャンクを受け取ります。JSON を解析する前に、引数のチャンクを結合してください。

ツールを使って構造化データを取得する

ツール呼び出しは、決まった形式でデータを取得する方法としても適しています。取得したいフィールドをパラメーターとする、ツールを 1 つ定義します。tool_choice を "required" に設定すると、モデルはツールを必ず呼び出します。次に引数を読み取ります。関数を実行する必要はありません。

Python: 必須のツール呼び出しでフィールドを抽出する

import json
from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")
schema = {
    "type": "function",
    "function": {
        "name": "save_contact",
        "description": "Save one contact found in the text.",
        "parameters": {
            "type": "object",
            "properties": {"name": {"type": "string"}, "email": {"type": "string"}},
            "required": ["name", "email"],
        },
    },
}
resp = client.chat.completions.create(
    model="auto",
    messages=[{"role": "user", "content": "Reach Sara Khan at [email protected]."}],
    tools=[schema],
    tool_choice="required",
)
print(json.loads(resp.choices[0].message.tool_calls[0].function.arguments))

引数は、お客様のコードで検証してください。モデルは、必須のフィールドを省略したり、誤った型を送ったりすることがあります。確認に失敗した場合は、エラーを送り返して、もう一度依頼します。

安全性: 支払い、メール送信、ファイル削除など、副作用を伴うツール呼び出しは、確認なしに実行しないでください。まず、ユーザーにその操作の確認を求めてください。

注意点

  • 引数は文字列です: function.arguments は JSON の文字列です。解析し、エラーを捕捉してください。小さいモデルは、有効ではない JSON を送ることがあります。
  • ID を一致させる: 各ツールのメッセージには、対応する呼び出しの tool_call_id が必要です。ツールのメッセージの前に、tool_calls を含むアシスタントのメッセージを追加してください。
  • 複数の呼び出しを同時に行う: モデルは、1 つの応答で複数のツール呼び出しを返すことがあります。すべてを実行してから、すべての結果を送信してください。
  • トークンのコスト: 各ツールの定義は、リクエストごとに送られます。大きなツールを 20 個定義すると、数千トークンを使い、低い 1 分あたりのトークン上限に素早く達する場合があります。タスクに必要なツールだけを送ってください。
  • 明確な説明: モデルは、ツールの名前と説明から、どのツールを使うかを選びます。ツールの機能と使用する場面を、短い 1 文で書いてください。
  • ループを止める: ラウンドの最大数を設定してください。性能の低いモデルは、同じツールを何度も呼び出すことがあります。
  • ツールに対応しないモデル: 一部の無料プロバイダは、ツールに対応していません。例えば、AI Horde はツールを削除し、平文のチャットとして応答します。
タスク中は同じモデル: FreeLLMAPI は、会話を 30 分間 1 つのモデルに保ちます。ツールの一連の処理は、通常は 1 つのモデルのままになります。上限のためにモデルの切り替えが必要になった場合、次のモデルには、ツールの結果を含む、メッセージの履歴全体が渡されます。

トラブルシューティング

問題原因対処
モデルがテキストで応答し、ツールを呼び出さないモデルのツール処理が弱いか、説明が明確ではない表から性能の高いモデルを指定するか、ツールの説明を改善します
引数で json.JSONDecodeErrorモデルが有効ではない JSON を送ったエラーを捕捉し、ツールの結果として送り返して、モデルが再試行できるようにします
ツールのメッセージに関するエラー 400tool_call_id が一致しないか、アシスタントのメッセージがない先にアシスタントのメッセージを追加し、その後に各呼び出しに対するツールのメッセージを 1 つずつ追加します
エージェントのタスク中にエラー 429ループが大きいリクエストを多数送っているプロバイダのキーを追加し、送るツールを減らします
ループが止まらないモデルが同じツールを再び呼び出しているラウンドの上限を設定し、明確な結果を返します
これらすべてを 1 つのキーで利用できます。 FreeLLMAPI は、オープンソースのセルフホスト型ルーターです。これらの無料枠すべてを 1 つの OpenAI 互換エンドポイントの背後にまとめ、レート制限に達した場合は自動的に別のプロバイダーへ切り替えます。 カタログを見る または 公開.

よくある質問

関数呼び出しに対応する無料の LLM API はどれですか?

Gemini、Groq、Cerebras、Mistral、OpenRouter、Cloudflare などのプロバイダには、ツール呼び出しに対応する無料モデルがあります。FreeLLMAPI のカタログには、現時点でツールに対応する無料モデルが 190 件あります。

ツール呼び出しと関数呼び出しは同じものですか?

はい。OpenAI は、最初に関数呼び出し (function calling) という名前を使いました。現在の API では、tools と tool_calls を使います。どちらの名前も、モデルがお客様のコードに関数の実行を依頼することを意味します。

Gemini のツール呼び出しは、OpenAI 形式で動きますか?

はい。FreeLLMAPI を通じて動作します。ゲートウェイは OpenAI の tools を Gemini の functionDeclarations に変換し、応答を OpenAI の tool_calls に戻します。

ツール呼び出しをストリーミングできますか?

はい。stream=True を使うと、delta.tool_calls のチャンクと、最後の finish_reason として tool_calls を受け取ります。解析する前に、引数のチャンクを結合してください。

関連ガイド

出典

すべてのガイド · 無料モデルをすべて見る