関数呼び出しに対応した無料 LLM API
関数呼び出し (ツール呼び出し) を使うと、LLM がお客様のコードに関数の実行を依頼できます。エージェント、ライブデータを扱うチャットボット、構造化された抽出は、すべてこれを使います。FreeLLMAPI のカタログには、ツール呼び出しに対応する無料モデルが 190 件あります。OpenAI 形式の tools を送ると、ゲートウェイが各プロバイダ向けに変換します。
コード、モデル名、ライブのカタログラベルは英語で表示します。
FreeLLMAPI でのツール呼び出しの仕組み
- メッセージと、
toolsの一覧を送信します。各ツールには、名前、説明、パラメーターの JSON Schema があります。 - モデルは、
tool_callsとfinish_reason: "tool_calls"で応答します。モデル自身は何も実行しません。 - お客様のコードが関数を実行し、結果を
role: "tool"のメッセージとして追加します。 - 会話を再び送信します。モデルは結果を使って最終的な回答を書きます。
Groq、Cerebras、Mistral、OpenRouter、Cloudflare などの OpenAI 互換のプロバイダは、リクエストをそのまま受け取ります。Gemini の場合、FreeLLMAPI はツールを Google の functionDeclarations 形式に変換し、応答を元に戻します。コードは、すべてのプロバイダで同じです。
一部のモデルは、ツール呼び出しを実際のツール呼び出しではなく、平文のテキストとして書きます。FreeLLMAPI はこれを検出し、実際の tool_calls に変換します。
現時点でツール呼び出しに対応する無料モデル
表には、ツール呼び出しに対応する、最も性能の高い無料モデルを示しています。データはライブのカタログから取得しています。エージェントには、コンテキストのサイズも確認してください。ツールの定義と結果は多くのトークンを使うためです。
| モデル | 無料で利用可能 | コンテキスト | 無料枠の上限(最良の条件) | ツール | 画像入力 |
|---|---|---|---|---|---|
| GLM 5.3 | UnoRouter | 1M | 1 リクエスト/分 1 req/min per model | はい | いいえ |
| Qwen3.8 Max | ACLIDE | - | €20/month shared internal usage credits · no card | はい | いいえ |
| GLM 5.3 Flash | NVIDIA NIM, UnoRouter | 1M | 40 リクエスト/分 40 RPM | はい | はい |
| Gemini 3.8 Flash | Google AI Studio | 1M | Recurring provider quota | はい | はい |
| Gemini Flash (latest alias) | Google AI Studio | - | 10 リクエスト/分 20 リクエスト/日 250,000 トークン/分 ~3M | はい | はい |
| Qwen3.8 Flash Next | AMD Radeon Cloud | 262K | Recurring daily account allowance | はい | いいえ |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | はい | はい |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 リクエスト/分 20 リクエスト/日 250,000 トークン/分 ~3M | はい | はい |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | はい | はい |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 リクエスト/分 50 リクエスト/日 50 req/day account-wide (1,000 after a $10 purchase) | はい | はい |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 リクエスト/分 50 リクエスト/日 Shared rate limit | はい | いいえ |
| Qwen3.8 27B | ElectronHub, Groq, OVH AI Endpoints | 262K | 30 リクエスト/分 250 リクエスト/日 70,000 トークン/分 ~6M | はい | はい |
| Gemini 3.6 Flash | Google AI Studio | 1M | 10 リクエスト/分 20 リクエスト/日 250,000 トークン/分 ~3M | はい | はい |
| Qwen 3.8 27B | Cloudflare Workers AI | 262K | Shared 10k neurons/day | はい | はい |
| Gemini 3.5 Flash | Google AI Studio | 1M | 10 リクエスト/分 20 リクエスト/日 250,000 トークン/分 ~3M | はい | はい |
一致する無料モデル 146 件のうち 15 件を表示しています。 すべてのモデルを見る.
FreeLLMAPI カタログのライブデータ(バージョン 2026.11.19、確認日 2026-11-19)。無料枠の上限は頻繁に変わります。カタログは毎日確認されます。
手順 1: FreeLLMAPI をインストールし、キーを追加する
FreeLLMAPI はオープンソースです。Docker でお使いのコンピュータ上で動作します。プロバイダのキーは、お使いのコンピュータに保存されたままになります。
インストールする (macOS または Linux)
curl -fsSL https://freellmapi.co/install.sh | bashhttp://localhost:3001 でダッシュボードを開きます。Keys ページで、3 社以上のプロバイダのキーを追加します。ツールの一連の処理では、1 つのタスクに対して複数のリクエストが送られるため、キーが多いほど余裕が生まれます。同じページから統合キーをコピーします。
手順 2: 完全なツール呼び出しの処理を実行する
curl: 最初のリクエスト
curl http://localhost:3001/v1/chat/completions \
-H "Authorization: Bearer <unified-key>" \
-H "Content-Type: application/json" \
-d '{
"model": "auto",
"messages": [{"role": "user", "content": "What is the weather in Karachi?"}],
"tools": [{
"type": "function",
"function": {
"name": "get_weather",
"description": "Get the current weather for a city.",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string"}},
"required": ["city"]
}
}
}]
}'Python: モデルが最終的な回答を返すまでループする
import json
from openai import OpenAI
client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")
def get_weather(city: str) -> dict:
return {"city": city, "temp_c": 32, "condition": "sunny"} # call a real API here
FUNCS = {"get_weather": get_weather}
tools = [{
"type": "function",
"function": {
"name": "get_weather",
"description": "Get the current weather for a city.",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string"}},
"required": ["city"],
},
},
}]
messages = [{"role": "user", "content": "What is the weather in Karachi and Lahore?"}]
for _ in range(5): # stop after 5 rounds
msg = client.chat.completions.create(model="auto", messages=messages, tools=tools).choices[0].message
if not msg.tool_calls:
print(msg.content)
break
messages.append(msg)
for call in msg.tool_calls:
try:
args = json.loads(call.function.arguments or "{}")
result = FUNCS[call.function.name](**args)
except Exception as exc: # bad JSON, unknown tool or wrong arguments
result = {"error": str(exc)}
messages.append({"role": "tool", "tool_call_id": call.id, "content": json.dumps(result)})ツール呼び出しは stream=True でも動作します。delta.tool_calls のチャンクを受け取り、その後に finish_reason: "tool_calls" を含む最後のチャンクを受け取ります。JSON を解析する前に、引数のチャンクを結合してください。
ツールを使って構造化データを取得する
ツール呼び出しは、決まった形式でデータを取得する方法としても適しています。取得したいフィールドをパラメーターとする、ツールを 1 つ定義します。tool_choice を "required" に設定すると、モデルはツールを必ず呼び出します。次に引数を読み取ります。関数を実行する必要はありません。
Python: 必須のツール呼び出しでフィールドを抽出する
import json
from openai import OpenAI
client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")
schema = {
"type": "function",
"function": {
"name": "save_contact",
"description": "Save one contact found in the text.",
"parameters": {
"type": "object",
"properties": {"name": {"type": "string"}, "email": {"type": "string"}},
"required": ["name", "email"],
},
},
}
resp = client.chat.completions.create(
model="auto",
messages=[{"role": "user", "content": "Reach Sara Khan at [email protected]."}],
tools=[schema],
tool_choice="required",
)
print(json.loads(resp.choices[0].message.tool_calls[0].function.arguments))引数は、お客様のコードで検証してください。モデルは、必須のフィールドを省略したり、誤った型を送ったりすることがあります。確認に失敗した場合は、エラーを送り返して、もう一度依頼します。
注意点
- 引数は文字列です:
function.argumentsは JSON の文字列です。解析し、エラーを捕捉してください。小さいモデルは、有効ではない JSON を送ることがあります。 - ID を一致させる: 各ツールのメッセージには、対応する呼び出しの
tool_call_idが必要です。ツールのメッセージの前に、tool_callsを含むアシスタントのメッセージを追加してください。 - 複数の呼び出しを同時に行う: モデルは、1 つの応答で複数のツール呼び出しを返すことがあります。すべてを実行してから、すべての結果を送信してください。
- トークンのコスト: 各ツールの定義は、リクエストごとに送られます。大きなツールを 20 個定義すると、数千トークンを使い、低い 1 分あたりのトークン上限に素早く達する場合があります。タスクに必要なツールだけを送ってください。
- 明確な説明: モデルは、ツールの名前と説明から、どのツールを使うかを選びます。ツールの機能と使用する場面を、短い 1 文で書いてください。
- ループを止める: ラウンドの最大数を設定してください。性能の低いモデルは、同じツールを何度も呼び出すことがあります。
- ツールに対応しないモデル: 一部の無料プロバイダは、ツールに対応していません。例えば、AI Horde はツールを削除し、平文のチャットとして応答します。
トラブルシューティング
| 問題 | 原因 | 対処 |
|---|---|---|
| モデルがテキストで応答し、ツールを呼び出さない | モデルのツール処理が弱いか、説明が明確ではない | 表から性能の高いモデルを指定するか、ツールの説明を改善します |
引数で json.JSONDecodeError | モデルが有効ではない JSON を送った | エラーを捕捉し、ツールの結果として送り返して、モデルが再試行できるようにします |
| ツールのメッセージに関するエラー 400 | tool_call_id が一致しないか、アシスタントのメッセージがない | 先にアシスタントのメッセージを追加し、その後に各呼び出しに対するツールのメッセージを 1 つずつ追加します |
| エージェントのタスク中にエラー 429 | ループが大きいリクエストを多数送っている | プロバイダのキーを追加し、送るツールを減らします |
| ループが止まらない | モデルが同じツールを再び呼び出している | ラウンドの上限を設定し、明確な結果を返します |
よくある質問
関数呼び出しに対応する無料の LLM API はどれですか?
Gemini、Groq、Cerebras、Mistral、OpenRouter、Cloudflare などのプロバイダには、ツール呼び出しに対応する無料モデルがあります。FreeLLMAPI のカタログには、現時点でツールに対応する無料モデルが 190 件あります。
ツール呼び出しと関数呼び出しは同じものですか?
はい。OpenAI は、最初に関数呼び出し (function calling) という名前を使いました。現在の API では、tools と tool_calls を使います。どちらの名前も、モデルがお客様のコードに関数の実行を依頼することを意味します。
Gemini のツール呼び出しは、OpenAI 形式で動きますか?
はい。FreeLLMAPI を通じて動作します。ゲートウェイは OpenAI の tools を Gemini の functionDeclarations に変換し、応答を OpenAI の tool_calls に戻します。
ツール呼び出しをストリーミングできますか?
はい。stream=True を使うと、delta.tool_calls のチャンクと、最後の finish_reason として tool_calls を受け取ります。解析する前に、引数のチャンクを結合してください。
関連ガイド
- AIエージェント向けの無料LLM API
- AIエージェント向けの無料Web検索API
- 無料のコーディング向けモデルAPI
- LangChain 向けの無料 LLM API
- PythonでのLLM API無料利用
出典
- FreeLLMAPI docs: Tool calling (確認日 20 November 2026)
- FreeLLMAPI README: features (確認日 20 November 2026)
- OpenAI API reference: Chat Completions tools (確認日 20 November 2026)