API LLM percuma dengan panggilan fungsi
Panggilan fungsi, atau panggilan alat, membolehkan LLM meminta kod anda menjalankan satu fungsi. Ejen, bot sembang dengan data langsung dan pengekstrakan berstruktur semuanya menggunakannya. Katalog FreeLLMAPI mempunyai 190 tawaran model percuma dengan panggilan alat. Anda menghantar tools gaya OpenAI, dan gerbang menterjemahkannya untuk setiap penyedia.
Kod, nama model dan label katalog langsung dipaparkan dalam bahasa Inggeris.
Cara panggilan alat berfungsi melalui FreeLLMAPI
- Anda menghantar mesej dan senarai
tools. Setiap alat mempunyai nama, penerangan dan JSON Schema bagi parameternya. - Model menjawab dengan
tool_callsdanfinish_reason: "tool_calls". Ia tidak menjalankan apa-apa sendiri. - Kod anda menjalankan fungsi dan menambah hasilnya sebagai mesej dengan
role: "tool". - Anda menghantar perbualan itu semula. Model menggunakan hasil itu untuk menulis jawapan akhir.
Penyedia yang serasi dengan OpenAI, seperti Groq, Cerebras, Mistral, OpenRouter dan Cloudflare, menerima permintaan seperti sedia ada. Untuk Gemini, FreeLLMAPI menterjemah alat ke dalam format functionDeclarations Google dan menterjemah jawapan kembali. Kod anda sama untuk setiap penyedia.
Sesetengah model menulis panggilan alat sebagai teks biasa dan bukan sebagai panggilan alat sebenar. FreeLLMAPI mengesannya dan menukarnya kepada tool_calls sebenar.
Model percuma dengan panggilan alat hari ini
Jadual menunjukkan model percuma terkuat dengan panggilan alat. Data datang daripada katalog langsung. Untuk ejen, semak juga saiz konteks, kerana takrif alat dan hasil menggunakan banyak token.
| Model | Percuma pada | Konteks | Had percuma (tawaran terbaik) | Alat | Penglihatan |
|---|---|---|---|---|---|
| GLM 5.3 | UnoRouter | 1M | 1 permintaan/minit 1 req/min per model | Ya | Tidak |
| Qwen3.8 Max | ACLIDE | - | €20/month shared internal usage credits · no card | Ya | Tidak |
| GLM 5.3 Flash | NVIDIA NIM, UnoRouter | 1M | 40 permintaan/minit 40 RPM | Ya | Ya |
| Gemini 3.8 Flash | Google AI Studio | 1M | Recurring provider quota | Ya | Ya |
| Gemini Flash (latest alias) | Google AI Studio | - | 10 permintaan/minit 20 permintaan/hari 250,000 token/minit ~3M | Ya | Ya |
| Qwen3.8 Flash Next | AMD Radeon Cloud | 262K | Recurring daily account allowance | Ya | Tidak |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | Ya | Ya |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 permintaan/minit 20 permintaan/hari 250,000 token/minit ~3M | Ya | Ya |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | Ya | Ya |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 permintaan/minit 50 permintaan/hari 50 req/day account-wide (1,000 after a $10 purchase) | Ya | Ya |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 permintaan/minit 50 permintaan/hari Shared rate limit | Ya | Tidak |
| Qwen3.8 27B | ElectronHub, Groq, OVH AI Endpoints | 262K | 30 permintaan/minit 250 permintaan/hari 70,000 token/minit ~6M | Ya | Ya |
| Gemini 3.6 Flash | Google AI Studio | 1M | 10 permintaan/minit 20 permintaan/hari 250,000 token/minit ~3M | Ya | Ya |
| Qwen 3.8 27B | Cloudflare Workers AI | 262K | Shared 10k neurons/day | Ya | Ya |
| Gemini 3.5 Flash | Google AI Studio | 1M | 10 permintaan/minit 20 permintaan/hari 250,000 token/minit ~3M | Ya | Ya |
Memaparkan 15 daripada 146 model percuma yang sepadan. Lihat semua model.
Data langsung daripada katalog FreeLLMAPI (versi 2026.11.19, disemak 2026-11-19). Had percuma kerap berubah. Katalog disemak setiap hari.
Langkah 1: Pasang FreeLLMAPI dan tambah kunci
FreeLLMAPI ialah sumber terbuka. Ia dijalankan pada komputer anda dalam Docker. Kunci penyedia anda kekal pada komputer anda.
Pasang (macOS atau Linux)
curl -fsSL https://freellmapi.co/install.sh | bashBuka papan pemuka di http://localhost:3001. Tambah kunci daripada tiga penyedia atau lebih pada halaman Keys. Gelung alat menghantar beberapa permintaan untuk satu tugasan, jadi lebih banyak kunci memberi lebih banyak ruang. Salin kunci bersatu anda daripada halaman yang sama.
Langkah 2: Jalankan gelung alat yang lengkap
curl: permintaan pertama
curl http://localhost:3001/v1/chat/completions \
-H "Authorization: Bearer <unified-key>" \
-H "Content-Type: application/json" \
-d '{
"model": "auto",
"messages": [{"role": "user", "content": "What is the weather in Karachi?"}],
"tools": [{
"type": "function",
"function": {
"name": "get_weather",
"description": "Get the current weather for a city.",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string"}},
"required": ["city"]
}
}
}]
}'Python: ulang sehingga model memberikan jawapan akhir
import json
from openai import OpenAI
client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")
def get_weather(city: str) -> dict:
return {"city": city, "temp_c": 32, "condition": "sunny"} # call a real API here
FUNCS = {"get_weather": get_weather}
tools = [{
"type": "function",
"function": {
"name": "get_weather",
"description": "Get the current weather for a city.",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string"}},
"required": ["city"],
},
},
}]
messages = [{"role": "user", "content": "What is the weather in Karachi and Lahore?"}]
for _ in range(5): # stop after 5 rounds
msg = client.chat.completions.create(model="auto", messages=messages, tools=tools).choices[0].message
if not msg.tool_calls:
print(msg.content)
break
messages.append(msg)
for call in msg.tool_calls:
try:
args = json.loads(call.function.arguments or "{}")
result = FUNCS[call.function.name](**args)
except Exception as exc: # bad JSON, unknown tool or wrong arguments
result = {"error": str(exc)}
messages.append({"role": "tool", "tool_call_id": call.id, "content": json.dumps(result)})Panggilan alat juga berfungsi dengan stream=True. Anda mendapat ketulan delta.tool_calls, kemudian ketulan akhir dengan finish_reason: "tool_calls". Gabungkan ketulan argumen sebelum anda menghurai JSON.
Guna alat untuk mendapatkan data berstruktur
Panggilan alat juga merupakan cara yang baik untuk mendapatkan data dalam bentuk tetap. Takrifkan satu alat dengan parameter yang merupakan medan yang anda mahu. Tetapkan tool_choice kepada "required", supaya model mesti memanggil alat. Kemudian baca argumen. Anda tidak perlu menjalankan sebarang fungsi.
Python: ekstrak medan dengan panggilan alat yang diperlukan
import json
from openai import OpenAI
client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")
schema = {
"type": "function",
"function": {
"name": "save_contact",
"description": "Save one contact found in the text.",
"parameters": {
"type": "object",
"properties": {"name": {"type": "string"}, "email": {"type": "string"}},
"required": ["name", "email"],
},
},
}
resp = client.chat.completions.create(
model="auto",
messages=[{"role": "user", "content": "Reach Sara Khan at [email protected]."}],
tools=[schema],
tool_choice="required",
)
print(json.loads(resp.choices[0].message.tool_calls[0].function.arguments))Sahkan argumen dengan kod anda sendiri. Model boleh meninggalkan medan yang diperlukan atau menghantar jenis yang salah. Jika semakan gagal, hantar ralat itu kembali dan minta sekali lagi.
Perangkap
- Argumen ialah rentetan:
function.argumentsialah rentetan JSON. Hurai, dan tangkap ralat. Model kecil kadangkala menghantar JSON yang tidak sah. - Padankan ID: setiap mesej alat memerlukan
tool_call_idbagi panggilannya. Tambah mesej pembantu dengantool_callssebelum mesej alat. - Beberapa panggilan sekaligus: model boleh memulangkan lebih daripada satu panggilan alat dalam satu jawapan. Jalankan semuanya, kemudian hantar semua hasil.
- Kos token: setiap takrif alat dihantar dengan setiap permintaan. Dua puluh alat yang besar boleh menggunakan beribu token dan cepat mencapai had token seminit yang rendah. Hantar hanya alat yang diperlukan oleh tugasan.
- Penerangan yang jelas: model memilih alat daripada nama dan penerangannya. Tulis satu ayat pendek yang menyatakan apa yang alat itu lakukan dan bila hendak menggunakannya.
- Hentikan gelung: tetapkan bilangan pusingan maksimum. Model yang lemah boleh memanggil alat yang sama berulang kali.
- Model tanpa alat: sesetengah penyedia percuma tidak menyokong alat. Contohnya, AI Horde membuang alat dan menjawab sebagai sembang biasa.
Penyelesaian masalah
| Masalah | Punca | Penyelesaian |
|---|---|---|
| Model menjawab dalam teks dan tidak memanggil alat | Model lemah dalam alat, atau penerangan tidak jelas | Pin model yang lebih kuat daripada jadual, atau perbaiki penerangan alat |
json.JSONDecodeError pada argumen | Model menghantar JSON yang tidak sah | Tangkap ralat dan hantar kembali sebagai hasil alat, supaya model boleh mencuba lagi |
| Ralat 400 tentang mesej alat | tool_call_id tidak padan, atau mesej pembantu tiada | Tambah mesej pembantu dahulu, kemudian satu mesej alat bagi setiap panggilan |
| Ralat 429 semasa tugasan ejen | Gelung menghantar banyak permintaan besar | Tambah lebih banyak kunci penyedia, dan hantar lebih sedikit alat |
| Gelung tidak berhenti | Model memanggil alat yang sama semula | Tetapkan had pusingan, dan pulangkan hasil yang jelas |
Soalan lazim
API LLM percuma yang manakah menyokong panggilan fungsi?
Gemini, Groq, Cerebras, Mistral, OpenRouter, Cloudflare dan penyedia lain mempunyai model percuma dengan panggilan alat. Katalog FreeLLMAPI mempunyai 190 tawaran model percuma dengan alat hari ini.
Adakah panggilan alat sama dengan panggilan fungsi?
Ya. OpenAI mula-mula menggunakan nama panggilan fungsi. API semasa menggunakan tools dan tool_calls. Kedua-dua nama bermaksud model meminta kod anda menjalankan satu fungsi.
Adakah panggilan alat Gemini berfungsi dengan format OpenAI?
Ya, melalui FreeLLMAPI. Gerbang menterjemah alat OpenAI kepada functionDeclarations Gemini dan menterjemah jawapan kembali kepada tool_calls OpenAI.
Bolehkah saya menstrim panggilan alat?
Boleh. Dengan stream=True, anda mendapat ketulan delta.tool_calls dan finish_reason akhir bernilai tool_calls. Gabungkan ketulan argumen sebelum anda menghuraikannya.
Panduan berkaitan
- Free LLM API untuk ejen AI
- API carian web percuma untuk ejen AI
- Model API pengekodan percuma terbaik
- API LLM percuma untuk LangChain
- API LLM percuma dalam Python
Sumber
- FreeLLMAPI docs: Tool calling (disemak 20 November 2026)
- FreeLLMAPI README: features (disemak 20 November 2026)
- OpenAI API reference: Chat Completions tools (disemak 20 November 2026)