Laman utama / Panduan / API LLM percuma dengan panggilan fungsi

API LLM percuma dengan panggilan fungsi

Panggilan fungsi, atau panggilan alat, membolehkan LLM meminta kod anda menjalankan satu fungsi. Ejen, bot sembang dengan data langsung dan pengekstrakan berstruktur semuanya menggunakannya. Katalog FreeLLMAPI mempunyai 190 tawaran model percuma dengan panggilan alat. Anda menghantar tools gaya OpenAI, dan gerbang menterjemahkannya untuk setiap penyedia.

Kod, nama model dan label katalog langsung dipaparkan dalam bahasa Inggeris.

Cara panggilan alat berfungsi melalui FreeLLMAPI

  1. Anda menghantar mesej dan senarai tools. Setiap alat mempunyai nama, penerangan dan JSON Schema bagi parameternya.
  2. Model menjawab dengan tool_calls dan finish_reason: "tool_calls". Ia tidak menjalankan apa-apa sendiri.
  3. Kod anda menjalankan fungsi dan menambah hasilnya sebagai mesej dengan role: "tool".
  4. Anda menghantar perbualan itu semula. Model menggunakan hasil itu untuk menulis jawapan akhir.

Penyedia yang serasi dengan OpenAI, seperti Groq, Cerebras, Mistral, OpenRouter dan Cloudflare, menerima permintaan seperti sedia ada. Untuk Gemini, FreeLLMAPI menterjemah alat ke dalam format functionDeclarations Google dan menterjemah jawapan kembali. Kod anda sama untuk setiap penyedia.

Sesetengah model menulis panggilan alat sebagai teks biasa dan bukan sebagai panggilan alat sebenar. FreeLLMAPI mengesannya dan menukarnya kepada tool_calls sebenar.

Model percuma dengan panggilan alat hari ini

Jadual menunjukkan model percuma terkuat dengan panggilan alat. Data datang daripada katalog langsung. Untuk ejen, semak juga saiz konteks, kerana takrif alat dan hasil menggunakan banyak token.

Model percuma dengan panggilan alat, terkuat dahulu
ModelPercuma padaKonteksHad percuma (tawaran terbaik)AlatPenglihatan
GLM 5.3UnoRouter1M1 permintaan/minit
1 req/min per model
YaTidak
Qwen3.8 MaxACLIDE-€20/month shared internal usage credits · no cardYaTidak
GLM 5.3 FlashNVIDIA NIM, UnoRouter1M40 permintaan/minit
40 RPM
YaYa
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaYaYa
Gemini Flash (latest alias)Google AI Studio-10 permintaan/minit
20 permintaan/hari
250,000 token/minit
~3M
YaYa
Qwen3.8 Flash NextAMD Radeon Cloud262KRecurring daily account allowanceYaTidak
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditYaYa
Gemini 3.7 FlashGoogle AI Studio1M10 permintaan/minit
20 permintaan/hari
250,000 token/minit
~3M
YaYa
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditYaYa
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 permintaan/minit
50 permintaan/hari
50 req/day account-wide (1,000 after a $10 purchase)
YaYa
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 permintaan/minit
50 permintaan/hari
Shared rate limit
YaTidak
Qwen3.8 27BElectronHub, Groq, OVH AI Endpoints262K30 permintaan/minit
250 permintaan/hari
70,000 token/minit
~6M
YaYa
Gemini 3.6 FlashGoogle AI Studio1M10 permintaan/minit
20 permintaan/hari
250,000 token/minit
~3M
YaYa
Qwen 3.8 27BCloudflare Workers AI262KShared 10k neurons/dayYaYa
Gemini 3.5 FlashGoogle AI Studio1M10 permintaan/minit
20 permintaan/hari
250,000 token/minit
~3M
YaYa

Memaparkan 15 daripada 146 model percuma yang sepadan. Lihat semua model.

Data langsung daripada katalog FreeLLMAPI (versi 2026.11.19, disemak 2026-11-19). Had percuma kerap berubah. Katalog disemak setiap hari.

Langkah 1: Pasang FreeLLMAPI dan tambah kunci

FreeLLMAPI ialah sumber terbuka. Ia dijalankan pada komputer anda dalam Docker. Kunci penyedia anda kekal pada komputer anda.

Pasang (macOS atau Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

Buka papan pemuka di http://localhost:3001. Tambah kunci daripada tiga penyedia atau lebih pada halaman Keys. Gelung alat menghantar beberapa permintaan untuk satu tugasan, jadi lebih banyak kunci memberi lebih banyak ruang. Salin kunci bersatu anda daripada halaman yang sama.

Langkah 2: Jalankan gelung alat yang lengkap

curl: permintaan pertama

curl http://localhost:3001/v1/chat/completions \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "auto",
    "messages": [{"role": "user", "content": "What is the weather in Karachi?"}],
    "tools": [{
      "type": "function",
      "function": {
        "name": "get_weather",
        "description": "Get the current weather for a city.",
        "parameters": {
          "type": "object",
          "properties": {"city": {"type": "string"}},
          "required": ["city"]
        }
      }
    }]
  }'

Python: ulang sehingga model memberikan jawapan akhir

import json
from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")

def get_weather(city: str) -> dict:
    return {"city": city, "temp_c": 32, "condition": "sunny"}  # call a real API here

FUNCS = {"get_weather": get_weather}
tools = [{
    "type": "function",
    "function": {
        "name": "get_weather",
        "description": "Get the current weather for a city.",
        "parameters": {
            "type": "object",
            "properties": {"city": {"type": "string"}},
            "required": ["city"],
        },
    },
}]
messages = [{"role": "user", "content": "What is the weather in Karachi and Lahore?"}]

for _ in range(5):  # stop after 5 rounds
    msg = client.chat.completions.create(model="auto", messages=messages, tools=tools).choices[0].message
    if not msg.tool_calls:
        print(msg.content)
        break
    messages.append(msg)
    for call in msg.tool_calls:
        try:
            args = json.loads(call.function.arguments or "{}")
            result = FUNCS[call.function.name](**args)
        except Exception as exc:  # bad JSON, unknown tool or wrong arguments
            result = {"error": str(exc)}
        messages.append({"role": "tool", "tool_call_id": call.id, "content": json.dumps(result)})

Panggilan alat juga berfungsi dengan stream=True. Anda mendapat ketulan delta.tool_calls, kemudian ketulan akhir dengan finish_reason: "tool_calls". Gabungkan ketulan argumen sebelum anda menghurai JSON.

Guna alat untuk mendapatkan data berstruktur

Panggilan alat juga merupakan cara yang baik untuk mendapatkan data dalam bentuk tetap. Takrifkan satu alat dengan parameter yang merupakan medan yang anda mahu. Tetapkan tool_choice kepada "required", supaya model mesti memanggil alat. Kemudian baca argumen. Anda tidak perlu menjalankan sebarang fungsi.

Python: ekstrak medan dengan panggilan alat yang diperlukan

import json
from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")
schema = {
    "type": "function",
    "function": {
        "name": "save_contact",
        "description": "Save one contact found in the text.",
        "parameters": {
            "type": "object",
            "properties": {"name": {"type": "string"}, "email": {"type": "string"}},
            "required": ["name", "email"],
        },
    },
}
resp = client.chat.completions.create(
    model="auto",
    messages=[{"role": "user", "content": "Reach Sara Khan at [email protected]."}],
    tools=[schema],
    tool_choice="required",
)
print(json.loads(resp.choices[0].message.tool_calls[0].function.arguments))

Sahkan argumen dengan kod anda sendiri. Model boleh meninggalkan medan yang diperlukan atau menghantar jenis yang salah. Jika semakan gagal, hantar ralat itu kembali dan minta sekali lagi.

Keselamatan: jangan jalankan panggilan alat yang mempunyai kesan sampingan, seperti pembayaran, e-mel atau pemadaman fail, tanpa semakan. Minta pengguna mengesahkan tindakan ini dahulu.

Perangkap

  • Argumen ialah rentetan: function.arguments ialah rentetan JSON. Hurai, dan tangkap ralat. Model kecil kadangkala menghantar JSON yang tidak sah.
  • Padankan ID: setiap mesej alat memerlukan tool_call_id bagi panggilannya. Tambah mesej pembantu dengan tool_calls sebelum mesej alat.
  • Beberapa panggilan sekaligus: model boleh memulangkan lebih daripada satu panggilan alat dalam satu jawapan. Jalankan semuanya, kemudian hantar semua hasil.
  • Kos token: setiap takrif alat dihantar dengan setiap permintaan. Dua puluh alat yang besar boleh menggunakan beribu token dan cepat mencapai had token seminit yang rendah. Hantar hanya alat yang diperlukan oleh tugasan.
  • Penerangan yang jelas: model memilih alat daripada nama dan penerangannya. Tulis satu ayat pendek yang menyatakan apa yang alat itu lakukan dan bila hendak menggunakannya.
  • Hentikan gelung: tetapkan bilangan pusingan maksimum. Model yang lemah boleh memanggil alat yang sama berulang kali.
  • Model tanpa alat: sesetengah penyedia percuma tidak menyokong alat. Contohnya, AI Horde membuang alat dan menjawab sebagai sembang biasa.
Model yang sama semasa tugasan: FreeLLMAPI mengekalkan satu perbualan pada satu model selama 30 minit. Gelung alat biasanya kekal pada satu model. Jika had memaksa perubahan, model seterusnya menerima sejarah mesej penuh, termasuk hasil alat.

Penyelesaian masalah

MasalahPuncaPenyelesaian
Model menjawab dalam teks dan tidak memanggil alatModel lemah dalam alat, atau penerangan tidak jelasPin model yang lebih kuat daripada jadual, atau perbaiki penerangan alat
json.JSONDecodeError pada argumenModel menghantar JSON yang tidak sahTangkap ralat dan hantar kembali sebagai hasil alat, supaya model boleh mencuba lagi
Ralat 400 tentang mesej alattool_call_id tidak padan, atau mesej pembantu tiadaTambah mesej pembantu dahulu, kemudian satu mesej alat bagi setiap panggilan
Ralat 429 semasa tugasan ejenGelung menghantar banyak permintaan besarTambah lebih banyak kunci penyedia, dan hantar lebih sedikit alat
Gelung tidak berhentiModel memanggil alat yang sama semulaTetapkan had pusingan, dan pulangkan hasil yang jelas
Guna setiap satu daripada ini melalui satu kunci. FreeLLMAPI ialah penghala sumber terbuka yang anda hoskan sendiri. Ia meletakkan semua peringkat percuma ini di belakang satu titik akhir serasi OpenAI dan beralih ke pembekal lain apabila had kadar dicapai. Layari katalog atau mula sekarang.

Soalan lazim

API LLM percuma yang manakah menyokong panggilan fungsi?

Gemini, Groq, Cerebras, Mistral, OpenRouter, Cloudflare dan penyedia lain mempunyai model percuma dengan panggilan alat. Katalog FreeLLMAPI mempunyai 190 tawaran model percuma dengan alat hari ini.

Adakah panggilan alat sama dengan panggilan fungsi?

Ya. OpenAI mula-mula menggunakan nama panggilan fungsi. API semasa menggunakan tools dan tool_calls. Kedua-dua nama bermaksud model meminta kod anda menjalankan satu fungsi.

Adakah panggilan alat Gemini berfungsi dengan format OpenAI?

Ya, melalui FreeLLMAPI. Gerbang menterjemah alat OpenAI kepada functionDeclarations Gemini dan menterjemah jawapan kembali kepada tool_calls OpenAI.

Bolehkah saya menstrim panggilan alat?

Boleh. Dengan stream=True, anda mendapat ketulan delta.tool_calls dan finish_reason akhir bernilai tool_calls. Gabungkan ketulan argumen sebelum anda menghuraikannya.

Panduan berkaitan

Sumber

Semua panduan · Lihat semua model percuma