Home / Gidsen / Gratis LLM API met function calling

Gratis LLM API met function calling

Function calling, of tool calling, laat een LLM je code vragen een functie uit te voeren. Agents, chatbots met live data en gestructureerde extractie gebruiken dit allemaal. De FreeLLMAPI-catalogus heeft 190 gratis modelaanbiedingen met tool calling. Je stuurt OpenAI-achtige tools, en de gateway vertaalt ze voor elke provider.

Code, modelnamen en labels uit de live catalogus worden in het Engels getoond.

Zo werkt tool calling via FreeLLMAPI

  1. Je stuurt de berichten en een lijst met tools. Elke tool heeft een naam, een beschrijving en een JSON Schema voor zijn parameters.
  2. Het model antwoordt met tool_calls en finish_reason: "tool_calls". Het voert zelf niets uit.
  3. Je code voert de functie uit en voegt het resultaat toe als bericht met role: "tool".
  4. Je stuurt het gesprek opnieuw. Het model gebruikt het resultaat om het eindantwoord te schrijven.

OpenAI-compatibele providers, zoals Groq, Cerebras, Mistral, OpenRouter en Cloudflare, krijgen de aanvraag zoals die is. Voor Gemini vertaalt FreeLLMAPI de tools naar het formaat functionDeclarations van Google en vertaalt het antwoord terug. Je code is voor elke provider hetzelfde.

Sommige modellen schrijven een tool call als gewone tekst en niet als echte tool call. FreeLLMAPI herkent die en zet ze om in echte tool_calls.

Gratis modellen met tool calling nu

De tabel toont de sterkste gratis modellen met tool calling. De gegevens komen uit de actuele catalogus. Controleer voor agents ook de contextgrootte, want tooldefinities en resultaten gebruiken veel tokens.

Gratis modellen met tool calling, sterkste eerst
ModelGratis opContextGratis limieten (beste aanbod)ToolsVision
GLM 5.3UnoRouter1M1 aanvragen/min
1 req/min per model
JaNee
Qwen3.8 MaxACLIDE-€20/month shared internal usage credits · no cardJaNee
GLM 5.3 FlashNVIDIA NIM, UnoRouter1M40 aanvragen/min
40 RPM
JaJa
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaJaJa
Gemini Flash (latest alias)Google AI Studio-10 aanvragen/min
20 aanvragen/dag
250,000 tokens/min
~3M
JaJa
Qwen3.8 Flash NextAMD Radeon Cloud262KRecurring daily account allowanceJaNee
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditJaJa
Gemini 3.7 FlashGoogle AI Studio1M10 aanvragen/min
20 aanvragen/dag
250,000 tokens/min
~3M
JaJa
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditJaJa
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 aanvragen/min
50 aanvragen/dag
50 req/day account-wide (1,000 after a $10 purchase)
JaJa
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 aanvragen/min
50 aanvragen/dag
Shared rate limit
JaNee
Qwen3.8 27BElectronHub, Groq, OVH AI Endpoints262K30 aanvragen/min
250 aanvragen/dag
70,000 tokens/min
~6M
JaJa
Gemini 3.6 FlashGoogle AI Studio1M10 aanvragen/min
20 aanvragen/dag
250,000 tokens/min
~3M
JaJa
Qwen 3.8 27BCloudflare Workers AI262KShared 10k neurons/dayJaJa
Gemini 3.5 FlashGoogle AI Studio1M10 aanvragen/min
20 aanvragen/dag
250,000 tokens/min
~3M
JaJa

Toont 15 van 146 overeenkomende gratis modellen. Bekijk alle modellen.

Actuele gegevens uit de FreeLLMAPI-catalogus (versie 2026.11.19, gecontroleerd 2026-11-19). Gratis limieten veranderen vaak. De catalogus wordt elke dag gecontroleerd.

Stap 1: FreeLLMAPI installeren en sleutels toevoegen

FreeLLMAPI is open source. Het draait op je computer in Docker. Je providersleutels blijven op je computer.

Installeren (macOS of Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

Open het dashboard op http://localhost:3001. Voeg sleutels van drie of meer providers toe op de pagina Keys. Een tool-lus stuurt meerdere aanvragen voor één taak, dus meer sleutels geven meer ruimte. Kopieer je uniforme sleutel van dezelfde pagina.

Stap 2: Een volledige tool-lus uitvoeren

curl: de eerste aanvraag

curl http://localhost:3001/v1/chat/completions \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "auto",
    "messages": [{"role": "user", "content": "What is the weather in Karachi?"}],
    "tools": [{
      "type": "function",
      "function": {
        "name": "get_weather",
        "description": "Get the current weather for a city.",
        "parameters": {
          "type": "object",
          "properties": {"city": {"type": "string"}},
          "required": ["city"]
        }
      }
    }]
  }'

Python: lus doorlopen tot het model een eindantwoord geeft

import json
from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")

def get_weather(city: str) -> dict:
    return {"city": city, "temp_c": 32, "condition": "sunny"}  # call a real API here

FUNCS = {"get_weather": get_weather}
tools = [{
    "type": "function",
    "function": {
        "name": "get_weather",
        "description": "Get the current weather for a city.",
        "parameters": {
            "type": "object",
            "properties": {"city": {"type": "string"}},
            "required": ["city"],
        },
    },
}]
messages = [{"role": "user", "content": "What is the weather in Karachi and Lahore?"}]

for _ in range(5):  # stop after 5 rounds
    msg = client.chat.completions.create(model="auto", messages=messages, tools=tools).choices[0].message
    if not msg.tool_calls:
        print(msg.content)
        break
    messages.append(msg)
    for call in msg.tool_calls:
        try:
            args = json.loads(call.function.arguments or "{}")
            result = FUNCS[call.function.name](**args)
        except Exception as exc:  # bad JSON, unknown tool or wrong arguments
            result = {"error": str(exc)}
        messages.append({"role": "tool", "tool_call_id": call.id, "content": json.dumps(result)})

Tool calling werkt ook met stream=True. Je krijgt delta.tool_calls-chunks, en daarna een laatste chunk met finish_reason: "tool_calls". Voeg de argumentchunks samen voordat je de JSON parseert.

Een tool gebruiken voor gestructureerde data

Tool calling is ook een goede manier om data in een vaste vorm te krijgen. Definieer één tool waarvan de parameters de velden zijn die je wilt. Zet tool_choice op "required", zodat het model een tool moet aanroepen. Lees daarna de argumenten. Je hoeft geen functie uit te voeren.

Python: velden extraheren met een verplichte tool call

import json
from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")
schema = {
    "type": "function",
    "function": {
        "name": "save_contact",
        "description": "Save one contact found in the text.",
        "parameters": {
            "type": "object",
            "properties": {"name": {"type": "string"}, "email": {"type": "string"}},
            "required": ["name", "email"],
        },
    },
}
resp = client.chat.completions.create(
    model="auto",
    messages=[{"role": "user", "content": "Reach Sara Khan at [email protected]."}],
    tools=[schema],
    tool_choice="required",
)
print(json.loads(resp.choices[0].message.tool_calls[0].function.arguments))

Valideer de argumenten met je eigen code. Een model kan een verplicht veld weglaten of een verkeerd type sturen. Mislukt de controle, stuur dan de fout terug en vraag opnieuw.

Veiligheid: voer tool calls met bijwerkingen, zoals betalingen, e-mails of het verwijderen van bestanden, niet uit zonder controle. Vraag de gebruiker eerst om deze acties te bevestigen.

Valkuilen

  • Argumenten zijn een string: function.arguments is een JSON-string. Parseer die, en vang fouten op. Kleine modellen sturen soms JSON die niet geldig is.
  • Zorg dat de id's overeenkomen: elk tool-bericht heeft de tool_call_id van zijn aanroep nodig. Voeg het assistentbericht met de tool_calls toe vóór de tool-berichten.
  • Meerdere aanroepen tegelijk: een model kan in één antwoord meer dan één tool call teruggeven. Voer ze allemaal uit en stuur daarna alle resultaten.
  • Tokenkosten: elke tooldefinitie wordt bij elke aanvraag meegestuurd. Twintig grote tools kunnen duizenden tokens gebruiken en snel een lage limiet op tokens per minuut bereiken. Stuur alleen de tools die de taak nodig heeft.
  • Duidelijke beschrijvingen: het model kiest een tool op basis van de naam en beschrijving. Schrijf één korte zin die zegt wat de tool doet en wanneer je hem gebruikt.
  • Stop de lus: stel een maximum aantal rondes in. Een zwak model kan steeds dezelfde tool opnieuw aanroepen.
  • Modellen zonder tools: sommige gratis providers ondersteunen geen tools. AI Horde laat de tools bijvoorbeeld weg en antwoordt als gewone chat.
Zelfde model tijdens een taak: FreeLLMAPI houdt een gesprek 30 minuten op één model. Een tool-lus blijft meestal op één model. Dwingt een limiet tot een wissel, dan krijgt het volgende model de volledige berichtgeschiedenis, inclusief de toolresultaten.

Problemen oplossen

ProbleemOorzaakOplossing
Het model antwoordt in tekst en roept geen tool aanHet model is zwak in tools, of de beschrijving is niet duidelijkZet een sterker model uit de tabel vast, of verbeter de beschrijving van de tool
json.JSONDecodeError bij argumentenHet model heeft ongeldige JSON gestuurdVang de fout op en stuur die terug als toolresultaat, zodat het model het opnieuw kan proberen
Fout 400 over een tool-berichtDe tool_call_id komt niet overeen, of het assistentbericht ontbreektVoeg eerst het assistentbericht toe, en daarna één tool-bericht voor elke aanroep
Fout 429 tijdens een agenttaakDe lus stuurt veel grote aanvragenVoeg meer providersleutels toe, en stuur minder tools
De lus stopt nietHet model roept dezelfde tool opnieuw aanStel een rondelimiet in, en geef duidelijke resultaten terug
Gebruik elk van deze met één sleutel. FreeLLMAPI is een open-source router die u zelf host. Die zet al deze gratis tarieven achter één eindpunt dat compatibel is met OpenAI. Bij een snelheidslimiet schakelt de router automatisch over. Bekijk de catalogus of live gaan.

Veelgestelde vragen

Welke gratis LLM API's ondersteunen function calling?

Gemini, Groq, Cerebras, Mistral, OpenRouter, Cloudflare en andere providers hebben gratis modellen met tool calling. De FreeLLMAPI-catalogus heeft vandaag 190 gratis modelaanbiedingen met tools.

Is tool calling hetzelfde als function calling?

Ja. OpenAI gebruikte eerst de naam function calling. De huidige API gebruikt tools en tool_calls. Beide namen betekenen dat het model je code vraagt een functie uit te voeren.

Werkt Gemini tool calling met het OpenAI-formaat?

Ja, via FreeLLMAPI. De gateway vertaalt OpenAI-tools naar Gemini functionDeclarations en vertaalt het antwoord terug naar OpenAI tool_calls.

Kan ik tool calls streamen?

Ja. Met stream=True krijg je delta.tool_calls-chunks en een laatste finish_reason van tool_calls. Voeg de argumentchunks samen voordat je ze parseert.

Gerelateerde gidsen

Bronnen

Alle gidsen · Bekijk alle gratis modellen