Gratis LLM API met function calling
Function calling, of tool calling, laat een LLM je code vragen een functie uit te voeren. Agents, chatbots met live data en gestructureerde extractie gebruiken dit allemaal. De FreeLLMAPI-catalogus heeft 190 gratis modelaanbiedingen met tool calling. Je stuurt OpenAI-achtige tools, en de gateway vertaalt ze voor elke provider.
Code, modelnamen en labels uit de live catalogus worden in het Engels getoond.
Zo werkt tool calling via FreeLLMAPI
- Je stuurt de berichten en een lijst met
tools. Elke tool heeft een naam, een beschrijving en een JSON Schema voor zijn parameters. - Het model antwoordt met
tool_callsenfinish_reason: "tool_calls". Het voert zelf niets uit. - Je code voert de functie uit en voegt het resultaat toe als bericht met
role: "tool". - Je stuurt het gesprek opnieuw. Het model gebruikt het resultaat om het eindantwoord te schrijven.
OpenAI-compatibele providers, zoals Groq, Cerebras, Mistral, OpenRouter en Cloudflare, krijgen de aanvraag zoals die is. Voor Gemini vertaalt FreeLLMAPI de tools naar het formaat functionDeclarations van Google en vertaalt het antwoord terug. Je code is voor elke provider hetzelfde.
Sommige modellen schrijven een tool call als gewone tekst en niet als echte tool call. FreeLLMAPI herkent die en zet ze om in echte tool_calls.
Gratis modellen met tool calling nu
De tabel toont de sterkste gratis modellen met tool calling. De gegevens komen uit de actuele catalogus. Controleer voor agents ook de contextgrootte, want tooldefinities en resultaten gebruiken veel tokens.
| Model | Gratis op | Context | Gratis limieten (beste aanbod) | Tools | Vision |
|---|---|---|---|---|---|
| GLM 5.3 | UnoRouter | 1M | 1 aanvragen/min 1 req/min per model | Ja | Nee |
| Qwen3.8 Max | ACLIDE | - | €20/month shared internal usage credits · no card | Ja | Nee |
| GLM 5.3 Flash | NVIDIA NIM, UnoRouter | 1M | 40 aanvragen/min 40 RPM | Ja | Ja |
| Gemini 3.8 Flash | Google AI Studio | 1M | Recurring provider quota | Ja | Ja |
| Gemini Flash (latest alias) | Google AI Studio | - | 10 aanvragen/min 20 aanvragen/dag 250,000 tokens/min ~3M | Ja | Ja |
| Qwen3.8 Flash Next | AMD Radeon Cloud | 262K | Recurring daily account allowance | Ja | Nee |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | Ja | Ja |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 aanvragen/min 20 aanvragen/dag 250,000 tokens/min ~3M | Ja | Ja |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | Ja | Ja |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 aanvragen/min 50 aanvragen/dag 50 req/day account-wide (1,000 after a $10 purchase) | Ja | Ja |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 aanvragen/min 50 aanvragen/dag Shared rate limit | Ja | Nee |
| Qwen3.8 27B | ElectronHub, Groq, OVH AI Endpoints | 262K | 30 aanvragen/min 250 aanvragen/dag 70,000 tokens/min ~6M | Ja | Ja |
| Gemini 3.6 Flash | Google AI Studio | 1M | 10 aanvragen/min 20 aanvragen/dag 250,000 tokens/min ~3M | Ja | Ja |
| Qwen 3.8 27B | Cloudflare Workers AI | 262K | Shared 10k neurons/day | Ja | Ja |
| Gemini 3.5 Flash | Google AI Studio | 1M | 10 aanvragen/min 20 aanvragen/dag 250,000 tokens/min ~3M | Ja | Ja |
Toont 15 van 146 overeenkomende gratis modellen. Bekijk alle modellen.
Actuele gegevens uit de FreeLLMAPI-catalogus (versie 2026.11.19, gecontroleerd 2026-11-19). Gratis limieten veranderen vaak. De catalogus wordt elke dag gecontroleerd.
Stap 1: FreeLLMAPI installeren en sleutels toevoegen
FreeLLMAPI is open source. Het draait op je computer in Docker. Je providersleutels blijven op je computer.
Installeren (macOS of Linux)
curl -fsSL https://freellmapi.co/install.sh | bashOpen het dashboard op http://localhost:3001. Voeg sleutels van drie of meer providers toe op de pagina Keys. Een tool-lus stuurt meerdere aanvragen voor één taak, dus meer sleutels geven meer ruimte. Kopieer je uniforme sleutel van dezelfde pagina.
Stap 2: Een volledige tool-lus uitvoeren
curl: de eerste aanvraag
curl http://localhost:3001/v1/chat/completions \
-H "Authorization: Bearer <unified-key>" \
-H "Content-Type: application/json" \
-d '{
"model": "auto",
"messages": [{"role": "user", "content": "What is the weather in Karachi?"}],
"tools": [{
"type": "function",
"function": {
"name": "get_weather",
"description": "Get the current weather for a city.",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string"}},
"required": ["city"]
}
}
}]
}'Python: lus doorlopen tot het model een eindantwoord geeft
import json
from openai import OpenAI
client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")
def get_weather(city: str) -> dict:
return {"city": city, "temp_c": 32, "condition": "sunny"} # call a real API here
FUNCS = {"get_weather": get_weather}
tools = [{
"type": "function",
"function": {
"name": "get_weather",
"description": "Get the current weather for a city.",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string"}},
"required": ["city"],
},
},
}]
messages = [{"role": "user", "content": "What is the weather in Karachi and Lahore?"}]
for _ in range(5): # stop after 5 rounds
msg = client.chat.completions.create(model="auto", messages=messages, tools=tools).choices[0].message
if not msg.tool_calls:
print(msg.content)
break
messages.append(msg)
for call in msg.tool_calls:
try:
args = json.loads(call.function.arguments or "{}")
result = FUNCS[call.function.name](**args)
except Exception as exc: # bad JSON, unknown tool or wrong arguments
result = {"error": str(exc)}
messages.append({"role": "tool", "tool_call_id": call.id, "content": json.dumps(result)})Tool calling werkt ook met stream=True. Je krijgt delta.tool_calls-chunks, en daarna een laatste chunk met finish_reason: "tool_calls". Voeg de argumentchunks samen voordat je de JSON parseert.
Een tool gebruiken voor gestructureerde data
Tool calling is ook een goede manier om data in een vaste vorm te krijgen. Definieer één tool waarvan de parameters de velden zijn die je wilt. Zet tool_choice op "required", zodat het model een tool moet aanroepen. Lees daarna de argumenten. Je hoeft geen functie uit te voeren.
Python: velden extraheren met een verplichte tool call
import json
from openai import OpenAI
client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")
schema = {
"type": "function",
"function": {
"name": "save_contact",
"description": "Save one contact found in the text.",
"parameters": {
"type": "object",
"properties": {"name": {"type": "string"}, "email": {"type": "string"}},
"required": ["name", "email"],
},
},
}
resp = client.chat.completions.create(
model="auto",
messages=[{"role": "user", "content": "Reach Sara Khan at [email protected]."}],
tools=[schema],
tool_choice="required",
)
print(json.loads(resp.choices[0].message.tool_calls[0].function.arguments))Valideer de argumenten met je eigen code. Een model kan een verplicht veld weglaten of een verkeerd type sturen. Mislukt de controle, stuur dan de fout terug en vraag opnieuw.
Valkuilen
- Argumenten zijn een string:
function.argumentsis een JSON-string. Parseer die, en vang fouten op. Kleine modellen sturen soms JSON die niet geldig is. - Zorg dat de id's overeenkomen: elk tool-bericht heeft de
tool_call_idvan zijn aanroep nodig. Voeg het assistentbericht met detool_callstoe vóór de tool-berichten. - Meerdere aanroepen tegelijk: een model kan in één antwoord meer dan één tool call teruggeven. Voer ze allemaal uit en stuur daarna alle resultaten.
- Tokenkosten: elke tooldefinitie wordt bij elke aanvraag meegestuurd. Twintig grote tools kunnen duizenden tokens gebruiken en snel een lage limiet op tokens per minuut bereiken. Stuur alleen de tools die de taak nodig heeft.
- Duidelijke beschrijvingen: het model kiest een tool op basis van de naam en beschrijving. Schrijf één korte zin die zegt wat de tool doet en wanneer je hem gebruikt.
- Stop de lus: stel een maximum aantal rondes in. Een zwak model kan steeds dezelfde tool opnieuw aanroepen.
- Modellen zonder tools: sommige gratis providers ondersteunen geen tools. AI Horde laat de tools bijvoorbeeld weg en antwoordt als gewone chat.
Problemen oplossen
| Probleem | Oorzaak | Oplossing |
|---|---|---|
| Het model antwoordt in tekst en roept geen tool aan | Het model is zwak in tools, of de beschrijving is niet duidelijk | Zet een sterker model uit de tabel vast, of verbeter de beschrijving van de tool |
json.JSONDecodeError bij argumenten | Het model heeft ongeldige JSON gestuurd | Vang de fout op en stuur die terug als toolresultaat, zodat het model het opnieuw kan proberen |
| Fout 400 over een tool-bericht | De tool_call_id komt niet overeen, of het assistentbericht ontbreekt | Voeg eerst het assistentbericht toe, en daarna één tool-bericht voor elke aanroep |
| Fout 429 tijdens een agenttaak | De lus stuurt veel grote aanvragen | Voeg meer providersleutels toe, en stuur minder tools |
| De lus stopt niet | Het model roept dezelfde tool opnieuw aan | Stel een rondelimiet in, en geef duidelijke resultaten terug |
Veelgestelde vragen
Welke gratis LLM API's ondersteunen function calling?
Gemini, Groq, Cerebras, Mistral, OpenRouter, Cloudflare en andere providers hebben gratis modellen met tool calling. De FreeLLMAPI-catalogus heeft vandaag 190 gratis modelaanbiedingen met tools.
Is tool calling hetzelfde als function calling?
Ja. OpenAI gebruikte eerst de naam function calling. De huidige API gebruikt tools en tool_calls. Beide namen betekenen dat het model je code vraagt een functie uit te voeren.
Werkt Gemini tool calling met het OpenAI-formaat?
Ja, via FreeLLMAPI. De gateway vertaalt OpenAI-tools naar Gemini functionDeclarations en vertaalt het antwoord terug naar OpenAI tool_calls.
Kan ik tool calls streamen?
Ja. Met stream=True krijg je delta.tool_calls-chunks en een laatste finish_reason van tool_calls. Voeg de argumentchunks samen voordat je ze parseert.
Gerelateerde gidsen
- Gratis LLM API voor AI-agents
- Gratis webzoek-API voor AI-agents
- Beste gratis API's voor codemodellen
- Gratis LLM-API voor LangChain
- Gratis LLM-API in Python
Bronnen
- FreeLLMAPI docs: Tool calling (gecontroleerd 20 November 2026)
- FreeLLMAPI README: features (gecontroleerd 20 November 2026)
- OpenAI API reference: Chat Completions tools (gecontroleerd 20 November 2026)