Gratis LLM API voor AI-agents
Een AI-agent stuurt veel modelaanvragen voor één taak. Elke stap heeft tool calling en een grote context nodig. Eén gratis tier raakt een agent snel op. FreeLLMAPI bundelt de gratis tiers van 45 providers achter één OpenAI-compatibele sleutel. Bij een limiet die een aanvraag stopt, gaat het door naar de volgende provider, zodat de agent kan doorgaan. Deze gids behandelt tool calling, routering per stap, lange sessies en de MCP-server van de router.
Code, modelnamen en labels uit de live catalogus worden in het Engels getoond.
Wat een agent nodig heeft van een gratis API
| Behoefte | Waarom | Wat FreeLLMAPI doet |
|---|---|---|
| Tool calling | De agent kiest tools en voert ze uit | Geeft OpenAI-stijl tools door aan elke provider. Zet tekstuele toolaanroepen om in echte tool_calls. |
| Veel aanvragen | Eén taak kan 20 tot 100 stappen kosten | Telt het quotum van elke sleutel en gaat bij 429 naar de volgende sleutel of provider |
| Grote context | Toolresultaten en geschiedenis groeien bij elke stap | Routeert naar modellen uit je keten. Je kunt een profiel voor lange context maken. |
| Stabiel gedrag | Een modelwisseling midden in een taak kan de agent in verwarring brengen | Houdt een sessie 30 minuten op één model. Optionele contextoverdracht bij een wisseling. |
| Zichtbaarheid | Je moet weten welk model faalde | Headers X-Routed-Via en X-Fallback-Trail bij elk antwoord |
Gratis tiers hebben limieten. Failover verdeelt de belasting over je sleutels, maar het totaal is nog steeds de som van de gratis limieten. Voeg voor agentwerk sleutels toe van vier of meer providers.
| Model | Gratis op | Context | Gratis limieten (beste aanbod) | Tools | Vision |
|---|---|---|---|---|---|
| GLM 5.3 | UnoRouter | 1M | 1 aanvragen/min 1 req/min per model | Ja | Nee |
| GLM 5.3 Flash | NVIDIA NIM, UnoRouter | 1M | 40 aanvragen/min 40 RPM | Ja | Ja |
| Gemini 3.8 Flash | Google AI Studio | 1M | Recurring provider quota | Ja | Ja |
| Qwen3.8 Flash Next | AMD Radeon Cloud | 262K | Recurring daily account allowance | Ja | Nee |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | Ja | Ja |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 aanvragen/min 20 aanvragen/dag 250,000 tokens/min ~3M | Ja | Ja |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | Ja | Ja |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 aanvragen/min 50 aanvragen/dag 50 req/day account-wide (1,000 after a $10 purchase) | Ja | Ja |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 aanvragen/min 50 aanvragen/dag Shared rate limit | Ja | Nee |
| Qwen3.8 27B | ElectronHub, Groq, OVH AI Endpoints | 262K | 30 aanvragen/min 250 aanvragen/dag 70,000 tokens/min ~6M | Ja | Ja |
| Gemini 3.6 Flash | Google AI Studio | 1M | 10 aanvragen/min 20 aanvragen/dag 250,000 tokens/min ~3M | Ja | Ja |
| Qwen 3.8 27B | Cloudflare Workers AI | 262K | Shared 10k neurons/day | Ja | Ja |
Toont 12 van 109 overeenkomende gratis modellen. Bekijk alle modellen.
Actuele gegevens uit de FreeLLMAPI-catalogus (versie 2026.11.19, gecontroleerd 2026-11-19). Gratis limieten veranderen vaak. De catalogus wordt elke dag gecontroleerd.
Een volledige agentloop in Python
De loop hieronder gebruikt de officiële OpenAI SDK. Hij stuurt de tools, voert elke toolaanroep uit, stuurt het resultaat terug en stopt zodra het model een definitief antwoord geeft. Hij stopt ook na een maximaal aantal stappen.
agent.py
import json
import os
import time
import openai
from openai import OpenAI
client = OpenAI(
base_url="http://localhost:3001/v1",
api_key=os.environ["FREELLMAPI_API_KEY"], # <unified-key>
max_retries=3,
)
def get_weather(city: str) -> dict:
return {"city": city, "temp_c": 18, "sky": "cloudy"}
TOOLS = [{
"type": "function",
"function": {
"name": "get_weather",
"description": "Get the current weather for a city.",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string"}},
"required": ["city"],
},
},
}]
FUNCTIONS = {"get_weather": get_weather}
def call_model(messages, session_id):
for attempt in range(5):
try:
return client.chat.completions.create(
model="auto:smart",
messages=messages,
tools=TOOLS,
extra_headers={"X-Session-Id": session_id},
)
except openai.RateLimitError as err:
header = err.response.headers.get("retry-after", "")
wait = int(header) if header.isdigit() else 2 ** attempt
time.sleep(min(wait, 60))
raise RuntimeError("All free providers are at their limit")
def run(task: str, session_id: str, max_steps: int = 10) -> str:
messages = [
{"role": "system", "content": "Use the tools when they help. Be brief."},
{"role": "user", "content": task},
]
for _ in range(max_steps):
msg = call_model(messages, session_id).choices[0].message
messages.append(msg)
if not msg.tool_calls:
return msg.content
for call in msg.tool_calls:
fn = FUNCTIONS.get(call.function.name)
try:
args = json.loads(call.function.arguments or "{}")
result = fn(**args) if fn else {"error": "unknown tool"}
except Exception as exc: # return tool errors to the model
result = {"error": str(exc)}
messages.append({
"role": "tool",
"tool_call_id": call.id,
"content": json.dumps(result),
})
return "Stopped: too many steps."
print(run("Should I take an umbrella in Dublin today?", session_id="task-001"))- X-Session-Id: houdt alle stappen van één taak op hetzelfde model zolang dat model quotum heeft.
- Retry-After: als elke sleutel op zijn limiet zit, geeft de gateway 429 met deze header. De loop wacht en probeert opnieuw.
- Toolfouten: de loop stuurt fouten terug naar het model als toolresultaat. Het model kan zijn aanroep dan corrigeren.
Stuur elke stap naar het juiste model
Agentstappen zijn niet gelijk. Een planningsstap heeft een sterk model nodig. Een stap die één veld haalt, heeft een snel model nodig. Gebruik voor elk type stap een andere modelstring. Je hoeft het dashboard niet te wijzigen.
| Modelstring | Rangschikt modellen op | Gebruik voor agents |
|---|---|---|
auto:smart | Intelligentie | Planning, toolkeuze, definitieve antwoorden |
auto:fast | Gemeten snelheid en tijd tot het eerste byte | Extractie, classificatie, korte samenvattingen van tooluitvoer |
auto:reliable | Recent slagingspercentage | Geplande agents die moeten afronden |
auto:balanced | Betrouwbaarheid eerst, dan snelheid en intelligentie | Algemene standaard |
auto:<profile> | Je benoemde fallbackketen | Een keten met alleen modellen die tool calling ondersteunen |
De strategieën auto:* rangschikken elk ingeschakeld model en negeren de volgorde van je keten. Een aanvraag met tools heeft nog steeds een model met tool calling nodig. Als sommige ingeschakelde modellen tools niet goed ondersteunen, maak dan een profiel met alleen modellen die tool calling ondersteunen. Gebruik daarna auto:<profile> voor toolstappen. Een onbekende profielnaam geeft fout 400.
De header X-FreeLLM-Task-Type: code verschuift voor één aanvraag het routeringsgewicht van snelheid naar intelligentie. Het is een zachte voorkeur. Het wijzigt de capaciteitscontroles of de fallbackketen niet.
Lange agentsessies en modelwisselingen
Tijdens een lange taak kan een model zijn dagelijkse limiet bereiken. De router gaat dan naar een ander model. Het nieuwe model krijgt de volledige berichtengeschiedenis, maar het weet niet dat een ander model de eerdere stappen heeft uitgevoerd.
Zet contextoverdracht aan om één korte systeembericht toe te voegen wanneer het model wisselt. Het bericht vertelt het nieuwe model de taak voort te zetten en de eerdere toolresultaten te behouden.
FreeLLMAPI .env
FREELLMAPI_CONTEXT_HANDOFF=on_model_switch- Het overdrachtsbericht wordt alleen toegevoegd wanneer het gekozen model voor een sessie verandert.
- Sessies worden 3 uur in het geheugen bewaard. Er wordt niets naar schijf geschreven.
- De sessiesleutel is de header
X-Session-Id. Zonder die header is het een hash van het eerste gebruikersbericht.
Gebruik de router als MCP-server
FreeLLMAPI is ook een MCP-server op /mcp. Een agent die MCP spreekt, kan een tekstuele taak naar een FreeLLMAPI-model sturen. Hij kan ook de status van de gateway lezen tijdens een sessie: bruikbare modellen en hun parameters, providerstatus, gebruik en cachestatistieken, en de routeringsstrategie.
Het MCP-oppervlak staat uit bij een nieuwe installatie. Zet het aan in het dashboard op de pagina Keys, onder Agentcompatibiliteit. Zolang het uit staat, geeft /mcp 403.
De MCP-server toevoegen aan Claude Code
claude mcp add --transport http freellmapi http://localhost:3001/mcp \
--header "Authorization: Bearer <unified-key>"Elke MCP-client met Streamable HTTP werkt op dezelfde manier. Wijs hem naar /mcp en stuur de uniforme sleutel als Bearer-token. Nuttige tools zijn healthcheck, list_models en ask_freellmapi. De tool ask_freellmapi voert een taak uit via dezelfde chatroute als de API, met routering en fallback.
Voor coding-agents heeft FreeLLMAPI installatiecommando's die de clientconfiguratie voor je schrijven. Voorbeelden zijn npx freellmapi setup-claude, setup-codex, setup-cline, setup-openclaw en setup-hermes. Elk commando ondersteunt --dry-run en maakt eerst een back-up.
Probleemoplossing
| Probleem | Oorzaak | Oplossing |
|---|---|---|
| Het model antwoordt in tekst en roept geen tool aan | Het model ondersteunt tool calling slecht | Gebruik auto:<profile> met alleen modellen die tool calling ondersteunen |
| De agent start de taak midden in het proces opnieuw | Een limiet dwong een modelwisseling af | Stuur X-Session-Id mee en zet contextoverdracht aan |
| Fout 429 na veel stappen | Alle sleutels in de keten zitten op hun limiet | Voeg providers toe, gebruik auto:fast voor kleine stappen en wacht op Retry-After |
Fout 400 met auto:name | Het profiel bestaat niet | Controleer de profielnaam op het dashboard |
/mcp geeft 403 | Het MCP-oppervlak staat uit | Zet het aan onder Agentcompatibiliteit op de pagina Keys |
| Fouten door contextlengte laat in een taak | De geschiedenis is groter dan het venster van het model | Vat oude toolresultaten samen of gebruik een profiel voor lange context |
Veelgestelde vragen
Is er een gratis LLM API voor AI-agents?
Ja. Verschillende providers hebben gratis tiers met tool calling. FreeLLMAPI combineert ze achter één OpenAI-compatibele sleutel en gaat naar de volgende provider wanneer een limiet een aanvraag stopt.
Welk gratis LLM is het beste voor tool calling?
Gebruik een model met tool calling en een contextvenster van 128K tokens of meer. De tabel op deze pagina toont de sterkste gratis modellen die vandaag aan beide regels voldoen.
Kan ik FreeLLMAPI als MCP-server gebruiken?
Ja. Zet het MCP-oppervlak aan op de pagina Keys, onder Agentcompatibiliteit. Verbind daarna je MCP-client met /mcp en gebruik de uniforme sleutel als Bearer-token.
Hoe voorkom ik dat een agent faalt op rate limits?
Voeg sleutels van meer providers toe, stuur kleine stappen naar auto:fast, probeer opnieuw bij 429 met de header Retry-After en stel een maximaal aantal stappen in.
Wat gebeurt er als het model midden in een agenttaak wisselt?
Het nieuwe model krijgt de volledige berichtengeschiedenis. Met contextoverdracht aan, krijgt het ook een korte notitie die het vertelt de taak voort te zetten.
Gerelateerde gidsen
- Gratis LLM API met function calling
- Gratis LLM-API in Python
- Gratis LLM-API voor LangChain
- Gratis LLM API voor n8n
- Claude Code gratis gebruiken
- Rate limits van de gratis LLM API
Bronnen
- FreeLLMAPI docs: REST API (tool calling, routing strategies, response headers) (gecontroleerd 20 November 2026)
- FreeLLMAPI docs: clients, MCP server and context handoff (gecontroleerd 20 November 2026)
- OpenAI Python SDK: errors and retries (gecontroleerd 20 November 2026)
- Claude Code docs: MCP (gecontroleerd 20 November 2026)