Home / Gidsen / Gratis LLM API voor AI-agents

Gratis LLM API voor AI-agents

Een AI-agent stuurt veel modelaanvragen voor één taak. Elke stap heeft tool calling en een grote context nodig. Eén gratis tier raakt een agent snel op. FreeLLMAPI bundelt de gratis tiers van 45 providers achter één OpenAI-compatibele sleutel. Bij een limiet die een aanvraag stopt, gaat het door naar de volgende provider, zodat de agent kan doorgaan. Deze gids behandelt tool calling, routering per stap, lange sessies en de MCP-server van de router.

Code, modelnamen en labels uit de live catalogus worden in het Engels getoond.

Wat een agent nodig heeft van een gratis API

BehoefteWaaromWat FreeLLMAPI doet
Tool callingDe agent kiest tools en voert ze uitGeeft OpenAI-stijl tools door aan elke provider. Zet tekstuele toolaanroepen om in echte tool_calls.
Veel aanvragenEén taak kan 20 tot 100 stappen kostenTelt het quotum van elke sleutel en gaat bij 429 naar de volgende sleutel of provider
Grote contextToolresultaten en geschiedenis groeien bij elke stapRouteert naar modellen uit je keten. Je kunt een profiel voor lange context maken.
Stabiel gedragEen modelwisseling midden in een taak kan de agent in verwarring brengenHoudt een sessie 30 minuten op één model. Optionele contextoverdracht bij een wisseling.
ZichtbaarheidJe moet weten welk model faaldeHeaders X-Routed-Via en X-Fallback-Trail bij elk antwoord

Gratis tiers hebben limieten. Failover verdeelt de belasting over je sleutels, maar het totaal is nog steeds de som van de gratis limieten. Voeg voor agentwerk sleutels toe van vier of meer providers.

Gratis modellen met tool calling en 128K+ context
ModelGratis opContextGratis limieten (beste aanbod)ToolsVision
GLM 5.3UnoRouter1M1 aanvragen/min
1 req/min per model
JaNee
GLM 5.3 FlashNVIDIA NIM, UnoRouter1M40 aanvragen/min
40 RPM
JaJa
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaJaJa
Qwen3.8 Flash NextAMD Radeon Cloud262KRecurring daily account allowanceJaNee
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditJaJa
Gemini 3.7 FlashGoogle AI Studio1M10 aanvragen/min
20 aanvragen/dag
250,000 tokens/min
~3M
JaJa
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditJaJa
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 aanvragen/min
50 aanvragen/dag
50 req/day account-wide (1,000 after a $10 purchase)
JaJa
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 aanvragen/min
50 aanvragen/dag
Shared rate limit
JaNee
Qwen3.8 27BElectronHub, Groq, OVH AI Endpoints262K30 aanvragen/min
250 aanvragen/dag
70,000 tokens/min
~6M
JaJa
Gemini 3.6 FlashGoogle AI Studio1M10 aanvragen/min
20 aanvragen/dag
250,000 tokens/min
~3M
JaJa
Qwen 3.8 27BCloudflare Workers AI262KShared 10k neurons/dayJaJa

Toont 12 van 109 overeenkomende gratis modellen. Bekijk alle modellen.

Actuele gegevens uit de FreeLLMAPI-catalogus (versie 2026.11.19, gecontroleerd 2026-11-19). Gratis limieten veranderen vaak. De catalogus wordt elke dag gecontroleerd.

Een volledige agentloop in Python

De loop hieronder gebruikt de officiële OpenAI SDK. Hij stuurt de tools, voert elke toolaanroep uit, stuurt het resultaat terug en stopt zodra het model een definitief antwoord geeft. Hij stopt ook na een maximaal aantal stappen.

agent.py

import json
import os
import time

import openai
from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:3001/v1",
    api_key=os.environ["FREELLMAPI_API_KEY"],  # <unified-key>
    max_retries=3,
)

def get_weather(city: str) -> dict:
    return {"city": city, "temp_c": 18, "sky": "cloudy"}

TOOLS = [{
    "type": "function",
    "function": {
        "name": "get_weather",
        "description": "Get the current weather for a city.",
        "parameters": {
            "type": "object",
            "properties": {"city": {"type": "string"}},
            "required": ["city"],
        },
    },
}]
FUNCTIONS = {"get_weather": get_weather}

def call_model(messages, session_id):
    for attempt in range(5):
        try:
            return client.chat.completions.create(
                model="auto:smart",
                messages=messages,
                tools=TOOLS,
                extra_headers={"X-Session-Id": session_id},
            )
        except openai.RateLimitError as err:
            header = err.response.headers.get("retry-after", "")
            wait = int(header) if header.isdigit() else 2 ** attempt
            time.sleep(min(wait, 60))
    raise RuntimeError("All free providers are at their limit")

def run(task: str, session_id: str, max_steps: int = 10) -> str:
    messages = [
        {"role": "system", "content": "Use the tools when they help. Be brief."},
        {"role": "user", "content": task},
    ]
    for _ in range(max_steps):
        msg = call_model(messages, session_id).choices[0].message
        messages.append(msg)
        if not msg.tool_calls:
            return msg.content
        for call in msg.tool_calls:
            fn = FUNCTIONS.get(call.function.name)
            try:
                args = json.loads(call.function.arguments or "{}")
                result = fn(**args) if fn else {"error": "unknown tool"}
            except Exception as exc:  # return tool errors to the model
                result = {"error": str(exc)}
            messages.append({
                "role": "tool",
                "tool_call_id": call.id,
                "content": json.dumps(result),
            })
    return "Stopped: too many steps."

print(run("Should I take an umbrella in Dublin today?", session_id="task-001"))
  • X-Session-Id: houdt alle stappen van één taak op hetzelfde model zolang dat model quotum heeft.
  • Retry-After: als elke sleutel op zijn limiet zit, geeft de gateway 429 met deze header. De loop wacht en probeert opnieuw.
  • Toolfouten: de loop stuurt fouten terug naar het model als toolresultaat. Het model kan zijn aanroep dan corrigeren.

Stuur elke stap naar het juiste model

Agentstappen zijn niet gelijk. Een planningsstap heeft een sterk model nodig. Een stap die één veld haalt, heeft een snel model nodig. Gebruik voor elk type stap een andere modelstring. Je hoeft het dashboard niet te wijzigen.

ModelstringRangschikt modellen opGebruik voor agents
auto:smartIntelligentiePlanning, toolkeuze, definitieve antwoorden
auto:fastGemeten snelheid en tijd tot het eerste byteExtractie, classificatie, korte samenvattingen van tooluitvoer
auto:reliableRecent slagingspercentageGeplande agents die moeten afronden
auto:balancedBetrouwbaarheid eerst, dan snelheid en intelligentieAlgemene standaard
auto:<profile>Je benoemde fallbackketenEen keten met alleen modellen die tool calling ondersteunen

De strategieën auto:* rangschikken elk ingeschakeld model en negeren de volgorde van je keten. Een aanvraag met tools heeft nog steeds een model met tool calling nodig. Als sommige ingeschakelde modellen tools niet goed ondersteunen, maak dan een profiel met alleen modellen die tool calling ondersteunen. Gebruik daarna auto:<profile> voor toolstappen. Een onbekende profielnaam geeft fout 400.

De header X-FreeLLM-Task-Type: code verschuift voor één aanvraag het routeringsgewicht van snelheid naar intelligentie. Het is een zachte voorkeur. Het wijzigt de capaciteitscontroles of de fallbackketen niet.

Lange agentsessies en modelwisselingen

Tijdens een lange taak kan een model zijn dagelijkse limiet bereiken. De router gaat dan naar een ander model. Het nieuwe model krijgt de volledige berichtengeschiedenis, maar het weet niet dat een ander model de eerdere stappen heeft uitgevoerd.

Zet contextoverdracht aan om één korte systeembericht toe te voegen wanneer het model wisselt. Het bericht vertelt het nieuwe model de taak voort te zetten en de eerdere toolresultaten te behouden.

FreeLLMAPI .env

FREELLMAPI_CONTEXT_HANDOFF=on_model_switch
  • Het overdrachtsbericht wordt alleen toegevoegd wanneer het gekozen model voor een sessie verandert.
  • Sessies worden 3 uur in het geheugen bewaard. Er wordt niets naar schijf geschreven.
  • De sessiesleutel is de header X-Session-Id. Zonder die header is het een hash van het eerste gebruikersbericht.

Gebruik de router als MCP-server

FreeLLMAPI is ook een MCP-server op /mcp. Een agent die MCP spreekt, kan een tekstuele taak naar een FreeLLMAPI-model sturen. Hij kan ook de status van de gateway lezen tijdens een sessie: bruikbare modellen en hun parameters, providerstatus, gebruik en cachestatistieken, en de routeringsstrategie.

Het MCP-oppervlak staat uit bij een nieuwe installatie. Zet het aan in het dashboard op de pagina Keys, onder Agentcompatibiliteit. Zolang het uit staat, geeft /mcp 403.

De MCP-server toevoegen aan Claude Code

claude mcp add --transport http freellmapi http://localhost:3001/mcp \
  --header "Authorization: Bearer <unified-key>"

Elke MCP-client met Streamable HTTP werkt op dezelfde manier. Wijs hem naar /mcp en stuur de uniforme sleutel als Bearer-token. Nuttige tools zijn healthcheck, list_models en ask_freellmapi. De tool ask_freellmapi voert een taak uit via dezelfde chatroute als de API, met routering en fallback.

Voor coding-agents heeft FreeLLMAPI installatiecommando's die de clientconfiguratie voor je schrijven. Voorbeelden zijn npx freellmapi setup-claude, setup-codex, setup-cline, setup-openclaw en setup-hermes. Elk commando ondersteunt --dry-run en maakt eerst een back-up.

Probleemoplossing

ProbleemOorzaakOplossing
Het model antwoordt in tekst en roept geen tool aanHet model ondersteunt tool calling slechtGebruik auto:<profile> met alleen modellen die tool calling ondersteunen
De agent start de taak midden in het proces opnieuwEen limiet dwong een modelwisseling afStuur X-Session-Id mee en zet contextoverdracht aan
Fout 429 na veel stappenAlle sleutels in de keten zitten op hun limietVoeg providers toe, gebruik auto:fast voor kleine stappen en wacht op Retry-After
Fout 400 met auto:nameHet profiel bestaat nietControleer de profielnaam op het dashboard
/mcp geeft 403Het MCP-oppervlak staat uitZet het aan onder Agentcompatibiliteit op de pagina Keys
Fouten door contextlengte laat in een taakDe geschiedenis is groter dan het venster van het modelVat oude toolresultaten samen of gebruik een profiel voor lange context
Gebruik elk van deze met één sleutel. FreeLLMAPI is een open-source router die u zelf host. Die zet al deze gratis tarieven achter één eindpunt dat compatibel is met OpenAI. Bij een snelheidslimiet schakelt de router automatisch over. Bekijk de catalogus of live gaan.

Veelgestelde vragen

Is er een gratis LLM API voor AI-agents?

Ja. Verschillende providers hebben gratis tiers met tool calling. FreeLLMAPI combineert ze achter één OpenAI-compatibele sleutel en gaat naar de volgende provider wanneer een limiet een aanvraag stopt.

Welk gratis LLM is het beste voor tool calling?

Gebruik een model met tool calling en een contextvenster van 128K tokens of meer. De tabel op deze pagina toont de sterkste gratis modellen die vandaag aan beide regels voldoen.

Kan ik FreeLLMAPI als MCP-server gebruiken?

Ja. Zet het MCP-oppervlak aan op de pagina Keys, onder Agentcompatibiliteit. Verbind daarna je MCP-client met /mcp en gebruik de uniforme sleutel als Bearer-token.

Hoe voorkom ik dat een agent faalt op rate limits?

Voeg sleutels van meer providers toe, stuur kleine stappen naar auto:fast, probeer opnieuw bij 429 met de header Retry-After en stel een maximaal aantal stappen in.

Wat gebeurt er als het model midden in een agenttaak wisselt?

Het nieuwe model krijgt de volledige berichtengeschiedenis. Met contextoverdracht aan, krijgt het ook een korte notitie die het vertelt de taak voort te zetten.

Gerelateerde gidsen

Bronnen

Alle gidsen · Bekijk alle gratis modellen