Home / Guide / API LLM gratuita con function calling

API LLM gratuita con function calling

Il function calling, o tool calling, permette a un LLM di chiedere al tuo codice di eseguire una funzione. Agenti, bot di chat con dati in tempo reale ed estrazione di dati strutturati lo usano tutti. Il catalogo di FreeLLMAPI ha 190 offerte di modelli gratuiti con tool calling. Invii tools in stile OpenAI, e il gateway li traduce per ogni provider.

Codice, nomi dei modelli ed etichette del catalogo in tempo reale sono mostrati in inglese.

Come funziona il tool calling tramite FreeLLMAPI

  1. Invii i messaggi e un elenco di tools. Ogni strumento ha un nome, una descrizione e uno JSON Schema per i suoi parametri.
  2. Il modello risponde con tool_calls e finish_reason: "tool_calls". Non esegue nulla da solo.
  3. Il tuo codice esegue la funzione e aggiunge il risultato come messaggio con role: "tool".
  4. Invii di nuovo la conversazione. Il modello usa il risultato per scrivere la risposta finale.

I provider compatibili con OpenAI, come Groq, Cerebras, Mistral, OpenRouter e Cloudflare, ricevono la richiesta così com'è. Per Gemini, FreeLLMAPI traduce gli strumenti nel formato functionDeclarations di Google e riconverte la risposta. Il tuo codice è lo stesso per ogni provider.

Alcuni modelli scrivono una chiamata di strumento come testo semplice e non come vera chiamata di strumento. FreeLLMAPI li riconosce e li trasforma in tool_calls reali.

Modelli gratuiti con tool calling oggi

La tabella mostra i modelli gratuiti più forti con tool calling. I dati vengono dal catalogo aggiornato. Per gli agenti, controlla anche la dimensione del contesto, perché le definizioni degli strumenti e i risultati usano molti token.

Modelli gratuiti con tool calling, dal più forte
ModelloGratis suContestoLimiti gratuiti (offerta migliore)StrumentiVisione
GLM 5.3UnoRouter1M1 richieste/min
1 req/min per model
SìNo
Qwen3.8 MaxACLIDE-€20/month shared internal usage credits · no cardSìNo
GLM 5.3 FlashNVIDIA NIM, UnoRouter1M40 richieste/min
40 RPM
SìSì
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaSìSì
Gemini Flash (latest alias)Google AI Studio-10 richieste/min
20 richieste/giorno
250,000 token/min
~3M
SìSì
Qwen3.8 Flash NextAMD Radeon Cloud262KRecurring daily account allowanceSìNo
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditSìSì
Gemini 3.7 FlashGoogle AI Studio1M10 richieste/min
20 richieste/giorno
250,000 token/min
~3M
SìSì
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditSìSì
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 richieste/min
50 richieste/giorno
50 req/day account-wide (1,000 after a $10 purchase)
SìSì
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 richieste/min
50 richieste/giorno
Shared rate limit
SìNo
Qwen3.8 27BElectronHub, Groq, OVH AI Endpoints262K30 richieste/min
250 richieste/giorno
70,000 token/min
~6M
SìSì
Gemini 3.6 FlashGoogle AI Studio1M10 richieste/min
20 richieste/giorno
250,000 token/min
~3M
SìSì
Qwen 3.8 27BCloudflare Workers AI262KShared 10k neurons/daySìSì
Gemini 3.5 FlashGoogle AI Studio1M10 richieste/min
20 richieste/giorno
250,000 token/min
~3M
SìSì

Mostrati 15 di 146 modelli gratuiti corrispondenti. Vedi tutti i modelli.

Dati in tempo reale dal catalogo FreeLLMAPI (versione 2026.11.19, verificato il 2026-11-19). I limiti gratuiti cambiano spesso. Il catalogo viene verificato ogni giorno.

Passo 1: Installa FreeLLMAPI e aggiungi le chiavi

FreeLLMAPI è open source. Gira sul tuo computer in Docker. Le chiavi dei tuoi provider restano sul tuo computer.

Installa (macOS o Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

Apri la dashboard all'indirizzo http://localhost:3001. Aggiungi chiavi di tre o più provider nella pagina Keys. Un ciclo di strumenti invia più richieste per una sola attività, quindi più chiavi danno più margine. Copia la tua chiave unificata dalla stessa pagina.

Passo 2: Esegui un ciclo di strumenti completo

curl: la prima richiesta

curl http://localhost:3001/v1/chat/completions \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "auto",
    "messages": [{"role": "user", "content": "What is the weather in Karachi?"}],
    "tools": [{
      "type": "function",
      "function": {
        "name": "get_weather",
        "description": "Get the current weather for a city.",
        "parameters": {
          "type": "object",
          "properties": {"city": {"type": "string"}},
          "required": ["city"]
        }
      }
    }]
  }'

Python: ripeti finché il modello dà una risposta finale

import json
from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")

def get_weather(city: str) -> dict:
    return {"city": city, "temp_c": 32, "condition": "sunny"}  # call a real API here

FUNCS = {"get_weather": get_weather}
tools = [{
    "type": "function",
    "function": {
        "name": "get_weather",
        "description": "Get the current weather for a city.",
        "parameters": {
            "type": "object",
            "properties": {"city": {"type": "string"}},
            "required": ["city"],
        },
    },
}]
messages = [{"role": "user", "content": "What is the weather in Karachi and Lahore?"}]

for _ in range(5):  # stop after 5 rounds
    msg = client.chat.completions.create(model="auto", messages=messages, tools=tools).choices[0].message
    if not msg.tool_calls:
        print(msg.content)
        break
    messages.append(msg)
    for call in msg.tool_calls:
        try:
            args = json.loads(call.function.arguments or "{}")
            result = FUNCS[call.function.name](**args)
        except Exception as exc:  # bad JSON, unknown tool or wrong arguments
            result = {"error": str(exc)}
        messages.append({"role": "tool", "tool_call_id": call.id, "content": json.dumps(result)})

Il tool calling funziona anche con stream=True. Ricevi blocchi delta.tool_calls, poi un blocco finale con finish_reason: "tool_calls". Unisci i blocchi degli argomenti prima di analizzare il JSON.

Usa uno strumento per ottenere dati strutturati

Il tool calling è anche un buon modo per ottenere dati in una forma fissa. Definisci uno strumento i cui parametri sono i campi che ti servono. Imposta tool_choice su "required", così il modello deve chiamare uno strumento. Poi leggi gli argomenti. Non serve eseguire alcuna funzione.

Python: estrai i campi con una chiamata di strumento obbligatoria

import json
from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")
schema = {
    "type": "function",
    "function": {
        "name": "save_contact",
        "description": "Save one contact found in the text.",
        "parameters": {
            "type": "object",
            "properties": {"name": {"type": "string"}, "email": {"type": "string"}},
            "required": ["name", "email"],
        },
    },
}
resp = client.chat.completions.create(
    model="auto",
    messages=[{"role": "user", "content": "Reach Sara Khan at [email protected]."}],
    tools=[schema],
    tool_choice="required",
)
print(json.loads(resp.choices[0].message.tool_calls[0].function.arguments))

Valida gli argomenti con il tuo codice. Un modello può omettere un campo obbligatorio o inviare un tipo sbagliato. Se il controllo fallisce, rimanda l'errore e chiedi di nuovo.

Sicurezza: non eseguire chiamate di strumenti con effetti collaterali, come pagamenti, email o cancellazione di file, senza un controllo. Chiedi prima all'utente di confermare queste azioni.

Errori comuni

  • Gli argomenti sono una stringa: function.arguments è una stringa JSON. Analizzala e gestisci gli errori. I modelli piccoli a volte inviano JSON non valido.
  • Abbina gli ID: ogni messaggio dello strumento richiede il tool_call_id della sua chiamata. Aggiungi il messaggio dell'assistente con tool_calls prima dei messaggi dello strumento.
  • Più chiamate insieme: un modello può restituire più chiamate di strumento in una sola risposta. Eseguile tutte, poi invia tutti i risultati.
  • Costo in token: ogni definizione di strumento viene inviata con ogni richiesta. Venti strumenti grandi possono usare migliaia di token e raggiungere in fretta un limite basso di token al minuto. Invia solo gli strumenti che l'attività richiede.
  • Descrizioni chiare: il modello sceglie uno strumento dal suo nome e dalla sua descrizione. Scrivi una frase breve che dica cosa fa lo strumento e quando usarlo.
  • Ferma il ciclo: imposta un numero massimo di turni. Un modello debole può chiamare più volte lo stesso strumento.
  • Modelli senza strumenti: alcuni provider gratuiti non supportano gli strumenti. Per esempio, AI Horde elimina gli strumenti e risponde come chat semplice.
Stesso modello durante un'attività: FreeLLMAPI mantiene una conversazione su un solo modello per 30 minuti. Un ciclo di strumenti di solito resta su un modello. Se un limite costringe a cambiare, il modello successivo riceve tutta la cronologia dei messaggi, inclusi i risultati degli strumenti.

Risoluzione dei problemi

ProblemaCausaSoluzione
Il modello risponde con testo e non chiama alcuno strumentoIl modello è debole con gli strumenti, oppure la descrizione non è chiaraFissa un modello più forte dalla tabella, oppure migliora la descrizione dello strumento
json.JSONDecodeError sugli argomentiIl modello ha inviato JSON non validoGestisci l'errore e rimandalo come risultato dello strumento, così il modello può riprovare
Errore 400 su un messaggio dello strumentoIl tool_call_id non corrisponde, oppure manca il messaggio dell'assistenteAggiungi prima il messaggio dell'assistente, poi un messaggio dello strumento per ogni chiamata
Errore 429 durante un'attività dell'agenteIl ciclo invia molte richieste grandiAggiungi chiavi di altri provider e invia meno strumenti
Il ciclo non si fermaIl modello chiama di nuovo lo stesso strumentoImposta un limite di turni e restituisci risultati chiari
Usa ognuno di questi modelli con una sola chiave. FreeLLMAPI è un router open source self-hosted che mette tutti questi piani gratuiti dietro un unico endpoint compatibile con OpenAI e passa al successivo quando uno raggiunge il limite di frequenza. Sfoglia il catalogo oppure inizia.

Domande frequenti

Quali API LLM gratuite supportano il function calling?

Gemini, Groq, Cerebras, Mistral, OpenRouter, Cloudflare e altri provider hanno modelli gratuiti con tool calling. Oggi il catalogo di FreeLLMAPI ha 190 offerte di modelli gratuiti con strumenti.

Il tool calling è lo stesso del function calling?

Sì. OpenAI ha usato per primo il nome function calling. L'API attuale usa tools e tool_calls. Entrambi i nomi indicano che il modello chiede al tuo codice di eseguire una funzione.

Il tool calling di Gemini funziona con il formato OpenAI?

Sì, tramite FreeLLMAPI. Il gateway traduce gli strumenti OpenAI in functionDeclarations di Gemini e riconverte la risposta in tool_calls di OpenAI.

Posso usare lo streaming per le chiamate di strumenti?

Sì. Con stream=True ricevi blocchi delta.tool_calls e un finish_reason finale di tool_calls. Unisci i blocchi degli argomenti prima di analizzarli.

Guide correlate

Fonti

Tutte le guide · Sfoglia tutti i modelli gratuiti