API LLM gratuita con function calling
Il function calling, o tool calling, permette a un LLM di chiedere al tuo codice di eseguire una funzione. Agenti, bot di chat con dati in tempo reale ed estrazione di dati strutturati lo usano tutti. Il catalogo di FreeLLMAPI ha 190 offerte di modelli gratuiti con tool calling. Invii tools in stile OpenAI, e il gateway li traduce per ogni provider.
Codice, nomi dei modelli ed etichette del catalogo in tempo reale sono mostrati in inglese.
Come funziona il tool calling tramite FreeLLMAPI
- Invii i messaggi e un elenco di
tools. Ogni strumento ha un nome, una descrizione e uno JSON Schema per i suoi parametri. - Il modello risponde con
tool_callsefinish_reason: "tool_calls". Non esegue nulla da solo. - Il tuo codice esegue la funzione e aggiunge il risultato come messaggio con
role: "tool". - Invii di nuovo la conversazione. Il modello usa il risultato per scrivere la risposta finale.
I provider compatibili con OpenAI, come Groq, Cerebras, Mistral, OpenRouter e Cloudflare, ricevono la richiesta così com'è. Per Gemini, FreeLLMAPI traduce gli strumenti nel formato functionDeclarations di Google e riconverte la risposta. Il tuo codice è lo stesso per ogni provider.
Alcuni modelli scrivono una chiamata di strumento come testo semplice e non come vera chiamata di strumento. FreeLLMAPI li riconosce e li trasforma in tool_calls reali.
Modelli gratuiti con tool calling oggi
La tabella mostra i modelli gratuiti più forti con tool calling. I dati vengono dal catalogo aggiornato. Per gli agenti, controlla anche la dimensione del contesto, perché le definizioni degli strumenti e i risultati usano molti token.
| Modello | Gratis su | Contesto | Limiti gratuiti (offerta migliore) | Strumenti | Visione |
|---|---|---|---|---|---|
| GLM 5.3 | UnoRouter | 1M | 1 richieste/min 1 req/min per model | Sì | No |
| Qwen3.8 Max | ACLIDE | - | €20/month shared internal usage credits · no card | Sì | No |
| GLM 5.3 Flash | NVIDIA NIM, UnoRouter | 1M | 40 richieste/min 40 RPM | Sì | Sì |
| Gemini 3.8 Flash | Google AI Studio | 1M | Recurring provider quota | Sì | Sì |
| Gemini Flash (latest alias) | Google AI Studio | - | 10 richieste/min 20 richieste/giorno 250,000 token/min ~3M | Sì | Sì |
| Qwen3.8 Flash Next | AMD Radeon Cloud | 262K | Recurring daily account allowance | Sì | No |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | Sì | Sì |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 richieste/min 20 richieste/giorno 250,000 token/min ~3M | Sì | Sì |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | Sì | Sì |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 richieste/min 50 richieste/giorno 50 req/day account-wide (1,000 after a $10 purchase) | Sì | Sì |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 richieste/min 50 richieste/giorno Shared rate limit | Sì | No |
| Qwen3.8 27B | ElectronHub, Groq, OVH AI Endpoints | 262K | 30 richieste/min 250 richieste/giorno 70,000 token/min ~6M | Sì | Sì |
| Gemini 3.6 Flash | Google AI Studio | 1M | 10 richieste/min 20 richieste/giorno 250,000 token/min ~3M | Sì | Sì |
| Qwen 3.8 27B | Cloudflare Workers AI | 262K | Shared 10k neurons/day | Sì | Sì |
| Gemini 3.5 Flash | Google AI Studio | 1M | 10 richieste/min 20 richieste/giorno 250,000 token/min ~3M | Sì | Sì |
Mostrati 15 di 146 modelli gratuiti corrispondenti. Vedi tutti i modelli.
Dati in tempo reale dal catalogo FreeLLMAPI (versione 2026.11.19, verificato il 2026-11-19). I limiti gratuiti cambiano spesso. Il catalogo viene verificato ogni giorno.
Passo 1: Installa FreeLLMAPI e aggiungi le chiavi
FreeLLMAPI è open source. Gira sul tuo computer in Docker. Le chiavi dei tuoi provider restano sul tuo computer.
Installa (macOS o Linux)
curl -fsSL https://freellmapi.co/install.sh | bashApri la dashboard all'indirizzo http://localhost:3001. Aggiungi chiavi di tre o più provider nella pagina Keys. Un ciclo di strumenti invia più richieste per una sola attività, quindi più chiavi danno più margine. Copia la tua chiave unificata dalla stessa pagina.
Passo 2: Esegui un ciclo di strumenti completo
curl: la prima richiesta
curl http://localhost:3001/v1/chat/completions \
-H "Authorization: Bearer <unified-key>" \
-H "Content-Type: application/json" \
-d '{
"model": "auto",
"messages": [{"role": "user", "content": "What is the weather in Karachi?"}],
"tools": [{
"type": "function",
"function": {
"name": "get_weather",
"description": "Get the current weather for a city.",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string"}},
"required": ["city"]
}
}
}]
}'Python: ripeti finché il modello dà una risposta finale
import json
from openai import OpenAI
client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")
def get_weather(city: str) -> dict:
return {"city": city, "temp_c": 32, "condition": "sunny"} # call a real API here
FUNCS = {"get_weather": get_weather}
tools = [{
"type": "function",
"function": {
"name": "get_weather",
"description": "Get the current weather for a city.",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string"}},
"required": ["city"],
},
},
}]
messages = [{"role": "user", "content": "What is the weather in Karachi and Lahore?"}]
for _ in range(5): # stop after 5 rounds
msg = client.chat.completions.create(model="auto", messages=messages, tools=tools).choices[0].message
if not msg.tool_calls:
print(msg.content)
break
messages.append(msg)
for call in msg.tool_calls:
try:
args = json.loads(call.function.arguments or "{}")
result = FUNCS[call.function.name](**args)
except Exception as exc: # bad JSON, unknown tool or wrong arguments
result = {"error": str(exc)}
messages.append({"role": "tool", "tool_call_id": call.id, "content": json.dumps(result)})Il tool calling funziona anche con stream=True. Ricevi blocchi delta.tool_calls, poi un blocco finale con finish_reason: "tool_calls". Unisci i blocchi degli argomenti prima di analizzare il JSON.
Usa uno strumento per ottenere dati strutturati
Il tool calling è anche un buon modo per ottenere dati in una forma fissa. Definisci uno strumento i cui parametri sono i campi che ti servono. Imposta tool_choice su "required", così il modello deve chiamare uno strumento. Poi leggi gli argomenti. Non serve eseguire alcuna funzione.
Python: estrai i campi con una chiamata di strumento obbligatoria
import json
from openai import OpenAI
client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")
schema = {
"type": "function",
"function": {
"name": "save_contact",
"description": "Save one contact found in the text.",
"parameters": {
"type": "object",
"properties": {"name": {"type": "string"}, "email": {"type": "string"}},
"required": ["name", "email"],
},
},
}
resp = client.chat.completions.create(
model="auto",
messages=[{"role": "user", "content": "Reach Sara Khan at [email protected]."}],
tools=[schema],
tool_choice="required",
)
print(json.loads(resp.choices[0].message.tool_calls[0].function.arguments))Valida gli argomenti con il tuo codice. Un modello può omettere un campo obbligatorio o inviare un tipo sbagliato. Se il controllo fallisce, rimanda l'errore e chiedi di nuovo.
Errori comuni
- Gli argomenti sono una stringa:
function.argumentsè una stringa JSON. Analizzala e gestisci gli errori. I modelli piccoli a volte inviano JSON non valido. - Abbina gli ID: ogni messaggio dello strumento richiede il
tool_call_iddella sua chiamata. Aggiungi il messaggio dell'assistente contool_callsprima dei messaggi dello strumento. - Più chiamate insieme: un modello può restituire più chiamate di strumento in una sola risposta. Eseguile tutte, poi invia tutti i risultati.
- Costo in token: ogni definizione di strumento viene inviata con ogni richiesta. Venti strumenti grandi possono usare migliaia di token e raggiungere in fretta un limite basso di token al minuto. Invia solo gli strumenti che l'attività richiede.
- Descrizioni chiare: il modello sceglie uno strumento dal suo nome e dalla sua descrizione. Scrivi una frase breve che dica cosa fa lo strumento e quando usarlo.
- Ferma il ciclo: imposta un numero massimo di turni. Un modello debole può chiamare più volte lo stesso strumento.
- Modelli senza strumenti: alcuni provider gratuiti non supportano gli strumenti. Per esempio, AI Horde elimina gli strumenti e risponde come chat semplice.
Risoluzione dei problemi
| Problema | Causa | Soluzione |
|---|---|---|
| Il modello risponde con testo e non chiama alcuno strumento | Il modello è debole con gli strumenti, oppure la descrizione non è chiara | Fissa un modello più forte dalla tabella, oppure migliora la descrizione dello strumento |
json.JSONDecodeError sugli argomenti | Il modello ha inviato JSON non valido | Gestisci l'errore e rimandalo come risultato dello strumento, così il modello può riprovare |
| Errore 400 su un messaggio dello strumento | Il tool_call_id non corrisponde, oppure manca il messaggio dell'assistente | Aggiungi prima il messaggio dell'assistente, poi un messaggio dello strumento per ogni chiamata |
| Errore 429 durante un'attività dell'agente | Il ciclo invia molte richieste grandi | Aggiungi chiavi di altri provider e invia meno strumenti |
| Il ciclo non si ferma | Il modello chiama di nuovo lo stesso strumento | Imposta un limite di turni e restituisci risultati chiari |
Domande frequenti
Quali API LLM gratuite supportano il function calling?
Gemini, Groq, Cerebras, Mistral, OpenRouter, Cloudflare e altri provider hanno modelli gratuiti con tool calling. Oggi il catalogo di FreeLLMAPI ha 190 offerte di modelli gratuiti con strumenti.
Il tool calling è lo stesso del function calling?
Sì. OpenAI ha usato per primo il nome function calling. L'API attuale usa tools e tool_calls. Entrambi i nomi indicano che il modello chiede al tuo codice di eseguire una funzione.
Il tool calling di Gemini funziona con il formato OpenAI?
Sì, tramite FreeLLMAPI. Il gateway traduce gli strumenti OpenAI in functionDeclarations di Gemini e riconverte la risposta in tool_calls di OpenAI.
Posso usare lo streaming per le chiamate di strumenti?
Sì. Con stream=True ricevi blocchi delta.tool_calls e un finish_reason finale di tool_calls. Unisci i blocchi degli argomenti prima di analizzarli.
Guide correlate
- Free LLM API per agenti IA
- API di ricerca web gratuita per agenti AI
- Migliori API gratuite per modelli di codice
- API LLM gratuita per LangChain
- API LLM gratuita in Python
Fonti
- FreeLLMAPI docs: Tool calling (verificato il 20 November 2026)
- FreeLLMAPI README: features (verificato il 20 November 2026)
- OpenAI API reference: Chat Completions tools (verificato il 20 November 2026)