Darmowe API LLM z wywoływaniem funkcji
Wywoływanie funkcji, czyli tool calling, pozwala LLM poprosić Twój kod o uruchomienie funkcji. Używają go agenty, boty czatu z danymi na żywo i ekstrakcja danych o ustalonej strukturze. Katalog FreeLLMAPI ma 190 darmowych ofert modeli z wywoływaniem narzędzi. Wysyłasz tools w stylu OpenAI, a brama tłumaczy je dla każdego dostawcy.
Kod, nazwy modeli i etykiety z katalogu na żywo są podane po angielsku.
Jak wywoływanie narzędzi działa przez FreeLLMAPI
- Wysyłasz wiadomości i listę
tools. Każde narzędzie ma nazwę, opis i JSON Schema dla swoich parametrów. - Model odpowiada
tool_callsifinish_reason: "tool_calls". Sam niczego nie uruchamia. - Twój kod uruchamia funkcję i dodaje wynik jako wiadomość z
role: "tool". - Wysyłasz rozmowę ponownie. Model używa wyniku, aby napisać ostateczną odpowiedź.
Dostawcy zgodni z OpenAI, tacy jak Groq, Cerebras, Mistral, OpenRouter i Cloudflare, dostają żądanie bez zmian. Dla Gemini FreeLLMAPI tłumaczy narzędzia na format functionDeclarations Google i tłumaczy odpowiedź z powrotem. Twój kod jest taki sam dla każdego dostawcy.
Niektóre modele zapisują wywołanie narzędzia jako zwykły tekst, a nie jako prawdziwe wywołanie narzędzia. FreeLLMAPI wykrywa je i zamienia na prawdziwe tool_calls.
Darmowe modele z wywoływaniem narzędzi dziś
Tabela pokazuje najmocniejsze darmowe modele z wywoływaniem narzędzi. Dane pochodzą z katalogu na żywo. Dla agentów sprawdź też rozmiar kontekstu, ponieważ definicje narzędzi i wyniki zużywają dużo tokenów.
| Model | Za darmo w | Kontekst | Darmowe limity (najlepsza oferta) | Narzędzia | Wizja |
|---|---|---|---|---|---|
| GLM 5.3 | UnoRouter | 1M | 1 żądań/min 1 req/min per model | Tak | Nie |
| Qwen3.8 Max | ACLIDE | - | €20/month shared internal usage credits · no card | Tak | Nie |
| GLM 5.3 Flash | NVIDIA NIM, UnoRouter | 1M | 40 żądań/min 40 RPM | Tak | Tak |
| Gemini 3.8 Flash | Google AI Studio | 1M | Recurring provider quota | Tak | Tak |
| Gemini Flash (latest alias) | Google AI Studio | - | 10 żądań/min 20 żądań/dzień 250,000 tokenów/min ~3M | Tak | Tak |
| Qwen3.8 Flash Next | AMD Radeon Cloud | 262K | Recurring daily account allowance | Tak | Nie |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | Tak | Tak |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 żądań/min 20 żądań/dzień 250,000 tokenów/min ~3M | Tak | Tak |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | Tak | Tak |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 żądań/min 50 żądań/dzień 50 req/day account-wide (1,000 after a $10 purchase) | Tak | Tak |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 żądań/min 50 żądań/dzień Shared rate limit | Tak | Nie |
| Qwen3.8 27B | ElectronHub, Groq, OVH AI Endpoints | 262K | 30 żądań/min 250 żądań/dzień 70,000 tokenów/min ~6M | Tak | Tak |
| Gemini 3.6 Flash | Google AI Studio | 1M | 10 żądań/min 20 żądań/dzień 250,000 tokenów/min ~3M | Tak | Tak |
| Qwen 3.8 27B | Cloudflare Workers AI | 262K | Shared 10k neurons/day | Tak | Tak |
| Gemini 3.5 Flash | Google AI Studio | 1M | 10 żądań/min 20 żądań/dzień 250,000 tokenów/min ~3M | Tak | Tak |
Pokazano 15 z 146 pasujących darmowych modeli. Zobacz wszystkie modele.
Dane na żywo z katalogu FreeLLMAPI (wersja 2026.11.19, sprawdzono 2026-11-19). Darmowe limity często się zmieniają. Katalog jest sprawdzany codziennie.
Krok 1: Zainstaluj FreeLLMAPI i dodaj klucze
FreeLLMAPI jest open source. Działa na Twoim komputerze w Dockerze. Klucze dostawców pozostają na Twoim komputerze.
Instalacja (macOS lub Linux)
curl -fsSL https://freellmapi.co/install.sh | bashOtwórz panel pod adresem http://localhost:3001. Dodaj klucze od trzech lub więcej dostawców na stronie Keys. Pętla narzędzi wysyła kilka żądań dla jednego zadania, więc więcej kluczy daje więcej miejsca. Skopiuj swój zunifikowany klucz z tej samej strony.
Krok 2: Uruchom pełną pętlę narzędzi
curl: pierwsze żądanie
curl http://localhost:3001/v1/chat/completions \
-H "Authorization: Bearer <unified-key>" \
-H "Content-Type: application/json" \
-d '{
"model": "auto",
"messages": [{"role": "user", "content": "What is the weather in Karachi?"}],
"tools": [{
"type": "function",
"function": {
"name": "get_weather",
"description": "Get the current weather for a city.",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string"}},
"required": ["city"]
}
}
}]
}'Python: pętla, aż model poda odpowiedź końcową
import json
from openai import OpenAI
client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")
def get_weather(city: str) -> dict:
return {"city": city, "temp_c": 32, "condition": "sunny"} # call a real API here
FUNCS = {"get_weather": get_weather}
tools = [{
"type": "function",
"function": {
"name": "get_weather",
"description": "Get the current weather for a city.",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string"}},
"required": ["city"],
},
},
}]
messages = [{"role": "user", "content": "What is the weather in Karachi and Lahore?"}]
for _ in range(5): # stop after 5 rounds
msg = client.chat.completions.create(model="auto", messages=messages, tools=tools).choices[0].message
if not msg.tool_calls:
print(msg.content)
break
messages.append(msg)
for call in msg.tool_calls:
try:
args = json.loads(call.function.arguments or "{}")
result = FUNCS[call.function.name](**args)
except Exception as exc: # bad JSON, unknown tool or wrong arguments
result = {"error": str(exc)}
messages.append({"role": "tool", "tool_call_id": call.id, "content": json.dumps(result)})Wywoływanie narzędzi działa też z stream=True. Dostajesz fragmenty delta.tool_calls, a potem końcowy fragment z finish_reason: "tool_calls". Połącz fragmenty argumentów, zanim przetworzysz JSON.
Użyj narzędzia do pobrania danych o ustalonej strukturze
Wywoływanie narzędzi to też dobry sposób na dane w ustalonym kształcie. Zdefiniuj jedno narzędzie, którego parametry to pola, których chcesz. Ustaw tool_choice na "required", aby model musiał wywołać narzędzie. Następnie odczytaj argumenty. Nie musisz uruchamiać żadnej funkcji.
Python: wyciągnij pola przez wymagane wywołanie narzędzia
import json
from openai import OpenAI
client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")
schema = {
"type": "function",
"function": {
"name": "save_contact",
"description": "Save one contact found in the text.",
"parameters": {
"type": "object",
"properties": {"name": {"type": "string"}, "email": {"type": "string"}},
"required": ["name", "email"],
},
},
}
resp = client.chat.completions.create(
model="auto",
messages=[{"role": "user", "content": "Reach Sara Khan at [email protected]."}],
tools=[schema],
tool_choice="required",
)
print(json.loads(resp.choices[0].message.tool_calls[0].function.arguments))Sprawdź argumenty własnym kodem. Model może pominąć wymagane pole albo wysłać zły typ. Jeśli sprawdzenie się nie uda, odeślij błąd i poproś ponownie.
Pułapki
- Argumenty są ciągiem:
function.argumentsto ciąg JSON. Przetwórz go i obsłuż błędy. Małe modele czasem wysyłają JSON, który nie jest poprawny. - Dopasuj ID: każda wiadomość narzędzia potrzebuje
tool_call_idswojego wywołania. Dodaj wiadomość asystenta ztool_callsprzed wiadomościami narzędzi. - Kilka wywołań naraz: model może zwrócić więcej niż jedno wywołanie narzędzia w jednej odpowiedzi. Uruchom wszystkie, a potem wyślij wszystkie wyniki.
- Koszt tokenów: każda definicja narzędzia jest wysyłana z każdym żądaniem. Dwadzieścia dużych narzędzi może zużyć tysiące tokenów i szybko dojść do niskiego limitu tokenów na minutę. Wysyłaj tylko narzędzia potrzebne do zadania.
- Jasne opisy: model wybiera narzędzie na podstawie jego nazwy i opisu. Napisz jedno krótkie zdanie, które mówi, co narzędzie robi i kiedy go użyć.
- Zatrzymaj pętlę: ustaw maksymalną liczbę rund. Słaby model może wielokrotnie wywoływać to samo narzędzie.
- Modele bez narzędzi: niektórzy darmowi dostawcy nie obsługują narzędzi. Na przykład AI Horde usuwa narzędzia i odpowiada jako zwykły czat.
Rozwiązywanie problemów
| Problem | Przyczyna | Rozwiązanie |
|---|---|---|
| Model odpowiada tekstem i nie wywołuje narzędzia | Model słabo radzi sobie z narzędziami albo opis nie jest jasny | Przypnij mocniejszy model z tabeli albo popraw opis narzędzia |
json.JSONDecodeError przy argumentach | Model wysłał niepoprawny JSON | Przechwyć błąd i odeślij go jako wynik narzędzia, aby model mógł spróbować ponownie |
| Błąd 400 dotyczący wiadomości narzędzia | tool_call_id się nie zgadza albo brakuje wiadomości asystenta | Najpierw dodaj wiadomość asystenta, potem po jednej wiadomości narzędzia dla każdego wywołania |
| Błąd 429 podczas zadania agenta | Pętla wysyła wiele dużych żądań | Dodaj klucze od większej liczby dostawców i wysyłaj mniej narzędzi |
| Pętla się nie kończy | Model wywołuje to samo narzędzie ponownie | Ustaw limit rund i zwracaj jasne wyniki |
Najczęstsze pytania
Które darmowe API LLM obsługują wywoływanie funkcji?
Gemini, Groq, Cerebras, Mistral, OpenRouter, Cloudflare i inni dostawcy mają darmowe modele z wywoływaniem narzędzi. Katalog FreeLLMAPI ma dziś 190 darmowych ofert modeli z narzędziami.
Czy wywoływanie narzędzi to to samo co wywoływanie funkcji?
Tak. OpenAI jako pierwsze użyło nazwy function calling. Obecne API używa tools i tool_calls. Obie nazwy oznaczają, że model prosi Twój kod o uruchomienie funkcji.
Czy wywoływanie narzędzi Gemini działa w formacie OpenAI?
Tak, przez FreeLLMAPI. Brama tłumaczy narzędzia OpenAI na functionDeclarations Gemini i tłumaczy odpowiedź z powrotem na tool_calls OpenAI.
Czy mogę strumieniować wywołania narzędzi?
Tak. Przy stream=True dostajesz fragmenty delta.tool_calls i końcowe finish_reason równe tool_calls. Połącz fragmenty argumentów, zanim je przetworzysz.
Powiązane poradniki
- Darmowe API LLM dla agentów AI
- Darmowe API wyszukiwania w sieci dla agentów AI
- Najlepsze darmowe API modeli do kodowania
- Darmowe API LLM dla LangChain
- Darmowe API LLM w Pythonie
Źródła
- FreeLLMAPI docs: Tool calling (sprawdzono 20 November 2026)
- FreeLLMAPI README: features (sprawdzono 20 November 2026)
- OpenAI API reference: Chat Completions tools (sprawdzono 20 November 2026)