Strona główna / Poradniki / Darmowe API LLM z wywoływaniem funkcji

Darmowe API LLM z wywoływaniem funkcji

Wywoływanie funkcji, czyli tool calling, pozwala LLM poprosić Twój kod o uruchomienie funkcji. Używają go agenty, boty czatu z danymi na żywo i ekstrakcja danych o ustalonej strukturze. Katalog FreeLLMAPI ma 190 darmowych ofert modeli z wywoływaniem narzędzi. Wysyłasz tools w stylu OpenAI, a brama tłumaczy je dla każdego dostawcy.

Kod, nazwy modeli i etykiety z katalogu na żywo są podane po angielsku.

Jak wywoływanie narzędzi działa przez FreeLLMAPI

  1. Wysyłasz wiadomości i listę tools. Każde narzędzie ma nazwę, opis i JSON Schema dla swoich parametrów.
  2. Model odpowiada tool_calls i finish_reason: "tool_calls". Sam niczego nie uruchamia.
  3. Twój kod uruchamia funkcję i dodaje wynik jako wiadomość z role: "tool".
  4. Wysyłasz rozmowę ponownie. Model używa wyniku, aby napisać ostateczną odpowiedź.

Dostawcy zgodni z OpenAI, tacy jak Groq, Cerebras, Mistral, OpenRouter i Cloudflare, dostają żądanie bez zmian. Dla Gemini FreeLLMAPI tłumaczy narzędzia na format functionDeclarations Google i tłumaczy odpowiedź z powrotem. Twój kod jest taki sam dla każdego dostawcy.

Niektóre modele zapisują wywołanie narzędzia jako zwykły tekst, a nie jako prawdziwe wywołanie narzędzia. FreeLLMAPI wykrywa je i zamienia na prawdziwe tool_calls.

Darmowe modele z wywoływaniem narzędzi dziś

Tabela pokazuje najmocniejsze darmowe modele z wywoływaniem narzędzi. Dane pochodzą z katalogu na żywo. Dla agentów sprawdź też rozmiar kontekstu, ponieważ definicje narzędzi i wyniki zużywają dużo tokenów.

Darmowe modele z wywoływaniem narzędzi, najmocniejsze na górze
ModelZa darmo wKontekstDarmowe limity (najlepsza oferta)NarzędziaWizja
GLM 5.3UnoRouter1M1 żądań/min
1 req/min per model
TakNie
Qwen3.8 MaxACLIDE-€20/month shared internal usage credits · no cardTakNie
GLM 5.3 FlashNVIDIA NIM, UnoRouter1M40 żądań/min
40 RPM
TakTak
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaTakTak
Gemini Flash (latest alias)Google AI Studio-10 żądań/min
20 żądań/dzień
250,000 tokenów/min
~3M
TakTak
Qwen3.8 Flash NextAMD Radeon Cloud262KRecurring daily account allowanceTakNie
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditTakTak
Gemini 3.7 FlashGoogle AI Studio1M10 żądań/min
20 żądań/dzień
250,000 tokenów/min
~3M
TakTak
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditTakTak
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 żądań/min
50 żądań/dzień
50 req/day account-wide (1,000 after a $10 purchase)
TakTak
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 żądań/min
50 żądań/dzień
Shared rate limit
TakNie
Qwen3.8 27BElectronHub, Groq, OVH AI Endpoints262K30 żądań/min
250 żądań/dzień
70,000 tokenów/min
~6M
TakTak
Gemini 3.6 FlashGoogle AI Studio1M10 żądań/min
20 żądań/dzień
250,000 tokenów/min
~3M
TakTak
Qwen 3.8 27BCloudflare Workers AI262KShared 10k neurons/dayTakTak
Gemini 3.5 FlashGoogle AI Studio1M10 żądań/min
20 żądań/dzień
250,000 tokenów/min
~3M
TakTak

Pokazano 15 z 146 pasujących darmowych modeli. Zobacz wszystkie modele.

Dane na żywo z katalogu FreeLLMAPI (wersja 2026.11.19, sprawdzono 2026-11-19). Darmowe limity często się zmieniają. Katalog jest sprawdzany codziennie.

Krok 1: Zainstaluj FreeLLMAPI i dodaj klucze

FreeLLMAPI jest open source. Działa na Twoim komputerze w Dockerze. Klucze dostawców pozostają na Twoim komputerze.

Instalacja (macOS lub Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

Otwórz panel pod adresem http://localhost:3001. Dodaj klucze od trzech lub więcej dostawców na stronie Keys. Pętla narzędzi wysyła kilka żądań dla jednego zadania, więc więcej kluczy daje więcej miejsca. Skopiuj swój zunifikowany klucz z tej samej strony.

Krok 2: Uruchom pełną pętlę narzędzi

curl: pierwsze żądanie

curl http://localhost:3001/v1/chat/completions \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "auto",
    "messages": [{"role": "user", "content": "What is the weather in Karachi?"}],
    "tools": [{
      "type": "function",
      "function": {
        "name": "get_weather",
        "description": "Get the current weather for a city.",
        "parameters": {
          "type": "object",
          "properties": {"city": {"type": "string"}},
          "required": ["city"]
        }
      }
    }]
  }'

Python: pętla, aż model poda odpowiedź końcową

import json
from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")

def get_weather(city: str) -> dict:
    return {"city": city, "temp_c": 32, "condition": "sunny"}  # call a real API here

FUNCS = {"get_weather": get_weather}
tools = [{
    "type": "function",
    "function": {
        "name": "get_weather",
        "description": "Get the current weather for a city.",
        "parameters": {
            "type": "object",
            "properties": {"city": {"type": "string"}},
            "required": ["city"],
        },
    },
}]
messages = [{"role": "user", "content": "What is the weather in Karachi and Lahore?"}]

for _ in range(5):  # stop after 5 rounds
    msg = client.chat.completions.create(model="auto", messages=messages, tools=tools).choices[0].message
    if not msg.tool_calls:
        print(msg.content)
        break
    messages.append(msg)
    for call in msg.tool_calls:
        try:
            args = json.loads(call.function.arguments or "{}")
            result = FUNCS[call.function.name](**args)
        except Exception as exc:  # bad JSON, unknown tool or wrong arguments
            result = {"error": str(exc)}
        messages.append({"role": "tool", "tool_call_id": call.id, "content": json.dumps(result)})

Wywoływanie narzędzi działa też z stream=True. Dostajesz fragmenty delta.tool_calls, a potem końcowy fragment z finish_reason: "tool_calls". Połącz fragmenty argumentów, zanim przetworzysz JSON.

Użyj narzędzia do pobrania danych o ustalonej strukturze

Wywoływanie narzędzi to też dobry sposób na dane w ustalonym kształcie. Zdefiniuj jedno narzędzie, którego parametry to pola, których chcesz. Ustaw tool_choice na "required", aby model musiał wywołać narzędzie. Następnie odczytaj argumenty. Nie musisz uruchamiać żadnej funkcji.

Python: wyciągnij pola przez wymagane wywołanie narzędzia

import json
from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")
schema = {
    "type": "function",
    "function": {
        "name": "save_contact",
        "description": "Save one contact found in the text.",
        "parameters": {
            "type": "object",
            "properties": {"name": {"type": "string"}, "email": {"type": "string"}},
            "required": ["name", "email"],
        },
    },
}
resp = client.chat.completions.create(
    model="auto",
    messages=[{"role": "user", "content": "Reach Sara Khan at [email protected]."}],
    tools=[schema],
    tool_choice="required",
)
print(json.loads(resp.choices[0].message.tool_calls[0].function.arguments))

Sprawdź argumenty własnym kodem. Model może pominąć wymagane pole albo wysłać zły typ. Jeśli sprawdzenie się nie uda, odeślij błąd i poproś ponownie.

Bezpieczeństwo: nie uruchamiaj wywołań narzędzi z efektami ubocznymi, takimi jak płatności, e-maile lub usuwanie plików, bez sprawdzenia. Najpierw poproś użytkownika o potwierdzenie tych działań.

Pułapki

  • Argumenty są ciągiem: function.arguments to ciąg JSON. Przetwórz go i obsłuż błędy. Małe modele czasem wysyłają JSON, który nie jest poprawny.
  • Dopasuj ID: każda wiadomość narzędzia potrzebuje tool_call_id swojego wywołania. Dodaj wiadomość asystenta z tool_calls przed wiadomościami narzędzi.
  • Kilka wywołań naraz: model może zwrócić więcej niż jedno wywołanie narzędzia w jednej odpowiedzi. Uruchom wszystkie, a potem wyślij wszystkie wyniki.
  • Koszt tokenów: każda definicja narzędzia jest wysyłana z każdym żądaniem. Dwadzieścia dużych narzędzi może zużyć tysiące tokenów i szybko dojść do niskiego limitu tokenów na minutę. Wysyłaj tylko narzędzia potrzebne do zadania.
  • Jasne opisy: model wybiera narzędzie na podstawie jego nazwy i opisu. Napisz jedno krótkie zdanie, które mówi, co narzędzie robi i kiedy go użyć.
  • Zatrzymaj pętlę: ustaw maksymalną liczbę rund. Słaby model może wielokrotnie wywoływać to samo narzędzie.
  • Modele bez narzędzi: niektórzy darmowi dostawcy nie obsługują narzędzi. Na przykład AI Horde usuwa narzędzia i odpowiada jako zwykły czat.
Ten sam model podczas zadania: FreeLLMAPI trzyma rozmowę na jednym modelu przez 30 minut. Pętla narzędzi zwykle zostaje na jednym modelu. Jeśli limit wymusi zmianę, następny model dostaje pełną historię wiadomości, w tym wyniki narzędzi.

Rozwiązywanie problemów

ProblemPrzyczynaRozwiązanie
Model odpowiada tekstem i nie wywołuje narzędziaModel słabo radzi sobie z narzędziami albo opis nie jest jasnyPrzypnij mocniejszy model z tabeli albo popraw opis narzędzia
json.JSONDecodeError przy argumentachModel wysłał niepoprawny JSONPrzechwyć błąd i odeślij go jako wynik narzędzia, aby model mógł spróbować ponownie
Błąd 400 dotyczący wiadomości narzędziatool_call_id się nie zgadza albo brakuje wiadomości asystentaNajpierw dodaj wiadomość asystenta, potem po jednej wiadomości narzędzia dla każdego wywołania
Błąd 429 podczas zadania agentaPętla wysyła wiele dużych żądańDodaj klucze od większej liczby dostawców i wysyłaj mniej narzędzi
Pętla się nie kończyModel wywołuje to samo narzędzie ponownieUstaw limit rund i zwracaj jasne wyniki
Używaj wszystkich tych modeli przez jeden klucz. FreeLLMAPI to router o otwartym kodzie, uruchamiany na własnym serwerze. Łączy wszystkie te darmowe plany za jednym punktem końcowym zgodnym z OpenAI i przełącza się na inny dostawcę, gdy limit zostanie przekroczony. Przeglądaj katalog lub uruchom.

Najczęstsze pytania

Które darmowe API LLM obsługują wywoływanie funkcji?

Gemini, Groq, Cerebras, Mistral, OpenRouter, Cloudflare i inni dostawcy mają darmowe modele z wywoływaniem narzędzi. Katalog FreeLLMAPI ma dziś 190 darmowych ofert modeli z narzędziami.

Czy wywoływanie narzędzi to to samo co wywoływanie funkcji?

Tak. OpenAI jako pierwsze użyło nazwy function calling. Obecne API używa tools i tool_calls. Obie nazwy oznaczają, że model prosi Twój kod o uruchomienie funkcji.

Czy wywoływanie narzędzi Gemini działa w formacie OpenAI?

Tak, przez FreeLLMAPI. Brama tłumaczy narzędzia OpenAI na functionDeclarations Gemini i tłumaczy odpowiedź z powrotem na tool_calls OpenAI.

Czy mogę strumieniować wywołania narzędzi?

Tak. Przy stream=True dostajesz fragmenty delta.tool_calls i końcowe finish_reason równe tool_calls. Połącz fragmenty argumentów, zanim je przetworzysz.

Powiązane poradniki

Źródła

Wszystkie poradniki · Przeglądaj wszystkie darmowe modele