Главная / Руководства / Бесплатный LLM API с вызовом функций

Бесплатный LLM API с вызовом функций

Вызов функций, или вызов инструментов, позволяет LLM попросить ваш код выполнить функцию. Этот механизм используют агенты, чат-боты с актуальными данными и структурированное извлечение данных. В каталоге FreeLLMAPI есть 190 предложений бесплатных моделей с вызовом инструментов. Вы отправляете tools в стиле OpenAI, а шлюз переводит их для каждого провайдера.

Код, названия моделей и метки живого каталога показаны на английском языке.

Как вызов инструментов работает через FreeLLMAPI

  1. Вы отправляете сообщения и список tools. У каждого инструмента есть имя, описание и JSON Schema для его параметров.
  2. Модель отвечает через tool_calls и finish_reason: "tool_calls". Сама она ничего не запускает.
  3. Ваш код выполняет функцию и добавляет результат как сообщение с role: "tool".
  4. Вы отправляете разговор снова. Модель использует результат, чтобы написать финальный ответ.

Провайдеры, совместимые с OpenAI, например Groq, Cerebras, Mistral, OpenRouter и Cloudflare, получают запрос без изменений. Для Gemini FreeLLMAPI переводит инструменты в формат functionDeclarations и переводит ответ обратно. Код вашего приложения одинаков для всех провайдеров.

Некоторые модели пишут вызов инструмента как обычный текст, а не как настоящий вызов инструмента. FreeLLMAPI распознает такие случаи и превращает их в настоящие tool_calls.

Бесплатные модели с вызовом инструментов на сегодня

В таблице показаны самые сильные бесплатные модели с вызовом инструментов. Данные берутся из актуального каталога. Для агентов также проверяйте размер контекста, потому что определения инструментов и результаты расходуют много токенов.

Бесплатные модели с вызовом инструментов, от сильнейших
МодельБесплатно вКонтекстБесплатные лимиты (лучшее предложение)ИнструментыЗрение
GLM 5.3UnoRouter1M1 запр./мин
1 req/min per model
ДаНет
Qwen3.8 MaxACLIDE-€20/month shared internal usage credits · no cardДаНет
GLM 5.3 FlashNVIDIA NIM, UnoRouter1M40 запр./мин
40 RPM
ДаДа
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaДаДа
Gemini Flash (latest alias)Google AI Studio-10 запр./мин
20 запр./день
250,000 токенов/мин
~3M
ДаДа
Qwen3.8 Flash NextAMD Radeon Cloud262KRecurring daily account allowanceДаНет
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditДаДа
Gemini 3.7 FlashGoogle AI Studio1M10 запр./мин
20 запр./день
250,000 токенов/мин
~3M
ДаДа
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditДаДа
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 запр./мин
50 запр./день
50 req/day account-wide (1,000 after a $10 purchase)
ДаДа
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 запр./мин
50 запр./день
Shared rate limit
ДаНет
Qwen3.8 27BElectronHub, Groq, OVH AI Endpoints262K30 запр./мин
250 запр./день
70,000 токенов/мин
~6M
ДаДа
Gemini 3.6 FlashGoogle AI Studio1M10 запр./мин
20 запр./день
250,000 токенов/мин
~3M
ДаДа
Qwen 3.8 27BCloudflare Workers AI262KShared 10k neurons/dayДаДа
Gemini 3.5 FlashGoogle AI Studio1M10 запр./мин
20 запр./день
250,000 токенов/мин
~3M
ДаДа

Показано 15 из 146 подходящих бесплатных моделей. Смотреть все модели.

Актуальные данные из каталога FreeLLMAPI (версия 2026.11.19, проверено 2026-11-19). Бесплатные лимиты часто меняются. Каталог проверяется каждый день.

Шаг 1: установите FreeLLMAPI и добавьте ключи

FreeLLMAPI имеет открытый исходный код. Он работает на вашем компьютере в Docker. Ваши ключи провайдеров остаются на вашем компьютере.

Установка (macOS или Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

Откройте панель управления по адресу http://localhost:3001. Добавьте ключи от трех или более провайдеров на странице Keys. Цикл вызова инструментов отправляет несколько запросов на одну задачу, поэтому больше ключей дают больше запаса. Скопируйте единый ключ с той же страницы.

Шаг 2: запустите полный цикл вызова инструментов

curl: первый запрос

curl http://localhost:3001/v1/chat/completions \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "auto",
    "messages": [{"role": "user", "content": "What is the weather in Karachi?"}],
    "tools": [{
      "type": "function",
      "function": {
        "name": "get_weather",
        "description": "Get the current weather for a city.",
        "parameters": {
          "type": "object",
          "properties": {"city": {"type": "string"}},
          "required": ["city"]
        }
      }
    }]
  }'

Python: повторяйте, пока модель не даст финальный ответ

import json
from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")

def get_weather(city: str) -> dict:
    return {"city": city, "temp_c": 32, "condition": "sunny"}  # call a real API here

FUNCS = {"get_weather": get_weather}
tools = [{
    "type": "function",
    "function": {
        "name": "get_weather",
        "description": "Get the current weather for a city.",
        "parameters": {
            "type": "object",
            "properties": {"city": {"type": "string"}},
            "required": ["city"],
        },
    },
}]
messages = [{"role": "user", "content": "What is the weather in Karachi and Lahore?"}]

for _ in range(5):  # stop after 5 rounds
    msg = client.chat.completions.create(model="auto", messages=messages, tools=tools).choices[0].message
    if not msg.tool_calls:
        print(msg.content)
        break
    messages.append(msg)
    for call in msg.tool_calls:
        try:
            args = json.loads(call.function.arguments or "{}")
            result = FUNCS[call.function.name](**args)
        except Exception as exc:  # bad JSON, unknown tool or wrong arguments
            result = {"error": str(exc)}
        messages.append({"role": "tool", "tool_call_id": call.id, "content": json.dumps(result)})

Вызов инструментов также работает с stream=True. Вы получаете фрагменты delta.tool_calls, затем финальный фрагмент с finish_reason: "tool_calls". Соедините фрагменты аргументов перед тем, как разбирать JSON.

Используйте инструмент для получения структурированных данных

Вызов инструментов также хороший способ получить данные в заданной форме. Определите один инструмент, параметры которого являются полями, которые вам нужны. Установите tool_choice в значение "required", чтобы модель обязана была вызвать инструмент. Затем прочитайте аргументы. Запускать никакую функцию не нужно.

Python: извлечение полей с обязательным вызовом инструмента

import json
from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")
schema = {
    "type": "function",
    "function": {
        "name": "save_contact",
        "description": "Save one contact found in the text.",
        "parameters": {
            "type": "object",
            "properties": {"name": {"type": "string"}, "email": {"type": "string"}},
            "required": ["name", "email"],
        },
    },
}
resp = client.chat.completions.create(
    model="auto",
    messages=[{"role": "user", "content": "Reach Sara Khan at [email protected]."}],
    tools=[schema],
    tool_choice="required",
)
print(json.loads(resp.choices[0].message.tool_calls[0].function.arguments))

Проверяйте аргументы собственным кодом. Модель может пропустить обязательное поле или отправить неверный тип. Если проверка не проходит, отправьте ошибку обратно и спросите снова.

Безопасность: не запускайте вызовы инструментов с побочными эффектами, например платежи, письма или удаление файлов, без проверки. Сначала попросите пользователя подтвердить такие действия.

Типичные ошибки

  • Аргументы это строка: function.arguments это строка JSON. Разберите ее и обрабатывайте ошибки. Маленькие модели иногда отправляют JSON, который не является корректным.
  • Совпадайте по ID: каждому сообщению инструмента нужен tool_call_id своего вызова. Добавьте сообщение ассистента с tool_calls перед сообщениями инструментов.
  • Несколько вызовов сразу: модель может вернуть больше одного вызова инструмента в одном ответе. Выполните все вызовы, затем отправьте все результаты.
  • Стоимость токенов: каждое определение инструмента отправляется с каждым запросом. Двадцать больших инструментов могут занять тысячи токенов и быстро достичь низкого лимита токенов в минуту. Отправляйте только те инструменты, которые нужны задаче.
  • Понятные описания: модель выбирает инструмент по его имени и описанию. Напишите одно короткое предложение о том, что делает инструмент и когда его использовать.
  • Остановите цикл: задайте максимальное число раундов. Слабая модель может снова и снова вызывать один и тот же инструмент.
  • Модели без инструментов: некоторые бесплатные провайдеры не поддерживают инструменты. Например, AI Horde убирает инструменты и отвечает как обычный чат.
Одна модель во время задачи: FreeLLMAPI удерживает разговор на одной модели в течение 30 минут. Цикл вызова инструментов обычно остается на одной модели. Если лимит вынуждает сменить модель, следующая модель получает полную историю сообщений, включая результаты инструментов.

Устранение неполадок

ПроблемаПричинаРешение
Модель отвечает текстом и не вызывает инструментМодель слабо работает с инструментами или описание неясноЗакрепите более сильную модель из таблицы или улучшите описание инструмента
json.JSONDecodeError в аргументахМодель отправила некорректный JSONПерехватите ошибку и отправьте ее обратно как результат инструмента, чтобы модель могла попробовать снова
Ошибка 400 о сообщении инструментаtool_call_id не совпадает или отсутствует сообщение ассистентаСначала добавьте сообщение ассистента, затем по одному сообщению инструмента на каждый вызов
Ошибка 429 во время задачи агентаЦикл отправляет много больших запросовДобавьте ключи от большего числа провайдеров и отправляйте меньше инструментов
Цикл не останавливаетсяМодель снова вызывает тот же инструментЗадайте лимит раундов и возвращайте понятные результаты
Используйте каждую из этих моделей через один ключ. FreeLLMAPI это маршрутизатор с открытым исходным кодом, который работает на вашем сервере. Он объединяет все эти бесплатные тарифы за одной конечной точкой, совместимой с OpenAI, и переключается на другой провайдер, когда достигнут лимит запросов. Открыть каталог или перейти.

Часто задаваемые вопросы

Какие бесплатные LLM API поддерживают вызов функций?

Gemini, Groq, Cerebras, Mistral, OpenRouter, Cloudflare и другие провайдеры имеют бесплатные модели с вызовом инструментов. В каталоге FreeLLMAPI сегодня есть 190 предложений бесплатных моделей с инструментами.

Это одно и то же: вызов инструментов и вызов функций?

Да. OpenAI сначала использовал название function calling. Текущий API использует tools и tool_calls. Оба названия означают, что модель просит ваш код выполнить функцию.

Работает ли вызов инструментов Gemini в формате OpenAI?

Да, через FreeLLMAPI. Шлюз переводит инструменты OpenAI в functionDeclarations Gemini и переводит ответ обратно в tool_calls OpenAI.

Можно ли передавать вызовы инструментов потоком?

Да. С параметром stream=True вы получаете фрагменты delta.tool_calls и финальное значение finish_reason tool_calls. Соедините фрагменты аргументов, прежде чем их разбирать.

Похожие руководства

Источники

Все руководства · Смотреть все бесплатные модели