Бесплатный LLM API с вызовом функций
Вызов функций, или вызов инструментов, позволяет LLM попросить ваш код выполнить функцию. Этот механизм используют агенты, чат-боты с актуальными данными и структурированное извлечение данных. В каталоге FreeLLMAPI есть 190 предложений бесплатных моделей с вызовом инструментов. Вы отправляете tools в стиле OpenAI, а шлюз переводит их для каждого провайдера.
Код, названия моделей и метки живого каталога показаны на английском языке.
Как вызов инструментов работает через FreeLLMAPI
- Вы отправляете сообщения и список
tools. У каждого инструмента есть имя, описание и JSON Schema для его параметров. - Модель отвечает через
tool_callsиfinish_reason: "tool_calls". Сама она ничего не запускает. - Ваш код выполняет функцию и добавляет результат как сообщение с
role: "tool". - Вы отправляете разговор снова. Модель использует результат, чтобы написать финальный ответ.
Провайдеры, совместимые с OpenAI, например Groq, Cerebras, Mistral, OpenRouter и Cloudflare, получают запрос без изменений. Для Gemini FreeLLMAPI переводит инструменты в формат functionDeclarations и переводит ответ обратно. Код вашего приложения одинаков для всех провайдеров.
Некоторые модели пишут вызов инструмента как обычный текст, а не как настоящий вызов инструмента. FreeLLMAPI распознает такие случаи и превращает их в настоящие tool_calls.
Бесплатные модели с вызовом инструментов на сегодня
В таблице показаны самые сильные бесплатные модели с вызовом инструментов. Данные берутся из актуального каталога. Для агентов также проверяйте размер контекста, потому что определения инструментов и результаты расходуют много токенов.
| Модель | Бесплатно в | Контекст | Бесплатные лимиты (лучшее предложение) | Инструменты | Зрение |
|---|---|---|---|---|---|
| GLM 5.3 | UnoRouter | 1M | 1 запр./мин 1 req/min per model | Да | Нет |
| Qwen3.8 Max | ACLIDE | - | €20/month shared internal usage credits · no card | Да | Нет |
| GLM 5.3 Flash | NVIDIA NIM, UnoRouter | 1M | 40 запр./мин 40 RPM | Да | Да |
| Gemini 3.8 Flash | Google AI Studio | 1M | Recurring provider quota | Да | Да |
| Gemini Flash (latest alias) | Google AI Studio | - | 10 запр./мин 20 запр./день 250,000 токенов/мин ~3M | Да | Да |
| Qwen3.8 Flash Next | AMD Radeon Cloud | 262K | Recurring daily account allowance | Да | Нет |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | Да | Да |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 запр./мин 20 запр./день 250,000 токенов/мин ~3M | Да | Да |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | Да | Да |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 запр./мин 50 запр./день 50 req/day account-wide (1,000 after a $10 purchase) | Да | Да |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 запр./мин 50 запр./день Shared rate limit | Да | Нет |
| Qwen3.8 27B | ElectronHub, Groq, OVH AI Endpoints | 262K | 30 запр./мин 250 запр./день 70,000 токенов/мин ~6M | Да | Да |
| Gemini 3.6 Flash | Google AI Studio | 1M | 10 запр./мин 20 запр./день 250,000 токенов/мин ~3M | Да | Да |
| Qwen 3.8 27B | Cloudflare Workers AI | 262K | Shared 10k neurons/day | Да | Да |
| Gemini 3.5 Flash | Google AI Studio | 1M | 10 запр./мин 20 запр./день 250,000 токенов/мин ~3M | Да | Да |
Показано 15 из 146 подходящих бесплатных моделей. Смотреть все модели.
Актуальные данные из каталога FreeLLMAPI (версия 2026.11.19, проверено 2026-11-19). Бесплатные лимиты часто меняются. Каталог проверяется каждый день.
Шаг 1: установите FreeLLMAPI и добавьте ключи
FreeLLMAPI имеет открытый исходный код. Он работает на вашем компьютере в Docker. Ваши ключи провайдеров остаются на вашем компьютере.
Установка (macOS или Linux)
curl -fsSL https://freellmapi.co/install.sh | bashОткройте панель управления по адресу http://localhost:3001. Добавьте ключи от трех или более провайдеров на странице Keys. Цикл вызова инструментов отправляет несколько запросов на одну задачу, поэтому больше ключей дают больше запаса. Скопируйте единый ключ с той же страницы.
Шаг 2: запустите полный цикл вызова инструментов
curl: первый запрос
curl http://localhost:3001/v1/chat/completions \
-H "Authorization: Bearer <unified-key>" \
-H "Content-Type: application/json" \
-d '{
"model": "auto",
"messages": [{"role": "user", "content": "What is the weather in Karachi?"}],
"tools": [{
"type": "function",
"function": {
"name": "get_weather",
"description": "Get the current weather for a city.",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string"}},
"required": ["city"]
}
}
}]
}'Python: повторяйте, пока модель не даст финальный ответ
import json
from openai import OpenAI
client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")
def get_weather(city: str) -> dict:
return {"city": city, "temp_c": 32, "condition": "sunny"} # call a real API here
FUNCS = {"get_weather": get_weather}
tools = [{
"type": "function",
"function": {
"name": "get_weather",
"description": "Get the current weather for a city.",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string"}},
"required": ["city"],
},
},
}]
messages = [{"role": "user", "content": "What is the weather in Karachi and Lahore?"}]
for _ in range(5): # stop after 5 rounds
msg = client.chat.completions.create(model="auto", messages=messages, tools=tools).choices[0].message
if not msg.tool_calls:
print(msg.content)
break
messages.append(msg)
for call in msg.tool_calls:
try:
args = json.loads(call.function.arguments or "{}")
result = FUNCS[call.function.name](**args)
except Exception as exc: # bad JSON, unknown tool or wrong arguments
result = {"error": str(exc)}
messages.append({"role": "tool", "tool_call_id": call.id, "content": json.dumps(result)})Вызов инструментов также работает с stream=True. Вы получаете фрагменты delta.tool_calls, затем финальный фрагмент с finish_reason: "tool_calls". Соедините фрагменты аргументов перед тем, как разбирать JSON.
Используйте инструмент для получения структурированных данных
Вызов инструментов также хороший способ получить данные в заданной форме. Определите один инструмент, параметры которого являются полями, которые вам нужны. Установите tool_choice в значение "required", чтобы модель обязана была вызвать инструмент. Затем прочитайте аргументы. Запускать никакую функцию не нужно.
Python: извлечение полей с обязательным вызовом инструмента
import json
from openai import OpenAI
client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")
schema = {
"type": "function",
"function": {
"name": "save_contact",
"description": "Save one contact found in the text.",
"parameters": {
"type": "object",
"properties": {"name": {"type": "string"}, "email": {"type": "string"}},
"required": ["name", "email"],
},
},
}
resp = client.chat.completions.create(
model="auto",
messages=[{"role": "user", "content": "Reach Sara Khan at [email protected]."}],
tools=[schema],
tool_choice="required",
)
print(json.loads(resp.choices[0].message.tool_calls[0].function.arguments))Проверяйте аргументы собственным кодом. Модель может пропустить обязательное поле или отправить неверный тип. Если проверка не проходит, отправьте ошибку обратно и спросите снова.
Типичные ошибки
- Аргументы это строка:
function.argumentsэто строка JSON. Разберите ее и обрабатывайте ошибки. Маленькие модели иногда отправляют JSON, который не является корректным. - Совпадайте по ID: каждому сообщению инструмента нужен
tool_call_idсвоего вызова. Добавьте сообщение ассистента сtool_callsперед сообщениями инструментов. - Несколько вызовов сразу: модель может вернуть больше одного вызова инструмента в одном ответе. Выполните все вызовы, затем отправьте все результаты.
- Стоимость токенов: каждое определение инструмента отправляется с каждым запросом. Двадцать больших инструментов могут занять тысячи токенов и быстро достичь низкого лимита токенов в минуту. Отправляйте только те инструменты, которые нужны задаче.
- Понятные описания: модель выбирает инструмент по его имени и описанию. Напишите одно короткое предложение о том, что делает инструмент и когда его использовать.
- Остановите цикл: задайте максимальное число раундов. Слабая модель может снова и снова вызывать один и тот же инструмент.
- Модели без инструментов: некоторые бесплатные провайдеры не поддерживают инструменты. Например, AI Horde убирает инструменты и отвечает как обычный чат.
Устранение неполадок
| Проблема | Причина | Решение |
|---|---|---|
| Модель отвечает текстом и не вызывает инструмент | Модель слабо работает с инструментами или описание неясно | Закрепите более сильную модель из таблицы или улучшите описание инструмента |
json.JSONDecodeError в аргументах | Модель отправила некорректный JSON | Перехватите ошибку и отправьте ее обратно как результат инструмента, чтобы модель могла попробовать снова |
| Ошибка 400 о сообщении инструмента | tool_call_id не совпадает или отсутствует сообщение ассистента | Сначала добавьте сообщение ассистента, затем по одному сообщению инструмента на каждый вызов |
| Ошибка 429 во время задачи агента | Цикл отправляет много больших запросов | Добавьте ключи от большего числа провайдеров и отправляйте меньше инструментов |
| Цикл не останавливается | Модель снова вызывает тот же инструмент | Задайте лимит раундов и возвращайте понятные результаты |
Часто задаваемые вопросы
Какие бесплатные LLM API поддерживают вызов функций?
Gemini, Groq, Cerebras, Mistral, OpenRouter, Cloudflare и другие провайдеры имеют бесплатные модели с вызовом инструментов. В каталоге FreeLLMAPI сегодня есть 190 предложений бесплатных моделей с инструментами.
Это одно и то же: вызов инструментов и вызов функций?
Да. OpenAI сначала использовал название function calling. Текущий API использует tools и tool_calls. Оба названия означают, что модель просит ваш код выполнить функцию.
Работает ли вызов инструментов Gemini в формате OpenAI?
Да, через FreeLLMAPI. Шлюз переводит инструменты OpenAI в functionDeclarations Gemini и переводит ответ обратно в tool_calls OpenAI.
Можно ли передавать вызовы инструментов потоком?
Да. С параметром stream=True вы получаете фрагменты delta.tool_calls и финальное значение finish_reason tool_calls. Соедините фрагменты аргументов, прежде чем их разбирать.
Похожие руководства
- Бесплатный LLM API для ИИ-агентов
- Бесплатный API веб-поиска для AI-агентов
- Лучшие бесплатные API моделей для кода
- Бесплатный LLM API для LangChain
- Бесплатный LLM API на Python
Источники
- FreeLLMAPI docs: Tool calling (проверено 20 November 2026)
- FreeLLMAPI README: features (проверено 20 November 2026)
- OpenAI API reference: Chat Completions tools (проверено 20 November 2026)