Главная / Руководства / Бесплатный API для SillyTavern

Бесплатный API для SillyTavern

SillyTavern работает как интерфейс для чатов и ролевых игр на вашем компьютере. Для работы ему нужен API модели. Это руководство подключает SillyTavern к FreeLLMAPI через источник Chat Completion Custom (OpenAI-compatible). FreeLLMAPI объединяет 45 бесплатных уровней провайдеров за одним ключом и переходит к следующему провайдеру, когда лимит останавливает запрос.

Код, названия моделей и метки живого каталога показаны на английском языке.

Перед началом работы

На одном компьютере нужны две программы: SillyTavern и FreeLLMAPI. FreeLLMAPI работает в Docker или как настольное приложение. Установите его одной командой:

Установка FreeLLMAPI (macOS или Linux)

curl -fsSL https://freellmapi.co/install.sh | bash
  1. Откройте панель управления по адресу http://localhost:3001.
  2. Добавьте бесплатные ключи от двух или более провайдеров на странице Keys. Google AI Studio, Groq и Mistral выдают бесплатный ключ.
  3. Скопируйте единый ключ на странице Keys. SillyTavern использует только этот ключ.

Настольное приложение слушает адрес http://127.0.0.1:31415. Если вы используете настольное приложение, укажите этот адрес вместо http://localhost:3001 на этой странице.

Шаг 1: подключите SillyTavern

Откройте SillyTavern и нажмите значок API Connections (вилка) в верхней панели. Затем задайте эти поля:

ПолеЗначение
APIChat Completion
Chat Completion SourceCustom (OpenAI-compatible)
Custom Endpoint (Base URL)http://localhost:3001/v1
Custom API KeyВаш единый ключ, <unified-key>
Enter a Model IDauto или ID модели из таблицы ниже

Нажмите Connect. SillyTavern читает /v1/models и заполняет список Available Models. Не добавляйте /chat/completions к адресу. SillyTavern добавляет путь сам.

Примечание: список Available Models показывает весь каталог FreeLLMAPI. В нём есть и модели, которые пока нельзя вызвать, потому что вы не добавили ключ для их провайдера. Введите auto в поле Enter a Model ID, чтобы маршрутизатор выбрал модель, которая работает сейчас.

Нажмите Test Message, чтобы отправить короткий запрос. Если вы получили ответ, подключение работает.

Шаг 2: выберите модели для длинных чатов

Ролевой чат отправляет карточку персонажа, информацию о мире и историю чата с каждым сообщением. Длинный чат может отправлять десятки тысяч токенов каждый раз. Выбирайте модели с большим окном контекста.

Вы можете использовать эти ID моделей в поле Enter a Model ID:

  • auto: следует цепочке запасных моделей на панели управления.
  • auto:smart: ранжирует включённые модели по интеллекту. Используйте для качества текста.
  • auto:fast: ранжирует включённые модели по измеренной скорости. Используйте для быстрых ответов.
  • Фиксированный ID модели: даёт один и тот же стиль письма каждый раз, но останавливается, когда исчерпан бесплатный лимит этой модели.
Бесплатные модели с контекстом 128K+ для длинных чатов
МодельБесплатно вКонтекстБесплатные лимиты (лучшее предложение)ИнструментыЗрение
GLM 5.3APINex, UnoRouter1M5 запр./мин
10M weighted tokens/day shared across APINex free routes; 4x token multiplier; 5 requests/minute/account
ДаНет
GLM 5.3 FlashAPINex, BlazeAPI, NVIDIA NIM ещё +11M40 запр./мин
40 RPM
ДаДа
Gemini 3.8 FlashAPINex, Google AI Studio1M5 запр./мин
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
ДаДа
Qwen3.8 Flash NextAMD Radeon Cloud, BlazeAPI, ElectronHub262KRecurring daily account allowanceДаНет
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditДаДа
Deepseek V4.1 FlashAPINex1M5 запр./мин
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
НетНет
Gemini 3.7 FlashGoogle AI Studio1M10 запр./мин
20 запр./день
250,000 токенов/мин
~3M
ДаДа
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditДаДа
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 запр./мин
50 запр./день
50 req/day account-wide (1,000 after a $10 purchase)
ДаДа
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 запр./мин
50 запр./день
Shared rate limit
ДаНет
DeepSeek V4 Flash 0731ElectronHub, Router91M10,000 credits/month (~$1), shared; account-anniversary resetНетНет
Qwen3.8 27BBlazeAPI, ElectronHub, Gizmo ещё +3262K30 запр./мин
250 запр./день
70,000 токенов/мин
~6M
ДаДа

Показано 12 из 184 подходящих бесплатных моделей. Смотреть все модели.

Актуальные данные из каталога FreeLLMAPI (версия 2026.11.19, проверено 2026-11-19). Бесплатные лимиты часто меняются. Каталог проверяется каждый день.

FreeLLMAPI оставляет разговор на одной модели на 30 минут. Так голос персонажа остаётся одинаковым между сообщениями. Если лимит вынуждает сменить модель, следующая модель продолжает с той же историей чата.

Шаг 3: задайте настройки генерации

Откройте панель AI Response Configuration (значок ползунков). Три настройки сильнее всего влияют на бесплатные уровни:

НастройкаРекомендуемое значениеПричина
Context Size (tokens)От 16,000 до 32,000Меньший контекст отправляет меньше токенов с каждым сообщением. Бесплатные уровни часто ограничивают токены в минуту.
Max Response Length (tokens)От 400 до 800Длинные ответы быстро расходуют квоту вывода. Некоторые модели с рассуждениями тратят часть этого бюджета на скрытые размышления.
StreamingВключеноВы видите текст по мере поступления. FreeLLMAPI использует потоковую передачу у каждого провайдера, до которого может достучаться.

В SillyTavern также есть опция Prompt Post-Processing для источника Custom. Некоторые провайдеры не принимают два системных сообщения подряд. Если вы получаете ошибки о ролях сообщений, выберите вариант Semi-strict или Strict. Эти варианты объединяют сообщения одной роли. Варианты с пометкой «no tools» также удаляют вызовы инструментов. Варианты с пометкой «with tools» их сохраняют.

Лимиты в длинной ролевой игре

У каждого бесплатного уровня свои лимиты. Например, бесплатный ключ Gemini Flash разрешает мало запросов в день, а ключ Groq разрешает больше запросов с меньшими лимитами токенов. Один вечер ролевой игры может отправить несколько сотен запросов. Один бесплатный ключ столько не выдержит.

  • Добавьте больше провайдеров. Каждый ключ добавляет запросы в день. FreeLLMAPI считает квоту каждого ключа и переходит к следующему ключу или провайдеру, когда квота исчерпана.
  • Уменьшите контекст. Сократите старые сообщения с помощью расширения Summarize в SillyTavern. Более короткий промпт расходует меньше токенов в минуту.
  • Не запускайте серии свайпов. Каждый свайп или повторная генерация создаёт новый запрос.
  • Следите за сбросом лимитов. Когда все ключи исчерпали лимит, шлюз возвращает ошибку 429 с заголовком Retry-After. Многие дневные лимиты сбрасываются в полночь по UTC.

В таблице показаны бесплатные лимиты по провайдерам в актуальном каталоге.

ПровайдерБесплатные моделиМакс. запросов/минМакс. запросов/деньМакс. токенов/минТокенов/месяц (одна модель)Самая мощная бесплатная модель
ElectronHub84---$0.25/week shared recurring creditQwen3.8 Flash (ElectronHub)
qwen3.8-flash
Cloudflare Workers AI39---~5-10MQwen 3.8 27B (Cloudflare Workers AI)
@cf/qwen/qwen3.8-27b
Inferbase38---5,000 requests/month; 100 requests and $0.50 usage/day sharedDeepSeek V4 Flash (fp8) (Inferbase)
deepseek-v4-flash:fp8
AI Horde31---Ongoing volunteer queue; availability variesGemma 4 31B Heretic (AI Horde)
koboldcpp/gemma-4-31B-it-heretic
ACLIDE29---€20/month shared internal usage credits · no cardQwen3.8 Max (ACLIDE)
qwen/qwen3.8-max:free
Google AI Studio21151,000250,000~3MGemini 3.8 Flash
gemini-3.8-flash
Api.Airforce2011,000-free · 1,000 req/day · 1 req/mingpt-oss-20b (Api.Airforce)
gpt-oss-20b
NVIDIA NIM1940--free · 40 RPMGLM 5.3 Flash (NV)
z-ai/glm-5.3-flash
Cohere172033-~1-2MCommand A+ (05-2026)
command-a-plus-05-2026
DreamPrompting141005,000-free · 500K tokens/day · 5,000 req/dayGemini 3.1 Flash-Lite
google/gemini-3.1-flash-lite
Mistral122-500,000~50-100MMistral Code
mistral-code-latest
ModelScope11-200-Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experienceGLM-5.2 (ModelScope)
ZhipuAI/GLM-5.2

Актуальные данные из каталога FreeLLMAPI (версия 2026.11.19, проверено 2026-11-19). Бесплатные лимиты часто меняются. Каталог проверяется каждый день.

Политика содержимого: каждый провайдер применяет собственную политику использования к бесплатным запросам. Провайдер может отказать в некоторых материалах. FreeLLMAPI не меняет того, что разрешает провайдер.

Устранение неполадок

ПроблемаПричинаРешение
Подключение не работает или статус остаётся краснымНеверный адрес или FreeLLMAPI не запущенОткройте http://localhost:3001 в браузере. Убедитесь, что адрес заканчивается на /v1.
Ошибка 401Неверный ключВставьте единый ключ заново в поле Custom API Key
Выбранная модель всегда выдаёт ошибкуНет ключа для провайдера этой моделиДобавьте ключ провайдера или введите auto
Ошибка 429 после долгой сессииВсе ключи исчерпали лимитДобавьте ключи от других провайдеров или дождитесь сброса
Ошибки о порядке или ролях сообщенийУ провайдера строгие правила ролейУстановите Prompt Post-Processing в Semi-strict или Strict
Ответы обрываются на серединеMax Response Length слишком мал для модели с рассуждениямиУвеличьте значение или выберите модель без рассуждений
Голос персонажа меняется во время чатаЛимит вынудил сменить модельЗакрепите одну модель, которая бесплатна у нескольких провайдеров
Используйте каждую из этих моделей через один ключ. FreeLLMAPI это маршрутизатор с открытым исходным кодом, который работает на вашем сервере. Он объединяет все эти бесплатные тарифы за одной конечной точкой, совместимой с OpenAI, и переключается на другой провайдер, когда достигнут лимит запросов. Открыть каталог или перейти.

Часто задаваемые вопросы

Есть ли бесплатный API для SillyTavern?

Да. SillyTavern работает с любым API, совместимым с OpenAI, через источник Custom (OpenAI-compatible). FreeLLMAPI даёт один адрес для многих бесплатных уровней провайдеров. У каждого уровня свои лимиты.

Какой базовый адрес для SillyTavern Custom (OpenAI-compatible)?

Используйте http://localhost:3001/v1 для установки сервера FreeLLMAPI или http://127.0.0.1:31415/v1 для настольного приложения. Не добавляйте /chat/completions.

Какая бесплатная модель лучше всего подходит для ролевых игр в SillyTavern?

Используйте модель с окном контекста 128K токенов или больше. Начните с auto:smart для качества или auto:fast для скорости. Таблица на этой странице показывает самые сильные бесплатные модели на сегодня.

Почему я получаю ошибку 429 в SillyTavern?

Бесплатный уровень достиг своего лимита. FreeLLMAPI переходит к следующему ключу или провайдеру. Если все ключи исчерпали лимит, вы получаете 429. Добавьте ключи других провайдеров или уменьшите размер контекста.

Работает ли потоковая передача в SillyTavern с бесплатными API?

Да. Включите Streaming на панели AI Response Configuration. FreeLLMAPI передаёт ответ каждого провайдера потоком в формате OpenAI.

Похожие руководства

Источники

Все руководства · Смотреть все бесплатные модели