Бесплатный API для SillyTavern
SillyTavern работает как интерфейс для чатов и ролевых игр на вашем компьютере. Для работы ему нужен API модели. Это руководство подключает SillyTavern к FreeLLMAPI через источник Chat Completion Custom (OpenAI-compatible). FreeLLMAPI объединяет 45 бесплатных уровней провайдеров за одним ключом и переходит к следующему провайдеру, когда лимит останавливает запрос.
Код, названия моделей и метки живого каталога показаны на английском языке.
Перед началом работы
На одном компьютере нужны две программы: SillyTavern и FreeLLMAPI. FreeLLMAPI работает в Docker или как настольное приложение. Установите его одной командой:
Установка FreeLLMAPI (macOS или Linux)
curl -fsSL https://freellmapi.co/install.sh | bash- Откройте панель управления по адресу
http://localhost:3001. - Добавьте бесплатные ключи от двух или более провайдеров на странице Keys. Google AI Studio, Groq и Mistral выдают бесплатный ключ.
- Скопируйте единый ключ на странице Keys. SillyTavern использует только этот ключ.
Настольное приложение слушает адрес http://127.0.0.1:31415. Если вы используете настольное приложение, укажите этот адрес вместо http://localhost:3001 на этой странице.
Шаг 1: подключите SillyTavern
Откройте SillyTavern и нажмите значок API Connections (вилка) в верхней панели. Затем задайте эти поля:
| Поле | Значение |
|---|---|
| API | Chat Completion |
| Chat Completion Source | Custom (OpenAI-compatible) |
| Custom Endpoint (Base URL) | http://localhost:3001/v1 |
| Custom API Key | Ваш единый ключ, <unified-key> |
| Enter a Model ID | auto или ID модели из таблицы ниже |
Нажмите Connect. SillyTavern читает /v1/models и заполняет список Available Models. Не добавляйте /chat/completions к адресу. SillyTavern добавляет путь сам.
auto в поле Enter a Model ID, чтобы маршрутизатор выбрал модель, которая работает сейчас.Нажмите Test Message, чтобы отправить короткий запрос. Если вы получили ответ, подключение работает.
Шаг 2: выберите модели для длинных чатов
Ролевой чат отправляет карточку персонажа, информацию о мире и историю чата с каждым сообщением. Длинный чат может отправлять десятки тысяч токенов каждый раз. Выбирайте модели с большим окном контекста.
Вы можете использовать эти ID моделей в поле Enter a Model ID:
auto: следует цепочке запасных моделей на панели управления.auto:smart: ранжирует включённые модели по интеллекту. Используйте для качества текста.auto:fast: ранжирует включённые модели по измеренной скорости. Используйте для быстрых ответов.- Фиксированный ID модели: даёт один и тот же стиль письма каждый раз, но останавливается, когда исчерпан бесплатный лимит этой модели.
| Модель | Бесплатно в | Контекст | Бесплатные лимиты (лучшее предложение) | Инструменты | Зрение |
|---|---|---|---|---|---|
| GLM 5.3 | APINex, UnoRouter | 1M | 5 запр./мин 10M weighted tokens/day shared across APINex free routes; 4x token multiplier; 5 requests/minute/account | Да | Нет |
| GLM 5.3 Flash | APINex, BlazeAPI, NVIDIA NIM ещё +1 | 1M | 40 запр./мин 40 RPM | Да | Да |
| Gemini 3.8 Flash | APINex, Google AI Studio | 1M | 5 запр./мин 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | Да | Да |
| Qwen3.8 Flash Next | AMD Radeon Cloud, BlazeAPI, ElectronHub | 262K | Recurring daily account allowance | Да | Нет |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | Да | Да |
| Deepseek V4.1 Flash | APINex | 1M | 5 запр./мин 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | Нет | Нет |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 запр./мин 20 запр./день 250,000 токенов/мин ~3M | Да | Да |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | Да | Да |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 запр./мин 50 запр./день 50 req/day account-wide (1,000 after a $10 purchase) | Да | Да |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 запр./мин 50 запр./день Shared rate limit | Да | Нет |
| DeepSeek V4 Flash 0731 | ElectronHub, Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | Нет | Нет |
| Qwen3.8 27B | BlazeAPI, ElectronHub, Gizmo ещё +3 | 262K | 30 запр./мин 250 запр./день 70,000 токенов/мин ~6M | Да | Да |
Показано 12 из 184 подходящих бесплатных моделей. Смотреть все модели.
Актуальные данные из каталога FreeLLMAPI (версия 2026.11.19, проверено 2026-11-19). Бесплатные лимиты часто меняются. Каталог проверяется каждый день.
FreeLLMAPI оставляет разговор на одной модели на 30 минут. Так голос персонажа остаётся одинаковым между сообщениями. Если лимит вынуждает сменить модель, следующая модель продолжает с той же историей чата.
Шаг 3: задайте настройки генерации
Откройте панель AI Response Configuration (значок ползунков). Три настройки сильнее всего влияют на бесплатные уровни:
| Настройка | Рекомендуемое значение | Причина |
|---|---|---|
| Context Size (tokens) | От 16,000 до 32,000 | Меньший контекст отправляет меньше токенов с каждым сообщением. Бесплатные уровни часто ограничивают токены в минуту. |
| Max Response Length (tokens) | От 400 до 800 | Длинные ответы быстро расходуют квоту вывода. Некоторые модели с рассуждениями тратят часть этого бюджета на скрытые размышления. |
| Streaming | Включено | Вы видите текст по мере поступления. FreeLLMAPI использует потоковую передачу у каждого провайдера, до которого может достучаться. |
В SillyTavern также есть опция Prompt Post-Processing для источника Custom. Некоторые провайдеры не принимают два системных сообщения подряд. Если вы получаете ошибки о ролях сообщений, выберите вариант Semi-strict или Strict. Эти варианты объединяют сообщения одной роли. Варианты с пометкой «no tools» также удаляют вызовы инструментов. Варианты с пометкой «with tools» их сохраняют.
Лимиты в длинной ролевой игре
У каждого бесплатного уровня свои лимиты. Например, бесплатный ключ Gemini Flash разрешает мало запросов в день, а ключ Groq разрешает больше запросов с меньшими лимитами токенов. Один вечер ролевой игры может отправить несколько сотен запросов. Один бесплатный ключ столько не выдержит.
- Добавьте больше провайдеров. Каждый ключ добавляет запросы в день. FreeLLMAPI считает квоту каждого ключа и переходит к следующему ключу или провайдеру, когда квота исчерпана.
- Уменьшите контекст. Сократите старые сообщения с помощью расширения Summarize в SillyTavern. Более короткий промпт расходует меньше токенов в минуту.
- Не запускайте серии свайпов. Каждый свайп или повторная генерация создаёт новый запрос.
- Следите за сбросом лимитов. Когда все ключи исчерпали лимит, шлюз возвращает ошибку 429 с заголовком
Retry-After. Многие дневные лимиты сбрасываются в полночь по UTC.
В таблице показаны бесплатные лимиты по провайдерам в актуальном каталоге.
| Провайдер | Бесплатные модели | Макс. запросов/мин | Макс. запросов/день | Макс. токенов/мин | Токенов/месяц (одна модель) | Самая мощная бесплатная модель |
|---|---|---|---|---|---|---|
| ElectronHub | 84 | - | - | - | $0.25/week shared recurring credit | Qwen3.8 Flash (ElectronHub)qwen3.8-flash |
| Cloudflare Workers AI | 39 | - | - | - | ~5-10M | Qwen 3.8 27B (Cloudflare Workers AI)@cf/qwen/qwen3.8-27b |
| Inferbase | 38 | - | - | - | 5,000 requests/month; 100 requests and $0.50 usage/day shared | DeepSeek V4 Flash (fp8) (Inferbase)deepseek-v4-flash:fp8 |
| AI Horde | 31 | - | - | - | Ongoing volunteer queue; availability varies | Gemma 4 31B Heretic (AI Horde)koboldcpp/gemma-4-31B-it-heretic |
| ACLIDE | 29 | - | - | - | €20/month shared internal usage credits · no card | Qwen3.8 Max (ACLIDE)qwen/qwen3.8-max:free |
| Google AI Studio | 21 | 15 | 1,000 | 250,000 | ~3M | Gemini 3.8 Flashgemini-3.8-flash |
| Api.Airforce | 20 | 1 | 1,000 | - | free · 1,000 req/day · 1 req/min | gpt-oss-20b (Api.Airforce)gpt-oss-20b |
| NVIDIA NIM | 19 | 40 | - | - | free · 40 RPM | GLM 5.3 Flash (NV)z-ai/glm-5.3-flash |
| Cohere | 17 | 20 | 33 | - | ~1-2M | Command A+ (05-2026)command-a-plus-05-2026 |
| DreamPrompting | 14 | 100 | 5,000 | - | free · 500K tokens/day · 5,000 req/day | Gemini 3.1 Flash-Litegoogle/gemini-3.1-flash-lite |
| Mistral | 12 | 2 | - | 500,000 | ~50-100M | Mistral Codemistral-code-latest |
| ModelScope | 11 | - | 200 | - | Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experience | GLM-5.2 (ModelScope)ZhipuAI/GLM-5.2 |
Актуальные данные из каталога FreeLLMAPI (версия 2026.11.19, проверено 2026-11-19). Бесплатные лимиты часто меняются. Каталог проверяется каждый день.
Устранение неполадок
| Проблема | Причина | Решение |
|---|---|---|
| Подключение не работает или статус остаётся красным | Неверный адрес или FreeLLMAPI не запущен | Откройте http://localhost:3001 в браузере. Убедитесь, что адрес заканчивается на /v1. |
| Ошибка 401 | Неверный ключ | Вставьте единый ключ заново в поле Custom API Key |
| Выбранная модель всегда выдаёт ошибку | Нет ключа для провайдера этой модели | Добавьте ключ провайдера или введите auto |
| Ошибка 429 после долгой сессии | Все ключи исчерпали лимит | Добавьте ключи от других провайдеров или дождитесь сброса |
| Ошибки о порядке или ролях сообщений | У провайдера строгие правила ролей | Установите Prompt Post-Processing в Semi-strict или Strict |
| Ответы обрываются на середине | Max Response Length слишком мал для модели с рассуждениями | Увеличьте значение или выберите модель без рассуждений |
| Голос персонажа меняется во время чата | Лимит вынудил сменить модель | Закрепите одну модель, которая бесплатна у нескольких провайдеров |
Часто задаваемые вопросы
Есть ли бесплатный API для SillyTavern?
Да. SillyTavern работает с любым API, совместимым с OpenAI, через источник Custom (OpenAI-compatible). FreeLLMAPI даёт один адрес для многих бесплатных уровней провайдеров. У каждого уровня свои лимиты.
Какой базовый адрес для SillyTavern Custom (OpenAI-compatible)?
Используйте http://localhost:3001/v1 для установки сервера FreeLLMAPI или http://127.0.0.1:31415/v1 для настольного приложения. Не добавляйте /chat/completions.
Какая бесплатная модель лучше всего подходит для ролевых игр в SillyTavern?
Используйте модель с окном контекста 128K токенов или больше. Начните с auto:smart для качества или auto:fast для скорости. Таблица на этой странице показывает самые сильные бесплатные модели на сегодня.
Почему я получаю ошибку 429 в SillyTavern?
Бесплатный уровень достиг своего лимита. FreeLLMAPI переходит к следующему ключу или провайдеру. Если все ключи исчерпали лимит, вы получаете 429. Добавьте ключи других провайдеров или уменьшите размер контекста.
Работает ли потоковая передача в SillyTavern с бесплатными API?
Да. Включите Streaming на панели AI Response Configuration. FreeLLMAPI передаёт ответ каждого провайдера потоком в формате OpenAI.
Похожие руководства
- Бесплатный LLM API для Open WebUI
- Бесплатный LLM API с контекстом 1 миллион токенов
- Лимиты запросов бесплатного LLM API
- Базовые URL бесплатных API, совместимых с OpenAI
- Бесплатный LLM API без банковской карты
Источники
- SillyTavern docs: Chat Completion sources, Custom (OpenAI-compatible) (проверено 20 November 2026)
- SillyTavern source: API connection panel labels (public/index.html) (проверено 20 November 2026)
- FreeLLMAPI docs: REST API (routing strategies, model listing, streaming) (проверено 20 November 2026)
- FreeLLMAPI README: features and limitations (проверено 20 November 2026)