Безкоштовний API для SillyTavern
SillyTavern це інтерфейс для чатів і рольової гри, який ви запускаєте на своєму комп'ютері. Йому потрібен API моделі. Цей посібник підключає SillyTavern до FreeLLMAPI через джерело Chat Completion Custom (OpenAI-compatible). FreeLLMAPI об'єднує 45 безкоштовних рівнів провайдерів за одним ключем і переходить до наступного провайдера, коли ліміт зупиняє запит.
Код, назви моделей і мітки живого каталогу показано англійською.
Перш ніж почати
Вам потрібні дві програми на одному комп'ютері: SillyTavern і FreeLLMAPI. FreeLLMAPI працює в Docker або як настільний застосунок. Встановіть його однією командою:
Встановіть FreeLLMAPI (macOS або Linux)
curl -fsSL https://freellmapi.co/install.sh | bash- Відкрийте панель керування за адресою
http://localhost:3001. - Додайте безкоштовні ключі від двох або більше провайдерів на сторінці Keys. Google AI Studio, Groq і Mistral видають безкоштовний ключ.
- Скопіюйте уніфікований ключ зі сторінки Keys. SillyTavern використовує лише цей ключ.
Настільний застосунок слухає http://127.0.0.1:31415. Якщо ви використовуєте настільний застосунок, вживайте цю адресу замість http://localhost:3001 на цій сторінці.
Крок 1: підключіть SillyTavern
Відкрийте SillyTavern і натисніть значок API Connections (штекер) у верхній панелі. Потім заповніть такі поля:
| Поле | Значення |
|---|---|
| API | Chat Completion |
| Chat Completion Source | Custom (OpenAI-compatible) |
| Custom Endpoint (Base URL) | http://localhost:3001/v1 |
| Custom API Key | Ваш уніфікований ключ, <unified-key> |
| Enter a Model ID | auto або ID моделі з таблиці нижче |
Натисніть Connect. SillyTavern читає /v1/models і заповнює список Available Models. Не додавайте /chat/completions до адреси. SillyTavern додає шлях сам.
auto у полі Enter a Model ID, щоб маршрутизатор обрав модель, яка працює зараз.Натисніть Test Message, щоб надіслати короткий запит. Якщо ви отримали відповідь, з'єднання працює.
Крок 2: оберіть моделі для довгих чатів
Чат рольової гри надсилає картку персонажа, інформацію про світ і історію чату з кожним повідомленням. Довгий чат може надсилати десятки тисяч токенів щоразу. Оберіть моделі з великим вікном контексту.
Ці ID моделей можна вводити в полі Enter a Model ID:
auto: дотримується ланцюжка резервних моделей на панелі керування.auto:smart: ранжує увімкнені моделі за інтелектом. Використовуйте для якості історій.auto:fast: ранжує увімкнені моделі за виміряною швидкістю. Використовуйте для швидких відповідей.- Фіксований ID моделі: дає однаковий стиль письма щоразу, але зупиняється, коли вичерпано безкоштовний ліміт цієї моделі.
| Модель | Безкоштовно на | Контекст | Безкоштовні ліміти (найкращі) | Інструменти | Зображення |
|---|---|---|---|---|---|
| GLM 5.3 | APINex, UnoRouter | 1M | 5 запитів/хв 10M weighted tokens/day shared across APINex free routes; 4x token multiplier; 5 requests/minute/account | Так | Ні |
| GLM 5.3 Flash | APINex, BlazeAPI, NVIDIA NIM +ще 1 | 1M | 40 запитів/хв 40 RPM | Так | Так |
| Gemini 3.8 Flash | APINex, Google AI Studio | 1M | 5 запитів/хв 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | Так | Так |
| Qwen3.8 Flash Next | AMD Radeon Cloud, BlazeAPI, ElectronHub | 262K | Recurring daily account allowance | Так | Ні |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | Так | Так |
| Deepseek V4.1 Flash | APINex | 1M | 5 запитів/хв 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | Ні | Ні |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 запитів/хв 20 запитів/добу 250,000 токенів/хв ~3M | Так | Так |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | Так | Так |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 запитів/хв 50 запитів/добу 50 req/day account-wide (1,000 after a $10 purchase) | Так | Так |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 запитів/хв 50 запитів/добу Shared rate limit | Так | Ні |
| DeepSeek V4 Flash 0731 | ElectronHub, Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | Ні | Ні |
| Qwen3.8 27B | BlazeAPI, ElectronHub, Gizmo +ще 3 | 262K | 30 запитів/хв 250 запитів/добу 70,000 токенів/хв ~6M | Так | Так |
Показано 12 із 184 відповідних безкоштовних моделей. Переглянути всі моделі.
Дані в реальному часі з каталогу FreeLLMAPI (версія 2026.11.19, перевірено 2026-11-19). Безкоштовні ліміти часто змінюються. Каталог перевіряється щодня.
FreeLLMAPI утримує розмову на одній моделі 30 хвилин. Так голос персонажа залишається незмінним між повідомленнями. Якщо ліміт змушує змінити модель, наступна модель продовжує з тієї самої історії чату.
Крок 3: налаштуйте параметри генерації
Відкрийте панель AI Response Configuration (значок повзунків). Три параметри мають найбільший вплив на безкоштовні рівні:
| Параметр | Рекомендоване значення | Чому |
|---|---|---|
| Context Size (tokens) | від 16 000 до 32 000 | Менший контекст надсилає менше токенів у кожному повідомленні. Безкоштовні рівні часто обмежують токени за хвилину. |
| Max Response Length (tokens) | від 400 до 800 | Довгі відповіді швидко витрачають квоту виводу. Деякі моделі міркування також використовують частину цього бюджету для прихованих роздумів. |
| Streaming | Увімкнено | Ви бачите текст у міру надходження. FreeLLMAPI передає потік від кожного провайдера, до якого має доступ. |
SillyTavern також має опцію Prompt Post-Processing для джерела Custom. Деякі провайдери відхиляють два системні повідомлення поспіль. Якщо ви бачите помилки про ролі повідомлень, оберіть Semi-strict або Strict. Ці варіанти об'єднують повідомлення з однаковою роллю. Варіанти з позначкою "no tools" також видаляють виклики інструментів. Варіанти з позначкою "with tools" їх зберігають.
Ліміти запитів у довгій рольовій грі
Кожен безкоштовний рівень має власні ліміти. Наприклад, безкоштовний ключ Gemini Flash дозволяє мало запитів на день, а ключ Groq дозволяє більше запитів з меншими лімітами токенів. Один вечір рольової гри може надіслати кілька сотень запитів. Один безкоштовний ключ не витримає так довго.
- Додайте більше провайдерів. Кожен ключ додає запити на день. FreeLLMAPI рахує квоту кожного ключа і переходить до наступного ключа або провайдера, коли квота вичерпана.
- Зменшіть контекст. Підсумовуйте старі повідомлення розширенням Summarize для SillyTavern. Коротший промпт використовує менше токенів за хвилину.
- Не повторюйте свайпи без потреби. Кожен свайп або регенерація це новий запит.
- Стежте за скиданням. Коли всі ключі досягли ліміту, шлюз повертає помилку 429 із заголовком
Retry-After. Багато денних лімітів скидаються о півночі за UTC.
Таблиця показує безкоштовні ліміти для кожного провайдера в сьогоднішньому каталозі.
| Постачальник | Безкоштовні моделі | Макс. запитів/хв | Макс. запитів/добу | Макс. токенів/хв | Токенів/місяць (одна модель) | Найсильніша безкоштовна модель |
|---|---|---|---|---|---|---|
| ElectronHub | 84 | - | - | - | $0.25/week shared recurring credit | Qwen3.8 Flash (ElectronHub)qwen3.8-flash |
| Cloudflare Workers AI | 39 | - | - | - | ~5-10M | Qwen 3.8 27B (Cloudflare Workers AI)@cf/qwen/qwen3.8-27b |
| Inferbase | 38 | - | - | - | 5,000 requests/month; 100 requests and $0.50 usage/day shared | DeepSeek V4 Flash (fp8) (Inferbase)deepseek-v4-flash:fp8 |
| AI Horde | 31 | - | - | - | Ongoing volunteer queue; availability varies | Gemma 4 31B Heretic (AI Horde)koboldcpp/gemma-4-31B-it-heretic |
| ACLIDE | 29 | - | - | - | €20/month shared internal usage credits · no card | Qwen3.8 Max (ACLIDE)qwen/qwen3.8-max:free |
| Google AI Studio | 21 | 15 | 1,000 | 250,000 | ~3M | Gemini 3.8 Flashgemini-3.8-flash |
| Api.Airforce | 20 | 1 | 1,000 | - | free · 1,000 req/day · 1 req/min | gpt-oss-20b (Api.Airforce)gpt-oss-20b |
| NVIDIA NIM | 19 | 40 | - | - | free · 40 RPM | GLM 5.3 Flash (NV)z-ai/glm-5.3-flash |
| Cohere | 17 | 20 | 33 | - | ~1-2M | Command A+ (05-2026)command-a-plus-05-2026 |
| DreamPrompting | 14 | 100 | 5,000 | - | free · 500K tokens/day · 5,000 req/day | Gemini 3.1 Flash-Litegoogle/gemini-3.1-flash-lite |
| Mistral | 12 | 2 | - | 500,000 | ~50-100M | Mistral Codemistral-code-latest |
| ModelScope | 11 | - | 200 | - | Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experience | GLM-5.2 (ModelScope)ZhipuAI/GLM-5.2 |
Дані в реальному часі з каталогу FreeLLMAPI (версія 2026.11.19, перевірено 2026-11-19). Безкоштовні ліміти часто змінюються. Каталог перевіряється щодня.
Усунення несправностей
| Проблема | Причина | Рішення |
|---|---|---|
| Підключення не вдається або статус лишається червоним | Неправильна адреса або FreeLLMAPI не запущено | Відкрийте http://localhost:3001 у браузері. Переконайтеся, що адреса закінчується на /v1. |
| Помилка 401 | Неправильний ключ | Вставте уніфікований ключ знову в поле Custom API Key |
| Вибрана модель завжди видає помилку | Немає ключа для провайдера цієї моделі | Додайте ключ провайдера або введіть auto |
| Помилка 429 після довгої сесії | Усі ключі досягли ліміту | Додайте ключі від більшої кількості провайдерів або дочекайтеся скидання |
| Помилки про порядок або ролі повідомлень | Провайдер має суворі правила ролей | Встановіть Prompt Post-Processing на Semi-strict або Strict |
| Відповіді обриваються посередині | Max Response Length замалий для моделі міркування | Збільште значення або оберіть модель без міркування |
| Голос персонажа змінюється під час чату | Ліміт змусив змінити модель | Закріпіть одну модель, яка безкоштовна у кількох провайдерів |
Часті запитання
Чи є безкоштовний API для SillyTavern?
Так. SillyTavern працює з будь-яким API, сумісним з OpenAI, через джерело Custom (OpenAI-compatible). FreeLLMAPI дає одну адресу для багатьох безкоштовних рівнів провайдерів. Кожен рівень має власні ліміти.
Яка базова адреса для SillyTavern Custom (OpenAI-compatible)?
Використовуйте http://localhost:3001/v1 для серверної інсталяції FreeLLMAPI або http://127.0.0.1:31415/v1 для настільного застосунку. Не додавайте /chat/completions.
Яка безкоштовна модель найкраща для рольової гри в SillyTavern?
Використовуйте модель із вікном контексту 128K токенів або більше. Почніть з auto:smart для якості або auto:fast для швидкості. Таблиця на цій сторінці показує найсильніші безкоштовні моделі на сьогодні.
Чому я отримую помилку 429 у SillyTavern?
Безкоштовний рівень досяг свого ліміту. FreeLLMAPI переходить до наступного ключа або провайдера. Якщо всі ключі досягли ліміту, ви отримуєте 429. Додайте ключі від більшої кількості провайдерів або зменште розмір контексту.
Чи працює потокова передача SillyTavern з безкоштовними API?
Так. Увімкніть Streaming на панелі AI Response Configuration. FreeLLMAPI передає потік відповіді від кожного провайдера у форматі OpenAI.
Схожі посібники
- Безкоштовний LLM API для Open WebUI
- Безкоштовний LLM API з контекстом 1 мільйон токенів
- Ліміти запитів безкоштовного LLM API
- Базові URL безкоштовних API, сумісних з OpenAI
- Безкоштовний LLM API без кредитної картки
Джерела
- SillyTavern docs: Chat Completion sources, Custom (OpenAI-compatible) (перевірено 20 November 2026)
- SillyTavern source: API connection panel labels (public/index.html) (перевірено 20 November 2026)
- FreeLLMAPI docs: REST API (routing strategies, model listing, streaming) (перевірено 20 November 2026)
- FreeLLMAPI README: features and limitations (перевірено 20 November 2026)