Головна / Посібники / Безкоштовний API для SillyTavern

Безкоштовний API для SillyTavern

SillyTavern це інтерфейс для чатів і рольової гри, який ви запускаєте на своєму комп'ютері. Йому потрібен API моделі. Цей посібник підключає SillyTavern до FreeLLMAPI через джерело Chat Completion Custom (OpenAI-compatible). FreeLLMAPI об'єднує 45 безкоштовних рівнів провайдерів за одним ключем і переходить до наступного провайдера, коли ліміт зупиняє запит.

Код, назви моделей і мітки живого каталогу показано англійською.

Перш ніж почати

Вам потрібні дві програми на одному комп'ютері: SillyTavern і FreeLLMAPI. FreeLLMAPI працює в Docker або як настільний застосунок. Встановіть його однією командою:

Встановіть FreeLLMAPI (macOS або Linux)

curl -fsSL https://freellmapi.co/install.sh | bash
  1. Відкрийте панель керування за адресою http://localhost:3001.
  2. Додайте безкоштовні ключі від двох або більше провайдерів на сторінці Keys. Google AI Studio, Groq і Mistral видають безкоштовний ключ.
  3. Скопіюйте уніфікований ключ зі сторінки Keys. SillyTavern використовує лише цей ключ.

Настільний застосунок слухає http://127.0.0.1:31415. Якщо ви використовуєте настільний застосунок, вживайте цю адресу замість http://localhost:3001 на цій сторінці.

Крок 1: підключіть SillyTavern

Відкрийте SillyTavern і натисніть значок API Connections (штекер) у верхній панелі. Потім заповніть такі поля:

ПолеЗначення
APIChat Completion
Chat Completion SourceCustom (OpenAI-compatible)
Custom Endpoint (Base URL)http://localhost:3001/v1
Custom API KeyВаш уніфікований ключ, <unified-key>
Enter a Model IDauto або ID моделі з таблиці нижче

Натисніть Connect. SillyTavern читає /v1/models і заповнює список Available Models. Не додавайте /chat/completions до адреси. SillyTavern додає шлях сам.

Примітка: список Available Models показує повний каталог FreeLLMAPI. Він також показує моделі, які ви поки не можете викликати, бо не додали ключ для їхнього провайдера. Введіть auto у полі Enter a Model ID, щоб маршрутизатор обрав модель, яка працює зараз.

Натисніть Test Message, щоб надіслати короткий запит. Якщо ви отримали відповідь, з'єднання працює.

Крок 2: оберіть моделі для довгих чатів

Чат рольової гри надсилає картку персонажа, інформацію про світ і історію чату з кожним повідомленням. Довгий чат може надсилати десятки тисяч токенів щоразу. Оберіть моделі з великим вікном контексту.

Ці ID моделей можна вводити в полі Enter a Model ID:

  • auto: дотримується ланцюжка резервних моделей на панелі керування.
  • auto:smart: ранжує увімкнені моделі за інтелектом. Використовуйте для якості історій.
  • auto:fast: ранжує увімкнені моделі за виміряною швидкістю. Використовуйте для швидких відповідей.
  • Фіксований ID моделі: дає однаковий стиль письма щоразу, але зупиняється, коли вичерпано безкоштовний ліміт цієї моделі.
Безкоштовні моделі з контекстом 128K+ для довгих чатів
МодельБезкоштовно наКонтекстБезкоштовні ліміти (найкращі)ІнструментиЗображення
GLM 5.3APINex, UnoRouter1M5 запитів/хв
10M weighted tokens/day shared across APINex free routes; 4x token multiplier; 5 requests/minute/account
ТакНі
GLM 5.3 FlashAPINex, BlazeAPI, NVIDIA NIM +ще 11M40 запитів/хв
40 RPM
ТакТак
Gemini 3.8 FlashAPINex, Google AI Studio1M5 запитів/хв
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
ТакТак
Qwen3.8 Flash NextAMD Radeon Cloud, BlazeAPI, ElectronHub262KRecurring daily account allowanceТакНі
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditТакТак
Deepseek V4.1 FlashAPINex1M5 запитів/хв
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
НіНі
Gemini 3.7 FlashGoogle AI Studio1M10 запитів/хв
20 запитів/добу
250,000 токенів/хв
~3M
ТакТак
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditТакТак
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 запитів/хв
50 запитів/добу
50 req/day account-wide (1,000 after a $10 purchase)
ТакТак
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 запитів/хв
50 запитів/добу
Shared rate limit
ТакНі
DeepSeek V4 Flash 0731ElectronHub, Router91M10,000 credits/month (~$1), shared; account-anniversary resetНіНі
Qwen3.8 27BBlazeAPI, ElectronHub, Gizmo +ще 3262K30 запитів/хв
250 запитів/добу
70,000 токенів/хв
~6M
ТакТак

Показано 12 із 184 відповідних безкоштовних моделей. Переглянути всі моделі.

Дані в реальному часі з каталогу FreeLLMAPI (версія 2026.11.19, перевірено 2026-11-19). Безкоштовні ліміти часто змінюються. Каталог перевіряється щодня.

FreeLLMAPI утримує розмову на одній моделі 30 хвилин. Так голос персонажа залишається незмінним між повідомленнями. Якщо ліміт змушує змінити модель, наступна модель продовжує з тієї самої історії чату.

Крок 3: налаштуйте параметри генерації

Відкрийте панель AI Response Configuration (значок повзунків). Три параметри мають найбільший вплив на безкоштовні рівні:

ПараметрРекомендоване значенняЧому
Context Size (tokens)від 16 000 до 32 000Менший контекст надсилає менше токенів у кожному повідомленні. Безкоштовні рівні часто обмежують токени за хвилину.
Max Response Length (tokens)від 400 до 800Довгі відповіді швидко витрачають квоту виводу. Деякі моделі міркування також використовують частину цього бюджету для прихованих роздумів.
StreamingУвімкненоВи бачите текст у міру надходження. FreeLLMAPI передає потік від кожного провайдера, до якого має доступ.

SillyTavern також має опцію Prompt Post-Processing для джерела Custom. Деякі провайдери відхиляють два системні повідомлення поспіль. Якщо ви бачите помилки про ролі повідомлень, оберіть Semi-strict або Strict. Ці варіанти об'єднують повідомлення з однаковою роллю. Варіанти з позначкою "no tools" також видаляють виклики інструментів. Варіанти з позначкою "with tools" їх зберігають.

Ліміти запитів у довгій рольовій грі

Кожен безкоштовний рівень має власні ліміти. Наприклад, безкоштовний ключ Gemini Flash дозволяє мало запитів на день, а ключ Groq дозволяє більше запитів з меншими лімітами токенів. Один вечір рольової гри може надіслати кілька сотень запитів. Один безкоштовний ключ не витримає так довго.

  • Додайте більше провайдерів. Кожен ключ додає запити на день. FreeLLMAPI рахує квоту кожного ключа і переходить до наступного ключа або провайдера, коли квота вичерпана.
  • Зменшіть контекст. Підсумовуйте старі повідомлення розширенням Summarize для SillyTavern. Коротший промпт використовує менше токенів за хвилину.
  • Не повторюйте свайпи без потреби. Кожен свайп або регенерація це новий запит.
  • Стежте за скиданням. Коли всі ключі досягли ліміту, шлюз повертає помилку 429 із заголовком Retry-After. Багато денних лімітів скидаються о півночі за UTC.

Таблиця показує безкоштовні ліміти для кожного провайдера в сьогоднішньому каталозі.

ПостачальникБезкоштовні моделіМакс. запитів/хвМакс. запитів/добуМакс. токенів/хвТокенів/місяць (одна модель)Найсильніша безкоштовна модель
ElectronHub84---$0.25/week shared recurring creditQwen3.8 Flash (ElectronHub)
qwen3.8-flash
Cloudflare Workers AI39---~5-10MQwen 3.8 27B (Cloudflare Workers AI)
@cf/qwen/qwen3.8-27b
Inferbase38---5,000 requests/month; 100 requests and $0.50 usage/day sharedDeepSeek V4 Flash (fp8) (Inferbase)
deepseek-v4-flash:fp8
AI Horde31---Ongoing volunteer queue; availability variesGemma 4 31B Heretic (AI Horde)
koboldcpp/gemma-4-31B-it-heretic
ACLIDE29---€20/month shared internal usage credits · no cardQwen3.8 Max (ACLIDE)
qwen/qwen3.8-max:free
Google AI Studio21151,000250,000~3MGemini 3.8 Flash
gemini-3.8-flash
Api.Airforce2011,000-free · 1,000 req/day · 1 req/mingpt-oss-20b (Api.Airforce)
gpt-oss-20b
NVIDIA NIM1940--free · 40 RPMGLM 5.3 Flash (NV)
z-ai/glm-5.3-flash
Cohere172033-~1-2MCommand A+ (05-2026)
command-a-plus-05-2026
DreamPrompting141005,000-free · 500K tokens/day · 5,000 req/dayGemini 3.1 Flash-Lite
google/gemini-3.1-flash-lite
Mistral122-500,000~50-100MMistral Code
mistral-code-latest
ModelScope11-200-Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experienceGLM-5.2 (ModelScope)
ZhipuAI/GLM-5.2

Дані в реальному часі з каталогу FreeLLMAPI (версія 2026.11.19, перевірено 2026-11-19). Безкоштовні ліміти часто змінюються. Каталог перевіряється щодня.

Політика вмісту: кожен провайдер застосовує власну політику використання до безкоштовних запитів. Провайдер може відмовити в деякому вмісті. FreeLLMAPI не змінює того, що дозволяє провайдер.

Усунення несправностей

ПроблемаПричинаРішення
Підключення не вдається або статус лишається червонимНеправильна адреса або FreeLLMAPI не запущеноВідкрийте http://localhost:3001 у браузері. Переконайтеся, що адреса закінчується на /v1.
Помилка 401Неправильний ключВставте уніфікований ключ знову в поле Custom API Key
Вибрана модель завжди видає помилкуНемає ключа для провайдера цієї моделіДодайте ключ провайдера або введіть auto
Помилка 429 після довгої сесіїУсі ключі досягли лімітуДодайте ключі від більшої кількості провайдерів або дочекайтеся скидання
Помилки про порядок або ролі повідомленьПровайдер має суворі правила ролейВстановіть Prompt Post-Processing на Semi-strict або Strict
Відповіді обриваються посерединіMax Response Length замалий для моделі міркуванняЗбільште значення або оберіть модель без міркування
Голос персонажа змінюється під час чатуЛіміт змусив змінити модельЗакріпіть одну модель, яка безкоштовна у кількох провайдерів
Використовуйте кожну з цих моделей через один ключ. FreeLLMAPI це маршрутизатор з відкритим кодом, який ви розгортаєте самі. Він об'єднує всі ці безкоштовні тарифи за однією кінцевою точкою, сумісною з OpenAI, і переходить до наступного, коли один з них досягає ліміту. Переглянути каталог або або почніть роботу.

Часті запитання

Чи є безкоштовний API для SillyTavern?

Так. SillyTavern працює з будь-яким API, сумісним з OpenAI, через джерело Custom (OpenAI-compatible). FreeLLMAPI дає одну адресу для багатьох безкоштовних рівнів провайдерів. Кожен рівень має власні ліміти.

Яка базова адреса для SillyTavern Custom (OpenAI-compatible)?

Використовуйте http://localhost:3001/v1 для серверної інсталяції FreeLLMAPI або http://127.0.0.1:31415/v1 для настільного застосунку. Не додавайте /chat/completions.

Яка безкоштовна модель найкраща для рольової гри в SillyTavern?

Використовуйте модель із вікном контексту 128K токенів або більше. Почніть з auto:smart для якості або auto:fast для швидкості. Таблиця на цій сторінці показує найсильніші безкоштовні моделі на сьогодні.

Чому я отримую помилку 429 у SillyTavern?

Безкоштовний рівень досяг свого ліміту. FreeLLMAPI переходить до наступного ключа або провайдера. Якщо всі ключі досягли ліміту, ви отримуєте 429. Додайте ключі від більшої кількості провайдерів або зменште розмір контексту.

Чи працює потокова передача SillyTavern з безкоштовними API?

Так. Увімкніть Streaming на панелі AI Response Configuration. FreeLLMAPI передає потік відповіді від кожного провайдера у форматі OpenAI.

Схожі посібники

Джерела

Усі посібники · Переглянути всі безкоштовні моделі