Startseite / Anleitungen / Kostenlose API für SillyTavern

Kostenlose API für SillyTavern

SillyTavern ist eine Chat- und Rollenspiel-Oberfläche, die Sie auf Ihrem Computer betreiben. Sie braucht eine Modell-API. Diese Anleitung verbindet SillyTavern über die Chat-Completion-Quelle Custom (OpenAI-compatible) mit FreeLLMAPI. FreeLLMAPI bündelt 45 kostenlose Anbieter-Stufen hinter einem Schlüssel und wechselt zum nächsten Anbieter, wenn ein Limit eine Anfrage stoppt.

Code, Modellnamen und Bezeichnungen aus dem Live-Katalog werden auf Englisch angezeigt.

Bevor Sie beginnen

Sie brauchen zwei Programme auf demselben Computer: SillyTavern und FreeLLMAPI. FreeLLMAPI läuft in Docker oder als Desktop-App. Installieren Sie es mit einem Befehl:

FreeLLMAPI installieren (macOS oder Linux)

curl -fsSL https://freellmapi.co/install.sh | bash
  1. Öffnen Sie das Dashboard unter http://localhost:3001.
  2. Fügen Sie auf der Seite Keys kostenlose Schlüssel von zwei oder mehr Anbietern hinzu. Google AI Studio, Groq und Mistral stellen jeweils einen kostenlosen Schlüssel bereit.
  3. Kopieren Sie den einheitlichen Schlüssel von der Seite Keys. SillyTavern verwendet nur diesen Schlüssel.

Die Desktop-App hört auf http://127.0.0.1:31415. Wenn Sie die Desktop-App verwenden, nutzen Sie diese Adresse anstelle von http://localhost:3001 auf dieser Seite.

Schritt 1: SillyTavern verbinden

Öffnen Sie SillyTavern und klicken Sie in der oberen Leiste auf das Symbol API Connections (der Stecker). Legen Sie dann diese Felder fest:

FeldWert
APIChat Completion
Chat Completion SourceCustom (OpenAI-compatible)
Custom Endpoint (Base URL)http://localhost:3001/v1
Custom API KeyIhr einheitlicher Schlüssel, <unified-key>
Enter a Model IDauto, oder eine Modell-ID aus der Tabelle unten

Klicken Sie auf Connect. SillyTavern liest /v1/models und füllt die Liste Available Models. Fügen Sie /chat/completions nicht zur URL hinzu. SillyTavern ergänzt den Pfad selbst.

Hinweis: Die Liste Available Models zeigt den vollständigen FreeLLMAPI-Katalog. Sie zeigt auch Modelle, die Sie noch nicht aufrufen können, weil Sie für deren Anbieter keinen Schlüssel hinzugefügt haben. Geben Sie auto in Enter a Model ID ein, damit der Router ein Modell wählt, das jetzt funktioniert.

Klicken Sie auf Test Message, um eine kurze Anfrage zu senden. Wenn Sie eine Antwort erhalten, funktioniert die Verbindung.

Schritt 2: Modelle für lange Chats wählen

Ein Rollenspiel-Chat sendet bei jeder Nachricht die Charakterkarte, die Welt-Informationen und den Chatverlauf. Ein langer Chat kann jedes Mal zehntausende Tokens senden. Wählen Sie Modelle mit einem großen Kontextfenster.

Sie können diese Modell-IDs in Enter a Model ID verwenden:

  • auto: folgt Ihrer Fallback-Kette im Dashboard.
  • auto:smart: ordnet aktivierte Modelle nach Intelligenz. Verwenden Sie es für die Qualität der Geschichte.
  • auto:fast: ordnet aktivierte Modelle nach gemessener Geschwindigkeit. Verwenden Sie es für schnelle Antworten.
  • Eine feste Modell-ID: liefert jedes Mal denselben Schreibstil, stoppt aber, wenn das kostenlose Limit dieses Modells aufgebraucht ist.
Kostenlose Modelle mit 128K+ Kontext für lange Chats
ModellKostenlos beiKontextKostenlose Limits (bestes Angebot)ToolsBildverarbeitung
GLM 5.3APINex, UnoRouter1M5 Anfragen/Min.
10M weighted tokens/day shared across APINex free routes; 4x token multiplier; 5 requests/minute/account
JaNein
GLM 5.3 FlashAPINex, BlazeAPI, NVIDIA NIM +1 weitere1M40 Anfragen/Min.
40 RPM
JaJa
Gemini 3.8 FlashAPINex, Google AI Studio1M5 Anfragen/Min.
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
JaJa
Qwen3.8 Flash NextAMD Radeon Cloud, BlazeAPI, ElectronHub262KRecurring daily account allowanceJaNein
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditJaJa
Deepseek V4.1 FlashAPINex1M5 Anfragen/Min.
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
NeinNein
Gemini 3.7 FlashGoogle AI Studio1M10 Anfragen/Min.
20 Anfragen/Tag
250,000 Token/Min.
~3M
JaJa
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditJaJa
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 Anfragen/Min.
50 Anfragen/Tag
50 req/day account-wide (1,000 after a $10 purchase)
JaJa
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 Anfragen/Min.
50 Anfragen/Tag
Shared rate limit
JaNein
DeepSeek V4 Flash 0731ElectronHub, Router91M10,000 credits/month (~$1), shared; account-anniversary resetNeinNein
Qwen3.8 27BBlazeAPI, ElectronHub, Gizmo +3 weitere262K30 Anfragen/Min.
250 Anfragen/Tag
70,000 Token/Min.
~6M
JaJa

Es werden 12 von 184 passenden kostenlosen Modellen angezeigt. Alle Modelle ansehen.

Live-Daten aus dem FreeLLMAPI-Katalog (Version 2026.11.19, geprüft 2026-11-19). Kostenlose Limits ändern sich oft. Der Katalog wird jeden Tag geprüft.

FreeLLMAPI behält einen Chat 30 Minuten lang bei einem Modell. So bleibt die Stimme des Charakters über alle Nachrichten gleich. Wenn ein Limit einen Modellwechsel erzwingt, setzt das nächste Modell den Chat mit demselben Verlauf fort.

Schritt 3: Generierungseinstellungen festlegen

Öffnen Sie das Panel AI Response Configuration (das Symbol mit den Schiebereglern). Drei Einstellungen wirken bei kostenlosen Stufen am stärksten:

EinstellungEmpfohlener WertWarum
Context Size (tokens)16,000 bis 32,000Ein kleinerer Kontext sendet weniger Tokens pro Nachricht. Kostenlose Stufen begrenzen Tokens oft pro Minute.
Max Response Length (tokens)400 bis 800Lange Antworten verbrauchen das Ausgabekontingent schnell. Manche Reasoning-Modelle nutzen einen Teil dieses Budgets auch für verborgenes Nachdenken.
StreamingOnSie sehen den Text, während er eintrifft. FreeLLMAPI streamt bei jedem Anbieter, den es erreichen kann.

SillyTavern hat für die Quelle Custom außerdem die Option Prompt Post-Processing. Manche Anbieter lehnen zwei System-Nachrichten direkt hintereinander ab. Wenn Sie Fehler zu Nachrichtenrollen erhalten, wählen Sie Semi-strict oder Strict. Diese Optionen führen Nachrichten derselben Rolle zusammen. Die Optionen mit „no tools“ entfernen außerdem Tool-Aufrufe. Die Optionen mit „with tools“ behalten sie bei.

Rate-Limits bei langem Rollenspiel

Jede kostenlose Stufe hat eigene Limits. Ein kostenloser Gemini-Flash-Schlüssel erlaubt zum Beispiel wenige Anfragen pro Tag, ein Groq-Schlüssel erlaubt mehr Anfragen mit niedrigeren Token-Limits. Ein Abend Rollenspiel kann mehrere hundert Anfragen senden. Ein kostenloser Schlüssel reicht dafür nicht lange.

  • Fügen Sie weitere Anbieter hinzu. Jeder Schlüssel erhöht die Anfragen pro Tag. FreeLLMAPI zählt das Kontingent jedes Schlüssels und wechselt zum nächsten Schlüssel oder Anbieter, wenn eines aufgebraucht ist.
  • Verringern Sie den Kontext. Fassen Sie alte Nachrichten mit der SillyTavern-Erweiterung Summarize zusammen. Ein kürzerer Prompt verbraucht weniger Tokens pro Minute.
  • Vermeiden Sie Swipes in Schleifen. Jeder Swipe oder Regenerate ist eine neue Anfrage.
  • Achten Sie auf den Reset. Wenn alle Schlüssel ihr Limit erreicht haben, gibt das Gateway den Fehler 429 mit einem Retry-After-Header zurück. Viele Tageslimits werden um Mitternacht UTC zurückgesetzt.

Die Tabelle zeigt die kostenlosen Limits pro Anbieter im heutigen Katalog.

AnbieterKostenlose ModelleMax. Anfragen/Min.Max. Anfragen/TagMax. Token/Min.Token/Monat (ein Modell)Stärkstes kostenloses Modell
ElectronHub84---$0.25/week shared recurring creditQwen3.8 Flash (ElectronHub)
qwen3.8-flash
Cloudflare Workers AI39---~5-10MQwen 3.8 27B (Cloudflare Workers AI)
@cf/qwen/qwen3.8-27b
Inferbase38---5,000 requests/month; 100 requests and $0.50 usage/day sharedDeepSeek V4 Flash (fp8) (Inferbase)
deepseek-v4-flash:fp8
AI Horde31---Ongoing volunteer queue; availability variesGemma 4 31B Heretic (AI Horde)
koboldcpp/gemma-4-31B-it-heretic
ACLIDE29---€20/month shared internal usage credits · no cardQwen3.8 Max (ACLIDE)
qwen/qwen3.8-max:free
Google AI Studio21151,000250,000~3MGemini 3.8 Flash
gemini-3.8-flash
Api.Airforce2011,000-free · 1,000 req/day · 1 req/mingpt-oss-20b (Api.Airforce)
gpt-oss-20b
NVIDIA NIM1940--free · 40 RPMGLM 5.3 Flash (NV)
z-ai/glm-5.3-flash
Cohere172033-~1-2MCommand A+ (05-2026)
command-a-plus-05-2026
DreamPrompting141005,000-free · 500K tokens/day · 5,000 req/dayGemini 3.1 Flash-Lite
google/gemini-3.1-flash-lite
Mistral122-500,000~50-100MMistral Code
mistral-code-latest
ModelScope11-200-Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experienceGLM-5.2 (ModelScope)
ZhipuAI/GLM-5.2

Live-Daten aus dem FreeLLMAPI-Katalog (Version 2026.11.19, geprüft 2026-11-19). Kostenlose Limits ändern sich oft. Der Katalog wird jeden Tag geprüft.

Inhaltsrichtlinie: Jeder Anbieter wendet auf kostenlose Anfragen seine eigene Nutzungsrichtlinie an. Ein Anbieter kann manche Inhalte ablehnen. FreeLLMAPI ändert nicht, was ein Anbieter erlaubt.

Fehlerbehebung

ProblemUrsacheLösung
Die Verbindung schlägt fehl oder der Status bleibt rotFalsche URL oder FreeLLMAPI läuft nichtÖffnen Sie http://localhost:3001 im Browser. Stellen Sie sicher, dass die URL auf /v1 endet.
Fehler 401Der Schlüssel ist falschFügen Sie den einheitlichen Schlüssel erneut in Custom API Key ein
Ein gewähltes Modell schlägt immer fehlKein Schlüssel für den Anbieter dieses ModellsFügen Sie den Schlüssel des Anbieters hinzu oder geben Sie auto ein
Fehler 429 nach einer langen SitzungAlle Schlüssel haben ihr Limit erreichtFügen Sie Schlüssel von weiteren Anbietern hinzu oder warten Sie auf den Reset
Fehler zur Nachrichtenreihenfolge oder zu RollenDer Anbieter hat strenge Regeln für RollenSetzen Sie Prompt Post-Processing auf Semi-strict oder Strict
Antworten brechen mitten im Satz abMax Response Length ist für ein Reasoning-Modell zu kleinErhöhen Sie den Wert oder wählen Sie ein Modell ohne Reasoning
Die Stimme des Charakters ändert sich während des ChatsEin Limit hat einen Modellwechsel erzwungenFixieren Sie ein Modell, das bei mehreren Anbietern kostenlos ist
Nutzen Sie alle diese Modelle über einen einzigen Schlüssel. FreeLLMAPI ist ein Open-Source-Router, den Sie selbst hosten. Er stellt alle diese kostenlosen Angebote hinter einem einzigen OpenAI-kompatiblen Endpunkt bereit und wechselt zum nächsten Anbieter, wenn ein Anbieter das Limit erreicht. Katalog ansehen oder Jetzt starten.

Häufig gestellte Fragen

Gibt es eine kostenlose API für SillyTavern?

Ja. SillyTavern akzeptiert jede OpenAI-kompatible API über die Quelle Custom (OpenAI-compatible). FreeLLMAPI bietet einen Endpunkt für viele kostenlose Anbieter-Stufen. Jede Stufe hat eigene Limits.

Was ist die Base URL für SillyTavern Custom (OpenAI-compatible)?

Verwenden Sie http://localhost:3001/v1 für eine FreeLLMAPI-Serverinstallation oder http://127.0.0.1:31415/v1 für die Desktop-App. Fügen Sie /chat/completions nicht hinzu.

Welches kostenlose Modell eignet sich am besten für SillyTavern-Rollenspiel?

Verwenden Sie ein Modell mit einem Kontextfenster von 128K Tokens oder mehr. Beginnen Sie mit auto:smart für Qualität oder auto:fast für Geschwindigkeit. Die Tabelle auf dieser Seite zeigt die heute stärksten kostenlosen Modelle.

Warum erhalte ich in SillyTavern den Fehler 429?

Eine kostenlose Stufe hat ihr Limit erreicht. FreeLLMAPI wechselt zum nächsten Schlüssel oder Anbieter. Wenn jeder Schlüssel sein Limit erreicht hat, erhalten Sie 429. Fügen Sie weitere Anbieter-Schlüssel hinzu oder verringern Sie die Kontextgröße.

Funktioniert das SillyTavern-Streaming mit kostenlosen APIs?

Ja. Aktivieren Sie Streaming im Panel AI Response Configuration. FreeLLMAPI streamt die Antwort jedes Anbieters im OpenAI-Format.

Verwandte Anleitungen

Quellen

Alle Anleitungen · Alle kostenlosen Modelle ansehen