Startseite / Anleitungen / Kostenlose LLM-API für Open WebUI

Kostenlose LLM-API für Open WebUI

Open WebUI ist eine selbst gehostete Chat-Oberfläche. Sie verbindet sich mit jedem Server, der die OpenAI Chat Completions API spricht. Diese Anleitung verbindet Open WebUI mit FreeLLMAPI. FreeLLMAPI bündelt 45 kostenlose Angebote von Anbietern hinter einem einzigen Schlüssel. Sie fügen eine Verbindung hinzu. Der Router sendet jeden Chat an ein kostenloses Modell und wechselt zum nächsten Anbieter, wenn ein Limit eine Anfrage stoppt.

Code, Modellnamen und Bezeichnungen aus dem Live-Katalog werden auf Englisch angezeigt.

So funktioniert die Verbindung

Open WebUI sendet Chat-Anfragen an die URL jeder OpenAI-Verbindung. FreeLLMAPI lauscht auf http://localhost:3001/v1 und nimmt dieselben Anfragen entgegen. Der Router wählt ein kostenloses Modell, sendet die Anfrage und gibt die Antwort im OpenAI-Format zurück.

  • Eine Verbindung, viele Anbieter: Sie fügen eine URL und einen einheitlichen Schlüssel hinzu. Ihre Anbieterschlüssel bleiben in FreeLLMAPI auf Ihrem Computer.
  • Failover: Gibt ein Anbieter den Fehler 429 zurück, versucht der Router das nächste Modell in Ihrer Fallback-Kette.
  • Limits: Kostenlose Angebote haben Limits für Anfragen und Token. Mehr Anbieterschlüssel ergeben mehr Anfragen pro Tag. Failover verteilt die Last, hebt die Limits aber nicht auf.

Installieren Sie zuerst FreeLLMAPI. Es läuft in Docker. Öffnen Sie das Dashboard unter http://localhost:3001, fügen Sie auf der Seite Schlüssel mindestens zwei kostenlose Anbieterschlüssel hinzu und kopieren Sie Ihren einheitlichen Schlüssel.

FreeLLMAPI installieren (macOS oder Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

Schritt 1: Die richtige URL finden

Die URL, die Open WebUI verwenden muss, hängt davon ab, wo jedes Programm läuft. Open WebUI läuft meist in Docker. In einem Container ist localhost der Container selbst, nicht Ihr Computer.

Open WebUI läuftFreeLLMAPI läuftZu verwendende URL
Auf dem Host (pip oder uv)Auf dem Host (Docker oder Desktop-App)http://localhost:3001/v1
In Docker Desktop (macOS, Windows)Auf dem Hosthttp://host.docker.internal:3001/v1
In Docker unter LinuxIn Docker (Installationsskript)http://freellmapi:3001/v1 in einem gemeinsamen Docker-Netzwerk
Auf einem anderen ComputerAuf einem Server in Ihrem LANhttp://<server-ip>:3001/v1, mit HOST_BIND=0.0.0.0 nur in einem vertrauenswürdigen Netzwerk

Standardmäßig veröffentlicht der FreeLLMAPI-Container seinen Port nur auf 127.0.0.1. Unter Linux erreicht ein zweiter Container diesen Port über den Host nicht immer. Verbinden Sie beide Container mit einem Docker-Netzwerk. Verwenden Sie dann den Dienstnamen freellmapi als Hostnamen.

Open WebUI mit dem FreeLLMAPI-Netzwerk verbinden (Linux)

# Find the network of the FreeLLMAPI stack (usually freellmapi_default)
docker network ls

# Attach the Open WebUI container to it
docker network connect freellmapi_default open-webui

# Test the URL from inside the Open WebUI container
docker exec open-webui curl -s http://freellmapi:3001/v1/models \
  -H "Authorization: Bearer <unified-key>" | head -c 300

Schritt 2: Die Verbindung hinzufügen

Sie können die Verbindung in der Oberfläche oder mit Umgebungsvariablen hinzufügen. Die Oberfläche ist die einfachste Methode.

  1. Öffnen Sie das Admin-Panel und wechseln Sie zu Einstellungen > Verbindungen.
  2. Suchen Sie die Liste Manage OpenAI API Connections. Klicken Sie auf Add Connection.
  3. Geben Sie unter URL die URL aus Schritt 1 ein, zum Beispiel http://host.docker.internal:3001/v1.
  4. Fügen Sie unter API Key Ihren einheitlichen FreeLLMAPI-Schlüssel ein.
  5. Klicken Sie auf Verify Connection. Klicken Sie dann auf Save.

Um die Verbindung beim Start des Containers festzulegen, verwenden Sie OPENAI_API_BASE_URL und OPENAI_API_KEY. Der folgende Befehl ist der Standardbefehl docker run von Open WebUI, ergänzt um diese beiden Variablen.

docker run mit der FreeLLMAPI-Verbindung

docker run -d -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -e OPENAI_API_BASE_URL=http://host.docker.internal:3001/v1 \
  -e OPENAI_API_KEY=<unified-key> \
  -v open-webui:/app/backend/data \
  --name open-webui --restart always \
  ghcr.io/open-webui/open-webui:main

Um eine bestehende OpenAI-Verbindung beizubehalten, verwenden Sie die Pluralvariablen. OPENAI_API_BASE_URLS und OPENAI_API_KEYS erwarten Listen, die durch Semikolons getrennt sind. Der erste Schlüssel gehört zur ersten URL.

Zwei Verbindungen in einem Container

-e OPENAI_API_BASE_URLS="https://api.openai.com/v1;http://host.docker.internal:3001/v1" \
-e OPENAI_API_KEYS="<openai-key>;<unified-key>"
Wichtig: Diese Variablen werden beim ersten Start in der Open-WebUI-Datenbank gespeichert. Danach haben die im Admin-Panel gespeicherten Werte Vorrang vor der Umgebung. Wenn eine Änderung der Variablen keine Wirkung hat, bearbeiten Sie die Verbindung im Admin-Panel. Sie können auch ENABLE_PERSISTENT_CONFIG=False setzen, damit die Umgebung Vorrang hat.

Schritt 3: Die Modellliste kurz halten

FreeLLMAPI gibt den vollständigen Katalog unter /v1/models zurück. Der Katalog enthält auch Modelle, die Sie noch nicht aufrufen können, weil Sie dafür keinen Schlüssel hinzugefügt haben. Open WebUI zeigt jedes Modell an, das die Verbindung zurückgibt. Eine lange Liste mit fehlschlagenden Modellen ist nicht nützlich.

Öffnen Sie die Verbindung erneut und verwenden Sie das Feld Model IDs. Wenn Sie IDs hinzufügen, zeigt Open WebUI nur diese IDs an und liest die vollständige Liste nicht mehr. Fügen Sie zuerst die Router-Einträge hinzu:

Modell-IDWas der Router tut
autoFolgt Ihrer aktiven Fallback-Kette aus dem Dashboard
auto:fastOrdnet aktivierte Modelle nach gemessener Geschwindigkeit
auto:smartOrdnet aktivierte Modelle nach Intelligenz
auto:reliableOrdnet aktivierte Modelle nach aktueller Erfolgsquote
auto:<profile>Verwendet eine benannte Fallback-Kette, zum Beispiel eine Bildverarbeitungskette

Sie können auch eine feste Modell-ID hinzufügen, zum Beispiel ein Modell aus der Tabelle unten. Ein festes Modell liefert jedes Mal die gleiche Art von Antwort. Es stoppt außerdem, wenn das kostenlose Limit dieses Modells aufgebraucht ist, es sei denn, dasselbe Modell ist bei anderen Anbietern kostenlos.

Um Kontingent zu sparen, setzen Sie das Aufgabenmodell auf einen schnellen Eintrag. Open WebUI verwendet das Aufgabenmodell für Titel und Suchanfragen. Die Variable heißt TASK_MODEL_EXTERNAL, zum Beispiel TASK_MODEL_EXTERNAL=auto:fast.

Starke kostenlose Chat-Modelle mit 128K+ Kontext
ModellKostenlos beiKontextKostenlose Limits (bestes Angebot)ToolsBildverarbeitung
GLM 5.3APINex, UnoRouter1M5 Anfragen/Min.
10M weighted tokens/day shared across APINex free routes; 4x token multiplier; 5 requests/minute/account
JaNein
GLM 5.3 FlashAPINex, BlazeAPI, NVIDIA NIM +1 weitere1M40 Anfragen/Min.
40 RPM
JaJa
Gemini 3.8 FlashAPINex, Google AI Studio1M5 Anfragen/Min.
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
JaJa
Qwen3.8 Flash NextAMD Radeon Cloud, BlazeAPI, ElectronHub262KRecurring daily account allowanceJaNein
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditJaJa
Deepseek V4.1 FlashAPINex1M5 Anfragen/Min.
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
NeinNein
Gemini 3.7 FlashGoogle AI Studio1M10 Anfragen/Min.
20 Anfragen/Tag
250,000 Token/Min.
~3M
JaJa
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditJaJa
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 Anfragen/Min.
50 Anfragen/Tag
50 req/day account-wide (1,000 after a $10 purchase)
JaJa
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 Anfragen/Min.
50 Anfragen/Tag
Shared rate limit
JaNein

Es werden 10 von 184 passenden kostenlosen Modellen angezeigt. Alle Modelle ansehen.

Live-Daten aus dem FreeLLMAPI-Katalog (Version 2026.11.19, geprüft 2026-11-19). Kostenlose Limits ändern sich oft. Der Katalog wird jeden Tag geprüft.

Wenn Sie in Open WebUI Bilder senden, verwendet der Router für diese Anfrage nur Bildverarbeitungsmodelle. Ist kein Bildmodell in Ihrer Kette, gibt die Anfrage den Fehler 422 zurück. Diese kostenlosen Modelle akzeptieren Bilder:

Kostenlose Modelle mit Bildeingabe
ModellKostenlos beiKontextKostenlose Limits (bestes Angebot)ToolsBildverarbeitung
GLM 5.3 FlashUnoRouter1M1 Anfragen/Min.
1 req/min per model
JaJa
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaJaJa
Gemini Flash (latest alias)Google AI Studio-10 Anfragen/Min.
20 Anfragen/Tag
250,000 Token/Min.
~3M
JaJa
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditJaJa
Gemini 3.7 FlashGoogle AI Studio1M10 Anfragen/Min.
20 Anfragen/Tag
250,000 Token/Min.
~3M
JaJa
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditJaJa

Es werden 6 von 67 passenden kostenlosen Modellen angezeigt. Alle Modelle ansehen.

Live-Daten aus dem FreeLLMAPI-Katalog (Version 2026.11.19, geprüft 2026-11-19). Kostenlose Limits ändern sich oft. Der Katalog wird jeden Tag geprüft.

Kostenlose Embeddings für Dokumente verwenden

Open WebUI kann Embeddings für Ihre Dokumente über eine OpenAI-kompatible API erzeugen. FreeLLMAPI stellt /v1/embeddings bereit. Das Failover für Embeddings wechselt das Modell nie, damit die Vektoren in Ihrem Speicher kompatibel bleiben.

Embedding-Einstellungen für Open WebUI

-e RAG_EMBEDDING_ENGINE=openai \
-e RAG_OPENAI_API_BASE_URL=http://host.docker.internal:3001/v1 \
-e RAG_OPENAI_API_KEY=<unified-key> \
-e RAG_EMBEDDING_MODEL=bge-m3

Wählen Sie eine Embedding-Familie und behalten Sie sie bei. Wenn Sie die Familie wechseln, erzeugen Sie die Embeddings für alle Dokumente neu. Die kostenlosen Embedding-Modelle im heutigen Katalog sind:

ModellAnbieterDimensionenMax. EingabeKostenloses Limit
Gemini Embedding
gemini-embedding-001
Google AI Studio30722048100 rpm · 1K req/day
Nemotron Embed VL 1B
nvidia/llama-nemotron-embed-vl-1b-v2
NVIDIA NIM20488192~40 rpm
Nemotron 3 Embed 1B (OR free)
nvidia/nemotron-3-embed-1b:free
OpenRouter20483276820 rpm · shared free daily cap
SEA-LION E5 Embedding 600M
aisingapore/SEA-LION-E5-Embedding-600M
SEA-LION10248192free · 10 rpm
SEA-LION ModernBERT Embedding 300M
aisingapore/SEA-LION-ModernBERT-Embedding-300M
SEA-LION10248192free · 10 rpm
SEA-LION ModernBERT Embedding 600M
aisingapore/SEA-LION-ModernBERT-Embedding-600M
SEA-LION10248192free · 10 rpm
BGE-M3
@cf/baai/bge-m3
Cloudflare Workers AI1024819210K neurons/day (shared)
EmbeddingGemma 300M
@cf/google/embeddinggemma-300m
Cloudflare Workers AI768204810K neurons/day (shared)
Qwen3 Embedding 0.6B
@cf/qwen/qwen3-embedding-0.6b
Cloudflare Workers AI1024819210K neurons/day (shared)
Cohere Embed v4
embed-v4.0
Cohere15361280001K calls/mo (shared w/ chat)
Gemini Embedding 2
gemini-embedding-2
Google AI Studio30728192free-tier rate limited
Nemotron 3 Embed 1B
nvidia/nemotron-3-embed-1b
NVIDIA NIM20484096~40 rpm
PLaMo Embedding 1B (CF)
@cf/pfnet/plamo-embedding-1b
Cloudflare Workers AI2048409610K neurons/day (shared)
BGE Small EN v1.5 (CF)
@cf/baai/bge-small-en-v1.5
Cloudflare Workers AI38451210K neurons/day (shared)
BGE Base EN v1.5 (CF)
@cf/baai/bge-base-en-v1.5
Cloudflare Workers AI76851210K neurons/day (shared)
BGE Large EN v1.5 (CF)
@cf/baai/bge-large-en-v1.5
Cloudflare Workers AI102451210K neurons/day (shared)
Mistral Embed
mistral-embed
Mistral10248192free mode · monthly cap (shared)
Codestral Embed
codestral-embed
Mistral15368192free mode · monthly cap (shared)
Llama Text Embed v2 (Pinecone)
llama-text-embed-v2
Pinecone102420485M tokens/mo per model
Multilingual E5 Large (Pinecone)
multilingual-e5-large
Pinecone10245075M tokens/mo per model
Nemotron 3 Embed 1B (Speka)
nvidia/nemotron-3-embed-1b
Speka20488192$1/month shared across Speka models
OpenAI: Text Embedding 3 Small (ElectronHub)
text-embedding-3-small
ElectronHub15368192$0.25/week shared free credits
OpenAI: Text Embedding 3 Large (ElectronHub)
text-embedding-3-large
ElectronHub30728192$0.25/week shared free credits
Nemotron 3 Embed 8B (Inferbase)
nvidia-nemotron-3-embed-8b
Inferbase409681925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 0.6B (Inferbase)
qwen3-embedding-0-6b
Inferbase102481925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 4B (Inferbase)
qwen3-embedding-4b
Inferbase256081925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 8B (Inferbase)
qwen3-embedding-8b
Inferbase409681925,000 requests/month; 100 requests and $0.50 usage/day shared
LFM2.5 Embedding 350M (LLMTR)
liquid/lfm-2.5-embedding-350m-free
LLMTR1024512Ongoing zero-price route; provider terms apply
BGE-M3 (SEA-LION)
BAAI/bge-m3
SEA-LION10248192free · 10 rpm
Cohere Embed English v3
embed-english-v3.0
Cohere10245121K calls/mo (shared w/ chat)
Qwen3 Embedding 8B (OVH)
Qwen3-Embedding-8B
OVH AI Endpoints409632768free · anonymous 2 req/min per IP
BGE-M3 (OVH)
bge-m3
OVH AI Endpoints10248192free · anonymous 2 req/min per IP
BGE Multilingual Gemma2 (OVH)
bge-multilingual-gemma2
OVH AI Endpoints35848192free · anonymous 2 req/min per IP
Mistral: Codestral Embed (ElectronHub)
codestral-embed
ElectronHub15368192$0.25/week shared free credits
Mistral: Mistral Embed (ElectronHub)
mistral-embed
ElectronHub10248192$0.25/week shared free credits
Google: Gemini Embedding 2 (ElectronHub)
gemini-embedding-2
ElectronHub30728192$0.25/week shared free credits
Google: Gemini Embedding 001 (ElectronHub)
gemini-embedding-001
ElectronHub30722048$0.25/week shared free credits
OpenAI: Text Embedding Ada 002 (ElectronHub)
text-embedding-ada-002
ElectronHub15368192$0.25/week shared free credits
Cohere Embed English Light v3
embed-english-light-v3.0
Cohere3845121K calls/mo (shared w/ chat)
Cohere Embed Multilingual v3
embed-multilingual-v3.0
Cohere10245121K calls/mo (shared w/ chat)
Cohere Embed Multilingual Light v3
embed-multilingual-light-v3.0
Cohere3845121K calls/mo (shared w/ chat)

Live-Daten aus dem FreeLLMAPI-Katalog (Version 2026.11.19, geprüft 2026-11-19). Kostenlose Limits ändern sich oft. Der Katalog wird jeden Tag geprüft.

Fehlerbehebung

ProblemUrsacheLösung
Verify Connection schlägt mit einem Netzwerkfehler fehllocalhost zeigt auf den Open-WebUI-ContainerVerwenden Sie host.docker.internal oder ein gemeinsames Docker-Netzwerk, wie in Schritt 1
Verify Connection schlägt mit 401 fehlDer Schlüssel ist falsch oder enthält LeerzeichenKopieren Sie den einheitlichen Schlüssel erneut von der Seite Schlüssel
Im Auswahlfeld stehen Hunderte ModelleDie Verbindung liest den vollständigen KatalogFügen Sie auto und Ihre gewählten IDs unter Model IDs hinzu
Ein Modell schlägt bei jeder Nachricht fehlKein Schlüssel für den Anbieter dieses ModellsFügen Sie den Anbieterschlüssel hinzu oder wählen Sie auto
Fehler 429 nach vielen ChatsAlle Anbieterschlüssel in der Kette haben ihr Limit erreichtFügen Sie Schlüssel von weiteren Anbietern hinzu oder warten Sie bis zur Zeit im Header Retry-After
Umgebungsvariablen haben keine WirkungGespeicherte Werte in der Datenbank haben VorrangBearbeiten Sie die Verbindung im Admin-Panel

Um zu sehen, welcher Anbieter einen Chat beantwortet hat, lesen Sie den Header X-Routed-Via der Antwort. Der Bereich Server Logs im Menü Analytics des Dashboards zeigt außerdem die Routing-Entscheidungen und Abkühlzeiten der Schlüssel.

Nutzen Sie alle diese Modelle über einen einzigen Schlüssel. FreeLLMAPI ist ein Open-Source-Router, den Sie selbst hosten. Er stellt alle diese kostenlosen Angebote hinter einem einzigen OpenAI-kompatiblen Endpunkt bereit und wechselt zum nächsten Anbieter, wenn ein Anbieter das Limit erreicht. Katalog ansehen oder Jetzt starten.

Häufig gestellte Fragen

Gibt es eine kostenlose API für Open WebUI?

Ja. Open WebUI funktioniert mit jeder OpenAI-kompatiblen API. FreeLLMAPI kombiniert kostenlose Angebote von Anbietern hinter einer URL und einem Schlüssel. Jedes kostenlose Angebot hat eigene Limits.

Welche URL verwende ich für eine OpenAI-kompatible Verbindung in Open WebUI?

Verwenden Sie die Basis-URL mit /v1 am Ende, zum Beispiel http://host.docker.internal:3001/v1. Fügen Sie kein /chat/completions hinzu. Wenn Open WebUI in Docker läuft, verwenden Sie nicht localhost.

Warum ignoriert Open WebUI meine Änderung von OPENAI_API_BASE_URL?

Open WebUI speichert die Verbindungseinstellungen nach dem ersten Start in seiner Datenbank. Werte in der Datenbank haben Vorrang. Bearbeiten Sie die Verbindung im Admin-Panel oder setzen Sie ENABLE_PERSISTENT_CONFIG=False.

Kann Open WebUI mehrere kostenlose Anbieter gleichzeitig nutzen?

Ja. Sie können pro Anbieter eine Verbindung hinzufügen. Mit FreeLLMAPI reicht eine Verbindung, weil der Router den Anbieter auswählt und bei einem Limit zum nächsten wechselt.

Welches kostenlose Modell ist in Open WebUI am besten?

Beginnen Sie mit auto. Dieses Modell folgt Ihrer Fallback-Kette. Für ein festes Modell wählen Sie eines mit großem Kontextfenster aus der Tabelle auf dieser Seite.

Verwandte Anleitungen

Quellen

Alle Anleitungen · Alle kostenlosen Modelle ansehen