Kostenlose LLM-API für Open WebUI
Open WebUI ist eine selbst gehostete Chat-Oberfläche. Sie verbindet sich mit jedem Server, der die OpenAI Chat Completions API spricht. Diese Anleitung verbindet Open WebUI mit FreeLLMAPI. FreeLLMAPI bündelt 45 kostenlose Angebote von Anbietern hinter einem einzigen Schlüssel. Sie fügen eine Verbindung hinzu. Der Router sendet jeden Chat an ein kostenloses Modell und wechselt zum nächsten Anbieter, wenn ein Limit eine Anfrage stoppt.
Code, Modellnamen und Bezeichnungen aus dem Live-Katalog werden auf Englisch angezeigt.
So funktioniert die Verbindung
Open WebUI sendet Chat-Anfragen an die URL jeder OpenAI-Verbindung. FreeLLMAPI lauscht auf http://localhost:3001/v1 und nimmt dieselben Anfragen entgegen. Der Router wählt ein kostenloses Modell, sendet die Anfrage und gibt die Antwort im OpenAI-Format zurück.
- Eine Verbindung, viele Anbieter: Sie fügen eine URL und einen einheitlichen Schlüssel hinzu. Ihre Anbieterschlüssel bleiben in FreeLLMAPI auf Ihrem Computer.
- Failover: Gibt ein Anbieter den Fehler 429 zurück, versucht der Router das nächste Modell in Ihrer Fallback-Kette.
- Limits: Kostenlose Angebote haben Limits für Anfragen und Token. Mehr Anbieterschlüssel ergeben mehr Anfragen pro Tag. Failover verteilt die Last, hebt die Limits aber nicht auf.
Installieren Sie zuerst FreeLLMAPI. Es läuft in Docker. Öffnen Sie das Dashboard unter http://localhost:3001, fügen Sie auf der Seite Schlüssel mindestens zwei kostenlose Anbieterschlüssel hinzu und kopieren Sie Ihren einheitlichen Schlüssel.
FreeLLMAPI installieren (macOS oder Linux)
curl -fsSL https://freellmapi.co/install.sh | bashSchritt 1: Die richtige URL finden
Die URL, die Open WebUI verwenden muss, hängt davon ab, wo jedes Programm läuft. Open WebUI läuft meist in Docker. In einem Container ist localhost der Container selbst, nicht Ihr Computer.
| Open WebUI läuft | FreeLLMAPI läuft | Zu verwendende URL |
|---|---|---|
| Auf dem Host (pip oder uv) | Auf dem Host (Docker oder Desktop-App) | http://localhost:3001/v1 |
| In Docker Desktop (macOS, Windows) | Auf dem Host | http://host.docker.internal:3001/v1 |
| In Docker unter Linux | In Docker (Installationsskript) | http://freellmapi:3001/v1 in einem gemeinsamen Docker-Netzwerk |
| Auf einem anderen Computer | Auf einem Server in Ihrem LAN | http://<server-ip>:3001/v1, mit HOST_BIND=0.0.0.0 nur in einem vertrauenswürdigen Netzwerk |
Standardmäßig veröffentlicht der FreeLLMAPI-Container seinen Port nur auf 127.0.0.1. Unter Linux erreicht ein zweiter Container diesen Port über den Host nicht immer. Verbinden Sie beide Container mit einem Docker-Netzwerk. Verwenden Sie dann den Dienstnamen freellmapi als Hostnamen.
Open WebUI mit dem FreeLLMAPI-Netzwerk verbinden (Linux)
# Find the network of the FreeLLMAPI stack (usually freellmapi_default)
docker network ls
# Attach the Open WebUI container to it
docker network connect freellmapi_default open-webui
# Test the URL from inside the Open WebUI container
docker exec open-webui curl -s http://freellmapi:3001/v1/models \
-H "Authorization: Bearer <unified-key>" | head -c 300Schritt 2: Die Verbindung hinzufügen
Sie können die Verbindung in der Oberfläche oder mit Umgebungsvariablen hinzufügen. Die Oberfläche ist die einfachste Methode.
- Öffnen Sie das Admin-Panel und wechseln Sie zu Einstellungen > Verbindungen.
- Suchen Sie die Liste Manage OpenAI API Connections. Klicken Sie auf Add Connection.
- Geben Sie unter URL die URL aus Schritt 1 ein, zum Beispiel
http://host.docker.internal:3001/v1. - Fügen Sie unter API Key Ihren einheitlichen FreeLLMAPI-Schlüssel ein.
- Klicken Sie auf Verify Connection. Klicken Sie dann auf Save.
Um die Verbindung beim Start des Containers festzulegen, verwenden Sie OPENAI_API_BASE_URL und OPENAI_API_KEY. Der folgende Befehl ist der Standardbefehl docker run von Open WebUI, ergänzt um diese beiden Variablen.
docker run mit der FreeLLMAPI-Verbindung
docker run -d -p 3000:8080 \
--add-host=host.docker.internal:host-gateway \
-e OPENAI_API_BASE_URL=http://host.docker.internal:3001/v1 \
-e OPENAI_API_KEY=<unified-key> \
-v open-webui:/app/backend/data \
--name open-webui --restart always \
ghcr.io/open-webui/open-webui:mainUm eine bestehende OpenAI-Verbindung beizubehalten, verwenden Sie die Pluralvariablen. OPENAI_API_BASE_URLS und OPENAI_API_KEYS erwarten Listen, die durch Semikolons getrennt sind. Der erste Schlüssel gehört zur ersten URL.
Zwei Verbindungen in einem Container
-e OPENAI_API_BASE_URLS="https://api.openai.com/v1;http://host.docker.internal:3001/v1" \
-e OPENAI_API_KEYS="<openai-key>;<unified-key>"ENABLE_PERSISTENT_CONFIG=False setzen, damit die Umgebung Vorrang hat.Schritt 3: Die Modellliste kurz halten
FreeLLMAPI gibt den vollständigen Katalog unter /v1/models zurück. Der Katalog enthält auch Modelle, die Sie noch nicht aufrufen können, weil Sie dafür keinen Schlüssel hinzugefügt haben. Open WebUI zeigt jedes Modell an, das die Verbindung zurückgibt. Eine lange Liste mit fehlschlagenden Modellen ist nicht nützlich.
Öffnen Sie die Verbindung erneut und verwenden Sie das Feld Model IDs. Wenn Sie IDs hinzufügen, zeigt Open WebUI nur diese IDs an und liest die vollständige Liste nicht mehr. Fügen Sie zuerst die Router-Einträge hinzu:
| Modell-ID | Was der Router tut |
|---|---|
auto | Folgt Ihrer aktiven Fallback-Kette aus dem Dashboard |
auto:fast | Ordnet aktivierte Modelle nach gemessener Geschwindigkeit |
auto:smart | Ordnet aktivierte Modelle nach Intelligenz |
auto:reliable | Ordnet aktivierte Modelle nach aktueller Erfolgsquote |
auto:<profile> | Verwendet eine benannte Fallback-Kette, zum Beispiel eine Bildverarbeitungskette |
Sie können auch eine feste Modell-ID hinzufügen, zum Beispiel ein Modell aus der Tabelle unten. Ein festes Modell liefert jedes Mal die gleiche Art von Antwort. Es stoppt außerdem, wenn das kostenlose Limit dieses Modells aufgebraucht ist, es sei denn, dasselbe Modell ist bei anderen Anbietern kostenlos.
Um Kontingent zu sparen, setzen Sie das Aufgabenmodell auf einen schnellen Eintrag. Open WebUI verwendet das Aufgabenmodell für Titel und Suchanfragen. Die Variable heißt TASK_MODEL_EXTERNAL, zum Beispiel TASK_MODEL_EXTERNAL=auto:fast.
| Modell | Kostenlos bei | Kontext | Kostenlose Limits (bestes Angebot) | Tools | Bildverarbeitung |
|---|---|---|---|---|---|
| GLM 5.3 | APINex, UnoRouter | 1M | 5 Anfragen/Min. 10M weighted tokens/day shared across APINex free routes; 4x token multiplier; 5 requests/minute/account | Ja | Nein |
| GLM 5.3 Flash | APINex, BlazeAPI, NVIDIA NIM +1 weitere | 1M | 40 Anfragen/Min. 40 RPM | Ja | Ja |
| Gemini 3.8 Flash | APINex, Google AI Studio | 1M | 5 Anfragen/Min. 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | Ja | Ja |
| Qwen3.8 Flash Next | AMD Radeon Cloud, BlazeAPI, ElectronHub | 262K | Recurring daily account allowance | Ja | Nein |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | Ja | Ja |
| Deepseek V4.1 Flash | APINex | 1M | 5 Anfragen/Min. 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | Nein | Nein |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 Anfragen/Min. 20 Anfragen/Tag 250,000 Token/Min. ~3M | Ja | Ja |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | Ja | Ja |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 Anfragen/Min. 50 Anfragen/Tag 50 req/day account-wide (1,000 after a $10 purchase) | Ja | Ja |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 Anfragen/Min. 50 Anfragen/Tag Shared rate limit | Ja | Nein |
Es werden 10 von 184 passenden kostenlosen Modellen angezeigt. Alle Modelle ansehen.
Live-Daten aus dem FreeLLMAPI-Katalog (Version 2026.11.19, geprüft 2026-11-19). Kostenlose Limits ändern sich oft. Der Katalog wird jeden Tag geprüft.
Wenn Sie in Open WebUI Bilder senden, verwendet der Router für diese Anfrage nur Bildverarbeitungsmodelle. Ist kein Bildmodell in Ihrer Kette, gibt die Anfrage den Fehler 422 zurück. Diese kostenlosen Modelle akzeptieren Bilder:
| Modell | Kostenlos bei | Kontext | Kostenlose Limits (bestes Angebot) | Tools | Bildverarbeitung |
|---|---|---|---|---|---|
| GLM 5.3 Flash | UnoRouter | 1M | 1 Anfragen/Min. 1 req/min per model | Ja | Ja |
| Gemini 3.8 Flash | Google AI Studio | 1M | Recurring provider quota | Ja | Ja |
| Gemini Flash (latest alias) | Google AI Studio | - | 10 Anfragen/Min. 20 Anfragen/Tag 250,000 Token/Min. ~3M | Ja | Ja |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | Ja | Ja |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 Anfragen/Min. 20 Anfragen/Tag 250,000 Token/Min. ~3M | Ja | Ja |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | Ja | Ja |
Es werden 6 von 67 passenden kostenlosen Modellen angezeigt. Alle Modelle ansehen.
Live-Daten aus dem FreeLLMAPI-Katalog (Version 2026.11.19, geprüft 2026-11-19). Kostenlose Limits ändern sich oft. Der Katalog wird jeden Tag geprüft.
Kostenlose Embeddings für Dokumente verwenden
Open WebUI kann Embeddings für Ihre Dokumente über eine OpenAI-kompatible API erzeugen. FreeLLMAPI stellt /v1/embeddings bereit. Das Failover für Embeddings wechselt das Modell nie, damit die Vektoren in Ihrem Speicher kompatibel bleiben.
Embedding-Einstellungen für Open WebUI
-e RAG_EMBEDDING_ENGINE=openai \
-e RAG_OPENAI_API_BASE_URL=http://host.docker.internal:3001/v1 \
-e RAG_OPENAI_API_KEY=<unified-key> \
-e RAG_EMBEDDING_MODEL=bge-m3Wählen Sie eine Embedding-Familie und behalten Sie sie bei. Wenn Sie die Familie wechseln, erzeugen Sie die Embeddings für alle Dokumente neu. Die kostenlosen Embedding-Modelle im heutigen Katalog sind:
| Modell | Anbieter | Dimensionen | Max. Eingabe | Kostenloses Limit |
|---|---|---|---|---|
Gemini Embeddinggemini-embedding-001 | Google AI Studio | 3072 | 2048 | 100 rpm · 1K req/day |
Nemotron Embed VL 1Bnvidia/llama-nemotron-embed-vl-1b-v2 | NVIDIA NIM | 2048 | 8192 | ~40 rpm |
Nemotron 3 Embed 1B (OR free)nvidia/nemotron-3-embed-1b:free | OpenRouter | 2048 | 32768 | 20 rpm · shared free daily cap |
SEA-LION E5 Embedding 600Maisingapore/SEA-LION-E5-Embedding-600M | SEA-LION | 1024 | 8192 | free · 10 rpm |
SEA-LION ModernBERT Embedding 300Maisingapore/SEA-LION-ModernBERT-Embedding-300M | SEA-LION | 1024 | 8192 | free · 10 rpm |
SEA-LION ModernBERT Embedding 600Maisingapore/SEA-LION-ModernBERT-Embedding-600M | SEA-LION | 1024 | 8192 | free · 10 rpm |
BGE-M3@cf/baai/bge-m3 | Cloudflare Workers AI | 1024 | 8192 | 10K neurons/day (shared) |
EmbeddingGemma 300M@cf/google/embeddinggemma-300m | Cloudflare Workers AI | 768 | 2048 | 10K neurons/day (shared) |
Qwen3 Embedding 0.6B@cf/qwen/qwen3-embedding-0.6b | Cloudflare Workers AI | 1024 | 8192 | 10K neurons/day (shared) |
Cohere Embed v4embed-v4.0 | Cohere | 1536 | 128000 | 1K calls/mo (shared w/ chat) |
Gemini Embedding 2gemini-embedding-2 | Google AI Studio | 3072 | 8192 | free-tier rate limited |
Nemotron 3 Embed 1Bnvidia/nemotron-3-embed-1b | NVIDIA NIM | 2048 | 4096 | ~40 rpm |
PLaMo Embedding 1B (CF)@cf/pfnet/plamo-embedding-1b | Cloudflare Workers AI | 2048 | 4096 | 10K neurons/day (shared) |
BGE Small EN v1.5 (CF)@cf/baai/bge-small-en-v1.5 | Cloudflare Workers AI | 384 | 512 | 10K neurons/day (shared) |
BGE Base EN v1.5 (CF)@cf/baai/bge-base-en-v1.5 | Cloudflare Workers AI | 768 | 512 | 10K neurons/day (shared) |
BGE Large EN v1.5 (CF)@cf/baai/bge-large-en-v1.5 | Cloudflare Workers AI | 1024 | 512 | 10K neurons/day (shared) |
Mistral Embedmistral-embed | Mistral | 1024 | 8192 | free mode · monthly cap (shared) |
Codestral Embedcodestral-embed | Mistral | 1536 | 8192 | free mode · monthly cap (shared) |
Llama Text Embed v2 (Pinecone)llama-text-embed-v2 | Pinecone | 1024 | 2048 | 5M tokens/mo per model |
Multilingual E5 Large (Pinecone)multilingual-e5-large | Pinecone | 1024 | 507 | 5M tokens/mo per model |
Nemotron 3 Embed 1B (Speka)nvidia/nemotron-3-embed-1b | Speka | 2048 | 8192 | $1/month shared across Speka models |
OpenAI: Text Embedding 3 Small (ElectronHub)text-embedding-3-small | ElectronHub | 1536 | 8192 | $0.25/week shared free credits |
OpenAI: Text Embedding 3 Large (ElectronHub)text-embedding-3-large | ElectronHub | 3072 | 8192 | $0.25/week shared free credits |
Nemotron 3 Embed 8B (Inferbase)nvidia-nemotron-3-embed-8b | Inferbase | 4096 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
Qwen 3 Embedding 0.6B (Inferbase)qwen3-embedding-0-6b | Inferbase | 1024 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
Qwen 3 Embedding 4B (Inferbase)qwen3-embedding-4b | Inferbase | 2560 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
Qwen 3 Embedding 8B (Inferbase)qwen3-embedding-8b | Inferbase | 4096 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
LFM2.5 Embedding 350M (LLMTR)liquid/lfm-2.5-embedding-350m-free | LLMTR | 1024 | 512 | Ongoing zero-price route; provider terms apply |
BGE-M3 (SEA-LION)BAAI/bge-m3 | SEA-LION | 1024 | 8192 | free · 10 rpm |
Cohere Embed English v3embed-english-v3.0 | Cohere | 1024 | 512 | 1K calls/mo (shared w/ chat) |
Qwen3 Embedding 8B (OVH)Qwen3-Embedding-8B | OVH AI Endpoints | 4096 | 32768 | free · anonymous 2 req/min per IP |
BGE-M3 (OVH)bge-m3 | OVH AI Endpoints | 1024 | 8192 | free · anonymous 2 req/min per IP |
BGE Multilingual Gemma2 (OVH)bge-multilingual-gemma2 | OVH AI Endpoints | 3584 | 8192 | free · anonymous 2 req/min per IP |
Mistral: Codestral Embed (ElectronHub)codestral-embed | ElectronHub | 1536 | 8192 | $0.25/week shared free credits |
Mistral: Mistral Embed (ElectronHub)mistral-embed | ElectronHub | 1024 | 8192 | $0.25/week shared free credits |
Google: Gemini Embedding 2 (ElectronHub)gemini-embedding-2 | ElectronHub | 3072 | 8192 | $0.25/week shared free credits |
Google: Gemini Embedding 001 (ElectronHub)gemini-embedding-001 | ElectronHub | 3072 | 2048 | $0.25/week shared free credits |
OpenAI: Text Embedding Ada 002 (ElectronHub)text-embedding-ada-002 | ElectronHub | 1536 | 8192 | $0.25/week shared free credits |
Cohere Embed English Light v3embed-english-light-v3.0 | Cohere | 384 | 512 | 1K calls/mo (shared w/ chat) |
Cohere Embed Multilingual v3embed-multilingual-v3.0 | Cohere | 1024 | 512 | 1K calls/mo (shared w/ chat) |
Cohere Embed Multilingual Light v3embed-multilingual-light-v3.0 | Cohere | 384 | 512 | 1K calls/mo (shared w/ chat) |
Live-Daten aus dem FreeLLMAPI-Katalog (Version 2026.11.19, geprüft 2026-11-19). Kostenlose Limits ändern sich oft. Der Katalog wird jeden Tag geprüft.
Fehlerbehebung
| Problem | Ursache | Lösung |
|---|---|---|
| Verify Connection schlägt mit einem Netzwerkfehler fehl | localhost zeigt auf den Open-WebUI-Container | Verwenden Sie host.docker.internal oder ein gemeinsames Docker-Netzwerk, wie in Schritt 1 |
| Verify Connection schlägt mit 401 fehl | Der Schlüssel ist falsch oder enthält Leerzeichen | Kopieren Sie den einheitlichen Schlüssel erneut von der Seite Schlüssel |
| Im Auswahlfeld stehen Hunderte Modelle | Die Verbindung liest den vollständigen Katalog | Fügen Sie auto und Ihre gewählten IDs unter Model IDs hinzu |
| Ein Modell schlägt bei jeder Nachricht fehl | Kein Schlüssel für den Anbieter dieses Modells | Fügen Sie den Anbieterschlüssel hinzu oder wählen Sie auto |
| Fehler 429 nach vielen Chats | Alle Anbieterschlüssel in der Kette haben ihr Limit erreicht | Fügen Sie Schlüssel von weiteren Anbietern hinzu oder warten Sie bis zur Zeit im Header Retry-After |
| Umgebungsvariablen haben keine Wirkung | Gespeicherte Werte in der Datenbank haben Vorrang | Bearbeiten Sie die Verbindung im Admin-Panel |
Um zu sehen, welcher Anbieter einen Chat beantwortet hat, lesen Sie den Header X-Routed-Via der Antwort. Der Bereich Server Logs im Menü Analytics des Dashboards zeigt außerdem die Routing-Entscheidungen und Abkühlzeiten der Schlüssel.
Häufig gestellte Fragen
Gibt es eine kostenlose API für Open WebUI?
Ja. Open WebUI funktioniert mit jeder OpenAI-kompatiblen API. FreeLLMAPI kombiniert kostenlose Angebote von Anbietern hinter einer URL und einem Schlüssel. Jedes kostenlose Angebot hat eigene Limits.
Welche URL verwende ich für eine OpenAI-kompatible Verbindung in Open WebUI?
Verwenden Sie die Basis-URL mit /v1 am Ende, zum Beispiel http://host.docker.internal:3001/v1. Fügen Sie kein /chat/completions hinzu. Wenn Open WebUI in Docker läuft, verwenden Sie nicht localhost.
Warum ignoriert Open WebUI meine Änderung von OPENAI_API_BASE_URL?
Open WebUI speichert die Verbindungseinstellungen nach dem ersten Start in seiner Datenbank. Werte in der Datenbank haben Vorrang. Bearbeiten Sie die Verbindung im Admin-Panel oder setzen Sie ENABLE_PERSISTENT_CONFIG=False.
Kann Open WebUI mehrere kostenlose Anbieter gleichzeitig nutzen?
Ja. Sie können pro Anbieter eine Verbindung hinzufügen. Mit FreeLLMAPI reicht eine Verbindung, weil der Router den Anbieter auswählt und bei einem Limit zum nächsten wechselt.
Welches kostenlose Modell ist in Open WebUI am besten?
Beginnen Sie mit auto. Dieses Modell folgt Ihrer Fallback-Kette. Für ein festes Modell wählen Sie eines mit großem Kontextfenster aus der Tabelle auf dieser Seite.
Verwandte Anleitungen
- Kostenlose API für SillyTavern
- Kostenlose OpenAI-kompatible API-Base-URLs
- Kostenlose Embeddings-API
- Kostenlose LLM-API für RAG
- Rate-Limits kostenloser LLM-APIs
Quellen
- Open WebUI docs: environment variable configuration (geprüft 20 November 2026)
- Open WebUI docs: connect an OpenAI-compatible provider (geprüft 20 November 2026)
- Open WebUI README: Docker installation (geprüft 20 November 2026)
- FreeLLMAPI docs: REST API (routing strategies, model listing, embeddings) (geprüft 20 November 2026)
- FreeLLMAPI docs: Docker deployment (geprüft 20 November 2026)