Acasă / Ghiduri / Free LLM API pentru Open WebUI

Free LLM API pentru Open WebUI

Open WebUI este o interfață de chat găzduită de dumneavoastră. Se conectează la orice server care folosește API-ul OpenAI Chat Completions. Acest ghid conectează Open WebUI la FreeLLMAPI, care reunește 45 niveluri gratuite de furnizori în spatele unei singure chei. Adăugați o singură conexiune. Routerul trimite fiecare chat la un model gratuit și trece la următorul furnizor când o limită oprește o cerere.

Codul, numele modelelor și etichetele live din catalog sunt afișate în engleză.

Cum funcționează conexiunea

Open WebUI trimite cererile de chat la URL-ul fiecărei conexiuni OpenAI. FreeLLMAPI ascultă pe http://localhost:3001/v1 și acceptă aceleași cereri. Alege un model gratuit, trimite cererea și returnează răspunsul în format OpenAI.

  • O conexiune, mai mulți furnizori: adăugați un singur URL și o cheie unificată. Cheile furnizorilor rămân în FreeLLMAPI, pe computerul dumneavoastră.
  • Trecere la alt furnizor: când un furnizor returnează eroarea 429, routerul încearcă următorul model din lanțul de rezervă.
  • Limite: nivelurile gratuite au limite de cereri și de tokeni. Mai multe chei de furnizor înseamnă mai multe cereri pe zi. Trecerea la alt furnizor distribuie sarcina, dar nu elimină limitele.

Instalați mai întâi FreeLLMAPI. Rulează în Docker. Deschideți panoul la http://localhost:3001, adăugați cel puțin două chei de furnizori gratuiți pe pagina Keys și copiați cheia unificată.

Instalați FreeLLMAPI (macOS sau Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

Pasul 1: Găsiți URL-ul corect

URL-ul pe care trebuie să-l folosească Open WebUI depinde de locul în care rulează fiecare program. Open WebUI rulează de obicei în Docker. Într-un container, localhost înseamnă containerul în sine, nu computerul dumneavoastră.

Open WebUI ruleazăFreeLLMAPI ruleazăURL de folosit
Pe gazdă (pip sau uv)Pe gazdă (Docker sau aplicația desktop)http://localhost:3001/v1
În Docker Desktop (macOS, Windows)Pe gazdăhttp://host.docker.internal:3001/v1
În Docker pe LinuxÎn Docker (script de instalare)http://freellmapi:3001/v1 pe o rețea Docker comună
Pe alt computerPe un server din rețeaua localăhttp://<server-ip>:3001/v1, cu HOST_BIND=0.0.0.0, doar pe o rețea de încredere

Implicit, containerul FreeLLMAPI publică portul doar pe 127.0.0.1. Pe Linux, un al doilea container nu poate ajunge întotdeauna la acest port prin gazdă. Conectați ambele containere la o singură rețea Docker. Apoi folosiți numele serviciului freellmapi ca nume de gazdă.

Conectați Open WebUI la rețeaua FreeLLMAPI (Linux)

# Find the network of the FreeLLMAPI stack (usually freellmapi_default)
docker network ls

# Attach the Open WebUI container to it
docker network connect freellmapi_default open-webui

# Test the URL from inside the Open WebUI container
docker exec open-webui curl -s http://freellmapi:3001/v1/models \
  -H "Authorization: Bearer <unified-key>" | head -c 300

Pasul 2: Adăugați conexiunea

Puteți adăuga conexiunea în interfață sau cu variabile de mediu. Interfața este cea mai simplă metodă.

  1. Deschideți Admin Panel și mergeți la Settings > Connections.
  2. Găsiți lista Manage OpenAI API Connections. Faceți clic pe Add Connection.
  3. În URL, scrieți URL-ul de la Pasul 1, de exemplu http://host.docker.internal:3001/v1.
  4. În API Key, lipiți cheia unificată FreeLLMAPI.
  5. Faceți clic pe Verify Connection. Apoi faceți clic pe Save.

Pentru a seta conexiunea la pornirea containerului, folosiți OPENAI_API_BASE_URL și OPENAI_API_KEY. Comanda de mai jos este comanda standard docker run pentru Open WebUI, cu cele două variabile adăugate.

docker run cu conexiunea FreeLLMAPI

docker run -d -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -e OPENAI_API_BASE_URL=http://host.docker.internal:3001/v1 \
  -e OPENAI_API_KEY=<unified-key> \
  -v open-webui:/app/backend/data \
  --name open-webui --restart always \
  ghcr.io/open-webui/open-webui:main

Pentru a păstra o conexiune OpenAI existentă, folosiți variabilele la plural. OPENAI_API_BASE_URLS și OPENAI_API_KEYS primesc liste separate prin punct și virgulă. Prima cheie merge cu primul URL.

Două conexiuni într-un singur container

-e OPENAI_API_BASE_URLS="https://api.openai.com/v1;http://host.docker.internal:3001/v1" \
-e OPENAI_API_KEYS="<openai-key>;<unified-key>"
Important: aceste variabile sunt salvate în baza de date a Open WebUI la prima pornire. După aceea, valorile salvate în Admin Panel au prioritate față de mediu. Dacă o modificare a variabilelor nu are efect, editați conexiunea în Admin Panel. Puteți seta și ENABLE_PERSISTENT_CONFIG=False, pentru ca mediul să aibă prioritate.

Pasul 3: Țineți lista de modele scurtă

FreeLLMAPI returnează întregul catalog la /v1/models. Catalogul conține și modele pe care nu le puteți apela încă, deoarece nu ați adăugat o cheie pentru ele. Open WebUI afișează fiecare model returnat de conexiune. O listă lungă de modele care eșuează nu este utilă.

Deschideți din nou conexiunea și folosiți câmpul Model IDs. Când adăugați ID-uri, Open WebUI afișează doar aceste ID-uri și nu mai citește lista completă. Adăugați mai întâi intrările routerului:

ID modelCe face routerul
autoUrmează lanțul de rezervă activ din panou
auto:fastOrdonează modelele activate după viteza măsurată
auto:smartOrdonează modelele activate după inteligență
auto:reliableOrdonează modelele activate după rata recentă de succes
auto:<profile>Folosește un lanț de rezervă numit, de exemplu un lanț pentru viziune

Puteți adăuga și un ID de model fix, de exemplu un model din tabelul de mai jos. Un model fix dă răspunsuri în același stil de fiecare dată. De asemenea, se oprește când limita gratuită a acelui model este epuizată, cu excepția cazului în care același model este gratuit la alți furnizori.

Pentru a economisi cota, setați modelul pentru sarcini la o intrare rapidă. Open WebUI folosește modelul pentru sarcini pentru titluri și pentru interogările de căutare. Variabila este TASK_MODEL_EXTERNAL, de exemplu TASK_MODEL_EXTERNAL=auto:fast.

Modele de chat gratuite puternice, cu context de 128K+
ModelGratuit peContextLimite gratuite (cea mai bună ofertă)InstrumenteViziune
GLM 5.3APINex, UnoRouter1M5 cereri/min
10M weighted tokens/day shared across APINex free routes; 4x token multiplier; 5 requests/minute/account
DaNu
GLM 5.3 FlashAPINex, BlazeAPI, NVIDIA NIM +1 în plus1M40 cereri/min
40 RPM
DaDa
Gemini 3.8 FlashAPINex, Google AI Studio1M5 cereri/min
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
DaDa
Qwen3.8 Flash NextAMD Radeon Cloud, BlazeAPI, ElectronHub262KRecurring daily account allowanceDaNu
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditDaDa
Deepseek V4.1 FlashAPINex1M5 cereri/min
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
NuNu
Gemini 3.7 FlashGoogle AI Studio1M10 cereri/min
20 cereri/zi
250,000 tokeni/min
~3M
DaDa
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditDaDa
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 cereri/min
50 cereri/zi
50 req/day account-wide (1,000 after a $10 purchase)
DaDa
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 cereri/min
50 cereri/zi
Shared rate limit
DaNu

Se afișează 10 din 184 modele gratuite care se potrivesc. Vezi toate modelele.

Date live din catalogul FreeLLMAPI (versiunea 2026.11.19, verificat 2026-11-19). Limitele gratuite se schimbă des. Catalogul este verificat în fiecare zi.

Dacă trimiteți imagini în Open WebUI, routerul folosește pentru acea cerere doar modele de viziune. Dacă niciun model de viziune nu este în lanțul dumneavoastră, cererea returnează eroarea 422. Aceste modele gratuite acceptă imagini:

Modele gratuite cu intrare de imagini
ModelGratuit peContextLimite gratuite (cea mai bună ofertă)InstrumenteViziune
GLM 5.3 FlashUnoRouter1M1 cereri/min
1 req/min per model
DaDa
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaDaDa
Gemini Flash (latest alias)Google AI Studio-10 cereri/min
20 cereri/zi
250,000 tokeni/min
~3M
DaDa
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditDaDa
Gemini 3.7 FlashGoogle AI Studio1M10 cereri/min
20 cereri/zi
250,000 tokeni/min
~3M
DaDa
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditDaDa

Se afișează 6 din 67 modele gratuite care se potrivesc. Vezi toate modelele.

Date live din catalogul FreeLLMAPI (versiunea 2026.11.19, verificat 2026-11-19). Limitele gratuite se schimbă des. Catalogul este verificat în fiecare zi.

Folosiți embeddings gratuite pentru documente

Open WebUI poate crea embeddings pentru documentele dumneavoastră printr-un API compatibil cu OpenAI. FreeLLMAPI servește /v1/embeddings. Trecerea la alt furnizor pentru embeddings nu schimbă niciodată modelul, astfel încât vectorii din depozitul dumneavoastră rămân compatibili.

Setările de embeddings pentru Open WebUI

-e RAG_EMBEDDING_ENGINE=openai \
-e RAG_OPENAI_API_BASE_URL=http://host.docker.internal:3001/v1 \
-e RAG_OPENAI_API_KEY=<unified-key> \
-e RAG_EMBEDDING_MODEL=bge-m3

Alegeți o singură familie de embeddings și păstrați-o. Dacă schimbați familia, creați din nou embeddings pentru toate documentele. Modelele gratuite de embeddings din catalogul de astăzi sunt:

ModelFurnizorDimensiuniIntrare maximăLimită gratuită
Gemini Embedding
gemini-embedding-001
Google AI Studio30722048100 rpm · 1K req/day
Nemotron Embed VL 1B
nvidia/llama-nemotron-embed-vl-1b-v2
NVIDIA NIM20488192~40 rpm
Nemotron 3 Embed 1B (OR free)
nvidia/nemotron-3-embed-1b:free
OpenRouter20483276820 rpm · shared free daily cap
SEA-LION E5 Embedding 600M
aisingapore/SEA-LION-E5-Embedding-600M
SEA-LION10248192free · 10 rpm
SEA-LION ModernBERT Embedding 300M
aisingapore/SEA-LION-ModernBERT-Embedding-300M
SEA-LION10248192free · 10 rpm
SEA-LION ModernBERT Embedding 600M
aisingapore/SEA-LION-ModernBERT-Embedding-600M
SEA-LION10248192free · 10 rpm
BGE-M3
@cf/baai/bge-m3
Cloudflare Workers AI1024819210K neurons/day (shared)
EmbeddingGemma 300M
@cf/google/embeddinggemma-300m
Cloudflare Workers AI768204810K neurons/day (shared)
Qwen3 Embedding 0.6B
@cf/qwen/qwen3-embedding-0.6b
Cloudflare Workers AI1024819210K neurons/day (shared)
Cohere Embed v4
embed-v4.0
Cohere15361280001K calls/mo (shared w/ chat)
Gemini Embedding 2
gemini-embedding-2
Google AI Studio30728192free-tier rate limited
Nemotron 3 Embed 1B
nvidia/nemotron-3-embed-1b
NVIDIA NIM20484096~40 rpm
PLaMo Embedding 1B (CF)
@cf/pfnet/plamo-embedding-1b
Cloudflare Workers AI2048409610K neurons/day (shared)
BGE Small EN v1.5 (CF)
@cf/baai/bge-small-en-v1.5
Cloudflare Workers AI38451210K neurons/day (shared)
BGE Base EN v1.5 (CF)
@cf/baai/bge-base-en-v1.5
Cloudflare Workers AI76851210K neurons/day (shared)
BGE Large EN v1.5 (CF)
@cf/baai/bge-large-en-v1.5
Cloudflare Workers AI102451210K neurons/day (shared)
Mistral Embed
mistral-embed
Mistral10248192free mode · monthly cap (shared)
Codestral Embed
codestral-embed
Mistral15368192free mode · monthly cap (shared)
Llama Text Embed v2 (Pinecone)
llama-text-embed-v2
Pinecone102420485M tokens/mo per model
Multilingual E5 Large (Pinecone)
multilingual-e5-large
Pinecone10245075M tokens/mo per model
Nemotron 3 Embed 1B (Speka)
nvidia/nemotron-3-embed-1b
Speka20488192$1/month shared across Speka models
OpenAI: Text Embedding 3 Small (ElectronHub)
text-embedding-3-small
ElectronHub15368192$0.25/week shared free credits
OpenAI: Text Embedding 3 Large (ElectronHub)
text-embedding-3-large
ElectronHub30728192$0.25/week shared free credits
Nemotron 3 Embed 8B (Inferbase)
nvidia-nemotron-3-embed-8b
Inferbase409681925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 0.6B (Inferbase)
qwen3-embedding-0-6b
Inferbase102481925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 4B (Inferbase)
qwen3-embedding-4b
Inferbase256081925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 8B (Inferbase)
qwen3-embedding-8b
Inferbase409681925,000 requests/month; 100 requests and $0.50 usage/day shared
LFM2.5 Embedding 350M (LLMTR)
liquid/lfm-2.5-embedding-350m-free
LLMTR1024512Ongoing zero-price route; provider terms apply
BGE-M3 (SEA-LION)
BAAI/bge-m3
SEA-LION10248192free · 10 rpm
Cohere Embed English v3
embed-english-v3.0
Cohere10245121K calls/mo (shared w/ chat)
Qwen3 Embedding 8B (OVH)
Qwen3-Embedding-8B
OVH AI Endpoints409632768free · anonymous 2 req/min per IP
BGE-M3 (OVH)
bge-m3
OVH AI Endpoints10248192free · anonymous 2 req/min per IP
BGE Multilingual Gemma2 (OVH)
bge-multilingual-gemma2
OVH AI Endpoints35848192free · anonymous 2 req/min per IP
Mistral: Codestral Embed (ElectronHub)
codestral-embed
ElectronHub15368192$0.25/week shared free credits
Mistral: Mistral Embed (ElectronHub)
mistral-embed
ElectronHub10248192$0.25/week shared free credits
Google: Gemini Embedding 2 (ElectronHub)
gemini-embedding-2
ElectronHub30728192$0.25/week shared free credits
Google: Gemini Embedding 001 (ElectronHub)
gemini-embedding-001
ElectronHub30722048$0.25/week shared free credits
OpenAI: Text Embedding Ada 002 (ElectronHub)
text-embedding-ada-002
ElectronHub15368192$0.25/week shared free credits
Cohere Embed English Light v3
embed-english-light-v3.0
Cohere3845121K calls/mo (shared w/ chat)
Cohere Embed Multilingual v3
embed-multilingual-v3.0
Cohere10245121K calls/mo (shared w/ chat)
Cohere Embed Multilingual Light v3
embed-multilingual-light-v3.0
Cohere3845121K calls/mo (shared w/ chat)

Date live din catalogul FreeLLMAPI (versiunea 2026.11.19, verificat 2026-11-19). Limitele gratuite se schimbă des. Catalogul este verificat în fiecare zi.

Depanare

ProblemăCauzăSoluție
Verify Connection eșuează cu o eroare de rețealocalhost indică spre containerul Open WebUIFolosiți host.docker.internal sau o rețea Docker comună, ca în Pasul 1
Verify Connection eșuează cu eroarea 401Cheia este greșită sau are spațiiCopiați din nou cheia unificată de pe pagina Keys
Sute de modele în selectorConexiunea citește întregul catalogAdăugați auto și ID-urile alese în Model IDs
Un model eșuează la fiecare mesajNu există cheie pentru furnizorul acelui modelAdăugați cheia furnizorului sau selectați auto
Eroarea 429 după multe chat-uriToate cheile furnizorilor din lanț au atins limitaAdăugați chei de la mai mulți furnizori sau așteptați ora de reset din antetul Retry-After
Variabilele de mediu nu au efectValorile salvate în baza de date au prioritateEditați conexiunea în Admin Panel

Pentru a vedea ce furnizor a răspuns la un chat, citiți antetul X-Routed-Via din răspuns. Vizualizatorul Server Logs din meniul Analytics al panoului afișează și deciziile de rutare și perioadele de pauză ale cheilor.

Folosiți fiecare dintre aceste modele printr-o singură cheie. FreeLLMAPI este un router open-source, găzduit de dumneavoastră, care pune toate aceste niveluri gratuite în spatele unui singur endpoint compatibil cu OpenAI și trece la alt furnizor când un furnizor este limitat la rată. Vezi catalogul sau trece live.

Întrebări frecvente

Există un API gratuit pentru Open WebUI?

Da. Open WebUI funcționează cu orice API compatibil cu OpenAI. FreeLLMAPI reunește niveluri gratuite de furnizori în spatele unui singur URL și al unei singure chei. Fiecare nivel gratuit are propriile limite.

Ce URL folosesc pentru o conexiune compatibilă cu OpenAI în Open WebUI?

Folosiți URL-ul de bază cu /v1 la final, de exemplu http://host.docker.internal:3001/v1. Nu adăugați /chat/completions. Dacă Open WebUI rulează în Docker, nu folosiți localhost.

De ce ignoră Open WebUI modificarea OPENAI_API_BASE_URL?

Open WebUI salvează setările conexiunii în baza sa de date după prima pornire. Valorile din baza de date au prioritate. Editați conexiunea în Admin Panel sau setați ENABLE_PERSISTENT_CONFIG=False.

Poate Open WebUI să folosească mai mulți furnizori gratuiți în același timp?

Da. Puteți adăuga câte o conexiune pentru fiecare furnizor. Cu FreeLLMAPI, o singură conexiune este suficientă, deoarece routerul alege furnizorul și trece la următorul când o limită oprește o cerere.

Care este cel mai bun model gratuit în Open WebUI?

Începeți cu auto. Acesta urmează lanțul dumneavoastră de rezervă. Pentru un model fix, alegeți unul cu fereastră mare de context din tabelul de pe această pagină.

Ghiduri înrudite

Surse

Toate ghidurile · Vezi toate modelele gratuite