Головна / Посібники / Безкоштовний LLM API для Open WebUI

Безкоштовний LLM API для Open WebUI

Open WebUI це веб-інтерфейс чату, який ви розгортаєте самі. Він підключається до будь-якого сервера, що працює з API Chat Completions від OpenAI. Цей посібник підключає Open WebUI до FreeLLMAPI, який об'єднує безкоштовні тарифи 45 постачальників за одним ключем. Ви додаєте одне підключення. Маршрутизатор надсилає кожен чат на безкоштовну модель і переходить до наступного постачальника, коли ліміт зупиняє запит.

Код, назви моделей і мітки живого каталогу показано англійською.

Як працює підключення

Open WebUI надсилає запити чату на URL кожного підключення OpenAI. FreeLLMAPI слухає http://localhost:3001/v1 і приймає ті самі запити. Він вибирає безкоштовну модель, надсилає запит і повертає відповідь у форматі OpenAI.

  • Одне підключення, багато постачальників: ви додаєте один URL і один уніфікований ключ. Ключі постачальників зберігаються у FreeLLMAPI на вашому комп'ютері.
  • Перехід на резерв: коли постачальник повертає помилку 429, маршрутизатор пробує наступну модель у ланцюгу резервних моделей.
  • Ліміти: безкоштовні тарифи мають ліміти запитів і токенів. Більше ключів постачальників дають більше запитів на добу. Перехід на резерв розподіляє навантаження, але не знімає лімітів.

Спочатку встановіть FreeLLMAPI. Він працює в Docker. Відкрийте панель керування за адресою http://localhost:3001, додайте щонайменше два ключі безкоштовних постачальників на сторінці Keys і скопіюйте свій уніфікований ключ.

Встановлення FreeLLMAPI (macOS або Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

Крок 1: знайдіть правильний URL

URL, який має використовувати Open WebUI, залежить від того, де працює кожна програма. Open WebUI зазвичай працює в Docker. Усередині контейнера localhost означає сам контейнер, а не ваш комп'ютер.

Open WebUI працюєFreeLLMAPI працюєURL для використання
На хості (pip або uv)На хості (Docker або настільний застосунок)http://localhost:3001/v1
У Docker Desktop (macOS, Windows)На хостіhttp://host.docker.internal:3001/v1
У Docker на LinuxУ Docker (скрипт встановлення)http://freellmapi:3001/v1 у спільній мережі Docker
На іншому комп'ютеріНа сервері у вашій локальній мережіhttp://<server-ip>:3001/v1, з HOST_BIND=0.0.0.0 лише в довіреній мережі

За замовчуванням контейнер FreeLLMAPI відкриває свій порт лише на 127.0.0.1. У Linux другий контейнер не завжди може дістатися до цього порту через хост. Підключіть обидва контейнери до однієї мережі Docker. Потім використовуйте назву сервісу freellmapi як ім'я хоста.

Підключення Open WebUI до мережі FreeLLMAPI (Linux)

# Find the network of the FreeLLMAPI stack (usually freellmapi_default)
docker network ls

# Attach the Open WebUI container to it
docker network connect freellmapi_default open-webui

# Test the URL from inside the Open WebUI container
docker exec open-webui curl -s http://freellmapi:3001/v1/models \
  -H "Authorization: Bearer <unified-key>" | head -c 300

Крок 2: додайте підключення

Підключення можна додати в інтерфейсі або за допомогою змінних середовища. Інтерфейс є найпростішим способом.

  1. Відкрийте Admin Panel і перейдіть до Settings > Connections.
  2. Знайдіть список Manage OpenAI API Connections. Натисніть Add Connection.
  3. У полі URL введіть URL з кроку 1, наприклад http://host.docker.internal:3001/v1.
  4. У полі API Key вставте свій уніфікований ключ FreeLLMAPI.
  5. Натисніть Verify Connection. Потім натисніть Save.

Щоб задати підключення під час запуску контейнера, використовуйте OPENAI_API_BASE_URL і OPENAI_API_KEY. Наведена нижче команда є стандартною командою docker run для Open WebUI з цими двома змінними.

docker run з підключенням FreeLLMAPI

docker run -d -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -e OPENAI_API_BASE_URL=http://host.docker.internal:3001/v1 \
  -e OPENAI_API_KEY=<unified-key> \
  -v open-webui:/app/backend/data \
  --name open-webui --restart always \
  ghcr.io/open-webui/open-webui:main

Щоб зберегти вже наявне підключення OpenAI, використовуйте змінні у множині. OPENAI_API_BASE_URLS і OPENAI_API_KEYS приймають списки, розділені крапками з комою. Перший ключ відповідає першому URL.

Два підключення в одному контейнері

-e OPENAI_API_BASE_URLS="https://api.openai.com/v1;http://host.docker.internal:3001/v1" \
-e OPENAI_API_KEYS="<openai-key>;<unified-key>"
Важливо: ці змінні зберігаються в базі даних Open WebUI під час першого запуску. Після цього значення, збережені в Admin Panel, мають пріоритет над середовищем. Якщо зміна змінних не дає результату, відредагуйте підключення в Admin Panel. Ви також можете задати ENABLE_PERSISTENT_CONFIG=False, щоб середовище мало перевагу.

Крок 3: тримайте короткий список моделей

FreeLLMAPI повертає повний каталог на /v1/models. Каталог також містить моделі, які ви ще не можете викликати, бо не додали для них ключ. Open WebUI показує кожну модель, яку повертає підключення. Довгий список моделей, які не працюють, не корисний.

Відкрийте підключення знову і використайте поле Model IDs. Коли ви додаєте ідентифікатори, Open WebUI показує лише ці ідентифікатори і перестає читати повний список. Спочатку додайте записи маршрутизатора:

ID моделіЩо робить маршрутизатор
autoДотримується вашого активного ланцюга резервних моделей з панелі керування
auto:fastРанжує увімкнені моделі за виміряною швидкістю
auto:smartРанжує увімкнені моделі за інтелектом
auto:reliableРанжує увімкнені моделі за нещодавнім відсотком успішних запитів
auto:<profile>Використовує іменований ланцюг резервних моделей, наприклад ланцюг для зображень

Ви також можете додати фіксований ID моделі, наприклад модель з таблиці нижче. Фіксована модель щоразу дає відповіді в одному стилі. Вона також зупиняється, коли вичерпано безкоштовний ліміт цієї моделі, якщо та сама модель не є безкоштовною у інших постачальників.

Щоб заощадити квоту, задайте модель для завдань швидкий запис. Open WebUI використовує модель для завдань для заголовків і пошукових запитів. Змінна називається TASK_MODEL_EXTERNAL, наприклад TASK_MODEL_EXTERNAL=auto:fast.

Сильні безкоштовні моделі для чату з контекстом 128K+
МодельБезкоштовно наКонтекстБезкоштовні ліміти (найкращі)ІнструментиЗображення
GLM 5.3APINex, UnoRouter1M5 запитів/хв
10M weighted tokens/day shared across APINex free routes; 4x token multiplier; 5 requests/minute/account
ТакНі
GLM 5.3 FlashAPINex, BlazeAPI, NVIDIA NIM +ще 11M40 запитів/хв
40 RPM
ТакТак
Gemini 3.8 FlashAPINex, Google AI Studio1M5 запитів/хв
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
ТакТак
Qwen3.8 Flash NextAMD Radeon Cloud, BlazeAPI, ElectronHub262KRecurring daily account allowanceТакНі
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditТакТак
Deepseek V4.1 FlashAPINex1M5 запитів/хв
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
НіНі
Gemini 3.7 FlashGoogle AI Studio1M10 запитів/хв
20 запитів/добу
250,000 токенів/хв
~3M
ТакТак
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditТакТак
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 запитів/хв
50 запитів/добу
50 req/day account-wide (1,000 after a $10 purchase)
ТакТак
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 запитів/хв
50 запитів/добу
Shared rate limit
ТакНі

Показано 10 із 184 відповідних безкоштовних моделей. Переглянути всі моделі.

Дані в реальному часі з каталогу FreeLLMAPI (версія 2026.11.19, перевірено 2026-11-19). Безкоштовні ліміти часто змінюються. Каталог перевіряється щодня.

Якщо ви надсилаєте зображення в Open WebUI, маршрутизатор для цього запиту використовує лише моделі з підтримкою зображень. Якщо в вашому ланцюгу немає такої моделі, запит повертає помилку 422. Ці безкоштовні моделі приймають зображення:

Безкоштовні моделі з вхідними зображеннями
МодельБезкоштовно наКонтекстБезкоштовні ліміти (найкращі)ІнструментиЗображення
GLM 5.3 FlashUnoRouter1M1 запитів/хв
1 req/min per model
ТакТак
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaТакТак
Gemini Flash (latest alias)Google AI Studio-10 запитів/хв
20 запитів/добу
250,000 токенів/хв
~3M
ТакТак
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditТакТак
Gemini 3.7 FlashGoogle AI Studio1M10 запитів/хв
20 запитів/добу
250,000 токенів/хв
~3M
ТакТак
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditТакТак

Показано 6 із 67 відповідних безкоштовних моделей. Переглянути всі моделі.

Дані в реальному часі з каталогу FreeLLMAPI (версія 2026.11.19, перевірено 2026-11-19). Безкоштовні ліміти часто змінюються. Каталог перевіряється щодня.

Використовуйте безкоштовні embeddings для документів

Open WebUI може створювати embeddings для ваших документів через API, сумісний з OpenAI. FreeLLMAPI надає /v1/embeddings. Перехід на резерв для embeddings ніколи не змінює модель, тому вектори у вашому сховищі залишаються сумісними.

Налаштування embeddings для Open WebUI

-e RAG_EMBEDDING_ENGINE=openai \
-e RAG_OPENAI_API_BASE_URL=http://host.docker.internal:3001/v1 \
-e RAG_OPENAI_API_KEY=<unified-key> \
-e RAG_EMBEDDING_MODEL=bge-m3

Виберіть одну родину embedding-моделей і дотримуйтеся її. Якщо ви змінюєте родину, створіть embeddings для всіх документів заново. Безкоштовні embedding-моделі в актуальному каталозі такі:

МодельПостачальникРозмірністьМакс. вхідБезкоштовний ліміт
Gemini Embedding
gemini-embedding-001
Google AI Studio30722048100 rpm · 1K req/day
Nemotron Embed VL 1B
nvidia/llama-nemotron-embed-vl-1b-v2
NVIDIA NIM20488192~40 rpm
Nemotron 3 Embed 1B (OR free)
nvidia/nemotron-3-embed-1b:free
OpenRouter20483276820 rpm · shared free daily cap
SEA-LION E5 Embedding 600M
aisingapore/SEA-LION-E5-Embedding-600M
SEA-LION10248192free · 10 rpm
SEA-LION ModernBERT Embedding 300M
aisingapore/SEA-LION-ModernBERT-Embedding-300M
SEA-LION10248192free · 10 rpm
SEA-LION ModernBERT Embedding 600M
aisingapore/SEA-LION-ModernBERT-Embedding-600M
SEA-LION10248192free · 10 rpm
BGE-M3
@cf/baai/bge-m3
Cloudflare Workers AI1024819210K neurons/day (shared)
EmbeddingGemma 300M
@cf/google/embeddinggemma-300m
Cloudflare Workers AI768204810K neurons/day (shared)
Qwen3 Embedding 0.6B
@cf/qwen/qwen3-embedding-0.6b
Cloudflare Workers AI1024819210K neurons/day (shared)
Cohere Embed v4
embed-v4.0
Cohere15361280001K calls/mo (shared w/ chat)
Gemini Embedding 2
gemini-embedding-2
Google AI Studio30728192free-tier rate limited
Nemotron 3 Embed 1B
nvidia/nemotron-3-embed-1b
NVIDIA NIM20484096~40 rpm
PLaMo Embedding 1B (CF)
@cf/pfnet/plamo-embedding-1b
Cloudflare Workers AI2048409610K neurons/day (shared)
BGE Small EN v1.5 (CF)
@cf/baai/bge-small-en-v1.5
Cloudflare Workers AI38451210K neurons/day (shared)
BGE Base EN v1.5 (CF)
@cf/baai/bge-base-en-v1.5
Cloudflare Workers AI76851210K neurons/day (shared)
BGE Large EN v1.5 (CF)
@cf/baai/bge-large-en-v1.5
Cloudflare Workers AI102451210K neurons/day (shared)
Mistral Embed
mistral-embed
Mistral10248192free mode · monthly cap (shared)
Codestral Embed
codestral-embed
Mistral15368192free mode · monthly cap (shared)
Llama Text Embed v2 (Pinecone)
llama-text-embed-v2
Pinecone102420485M tokens/mo per model
Multilingual E5 Large (Pinecone)
multilingual-e5-large
Pinecone10245075M tokens/mo per model
Nemotron 3 Embed 1B (Speka)
nvidia/nemotron-3-embed-1b
Speka20488192$1/month shared across Speka models
OpenAI: Text Embedding 3 Small (ElectronHub)
text-embedding-3-small
ElectronHub15368192$0.25/week shared free credits
OpenAI: Text Embedding 3 Large (ElectronHub)
text-embedding-3-large
ElectronHub30728192$0.25/week shared free credits
Nemotron 3 Embed 8B (Inferbase)
nvidia-nemotron-3-embed-8b
Inferbase409681925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 0.6B (Inferbase)
qwen3-embedding-0-6b
Inferbase102481925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 4B (Inferbase)
qwen3-embedding-4b
Inferbase256081925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 8B (Inferbase)
qwen3-embedding-8b
Inferbase409681925,000 requests/month; 100 requests and $0.50 usage/day shared
LFM2.5 Embedding 350M (LLMTR)
liquid/lfm-2.5-embedding-350m-free
LLMTR1024512Ongoing zero-price route; provider terms apply
BGE-M3 (SEA-LION)
BAAI/bge-m3
SEA-LION10248192free · 10 rpm
Cohere Embed English v3
embed-english-v3.0
Cohere10245121K calls/mo (shared w/ chat)
Qwen3 Embedding 8B (OVH)
Qwen3-Embedding-8B
OVH AI Endpoints409632768free · anonymous 2 req/min per IP
BGE-M3 (OVH)
bge-m3
OVH AI Endpoints10248192free · anonymous 2 req/min per IP
BGE Multilingual Gemma2 (OVH)
bge-multilingual-gemma2
OVH AI Endpoints35848192free · anonymous 2 req/min per IP
Mistral: Codestral Embed (ElectronHub)
codestral-embed
ElectronHub15368192$0.25/week shared free credits
Mistral: Mistral Embed (ElectronHub)
mistral-embed
ElectronHub10248192$0.25/week shared free credits
Google: Gemini Embedding 2 (ElectronHub)
gemini-embedding-2
ElectronHub30728192$0.25/week shared free credits
Google: Gemini Embedding 001 (ElectronHub)
gemini-embedding-001
ElectronHub30722048$0.25/week shared free credits
OpenAI: Text Embedding Ada 002 (ElectronHub)
text-embedding-ada-002
ElectronHub15368192$0.25/week shared free credits
Cohere Embed English Light v3
embed-english-light-v3.0
Cohere3845121K calls/mo (shared w/ chat)
Cohere Embed Multilingual v3
embed-multilingual-v3.0
Cohere10245121K calls/mo (shared w/ chat)
Cohere Embed Multilingual Light v3
embed-multilingual-light-v3.0
Cohere3845121K calls/mo (shared w/ chat)

Дані в реальному часі з каталогу FreeLLMAPI (версія 2026.11.19, перевірено 2026-11-19). Безкоштовні ліміти часто змінюються. Каталог перевіряється щодня.

Усунення несправностей

ПроблемаПричинаРішення
Verify Connection завершується мережевою помилкоюlocalhost вказує на контейнер Open WebUIВикористайте host.docker.internal або спільну мережу Docker, як у кроці 1
Verify Connection завершується з кодом 401Ключ неправильний або містить пробілиСкопіюйте уніфікований ключ знову зі сторінки Keys
У селекторі сотні моделейПідключення читає повний каталогДодайте auto і вибрані ID в поле Model IDs
Модель завершується помилкою з кожним повідомленнямНемає ключа для постачальника цієї моделіДодайте ключ постачальника або виберіть auto
Помилка 429 після багатьох чатівУсі ключі постачальників у ланцюгу досягли лімітуДодайте ключі від більшої кількості постачальників або дочекайтеся часу скидання в заголовку Retry-After
Змінні середовища не мають ефектуЗначення, збережені в базі даних, мають пріоритетВідредагуйте підключення в Admin Panel

Щоб дізнатися, який постачальник відповів на чат, прочитайте заголовок X-Routed-Via у відповіді. Переглядач серверних журналів у меню Analytics панелі керування також показує рішення маршрутизації та періоди охолодження ключів.

Використовуйте кожну з цих моделей через один ключ. FreeLLMAPI це маршрутизатор з відкритим кодом, який ви розгортаєте самі. Він об'єднує всі ці безкоштовні тарифи за однією кінцевою точкою, сумісною з OpenAI, і переходить до наступного, коли один з них досягає ліміту. Переглянути каталог або або почніть роботу.

Часті запитання

Чи є безкоштовний API для Open WebUI?

Так. Open WebUI працює з будь-яким API, сумісним з OpenAI. FreeLLMAPI об'єднує безкоштовні тарифи постачальників за одним URL і одним ключем. Кожен безкоштовний тариф має власні ліміти.

Який URL використовувати для підключення, сумісного з OpenAI, в Open WebUI?

Використовуйте базовий URL із /v1 наприкінці, наприклад http://host.docker.internal:3001/v1. Не додавайте /chat/completions. Якщо Open WebUI працює в Docker, не використовуйте localhost.

Чому Open WebUI ігнорує зміну OPENAI_API_BASE_URL?

Open WebUI зберігає налаштування підключення у своїй базі даних після першого запуску. Значення в базі даних мають пріоритет. Відредагуйте підключення в Admin Panel або задайте ENABLE_PERSISTENT_CONFIG=False.

Чи може Open WebUI одночасно використовувати кількох безкоштовних постачальників?

Так. Ви можете додати одне підключення для кожного постачальника. З FreeLLMAPI достатньо одного підключення, бо маршрутизатор вибирає постачальника і переходить до наступного, коли ліміт зупиняє запит.

Яка безкоштовна модель найкраща в Open WebUI?

Почніть з auto. Він дотримується вашого ланцюга резервних моделей. Для фіксованої моделі виберіть одну з великим вікном контексту з таблиці на цій сторінці.

Схожі посібники

Джерела

Усі посібники · Переглянути всі безкоштовні моделі