Безкоштовний LLM API для Open WebUI
Open WebUI це веб-інтерфейс чату, який ви розгортаєте самі. Він підключається до будь-якого сервера, що працює з API Chat Completions від OpenAI. Цей посібник підключає Open WebUI до FreeLLMAPI, який об'єднує безкоштовні тарифи 45 постачальників за одним ключем. Ви додаєте одне підключення. Маршрутизатор надсилає кожен чат на безкоштовну модель і переходить до наступного постачальника, коли ліміт зупиняє запит.
Код, назви моделей і мітки живого каталогу показано англійською.
Як працює підключення
Open WebUI надсилає запити чату на URL кожного підключення OpenAI. FreeLLMAPI слухає http://localhost:3001/v1 і приймає ті самі запити. Він вибирає безкоштовну модель, надсилає запит і повертає відповідь у форматі OpenAI.
- Одне підключення, багато постачальників: ви додаєте один URL і один уніфікований ключ. Ключі постачальників зберігаються у FreeLLMAPI на вашому комп'ютері.
- Перехід на резерв: коли постачальник повертає помилку 429, маршрутизатор пробує наступну модель у ланцюгу резервних моделей.
- Ліміти: безкоштовні тарифи мають ліміти запитів і токенів. Більше ключів постачальників дають більше запитів на добу. Перехід на резерв розподіляє навантаження, але не знімає лімітів.
Спочатку встановіть FreeLLMAPI. Він працює в Docker. Відкрийте панель керування за адресою http://localhost:3001, додайте щонайменше два ключі безкоштовних постачальників на сторінці Keys і скопіюйте свій уніфікований ключ.
Встановлення FreeLLMAPI (macOS або Linux)
curl -fsSL https://freellmapi.co/install.sh | bashКрок 1: знайдіть правильний URL
URL, який має використовувати Open WebUI, залежить від того, де працює кожна програма. Open WebUI зазвичай працює в Docker. Усередині контейнера localhost означає сам контейнер, а не ваш комп'ютер.
| Open WebUI працює | FreeLLMAPI працює | URL для використання |
|---|---|---|
| На хості (pip або uv) | На хості (Docker або настільний застосунок) | http://localhost:3001/v1 |
| У Docker Desktop (macOS, Windows) | На хості | http://host.docker.internal:3001/v1 |
| У Docker на Linux | У Docker (скрипт встановлення) | http://freellmapi:3001/v1 у спільній мережі Docker |
| На іншому комп'ютері | На сервері у вашій локальній мережі | http://<server-ip>:3001/v1, з HOST_BIND=0.0.0.0 лише в довіреній мережі |
За замовчуванням контейнер FreeLLMAPI відкриває свій порт лише на 127.0.0.1. У Linux другий контейнер не завжди може дістатися до цього порту через хост. Підключіть обидва контейнери до однієї мережі Docker. Потім використовуйте назву сервісу freellmapi як ім'я хоста.
Підключення Open WebUI до мережі FreeLLMAPI (Linux)
# Find the network of the FreeLLMAPI stack (usually freellmapi_default)
docker network ls
# Attach the Open WebUI container to it
docker network connect freellmapi_default open-webui
# Test the URL from inside the Open WebUI container
docker exec open-webui curl -s http://freellmapi:3001/v1/models \
-H "Authorization: Bearer <unified-key>" | head -c 300Крок 2: додайте підключення
Підключення можна додати в інтерфейсі або за допомогою змінних середовища. Інтерфейс є найпростішим способом.
- Відкрийте Admin Panel і перейдіть до Settings > Connections.
- Знайдіть список Manage OpenAI API Connections. Натисніть Add Connection.
- У полі URL введіть URL з кроку 1, наприклад
http://host.docker.internal:3001/v1. - У полі API Key вставте свій уніфікований ключ FreeLLMAPI.
- Натисніть Verify Connection. Потім натисніть Save.
Щоб задати підключення під час запуску контейнера, використовуйте OPENAI_API_BASE_URL і OPENAI_API_KEY. Наведена нижче команда є стандартною командою docker run для Open WebUI з цими двома змінними.
docker run з підключенням FreeLLMAPI
docker run -d -p 3000:8080 \
--add-host=host.docker.internal:host-gateway \
-e OPENAI_API_BASE_URL=http://host.docker.internal:3001/v1 \
-e OPENAI_API_KEY=<unified-key> \
-v open-webui:/app/backend/data \
--name open-webui --restart always \
ghcr.io/open-webui/open-webui:mainЩоб зберегти вже наявне підключення OpenAI, використовуйте змінні у множині. OPENAI_API_BASE_URLS і OPENAI_API_KEYS приймають списки, розділені крапками з комою. Перший ключ відповідає першому URL.
Два підключення в одному контейнері
-e OPENAI_API_BASE_URLS="https://api.openai.com/v1;http://host.docker.internal:3001/v1" \
-e OPENAI_API_KEYS="<openai-key>;<unified-key>"ENABLE_PERSISTENT_CONFIG=False, щоб середовище мало перевагу.Крок 3: тримайте короткий список моделей
FreeLLMAPI повертає повний каталог на /v1/models. Каталог також містить моделі, які ви ще не можете викликати, бо не додали для них ключ. Open WebUI показує кожну модель, яку повертає підключення. Довгий список моделей, які не працюють, не корисний.
Відкрийте підключення знову і використайте поле Model IDs. Коли ви додаєте ідентифікатори, Open WebUI показує лише ці ідентифікатори і перестає читати повний список. Спочатку додайте записи маршрутизатора:
| ID моделі | Що робить маршрутизатор |
|---|---|
auto | Дотримується вашого активного ланцюга резервних моделей з панелі керування |
auto:fast | Ранжує увімкнені моделі за виміряною швидкістю |
auto:smart | Ранжує увімкнені моделі за інтелектом |
auto:reliable | Ранжує увімкнені моделі за нещодавнім відсотком успішних запитів |
auto:<profile> | Використовує іменований ланцюг резервних моделей, наприклад ланцюг для зображень |
Ви також можете додати фіксований ID моделі, наприклад модель з таблиці нижче. Фіксована модель щоразу дає відповіді в одному стилі. Вона також зупиняється, коли вичерпано безкоштовний ліміт цієї моделі, якщо та сама модель не є безкоштовною у інших постачальників.
Щоб заощадити квоту, задайте модель для завдань швидкий запис. Open WebUI використовує модель для завдань для заголовків і пошукових запитів. Змінна називається TASK_MODEL_EXTERNAL, наприклад TASK_MODEL_EXTERNAL=auto:fast.
| Модель | Безкоштовно на | Контекст | Безкоштовні ліміти (найкращі) | Інструменти | Зображення |
|---|---|---|---|---|---|
| GLM 5.3 | APINex, UnoRouter | 1M | 5 запитів/хв 10M weighted tokens/day shared across APINex free routes; 4x token multiplier; 5 requests/minute/account | Так | Ні |
| GLM 5.3 Flash | APINex, BlazeAPI, NVIDIA NIM +ще 1 | 1M | 40 запитів/хв 40 RPM | Так | Так |
| Gemini 3.8 Flash | APINex, Google AI Studio | 1M | 5 запитів/хв 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | Так | Так |
| Qwen3.8 Flash Next | AMD Radeon Cloud, BlazeAPI, ElectronHub | 262K | Recurring daily account allowance | Так | Ні |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | Так | Так |
| Deepseek V4.1 Flash | APINex | 1M | 5 запитів/хв 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | Ні | Ні |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 запитів/хв 20 запитів/добу 250,000 токенів/хв ~3M | Так | Так |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | Так | Так |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 запитів/хв 50 запитів/добу 50 req/day account-wide (1,000 after a $10 purchase) | Так | Так |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 запитів/хв 50 запитів/добу Shared rate limit | Так | Ні |
Показано 10 із 184 відповідних безкоштовних моделей. Переглянути всі моделі.
Дані в реальному часі з каталогу FreeLLMAPI (версія 2026.11.19, перевірено 2026-11-19). Безкоштовні ліміти часто змінюються. Каталог перевіряється щодня.
Якщо ви надсилаєте зображення в Open WebUI, маршрутизатор для цього запиту використовує лише моделі з підтримкою зображень. Якщо в вашому ланцюгу немає такої моделі, запит повертає помилку 422. Ці безкоштовні моделі приймають зображення:
| Модель | Безкоштовно на | Контекст | Безкоштовні ліміти (найкращі) | Інструменти | Зображення |
|---|---|---|---|---|---|
| GLM 5.3 Flash | UnoRouter | 1M | 1 запитів/хв 1 req/min per model | Так | Так |
| Gemini 3.8 Flash | Google AI Studio | 1M | Recurring provider quota | Так | Так |
| Gemini Flash (latest alias) | Google AI Studio | - | 10 запитів/хв 20 запитів/добу 250,000 токенів/хв ~3M | Так | Так |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | Так | Так |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 запитів/хв 20 запитів/добу 250,000 токенів/хв ~3M | Так | Так |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | Так | Так |
Показано 6 із 67 відповідних безкоштовних моделей. Переглянути всі моделі.
Дані в реальному часі з каталогу FreeLLMAPI (версія 2026.11.19, перевірено 2026-11-19). Безкоштовні ліміти часто змінюються. Каталог перевіряється щодня.
Використовуйте безкоштовні embeddings для документів
Open WebUI може створювати embeddings для ваших документів через API, сумісний з OpenAI. FreeLLMAPI надає /v1/embeddings. Перехід на резерв для embeddings ніколи не змінює модель, тому вектори у вашому сховищі залишаються сумісними.
Налаштування embeddings для Open WebUI
-e RAG_EMBEDDING_ENGINE=openai \
-e RAG_OPENAI_API_BASE_URL=http://host.docker.internal:3001/v1 \
-e RAG_OPENAI_API_KEY=<unified-key> \
-e RAG_EMBEDDING_MODEL=bge-m3Виберіть одну родину embedding-моделей і дотримуйтеся її. Якщо ви змінюєте родину, створіть embeddings для всіх документів заново. Безкоштовні embedding-моделі в актуальному каталозі такі:
| Модель | Постачальник | Розмірність | Макс. вхід | Безкоштовний ліміт |
|---|---|---|---|---|
Gemini Embeddinggemini-embedding-001 | Google AI Studio | 3072 | 2048 | 100 rpm · 1K req/day |
Nemotron Embed VL 1Bnvidia/llama-nemotron-embed-vl-1b-v2 | NVIDIA NIM | 2048 | 8192 | ~40 rpm |
Nemotron 3 Embed 1B (OR free)nvidia/nemotron-3-embed-1b:free | OpenRouter | 2048 | 32768 | 20 rpm · shared free daily cap |
SEA-LION E5 Embedding 600Maisingapore/SEA-LION-E5-Embedding-600M | SEA-LION | 1024 | 8192 | free · 10 rpm |
SEA-LION ModernBERT Embedding 300Maisingapore/SEA-LION-ModernBERT-Embedding-300M | SEA-LION | 1024 | 8192 | free · 10 rpm |
SEA-LION ModernBERT Embedding 600Maisingapore/SEA-LION-ModernBERT-Embedding-600M | SEA-LION | 1024 | 8192 | free · 10 rpm |
BGE-M3@cf/baai/bge-m3 | Cloudflare Workers AI | 1024 | 8192 | 10K neurons/day (shared) |
EmbeddingGemma 300M@cf/google/embeddinggemma-300m | Cloudflare Workers AI | 768 | 2048 | 10K neurons/day (shared) |
Qwen3 Embedding 0.6B@cf/qwen/qwen3-embedding-0.6b | Cloudflare Workers AI | 1024 | 8192 | 10K neurons/day (shared) |
Cohere Embed v4embed-v4.0 | Cohere | 1536 | 128000 | 1K calls/mo (shared w/ chat) |
Gemini Embedding 2gemini-embedding-2 | Google AI Studio | 3072 | 8192 | free-tier rate limited |
Nemotron 3 Embed 1Bnvidia/nemotron-3-embed-1b | NVIDIA NIM | 2048 | 4096 | ~40 rpm |
PLaMo Embedding 1B (CF)@cf/pfnet/plamo-embedding-1b | Cloudflare Workers AI | 2048 | 4096 | 10K neurons/day (shared) |
BGE Small EN v1.5 (CF)@cf/baai/bge-small-en-v1.5 | Cloudflare Workers AI | 384 | 512 | 10K neurons/day (shared) |
BGE Base EN v1.5 (CF)@cf/baai/bge-base-en-v1.5 | Cloudflare Workers AI | 768 | 512 | 10K neurons/day (shared) |
BGE Large EN v1.5 (CF)@cf/baai/bge-large-en-v1.5 | Cloudflare Workers AI | 1024 | 512 | 10K neurons/day (shared) |
Mistral Embedmistral-embed | Mistral | 1024 | 8192 | free mode · monthly cap (shared) |
Codestral Embedcodestral-embed | Mistral | 1536 | 8192 | free mode · monthly cap (shared) |
Llama Text Embed v2 (Pinecone)llama-text-embed-v2 | Pinecone | 1024 | 2048 | 5M tokens/mo per model |
Multilingual E5 Large (Pinecone)multilingual-e5-large | Pinecone | 1024 | 507 | 5M tokens/mo per model |
Nemotron 3 Embed 1B (Speka)nvidia/nemotron-3-embed-1b | Speka | 2048 | 8192 | $1/month shared across Speka models |
OpenAI: Text Embedding 3 Small (ElectronHub)text-embedding-3-small | ElectronHub | 1536 | 8192 | $0.25/week shared free credits |
OpenAI: Text Embedding 3 Large (ElectronHub)text-embedding-3-large | ElectronHub | 3072 | 8192 | $0.25/week shared free credits |
Nemotron 3 Embed 8B (Inferbase)nvidia-nemotron-3-embed-8b | Inferbase | 4096 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
Qwen 3 Embedding 0.6B (Inferbase)qwen3-embedding-0-6b | Inferbase | 1024 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
Qwen 3 Embedding 4B (Inferbase)qwen3-embedding-4b | Inferbase | 2560 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
Qwen 3 Embedding 8B (Inferbase)qwen3-embedding-8b | Inferbase | 4096 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
LFM2.5 Embedding 350M (LLMTR)liquid/lfm-2.5-embedding-350m-free | LLMTR | 1024 | 512 | Ongoing zero-price route; provider terms apply |
BGE-M3 (SEA-LION)BAAI/bge-m3 | SEA-LION | 1024 | 8192 | free · 10 rpm |
Cohere Embed English v3embed-english-v3.0 | Cohere | 1024 | 512 | 1K calls/mo (shared w/ chat) |
Qwen3 Embedding 8B (OVH)Qwen3-Embedding-8B | OVH AI Endpoints | 4096 | 32768 | free · anonymous 2 req/min per IP |
BGE-M3 (OVH)bge-m3 | OVH AI Endpoints | 1024 | 8192 | free · anonymous 2 req/min per IP |
BGE Multilingual Gemma2 (OVH)bge-multilingual-gemma2 | OVH AI Endpoints | 3584 | 8192 | free · anonymous 2 req/min per IP |
Mistral: Codestral Embed (ElectronHub)codestral-embed | ElectronHub | 1536 | 8192 | $0.25/week shared free credits |
Mistral: Mistral Embed (ElectronHub)mistral-embed | ElectronHub | 1024 | 8192 | $0.25/week shared free credits |
Google: Gemini Embedding 2 (ElectronHub)gemini-embedding-2 | ElectronHub | 3072 | 8192 | $0.25/week shared free credits |
Google: Gemini Embedding 001 (ElectronHub)gemini-embedding-001 | ElectronHub | 3072 | 2048 | $0.25/week shared free credits |
OpenAI: Text Embedding Ada 002 (ElectronHub)text-embedding-ada-002 | ElectronHub | 1536 | 8192 | $0.25/week shared free credits |
Cohere Embed English Light v3embed-english-light-v3.0 | Cohere | 384 | 512 | 1K calls/mo (shared w/ chat) |
Cohere Embed Multilingual v3embed-multilingual-v3.0 | Cohere | 1024 | 512 | 1K calls/mo (shared w/ chat) |
Cohere Embed Multilingual Light v3embed-multilingual-light-v3.0 | Cohere | 384 | 512 | 1K calls/mo (shared w/ chat) |
Дані в реальному часі з каталогу FreeLLMAPI (версія 2026.11.19, перевірено 2026-11-19). Безкоштовні ліміти часто змінюються. Каталог перевіряється щодня.
Усунення несправностей
| Проблема | Причина | Рішення |
|---|---|---|
| Verify Connection завершується мережевою помилкою | localhost вказує на контейнер Open WebUI | Використайте host.docker.internal або спільну мережу Docker, як у кроці 1 |
| Verify Connection завершується з кодом 401 | Ключ неправильний або містить пробіли | Скопіюйте уніфікований ключ знову зі сторінки Keys |
| У селекторі сотні моделей | Підключення читає повний каталог | Додайте auto і вибрані ID в поле Model IDs |
| Модель завершується помилкою з кожним повідомленням | Немає ключа для постачальника цієї моделі | Додайте ключ постачальника або виберіть auto |
| Помилка 429 після багатьох чатів | Усі ключі постачальників у ланцюгу досягли ліміту | Додайте ключі від більшої кількості постачальників або дочекайтеся часу скидання в заголовку Retry-After |
| Змінні середовища не мають ефекту | Значення, збережені в базі даних, мають пріоритет | Відредагуйте підключення в Admin Panel |
Щоб дізнатися, який постачальник відповів на чат, прочитайте заголовок X-Routed-Via у відповіді. Переглядач серверних журналів у меню Analytics панелі керування також показує рішення маршрутизації та періоди охолодження ключів.
Часті запитання
Чи є безкоштовний API для Open WebUI?
Так. Open WebUI працює з будь-яким API, сумісним з OpenAI. FreeLLMAPI об'єднує безкоштовні тарифи постачальників за одним URL і одним ключем. Кожен безкоштовний тариф має власні ліміти.
Який URL використовувати для підключення, сумісного з OpenAI, в Open WebUI?
Використовуйте базовий URL із /v1 наприкінці, наприклад http://host.docker.internal:3001/v1. Не додавайте /chat/completions. Якщо Open WebUI працює в Docker, не використовуйте localhost.
Чому Open WebUI ігнорує зміну OPENAI_API_BASE_URL?
Open WebUI зберігає налаштування підключення у своїй базі даних після першого запуску. Значення в базі даних мають пріоритет. Відредагуйте підключення в Admin Panel або задайте ENABLE_PERSISTENT_CONFIG=False.
Чи може Open WebUI одночасно використовувати кількох безкоштовних постачальників?
Так. Ви можете додати одне підключення для кожного постачальника. З FreeLLMAPI достатньо одного підключення, бо маршрутизатор вибирає постачальника і переходить до наступного, коли ліміт зупиняє запит.
Яка безкоштовна модель найкраща в Open WebUI?
Почніть з auto. Він дотримується вашого ланцюга резервних моделей. Для фіксованої моделі виберіть одну з великим вікном контексту з таблиці на цій сторінці.
Схожі посібники
- Безкоштовний API для SillyTavern
- Базові URL безкоштовних API, сумісних з OpenAI
- Безкоштовний API ембедінгів
- Безкоштовний LLM API для RAG
- Ліміти запитів безкоштовного LLM API
Джерела
- Open WebUI docs: environment variable configuration (перевірено 20 November 2026)
- Open WebUI docs: connect an OpenAI-compatible provider (перевірено 20 November 2026)
- Open WebUI README: Docker installation (перевірено 20 November 2026)
- FreeLLMAPI docs: REST API (routing strategies, model listing, embeddings) (перевірено 20 November 2026)
- FreeLLMAPI docs: Docker deployment (перевірено 20 November 2026)