Free LLM API untuk Open WebUI
Open WebUI adalah antarmuka obrolan yang dihosting sendiri. Antarmuka ini terhubung ke server mana pun yang memakai API OpenAI Chat Completions. Panduan ini menghubungkan Open WebUI ke FreeLLMAPI, yang menggabungkan 45 paket penyedia gratis di balik satu kunci. Anda menambahkan satu koneksi. Router mengirim setiap obrolan ke model gratis dan pindah ke penyedia berikutnya saat batas menghentikan permintaan.
Kode, nama model, dan label katalog langsung ditampilkan dalam bahasa Inggris.
Cara kerja koneksi
Open WebUI mengirim permintaan obrolan ke URL dari setiap koneksi OpenAI. FreeLLMAPI menerima permintaan di http://localhost:3001/v1 dan menerima permintaan yang sama. FreeLLMAPI memilih model gratis, mengirim permintaan, dan mengembalikan jawaban dalam format OpenAI.
- Satu koneksi, banyak penyedia: Anda menambahkan satu URL dan satu kunci terpadu. Kunci penyedia Anda tetap berada di FreeLLMAPI di komputer Anda.
- Failover: saat penyedia mengembalikan error 429, router mencoba model berikutnya dalam rantai cadangan Anda.
- Batas: paket gratis memiliki batas permintaan dan token. Lebih banyak kunci penyedia memberi lebih banyak permintaan per hari. Failover membagi beban, tetapi tidak menghapus batas.
Pasang FreeLLMAPI terlebih dahulu. Aplikasi ini berjalan di Docker. Buka dasbor di http://localhost:3001, tambahkan minimal dua kunci penyedia gratis di halaman Keys, lalu salin kunci terpadu Anda.
Pasang FreeLLMAPI (macOS atau Linux)
curl -fsSL https://freellmapi.co/install.sh | bashLangkah 1: Temukan URL yang benar
URL yang harus digunakan Open WebUI bergantung pada tempat setiap program berjalan. Open WebUI biasanya berjalan di Docker. Di dalam container, localhost merujuk ke container itu sendiri, bukan ke komputer Anda.
| Open WebUI berjalan | FreeLLMAPI berjalan | URL yang digunakan |
|---|---|---|
| Di host (pip atau uv) | Di host (Docker atau aplikasi desktop) | http://localhost:3001/v1 |
| Di Docker Desktop (macOS, Windows) | Di host | http://host.docker.internal:3001/v1 |
| Di Docker pada Linux | Di Docker (skrip instalasi) | http://freellmapi:3001/v1 pada jaringan Docker bersama |
| Di komputer lain | Di server pada LAN Anda | http://<server-ip>:3001/v1, dengan HOST_BIND=0.0.0.0 hanya pada jaringan tepercaya |
Secara bawaan, container FreeLLMAPI hanya memublikasikan port-nya di 127.0.0.1. Di Linux, container kedua tidak selalu dapat mencapai port itu melalui host. Hubungkan kedua container ke satu jaringan Docker. Lalu gunakan nama layanan freellmapi sebagai nama host.
Hubungkan Open WebUI ke jaringan FreeLLMAPI (Linux)
# Find the network of the FreeLLMAPI stack (usually freellmapi_default)
docker network ls
# Attach the Open WebUI container to it
docker network connect freellmapi_default open-webui
# Test the URL from inside the Open WebUI container
docker exec open-webui curl -s http://freellmapi:3001/v1/models \
-H "Authorization: Bearer <unified-key>" | head -c 300Langkah 2: Tambahkan koneksi
Anda dapat menambahkan koneksi di antarmuka atau dengan variabel lingkungan. Antarmuka adalah metode yang paling sederhana.
- Buka Admin Panel, lalu buka Settings > Connections.
- Cari daftar Manage OpenAI API Connections. Klik Add Connection.
- Di URL, ketik URL dari Langkah 1, misalnya
http://host.docker.internal:3001/v1. - Di API Key, tempel kunci terpadu FreeLLMAPI Anda.
- Klik Verify Connection. Lalu klik Save.
Untuk mengatur koneksi saat container dimulai, gunakan OPENAI_API_BASE_URL dan OPENAI_API_KEY. Perintah di bawah ini adalah perintah docker run standar Open WebUI dengan kedua variabel tersebut ditambahkan.
docker run dengan koneksi FreeLLMAPI
docker run -d -p 3000:8080 \
--add-host=host.docker.internal:host-gateway \
-e OPENAI_API_BASE_URL=http://host.docker.internal:3001/v1 \
-e OPENAI_API_KEY=<unified-key> \
-v open-webui:/app/backend/data \
--name open-webui --restart always \
ghcr.io/open-webui/open-webui:mainUntuk mempertahankan koneksi OpenAI yang sudah ada, gunakan variabel jamak. OPENAI_API_BASE_URLS dan OPENAI_API_KEYS menerima daftar yang dipisah titik koma. Kunci pertama dipasangkan dengan URL pertama.
Dua koneksi dalam satu container
-e OPENAI_API_BASE_URLS="https://api.openai.com/v1;http://host.docker.internal:3001/v1" \
-e OPENAI_API_KEYS="<openai-key>;<unified-key>"ENABLE_PERSISTENT_CONFIG=False agar lingkungan yang berlaku.Langkah 3: Jaga daftar model tetap pendek
FreeLLMAPI mengembalikan seluruh katalog di /v1/models. Katalog itu juga berisi model yang belum dapat Anda panggil, karena Anda belum menambahkan kunci untuknya. Open WebUI menampilkan setiap model yang dikembalikan koneksi. Daftar panjang model yang gagal tidak berguna.
Buka kembali koneksi dan gunakan kolom Model IDs. Saat Anda menambahkan ID, Open WebUI hanya menampilkan ID ini dan berhenti membaca daftar lengkap. Tambahkan entri router terlebih dahulu:
| ID Model | Yang dilakukan router |
|---|---|
auto | Mengikuti rantai cadangan aktif dari dasbor |
auto:fast | Mengurutkan model yang diaktifkan berdasarkan kecepatan terukur |
auto:smart | Mengurutkan model yang diaktifkan berdasarkan kecerdasan |
auto:reliable | Mengurutkan model yang diaktifkan berdasarkan tingkat keberhasilan terbaru |
auto:<profile> | Menggunakan rantai cadangan bernama, misalnya rantai vision |
Anda juga dapat menambahkan ID model tetap, misalnya model dari tabel di bawah. Model tetap memberi gaya jawaban yang sama setiap kali. Model itu juga berhenti saat batas gratisnya habis, kecuali model yang sama gratis di penyedia lain.
Untuk menghemat kuota, atur model tugas ke entri yang cepat. Open WebUI memakai model tugas untuk judul dan kueri pencarian. Variabelnya adalah TASK_MODEL_EXTERNAL, misalnya TASK_MODEL_EXTERNAL=auto:fast.
| Model | Gratis di | Konteks | Batas gratis (penawaran terbaik) | Alat | Pemrosesan gambar |
|---|---|---|---|---|---|
| GLM 5.3 | APINex, UnoRouter | 1M | 5 permintaan/menit 10M weighted tokens/day shared across APINex free routes; 4x token multiplier; 5 requests/minute/account | Ya | Tidak |
| GLM 5.3 Flash | APINex, BlazeAPI, NVIDIA NIM +1 lagi | 1M | 40 permintaan/menit 40 RPM | Ya | Ya |
| Gemini 3.8 Flash | APINex, Google AI Studio | 1M | 5 permintaan/menit 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | Ya | Ya |
| Qwen3.8 Flash Next | AMD Radeon Cloud, BlazeAPI, ElectronHub | 262K | Recurring daily account allowance | Ya | Tidak |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | Ya | Ya |
| Deepseek V4.1 Flash | APINex | 1M | 5 permintaan/menit 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | Tidak | Tidak |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 permintaan/menit 20 permintaan/hari 250,000 token/menit ~3M | Ya | Ya |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | Ya | Ya |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 permintaan/menit 50 permintaan/hari 50 req/day account-wide (1,000 after a $10 purchase) | Ya | Ya |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 permintaan/menit 50 permintaan/hari Shared rate limit | Ya | Tidak |
Menampilkan 10 dari 184 model gratis yang cocok. Lihat semua model.
Data langsung dari katalog FreeLLMAPI (versi 2026.11.19, diperiksa 2026-11-19). Batas gratis sering berubah. Katalog diperiksa setiap hari.
Jika Anda mengirim gambar di Open WebUI, router hanya memakai model vision untuk permintaan itu. Jika tidak ada model vision dalam rantai Anda, permintaan mengembalikan error 422. Model gratis berikut menerima gambar:
| Model | Gratis di | Konteks | Batas gratis (penawaran terbaik) | Alat | Pemrosesan gambar |
|---|---|---|---|---|---|
| GLM 5.3 Flash | UnoRouter | 1M | 1 permintaan/menit 1 req/min per model | Ya | Ya |
| Gemini 3.8 Flash | Google AI Studio | 1M | Recurring provider quota | Ya | Ya |
| Gemini Flash (latest alias) | Google AI Studio | - | 10 permintaan/menit 20 permintaan/hari 250,000 token/menit ~3M | Ya | Ya |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | Ya | Ya |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 permintaan/menit 20 permintaan/hari 250,000 token/menit ~3M | Ya | Ya |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | Ya | Ya |
Menampilkan 6 dari 67 model gratis yang cocok. Lihat semua model.
Data langsung dari katalog FreeLLMAPI (versi 2026.11.19, diperiksa 2026-11-19). Batas gratis sering berubah. Katalog diperiksa setiap hari.
Gunakan embedding gratis untuk dokumen
Open WebUI dapat membuat embedding untuk dokumen Anda melalui API yang kompatibel dengan OpenAI. FreeLLMAPI menyajikan /v1/embeddings. Failover embedding tidak pernah mengubah model, sehingga vektor di penyimpanan Anda tetap kompatibel.
Pengaturan embedding untuk Open WebUI
-e RAG_EMBEDDING_ENGINE=openai \
-e RAG_OPENAI_API_BASE_URL=http://host.docker.internal:3001/v1 \
-e RAG_OPENAI_API_KEY=<unified-key> \
-e RAG_EMBEDDING_MODEL=bge-m3Pilih satu keluarga embedding dan pertahankan. Jika Anda mengubah keluarga, buat ulang embedding untuk semua dokumen. Model embedding gratis dalam katalog saat ini adalah:
| Model | Penyedia | Dimensi | Input maks | Batas gratis |
|---|---|---|---|---|
Gemini Embeddinggemini-embedding-001 | Google AI Studio | 3072 | 2048 | 100 rpm · 1K req/day |
Nemotron Embed VL 1Bnvidia/llama-nemotron-embed-vl-1b-v2 | NVIDIA NIM | 2048 | 8192 | ~40 rpm |
Nemotron 3 Embed 1B (OR free)nvidia/nemotron-3-embed-1b:free | OpenRouter | 2048 | 32768 | 20 rpm · shared free daily cap |
SEA-LION E5 Embedding 600Maisingapore/SEA-LION-E5-Embedding-600M | SEA-LION | 1024 | 8192 | free · 10 rpm |
SEA-LION ModernBERT Embedding 300Maisingapore/SEA-LION-ModernBERT-Embedding-300M | SEA-LION | 1024 | 8192 | free · 10 rpm |
SEA-LION ModernBERT Embedding 600Maisingapore/SEA-LION-ModernBERT-Embedding-600M | SEA-LION | 1024 | 8192 | free · 10 rpm |
BGE-M3@cf/baai/bge-m3 | Cloudflare Workers AI | 1024 | 8192 | 10K neurons/day (shared) |
EmbeddingGemma 300M@cf/google/embeddinggemma-300m | Cloudflare Workers AI | 768 | 2048 | 10K neurons/day (shared) |
Qwen3 Embedding 0.6B@cf/qwen/qwen3-embedding-0.6b | Cloudflare Workers AI | 1024 | 8192 | 10K neurons/day (shared) |
Cohere Embed v4embed-v4.0 | Cohere | 1536 | 128000 | 1K calls/mo (shared w/ chat) |
Gemini Embedding 2gemini-embedding-2 | Google AI Studio | 3072 | 8192 | free-tier rate limited |
Nemotron 3 Embed 1Bnvidia/nemotron-3-embed-1b | NVIDIA NIM | 2048 | 4096 | ~40 rpm |
PLaMo Embedding 1B (CF)@cf/pfnet/plamo-embedding-1b | Cloudflare Workers AI | 2048 | 4096 | 10K neurons/day (shared) |
BGE Small EN v1.5 (CF)@cf/baai/bge-small-en-v1.5 | Cloudflare Workers AI | 384 | 512 | 10K neurons/day (shared) |
BGE Base EN v1.5 (CF)@cf/baai/bge-base-en-v1.5 | Cloudflare Workers AI | 768 | 512 | 10K neurons/day (shared) |
BGE Large EN v1.5 (CF)@cf/baai/bge-large-en-v1.5 | Cloudflare Workers AI | 1024 | 512 | 10K neurons/day (shared) |
Mistral Embedmistral-embed | Mistral | 1024 | 8192 | free mode · monthly cap (shared) |
Codestral Embedcodestral-embed | Mistral | 1536 | 8192 | free mode · monthly cap (shared) |
Llama Text Embed v2 (Pinecone)llama-text-embed-v2 | Pinecone | 1024 | 2048 | 5M tokens/mo per model |
Multilingual E5 Large (Pinecone)multilingual-e5-large | Pinecone | 1024 | 507 | 5M tokens/mo per model |
Nemotron 3 Embed 1B (Speka)nvidia/nemotron-3-embed-1b | Speka | 2048 | 8192 | $1/month shared across Speka models |
OpenAI: Text Embedding 3 Small (ElectronHub)text-embedding-3-small | ElectronHub | 1536 | 8192 | $0.25/week shared free credits |
OpenAI: Text Embedding 3 Large (ElectronHub)text-embedding-3-large | ElectronHub | 3072 | 8192 | $0.25/week shared free credits |
Nemotron 3 Embed 8B (Inferbase)nvidia-nemotron-3-embed-8b | Inferbase | 4096 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
Qwen 3 Embedding 0.6B (Inferbase)qwen3-embedding-0-6b | Inferbase | 1024 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
Qwen 3 Embedding 4B (Inferbase)qwen3-embedding-4b | Inferbase | 2560 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
Qwen 3 Embedding 8B (Inferbase)qwen3-embedding-8b | Inferbase | 4096 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
LFM2.5 Embedding 350M (LLMTR)liquid/lfm-2.5-embedding-350m-free | LLMTR | 1024 | 512 | Ongoing zero-price route; provider terms apply |
BGE-M3 (SEA-LION)BAAI/bge-m3 | SEA-LION | 1024 | 8192 | free · 10 rpm |
Cohere Embed English v3embed-english-v3.0 | Cohere | 1024 | 512 | 1K calls/mo (shared w/ chat) |
Qwen3 Embedding 8B (OVH)Qwen3-Embedding-8B | OVH AI Endpoints | 4096 | 32768 | free · anonymous 2 req/min per IP |
BGE-M3 (OVH)bge-m3 | OVH AI Endpoints | 1024 | 8192 | free · anonymous 2 req/min per IP |
BGE Multilingual Gemma2 (OVH)bge-multilingual-gemma2 | OVH AI Endpoints | 3584 | 8192 | free · anonymous 2 req/min per IP |
Mistral: Codestral Embed (ElectronHub)codestral-embed | ElectronHub | 1536 | 8192 | $0.25/week shared free credits |
Mistral: Mistral Embed (ElectronHub)mistral-embed | ElectronHub | 1024 | 8192 | $0.25/week shared free credits |
Google: Gemini Embedding 2 (ElectronHub)gemini-embedding-2 | ElectronHub | 3072 | 8192 | $0.25/week shared free credits |
Google: Gemini Embedding 001 (ElectronHub)gemini-embedding-001 | ElectronHub | 3072 | 2048 | $0.25/week shared free credits |
OpenAI: Text Embedding Ada 002 (ElectronHub)text-embedding-ada-002 | ElectronHub | 1536 | 8192 | $0.25/week shared free credits |
Cohere Embed English Light v3embed-english-light-v3.0 | Cohere | 384 | 512 | 1K calls/mo (shared w/ chat) |
Cohere Embed Multilingual v3embed-multilingual-v3.0 | Cohere | 1024 | 512 | 1K calls/mo (shared w/ chat) |
Cohere Embed Multilingual Light v3embed-multilingual-light-v3.0 | Cohere | 384 | 512 | 1K calls/mo (shared w/ chat) |
Data langsung dari katalog FreeLLMAPI (versi 2026.11.19, diperiksa 2026-11-19). Batas gratis sering berubah. Katalog diperiksa setiap hari.
Pemecahan masalah
| Masalah | Penyebab | Perbaikan |
|---|---|---|
| Verify Connection gagal dengan error jaringan | localhost mengarah ke container Open WebUI | Gunakan host.docker.internal atau jaringan Docker bersama, seperti pada Langkah 1 |
| Verify Connection gagal dengan 401 | Kuncinya salah atau mengandung spasi | Salin ulang kunci terpadu dari halaman Keys |
| Ratusan model di pemilih | Koneksi membaca seluruh katalog | Tambahkan auto dan ID pilihan Anda di Model IDs |
| Model gagal pada setiap pesan | Tidak ada kunci untuk penyedia model tersebut | Tambahkan kunci penyedia, atau pilih auto |
| Error 429 setelah banyak obrolan | Semua kunci penyedia dalam rantai telah mencapai batasnya | Tambahkan kunci dari lebih banyak penyedia, atau tunggu waktu reset di header Retry-After |
| Variabel lingkungan tidak berpengaruh | Nilai yang disimpan di database lebih diutamakan | Ubah koneksi di Admin Panel |
Untuk melihat penyedia mana yang menjawab obrolan, baca header X-Routed-Via pada respons. Penampil Server Logs di menu Analytics dasbor juga menampilkan keputusan routing dan masa tunggu kunci.
Pertanyaan yang sering diajukan
Apakah ada API gratis untuk Open WebUI?
Ya. Open WebUI bekerja dengan API apa pun yang kompatibel dengan OpenAI. FreeLLMAPI menggabungkan paket penyedia gratis di balik satu URL dan satu kunci. Setiap paket gratis memiliki batasnya sendiri.
Apa URL yang harus digunakan untuk koneksi yang kompatibel dengan OpenAI di Open WebUI?
Gunakan URL dasar dengan /v1 di akhir, misalnya http://host.docker.internal:3001/v1. Jangan tambahkan /chat/completions. Jika Open WebUI berjalan di Docker, jangan gunakan localhost.
Mengapa Open WebUI mengabaikan perubahan OPENAI_API_BASE_URL?
Open WebUI menyimpan pengaturan koneksi di database-nya setelah pertama kali dijalankan. Nilai di database lebih diutamakan. Ubah koneksi di Admin Panel, atau atur ENABLE_PERSISTENT_CONFIG=False.
Dapatkah Open WebUI menggunakan beberapa penyedia gratis sekaligus?
Ya. Anda dapat menambahkan satu koneksi per penyedia. Dengan FreeLLMAPI, satu koneksi sudah cukup, karena router memilih penyedia dan pindah ke penyedia berikutnya saat batas menghentikan permintaan.
Model gratis mana yang terbaik di Open WebUI?
Mulai dengan auto. Model ini mengikuti rantai cadangan Anda. Untuk model tetap, pilih satu model dengan jendela konteks besar dari tabel di halaman ini.
Panduan terkait
- API Gratis untuk SillyTavern
- Base URL free API kompatibel OpenAI
- API embeddings gratis
- API LLM gratis untuk RAG
- Batas rate limit API LLM gratis
Sumber
- Open WebUI docs: environment variable configuration (diperiksa 20 November 2026)
- Open WebUI docs: connect an OpenAI-compatible provider (diperiksa 20 November 2026)
- Open WebUI README: Docker installation (diperiksa 20 November 2026)
- FreeLLMAPI docs: REST API (routing strategies, model listing, embeddings) (diperiksa 20 November 2026)
- FreeLLMAPI docs: Docker deployment (diperiksa 20 November 2026)