Beranda / Panduan / Free LLM API untuk Open WebUI

Free LLM API untuk Open WebUI

Open WebUI adalah antarmuka obrolan yang dihosting sendiri. Antarmuka ini terhubung ke server mana pun yang memakai API OpenAI Chat Completions. Panduan ini menghubungkan Open WebUI ke FreeLLMAPI, yang menggabungkan 45 paket penyedia gratis di balik satu kunci. Anda menambahkan satu koneksi. Router mengirim setiap obrolan ke model gratis dan pindah ke penyedia berikutnya saat batas menghentikan permintaan.

Kode, nama model, dan label katalog langsung ditampilkan dalam bahasa Inggris.

Cara kerja koneksi

Open WebUI mengirim permintaan obrolan ke URL dari setiap koneksi OpenAI. FreeLLMAPI menerima permintaan di http://localhost:3001/v1 dan menerima permintaan yang sama. FreeLLMAPI memilih model gratis, mengirim permintaan, dan mengembalikan jawaban dalam format OpenAI.

  • Satu koneksi, banyak penyedia: Anda menambahkan satu URL dan satu kunci terpadu. Kunci penyedia Anda tetap berada di FreeLLMAPI di komputer Anda.
  • Failover: saat penyedia mengembalikan error 429, router mencoba model berikutnya dalam rantai cadangan Anda.
  • Batas: paket gratis memiliki batas permintaan dan token. Lebih banyak kunci penyedia memberi lebih banyak permintaan per hari. Failover membagi beban, tetapi tidak menghapus batas.

Pasang FreeLLMAPI terlebih dahulu. Aplikasi ini berjalan di Docker. Buka dasbor di http://localhost:3001, tambahkan minimal dua kunci penyedia gratis di halaman Keys, lalu salin kunci terpadu Anda.

Pasang FreeLLMAPI (macOS atau Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

Langkah 1: Temukan URL yang benar

URL yang harus digunakan Open WebUI bergantung pada tempat setiap program berjalan. Open WebUI biasanya berjalan di Docker. Di dalam container, localhost merujuk ke container itu sendiri, bukan ke komputer Anda.

Open WebUI berjalanFreeLLMAPI berjalanURL yang digunakan
Di host (pip atau uv)Di host (Docker atau aplikasi desktop)http://localhost:3001/v1
Di Docker Desktop (macOS, Windows)Di hosthttp://host.docker.internal:3001/v1
Di Docker pada LinuxDi Docker (skrip instalasi)http://freellmapi:3001/v1 pada jaringan Docker bersama
Di komputer lainDi server pada LAN Andahttp://<server-ip>:3001/v1, dengan HOST_BIND=0.0.0.0 hanya pada jaringan tepercaya

Secara bawaan, container FreeLLMAPI hanya memublikasikan port-nya di 127.0.0.1. Di Linux, container kedua tidak selalu dapat mencapai port itu melalui host. Hubungkan kedua container ke satu jaringan Docker. Lalu gunakan nama layanan freellmapi sebagai nama host.

Hubungkan Open WebUI ke jaringan FreeLLMAPI (Linux)

# Find the network of the FreeLLMAPI stack (usually freellmapi_default)
docker network ls

# Attach the Open WebUI container to it
docker network connect freellmapi_default open-webui

# Test the URL from inside the Open WebUI container
docker exec open-webui curl -s http://freellmapi:3001/v1/models \
  -H "Authorization: Bearer <unified-key>" | head -c 300

Langkah 2: Tambahkan koneksi

Anda dapat menambahkan koneksi di antarmuka atau dengan variabel lingkungan. Antarmuka adalah metode yang paling sederhana.

  1. Buka Admin Panel, lalu buka Settings > Connections.
  2. Cari daftar Manage OpenAI API Connections. Klik Add Connection.
  3. Di URL, ketik URL dari Langkah 1, misalnya http://host.docker.internal:3001/v1.
  4. Di API Key, tempel kunci terpadu FreeLLMAPI Anda.
  5. Klik Verify Connection. Lalu klik Save.

Untuk mengatur koneksi saat container dimulai, gunakan OPENAI_API_BASE_URL dan OPENAI_API_KEY. Perintah di bawah ini adalah perintah docker run standar Open WebUI dengan kedua variabel tersebut ditambahkan.

docker run dengan koneksi FreeLLMAPI

docker run -d -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -e OPENAI_API_BASE_URL=http://host.docker.internal:3001/v1 \
  -e OPENAI_API_KEY=<unified-key> \
  -v open-webui:/app/backend/data \
  --name open-webui --restart always \
  ghcr.io/open-webui/open-webui:main

Untuk mempertahankan koneksi OpenAI yang sudah ada, gunakan variabel jamak. OPENAI_API_BASE_URLS dan OPENAI_API_KEYS menerima daftar yang dipisah titik koma. Kunci pertama dipasangkan dengan URL pertama.

Dua koneksi dalam satu container

-e OPENAI_API_BASE_URLS="https://api.openai.com/v1;http://host.docker.internal:3001/v1" \
-e OPENAI_API_KEYS="<openai-key>;<unified-key>"
Penting: variabel ini disimpan di database Open WebUI saat pertama kali dijalankan. Setelah itu, nilai yang disimpan di Admin Panel lebih diutamakan daripada lingkungan. Jika perubahan variabel tidak berpengaruh, ubah koneksi di Admin Panel. Anda juga dapat mengatur ENABLE_PERSISTENT_CONFIG=False agar lingkungan yang berlaku.

Langkah 3: Jaga daftar model tetap pendek

FreeLLMAPI mengembalikan seluruh katalog di /v1/models. Katalog itu juga berisi model yang belum dapat Anda panggil, karena Anda belum menambahkan kunci untuknya. Open WebUI menampilkan setiap model yang dikembalikan koneksi. Daftar panjang model yang gagal tidak berguna.

Buka kembali koneksi dan gunakan kolom Model IDs. Saat Anda menambahkan ID, Open WebUI hanya menampilkan ID ini dan berhenti membaca daftar lengkap. Tambahkan entri router terlebih dahulu:

ID ModelYang dilakukan router
autoMengikuti rantai cadangan aktif dari dasbor
auto:fastMengurutkan model yang diaktifkan berdasarkan kecepatan terukur
auto:smartMengurutkan model yang diaktifkan berdasarkan kecerdasan
auto:reliableMengurutkan model yang diaktifkan berdasarkan tingkat keberhasilan terbaru
auto:<profile>Menggunakan rantai cadangan bernama, misalnya rantai vision

Anda juga dapat menambahkan ID model tetap, misalnya model dari tabel di bawah. Model tetap memberi gaya jawaban yang sama setiap kali. Model itu juga berhenti saat batas gratisnya habis, kecuali model yang sama gratis di penyedia lain.

Untuk menghemat kuota, atur model tugas ke entri yang cepat. Open WebUI memakai model tugas untuk judul dan kueri pencarian. Variabelnya adalah TASK_MODEL_EXTERNAL, misalnya TASK_MODEL_EXTERNAL=auto:fast.

Model obrolan gratis yang kuat dengan konteks 128K+
ModelGratis diKonteksBatas gratis (penawaran terbaik)AlatPemrosesan gambar
GLM 5.3APINex, UnoRouter1M5 permintaan/menit
10M weighted tokens/day shared across APINex free routes; 4x token multiplier; 5 requests/minute/account
YaTidak
GLM 5.3 FlashAPINex, BlazeAPI, NVIDIA NIM +1 lagi1M40 permintaan/menit
40 RPM
YaYa
Gemini 3.8 FlashAPINex, Google AI Studio1M5 permintaan/menit
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
YaYa
Qwen3.8 Flash NextAMD Radeon Cloud, BlazeAPI, ElectronHub262KRecurring daily account allowanceYaTidak
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditYaYa
Deepseek V4.1 FlashAPINex1M5 permintaan/menit
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
TidakTidak
Gemini 3.7 FlashGoogle AI Studio1M10 permintaan/menit
20 permintaan/hari
250,000 token/menit
~3M
YaYa
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditYaYa
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 permintaan/menit
50 permintaan/hari
50 req/day account-wide (1,000 after a $10 purchase)
YaYa
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 permintaan/menit
50 permintaan/hari
Shared rate limit
YaTidak

Menampilkan 10 dari 184 model gratis yang cocok. Lihat semua model.

Data langsung dari katalog FreeLLMAPI (versi 2026.11.19, diperiksa 2026-11-19). Batas gratis sering berubah. Katalog diperiksa setiap hari.

Jika Anda mengirim gambar di Open WebUI, router hanya memakai model vision untuk permintaan itu. Jika tidak ada model vision dalam rantai Anda, permintaan mengembalikan error 422. Model gratis berikut menerima gambar:

Model gratis dengan input gambar
ModelGratis diKonteksBatas gratis (penawaran terbaik)AlatPemrosesan gambar
GLM 5.3 FlashUnoRouter1M1 permintaan/menit
1 req/min per model
YaYa
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaYaYa
Gemini Flash (latest alias)Google AI Studio-10 permintaan/menit
20 permintaan/hari
250,000 token/menit
~3M
YaYa
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditYaYa
Gemini 3.7 FlashGoogle AI Studio1M10 permintaan/menit
20 permintaan/hari
250,000 token/menit
~3M
YaYa
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditYaYa

Menampilkan 6 dari 67 model gratis yang cocok. Lihat semua model.

Data langsung dari katalog FreeLLMAPI (versi 2026.11.19, diperiksa 2026-11-19). Batas gratis sering berubah. Katalog diperiksa setiap hari.

Gunakan embedding gratis untuk dokumen

Open WebUI dapat membuat embedding untuk dokumen Anda melalui API yang kompatibel dengan OpenAI. FreeLLMAPI menyajikan /v1/embeddings. Failover embedding tidak pernah mengubah model, sehingga vektor di penyimpanan Anda tetap kompatibel.

Pengaturan embedding untuk Open WebUI

-e RAG_EMBEDDING_ENGINE=openai \
-e RAG_OPENAI_API_BASE_URL=http://host.docker.internal:3001/v1 \
-e RAG_OPENAI_API_KEY=<unified-key> \
-e RAG_EMBEDDING_MODEL=bge-m3

Pilih satu keluarga embedding dan pertahankan. Jika Anda mengubah keluarga, buat ulang embedding untuk semua dokumen. Model embedding gratis dalam katalog saat ini adalah:

ModelPenyediaDimensiInput maksBatas gratis
Gemini Embedding
gemini-embedding-001
Google AI Studio30722048100 rpm · 1K req/day
Nemotron Embed VL 1B
nvidia/llama-nemotron-embed-vl-1b-v2
NVIDIA NIM20488192~40 rpm
Nemotron 3 Embed 1B (OR free)
nvidia/nemotron-3-embed-1b:free
OpenRouter20483276820 rpm · shared free daily cap
SEA-LION E5 Embedding 600M
aisingapore/SEA-LION-E5-Embedding-600M
SEA-LION10248192free · 10 rpm
SEA-LION ModernBERT Embedding 300M
aisingapore/SEA-LION-ModernBERT-Embedding-300M
SEA-LION10248192free · 10 rpm
SEA-LION ModernBERT Embedding 600M
aisingapore/SEA-LION-ModernBERT-Embedding-600M
SEA-LION10248192free · 10 rpm
BGE-M3
@cf/baai/bge-m3
Cloudflare Workers AI1024819210K neurons/day (shared)
EmbeddingGemma 300M
@cf/google/embeddinggemma-300m
Cloudflare Workers AI768204810K neurons/day (shared)
Qwen3 Embedding 0.6B
@cf/qwen/qwen3-embedding-0.6b
Cloudflare Workers AI1024819210K neurons/day (shared)
Cohere Embed v4
embed-v4.0
Cohere15361280001K calls/mo (shared w/ chat)
Gemini Embedding 2
gemini-embedding-2
Google AI Studio30728192free-tier rate limited
Nemotron 3 Embed 1B
nvidia/nemotron-3-embed-1b
NVIDIA NIM20484096~40 rpm
PLaMo Embedding 1B (CF)
@cf/pfnet/plamo-embedding-1b
Cloudflare Workers AI2048409610K neurons/day (shared)
BGE Small EN v1.5 (CF)
@cf/baai/bge-small-en-v1.5
Cloudflare Workers AI38451210K neurons/day (shared)
BGE Base EN v1.5 (CF)
@cf/baai/bge-base-en-v1.5
Cloudflare Workers AI76851210K neurons/day (shared)
BGE Large EN v1.5 (CF)
@cf/baai/bge-large-en-v1.5
Cloudflare Workers AI102451210K neurons/day (shared)
Mistral Embed
mistral-embed
Mistral10248192free mode · monthly cap (shared)
Codestral Embed
codestral-embed
Mistral15368192free mode · monthly cap (shared)
Llama Text Embed v2 (Pinecone)
llama-text-embed-v2
Pinecone102420485M tokens/mo per model
Multilingual E5 Large (Pinecone)
multilingual-e5-large
Pinecone10245075M tokens/mo per model
Nemotron 3 Embed 1B (Speka)
nvidia/nemotron-3-embed-1b
Speka20488192$1/month shared across Speka models
OpenAI: Text Embedding 3 Small (ElectronHub)
text-embedding-3-small
ElectronHub15368192$0.25/week shared free credits
OpenAI: Text Embedding 3 Large (ElectronHub)
text-embedding-3-large
ElectronHub30728192$0.25/week shared free credits
Nemotron 3 Embed 8B (Inferbase)
nvidia-nemotron-3-embed-8b
Inferbase409681925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 0.6B (Inferbase)
qwen3-embedding-0-6b
Inferbase102481925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 4B (Inferbase)
qwen3-embedding-4b
Inferbase256081925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 8B (Inferbase)
qwen3-embedding-8b
Inferbase409681925,000 requests/month; 100 requests and $0.50 usage/day shared
LFM2.5 Embedding 350M (LLMTR)
liquid/lfm-2.5-embedding-350m-free
LLMTR1024512Ongoing zero-price route; provider terms apply
BGE-M3 (SEA-LION)
BAAI/bge-m3
SEA-LION10248192free · 10 rpm
Cohere Embed English v3
embed-english-v3.0
Cohere10245121K calls/mo (shared w/ chat)
Qwen3 Embedding 8B (OVH)
Qwen3-Embedding-8B
OVH AI Endpoints409632768free · anonymous 2 req/min per IP
BGE-M3 (OVH)
bge-m3
OVH AI Endpoints10248192free · anonymous 2 req/min per IP
BGE Multilingual Gemma2 (OVH)
bge-multilingual-gemma2
OVH AI Endpoints35848192free · anonymous 2 req/min per IP
Mistral: Codestral Embed (ElectronHub)
codestral-embed
ElectronHub15368192$0.25/week shared free credits
Mistral: Mistral Embed (ElectronHub)
mistral-embed
ElectronHub10248192$0.25/week shared free credits
Google: Gemini Embedding 2 (ElectronHub)
gemini-embedding-2
ElectronHub30728192$0.25/week shared free credits
Google: Gemini Embedding 001 (ElectronHub)
gemini-embedding-001
ElectronHub30722048$0.25/week shared free credits
OpenAI: Text Embedding Ada 002 (ElectronHub)
text-embedding-ada-002
ElectronHub15368192$0.25/week shared free credits
Cohere Embed English Light v3
embed-english-light-v3.0
Cohere3845121K calls/mo (shared w/ chat)
Cohere Embed Multilingual v3
embed-multilingual-v3.0
Cohere10245121K calls/mo (shared w/ chat)
Cohere Embed Multilingual Light v3
embed-multilingual-light-v3.0
Cohere3845121K calls/mo (shared w/ chat)

Data langsung dari katalog FreeLLMAPI (versi 2026.11.19, diperiksa 2026-11-19). Batas gratis sering berubah. Katalog diperiksa setiap hari.

Pemecahan masalah

MasalahPenyebabPerbaikan
Verify Connection gagal dengan error jaringanlocalhost mengarah ke container Open WebUIGunakan host.docker.internal atau jaringan Docker bersama, seperti pada Langkah 1
Verify Connection gagal dengan 401Kuncinya salah atau mengandung spasiSalin ulang kunci terpadu dari halaman Keys
Ratusan model di pemilihKoneksi membaca seluruh katalogTambahkan auto dan ID pilihan Anda di Model IDs
Model gagal pada setiap pesanTidak ada kunci untuk penyedia model tersebutTambahkan kunci penyedia, atau pilih auto
Error 429 setelah banyak obrolanSemua kunci penyedia dalam rantai telah mencapai batasnyaTambahkan kunci dari lebih banyak penyedia, atau tunggu waktu reset di header Retry-After
Variabel lingkungan tidak berpengaruhNilai yang disimpan di database lebih diutamakanUbah koneksi di Admin Panel

Untuk melihat penyedia mana yang menjawab obrolan, baca header X-Routed-Via pada respons. Penampil Server Logs di menu Analytics dasbor juga menampilkan keputusan routing dan masa tunggu kunci.

Gunakan semua ini melalui satu kunci. FreeLLMAPI adalah router sumber terbuka yang Anda hosting sendiri. Router ini menempatkan semua paket gratis ini di balik satu endpoint yang kompatibel dengan OpenAI, dan beralih ke penyedia lain saat batas permintaan tercapai. Lihat katalog atau mulai.

Pertanyaan yang sering diajukan

Apakah ada API gratis untuk Open WebUI?

Ya. Open WebUI bekerja dengan API apa pun yang kompatibel dengan OpenAI. FreeLLMAPI menggabungkan paket penyedia gratis di balik satu URL dan satu kunci. Setiap paket gratis memiliki batasnya sendiri.

Apa URL yang harus digunakan untuk koneksi yang kompatibel dengan OpenAI di Open WebUI?

Gunakan URL dasar dengan /v1 di akhir, misalnya http://host.docker.internal:3001/v1. Jangan tambahkan /chat/completions. Jika Open WebUI berjalan di Docker, jangan gunakan localhost.

Mengapa Open WebUI mengabaikan perubahan OPENAI_API_BASE_URL?

Open WebUI menyimpan pengaturan koneksi di database-nya setelah pertama kali dijalankan. Nilai di database lebih diutamakan. Ubah koneksi di Admin Panel, atau atur ENABLE_PERSISTENT_CONFIG=False.

Dapatkah Open WebUI menggunakan beberapa penyedia gratis sekaligus?

Ya. Anda dapat menambahkan satu koneksi per penyedia. Dengan FreeLLMAPI, satu koneksi sudah cukup, karena router memilih penyedia dan pindah ke penyedia berikutnya saat batas menghentikan permintaan.

Model gratis mana yang terbaik di Open WebUI?

Mulai dengan auto. Model ini mengikuti rantai cadangan Anda. Untuk model tetap, pilih satu model dengan jendela konteks besar dari tabel di halaman ini.

Panduan terkait

Sumber

Semua panduan · Lihat semua model gratis