Laman utama / Panduan / API LLM percuma untuk Open WebUI

API LLM percuma untuk Open WebUI

Open WebUI ialah antara muka sembang yang anda hoskan sendiri. Ia bersambung ke mana-mana pelayan yang menggunakan API OpenAI Chat Completions. Panduan ini menyambungkan Open WebUI ke FreeLLMAPI, yang menghimpunkan 45 peringkat pembekal percuma di belakang satu kunci. Anda menambah satu sambungan. Penghala menghantar setiap sembang ke model percuma dan beralih ke pembekal seterusnya apabila had menghentikan permintaan.

Kod, nama model dan label katalog langsung dipaparkan dalam bahasa Inggeris.

Cara sambungan berfungsi

Open WebUI menghantar permintaan sembang ke URL bagi setiap sambungan OpenAI. FreeLLMAPI mendengar pada http://localhost:3001/v1 dan menerima permintaan yang sama. Ia memilih model percuma, menghantar permintaan dan memulangkan jawapan dalam format OpenAI.

  • Satu sambungan, banyak pembekal: anda menambah satu URL dan satu kunci bersatu. Kunci pembekal anda kekal dalam FreeLLMAPI pada komputer anda.
  • Peralihan: apabila pembekal memulangkan ralat 429, penghala mencuba model seterusnya dalam rantai sandaran anda.
  • Had: peringkat percuma mempunyai had permintaan dan token. Lebih banyak kunci pembekal memberikan lebih banyak permintaan sehari. Peralihan mengagihkan beban, tetapi ia tidak menghapuskan had.

Pasang FreeLLMAPI dahulu. Ia berjalan dalam Docker. Buka papan pemuka di http://localhost:3001, tambah sekurang-kurangnya dua kunci pembekal percuma pada halaman Keys dan salin kunci bersatu anda.

Pasang FreeLLMAPI (macOS atau Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

Langkah 1: Cari URL yang betul

URL yang mesti digunakan oleh Open WebUI bergantung pada tempat setiap program berjalan. Open WebUI biasanya berjalan dalam Docker. Dalam bekas, localhost merujuk kepada bekas itu sendiri, bukan komputer anda.

Open WebUI berjalanFreeLLMAPI berjalanURL untuk digunakan
Pada hos (pip atau uv)Pada hos (Docker atau aplikasi desktop)http://localhost:3001/v1
Dalam Docker Desktop (macOS, Windows)Pada hoshttp://host.docker.internal:3001/v1
Dalam Docker pada LinuxDalam Docker (skrip pemasangan)http://freellmapi:3001/v1 pada rangkaian Docker yang dikongsi
Pada komputer lainPada pelayan dalam LAN andahttp://<server-ip>:3001/v1, dengan HOST_BIND=0.0.0.0 pada rangkaian yang dipercayai sahaja

Secara lalai, bekas FreeLLMAPI hanya menerbitkan portnya pada 127.0.0.1. Pada Linux, bekas kedua tidak selalunya dapat mencapai port itu melalui hos. Sambungkan kedua-dua bekas ke satu rangkaian Docker. Kemudian gunakan nama perkhidmatan freellmapi sebagai nama hos.

Sambungkan Open WebUI ke rangkaian FreeLLMAPI (Linux)

# Find the network of the FreeLLMAPI stack (usually freellmapi_default)
docker network ls

# Attach the Open WebUI container to it
docker network connect freellmapi_default open-webui

# Test the URL from inside the Open WebUI container
docker exec open-webui curl -s http://freellmapi:3001/v1/models \
  -H "Authorization: Bearer <unified-key>" | head -c 300

Langkah 2: Tambah sambungan

Anda boleh menambah sambungan dalam antara muka atau dengan pembolehubah persekitaran. Antara muka ialah kaedah yang paling mudah.

  1. Buka Admin Panel dan pergi ke Settings > Connections.
  2. Cari senarai Manage OpenAI API Connections. Klik Add Connection.
  3. Dalam URL, taip URL dari Langkah 1, contohnya http://host.docker.internal:3001/v1.
  4. Dalam API Key, tampal kunci bersatu FreeLLMAPI anda.
  5. Klik Verify Connection. Kemudian klik Save.

Untuk menetapkan sambungan apabila bekas bermula, gunakan OPENAI_API_BASE_URL dan OPENAI_API_KEY. Arahan di bawah ialah arahan docker run standard Open WebUI dengan kedua-dua pembolehubah ini ditambah.

docker run dengan sambungan FreeLLMAPI

docker run -d -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -e OPENAI_API_BASE_URL=http://host.docker.internal:3001/v1 \
  -e OPENAI_API_KEY=<unified-key> \
  -v open-webui:/app/backend/data \
  --name open-webui --restart always \
  ghcr.io/open-webui/open-webui:main

Untuk mengekalkan sambungan OpenAI sedia ada, gunakan pembolehubah jamak. OPENAI_API_BASE_URLS dan OPENAI_API_KEYS menerima senarai yang dipisahkan dengan koma bertitik. Kunci pertama sepadan dengan URL pertama.

Dua sambungan dalam satu bekas

-e OPENAI_API_BASE_URLS="https://api.openai.com/v1;http://host.docker.internal:3001/v1" \
-e OPENAI_API_KEYS="<openai-key>;<unified-key>"
Penting: pembolehubah ini disimpan dalam pangkalan data Open WebUI pada permulaan pertama. Selepas itu, nilai yang disimpan dalam Admin Panel diutamakan berbanding persekitaran. Jika perubahan pada pembolehubah tidak memberi kesan, sunting sambungan dalam Admin Panel. Anda juga boleh menetapkan ENABLE_PERSISTENT_CONFIG=False supaya persekitaran diutamakan.

Langkah 3: Pendekkan senarai model

FreeLLMAPI memulangkan katalog penuhnya pada /v1/models. Katalog itu juga mengandungi model yang belum boleh anda panggil, kerana anda belum menambah kunci untuk model tersebut. Open WebUI memaparkan setiap model yang dipulangkan oleh sambungan. Senarai panjang model yang gagal tidak berguna.

Buka semula sambungan dan gunakan medan Model IDs. Apabila anda menambah ID, Open WebUI hanya memaparkan ID ini dan berhenti membaca senarai penuh. Tambah entri penghala dahulu:

ID modelApa yang dilakukan penghala
autoMengikut rantai sandaran aktif anda dari papan pemuka
auto:fastMenyusun model yang didayakan mengikut kelajuan yang diukur
auto:smartMenyusun model yang didayakan mengikut kecerdasan
auto:reliableMenyusun model yang didayakan mengikut kadar kejayaan terkini
auto:<profile>Menggunakan rantai sandaran yang dinamakan, contohnya rantai penglihatan

Anda juga boleh menambah ID model tetap, contohnya model dari jadual di bawah. Model tetap memberikan gaya jawapan yang sama setiap kali. Ia juga berhenti apabila had percuma model itu habis, melainkan model yang sama percuma pada pembekal lain.

Untuk menjimatkan kuota, tetapkan model tugas kepada entri yang pantas. Open WebUI menggunakan model tugas untuk tajuk dan pertanyaan carian. Pembolehubahnya ialah TASK_MODEL_EXTERNAL, contohnya TASK_MODEL_EXTERNAL=auto:fast.

Model sembang percuma yang kuat dengan konteks 128K+
ModelPercuma padaKonteksHad percuma (tawaran terbaik)AlatPenglihatan
GLM 5.3APINex, UnoRouter1M5 permintaan/minit
10M weighted tokens/day shared across APINex free routes; 4x token multiplier; 5 requests/minute/account
YaTidak
GLM 5.3 FlashAPINex, BlazeAPI, NVIDIA NIM +1 lagi1M40 permintaan/minit
40 RPM
YaYa
Gemini 3.8 FlashAPINex, Google AI Studio1M5 permintaan/minit
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
YaYa
Qwen3.8 Flash NextAMD Radeon Cloud, BlazeAPI, ElectronHub262KRecurring daily account allowanceYaTidak
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditYaYa
Deepseek V4.1 FlashAPINex1M5 permintaan/minit
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
TidakTidak
Gemini 3.7 FlashGoogle AI Studio1M10 permintaan/minit
20 permintaan/hari
250,000 token/minit
~3M
YaYa
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditYaYa
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 permintaan/minit
50 permintaan/hari
50 req/day account-wide (1,000 after a $10 purchase)
YaYa
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 permintaan/minit
50 permintaan/hari
Shared rate limit
YaTidak

Memaparkan 10 daripada 184 model percuma yang sepadan. Lihat semua model.

Data langsung daripada katalog FreeLLMAPI (versi 2026.11.19, disemak 2026-11-19). Had percuma kerap berubah. Katalog disemak setiap hari.

Jika anda menghantar imej dalam Open WebUI, penghala hanya menggunakan model penglihatan untuk permintaan itu. Jika tiada model penglihatan dalam rantai anda, permintaan memulangkan ralat 422. Model percuma berikut menerima imej:

Model percuma dengan input imej
ModelPercuma padaKonteksHad percuma (tawaran terbaik)AlatPenglihatan
GLM 5.3 FlashUnoRouter1M1 permintaan/minit
1 req/min per model
YaYa
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaYaYa
Gemini Flash (latest alias)Google AI Studio-10 permintaan/minit
20 permintaan/hari
250,000 token/minit
~3M
YaYa
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditYaYa
Gemini 3.7 FlashGoogle AI Studio1M10 permintaan/minit
20 permintaan/hari
250,000 token/minit
~3M
YaYa
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditYaYa

Memaparkan 6 daripada 67 model percuma yang sepadan. Lihat semua model.

Data langsung daripada katalog FreeLLMAPI (versi 2026.11.19, disemak 2026-11-19). Had percuma kerap berubah. Katalog disemak setiap hari.

Gunakan embedding percuma untuk dokumen

Open WebUI boleh membuat embedding untuk dokumen anda melalui API serasi OpenAI. FreeLLMAPI menyediakan /v1/embeddings. Peralihan embedding tidak sekali-kali menukar model, jadi vektor dalam storan anda kekal serasi.

Tetapan embedding untuk Open WebUI

-e RAG_EMBEDDING_ENGINE=openai \
-e RAG_OPENAI_API_BASE_URL=http://host.docker.internal:3001/v1 \
-e RAG_OPENAI_API_KEY=<unified-key> \
-e RAG_EMBEDDING_MODEL=bge-m3

Pilih satu keluarga embedding dan kekalkannya. Jika anda menukar keluarga, buat semula embedding untuk semua dokumen. Model embedding percuma dalam katalog hari ini ialah:

ModelPembekalDimensiInput maksHad percuma
Gemini Embedding
gemini-embedding-001
Google AI Studio30722048100 rpm · 1K req/day
Nemotron Embed VL 1B
nvidia/llama-nemotron-embed-vl-1b-v2
NVIDIA NIM20488192~40 rpm
Nemotron 3 Embed 1B (OR free)
nvidia/nemotron-3-embed-1b:free
OpenRouter20483276820 rpm · shared free daily cap
SEA-LION E5 Embedding 600M
aisingapore/SEA-LION-E5-Embedding-600M
SEA-LION10248192free · 10 rpm
SEA-LION ModernBERT Embedding 300M
aisingapore/SEA-LION-ModernBERT-Embedding-300M
SEA-LION10248192free · 10 rpm
SEA-LION ModernBERT Embedding 600M
aisingapore/SEA-LION-ModernBERT-Embedding-600M
SEA-LION10248192free · 10 rpm
BGE-M3
@cf/baai/bge-m3
Cloudflare Workers AI1024819210K neurons/day (shared)
EmbeddingGemma 300M
@cf/google/embeddinggemma-300m
Cloudflare Workers AI768204810K neurons/day (shared)
Qwen3 Embedding 0.6B
@cf/qwen/qwen3-embedding-0.6b
Cloudflare Workers AI1024819210K neurons/day (shared)
Cohere Embed v4
embed-v4.0
Cohere15361280001K calls/mo (shared w/ chat)
Gemini Embedding 2
gemini-embedding-2
Google AI Studio30728192free-tier rate limited
Nemotron 3 Embed 1B
nvidia/nemotron-3-embed-1b
NVIDIA NIM20484096~40 rpm
PLaMo Embedding 1B (CF)
@cf/pfnet/plamo-embedding-1b
Cloudflare Workers AI2048409610K neurons/day (shared)
BGE Small EN v1.5 (CF)
@cf/baai/bge-small-en-v1.5
Cloudflare Workers AI38451210K neurons/day (shared)
BGE Base EN v1.5 (CF)
@cf/baai/bge-base-en-v1.5
Cloudflare Workers AI76851210K neurons/day (shared)
BGE Large EN v1.5 (CF)
@cf/baai/bge-large-en-v1.5
Cloudflare Workers AI102451210K neurons/day (shared)
Mistral Embed
mistral-embed
Mistral10248192free mode · monthly cap (shared)
Codestral Embed
codestral-embed
Mistral15368192free mode · monthly cap (shared)
Llama Text Embed v2 (Pinecone)
llama-text-embed-v2
Pinecone102420485M tokens/mo per model
Multilingual E5 Large (Pinecone)
multilingual-e5-large
Pinecone10245075M tokens/mo per model
Nemotron 3 Embed 1B (Speka)
nvidia/nemotron-3-embed-1b
Speka20488192$1/month shared across Speka models
OpenAI: Text Embedding 3 Small (ElectronHub)
text-embedding-3-small
ElectronHub15368192$0.25/week shared free credits
OpenAI: Text Embedding 3 Large (ElectronHub)
text-embedding-3-large
ElectronHub30728192$0.25/week shared free credits
Nemotron 3 Embed 8B (Inferbase)
nvidia-nemotron-3-embed-8b
Inferbase409681925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 0.6B (Inferbase)
qwen3-embedding-0-6b
Inferbase102481925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 4B (Inferbase)
qwen3-embedding-4b
Inferbase256081925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 8B (Inferbase)
qwen3-embedding-8b
Inferbase409681925,000 requests/month; 100 requests and $0.50 usage/day shared
LFM2.5 Embedding 350M (LLMTR)
liquid/lfm-2.5-embedding-350m-free
LLMTR1024512Ongoing zero-price route; provider terms apply
BGE-M3 (SEA-LION)
BAAI/bge-m3
SEA-LION10248192free · 10 rpm
Cohere Embed English v3
embed-english-v3.0
Cohere10245121K calls/mo (shared w/ chat)
Qwen3 Embedding 8B (OVH)
Qwen3-Embedding-8B
OVH AI Endpoints409632768free · anonymous 2 req/min per IP
BGE-M3 (OVH)
bge-m3
OVH AI Endpoints10248192free · anonymous 2 req/min per IP
BGE Multilingual Gemma2 (OVH)
bge-multilingual-gemma2
OVH AI Endpoints35848192free · anonymous 2 req/min per IP
Mistral: Codestral Embed (ElectronHub)
codestral-embed
ElectronHub15368192$0.25/week shared free credits
Mistral: Mistral Embed (ElectronHub)
mistral-embed
ElectronHub10248192$0.25/week shared free credits
Google: Gemini Embedding 2 (ElectronHub)
gemini-embedding-2
ElectronHub30728192$0.25/week shared free credits
Google: Gemini Embedding 001 (ElectronHub)
gemini-embedding-001
ElectronHub30722048$0.25/week shared free credits
OpenAI: Text Embedding Ada 002 (ElectronHub)
text-embedding-ada-002
ElectronHub15368192$0.25/week shared free credits
Cohere Embed English Light v3
embed-english-light-v3.0
Cohere3845121K calls/mo (shared w/ chat)
Cohere Embed Multilingual v3
embed-multilingual-v3.0
Cohere10245121K calls/mo (shared w/ chat)
Cohere Embed Multilingual Light v3
embed-multilingual-light-v3.0
Cohere3845121K calls/mo (shared w/ chat)

Data langsung daripada katalog FreeLLMAPI (versi 2026.11.19, disemak 2026-11-19). Had percuma kerap berubah. Katalog disemak setiap hari.

Penyelesaian masalah

MasalahPuncaPembetulan
Verify Connection gagal dengan ralat rangkaianlocalhost merujuk kepada bekas Open WebUIGunakan host.docker.internal atau rangkaian Docker yang dikongsi, seperti dalam Langkah 1
Verify Connection gagal dengan 401Kunci salah atau mengandungi ruangSalin semula kunci bersatu dari halaman Keys
Ratusan model dalam pemilihSambungan membaca katalog penuhTambah auto dan ID pilihan anda dalam Model IDs
Model gagal untuk setiap mesejTiada kunci untuk pembekal model ituTambah kunci pembekal, atau pilih auto
Ralat 429 selepas banyak sembangSemua kunci pembekal dalam rantai telah mencapai hadTambah kunci dari lebih ramai pembekal, atau tunggu masa tetapan semula dalam header Retry-After
Pembolehubah persekitaran tidak memberi kesanNilai yang disimpan dalam pangkalan data diutamakanSunting sambungan dalam Admin Panel

Untuk melihat pembekal mana yang menjawab sembang, baca header X-Routed-Via bagi respons. Pemapar Server Logs dalam menu Analytics papan pemuka juga menunjukkan keputusan laluan dan tempoh rehat kunci.

Guna setiap satu daripada ini melalui satu kunci. FreeLLMAPI ialah penghala sumber terbuka yang anda hoskan sendiri. Ia meletakkan semua peringkat percuma ini di belakang satu titik akhir serasi OpenAI dan beralih ke pembekal lain apabila had kadar dicapai. Layari katalog atau mula sekarang.

Soalan lazim

Adakah terdapat API percuma untuk Open WebUI?

Ya. Open WebUI berfungsi dengan mana-mana API serasi OpenAI. FreeLLMAPI menggabungkan peringkat pembekal percuma di belakang satu URL dan satu kunci. Setiap peringkat percuma mempunyai had sendiri.

URL apa yang saya guna untuk sambungan serasi OpenAI dalam Open WebUI?

Gunakan URL asas dengan /v1 di hujungnya, contohnya http://host.docker.internal:3001/v1. Jangan tambah /chat/completions. Jika Open WebUI berjalan dalam Docker, jangan guna localhost.

Mengapa Open WebUI mengabaikan perubahan OPENAI_API_BASE_URL saya?

Open WebUI menyimpan tetapan sambungan dalam pangkalan datanya selepas permulaan pertama. Nilai dalam pangkalan data diutamakan. Sunting sambungan dalam Admin Panel, atau tetapkan ENABLE_PERSISTENT_CONFIG=False.

Bolehkah Open WebUI menggunakan beberapa pembekal percuma sekaligus?

Ya. Anda boleh menambah satu sambungan bagi setiap pembekal. Dengan FreeLLMAPI, satu sambungan memadai, kerana penghala memilih pembekal dan beralih ke yang seterusnya apabila had menghentikan permintaan.

Model percuma yang mana paling baik dalam Open WebUI?

Mulakan dengan auto. Ia mengikut rantai sandaran anda. Untuk model tetap, pilih satu yang mempunyai tetingkap konteks besar dari jadual di halaman ini.

Panduan berkaitan

Sumber

Semua panduan · Lihat semua model percuma