홈 / 가이드 / Open WebUI용 무료 LLM API

Open WebUI용 무료 LLM API

Open WebUI는 직접 호스팅하는 채팅 인터페이스입니다. OpenAI Chat Completions API를 지원하는 모든 서버에 연결할 수 있습니다. 이 가이드는 Open WebUI를 FreeLLMAPI에 연결합니다. FreeLLMAPI는 무료 제공업체 45곳을 하나의 키로 묶어 줍니다. 연결은 하나만 추가하면 됩니다. 라우터는 각 채팅을 무료 모델로 보내고, 한도 때문에 요청이 실패하면 다음 제공업체로 넘어갑니다.

코드, 모델 이름, 실시간 카탈로그 레이블은 영어로 표시합니다.

연결 작동 방식

Open WebUI는 OpenAI 연결마다 설정된 URL로 채팅 요청을 보냅니다. FreeLLMAPI는 http://localhost:3001/v1에서 요청을 받으며, 같은 형식의 요청을 처리합니다. 무료 모델을 선택하고, 요청을 보내고, 답변을 OpenAI 형식으로 반환합니다.

  • 연결 하나로 여러 제공업체 사용: URL과 통합 키를 하나씩만 추가하십시오. 제공업체 키는 내 컴퓨터의 FreeLLMAPI에 그대로 보관됩니다.
  • 자동 전환: 제공업체가 429 오류를 반환하면 라우터는 폴백 체인의 다음 모델을 시도합니다.
  • 한도: 무료 제공 서비스에는 요청 및 토큰 한도가 있습니다. 제공업체 키를 더 추가하면 하루 요청 수가 늘어납니다. 자동 전환은 부하를 나누지만 한도를 없애지는 않습니다.

먼저 FreeLLMAPI를 설치하십시오. Docker에서 실행됩니다. http://localhost:3001에서 대시보드를 여십시오. Keys 페이지에서 무료 제공업체 키를 두 개 이상 추가하고 통합 키를 복사하십시오.

FreeLLMAPI 설치 (macOS 또는 Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

1단계: 올바른 URL 찾기

Open WebUI가 사용해야 하는 URL은 각 프로그램이 실행되는 위치에 따라 달라집니다. Open WebUI는 보통 Docker에서 실행됩니다. 컨테이너 안에서 localhost는 컨테이너 자신을 가리키며, 내 컴퓨터를 가리키지 않습니다.

Open WebUI 실행 위치FreeLLMAPI 실행 위치사용할 URL
호스트에서 (pip 또는 uv)호스트에서 (Docker 또는 데스크톱 앱)http://localhost:3001/v1
Docker Desktop 안에서 (macOS, Windows)호스트에서http://host.docker.internal:3001/v1
Linux의 Docker 안에서Docker 안에서 (설치 스크립트)공유 Docker 네트워크에서는 http://freellmapi:3001/v1
다른 컴퓨터에서LAN의 서버에서http://<server-ip>:3001/v1, 신뢰할 수 있는 네트워크에서만 HOST_BIND=0.0.0.0과 함께 사용하십시오

기본적으로 FreeLLMAPI 컨테이너는 포트를 127.0.0.1에만 게시합니다. Linux에서는 다른 컨테이너가 호스트를 거쳐 이 포트에 항상 접근할 수 있는 것은 아닙니다. 두 컨테이너를 같은 Docker 네트워크에 연결하십시오. 그런 다음 호스트 이름으로 서비스 이름 freellmapi를 사용하십시오.

Open WebUI를 FreeLLMAPI 네트워크에 연결 (Linux)

# Find the network of the FreeLLMAPI stack (usually freellmapi_default)
docker network ls

# Attach the Open WebUI container to it
docker network connect freellmapi_default open-webui

# Test the URL from inside the Open WebUI container
docker exec open-webui curl -s http://freellmapi:3001/v1/models \
  -H "Authorization: Bearer <unified-key>" | head -c 300

2단계: 연결 추가

인터페이스에서 연결을 추가하거나 환경 변수를 사용할 수 있습니다. 인터페이스 방식이 가장 간단합니다.

  1. Admin Panel을 여십시오. Settings > Connections로 이동하십시오.
  2. Manage OpenAI API Connections 목록을 찾으십시오. Add Connection을 클릭하십시오.
  3. URL에 1단계의 URL을 입력하십시오. 예: http://host.docker.internal:3001/v1.
  4. API Key에 FreeLLMAPI 통합 키를 붙여 넣으십시오.
  5. Verify Connection을 클릭하십시오. 그런 다음 Save를 클릭하십시오.

컨테이너가 시작될 때 연결을 설정하려면 OPENAI_API_BASE_URL과 OPENAI_API_KEY를 사용하십시오. 아래 명령은 이 두 변수를 추가한 표준 Open WebUI docker run 명령입니다.

FreeLLMAPI 연결을 포함한 docker run

docker run -d -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -e OPENAI_API_BASE_URL=http://host.docker.internal:3001/v1 \
  -e OPENAI_API_KEY=<unified-key> \
  -v open-webui:/app/backend/data \
  --name open-webui --restart always \
  ghcr.io/open-webui/open-webui:main

기존 OpenAI 연결을 유지하려면 복수형 변수를 사용하십시오. OPENAI_API_BASE_URLS와 OPENAI_API_KEYS는 세미콜론으로 구분한 목록을 받습니다. 첫 번째 키는 첫 번째 URL과 짝을 이룹니다.

한 컨테이너에 연결 두 개

-e OPENAI_API_BASE_URLS="https://api.openai.com/v1;http://host.docker.internal:3001/v1" \
-e OPENAI_API_KEYS="<openai-key>;<unified-key>"
중요: 이 변수는 처음 시작할 때 Open WebUI 데이터베이스에 저장됩니다. 그 이후에는 Admin Panel에 저장된 값이 환경 변수보다 우선합니다. 변수를 바꿔도 효과가 없으면 Admin Panel에서 연결을 수정하십시오. 환경 변수가 우선하도록 ENABLE_PERSISTENT_CONFIG=False를 설정할 수도 있습니다.

3단계: 모델 목록 짧게 유지

FreeLLMAPI는 /v1/models에서 전체 카탈로그를 반환합니다. 카탈로그에는 키를 추가하지 않아서 아직 호출할 수 없는 모델도 들어 있습니다. Open WebUI는 연결이 반환하는 모든 모델을 표시합니다. 실패하는 모델이 길게 나열되면 유용하지 않습니다.

연결을 다시 열고 Model IDs 필드를 사용하십시오. ID를 추가하면 Open WebUI는 이 ID만 표시하고 전체 목록 읽기를 중단합니다. 먼저 라우터 항목을 추가하십시오:

모델 ID라우터의 동작
auto대시보드의 활성 폴백 체인을 따릅니다
auto:fast활성화된 모델을 측정된 속도 순으로 정렬합니다
auto:smart활성화된 모델을 지능 순으로 정렬합니다
auto:reliable활성화된 모델을 최근 성공률 순으로 정렬합니다
auto:<profile>이름이 지정된 폴백 체인을 사용합니다. 예: 비전 체인

아래 표의 모델처럼 고정 모델 ID도 추가할 수 있습니다. 고정 모델은 매번 같은 방식으로 답변합니다. 또한 같은 모델을 다른 제공업체에서 무료로 제공하지 않는 한, 이 모델의 무료 한도를 모두 쓰면 요청이 멈춥니다.

할당량을 아끼려면 작업 모델을 빠른 항목으로 설정하십시오. Open WebUI는 제목과 검색 쿼리에 작업 모델을 사용합니다. 변수는 TASK_MODEL_EXTERNAL입니다. 예: TASK_MODEL_EXTERNAL=auto:fast.

128K 이상 컨텍스트를 지원하는 성능 좋은 무료 채팅 모델
모델무료 제공컨텍스트무료 한도 (가장 좋은 조건)도구비전
GLM 5.3APINex, UnoRouter1M5 요청/분
10M weighted tokens/day shared across APINex free routes; 4x token multiplier; 5 requests/minute/account
예아니요
GLM 5.3 FlashAPINex, BlazeAPI, NVIDIA NIM +1개 더1M40 요청/분
40 RPM
예예
Gemini 3.8 FlashAPINex, Google AI Studio1M5 요청/분
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
예예
Qwen3.8 Flash NextAMD Radeon Cloud, BlazeAPI, ElectronHub262KRecurring daily account allowance예아니요
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring credit예예
Deepseek V4.1 FlashAPINex1M5 요청/분
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
아니요아니요
Gemini 3.7 FlashGoogle AI Studio1M10 요청/분
20 요청/일
250,000 토큰/분
~3M
예예
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring credit예예
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 요청/분
50 요청/일
50 req/day account-wide (1,000 after a $10 purchase)
예예
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 요청/분
50 요청/일
Shared rate limit
예아니요

일치하는 무료 모델 184개 중 10개를 표시합니다. 모든 모델 보기.

FreeLLMAPI 카탈로그의 실시간 데이터입니다 (버전 2026.11.19, 2026-11-19 확인). 무료 한도는 자주 바뀝니다. 카탈로그는 매일 확인합니다.

Open WebUI에서 이미지를 보내면 라우터는 해당 요청에 비전 모델만 사용합니다. 체인에 비전 모델이 없으면 요청은 오류 422를 반환합니다. 다음 무료 모델은 이미지를 입력받습니다:

이미지 입력을 지원하는 무료 모델
모델무료 제공컨텍스트무료 한도 (가장 좋은 조건)도구비전
GLM 5.3 FlashUnoRouter1M1 요청/분
1 req/min per model
예예
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quota예예
Gemini Flash (latest alias)Google AI Studio-10 요청/분
20 요청/일
250,000 토큰/분
~3M
예예
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring credit예예
Gemini 3.7 FlashGoogle AI Studio1M10 요청/분
20 요청/일
250,000 토큰/분
~3M
예예
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring credit예예

일치하는 무료 모델 67개 중 6개를 표시합니다. 모든 모델 보기.

FreeLLMAPI 카탈로그의 실시간 데이터입니다 (버전 2026.11.19, 2026-11-19 확인). 무료 한도는 자주 바뀝니다. 카탈로그는 매일 확인합니다.

문서용 무료 임베딩 사용

Open WebUI는 OpenAI 호환 API를 통해 문서의 임베딩을 만들 수 있습니다. FreeLLMAPI는 /v1/embeddings를 제공합니다. 임베딩 자동 전환은 모델을 바꾸지 않으므로 저장소의 벡터가 계속 호환됩니다.

Open WebUI의 임베딩 설정

-e RAG_EMBEDDING_ENGINE=openai \
-e RAG_OPENAI_API_BASE_URL=http://host.docker.internal:3001/v1 \
-e RAG_OPENAI_API_KEY=<unified-key> \
-e RAG_EMBEDDING_MODEL=bge-m3

임베딩 계열 하나를 선택하고 계속 사용하십시오. 계열을 바꾸면 모든 문서의 임베딩을 다시 만드십시오. 오늘 카탈로그의 무료 임베딩 모델은 다음과 같습니다:

모델제공업체차원최대 입력무료 한도
Gemini Embedding
gemini-embedding-001
Google AI Studio30722048100 rpm · 1K req/day
Nemotron Embed VL 1B
nvidia/llama-nemotron-embed-vl-1b-v2
NVIDIA NIM20488192~40 rpm
Nemotron 3 Embed 1B (OR free)
nvidia/nemotron-3-embed-1b:free
OpenRouter20483276820 rpm · shared free daily cap
SEA-LION E5 Embedding 600M
aisingapore/SEA-LION-E5-Embedding-600M
SEA-LION10248192free · 10 rpm
SEA-LION ModernBERT Embedding 300M
aisingapore/SEA-LION-ModernBERT-Embedding-300M
SEA-LION10248192free · 10 rpm
SEA-LION ModernBERT Embedding 600M
aisingapore/SEA-LION-ModernBERT-Embedding-600M
SEA-LION10248192free · 10 rpm
BGE-M3
@cf/baai/bge-m3
Cloudflare Workers AI1024819210K neurons/day (shared)
EmbeddingGemma 300M
@cf/google/embeddinggemma-300m
Cloudflare Workers AI768204810K neurons/day (shared)
Qwen3 Embedding 0.6B
@cf/qwen/qwen3-embedding-0.6b
Cloudflare Workers AI1024819210K neurons/day (shared)
Cohere Embed v4
embed-v4.0
Cohere15361280001K calls/mo (shared w/ chat)
Gemini Embedding 2
gemini-embedding-2
Google AI Studio30728192free-tier rate limited
Nemotron 3 Embed 1B
nvidia/nemotron-3-embed-1b
NVIDIA NIM20484096~40 rpm
PLaMo Embedding 1B (CF)
@cf/pfnet/plamo-embedding-1b
Cloudflare Workers AI2048409610K neurons/day (shared)
BGE Small EN v1.5 (CF)
@cf/baai/bge-small-en-v1.5
Cloudflare Workers AI38451210K neurons/day (shared)
BGE Base EN v1.5 (CF)
@cf/baai/bge-base-en-v1.5
Cloudflare Workers AI76851210K neurons/day (shared)
BGE Large EN v1.5 (CF)
@cf/baai/bge-large-en-v1.5
Cloudflare Workers AI102451210K neurons/day (shared)
Mistral Embed
mistral-embed
Mistral10248192free mode · monthly cap (shared)
Codestral Embed
codestral-embed
Mistral15368192free mode · monthly cap (shared)
Llama Text Embed v2 (Pinecone)
llama-text-embed-v2
Pinecone102420485M tokens/mo per model
Multilingual E5 Large (Pinecone)
multilingual-e5-large
Pinecone10245075M tokens/mo per model
Nemotron 3 Embed 1B (Speka)
nvidia/nemotron-3-embed-1b
Speka20488192$1/month shared across Speka models
OpenAI: Text Embedding 3 Small (ElectronHub)
text-embedding-3-small
ElectronHub15368192$0.25/week shared free credits
OpenAI: Text Embedding 3 Large (ElectronHub)
text-embedding-3-large
ElectronHub30728192$0.25/week shared free credits
Nemotron 3 Embed 8B (Inferbase)
nvidia-nemotron-3-embed-8b
Inferbase409681925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 0.6B (Inferbase)
qwen3-embedding-0-6b
Inferbase102481925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 4B (Inferbase)
qwen3-embedding-4b
Inferbase256081925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 8B (Inferbase)
qwen3-embedding-8b
Inferbase409681925,000 requests/month; 100 requests and $0.50 usage/day shared
LFM2.5 Embedding 350M (LLMTR)
liquid/lfm-2.5-embedding-350m-free
LLMTR1024512Ongoing zero-price route; provider terms apply
BGE-M3 (SEA-LION)
BAAI/bge-m3
SEA-LION10248192free · 10 rpm
Cohere Embed English v3
embed-english-v3.0
Cohere10245121K calls/mo (shared w/ chat)
Qwen3 Embedding 8B (OVH)
Qwen3-Embedding-8B
OVH AI Endpoints409632768free · anonymous 2 req/min per IP
BGE-M3 (OVH)
bge-m3
OVH AI Endpoints10248192free · anonymous 2 req/min per IP
BGE Multilingual Gemma2 (OVH)
bge-multilingual-gemma2
OVH AI Endpoints35848192free · anonymous 2 req/min per IP
Mistral: Codestral Embed (ElectronHub)
codestral-embed
ElectronHub15368192$0.25/week shared free credits
Mistral: Mistral Embed (ElectronHub)
mistral-embed
ElectronHub10248192$0.25/week shared free credits
Google: Gemini Embedding 2 (ElectronHub)
gemini-embedding-2
ElectronHub30728192$0.25/week shared free credits
Google: Gemini Embedding 001 (ElectronHub)
gemini-embedding-001
ElectronHub30722048$0.25/week shared free credits
OpenAI: Text Embedding Ada 002 (ElectronHub)
text-embedding-ada-002
ElectronHub15368192$0.25/week shared free credits
Cohere Embed English Light v3
embed-english-light-v3.0
Cohere3845121K calls/mo (shared w/ chat)
Cohere Embed Multilingual v3
embed-multilingual-v3.0
Cohere10245121K calls/mo (shared w/ chat)
Cohere Embed Multilingual Light v3
embed-multilingual-light-v3.0
Cohere3845121K calls/mo (shared w/ chat)

FreeLLMAPI 카탈로그의 실시간 데이터입니다 (버전 2026.11.19, 2026-11-19 확인). 무료 한도는 자주 바뀝니다. 카탈로그는 매일 확인합니다.

문제 해결

문제원인해결 방법
Verify Connection이 네트워크 오류로 실패함localhost가 Open WebUI 컨테이너를 가리킴1단계와 같이 host.docker.internal 또는 공유 Docker 네트워크를 사용하십시오
Verify Connection이 401로 실패함키가 잘못되었거나 공백이 포함됨Keys 페이지에서 통합 키를 다시 복사하십시오
선택기에 모델이 수백 개 표시됨연결이 전체 카탈로그를 읽음Model IDs에 auto와 선택한 ID를 추가하십시오
모든 메시지에서 모델이 실패함해당 모델 제공업체의 키가 없음제공업체 키를 추가하거나 auto를 선택하십시오
채팅을 많이 한 뒤 오류 429가 발생함체인의 모든 제공업체 키가 한도에 도달함다른 제공업체의 키를 추가하거나, Retry-After 헤더에 표시된 초기화 시간까지 기다리십시오
환경 변수가 효과가 없음데이터베이스에 저장된 값이 우선함Admin Panel에서 연결을 수정하십시오

채팅에 응답한 제공업체를 확인하려면 응답의 X-Routed-Via 헤더를 읽으십시오. 대시보드의 Analytics 메뉴에 있는 Server Logs 뷰어에도 라우팅 결정과 키 쿨다운이 표시됩니다.

하나의 키로 이 모델을 모두 사용하십시오. FreeLLMAPI는 오픈 소스이며 직접 호스팅하는 라우터입니다. 이 모든 무료 제공 서비스를 하나의 OpenAI 호환 엔드포인트로 묶고, 요청 한도에 걸리면 다른 모델로 자동 전환합니다. 카탈로그 보기 또는 바로 시작.

자주 묻는 질문

Open WebUI에서 사용할 수 있는 무료 API가 있습니까?

예. Open WebUI는 OpenAI 호환 API를 지원하는 모든 서비스와 함께 작동합니다. FreeLLMAPI는 무료 제공업체를 하나의 URL과 키로 묶어 줍니다. 각 무료 제공 서비스에는 고유한 한도가 있습니다.

Open WebUI의 OpenAI 호환 연결에는 어떤 URL을 사용합니까?

끝에 /v1이 붙은 기본 URL을 사용하십시오. 예: http://host.docker.internal:3001/v1. /chat/completions는 추가하지 마십시오. Open WebUI가 Docker에서 실행되면 localhost를 사용하지 마십시오.

Open WebUI가 OPENAI_API_BASE_URL 변경을 무시하는 이유는 무엇입니까?

Open WebUI는 처음 시작한 후 연결 설정을 데이터베이스에 저장합니다. 데이터베이스의 값이 우선합니다. Admin Panel에서 연결을 수정하거나 ENABLE_PERSISTENT_CONFIG=False를 설정하십시오.

Open WebUI에서 무료 제공업체 여러 곳을 동시에 사용할 수 있습니까?

예. 제공업체마다 연결을 하나씩 추가할 수 있습니다. FreeLLMAPI를 사용하면 라우터가 제공업체를 선택하고, 한도 때문에 요청이 막히면 다음 제공업체로 넘어가므로 연결 하나면 충분합니다.

Open WebUI에서 가장 좋은 무료 모델은 무엇입니까?

auto부터 시작하십시오. 폴백 체인을 따릅니다. 고정 모델을 쓰려면 이 페이지의 표에서 컨텍스트 창이 큰 모델을 선택하십시오.

관련 가이드

출처

전체 가이드 · 무료 모델 전체 보기