Ana sayfa / Rehberler / LiteLLM alternatifi

LiteLLM alternatifi

LiteLLM, 100'den fazla LLM'i tek bir OpenAI tarzı arayüzün arkasında toplayan açık kaynaklı bir Python SDK'sı ve proxy sunucusudur. Sağlayıcılara ödeme yapan ekipler için iyi bir ağ geçididir. Hedefiniz ücretsiz çıkarım ise tek başına yardımcı olmaz, çünkü jeton içermez. Bu rehber LiteLLM'in ne zaman uygun olduğunu, bir alternatifin ne zaman daha uygun olduğunu ve seçeneklerin nasıl karşılaştığını açıklar.

Kod, model adları ve canlı katalog etiketleri İngilizce gösterilir.

LiteLLM'in iyi yaptığı şeyler

LiteLLM belgeleri iki parça tanımlar. Python SDK'sı, birçok sağlayıcıyı tek bir arayüzle çağırır. Proxy sunucusu ise herhangi bir OpenAI uyumlu istemcinin kullanabileceği, kendi sunucunuzda çalışan bir ağ geçididir.

  • Sanal anahtarlar: anahtar, ekip ve kullanıcı başına bütçeler.
  • Harcama takibi: sağlayıcılar genelinde anahtar, ekip ve kullanıcı bazında.
  • Yük dengeleme: dağıtımlar arasında, otomatik yedeklerle.
  • Gözlemlenebilirlik geri çağrıları: Langfuse, MLflow ve Helicone gibi araçlara.
  • Korkuluklar: içerik filtreleri, PII maskeleme ve güvenlik kontrolleri için.
  • Yönetici arayüzü: anahtarlar ve maliyet takibi için.

Bu özellikler, ücretli sağlayıcı hesaplarını paylaşan ekipler içindir. Durumunuz buysa LiteLLM güçlü bir seçimdir ve alternatife ihtiyacınız olmayabilir.

İnsanlar neden alternatif arar

  • Ücretsiz jeton yok: LiteLLM, sizin sağladığınız anahtarlarla sağlayıcılara yönlendirir. Her jeton, o anahtarın sağlayıcısı tarafından faturalandırılır.
  • Ücretsiz katmanlar elle yapılan iştir: LiteLLM, bu hafta hangi modellerin ücretsiz olduğunu veya her sağlayıcının ücretsiz limitlerini izlemez. Bunları siz bulmalı ve yapılandırmayı güncel tutmalısınız.
  • Tek kişi için kurulum: ekip özellikleri, tek bir geliştiricinin ihtiyaç duymayabileceği parçalar ekler.
  • Diğer API biçimleri: bazı araçlar yalnızca OpenAI biçimini değil, Anthropic, Gemini veya Ollama biçimini de ister.

Doğru alternatif, bunlardan hangisinin sorununuz olduğuna bağlıdır. Sonraki bölümde seçenekler verilir.

Alternatiflerin karşılaştırması

LiteLLM ve alternatifleri (20 Kasım 2026 tarihinde kontrol edildi)
ÖzellikLiteLLMFreeLLMAPIOpenRouterPortkey
NedirAçık kaynaklı SDK ve proxyÜcretsiz katmanlar için açık kaynaklı ağ geçidiTek faturalı barındırılan ağ geçidiBarındırılan AI ağ geçidi
Nerede çalışırKendi sunucunuzdaKendi sunucunuzda (Docker, masaüstü uygulaması veya Node)BarındırılanBarındırılan
Çıkarım dahil miHayır. Her sağlayıcıya ödersinizYalnızca sağlayıcıların ücretsiz katmanlarını çağırırÜcretli krediler, ayrıca günlük sınırı olan bazı ücretsiz modellerHayır. Sağlayıcı anahtarlarınızı getirirsiniz
Ücretsiz katman takibiHayırEvet, imzalı bir ücretsiz model ve limit kataloğuYalnızca kendi ücretsiz modelleriHayır
Çok kullanıcılı ve sanal anahtarlarEvetHayır. Tasarım gereği tek kullanıcılı--
API biçimleriOpenAI uyumluOpenAI, Anthropic, Gemini ve OllamaOpenAI uyumluOpenAI uyumlu
En uygun olduğu durumSağlayıcılara ödeme yapan ekipler$0 çıkarım isteyen tek bir geliştiriciTek faturada ücretli öncü modellerYönetilen bir ağ geçidi isteyen ekipler

Daha fazla ayrıntı için FreeLLMAPI ile LiteLLM karşılaştırması, FreeLLMAPI ile OpenRouter karşılaştırması ve ücretsiz LLM API ağ geçitlerinin karşılaştırması sayfalarını okuyun.

FreeLLMAPI'nin daha uygun olduğu durumlar

FreeLLMAPI, ücretsiz ve kendi sunucunuzda çalışan seçenektir. Sağlayıcıların ücretsiz katmanlarını tek bir OpenAI uyumlu anahtar ve tek bir Anthropic uyumlu anahtar arkasında toplayan açık kaynaklı bir yönlendiricidir. Bugün kataloğu 45 sağlayıcıdan 487 ücretsiz model listeler.

  • İstekler ve jetonlar için anahtar başına sayaçları dakika ve gün bazında tutar. Böylece yönlendirme her ücretsiz limitin altında kalır.
  • 429 veya 5xx hatasında anahtarı bekleme süresine alır ve zincirinizdeki sonraki modeli dener.
  • Model kataloğunu imzalı bir kaynaktan günceller. Böylece yeni ücretsiz modeller ve kota değişiklikleri kod güncellemesi olmadan gelir.
  • /v1/chat/completions, /v1/responses, /v1/messages, gömmeler, görseller ve konuşma sunar.
  • Sağlayıcı anahtarları yerel bir SQLite veritabanında AES-256-GCM ile şifrelenir.
SağlayıcıÜcretsiz modellerEn fazla istek/dkEn fazla istek/günEn fazla jeton/dkJeton/ay (tek model)En güçlü ücretsiz model
ElectronHub84---$0.25/week shared recurring creditQwen3.8 Flash (ElectronHub)
qwen3.8-flash
Cloudflare Workers AI39---~5-10MQwen 3.8 27B (Cloudflare Workers AI)
@cf/qwen/qwen3.8-27b
Inferbase38---5,000 requests/month; 100 requests and $0.50 usage/day sharedDeepSeek V4 Flash (fp8) (Inferbase)
deepseek-v4-flash:fp8
AI Horde31---Ongoing volunteer queue; availability variesGemma 4 31B Heretic (AI Horde)
koboldcpp/gemma-4-31B-it-heretic
ACLIDE29---€20/month shared internal usage credits · no cardQwen3.8 Max (ACLIDE)
qwen/qwen3.8-max:free
Google AI Studio21151,000250,000~3MGemini 3.8 Flash
gemini-3.8-flash
Api.Airforce2011,000-free · 1,000 req/day · 1 req/mingpt-oss-20b (Api.Airforce)
gpt-oss-20b
NVIDIA NIM1940--free · 40 RPMGLM 5.3 Flash (NV)
z-ai/glm-5.3-flash
Cohere172033-~1-2MCommand A+ (05-2026)
command-a-plus-05-2026
DreamPrompting141005,000-free · 500K tokens/day · 5,000 req/dayGemini 3.1 Flash-Lite
google/gemini-3.1-flash-lite
Mistral122-500,000~50-100MMistral Code
mistral-code-latest
ModelScope11-200-Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experienceGLM-5.2 (ModelScope)
ZhipuAI/GLM-5.2

Canlı veriler FreeLLMAPI kataloğundan alınır (sürüm 2026.11.19, 2026-11-19 tarihinde kontrol edildi). Ücretsiz limitler sık değişir. Katalog her gün kontrol edilir.

LiteLLM'in hâlâ daha uygun olduğu durumlar

  • Çok kullanıcı: FreeLLMAPI'de çok kiracılı kimlik doğrulama yoktur. Belgeleri, kendiniz için çalıştırmanızı ve internete açmamanızı söyler.
  • Ekip başına bütçeler: LiteLLM, anahtar, ekip ve kullanıcı başına bütçelere sahiptir. FreeLLMAPI yalnızca sağlayıcı anahtarı başına aylık üst sınırlara sahiptir.
  • Ücretli öncü modeller: ücretsiz katmanlar en güçlü modellere sürekli erişim vermez. LiteLLM herhangi bir ücretli hesaba yönlendirebilir.
  • Hizmet seviyesi: ücretsiz katmanlarda SLA yoktur. Üretim güvenilirliği için ücretli sağlayıcıları kullanın.

İkisini birlikte de çalıştırabilirsiniz. Ücretli üretim trafiği için LiteLLM'i kullanın. Geliştirme, testler ve maliyeti olmasına gerek olmayan toplu işler için FreeLLMAPI'yi kullanın. FreeLLMAPI ayrıca herhangi bir OpenAI uyumlu uç noktayı özel bir sağlayıcı olarak ekleyebilir.

LiteLLM'den FreeLLMAPI'ye geçin

  1. FreeLLMAPI'yi tek satırlık kurucuyla kurun.
  2. Panoyu http://localhost:3001 adresinde açın ve Keys sayfasına ücretsiz sağlayıcı anahtarlarınızı ekleyin.
  3. Birleşik anahtarı Keys sayfasından kopyalayın.
  4. Uygulamanızda temel URL'yi LiteLLM proxy adresinden http://localhost:3001/v1 adresine değiştirin.
  5. Model adlarını auto olarak veya katalog model kimlikleri olarak değiştirin.

Kurun ve test edin

curl -fsSL https://freellmapi.co/install.sh | bash

curl http://localhost:3001/v1/chat/completions \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "auto", "messages": [{"role": "user", "content": "Hello"}]}'
Bunların hepsini tek bir anahtarla kullanın. FreeLLMAPI, açık kaynaklı ve kendi sunucunuzda çalışan bir yönlendiricidir. Tüm bu ücretsiz katmanları tek bir OpenAI uyumlu uç noktanın arkasında toplar ve bir sağlayıcı hız limitine takıldığında otomatik olarak başka birine geçer. Kataloğa göz atın veya canlı olarak incele.

Sık sorulan sorular

LiteLLM için en iyi ücretsiz alternatif nedir?

Ücretsiz çıkarım istiyorsanız FreeLLMAPI gibi sağlayıcıların ücretsiz katmanlarını birleştiren bir ağ geçidi kullanın. Ücretli sağlayıcılar için ücretsiz yazılım istiyorsanız LiteLLM zaten ücretsiz ve açık kaynaklıdır.

LiteLLM ücretsiz mi?

SDK ve proxy açık kaynaklıdır ve çalıştırmak ücretsizdir. Jeton içermezler, bu yüzden her istek eklediğiniz anahtarın sağlayıcısı tarafından faturalandırılır.

LiteLLM için barındırılan bir alternatif var mı?

Evet. OpenRouter ve Portkey barındırılan ağ geçitleridir. OpenRouter birçok model için kredi satar. Portkey, kendi sağlayıcı anahtarlarınızı getirdiğiniz yönetilen bir ağ geçididir.

FreeLLMAPI, LiteLLM gibi sanal anahtarları destekliyor mu?

Hayır. FreeLLMAPI tasarım gereği tek kullanıcılıdır. Tek bir birleşik anahtarı ve isteğe bağlı istemci profili anahtarlarını kullanır. Sağlayıcı anahtarı başına aylık üst sınırları vardır, kullanıcı veya ekip başına bütçeleri yoktur.

LiteLLM ve FreeLLMAPI'yi birlikte kullanabilir miyim?

Evet. FreeLLMAPI, OpenAI uyumlu bir uç nokta sunar. Bu yüzden maliyeti sıfır olması gereken trafik için onu LiteLLM'e bir dağıtım daha olarak ekleyebilirsiniz.

İlgili rehberler

Kaynaklar

Tüm rehberler · Tüm ücretsiz modelleri incele