LiteLLM alternatifi
LiteLLM, 100'den fazla LLM'i tek bir OpenAI tarzı arayüzün arkasında toplayan açık kaynaklı bir Python SDK'sı ve proxy sunucusudur. Sağlayıcılara ödeme yapan ekipler için iyi bir ağ geçididir. Hedefiniz ücretsiz çıkarım ise tek başına yardımcı olmaz, çünkü jeton içermez. Bu rehber LiteLLM'in ne zaman uygun olduğunu, bir alternatifin ne zaman daha uygun olduğunu ve seçeneklerin nasıl karşılaştığını açıklar.
Kod, model adları ve canlı katalog etiketleri İngilizce gösterilir.
LiteLLM'in iyi yaptığı şeyler
LiteLLM belgeleri iki parça tanımlar. Python SDK'sı, birçok sağlayıcıyı tek bir arayüzle çağırır. Proxy sunucusu ise herhangi bir OpenAI uyumlu istemcinin kullanabileceği, kendi sunucunuzda çalışan bir ağ geçididir.
- Sanal anahtarlar: anahtar, ekip ve kullanıcı başına bütçeler.
- Harcama takibi: sağlayıcılar genelinde anahtar, ekip ve kullanıcı bazında.
- Yük dengeleme: dağıtımlar arasında, otomatik yedeklerle.
- Gözlemlenebilirlik geri çağrıları: Langfuse, MLflow ve Helicone gibi araçlara.
- Korkuluklar: içerik filtreleri, PII maskeleme ve güvenlik kontrolleri için.
- Yönetici arayüzü: anahtarlar ve maliyet takibi için.
Bu özellikler, ücretli sağlayıcı hesaplarını paylaşan ekipler içindir. Durumunuz buysa LiteLLM güçlü bir seçimdir ve alternatife ihtiyacınız olmayabilir.
İnsanlar neden alternatif arar
- Ücretsiz jeton yok: LiteLLM, sizin sağladığınız anahtarlarla sağlayıcılara yönlendirir. Her jeton, o anahtarın sağlayıcısı tarafından faturalandırılır.
- Ücretsiz katmanlar elle yapılan iştir: LiteLLM, bu hafta hangi modellerin ücretsiz olduğunu veya her sağlayıcının ücretsiz limitlerini izlemez. Bunları siz bulmalı ve yapılandırmayı güncel tutmalısınız.
- Tek kişi için kurulum: ekip özellikleri, tek bir geliştiricinin ihtiyaç duymayabileceği parçalar ekler.
- Diğer API biçimleri: bazı araçlar yalnızca OpenAI biçimini değil, Anthropic, Gemini veya Ollama biçimini de ister.
Doğru alternatif, bunlardan hangisinin sorununuz olduğuna bağlıdır. Sonraki bölümde seçenekler verilir.
Alternatiflerin karşılaştırması
| Özellik | LiteLLM | FreeLLMAPI | OpenRouter | Portkey |
|---|---|---|---|---|
| Nedir | Açık kaynaklı SDK ve proxy | Ücretsiz katmanlar için açık kaynaklı ağ geçidi | Tek faturalı barındırılan ağ geçidi | Barındırılan AI ağ geçidi |
| Nerede çalışır | Kendi sunucunuzda | Kendi sunucunuzda (Docker, masaüstü uygulaması veya Node) | Barındırılan | Barındırılan |
| Çıkarım dahil mi | Hayır. Her sağlayıcıya ödersiniz | Yalnızca sağlayıcıların ücretsiz katmanlarını çağırır | Ücretli krediler, ayrıca günlük sınırı olan bazı ücretsiz modeller | Hayır. Sağlayıcı anahtarlarınızı getirirsiniz |
| Ücretsiz katman takibi | Hayır | Evet, imzalı bir ücretsiz model ve limit kataloğu | Yalnızca kendi ücretsiz modelleri | Hayır |
| Çok kullanıcılı ve sanal anahtarlar | Evet | Hayır. Tasarım gereği tek kullanıcılı | - | - |
| API biçimleri | OpenAI uyumlu | OpenAI, Anthropic, Gemini ve Ollama | OpenAI uyumlu | OpenAI uyumlu |
| En uygun olduğu durum | Sağlayıcılara ödeme yapan ekipler | $0 çıkarım isteyen tek bir geliştirici | Tek faturada ücretli öncü modeller | Yönetilen bir ağ geçidi isteyen ekipler |
Daha fazla ayrıntı için FreeLLMAPI ile LiteLLM karşılaştırması, FreeLLMAPI ile OpenRouter karşılaştırması ve ücretsiz LLM API ağ geçitlerinin karşılaştırması sayfalarını okuyun.
FreeLLMAPI'nin daha uygun olduğu durumlar
FreeLLMAPI, ücretsiz ve kendi sunucunuzda çalışan seçenektir. Sağlayıcıların ücretsiz katmanlarını tek bir OpenAI uyumlu anahtar ve tek bir Anthropic uyumlu anahtar arkasında toplayan açık kaynaklı bir yönlendiricidir. Bugün kataloğu 45 sağlayıcıdan 487 ücretsiz model listeler.
- İstekler ve jetonlar için anahtar başına sayaçları dakika ve gün bazında tutar. Böylece yönlendirme her ücretsiz limitin altında kalır.
- 429 veya 5xx hatasında anahtarı bekleme süresine alır ve zincirinizdeki sonraki modeli dener.
- Model kataloğunu imzalı bir kaynaktan günceller. Böylece yeni ücretsiz modeller ve kota değişiklikleri kod güncellemesi olmadan gelir.
/v1/chat/completions,/v1/responses,/v1/messages, gömmeler, görseller ve konuşma sunar.- Sağlayıcı anahtarları yerel bir SQLite veritabanında AES-256-GCM ile şifrelenir.
| Sağlayıcı | Ücretsiz modeller | En fazla istek/dk | En fazla istek/gün | En fazla jeton/dk | Jeton/ay (tek model) | En güçlü ücretsiz model |
|---|---|---|---|---|---|---|
| ElectronHub | 84 | - | - | - | $0.25/week shared recurring credit | Qwen3.8 Flash (ElectronHub)qwen3.8-flash |
| Cloudflare Workers AI | 39 | - | - | - | ~5-10M | Qwen 3.8 27B (Cloudflare Workers AI)@cf/qwen/qwen3.8-27b |
| Inferbase | 38 | - | - | - | 5,000 requests/month; 100 requests and $0.50 usage/day shared | DeepSeek V4 Flash (fp8) (Inferbase)deepseek-v4-flash:fp8 |
| AI Horde | 31 | - | - | - | Ongoing volunteer queue; availability varies | Gemma 4 31B Heretic (AI Horde)koboldcpp/gemma-4-31B-it-heretic |
| ACLIDE | 29 | - | - | - | €20/month shared internal usage credits · no card | Qwen3.8 Max (ACLIDE)qwen/qwen3.8-max:free |
| Google AI Studio | 21 | 15 | 1,000 | 250,000 | ~3M | Gemini 3.8 Flashgemini-3.8-flash |
| Api.Airforce | 20 | 1 | 1,000 | - | free · 1,000 req/day · 1 req/min | gpt-oss-20b (Api.Airforce)gpt-oss-20b |
| NVIDIA NIM | 19 | 40 | - | - | free · 40 RPM | GLM 5.3 Flash (NV)z-ai/glm-5.3-flash |
| Cohere | 17 | 20 | 33 | - | ~1-2M | Command A+ (05-2026)command-a-plus-05-2026 |
| DreamPrompting | 14 | 100 | 5,000 | - | free · 500K tokens/day · 5,000 req/day | Gemini 3.1 Flash-Litegoogle/gemini-3.1-flash-lite |
| Mistral | 12 | 2 | - | 500,000 | ~50-100M | Mistral Codemistral-code-latest |
| ModelScope | 11 | - | 200 | - | Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experience | GLM-5.2 (ModelScope)ZhipuAI/GLM-5.2 |
Canlı veriler FreeLLMAPI kataloğundan alınır (sürüm 2026.11.19, 2026-11-19 tarihinde kontrol edildi). Ücretsiz limitler sık değişir. Katalog her gün kontrol edilir.
LiteLLM'in hâlâ daha uygun olduğu durumlar
- Çok kullanıcı: FreeLLMAPI'de çok kiracılı kimlik doğrulama yoktur. Belgeleri, kendiniz için çalıştırmanızı ve internete açmamanızı söyler.
- Ekip başına bütçeler: LiteLLM, anahtar, ekip ve kullanıcı başına bütçelere sahiptir. FreeLLMAPI yalnızca sağlayıcı anahtarı başına aylık üst sınırlara sahiptir.
- Ücretli öncü modeller: ücretsiz katmanlar en güçlü modellere sürekli erişim vermez. LiteLLM herhangi bir ücretli hesaba yönlendirebilir.
- Hizmet seviyesi: ücretsiz katmanlarda SLA yoktur. Üretim güvenilirliği için ücretli sağlayıcıları kullanın.
İkisini birlikte de çalıştırabilirsiniz. Ücretli üretim trafiği için LiteLLM'i kullanın. Geliştirme, testler ve maliyeti olmasına gerek olmayan toplu işler için FreeLLMAPI'yi kullanın. FreeLLMAPI ayrıca herhangi bir OpenAI uyumlu uç noktayı özel bir sağlayıcı olarak ekleyebilir.
LiteLLM'den FreeLLMAPI'ye geçin
- FreeLLMAPI'yi tek satırlık kurucuyla kurun.
- Panoyu
http://localhost:3001adresinde açın ve Keys sayfasına ücretsiz sağlayıcı anahtarlarınızı ekleyin. - Birleşik anahtarı Keys sayfasından kopyalayın.
- Uygulamanızda temel URL'yi LiteLLM proxy adresinden
http://localhost:3001/v1adresine değiştirin. - Model adlarını
autoolarak veya katalog model kimlikleri olarak değiştirin.
Kurun ve test edin
curl -fsSL https://freellmapi.co/install.sh | bash
curl http://localhost:3001/v1/chat/completions \
-H "Authorization: Bearer <unified-key>" \
-H "Content-Type: application/json" \
-d '{"model": "auto", "messages": [{"role": "user", "content": "Hello"}]}'Sık sorulan sorular
LiteLLM için en iyi ücretsiz alternatif nedir?
Ücretsiz çıkarım istiyorsanız FreeLLMAPI gibi sağlayıcıların ücretsiz katmanlarını birleştiren bir ağ geçidi kullanın. Ücretli sağlayıcılar için ücretsiz yazılım istiyorsanız LiteLLM zaten ücretsiz ve açık kaynaklıdır.
LiteLLM ücretsiz mi?
SDK ve proxy açık kaynaklıdır ve çalıştırmak ücretsizdir. Jeton içermezler, bu yüzden her istek eklediğiniz anahtarın sağlayıcısı tarafından faturalandırılır.
LiteLLM için barındırılan bir alternatif var mı?
Evet. OpenRouter ve Portkey barındırılan ağ geçitleridir. OpenRouter birçok model için kredi satar. Portkey, kendi sağlayıcı anahtarlarınızı getirdiğiniz yönetilen bir ağ geçididir.
FreeLLMAPI, LiteLLM gibi sanal anahtarları destekliyor mu?
Hayır. FreeLLMAPI tasarım gereği tek kullanıcılıdır. Tek bir birleşik anahtarı ve isteğe bağlı istemci profili anahtarlarını kullanır. Sağlayıcı anahtarı başına aylık üst sınırları vardır, kullanıcı veya ekip başına bütçeleri yoktur.
LiteLLM ve FreeLLMAPI'yi birlikte kullanabilir miyim?
Evet. FreeLLMAPI, OpenAI uyumlu bir uç nokta sunar. Bu yüzden maliyeti sıfır olması gereken trafik için onu LiteLLM'e bir dağıtım daha olarak ekleyebilirsiniz.
İlgili rehberler
- freellmapi vs litellm
- free llm api gateways compared
- Helicone alternatifi
- portkey alternative
- openrouter free alternative
- Ücretsiz OpenAI uyumlu API base URL'leri
Kaynaklar
- LiteLLM docs: Getting started (20 November 2026 tarihinde kontrol edildi)
- FreeLLMAPI README: features and how it compares (20 November 2026 tarihinde kontrol edildi)
- FreeLLMAPI docs: Architecture, limitations and scope (20 November 2026 tarihinde kontrol edildi)
- FreeLLMAPI docs: Monthly provider-key budgets (20 November 2026 tarihinde kontrol edildi)