ہوم / گائیڈز / LiteLLM کا متبادل

LiteLLM کا متبادل

LiteLLM ایک اوپن سورس Python SDK اور proxy سرور ہے جو 100 سے زائد LLMs کو ایک OpenAI طرز کے انٹرفیس کے پیچھے رکھتا ہے۔ جو ٹیمیں فراہم کنندگان کو ادائیگی کرتی ہیں، ان کے لیے یہ اچھا گیٹ وے ہے۔ اگر آپ کا مقصد مفت inference ہے تو یہ اکیلا مدد نہیں کرتا، کیونکہ اس میں کوئی ٹوکن شامل نہیں۔ یہ گائیڈ بتاتی ہے کہ LiteLLM کب موزوں ہے، کب کوئی متبادل بہتر ہے، اور ان آپشنز کا موازنہ کیسے ہوتا ہے۔

کوڈ، ماڈل کے نام اور براہِ راست کیٹلاگ کے لیبل انگریزی میں دکھائے جاتے ہیں۔

LiteLLM کیا اچھی طرح کرتا ہے

LiteLLM کی دستاویزات دو حصے بیان کرتی ہیں۔ Python SDK ایک انٹرفیس کے ذریعے کئی فراہم کنندگان کو کال کرتا ہے۔ proxy سرور ایک خود میزبان گیٹ وے ہے جسے کوئی بھی OpenAI سے ہم آہنگ کلائنٹ استعمال کر سکتا ہے۔

  • Virtual keys جن پر فی کلید، فی ٹیم اور فی صارف بجٹ ہوتے ہیں۔
  • خرچ کا شمار فی کلید، فی ٹیم اور فی صارف، تمام فراہم کنندگان میں۔
  • لوڈ بیلنسنگ ڈیپلائمنٹس کے درمیان، خودکار متبادل کے ساتھ۔
  • مشاہدے کے callbacks Langfuse، MLflow اور Helicone جیسے ٹولز کو۔
  • Guardrails مواد کے فلٹرز، PII ماسکنگ اور حفاظتی جانچ کے لیے۔
  • ایڈمن UI کلیدوں اور لاگت کے شمار کے لیے۔

یہ خصوصیات ان ٹیموں کے لیے ہیں جو ادا شدہ فراہم کنندہ اکاؤنٹس شیئر کرتی ہیں۔ اگر آپ کی صورتحال یہی ہے تو LiteLLM ایک مضبوط انتخاب ہے، اور شاید آپ کو متبادل کی ضرورت نہ ہو۔

لوگ متبادل کیوں تلاش کرتے ہیں

  • مفت ٹوکن نہیں: LiteLLM ان کلیدوں والے فراہم کنندگان کی طرف راؤٹ کرتا ہے جو آپ فراہم کرتے ہیں۔ ہر ٹوکن کا بل اس کلید کے فراہم کنندہ کی طرف سے آتا ہے۔
  • مفت ٹائرز دستی کام ہیں: LiteLLM یہ شمار نہیں رکھتا کہ اس ہفتے کون سے ماڈلز مفت ہیں، یا ہر فراہم کنندہ کی مفت حدیں کیا ہیں۔ آپ کو انہیں خود تلاش کرنا ہوگا اور کنفیگ تازہ رکھنی ہوگی۔
  • ایک شخص کے لیے سیٹ اپ: ٹیم کی خصوصیات ایسے حصے شامل کرتی ہیں جن کی ایک ڈیولپر کو شاید ضرورت نہ ہو۔
  • دوسرے API فارمیٹس: کچھ ٹولز کو صرف OpenAI فارمیٹ نہیں، بلکہ Anthropic، Gemini یا Ollama فارمیٹ چاہیے۔

درست متبادل اس پر منحصر ہے کہ ان میں سے کون سا آپ کا مسئلہ ہے۔ اگلا حصہ آپشنز دیتا ہے۔

متبادل کا موازنہ

LiteLLM اور متبادل (20 نومبر 2026 کو جانچا گیا)
خصوصیتLiteLLMFreeLLMAPIOpenRouterPortkey
یہ کیا ہےاوپن سورس SDK اور proxyمفت ٹائرز کے لیے اوپن سورس گیٹ وےہوسٹڈ گیٹ وے، ایک بل کے ساتھہوسٹڈ AI گیٹ وے
یہ کہاں چلتا ہےخود میزبانخود میزبان (Docker، ڈیسک ٹاپ ایپ یا Node)ہوسٹڈہوسٹڈ
inference شامل ہےنہیں۔ آپ ہر فراہم کنندہ کو ادائیگی کرتے ہیںصرف فراہم کنندگان کے مفت ٹائرز کو کال کرتا ہےادا شدہ کریڈٹس، اور کچھ مفت ماڈلز روزانہ حد کے ساتھنہیں۔ آپ فراہم کنندہ کی کلیدیں لاتے ہیں
مفت ٹائر کا شمارنہیںہاں، مفت ماڈلز اور حدوں کی دستخط شدہ کیٹلاگصرف اس کے اپنے مفت ماڈلزنہیں
کثیر صارف اور virtual keysہاںنہیں۔ ڈیزائن کے لحاظ سے ایک صارف--
API فارمیٹسOpenAI سے ہم آہنگOpenAI، Anthropic، Gemini اور OllamaOpenAI سے ہم آہنگOpenAI سے ہم آہنگ
کس کے لیے بہترینوہ ٹیمیں جو فراہم کنندگان کو ادائیگی کرتی ہیںایک ڈیولپر جو $0 inference چاہتا ہےایک بل پر ادا شدہ فرنٹیئر ماڈلزوہ ٹیمیں جو منظم گیٹ وے چاہتی ہیں

مزید تفصیل کے لیے FreeLLMAPI بمقابلہ LiteLLM، FreeLLMAPI بمقابلہ OpenRouter اور مفت LLM API گیٹ ویز کا موازنہ پڑھیں۔

FreeLLMAPI کب بہتر انتخاب ہے

FreeLLMAPI مفت، خود میزبان زاویہ ہے۔ یہ ایک اوپن سورس راؤٹر ہے جو فراہم کنندگان کے مفت ٹائرز کو ایک OpenAI سے ہم آہنگ کلید اور ایک Anthropic سے ہم آہنگ کلید کے پیچھے یکجا کرتا ہے۔ آج اس کا کیٹلاگ 45 فراہم کنندگان کے 487 مفت ماڈلز درج کرتا ہے۔

  • یہ درخواستوں اور ٹوکنز کے لیے ہر کلید کے شمار رکھتا ہے، فی منٹ اور فی دن، تاکہ راؤٹنگ ہر مفت حد کے اندر رہے۔
  • 429 یا 5xx خرابی پر یہ کلید کو کول ڈاؤن پر رکھتا ہے اور آپ کی زنجیر کا اگلا ماڈل آزماتا ہے۔
  • یہ اپنا ماڈل کیٹلاگ ایک دستخط شدہ فیڈ سے اپ ڈیٹ کرتا ہے، اس لیے نئے مفت ماڈلز اور کوٹہ کی تبدیلیاں کوڈ اپ ڈیٹ کے بغیر پہنچ جاتی ہیں۔
  • یہ /v1/chat/completions، /v1/responses، /v1/messages، embeddings، تصاویر اور speech سروس کرتا ہے۔
  • فراہم کنندہ کی کلیدیں مقامی SQLite ڈیٹا بیس میں AES-256-GCM سے خفیہ ہوتی ہیں۔
فراہم کنندہمفت ماڈلززیادہ سے زیادہ درخواستیں فی منٹزیادہ سے زیادہ درخواستیں فی دنزیادہ سے زیادہ ٹوکن فی منٹٹوکن فی مہینہ (ایک ماڈل)سب سے طاقتور مفت ماڈل
ElectronHub84---$0.25/week shared recurring creditQwen3.8 Flash (ElectronHub)
qwen3.8-flash
Cloudflare Workers AI39---~5-10MQwen 3.8 27B (Cloudflare Workers AI)
@cf/qwen/qwen3.8-27b
Inferbase38---5,000 requests/month; 100 requests and $0.50 usage/day sharedDeepSeek V4 Flash (fp8) (Inferbase)
deepseek-v4-flash:fp8
AI Horde31---Ongoing volunteer queue; availability variesGemma 4 31B Heretic (AI Horde)
koboldcpp/gemma-4-31B-it-heretic
ACLIDE29---€20/month shared internal usage credits · no cardQwen3.8 Max (ACLIDE)
qwen/qwen3.8-max:free
Google AI Studio21151,000250,000~3MGemini 3.8 Flash
gemini-3.8-flash
Api.Airforce2011,000-free · 1,000 req/day · 1 req/mingpt-oss-20b (Api.Airforce)
gpt-oss-20b
NVIDIA NIM1940--free · 40 RPMGLM 5.3 Flash (NV)
z-ai/glm-5.3-flash
Cohere172033-~1-2MCommand A+ (05-2026)
command-a-plus-05-2026
DreamPrompting141005,000-free · 500K tokens/day · 5,000 req/dayGemini 3.1 Flash-Lite
google/gemini-3.1-flash-lite
Mistral122-500,000~50-100MMistral Code
mistral-code-latest
ModelScope11-200-Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experienceGLM-5.2 (ModelScope)
ZhipuAI/GLM-5.2

FreeLLMAPI کیٹلاگ کا براہِ راست ڈیٹا (ورژن 2026.11.19، 2026-11-19 کو جانچا گیا)۔ مفت حدیں اکثر بدلتی ہیں۔ کیٹلاگ ہر روز جانچا جاتا ہے۔

LiteLLM ابھی بھی کب بہتر انتخاب ہے

  • بہت سے صارفین: FreeLLMAPI میں کثیر کرایہ دار تصدیق نہیں ہے۔ اس کی دستاویزات کہتی ہیں کہ اسے اپنے لیے چلائیں اور انٹرنیٹ پر ظاہر نہ کریں۔
  • ٹیم کے لیے بجٹ: LiteLLM کے پاس کلید، ٹیم اور صارف کے لحاظ سے بجٹ ہیں۔ FreeLLMAPI میں صرف فراہم کنندہ کی کلید کے لحاظ سے ماہانہ حدیں ہیں۔
  • ادا شدہ فرنٹیئر ماڈلز: مفت ٹائرز سب سے طاقتور ماڈلز تک مستقل رسائی نہیں دیتے۔ LiteLLM کسی بھی ادا شدہ اکاؤنٹ کی طرف راؤٹ کر سکتا ہے۔
  • سروس لیول: مفت ٹائرز کا کوئی SLA نہیں ہوتا۔ پروڈکشن کی بھروسے مندی کے لیے ادا شدہ فراہم کنندگان استعمال کریں۔

آپ دونوں چلا سکتے ہیں۔ ادا شدہ پروڈکشن ٹریفک کے لیے LiteLLM استعمال کریں۔ ڈیولپمنٹ، ٹیسٹس اور بیچ جابز کے لیے FreeLLMAPI استعمال کریں جنہیں پیسے خرچ کرنے کی ضرورت نہ ہو۔ FreeLLMAPI کسی بھی OpenAI سے ہم آہنگ اینڈ پوائنٹ کو کسٹم فراہم کنندہ کے طور پر بھی شامل کر سکتا ہے۔

LiteLLM سے FreeLLMAPI پر جائیں

  1. ایک لائن والے انسٹالر سے FreeLLMAPI انسٹال کریں۔
  2. http://localhost:3001 پر ڈیش بورڈ کھولیں اور Keys صفحے پر اپنی مفت فراہم کنندہ کلیدیں شامل کریں۔
  3. Keys صفحے سے یکجا کلید کاپی کریں۔
  4. اپنی ایپ میں بیس URL کو LiteLLM proxy سے http://localhost:3001/v1 پر تبدیل کریں۔
  5. ماڈل کے نام auto پر یا کیٹلاگ کی ماڈل IDs پر تبدیل کریں۔

انسٹال کریں اور جانچیں

curl -fsSL https://freellmapi.co/install.sh | bash

curl http://localhost:3001/v1/chat/completions \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "auto", "messages": [{"role": "user", "content": "Hello"}]}'
ان سب کو ایک ہی کلید سے استعمال کریں۔ FreeLLMAPI ایک اوپن سورس، خود میزبانی والا راؤٹر ہے۔ یہ ان تمام مفت ٹائرز کو ایک ہی OpenAI سے ہم آہنگ اینڈ پوائنٹ کے پیچھے رکھتا ہے، اور جب کوئی ایک ریٹ لمٹ ہو جائے تو خودکار طور پر دوسرے پر منتقل ہو جاتا ہے۔ کیٹلاگ دیکھیں یا لائیو جائیں.

اکثر پوچھے گئے سوالات

LiteLLM کا بہترین مفت متبادل کیا ہے؟

اگر آپ کو مفت inference چاہیے تو ایسا گیٹ وے استعمال کریں جو فراہم کنندگان کے مفت ٹائرز یکجا کرے، جیسے FreeLLMAPI۔ اگر آپ ادا شدہ فراہم کنندگان کے لیے مفت سافٹ ویئر چاہتے ہیں تو LiteLLM خود پہلے ہی مفت اور اوپن سورس ہے۔

کیا LiteLLM مفت ہے؟

SDK اور proxy اوپن سورس ہیں اور چلانے کے لیے مفت ہیں۔ ان میں کوئی ٹوکن شامل نہیں، اس لیے ہر درخواست کا بل اس فراہم کنندہ کی طرف سے آتا ہے جس کی کلید آپ نے شامل کی۔

کیا LiteLLM کا کوئی ہوسٹڈ متبادل ہے؟

ہاں۔ OpenRouter اور Portkey ہوسٹڈ گیٹ ویز ہیں۔ OpenRouter کئی ماڈلز کے کریڈٹس بیچتا ہے۔ Portkey ایک منظم گیٹ وے ہے جہاں آپ فراہم کنندہ کی کلیدیں لاتے ہیں۔

کیا FreeLLMAPI LiteLLM کی طرح virtual keys سپورٹ کرتا ہے؟

نہیں۔ FreeLLMAPI ڈیزائن کے لحاظ سے ایک صارف والا ہے، جس میں ایک یکجا کلید اور اختیاری کلائنٹ پروفائل کلیدیں ہیں۔ اس میں فراہم کنندہ کی کلید کے لحاظ سے ماہانہ حدیں ہیں، نہ کہ صارف یا ٹیم کے لحاظ سے بجٹ۔

کیا میں LiteLLM اور FreeLLMAPI ایک ساتھ استعمال کر سکتا ہوں؟

ہاں۔ FreeLLMAPI ایک OpenAI سے ہم آہنگ اینڈ پوائنٹ دیتا ہے، اس لیے آپ اسے LiteLLM میں ایک اور deployment کے طور پر شامل کر سکتے ہیں، ان ٹریفک کے لیے جو کچھ خرچ نہ کرے۔

متعلقہ گائیڈز

ماخذ

تمام گائیڈز · تمام مفت ماڈلز دیکھیں