LiteLLM کا متبادل
LiteLLM ایک اوپن سورس Python SDK اور proxy سرور ہے جو 100 سے زائد LLMs کو ایک OpenAI طرز کے انٹرفیس کے پیچھے رکھتا ہے۔ جو ٹیمیں فراہم کنندگان کو ادائیگی کرتی ہیں، ان کے لیے یہ اچھا گیٹ وے ہے۔ اگر آپ کا مقصد مفت inference ہے تو یہ اکیلا مدد نہیں کرتا، کیونکہ اس میں کوئی ٹوکن شامل نہیں۔ یہ گائیڈ بتاتی ہے کہ LiteLLM کب موزوں ہے، کب کوئی متبادل بہتر ہے، اور ان آپشنز کا موازنہ کیسے ہوتا ہے۔
کوڈ، ماڈل کے نام اور براہِ راست کیٹلاگ کے لیبل انگریزی میں دکھائے جاتے ہیں۔
LiteLLM کیا اچھی طرح کرتا ہے
LiteLLM کی دستاویزات دو حصے بیان کرتی ہیں۔ Python SDK ایک انٹرفیس کے ذریعے کئی فراہم کنندگان کو کال کرتا ہے۔ proxy سرور ایک خود میزبان گیٹ وے ہے جسے کوئی بھی OpenAI سے ہم آہنگ کلائنٹ استعمال کر سکتا ہے۔
- Virtual keys جن پر فی کلید، فی ٹیم اور فی صارف بجٹ ہوتے ہیں۔
- خرچ کا شمار فی کلید، فی ٹیم اور فی صارف، تمام فراہم کنندگان میں۔
- لوڈ بیلنسنگ ڈیپلائمنٹس کے درمیان، خودکار متبادل کے ساتھ۔
- مشاہدے کے callbacks Langfuse، MLflow اور Helicone جیسے ٹولز کو۔
- Guardrails مواد کے فلٹرز، PII ماسکنگ اور حفاظتی جانچ کے لیے۔
- ایڈمن UI کلیدوں اور لاگت کے شمار کے لیے۔
یہ خصوصیات ان ٹیموں کے لیے ہیں جو ادا شدہ فراہم کنندہ اکاؤنٹس شیئر کرتی ہیں۔ اگر آپ کی صورتحال یہی ہے تو LiteLLM ایک مضبوط انتخاب ہے، اور شاید آپ کو متبادل کی ضرورت نہ ہو۔
لوگ متبادل کیوں تلاش کرتے ہیں
- مفت ٹوکن نہیں: LiteLLM ان کلیدوں والے فراہم کنندگان کی طرف راؤٹ کرتا ہے جو آپ فراہم کرتے ہیں۔ ہر ٹوکن کا بل اس کلید کے فراہم کنندہ کی طرف سے آتا ہے۔
- مفت ٹائرز دستی کام ہیں: LiteLLM یہ شمار نہیں رکھتا کہ اس ہفتے کون سے ماڈلز مفت ہیں، یا ہر فراہم کنندہ کی مفت حدیں کیا ہیں۔ آپ کو انہیں خود تلاش کرنا ہوگا اور کنفیگ تازہ رکھنی ہوگی۔
- ایک شخص کے لیے سیٹ اپ: ٹیم کی خصوصیات ایسے حصے شامل کرتی ہیں جن کی ایک ڈیولپر کو شاید ضرورت نہ ہو۔
- دوسرے API فارمیٹس: کچھ ٹولز کو صرف OpenAI فارمیٹ نہیں، بلکہ Anthropic، Gemini یا Ollama فارمیٹ چاہیے۔
درست متبادل اس پر منحصر ہے کہ ان میں سے کون سا آپ کا مسئلہ ہے۔ اگلا حصہ آپشنز دیتا ہے۔
متبادل کا موازنہ
| خصوصیت | LiteLLM | FreeLLMAPI | OpenRouter | Portkey |
|---|---|---|---|---|
| یہ کیا ہے | اوپن سورس SDK اور proxy | مفت ٹائرز کے لیے اوپن سورس گیٹ وے | ہوسٹڈ گیٹ وے، ایک بل کے ساتھ | ہوسٹڈ AI گیٹ وے |
| یہ کہاں چلتا ہے | خود میزبان | خود میزبان (Docker، ڈیسک ٹاپ ایپ یا Node) | ہوسٹڈ | ہوسٹڈ |
| inference شامل ہے | نہیں۔ آپ ہر فراہم کنندہ کو ادائیگی کرتے ہیں | صرف فراہم کنندگان کے مفت ٹائرز کو کال کرتا ہے | ادا شدہ کریڈٹس، اور کچھ مفت ماڈلز روزانہ حد کے ساتھ | نہیں۔ آپ فراہم کنندہ کی کلیدیں لاتے ہیں |
| مفت ٹائر کا شمار | نہیں | ہاں، مفت ماڈلز اور حدوں کی دستخط شدہ کیٹلاگ | صرف اس کے اپنے مفت ماڈلز | نہیں |
| کثیر صارف اور virtual keys | ہاں | نہیں۔ ڈیزائن کے لحاظ سے ایک صارف | - | - |
| API فارمیٹس | OpenAI سے ہم آہنگ | OpenAI، Anthropic، Gemini اور Ollama | OpenAI سے ہم آہنگ | OpenAI سے ہم آہنگ |
| کس کے لیے بہترین | وہ ٹیمیں جو فراہم کنندگان کو ادائیگی کرتی ہیں | ایک ڈیولپر جو $0 inference چاہتا ہے | ایک بل پر ادا شدہ فرنٹیئر ماڈلز | وہ ٹیمیں جو منظم گیٹ وے چاہتی ہیں |
مزید تفصیل کے لیے FreeLLMAPI بمقابلہ LiteLLM، FreeLLMAPI بمقابلہ OpenRouter اور مفت LLM API گیٹ ویز کا موازنہ پڑھیں۔
FreeLLMAPI کب بہتر انتخاب ہے
FreeLLMAPI مفت، خود میزبان زاویہ ہے۔ یہ ایک اوپن سورس راؤٹر ہے جو فراہم کنندگان کے مفت ٹائرز کو ایک OpenAI سے ہم آہنگ کلید اور ایک Anthropic سے ہم آہنگ کلید کے پیچھے یکجا کرتا ہے۔ آج اس کا کیٹلاگ 45 فراہم کنندگان کے 487 مفت ماڈلز درج کرتا ہے۔
- یہ درخواستوں اور ٹوکنز کے لیے ہر کلید کے شمار رکھتا ہے، فی منٹ اور فی دن، تاکہ راؤٹنگ ہر مفت حد کے اندر رہے۔
- 429 یا 5xx خرابی پر یہ کلید کو کول ڈاؤن پر رکھتا ہے اور آپ کی زنجیر کا اگلا ماڈل آزماتا ہے۔
- یہ اپنا ماڈل کیٹلاگ ایک دستخط شدہ فیڈ سے اپ ڈیٹ کرتا ہے، اس لیے نئے مفت ماڈلز اور کوٹہ کی تبدیلیاں کوڈ اپ ڈیٹ کے بغیر پہنچ جاتی ہیں۔
- یہ
/v1/chat/completions،/v1/responses،/v1/messages، embeddings، تصاویر اور speech سروس کرتا ہے۔ - فراہم کنندہ کی کلیدیں مقامی SQLite ڈیٹا بیس میں AES-256-GCM سے خفیہ ہوتی ہیں۔
| فراہم کنندہ | مفت ماڈلز | زیادہ سے زیادہ درخواستیں فی منٹ | زیادہ سے زیادہ درخواستیں فی دن | زیادہ سے زیادہ ٹوکن فی منٹ | ٹوکن فی مہینہ (ایک ماڈل) | سب سے طاقتور مفت ماڈل |
|---|---|---|---|---|---|---|
| ElectronHub | 84 | - | - | - | $0.25/week shared recurring credit | Qwen3.8 Flash (ElectronHub)qwen3.8-flash |
| Cloudflare Workers AI | 39 | - | - | - | ~5-10M | Qwen 3.8 27B (Cloudflare Workers AI)@cf/qwen/qwen3.8-27b |
| Inferbase | 38 | - | - | - | 5,000 requests/month; 100 requests and $0.50 usage/day shared | DeepSeek V4 Flash (fp8) (Inferbase)deepseek-v4-flash:fp8 |
| AI Horde | 31 | - | - | - | Ongoing volunteer queue; availability varies | Gemma 4 31B Heretic (AI Horde)koboldcpp/gemma-4-31B-it-heretic |
| ACLIDE | 29 | - | - | - | €20/month shared internal usage credits · no card | Qwen3.8 Max (ACLIDE)qwen/qwen3.8-max:free |
| Google AI Studio | 21 | 15 | 1,000 | 250,000 | ~3M | Gemini 3.8 Flashgemini-3.8-flash |
| Api.Airforce | 20 | 1 | 1,000 | - | free · 1,000 req/day · 1 req/min | gpt-oss-20b (Api.Airforce)gpt-oss-20b |
| NVIDIA NIM | 19 | 40 | - | - | free · 40 RPM | GLM 5.3 Flash (NV)z-ai/glm-5.3-flash |
| Cohere | 17 | 20 | 33 | - | ~1-2M | Command A+ (05-2026)command-a-plus-05-2026 |
| DreamPrompting | 14 | 100 | 5,000 | - | free · 500K tokens/day · 5,000 req/day | Gemini 3.1 Flash-Litegoogle/gemini-3.1-flash-lite |
| Mistral | 12 | 2 | - | 500,000 | ~50-100M | Mistral Codemistral-code-latest |
| ModelScope | 11 | - | 200 | - | Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experience | GLM-5.2 (ModelScope)ZhipuAI/GLM-5.2 |
FreeLLMAPI کیٹلاگ کا براہِ راست ڈیٹا (ورژن 2026.11.19، 2026-11-19 کو جانچا گیا)۔ مفت حدیں اکثر بدلتی ہیں۔ کیٹلاگ ہر روز جانچا جاتا ہے۔
LiteLLM ابھی بھی کب بہتر انتخاب ہے
- بہت سے صارفین: FreeLLMAPI میں کثیر کرایہ دار تصدیق نہیں ہے۔ اس کی دستاویزات کہتی ہیں کہ اسے اپنے لیے چلائیں اور انٹرنیٹ پر ظاہر نہ کریں۔
- ٹیم کے لیے بجٹ: LiteLLM کے پاس کلید، ٹیم اور صارف کے لحاظ سے بجٹ ہیں۔ FreeLLMAPI میں صرف فراہم کنندہ کی کلید کے لحاظ سے ماہانہ حدیں ہیں۔
- ادا شدہ فرنٹیئر ماڈلز: مفت ٹائرز سب سے طاقتور ماڈلز تک مستقل رسائی نہیں دیتے۔ LiteLLM کسی بھی ادا شدہ اکاؤنٹ کی طرف راؤٹ کر سکتا ہے۔
- سروس لیول: مفت ٹائرز کا کوئی SLA نہیں ہوتا۔ پروڈکشن کی بھروسے مندی کے لیے ادا شدہ فراہم کنندگان استعمال کریں۔
آپ دونوں چلا سکتے ہیں۔ ادا شدہ پروڈکشن ٹریفک کے لیے LiteLLM استعمال کریں۔ ڈیولپمنٹ، ٹیسٹس اور بیچ جابز کے لیے FreeLLMAPI استعمال کریں جنہیں پیسے خرچ کرنے کی ضرورت نہ ہو۔ FreeLLMAPI کسی بھی OpenAI سے ہم آہنگ اینڈ پوائنٹ کو کسٹم فراہم کنندہ کے طور پر بھی شامل کر سکتا ہے۔
LiteLLM سے FreeLLMAPI پر جائیں
- ایک لائن والے انسٹالر سے FreeLLMAPI انسٹال کریں۔
http://localhost:3001پر ڈیش بورڈ کھولیں اور Keys صفحے پر اپنی مفت فراہم کنندہ کلیدیں شامل کریں۔- Keys صفحے سے یکجا کلید کاپی کریں۔
- اپنی ایپ میں بیس URL کو LiteLLM proxy سے
http://localhost:3001/v1پر تبدیل کریں۔ - ماڈل کے نام
autoپر یا کیٹلاگ کی ماڈل IDs پر تبدیل کریں۔
انسٹال کریں اور جانچیں
curl -fsSL https://freellmapi.co/install.sh | bash
curl http://localhost:3001/v1/chat/completions \
-H "Authorization: Bearer <unified-key>" \
-H "Content-Type: application/json" \
-d '{"model": "auto", "messages": [{"role": "user", "content": "Hello"}]}'اکثر پوچھے گئے سوالات
LiteLLM کا بہترین مفت متبادل کیا ہے؟
اگر آپ کو مفت inference چاہیے تو ایسا گیٹ وے استعمال کریں جو فراہم کنندگان کے مفت ٹائرز یکجا کرے، جیسے FreeLLMAPI۔ اگر آپ ادا شدہ فراہم کنندگان کے لیے مفت سافٹ ویئر چاہتے ہیں تو LiteLLM خود پہلے ہی مفت اور اوپن سورس ہے۔
کیا LiteLLM مفت ہے؟
SDK اور proxy اوپن سورس ہیں اور چلانے کے لیے مفت ہیں۔ ان میں کوئی ٹوکن شامل نہیں، اس لیے ہر درخواست کا بل اس فراہم کنندہ کی طرف سے آتا ہے جس کی کلید آپ نے شامل کی۔
کیا LiteLLM کا کوئی ہوسٹڈ متبادل ہے؟
ہاں۔ OpenRouter اور Portkey ہوسٹڈ گیٹ ویز ہیں۔ OpenRouter کئی ماڈلز کے کریڈٹس بیچتا ہے۔ Portkey ایک منظم گیٹ وے ہے جہاں آپ فراہم کنندہ کی کلیدیں لاتے ہیں۔
کیا FreeLLMAPI LiteLLM کی طرح virtual keys سپورٹ کرتا ہے؟
نہیں۔ FreeLLMAPI ڈیزائن کے لحاظ سے ایک صارف والا ہے، جس میں ایک یکجا کلید اور اختیاری کلائنٹ پروفائل کلیدیں ہیں۔ اس میں فراہم کنندہ کی کلید کے لحاظ سے ماہانہ حدیں ہیں، نہ کہ صارف یا ٹیم کے لحاظ سے بجٹ۔
کیا میں LiteLLM اور FreeLLMAPI ایک ساتھ استعمال کر سکتا ہوں؟
ہاں۔ FreeLLMAPI ایک OpenAI سے ہم آہنگ اینڈ پوائنٹ دیتا ہے، اس لیے آپ اسے LiteLLM میں ایک اور deployment کے طور پر شامل کر سکتے ہیں، ان ٹریفک کے لیے جو کچھ خرچ نہ کرے۔
متعلقہ گائیڈز
- freellmapi vs litellm
- free llm api gateways compared
- Helicone کا متبادل
- portkey alternative
- openrouter free alternative
- مفت OpenAI سے مطابقت رکھنے والے API base URLs
ماخذ
- LiteLLM docs: Getting started (20 November 2026 کو جانچا گیا)
- FreeLLMAPI README: features and how it compares (20 November 2026 کو جانچا گیا)
- FreeLLMAPI docs: Architecture, limitations and scope (20 November 2026 کو جانچا گیا)
- FreeLLMAPI docs: Monthly provider-key budgets (20 November 2026 کو جانچا گیا)