خانه / راهنماها / جایگزین LiteLLM

جایگزین LiteLLM

LiteLLM یک SDK و سرور پروکسی متن‌باز در Python است که بیش از 100 LLM را پشت یک رابط به سبک OpenAI قرار می‌دهد. برای تیم‌هایی که به ارائه‌دهندگان پول می‌پردازند، درگاه خوبی است. اگر هدف شما استنتاج رایگان است، به تنهایی کمکی نمی‌کند، زیرا توکنی در آن نیست. این راهنما توضیح می‌دهد که LiteLLM کی مناسب است، کی یک جایگزین بهتر است، و گزینه‌ها چگونه مقایسه می‌شوند.

کد، نام مدل‌ها و برچسب‌های زندهٔ کاتالوگ به زبان انگلیسی نمایش داده می‌شوند.

کارهایی که LiteLLM خوب انجام می‌دهد

مستندات LiteLLM دو بخش را توصیف می‌کند. SDK در Python، از طریق یک رابط، چند ارائه‌دهنده را فراخوانی می‌کند. سرور پروکسی یک درگاه میزبانی‌شده روی سرور خودتان است که هر کلاینت سازگار با OpenAI می‌تواند از آن استفاده کند.

  • کلیدهای مجازی با بودجه برای هر کلید، هر تیم و هر کاربر.
  • ردیابی هزینه برای هر کلید، تیم و کاربر در همه ارائه‌دهندگان.
  • توزیع بار بین استقرارها، با جایگزینی خودکار.
  • callbackهای مشاهده‌پذیری برای ابزارهایی مانند Langfuse، MLflow و Helicone.
  • Guardrails برای فیلتر محتوا، پوشاندن PII و بررسی‌های ایمنی.
  • رابط مدیریت برای کلیدها و ردیابی هزینه.

این قابلیت‌ها برای تیم‌هایی است که حساب‌های پولی ارائه‌دهنده را مشترک استفاده می‌کنند. اگر وضعیت شما این است، LiteLLM انتخاب قوی است و شاید به جایگزین نیاز نداشته باشید.

چرا افراد دنبال جایگزین می‌گردند

  • توکن رایگان ندارد: LiteLLM درخواست‌ها را با کلیدهایی که شما می‌دهید به ارائه‌دهندگان می‌فرستد. هر توکن از سوی ارائه‌دهنده همان کلید صورتحساب می‌شود.
  • سطوح رایگان کار دستی است: LiteLLM نمی‌شمارد کدام مدل‌ها این هفته رایگان هستند، یا محدودیت‌های رایگان هر ارائه‌دهنده چیست. شما باید آن‌ها را پیدا کنید و پیکربندی را به‌روز نگه دارید.
  • راه‌اندازی برای یک نفر: قابلیت‌های تیمی بخش‌هایی اضافه می‌کنند که شاید یک توسعه‌دهنده تنها به آن‌ها نیاز نداشته باشد.
  • قالب‌های دیگر API: برخی ابزارها به قالب Anthropic، Gemini یا Ollama نیاز دارند، نه فقط قالب OpenAI.

جایگزین مناسب به این بستگی دارد که کدام مورد مشکل شماست. بخش بعد گزینه‌ها را نشان می‌دهد.

مقایسه جایگزین‌ها

LiteLLM و جایگزین‌ها (بررسی‌شده در 20 نوامبر 2026)
-LiteLLMFreeLLMAPIOpenRouterPortkey
چیستSDK و پروکسی متن‌بازدرگاه متن‌باز برای سطوح رایگاندرگاه میزبانی‌شده با یک صورتحسابدرگاه میزبانی‌شده هوش مصنوعی
کجا اجرا می‌شودروی سرور خودتانروی سرور خودتان (Docker، برنامه دسکتاپ یا Node)میزبانی‌شدهمیزبانی‌شده
استنتاج شامل استخیر. شما به هر ارائه‌دهنده پول می‌دهیدفقط سطوح رایگان ارائه‌دهندگان را فراخوانی می‌کنداعتبار پولی، به همراه برخی مدل‌های رایگان با سقف روزانهخیر. کلیدهای ارائه‌دهنده را خودتان می‌آورید
ردیابی سطح رایگانخیربله، یک کاتالوگ امضاشده از مدل‌ها و محدودیت‌های رایگانفقط مدل‌های رایگان خودشخیر
چندکاربره و کلیدهای مجازیبلهخیر. طراحی آن تک‌کاربره است--
قالب‌های APIسازگار با OpenAIOpenAI، Anthropic، Gemini و Ollamaسازگار با OpenAIسازگار با OpenAI
بهترین کاربردتیم‌هایی که به ارائه‌دهندگان پول می‌دهندیک توسعه‌دهنده که استنتاج 0 دلاری می‌خواهدمدل‌های پیشرفته پولی در یک صورتحسابتیم‌هایی که یک درگاه مدیریت‌شده می‌خواهند

برای جزئیات بیشتر، FreeLLMAPI vs LiteLLM، FreeLLMAPI vs OpenRouter و free LLM API gateways compared را بخوانید.

وقتی FreeLLMAPI انتخاب بهتری است

FreeLLMAPI گزینه رایگان و میزبانی‌شده روی سرور خودتان است. این یک روتر متن‌باز است که سطوح رایگان ارائه‌دهندگان را پشت یک کلید سازگار با OpenAI و یک کلید سازگار با Anthropic جمع می‌کند. امروز کاتالوگ آن 487 مدل رایگان از 45 ارائه‌دهنده را فهرست می‌کند.

  • این برنامه شمارنده‌های هر کلید را برای درخواست‌ها و توکن‌ها، در دقیقه و در روز نگه می‌دارد، تا مسیریابی زیر هر محدودیت رایگان بماند.
  • با خطای 429 یا 5xx، کلید را در دوره استراحت قرار می‌دهد و مدل بعدی زنجیره شما را امتحان می‌کند.
  • کاتالوگ مدل‌های خود را از یک فید امضاشده به‌روز می‌کند، پس مدل‌های رایگان جدید و تغییرات سهمیه بدون به‌روزرسانی کد می‌رسند.
  • /v1/chat/completions، /v1/responses، /v1/messages، embedding، تصویر و گفتار را ارائه می‌دهد.
  • کلیدهای ارائه‌دهنده با AES-256-GCM در یک پایگاه داده SQLite محلی رمزگذاری می‌شوند.
ارائه‌دهندهمدل‌های رایگانحداکثر درخواست در دقیقهحداکثر درخواست در روزحداکثر توکن در دقیقهتوکن در ماه (یک مدل)قوی‌ترین مدل رایگان
ElectronHub84---$0.25/week shared recurring creditQwen3.8 Flash (ElectronHub)
qwen3.8-flash
Cloudflare Workers AI39---~5-10MQwen 3.8 27B (Cloudflare Workers AI)
@cf/qwen/qwen3.8-27b
Inferbase38---5,000 requests/month; 100 requests and $0.50 usage/day sharedDeepSeek V4 Flash (fp8) (Inferbase)
deepseek-v4-flash:fp8
AI Horde31---Ongoing volunteer queue; availability variesGemma 4 31B Heretic (AI Horde)
koboldcpp/gemma-4-31B-it-heretic
ACLIDE29---€20/month shared internal usage credits · no cardQwen3.8 Max (ACLIDE)
qwen/qwen3.8-max:free
Google AI Studio21151,000250,000~3MGemini 3.8 Flash
gemini-3.8-flash
Api.Airforce2011,000-free · 1,000 req/day · 1 req/mingpt-oss-20b (Api.Airforce)
gpt-oss-20b
NVIDIA NIM1940--free · 40 RPMGLM 5.3 Flash (NV)
z-ai/glm-5.3-flash
Cohere172033-~1-2MCommand A+ (05-2026)
command-a-plus-05-2026
DreamPrompting141005,000-free · 500K tokens/day · 5,000 req/dayGemini 3.1 Flash-Lite
google/gemini-3.1-flash-lite
Mistral122-500,000~50-100MMistral Code
mistral-code-latest
ModelScope11-200-Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experienceGLM-5.2 (ModelScope)
ZhipuAI/GLM-5.2

داده‌های زنده از کاتالوگ FreeLLMAPI (نسخه 2026.11.19، بررسی‌شده در 2026-11-19). محدودیت‌های رایگان اغلب تغییر می‌کنند. کاتالوگ هر روز بررسی می‌شود.

وقتی LiteLLM هنوز انتخاب بهتری است

  • کاربران زیاد: FreeLLMAPI احراز هویت چندمستأجره ندارد. مستندات آن می‌گوید آن را برای خودتان اجرا کنید و در معرض اینترنت قرار ندهید.
  • بودجه برای هر تیم: LiteLLM بودجه برای هر کلید، تیم و کاربر دارد. FreeLLMAPI فقط سقف ماهانه برای هر کلید ارائه‌دهنده دارد.
  • مدل‌های پیشرفته پولی: سطوح رایگان دسترسی پایدار به قوی‌ترین مدل‌ها نمی‌دهند. LiteLLM درخواست‌ها را به هر حساب پولی می‌فرستد.
  • سطح سرویس: سطوح رایگان SLA ندارند. برای اعتماد به تولید، از ارائه‌دهندگان پولی استفاده کنید.

می‌توانید هر دو را اجرا کنید. LiteLLM را برای ترافیک تولیدی پولی استفاده کنید. FreeLLMAPI را برای توسعه، آزمایش و کارهای دسته‌ای استفاده کنید که نباید هزینه داشته باشند. FreeLLMAPI همچنین می‌تواند هر نقطه پایانی سازگار با OpenAI را به عنوان ارائه‌دهنده سفارشی اضافه کند.

انتقال از LiteLLM به FreeLLMAPI

  1. FreeLLMAPI را با نصب‌کننده یک‌خطی نصب کنید.
  2. داشبورد را در http://localhost:3001 باز کنید و کلیدهای ارائه‌دهنده رایگان خود را در صفحه Keys اضافه کنید.
  3. کلید یکپارچه را از صفحه Keys کپی کنید.
  4. در برنامه خود، آدرس پایه را از پروکسی LiteLLM به http://localhost:3001/v1 تغییر دهید.
  5. نام مدل‌ها را به auto یا به شناسه‌های مدل کاتالوگ تغییر دهید.

نصب و آزمایش

curl -fsSL https://freellmapi.co/install.sh | bash

curl http://localhost:3001/v1/chat/completions \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "auto", "messages": [{"role": "user", "content": "Hello"}]}'
هر یک از این‌ها را با یک کلید استفاده کنید. FreeLLMAPI یک روتر متن‌باز و میزبانی‌شده روی سرور خودتان است. این روتر همه این سطوح رایگان را پشت یک نقطه پایانی سازگار با OpenAI قرار می‌دهد و وقتی یک سرویس به محدودیت نرخ برسد، به سرویس بعدی منتقل می‌شود. مرور کاتالوگ یا اجرای زنده.

پرسش‌های متداول

بهترین جایگزین رایگان برای LiteLLM کدام است؟

اگر استنتاج رایگان می‌خواهید، از یک درگاه استفاده کنید که سطوح رایگان ارائه‌دهندگان را جمع می‌کند، مانند FreeLLMAPI. اگر نرم‌افزار رایگان برای ارائه‌دهندگان پولی می‌خواهید، خود LiteLLM از قبل رایگان و متن‌باز است.

آیا LiteLLM رایگان است؟

SDK و پروکسی متن‌باز هستند و اجرای آن‌ها رایگان است. توکنی در آن‌ها نیست، پس هر درخواست از سوی ارائه‌دهنده‌ای که کلید آن را اضافه کرده‌اید صورتحساب می‌شود.

آیا جایگزین میزبانی‌شده‌ای برای LiteLLM وجود دارد؟

بله. OpenRouter و Portkey درگاه‌های میزبانی‌شده هستند. OpenRouter اعتبار برای مدل‌های زیاد می‌فروشد. Portkey یک درگاه مدیریت‌شده است که در آن کلیدهای ارائه‌دهنده را خودتان می‌آورید.

آیا FreeLLMAPI مثل LiteLLM از کلیدهای مجازی پشتیبانی می‌کند؟

خیر. FreeLLMAPI طبق طراحی تک‌کاربره است، با یک کلید یکپارچه و کلیدهای اختیاری پروفایل کلاینت. سقف ماهانه برای هر کلید ارائه‌دهنده دارد، نه بودجه برای هر کاربر یا تیم.

آیا می‌توانم LiteLLM و FreeLLMAPI را با هم استفاده کنم؟

بله. FreeLLMAPI یک نقطه پایانی سازگار با OpenAI ارائه می‌دهد، پس می‌توانید آن را به عنوان یک استقرار دیگر در LiteLLM برای ترافیکی اضافه کنید که نباید هزینه داشته باشد.

راهنماهای مرتبط

منابع

همه راهنماها · مرور همه مدل‌های رایگان