جایگزین LiteLLM
LiteLLM یک SDK و سرور پروکسی متنباز در Python است که بیش از 100 LLM را پشت یک رابط به سبک OpenAI قرار میدهد. برای تیمهایی که به ارائهدهندگان پول میپردازند، درگاه خوبی است. اگر هدف شما استنتاج رایگان است، به تنهایی کمکی نمیکند، زیرا توکنی در آن نیست. این راهنما توضیح میدهد که LiteLLM کی مناسب است، کی یک جایگزین بهتر است، و گزینهها چگونه مقایسه میشوند.
کد، نام مدلها و برچسبهای زندهٔ کاتالوگ به زبان انگلیسی نمایش داده میشوند.
کارهایی که LiteLLM خوب انجام میدهد
مستندات LiteLLM دو بخش را توصیف میکند. SDK در Python، از طریق یک رابط، چند ارائهدهنده را فراخوانی میکند. سرور پروکسی یک درگاه میزبانیشده روی سرور خودتان است که هر کلاینت سازگار با OpenAI میتواند از آن استفاده کند.
- کلیدهای مجازی با بودجه برای هر کلید، هر تیم و هر کاربر.
- ردیابی هزینه برای هر کلید، تیم و کاربر در همه ارائهدهندگان.
- توزیع بار بین استقرارها، با جایگزینی خودکار.
- callbackهای مشاهدهپذیری برای ابزارهایی مانند Langfuse، MLflow و Helicone.
- Guardrails برای فیلتر محتوا، پوشاندن PII و بررسیهای ایمنی.
- رابط مدیریت برای کلیدها و ردیابی هزینه.
این قابلیتها برای تیمهایی است که حسابهای پولی ارائهدهنده را مشترک استفاده میکنند. اگر وضعیت شما این است، LiteLLM انتخاب قوی است و شاید به جایگزین نیاز نداشته باشید.
چرا افراد دنبال جایگزین میگردند
- توکن رایگان ندارد: LiteLLM درخواستها را با کلیدهایی که شما میدهید به ارائهدهندگان میفرستد. هر توکن از سوی ارائهدهنده همان کلید صورتحساب میشود.
- سطوح رایگان کار دستی است: LiteLLM نمیشمارد کدام مدلها این هفته رایگان هستند، یا محدودیتهای رایگان هر ارائهدهنده چیست. شما باید آنها را پیدا کنید و پیکربندی را بهروز نگه دارید.
- راهاندازی برای یک نفر: قابلیتهای تیمی بخشهایی اضافه میکنند که شاید یک توسعهدهنده تنها به آنها نیاز نداشته باشد.
- قالبهای دیگر API: برخی ابزارها به قالب Anthropic، Gemini یا Ollama نیاز دارند، نه فقط قالب OpenAI.
جایگزین مناسب به این بستگی دارد که کدام مورد مشکل شماست. بخش بعد گزینهها را نشان میدهد.
مقایسه جایگزینها
| - | LiteLLM | FreeLLMAPI | OpenRouter | Portkey |
|---|---|---|---|---|
| چیست | SDK و پروکسی متنباز | درگاه متنباز برای سطوح رایگان | درگاه میزبانیشده با یک صورتحساب | درگاه میزبانیشده هوش مصنوعی |
| کجا اجرا میشود | روی سرور خودتان | روی سرور خودتان (Docker، برنامه دسکتاپ یا Node) | میزبانیشده | میزبانیشده |
| استنتاج شامل است | خیر. شما به هر ارائهدهنده پول میدهید | فقط سطوح رایگان ارائهدهندگان را فراخوانی میکند | اعتبار پولی، به همراه برخی مدلهای رایگان با سقف روزانه | خیر. کلیدهای ارائهدهنده را خودتان میآورید |
| ردیابی سطح رایگان | خیر | بله، یک کاتالوگ امضاشده از مدلها و محدودیتهای رایگان | فقط مدلهای رایگان خودش | خیر |
| چندکاربره و کلیدهای مجازی | بله | خیر. طراحی آن تککاربره است | - | - |
| قالبهای API | سازگار با OpenAI | OpenAI، Anthropic، Gemini و Ollama | سازگار با OpenAI | سازگار با OpenAI |
| بهترین کاربرد | تیمهایی که به ارائهدهندگان پول میدهند | یک توسعهدهنده که استنتاج 0 دلاری میخواهد | مدلهای پیشرفته پولی در یک صورتحساب | تیمهایی که یک درگاه مدیریتشده میخواهند |
برای جزئیات بیشتر، FreeLLMAPI vs LiteLLM، FreeLLMAPI vs OpenRouter و free LLM API gateways compared را بخوانید.
وقتی FreeLLMAPI انتخاب بهتری است
FreeLLMAPI گزینه رایگان و میزبانیشده روی سرور خودتان است. این یک روتر متنباز است که سطوح رایگان ارائهدهندگان را پشت یک کلید سازگار با OpenAI و یک کلید سازگار با Anthropic جمع میکند. امروز کاتالوگ آن 487 مدل رایگان از 45 ارائهدهنده را فهرست میکند.
- این برنامه شمارندههای هر کلید را برای درخواستها و توکنها، در دقیقه و در روز نگه میدارد، تا مسیریابی زیر هر محدودیت رایگان بماند.
- با خطای 429 یا 5xx، کلید را در دوره استراحت قرار میدهد و مدل بعدی زنجیره شما را امتحان میکند.
- کاتالوگ مدلهای خود را از یک فید امضاشده بهروز میکند، پس مدلهای رایگان جدید و تغییرات سهمیه بدون بهروزرسانی کد میرسند.
/v1/chat/completions،/v1/responses،/v1/messages، embedding، تصویر و گفتار را ارائه میدهد.- کلیدهای ارائهدهنده با AES-256-GCM در یک پایگاه داده SQLite محلی رمزگذاری میشوند.
| ارائهدهنده | مدلهای رایگان | حداکثر درخواست در دقیقه | حداکثر درخواست در روز | حداکثر توکن در دقیقه | توکن در ماه (یک مدل) | قویترین مدل رایگان |
|---|---|---|---|---|---|---|
| ElectronHub | 84 | - | - | - | $0.25/week shared recurring credit | Qwen3.8 Flash (ElectronHub)qwen3.8-flash |
| Cloudflare Workers AI | 39 | - | - | - | ~5-10M | Qwen 3.8 27B (Cloudflare Workers AI)@cf/qwen/qwen3.8-27b |
| Inferbase | 38 | - | - | - | 5,000 requests/month; 100 requests and $0.50 usage/day shared | DeepSeek V4 Flash (fp8) (Inferbase)deepseek-v4-flash:fp8 |
| AI Horde | 31 | - | - | - | Ongoing volunteer queue; availability varies | Gemma 4 31B Heretic (AI Horde)koboldcpp/gemma-4-31B-it-heretic |
| ACLIDE | 29 | - | - | - | €20/month shared internal usage credits · no card | Qwen3.8 Max (ACLIDE)qwen/qwen3.8-max:free |
| Google AI Studio | 21 | 15 | 1,000 | 250,000 | ~3M | Gemini 3.8 Flashgemini-3.8-flash |
| Api.Airforce | 20 | 1 | 1,000 | - | free · 1,000 req/day · 1 req/min | gpt-oss-20b (Api.Airforce)gpt-oss-20b |
| NVIDIA NIM | 19 | 40 | - | - | free · 40 RPM | GLM 5.3 Flash (NV)z-ai/glm-5.3-flash |
| Cohere | 17 | 20 | 33 | - | ~1-2M | Command A+ (05-2026)command-a-plus-05-2026 |
| DreamPrompting | 14 | 100 | 5,000 | - | free · 500K tokens/day · 5,000 req/day | Gemini 3.1 Flash-Litegoogle/gemini-3.1-flash-lite |
| Mistral | 12 | 2 | - | 500,000 | ~50-100M | Mistral Codemistral-code-latest |
| ModelScope | 11 | - | 200 | - | Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experience | GLM-5.2 (ModelScope)ZhipuAI/GLM-5.2 |
دادههای زنده از کاتالوگ FreeLLMAPI (نسخه 2026.11.19، بررسیشده در 2026-11-19). محدودیتهای رایگان اغلب تغییر میکنند. کاتالوگ هر روز بررسی میشود.
وقتی LiteLLM هنوز انتخاب بهتری است
- کاربران زیاد: FreeLLMAPI احراز هویت چندمستأجره ندارد. مستندات آن میگوید آن را برای خودتان اجرا کنید و در معرض اینترنت قرار ندهید.
- بودجه برای هر تیم: LiteLLM بودجه برای هر کلید، تیم و کاربر دارد. FreeLLMAPI فقط سقف ماهانه برای هر کلید ارائهدهنده دارد.
- مدلهای پیشرفته پولی: سطوح رایگان دسترسی پایدار به قویترین مدلها نمیدهند. LiteLLM درخواستها را به هر حساب پولی میفرستد.
- سطح سرویس: سطوح رایگان SLA ندارند. برای اعتماد به تولید، از ارائهدهندگان پولی استفاده کنید.
میتوانید هر دو را اجرا کنید. LiteLLM را برای ترافیک تولیدی پولی استفاده کنید. FreeLLMAPI را برای توسعه، آزمایش و کارهای دستهای استفاده کنید که نباید هزینه داشته باشند. FreeLLMAPI همچنین میتواند هر نقطه پایانی سازگار با OpenAI را به عنوان ارائهدهنده سفارشی اضافه کند.
انتقال از LiteLLM به FreeLLMAPI
- FreeLLMAPI را با نصبکننده یکخطی نصب کنید.
- داشبورد را در
http://localhost:3001باز کنید و کلیدهای ارائهدهنده رایگان خود را در صفحه Keys اضافه کنید. - کلید یکپارچه را از صفحه Keys کپی کنید.
- در برنامه خود، آدرس پایه را از پروکسی LiteLLM به
http://localhost:3001/v1تغییر دهید. - نام مدلها را به
autoیا به شناسههای مدل کاتالوگ تغییر دهید.
نصب و آزمایش
curl -fsSL https://freellmapi.co/install.sh | bash
curl http://localhost:3001/v1/chat/completions \
-H "Authorization: Bearer <unified-key>" \
-H "Content-Type: application/json" \
-d '{"model": "auto", "messages": [{"role": "user", "content": "Hello"}]}'پرسشهای متداول
بهترین جایگزین رایگان برای LiteLLM کدام است؟
اگر استنتاج رایگان میخواهید، از یک درگاه استفاده کنید که سطوح رایگان ارائهدهندگان را جمع میکند، مانند FreeLLMAPI. اگر نرمافزار رایگان برای ارائهدهندگان پولی میخواهید، خود LiteLLM از قبل رایگان و متنباز است.
آیا LiteLLM رایگان است؟
SDK و پروکسی متنباز هستند و اجرای آنها رایگان است. توکنی در آنها نیست، پس هر درخواست از سوی ارائهدهندهای که کلید آن را اضافه کردهاید صورتحساب میشود.
آیا جایگزین میزبانیشدهای برای LiteLLM وجود دارد؟
بله. OpenRouter و Portkey درگاههای میزبانیشده هستند. OpenRouter اعتبار برای مدلهای زیاد میفروشد. Portkey یک درگاه مدیریتشده است که در آن کلیدهای ارائهدهنده را خودتان میآورید.
آیا FreeLLMAPI مثل LiteLLM از کلیدهای مجازی پشتیبانی میکند؟
خیر. FreeLLMAPI طبق طراحی تککاربره است، با یک کلید یکپارچه و کلیدهای اختیاری پروفایل کلاینت. سقف ماهانه برای هر کلید ارائهدهنده دارد، نه بودجه برای هر کاربر یا تیم.
آیا میتوانم LiteLLM و FreeLLMAPI را با هم استفاده کنم؟
بله. FreeLLMAPI یک نقطه پایانی سازگار با OpenAI ارائه میدهد، پس میتوانید آن را به عنوان یک استقرار دیگر در LiteLLM برای ترافیکی اضافه کنید که نباید هزینه داشته باشد.
راهنماهای مرتبط
- freellmapi vs litellm
- free llm api gateways compared
- جایگزین Helicone
- portkey alternative
- openrouter free alternative
- آدرسهای پایه API سازگار با OpenAI رایگان
منابع
- LiteLLM docs: Getting started (بررسیشده در 20 November 2026)
- FreeLLMAPI README: features and how it compares (بررسیشده در 20 November 2026)
- FreeLLMAPI docs: Architecture, limitations and scope (بررسیشده در 20 November 2026)
- FreeLLMAPI docs: Monthly provider-key budgets (بررسیشده در 20 November 2026)