LiteLLM மாற்று
LiteLLM என்பது திறந்த மூல Python SDK மற்றும் proxy சேவையகம். அது 100+ LLM-களை ஒரே OpenAI பாணி இடைமுகத்தின் பின்னால் வைக்கிறது. வழங்குநர்களுக்குப் பணம் செலுத்தும் குழுக்களுக்கு இது நல்ல நுழைவாயில். உங்கள் நோக்கம் இலவச அனுமானம் என்றால், அது தானாக உதவாது, ஏனெனில் அதில் டோக்கன்கள் சேர்க்கப்படவில்லை. LiteLLM எப்போது பொருந்தும், மாற்று எப்போது சிறந்தது, விருப்பங்கள் எவ்வாறு ஒப்பிடுகின்றன என்பதை இந்த வழிகாட்டி விளக்குகிறது.
குறியீடு, மாதிரிப் பெயர்கள் மற்றும் நேரடி பட்டியல் லேபிள்கள் ஆங்கிலத்தில் காட்டப்படுகின்றன.
LiteLLM எதில் சிறந்தது
LiteLLM ஆவணங்கள் இரண்டு பகுதிகளை விவரிக்கின்றன. Python SDK ஒரே இடைமுகத்தின் மூலம் பல வழங்குநர்களை அழைக்கிறது. proxy சேவையகம் என்பது எந்த OpenAI-இணக்கமான கிளையன்ட்டும் பயன்படுத்தக்கூடிய நீங்களே நிறுவும் நுழைவாயில்.
- மெய்நிகர் விசைகள், ஒவ்வொரு விசைக்கும், குழுவுக்கும், பயனருக்கும் பட்ஜெட்டுடன்.
- செலவு கண்காணிப்பு, வழங்குநர்கள் முழுவதும் ஒவ்வொரு விசைக்கும், குழுவுக்கும், பயனருக்கும்.
- சுமை சமநிலைப்படுத்தல், தானியங்கு மாற்றுகளுடன் வரிசைப்படுத்தல்களுக்கு இடையே.
- கண்காணிப்பு callbacks, Langfuse, MLflow மற்றும் Helicone போன்ற கருவிகளுக்கு.
- Guardrails, உள்ளடக்க வடிகட்டிகள், PII மறைத்தல் மற்றும் பாதுகாப்புச் சோதனைகளுக்கு.
- நிர்வாக UI, விசைகளுக்கும் செலவு கண்காணிப்புக்கும்.
இந்த அம்சங்கள் பகிரப்பட்ட கட்டண வழங்குநர் கணக்குகளைப் பயன்படுத்தும் குழுக்களுக்கானவை. உங்கள் நிலை அதுவாக இருந்தால், LiteLLM ஒரு வலுவான தேர்வு, உங்களுக்கு மாற்று தேவைப்படாமல் போகலாம்.
மக்கள் ஏன் மாற்று தேடுகிறார்கள்
- இலவச டோக்கன்கள் இல்லை: நீங்கள் வழங்கும் விசைகளுடன் LiteLLM வழங்குநர்களுக்கு வழிநடத்துகிறது. ஒவ்வொரு டோக்கனும் அந்த விசையின் வழங்குநரால் கட்டணம் வசூலிக்கப்படுகிறது.
- இலவச அடுக்குகள் கைமுறை வேலை: இந்த வாரம் எந்த மாதிரிகள் இலவசம் என்றோ ஒவ்வொரு வழங்குநரின் இலவச வரம்புகள் என்னவென்றோ LiteLLM கண்காணிப்பதில்லை. அவற்றைக் கண்டறிந்து கட்டமைப்பைப் புதுப்பித்து வைக்க வேண்டும்.
- ஒரு நபருக்கான அமைப்பு: குழு அம்சங்கள் ஒரு தனி டெவலப்பருக்குத் தேவைப்படாத பகுதிகளைச் சேர்க்கின்றன.
- பிற API வடிவங்கள்: சில கருவிகளுக்கு OpenAI வடிவம் மட்டுமல்லாமல் Anthropic, Gemini அல்லது Ollama வடிவம் தேவை.
சரியான மாற்று, இவற்றில் எது உங்கள் சிக்கல் என்பதைப் பொறுத்தது. அடுத்த பிரிவு விருப்பங்களைத் தருகிறது.
மாற்றுகளின் ஒப்பீடு
| - | LiteLLM | FreeLLMAPI | OpenRouter | Portkey |
|---|---|---|---|---|
| அது என்ன | திறந்த மூல SDK மற்றும் proxy | இலவச அடுக்குகளுக்கான திறந்த மூல நுழைவாயில் | ஒரே கட்டணத்துடன் கூடிய hosted நுழைவாயில் | Hosted AI நுழைவாயில் |
| எங்கே இயங்குகிறது | நீங்களே நிறுவுவது | நீங்களே நிறுவுவது (Docker, டெஸ்க்டாப் செயலி அல்லது Node) | Hosted | Hosted |
| அனுமானம் சேர்க்கப்பட்டுள்ளதா | இல்லை. ஒவ்வொரு வழங்குநருக்கும் நீங்கள் கட்டணம் செலுத்துகிறீர்கள் | வழங்குநர்களின் இலவச அடுக்குகளை மட்டுமே அழைக்கிறது | கட்டண வரவுகள், அத்துடன் தினசரி உச்சவரம்புடன் சில இலவச மாதிரிகள் | இல்லை. வழங்குநர் விசைகளை நீங்களே கொண்டு வருகிறீர்கள் |
| இலவச அடுக்கு கண்காணிப்பு | இல்லை | ஆம், இலவச மாதிரிகள் மற்றும் வரம்புகளின் கையொப்பமிட்ட பட்டியல் | அதன் சொந்த இலவச மாதிரிகள் மட்டும் | இல்லை |
| பல பயனர்களும் மெய்நிகர் விசைகளும் | ஆம் | இல்லை. வடிவமைப்பின்படி ஒற்றைப் பயனர் | - | - |
| API வடிவங்கள் | OpenAI-இணக்கமானது | OpenAI, Anthropic, Gemini மற்றும் Ollama | OpenAI-இணக்கமானது | OpenAI-இணக்கமானது |
| சிறந்தது | வழங்குநர்களுக்குப் பணம் செலுத்தும் குழுக்கள் | $0 அனுமானம் வேண்டும் ஒரு டெவலப்பர் | ஒரே கட்டணத்தில் கட்டண முன்னணி மாதிரிகள் | நிர்வகிக்கப்பட்ட நுழைவாயில் வேண்டும் குழுக்கள் |
மேலும் விவரங்களுக்கு, FreeLLMAPI vs LiteLLM, FreeLLMAPI vs OpenRouter மற்றும் free LLM API gateways compared ஆகியவற்றைப் படிக்கவும்.
FreeLLMAPI சிறந்த பொருத்தமாக எப்போது உள்ளது
FreeLLMAPI என்பது இலவச, நீங்களே நிறுவும் பார்வை. இது திறந்த மூல ரூட்டர், ஒரு OpenAI-இணக்கமான விசைக்கும் ஒரு Anthropic-இணக்கமான விசைக்கும் பின்னால் வழங்குநர்களின் இலவச அடுக்குகளை இணைக்கிறது. இன்று அதன் பட்டியல் 45 வழங்குநர்களிடமிருந்து 487 இலவச மாதிரிகளைப் பட்டியலிடுகிறது.
- இது ஒவ்வொரு விசைக்கும் கோரிக்கைகள் மற்றும் டோக்கன்களுக்கான எண்ணிக்கைகளை, நிமிடத்துக்கும் நாளுக்கும், வைத்திருக்கிறது, அதனால் ஒவ்வொரு இலவச வரம்பிற்குள்ளும் வழித்தேர்வு இருக்கும்.
- 429 அல்லது 5xx பிழையில், அது விசையைக் குளிர்வு நிலையில் வைத்து, உங்கள் சங்கிலியில் அடுத்த மாதிரியை முயல்கிறது.
- அது கையொப்பமிட்ட feed இலிருந்து தன் மாதிரிப் பட்டியலைப் புதுப்பிக்கிறது, அதனால் புதிய இலவச மாதிரிகளும் ஒதுக்கீட்டு மாற்றங்களும் குறியீட்டுப் புதுப்பிப்பு இல்லாமல் வருகின்றன.
- அது
/v1/chat/completions,/v1/responses,/v1/messages, embeddings, படங்கள் மற்றும் பேச்சுச் சேவையை வழங்குகிறது. - வழங்குநர் விசைகள் உள்ளூர் SQLite தரவுத்தளத்தில் AES-256-GCM மூலம் குறியாக்கம் செய்யப்படுகின்றன.
| வழங்குநர் | இலவச மாதிரிகள் | அதிகபட்ச கோரிக்கை/நிமிடம் | அதிகபட்ச கோரிக்கை/நாள் | அதிகபட்ச டோக்கன்/நிமிடம் | டோக்கன்/மாதம் (ஒரு மாதிரி) | வலிமையான இலவச மாதிரி |
|---|---|---|---|---|---|---|
| ElectronHub | 84 | - | - | - | $0.25/week shared recurring credit | Qwen3.8 Flash (ElectronHub)qwen3.8-flash |
| Cloudflare Workers AI | 39 | - | - | - | ~5-10M | Qwen 3.8 27B (Cloudflare Workers AI)@cf/qwen/qwen3.8-27b |
| Inferbase | 38 | - | - | - | 5,000 requests/month; 100 requests and $0.50 usage/day shared | DeepSeek V4 Flash (fp8) (Inferbase)deepseek-v4-flash:fp8 |
| AI Horde | 31 | - | - | - | Ongoing volunteer queue; availability varies | Gemma 4 31B Heretic (AI Horde)koboldcpp/gemma-4-31B-it-heretic |
| ACLIDE | 29 | - | - | - | €20/month shared internal usage credits · no card | Qwen3.8 Max (ACLIDE)qwen/qwen3.8-max:free |
| Google AI Studio | 21 | 15 | 1,000 | 250,000 | ~3M | Gemini 3.8 Flashgemini-3.8-flash |
| Api.Airforce | 20 | 1 | 1,000 | - | free · 1,000 req/day · 1 req/min | gpt-oss-20b (Api.Airforce)gpt-oss-20b |
| NVIDIA NIM | 19 | 40 | - | - | free · 40 RPM | GLM 5.3 Flash (NV)z-ai/glm-5.3-flash |
| Cohere | 17 | 20 | 33 | - | ~1-2M | Command A+ (05-2026)command-a-plus-05-2026 |
| DreamPrompting | 14 | 100 | 5,000 | - | free · 500K tokens/day · 5,000 req/day | Gemini 3.1 Flash-Litegoogle/gemini-3.1-flash-lite |
| Mistral | 12 | 2 | - | 500,000 | ~50-100M | Mistral Codemistral-code-latest |
| ModelScope | 11 | - | 200 | - | Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experience | GLM-5.2 (ModelScope)ZhipuAI/GLM-5.2 |
FreeLLMAPI பட்டியலிலிருந்து நேரடி தரவு (பதிப்பு 2026.11.19, சரிபார்க்கப்பட்டது 2026-11-19). இலவச வரம்புகள் அடிக்கடி மாறும். பட்டியல் ஒவ்வொரு நாளும் சரிபார்க்கப்படுகிறது.
LiteLLM இன்னும் சிறந்த பொருத்தமாக எப்போது உள்ளது
- பல பயனர்கள்: FreeLLMAPI-இல் பல-குத்தகைதாரர் அங்கீகாரம் இல்லை. அதை உங்களுக்காக இயக்குங்கள், இணையத்தில் வெளிப்படுத்த வேண்டாம் என்று அதன் ஆவணங்கள் கூறுகின்றன.
- குழு வாரியான பட்ஜெட்டுகள்: LiteLLM-இல் ஒவ்வொரு விசைக்கும், குழுவுக்கும், பயனருக்கும் பட்ஜெட்டுகள் உண்டு. FreeLLMAPI-இல் ஒவ்வொரு வழங்குநர் விசைக்கும் மட்டுமே மாதாந்திர உச்சவரம்புகள் உள்ளன.
- கட்டண முன்னணி மாதிரிகள்: இலவச அடுக்குகள் வலிமையான மாதிரிகளுக்கு நிலையான அணுகலைத் தருவதில்லை. LiteLLM எந்த கட்டணக் கணக்குக்கும் வழிநடத்துகிறது.
- சேவை நிலை: இலவச அடுக்குகளுக்கு SLA இல்லை. உற்பத்தி நம்பகத்தன்மைக்கு, கட்டண வழங்குநர்களைப் பயன்படுத்தவும்.
இரண்டையும் இயக்கலாம். கட்டண உற்பத்திப் போக்குவரத்துக்கு LiteLLM-ஐப் பயன்படுத்தவும். பணம் செலவாகக் கூடாத மேம்பாடு, சோதனைகள் மற்றும் தொகுப்பு வேலைகளுக்கு FreeLLMAPI-ஐப் பயன்படுத்தவும். எந்த OpenAI-இணக்கமான இறுதிப்புள்ளியையும் தனிப்பயன் வழங்குநராக FreeLLMAPI-இலும் சேர்க்கலாம்.
LiteLLM-இலிருந்து FreeLLMAPI-க்கு மாறவும்
- ஒரு வரி நிறுவியின் மூலம் FreeLLMAPI-ஐ நிறுவவும்.
http://localhost:3001இல் டாஷ்போர்டைத் திறந்து, Keys பக்கத்தில் உங்கள் இலவச வழங்குநர் விசைகளைச் சேர்க்கவும்.- Keys பக்கத்திலிருந்து ஒருங்கிணைந்த விசையை நகலெடுக்கவும்.
- உங்கள் செயலியில், அடிப்படை URL ஐ LiteLLM proxy யிலிருந்து
http://localhost:3001/v1ஆக மாற்றவும். - மாதிரிப் பெயர்களை
autoஆகவோ பட்டியல் மாதிரி id களாகவோ மாற்றவும்.
நிறுவி சோதிக்கவும்
curl -fsSL https://freellmapi.co/install.sh | bash
curl http://localhost:3001/v1/chat/completions \
-H "Authorization: Bearer <unified-key>" \
-H "Content-Type: application/json" \
-d '{"model": "auto", "messages": [{"role": "user", "content": "Hello"}]}'அடிக்கடி கேட்கப்படும் கேள்விகள்
LiteLLM-க்கு சிறந்த இலவச மாற்று எது?
இலவச அனுமானம் வேண்டுமென்றால், FreeLLMAPI போல வழங்குநர்களின் இலவச அடுக்குகளை இணைக்கும் நுழைவாயிலைப் பயன்படுத்தவும். கட்டண வழங்குநர்களுக்கான இலவச மென்பொருள் வேண்டுமென்றால், LiteLLM ஏற்கெனவே இலவசமும் திறந்த மூலமுமானது.
LiteLLM இலவசமா?
SDK மற்றும் proxy திறந்த மூலமானவை, இயக்க இலவசம். அவற்றில் டோக்கன்கள் சேர்க்கப்படவில்லை, அதனால் ஒவ்வொரு கோரிக்கைக்கும் நீங்கள் சேர்த்த விசையின் வழங்குநரால் கட்டணம் வசூலிக்கப்படுகிறது.
LiteLLM-க்கு hosted மாற்று உள்ளதா?
ஆம். OpenRouter மற்றும் Portkey hosted நுழைவாயில்கள். OpenRouter பல மாதிரிகளுக்கான வரவுகளை விற்கிறது. Portkey என்பது நீங்கள் வழங்குநர் விசைகளைக் கொண்டு வரும் நிர்வகிக்கப்பட்ட நுழைவாயில்.
FreeLLMAPI, LiteLLM போன்ற மெய்நிகர் விசைகளை ஆதரிக்குமா?
இல்லை. FreeLLMAPI வடிவமைப்பின்படி ஒற்றைப் பயனருக்கானது, ஒரு ஒருங்கிணைந்த விசையும் விருப்பத்தேர்வு கிளையன்ட் சுயவிவர விசைகளும் உண்டு. அதில் ஒவ்வொரு வழங்குநர் விசைக்கும் மாதாந்திர உச்சவரம்புகள் உள்ளன, பயனர் அல்லது குழு வாரியான பட்ஜெட்டுகள் அல்ல.
LiteLLM மற்றும் FreeLLMAPI-ஐ ஒன்றாகப் பயன்படுத்தலாமா?
ஆம். FreeLLMAPI ஒரு OpenAI-இணக்கமான இறுதிப்புள்ளியை வெளிப்படுத்துகிறது, அதனால் எந்தச் செலவும் ஆகக்கூடாத போக்குவரத்துக்கு அதை LiteLLM-இல் மற்றொரு வரிசைப்படுத்தலாகச் சேர்க்கலாம்.
தொடர்புடைய வழிகாட்டிகள்
- freellmapi vs litellm
- free llm api gateways compared
- Helicone-க்கு மாற்று
- portkey alternative
- openrouter free alternative
- இலவச OpenAI-compatible API base URLs
ஆதாரங்கள்
- LiteLLM docs: Getting started (சரிபார்க்கப்பட்டது 20 November 2026)
- FreeLLMAPI README: features and how it compares (சரிபார்க்கப்பட்டது 20 November 2026)
- FreeLLMAPI docs: Architecture, limitations and scope (சரிபார்க்கப்பட்டது 20 November 2026)
- FreeLLMAPI docs: Monthly provider-key budgets (சரிபார்க்கப்பட்டது 20 November 2026)
அனைத்து வழிகாட்டிகள் · அனைத்து இலவச மாதிரிகளையும் பார்க்கவும்