LiteLLM மாற்று

LiteLLM என்பது திறந்த மூல Python SDK மற்றும் proxy சேவையகம். அது 100+ LLM-களை ஒரே OpenAI பாணி இடைமுகத்தின் பின்னால் வைக்கிறது. வழங்குநர்களுக்குப் பணம் செலுத்தும் குழுக்களுக்கு இது நல்ல நுழைவாயில். உங்கள் நோக்கம் இலவச அனுமானம் என்றால், அது தானாக உதவாது, ஏனெனில் அதில் டோக்கன்கள் சேர்க்கப்படவில்லை. LiteLLM எப்போது பொருந்தும், மாற்று எப்போது சிறந்தது, விருப்பங்கள் எவ்வாறு ஒப்பிடுகின்றன என்பதை இந்த வழிகாட்டி விளக்குகிறது.

குறியீடு, மாதிரிப் பெயர்கள் மற்றும் நேரடி பட்டியல் லேபிள்கள் ஆங்கிலத்தில் காட்டப்படுகின்றன.

LiteLLM எதில் சிறந்தது

LiteLLM ஆவணங்கள் இரண்டு பகுதிகளை விவரிக்கின்றன. Python SDK ஒரே இடைமுகத்தின் மூலம் பல வழங்குநர்களை அழைக்கிறது. proxy சேவையகம் என்பது எந்த OpenAI-இணக்கமான கிளையன்ட்டும் பயன்படுத்தக்கூடிய நீங்களே நிறுவும் நுழைவாயில்.

  • மெய்நிகர் விசைகள், ஒவ்வொரு விசைக்கும், குழுவுக்கும், பயனருக்கும் பட்ஜெட்டுடன்.
  • செலவு கண்காணிப்பு, வழங்குநர்கள் முழுவதும் ஒவ்வொரு விசைக்கும், குழுவுக்கும், பயனருக்கும்.
  • சுமை சமநிலைப்படுத்தல், தானியங்கு மாற்றுகளுடன் வரிசைப்படுத்தல்களுக்கு இடையே.
  • கண்காணிப்பு callbacks, Langfuse, MLflow மற்றும் Helicone போன்ற கருவிகளுக்கு.
  • Guardrails, உள்ளடக்க வடிகட்டிகள், PII மறைத்தல் மற்றும் பாதுகாப்புச் சோதனைகளுக்கு.
  • நிர்வாக UI, விசைகளுக்கும் செலவு கண்காணிப்புக்கும்.

இந்த அம்சங்கள் பகிரப்பட்ட கட்டண வழங்குநர் கணக்குகளைப் பயன்படுத்தும் குழுக்களுக்கானவை. உங்கள் நிலை அதுவாக இருந்தால், LiteLLM ஒரு வலுவான தேர்வு, உங்களுக்கு மாற்று தேவைப்படாமல் போகலாம்.

மக்கள் ஏன் மாற்று தேடுகிறார்கள்

  • இலவச டோக்கன்கள் இல்லை: நீங்கள் வழங்கும் விசைகளுடன் LiteLLM வழங்குநர்களுக்கு வழிநடத்துகிறது. ஒவ்வொரு டோக்கனும் அந்த விசையின் வழங்குநரால் கட்டணம் வசூலிக்கப்படுகிறது.
  • இலவச அடுக்குகள் கைமுறை வேலை: இந்த வாரம் எந்த மாதிரிகள் இலவசம் என்றோ ஒவ்வொரு வழங்குநரின் இலவச வரம்புகள் என்னவென்றோ LiteLLM கண்காணிப்பதில்லை. அவற்றைக் கண்டறிந்து கட்டமைப்பைப் புதுப்பித்து வைக்க வேண்டும்.
  • ஒரு நபருக்கான அமைப்பு: குழு அம்சங்கள் ஒரு தனி டெவலப்பருக்குத் தேவைப்படாத பகுதிகளைச் சேர்க்கின்றன.
  • பிற API வடிவங்கள்: சில கருவிகளுக்கு OpenAI வடிவம் மட்டுமல்லாமல் Anthropic, Gemini அல்லது Ollama வடிவம் தேவை.

சரியான மாற்று, இவற்றில் எது உங்கள் சிக்கல் என்பதைப் பொறுத்தது. அடுத்த பிரிவு விருப்பங்களைத் தருகிறது.

மாற்றுகளின் ஒப்பீடு

LiteLLM மற்றும் மாற்றுகள் (20 நவம்பர் 2026 இல் சரிபார்க்கப்பட்டது)
-LiteLLMFreeLLMAPIOpenRouterPortkey
அது என்னதிறந்த மூல SDK மற்றும் proxyஇலவச அடுக்குகளுக்கான திறந்த மூல நுழைவாயில்ஒரே கட்டணத்துடன் கூடிய hosted நுழைவாயில்Hosted AI நுழைவாயில்
எங்கே இயங்குகிறதுநீங்களே நிறுவுவதுநீங்களே நிறுவுவது (Docker, டெஸ்க்டாப் செயலி அல்லது Node)HostedHosted
அனுமானம் சேர்க்கப்பட்டுள்ளதாஇல்லை. ஒவ்வொரு வழங்குநருக்கும் நீங்கள் கட்டணம் செலுத்துகிறீர்கள்வழங்குநர்களின் இலவச அடுக்குகளை மட்டுமே அழைக்கிறதுகட்டண வரவுகள், அத்துடன் தினசரி உச்சவரம்புடன் சில இலவச மாதிரிகள்இல்லை. வழங்குநர் விசைகளை நீங்களே கொண்டு வருகிறீர்கள்
இலவச அடுக்கு கண்காணிப்புஇல்லைஆம், இலவச மாதிரிகள் மற்றும் வரம்புகளின் கையொப்பமிட்ட பட்டியல்அதன் சொந்த இலவச மாதிரிகள் மட்டும்இல்லை
பல பயனர்களும் மெய்நிகர் விசைகளும்ஆம்இல்லை. வடிவமைப்பின்படி ஒற்றைப் பயனர்--
API வடிவங்கள்OpenAI-இணக்கமானதுOpenAI, Anthropic, Gemini மற்றும் OllamaOpenAI-இணக்கமானதுOpenAI-இணக்கமானது
சிறந்ததுவழங்குநர்களுக்குப் பணம் செலுத்தும் குழுக்கள்$0 அனுமானம் வேண்டும் ஒரு டெவலப்பர்ஒரே கட்டணத்தில் கட்டண முன்னணி மாதிரிகள்நிர்வகிக்கப்பட்ட நுழைவாயில் வேண்டும் குழுக்கள்

மேலும் விவரங்களுக்கு, FreeLLMAPI vs LiteLLM, FreeLLMAPI vs OpenRouter மற்றும் free LLM API gateways compared ஆகியவற்றைப் படிக்கவும்.

FreeLLMAPI சிறந்த பொருத்தமாக எப்போது உள்ளது

FreeLLMAPI என்பது இலவச, நீங்களே நிறுவும் பார்வை. இது திறந்த மூல ரூட்டர், ஒரு OpenAI-இணக்கமான விசைக்கும் ஒரு Anthropic-இணக்கமான விசைக்கும் பின்னால் வழங்குநர்களின் இலவச அடுக்குகளை இணைக்கிறது. இன்று அதன் பட்டியல் 45 வழங்குநர்களிடமிருந்து 487 இலவச மாதிரிகளைப் பட்டியலிடுகிறது.

  • இது ஒவ்வொரு விசைக்கும் கோரிக்கைகள் மற்றும் டோக்கன்களுக்கான எண்ணிக்கைகளை, நிமிடத்துக்கும் நாளுக்கும், வைத்திருக்கிறது, அதனால் ஒவ்வொரு இலவச வரம்பிற்குள்ளும் வழித்தேர்வு இருக்கும்.
  • 429 அல்லது 5xx பிழையில், அது விசையைக் குளிர்வு நிலையில் வைத்து, உங்கள் சங்கிலியில் அடுத்த மாதிரியை முயல்கிறது.
  • அது கையொப்பமிட்ட feed இலிருந்து தன் மாதிரிப் பட்டியலைப் புதுப்பிக்கிறது, அதனால் புதிய இலவச மாதிரிகளும் ஒதுக்கீட்டு மாற்றங்களும் குறியீட்டுப் புதுப்பிப்பு இல்லாமல் வருகின்றன.
  • அது /v1/chat/completions, /v1/responses, /v1/messages, embeddings, படங்கள் மற்றும் பேச்சுச் சேவையை வழங்குகிறது.
  • வழங்குநர் விசைகள் உள்ளூர் SQLite தரவுத்தளத்தில் AES-256-GCM மூலம் குறியாக்கம் செய்யப்படுகின்றன.
வழங்குநர்இலவச மாதிரிகள்அதிகபட்ச கோரிக்கை/நிமிடம்அதிகபட்ச கோரிக்கை/நாள்அதிகபட்ச டோக்கன்/நிமிடம்டோக்கன்/மாதம் (ஒரு மாதிரி)வலிமையான இலவச மாதிரி
ElectronHub84---$0.25/week shared recurring creditQwen3.8 Flash (ElectronHub)
qwen3.8-flash
Cloudflare Workers AI39---~5-10MQwen 3.8 27B (Cloudflare Workers AI)
@cf/qwen/qwen3.8-27b
Inferbase38---5,000 requests/month; 100 requests and $0.50 usage/day sharedDeepSeek V4 Flash (fp8) (Inferbase)
deepseek-v4-flash:fp8
AI Horde31---Ongoing volunteer queue; availability variesGemma 4 31B Heretic (AI Horde)
koboldcpp/gemma-4-31B-it-heretic
ACLIDE29---€20/month shared internal usage credits · no cardQwen3.8 Max (ACLIDE)
qwen/qwen3.8-max:free
Google AI Studio21151,000250,000~3MGemini 3.8 Flash
gemini-3.8-flash
Api.Airforce2011,000-free · 1,000 req/day · 1 req/mingpt-oss-20b (Api.Airforce)
gpt-oss-20b
NVIDIA NIM1940--free · 40 RPMGLM 5.3 Flash (NV)
z-ai/glm-5.3-flash
Cohere172033-~1-2MCommand A+ (05-2026)
command-a-plus-05-2026
DreamPrompting141005,000-free · 500K tokens/day · 5,000 req/dayGemini 3.1 Flash-Lite
google/gemini-3.1-flash-lite
Mistral122-500,000~50-100MMistral Code
mistral-code-latest
ModelScope11-200-Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experienceGLM-5.2 (ModelScope)
ZhipuAI/GLM-5.2

FreeLLMAPI பட்டியலிலிருந்து நேரடி தரவு (பதிப்பு 2026.11.19, சரிபார்க்கப்பட்டது 2026-11-19). இலவச வரம்புகள் அடிக்கடி மாறும். பட்டியல் ஒவ்வொரு நாளும் சரிபார்க்கப்படுகிறது.

LiteLLM இன்னும் சிறந்த பொருத்தமாக எப்போது உள்ளது

  • பல பயனர்கள்: FreeLLMAPI-இல் பல-குத்தகைதாரர் அங்கீகாரம் இல்லை. அதை உங்களுக்காக இயக்குங்கள், இணையத்தில் வெளிப்படுத்த வேண்டாம் என்று அதன் ஆவணங்கள் கூறுகின்றன.
  • குழு வாரியான பட்ஜெட்டுகள்: LiteLLM-இல் ஒவ்வொரு விசைக்கும், குழுவுக்கும், பயனருக்கும் பட்ஜெட்டுகள் உண்டு. FreeLLMAPI-இல் ஒவ்வொரு வழங்குநர் விசைக்கும் மட்டுமே மாதாந்திர உச்சவரம்புகள் உள்ளன.
  • கட்டண முன்னணி மாதிரிகள்: இலவச அடுக்குகள் வலிமையான மாதிரிகளுக்கு நிலையான அணுகலைத் தருவதில்லை. LiteLLM எந்த கட்டணக் கணக்குக்கும் வழிநடத்துகிறது.
  • சேவை நிலை: இலவச அடுக்குகளுக்கு SLA இல்லை. உற்பத்தி நம்பகத்தன்மைக்கு, கட்டண வழங்குநர்களைப் பயன்படுத்தவும்.

இரண்டையும் இயக்கலாம். கட்டண உற்பத்திப் போக்குவரத்துக்கு LiteLLM-ஐப் பயன்படுத்தவும். பணம் செலவாகக் கூடாத மேம்பாடு, சோதனைகள் மற்றும் தொகுப்பு வேலைகளுக்கு FreeLLMAPI-ஐப் பயன்படுத்தவும். எந்த OpenAI-இணக்கமான இறுதிப்புள்ளியையும் தனிப்பயன் வழங்குநராக FreeLLMAPI-இலும் சேர்க்கலாம்.

LiteLLM-இலிருந்து FreeLLMAPI-க்கு மாறவும்

  1. ஒரு வரி நிறுவியின் மூலம் FreeLLMAPI-ஐ நிறுவவும்.
  2. http://localhost:3001 இல் டாஷ்போர்டைத் திறந்து, Keys பக்கத்தில் உங்கள் இலவச வழங்குநர் விசைகளைச் சேர்க்கவும்.
  3. Keys பக்கத்திலிருந்து ஒருங்கிணைந்த விசையை நகலெடுக்கவும்.
  4. உங்கள் செயலியில், அடிப்படை URL ஐ LiteLLM proxy யிலிருந்து http://localhost:3001/v1 ஆக மாற்றவும்.
  5. மாதிரிப் பெயர்களை auto ஆகவோ பட்டியல் மாதிரி id களாகவோ மாற்றவும்.

நிறுவி சோதிக்கவும்

curl -fsSL https://freellmapi.co/install.sh | bash

curl http://localhost:3001/v1/chat/completions \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "auto", "messages": [{"role": "user", "content": "Hello"}]}'
இவை அனைத்தையும் ஒரே விசை மூலம் பயன்படுத்துங்கள். FreeLLMAPI என்பது திறந்த மூலமான, நீங்களே நிறுவும் ரூட்டர். இந்த இலவச அடுக்குகள் அனைத்தையும் ஒரே OpenAI-இணக்கமான இறுதிப்புள்ளிக்குப் பின்னால் வைக்கிறது. ஒரு வழங்குநர் வரம்பை எட்டும்போது தானாக அடுத்ததற்கு மாறுகிறது. பட்டியலைப் பார்க்கவும் அல்லது நேரலைக்குச் செல்லவும்.

அடிக்கடி கேட்கப்படும் கேள்விகள்

LiteLLM-க்கு சிறந்த இலவச மாற்று எது?

இலவச அனுமானம் வேண்டுமென்றால், FreeLLMAPI போல வழங்குநர்களின் இலவச அடுக்குகளை இணைக்கும் நுழைவாயிலைப் பயன்படுத்தவும். கட்டண வழங்குநர்களுக்கான இலவச மென்பொருள் வேண்டுமென்றால், LiteLLM ஏற்கெனவே இலவசமும் திறந்த மூலமுமானது.

LiteLLM இலவசமா?

SDK மற்றும் proxy திறந்த மூலமானவை, இயக்க இலவசம். அவற்றில் டோக்கன்கள் சேர்க்கப்படவில்லை, அதனால் ஒவ்வொரு கோரிக்கைக்கும் நீங்கள் சேர்த்த விசையின் வழங்குநரால் கட்டணம் வசூலிக்கப்படுகிறது.

LiteLLM-க்கு hosted மாற்று உள்ளதா?

ஆம். OpenRouter மற்றும் Portkey hosted நுழைவாயில்கள். OpenRouter பல மாதிரிகளுக்கான வரவுகளை விற்கிறது. Portkey என்பது நீங்கள் வழங்குநர் விசைகளைக் கொண்டு வரும் நிர்வகிக்கப்பட்ட நுழைவாயில்.

FreeLLMAPI, LiteLLM போன்ற மெய்நிகர் விசைகளை ஆதரிக்குமா?

இல்லை. FreeLLMAPI வடிவமைப்பின்படி ஒற்றைப் பயனருக்கானது, ஒரு ஒருங்கிணைந்த விசையும் விருப்பத்தேர்வு கிளையன்ட் சுயவிவர விசைகளும் உண்டு. அதில் ஒவ்வொரு வழங்குநர் விசைக்கும் மாதாந்திர உச்சவரம்புகள் உள்ளன, பயனர் அல்லது குழு வாரியான பட்ஜெட்டுகள் அல்ல.

LiteLLM மற்றும் FreeLLMAPI-ஐ ஒன்றாகப் பயன்படுத்தலாமா?

ஆம். FreeLLMAPI ஒரு OpenAI-இணக்கமான இறுதிப்புள்ளியை வெளிப்படுத்துகிறது, அதனால் எந்தச் செலவும் ஆகக்கூடாத போக்குவரத்துக்கு அதை LiteLLM-இல் மற்றொரு வரிசைப்படுத்தலாகச் சேர்க்கலாம்.

தொடர்புடைய வழிகாட்டிகள்

ஆதாரங்கள்

அனைத்து வழிகாட்டிகள் · அனைத்து இலவச மாதிரிகளையும் பார்க்கவும்