Home / Gidsen / LiteLLM-alternatief

LiteLLM-alternatief

LiteLLM is een open-source Python SDK en proxyserver die 100+ LLM's achter één interface in OpenAI-stijl zet. Het is een goede gateway voor teams die aanbieders betalen. Als uw doel gratis inferentie is, helpt het op zichzelf niet, omdat het geen tokens bevat. Deze gids legt uit wanneer LiteLLM past, wanneer een alternatief beter past, en hoe de opties zich verhouden.

Code, modelnamen en labels uit de live catalogus worden in het Engels getoond.

Wat LiteLLM goed doet

De documentatie van LiteLLM beschrijft twee onderdelen. Het Python SDK roept veel aanbieders aan via één interface. De proxyserver is een zelf gehoste gateway die elke client gebruikt die compatibel is met OpenAI.

  • Virtuele sleutels met budgetten per sleutel, per team en per gebruiker.
  • Kostenregistratie per sleutel, team en gebruiker bij alle aanbieders.
  • Load balancing over deployments, met automatische fallbacks.
  • Observability-callbacks naar tools zoals Langfuse, MLflow en Helicone.
  • Guardrails voor inhoudsfilters, PII-maskering en veiligheidscontroles.
  • Een beheerinterface voor sleutels en kostenregistratie.

Deze functies zijn voor teams die betaalde accounts van aanbieders delen. Als dat uw situatie is, is LiteLLM een sterke keuze en hebt u misschien geen alternatief nodig.

Waarom mensen naar een alternatief zoeken

  • Geen gratis tokens: LiteLLM stuurt verkeer naar aanbieders met sleutels die u zelf levert. Elk token wordt gefactureerd door de aanbieder van die sleutel.
  • Gratis niveaus kosten handwerk: LiteLLM houdt niet bij welke modellen deze week gratis zijn, of de gratis limieten van elke aanbieder. U moet ze zelf vinden en de configuratie actueel houden.
  • Opzet voor één persoon: de teamfuncties voegen onderdelen toe die één ontwikkelaar misschien niet nodig heeft.
  • Andere API-formaten: sommige tools hebben het Anthropic-, Gemini- of Ollama-formaat nodig, niet alleen het OpenAI-formaat.

Het juiste alternatief hangt af van welk van deze uw probleem is. De volgende sectie geeft de opties.

De alternatieven vergeleken

LiteLLM en alternatieven (gecontroleerd 20 november 2026)
KenmerkLiteLLMFreeLLMAPIOpenRouterPortkey
Wat het isOpen-source SDK en proxyOpen-source gateway voor gratis niveausGehoste gateway met één factuurGehoste AI-gateway
Waar het draaitZelf gehostZelf gehost (Docker, desktopapp of Node)GehostGehost
Inferentie inbegrepenNee. U betaalt elke aanbiederRoept alleen gratis niveaus van aanbieders aanBetaalde tegoeden, plus enkele gratis modellen met dagelijkse limietenNee. U brengt uw eigen sleutels van aanbieders mee
Bijhouden van gratis niveausNeeJa, een ondertekende catalogus van gratis modellen en limietenAlleen de eigen gratis modellenNee
Meerdere gebruikers en virtuele sleutelsJaNee. Ontworpen voor één gebruiker--
API-formatenCompatibel met OpenAIOpenAI, Anthropic, Gemini en OllamaCompatibel met OpenAICompatibel met OpenAI
Het beste voorTeams die aanbieders betalenEén ontwikkelaar die $0 inferentie wilBetaalde modellen van de voorhoede op één factuurTeams die een beheerde gateway willen

Voor meer details leest u FreeLLMAPI vs LiteLLM, FreeLLMAPI vs OpenRouter en free LLM API gateways compared.

Wanneer FreeLLMAPI de betere keuze is

FreeLLMAPI is de gratis, zelf gehoste keuze. Het is een open-source router die gratis niveaus van aanbieders achter één sleutel die compatibel is met OpenAI en één sleutel die compatibel is met Anthropic combineert. De catalogus bevat nu 487 gratis modellen van 45 aanbieders.

  • Het houdt per sleutel tellers bij voor aanvragen en tokens, per minuut en per dag, zodat de routering binnen elke gratis limiet blijft.
  • Bij een 429- of 5xx-fout zet het de sleutel in cooldown en probeert het het volgende model in uw keten.
  • Het werkt de modelcatalogus bij vanuit een ondertekende feed, zodat nieuwe gratis modellen en wijzigingen in quota komen zonder codeupdate.
  • Het biedt /v1/chat/completions, /v1/responses, /v1/messages, embeddings, afbeeldingen en spraak.
  • Sleutels van aanbieders worden versleuteld met AES-256-GCM in een lokale SQLite-database.
AanbiederGratis modellenMax aanvragen/minMax aanvragen/dagMax tokens/minTokens/maand (één model)Sterkste gratis model
ElectronHub84---$0.25/week shared recurring creditQwen3.8 Flash (ElectronHub)
qwen3.8-flash
Cloudflare Workers AI39---~5-10MQwen 3.8 27B (Cloudflare Workers AI)
@cf/qwen/qwen3.8-27b
Inferbase38---5,000 requests/month; 100 requests and $0.50 usage/day sharedDeepSeek V4 Flash (fp8) (Inferbase)
deepseek-v4-flash:fp8
AI Horde31---Ongoing volunteer queue; availability variesGemma 4 31B Heretic (AI Horde)
koboldcpp/gemma-4-31B-it-heretic
ACLIDE29---€20/month shared internal usage credits · no cardQwen3.8 Max (ACLIDE)
qwen/qwen3.8-max:free
Google AI Studio21151,000250,000~3MGemini 3.8 Flash
gemini-3.8-flash
Api.Airforce2011,000-free · 1,000 req/day · 1 req/mingpt-oss-20b (Api.Airforce)
gpt-oss-20b
NVIDIA NIM1940--free · 40 RPMGLM 5.3 Flash (NV)
z-ai/glm-5.3-flash
Cohere172033-~1-2MCommand A+ (05-2026)
command-a-plus-05-2026
DreamPrompting141005,000-free · 500K tokens/day · 5,000 req/dayGemini 3.1 Flash-Lite
google/gemini-3.1-flash-lite
Mistral122-500,000~50-100MMistral Code
mistral-code-latest
ModelScope11-200-Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experienceGLM-5.2 (ModelScope)
ZhipuAI/GLM-5.2

Actuele gegevens uit de FreeLLMAPI-catalogus (versie 2026.11.19, gecontroleerd 2026-11-19). Gratis limieten veranderen vaak. De catalogus wordt elke dag gecontroleerd.

Wanneer LiteLLM nog steeds de betere keuze is

  • Veel gebruikers: FreeLLMAPI heeft geen authenticatie voor meerdere huurders. De documentatie zegt dat u het voor uzelf moet draaien en niet aan internet moet blootstellen.
  • Budgetten per team: LiteLLM heeft budgetten per sleutel, team en gebruiker. FreeLLMAPI heeft alleen maandelijkse limieten per sleutel van een aanbieder.
  • Betaalde modellen van de voorhoede: gratis niveaus geven geen vaste toegang tot de sterkste modellen. LiteLLM stuurt verkeer naar elk betaald account.
  • Een serviceniveau: gratis niveaus hebben geen SLA. Gebruik betaalde aanbieders voor betrouwbaarheid in productie.

U kunt beide draaien. Gebruik LiteLLM voor betaald productieverkeer. Gebruik FreeLLMAPI voor ontwikkeling, tests en batchtaken die geen geld hoeven te kosten. FreeLLMAPI kan ook elk eindpunt dat compatibel is met OpenAI toevoegen als aangepaste aanbieder.

Van LiteLLM naar FreeLLMAPI overstappen

  1. Installeer FreeLLMAPI met het installatiecommando van één regel.
  2. Open het dashboard op http://localhost:3001 en voeg uw gratis sleutels van aanbieders toe op de pagina Keys.
  3. Kopieer de gecombineerde sleutel van de pagina Keys.
  4. Wijzig in uw app de basis-URL van de LiteLLM-proxy naar http://localhost:3001/v1.
  5. Wijzig de modelnamen in auto of in model-ID's uit de catalogus.

Installeren en testen

curl -fsSL https://freellmapi.co/install.sh | bash

curl http://localhost:3001/v1/chat/completions \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "auto", "messages": [{"role": "user", "content": "Hello"}]}'
Gebruik elk van deze met één sleutel. FreeLLMAPI is een open-source router die u zelf host. Die zet al deze gratis tarieven achter één eindpunt dat compatibel is met OpenAI. Bij een snelheidslimiet schakelt de router automatisch over. Bekijk de catalogus of live gaan.

Veelgestelde vragen

Wat is het beste gratis alternatief voor LiteLLM?

Als u gratis inferentie wilt, gebruikt u een gateway die gratis niveaus van aanbieders combineert, zoals FreeLLMAPI. Als u gratis software wilt voor betaalde aanbieders, is LiteLLM zelf al gratis en open source.

Is LiteLLM gratis?

Het SDK en de proxy zijn open source en gratis om te draaien. Ze bevatten geen tokens, dus elk verzoek wordt gefactureerd door de aanbieder wiens sleutel u hebt toegevoegd.

Is er een gehost alternatief voor LiteLLM?

Ja. OpenRouter en Portkey zijn gehoste gateways. OpenRouter verkoopt tegoeden voor veel modellen. Portkey is een beheerde gateway waarbij u uw sleutels van aanbieders meebrengt.

Ondersteunt FreeLLMAPI virtuele sleutels zoals LiteLLM?

Nee. FreeLLMAPI is ontworpen voor één gebruiker, met één gecombineerde sleutel en optionele clientprofielsleutels. Het heeft maandelijkse limieten per sleutel van een aanbieder, geen budgetten per gebruiker of team.

Kan ik LiteLLM en FreeLLMAPI samen gebruiken?

Ja. FreeLLMAPI biedt een eindpunt dat compatibel is met OpenAI. U kunt het dus aan LiteLLM toevoegen als nog een deployment voor verkeer dat niets mag kosten.

Gerelateerde gidsen

Bronnen

Alle gidsen · Bekijk alle gratis modellen