Início / Guias / Alternativa ao LiteLLM

Alternativa ao LiteLLM

O LiteLLM é um SDK Python de código aberto e um servidor proxy que coloca mais de 100 LLMs atrás de uma interface no estilo OpenAI. É um bom gateway para equipes que pagam provedores. Se o seu objetivo é inferência gratuita, ele não ajuda sozinho, porque não inclui tokens. Este guia explica quando o LiteLLM é a escolha certa, quando uma alternativa serve melhor e como as opções se comparam.

O código, os nomes dos modelos e os rótulos do catálogo ao vivo são exibidos em inglês.

O que o LiteLLM faz bem

A documentação do LiteLLM descreve duas partes. O SDK Python chama muitos provedores por meio de uma única interface. O servidor proxy é um gateway de hospedagem própria que qualquer cliente compatível com OpenAI pode usar.

  • Chaves virtuais com orçamentos por chave, por equipe e por usuário.
  • Controle de gastos por chave, equipe e usuário, em todos os provedores.
  • Balanceamento de carga entre implantações, com fallbacks automáticos.
  • Callbacks de observabilidade para ferramentas como Langfuse, MLflow e Helicone.
  • Guardrails para filtros de conteúdo, mascaramento de PII e verificações de segurança.
  • Uma interface de administração para chaves e controle de custos.

Estes recursos são para equipes que compartilham contas pagas de provedores. Se essa é a sua situação, o LiteLLM é uma escolha forte, e talvez você não precise de uma alternativa.

Por que as pessoas procuram uma alternativa

  • Sem tokens gratuitos: o LiteLLM roteia para provedores com chaves que você fornece. Cada token é cobrado pelo provedor dessa chave.
  • Camadas gratuitas exigem trabalho manual: o LiteLLM não acompanha quais modelos são gratuitos nesta semana, nem os limites gratuitos de cada provedor. Você precisa encontrá-los e manter a configuração atualizada.
  • Configuração para uma pessoa: os recursos de equipe acrescentam partes que um desenvolvedor sozinho pode não precisar.
  • Outros formatos de API: algumas ferramentas precisam dos formatos Anthropic, Gemini ou Ollama, e não só do formato OpenAI.

A alternativa certa depende de qual destes é o seu problema. A próxima seção mostra as opções.

As alternativas comparadas

LiteLLM e alternativas (verificado em 20 de novembro de 2026)
RecursoLiteLLMFreeLLMAPIOpenRouterPortkey
O que éSDK e proxy de código abertoGateway de código aberto para camadas gratuitasGateway hospedado com uma só faturaGateway de IA hospedado
Onde rodaHospedagem própriaHospedagem própria (Docker, aplicativo de desktop ou Node)HospedadoHospedado
Inferência incluídaNão. Você paga cada provedorChama somente as camadas gratuitas dos provedoresCréditos pagos, mais alguns modelos gratuitos com limites diáriosNão. Você traz as chaves dos provedores
Acompanhamento de camadas gratuitasNãoSim, um catálogo assinado de modelos gratuitos e limitesSomente os seus próprios modelos gratuitosNão
Multiusuário e chaves virtuaisSimNão. Feito para um único usuário--
Formatos de APICompatível com OpenAIOpenAI, Anthropic, Gemini e OllamaCompatível com OpenAICompatível com OpenAI
Melhor paraEquipes que pagam provedoresUm desenvolvedor que quer inferência a $0Modelos de fronteira pagos em uma só faturaEquipes que querem um gateway gerenciado

Para mais detalhes, leia FreeLLMAPI vs LiteLLM, FreeLLMAPI vs OpenRouter e gateways de API LLM gratuita comparados.

Quando o FreeLLMAPI é a escolha melhor

O FreeLLMAPI é a opção gratuita e de hospedagem própria. É um roteador de código aberto que reúne as camadas gratuitas dos provedores atrás de uma chave compatível com OpenAI e uma chave compatível com Anthropic. Hoje, o catálogo lista 487 modelos gratuitos de 45 provedores.

  • Ele mantém contadores por chave para requisições e tokens, por minuto e por dia, então o roteamento fica abaixo de cada limite gratuito.
  • Em um erro 429 ou 5xx, ele coloca a chave em período de espera e tenta o próximo modelo da sua cadeia.
  • Ele atualiza o catálogo de modelos a partir de um feed assinado, então novos modelos gratuitos e mudanças de cota chegam sem atualização de código.
  • Ele atende /v1/chat/completions, /v1/responses, /v1/messages, embeddings, imagens e fala.
  • As chaves dos provedores são criptografadas com AES-256-GCM em um banco SQLite local.
ProvedorModelos gratuitosMáx. req/minMáx. req/diaMáx. tokens/minTokens/mês (um modelo)Modelo gratuito mais forte
ElectronHub84---$0.25/week shared recurring creditQwen3.8 Flash (ElectronHub)
qwen3.8-flash
Cloudflare Workers AI39---~5-10MQwen 3.8 27B (Cloudflare Workers AI)
@cf/qwen/qwen3.8-27b
Inferbase38---5,000 requests/month; 100 requests and $0.50 usage/day sharedDeepSeek V4 Flash (fp8) (Inferbase)
deepseek-v4-flash:fp8
AI Horde31---Ongoing volunteer queue; availability variesGemma 4 31B Heretic (AI Horde)
koboldcpp/gemma-4-31B-it-heretic
ACLIDE29---€20/month shared internal usage credits · no cardQwen3.8 Max (ACLIDE)
qwen/qwen3.8-max:free
Google AI Studio21151,000250,000~3MGemini 3.8 Flash
gemini-3.8-flash
Api.Airforce2011,000-free · 1,000 req/day · 1 req/mingpt-oss-20b (Api.Airforce)
gpt-oss-20b
NVIDIA NIM1940--free · 40 RPMGLM 5.3 Flash (NV)
z-ai/glm-5.3-flash
Cohere172033-~1-2MCommand A+ (05-2026)
command-a-plus-05-2026
DreamPrompting141005,000-free · 500K tokens/day · 5,000 req/dayGemini 3.1 Flash-Lite
google/gemini-3.1-flash-lite
Mistral122-500,000~50-100MMistral Code
mistral-code-latest
ModelScope11-200-Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experienceGLM-5.2 (ModelScope)
ZhipuAI/GLM-5.2

Dados ao vivo do catálogo FreeLLMAPI (versão 2026.11.19, verificado em 2026-11-19). Os limites gratuitos mudam com frequência. O catálogo é verificado todos os dias.

Quando o LiteLLM ainda é a escolha melhor

  • Muitos usuários: o FreeLLMAPI não tem autenticação multi-inquilino. A documentação dele pede que você o use para si mesmo e não o exponha à internet.
  • Orçamentos por equipe: o LiteLLM tem orçamentos por chave, equipe e usuário. O FreeLLMAPI tem somente limites mensais por chave de provedor.
  • Modelos de fronteira pagos: camadas gratuitas não dão acesso constante aos modelos mais fortes. O LiteLLM roteia para qualquer conta paga.
  • Um nível de serviço: camadas gratuitas não têm SLA. Para confiabilidade em produção, use provedores pagos.

Você pode usar os dois. Use o LiteLLM para o tráfego pago de produção. Use o FreeLLMAPI para desenvolvimento, testes e trabalhos em lote que não precisam custar dinheiro. O FreeLLMAPI também pode adicionar qualquer endpoint compatível com OpenAI como provedor personalizado.

Migre do LiteLLM para o FreeLLMAPI

  1. Instale o FreeLLMAPI com o instalador de uma linha.
  2. Abra o painel em http://localhost:3001 e adicione as suas chaves gratuitas de provedores na página Keys.
  3. Copie a chave unificada na página Keys.
  4. No seu aplicativo, troque a URL base do proxy LiteLLM por http://localhost:3001/v1.
  5. Troque os nomes dos modelos por auto ou por IDs de modelos do catálogo.

Instalar e testar

curl -fsSL https://freellmapi.co/install.sh | bash

curl http://localhost:3001/v1/chat/completions \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "auto", "messages": [{"role": "user", "content": "Hello"}]}'
Use todos estes modelos com uma única chave. FreeLLMAPI é um roteador de código aberto e de hospedagem própria. Ele coloca todas estas camadas gratuitas atrás de um único endpoint compatível com OpenAI e passa para o próximo provedor quando um deles está com limite de requisições. Ver o catálogo ou colocar em produção.

Perguntas frequentes

Qual é a melhor alternativa gratuita ao LiteLLM?

Se você quer inferência gratuita, use um gateway que reúna as camadas gratuitas dos provedores, como o FreeLLMAPI. Se você quer software gratuito para provedores pagos, o próprio LiteLLM já é gratuito e de código aberto.

O LiteLLM é gratuito?

O SDK e o proxy são de código aberto e gratuitos para rodar. Eles não incluem tokens, então cada requisição é cobrada pelo provedor cuja chave você adicionou.

Existe uma alternativa hospedada ao LiteLLM?

Sim. OpenRouter e Portkey são gateways hospedados. O OpenRouter vende créditos para muitos modelos. O Portkey é um gateway gerenciado, em que você traz as chaves dos provedores.

O FreeLLMAPI tem chaves virtuais como o LiteLLM?

Não. O FreeLLMAPI é feito para um único usuário, com uma chave unificada e chaves opcionais de perfil de cliente. Ele tem limites mensais por chave de provedor, e não orçamentos por usuário ou equipe.

Posso usar o LiteLLM e o FreeLLMAPI juntos?

Sim. O FreeLLMAPI expõe um endpoint compatível com OpenAI, então você pode adicioná-lo ao LiteLLM como mais uma implantação para o tráfego que não deve custar nada.

Guias relacionados

Fontes

Todos os guias · Ver todos os modelos gratuitos