Inicio / Guías / Alternativa a LiteLLM

Alternativa a LiteLLM

LiteLLM es un SDK de Python y un servidor proxy de código abierto que pone más de 100 LLM detrás de una interfaz de estilo OpenAI. Es una buena pasarela para equipos que pagan a los proveedores. Si su objetivo es la inferencia gratuita, no le sirve por sí solo, porque no incluye tokens. Esta guía explica cuándo encaja LiteLLM, cuándo encaja mejor una alternativa y cómo se comparan las opciones.

El código, los nombres de los modelos y las etiquetas del catálogo en vivo se muestran en inglés.

Lo que LiteLLM hace bien

La documentación de LiteLLM describe dos partes. El SDK de Python llama a muchos proveedores mediante una sola interfaz. El servidor proxy es una pasarela autoalojada que puede usar cualquier cliente compatible con OpenAI.

  • Claves virtuales con presupuestos por clave, por equipo y por usuario.
  • Seguimiento del gasto por clave, equipo y usuario, en todos los proveedores.
  • Equilibrio de carga entre despliegues, con respaldos automáticos.
  • Callbacks de observabilidad para herramientas como Langfuse, MLflow y Helicone.
  • Barreras de protección para filtros de contenido, enmascaramiento de PII y comprobaciones de seguridad.
  • Una interfaz de administración para claves y control de costes.

Estas funciones son para equipos que comparten cuentas de proveedores de pago. Si ese es su caso, LiteLLM es una opción sólida y quizá no necesite una alternativa.

Por qué la gente busca una alternativa

  • Sin tokens gratuitos: LiteLLM envía las solicitudes a proveedores con claves que usted aporta. Cada token lo factura el proveedor de esa clave.
  • Los niveles gratuitos requieren trabajo manual: LiteLLM no sigue qué modelos son gratuitos esta semana, ni los límites gratuitos de cada proveedor. Usted tiene que encontrarlos y mantener la configuración al día.
  • Configuración para una sola persona: las funciones de equipo añaden partes que un desarrollador individual puede no necesitar.
  • Otros formatos de API: algunas herramientas necesitan el formato de Anthropic, Gemini u Ollama, y no solo el de OpenAI.

La alternativa adecuada depende de cuál de estos problemas tenga. La siguiente sección presenta las opciones.

Comparación de las alternativas

LiteLLM y alternativas (revisado el 20 de noviembre de 2026)
FunciónLiteLLMFreeLLMAPIOpenRouterPortkey
Qué esSDK y proxy de código abiertoPasarela de código abierto para niveles gratuitosPasarela alojada con una sola facturaPasarela de IA alojada
Dónde se ejecutaAutoalojadaAutoalojada (Docker, aplicación de escritorio o Node)AlojadaAlojada
Inferencia incluidaNo. Usted paga a cada proveedorSolo llama a los niveles gratuitos de los proveedoresCréditos de pago, además de algunos modelos gratuitos con límites diariosNo. Usted aporta las claves de los proveedores
Seguimiento de niveles gratuitosNoSí, un catálogo firmado de modelos gratuitos y límitesSolo sus propios modelos gratuitosNo
Varios usuarios y claves virtualesSíNo. Diseñada para un solo usuario--
Formatos de APICompatible con OpenAIOpenAI, Anthropic, Gemini y OllamaCompatible con OpenAICompatible con OpenAI
Ideal paraEquipos que pagan a los proveedoresUn desarrollador que quiere inferencia a 0 USDModelos de frontera de pago en una sola facturaEquipos que quieren una pasarela gestionada

Para más detalles, lea FreeLLMAPI vs LiteLLM, FreeLLMAPI vs OpenRouter y pasarelas de API LLM gratuitas comparadas.

Cuándo FreeLLMAPI encaja mejor

FreeLLMAPI es el enfoque gratuito y autoalojado. Es un enrutador de código abierto que reúne los niveles gratuitos de los proveedores detrás de una clave compatible con OpenAI y una clave compatible con Anthropic. Hoy su catálogo incluye 487 modelos gratuitos de 45 proveedores.

  • Mantiene contadores por clave para solicitudes y tokens, por minuto y por día, de modo que el enrutamiento se mantiene dentro de cada límite gratuito.
  • Ante un error 429 o 5xx, pone la clave en espera y prueba el siguiente modelo de su cadena.
  • Actualiza su catálogo de modelos desde una fuente firmada, de modo que los nuevos modelos gratuitos y los cambios de cuota llegan sin una actualización del código.
  • Sirve /v1/chat/completions, /v1/responses, /v1/messages, embeddings, imágenes y voz.
  • Las claves de los proveedores se cifran con AES-256-GCM en una base de datos SQLite local.
ProveedorModelos gratuitosMáx. solicitudes/minMáx. solicitudes/díaMáx. tokens/minTokens/mes (un modelo)Modelo gratuito más potente
ElectronHub84---$0.25/week shared recurring creditQwen3.8 Flash (ElectronHub)
qwen3.8-flash
Cloudflare Workers AI39---~5-10MQwen 3.8 27B (Cloudflare Workers AI)
@cf/qwen/qwen3.8-27b
Inferbase38---5,000 requests/month; 100 requests and $0.50 usage/day sharedDeepSeek V4 Flash (fp8) (Inferbase)
deepseek-v4-flash:fp8
AI Horde31---Ongoing volunteer queue; availability variesGemma 4 31B Heretic (AI Horde)
koboldcpp/gemma-4-31B-it-heretic
ACLIDE29---€20/month shared internal usage credits · no cardQwen3.8 Max (ACLIDE)
qwen/qwen3.8-max:free
Google AI Studio21151,000250,000~3MGemini 3.8 Flash
gemini-3.8-flash
Api.Airforce2011,000-free · 1,000 req/day · 1 req/mingpt-oss-20b (Api.Airforce)
gpt-oss-20b
NVIDIA NIM1940--free · 40 RPMGLM 5.3 Flash (NV)
z-ai/glm-5.3-flash
Cohere172033-~1-2MCommand A+ (05-2026)
command-a-plus-05-2026
DreamPrompting141005,000-free · 500K tokens/day · 5,000 req/dayGemini 3.1 Flash-Lite
google/gemini-3.1-flash-lite
Mistral122-500,000~50-100MMistral Code
mistral-code-latest
ModelScope11-200-Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experienceGLM-5.2 (ModelScope)
ZhipuAI/GLM-5.2

Datos en vivo del catálogo de FreeLLMAPI (versión 2026.11.19, revisado 2026-11-19). Los límites gratuitos cambian con frecuencia. El catálogo se revisa todos los días.

Cuándo LiteLLM sigue encajando mejor

  • Muchos usuarios: FreeLLMAPI no tiene autenticación para varios inquilinos. Su documentación indica que debe ejecutarlo para usted y no exponerlo a Internet.
  • Presupuestos por equipo: LiteLLM tiene presupuestos por clave, equipo y usuario. FreeLLMAPI solo tiene topes mensuales por clave de proveedor.
  • Modelos de frontera de pago: los niveles gratuitos no dan acceso estable a los modelos más potentes. LiteLLM envía las solicitudes a cualquier cuenta de pago.
  • Un nivel de servicio: los niveles gratuitos no tienen SLA. Para una fiabilidad de producción, use proveedores de pago.

Puede usar ambos. Use LiteLLM para el tráfico de producción de pago. Use FreeLLMAPI para el desarrollo, las pruebas y los trabajos por lotes que no tienen que costar dinero. FreeLLMAPI también puede añadir cualquier endpoint compatible con OpenAI como proveedor personalizado.

Pasar de LiteLLM a FreeLLMAPI

  1. Instale FreeLLMAPI con el instalador de una línea.
  2. Abra el panel en http://localhost:3001 y añada sus claves de proveedores gratuitos en la página Keys.
  3. Copie la clave unificada desde la página Keys.
  4. En su aplicación, cambie la URL base del proxy de LiteLLM por http://localhost:3001/v1.
  5. Cambie los nombres de los modelos por auto o por IDs de modelos del catálogo.

Instalar y probar

curl -fsSL https://freellmapi.co/install.sh | bash

curl http://localhost:3001/v1/chat/completions \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "auto", "messages": [{"role": "user", "content": "Hello"}]}'
Use cada uno de estos modelos con una sola clave. FreeLLMAPI es un enrutador de código abierto y autoalojado. Reúne todos estos niveles gratuitos detrás de un único endpoint compatible con OpenAI y cambia de proveedor cuando uno alcanza su límite. Explore el catálogo o ir en vivo.

Preguntas frecuentes

¿Cuál es la mejor alternativa gratuita a LiteLLM?

Si quiere inferencia gratuita, use una pasarela que reúna los niveles gratuitos de los proveedores, como FreeLLMAPI. Si quiere software gratuito para proveedores de pago, LiteLLM ya es gratuito y de código abierto.

¿Es gratuito LiteLLM?

El SDK y el proxy son de código abierto y gratuitos de ejecutar. No incluyen tokens, así que cada solicitud la factura el proveedor cuya clave usted añadió.

¿Hay una alternativa alojada a LiteLLM?

Sí. OpenRouter y Portkey son pasarelas alojadas. OpenRouter vende créditos para muchos modelos. Portkey es una pasarela gestionada en la que usted aporta las claves de los proveedores.

¿Admite FreeLLMAPI claves virtuales, como LiteLLM?

No. FreeLLMAPI está diseñada para un solo usuario, con una clave unificada y claves de perfil de cliente opcionales. Tiene topes mensuales por clave de proveedor, no presupuestos por usuario ni por equipo.

¿Puedo usar LiteLLM y FreeLLMAPI juntos?

Sí. FreeLLMAPI expone un endpoint compatible con OpenAI, así que puede añadirlo a LiteLLM como un despliegue más para el tráfico que no debe costar nada.

Guías relacionadas

Fuentes

Todas las guías · Ver todos los modelos gratuitos