ホーム / ガイド / LiteLLM の代替

LiteLLM の代替

LiteLLM は、100 を超える LLM を 1 つの OpenAI 形式のインターフェースで利用できる、オープンソースの Python SDK とプロキシサーバーです。プロバイダーに支払うチームにとって、優れたゲートウェイです。目的が無料の推論である場合、LiteLLM だけでは役に立ちません。トークンが含まれていないためです。このガイドでは、LiteLLM が適しているケース、代替案がより適しているケース、そして各選択肢の比較を説明します。

コード、モデル名、ライブのカタログラベルは英語で表示します。

LiteLLM が得意なこと

LiteLLM のドキュメントでは、2 つの部分が説明されています。Python SDK は、1 つのインターフェースを通じて多数のプロバイダーを呼び出します。プロキシサーバーは、OpenAI 互換の任意のクライアントが使用できる、セルフホスト型のゲートウェイです。

  • 仮想キー: キーごと、チームごと、ユーザーごとに予算を設定できます。
  • 支出の追跡: プロバイダーをまたいで、キー、チーム、ユーザーごとに支出を追跡します。
  • 負荷分散: デプロイメント間で負荷を分散し、自動フォールバックを行います。
  • 可観測性のコールバック: Langfuse、MLflow、Helicone などのツールに連携します。
  • ガードレール: コンテンツフィルター、PII のマスキング、安全性チェックに対応します。
  • 管理画面: キーとコストの追跡を行います。

これらの機能は、有料のプロバイダーアカウントを共有するチーム向けです。お客様がその状況にある場合、LiteLLM は有力な選択肢であり、代替案は不要かもしれません。

代替案を探す理由

  • 無料のトークンがない: LiteLLM は、お客様が提供するキーを持つプロバイダーにルーティングします。すべてのトークンは、そのキーのプロバイダーが課金します。
  • 無料枠の管理は手作業: LiteLLM は、今週どのモデルが無料か、また各プロバイダーの無料の上限が何かを追跡しません。お客様がそれらを見つけ、設定を最新に保つ必要があります。
  • 1 人向けのセットアップ: チーム向けの機能には、1 人の開発者には不要な部分が含まれます。
  • ほかの API 形式: 一部のツールは、OpenAI 形式だけでなく、Anthropic、Gemini、または Ollama の形式を必要とします。

適切な代替案は、これらのうちどれがお客様の課題かによって異なります。次のセクションで選択肢を示します。

代替案の比較

LiteLLM と代替案(2026 年 11 月 20 日確認)
項目LiteLLMFreeLLMAPIOpenRouterPortkey
概要オープンソースの SDK とプロキシ無料枠のためのオープンソースのゲートウェイ1 つの請求にまとめるホスト型ゲートウェイホスト型 AI ゲートウェイ
実行場所セルフホストセルフホスト(Docker、デスクトップアプリ、または Node)ホスト型ホスト型
推論が含まれるいいえ。各プロバイダーに支払いますプロバイダーの無料枠のみを呼び出します有料のクレジット。1 日の上限付きの無料モデルも一部含むいいえ。プロバイダーのキーを持ち込みます
無料枠の追跡いいえはい。無料モデルと上限の署名付きカタログ自社の無料モデルのみいいえ
複数ユーザーと仮想キーはいいいえ。設計上、単一ユーザー向け--
API 形式OpenAI 互換OpenAI、Anthropic、Gemini、OllamaOpenAI 互換OpenAI 互換
最適な用途プロバイダーに支払うチーム$0 の推論を求める 1 人の開発者1 つの請求で有料の最先端モデルを使うマネージドのゲートウェイを求めるチーム

詳しくは、FreeLLMAPI と LiteLLM の比較、FreeLLMAPI と OpenRouter の比較、無料 LLM API ゲートウェイの比較を参照してください。

FreeLLMAPI が適している場合

FreeLLMAPI は、無料でセルフホストする選択肢です。1 つの OpenAI 互換キーと 1 つの Anthropic 互換キーの背後に、プロバイダーの無料枠をまとめるオープンソースのルーターです。現在、そのカタログには 45 件のプロバイダーの 487 件の無料モデルが掲載されています。

  • リクエストとトークンについて、キーごとのカウンターを分単位と日単位で保持するため、ルーティングは各無料の上限内に収まります。
  • 429 または 5xx エラーが発生すると、そのキーをクールダウンにし、チェーン内の次のモデルを試します。
  • 署名付きのフィードからモデルカタログを更新するため、コードの更新なしで、新しい無料モデルと上限の変更が反映されます。
  • /v1/chat/completions、/v1/responses、/v1/messages、埋め込み、画像、音声に対応します。
  • プロバイダーのキーは、ローカルの SQLite データベースで AES-256-GCM により暗号化されます。
プロバイダー無料モデル最大リクエスト数/分最大リクエスト数/日最大トークン数/分トークン数/月(1モデル)最も高性能な無料モデル
ElectronHub84---$0.25/week shared recurring creditQwen3.8 Flash (ElectronHub)
qwen3.8-flash
Cloudflare Workers AI39---~5-10MQwen 3.8 27B (Cloudflare Workers AI)
@cf/qwen/qwen3.8-27b
Inferbase38---5,000 requests/month; 100 requests and $0.50 usage/day sharedDeepSeek V4 Flash (fp8) (Inferbase)
deepseek-v4-flash:fp8
AI Horde31---Ongoing volunteer queue; availability variesGemma 4 31B Heretic (AI Horde)
koboldcpp/gemma-4-31B-it-heretic
ACLIDE29---€20/month shared internal usage credits · no cardQwen3.8 Max (ACLIDE)
qwen/qwen3.8-max:free
Google AI Studio21151,000250,000~3MGemini 3.8 Flash
gemini-3.8-flash
Api.Airforce2011,000-free · 1,000 req/day · 1 req/mingpt-oss-20b (Api.Airforce)
gpt-oss-20b
NVIDIA NIM1940--free · 40 RPMGLM 5.3 Flash (NV)
z-ai/glm-5.3-flash
Cohere172033-~1-2MCommand A+ (05-2026)
command-a-plus-05-2026
DreamPrompting141005,000-free · 500K tokens/day · 5,000 req/dayGemini 3.1 Flash-Lite
google/gemini-3.1-flash-lite
Mistral122-500,000~50-100MMistral Code
mistral-code-latest
ModelScope11-200-Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experienceGLM-5.2 (ModelScope)
ZhipuAI/GLM-5.2

FreeLLMAPI カタログのライブデータ(バージョン 2026.11.19、確認日 2026-11-19)。無料枠の上限は頻繁に変わります。カタログは毎日確認されます。

LiteLLM が依然として適している場合

  • 多数のユーザー: FreeLLMAPI にはマルチテナントの認証機能がありません。ドキュメントでは、自分用に実行し、インターネットに公開しないよう説明しています。
  • チームごとの予算: LiteLLM は、キー、チーム、ユーザーごとに予算を設定できます。FreeLLMAPI は、プロバイダーのキーごとの月次上限のみを設定できます。
  • 有料の最先端モデル: 無料枠では、最も高性能なモデルに安定してアクセスできません。LiteLLM は、任意の有料アカウントにルーティングできます。
  • サービスレベル: 無料枠には SLA がありません。本番環境の信頼性には、有料のプロバイダーを使用してください。

両方を実行することもできます。有料の本番トラフィックには LiteLLM を使用します。費用をかける必要がない開発、テスト、バッチジョブには FreeLLMAPI を使用します。FreeLLMAPI は、任意の OpenAI 互換エンドポイントをカスタムプロバイダーとして追加することもできます。

LiteLLM から FreeLLMAPI に移行する

  1. 1 行のインストーラーで FreeLLMAPI をインストールします。
  2. http://localhost:3001 のダッシュボードを開き、Keys ページで無料のプロバイダーキーを追加します。
  3. Keys ページから統合キーをコピーします。
  4. アプリで、ベース URL を LiteLLM プロキシから http://localhost:3001/v1 に変更します。
  5. モデル名を auto またはカタログのモデル ID に変更します。

インストールとテスト

curl -fsSL https://freellmapi.co/install.sh | bash

curl http://localhost:3001/v1/chat/completions \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "auto", "messages": [{"role": "user", "content": "Hello"}]}'
これらすべてを 1 つのキーで利用できます。 FreeLLMAPI は、オープンソースのセルフホスト型ルーターです。これらの無料枠すべてを 1 つの OpenAI 互換エンドポイントの背後にまとめ、レート制限に達した場合は自動的に別のプロバイダーへ切り替えます。 カタログを見る または 公開.

よくある質問

LiteLLM に最適な無料の代替案は何ですか?

無料の推論が必要な場合は、FreeLLMAPI のように、プロバイダーの無料枠をまとめるゲートウェイを使用してください。有料のプロバイダーに対して無料のソフトウェアが必要な場合は、LiteLLM 自体がすでに無料のオープンソースです。

LiteLLM は無料ですか?

SDK とプロキシはオープンソースで、無料で実行できます。トークンは含まれていないため、各リクエストは、追加したキーのプロバイダーが課金します。

LiteLLM のホスト型の代替案はありますか?

はい。OpenRouter と Portkey はホスト型のゲートウェイです。OpenRouter は多数のモデルのクレジットを販売しています。Portkey は、プロバイダーのキーを持ち込むマネージドのゲートウェイです。

FreeLLMAPI は LiteLLM のような仮想キーに対応していますか?

いいえ。FreeLLMAPI は、設計上単一ユーザー向けです。1 つの統合キーと、任意のクライアントプロファイルのキーがあります。上限はプロバイダーのキーごとの月次上限であり、ユーザーやチームごとの予算ではありません。

LiteLLM と FreeLLMAPI を一緒に使えますか?

はい。FreeLLMAPI は OpenAI 互換のエンドポイントを公開しているため、費用が発生すべきではないトラフィック用に、LiteLLM に追加のデプロイメントとして追加できます。

関連ガイド

出典

すべてのガイド · 無料モデルをすべて見る