LiteLLM の代替
LiteLLM は、100 を超える LLM を 1 つの OpenAI 形式のインターフェースで利用できる、オープンソースの Python SDK とプロキシサーバーです。プロバイダーに支払うチームにとって、優れたゲートウェイです。目的が無料の推論である場合、LiteLLM だけでは役に立ちません。トークンが含まれていないためです。このガイドでは、LiteLLM が適しているケース、代替案がより適しているケース、そして各選択肢の比較を説明します。
コード、モデル名、ライブのカタログラベルは英語で表示します。
LiteLLM が得意なこと
LiteLLM のドキュメントでは、2 つの部分が説明されています。Python SDK は、1 つのインターフェースを通じて多数のプロバイダーを呼び出します。プロキシサーバーは、OpenAI 互換の任意のクライアントが使用できる、セルフホスト型のゲートウェイです。
- 仮想キー: キーごと、チームごと、ユーザーごとに予算を設定できます。
- 支出の追跡: プロバイダーをまたいで、キー、チーム、ユーザーごとに支出を追跡します。
- 負荷分散: デプロイメント間で負荷を分散し、自動フォールバックを行います。
- 可観測性のコールバック: Langfuse、MLflow、Helicone などのツールに連携します。
- ガードレール: コンテンツフィルター、PII のマスキング、安全性チェックに対応します。
- 管理画面: キーとコストの追跡を行います。
これらの機能は、有料のプロバイダーアカウントを共有するチーム向けです。お客様がその状況にある場合、LiteLLM は有力な選択肢であり、代替案は不要かもしれません。
代替案を探す理由
- 無料のトークンがない: LiteLLM は、お客様が提供するキーを持つプロバイダーにルーティングします。すべてのトークンは、そのキーのプロバイダーが課金します。
- 無料枠の管理は手作業: LiteLLM は、今週どのモデルが無料か、また各プロバイダーの無料の上限が何かを追跡しません。お客様がそれらを見つけ、設定を最新に保つ必要があります。
- 1 人向けのセットアップ: チーム向けの機能には、1 人の開発者には不要な部分が含まれます。
- ほかの API 形式: 一部のツールは、OpenAI 形式だけでなく、Anthropic、Gemini、または Ollama の形式を必要とします。
適切な代替案は、これらのうちどれがお客様の課題かによって異なります。次のセクションで選択肢を示します。
代替案の比較
| 項目 | LiteLLM | FreeLLMAPI | OpenRouter | Portkey |
|---|---|---|---|---|
| 概要 | オープンソースの SDK とプロキシ | 無料枠のためのオープンソースのゲートウェイ | 1 つの請求にまとめるホスト型ゲートウェイ | ホスト型 AI ゲートウェイ |
| 実行場所 | セルフホスト | セルフホスト(Docker、デスクトップアプリ、または Node) | ホスト型 | ホスト型 |
| 推論が含まれる | いいえ。各プロバイダーに支払います | プロバイダーの無料枠のみを呼び出します | 有料のクレジット。1 日の上限付きの無料モデルも一部含む | いいえ。プロバイダーのキーを持ち込みます |
| 無料枠の追跡 | いいえ | はい。無料モデルと上限の署名付きカタログ | 自社の無料モデルのみ | いいえ |
| 複数ユーザーと仮想キー | はい | いいえ。設計上、単一ユーザー向け | - | - |
| API 形式 | OpenAI 互換 | OpenAI、Anthropic、Gemini、Ollama | OpenAI 互換 | OpenAI 互換 |
| 最適な用途 | プロバイダーに支払うチーム | $0 の推論を求める 1 人の開発者 | 1 つの請求で有料の最先端モデルを使う | マネージドのゲートウェイを求めるチーム |
詳しくは、FreeLLMAPI と LiteLLM の比較、FreeLLMAPI と OpenRouter の比較、無料 LLM API ゲートウェイの比較を参照してください。
FreeLLMAPI が適している場合
FreeLLMAPI は、無料でセルフホストする選択肢です。1 つの OpenAI 互換キーと 1 つの Anthropic 互換キーの背後に、プロバイダーの無料枠をまとめるオープンソースのルーターです。現在、そのカタログには 45 件のプロバイダーの 487 件の無料モデルが掲載されています。
- リクエストとトークンについて、キーごとのカウンターを分単位と日単位で保持するため、ルーティングは各無料の上限内に収まります。
- 429 または 5xx エラーが発生すると、そのキーをクールダウンにし、チェーン内の次のモデルを試します。
- 署名付きのフィードからモデルカタログを更新するため、コードの更新なしで、新しい無料モデルと上限の変更が反映されます。
/v1/chat/completions、/v1/responses、/v1/messages、埋め込み、画像、音声に対応します。- プロバイダーのキーは、ローカルの SQLite データベースで AES-256-GCM により暗号化されます。
| プロバイダー | 無料モデル | 最大リクエスト数/分 | 最大リクエスト数/日 | 最大トークン数/分 | トークン数/月(1モデル) | 最も高性能な無料モデル |
|---|---|---|---|---|---|---|
| ElectronHub | 84 | - | - | - | $0.25/week shared recurring credit | Qwen3.8 Flash (ElectronHub)qwen3.8-flash |
| Cloudflare Workers AI | 39 | - | - | - | ~5-10M | Qwen 3.8 27B (Cloudflare Workers AI)@cf/qwen/qwen3.8-27b |
| Inferbase | 38 | - | - | - | 5,000 requests/month; 100 requests and $0.50 usage/day shared | DeepSeek V4 Flash (fp8) (Inferbase)deepseek-v4-flash:fp8 |
| AI Horde | 31 | - | - | - | Ongoing volunteer queue; availability varies | Gemma 4 31B Heretic (AI Horde)koboldcpp/gemma-4-31B-it-heretic |
| ACLIDE | 29 | - | - | - | €20/month shared internal usage credits · no card | Qwen3.8 Max (ACLIDE)qwen/qwen3.8-max:free |
| Google AI Studio | 21 | 15 | 1,000 | 250,000 | ~3M | Gemini 3.8 Flashgemini-3.8-flash |
| Api.Airforce | 20 | 1 | 1,000 | - | free · 1,000 req/day · 1 req/min | gpt-oss-20b (Api.Airforce)gpt-oss-20b |
| NVIDIA NIM | 19 | 40 | - | - | free · 40 RPM | GLM 5.3 Flash (NV)z-ai/glm-5.3-flash |
| Cohere | 17 | 20 | 33 | - | ~1-2M | Command A+ (05-2026)command-a-plus-05-2026 |
| DreamPrompting | 14 | 100 | 5,000 | - | free · 500K tokens/day · 5,000 req/day | Gemini 3.1 Flash-Litegoogle/gemini-3.1-flash-lite |
| Mistral | 12 | 2 | - | 500,000 | ~50-100M | Mistral Codemistral-code-latest |
| ModelScope | 11 | - | 200 | - | Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experience | GLM-5.2 (ModelScope)ZhipuAI/GLM-5.2 |
FreeLLMAPI カタログのライブデータ(バージョン 2026.11.19、確認日 2026-11-19)。無料枠の上限は頻繁に変わります。カタログは毎日確認されます。
LiteLLM が依然として適している場合
- 多数のユーザー: FreeLLMAPI にはマルチテナントの認証機能がありません。ドキュメントでは、自分用に実行し、インターネットに公開しないよう説明しています。
- チームごとの予算: LiteLLM は、キー、チーム、ユーザーごとに予算を設定できます。FreeLLMAPI は、プロバイダーのキーごとの月次上限のみを設定できます。
- 有料の最先端モデル: 無料枠では、最も高性能なモデルに安定してアクセスできません。LiteLLM は、任意の有料アカウントにルーティングできます。
- サービスレベル: 無料枠には SLA がありません。本番環境の信頼性には、有料のプロバイダーを使用してください。
両方を実行することもできます。有料の本番トラフィックには LiteLLM を使用します。費用をかける必要がない開発、テスト、バッチジョブには FreeLLMAPI を使用します。FreeLLMAPI は、任意の OpenAI 互換エンドポイントをカスタムプロバイダーとして追加することもできます。
LiteLLM から FreeLLMAPI に移行する
- 1 行のインストーラーで FreeLLMAPI をインストールします。
http://localhost:3001のダッシュボードを開き、Keys ページで無料のプロバイダーキーを追加します。- Keys ページから統合キーをコピーします。
- アプリで、ベース URL を LiteLLM プロキシから
http://localhost:3001/v1に変更します。 - モデル名を
autoまたはカタログのモデル ID に変更します。
インストールとテスト
curl -fsSL https://freellmapi.co/install.sh | bash
curl http://localhost:3001/v1/chat/completions \
-H "Authorization: Bearer <unified-key>" \
-H "Content-Type: application/json" \
-d '{"model": "auto", "messages": [{"role": "user", "content": "Hello"}]}'よくある質問
LiteLLM に最適な無料の代替案は何ですか?
無料の推論が必要な場合は、FreeLLMAPI のように、プロバイダーの無料枠をまとめるゲートウェイを使用してください。有料のプロバイダーに対して無料のソフトウェアが必要な場合は、LiteLLM 自体がすでに無料のオープンソースです。
LiteLLM は無料ですか?
SDK とプロキシはオープンソースで、無料で実行できます。トークンは含まれていないため、各リクエストは、追加したキーのプロバイダーが課金します。
LiteLLM のホスト型の代替案はありますか?
はい。OpenRouter と Portkey はホスト型のゲートウェイです。OpenRouter は多数のモデルのクレジットを販売しています。Portkey は、プロバイダーのキーを持ち込むマネージドのゲートウェイです。
FreeLLMAPI は LiteLLM のような仮想キーに対応していますか?
いいえ。FreeLLMAPI は、設計上単一ユーザー向けです。1 つの統合キーと、任意のクライアントプロファイルのキーがあります。上限はプロバイダーのキーごとの月次上限であり、ユーザーやチームごとの予算ではありません。
LiteLLM と FreeLLMAPI を一緒に使えますか?
はい。FreeLLMAPI は OpenAI 互換のエンドポイントを公開しているため、費用が発生すべきではないトラフィック用に、LiteLLM に追加のデプロイメントとして追加できます。
関連ガイド
- freellmapi vs litellm
- free llm api gateways compared
- Heliconeの代替手段
- portkey alternative
- openrouter free alternative
- 無料の OpenAI 互換 API の Base URL
出典
- LiteLLM docs: Getting started (確認日 20 November 2026)
- FreeLLMAPI README: features and how it compares (確認日 20 November 2026)
- FreeLLMAPI docs: Architecture, limitations and scope (確認日 20 November 2026)
- FreeLLMAPI docs: Monthly provider-key budgets (確認日 20 November 2026)