หน้าแรก / คู่มือ / ทางเลือกแทน LiteLLM

ทางเลือกแทน LiteLLM

LiteLLM เป็น Python SDK และเซิร์ฟเวอร์ proxy แบบโอเพนซอร์ส ที่รวม LLM มากกว่า 100 รุ่นไว้หลังอินเทอร์เฟซแบบ OpenAI เป็นเกตเวย์ที่ดีสำหรับทีมที่จ่ายเงินให้ผู้ให้บริการ หากเป้าหมายของคุณคือ inference ฟรี LiteLLM ไม่ช่วยโดยลำพัง เพราะไม่มีโทเคนให้ใช้ คู่มือนี้อธิบายว่า LiteLLM เหมาะเมื่อใด ทางเลือกใดเหมาะกว่า และตัวเลือกต่าง ๆ เปรียบเทียบกันอย่างไร

โค้ด ชื่อโมเดล และป้ายกำกับของแคตตาล็อกสดจะแสดงเป็นภาษาอังกฤษ

LiteLLM ทำอะไรได้ดี

เอกสารของ LiteLLM อธิบายสองส่วน Python SDK เรียกผู้ให้บริการหลายรายผ่านอินเทอร์เฟซเดียว ส่วนเซิร์ฟเวอร์ proxy คือเกตเวย์แบบโฮสต์เองที่ไคลเอนต์ที่เข้ากันได้กับ OpenAI ทุกตัวใช้ได้

  • Virtual keys พร้อมงบประมาณต่อคีย์ ต่อทีม และต่อผู้ใช้
  • การติดตามค่าใช้จ่าย ต่อคีย์ ทีม และผู้ใช้ ข้ามผู้ให้บริการ
  • การกระจายโหลด ข้ามการดีพลอย พร้อมการสำรองอัตโนมัติ
  • callback สำหรับการสังเกตการณ์ ไปยังเครื่องมือ เช่น Langfuse, MLflow และ Helicone
  • Guardrails สำหรับตัวกรองเนื้อหา การปกปิด PII และการตรวจสอบความปลอดภัย
  • หน้าจอแอดมิน สำหรับคีย์และการติดตามต้นทุน

ฟีเจอร์เหล่านี้มีไว้สำหรับทีมที่ใช้บัญชีผู้ให้บริการแบบชำระเงินร่วมกัน หากสถานการณ์ของคุณเป็นแบบนั้น LiteLLM เป็นตัวเลือกที่แข็งแรง และคุณอาจไม่จำเป็นต้องใช้ทางเลือกอื่น

ทำไมคนถึงมองหาทางเลือก

  • ไม่มีโทเคนฟรี: LiteLLM ส่งคำขอไปยังผู้ให้บริการที่มีคีย์ซึ่งคุณจัดหาให้ ทุกโทเคนถูกเรียกเก็บเงินจากผู้ให้บริการของคีย์นั้น
  • ระดับฟรีต้องทำเอง: LiteLLM ไม่ติดตามว่าโมเดลใดฟรีในสัปดาห์นี้ หรือขีดจำกัดฟรีของผู้ให้บริการแต่ละราย คุณต้องหาข้อมูลเหล่านี้และอัปเดตการตั้งค่าให้เป็นปัจจุบันเอง
  • การตั้งค่าสำหรับคนเดียว: ฟีเจอร์ของทีมเพิ่มส่วนที่นักพัฒนาคนเดียวอาจไม่ต้องการ
  • รูปแบบ API อื่น: เครื่องมือบางตัวต้องใช้รูปแบบของ Anthropic, Gemini หรือ Ollama ไม่ใช่รูปแบบ OpenAI เพียงอย่างเดียว

ทางเลือกที่เหมาะสมขึ้นอยู่กับว่าปัญหาของคุณคือข้อใดในนี้ ส่วนถัดไปแสดงตัวเลือกต่าง ๆ

เปรียบเทียบทางเลือก

LiteLLM และทางเลือก (ตรวจสอบเมื่อ 20 พฤศจิกายน 2026)
ประเด็นLiteLLMFreeLLMAPIOpenRouterPortkey
คืออะไรSDK และ proxy แบบโอเพนซอร์สเกตเวย์แบบโอเพนซอร์สสำหรับระดับฟรีเกตเวย์แบบโฮสต์ที่มีบิลเดียวเกตเวย์ AI แบบโฮสต์
ทำงานที่ไหนโฮสต์เองโฮสต์เอง (Docker, แอปเดสก์ท็อป หรือ Node)โฮสต์โฮสต์
รวม inference หรือไม่ไม่ คุณจ่ายให้แต่ละผู้ให้บริการเรียกเฉพาะระดับฟรีของผู้ให้บริการเครดิตแบบชำระเงิน และโมเดลฟรีบางรายการที่มีเพดานรายวันไม่ คุณนำคีย์ผู้ให้บริการมาเอง
ติดตามระดับฟรีไม่ได้ มีแคตตาล็อกโมเดลฟรีและขีดจำกัดที่ลงนามแล้วเฉพาะโมเดลฟรีของตัวเองไม่
หลายผู้ใช้และ virtual keysได้ไม่ได้ ออกแบบมาสำหรับผู้ใช้คนเดียว--
รูปแบบ APIเข้ากันได้กับ OpenAIOpenAI, Anthropic, Gemini และ Ollamaเข้ากันได้กับ OpenAIเข้ากันได้กับ OpenAI
เหมาะที่สุดสำหรับทีมที่จ่ายเงินให้ผู้ให้บริการนักพัฒนาคนเดียวที่ต้องการ inference ที่ $0โมเดล frontier แบบชำระเงินบนบิลเดียวทีมที่ต้องการเกตเวย์แบบจัดการให้

อ่านรายละเอียดเพิ่มเติมได้ที่ FreeLLMAPI vs LiteLLM, FreeLLMAPI vs OpenRouter และ free LLM API gateways compared.

เมื่อ FreeLLMAPI เหมาะกว่า

FreeLLMAPI คือมุมมองแบบฟรีและโฮสต์เอง เป็นเราเตอร์แบบโอเพนซอร์สที่รวมระดับฟรีของผู้ให้บริการไว้หลังคีย์ที่เข้ากันได้กับ OpenAI และคีย์ที่เข้ากันได้กับ Anthropic คีย์เดียว ขณะนี้แคตตาล็อกมี 487 โมเดลฟรีจาก 45 ผู้ให้บริการ

  • ระบบเก็บตัวนับต่อคีย์สำหรับคำขอและโทเคนต่อนาทีและต่อวัน เพื่อให้การกำหนดเส้นทางอยู่ภายในขีดจำกัดฟรีของแต่ละรายการ
  • เมื่อเกิดข้อผิดพลาด 429 หรือ 5xx ระบบจะพักคีย์นั้นและลองโมเดลถัดไปในห่วงโซ่ของคุณ
  • ระบบอัปเดตแคตตาล็อกโมเดลจากฟีดที่ลงนามแล้ว ดังนั้นโมเดลฟรีใหม่และการเปลี่ยนแปลงโควตาจะมาถึงโดยไม่ต้องอัปเดตโค้ด
  • ให้บริการ /v1/chat/completions, /v1/responses, /v1/messages, embeddings, images และ speech
  • คีย์ของผู้ให้บริการถูกเข้ารหัสด้วย AES-256-GCM ในฐานข้อมูล SQLite บนเครื่อง
ผู้ให้บริการโมเดลฟรีคำขอสูงสุดต่อนาทีคำขอสูงสุดต่อวันโทเคนสูงสุดต่อนาทีโทเคนต่อเดือน (หนึ่งโมเดล)โมเดลฟรีที่ทรงพลังที่สุด
ElectronHub84---$0.25/week shared recurring creditQwen3.8 Flash (ElectronHub)
qwen3.8-flash
Cloudflare Workers AI39---~5-10MQwen 3.8 27B (Cloudflare Workers AI)
@cf/qwen/qwen3.8-27b
Inferbase38---5,000 requests/month; 100 requests and $0.50 usage/day sharedDeepSeek V4 Flash (fp8) (Inferbase)
deepseek-v4-flash:fp8
AI Horde31---Ongoing volunteer queue; availability variesGemma 4 31B Heretic (AI Horde)
koboldcpp/gemma-4-31B-it-heretic
ACLIDE29---€20/month shared internal usage credits · no cardQwen3.8 Max (ACLIDE)
qwen/qwen3.8-max:free
Google AI Studio21151,000250,000~3MGemini 3.8 Flash
gemini-3.8-flash
Api.Airforce2011,000-free · 1,000 req/day · 1 req/mingpt-oss-20b (Api.Airforce)
gpt-oss-20b
NVIDIA NIM1940--free · 40 RPMGLM 5.3 Flash (NV)
z-ai/glm-5.3-flash
Cohere172033-~1-2MCommand A+ (05-2026)
command-a-plus-05-2026
DreamPrompting141005,000-free · 500K tokens/day · 5,000 req/dayGemini 3.1 Flash-Lite
google/gemini-3.1-flash-lite
Mistral122-500,000~50-100MMistral Code
mistral-code-latest
ModelScope11-200-Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experienceGLM-5.2 (ModelScope)
ZhipuAI/GLM-5.2

ข้อมูลสดจากแคตตาล็อก FreeLLMAPI (เวอร์ชัน 2026.11.19 ตรวจสอบเมื่อ 2026-11-19) ขีดจำกัดฟรีเปลี่ยนบ่อย แคตตาล็อกถูกตรวจสอบทุกวัน

เมื่อ LiteLLM ยังเหมาะกว่า

  • ผู้ใช้จำนวนมาก: FreeLLMAPI ไม่มีการยืนยันตัวตนแบบหลายผู้เช่า เอกสารระบุให้รันไว้สำหรับตัวคุณเอง และอย่าเปิดให้เข้าถึงจากอินเทอร์เน็ต
  • งบประมาณต่อทีม: LiteLLM มีงบประมาณต่อคีย์ ทีม และผู้ใช้ FreeLLMAPI มีเพียงเพดานรายเดือนต่อคีย์ผู้ให้บริการ
  • โมเดล frontier แบบชำระเงิน: ระดับฟรีไม่ให้การเข้าถึงโมเดลที่แข็งแรงที่สุดอย่างต่อเนื่อง LiteLLM ส่งคำขอไปยังบัญชีแบบชำระเงินบัญชีใดก็ได้
  • ระดับการบริการ: ระดับฟรีไม่มี SLA เพื่อความน่าเชื่อถือในการใช้งานจริง ให้ใช้ผู้ให้บริการแบบชำระเงิน

คุณรันทั้งสองอย่างได้ ใช้ LiteLLM สำหรับทราฟฟิกการใช้งานจริงแบบชำระเงิน ใช้ FreeLLMAPI สำหรับการพัฒนา การทดสอบ และงานแบบชุดที่ไม่จำเป็นต้องเสียเงิน FreeLLMAPI ยังเพิ่ม endpoint ที่เข้ากันได้กับ OpenAI ใดก็ได้เป็นผู้ให้บริการแบบกำหนดเองได้ด้วย

ย้ายจาก LiteLLM ไปยัง FreeLLMAPI

  1. ติดตั้ง FreeLLMAPI ด้วยตัวติดตั้งบรรทัดเดียว
  2. เปิดแดชบอร์ดที่ http://localhost:3001 แล้วเพิ่มคีย์ผู้ให้บริการฟรีของคุณในหน้า Keys
  3. คัดลอกคีย์รวมจากหน้า Keys
  4. ในแอปของคุณ เปลี่ยน base URL จาก LiteLLM proxy เป็น http://localhost:3001/v1
  5. เปลี่ยนชื่อโมเดลเป็น auto หรือเป็น ID โมเดลจากแคตตาล็อก

ติดตั้งและทดสอบ

curl -fsSL https://freellmapi.co/install.sh | bash

curl http://localhost:3001/v1/chat/completions \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "auto", "messages": [{"role": "user", "content": "Hello"}]}'
ใช้ทุกตัวในรายการนี้ผ่านคีย์เดียว FreeLLMAPI คือเราเตอร์โอเพนซอร์สที่คุณโฮสต์เอง รวมระดับฟรีทั้งหมดนี้ไว้หลังปลายทางเดียวที่เข้ากันได้กับ OpenAI และเปลี่ยนไปใช้ตัวอื่นเมื่อตัวใดตัวหนึ่งถูกจำกัดอัตรา ดูแคตตาล็อก หรือ เริ่มใช้งานจริง.

คำถามที่พบบ่อย

ทางเลือกฟรีที่ดีที่สุดแทน LiteLLM คืออะไร

หากคุณต้องการ inference ฟรี ให้ใช้เกตเวย์ที่รวมระดับฟรีของผู้ให้บริการ เช่น FreeLLMAPI หากคุณต้องการซอฟต์แวร์ฟรีสำหรับผู้ให้บริการแบบชำระเงิน LiteLLM เองก็เป็นซอฟต์แวร์แบบโอเพนซอร์สและไม่มีค่าใช้จ่ายอยู่แล้ว

LiteLLM ฟรีไหม

SDK และ proxy เป็นโอเพนซอร์สและรันได้ฟรี แต่ไม่มีโทเคนให้ใช้ คำขอแต่ละรายการจึงถูกเรียกเก็บเงินจากผู้ให้บริการที่คีย์ซึ่งคุณเพิ่มไว้

มีทางเลือกแบบโฮสต์แทน LiteLLM ไหม

มี OpenRouter และ Portkey เป็นเกตเวย์แบบโฮสต์ OpenRouter ขายเครดิตสำหรับโมเดลจำนวนมาก Portkey เป็นเกตเวย์แบบจัดการให้ ซึ่งคุณนำคีย์ผู้ให้บริการมาเอง

FreeLLMAPI รองรับ virtual keys แบบ LiteLLM ไหม

ไม่รองรับ FreeLLMAPI ออกแบบมาสำหรับผู้ใช้คนเดียว มีคีย์รวมหนึ่งคีย์และคีย์โปรไฟล์ไคลเอนต์แบบไม่บังคับ มีเพดานรายเดือนต่อคีย์ผู้ให้บริการ ไม่ใช่งบประมาณต่อผู้ใช้หรือต่อทีม

ฉันใช้ LiteLLM กับ FreeLLMAPI ด้วยกันได้ไหม

ได้ FreeLLMAPI เปิด endpoint ที่เข้ากันได้กับ OpenAI คุณจึงเพิ่มเข้าไปใน LiteLLM เป็นการดีพลอยอีกรายการหนึ่งสำหรับทราฟฟิกที่ไม่ควรมีค่าใช้จ่ายได้

คู่มือที่เกี่ยวข้อง

แหล่งข้อมูล

คู่มือทั้งหมด · ดูโมเดลฟรีทั้งหมด