Free LLM API สำหรับ AI agent
AI agent ส่งคำขอไปยังโมเดลหลายครั้งต่อหนึ่งงาน แต่ละขั้นตอนต้องใช้ tool calling และ context ขนาดใหญ่ โควตาฟรีเพียงรายการเดียวทำให้ agent หยุดเร็ว FreeLLMAPI รวมแพ็กเกจฟรีจาก 45 ผู้ให้บริการไว้หลังคีย์ OpenAI-compatible เพียงคีย์เดียว เมื่อขีดจำกัดทำให้คำขอหยุด ระบบจะย้ายไปยังผู้ให้บริการรายถัดไป agent จึงทำงานต่อได้ คู่มือนี้ครอบคลุม tool calling การจัดเส้นทางต่อขั้นตอน เซสชันที่ยาว และ MCP server ของเราเตอร์
โค้ด ชื่อโมเดล และป้ายกำกับของแคตตาล็อกสดจะแสดงเป็นภาษาอังกฤษ
สิ่งที่ agent ต้องการจาก API ฟรี
| ความต้องการ | เหตุผล | FreeLLMAPI ทำอะไร |
|---|---|---|
| Tool calling | agent เลือกและรันเครื่องมือ | ส่ง tools แบบ OpenAI ไปยังแต่ละผู้ให้บริการ แปลง tool call ที่เป็นข้อความธรรมดาให้เป็น tool_calls จริง |
| คำขอจำนวนมาก | งานหนึ่งงานใช้ได้ 20 ถึง 100 ขั้นตอน | นับโควตาของแต่ละคีย์ และย้ายไปยังคีย์หรือผู้ให้บริการรายถัดไปเมื่อได้รับ 429 |
| Context ขนาดใหญ่ | ผลลัพธ์ของเครื่องมือและประวัติเพิ่มขึ้นทุกขั้นตอน | ส่งไปยังโมเดลในเชนของคุณ คุณสร้างโปรไฟล์สำหรับ long context ได้ |
| พฤติกรรมที่คงที่ | การเปลี่ยนโมเดลกลางงานอาจทำให้ agent สับสน | คงเซสชันไว้กับโมเดลเดียวนาน 30 นาที มีการส่งต่อ context แบบเลือกได้เมื่อมีการเปลี่ยนโมเดล |
| ความโปร่งใส | คุณต้องรู้ว่าโมเดลใดล้มเหลว | header X-Routed-Via และ X-Fallback-Trail ในทุกการตอบกลับ |
แพ็กเกจฟรีมีขีดจำกัด การสลับสำรอง (failover) กระจายโหลดไปยังคีย์ของคุณ แต่ผลรวมยังเท่ากับผลรวมของขีดจำกัดฟรี เพิ่มคีย์จากผู้ให้บริการสี่รายขึ้นไปสำหรับงาน agent
| โมเดล | ฟรีบน | ขนาดบริบท | ขีดจำกัดฟรี (ข้อเสนอที่ดีที่สุด) | เครื่องมือ | การอ่านภาพ |
|---|---|---|---|---|---|
| GLM 5.3 | UnoRouter | 1M | 1 คำขอ/นาที 1 req/min per model | ใช่ | ไม่ |
| GLM 5.3 Flash | NVIDIA NIM, UnoRouter | 1M | 40 คำขอ/นาที 40 RPM | ใช่ | ใช่ |
| Gemini 3.8 Flash | Google AI Studio | 1M | Recurring provider quota | ใช่ | ใช่ |
| Qwen3.8 Flash Next | AMD Radeon Cloud | 262K | Recurring daily account allowance | ใช่ | ไม่ |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | ใช่ | ใช่ |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 คำขอ/นาที 20 คำขอ/วัน 250,000 โทเคน/นาที ~3M | ใช่ | ใช่ |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | ใช่ | ใช่ |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 คำขอ/นาที 50 คำขอ/วัน 50 req/day account-wide (1,000 after a $10 purchase) | ใช่ | ใช่ |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 คำขอ/นาที 50 คำขอ/วัน Shared rate limit | ใช่ | ไม่ |
| Qwen3.8 27B | ElectronHub, Groq, OVH AI Endpoints | 262K | 30 คำขอ/นาที 250 คำขอ/วัน 70,000 โทเคน/นาที ~6M | ใช่ | ใช่ |
| Gemini 3.6 Flash | Google AI Studio | 1M | 10 คำขอ/นาที 20 คำขอ/วัน 250,000 โทเคน/นาที ~3M | ใช่ | ใช่ |
| Qwen 3.8 27B | Cloudflare Workers AI | 262K | Shared 10k neurons/day | ใช่ | ใช่ |
แสดง 12 จาก 109 โมเดลฟรีที่ตรงกัน ดูโมเดลทั้งหมด.
ข้อมูลสดจากแคตตาล็อก FreeLLMAPI (เวอร์ชัน 2026.11.19 ตรวจสอบเมื่อ 2026-11-19) ขีดจำกัดฟรีเปลี่ยนบ่อย แคตตาล็อกถูกตรวจสอบทุกวัน
วนลูป agent แบบสมบูรณ์ด้วย Python
ลูปด้านล่างใช้ OpenAI SDK อย่างเป็นทางการ ระบบส่งเครื่องมือ รันแต่ละ tool call ส่งผลลัพธ์กลับ และหยุดเมื่อโมเดลให้คำตอบสุดท้าย ลูปนี้หยุดด้วยเมื่อครบจำนวนขั้นตอนสูงสุด
agent.py
import json
import os
import time
import openai
from openai import OpenAI
client = OpenAI(
base_url="http://localhost:3001/v1",
api_key=os.environ["FREELLMAPI_API_KEY"], # <unified-key>
max_retries=3,
)
def get_weather(city: str) -> dict:
return {"city": city, "temp_c": 18, "sky": "cloudy"}
TOOLS = [{
"type": "function",
"function": {
"name": "get_weather",
"description": "Get the current weather for a city.",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string"}},
"required": ["city"],
},
},
}]
FUNCTIONS = {"get_weather": get_weather}
def call_model(messages, session_id):
for attempt in range(5):
try:
return client.chat.completions.create(
model="auto:smart",
messages=messages,
tools=TOOLS,
extra_headers={"X-Session-Id": session_id},
)
except openai.RateLimitError as err:
header = err.response.headers.get("retry-after", "")
wait = int(header) if header.isdigit() else 2 ** attempt
time.sleep(min(wait, 60))
raise RuntimeError("All free providers are at their limit")
def run(task: str, session_id: str, max_steps: int = 10) -> str:
messages = [
{"role": "system", "content": "Use the tools when they help. Be brief."},
{"role": "user", "content": task},
]
for _ in range(max_steps):
msg = call_model(messages, session_id).choices[0].message
messages.append(msg)
if not msg.tool_calls:
return msg.content
for call in msg.tool_calls:
fn = FUNCTIONS.get(call.function.name)
try:
args = json.loads(call.function.arguments or "{}")
result = fn(**args) if fn else {"error": "unknown tool"}
except Exception as exc: # return tool errors to the model
result = {"error": str(exc)}
messages.append({
"role": "tool",
"tool_call_id": call.id,
"content": json.dumps(result),
})
return "Stopped: too many steps."
print(run("Should I take an umbrella in Dublin today?", session_id="task-001"))- X-Session-Id: ทำให้ทุกขั้นตอนของหนึ่งงานใช้โมเดลเดียวกัน ตราบเท่าที่โมเดลนั้นยังมีโควตา
- Retry-After: เมื่อทุกคีย์ถึงขีดจำกัด เกตเวย์จะคืนค่า 429 พร้อม header นี้ ลูปจะรอแล้วลองใหม่
- ข้อผิดพลาดของเครื่องมือ: ลูปส่งข้อผิดพลาดกลับไปให้โมเดลเป็นผลลัพธ์ของเครื่องมือ โมเดลจึงแก้การเรียกของตนเองได้
ส่งแต่ละขั้นตอนไปยังโมเดลที่เหมาะสม
ขั้นตอนของ agent ไม่เท่ากัน ขั้นตอนการวางแผนต้องใช้โมเดลที่แข็งแรง ขั้นตอนที่ดึงฟิลด์เดียวต้องใช้โมเดลที่เร็ว ใช้ model string ต่างกันสำหรับแต่ละประเภทขั้นตอน คุณไม่ต้องเปลี่ยนแดชบอร์ด
| Model string | จัดอันดับโมเดลตาม | การใช้งานกับ agent |
|---|---|---|
auto:smart | ความฉลาด | การวางแผน การเลือกเครื่องมือ คำตอบสุดท้าย |
auto:fast | ความเร็วที่วัดได้และเวลาถึงไบต์แรก | การดึงข้อมูล การจัดประเภท สรุปสั้นของผลลัพธ์เครื่องมือ |
auto:reliable | อัตราความสำเร็จล่าสุด | agent ที่ตั้งเวลาไว้และต้องทำงานให้เสร็จ |
auto:balanced | ความน่าเชื่อถือก่อน แล้วจึงความเร็วและความฉลาด | ค่าเริ่มต้นทั่วไป |
auto:<profile> | เชนสำรองที่คุณตั้งชื่อไว้ | เชนที่มีเฉพาะโมเดลที่รองรับ tool calling |
กลยุทธ์ auto:* จัดอันดับทุกโมเดลที่เปิดใช้งาน และไม่สนใจลำดับในเชนของคุณ คำขอที่มีเครื่องมือยังต้องใช้โมเดลที่รองรับ tool calling หากมีโมเดลที่เปิดใช้งานบางตัวรองรับเครื่องมือไม่ดี ให้สร้างโปรไฟล์ที่มีเฉพาะโมเดลที่รองรับ tool calling แล้วใช้ auto:<profile> สำหรับขั้นตอนที่ใช้เครื่องมือ ชื่อโปรไฟล์ที่ไม่รู้จักจะคืนข้อผิดพลาด 400
header X-FreeLLM-Task-Type: code ย้ายน้ำหนักการจัดเส้นทางจากความเร็วไปยังความฉลาดสำหรับหนึ่งคำขอ นี่เป็นค่ากำหนดที่ยืดหยุ่น ไม่เปลี่ยนการตรวจสอบความสามารถหรือเชนสำรอง
เซสชัน agent ที่ยาวและการเปลี่ยนโมเดล
ระหว่างงานที่ยาว โมเดลอาจถึงขีดจำกัดรายวัน เราเตอร์จะย้ายไปยังโมเดลอื่น โมเดลใหม่ได้รับประวัติข้อความทั้งหมด แต่ไม่รู้ว่ามีโมเดลอื่นทำขั้นตอนก่อนหน้า
เปิดการส่งต่อ context เพื่อเพิ่มข้อความ system สั้นๆ หนึ่งข้อความเมื่อมีการเปลี่ยนโมเดล ข้อความนั้นบอกโมเดลใหม่ให้ทำงานต่อและเก็บผลลัพธ์ของเครื่องมือก่อนหน้าไว้
FreeLLMAPI .env
FREELLMAPI_CONTEXT_HANDOFF=on_model_switch- ระบบจะเพิ่มข้อความส่งต่อ เฉพาะเมื่อโมเดลที่เลือกเปลี่ยนสำหรับเซสชัน
- เซสชันถูกเก็บในหน่วยความจำนาน 3 ชั่วโมง ไม่มีการเขียนลงดิสก์
- คีย์ของเซสชันคือ header
X-Session-Idหากไม่มี header นี้ ระบบใช้แฮชของข้อความผู้ใช้แรก
ใช้เราเตอร์เป็น MCP server
FreeLLMAPI ยังเป็น MCP server ที่ /mcp ด้วย agent ที่ใช้ MCP ได้สามารถส่งงานข้อความไปยังโมเดลของ FreeLLMAPI ได้ และยังอ่านสถานะของเกตเวย์ระหว่างเซสชันได้ ได้แก่ โมเดลที่ใช้ได้และพารามิเตอร์ สุขภาพของผู้ให้บริการ สถิติการใช้งานและแคช และกลยุทธ์การจัดเส้นทาง
พื้นผิว MCP ปิดอยู่ในการติดตั้งใหม่ เปิดได้ในแดชบอร์ดที่หน้า Keys ภายใต้ Agent compatibility ขณะที่ปิดอยู่ /mcp จะคืนค่า 403
เพิ่ม MCP server ใน Claude Code
claude mcp add --transport http freellmapi http://localhost:3001/mcp \
--header "Authorization: Bearer <unified-key>"MCP client ใดก็ตามที่รองรับ Streamable HTTP ทำงานแบบเดียวกัน ชี้ไปที่ /mcp และส่งคีย์รวมเป็น Bearer token เครื่องมือที่มีประโยชน์ ได้แก่ healthcheck, list_models และ ask_freellmapi เครื่องมือ ask_freellmapi รันงานผ่านเส้นทางแชตเดียวกับ API พร้อมการจัดเส้นทางและการสลับสำรอง
สำหรับ coding agent FreeLLMAPI มีคำสั่งติดตั้งที่เขียนการตั้งค่าของ client ให้คุณ เช่น npx freellmapi setup-claude, setup-codex, setup-cline, setup-openclaw และ setup-hermes แต่ละคำสั่งรองรับ --dry-run และสร้างไฟล์สำรองก่อน
การแก้ไขปัญหา
| ปัญหา | สาเหตุ | วิธีแก้ |
|---|---|---|
| โมเดลตอบเป็นข้อความและไม่เรียกเครื่องมือ | โมเดลรองรับ tool calling ได้ไม่ดี | ใช้ auto:<profile> กับโมเดลที่รองรับ tool calling เท่านั้น |
| agent เริ่มงานใหม่กลางทาง | ขีดจำกัดบังคับให้เปลี่ยนโมเดล | ส่ง X-Session-Id และเปิดการส่งต่อ context |
| ข้อผิดพลาด 429 หลังขั้นตอนจำนวนมาก | ทุกคีย์ในเชนถึงขีดจำกัดแล้ว | เพิ่มผู้ให้บริการ ใช้ auto:fast สำหรับขั้นตอนเล็ก และรอตาม Retry-After |
ข้อผิดพลาด 400 กับ auto:name | ไม่มีโปรไฟล์นี้ | ตรวจชื่อโปรไฟล์ในแดชบอร์ด |
/mcp คืนค่า 403 | พื้นผิว MCP ปิดอยู่ | เปิดที่ Agent compatibility ในหน้า Keys |
| ข้อผิดพลาดความยาว context ช่วงท้ายงาน | ประวัติใหญ่กว่าหน้าต่างของโมเดล | สรุปผลลัพธ์เครื่องมือเก่า หรือใช้โปรไฟล์ long context |
คำถามที่พบบ่อย
มี Free LLM API สำหรับ AI agent หรือไม่
มี ผู้ให้บริการหลายรายมีแพ็กเกจฟรีที่รองรับ tool calling FreeLLMAPI รวมผู้ให้บริการเหล่านี้ไว้หลังคีย์ OpenAI-compatible เพียงคีย์เดียว และย้ายไปยังรายถัดไปเมื่อขีดจำกัดทำให้คำขอหยุด
LLM ฟรีตัวไหนดีที่สุดสำหรับ tool calling
ใช้โมเดลที่รองรับ tool calling และมีหน้าต่าง context 128K token ขึ้นไป ตารางในหน้านี้แสดงโมเดลฟรีที่แข็งแรงที่สุดที่ผ่านทั้งสองข้อในปัจจุบัน
ใช้ FreeLLMAPI เป็น MCP server ได้หรือไม่
ได้ เปิดพื้นผิว MCP ที่หน้า Keys ภายใต้ Agent compatibility จากนั้นเชื่อม MCP client ของคุณกับ /mcp โดยใช้คีย์รวมเป็น Bearer token
จะไม่ให้ agent ล้มเหลวเพราะ rate limit ได้อย่างไร
เพิ่มคีย์จากผู้ให้บริการหลายรายขึ้น ส่งขั้นตอนเล็กไปยัง auto:fast ลองใหม่เมื่อได้รับ 429 โดยใช้ header Retry-After และตั้งจำนวนขั้นตอนสูงสุด
จะเกิดอะไรขึ้นเมื่อโมเดลเปลี่ยนกลางงาน agent
โมเดลใหม่ได้รับประวัติข้อความทั้งหมด เมื่อเปิดการส่งต่อ context โมเดลจะได้รับโน้ตสั้นๆ ด้วยว่าให้ทำงานต่อ
คู่มือที่เกี่ยวข้อง
- Free LLM API ที่รองรับ function calling
- LLM API ฟรีใน Python
- Free LLM API สำหรับ LangChain
- Free LLM API สำหรับ n8n
- วิธีใช้ Claude Code ฟรี
- Rate limit ของ Free LLM API
แหล่งข้อมูล
- FreeLLMAPI docs: REST API (tool calling, routing strategies, response headers) (ตรวจสอบเมื่อ 20 November 2026)
- FreeLLMAPI docs: clients, MCP server and context handoff (ตรวจสอบเมื่อ 20 November 2026)
- OpenAI Python SDK: errors and retries (ตรวจสอบเมื่อ 20 November 2026)
- Claude Code docs: MCP (ตรวจสอบเมื่อ 20 November 2026)