หน้าแรก / คู่มือ / Free LLM API สำหรับ AI agent

Free LLM API สำหรับ AI agent

AI agent ส่งคำขอไปยังโมเดลหลายครั้งต่อหนึ่งงาน แต่ละขั้นตอนต้องใช้ tool calling และ context ขนาดใหญ่ โควตาฟรีเพียงรายการเดียวทำให้ agent หยุดเร็ว FreeLLMAPI รวมแพ็กเกจฟรีจาก 45 ผู้ให้บริการไว้หลังคีย์ OpenAI-compatible เพียงคีย์เดียว เมื่อขีดจำกัดทำให้คำขอหยุด ระบบจะย้ายไปยังผู้ให้บริการรายถัดไป agent จึงทำงานต่อได้ คู่มือนี้ครอบคลุม tool calling การจัดเส้นทางต่อขั้นตอน เซสชันที่ยาว และ MCP server ของเราเตอร์

โค้ด ชื่อโมเดล และป้ายกำกับของแคตตาล็อกสดจะแสดงเป็นภาษาอังกฤษ

สิ่งที่ agent ต้องการจาก API ฟรี

ความต้องการเหตุผลFreeLLMAPI ทำอะไร
Tool callingagent เลือกและรันเครื่องมือส่ง tools แบบ OpenAI ไปยังแต่ละผู้ให้บริการ แปลง tool call ที่เป็นข้อความธรรมดาให้เป็น tool_calls จริง
คำขอจำนวนมากงานหนึ่งงานใช้ได้ 20 ถึง 100 ขั้นตอนนับโควตาของแต่ละคีย์ และย้ายไปยังคีย์หรือผู้ให้บริการรายถัดไปเมื่อได้รับ 429
Context ขนาดใหญ่ผลลัพธ์ของเครื่องมือและประวัติเพิ่มขึ้นทุกขั้นตอนส่งไปยังโมเดลในเชนของคุณ คุณสร้างโปรไฟล์สำหรับ long context ได้
พฤติกรรมที่คงที่การเปลี่ยนโมเดลกลางงานอาจทำให้ agent สับสนคงเซสชันไว้กับโมเดลเดียวนาน 30 นาที มีการส่งต่อ context แบบเลือกได้เมื่อมีการเปลี่ยนโมเดล
ความโปร่งใสคุณต้องรู้ว่าโมเดลใดล้มเหลวheader X-Routed-Via และ X-Fallback-Trail ในทุกการตอบกลับ

แพ็กเกจฟรีมีขีดจำกัด การสลับสำรอง (failover) กระจายโหลดไปยังคีย์ของคุณ แต่ผลรวมยังเท่ากับผลรวมของขีดจำกัดฟรี เพิ่มคีย์จากผู้ให้บริการสี่รายขึ้นไปสำหรับงาน agent

โมเดลฟรีที่รองรับ tool calling และ context 128K ขึ้นไป
โมเดลฟรีบนขนาดบริบทขีดจำกัดฟรี (ข้อเสนอที่ดีที่สุด)เครื่องมือการอ่านภาพ
GLM 5.3UnoRouter1M1 คำขอ/นาที
1 req/min per model
ใช่ไม่
GLM 5.3 FlashNVIDIA NIM, UnoRouter1M40 คำขอ/นาที
40 RPM
ใช่ใช่
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaใช่ใช่
Qwen3.8 Flash NextAMD Radeon Cloud262KRecurring daily account allowanceใช่ไม่
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditใช่ใช่
Gemini 3.7 FlashGoogle AI Studio1M10 คำขอ/นาที
20 คำขอ/วัน
250,000 โทเคน/นาที
~3M
ใช่ใช่
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditใช่ใช่
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 คำขอ/นาที
50 คำขอ/วัน
50 req/day account-wide (1,000 after a $10 purchase)
ใช่ใช่
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 คำขอ/นาที
50 คำขอ/วัน
Shared rate limit
ใช่ไม่
Qwen3.8 27BElectronHub, Groq, OVH AI Endpoints262K30 คำขอ/นาที
250 คำขอ/วัน
70,000 โทเคน/นาที
~6M
ใช่ใช่
Gemini 3.6 FlashGoogle AI Studio1M10 คำขอ/นาที
20 คำขอ/วัน
250,000 โทเคน/นาที
~3M
ใช่ใช่
Qwen 3.8 27BCloudflare Workers AI262KShared 10k neurons/dayใช่ใช่

แสดง 12 จาก 109 โมเดลฟรีที่ตรงกัน ดูโมเดลทั้งหมด.

ข้อมูลสดจากแคตตาล็อก FreeLLMAPI (เวอร์ชัน 2026.11.19 ตรวจสอบเมื่อ 2026-11-19) ขีดจำกัดฟรีเปลี่ยนบ่อย แคตตาล็อกถูกตรวจสอบทุกวัน

วนลูป agent แบบสมบูรณ์ด้วย Python

ลูปด้านล่างใช้ OpenAI SDK อย่างเป็นทางการ ระบบส่งเครื่องมือ รันแต่ละ tool call ส่งผลลัพธ์กลับ และหยุดเมื่อโมเดลให้คำตอบสุดท้าย ลูปนี้หยุดด้วยเมื่อครบจำนวนขั้นตอนสูงสุด

agent.py

import json
import os
import time

import openai
from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:3001/v1",
    api_key=os.environ["FREELLMAPI_API_KEY"],  # <unified-key>
    max_retries=3,
)

def get_weather(city: str) -> dict:
    return {"city": city, "temp_c": 18, "sky": "cloudy"}

TOOLS = [{
    "type": "function",
    "function": {
        "name": "get_weather",
        "description": "Get the current weather for a city.",
        "parameters": {
            "type": "object",
            "properties": {"city": {"type": "string"}},
            "required": ["city"],
        },
    },
}]
FUNCTIONS = {"get_weather": get_weather}

def call_model(messages, session_id):
    for attempt in range(5):
        try:
            return client.chat.completions.create(
                model="auto:smart",
                messages=messages,
                tools=TOOLS,
                extra_headers={"X-Session-Id": session_id},
            )
        except openai.RateLimitError as err:
            header = err.response.headers.get("retry-after", "")
            wait = int(header) if header.isdigit() else 2 ** attempt
            time.sleep(min(wait, 60))
    raise RuntimeError("All free providers are at their limit")

def run(task: str, session_id: str, max_steps: int = 10) -> str:
    messages = [
        {"role": "system", "content": "Use the tools when they help. Be brief."},
        {"role": "user", "content": task},
    ]
    for _ in range(max_steps):
        msg = call_model(messages, session_id).choices[0].message
        messages.append(msg)
        if not msg.tool_calls:
            return msg.content
        for call in msg.tool_calls:
            fn = FUNCTIONS.get(call.function.name)
            try:
                args = json.loads(call.function.arguments or "{}")
                result = fn(**args) if fn else {"error": "unknown tool"}
            except Exception as exc:  # return tool errors to the model
                result = {"error": str(exc)}
            messages.append({
                "role": "tool",
                "tool_call_id": call.id,
                "content": json.dumps(result),
            })
    return "Stopped: too many steps."

print(run("Should I take an umbrella in Dublin today?", session_id="task-001"))
  • X-Session-Id: ทำให้ทุกขั้นตอนของหนึ่งงานใช้โมเดลเดียวกัน ตราบเท่าที่โมเดลนั้นยังมีโควตา
  • Retry-After: เมื่อทุกคีย์ถึงขีดจำกัด เกตเวย์จะคืนค่า 429 พร้อม header นี้ ลูปจะรอแล้วลองใหม่
  • ข้อผิดพลาดของเครื่องมือ: ลูปส่งข้อผิดพลาดกลับไปให้โมเดลเป็นผลลัพธ์ของเครื่องมือ โมเดลจึงแก้การเรียกของตนเองได้

ส่งแต่ละขั้นตอนไปยังโมเดลที่เหมาะสม

ขั้นตอนของ agent ไม่เท่ากัน ขั้นตอนการวางแผนต้องใช้โมเดลที่แข็งแรง ขั้นตอนที่ดึงฟิลด์เดียวต้องใช้โมเดลที่เร็ว ใช้ model string ต่างกันสำหรับแต่ละประเภทขั้นตอน คุณไม่ต้องเปลี่ยนแดชบอร์ด

Model stringจัดอันดับโมเดลตามการใช้งานกับ agent
auto:smartความฉลาดการวางแผน การเลือกเครื่องมือ คำตอบสุดท้าย
auto:fastความเร็วที่วัดได้และเวลาถึงไบต์แรกการดึงข้อมูล การจัดประเภท สรุปสั้นของผลลัพธ์เครื่องมือ
auto:reliableอัตราความสำเร็จล่าสุดagent ที่ตั้งเวลาไว้และต้องทำงานให้เสร็จ
auto:balancedความน่าเชื่อถือก่อน แล้วจึงความเร็วและความฉลาดค่าเริ่มต้นทั่วไป
auto:<profile>เชนสำรองที่คุณตั้งชื่อไว้เชนที่มีเฉพาะโมเดลที่รองรับ tool calling

กลยุทธ์ auto:* จัดอันดับทุกโมเดลที่เปิดใช้งาน และไม่สนใจลำดับในเชนของคุณ คำขอที่มีเครื่องมือยังต้องใช้โมเดลที่รองรับ tool calling หากมีโมเดลที่เปิดใช้งานบางตัวรองรับเครื่องมือไม่ดี ให้สร้างโปรไฟล์ที่มีเฉพาะโมเดลที่รองรับ tool calling แล้วใช้ auto:<profile> สำหรับขั้นตอนที่ใช้เครื่องมือ ชื่อโปรไฟล์ที่ไม่รู้จักจะคืนข้อผิดพลาด 400

header X-FreeLLM-Task-Type: code ย้ายน้ำหนักการจัดเส้นทางจากความเร็วไปยังความฉลาดสำหรับหนึ่งคำขอ นี่เป็นค่ากำหนดที่ยืดหยุ่น ไม่เปลี่ยนการตรวจสอบความสามารถหรือเชนสำรอง

เซสชัน agent ที่ยาวและการเปลี่ยนโมเดล

ระหว่างงานที่ยาว โมเดลอาจถึงขีดจำกัดรายวัน เราเตอร์จะย้ายไปยังโมเดลอื่น โมเดลใหม่ได้รับประวัติข้อความทั้งหมด แต่ไม่รู้ว่ามีโมเดลอื่นทำขั้นตอนก่อนหน้า

เปิดการส่งต่อ context เพื่อเพิ่มข้อความ system สั้นๆ หนึ่งข้อความเมื่อมีการเปลี่ยนโมเดล ข้อความนั้นบอกโมเดลใหม่ให้ทำงานต่อและเก็บผลลัพธ์ของเครื่องมือก่อนหน้าไว้

FreeLLMAPI .env

FREELLMAPI_CONTEXT_HANDOFF=on_model_switch
  • ระบบจะเพิ่มข้อความส่งต่อ เฉพาะเมื่อโมเดลที่เลือกเปลี่ยนสำหรับเซสชัน
  • เซสชันถูกเก็บในหน่วยความจำนาน 3 ชั่วโมง ไม่มีการเขียนลงดิสก์
  • คีย์ของเซสชันคือ header X-Session-Id หากไม่มี header นี้ ระบบใช้แฮชของข้อความผู้ใช้แรก

ใช้เราเตอร์เป็น MCP server

FreeLLMAPI ยังเป็น MCP server ที่ /mcp ด้วย agent ที่ใช้ MCP ได้สามารถส่งงานข้อความไปยังโมเดลของ FreeLLMAPI ได้ และยังอ่านสถานะของเกตเวย์ระหว่างเซสชันได้ ได้แก่ โมเดลที่ใช้ได้และพารามิเตอร์ สุขภาพของผู้ให้บริการ สถิติการใช้งานและแคช และกลยุทธ์การจัดเส้นทาง

พื้นผิว MCP ปิดอยู่ในการติดตั้งใหม่ เปิดได้ในแดชบอร์ดที่หน้า Keys ภายใต้ Agent compatibility ขณะที่ปิดอยู่ /mcp จะคืนค่า 403

เพิ่ม MCP server ใน Claude Code

claude mcp add --transport http freellmapi http://localhost:3001/mcp \
  --header "Authorization: Bearer <unified-key>"

MCP client ใดก็ตามที่รองรับ Streamable HTTP ทำงานแบบเดียวกัน ชี้ไปที่ /mcp และส่งคีย์รวมเป็น Bearer token เครื่องมือที่มีประโยชน์ ได้แก่ healthcheck, list_models และ ask_freellmapi เครื่องมือ ask_freellmapi รันงานผ่านเส้นทางแชตเดียวกับ API พร้อมการจัดเส้นทางและการสลับสำรอง

สำหรับ coding agent FreeLLMAPI มีคำสั่งติดตั้งที่เขียนการตั้งค่าของ client ให้คุณ เช่น npx freellmapi setup-claude, setup-codex, setup-cline, setup-openclaw และ setup-hermes แต่ละคำสั่งรองรับ --dry-run และสร้างไฟล์สำรองก่อน

การแก้ไขปัญหา

ปัญหาสาเหตุวิธีแก้
โมเดลตอบเป็นข้อความและไม่เรียกเครื่องมือโมเดลรองรับ tool calling ได้ไม่ดีใช้ auto:<profile> กับโมเดลที่รองรับ tool calling เท่านั้น
agent เริ่มงานใหม่กลางทางขีดจำกัดบังคับให้เปลี่ยนโมเดลส่ง X-Session-Id และเปิดการส่งต่อ context
ข้อผิดพลาด 429 หลังขั้นตอนจำนวนมากทุกคีย์ในเชนถึงขีดจำกัดแล้วเพิ่มผู้ให้บริการ ใช้ auto:fast สำหรับขั้นตอนเล็ก และรอตาม Retry-After
ข้อผิดพลาด 400 กับ auto:nameไม่มีโปรไฟล์นี้ตรวจชื่อโปรไฟล์ในแดชบอร์ด
/mcp คืนค่า 403พื้นผิว MCP ปิดอยู่เปิดที่ Agent compatibility ในหน้า Keys
ข้อผิดพลาดความยาว context ช่วงท้ายงานประวัติใหญ่กว่าหน้าต่างของโมเดลสรุปผลลัพธ์เครื่องมือเก่า หรือใช้โปรไฟล์ long context
ใช้ทุกตัวในรายการนี้ผ่านคีย์เดียว FreeLLMAPI คือเราเตอร์โอเพนซอร์สที่คุณโฮสต์เอง รวมระดับฟรีทั้งหมดนี้ไว้หลังปลายทางเดียวที่เข้ากันได้กับ OpenAI และเปลี่ยนไปใช้ตัวอื่นเมื่อตัวใดตัวหนึ่งถูกจำกัดอัตรา ดูแคตตาล็อก หรือ เริ่มใช้งานจริง.

คำถามที่พบบ่อย

มี Free LLM API สำหรับ AI agent หรือไม่

มี ผู้ให้บริการหลายรายมีแพ็กเกจฟรีที่รองรับ tool calling FreeLLMAPI รวมผู้ให้บริการเหล่านี้ไว้หลังคีย์ OpenAI-compatible เพียงคีย์เดียว และย้ายไปยังรายถัดไปเมื่อขีดจำกัดทำให้คำขอหยุด

LLM ฟรีตัวไหนดีที่สุดสำหรับ tool calling

ใช้โมเดลที่รองรับ tool calling และมีหน้าต่าง context 128K token ขึ้นไป ตารางในหน้านี้แสดงโมเดลฟรีที่แข็งแรงที่สุดที่ผ่านทั้งสองข้อในปัจจุบัน

ใช้ FreeLLMAPI เป็น MCP server ได้หรือไม่

ได้ เปิดพื้นผิว MCP ที่หน้า Keys ภายใต้ Agent compatibility จากนั้นเชื่อม MCP client ของคุณกับ /mcp โดยใช้คีย์รวมเป็น Bearer token

จะไม่ให้ agent ล้มเหลวเพราะ rate limit ได้อย่างไร

เพิ่มคีย์จากผู้ให้บริการหลายรายขึ้น ส่งขั้นตอนเล็กไปยัง auto:fast ลองใหม่เมื่อได้รับ 429 โดยใช้ header Retry-After และตั้งจำนวนขั้นตอนสูงสุด

จะเกิดอะไรขึ้นเมื่อโมเดลเปลี่ยนกลางงาน agent

โมเดลใหม่ได้รับประวัติข้อความทั้งหมด เมื่อเปิดการส่งต่อ context โมเดลจะได้รับโน้ตสั้นๆ ด้วยว่าให้ทำงานต่อ

คู่มือที่เกี่ยวข้อง

แหล่งข้อมูล

คู่มือทั้งหมด · ดูโมเดลฟรีทั้งหมด