خانه / راهنماها / API رایگان LLM برای عامل‌های هوش مصنوعی

API رایگان LLM برای عامل‌های هوش مصنوعی

یک عامل هوش مصنوعی برای یک وظیفه، درخواست‌های زیادی به مدل می‌فرستد. هر مرحله به فراخوانی ابزار و پنجره زمینه بزرگ نیاز دارد. یک سطح رایگان، عامل را سریع متوقف می‌کند. FreeLLMAPI، 45 سطح رایگان ارائه‌دهنده را پشت یک کلید سازگار با OpenAI جمع می‌کند. وقتی یک محدودیت درخواستی را متوقف کند، به ارائه‌دهنده بعدی می‌رود تا عامل ادامه دهد. این راهنما فراخوانی ابزار، مسیریابی هر مرحله، نشست‌های طولانی و سرور MCP مسیریاب را پوشش می‌دهد.

کد، نام مدل‌ها و برچسب‌های زندهٔ کاتالوگ به زبان انگلیسی نمایش داده می‌شوند.

نیازهای یک عامل از یک API رایگان

نیازدلیلکار FreeLLMAPI
فراخوانی ابزارعامل ابزار را انتخاب و اجرا می‌کندtools به سبک OpenAI را به هر ارائه‌دهنده می‌فرستد. فراخوانی‌های ابزار متنی را به tool_calls واقعی تبدیل می‌کند.
درخواست‌های زیادیک وظیفه می‌تواند بین 20 تا 100 مرحله داشته باشدسهمیه هر کلید را می‌شمارد و در صورت 429 به کلید یا ارائه‌دهنده بعدی می‌رود
زمینه بزرگنتیجه ابزارها و تاریخچه در هر مرحله بزرگ‌تر می‌شوددرخواست‌ها را به مدل‌های زنجیره شما مسیریابی می‌کند. می‌توانید یک پروفایل زمینه بلند بسازید.
رفتار پایدارتغییر مدل در میانه یک وظیفه ممکن است عامل را گیج کندیک نشست را 30 دقیقه روی یک مدل نگه می‌دارد. در صورت تغییر، انتقال زمینه اختیاری است.
قابلیت مشاهدهباید بدانید کدام مدل خطا دادهدرهای X-Routed-Via و X-Fallback-Trail در هر پاسخ

سطح‌های رایگان محدودیت دارند. جایگزینی خودکار بار را بین کلیدهای شما پخش می‌کند، اما جمع کل برابر است با مجموع محدودیت‌های رایگان. برای کار با عامل، کلید از چهار ارائه‌دهنده یا بیشتر اضافه کنید.

مدل‌های رایگان با فراخوانی ابزار و زمینه 128K+
مدلرایگان درمتن ورودیمحدودیت‌های رایگان (بهترین پیشنهاد)ابزارهابینایی
GLM 5.3UnoRouter1M1 درخواست در دقیقه
1 req/min per model
بلهخیر
GLM 5.3 FlashNVIDIA NIM, UnoRouter1M40 درخواست در دقیقه
40 RPM
بلهبله
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaبلهبله
Qwen3.8 Flash NextAMD Radeon Cloud262KRecurring daily account allowanceبلهخیر
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditبلهبله
Gemini 3.7 FlashGoogle AI Studio1M10 درخواست در دقیقه
20 درخواست در روز
250,000 توکن در دقیقه
~3M
بلهبله
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditبلهبله
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 درخواست در دقیقه
50 درخواست در روز
50 req/day account-wide (1,000 after a $10 purchase)
بلهبله
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 درخواست در دقیقه
50 درخواست در روز
Shared rate limit
بلهخیر
Qwen3.8 27BElectronHub, Groq, OVH AI Endpoints262K30 درخواست در دقیقه
250 درخواست در روز
70,000 توکن در دقیقه
~6M
بلهبله
Gemini 3.6 FlashGoogle AI Studio1M10 درخواست در دقیقه
20 درخواست در روز
250,000 توکن در دقیقه
~3M
بلهبله
Qwen 3.8 27BCloudflare Workers AI262KShared 10k neurons/dayبلهبله

نمایش 12 مدل رایگان مطابق از 109 مدل. مشاهده همه مدل‌ها.

داده‌های زنده از کاتالوگ FreeLLMAPI (نسخه 2026.11.19، بررسی‌شده در 2026-11-19). محدودیت‌های رایگان اغلب تغییر می‌کنند. کاتالوگ هر روز بررسی می‌شود.

یک حلقه کامل عامل در پایتون

حلقه زیر از SDK رسمی OpenAI استفاده می‌کند. ابزارها را می‌فرستد، هر فراخوانی ابزار را اجرا می‌کند، نتیجه را برمی‌گرداند و وقتی مدل پاسخ نهایی بدهد متوقف می‌شود. همچنین بعد از یک تعداد مرحله حداکثری متوقف می‌شود.

agent.py

import json
import os
import time

import openai
from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:3001/v1",
    api_key=os.environ["FREELLMAPI_API_KEY"],  # <unified-key>
    max_retries=3,
)

def get_weather(city: str) -> dict:
    return {"city": city, "temp_c": 18, "sky": "cloudy"}

TOOLS = [{
    "type": "function",
    "function": {
        "name": "get_weather",
        "description": "Get the current weather for a city.",
        "parameters": {
            "type": "object",
            "properties": {"city": {"type": "string"}},
            "required": ["city"],
        },
    },
}]
FUNCTIONS = {"get_weather": get_weather}

def call_model(messages, session_id):
    for attempt in range(5):
        try:
            return client.chat.completions.create(
                model="auto:smart",
                messages=messages,
                tools=TOOLS,
                extra_headers={"X-Session-Id": session_id},
            )
        except openai.RateLimitError as err:
            header = err.response.headers.get("retry-after", "")
            wait = int(header) if header.isdigit() else 2 ** attempt
            time.sleep(min(wait, 60))
    raise RuntimeError("All free providers are at their limit")

def run(task: str, session_id: str, max_steps: int = 10) -> str:
    messages = [
        {"role": "system", "content": "Use the tools when they help. Be brief."},
        {"role": "user", "content": task},
    ]
    for _ in range(max_steps):
        msg = call_model(messages, session_id).choices[0].message
        messages.append(msg)
        if not msg.tool_calls:
            return msg.content
        for call in msg.tool_calls:
            fn = FUNCTIONS.get(call.function.name)
            try:
                args = json.loads(call.function.arguments or "{}")
                result = fn(**args) if fn else {"error": "unknown tool"}
            except Exception as exc:  # return tool errors to the model
                result = {"error": str(exc)}
            messages.append({
                "role": "tool",
                "tool_call_id": call.id,
                "content": json.dumps(result),
            })
    return "Stopped: too many steps."

print(run("Should I take an umbrella in Dublin today?", session_id="task-001"))
  • X-Session-Id: تا وقتی سهمیه مدل باقی است، همه مراحل یک وظیفه را روی همان مدل نگه می‌دارد.
  • Retry-After: وقتی همه کلیدها به حد خود رسیده باشند، دروازه با 429 و این هدر پاسخ می‌دهد. حلقه صبر می‌کند و دوباره تلاش می‌کند.
  • خطاهای ابزار: حلقه خطاها را به عنوان نتیجه ابزار به مدل برمی‌گرداند. سپس مدل می‌تواند فراخوانی خود را اصلاح کند.

هر مرحله را به مدل درست مسیریابی کنید

مراحل عامل یکسان نیستند. یک مرحله برنامه‌ریزی به مدل قوی نیاز دارد. مرحله‌ای که فقط یک فیلد را استخراج می‌کند به مدل سریع نیاز دارد. برای هر نوع مرحله از یک رشته مدل متفاوت استفاده کنید. لازم نیست داشبورد را تغییر دهید.

رشته مدلرتبه‌بندی بر اساساستفاده در عامل
auto:smartهوشبرنامه‌ریزی، انتخاب ابزار، پاسخ‌های نهایی
auto:fastسرعت اندازه‌گیری‌شده و زمان تا اولین بایتاستخراج، طبقه‌بندی، خلاصه‌های کوتاه از خروجی ابزار
auto:reliableنرخ موفقیت اخیرعامل‌های زمان‌بندی‌شده که باید تمام شوند
auto:balancedابتدا قابلیت اطمینان، سپس سرعت و هوشپیش‌فرض کلی
auto:<profile>زنجیره جایگزینی نام‌گذاری‌شده شمازنجیره‌ای فقط با مدل‌های فراخوانی ابزار

راهبردهای auto:* همه مدل‌های فعال را رتبه‌بندی می‌کنند و ترتیب زنجیره شما را نادیده می‌گیرند. درخواستی که ابزار دارد همچنان به مدلی با فراخوانی ابزار نیاز دارد. اگر برخی مدل‌های فعال فراخوانی ابزار را خوب پشتیبانی نمی‌کنند، یک پروفایل فقط با مدل‌های فراخوانی ابزار بسازید. سپس برای مراحل ابزار از auto:<profile> استفاده کنید. نام پروفایل ناشناس خطای 400 برمی‌گرداند.

هدر X-FreeLLM-Task-Type: code وزن مسیریابی را برای یک درخواست از سرعت به هوش می‌برد. این یک ترجیح نرم است. بررسی‌های توانایی یا زنجیره جایگزینی را تغییر نمی‌دهد.

نشست‌های طولانی عامل و تغییر مدل

در یک وظیفه طولانی، ممکن است مدلی به محدودیت روزانه خود برسد. آنگاه مسیریاب به مدل دیگری می‌رود. مدل جدید کل تاریخچه پیام‌ها را می‌گیرد، اما نمی‌داند که مدل دیگری مراحل قبلی را انجام داده است.

انتقال زمینه را روشن کنید تا وقتی مدل تغییر می‌کند، یک پیام سیستمی کوتاه اضافه شود. این پیام به مدل جدید می‌گوید وظیفه را ادامه دهد و نتایج قبلی ابزار را نگه دارد.

FreeLLMAPI .env

FREELLMAPI_CONTEXT_HANDOFF=on_model_switch
  • پیام انتقال فقط زمانی اضافه می‌شود که مدل انتخاب‌شده برای یک نشست تغییر کند.
  • نشست‌ها 3 ساعت در حافظه نگه داشته می‌شوند. چیزی روی دیسک نوشته نمی‌شود.
  • کلید نشست، هدر X-Session-Id است. بدون این هدر، کلید هش اولین پیام کاربر است.

از مسیریاب به عنوان سرور MCP استفاده کنید

FreeLLMAPI روی /mcp یک سرور MCP هم هست. عاملی که MCP را می‌فهمد می‌تواند یک وظیفه متنی را به یک مدل FreeLLMAPI بفرستد. همچنین می‌تواند در طول یک نشست، وضعیت دروازه را بخواند: مدل‌های قابل استفاده و پارامترهای آن‌ها، سلامت ارائه‌دهندگان، آمار مصرف و کش، و راهبرد مسیریابی.

سطح MCP در نصب‌های تازه خاموش است. آن را در داشبورد، در صفحه Keys و زیر Agent compatibility روشن کنید. تا وقتی خاموش است، /mcp پاسخ 403 می‌دهد.

افزودن سرور MCP به Claude Code

claude mcp add --transport http freellmapi http://localhost:3001/mcp \
  --header "Authorization: Bearer <unified-key>"

هر کلاینت MCP که Streamable HTTP را پشتیبانی کند به همین شکل کار می‌کند. آن را به /mcp وصل کنید و کلید یکپارچه را به عنوان Bearer token بفرستید. ابزارهای مفید شامل healthcheck، list_models و ask_freellmapi هستند. ابزار ask_freellmapi یک وظیفه را از همان مسیر چت API اجرا می‌کند، با مسیریابی و جایگزینی.

برای عامل‌های کدنویسی، FreeLLMAPI دستورهای راه‌اندازی دارد که پیکربندی کلاینت را برای شما می‌نویسند. نمونه‌ها عبارت‌اند از npx freellmapi setup-claude، setup-codex، setup-cline، setup-openclaw و setup-hermes. هر دستور از --dry-run پشتیبانی می‌کند و ابتدا یک نسخه پشتیبان می‌گیرد.

عیب‌یابی

مشکلعلتراه‌حل
مدل پاسخ متنی می‌دهد و هیچ ابزاری فراخوانی نمی‌کندفراخوانی ابزار مدل ضعیف استفقط از مدل‌های فراخوانی ابزار با auto:<profile> استفاده کنید
عامل وظیفه را در میانه دوباره شروع می‌کندیک محدودیت باعث تغییر مدل شدX-Session-Id را بفرستید و انتقال زمینه را روشن کنید
خطای 429 بعد از مراحل زیادهمه کلیدهای زنجیره به حد خود رسیده‌اندارائه‌دهنده اضافه کنید، برای مراحل کوچک از auto:fast استفاده کنید و تا Retry-After صبر کنید
خطای 400 با auto:nameپروفایل وجود نداردنام پروفایل را در داشبورد بررسی کنید
/mcp پاسخ 403 می‌دهدسطح MCP خاموش استآن را زیر Agent compatibility در صفحه Keys روشن کنید
خطاهای طول زمینه دیر در وظیفهتاریخچه از پنجره مدل بزرگ‌تر استنتایج قدیمی ابزار را خلاصه کنید یا از یک پروفایل زمینه بلند استفاده کنید
هر یک از این‌ها را با یک کلید استفاده کنید. FreeLLMAPI یک روتر متن‌باز و میزبانی‌شده روی سرور خودتان است. این روتر همه این سطوح رایگان را پشت یک نقطه پایانی سازگار با OpenAI قرار می‌دهد و وقتی یک سرویس به محدودیت نرخ برسد، به سرویس بعدی منتقل می‌شود. مرور کاتالوگ یا اجرای زنده.

پرسش‌های متداول

آیا یک API رایگان LLM برای عامل‌های هوش مصنوعی وجود دارد؟

بله. چند ارائه‌دهنده سطح رایگان با فراخوانی ابزار دارند. FreeLLMAPI آن‌ها را پشت یک کلید سازگار با OpenAI جمع می‌کند و وقتی محدودیتی درخواستی را متوقف کند، به ارائه‌دهنده بعدی می‌رود.

کدام LLM رایگان برای فراخوانی ابزار بهتر است؟

از مدلی با فراخوانی ابزار و پنجره زمینه 128K توکن یا بیشتر استفاده کنید. جدول این صفحه قوی‌ترین مدل‌های رایگانی را نشان می‌دهد که امروز هر دو قاعده را دارند.

آیا می‌توانم FreeLLMAPI را به عنوان سرور MCP استفاده کنم؟

بله. سطح MCP را در صفحه Keys زیر Agent compatibility روشن کنید. سپس کلاینت MCP خود را با کلید یکپارچه به عنوان Bearer token به /mcp وصل کنید.

چطور جلوی شکست عامل در محدودیت نرخ را بگیرم؟

کلید از ارائه‌دهندگان بیشتری اضافه کنید، مراحل کوچک را به auto:fast بفرستید، در صورت 429 با هدر Retry-After دوباره تلاش کنید و حداکثر تعداد مراحل را تنظیم کنید.

وقتی مدل وسط یک وظیفه عامل تغییر کند چه می‌شود؟

مدل جدید کل تاریخچه پیام‌ها را می‌گیرد. اگر انتقال زمینه روشن باشد، یک یادداشت کوتاه هم می‌گیرد که به آن می‌گوید وظیفه را ادامه دهد.

راهنماهای مرتبط

منابع

همه راهنماها · مرور همه مدل‌های رایگان