API رایگان LLM برای عاملهای هوش مصنوعی
یک عامل هوش مصنوعی برای یک وظیفه، درخواستهای زیادی به مدل میفرستد. هر مرحله به فراخوانی ابزار و پنجره زمینه بزرگ نیاز دارد. یک سطح رایگان، عامل را سریع متوقف میکند. FreeLLMAPI، 45 سطح رایگان ارائهدهنده را پشت یک کلید سازگار با OpenAI جمع میکند. وقتی یک محدودیت درخواستی را متوقف کند، به ارائهدهنده بعدی میرود تا عامل ادامه دهد. این راهنما فراخوانی ابزار، مسیریابی هر مرحله، نشستهای طولانی و سرور MCP مسیریاب را پوشش میدهد.
کد، نام مدلها و برچسبهای زندهٔ کاتالوگ به زبان انگلیسی نمایش داده میشوند.
نیازهای یک عامل از یک API رایگان
| نیاز | دلیل | کار FreeLLMAPI |
|---|---|---|
| فراخوانی ابزار | عامل ابزار را انتخاب و اجرا میکند | tools به سبک OpenAI را به هر ارائهدهنده میفرستد. فراخوانیهای ابزار متنی را به tool_calls واقعی تبدیل میکند. |
| درخواستهای زیاد | یک وظیفه میتواند بین 20 تا 100 مرحله داشته باشد | سهمیه هر کلید را میشمارد و در صورت 429 به کلید یا ارائهدهنده بعدی میرود |
| زمینه بزرگ | نتیجه ابزارها و تاریخچه در هر مرحله بزرگتر میشود | درخواستها را به مدلهای زنجیره شما مسیریابی میکند. میتوانید یک پروفایل زمینه بلند بسازید. |
| رفتار پایدار | تغییر مدل در میانه یک وظیفه ممکن است عامل را گیج کند | یک نشست را 30 دقیقه روی یک مدل نگه میدارد. در صورت تغییر، انتقال زمینه اختیاری است. |
| قابلیت مشاهده | باید بدانید کدام مدل خطا داد | هدرهای X-Routed-Via و X-Fallback-Trail در هر پاسخ |
سطحهای رایگان محدودیت دارند. جایگزینی خودکار بار را بین کلیدهای شما پخش میکند، اما جمع کل برابر است با مجموع محدودیتهای رایگان. برای کار با عامل، کلید از چهار ارائهدهنده یا بیشتر اضافه کنید.
| مدل | رایگان در | متن ورودی | محدودیتهای رایگان (بهترین پیشنهاد) | ابزارها | بینایی |
|---|---|---|---|---|---|
| GLM 5.3 | UnoRouter | 1M | 1 درخواست در دقیقه 1 req/min per model | بله | خیر |
| GLM 5.3 Flash | NVIDIA NIM, UnoRouter | 1M | 40 درخواست در دقیقه 40 RPM | بله | بله |
| Gemini 3.8 Flash | Google AI Studio | 1M | Recurring provider quota | بله | بله |
| Qwen3.8 Flash Next | AMD Radeon Cloud | 262K | Recurring daily account allowance | بله | خیر |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | بله | بله |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 درخواست در دقیقه 20 درخواست در روز 250,000 توکن در دقیقه ~3M | بله | بله |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | بله | بله |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 درخواست در دقیقه 50 درخواست در روز 50 req/day account-wide (1,000 after a $10 purchase) | بله | بله |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 درخواست در دقیقه 50 درخواست در روز Shared rate limit | بله | خیر |
| Qwen3.8 27B | ElectronHub, Groq, OVH AI Endpoints | 262K | 30 درخواست در دقیقه 250 درخواست در روز 70,000 توکن در دقیقه ~6M | بله | بله |
| Gemini 3.6 Flash | Google AI Studio | 1M | 10 درخواست در دقیقه 20 درخواست در روز 250,000 توکن در دقیقه ~3M | بله | بله |
| Qwen 3.8 27B | Cloudflare Workers AI | 262K | Shared 10k neurons/day | بله | بله |
نمایش 12 مدل رایگان مطابق از 109 مدل. مشاهده همه مدلها.
دادههای زنده از کاتالوگ FreeLLMAPI (نسخه 2026.11.19، بررسیشده در 2026-11-19). محدودیتهای رایگان اغلب تغییر میکنند. کاتالوگ هر روز بررسی میشود.
یک حلقه کامل عامل در پایتون
حلقه زیر از SDK رسمی OpenAI استفاده میکند. ابزارها را میفرستد، هر فراخوانی ابزار را اجرا میکند، نتیجه را برمیگرداند و وقتی مدل پاسخ نهایی بدهد متوقف میشود. همچنین بعد از یک تعداد مرحله حداکثری متوقف میشود.
agent.py
import json
import os
import time
import openai
from openai import OpenAI
client = OpenAI(
base_url="http://localhost:3001/v1",
api_key=os.environ["FREELLMAPI_API_KEY"], # <unified-key>
max_retries=3,
)
def get_weather(city: str) -> dict:
return {"city": city, "temp_c": 18, "sky": "cloudy"}
TOOLS = [{
"type": "function",
"function": {
"name": "get_weather",
"description": "Get the current weather for a city.",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string"}},
"required": ["city"],
},
},
}]
FUNCTIONS = {"get_weather": get_weather}
def call_model(messages, session_id):
for attempt in range(5):
try:
return client.chat.completions.create(
model="auto:smart",
messages=messages,
tools=TOOLS,
extra_headers={"X-Session-Id": session_id},
)
except openai.RateLimitError as err:
header = err.response.headers.get("retry-after", "")
wait = int(header) if header.isdigit() else 2 ** attempt
time.sleep(min(wait, 60))
raise RuntimeError("All free providers are at their limit")
def run(task: str, session_id: str, max_steps: int = 10) -> str:
messages = [
{"role": "system", "content": "Use the tools when they help. Be brief."},
{"role": "user", "content": task},
]
for _ in range(max_steps):
msg = call_model(messages, session_id).choices[0].message
messages.append(msg)
if not msg.tool_calls:
return msg.content
for call in msg.tool_calls:
fn = FUNCTIONS.get(call.function.name)
try:
args = json.loads(call.function.arguments or "{}")
result = fn(**args) if fn else {"error": "unknown tool"}
except Exception as exc: # return tool errors to the model
result = {"error": str(exc)}
messages.append({
"role": "tool",
"tool_call_id": call.id,
"content": json.dumps(result),
})
return "Stopped: too many steps."
print(run("Should I take an umbrella in Dublin today?", session_id="task-001"))- X-Session-Id: تا وقتی سهمیه مدل باقی است، همه مراحل یک وظیفه را روی همان مدل نگه میدارد.
- Retry-After: وقتی همه کلیدها به حد خود رسیده باشند، دروازه با 429 و این هدر پاسخ میدهد. حلقه صبر میکند و دوباره تلاش میکند.
- خطاهای ابزار: حلقه خطاها را به عنوان نتیجه ابزار به مدل برمیگرداند. سپس مدل میتواند فراخوانی خود را اصلاح کند.
هر مرحله را به مدل درست مسیریابی کنید
مراحل عامل یکسان نیستند. یک مرحله برنامهریزی به مدل قوی نیاز دارد. مرحلهای که فقط یک فیلد را استخراج میکند به مدل سریع نیاز دارد. برای هر نوع مرحله از یک رشته مدل متفاوت استفاده کنید. لازم نیست داشبورد را تغییر دهید.
| رشته مدل | رتبهبندی بر اساس | استفاده در عامل |
|---|---|---|
auto:smart | هوش | برنامهریزی، انتخاب ابزار، پاسخهای نهایی |
auto:fast | سرعت اندازهگیریشده و زمان تا اولین بایت | استخراج، طبقهبندی، خلاصههای کوتاه از خروجی ابزار |
auto:reliable | نرخ موفقیت اخیر | عاملهای زمانبندیشده که باید تمام شوند |
auto:balanced | ابتدا قابلیت اطمینان، سپس سرعت و هوش | پیشفرض کلی |
auto:<profile> | زنجیره جایگزینی نامگذاریشده شما | زنجیرهای فقط با مدلهای فراخوانی ابزار |
راهبردهای auto:* همه مدلهای فعال را رتبهبندی میکنند و ترتیب زنجیره شما را نادیده میگیرند. درخواستی که ابزار دارد همچنان به مدلی با فراخوانی ابزار نیاز دارد. اگر برخی مدلهای فعال فراخوانی ابزار را خوب پشتیبانی نمیکنند، یک پروفایل فقط با مدلهای فراخوانی ابزار بسازید. سپس برای مراحل ابزار از auto:<profile> استفاده کنید. نام پروفایل ناشناس خطای 400 برمیگرداند.
هدر X-FreeLLM-Task-Type: code وزن مسیریابی را برای یک درخواست از سرعت به هوش میبرد. این یک ترجیح نرم است. بررسیهای توانایی یا زنجیره جایگزینی را تغییر نمیدهد.
نشستهای طولانی عامل و تغییر مدل
در یک وظیفه طولانی، ممکن است مدلی به محدودیت روزانه خود برسد. آنگاه مسیریاب به مدل دیگری میرود. مدل جدید کل تاریخچه پیامها را میگیرد، اما نمیداند که مدل دیگری مراحل قبلی را انجام داده است.
انتقال زمینه را روشن کنید تا وقتی مدل تغییر میکند، یک پیام سیستمی کوتاه اضافه شود. این پیام به مدل جدید میگوید وظیفه را ادامه دهد و نتایج قبلی ابزار را نگه دارد.
FreeLLMAPI .env
FREELLMAPI_CONTEXT_HANDOFF=on_model_switch- پیام انتقال فقط زمانی اضافه میشود که مدل انتخابشده برای یک نشست تغییر کند.
- نشستها 3 ساعت در حافظه نگه داشته میشوند. چیزی روی دیسک نوشته نمیشود.
- کلید نشست، هدر
X-Session-Idاست. بدون این هدر، کلید هش اولین پیام کاربر است.
از مسیریاب به عنوان سرور MCP استفاده کنید
FreeLLMAPI روی /mcp یک سرور MCP هم هست. عاملی که MCP را میفهمد میتواند یک وظیفه متنی را به یک مدل FreeLLMAPI بفرستد. همچنین میتواند در طول یک نشست، وضعیت دروازه را بخواند: مدلهای قابل استفاده و پارامترهای آنها، سلامت ارائهدهندگان، آمار مصرف و کش، و راهبرد مسیریابی.
سطح MCP در نصبهای تازه خاموش است. آن را در داشبورد، در صفحه Keys و زیر Agent compatibility روشن کنید. تا وقتی خاموش است، /mcp پاسخ 403 میدهد.
افزودن سرور MCP به Claude Code
claude mcp add --transport http freellmapi http://localhost:3001/mcp \
--header "Authorization: Bearer <unified-key>"هر کلاینت MCP که Streamable HTTP را پشتیبانی کند به همین شکل کار میکند. آن را به /mcp وصل کنید و کلید یکپارچه را به عنوان Bearer token بفرستید. ابزارهای مفید شامل healthcheck، list_models و ask_freellmapi هستند. ابزار ask_freellmapi یک وظیفه را از همان مسیر چت API اجرا میکند، با مسیریابی و جایگزینی.
برای عاملهای کدنویسی، FreeLLMAPI دستورهای راهاندازی دارد که پیکربندی کلاینت را برای شما مینویسند. نمونهها عبارتاند از npx freellmapi setup-claude، setup-codex، setup-cline، setup-openclaw و setup-hermes. هر دستور از --dry-run پشتیبانی میکند و ابتدا یک نسخه پشتیبان میگیرد.
عیبیابی
| مشکل | علت | راهحل |
|---|---|---|
| مدل پاسخ متنی میدهد و هیچ ابزاری فراخوانی نمیکند | فراخوانی ابزار مدل ضعیف است | فقط از مدلهای فراخوانی ابزار با auto:<profile> استفاده کنید |
| عامل وظیفه را در میانه دوباره شروع میکند | یک محدودیت باعث تغییر مدل شد | X-Session-Id را بفرستید و انتقال زمینه را روشن کنید |
| خطای 429 بعد از مراحل زیاد | همه کلیدهای زنجیره به حد خود رسیدهاند | ارائهدهنده اضافه کنید، برای مراحل کوچک از auto:fast استفاده کنید و تا Retry-After صبر کنید |
خطای 400 با auto:name | پروفایل وجود ندارد | نام پروفایل را در داشبورد بررسی کنید |
/mcp پاسخ 403 میدهد | سطح MCP خاموش است | آن را زیر Agent compatibility در صفحه Keys روشن کنید |
| خطاهای طول زمینه دیر در وظیفه | تاریخچه از پنجره مدل بزرگتر است | نتایج قدیمی ابزار را خلاصه کنید یا از یک پروفایل زمینه بلند استفاده کنید |
پرسشهای متداول
آیا یک API رایگان LLM برای عاملهای هوش مصنوعی وجود دارد؟
بله. چند ارائهدهنده سطح رایگان با فراخوانی ابزار دارند. FreeLLMAPI آنها را پشت یک کلید سازگار با OpenAI جمع میکند و وقتی محدودیتی درخواستی را متوقف کند، به ارائهدهنده بعدی میرود.
کدام LLM رایگان برای فراخوانی ابزار بهتر است؟
از مدلی با فراخوانی ابزار و پنجره زمینه 128K توکن یا بیشتر استفاده کنید. جدول این صفحه قویترین مدلهای رایگانی را نشان میدهد که امروز هر دو قاعده را دارند.
آیا میتوانم FreeLLMAPI را به عنوان سرور MCP استفاده کنم؟
بله. سطح MCP را در صفحه Keys زیر Agent compatibility روشن کنید. سپس کلاینت MCP خود را با کلید یکپارچه به عنوان Bearer token به /mcp وصل کنید.
چطور جلوی شکست عامل در محدودیت نرخ را بگیرم؟
کلید از ارائهدهندگان بیشتری اضافه کنید، مراحل کوچک را به auto:fast بفرستید، در صورت 429 با هدر Retry-After دوباره تلاش کنید و حداکثر تعداد مراحل را تنظیم کنید.
وقتی مدل وسط یک وظیفه عامل تغییر کند چه میشود؟
مدل جدید کل تاریخچه پیامها را میگیرد. اگر انتقال زمینه روشن باشد، یک یادداشت کوتاه هم میگیرد که به آن میگوید وظیفه را ادامه دهد.
راهنماهای مرتبط
- LLM API رایگان با فراخوانی تابع
- API رایگان LLM در Python
- API رایگان LLM برای LangChain
- LLM API رایگان برای n8n
- استفاده رایگان از Claude Code
- محدودیت نرخ API رایگان LLM
منابع
- FreeLLMAPI docs: REST API (tool calling, routing strategies, response headers) (بررسیشده در 20 November 2026)
- FreeLLMAPI docs: clients, MCP server and context handoff (بررسیشده در 20 November 2026)
- OpenAI Python SDK: errors and retries (بررسیشده در 20 November 2026)
- Claude Code docs: MCP (بررسیشده در 20 November 2026)