API رایگان LLM در Python
بسته رسمی Python با نام openai با هر API سازگار با OpenAI کار میکند. شما نشانی پایه و کلید را تغییر میدهید. این راهنما از FreeLLMAPI استفاده میکند که 45 سطح رایگان ارائهدهنده را پشت یک کلید گردآوری میکند و وقتی یک محدودیت درخواستی را متوقف کند، به ارائهدهنده بعدی میرود. هر مثال زیر کامل است و همانطور که هست اجرا میشود.
کد، نام مدلها و برچسبهای زندهٔ کاتالوگ به زبان انگلیسی نمایش داده میشوند.
راهاندازی
FreeLLMAPI را نصب کنید. این برنامه در Docker اجرا میشود. داشبورد را در http://localhost:3001 باز کنید، کلیدهای رایگان دو یا چند ارائهدهنده را در صفحه Keys اضافه کنید و کلید یکپارچه را کپی کنید. سپس بسته Python را نصب کنید.
کد Python شما فقط از کلید یکپارچه استفاده میکند. کلیدهای ارائهدهندگان در FreeLLMAPI و در پایگاه داده رمزشده آن میمانند. اگر کلید یک ارائهدهنده را تغییر دهید یا کلید جدید اضافه کنید، کد خود را تغییر نمیدهید.
نصب
curl -fsSL https://freellmapi.co/install.sh | bash
python3 -m pip install -U openai
export FREELLMAPI_API_KEY=<unified-key>client.py
import os
from openai import OpenAI
client = OpenAI(
base_url="http://localhost:3001/v1",
api_key=os.environ["FREELLMAPI_API_KEY"],
max_retries=3, # the SDK retries 429, 408, 409 and 5xx errors
timeout=60,
)
resp = client.chat.completions.create(
model="auto",
messages=[{"role": "user", "content": "Name three uses of Python in one line."}],
)
print(resp.choices[0].message.content)مدل auto از زنجیره پشتیبان شما در داشبورد پیروی میکند. همچنین میتوانید از auto:fast، auto:smart یا auto:reliable استفاده کنید، یا یک پروفایل مانند auto:coding، یا یک شناسه مدل ثابت.
استریم و هدرهای پاسخ
استریم پاسخ
from client import client
stream = client.chat.completions.create(
model="auto:fast",
messages=[{"role": "user", "content": "Write a haiku about Python."}],
stream=True,
)
for chunk in stream:
if chunk.choices:
print(chunk.choices[0].delta.content or "", end="", flush=True)
print()هر پاسخ یک هدر X-Routed-Via دارد که ارائهدهنده و مدلی را نشان میدهد که پاسخ داده است. برای خواندن هدرها با SDK، از with_raw_response استفاده کنید و parse() را صدا بزنید تا شیء معمولی را بگیرید.
خواندن هدرهای مسیریابی
from client import client
raw = client.chat.completions.with_raw_response.create(
model="auto",
messages=[{"role": "user", "content": "hi"}],
)
print("Served by:", raw.headers.get("x-routed-via"))
print("Failed attempts:", raw.headers.get("x-fallback-attempts", "0"))
print(raw.parse().choices[0].message.content)فراخوانی ابزار
tools به سبک OpenAI بفرستید. مسیریاب آنها را به ارائهدهندگان سازگار با OpenAI میدهد و برای Gemini ترجمه میکند. پاسخ برای همه ارائهدهندگان در یک قالب برمیگردد.
یک فراخوانی ابزار و پاسخ نهایی
import json
from client import client
tools = [{
"type": "function",
"function": {
"name": "get_exchange_rate",
"description": "Get the exchange rate between two currencies.",
"parameters": {
"type": "object",
"properties": {
"base": {"type": "string"},
"quote": {"type": "string"},
},
"required": ["base", "quote"],
},
},
}]
messages = [{"role": "user", "content": "How many euros is 250 US dollars?"}]
first = client.chat.completions.create(model="auto", messages=messages, tools=tools)
msg = first.choices[0].message
if msg.tool_calls:
messages.append(msg)
for call in msg.tool_calls:
args = json.loads(call.function.arguments)
result = {"base": args["base"], "quote": args["quote"], "rate": 0.92} # your real lookup
messages.append({"role": "tool", "tool_call_id": call.id, "content": json.dumps(result)})
final = client.chat.completions.create(model="auto", messages=messages, tools=tools)
print(final.choices[0].message.content)
else:
print(msg.content)برخی ارائهدهندگان فراخوانی ابزار را به صورت متن ساده برمیگردانند. FreeLLMAPI این پاسخها را به tool_calls واقعی تبدیل میکند، پس کد شما یک قالب را میخواند. همیشه msg.tool_calls را پیش از خواندن msg.content بررسی کنید، زیرا یک مدل ممکن است بدون ابزار هم پاسخ دهد.
از یک مدل با فراخوانی ابزار استفاده کنید. این مدلهای رایگان ابزار را پشتیبانی میکنند و امروز بیشترین سرعت اندازهگیریشده را دارند:
| مدل | رایگان در | متن ورودی | محدودیتهای رایگان (بهترین پیشنهاد) | ابزارها | بینایی |
|---|---|---|---|---|---|
| Qwen3.8 27B | ElectronHub, Groq, OVH AI Endpoints | 262K | 30 درخواست در دقیقه 250 درخواست در روز 70,000 توکن در دقیقه ~6M | بله | بله |
| Nemotron 3.5 Lightning | ElectronHub, Kilo Gateway, OpenRouter | 1M | 20 درخواست در دقیقه 50 درخواست در روز 50 req/day account-wide (1,000 after a $10 purchase) | بله | خیر |
| GPT-OSS 120B | Cloudflare Workers AI, ElectronHub, Groq +1 مورد دیگر | 131K | 30 درخواست در دقیقه 1,000 درخواست در روز 8,000 توکن در دقیقه 200,000 توکن در روز ~6M | بله | خیر |
| GPT-OSS 20B | Cloudflare Workers AI, Groq, NVIDIA NIM +1 مورد دیگر | 131K | 30 درخواست در دقیقه 1,000 درخواست در روز 8,000 توکن در دقیقه 200,000 توکن در روز ~6M | بله | خیر |
| GPT-OSS Safeguard 20B | Groq | 131K | 30 درخواست در دقیقه 1,000 درخواست در روز 8,000 توکن در دقیقه 200,000 توکن در روز ~6M | بله | خیر |
| Gemini 3.5 Flash Lite | ElectronHub, Google AI Studio | 1M | 15 درخواست در دقیقه 20 درخواست در روز 250,000 توکن در دقیقه ~3M | بله | بله |
| Step 3.7 Flash | ElectronHub | 256K | $0.25/week shared recurring credit | بله | بله |
| Gemini 3.1 Flash-Lite | DreamPrompting, Google AI Studio | 1M | 100 درخواست در دقیقه 5,000 درخواست در روز 500,000 توکن در روز 500K tokens/day · 5,000 req/day | بله | بله |
| Nemotron 3.5 Lightning 30B | Requesty | 1M | 200 درخواست در روز 200 rpd | بله | خیر |
| Gemini 2.5 Flash-Lite | ElectronHub, Google AI Studio | 1M | 15 درخواست در دقیقه 20 درخواست در روز 250,000 توکن در دقیقه ~3M | بله | بله |
نمایش 10 مدل رایگان مطابق از 146 مدل. مشاهده همه مدلها.
دادههای زنده از کاتالوگ FreeLLMAPI (نسخه 2026.11.19، بررسیشده در 2026-11-19). محدودیتهای رایگان اغلب تغییر میکنند. کاتالوگ هر روز بررسی میشود.
دستههای async در محدودیتهای رایگان
AsyncOpenAI درخواستهای زیادی را همزمان میفرستد. سطوح رایگان درخواست در دقیقه را محدود میکنند، پس همزمانی را با semaphore محدود کنید. این مثال وقتی همه ارائهدهندگان به حد خود رسیده باشند هم دوباره تلاش میکند.
batch.py
import asyncio
import os
import openai
from openai import AsyncOpenAI
client = AsyncOpenAI(
base_url="http://localhost:3001/v1",
api_key=os.environ["FREELLMAPI_API_KEY"],
max_retries=2,
)
limit = asyncio.Semaphore(4) # at most 4 requests at a time
async def summarize(text: str) -> str:
async with limit:
for attempt in range(5):
try:
resp = await client.chat.completions.create(
model="auto:fast",
messages=[
{"role": "system", "content": "Summarize in one sentence."},
{"role": "user", "content": text},
],
)
return resp.choices[0].message.content
except openai.RateLimitError as err:
header = err.response.headers.get("retry-after", "")
wait = int(header) if header.isdigit() else 2 ** attempt
await asyncio.sleep(min(wait, 60))
return "ERROR: rate limited"
async def main():
docs = [f"Document {i}: Python is a programming language." for i in range(20)]
results = await asyncio.gather(*(summarize(d) for d in docs))
for r in results:
print(r)
await client.close()
asyncio.run(main())مسیریاب فقط وقتی همه کلیدهای زنجیره به حد خود رسیده باشند، خطای 429 برمیگرداند. پاسخ آنگاه هدر Retry-After دارد. مقدار کوچک semaphore و کلیدهای ارائهدهنده بیشتر، برای دستههای بزرگ بهترین نتیجه را میدهند.
انتخاب رشته مدل برای هر کار
رشته مدل به مسیریاب میگوید چگونه مدل را انتخاب کند. میتوانید در هر فراخوانی رشته متفاوتی استفاده کنید. لازم نیست داشبورد را تغییر دهید.
| کار | رشته مدل | دلیل |
|---|---|---|
| پاسخهای گفتگو برای کاربران | auto | از زنجیره پشتیبانی که در داشبورد تنظیم کردهاید پیروی میکند |
| دستهبندی، استخراج، خلاصههای کوتاه | auto:fast | مدلهای فعال را بر اساس سرعت اندازهگیریشده رتبهبندی میکند |
| پرسشهای سخت، بررسی کد، برنامهریزی | auto:smart | مدلهای فعال را بر اساس هوش رتبهبندی میکند |
| کارهای زمانبندیشده که باید تمام شوند | auto:reliable | مدلهای فعال را بر اساس نرخ اخیر موفقیت رتبهبندی میکند |
| یک زنجیره جداگانه برای یک برنامه | auto:<profile> | از یک زنجیره پشتیبان نامدار استفاده میکند |
| آزمونهایی که باید قابل تکرار باشند | یک شناسه مدل ثابت | هر بار همان مدل، اما وقتی به محدودیت آن مدل برسد متوقف میشود |
برای دیدن مدلهایی که کلیدهای شما هماکنون میتوانند صدا بزنند، فهرست مدلها را با فیلتر درخواست کنید. فهرست کامل شامل مدلهایی هم میشود که هنوز کلید ندارند.
فهرست مدلهایی که هماکنون میتوانند پاسخ دهند
import os
import httpx
r = httpx.get(
"http://localhost:3001/v1/models",
params={"execution_status": "ready"},
headers={"Authorization": f"Bearer {os.environ['FREELLMAPI_API_KEY']}"},
timeout=30,
)
r.raise_for_status()
for m in r.json()["data"]:
print(m["id"])مدلی با وضعیت exhausted کلید دارد، اما همه آنها هماکنون به یک محدودیت رسیدهاند. این وضعیت وقتی دوره انتظار تمام شود پاک میشود. مدلی با وضعیت needsKey کلید فعال ندارد.
برای یک گفتگو، هدر X-Session-Id را با extra_headers بفرستید. آنگاه FreeLLMAPI آن گفتگو را 30 دقیقه روی یک مدل نگه میدارد. بدون این هدر، از یک هش پیام اول کاربر به عنوان کلید جلسه استفاده میکند.
Embedding
Embedding متن
from client import client
resp = client.embeddings.create(
model="bge-m3", # one embedding family
input=["Python is a programming language.", "A snake is a reptile."],
)
print(len(resp.data), "vectors of", len(resp.data[0].embedding), "dimensions")جایگزینی embedding هرگز مدل را تغییر نمیدهد. فقط بین ارائهدهندگانی جابهجا میشود که همان خانواده را سرویس میدهند، پس بردارهای شما سازگار میمانند. مقدار auto از خانواده پیشفرضی استفاده میکند که در داشبورد تنظیم کردهاید.
متنهای زیادی را در یک فهرست input بفرستید. یک درخواست با 32 متن، یک درخواست از محدودیت رایگان مصرف میکند، نه 32. هر متن را زیر حداکثر ورودی خانواده نگه دارید. نام خانواده را کنار بردارهایتان ذخیره کنید تا بعداً پرسوجوها را با همان خانواده embedding کنید.
خطاها و راهحلها
| استثنا | علت | راهحل |
|---|---|---|
openai.AuthenticationError | کلید یکپارچه اشتباه است | کلید را دوباره از صفحه Keys کپی کنید |
openai.APIConnectionError | FreeLLMAPI اجرا نمیشود، یا پورت اشتباه است | http://localhost:3001 را در مرورگر باز کنید |
openai.NotFoundError | نشانی پایه /v1 ندارد | از http://localhost:3001/v1 استفاده کنید |
openai.RateLimitError | همه کلیدهای زنجیره به حد خود رسیدهاند | ارائهدهندگان اضافه کنید، همزمانی را کم کنید، یا منتظر Retry-After بمانید |
openai.BadRequestError با auto:name | نام پروفایل وجود ندارد | نام پروفایل را در داشبورد بررسی کنید |
openai.UnprocessableEntityError (422) همراه با تصویر | هیچ مدل بینایی در زنجیره شما نیست | یک مدل بینایی را در زنجیره پشتیبان فعال کنید |
سطوح رایگان SLA ندارند. تأخیر در طول روز تغییر میکند. قویترین مدلها زودتر به محدودیتهای روزانه خود میرسند و بسیاری از محدودیتها در نیمهشب UTC بازنشانی میشوند. برای سرویسی که باید در زمان مشخصی پاسخ دهد، از یک دروازه رایگان استفاده نکنید.
پرسشهای متداول
آیا یک API رایگان LLM برای Python وجود دارد؟
بله. بسیاری از ارائهدهندگان سطوح رایگانی دارند که با بسته openai در Python کار میکند. FreeLLMAPI آنها را پشت یک نشانی پایه و یک کلید ترکیب میکند، با جایگزینی بین ارائهدهندگان.
چگونه کتابخانه openai در Python را با یک نشانی پایه متفاوت استفاده کنم؟
base_url را به OpenAI() یا AsyncOpenAI() بدهید، برای مثال base_url="http://localhost:3001/v1". کلید دروازه خود را به عنوان api_key بدهید.
چگونه خطاهای محدودیت نرخ را در Python مدیریت کنم؟
مقدار max_retries را روی کلاینت تنظیم کنید. openai.RateLimitError را بگیرید، هدر Retry-After را بخوانید و صبر کنید. همزمانی را با asyncio semaphore محدود کنید.
آیا استریم با API های رایگان LLM در Python کار میکند؟
بله. stream=True را بدهید و chunk.choices[0].delta.content را بخوانید. FreeLLMAPI برای هر ارائهدهنده در قالب OpenAI استریم میکند.
آیا میتوانم Python با async را با یک API رایگان LLM استفاده کنم؟
بله. از AsyncOpenAI با همان base_url و کلید استفاده کنید. تعداد درخواستهای موازی را کم نگه دارید، چون سطوح رایگان درخواست در دقیقه را محدود میکنند.
راهنماهای مرتبط
- آدرسهای پایه API سازگار با OpenAI رایگان
- API رایگان LLM برای LangChain
- API رایگان LLM برای عاملهای هوش مصنوعی
- LLM API رایگان با فراخوانی تابع
- محدودیت نرخ API رایگان LLM
منابع
- OpenAI Python SDK README (async, retries, raw responses, errors) (بررسیشده در 20 November 2026)
- FreeLLMAPI docs: REST API (chat, streaming, tool calling, embeddings, headers) (بررسیشده در 20 November 2026)
- FreeLLMAPI docs: degraded mode and failover (بررسیشده در 20 November 2026)