واجهة LLM مجانية في Python
تعمل الحزمة الرسمية openai لـ Python مع أي واجهة API متوافقة مع OpenAI. تغيّر العنوان الأساسي والمفتاح. يستخدم هذا الدليل FreeLLMAPI، التي تجمع 45 مستوى مجانياً من مزوّدي الخدمة خلف مفتاح واحد، وتنتقل إلى المزوّد التالي عندما يوقف حدٌّ الطلب. كل مثال أدناه كامل ويعمل كما هو.
تُعرض الشيفرة وأسماء النماذج وتسميات الكتالوج المباشر باللغة الإنجليزية.
الإعداد
ثبّت FreeLLMAPI. تعمل في Docker. افتح لوحة التحكم على http://localhost:3001، وأضف مفاتيح مجانية من مزوّدين اثنين أو أكثر في صفحة Keys، ثم انسخ المفتاح الموحّد. بعد ذلك ثبّت حزمة Python.
لا يستخدم شيفرة Python لديك إلا المفتاح الموحّد. تبقى مفاتيح المزوّدين داخل FreeLLMAPI، مشفّرة في قاعدة بياناتها. إذا غيّرت مفتاح مزوّد أو أضفت واحداً، فلا تغيّر شيفرتك.
التثبيت
curl -fsSL https://freellmapi.co/install.sh | bash
python3 -m pip install -U openai
export FREELLMAPI_API_KEY=<unified-key>client.py
import os
from openai import OpenAI
client = OpenAI(
base_url="http://localhost:3001/v1",
api_key=os.environ["FREELLMAPI_API_KEY"],
max_retries=3, # the SDK retries 429, 408, 409 and 5xx errors
timeout=60,
)
resp = client.chat.completions.create(
model="auto",
messages=[{"role": "user", "content": "Name three uses of Python in one line."}],
)
print(resp.choices[0].message.content)يتبع النموذج auto سلسلة الاحتياط في لوحة التحكم. ويمكنك أيضاً استخدام auto:fast أو auto:smart أو auto:reliable، أو ملف شخصي مثل auto:coding، أو معرّف نموذج ثابت.
البث وترويسات الرد
بث الإجابة
from client import client
stream = client.chat.completions.create(
model="auto:fast",
messages=[{"role": "user", "content": "Write a haiku about Python."}],
stream=True,
)
for chunk in stream:
if chunk.choices:
print(chunk.choices[0].delta.content or "", end="", flush=True)
print()يحمل كل رد ترويسة X-Routed-Via تحمل المزوّد والنموذج اللذين أجابا. لقراءة الترويسات باستخدام SDK، استخدم with_raw_response واستدعِ parse() للحصول على الكائن العادي.
اقرأ ترويسات التوجيه
from client import client
raw = client.chat.completions.with_raw_response.create(
model="auto",
messages=[{"role": "user", "content": "hi"}],
)
print("Served by:", raw.headers.get("x-routed-via"))
print("Failed attempts:", raw.headers.get("x-fallback-attempts", "0"))
print(raw.parse().choices[0].message.content)استدعاء الأدوات
أرسل tools بتنسيق OpenAI. يمررها الموجّه إلى المزوّدين المتوافقين مع OpenAI، ويحوّلها لـ Gemini. تعود الإجابة بالتنسيق نفسه لكل مزوّد.
استدعاء أداة واحدة والإجابة النهائية
import json
from client import client
tools = [{
"type": "function",
"function": {
"name": "get_exchange_rate",
"description": "Get the exchange rate between two currencies.",
"parameters": {
"type": "object",
"properties": {
"base": {"type": "string"},
"quote": {"type": "string"},
},
"required": ["base", "quote"],
},
},
}]
messages = [{"role": "user", "content": "How many euros is 250 US dollars?"}]
first = client.chat.completions.create(model="auto", messages=messages, tools=tools)
msg = first.choices[0].message
if msg.tool_calls:
messages.append(msg)
for call in msg.tool_calls:
args = json.loads(call.function.arguments)
result = {"base": args["base"], "quote": args["quote"], "rate": 0.92} # your real lookup
messages.append({"role": "tool", "tool_call_id": call.id, "content": json.dumps(result)})
final = client.chat.completions.create(model="auto", messages=messages, tools=tools)
print(final.choices[0].message.content)
else:
print(msg.content)بعض المزوّدين يعيدون استدعاء الأداة كنص عادي. تحوّل FreeLLMAPI هذه الإجابات إلى tool_calls حقيقية، فتقرأ شيفرتك تنسيقاً واحداً. تحقق دائماً من msg.tool_calls قبل أن تقرأ msg.content، لأن النموذج قد يجيب دون أداة أيضاً.
استخدم نموذجاً يدعم استدعاء الأدوات. هذه النماذج المجانية تدعم الأدوات ولها أسرع سرعة مقاسة اليوم:
| النموذج | مجاني على | السياق | الحدود المجانية (أفضل عرض) | الأدوات | الرؤية |
|---|---|---|---|---|---|
| Qwen3.8 27B | ElectronHub, Groq, OVH AI Endpoints | 262K | 30 طلب/دقيقة 250 طلب/يوم 70,000 رمز/دقيقة ~6M | نعم | نعم |
| Nemotron 3.5 Lightning | ElectronHub, Kilo Gateway, OpenRouter | 1M | 20 طلب/دقيقة 50 طلب/يوم 50 req/day account-wide (1,000 after a $10 purchase) | نعم | لا |
| GPT-OSS 120B | Cloudflare Workers AI, ElectronHub, Groq +1 أخرى | 131K | 30 طلب/دقيقة 1,000 طلب/يوم 8,000 رمز/دقيقة 200,000 رمز/يوم ~6M | نعم | لا |
| GPT-OSS 20B | Cloudflare Workers AI, Groq, NVIDIA NIM +1 أخرى | 131K | 30 طلب/دقيقة 1,000 طلب/يوم 8,000 رمز/دقيقة 200,000 رمز/يوم ~6M | نعم | لا |
| GPT-OSS Safeguard 20B | Groq | 131K | 30 طلب/دقيقة 1,000 طلب/يوم 8,000 رمز/دقيقة 200,000 رمز/يوم ~6M | نعم | لا |
| Gemini 3.5 Flash Lite | ElectronHub, Google AI Studio | 1M | 15 طلب/دقيقة 20 طلب/يوم 250,000 رمز/دقيقة ~3M | نعم | نعم |
| Step 3.7 Flash | ElectronHub | 256K | $0.25/week shared recurring credit | نعم | نعم |
| Gemini 3.1 Flash-Lite | DreamPrompting, Google AI Studio | 1M | 100 طلب/دقيقة 5,000 طلب/يوم 500,000 رمز/يوم 500K tokens/day · 5,000 req/day | نعم | نعم |
| Nemotron 3.5 Lightning 30B | Requesty | 1M | 200 طلب/يوم 200 rpd | نعم | لا |
| Gemini 2.5 Flash-Lite | ElectronHub, Google AI Studio | 1M | 15 طلب/دقيقة 20 طلب/يوم 250,000 رمز/دقيقة ~3M | نعم | نعم |
يعرض 10 من أصل 146 نموذجًا مجانيًا مطابقًا. عرض كل النماذج.
بيانات مباشرة من كتالوج FreeLLMAPI (الإصدار 2026.11.19، تم التحقق 2026-11-19). تتغير الحدود المجانية كثيرًا. يُفحص الكتالوج كل يوم.
دفعات غير متزامنة ضمن الحدود المجانية
يرسل AsyncOpenAI طلبات كثيرة في الوقت نفسه. تحدّ المستويات المجانية الطلبات في الدقيقة، لذلك حدّد التزامن باستخدام semaphore. يعيد المثال المحاولة أيضاً عندما يبلغ كل مزوّد حدّه.
batch.py
import asyncio
import os
import openai
from openai import AsyncOpenAI
client = AsyncOpenAI(
base_url="http://localhost:3001/v1",
api_key=os.environ["FREELLMAPI_API_KEY"],
max_retries=2,
)
limit = asyncio.Semaphore(4) # at most 4 requests at a time
async def summarize(text: str) -> str:
async with limit:
for attempt in range(5):
try:
resp = await client.chat.completions.create(
model="auto:fast",
messages=[
{"role": "system", "content": "Summarize in one sentence."},
{"role": "user", "content": text},
],
)
return resp.choices[0].message.content
except openai.RateLimitError as err:
header = err.response.headers.get("retry-after", "")
wait = int(header) if header.isdigit() else 2 ** attempt
await asyncio.sleep(min(wait, 60))
return "ERROR: rate limited"
async def main():
docs = [f"Document {i}: Python is a programming language." for i in range(20)]
results = await asyncio.gather(*(summarize(d) for d in docs))
for r in results:
print(r)
await client.close()
asyncio.run(main())لا يعيد الموجّه الخطأ 429 إلا عندما يبلغ كل مفتاح في السلسلة حدّه. عندئذ يحمل الرد ترويسة Retry-After. تعطي قيمة semaphore صغيرة ومزيداً من مفاتيح المزوّدين أفضل النتائج للدفعات الكبيرة.
اختر نص النموذج لكل مهمة
يخبر نص النموذج الموجّه كيف يختار نموذجاً. يمكنك استخدام نص مختلف في كل استدعاء. ولا تحتاج إلى تغيير لوحة التحكم.
| المهمة | نص النموذج | السبب |
|---|---|---|
| إجابات الدردشة للمستخدمين | auto | يتبع سلسلة الاحتياط التي حددتها في لوحة التحكم |
| التصنيف، والاستخراج، والملخصات القصيرة | auto:fast | يرتب النماذج المفعّلة حسب السرعة المقاسة |
| الأسئلة الصعبة، ومراجعة الشيفرة، والتخطيط | auto:smart | يرتب النماذج المفعّلة حسب الذكاء |
| المهام المجدولة التي يجب أن تنتهي | auto:reliable | يرتب النماذج المفعّلة حسب معدل النجاح الأخير |
| سلسلة منفصلة لتطبيق واحد | auto:<profile> | يستخدم سلسلة احتياط مسمّاة |
| الاختبارات التي يجب أن تكون قابلة للتكرار | معرّف نموذج ثابت | النموذج نفسه في كل مرة، لكنه يتوقف عند حد ذلك النموذج |
لمعرفة النماذج التي تستطيع مفاتيحك استدعاءها الآن، اطلب قائمة النماذج مع فلتر. تتضمن القائمة الكاملة أيضاً نماذج ليس لها مفتاح بعد.
اسرد النماذج التي تستطيع الإجابة الآن
import os
import httpx
r = httpx.get(
"http://localhost:3001/v1/models",
params={"execution_status": "ready"},
headers={"Authorization": f"Bearer {os.environ['FREELLMAPI_API_KEY']}"},
timeout=30,
)
r.raise_for_status()
for m in r.json()["data"]:
print(m["id"])النموذج الذي حالته exhausted لديه مفاتيح، لكن كلها بلغت حداً الآن. تزول الحالة عند انتهاء فترات التهدئة. أما النموذج الذي حالته needsKey فليس لديه مفتاح مفعّل.
للمحادثة، أرسل ترويسة X-Session-Id مع extra_headers. عندئذ تُبقي FreeLLMAPI تلك المحادثة على نموذج واحد لمدة 30 دقيقة. ومن دون الترويسة، تستخدم تجزئة الرسالة الأولى للمستخدم مفتاحاً للجلسة.
التضمينات
ضمّن النص
from client import client
resp = client.embeddings.create(
model="bge-m3", # one embedding family
input=["Python is a programming language.", "A snake is a reptile."],
)
print(len(resp.data), "vectors of", len(resp.data[0].embedding), "dimensions")لا يغيّر التحويل عند الفشل في التضمين النموذج أبداً. يتنقل فقط بين المزوّدين الذين يقدمون العائلة نفسها، فتبقى متجهاتك متوافقة. تستخدم القيمة auto العائلة الافتراضية التي حددتها في لوحة التحكم.
أرسل نصوصاً كثيرة في قائمة input واحدة. يستهلك طلب واحد يضم 32 نصاً طلباً واحداً من الحد المجاني، لا 32 طلباً. أبقِ كل نص أقل من الحد الأقصى للإدخال في العائلة. واحفظ اسم العائلة مع متجهاتك، حتى تضمّن الاستعلامات بالعائلة نفسها لاحقاً.
الأخطاء وإصلاحها
| الاستثناء | السبب | الحل |
|---|---|---|
openai.AuthenticationError | المفتاح الموحّد خاطئ | انسخ المفتاح من جديد من صفحة Keys |
openai.APIConnectionError | FreeLLMAPI لا تعمل، أو المنفذ خاطئ | افتح http://localhost:3001 في المتصفح |
openai.NotFoundError | العنوان الأساسي لا يحتوي على /v1 | استخدم http://localhost:3001/v1 |
openai.RateLimitError | كل المفاتيح في السلسلة بلغت حدها | أضف مزوّدين، أو خفّض التزامن، أو انتظر Retry-After |
openai.BadRequestError مع auto:name | اسم الملف الشخصي غير موجود | تحقق من اسم الملف الشخصي في لوحة التحكم |
openai.UnprocessableEntityError (422) مع الصور | لا يوجد نموذج رؤية في سلسلتك | فعّل نموذج رؤية في سلسلة الاحتياط |
لا تقدم المستويات المجانية اتفاقية مستوى خدمة. يتغير زمن الاستجابة على مدار اليوم. تبلغ أقوى النماذج حدودها اليومية أولاً، وتُعاد ضبط كثير من الحدود عند منتصف الليل بتوقيت UTC. لا تستخدم بوابة مجانية لخدمة يجب أن تجيب خلال زمن ثابت.
الأسئلة الشائعة
هل توجد واجهة LLM مجانية لـ Python؟
نعم. لدى كثير من المزوّدين مستويات مجانية تعمل مع حزمة openai لـ Python. تجمعها FreeLLMAPI خلف عنوان أساسي واحد ومفتاح واحد، مع التحويل عند الفشل بين المزوّدين.
كيف أستخدم مكتبة openai في Python مع عنوان أساسي مختلف؟
مرّر base_url إلى OpenAI() أو AsyncOpenAI()، على سبيل المثال base_url="http://localhost:3001/v1". مرّر مفتاح البوابة كـ api_key.
كيف أتعامل مع أخطاء حدود الطلبات في Python؟
اضبط max_retries على العميل. التقط openai.RateLimitError، واقرأ ترويسة Retry-After وانتظر. حدّد التزامن باستخدام asyncio semaphore.
هل يعمل البث مع واجهات LLM المجانية في Python؟
نعم. مرّر stream=True واقرأ chunk.choices[0].delta.content. تبث FreeLLMAPI بتنسيق OpenAI لكل مزوّد.
هل أستطيع استخدام Python غير المتزامن مع واجهة LLM مجانية؟
نعم. استخدم AsyncOpenAI مع base_url والمفتاح نفسيهما. أبقِ عدد الطلبات المتوازية صغيراً، لأن المستويات المجانية تحدّ الطلبات في الدقيقة.
أدلة ذات صلة
- عناوين Base URL لواجهات OpenAI المجانية المتوافقة
- واجهة LLM مجانية لـ LangChain
- واجهة LLM مجانية لوكلاء الذكاء الاصطناعي
- واجهة LLM مجانية مع استدعاء الدوال
- حدود معدل واجهات LLM المجانية
المصادر
- OpenAI Python SDK README (async, retries, raw responses, errors) (تم التحقق 20 November 2026)
- FreeLLMAPI docs: REST API (chat, streaming, tool calling, embeddings, headers) (تم التحقق 20 November 2026)
- FreeLLMAPI docs: degraded mode and failover (تم التحقق 20 November 2026)