الرئيسية / الأدلة / واجهة LLM مجانية في Python

واجهة LLM مجانية في Python

تعمل الحزمة الرسمية openai لـ Python مع أي واجهة API متوافقة مع OpenAI. تغيّر العنوان الأساسي والمفتاح. يستخدم هذا الدليل FreeLLMAPI، التي تجمع 45 مستوى مجانياً من مزوّدي الخدمة خلف مفتاح واحد، وتنتقل إلى المزوّد التالي عندما يوقف حدٌّ الطلب. كل مثال أدناه كامل ويعمل كما هو.

تُعرض الشيفرة وأسماء النماذج وتسميات الكتالوج المباشر باللغة الإنجليزية.

الإعداد

ثبّت FreeLLMAPI. تعمل في Docker. افتح لوحة التحكم على http://localhost:3001، وأضف مفاتيح مجانية من مزوّدين اثنين أو أكثر في صفحة Keys، ثم انسخ المفتاح الموحّد. بعد ذلك ثبّت حزمة Python.

لا يستخدم شيفرة Python لديك إلا المفتاح الموحّد. تبقى مفاتيح المزوّدين داخل FreeLLMAPI، مشفّرة في قاعدة بياناتها. إذا غيّرت مفتاح مزوّد أو أضفت واحداً، فلا تغيّر شيفرتك.

التثبيت

curl -fsSL https://freellmapi.co/install.sh | bash

python3 -m pip install -U openai
export FREELLMAPI_API_KEY=<unified-key>

client.py

import os
from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:3001/v1",
    api_key=os.environ["FREELLMAPI_API_KEY"],
    max_retries=3,   # the SDK retries 429, 408, 409 and 5xx errors
    timeout=60,
)

resp = client.chat.completions.create(
    model="auto",
    messages=[{"role": "user", "content": "Name three uses of Python in one line."}],
)
print(resp.choices[0].message.content)

يتبع النموذج auto سلسلة الاحتياط في لوحة التحكم. ويمكنك أيضاً استخدام auto:fast أو auto:smart أو auto:reliable، أو ملف شخصي مثل auto:coding، أو معرّف نموذج ثابت.

البث وترويسات الرد

بث الإجابة

from client import client

stream = client.chat.completions.create(
    model="auto:fast",
    messages=[{"role": "user", "content": "Write a haiku about Python."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices:
        print(chunk.choices[0].delta.content or "", end="", flush=True)
print()

يحمل كل رد ترويسة X-Routed-Via تحمل المزوّد والنموذج اللذين أجابا. لقراءة الترويسات باستخدام SDK، استخدم with_raw_response واستدعِ parse() للحصول على الكائن العادي.

اقرأ ترويسات التوجيه

from client import client

raw = client.chat.completions.with_raw_response.create(
    model="auto",
    messages=[{"role": "user", "content": "hi"}],
)
print("Served by:", raw.headers.get("x-routed-via"))
print("Failed attempts:", raw.headers.get("x-fallback-attempts", "0"))
print(raw.parse().choices[0].message.content)

استدعاء الأدوات

أرسل tools بتنسيق OpenAI. يمررها الموجّه إلى المزوّدين المتوافقين مع OpenAI، ويحوّلها لـ Gemini. تعود الإجابة بالتنسيق نفسه لكل مزوّد.

استدعاء أداة واحدة والإجابة النهائية

import json
from client import client

tools = [{
    "type": "function",
    "function": {
        "name": "get_exchange_rate",
        "description": "Get the exchange rate between two currencies.",
        "parameters": {
            "type": "object",
            "properties": {
                "base": {"type": "string"},
                "quote": {"type": "string"},
            },
            "required": ["base", "quote"],
        },
    },
}]

messages = [{"role": "user", "content": "How many euros is 250 US dollars?"}]
first = client.chat.completions.create(model="auto", messages=messages, tools=tools)
msg = first.choices[0].message

if msg.tool_calls:
    messages.append(msg)
    for call in msg.tool_calls:
        args = json.loads(call.function.arguments)
        result = {"base": args["base"], "quote": args["quote"], "rate": 0.92}  # your real lookup
        messages.append({"role": "tool", "tool_call_id": call.id, "content": json.dumps(result)})
    final = client.chat.completions.create(model="auto", messages=messages, tools=tools)
    print(final.choices[0].message.content)
else:
    print(msg.content)

بعض المزوّدين يعيدون استدعاء الأداة كنص عادي. تحوّل FreeLLMAPI هذه الإجابات إلى tool_calls حقيقية، فتقرأ شيفرتك تنسيقاً واحداً. تحقق دائماً من msg.tool_calls قبل أن تقرأ msg.content، لأن النموذج قد يجيب دون أداة أيضاً.

استخدم نموذجاً يدعم استدعاء الأدوات. هذه النماذج المجانية تدعم الأدوات ولها أسرع سرعة مقاسة اليوم:

نماذج مجانية سريعة تدعم استدعاء الأدوات
النموذجمجاني علىالسياقالحدود المجانية (أفضل عرض)الأدواتالرؤية
Qwen3.8 27BElectronHub, Groq, OVH AI Endpoints262K30 طلب/دقيقة
250 طلب/يوم
70,000 رمز/دقيقة
~6M
نعمنعم
Nemotron 3.5 LightningElectronHub, Kilo Gateway, OpenRouter1M20 طلب/دقيقة
50 طلب/يوم
50 req/day account-wide (1,000 after a $10 purchase)
نعملا
GPT-OSS 120BCloudflare Workers AI, ElectronHub, Groq +1 أخرى131K30 طلب/دقيقة
1,000 طلب/يوم
8,000 رمز/دقيقة
200,000 رمز/يوم
~6M
نعملا
GPT-OSS 20BCloudflare Workers AI, Groq, NVIDIA NIM +1 أخرى131K30 طلب/دقيقة
1,000 طلب/يوم
8,000 رمز/دقيقة
200,000 رمز/يوم
~6M
نعملا
GPT-OSS Safeguard 20BGroq131K30 طلب/دقيقة
1,000 طلب/يوم
8,000 رمز/دقيقة
200,000 رمز/يوم
~6M
نعملا
Gemini 3.5 Flash LiteElectronHub, Google AI Studio1M15 طلب/دقيقة
20 طلب/يوم
250,000 رمز/دقيقة
~3M
نعمنعم
Step 3.7 FlashElectronHub256K$0.25/week shared recurring creditنعمنعم
Gemini 3.1 Flash-LiteDreamPrompting, Google AI Studio1M100 طلب/دقيقة
5,000 طلب/يوم
500,000 رمز/يوم
500K tokens/day · 5,000 req/day
نعمنعم
Nemotron 3.5 Lightning 30BRequesty1M200 طلب/يوم
200 rpd
نعملا
Gemini 2.5 Flash-LiteElectronHub, Google AI Studio1M15 طلب/دقيقة
20 طلب/يوم
250,000 رمز/دقيقة
~3M
نعمنعم

يعرض 10 من أصل 146 نموذجًا مجانيًا مطابقًا. عرض كل النماذج.

بيانات مباشرة من كتالوج FreeLLMAPI (الإصدار 2026.11.19، تم التحقق 2026-11-19). تتغير الحدود المجانية كثيرًا. يُفحص الكتالوج كل يوم.

دفعات غير متزامنة ضمن الحدود المجانية

يرسل AsyncOpenAI طلبات كثيرة في الوقت نفسه. تحدّ المستويات المجانية الطلبات في الدقيقة، لذلك حدّد التزامن باستخدام semaphore. يعيد المثال المحاولة أيضاً عندما يبلغ كل مزوّد حدّه.

batch.py

import asyncio
import os

import openai
from openai import AsyncOpenAI

client = AsyncOpenAI(
    base_url="http://localhost:3001/v1",
    api_key=os.environ["FREELLMAPI_API_KEY"],
    max_retries=2,
)
limit = asyncio.Semaphore(4)  # at most 4 requests at a time

async def summarize(text: str) -> str:
    async with limit:
        for attempt in range(5):
            try:
                resp = await client.chat.completions.create(
                    model="auto:fast",
                    messages=[
                        {"role": "system", "content": "Summarize in one sentence."},
                        {"role": "user", "content": text},
                    ],
                )
                return resp.choices[0].message.content
            except openai.RateLimitError as err:
                header = err.response.headers.get("retry-after", "")
                wait = int(header) if header.isdigit() else 2 ** attempt
                await asyncio.sleep(min(wait, 60))
        return "ERROR: rate limited"

async def main():
    docs = [f"Document {i}: Python is a programming language." for i in range(20)]
    results = await asyncio.gather(*(summarize(d) for d in docs))
    for r in results:
        print(r)
    await client.close()

asyncio.run(main())

لا يعيد الموجّه الخطأ 429 إلا عندما يبلغ كل مفتاح في السلسلة حدّه. عندئذ يحمل الرد ترويسة Retry-After. تعطي قيمة semaphore صغيرة ومزيداً من مفاتيح المزوّدين أفضل النتائج للدفعات الكبيرة.

اختر نص النموذج لكل مهمة

يخبر نص النموذج الموجّه كيف يختار نموذجاً. يمكنك استخدام نص مختلف في كل استدعاء. ولا تحتاج إلى تغيير لوحة التحكم.

المهمةنص النموذجالسبب
إجابات الدردشة للمستخدمينautoيتبع سلسلة الاحتياط التي حددتها في لوحة التحكم
التصنيف، والاستخراج، والملخصات القصيرةauto:fastيرتب النماذج المفعّلة حسب السرعة المقاسة
الأسئلة الصعبة، ومراجعة الشيفرة، والتخطيطauto:smartيرتب النماذج المفعّلة حسب الذكاء
المهام المجدولة التي يجب أن تنتهيauto:reliableيرتب النماذج المفعّلة حسب معدل النجاح الأخير
سلسلة منفصلة لتطبيق واحدauto:<profile>يستخدم سلسلة احتياط مسمّاة
الاختبارات التي يجب أن تكون قابلة للتكرارمعرّف نموذج ثابتالنموذج نفسه في كل مرة، لكنه يتوقف عند حد ذلك النموذج

لمعرفة النماذج التي تستطيع مفاتيحك استدعاءها الآن، اطلب قائمة النماذج مع فلتر. تتضمن القائمة الكاملة أيضاً نماذج ليس لها مفتاح بعد.

اسرد النماذج التي تستطيع الإجابة الآن

import os
import httpx

r = httpx.get(
    "http://localhost:3001/v1/models",
    params={"execution_status": "ready"},
    headers={"Authorization": f"Bearer {os.environ['FREELLMAPI_API_KEY']}"},
    timeout=30,
)
r.raise_for_status()
for m in r.json()["data"]:
    print(m["id"])

النموذج الذي حالته exhausted لديه مفاتيح، لكن كلها بلغت حداً الآن. تزول الحالة عند انتهاء فترات التهدئة. أما النموذج الذي حالته needsKey فليس لديه مفتاح مفعّل.

للمحادثة، أرسل ترويسة X-Session-Id مع extra_headers. عندئذ تُبقي FreeLLMAPI تلك المحادثة على نموذج واحد لمدة 30 دقيقة. ومن دون الترويسة، تستخدم تجزئة الرسالة الأولى للمستخدم مفتاحاً للجلسة.

التضمينات

ضمّن النص

from client import client

resp = client.embeddings.create(
    model="bge-m3",  # one embedding family
    input=["Python is a programming language.", "A snake is a reptile."],
)
print(len(resp.data), "vectors of", len(resp.data[0].embedding), "dimensions")

لا يغيّر التحويل عند الفشل في التضمين النموذج أبداً. يتنقل فقط بين المزوّدين الذين يقدمون العائلة نفسها، فتبقى متجهاتك متوافقة. تستخدم القيمة auto العائلة الافتراضية التي حددتها في لوحة التحكم.

أرسل نصوصاً كثيرة في قائمة input واحدة. يستهلك طلب واحد يضم 32 نصاً طلباً واحداً من الحد المجاني، لا 32 طلباً. أبقِ كل نص أقل من الحد الأقصى للإدخال في العائلة. واحفظ اسم العائلة مع متجهاتك، حتى تضمّن الاستعلامات بالعائلة نفسها لاحقاً.

الأخطاء وإصلاحها

الاستثناءالسببالحل
openai.AuthenticationErrorالمفتاح الموحّد خاطئانسخ المفتاح من جديد من صفحة Keys
openai.APIConnectionErrorFreeLLMAPI لا تعمل، أو المنفذ خاطئافتح http://localhost:3001 في المتصفح
openai.NotFoundErrorالعنوان الأساسي لا يحتوي على /v1استخدم http://localhost:3001/v1
openai.RateLimitErrorكل المفاتيح في السلسلة بلغت حدهاأضف مزوّدين، أو خفّض التزامن، أو انتظر Retry-After
openai.BadRequestError مع auto:nameاسم الملف الشخصي غير موجودتحقق من اسم الملف الشخصي في لوحة التحكم
openai.UnprocessableEntityError (422) مع الصورلا يوجد نموذج رؤية في سلسلتكفعّل نموذج رؤية في سلسلة الاحتياط

لا تقدم المستويات المجانية اتفاقية مستوى خدمة. يتغير زمن الاستجابة على مدار اليوم. تبلغ أقوى النماذج حدودها اليومية أولاً، وتُعاد ضبط كثير من الحدود عند منتصف الليل بتوقيت UTC. لا تستخدم بوابة مجانية لخدمة يجب أن تجيب خلال زمن ثابت.

استخدم كل واحد من هذه النماذج عبر مفتاح واحد. FreeLLMAPI موجّه مفتوح المصدر تستضيفه بنفسك. يضع كل هذه المستويات المجانية خلف نقطة وصول واحدة متوافقة مع OpenAI، ويتحول تلقائيًا إلى مزوّد آخر عند تجاوز حد الطلبات. تصفح الكتالوج أو ابدأ الآن.

الأسئلة الشائعة

هل توجد واجهة LLM مجانية لـ Python؟

نعم. لدى كثير من المزوّدين مستويات مجانية تعمل مع حزمة openai لـ Python. تجمعها FreeLLMAPI خلف عنوان أساسي واحد ومفتاح واحد، مع التحويل عند الفشل بين المزوّدين.

كيف أستخدم مكتبة openai في Python مع عنوان أساسي مختلف؟

مرّر base_url إلى OpenAI() أو AsyncOpenAI()، على سبيل المثال base_url="http://localhost:3001/v1". مرّر مفتاح البوابة كـ api_key.

كيف أتعامل مع أخطاء حدود الطلبات في Python؟

اضبط max_retries على العميل. التقط openai.RateLimitError، واقرأ ترويسة Retry-After وانتظر. حدّد التزامن باستخدام asyncio semaphore.

هل يعمل البث مع واجهات LLM المجانية في Python؟

نعم. مرّر stream=True واقرأ chunk.choices[0].delta.content. تبث FreeLLMAPI بتنسيق OpenAI لكل مزوّد.

هل أستطيع استخدام Python غير المتزامن مع واجهة LLM مجانية؟

نعم. استخدم AsyncOpenAI مع base_url والمفتاح نفسيهما. أبقِ عدد الطلبات المتوازية صغيراً، لأن المستويات المجانية تحدّ الطلبات في الدقيقة.

أدلة ذات صلة

المصادر

كل الأدلة · تصفح كل النماذج المجانية