واجهة LLM مجانية لـ LangChain
يتصل LangChain بواجهات متوافقة مع OpenAI عبر ChatOpenAI وOpenAIEmbeddings. تغيّر الرابط الأساسي والمفتاح. يوجه هذا الدليل الصنفين إلى FreeLLMAPI، الذي يجمع 45 من مستويات المزوّدين المجانية خلف مفتاح واحد. تعمل الشيفرة أدناه في Python وJavaScript، وتتعامل مع حدود الطلبات.
تُعرض الشيفرة وأسماء النماذج وتسميات الكتالوج المباشر باللغة الإنجليزية.
إعداد البوابة والحزم
ثبّت FreeLLMAPI وأضف مفاتيح مجانية من مزوّدين اثنين أو أكثر في صفحة Keys في لوحة التحكم. انسخ المفتاح الموحد. تستخدم شيفرتك هذا المفتاح فقط. تبقى مفاتيح المزوّدين في FreeLLMAPI.
تثبيت FreeLLMAPI وحزم LangChain
curl -fsSL https://freellmapi.co/install.sh | bash
# Python
pip install -U langchain langchain-openai
# JavaScript
npm install @langchain/openai @langchain/core zodمتغيرات البيئة
export FREELLMAPI_BASE_URL=http://localhost:3001/v1
export FREELLMAPI_API_KEY=<unified-key>استخدم model="auto" لتدع الموجّه يختار النموذج. يمكنك أيضًا استخدام استراتيجية توجيه، مثل auto:fast أو auto:smart. يعمل أيضًا ملف تعريف مسمى مثل auto:coding، ومعرّف نموذج ثابت من الكتالوج.
لمعرفة النماذج التي تستطيع مفاتيحك استدعاءها الآن، أرسل الطلب GET /v1/models?execution_status=ready. تحتوي القائمة الكاملة أيضًا على نماذج بلا مفتاح. يملك النموذج ذو الحالة exhausted مفاتيح، لكن كلها وصلت إلى حد في هذه اللحظة. تزول هذه الحالة عند انتهاء فترات التهدئة.
سرد النماذج التي يمكنها الرد الآن
curl "http://localhost:3001/v1/models?execution_status=ready" \
-H "Authorization: Bearer <unified-key>"الدردشة مع ChatOpenAI
في Python، اضبط base_url وapi_key. تذهب القيمة max_retries إلى عميل OpenAI، الذي يعيد المحاولة عند أخطاء 429 و5xx مع تأخير متزايد أسيًا.
Python: الدردشة والبث
import os
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
model="auto",
base_url=os.environ["FREELLMAPI_BASE_URL"],
api_key=os.environ["FREELLMAPI_API_KEY"],
temperature=0.2,
max_retries=3,
timeout=60,
include_response_headers=True,
)
msg = llm.invoke("Explain retrieval-augmented generation in two sentences.")
print(msg.content)
print("Served by:", msg.response_metadata["headers"].get("x-routed-via"))
for chunk in llm.stream("Write a haiku about SQLite."):
print(chunk.content, end="", flush=True)في JavaScript، ضع الرابط الأساسي في configuration.baseURL. يُمرَّر الكائن configuration إلى عميل OpenAI SDK الرسمي.
JavaScript: الدردشة والبث
import { ChatOpenAI } from "@langchain/openai";
const llm = new ChatOpenAI({
model: "auto",
apiKey: process.env.FREELLMAPI_API_KEY,
temperature: 0.2,
maxRetries: 3,
configuration: { baseURL: process.env.FREELLMAPI_BASE_URL },
});
const msg = await llm.invoke("Explain retrieval-augmented generation in two sentences.");
console.log(msg.content);
for await (const chunk of await llm.stream("Write a haiku about SQLite.")) {
process.stdout.write(String(chunk.content));
}تُظهر الترويسة x-routed-via المزوّد والنموذج اللذين أجابا. إذا غيّر الموجّه المزوّد، تُظهر الترويسة x-fallback-trail كل محاولة فاشلة وسببها.
الأدوات والوكلاء
يمرر FreeLLMAPI الحقل tools بتنسيق OpenAI إلى كل مزوّد، ويعيد tool_calls بتنسيق OpenAI. بالنسبة إلى Gemini، يحول الطلب إلى تنسيق Google ويعيده. استخدم bind_tools لاستدعاء واحد، أو create_agent لحلقة تشغّل الأدوات.
Python: bind_tools وcreate_agent
from langchain.agents import create_agent
from langchain_core.tools import tool
@tool
def get_weather(city: str) -> str:
"""Return the current weather for a city."""
return f"It is 18 C and cloudy in {city}."
# One call: the model returns the tool call, your code runs it
msg = llm.bind_tools([get_weather]).invoke("What is the weather in Dublin?")
print(msg.tool_calls)
# Agent loop: LangChain runs the tool and sends the result back
agent = create_agent(
model=llm,
tools=[get_weather],
system_prompt="You answer weather questions. Use the tool.",
)
result = agent.invoke({"messages": [{"role": "user", "content": "Weather in Dublin?"}]})
print(result["messages"][-1].content)JavaScript: bindTools
import { tool } from "@langchain/core/tools";
import { z } from "zod";
const getWeather = tool(
async ({ city }) => `It is 18 C and cloudy in ${city}.`,
{
name: "get_weather",
description: "Return the current weather for a city.",
schema: z.object({ city: z.string() }),
},
);
const reply = await llm.bindTools([getWeather]).invoke("What is the weather in Dublin?");
console.log(reply.tool_calls);تدعم بعض النماذج المجانية فقط استدعاء الأدوات. مع auto، أبقِ نماذج استدعاء الأدوات في سلسلة الاحتياط الخاصة بك، أو أنشئ ملف تعريف للوكلاء. تدعم هذه النماذج المجانية الأدوات اليوم:
| النموذج | مجاني على | السياق | الحدود المجانية (أفضل عرض) | الأدوات | الرؤية |
|---|---|---|---|---|---|
| GLM 5.3 | UnoRouter | 1M | 1 طلب/دقيقة 1 req/min per model | نعم | لا |
| GLM 5.3 Flash | NVIDIA NIM, UnoRouter | 1M | 40 طلب/دقيقة 40 RPM | نعم | نعم |
| Gemini 3.8 Flash | Google AI Studio | 1M | Recurring provider quota | نعم | نعم |
| Qwen3.8 Flash Next | AMD Radeon Cloud | 262K | Recurring daily account allowance | نعم | لا |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | نعم | نعم |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 طلب/دقيقة 20 طلب/يوم 250,000 رمز/دقيقة ~3M | نعم | نعم |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | نعم | نعم |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 طلب/دقيقة 50 طلب/يوم 50 req/day account-wide (1,000 after a $10 purchase) | نعم | نعم |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 طلب/دقيقة 50 طلب/يوم Shared rate limit | نعم | لا |
| Qwen3.8 27B | ElectronHub, Groq, OVH AI Endpoints | 262K | 30 طلب/دقيقة 250 طلب/يوم 70,000 رمز/دقيقة ~6M | نعم | نعم |
يعرض 10 من أصل 109 نموذجًا مجانيًا مطابقًا. عرض كل النماذج.
بيانات مباشرة من كتالوج FreeLLMAPI (الإصدار 2026.11.19، تم التحقق 2026-11-19). تتغير الحدود المجانية كثيرًا. يُفحص الكتالوج كل يوم.
التضمينات مع OpenAIEmbeddings
تقسّم OpenAIEmbeddings في Python النص افتراضيًا بمحلل رموز من OpenAI، وترسل الرموز. تحتاج معظم المزوّدين الأخرى إلى النص الخام. اضبط check_embedding_ctx_length=False لإرسال النص.
Python: التضمينات
from langchain_openai import OpenAIEmbeddings
emb = OpenAIEmbeddings(
model="bge-m3", # one embedding family, 1024 dimensions
base_url=os.environ["FREELLMAPI_BASE_URL"],
api_key=os.environ["FREELLMAPI_API_KEY"],
check_embedding_ctx_length=False,
)
vectors = emb.embed_documents(["FreeLLMAPI pools free tiers.", "LangChain builds LLM apps."])
print(len(vectors), len(vectors[0]))JavaScript: التضمينات
import { OpenAIEmbeddings } from "@langchain/openai";
const emb = new OpenAIEmbeddings({
model: "bge-m3",
apiKey: process.env.FREELLMAPI_API_KEY,
configuration: { baseURL: process.env.FREELLMAPI_BASE_URL },
});
const vector = await emb.embedQuery("What does FreeLLMAPI do?");
console.log(vector.length);لا يغيّر التحويل الاحتياطي للتضمين في FreeLLMAPI النموذج أبدًا. ينتقل فقط بين المزوّدين الذين يقدمون العائلة نفسها. هذا يبقي كل المتجهات في مخزن متجهات واحد متوافقة. اختر عائلة واحدة وحافظ عليها. نماذج التضمين المجانية اليوم هي:
| النموذج | المزوّد | الأبعاد | أقصى مدخلات | الحد المجاني |
|---|---|---|---|---|
Gemini Embeddinggemini-embedding-001 | Google AI Studio | 3072 | 2048 | 100 rpm · 1K req/day |
Nemotron Embed VL 1Bnvidia/llama-nemotron-embed-vl-1b-v2 | NVIDIA NIM | 2048 | 8192 | ~40 rpm |
Nemotron 3 Embed 1B (OR free)nvidia/nemotron-3-embed-1b:free | OpenRouter | 2048 | 32768 | 20 rpm · shared free daily cap |
SEA-LION E5 Embedding 600Maisingapore/SEA-LION-E5-Embedding-600M | SEA-LION | 1024 | 8192 | free · 10 rpm |
SEA-LION ModernBERT Embedding 300Maisingapore/SEA-LION-ModernBERT-Embedding-300M | SEA-LION | 1024 | 8192 | free · 10 rpm |
SEA-LION ModernBERT Embedding 600Maisingapore/SEA-LION-ModernBERT-Embedding-600M | SEA-LION | 1024 | 8192 | free · 10 rpm |
BGE-M3@cf/baai/bge-m3 | Cloudflare Workers AI | 1024 | 8192 | 10K neurons/day (shared) |
EmbeddingGemma 300M@cf/google/embeddinggemma-300m | Cloudflare Workers AI | 768 | 2048 | 10K neurons/day (shared) |
Qwen3 Embedding 0.6B@cf/qwen/qwen3-embedding-0.6b | Cloudflare Workers AI | 1024 | 8192 | 10K neurons/day (shared) |
Cohere Embed v4embed-v4.0 | Cohere | 1536 | 128000 | 1K calls/mo (shared w/ chat) |
Gemini Embedding 2gemini-embedding-2 | Google AI Studio | 3072 | 8192 | free-tier rate limited |
Nemotron 3 Embed 1Bnvidia/nemotron-3-embed-1b | NVIDIA NIM | 2048 | 4096 | ~40 rpm |
PLaMo Embedding 1B (CF)@cf/pfnet/plamo-embedding-1b | Cloudflare Workers AI | 2048 | 4096 | 10K neurons/day (shared) |
BGE Small EN v1.5 (CF)@cf/baai/bge-small-en-v1.5 | Cloudflare Workers AI | 384 | 512 | 10K neurons/day (shared) |
BGE Base EN v1.5 (CF)@cf/baai/bge-base-en-v1.5 | Cloudflare Workers AI | 768 | 512 | 10K neurons/day (shared) |
BGE Large EN v1.5 (CF)@cf/baai/bge-large-en-v1.5 | Cloudflare Workers AI | 1024 | 512 | 10K neurons/day (shared) |
Mistral Embedmistral-embed | Mistral | 1024 | 8192 | free mode · monthly cap (shared) |
Codestral Embedcodestral-embed | Mistral | 1536 | 8192 | free mode · monthly cap (shared) |
Llama Text Embed v2 (Pinecone)llama-text-embed-v2 | Pinecone | 1024 | 2048 | 5M tokens/mo per model |
Multilingual E5 Large (Pinecone)multilingual-e5-large | Pinecone | 1024 | 507 | 5M tokens/mo per model |
Nemotron 3 Embed 1B (Speka)nvidia/nemotron-3-embed-1b | Speka | 2048 | 8192 | $1/month shared across Speka models |
OpenAI: Text Embedding 3 Small (ElectronHub)text-embedding-3-small | ElectronHub | 1536 | 8192 | $0.25/week shared free credits |
OpenAI: Text Embedding 3 Large (ElectronHub)text-embedding-3-large | ElectronHub | 3072 | 8192 | $0.25/week shared free credits |
Nemotron 3 Embed 8B (Inferbase)nvidia-nemotron-3-embed-8b | Inferbase | 4096 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
Qwen 3 Embedding 0.6B (Inferbase)qwen3-embedding-0-6b | Inferbase | 1024 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
Qwen 3 Embedding 4B (Inferbase)qwen3-embedding-4b | Inferbase | 2560 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
Qwen 3 Embedding 8B (Inferbase)qwen3-embedding-8b | Inferbase | 4096 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
LFM2.5 Embedding 350M (LLMTR)liquid/lfm-2.5-embedding-350m-free | LLMTR | 1024 | 512 | Ongoing zero-price route; provider terms apply |
BGE-M3 (SEA-LION)BAAI/bge-m3 | SEA-LION | 1024 | 8192 | free · 10 rpm |
Cohere Embed English v3embed-english-v3.0 | Cohere | 1024 | 512 | 1K calls/mo (shared w/ chat) |
Qwen3 Embedding 8B (OVH)Qwen3-Embedding-8B | OVH AI Endpoints | 4096 | 32768 | free · anonymous 2 req/min per IP |
BGE-M3 (OVH)bge-m3 | OVH AI Endpoints | 1024 | 8192 | free · anonymous 2 req/min per IP |
BGE Multilingual Gemma2 (OVH)bge-multilingual-gemma2 | OVH AI Endpoints | 3584 | 8192 | free · anonymous 2 req/min per IP |
Mistral: Codestral Embed (ElectronHub)codestral-embed | ElectronHub | 1536 | 8192 | $0.25/week shared free credits |
Mistral: Mistral Embed (ElectronHub)mistral-embed | ElectronHub | 1024 | 8192 | $0.25/week shared free credits |
Google: Gemini Embedding 2 (ElectronHub)gemini-embedding-2 | ElectronHub | 3072 | 8192 | $0.25/week shared free credits |
Google: Gemini Embedding 001 (ElectronHub)gemini-embedding-001 | ElectronHub | 3072 | 2048 | $0.25/week shared free credits |
OpenAI: Text Embedding Ada 002 (ElectronHub)text-embedding-ada-002 | ElectronHub | 1536 | 8192 | $0.25/week shared free credits |
Cohere Embed English Light v3embed-english-light-v3.0 | Cohere | 384 | 512 | 1K calls/mo (shared w/ chat) |
Cohere Embed Multilingual v3embed-multilingual-v3.0 | Cohere | 1024 | 512 | 1K calls/mo (shared w/ chat) |
Cohere Embed Multilingual Light v3embed-multilingual-light-v3.0 | Cohere | 384 | 512 | 1K calls/mo (shared w/ chat) |
بيانات مباشرة من كتالوج FreeLLMAPI (الإصدار 2026.11.19، تم التحقق 2026-11-19). تتغير الحدود المجانية كثيرًا. يُفحص الكتالوج كل يوم.
المخرجات المنظمة والجلسات واختيار النموذج
with_structured_output يعيد كائن Pydantic بدلًا من النص. افتراضيًا، يستخدم LangChain استدعاء الدوال لهذا الغرض. تعمل هذه الطريقة مع كل نموذج مجاني يدعم الأدوات.
Python: المخرجات المنظمة
from pydantic import BaseModel, Field
class Ticket(BaseModel):
category: str = Field(description="billing, bug or other")
urgent: bool
classifier = llm.with_structured_output(Ticket)
ticket = classifier.invoke("The app crashes when I pay. Please fix it today.")
print(ticket.category, ticket.urgent)لا تستخدم method="json_schema" مع auto. ليس كل مزوّد مجاني يدعم مخرجات JSON Schema الصارمة، وقد يختار الموجّه مزوّدًا مختلفًا لكل طلب.
يبقي FreeLLMAPI المحادثة على نموذج واحد لمدة 30 دقيقة. يحدد المحادثة من الترويسة X-Session-Id. إذا لم توجد الترويسة، يستخدم تجزئة (hash) لأول رسالة للمستخدم. في تطبيق دردشة له مستخدمون كثيرون، أرسل معرّف جلسة واحدًا لكل مستخدم:
Python: جلسة واحدة لكل مستخدم
def llm_for(user_id: str) -> ChatOpenAI:
return ChatOpenAI(
model="auto",
base_url=os.environ["FREELLMAPI_BASE_URL"],
api_key=os.environ["FREELLMAPI_API_KEY"],
default_headers={"X-Session-Id": f"user-{user_id}"},
max_retries=3,
)اختر نص النموذج لكل جزء من تطبيقك:
| المهمة في تطبيقك | نص النموذج | السبب |
|---|---|---|
| ردود الدردشة للمستخدمين | auto | يتبع السلسلة التي ضبطتها في لوحة التحكم |
| وكيل يستخدم أدوات | auto:<profile> | ملف تعريف يضم نماذج استدعاء الأدوات فقط |
| التصنيف والتوجيه والملخصات القصيرة | auto:fast | يرتب النماذج حسب السرعة المقاسة |
| خطوات الاستدلال الصعبة | auto:smart | يرتب النماذج حسب الذكاء |
| الاختبارات التي يجب أن تكون قابلة للتكرار | معرّف نموذج ثابت | النموذج نفسه في كل مرة، لكنه يتوقف عند حد ذلك النموذج |
لا تقدم المستويات المجانية SLA. يتغير زمن الاستجابة خلال اليوم، وتصل أقوى النماذج إلى حدودها اليومية أولًا. اختبر سلاسلك بالنماذج التي ستستخدمها سلسلتك فعلًا.
حدود الطلبات وإعادة المحاولة
يجرب FreeLLMAPI المزوّد التالي عندما يعيد أحدهم الخطأ 429. لا يرى كودك الخطأ 429 إلا عندما يصل كل مفتاح في السلسلة إلى حده. عندها تحتوي الاستجابة على ترويسة Retry-After. تُعاد ضبط كثير من الحدود اليومية عند منتصف الليل بتوقيت UTC.
بالنسبة لمهام الدفعات، أضف طبقة ثانية لإعادة المحاولة باستخدام with_retry. تعيد هذه الطبقة محاولة المهمة كاملة مع تأخير متزايد أسيًا وعشوائية (jitter).
Python: إعادة محاولة السلسلة عند حدود الطلبات
import openai
from langchain_core.prompts import ChatPromptTemplate
prompt = ChatPromptTemplate.from_messages([
("system", "Summarize the text in one sentence."),
("user", "{text}"),
])
chain = (prompt | llm).with_retry(
retry_if_exception_type=(openai.RateLimitError, openai.APITimeoutError),
wait_exponential_jitter=True,
stop_after_attempt=5,
)
# batch() runs requests in parallel; max_concurrency keeps the rate low
results = chain.batch(
[{"text": t} for t in ["First document.", "Second document."]],
config={"max_concurrency": 4},
)| المشكلة | السبب | الحل |
|---|---|---|
openai.AuthenticationError | المفتاح الموحد خاطئ | انسخ المفتاح مرة أخرى من صفحة Keys |
openai.NotFoundError في كل استدعاء | الرابط الأساسي لا يحتوي على /v1 | استخدم http://localhost:3001/v1 |
openai.RateLimitError | وصلت كل المفاتيح في السلسلة إلى حدها | أضف مزوّدين، أو قلل max_concurrency، أو انتظر Retry-After |
| خطأ في التضمين بشأن الرموز أو نوع الإدخال | يرسل LangChain رموزًا، لا نصًا | اضبط check_embedding_ctx_length=False |
tool_calls فارغ | النموذج لا يدعم الأدوات | استخدم نموذجًا من جدول الأدوات، أو ملف تعريف للأدوات |
| نص الاستدلال مفقود | يحتفظ ChatOpenAI بالحقول القياسية لـ OpenAI فقط | اقرأ الإجابة في content؛ لا تُحفظ الحقول الإضافية للمزوّد |
الأسئلة الشائعة
هل يمكنني استخدام واجهة LLM مجانية مع LangChain؟
نعم. تعمل أي واجهة متوافقة مع OpenAI مع ChatOpenAI. اضبط base_url على http://localhost:3001/v1 واضبط api_key على مفتاح FreeLLMAPI الموحد. يستخدم الموجّه مستويات المزوّدين المجانية.
كيف أضبط رابطًا أساسيًا مخصصًا في ChatOpenAI من LangChain؟
في Python، مرر base_url إلى ChatOpenAI. في JavaScript، مرر configuration: { baseURL } إلى المُنشئ. يعمل متغير البيئة OPENAI_BASE_URL أيضًا في Python.
هل تعمل وكلاء LangChain مع النماذج المجانية؟
نعم، إذا كان النموذج يدعم استدعاء الأدوات. استخدم create_agent مع نموذج ChatOpenAI، وأبقِ نماذج استدعاء الأدوات في سلسلة FreeLLMAPI الخاصة بك.
لماذا يفشل OpenAIEmbeddings مع مزوّد غير OpenAI؟
يرسل افتراضيًا معرّفات الرموز. تحتاج معظم المزوّدين الأخرى إلى النص الخام. اضبط check_embedding_ctx_length=False في Python.
كيف أتعامل مع أخطاء 429 في LangChain؟
اضبط max_retries في ChatOpenAI، وأضف with_retry إلى السلسلة لمهام الدفعات. ينتقل FreeLLMAPI بالفعل إلى المزوّد التالي قبل أن يرى كودك الخطأ 429.
أدلة ذات صلة
- LLM مجاني لـ LlamaIndex
- واجهة LLM مجانية في Python
- واجهة LLM مجانية لـ RAG
- واجهة Embeddings مجانية
- واجهة LLM مجانية مع استدعاء الدوال
- واجهة LLM مجانية لوكلاء الذكاء الاصطناعي
المصادر
- LangChain docs: ChatOpenAI integration (Python) (تم التحقق 20 November 2026)
- LangChain docs: ChatOpenAI integration (JavaScript) (تم التحقق 20 November 2026)
- LangChain docs: agents and create_agent (تم التحقق 20 November 2026)
- LangChain source: OpenAIEmbeddings note on OpenAI-compatible APIs (تم التحقق 20 November 2026)
- OpenAI Python SDK: retries and errors (تم التحقق 20 November 2026)
- FreeLLMAPI docs: REST API (tool calling, embeddings, response headers) (تم التحقق 20 November 2026)