الرئيسية / الأدلة / واجهة LLM مجانية لـ LangChain

واجهة LLM مجانية لـ LangChain

يتصل LangChain بواجهات متوافقة مع OpenAI عبر ChatOpenAI وOpenAIEmbeddings. تغيّر الرابط الأساسي والمفتاح. يوجه هذا الدليل الصنفين إلى FreeLLMAPI، الذي يجمع 45 من مستويات المزوّدين المجانية خلف مفتاح واحد. تعمل الشيفرة أدناه في Python وJavaScript، وتتعامل مع حدود الطلبات.

تُعرض الشيفرة وأسماء النماذج وتسميات الكتالوج المباشر باللغة الإنجليزية.

إعداد البوابة والحزم

ثبّت FreeLLMAPI وأضف مفاتيح مجانية من مزوّدين اثنين أو أكثر في صفحة Keys في لوحة التحكم. انسخ المفتاح الموحد. تستخدم شيفرتك هذا المفتاح فقط. تبقى مفاتيح المزوّدين في FreeLLMAPI.

تثبيت FreeLLMAPI وحزم LangChain

curl -fsSL https://freellmapi.co/install.sh | bash

# Python
pip install -U langchain langchain-openai

# JavaScript
npm install @langchain/openai @langchain/core zod

متغيرات البيئة

export FREELLMAPI_BASE_URL=http://localhost:3001/v1
export FREELLMAPI_API_KEY=<unified-key>

استخدم model="auto" لتدع الموجّه يختار النموذج. يمكنك أيضًا استخدام استراتيجية توجيه، مثل auto:fast أو auto:smart. يعمل أيضًا ملف تعريف مسمى مثل auto:coding، ومعرّف نموذج ثابت من الكتالوج.

لمعرفة النماذج التي تستطيع مفاتيحك استدعاءها الآن، أرسل الطلب GET /v1/models?execution_status=ready. تحتوي القائمة الكاملة أيضًا على نماذج بلا مفتاح. يملك النموذج ذو الحالة exhausted مفاتيح، لكن كلها وصلت إلى حد في هذه اللحظة. تزول هذه الحالة عند انتهاء فترات التهدئة.

سرد النماذج التي يمكنها الرد الآن

curl "http://localhost:3001/v1/models?execution_status=ready" \
  -H "Authorization: Bearer <unified-key>"

الدردشة مع ChatOpenAI

في Python، اضبط base_url وapi_key. تذهب القيمة max_retries إلى عميل OpenAI، الذي يعيد المحاولة عند أخطاء 429 و5xx مع تأخير متزايد أسيًا.

Python: الدردشة والبث

import os
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="auto",
    base_url=os.environ["FREELLMAPI_BASE_URL"],
    api_key=os.environ["FREELLMAPI_API_KEY"],
    temperature=0.2,
    max_retries=3,
    timeout=60,
    include_response_headers=True,
)

msg = llm.invoke("Explain retrieval-augmented generation in two sentences.")
print(msg.content)
print("Served by:", msg.response_metadata["headers"].get("x-routed-via"))

for chunk in llm.stream("Write a haiku about SQLite."):
    print(chunk.content, end="", flush=True)

في JavaScript، ضع الرابط الأساسي في configuration.baseURL. يُمرَّر الكائن configuration إلى عميل OpenAI SDK الرسمي.

JavaScript: الدردشة والبث

import { ChatOpenAI } from "@langchain/openai";

const llm = new ChatOpenAI({
  model: "auto",
  apiKey: process.env.FREELLMAPI_API_KEY,
  temperature: 0.2,
  maxRetries: 3,
  configuration: { baseURL: process.env.FREELLMAPI_BASE_URL },
});

const msg = await llm.invoke("Explain retrieval-augmented generation in two sentences.");
console.log(msg.content);

for await (const chunk of await llm.stream("Write a haiku about SQLite.")) {
  process.stdout.write(String(chunk.content));
}

تُظهر الترويسة x-routed-via المزوّد والنموذج اللذين أجابا. إذا غيّر الموجّه المزوّد، تُظهر الترويسة x-fallback-trail كل محاولة فاشلة وسببها.

الأدوات والوكلاء

يمرر FreeLLMAPI الحقل tools بتنسيق OpenAI إلى كل مزوّد، ويعيد tool_calls بتنسيق OpenAI. بالنسبة إلى Gemini، يحول الطلب إلى تنسيق Google ويعيده. استخدم bind_tools لاستدعاء واحد، أو create_agent لحلقة تشغّل الأدوات.

Python: bind_tools وcreate_agent

from langchain.agents import create_agent
from langchain_core.tools import tool

@tool
def get_weather(city: str) -> str:
    """Return the current weather for a city."""
    return f"It is 18 C and cloudy in {city}."

# One call: the model returns the tool call, your code runs it
msg = llm.bind_tools([get_weather]).invoke("What is the weather in Dublin?")
print(msg.tool_calls)

# Agent loop: LangChain runs the tool and sends the result back
agent = create_agent(
    model=llm,
    tools=[get_weather],
    system_prompt="You answer weather questions. Use the tool.",
)
result = agent.invoke({"messages": [{"role": "user", "content": "Weather in Dublin?"}]})
print(result["messages"][-1].content)

JavaScript: bindTools

import { tool } from "@langchain/core/tools";
import { z } from "zod";

const getWeather = tool(
  async ({ city }) => `It is 18 C and cloudy in ${city}.`,
  {
    name: "get_weather",
    description: "Return the current weather for a city.",
    schema: z.object({ city: z.string() }),
  },
);

const reply = await llm.bindTools([getWeather]).invoke("What is the weather in Dublin?");
console.log(reply.tool_calls);

تدعم بعض النماذج المجانية فقط استدعاء الأدوات. مع auto، أبقِ نماذج استدعاء الأدوات في سلسلة الاحتياط الخاصة بك، أو أنشئ ملف تعريف للوكلاء. تدعم هذه النماذج المجانية الأدوات اليوم:

نماذج مجانية تدعم استدعاء الأدوات وسياقًا 128K أو أكثر
النموذجمجاني علىالسياقالحدود المجانية (أفضل عرض)الأدواتالرؤية
GLM 5.3UnoRouter1M1 طلب/دقيقة
1 req/min per model
نعملا
GLM 5.3 FlashNVIDIA NIM, UnoRouter1M40 طلب/دقيقة
40 RPM
نعمنعم
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaنعمنعم
Qwen3.8 Flash NextAMD Radeon Cloud262KRecurring daily account allowanceنعملا
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditنعمنعم
Gemini 3.7 FlashGoogle AI Studio1M10 طلب/دقيقة
20 طلب/يوم
250,000 رمز/دقيقة
~3M
نعمنعم
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditنعمنعم
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 طلب/دقيقة
50 طلب/يوم
50 req/day account-wide (1,000 after a $10 purchase)
نعمنعم
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 طلب/دقيقة
50 طلب/يوم
Shared rate limit
نعملا
Qwen3.8 27BElectronHub, Groq, OVH AI Endpoints262K30 طلب/دقيقة
250 طلب/يوم
70,000 رمز/دقيقة
~6M
نعمنعم

يعرض 10 من أصل 109 نموذجًا مجانيًا مطابقًا. عرض كل النماذج.

بيانات مباشرة من كتالوج FreeLLMAPI (الإصدار 2026.11.19، تم التحقق 2026-11-19). تتغير الحدود المجانية كثيرًا. يُفحص الكتالوج كل يوم.

التضمينات مع OpenAIEmbeddings

تقسّم OpenAIEmbeddings في Python النص افتراضيًا بمحلل رموز من OpenAI، وترسل الرموز. تحتاج معظم المزوّدين الأخرى إلى النص الخام. اضبط check_embedding_ctx_length=False لإرسال النص.

Python: التضمينات

from langchain_openai import OpenAIEmbeddings

emb = OpenAIEmbeddings(
    model="bge-m3",  # one embedding family, 1024 dimensions
    base_url=os.environ["FREELLMAPI_BASE_URL"],
    api_key=os.environ["FREELLMAPI_API_KEY"],
    check_embedding_ctx_length=False,
)
vectors = emb.embed_documents(["FreeLLMAPI pools free tiers.", "LangChain builds LLM apps."])
print(len(vectors), len(vectors[0]))

JavaScript: التضمينات

import { OpenAIEmbeddings } from "@langchain/openai";

const emb = new OpenAIEmbeddings({
  model: "bge-m3",
  apiKey: process.env.FREELLMAPI_API_KEY,
  configuration: { baseURL: process.env.FREELLMAPI_BASE_URL },
});
const vector = await emb.embedQuery("What does FreeLLMAPI do?");
console.log(vector.length);

لا يغيّر التحويل الاحتياطي للتضمين في FreeLLMAPI النموذج أبدًا. ينتقل فقط بين المزوّدين الذين يقدمون العائلة نفسها. هذا يبقي كل المتجهات في مخزن متجهات واحد متوافقة. اختر عائلة واحدة وحافظ عليها. نماذج التضمين المجانية اليوم هي:

النموذجالمزوّدالأبعادأقصى مدخلاتالحد المجاني
Gemini Embedding
gemini-embedding-001
Google AI Studio30722048100 rpm · 1K req/day
Nemotron Embed VL 1B
nvidia/llama-nemotron-embed-vl-1b-v2
NVIDIA NIM20488192~40 rpm
Nemotron 3 Embed 1B (OR free)
nvidia/nemotron-3-embed-1b:free
OpenRouter20483276820 rpm · shared free daily cap
SEA-LION E5 Embedding 600M
aisingapore/SEA-LION-E5-Embedding-600M
SEA-LION10248192free · 10 rpm
SEA-LION ModernBERT Embedding 300M
aisingapore/SEA-LION-ModernBERT-Embedding-300M
SEA-LION10248192free · 10 rpm
SEA-LION ModernBERT Embedding 600M
aisingapore/SEA-LION-ModernBERT-Embedding-600M
SEA-LION10248192free · 10 rpm
BGE-M3
@cf/baai/bge-m3
Cloudflare Workers AI1024819210K neurons/day (shared)
EmbeddingGemma 300M
@cf/google/embeddinggemma-300m
Cloudflare Workers AI768204810K neurons/day (shared)
Qwen3 Embedding 0.6B
@cf/qwen/qwen3-embedding-0.6b
Cloudflare Workers AI1024819210K neurons/day (shared)
Cohere Embed v4
embed-v4.0
Cohere15361280001K calls/mo (shared w/ chat)
Gemini Embedding 2
gemini-embedding-2
Google AI Studio30728192free-tier rate limited
Nemotron 3 Embed 1B
nvidia/nemotron-3-embed-1b
NVIDIA NIM20484096~40 rpm
PLaMo Embedding 1B (CF)
@cf/pfnet/plamo-embedding-1b
Cloudflare Workers AI2048409610K neurons/day (shared)
BGE Small EN v1.5 (CF)
@cf/baai/bge-small-en-v1.5
Cloudflare Workers AI38451210K neurons/day (shared)
BGE Base EN v1.5 (CF)
@cf/baai/bge-base-en-v1.5
Cloudflare Workers AI76851210K neurons/day (shared)
BGE Large EN v1.5 (CF)
@cf/baai/bge-large-en-v1.5
Cloudflare Workers AI102451210K neurons/day (shared)
Mistral Embed
mistral-embed
Mistral10248192free mode · monthly cap (shared)
Codestral Embed
codestral-embed
Mistral15368192free mode · monthly cap (shared)
Llama Text Embed v2 (Pinecone)
llama-text-embed-v2
Pinecone102420485M tokens/mo per model
Multilingual E5 Large (Pinecone)
multilingual-e5-large
Pinecone10245075M tokens/mo per model
Nemotron 3 Embed 1B (Speka)
nvidia/nemotron-3-embed-1b
Speka20488192$1/month shared across Speka models
OpenAI: Text Embedding 3 Small (ElectronHub)
text-embedding-3-small
ElectronHub15368192$0.25/week shared free credits
OpenAI: Text Embedding 3 Large (ElectronHub)
text-embedding-3-large
ElectronHub30728192$0.25/week shared free credits
Nemotron 3 Embed 8B (Inferbase)
nvidia-nemotron-3-embed-8b
Inferbase409681925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 0.6B (Inferbase)
qwen3-embedding-0-6b
Inferbase102481925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 4B (Inferbase)
qwen3-embedding-4b
Inferbase256081925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 8B (Inferbase)
qwen3-embedding-8b
Inferbase409681925,000 requests/month; 100 requests and $0.50 usage/day shared
LFM2.5 Embedding 350M (LLMTR)
liquid/lfm-2.5-embedding-350m-free
LLMTR1024512Ongoing zero-price route; provider terms apply
BGE-M3 (SEA-LION)
BAAI/bge-m3
SEA-LION10248192free · 10 rpm
Cohere Embed English v3
embed-english-v3.0
Cohere10245121K calls/mo (shared w/ chat)
Qwen3 Embedding 8B (OVH)
Qwen3-Embedding-8B
OVH AI Endpoints409632768free · anonymous 2 req/min per IP
BGE-M3 (OVH)
bge-m3
OVH AI Endpoints10248192free · anonymous 2 req/min per IP
BGE Multilingual Gemma2 (OVH)
bge-multilingual-gemma2
OVH AI Endpoints35848192free · anonymous 2 req/min per IP
Mistral: Codestral Embed (ElectronHub)
codestral-embed
ElectronHub15368192$0.25/week shared free credits
Mistral: Mistral Embed (ElectronHub)
mistral-embed
ElectronHub10248192$0.25/week shared free credits
Google: Gemini Embedding 2 (ElectronHub)
gemini-embedding-2
ElectronHub30728192$0.25/week shared free credits
Google: Gemini Embedding 001 (ElectronHub)
gemini-embedding-001
ElectronHub30722048$0.25/week shared free credits
OpenAI: Text Embedding Ada 002 (ElectronHub)
text-embedding-ada-002
ElectronHub15368192$0.25/week shared free credits
Cohere Embed English Light v3
embed-english-light-v3.0
Cohere3845121K calls/mo (shared w/ chat)
Cohere Embed Multilingual v3
embed-multilingual-v3.0
Cohere10245121K calls/mo (shared w/ chat)
Cohere Embed Multilingual Light v3
embed-multilingual-light-v3.0
Cohere3845121K calls/mo (shared w/ chat)

بيانات مباشرة من كتالوج FreeLLMAPI (الإصدار 2026.11.19، تم التحقق 2026-11-19). تتغير الحدود المجانية كثيرًا. يُفحص الكتالوج كل يوم.

المخرجات المنظمة والجلسات واختيار النموذج

with_structured_output يعيد كائن Pydantic بدلًا من النص. افتراضيًا، يستخدم LangChain استدعاء الدوال لهذا الغرض. تعمل هذه الطريقة مع كل نموذج مجاني يدعم الأدوات.

Python: المخرجات المنظمة

from pydantic import BaseModel, Field

class Ticket(BaseModel):
    category: str = Field(description="billing, bug or other")
    urgent: bool

classifier = llm.with_structured_output(Ticket)
ticket = classifier.invoke("The app crashes when I pay. Please fix it today.")
print(ticket.category, ticket.urgent)

لا تستخدم method="json_schema" مع auto. ليس كل مزوّد مجاني يدعم مخرجات JSON Schema الصارمة، وقد يختار الموجّه مزوّدًا مختلفًا لكل طلب.

يبقي FreeLLMAPI المحادثة على نموذج واحد لمدة 30 دقيقة. يحدد المحادثة من الترويسة X-Session-Id. إذا لم توجد الترويسة، يستخدم تجزئة (hash) لأول رسالة للمستخدم. في تطبيق دردشة له مستخدمون كثيرون، أرسل معرّف جلسة واحدًا لكل مستخدم:

Python: جلسة واحدة لكل مستخدم

def llm_for(user_id: str) -> ChatOpenAI:
    return ChatOpenAI(
        model="auto",
        base_url=os.environ["FREELLMAPI_BASE_URL"],
        api_key=os.environ["FREELLMAPI_API_KEY"],
        default_headers={"X-Session-Id": f"user-{user_id}"},
        max_retries=3,
    )

اختر نص النموذج لكل جزء من تطبيقك:

المهمة في تطبيقكنص النموذجالسبب
ردود الدردشة للمستخدمينautoيتبع السلسلة التي ضبطتها في لوحة التحكم
وكيل يستخدم أدواتauto:<profile>ملف تعريف يضم نماذج استدعاء الأدوات فقط
التصنيف والتوجيه والملخصات القصيرةauto:fastيرتب النماذج حسب السرعة المقاسة
خطوات الاستدلال الصعبةauto:smartيرتب النماذج حسب الذكاء
الاختبارات التي يجب أن تكون قابلة للتكرارمعرّف نموذج ثابتالنموذج نفسه في كل مرة، لكنه يتوقف عند حد ذلك النموذج

لا تقدم المستويات المجانية SLA. يتغير زمن الاستجابة خلال اليوم، وتصل أقوى النماذج إلى حدودها اليومية أولًا. اختبر سلاسلك بالنماذج التي ستستخدمها سلسلتك فعلًا.

حدود الطلبات وإعادة المحاولة

يجرب FreeLLMAPI المزوّد التالي عندما يعيد أحدهم الخطأ 429. لا يرى كودك الخطأ 429 إلا عندما يصل كل مفتاح في السلسلة إلى حده. عندها تحتوي الاستجابة على ترويسة Retry-After. تُعاد ضبط كثير من الحدود اليومية عند منتصف الليل بتوقيت UTC.

بالنسبة لمهام الدفعات، أضف طبقة ثانية لإعادة المحاولة باستخدام with_retry. تعيد هذه الطبقة محاولة المهمة كاملة مع تأخير متزايد أسيًا وعشوائية (jitter).

Python: إعادة محاولة السلسلة عند حدود الطلبات

import openai
from langchain_core.prompts import ChatPromptTemplate

prompt = ChatPromptTemplate.from_messages([
    ("system", "Summarize the text in one sentence."),
    ("user", "{text}"),
])

chain = (prompt | llm).with_retry(
    retry_if_exception_type=(openai.RateLimitError, openai.APITimeoutError),
    wait_exponential_jitter=True,
    stop_after_attempt=5,
)

# batch() runs requests in parallel; max_concurrency keeps the rate low
results = chain.batch(
    [{"text": t} for t in ["First document.", "Second document."]],
    config={"max_concurrency": 4},
)
المشكلةالسببالحل
openai.AuthenticationErrorالمفتاح الموحد خاطئانسخ المفتاح مرة أخرى من صفحة Keys
openai.NotFoundError في كل استدعاءالرابط الأساسي لا يحتوي على /v1استخدم http://localhost:3001/v1
openai.RateLimitErrorوصلت كل المفاتيح في السلسلة إلى حدهاأضف مزوّدين، أو قلل max_concurrency، أو انتظر Retry-After
خطأ في التضمين بشأن الرموز أو نوع الإدخاليرسل LangChain رموزًا، لا نصًااضبط check_embedding_ctx_length=False
tool_calls فارغالنموذج لا يدعم الأدواتاستخدم نموذجًا من جدول الأدوات، أو ملف تعريف للأدوات
نص الاستدلال مفقوديحتفظ ChatOpenAI بالحقول القياسية لـ OpenAI فقطاقرأ الإجابة في content؛ لا تُحفظ الحقول الإضافية للمزوّد
استخدم كل واحد من هذه النماذج عبر مفتاح واحد. FreeLLMAPI موجّه مفتوح المصدر تستضيفه بنفسك. يضع كل هذه المستويات المجانية خلف نقطة وصول واحدة متوافقة مع OpenAI، ويتحول تلقائيًا إلى مزوّد آخر عند تجاوز حد الطلبات. تصفح الكتالوج أو ابدأ الآن.

الأسئلة الشائعة

هل يمكنني استخدام واجهة LLM مجانية مع LangChain؟

نعم. تعمل أي واجهة متوافقة مع OpenAI مع ChatOpenAI. اضبط base_url على http://localhost:3001/v1 واضبط api_key على مفتاح FreeLLMAPI الموحد. يستخدم الموجّه مستويات المزوّدين المجانية.

كيف أضبط رابطًا أساسيًا مخصصًا في ChatOpenAI من LangChain؟

في Python، مرر base_url إلى ChatOpenAI. في JavaScript، مرر configuration: { baseURL } إلى المُنشئ. يعمل متغير البيئة OPENAI_BASE_URL أيضًا في Python.

هل تعمل وكلاء LangChain مع النماذج المجانية؟

نعم، إذا كان النموذج يدعم استدعاء الأدوات. استخدم create_agent مع نموذج ChatOpenAI، وأبقِ نماذج استدعاء الأدوات في سلسلة FreeLLMAPI الخاصة بك.

لماذا يفشل OpenAIEmbeddings مع مزوّد غير OpenAI؟

يرسل افتراضيًا معرّفات الرموز. تحتاج معظم المزوّدين الأخرى إلى النص الخام. اضبط check_embedding_ctx_length=False في Python.

كيف أتعامل مع أخطاء 429 في LangChain؟

اضبط max_retries في ChatOpenAI، وأضف with_retry إلى السلسلة لمهام الدفعات. ينتقل FreeLLMAPI بالفعل إلى المزوّد التالي قبل أن يرى كودك الخطأ 429.

أدلة ذات صلة

المصادر

كل الأدلة · تصفح كل النماذج المجانية