LLM مجاني لـ LlamaIndex
لدى LlamaIndex صنفان لواجهات API المتوافقة مع OpenAI: OpenAILike للدردشة، وOpenAILikeEmbedding للتضمينات. يوجّه هذا الدليل الصنفين نحو FreeLLMAPI، التي تجمع 45 مستوى مجانياً من مزوّدي الخدمة خلف مفتاح واحد. ستبني فهرس توليد معزز بالاسترجاع (RAG)، وتستعلم منه، ثم تضيف وكيلاً. يتولى الكود التعامل مع حدود الطلبات.
تُعرض الشيفرة وأسماء النماذج وتسميات الكتالوج المباشر باللغة الإنجليزية.
ثبّت الحزم
ثبّت FreeLLMAPI وأضف مفاتيح مجانية من مزوّدين اثنين أو أكثر في صفحة Keys في لوحة التحكم. انسخ المفتاح الموحّد. ثم ثبّت حزم LlamaIndex.
التثبيت
curl -fsSL https://freellmapi.co/install.sh | bash
pip install -U llama-index-core \
llama-index-llms-openai-like \
llama-index-embeddings-openai-like
export FREELLMAPI_BASE_URL=http://localhost:3001/v1
export FREELLMAPI_API_KEY=<unified-key>لا تستخدم الصنف OpenAI العادي من llama-index-llms-openai مع أسماء نماذج لا يعرفها OpenAI. يتحقق هذا الصنف من أسماء النماذج وأحجام السياق مقابل قائمة نماذج OpenAI. أما OpenAILike فلا يفعل ذلك، لذلك تضبط هذه القيم بنفسك.
اضبط نموذج اللغة ونموذج التضمين
settings.py
import os
from llama_index.core import Settings
from llama_index.llms.openai_like import OpenAILike
from llama_index.embeddings.openai_like import OpenAILikeEmbedding
BASE = os.environ["FREELLMAPI_BASE_URL"]
KEY = os.environ["FREELLMAPI_API_KEY"]
Settings.llm = OpenAILike(
model="auto",
api_base=BASE,
api_key=KEY,
is_chat_model=True, # use /v1/chat/completions
is_function_calling_model=True, # needed for FunctionAgent
context_window=32000, # the smallest window in your chain
max_retries=5,
timeout=90,
)
Settings.embed_model = OpenAILikeEmbedding(
model_name="bge-m3", # one family, 1024 dimensions
api_base=BASE,
api_key=KEY,
embed_batch_size=16,
max_retries=10,
)- is_chat_model=True: بدونه يرسل LlamaIndex الطلبات إلى نقطة نهاية الإكمال القديمة.
- context_window: يستخدم LlamaIndex هذه القيمة ليقرر كم قطعة مسترجعة تتسع في المطالبة. مع
auto، قد يختار الموجّه نماذج مختلفة. استخدم أصغر نافذة سياق في سلسلتك. - is_function_calling_model=True: اضبطه فقط عندما تضم سلسلتك نماذج تدعم استدعاء الأدوات.
- embed_batch_size: كل دفعة هي طلب واحد. الدفعات الأكبر تستخدم طلبات أقل في الدقيقة.
تحمل مطالبة RAG عدة قطع مسترجعة، لذلك يحتاج نموذج الدردشة إلى مساحة لها. أنشئ ملف احتياط لسلسلة تضم نماذج ذات سياق طويل لـ RAG. ثم اضبط model="auto:<profile>" وارفع context_window إلى أصغر نافذة في هذا الملف. تملك هذه النماذج المجانية أكبر نوافذ سياق اليوم:
| النموذج | مجاني على | السياق | الحدود المجانية (أفضل عرض) | الأدوات | الرؤية |
|---|---|---|---|---|---|
| OpenAI: GPT-6 Luna | ElectronHub | 1.1M | $0.25/week shared free credits | لا | لا |
| Gemini 3.8 Flash | APINex, Google AI Studio | 1M | 5 طلب/دقيقة 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | نعم | نعم |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 طلب/دقيقة 20 طلب/يوم 250,000 رمز/دقيقة ~3M | نعم | نعم |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 طلب/دقيقة 50 طلب/يوم Shared rate limit | نعم | لا |
| DeepSeek V4 Flash 0731 | ElectronHub, Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | لا | لا |
| Gemini 3.6 Flash | Google AI Studio | 1M | 10 طلب/دقيقة 20 طلب/يوم 250,000 رمز/دقيقة ~3M | نعم | نعم |
| GLM-5.2 | ModelScope, Router9 | 1M | 100 طلب/يوم Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experience | لا | لا |
| Gemini 3.5 Flash | Google AI Studio | 1M | 10 طلب/دقيقة 20 طلب/يوم 250,000 رمز/دقيقة ~3M | نعم | نعم |
يعرض 8 من أصل 115 نموذجًا مجانيًا مطابقًا. عرض كل النماذج.
بيانات مباشرة من كتالوج FreeLLMAPI (الإصدار 2026.11.19، تم التحقق 2026-11-19). تتغير الحدود المجانية كثيرًا. يُفحص الكتالوج كل يوم.
لإبقاء مستخدم واحد على نموذج واحد، أرسل ترويسة X-Session-Id. يقبل OpenAILike الوسيط default_headers، على سبيل المثال default_headers={"X-Session-Id": "user-42"}. تُبقي FreeLLMAPI الجلسة على النموذج نفسه لمدة 30 دقيقة. وهذا يعطي إجابات بالأسلوب نفسه طوال المحادثة الواحدة.
ابنِ فهرس RAG واستعلم منه
يقرأ السكربت الملفات من مجلد، ويُنشئ التضمينات، ويحفظ الفهرس، ثم يجيب عن سؤال. شغّله مرة واحدة لبناء الفهرس. تحمّل التشغيلات اللاحقة الفهرس المحفوظ ولا تضمّن الملفات من جديد.
rag.py
import os
import settings # noqa: F401 (sets Settings.llm and Settings.embed_model)
from llama_index.core import (
SimpleDirectoryReader,
StorageContext,
VectorStoreIndex,
load_index_from_storage,
)
PERSIST = "./storage"
def load_index() -> VectorStoreIndex:
if os.path.isdir(PERSIST):
return load_index_from_storage(StorageContext.from_defaults(persist_dir=PERSIST))
docs = SimpleDirectoryReader("./docs").load_data()
index = VectorStoreIndex.from_documents(docs, show_progress=True)
index.storage_context.persist(persist_dir=PERSIST)
return index
if __name__ == "__main__":
query_engine = load_index().as_query_engine(similarity_top_k=4, streaming=True)
response = query_engine.query("How do I rotate the API keys?")
response.print_response_stream()
for node in response.source_nodes:
print("\nSource:", node.metadata.get("file_name"), round(node.score or 0, 3))./storage وابنِ الفهرس من جديد.نماذج التضمين هذه مجانية في الكتالوج الحالي. يعرض عمود الأبعاد حجم المتجه لكل عائلة.
| النموذج | المزوّد | الأبعاد | أقصى مدخلات | الحد المجاني |
|---|---|---|---|---|
Gemini Embeddinggemini-embedding-001 | Google AI Studio | 3072 | 2048 | 100 rpm · 1K req/day |
Nemotron Embed VL 1Bnvidia/llama-nemotron-embed-vl-1b-v2 | NVIDIA NIM | 2048 | 8192 | ~40 rpm |
Nemotron 3 Embed 1B (OR free)nvidia/nemotron-3-embed-1b:free | OpenRouter | 2048 | 32768 | 20 rpm · shared free daily cap |
SEA-LION E5 Embedding 600Maisingapore/SEA-LION-E5-Embedding-600M | SEA-LION | 1024 | 8192 | free · 10 rpm |
SEA-LION ModernBERT Embedding 300Maisingapore/SEA-LION-ModernBERT-Embedding-300M | SEA-LION | 1024 | 8192 | free · 10 rpm |
SEA-LION ModernBERT Embedding 600Maisingapore/SEA-LION-ModernBERT-Embedding-600M | SEA-LION | 1024 | 8192 | free · 10 rpm |
BGE-M3@cf/baai/bge-m3 | Cloudflare Workers AI | 1024 | 8192 | 10K neurons/day (shared) |
EmbeddingGemma 300M@cf/google/embeddinggemma-300m | Cloudflare Workers AI | 768 | 2048 | 10K neurons/day (shared) |
Qwen3 Embedding 0.6B@cf/qwen/qwen3-embedding-0.6b | Cloudflare Workers AI | 1024 | 8192 | 10K neurons/day (shared) |
Cohere Embed v4embed-v4.0 | Cohere | 1536 | 128000 | 1K calls/mo (shared w/ chat) |
Gemini Embedding 2gemini-embedding-2 | Google AI Studio | 3072 | 8192 | free-tier rate limited |
Nemotron 3 Embed 1Bnvidia/nemotron-3-embed-1b | NVIDIA NIM | 2048 | 4096 | ~40 rpm |
PLaMo Embedding 1B (CF)@cf/pfnet/plamo-embedding-1b | Cloudflare Workers AI | 2048 | 4096 | 10K neurons/day (shared) |
BGE Small EN v1.5 (CF)@cf/baai/bge-small-en-v1.5 | Cloudflare Workers AI | 384 | 512 | 10K neurons/day (shared) |
BGE Base EN v1.5 (CF)@cf/baai/bge-base-en-v1.5 | Cloudflare Workers AI | 768 | 512 | 10K neurons/day (shared) |
BGE Large EN v1.5 (CF)@cf/baai/bge-large-en-v1.5 | Cloudflare Workers AI | 1024 | 512 | 10K neurons/day (shared) |
Mistral Embedmistral-embed | Mistral | 1024 | 8192 | free mode · monthly cap (shared) |
Codestral Embedcodestral-embed | Mistral | 1536 | 8192 | free mode · monthly cap (shared) |
Llama Text Embed v2 (Pinecone)llama-text-embed-v2 | Pinecone | 1024 | 2048 | 5M tokens/mo per model |
Multilingual E5 Large (Pinecone)multilingual-e5-large | Pinecone | 1024 | 507 | 5M tokens/mo per model |
Nemotron 3 Embed 1B (Speka)nvidia/nemotron-3-embed-1b | Speka | 2048 | 8192 | $1/month shared across Speka models |
OpenAI: Text Embedding 3 Small (ElectronHub)text-embedding-3-small | ElectronHub | 1536 | 8192 | $0.25/week shared free credits |
OpenAI: Text Embedding 3 Large (ElectronHub)text-embedding-3-large | ElectronHub | 3072 | 8192 | $0.25/week shared free credits |
Nemotron 3 Embed 8B (Inferbase)nvidia-nemotron-3-embed-8b | Inferbase | 4096 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
Qwen 3 Embedding 0.6B (Inferbase)qwen3-embedding-0-6b | Inferbase | 1024 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
Qwen 3 Embedding 4B (Inferbase)qwen3-embedding-4b | Inferbase | 2560 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
Qwen 3 Embedding 8B (Inferbase)qwen3-embedding-8b | Inferbase | 4096 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
LFM2.5 Embedding 350M (LLMTR)liquid/lfm-2.5-embedding-350m-free | LLMTR | 1024 | 512 | Ongoing zero-price route; provider terms apply |
BGE-M3 (SEA-LION)BAAI/bge-m3 | SEA-LION | 1024 | 8192 | free · 10 rpm |
Cohere Embed English v3embed-english-v3.0 | Cohere | 1024 | 512 | 1K calls/mo (shared w/ chat) |
Qwen3 Embedding 8B (OVH)Qwen3-Embedding-8B | OVH AI Endpoints | 4096 | 32768 | free · anonymous 2 req/min per IP |
BGE-M3 (OVH)bge-m3 | OVH AI Endpoints | 1024 | 8192 | free · anonymous 2 req/min per IP |
BGE Multilingual Gemma2 (OVH)bge-multilingual-gemma2 | OVH AI Endpoints | 3584 | 8192 | free · anonymous 2 req/min per IP |
Mistral: Codestral Embed (ElectronHub)codestral-embed | ElectronHub | 1536 | 8192 | $0.25/week shared free credits |
Mistral: Mistral Embed (ElectronHub)mistral-embed | ElectronHub | 1024 | 8192 | $0.25/week shared free credits |
Google: Gemini Embedding 2 (ElectronHub)gemini-embedding-2 | ElectronHub | 3072 | 8192 | $0.25/week shared free credits |
Google: Gemini Embedding 001 (ElectronHub)gemini-embedding-001 | ElectronHub | 3072 | 2048 | $0.25/week shared free credits |
OpenAI: Text Embedding Ada 002 (ElectronHub)text-embedding-ada-002 | ElectronHub | 1536 | 8192 | $0.25/week shared free credits |
Cohere Embed English Light v3embed-english-light-v3.0 | Cohere | 384 | 512 | 1K calls/mo (shared w/ chat) |
Cohere Embed Multilingual v3embed-multilingual-v3.0 | Cohere | 1024 | 512 | 1K calls/mo (shared w/ chat) |
Cohere Embed Multilingual Light v3embed-multilingual-light-v3.0 | Cohere | 384 | 512 | 1K calls/mo (shared w/ chat) |
بيانات مباشرة من كتالوج FreeLLMAPI (الإصدار 2026.11.19، تم التحقق 2026-11-19). تتغير الحدود المجانية كثيرًا. يُفحص الكتالوج كل يوم.
أضف وكيلاً باستخدام FunctionAgent
يستخدم FunctionAgent استدعاء الأدوات. يمكنك أن تمنحه محرك الاستعلام كأداة، وأن تضيف دوال Python الخاصة بك.
agent.py
import asyncio
from llama_index.core.agent.workflow import FunctionAgent
from llama_index.core.tools import QueryEngineTool
from llama_index.core import Settings
from rag import load_index
docs_tool = QueryEngineTool.from_defaults(
query_engine=load_index().as_query_engine(similarity_top_k=4),
name="project_docs",
description="Answers questions about the project documentation.",
)
def open_tickets(team: str) -> int:
"""Return the number of open tickets for a team."""
return {"billing": 4, "platform": 11}.get(team, 0)
agent = FunctionAgent(
tools=[docs_tool, open_tickets],
llm=Settings.llm,
system_prompt="Use the tools. Cite the document name in each answer.",
)
async def main():
result = await agent.run("How many platform tickets are open, and how do we rotate keys?")
print(result)
asyncio.run(main())لعمل الوكيل، اختر نماذج تدعم استدعاء الأدوات. أنشئ ملف احتياط لهذه النماذج فقط، واستخدم auto:<profile> اسماً للنموذج.
| النموذج | مجاني على | السياق | الحدود المجانية (أفضل عرض) | الأدوات | الرؤية |
|---|---|---|---|---|---|
| GLM 5.3 | UnoRouter | 1M | 1 طلب/دقيقة 1 req/min per model | نعم | لا |
| GLM 5.3 Flash | NVIDIA NIM, UnoRouter | 1M | 40 طلب/دقيقة 40 RPM | نعم | نعم |
| Gemini 3.8 Flash | Google AI Studio | 1M | Recurring provider quota | نعم | نعم |
| Qwen3.8 Flash Next | AMD Radeon Cloud | 262K | Recurring daily account allowance | نعم | لا |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | نعم | نعم |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 طلب/دقيقة 20 طلب/يوم 250,000 رمز/دقيقة ~3M | نعم | نعم |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | نعم | نعم |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 طلب/دقيقة 50 طلب/يوم 50 req/day account-wide (1,000 after a $10 purchase) | نعم | نعم |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 طلب/دقيقة 50 طلب/يوم Shared rate limit | نعم | لا |
| Qwen3.8 27B | ElectronHub, Groq, OVH AI Endpoints | 262K | 30 طلب/دقيقة 250 طلب/يوم 70,000 رمز/دقيقة ~6M | نعم | نعم |
يعرض 10 من أصل 109 نموذجًا مجانيًا مطابقًا. عرض كل النماذج.
بيانات مباشرة من كتالوج FreeLLMAPI (الإصدار 2026.11.19، تم التحقق 2026-11-19). تتغير الحدود المجانية كثيرًا. يُفحص الكتالوج كل يوم.
أبقِ الفهرسة ضمن الحدود المجانية
تُرسل الفهرسة طلبات تضمين كثيرة في وقت قصير. تملك مستويات التضمين المجانية حدوداً منخفضة. فبعضها يسمح مثلاً بـ 10 طلبات في الدقيقة، وبعضها يحسب الاستدعاءات في الشهر. خطط للفهرسة الأولى قبل أن تبدأها.
- استخدم أجزاء كبيرة. الأجزاء الأقل تعني متجهات وطلبات أقل. وحجم جزء قريب من 1,024 رمزاً بداية جيدة.
- استخدم الدفعات. اضبط
embed_batch_sizeعلى 16 أو أكثر. عندئذ يحمل طلب واحد أجزاء كثيرة. - احفظ الفهرس. احفظ الفهرس بعد التشغيل الأول. لا تضمّن الملفات نفسها مرة أخرى.
- أبقِ إعادة المحاولة مفعّلة. يعيد
OpenAILikeEmbeddingالمحاولة حتى 10 مرات افتراضياً. أبقِ هذه القيمة لمهام الفهرسة الطويلة. - افهرس على دفعات. بالنسبة لآلاف الملفات، افهرس مجلداً واحداً في كل مرة.
الاستعلامات أرخص من الفهرسة. يستخدم كل استعلام طلب تضمين واحداً وطلب دردشة واحداً. يرسل طلب دردشة يضم أربعة أجزاء من 1,024 رمزاً نحو 5,000 رمز. وقد ترفض المستويات المجانية ذات حدود الرموز المنخفضة في الدقيقة هذا الطلب. عندئذ تجرب FreeLLMAPI المزوّد التالي.
استكشاف الأخطاء وإصلاحها
| المشكلة | السبب | الحل |
|---|---|---|
Unknown model 'auto' | استخدمت الصنف OpenAI | استخدم OpenAILike |
تذهب الطلبات إلى /v1/completions | لم تُضبط is_chat_model | اضبط is_chat_model=True |
| لا يستدعي الوكيل الأدوات | is_function_calling_model متوقفة، أو النموذج لا يدعم استدعاء الأدوات | اضبطها على True واستخدم ملف احتياط للأدوات |
| الخطأ 429 أثناء الفهرسة | بلغت عائلة التضمين حدها لدى كل المزوّدين | استخدم دفعات أكبر، وانتظر Retry-After ثم شغّل مرة أخرى |
| إجابات سيئة بعد تغيير نموذج التضمين | متجهات من عائلتين في فهرس واحد | احذف الفهرس المحفوظ وابنِه من جديد |
| خطأ في طول السياق | قيمة context_window أكبر من النموذج الذي أجاب | اضبط قيمة أصغر، أو استخدم ملف احتياط ذا سياق طويل |
لمعرفة المزوّد الذي أجاب عن طلب، استخدم لوحة تحكم FreeLLMAPI. تعرض صفحة Analytics الطلبات وزمن الاستجابة والأخطاء لكل مزوّد ونموذج. وكل رد يحمل أيضاً الترويسة X-Routed-Via. إذا غيّر الموجّه المزوّد، فإن الترويسة X-Fallback-Trail تسمي كل محاولة فاشلة وسببها.
الأسئلة الشائعة
هل أستطيع استخدام LlamaIndex مع LLM مجاني؟
نعم. استخدم OpenAILike مع api_base يشير إلى عنوان متوافق مع OpenAI. توفر FreeLLMAPI عنواناً واحداً لكثير من المستويات المجانية للمزوّدين. ولكل مستوى حدوده الخاصة.
ما الفرق بين OpenAI وOpenAILike في LlamaIndex؟
يتحقق الصنف OpenAI من أسماء النماذج مقابل نماذج OpenAI. أما OpenAILike فيقبل أي اسم نموذج. تضبط أنت نافذة السياق وعلامات الدردشة واستدعاء الدوال بنفسك.
ما أفضل نموذج تضمين مجاني لـ LlamaIndex؟
اختر عائلة لديها طلبات مجانية كافية لفهرستك، وأبقِها للفهرس كله. عائلة bge-m3 مجانية لدى عدة مزوّدين، لذلك يستطيع التحويل عند الفشل الانتقال بينهم.
هل يعمل FunctionAgent مع النماذج المجانية؟
نعم، إذا كان النموذج يدعم استدعاء الأدوات، وضبطت is_function_calling_model=True. استخدم ملف احتياط يضم نماذج تدعم استدعاء الأدوات فقط.
كيف أتجنب حدود الطلبات عند بناء فهرس LlamaIndex؟
استخدم أجزاء كبيرة، واضبط embed_batch_size على 16 أو أكثر، واحفظ الفهرس، وافهرس المجلدات الكبيرة على دفعات.
أدلة ذات صلة
- واجهة LLM مجانية لـ RAG
- واجهة Embeddings مجانية
- واجهة LLM مجانية لـ LangChain
- واجهة LLM مجانية في Python
- واجهة LLM مجانية بسياق مليون رمز
المصادر
- LlamaIndex: llama-index-llms-openai-like README (تم التحقق 20 November 2026)
- LlamaIndex: llama-index-embeddings-openai-like source (تم التحقق 20 November 2026)
- LlamaIndex: FunctionAgent (agent workflow) source (تم التحقق 20 November 2026)
- FreeLLMAPI docs: REST API (embeddings families, routing strategies) (تم التحقق 20 November 2026)