الرئيسية / الأدلة / LLM مجاني لـ LlamaIndex

LLM مجاني لـ LlamaIndex

لدى LlamaIndex صنفان لواجهات API المتوافقة مع OpenAI: OpenAILike للدردشة، وOpenAILikeEmbedding للتضمينات. يوجّه هذا الدليل الصنفين نحو FreeLLMAPI، التي تجمع 45 مستوى مجانياً من مزوّدي الخدمة خلف مفتاح واحد. ستبني فهرس توليد معزز بالاسترجاع (RAG)، وتستعلم منه، ثم تضيف وكيلاً. يتولى الكود التعامل مع حدود الطلبات.

تُعرض الشيفرة وأسماء النماذج وتسميات الكتالوج المباشر باللغة الإنجليزية.

ثبّت الحزم

ثبّت FreeLLMAPI وأضف مفاتيح مجانية من مزوّدين اثنين أو أكثر في صفحة Keys في لوحة التحكم. انسخ المفتاح الموحّد. ثم ثبّت حزم LlamaIndex.

التثبيت

curl -fsSL https://freellmapi.co/install.sh | bash

pip install -U llama-index-core \
  llama-index-llms-openai-like \
  llama-index-embeddings-openai-like

export FREELLMAPI_BASE_URL=http://localhost:3001/v1
export FREELLMAPI_API_KEY=<unified-key>

لا تستخدم الصنف OpenAI العادي من llama-index-llms-openai مع أسماء نماذج لا يعرفها OpenAI. يتحقق هذا الصنف من أسماء النماذج وأحجام السياق مقابل قائمة نماذج OpenAI. أما OpenAILike فلا يفعل ذلك، لذلك تضبط هذه القيم بنفسك.

اضبط نموذج اللغة ونموذج التضمين

settings.py

import os
from llama_index.core import Settings
from llama_index.llms.openai_like import OpenAILike
from llama_index.embeddings.openai_like import OpenAILikeEmbedding

BASE = os.environ["FREELLMAPI_BASE_URL"]
KEY = os.environ["FREELLMAPI_API_KEY"]

Settings.llm = OpenAILike(
    model="auto",
    api_base=BASE,
    api_key=KEY,
    is_chat_model=True,              # use /v1/chat/completions
    is_function_calling_model=True,  # needed for FunctionAgent
    context_window=32000,            # the smallest window in your chain
    max_retries=5,
    timeout=90,
)

Settings.embed_model = OpenAILikeEmbedding(
    model_name="bge-m3",  # one family, 1024 dimensions
    api_base=BASE,
    api_key=KEY,
    embed_batch_size=16,
    max_retries=10,
)
  • is_chat_model=True: بدونه يرسل LlamaIndex الطلبات إلى نقطة نهاية الإكمال القديمة.
  • context_window: يستخدم LlamaIndex هذه القيمة ليقرر كم قطعة مسترجعة تتسع في المطالبة. مع auto، قد يختار الموجّه نماذج مختلفة. استخدم أصغر نافذة سياق في سلسلتك.
  • is_function_calling_model=True: اضبطه فقط عندما تضم سلسلتك نماذج تدعم استدعاء الأدوات.
  • embed_batch_size: كل دفعة هي طلب واحد. الدفعات الأكبر تستخدم طلبات أقل في الدقيقة.

تحمل مطالبة RAG عدة قطع مسترجعة، لذلك يحتاج نموذج الدردشة إلى مساحة لها. أنشئ ملف احتياط لسلسلة تضم نماذج ذات سياق طويل لـ RAG. ثم اضبط model="auto:<profile>" وارفع context_window إلى أصغر نافذة في هذا الملف. تملك هذه النماذج المجانية أكبر نوافذ سياق اليوم:

نماذج مجانية بأكبر نوافذ سياق
النموذجمجاني علىالسياقالحدود المجانية (أفضل عرض)الأدواتالرؤية
OpenAI: GPT-6 LunaElectronHub1.1M$0.25/week shared free creditsلالا
Gemini 3.8 FlashAPINex, Google AI Studio1M5 طلب/دقيقة
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
نعمنعم
Gemini 3.7 FlashGoogle AI Studio1M10 طلب/دقيقة
20 طلب/يوم
250,000 رمز/دقيقة
~3M
نعمنعم
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 طلب/دقيقة
50 طلب/يوم
Shared rate limit
نعملا
DeepSeek V4 Flash 0731ElectronHub, Router91M10,000 credits/month (~$1), shared; account-anniversary resetلالا
Gemini 3.6 FlashGoogle AI Studio1M10 طلب/دقيقة
20 طلب/يوم
250,000 رمز/دقيقة
~3M
نعمنعم
GLM-5.2ModelScope, Router91M100 طلب/يوم
Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experience
لالا
Gemini 3.5 FlashGoogle AI Studio1M10 طلب/دقيقة
20 طلب/يوم
250,000 رمز/دقيقة
~3M
نعمنعم

يعرض 8 من أصل 115 نموذجًا مجانيًا مطابقًا. عرض كل النماذج.

بيانات مباشرة من كتالوج FreeLLMAPI (الإصدار 2026.11.19، تم التحقق 2026-11-19). تتغير الحدود المجانية كثيرًا. يُفحص الكتالوج كل يوم.

لإبقاء مستخدم واحد على نموذج واحد، أرسل ترويسة X-Session-Id. يقبل OpenAILike الوسيط default_headers، على سبيل المثال default_headers={"X-Session-Id": "user-42"}. تُبقي FreeLLMAPI الجلسة على النموذج نفسه لمدة 30 دقيقة. وهذا يعطي إجابات بالأسلوب نفسه طوال المحادثة الواحدة.

ابنِ فهرس RAG واستعلم منه

يقرأ السكربت الملفات من مجلد، ويُنشئ التضمينات، ويحفظ الفهرس، ثم يجيب عن سؤال. شغّله مرة واحدة لبناء الفهرس. تحمّل التشغيلات اللاحقة الفهرس المحفوظ ولا تضمّن الملفات من جديد.

rag.py

import os
import settings  # noqa: F401  (sets Settings.llm and Settings.embed_model)
from llama_index.core import (
    SimpleDirectoryReader,
    StorageContext,
    VectorStoreIndex,
    load_index_from_storage,
)

PERSIST = "./storage"


def load_index() -> VectorStoreIndex:
    if os.path.isdir(PERSIST):
        return load_index_from_storage(StorageContext.from_defaults(persist_dir=PERSIST))
    docs = SimpleDirectoryReader("./docs").load_data()
    index = VectorStoreIndex.from_documents(docs, show_progress=True)
    index.storage_context.persist(persist_dir=PERSIST)
    return index


if __name__ == "__main__":
    query_engine = load_index().as_query_engine(similarity_top_k=4, streaming=True)
    response = query_engine.query("How do I rotate the API keys?")
    response.print_response_stream()
    for node in response.source_nodes:
        print("\nSource:", node.metadata.get("file_name"), round(node.score or 0, 3))
مهم: أبقِ عائلة تضمين واحدة لكامل الفهرس. لا تغيّر FreeLLMAPI نموذج التضمين أثناء التحويل عند الفشل. تنتقل فقط بين المزوّدين الذين يقدمون العائلة نفسها. إذا غيّرت العائلة، فاحذف ./storage وابنِ الفهرس من جديد.

نماذج التضمين هذه مجانية في الكتالوج الحالي. يعرض عمود الأبعاد حجم المتجه لكل عائلة.

النموذجالمزوّدالأبعادأقصى مدخلاتالحد المجاني
Gemini Embedding
gemini-embedding-001
Google AI Studio30722048100 rpm · 1K req/day
Nemotron Embed VL 1B
nvidia/llama-nemotron-embed-vl-1b-v2
NVIDIA NIM20488192~40 rpm
Nemotron 3 Embed 1B (OR free)
nvidia/nemotron-3-embed-1b:free
OpenRouter20483276820 rpm · shared free daily cap
SEA-LION E5 Embedding 600M
aisingapore/SEA-LION-E5-Embedding-600M
SEA-LION10248192free · 10 rpm
SEA-LION ModernBERT Embedding 300M
aisingapore/SEA-LION-ModernBERT-Embedding-300M
SEA-LION10248192free · 10 rpm
SEA-LION ModernBERT Embedding 600M
aisingapore/SEA-LION-ModernBERT-Embedding-600M
SEA-LION10248192free · 10 rpm
BGE-M3
@cf/baai/bge-m3
Cloudflare Workers AI1024819210K neurons/day (shared)
EmbeddingGemma 300M
@cf/google/embeddinggemma-300m
Cloudflare Workers AI768204810K neurons/day (shared)
Qwen3 Embedding 0.6B
@cf/qwen/qwen3-embedding-0.6b
Cloudflare Workers AI1024819210K neurons/day (shared)
Cohere Embed v4
embed-v4.0
Cohere15361280001K calls/mo (shared w/ chat)
Gemini Embedding 2
gemini-embedding-2
Google AI Studio30728192free-tier rate limited
Nemotron 3 Embed 1B
nvidia/nemotron-3-embed-1b
NVIDIA NIM20484096~40 rpm
PLaMo Embedding 1B (CF)
@cf/pfnet/plamo-embedding-1b
Cloudflare Workers AI2048409610K neurons/day (shared)
BGE Small EN v1.5 (CF)
@cf/baai/bge-small-en-v1.5
Cloudflare Workers AI38451210K neurons/day (shared)
BGE Base EN v1.5 (CF)
@cf/baai/bge-base-en-v1.5
Cloudflare Workers AI76851210K neurons/day (shared)
BGE Large EN v1.5 (CF)
@cf/baai/bge-large-en-v1.5
Cloudflare Workers AI102451210K neurons/day (shared)
Mistral Embed
mistral-embed
Mistral10248192free mode · monthly cap (shared)
Codestral Embed
codestral-embed
Mistral15368192free mode · monthly cap (shared)
Llama Text Embed v2 (Pinecone)
llama-text-embed-v2
Pinecone102420485M tokens/mo per model
Multilingual E5 Large (Pinecone)
multilingual-e5-large
Pinecone10245075M tokens/mo per model
Nemotron 3 Embed 1B (Speka)
nvidia/nemotron-3-embed-1b
Speka20488192$1/month shared across Speka models
OpenAI: Text Embedding 3 Small (ElectronHub)
text-embedding-3-small
ElectronHub15368192$0.25/week shared free credits
OpenAI: Text Embedding 3 Large (ElectronHub)
text-embedding-3-large
ElectronHub30728192$0.25/week shared free credits
Nemotron 3 Embed 8B (Inferbase)
nvidia-nemotron-3-embed-8b
Inferbase409681925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 0.6B (Inferbase)
qwen3-embedding-0-6b
Inferbase102481925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 4B (Inferbase)
qwen3-embedding-4b
Inferbase256081925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 8B (Inferbase)
qwen3-embedding-8b
Inferbase409681925,000 requests/month; 100 requests and $0.50 usage/day shared
LFM2.5 Embedding 350M (LLMTR)
liquid/lfm-2.5-embedding-350m-free
LLMTR1024512Ongoing zero-price route; provider terms apply
BGE-M3 (SEA-LION)
BAAI/bge-m3
SEA-LION10248192free · 10 rpm
Cohere Embed English v3
embed-english-v3.0
Cohere10245121K calls/mo (shared w/ chat)
Qwen3 Embedding 8B (OVH)
Qwen3-Embedding-8B
OVH AI Endpoints409632768free · anonymous 2 req/min per IP
BGE-M3 (OVH)
bge-m3
OVH AI Endpoints10248192free · anonymous 2 req/min per IP
BGE Multilingual Gemma2 (OVH)
bge-multilingual-gemma2
OVH AI Endpoints35848192free · anonymous 2 req/min per IP
Mistral: Codestral Embed (ElectronHub)
codestral-embed
ElectronHub15368192$0.25/week shared free credits
Mistral: Mistral Embed (ElectronHub)
mistral-embed
ElectronHub10248192$0.25/week shared free credits
Google: Gemini Embedding 2 (ElectronHub)
gemini-embedding-2
ElectronHub30728192$0.25/week shared free credits
Google: Gemini Embedding 001 (ElectronHub)
gemini-embedding-001
ElectronHub30722048$0.25/week shared free credits
OpenAI: Text Embedding Ada 002 (ElectronHub)
text-embedding-ada-002
ElectronHub15368192$0.25/week shared free credits
Cohere Embed English Light v3
embed-english-light-v3.0
Cohere3845121K calls/mo (shared w/ chat)
Cohere Embed Multilingual v3
embed-multilingual-v3.0
Cohere10245121K calls/mo (shared w/ chat)
Cohere Embed Multilingual Light v3
embed-multilingual-light-v3.0
Cohere3845121K calls/mo (shared w/ chat)

بيانات مباشرة من كتالوج FreeLLMAPI (الإصدار 2026.11.19، تم التحقق 2026-11-19). تتغير الحدود المجانية كثيرًا. يُفحص الكتالوج كل يوم.

أضف وكيلاً باستخدام FunctionAgent

يستخدم FunctionAgent استدعاء الأدوات. يمكنك أن تمنحه محرك الاستعلام كأداة، وأن تضيف دوال Python الخاصة بك.

agent.py

import asyncio
from llama_index.core.agent.workflow import FunctionAgent
from llama_index.core.tools import QueryEngineTool
from llama_index.core import Settings
from rag import load_index

docs_tool = QueryEngineTool.from_defaults(
    query_engine=load_index().as_query_engine(similarity_top_k=4),
    name="project_docs",
    description="Answers questions about the project documentation.",
)

def open_tickets(team: str) -> int:
    """Return the number of open tickets for a team."""
    return {"billing": 4, "platform": 11}.get(team, 0)

agent = FunctionAgent(
    tools=[docs_tool, open_tickets],
    llm=Settings.llm,
    system_prompt="Use the tools. Cite the document name in each answer.",
)

async def main():
    result = await agent.run("How many platform tickets are open, and how do we rotate keys?")
    print(result)

asyncio.run(main())

لعمل الوكيل، اختر نماذج تدعم استدعاء الأدوات. أنشئ ملف احتياط لهذه النماذج فقط، واستخدم auto:<profile> اسماً للنموذج.

نماذج مجانية تدعم استدعاء الأدوات وسياقاً 128K+
النموذجمجاني علىالسياقالحدود المجانية (أفضل عرض)الأدواتالرؤية
GLM 5.3UnoRouter1M1 طلب/دقيقة
1 req/min per model
نعملا
GLM 5.3 FlashNVIDIA NIM, UnoRouter1M40 طلب/دقيقة
40 RPM
نعمنعم
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaنعمنعم
Qwen3.8 Flash NextAMD Radeon Cloud262KRecurring daily account allowanceنعملا
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditنعمنعم
Gemini 3.7 FlashGoogle AI Studio1M10 طلب/دقيقة
20 طلب/يوم
250,000 رمز/دقيقة
~3M
نعمنعم
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditنعمنعم
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 طلب/دقيقة
50 طلب/يوم
50 req/day account-wide (1,000 after a $10 purchase)
نعمنعم
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 طلب/دقيقة
50 طلب/يوم
Shared rate limit
نعملا
Qwen3.8 27BElectronHub, Groq, OVH AI Endpoints262K30 طلب/دقيقة
250 طلب/يوم
70,000 رمز/دقيقة
~6M
نعمنعم

يعرض 10 من أصل 109 نموذجًا مجانيًا مطابقًا. عرض كل النماذج.

بيانات مباشرة من كتالوج FreeLLMAPI (الإصدار 2026.11.19، تم التحقق 2026-11-19). تتغير الحدود المجانية كثيرًا. يُفحص الكتالوج كل يوم.

أبقِ الفهرسة ضمن الحدود المجانية

تُرسل الفهرسة طلبات تضمين كثيرة في وقت قصير. تملك مستويات التضمين المجانية حدوداً منخفضة. فبعضها يسمح مثلاً بـ 10 طلبات في الدقيقة، وبعضها يحسب الاستدعاءات في الشهر. خطط للفهرسة الأولى قبل أن تبدأها.

  • استخدم أجزاء كبيرة. الأجزاء الأقل تعني متجهات وطلبات أقل. وحجم جزء قريب من 1,024 رمزاً بداية جيدة.
  • استخدم الدفعات. اضبط embed_batch_size على 16 أو أكثر. عندئذ يحمل طلب واحد أجزاء كثيرة.
  • احفظ الفهرس. احفظ الفهرس بعد التشغيل الأول. لا تضمّن الملفات نفسها مرة أخرى.
  • أبقِ إعادة المحاولة مفعّلة. يعيد OpenAILikeEmbedding المحاولة حتى 10 مرات افتراضياً. أبقِ هذه القيمة لمهام الفهرسة الطويلة.
  • افهرس على دفعات. بالنسبة لآلاف الملفات، افهرس مجلداً واحداً في كل مرة.

الاستعلامات أرخص من الفهرسة. يستخدم كل استعلام طلب تضمين واحداً وطلب دردشة واحداً. يرسل طلب دردشة يضم أربعة أجزاء من 1,024 رمزاً نحو 5,000 رمز. وقد ترفض المستويات المجانية ذات حدود الرموز المنخفضة في الدقيقة هذا الطلب. عندئذ تجرب FreeLLMAPI المزوّد التالي.

استكشاف الأخطاء وإصلاحها

المشكلةالسببالحل
Unknown model 'auto'استخدمت الصنف OpenAIاستخدم OpenAILike
تذهب الطلبات إلى /v1/completionsلم تُضبط is_chat_modelاضبط is_chat_model=True
لا يستدعي الوكيل الأدواتis_function_calling_model متوقفة، أو النموذج لا يدعم استدعاء الأدواتاضبطها على True واستخدم ملف احتياط للأدوات
الخطأ 429 أثناء الفهرسةبلغت عائلة التضمين حدها لدى كل المزوّديناستخدم دفعات أكبر، وانتظر Retry-After ثم شغّل مرة أخرى
إجابات سيئة بعد تغيير نموذج التضمينمتجهات من عائلتين في فهرس واحداحذف الفهرس المحفوظ وابنِه من جديد
خطأ في طول السياققيمة context_window أكبر من النموذج الذي أجاباضبط قيمة أصغر، أو استخدم ملف احتياط ذا سياق طويل

لمعرفة المزوّد الذي أجاب عن طلب، استخدم لوحة تحكم FreeLLMAPI. تعرض صفحة Analytics الطلبات وزمن الاستجابة والأخطاء لكل مزوّد ونموذج. وكل رد يحمل أيضاً الترويسة X-Routed-Via. إذا غيّر الموجّه المزوّد، فإن الترويسة X-Fallback-Trail تسمي كل محاولة فاشلة وسببها.

استخدم كل واحد من هذه النماذج عبر مفتاح واحد. FreeLLMAPI موجّه مفتوح المصدر تستضيفه بنفسك. يضع كل هذه المستويات المجانية خلف نقطة وصول واحدة متوافقة مع OpenAI، ويتحول تلقائيًا إلى مزوّد آخر عند تجاوز حد الطلبات. تصفح الكتالوج أو ابدأ الآن.

الأسئلة الشائعة

هل أستطيع استخدام LlamaIndex مع LLM مجاني؟

نعم. استخدم OpenAILike مع api_base يشير إلى عنوان متوافق مع OpenAI. توفر FreeLLMAPI عنواناً واحداً لكثير من المستويات المجانية للمزوّدين. ولكل مستوى حدوده الخاصة.

ما الفرق بين OpenAI وOpenAILike في LlamaIndex؟

يتحقق الصنف OpenAI من أسماء النماذج مقابل نماذج OpenAI. أما OpenAILike فيقبل أي اسم نموذج. تضبط أنت نافذة السياق وعلامات الدردشة واستدعاء الدوال بنفسك.

ما أفضل نموذج تضمين مجاني لـ LlamaIndex؟

اختر عائلة لديها طلبات مجانية كافية لفهرستك، وأبقِها للفهرس كله. عائلة bge-m3 مجانية لدى عدة مزوّدين، لذلك يستطيع التحويل عند الفشل الانتقال بينهم.

هل يعمل FunctionAgent مع النماذج المجانية؟

نعم، إذا كان النموذج يدعم استدعاء الأدوات، وضبطت is_function_calling_model=True. استخدم ملف احتياط يضم نماذج تدعم استدعاء الأدوات فقط.

كيف أتجنب حدود الطلبات عند بناء فهرس LlamaIndex؟

استخدم أجزاء كبيرة، واضبط embed_batch_size على 16 أو أكثر، واحفظ الفهرس، وافهرس المجلدات الكبيرة على دفعات.

أدلة ذات صلة

المصادر

كل الأدلة · تصفح كل النماذج المجانية