ہوم / گائیڈز / مفت embeddings API

مفت embeddings API

Embeddings API متن کو search، RAG اور clustering کے لیے vectors میں بدلتی ہے۔ کئی providers embeddings مفت دیتے ہیں۔ FreeLLMAPI 41 مفت embedding ماڈلز کو ایک /v1/embeddings endpoint کے پیچھے رکھتا ہے۔ یہ گائیڈ ماڈلز، ان کی حدیں اور کام کرنے والا کوڈ دکھاتی ہے۔

کوڈ، ماڈل کے نام اور براہِ راست کیٹلاگ کے لیبل انگریزی میں دکھائے جاتے ہیں۔

FreeLLMAPI میں مفت embeddings کیسے کام کرتی ہیں

/v1/embeddings endpoint OpenAI request format استعمال کرتا ہے۔ کوئی بھی OpenAI SDK اسے کال کر سکتا ہے۔ آپ متن بھیجتے ہیں، اور ہر input string کے لیے ایک vector ملتا ہے۔

Embeddings کا failover کا اصول chat سے مختلف ہے۔ Chat requests کسی دوسرے ماڈل پر جا سکتی ہیں۔ Embedding requests کبھی کسی دوسرے ماڈل پر نہیں جاتیں۔ دو ماڈلز کے vectors آپس میں مطابقت نہیں رکھتے، اس لیے خاموش ماڈل تبدیلی آپ کے vector store کو خراب کر دیتی ہے۔

  • Family: FreeLLMAPI providers کو family کے لحاظ سے گروپ کرتا ہے۔ ایک family ایک ماڈل شناخت ہے جس کا ایک vector سائز ہے، مثلاً 1024 dimensions والا bge-m3۔
  • Failover: جب کسی family کا ایک provider اپنی حد تک پہنچتا ہے تو router اسی family کو دینے والا اگلا provider آزماتا ہے۔
  • Default: model: "auto" ڈیفالٹ family استعمال کرتا ہے۔ ڈیفالٹ family آپ dashboard کے Models, Embeddings صفحے پر سیٹ کرتے ہیں۔

آج کے مفت embedding ماڈلز

جدول FreeLLMAPI catalog کے ہر مفت embedding ماڈل کو درج کرتی ہے۔ ڈیٹا تازہ catalog سے آتا ہے۔ "Max input" ایک input string کے لیے tokens کی زیادہ سے زیادہ تعداد ہے۔ "Free limit" وہ مفت کوٹہ ہے جو provider شائع کرتا ہے۔

ماڈلفراہم کنندہابعادزیادہ سے زیادہ ان پٹمفت حد
Gemini Embedding
gemini-embedding-001
Google AI Studio30722048100 rpm · 1K req/day
Nemotron Embed VL 1B
nvidia/llama-nemotron-embed-vl-1b-v2
NVIDIA NIM20488192~40 rpm
Nemotron 3 Embed 1B (OR free)
nvidia/nemotron-3-embed-1b:free
OpenRouter20483276820 rpm · shared free daily cap
SEA-LION E5 Embedding 600M
aisingapore/SEA-LION-E5-Embedding-600M
SEA-LION10248192free · 10 rpm
SEA-LION ModernBERT Embedding 300M
aisingapore/SEA-LION-ModernBERT-Embedding-300M
SEA-LION10248192free · 10 rpm
SEA-LION ModernBERT Embedding 600M
aisingapore/SEA-LION-ModernBERT-Embedding-600M
SEA-LION10248192free · 10 rpm
BGE-M3
@cf/baai/bge-m3
Cloudflare Workers AI1024819210K neurons/day (shared)
EmbeddingGemma 300M
@cf/google/embeddinggemma-300m
Cloudflare Workers AI768204810K neurons/day (shared)
Qwen3 Embedding 0.6B
@cf/qwen/qwen3-embedding-0.6b
Cloudflare Workers AI1024819210K neurons/day (shared)
Cohere Embed v4
embed-v4.0
Cohere15361280001K calls/mo (shared w/ chat)
Gemini Embedding 2
gemini-embedding-2
Google AI Studio30728192free-tier rate limited
Nemotron 3 Embed 1B
nvidia/nemotron-3-embed-1b
NVIDIA NIM20484096~40 rpm
PLaMo Embedding 1B (CF)
@cf/pfnet/plamo-embedding-1b
Cloudflare Workers AI2048409610K neurons/day (shared)
BGE Small EN v1.5 (CF)
@cf/baai/bge-small-en-v1.5
Cloudflare Workers AI38451210K neurons/day (shared)
BGE Base EN v1.5 (CF)
@cf/baai/bge-base-en-v1.5
Cloudflare Workers AI76851210K neurons/day (shared)
BGE Large EN v1.5 (CF)
@cf/baai/bge-large-en-v1.5
Cloudflare Workers AI102451210K neurons/day (shared)
Mistral Embed
mistral-embed
Mistral10248192free mode · monthly cap (shared)
Codestral Embed
codestral-embed
Mistral15368192free mode · monthly cap (shared)
Llama Text Embed v2 (Pinecone)
llama-text-embed-v2
Pinecone102420485M tokens/mo per model
Multilingual E5 Large (Pinecone)
multilingual-e5-large
Pinecone10245075M tokens/mo per model
Nemotron 3 Embed 1B (Speka)
nvidia/nemotron-3-embed-1b
Speka20488192$1/month shared across Speka models
OpenAI: Text Embedding 3 Small (ElectronHub)
text-embedding-3-small
ElectronHub15368192$0.25/week shared free credits
OpenAI: Text Embedding 3 Large (ElectronHub)
text-embedding-3-large
ElectronHub30728192$0.25/week shared free credits
Nemotron 3 Embed 8B (Inferbase)
nvidia-nemotron-3-embed-8b
Inferbase409681925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 0.6B (Inferbase)
qwen3-embedding-0-6b
Inferbase102481925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 4B (Inferbase)
qwen3-embedding-4b
Inferbase256081925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 8B (Inferbase)
qwen3-embedding-8b
Inferbase409681925,000 requests/month; 100 requests and $0.50 usage/day shared
LFM2.5 Embedding 350M (LLMTR)
liquid/lfm-2.5-embedding-350m-free
LLMTR1024512Ongoing zero-price route; provider terms apply
BGE-M3 (SEA-LION)
BAAI/bge-m3
SEA-LION10248192free · 10 rpm
Cohere Embed English v3
embed-english-v3.0
Cohere10245121K calls/mo (shared w/ chat)
Qwen3 Embedding 8B (OVH)
Qwen3-Embedding-8B
OVH AI Endpoints409632768free · anonymous 2 req/min per IP
BGE-M3 (OVH)
bge-m3
OVH AI Endpoints10248192free · anonymous 2 req/min per IP
BGE Multilingual Gemma2 (OVH)
bge-multilingual-gemma2
OVH AI Endpoints35848192free · anonymous 2 req/min per IP
Mistral: Codestral Embed (ElectronHub)
codestral-embed
ElectronHub15368192$0.25/week shared free credits
Mistral: Mistral Embed (ElectronHub)
mistral-embed
ElectronHub10248192$0.25/week shared free credits
Google: Gemini Embedding 2 (ElectronHub)
gemini-embedding-2
ElectronHub30728192$0.25/week shared free credits
Google: Gemini Embedding 001 (ElectronHub)
gemini-embedding-001
ElectronHub30722048$0.25/week shared free credits
OpenAI: Text Embedding Ada 002 (ElectronHub)
text-embedding-ada-002
ElectronHub15368192$0.25/week shared free credits
Cohere Embed English Light v3
embed-english-light-v3.0
Cohere3845121K calls/mo (shared w/ chat)
Cohere Embed Multilingual v3
embed-multilingual-v3.0
Cohere10245121K calls/mo (shared w/ chat)
Cohere Embed Multilingual Light v3
embed-multilingual-light-v3.0
Cohere3845121K calls/mo (shared w/ chat)

FreeLLMAPI کیٹلاگ کا براہِ راست ڈیٹا (ورژن 2026.11.19، 2026-11-19 کو جانچا گیا)۔ مفت حدیں اکثر بدلتی ہیں۔ کیٹلاگ ہر روز جانچا جاتا ہے۔

کچھ providers chat اور embeddings کے درمیان ایک ہی کوٹہ بانٹتے ہیں۔ مثلاً Cohere کی trial key ہر مہینے تمام endpoints کے لیے مجموعی طور پر 1,000 API calls دیتی ہے۔ Cloudflare Workers AI روزانہ 10,000 neurons دیتا ہے، جو اکاؤنٹ کے تمام Workers AI ماڈلز میں بٹتے ہیں۔

مرحلہ 1: FreeLLMAPI انسٹال کریں اور keys شامل کریں

FreeLLMAPI open source ہے۔ یہ Docker میں آپ کے کمپیوٹر پر چلتا ہے۔ آپ کی provider keys آپ کے کمپیوٹر پر رہتی ہیں۔

انسٹال کریں (macOS یا Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

http://localhost:3001 پر dashboard کھولیں۔ Keys صفحے پر اپنی provider keys شامل کریں۔ embeddings کے لیے ایک Google AI Studio key اور ایک Cloudflare key اچھا آغاز ہیں۔ اسی صفحے سے اپنی unified key کاپی کریں۔

مرحلہ 2: embeddings endpoint کو کال کریں

ایک request میں کئی vectors حاصل کرنے کے لیے strings کی فہرست بھیجیں۔ اپنے documents اور search queries دونوں کے لیے ایک ہی model قدر استعمال کریں۔

curl

curl http://localhost:3001/v1/embeddings \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "bge-m3", "input": ["the quick brown fox", "a fast brown fox"]}'

Python: دو متن embed کریں اور موازنہ کریں

import math
from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")

resp = client.embeddings.create(
    model="bge-m3",  # a family name, "auto", or a provider model id
    input=["How do I reset my password?", "Steps to change a forgotten password"],
)
a, b = resp.data[0].embedding, resp.data[1].embedding
print(len(resp.data), "vectors of", len(a), "dimensions")

dot = sum(x * y for x, y in zip(a, b))
norm = math.sqrt(sum(x * x for x in a)) * math.sqrt(sum(y * y for y in b))
print("cosine similarity:", round(dot / norm, 3))

model فیلڈ تین شکلیں قبول کرتا ہے: auto، family کا نام جیسے bge-m3، یا provider model id جیسے @cf/baai/bge-m3۔ provider model id اپنی family میں حل ہوتی ہے، اس لیے failover پھر بھی اسی family کے اندر رہتا ہے۔

کون سا مفت embedding ماڈل منتخب کریں

ہر vector store کے لیے ماڈل ایک بار منتخب کریں۔ اگر بعد میں ماڈل بدلیں تو آپ کو تمام documents دوبارہ embed کرنے ہوں گے۔

ضرورتModel familyوجہ
مختصر انگریزی یا کثیر لسانی متن، بہت سے providersbge-m31024 dimensions، 8,192 input tokens۔ کئی مفت providers اسے دیتے ہیں، اس لیے failover کے زیادہ اختیارات ہیں۔
Google key کے ساتھ اعلیٰ معیار کی retrievalgemini-embedding-0013072 dimensions۔ input حد 2,048 tokens ہے، اس لیے لمبے documents کو chunks میں تقسیم کریں۔
ایک vector میں لمبے documentsembed-v4.0 (Cohere)بڑی input window۔ trial key ہر مہینے صرف 1,000 calls دیتی ہے، جو chat کے ساتھ بٹتی ہیں۔
چھوٹے vectors اور تیز searchbge-small-en-v1.5384 dimensions۔ صرف انگریزی، اور input حد 512 tokens ہے۔
Code searchcodestral-embedcode کے لیے تربیت یافتہ۔ یہ Mistral کے مفت موڈ کا کوٹہ استعمال کرتا ہے۔

بڑے vectors vector database میں زیادہ storage اور memory لیتے ہیں۔ 3072 dimensions والا vector 1024 dimensions والے vector سے تین گنا بڑا ہے۔ زیادہ تر RAG منصوبوں کے لیے، جن میں دس لاکھ سے کم chunks ہوں، 768 سے 1024 dimensions اچھے نتائج دیتے ہیں۔

حدیں اور عام غلطیاں

  • Input حدیں: "Max input" قدر سے زیادہ متن کاٹا یا رد کیا جا سکتا ہے۔ embed کرنے سے پہلے documents کو 300 سے 800 tokens کے chunks میں تقسیم کریں۔
  • ایک store میں ایک family: ایک index میں دو families کے vectors نہ ملائیں۔ ماڈلز کے درمیان similarity scores کا کوئی مطلب نہیں ہوتا۔
  • Normalization: Google کہتا ہے کہ gemini-embedding-001 کے وہ vectors جن کے dimensions 3072 سے کم ہیں، آپ کو خود normalize کرنے ہوں گے۔ score کے طور پر dot product استعمال کرنے سے پہلے تمام vectors کو normalize کریں۔
  • Rate limits: مفت ٹیئرز فی منٹ یا فی دن requests گنتے ہیں۔ ہر string کے لیے ایک request کی جگہ strings کے batch ایک request میں بھیجیں۔
  • Anonymous ٹیئرز: OVH AI Endpoints بغیر key کے ہر IP address اور ماڈل کے لیے فی منٹ 2 requests دیتا ہے۔ اسے fallback کے طور پر استعمال کریں، بڑے پیمانے پر indexing کے لیے نہیں۔
مشورہ: اپنی منتخب family میں کم از کم دو providers رکھیں۔ تب ایک provider پر 429 error آپ کے indexing job کو نہیں روکتا۔

خرابیوں کا حل

مسئلہوجہحل
بڑے پیمانے کی indexing کے دوران error 429family کے لیے provider کی حد پوری ہو گئیاسی family کے لیے دوسری provider key شامل کریں، یا ہر منٹ کم requests بھیجیں
تبدیلی کے بعد search کے نتائج غلط ہیںdocuments اور queries مختلف families استعمال کر رہے ہیںدونوں کے لیے ایک model قدر استعمال کریں۔ اگر آپ نے اسے بدلا ہے تو documents دوبارہ embed کریں
Vector کی لمبائی وہ نہیں جو آپ کو توقع ہےauto ڈیفالٹ family استعمال کرتا ہےواضح family نام سیٹ کریں، یا Models, Embeddings پر ڈیفالٹ چیک کریں
لمبے متن کے میچ کمزور ہیںمتن input حد سے لمبا ہےمتن کو چھوٹے chunks میں تقسیم کریں
Error 401unified key غلط ہے یا موجود نہیںKeys صفحے سے unified key دوبارہ کاپی کریں
ان سب کو ایک ہی کلید سے استعمال کریں۔ FreeLLMAPI ایک اوپن سورس، خود میزبانی والا راؤٹر ہے۔ یہ ان تمام مفت ٹائرز کو ایک ہی OpenAI سے ہم آہنگ اینڈ پوائنٹ کے پیچھے رکھتا ہے، اور جب کوئی ایک ریٹ لمٹ ہو جائے تو خودکار طور پر دوسرے پر منتقل ہو جاتا ہے۔ کیٹلاگ دیکھیں یا لائیو جائیں.

اکثر پوچھے گئے سوالات

کیا مفت embeddings API موجود ہے؟

ہاں۔ Google AI Studio، Cloudflare Workers AI، Cohere، NVIDIA، Mistral، OVH اور دوسرے rate limits کے ساتھ مفت embedding ماڈلز دیتے ہیں۔ FreeLLMAPI ان میں سے 41 کو ایک OpenAI-compatible endpoint کے پیچھے رکھتا ہے۔

کیا مفت embeddings کے لیے OpenAI SDK استعمال کیا جا سکتا ہے؟

ہاں۔ base URL کو http://localhost:3001/v1 سیٹ کریں اور اپنی unified key استعمال کریں۔ پھر bge-m3 جیسے family نام کے ساتھ client.embeddings.create کال کریں۔

FreeLLMAPI مختلف embedding ماڈل پر failover کیوں نہیں کرتا؟

مختلف ماڈلز کے vectors آپس میں مطابقت نہیں رکھتے۔ خاموش ماڈل تبدیلی similarity search کو توڑ دے گی۔ router صرف انہی providers کے درمیان failover کرتا ہے جو ایک ہی ماڈل family دیتے ہیں۔

RAG کے لیے بہترین مفت embedding ماڈل کون سا ہے؟

زیادہ تر منصوبوں کے لیے bge-m3 اچھا ڈیفالٹ ہے۔ اس کے 1024 dimensions ہیں، 8,192 tokens کی input حد ہے، اور کئی مفت providers ہیں۔ اگر آپ کو 3072 dimensions چاہئیں اور آپ کے پاس Google key ہے تو gemini-embedding-001 استعمال کریں۔

میرے embeddings کے کتنے dimensions ہونے چاہئیں؟

زیادہ تر search اور RAG کام کے لیے 768 سے 1024 dimensions استعمال کریں۔ بڑے vectors زیادہ storage اور memory لیتے ہیں۔ سائز ایک بار منتخب کریں، کیونکہ تبدیلی کا مطلب ہے کہ آپ کو تمام documents دوبارہ embed کرنے ہوں گے۔

متعلقہ گائیڈز

ماخذ

تمام گائیڈز · تمام مفت ماڈلز دیکھیں