مفت embeddings API
Embeddings API متن کو search، RAG اور clustering کے لیے vectors میں بدلتی ہے۔ کئی providers embeddings مفت دیتے ہیں۔ FreeLLMAPI 41 مفت embedding ماڈلز کو ایک /v1/embeddings endpoint کے پیچھے رکھتا ہے۔ یہ گائیڈ ماڈلز، ان کی حدیں اور کام کرنے والا کوڈ دکھاتی ہے۔
کوڈ، ماڈل کے نام اور براہِ راست کیٹلاگ کے لیبل انگریزی میں دکھائے جاتے ہیں۔
FreeLLMAPI میں مفت embeddings کیسے کام کرتی ہیں
/v1/embeddings endpoint OpenAI request format استعمال کرتا ہے۔ کوئی بھی OpenAI SDK اسے کال کر سکتا ہے۔ آپ متن بھیجتے ہیں، اور ہر input string کے لیے ایک vector ملتا ہے۔
Embeddings کا failover کا اصول chat سے مختلف ہے۔ Chat requests کسی دوسرے ماڈل پر جا سکتی ہیں۔ Embedding requests کبھی کسی دوسرے ماڈل پر نہیں جاتیں۔ دو ماڈلز کے vectors آپس میں مطابقت نہیں رکھتے، اس لیے خاموش ماڈل تبدیلی آپ کے vector store کو خراب کر دیتی ہے۔
- Family: FreeLLMAPI providers کو family کے لحاظ سے گروپ کرتا ہے۔ ایک family ایک ماڈل شناخت ہے جس کا ایک vector سائز ہے، مثلاً 1024 dimensions والا
bge-m3۔ - Failover: جب کسی family کا ایک provider اپنی حد تک پہنچتا ہے تو router اسی family کو دینے والا اگلا provider آزماتا ہے۔
- Default:
model: "auto"ڈیفالٹ family استعمال کرتا ہے۔ ڈیفالٹ family آپ dashboard کے Models, Embeddings صفحے پر سیٹ کرتے ہیں۔
آج کے مفت embedding ماڈلز
جدول FreeLLMAPI catalog کے ہر مفت embedding ماڈل کو درج کرتی ہے۔ ڈیٹا تازہ catalog سے آتا ہے۔ "Max input" ایک input string کے لیے tokens کی زیادہ سے زیادہ تعداد ہے۔ "Free limit" وہ مفت کوٹہ ہے جو provider شائع کرتا ہے۔
| ماڈل | فراہم کنندہ | ابعاد | زیادہ سے زیادہ ان پٹ | مفت حد |
|---|---|---|---|---|
Gemini Embeddinggemini-embedding-001 | Google AI Studio | 3072 | 2048 | 100 rpm · 1K req/day |
Nemotron Embed VL 1Bnvidia/llama-nemotron-embed-vl-1b-v2 | NVIDIA NIM | 2048 | 8192 | ~40 rpm |
Nemotron 3 Embed 1B (OR free)nvidia/nemotron-3-embed-1b:free | OpenRouter | 2048 | 32768 | 20 rpm · shared free daily cap |
SEA-LION E5 Embedding 600Maisingapore/SEA-LION-E5-Embedding-600M | SEA-LION | 1024 | 8192 | free · 10 rpm |
SEA-LION ModernBERT Embedding 300Maisingapore/SEA-LION-ModernBERT-Embedding-300M | SEA-LION | 1024 | 8192 | free · 10 rpm |
SEA-LION ModernBERT Embedding 600Maisingapore/SEA-LION-ModernBERT-Embedding-600M | SEA-LION | 1024 | 8192 | free · 10 rpm |
BGE-M3@cf/baai/bge-m3 | Cloudflare Workers AI | 1024 | 8192 | 10K neurons/day (shared) |
EmbeddingGemma 300M@cf/google/embeddinggemma-300m | Cloudflare Workers AI | 768 | 2048 | 10K neurons/day (shared) |
Qwen3 Embedding 0.6B@cf/qwen/qwen3-embedding-0.6b | Cloudflare Workers AI | 1024 | 8192 | 10K neurons/day (shared) |
Cohere Embed v4embed-v4.0 | Cohere | 1536 | 128000 | 1K calls/mo (shared w/ chat) |
Gemini Embedding 2gemini-embedding-2 | Google AI Studio | 3072 | 8192 | free-tier rate limited |
Nemotron 3 Embed 1Bnvidia/nemotron-3-embed-1b | NVIDIA NIM | 2048 | 4096 | ~40 rpm |
PLaMo Embedding 1B (CF)@cf/pfnet/plamo-embedding-1b | Cloudflare Workers AI | 2048 | 4096 | 10K neurons/day (shared) |
BGE Small EN v1.5 (CF)@cf/baai/bge-small-en-v1.5 | Cloudflare Workers AI | 384 | 512 | 10K neurons/day (shared) |
BGE Base EN v1.5 (CF)@cf/baai/bge-base-en-v1.5 | Cloudflare Workers AI | 768 | 512 | 10K neurons/day (shared) |
BGE Large EN v1.5 (CF)@cf/baai/bge-large-en-v1.5 | Cloudflare Workers AI | 1024 | 512 | 10K neurons/day (shared) |
Mistral Embedmistral-embed | Mistral | 1024 | 8192 | free mode · monthly cap (shared) |
Codestral Embedcodestral-embed | Mistral | 1536 | 8192 | free mode · monthly cap (shared) |
Llama Text Embed v2 (Pinecone)llama-text-embed-v2 | Pinecone | 1024 | 2048 | 5M tokens/mo per model |
Multilingual E5 Large (Pinecone)multilingual-e5-large | Pinecone | 1024 | 507 | 5M tokens/mo per model |
Nemotron 3 Embed 1B (Speka)nvidia/nemotron-3-embed-1b | Speka | 2048 | 8192 | $1/month shared across Speka models |
OpenAI: Text Embedding 3 Small (ElectronHub)text-embedding-3-small | ElectronHub | 1536 | 8192 | $0.25/week shared free credits |
OpenAI: Text Embedding 3 Large (ElectronHub)text-embedding-3-large | ElectronHub | 3072 | 8192 | $0.25/week shared free credits |
Nemotron 3 Embed 8B (Inferbase)nvidia-nemotron-3-embed-8b | Inferbase | 4096 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
Qwen 3 Embedding 0.6B (Inferbase)qwen3-embedding-0-6b | Inferbase | 1024 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
Qwen 3 Embedding 4B (Inferbase)qwen3-embedding-4b | Inferbase | 2560 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
Qwen 3 Embedding 8B (Inferbase)qwen3-embedding-8b | Inferbase | 4096 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
LFM2.5 Embedding 350M (LLMTR)liquid/lfm-2.5-embedding-350m-free | LLMTR | 1024 | 512 | Ongoing zero-price route; provider terms apply |
BGE-M3 (SEA-LION)BAAI/bge-m3 | SEA-LION | 1024 | 8192 | free · 10 rpm |
Cohere Embed English v3embed-english-v3.0 | Cohere | 1024 | 512 | 1K calls/mo (shared w/ chat) |
Qwen3 Embedding 8B (OVH)Qwen3-Embedding-8B | OVH AI Endpoints | 4096 | 32768 | free · anonymous 2 req/min per IP |
BGE-M3 (OVH)bge-m3 | OVH AI Endpoints | 1024 | 8192 | free · anonymous 2 req/min per IP |
BGE Multilingual Gemma2 (OVH)bge-multilingual-gemma2 | OVH AI Endpoints | 3584 | 8192 | free · anonymous 2 req/min per IP |
Mistral: Codestral Embed (ElectronHub)codestral-embed | ElectronHub | 1536 | 8192 | $0.25/week shared free credits |
Mistral: Mistral Embed (ElectronHub)mistral-embed | ElectronHub | 1024 | 8192 | $0.25/week shared free credits |
Google: Gemini Embedding 2 (ElectronHub)gemini-embedding-2 | ElectronHub | 3072 | 8192 | $0.25/week shared free credits |
Google: Gemini Embedding 001 (ElectronHub)gemini-embedding-001 | ElectronHub | 3072 | 2048 | $0.25/week shared free credits |
OpenAI: Text Embedding Ada 002 (ElectronHub)text-embedding-ada-002 | ElectronHub | 1536 | 8192 | $0.25/week shared free credits |
Cohere Embed English Light v3embed-english-light-v3.0 | Cohere | 384 | 512 | 1K calls/mo (shared w/ chat) |
Cohere Embed Multilingual v3embed-multilingual-v3.0 | Cohere | 1024 | 512 | 1K calls/mo (shared w/ chat) |
Cohere Embed Multilingual Light v3embed-multilingual-light-v3.0 | Cohere | 384 | 512 | 1K calls/mo (shared w/ chat) |
FreeLLMAPI کیٹلاگ کا براہِ راست ڈیٹا (ورژن 2026.11.19، 2026-11-19 کو جانچا گیا)۔ مفت حدیں اکثر بدلتی ہیں۔ کیٹلاگ ہر روز جانچا جاتا ہے۔
کچھ providers chat اور embeddings کے درمیان ایک ہی کوٹہ بانٹتے ہیں۔ مثلاً Cohere کی trial key ہر مہینے تمام endpoints کے لیے مجموعی طور پر 1,000 API calls دیتی ہے۔ Cloudflare Workers AI روزانہ 10,000 neurons دیتا ہے، جو اکاؤنٹ کے تمام Workers AI ماڈلز میں بٹتے ہیں۔
مرحلہ 1: FreeLLMAPI انسٹال کریں اور keys شامل کریں
FreeLLMAPI open source ہے۔ یہ Docker میں آپ کے کمپیوٹر پر چلتا ہے۔ آپ کی provider keys آپ کے کمپیوٹر پر رہتی ہیں۔
انسٹال کریں (macOS یا Linux)
curl -fsSL https://freellmapi.co/install.sh | bashhttp://localhost:3001 پر dashboard کھولیں۔ Keys صفحے پر اپنی provider keys شامل کریں۔ embeddings کے لیے ایک Google AI Studio key اور ایک Cloudflare key اچھا آغاز ہیں۔ اسی صفحے سے اپنی unified key کاپی کریں۔
مرحلہ 2: embeddings endpoint کو کال کریں
ایک request میں کئی vectors حاصل کرنے کے لیے strings کی فہرست بھیجیں۔ اپنے documents اور search queries دونوں کے لیے ایک ہی model قدر استعمال کریں۔
curl
curl http://localhost:3001/v1/embeddings \
-H "Authorization: Bearer <unified-key>" \
-H "Content-Type: application/json" \
-d '{"model": "bge-m3", "input": ["the quick brown fox", "a fast brown fox"]}'Python: دو متن embed کریں اور موازنہ کریں
import math
from openai import OpenAI
client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")
resp = client.embeddings.create(
model="bge-m3", # a family name, "auto", or a provider model id
input=["How do I reset my password?", "Steps to change a forgotten password"],
)
a, b = resp.data[0].embedding, resp.data[1].embedding
print(len(resp.data), "vectors of", len(a), "dimensions")
dot = sum(x * y for x, y in zip(a, b))
norm = math.sqrt(sum(x * x for x in a)) * math.sqrt(sum(y * y for y in b))
print("cosine similarity:", round(dot / norm, 3))model فیلڈ تین شکلیں قبول کرتا ہے: auto، family کا نام جیسے bge-m3، یا provider model id جیسے @cf/baai/bge-m3۔ provider model id اپنی family میں حل ہوتی ہے، اس لیے failover پھر بھی اسی family کے اندر رہتا ہے۔
کون سا مفت embedding ماڈل منتخب کریں
ہر vector store کے لیے ماڈل ایک بار منتخب کریں۔ اگر بعد میں ماڈل بدلیں تو آپ کو تمام documents دوبارہ embed کرنے ہوں گے۔
| ضرورت | Model family | وجہ |
|---|---|---|
| مختصر انگریزی یا کثیر لسانی متن، بہت سے providers | bge-m3 | 1024 dimensions، 8,192 input tokens۔ کئی مفت providers اسے دیتے ہیں، اس لیے failover کے زیادہ اختیارات ہیں۔ |
| Google key کے ساتھ اعلیٰ معیار کی retrieval | gemini-embedding-001 | 3072 dimensions۔ input حد 2,048 tokens ہے، اس لیے لمبے documents کو chunks میں تقسیم کریں۔ |
| ایک vector میں لمبے documents | embed-v4.0 (Cohere) | بڑی input window۔ trial key ہر مہینے صرف 1,000 calls دیتی ہے، جو chat کے ساتھ بٹتی ہیں۔ |
| چھوٹے vectors اور تیز search | bge-small-en-v1.5 | 384 dimensions۔ صرف انگریزی، اور input حد 512 tokens ہے۔ |
| Code search | codestral-embed | code کے لیے تربیت یافتہ۔ یہ Mistral کے مفت موڈ کا کوٹہ استعمال کرتا ہے۔ |
بڑے vectors vector database میں زیادہ storage اور memory لیتے ہیں۔ 3072 dimensions والا vector 1024 dimensions والے vector سے تین گنا بڑا ہے۔ زیادہ تر RAG منصوبوں کے لیے، جن میں دس لاکھ سے کم chunks ہوں، 768 سے 1024 dimensions اچھے نتائج دیتے ہیں۔
حدیں اور عام غلطیاں
- Input حدیں: "Max input" قدر سے زیادہ متن کاٹا یا رد کیا جا سکتا ہے۔ embed کرنے سے پہلے documents کو 300 سے 800 tokens کے chunks میں تقسیم کریں۔
- ایک store میں ایک family: ایک index میں دو families کے vectors نہ ملائیں۔ ماڈلز کے درمیان similarity scores کا کوئی مطلب نہیں ہوتا۔
- Normalization: Google کہتا ہے کہ
gemini-embedding-001کے وہ vectors جن کے dimensions 3072 سے کم ہیں، آپ کو خود normalize کرنے ہوں گے۔ score کے طور پر dot product استعمال کرنے سے پہلے تمام vectors کو normalize کریں۔ - Rate limits: مفت ٹیئرز فی منٹ یا فی دن requests گنتے ہیں۔ ہر string کے لیے ایک request کی جگہ strings کے batch ایک request میں بھیجیں۔
- Anonymous ٹیئرز: OVH AI Endpoints بغیر key کے ہر IP address اور ماڈل کے لیے فی منٹ 2 requests دیتا ہے۔ اسے fallback کے طور پر استعمال کریں، بڑے پیمانے پر indexing کے لیے نہیں۔
خرابیوں کا حل
| مسئلہ | وجہ | حل |
|---|---|---|
| بڑے پیمانے کی indexing کے دوران error 429 | family کے لیے provider کی حد پوری ہو گئی | اسی family کے لیے دوسری provider key شامل کریں، یا ہر منٹ کم requests بھیجیں |
| تبدیلی کے بعد search کے نتائج غلط ہیں | documents اور queries مختلف families استعمال کر رہے ہیں | دونوں کے لیے ایک model قدر استعمال کریں۔ اگر آپ نے اسے بدلا ہے تو documents دوبارہ embed کریں |
| Vector کی لمبائی وہ نہیں جو آپ کو توقع ہے | auto ڈیفالٹ family استعمال کرتا ہے | واضح family نام سیٹ کریں، یا Models, Embeddings پر ڈیفالٹ چیک کریں |
| لمبے متن کے میچ کمزور ہیں | متن input حد سے لمبا ہے | متن کو چھوٹے chunks میں تقسیم کریں |
| Error 401 | unified key غلط ہے یا موجود نہیں | Keys صفحے سے unified key دوبارہ کاپی کریں |
اکثر پوچھے گئے سوالات
کیا مفت embeddings API موجود ہے؟
ہاں۔ Google AI Studio، Cloudflare Workers AI، Cohere، NVIDIA، Mistral، OVH اور دوسرے rate limits کے ساتھ مفت embedding ماڈلز دیتے ہیں۔ FreeLLMAPI ان میں سے 41 کو ایک OpenAI-compatible endpoint کے پیچھے رکھتا ہے۔
کیا مفت embeddings کے لیے OpenAI SDK استعمال کیا جا سکتا ہے؟
ہاں۔ base URL کو http://localhost:3001/v1 سیٹ کریں اور اپنی unified key استعمال کریں۔ پھر bge-m3 جیسے family نام کے ساتھ client.embeddings.create کال کریں۔
FreeLLMAPI مختلف embedding ماڈل پر failover کیوں نہیں کرتا؟
مختلف ماڈلز کے vectors آپس میں مطابقت نہیں رکھتے۔ خاموش ماڈل تبدیلی similarity search کو توڑ دے گی۔ router صرف انہی providers کے درمیان failover کرتا ہے جو ایک ہی ماڈل family دیتے ہیں۔
RAG کے لیے بہترین مفت embedding ماڈل کون سا ہے؟
زیادہ تر منصوبوں کے لیے bge-m3 اچھا ڈیفالٹ ہے۔ اس کے 1024 dimensions ہیں، 8,192 tokens کی input حد ہے، اور کئی مفت providers ہیں۔ اگر آپ کو 3072 dimensions چاہئیں اور آپ کے پاس Google key ہے تو gemini-embedding-001 استعمال کریں۔
میرے embeddings کے کتنے dimensions ہونے چاہئیں؟
زیادہ تر search اور RAG کام کے لیے 768 سے 1024 dimensions استعمال کریں۔ بڑے vectors زیادہ storage اور memory لیتے ہیں۔ سائز ایک بار منتخب کریں، کیونکہ تبدیلی کا مطلب ہے کہ آپ کو تمام documents دوبارہ embed کرنے ہوں گے۔
متعلقہ گائیڈز
- RAG کے لیے مفت LLM API
- LangChain کے لیے مفت LLM API
- Python میں مفت LLM API
- free cohere api
- مفت LLM API ریٹ حدیں
ماخذ
- FreeLLMAPI docs: Embeddings (20 November 2026 کو جانچا گیا)
- Google AI Studio docs: Embeddings (20 November 2026 کو جانچا گیا)
- Cloudflare Workers AI pricing (20 November 2026 کو جانچا گیا)
- Cohere docs: API keys and rate limits (20 November 2026 کو جانچا گیا)
- OVHcloud AI Endpoints capabilities (20 November 2026 کو جانچا گیا)