मोफत Embeddings API

Embeddings API मजकूराचे शोध, RAG आणि क्लस्टरिंगसाठी vectors मध्ये रूपांतर करते. अनेक प्रदाते embeddings मोफत देतात. FreeLLMAPI 41 मोफत embedding मॉडेल एका /v1/embeddings endpoint मागे ठेवते. हे मार्गदर्शक मॉडेल, त्यांच्या मर्यादा आणि कार्यरत कोड दाखवते.

कोड, मॉडेलची नावे आणि थेट कॅटलॉग लेबल इंग्रजीत दाखवले जातात.

FreeLLMAPI मध्ये मोफत embeddings कसे काम करतात

/v1/embeddings endpoint OpenAI विनंती स्वरूप वापरतो. कोणताही OpenAI SDK त्याला कॉल करू शकतो. तुम्ही मजकूर पाठवता, आणि प्रत्येक इनपुट स्ट्रिंगसाठी एक vector मिळतो.

Embeddings चे failover नियम chat पेक्षा वेगळे आहेत. Chat विनंत्या वेगळ्या मॉडेलकडे जाऊ शकतात. Embedding विनंत्या कधीच वेगळ्या मॉडेलकडे जात नाहीत. दोन मॉडेलचे vectors सुसंगत नसतात, त्यामुळे शांतपणे मॉडेल बदलले तर तुमचा vector store खराब होईल.

  • Family: FreeLLMAPI प्रदात्यांना family नुसार गटात ठेवते. Family म्हणजे एक मॉडेल ओळख, एक vector आकार असलेली, उदाहरणार्थ 1024 dimensions असलेली bge-m3.
  • Failover: एका family मधील एक प्रदाता मर्यादेवर पोहोचला, तर राउटर त्याच family ला सेवा देणारा पुढचा प्रदाता वापरून पाहतो.
  • Default: model: "auto" डिफॉल्ट family वापरते. डिफॉल्ट family तुम्ही डॅशबोर्डच्या Models, Embeddings पेजवर सेट करता.

आज मोफत embedding मॉडेल

तक्त्यात FreeLLMAPI कॅटलॉगमधील प्रत्येक मोफत embedding मॉडेल दिले आहे. डेटा थेट कॅटलॉगमधून येतो. "Max input" म्हणजे एका इनपुट स्ट्रिंगसाठी जास्तीत जास्त टोकन. "Free limit" म्हणजे प्रदात्याने प्रकाशित केलेला मोफत कोटा.

मॉडेलप्रदातापरिमाणेकमाल इनपुटमोफत मर्यादा
Gemini Embedding
gemini-embedding-001
Google AI Studio30722048100 rpm · 1K req/day
Nemotron Embed VL 1B
nvidia/llama-nemotron-embed-vl-1b-v2
NVIDIA NIM20488192~40 rpm
Nemotron 3 Embed 1B (OR free)
nvidia/nemotron-3-embed-1b:free
OpenRouter20483276820 rpm · shared free daily cap
SEA-LION E5 Embedding 600M
aisingapore/SEA-LION-E5-Embedding-600M
SEA-LION10248192free · 10 rpm
SEA-LION ModernBERT Embedding 300M
aisingapore/SEA-LION-ModernBERT-Embedding-300M
SEA-LION10248192free · 10 rpm
SEA-LION ModernBERT Embedding 600M
aisingapore/SEA-LION-ModernBERT-Embedding-600M
SEA-LION10248192free · 10 rpm
BGE-M3
@cf/baai/bge-m3
Cloudflare Workers AI1024819210K neurons/day (shared)
EmbeddingGemma 300M
@cf/google/embeddinggemma-300m
Cloudflare Workers AI768204810K neurons/day (shared)
Qwen3 Embedding 0.6B
@cf/qwen/qwen3-embedding-0.6b
Cloudflare Workers AI1024819210K neurons/day (shared)
Cohere Embed v4
embed-v4.0
Cohere15361280001K calls/mo (shared w/ chat)
Gemini Embedding 2
gemini-embedding-2
Google AI Studio30728192free-tier rate limited
Nemotron 3 Embed 1B
nvidia/nemotron-3-embed-1b
NVIDIA NIM20484096~40 rpm
PLaMo Embedding 1B (CF)
@cf/pfnet/plamo-embedding-1b
Cloudflare Workers AI2048409610K neurons/day (shared)
BGE Small EN v1.5 (CF)
@cf/baai/bge-small-en-v1.5
Cloudflare Workers AI38451210K neurons/day (shared)
BGE Base EN v1.5 (CF)
@cf/baai/bge-base-en-v1.5
Cloudflare Workers AI76851210K neurons/day (shared)
BGE Large EN v1.5 (CF)
@cf/baai/bge-large-en-v1.5
Cloudflare Workers AI102451210K neurons/day (shared)
Mistral Embed
mistral-embed
Mistral10248192free mode · monthly cap (shared)
Codestral Embed
codestral-embed
Mistral15368192free mode · monthly cap (shared)
Llama Text Embed v2 (Pinecone)
llama-text-embed-v2
Pinecone102420485M tokens/mo per model
Multilingual E5 Large (Pinecone)
multilingual-e5-large
Pinecone10245075M tokens/mo per model
Nemotron 3 Embed 1B (Speka)
nvidia/nemotron-3-embed-1b
Speka20488192$1/month shared across Speka models
OpenAI: Text Embedding 3 Small (ElectronHub)
text-embedding-3-small
ElectronHub15368192$0.25/week shared free credits
OpenAI: Text Embedding 3 Large (ElectronHub)
text-embedding-3-large
ElectronHub30728192$0.25/week shared free credits
Nemotron 3 Embed 8B (Inferbase)
nvidia-nemotron-3-embed-8b
Inferbase409681925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 0.6B (Inferbase)
qwen3-embedding-0-6b
Inferbase102481925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 4B (Inferbase)
qwen3-embedding-4b
Inferbase256081925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 8B (Inferbase)
qwen3-embedding-8b
Inferbase409681925,000 requests/month; 100 requests and $0.50 usage/day shared
LFM2.5 Embedding 350M (LLMTR)
liquid/lfm-2.5-embedding-350m-free
LLMTR1024512Ongoing zero-price route; provider terms apply
BGE-M3 (SEA-LION)
BAAI/bge-m3
SEA-LION10248192free · 10 rpm
Cohere Embed English v3
embed-english-v3.0
Cohere10245121K calls/mo (shared w/ chat)
Qwen3 Embedding 8B (OVH)
Qwen3-Embedding-8B
OVH AI Endpoints409632768free · anonymous 2 req/min per IP
BGE-M3 (OVH)
bge-m3
OVH AI Endpoints10248192free · anonymous 2 req/min per IP
BGE Multilingual Gemma2 (OVH)
bge-multilingual-gemma2
OVH AI Endpoints35848192free · anonymous 2 req/min per IP
Mistral: Codestral Embed (ElectronHub)
codestral-embed
ElectronHub15368192$0.25/week shared free credits
Mistral: Mistral Embed (ElectronHub)
mistral-embed
ElectronHub10248192$0.25/week shared free credits
Google: Gemini Embedding 2 (ElectronHub)
gemini-embedding-2
ElectronHub30728192$0.25/week shared free credits
Google: Gemini Embedding 001 (ElectronHub)
gemini-embedding-001
ElectronHub30722048$0.25/week shared free credits
OpenAI: Text Embedding Ada 002 (ElectronHub)
text-embedding-ada-002
ElectronHub15368192$0.25/week shared free credits
Cohere Embed English Light v3
embed-english-light-v3.0
Cohere3845121K calls/mo (shared w/ chat)
Cohere Embed Multilingual v3
embed-multilingual-v3.0
Cohere10245121K calls/mo (shared w/ chat)
Cohere Embed Multilingual Light v3
embed-multilingual-light-v3.0
Cohere3845121K calls/mo (shared w/ chat)

FreeLLMAPI कॅटलॉगमधील थेट डेटा (आवृत्ती 2026.11.19, तपासले 2026-11-19). मोफत मर्यादा वारंवार बदलतात. कॅटलॉग दररोज तपासले जाते.

काही प्रदाते chat आणि embeddings मध्ये एक कोटा वाटून घेतात. उदाहरणार्थ, Cohere ट्रायल की सर्व endpoints साठी मिळून दर महिन्याला 1,000 API कॉल्स देते. Cloudflare Workers AI दररोज 10,000 neurons देते, जे खात्यावरील सर्व Workers AI मॉडेल वाटून घेतात.

पायरी 1: FreeLLMAPI इन्स्टॉल करा आणि की जोडा

FreeLLMAPI ओपन सोर्स आहे. ते Docker मध्ये तुमच्या संगणकावर चालते. तुमच्या प्रदात्यांच्या की तुमच्या संगणकावरच राहतात.

इन्स्टॉल करा (macOS किंवा Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

http://localhost:3001 वर डॅशबोर्ड उघडा. Keys पेजवर तुमच्या प्रदात्यांच्या की जोडा. Embeddings साठी Google AI Studio ची की आणि Cloudflare ची की चांगली सुरुवात देतात. त्याच पेजवरून तुमची एकत्रित की कॉपी करा.

पायरी 2: embeddings endpoint कॉल करा

एका विनंतीत अनेक vectors मिळवण्यासाठी स्ट्रिंगची यादी पाठवा. तुमच्या दस्तऐवजांसाठी आणि शोध क्वेरींसाठी एकच model मूल्य वापरा.

curl

curl http://localhost:3001/v1/embeddings \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "bge-m3", "input": ["the quick brown fox", "a fast brown fox"]}'

Python: दोन मजकूरांचे embed आणि तुलना

import math
from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")

resp = client.embeddings.create(
    model="bge-m3",  # a family name, "auto", or a provider model id
    input=["How do I reset my password?", "Steps to change a forgotten password"],
)
a, b = resp.data[0].embedding, resp.data[1].embedding
print(len(resp.data), "vectors of", len(a), "dimensions")

dot = sum(x * y for x, y in zip(a, b))
norm = math.sqrt(sum(x * x for x in a)) * math.sqrt(sum(y * y for y in b))
print("cosine similarity:", round(dot / norm, 3))

model फील्ड तीन स्वरूप स्वीकारते: auto, bge-m3 सारखे family नाव, किंवा @cf/baai/bge-m3 सारखी प्रदाता मॉडेल ID. प्रदाता मॉडेल ID त्याच्या family मध्ये सोडवले जाते, त्यामुळे failover तरीही त्या family च्या आतच राहतो.

कोणते मोफत embedding मॉडेल निवडावे

प्रत्येक vector store साठी मॉडेल एकदाच निवडा. नंतर मॉडेल बदलले, तर सर्व दस्तऐवज पुन्हा embed करावे लागतील.

गरजमॉडेल familyका
लहान इंग्रजी किंवा बहुभाषिक मजकूर, अनेक प्रदातेbge-m31024 dimensions, 8,192 इनपुट टोकन. अनेक मोफत प्रदाते ते देतात, त्यामुळे failover ला अधिक पर्याय मिळतात.
Google की सह उच्च दर्जाचे retrievalgemini-embedding-0013072 dimensions. इनपुट मर्यादा 2,048 टोकन आहे, त्यामुळे लांब दस्तऐवज भागांमध्ये विभागा.
एका vector मध्ये लांब दस्तऐवजembed-v4.0 (Cohere)मोठी इनपुट विंडो. ट्रायल की दर महिन्याला फक्त 1,000 कॉल्स देते, आणि ते chat सोबत वाटले जातात.
लहान vectors आणि जलद शोधbge-small-en-v1.5384 dimensions. फक्त इंग्रजी, आणि इनपुट मर्यादा 512 टोकन आहे.
कोड शोधcodestral-embedकोडसाठी प्रशिक्षित. ते Mistral मोफत मोड कोटा वापरते.

मोठे vectors vector database मध्ये जास्त storage आणि memory घेतात. 3072-dimension vector हा 1024-dimension vector पेक्षा तिप्पट मोठा आहे. दहा लाखांपेक्षा कमी chunks असलेल्या बहुतेक RAG प्रकल्पांसाठी 768 ते 1024 dimensions चांगले परिणाम देतात.

मर्यादा आणि अडचणी

  • इनपुट मर्यादा: "Max input" मूल्यापेक्षा जास्त मजकूर कापला जाऊ शकतो किंवा नाकारला जाऊ शकतो. embed करण्यापूर्वी दस्तऐवज 300 ते 800 टोकनच्या chunks मध्ये विभागा.
  • एक store साठी एक family: एका index मध्ये दोन family चे vectors मिसळू नका. मॉडेलमध्ये समानता स्कोअरना अर्थ नसतो.
  • Normalization: Google म्हणते की 3072 पेक्षा कमी dimensions असलेले gemini-embedding-001 vectors तुम्ही normalize केले पाहिजेत. स्कोअर म्हणून dot product वापरण्यापूर्वी सर्व vectors normalize करा.
  • Rate limits: मोफत टियर प्रति मिनिट किंवा प्रति दिवस विनंत्या मोजतात. प्रत्येक स्ट्रिंगसाठी एक विनंती न पाठवता, स्ट्रिंगचे batches एका विनंतीत पाठवा.
  • Anonymous tiers: OVH AI Endpoints की शिवाय प्रत्येक IP पत्ता आणि मॉडेलसाठी प्रति मिनिट 2 विनंत्या देते. त्याचा fallback म्हणून वापर करा, मोठ्या प्रमाणात indexing साठी नाही.
टीप: तुम्ही निवडलेल्या family मध्ये किमान दोन प्रदाते ठेवा. मग एका प्रदात्यावरील 429 त्रुटी तुमचे indexing काम थांबवत नाही.

समस्यानिवारण

समस्याकारणउपाय
मोठ्या प्रमाणात indexing दरम्यान त्रुटी 429त्या family साठी प्रदात्याची मर्यादा गाठली आहेत्याच family साठी दुसरी प्रदाता की जोडा, किंवा प्रति मिनिट कमी विनंत्या पाठवा
बदलानंतर शोध निकाल चुकीचे आहेतदस्तऐवज आणि क्वेरी वेगवेगळ्या family वापरतातदोघांसाठी एकच model मूल्य वापरा. बदल केला असल्यास दस्तऐवज पुन्हा embed करा
Vector ची लांबी अपेक्षेनुसार नाहीauto डिफॉल्ट family वापरतेस्पष्ट family नाव सेट करा, किंवा Models, Embeddings वर डिफॉल्ट तपासा
लांब मजकूरांना कमकुवत जुळणीमजकूर इनपुट मर्यादेपेक्षा लांब आहेमजकूर लहान chunks मध्ये विभागा
त्रुटी 401एकत्रित की चुकीची आहे किंवा नाहीKeys पेजवरून एकत्रित की पुन्हा कॉपी करा
या सर्व मॉडेलचा वापर एकाच कीद्वारे करा. FreeLLMAPI हा एक ओपन-सोर्स, स्वतः होस्ट केलेला राउटर आहे. तो हे सर्व मोफत टियर एका OpenAI-सुसंगत एंडपॉइंटमागे ठेवतो आणि एखादे मॉडेल मर्यादेत असताना दुसऱ्याकडे वळवतो. कॅटलॉग ब्राउझ करा किंवा थेट पहा.

वारंवार विचारले जाणारे प्रश्न

मोफत embeddings API आहे का?

होय. Google AI Studio, Cloudflare Workers AI, Cohere, NVIDIA, Mistral, OVH आणि इतर मर्यादांसह मोफत embedding मॉडेल देतात. FreeLLMAPI त्यापैकी 41 एका OpenAI-सुसंगत endpoint मागे ठेवते.

मोफत embeddings साठी मी OpenAI SDK वापरू शकतो का?

होय. base URL http://localhost:3001/v1 सेट करा आणि तुमची एकत्रित की वापरा. मग bge-m3 सारख्या family नावासह client.embeddings.create कॉल करा.

FreeLLMAPI वेगळ्या embedding मॉडेलकडे failover का करत नाही?

वेगवेगळ्या मॉडेलचे vectors सुसंगत नसतात. शांतपणे मॉडेल बदलले तर समानता शोध तुटेल. राउटर फक्त त्याच मॉडेल family ला सेवा देणाऱ्या प्रदात्यांमध्ये failover करतो.

RAG साठी सर्वोत्तम मोफत embedding मॉडेल कोणते आहे?

बहुतेक प्रकल्पांसाठी bge-m3 चांगला डिफॉल्ट आहे. त्याला 1024 dimensions, 8,192-टोकन इनपुट मर्यादा आणि अनेक मोफत प्रदाते आहेत. 3072 dimensions हवे असतील आणि Google की असेल, तर gemini-embedding-001 वापरा.

माझ्या embeddings ला किती dimensions असावेत?

बहुतेक शोध आणि RAG कामासाठी 768 ते 1024 dimensions वापरा. मोठे vectors जास्त storage आणि memory घेतात. आकार एकदाच निवडा, कारण बदलासाठी सर्व दस्तऐवज पुन्हा embed करावे लागतील.

संबंधित मार्गदर्शक

स्रोत

सर्व मार्गदर्शक · सर्व मोफत मॉडेल पहा