സൗജന്യ embeddings API
Embeddings API ടെക്സ്റ്റിനെ search, RAG, clustering എന്നിവയ്ക്കുള്ള vectors ആക്കി മാറ്റുന്നു. നിരവധി provider-കൾ embeddings സൗജന്യമായി നൽകുന്നു. FreeLLMAPI 41 സൗജന്യ embedding മോഡലുകളെ ഒരു /v1/embeddings endpoint-ന് പിന്നിൽ ചേർക്കുന്നു. ഈ ഗൈഡ് മോഡലുകളും അവയുടെ പരിധികളും പ്രവർത്തിക്കുന്ന കോഡും കാണിക്കുന്നു.
കോഡ്, മോഡൽ പേരുകളും തത്സമയ കാറ്റലോഗ് ലേബലുകളും ഇംഗ്ലീഷിൽ കാണിക്കുന്നു.
FreeLLMAPI-ൽ സൗജന്യ embeddings എങ്ങനെ പ്രവർത്തിക്കുന്നു
/v1/embeddings endpoint OpenAI request ഫോർമാറ്റ് ഉപയോഗിക്കുന്നു. ഏത് OpenAI SDK-ക്കും ഇത് വിളിക്കാം. നിങ്ങൾ ടെക്സ്റ്റ് അയയ്ക്കുന്നു, ഓരോ input സ്ട്രിങ്ങിനും ഒരു vector ലഭിക്കുന്നു.
Chat-നെക്കാൾ വ്യത്യസ്തമായ failover നിയമമാണ് embeddings-ന്. Chat request-കൾ മറ്റൊരു മോഡലിലേക്ക് മാറാം. Embedding request-കൾ ഒരിക്കലും മറ്റൊരു മോഡലിലേക്ക് മാറുന്നില്ല. രണ്ട് മോഡലുകളിൽ നിന്നുള്ള vectors പൊരുത്തപ്പെടില്ല, അതിനാൽ അറിയാതെയുള്ള മോഡൽ മാറ്റം നിങ്ങളുടെ vector store-നെ കേടാക്കും.
- Family: FreeLLMAPI providers-നെ family അനുസരിച്ച് ഗ്രൂപ്പ് ചെയ്യുന്നു. ഒരു family ഒരു vector വലുപ്പമുള്ള ഒരു മോഡൽ ഐഡന്റിറ്റിയാണ്, ഉദാഹരണത്തിന് 1024 dimensions-ലെ
bge-m3. - Failover: ഒരു family-യിലെ ഒരു provider പരിധിയിൽ എത്തുമ്പോൾ, അതേ family നൽകുന്ന അടുത്ത provider-നെ router പരീക്ഷിക്കുന്നു.
- Default:
model: "auto"സ്ഥിരസ്ഥിതി family ഉപയോഗിക്കുന്നു. ഡാഷ്ബോർഡിലെ Models, Embeddings പേജിൽ നിങ്ങൾ സ്ഥിരസ്ഥിതി family സജ്ജമാക്കുന്നു.
ഇന്നത്തെ സൗജന്യ embedding മോഡലുകൾ
FreeLLMAPI catalog-ലെ എല്ലാ സൗജന്യ embedding മോഡലുകളും പട്ടിക കാണിക്കുന്നു. ഡാറ്റ തത്സമയ catalog-ൽ നിന്നുള്ളതാണ്. "Max input" എന്നത് ഒരു input സ്ട്രിങ്ങിലെ പരമാവധി ടോക്കണുകളുടെ എണ്ണമാണ്. "Free limit" എന്നത് provider പ്രസിദ്ധീകരിക്കുന്ന സൗജന്യ ക്വോട്ടയാണ്.
| മോഡൽ | ദാതാവ് | ഡൈമെൻഷനുകൾ | പരമാവധി ഇൻപുട്ട് | സൗജന്യ പരിധി |
|---|---|---|---|---|
Gemini Embeddinggemini-embedding-001 | Google AI Studio | 3072 | 2048 | 100 rpm · 1K req/day |
Nemotron Embed VL 1Bnvidia/llama-nemotron-embed-vl-1b-v2 | NVIDIA NIM | 2048 | 8192 | ~40 rpm |
Nemotron 3 Embed 1B (OR free)nvidia/nemotron-3-embed-1b:free | OpenRouter | 2048 | 32768 | 20 rpm · shared free daily cap |
SEA-LION E5 Embedding 600Maisingapore/SEA-LION-E5-Embedding-600M | SEA-LION | 1024 | 8192 | free · 10 rpm |
SEA-LION ModernBERT Embedding 300Maisingapore/SEA-LION-ModernBERT-Embedding-300M | SEA-LION | 1024 | 8192 | free · 10 rpm |
SEA-LION ModernBERT Embedding 600Maisingapore/SEA-LION-ModernBERT-Embedding-600M | SEA-LION | 1024 | 8192 | free · 10 rpm |
BGE-M3@cf/baai/bge-m3 | Cloudflare Workers AI | 1024 | 8192 | 10K neurons/day (shared) |
EmbeddingGemma 300M@cf/google/embeddinggemma-300m | Cloudflare Workers AI | 768 | 2048 | 10K neurons/day (shared) |
Qwen3 Embedding 0.6B@cf/qwen/qwen3-embedding-0.6b | Cloudflare Workers AI | 1024 | 8192 | 10K neurons/day (shared) |
Cohere Embed v4embed-v4.0 | Cohere | 1536 | 128000 | 1K calls/mo (shared w/ chat) |
Gemini Embedding 2gemini-embedding-2 | Google AI Studio | 3072 | 8192 | free-tier rate limited |
Nemotron 3 Embed 1Bnvidia/nemotron-3-embed-1b | NVIDIA NIM | 2048 | 4096 | ~40 rpm |
PLaMo Embedding 1B (CF)@cf/pfnet/plamo-embedding-1b | Cloudflare Workers AI | 2048 | 4096 | 10K neurons/day (shared) |
BGE Small EN v1.5 (CF)@cf/baai/bge-small-en-v1.5 | Cloudflare Workers AI | 384 | 512 | 10K neurons/day (shared) |
BGE Base EN v1.5 (CF)@cf/baai/bge-base-en-v1.5 | Cloudflare Workers AI | 768 | 512 | 10K neurons/day (shared) |
BGE Large EN v1.5 (CF)@cf/baai/bge-large-en-v1.5 | Cloudflare Workers AI | 1024 | 512 | 10K neurons/day (shared) |
Mistral Embedmistral-embed | Mistral | 1024 | 8192 | free mode · monthly cap (shared) |
Codestral Embedcodestral-embed | Mistral | 1536 | 8192 | free mode · monthly cap (shared) |
Llama Text Embed v2 (Pinecone)llama-text-embed-v2 | Pinecone | 1024 | 2048 | 5M tokens/mo per model |
Multilingual E5 Large (Pinecone)multilingual-e5-large | Pinecone | 1024 | 507 | 5M tokens/mo per model |
Nemotron 3 Embed 1B (Speka)nvidia/nemotron-3-embed-1b | Speka | 2048 | 8192 | $1/month shared across Speka models |
OpenAI: Text Embedding 3 Small (ElectronHub)text-embedding-3-small | ElectronHub | 1536 | 8192 | $0.25/week shared free credits |
OpenAI: Text Embedding 3 Large (ElectronHub)text-embedding-3-large | ElectronHub | 3072 | 8192 | $0.25/week shared free credits |
Nemotron 3 Embed 8B (Inferbase)nvidia-nemotron-3-embed-8b | Inferbase | 4096 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
Qwen 3 Embedding 0.6B (Inferbase)qwen3-embedding-0-6b | Inferbase | 1024 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
Qwen 3 Embedding 4B (Inferbase)qwen3-embedding-4b | Inferbase | 2560 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
Qwen 3 Embedding 8B (Inferbase)qwen3-embedding-8b | Inferbase | 4096 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
LFM2.5 Embedding 350M (LLMTR)liquid/lfm-2.5-embedding-350m-free | LLMTR | 1024 | 512 | Ongoing zero-price route; provider terms apply |
BGE-M3 (SEA-LION)BAAI/bge-m3 | SEA-LION | 1024 | 8192 | free · 10 rpm |
Cohere Embed English v3embed-english-v3.0 | Cohere | 1024 | 512 | 1K calls/mo (shared w/ chat) |
Qwen3 Embedding 8B (OVH)Qwen3-Embedding-8B | OVH AI Endpoints | 4096 | 32768 | free · anonymous 2 req/min per IP |
BGE-M3 (OVH)bge-m3 | OVH AI Endpoints | 1024 | 8192 | free · anonymous 2 req/min per IP |
BGE Multilingual Gemma2 (OVH)bge-multilingual-gemma2 | OVH AI Endpoints | 3584 | 8192 | free · anonymous 2 req/min per IP |
Mistral: Codestral Embed (ElectronHub)codestral-embed | ElectronHub | 1536 | 8192 | $0.25/week shared free credits |
Mistral: Mistral Embed (ElectronHub)mistral-embed | ElectronHub | 1024 | 8192 | $0.25/week shared free credits |
Google: Gemini Embedding 2 (ElectronHub)gemini-embedding-2 | ElectronHub | 3072 | 8192 | $0.25/week shared free credits |
Google: Gemini Embedding 001 (ElectronHub)gemini-embedding-001 | ElectronHub | 3072 | 2048 | $0.25/week shared free credits |
OpenAI: Text Embedding Ada 002 (ElectronHub)text-embedding-ada-002 | ElectronHub | 1536 | 8192 | $0.25/week shared free credits |
Cohere Embed English Light v3embed-english-light-v3.0 | Cohere | 384 | 512 | 1K calls/mo (shared w/ chat) |
Cohere Embed Multilingual v3embed-multilingual-v3.0 | Cohere | 1024 | 512 | 1K calls/mo (shared w/ chat) |
Cohere Embed Multilingual Light v3embed-multilingual-light-v3.0 | Cohere | 384 | 512 | 1K calls/mo (shared w/ chat) |
FreeLLMAPI കാറ്റലോഗിൽ നിന്നുള്ള തത്സമയ ഡാറ്റ (പതിപ്പ് 2026.11.19, 2026-11-19 ൽ പരിശോധിച്ചത്). സൗജന്യ പരിധികൾ പലപ്പോഴും മാറുന്നു. കാറ്റലോഗ് എല്ലാ ദിവസവും പരിശോധിക്കുന്നു.
ചില provider-കൾ chat, embeddings എന്നിവയ്ക്ക് ഒരേ ക്വോട്ട പങ്കിടുന്നു. ഉദാഹരണത്തിന്, Cohere trial key എല്ലാ endpoint-കൾക്കും ചേർത്ത് മാസം 1,000 API കോളുകൾ അനുവദിക്കുന്നു. Cloudflare Workers AI ദിവസം 10,000 neurons നൽകുന്നു, അക്കൗണ്ടിലെ എല്ലാ Workers AI മോഡലുകളും ഇത് പങ്കിടുന്നു.
ഘട്ടം 1: FreeLLMAPI ഇൻസ്റ്റാൾ ചെയ്ത് keys ചേർക്കുക
FreeLLMAPI ഓപ്പൺ സോഴ്സ് ആണ്. ഇത് Docker-ൽ നിങ്ങളുടെ കമ്പ്യൂട്ടറിൽ പ്രവർത്തിക്കുന്നു. നിങ്ങളുടെ provider keys നിങ്ങളുടെ കമ്പ്യൂട്ടറിൽ തന്നെ നിൽക്കുന്നു.
ഇൻസ്റ്റാൾ ചെയ്യുക (macOS അല്ലെങ്കിൽ Linux)
curl -fsSL https://freellmapi.co/install.sh | bashhttp://localhost:3001-ൽ ഡാഷ്ബോർഡ് തുറക്കുക. Keys പേജിൽ നിങ്ങളുടെ provider keys ചേർക്കുക. Embeddings-ന്, ഒരു Google AI Studio key-യും ഒരു Cloudflare key-യും നല്ല തുടക്കം നൽകുന്നു. അതേ പേജിൽ നിന്ന് നിങ്ങളുടെ unified key പകർത്തുക.
ഘട്ടം 2: embeddings endpoint വിളിക്കുക
ഒരൊറ്റ request-ൽ നിരവധി vectors ലഭിക്കാൻ സ്ട്രിങ്ങുകളുടെ ഒരു ലിസ്റ്റ് അയയ്ക്കുക. നിങ്ങളുടെ documents-നും search queries-നും ഒരേ model മൂല്യം ഉപയോഗിക്കുക.
curl
curl http://localhost:3001/v1/embeddings \
-H "Authorization: Bearer <unified-key>" \
-H "Content-Type: application/json" \
-d '{"model": "bge-m3", "input": ["the quick brown fox", "a fast brown fox"]}'Python: രണ്ട് ടെക്സ്റ്റുകൾ embed ചെയ്ത് താരതമ്യം ചെയ്യുക
import math
from openai import OpenAI
client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")
resp = client.embeddings.create(
model="bge-m3", # a family name, "auto", or a provider model id
input=["How do I reset my password?", "Steps to change a forgotten password"],
)
a, b = resp.data[0].embedding, resp.data[1].embedding
print(len(resp.data), "vectors of", len(a), "dimensions")
dot = sum(x * y for x, y in zip(a, b))
norm = math.sqrt(sum(x * x for x in a)) * math.sqrt(sum(y * y for y in b))
print("cosine similarity:", round(dot / norm, 3))model ഫീൽഡ് മൂന്ന് രൂപങ്ങൾ സ്വീകരിക്കുന്നു: auto, bge-m3 പോലുള്ള ഒരു family പേര്, അല്ലെങ്കിൽ @cf/baai/bge-m3 പോലുള്ള ഒരു provider model id. Provider model id അതിന്റെ family-യിലേക്ക് പരിഹരിക്കപ്പെടുന്നു, അതിനാൽ failover ആ family-ക്കുള്ളിൽ തന്നെ തുടരുന്നു.
ഏത് സൗജന്യ embedding മോഡൽ തിരഞ്ഞെടുക്കണം
ഓരോ vector store-നും ഒരു തവണ മോഡൽ തിരഞ്ഞെടുക്കുക. പിന്നീട് മോഡൽ മാറ്റിയാൽ, എല്ലാ documents-ഉം വീണ്ടും embed ചെയ്യണം.
| ആവശ്യം | മോഡൽ family | കാരണം |
|---|---|---|
| ചെറിയ ഇംഗ്ലീഷ് അല്ലെങ്കിൽ ബഹുഭാഷാ ടെക്സ്റ്റ്, നിരവധി provider-കൾ | bge-m3 | 1024 dimensions, 8,192 input ടോക്കണുകൾ. നിരവധി സൗജന്യ provider-കൾ ഇത് നൽകുന്നതിനാൽ failover-ന് കൂടുതൽ അവസരങ്ങളുണ്ട്. |
| Google key ഉപയോഗിച്ച് ഉയർന്ന നിലവാരമുള്ള retrieval | gemini-embedding-001 | 3072 dimensions. Input പരിധി 2,048 ടോക്കണുകളാണ്, അതിനാൽ നീണ്ട documents chunks ആയി വിഭജിക്കുക. |
| ഒരു vector-ൽ നീണ്ട documents | embed-v4.0 (Cohere) | വലിയ input window. Trial key മാസം 1,000 കോളുകൾ മാത്രം അനുവദിക്കുന്നു, അത് chat-മായി പങ്കിടുന്നു. |
| ചെറിയ vectors, വേഗത്തിലുള്ള search | bge-small-en-v1.5 | 384 dimensions. ഇംഗ്ലീഷ് മാത്രം, input പരിധി 512 ടോക്കണുകളാണ്. |
| Code search | codestral-embed | Code-ന് പരിശീലിപ്പിച്ചത്. ഇത് Mistral സൗജന്യ മോഡിന്റെ ക്വോട്ട ഉപയോഗിക്കുന്നു. |
വലിയ vectors-ന് vector database-ൽ കൂടുതൽ storage, memory ചെലവാകുന്നു. 3072-dimension vector, 1024-dimension vector-നേക്കാൾ മൂന്ന് മടങ്ങ് വലുതാണ്. ദശലക്ഷത്തിൽ താഴെ chunks ഉള്ള മിക്ക RAG പ്രോജക്റ്റുകൾക്കും 768 മുതൽ 1024 dimensions വരെ നല്ല ഫലം നൽകുന്നു.
പരിധികളും അപകടങ്ങളും
- Input പരിധികൾ: "Max input" മൂല്യത്തിന് മുകളിലുള്ള ടെക്സ്റ്റ് മുറിക്കപ്പെടുകയോ നിരസിക്കപ്പെടുകയോ ചെയ്യാം. Embed ചെയ്യുന്നതിന് മുൻപ് documents 300 മുതൽ 800 വരെ ടോക്കണുകളുള്ള chunks ആയി വിഭജിക്കുക.
- ഒരു store-ന് ഒരു family: ഒരു index-ൽ രണ്ട് family-കളിൽ നിന്നുള്ള vectors കലർത്തരുത്. മോഡലുകൾക്കിടയിൽ similarity scores-ന് അർത്ഥമില്ല.
- Normalization: 3072-ൽ കുറഞ്ഞ dimensions ഉള്ള
gemini-embedding-001vectors നിങ്ങൾ normalize ചെയ്യണമെന്ന് Google പറയുന്നു. Score ആയി dot product ഉപയോഗിക്കുന്നതിന് മുൻപ് എല്ലാ vectors-ഉം normalize ചെയ്യുക. - Rate limits: സൗജന്യ tier-കൾ മിനിറ്റിലോ ദിവസത്തിലോ request-കൾ എണ്ണുന്നു. ഓരോ സ്ട്രിങ്ങിനും ഒരു request എന്നതിന് പകരം, സ്ട്രിങ്ങുകളുടെ batch-കൾ ഒരൊറ്റ request-ൽ അയയ്ക്കുക.
- Anonymous tiers: OVH AI Endpoints key ഇല്ലാതെ ഓരോ IP വിലാസത്തിനും മോഡലിനും മിനിറ്റിൽ 2 request-കൾ അനുവദിക്കുന്നു. ഇത് fallback ആയി ഉപയോഗിക്കുക, bulk indexing-ന് വേണ്ടിയല്ല.
പ്രശ്നപരിഹാരം
| പ്രശ്നം | കാരണം | പരിഹാരം |
|---|---|---|
| Bulk indexing സമയത്ത് error 429 | ആ family-യ്ക്കുള്ള provider പരിധിയിൽ എത്തി | അതേ family-യ്ക്ക് രണ്ടാമത്തെ provider key ചേർക്കുക, അല്ലെങ്കിൽ ഓരോ മിനിറ്റിലും കുറച്ച് request-കൾ അയയ്ക്കുക |
| മാറ്റത്തിന് ശേഷം search ഫലങ്ങൾ തെറ്റാണ് | Documents-ഉം queries-ഉം വ്യത്യസ്ത family-കൾ ഉപയോഗിക്കുന്നു | രണ്ടിനും ഒരു model മൂല്യം ഉപയോഗിക്കുക. മാറ്റിയിട്ടുണ്ടെങ്കിൽ documents വീണ്ടും embed ചെയ്യുക |
| Vector നീളം പ്രതീക്ഷിച്ചതല്ല | auto സ്ഥിരസ്ഥിതി family ഉപയോഗിക്കുന്നു | വ്യക്തമായ family പേര് സജ്ജമാക്കുക, അല്ലെങ്കിൽ Models, Embeddings-ൽ സ്ഥിരസ്ഥിതി പരിശോധിക്കുക |
| നീണ്ട ടെക്സ്റ്റുകൾക്ക് മോശം matches | ടെക്സ്റ്റ് input പരിധിയേക്കാൾ നീണ്ടതാണ് | ടെക്സ്റ്റ് ചെറിയ chunks ആയി വിഭജിക്കുക |
| Error 401 | Unified key തെറ്റാണ് അല്ലെങ്കിൽ ഇല്ല | Keys പേജിൽ നിന്ന് unified key വീണ്ടും പകർത്തുക |
പതിവ് ചോദ്യങ്ങൾ
സൗജന്യ embeddings API ഉണ്ടോ?
ഉണ്ട്. Google AI Studio, Cloudflare Workers AI, Cohere, NVIDIA, Mistral, OVH എന്നിവയും മറ്റുള്ളവയും പരിധികളോടെ സൗജന്യ embedding മോഡലുകൾ നൽകുന്നു. FreeLLMAPI അവയിൽ 41 എണ്ണം ഒരു OpenAI-compatible endpoint-ന് പിന്നിൽ ചേർക്കുന്നു.
സൗജന്യ embeddings-ന് OpenAI SDK ഉപയോഗിക്കാമോ?
ഉപയോഗിക്കാം. Base URL http://localhost:3001/v1 ആക്കി നിങ്ങളുടെ unified key ഉപയോഗിക്കുക. തുടർന്ന് bge-m3 പോലുള്ള family പേരോടെ client.embeddings.create വിളിക്കുക.
FreeLLMAPI എന്തുകൊണ്ട് മറ്റൊരു embedding മോഡലിലേക്ക് failover ചെയ്യുന്നില്ല?
വ്യത്യസ്ത മോഡലുകളിൽ നിന്നുള്ള vectors പൊരുത്തപ്പെടില്ല. അറിയാതെയുള്ള മോഡൽ മാറ്റം similarity search തകർക്കും. ഒരേ മോഡൽ family നൽകുന്ന provider-കൾക്കിടയിൽ മാത്രമേ router failover ചെയ്യുന്നുള്ളൂ.
RAG-ന് ഏറ്റവും നല്ല സൗജന്യ embedding മോഡൽ ഏതാണ്?
മിക്ക പ്രോജക്റ്റുകൾക്കും bge-m3 നല്ല സ്ഥിരസ്ഥിതിയാണ്. ഇതിന് 1024 dimensions, 8,192-ടോക്കൺ input പരിധി, നിരവധി സൗജന്യ provider-കൾ എന്നിവയുണ്ട്. 3072 dimensions വേണമെങ്കിൽ, Google key ഉണ്ടെങ്കിൽ gemini-embedding-001 ഉപയോഗിക്കുക.
എന്റെ embeddings-ന് എത്ര dimensions വേണം?
മിക്ക search, RAG ജോലികൾക്കും 768 മുതൽ 1024 dimensions ഉപയോഗിക്കുക. വലിയ vectors കൂടുതൽ storage, memory ഉപയോഗിക്കുന്നു. വലുപ്പം ഒരു തവണ തിരഞ്ഞെടുക്കുക, കാരണം മാറ്റം വരുത്തിയാൽ എല്ലാ documents-ഉം വീണ്ടും embed ചെയ്യണം.
അനുബന്ധ ഗൈഡുകൾ
- RAG-നുള്ള സൗജന്യ LLM API
- LangChain-നായി സൗജന്യ LLM API
- Python-ൽ സൗജന്യ LLM API
- free cohere api
- സൗജന്യ LLM API റേറ്റ് പരിധികൾ
ഉറവിടങ്ങൾ
- FreeLLMAPI docs: Embeddings (20 November 2026 ൽ പരിശോധിച്ചത്)
- Google AI Studio docs: Embeddings (20 November 2026 ൽ പരിശോധിച്ചത്)
- Cloudflare Workers AI pricing (20 November 2026 ൽ പരിശോധിച്ചത്)
- Cohere docs: API keys and rate limits (20 November 2026 ൽ പരിശോധിച്ചത്)
- OVHcloud AI Endpoints capabilities (20 November 2026 ൽ പരിശോധിച്ചത്)