ഹോം / ഗൈഡുകൾ / സൗജന്യ embeddings API

സൗജന്യ embeddings API

Embeddings API ടെക്സ്റ്റിനെ search, RAG, clustering എന്നിവയ്ക്കുള്ള vectors ആക്കി മാറ്റുന്നു. നിരവധി provider-കൾ embeddings സൗജന്യമായി നൽകുന്നു. FreeLLMAPI 41 സൗജന്യ embedding മോഡലുകളെ ഒരു /v1/embeddings endpoint-ന് പിന്നിൽ ചേർക്കുന്നു. ഈ ഗൈഡ് മോഡലുകളും അവയുടെ പരിധികളും പ്രവർത്തിക്കുന്ന കോഡും കാണിക്കുന്നു.

കോഡ്, മോഡൽ പേരുകളും തത്സമയ കാറ്റലോഗ് ലേബലുകളും ഇംഗ്ലീഷിൽ കാണിക്കുന്നു.

FreeLLMAPI-ൽ സൗജന്യ embeddings എങ്ങനെ പ്രവർത്തിക്കുന്നു

/v1/embeddings endpoint OpenAI request ഫോർമാറ്റ് ഉപയോഗിക്കുന്നു. ഏത് OpenAI SDK-ക്കും ഇത് വിളിക്കാം. നിങ്ങൾ ടെക്സ്റ്റ് അയയ്ക്കുന്നു, ഓരോ input സ്ട്രിങ്ങിനും ഒരു vector ലഭിക്കുന്നു.

Chat-നെക്കാൾ വ്യത്യസ്തമായ failover നിയമമാണ് embeddings-ന്. Chat request-കൾ മറ്റൊരു മോഡലിലേക്ക് മാറാം. Embedding request-കൾ ഒരിക്കലും മറ്റൊരു മോഡലിലേക്ക് മാറുന്നില്ല. രണ്ട് മോഡലുകളിൽ നിന്നുള്ള vectors പൊരുത്തപ്പെടില്ല, അതിനാൽ അറിയാതെയുള്ള മോഡൽ മാറ്റം നിങ്ങളുടെ vector store-നെ കേടാക്കും.

  • Family: FreeLLMAPI providers-നെ family അനുസരിച്ച് ഗ്രൂപ്പ് ചെയ്യുന്നു. ഒരു family ഒരു vector വലുപ്പമുള്ള ഒരു മോഡൽ ഐഡന്റിറ്റിയാണ്, ഉദാഹരണത്തിന് 1024 dimensions-ലെ bge-m3.
  • Failover: ഒരു family-യിലെ ഒരു provider പരിധിയിൽ എത്തുമ്പോൾ, അതേ family നൽകുന്ന അടുത്ത provider-നെ router പരീക്ഷിക്കുന്നു.
  • Default: model: "auto" സ്ഥിരസ്ഥിതി family ഉപയോഗിക്കുന്നു. ഡാഷ്ബോർഡിലെ Models, Embeddings പേജിൽ നിങ്ങൾ സ്ഥിരസ്ഥിതി family സജ്ജമാക്കുന്നു.

ഇന്നത്തെ സൗജന്യ embedding മോഡലുകൾ

FreeLLMAPI catalog-ലെ എല്ലാ സൗജന്യ embedding മോഡലുകളും പട്ടിക കാണിക്കുന്നു. ഡാറ്റ തത്സമയ catalog-ൽ നിന്നുള്ളതാണ്. "Max input" എന്നത് ഒരു input സ്ട്രിങ്ങിലെ പരമാവധി ടോക്കണുകളുടെ എണ്ണമാണ്. "Free limit" എന്നത് provider പ്രസിദ്ധീകരിക്കുന്ന സൗജന്യ ക്വോട്ടയാണ്.

മോഡൽദാതാവ്ഡൈമെൻഷനുകൾപരമാവധി ഇൻപുട്ട്സൗജന്യ പരിധി
Gemini Embedding
gemini-embedding-001
Google AI Studio30722048100 rpm · 1K req/day
Nemotron Embed VL 1B
nvidia/llama-nemotron-embed-vl-1b-v2
NVIDIA NIM20488192~40 rpm
Nemotron 3 Embed 1B (OR free)
nvidia/nemotron-3-embed-1b:free
OpenRouter20483276820 rpm · shared free daily cap
SEA-LION E5 Embedding 600M
aisingapore/SEA-LION-E5-Embedding-600M
SEA-LION10248192free · 10 rpm
SEA-LION ModernBERT Embedding 300M
aisingapore/SEA-LION-ModernBERT-Embedding-300M
SEA-LION10248192free · 10 rpm
SEA-LION ModernBERT Embedding 600M
aisingapore/SEA-LION-ModernBERT-Embedding-600M
SEA-LION10248192free · 10 rpm
BGE-M3
@cf/baai/bge-m3
Cloudflare Workers AI1024819210K neurons/day (shared)
EmbeddingGemma 300M
@cf/google/embeddinggemma-300m
Cloudflare Workers AI768204810K neurons/day (shared)
Qwen3 Embedding 0.6B
@cf/qwen/qwen3-embedding-0.6b
Cloudflare Workers AI1024819210K neurons/day (shared)
Cohere Embed v4
embed-v4.0
Cohere15361280001K calls/mo (shared w/ chat)
Gemini Embedding 2
gemini-embedding-2
Google AI Studio30728192free-tier rate limited
Nemotron 3 Embed 1B
nvidia/nemotron-3-embed-1b
NVIDIA NIM20484096~40 rpm
PLaMo Embedding 1B (CF)
@cf/pfnet/plamo-embedding-1b
Cloudflare Workers AI2048409610K neurons/day (shared)
BGE Small EN v1.5 (CF)
@cf/baai/bge-small-en-v1.5
Cloudflare Workers AI38451210K neurons/day (shared)
BGE Base EN v1.5 (CF)
@cf/baai/bge-base-en-v1.5
Cloudflare Workers AI76851210K neurons/day (shared)
BGE Large EN v1.5 (CF)
@cf/baai/bge-large-en-v1.5
Cloudflare Workers AI102451210K neurons/day (shared)
Mistral Embed
mistral-embed
Mistral10248192free mode · monthly cap (shared)
Codestral Embed
codestral-embed
Mistral15368192free mode · monthly cap (shared)
Llama Text Embed v2 (Pinecone)
llama-text-embed-v2
Pinecone102420485M tokens/mo per model
Multilingual E5 Large (Pinecone)
multilingual-e5-large
Pinecone10245075M tokens/mo per model
Nemotron 3 Embed 1B (Speka)
nvidia/nemotron-3-embed-1b
Speka20488192$1/month shared across Speka models
OpenAI: Text Embedding 3 Small (ElectronHub)
text-embedding-3-small
ElectronHub15368192$0.25/week shared free credits
OpenAI: Text Embedding 3 Large (ElectronHub)
text-embedding-3-large
ElectronHub30728192$0.25/week shared free credits
Nemotron 3 Embed 8B (Inferbase)
nvidia-nemotron-3-embed-8b
Inferbase409681925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 0.6B (Inferbase)
qwen3-embedding-0-6b
Inferbase102481925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 4B (Inferbase)
qwen3-embedding-4b
Inferbase256081925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 8B (Inferbase)
qwen3-embedding-8b
Inferbase409681925,000 requests/month; 100 requests and $0.50 usage/day shared
LFM2.5 Embedding 350M (LLMTR)
liquid/lfm-2.5-embedding-350m-free
LLMTR1024512Ongoing zero-price route; provider terms apply
BGE-M3 (SEA-LION)
BAAI/bge-m3
SEA-LION10248192free · 10 rpm
Cohere Embed English v3
embed-english-v3.0
Cohere10245121K calls/mo (shared w/ chat)
Qwen3 Embedding 8B (OVH)
Qwen3-Embedding-8B
OVH AI Endpoints409632768free · anonymous 2 req/min per IP
BGE-M3 (OVH)
bge-m3
OVH AI Endpoints10248192free · anonymous 2 req/min per IP
BGE Multilingual Gemma2 (OVH)
bge-multilingual-gemma2
OVH AI Endpoints35848192free · anonymous 2 req/min per IP
Mistral: Codestral Embed (ElectronHub)
codestral-embed
ElectronHub15368192$0.25/week shared free credits
Mistral: Mistral Embed (ElectronHub)
mistral-embed
ElectronHub10248192$0.25/week shared free credits
Google: Gemini Embedding 2 (ElectronHub)
gemini-embedding-2
ElectronHub30728192$0.25/week shared free credits
Google: Gemini Embedding 001 (ElectronHub)
gemini-embedding-001
ElectronHub30722048$0.25/week shared free credits
OpenAI: Text Embedding Ada 002 (ElectronHub)
text-embedding-ada-002
ElectronHub15368192$0.25/week shared free credits
Cohere Embed English Light v3
embed-english-light-v3.0
Cohere3845121K calls/mo (shared w/ chat)
Cohere Embed Multilingual v3
embed-multilingual-v3.0
Cohere10245121K calls/mo (shared w/ chat)
Cohere Embed Multilingual Light v3
embed-multilingual-light-v3.0
Cohere3845121K calls/mo (shared w/ chat)

FreeLLMAPI കാറ്റലോഗിൽ നിന്നുള്ള തത്സമയ ഡാറ്റ (പതിപ്പ് 2026.11.19, 2026-11-19 ൽ പരിശോധിച്ചത്). സൗജന്യ പരിധികൾ പലപ്പോഴും മാറുന്നു. കാറ്റലോഗ് എല്ലാ ദിവസവും പരിശോധിക്കുന്നു.

ചില provider-കൾ chat, embeddings എന്നിവയ്ക്ക് ഒരേ ക്വോട്ട പങ്കിടുന്നു. ഉദാഹരണത്തിന്, Cohere trial key എല്ലാ endpoint-കൾക്കും ചേർത്ത് മാസം 1,000 API കോളുകൾ അനുവദിക്കുന്നു. Cloudflare Workers AI ദിവസം 10,000 neurons നൽകുന്നു, അക്കൗണ്ടിലെ എല്ലാ Workers AI മോഡലുകളും ഇത് പങ്കിടുന്നു.

ഘട്ടം 1: FreeLLMAPI ഇൻസ്റ്റാൾ ചെയ്ത് keys ചേർക്കുക

FreeLLMAPI ഓപ്പൺ സോഴ്സ് ആണ്. ഇത് Docker-ൽ നിങ്ങളുടെ കമ്പ്യൂട്ടറിൽ പ്രവർത്തിക്കുന്നു. നിങ്ങളുടെ provider keys നിങ്ങളുടെ കമ്പ്യൂട്ടറിൽ തന്നെ നിൽക്കുന്നു.

ഇൻസ്റ്റാൾ ചെയ്യുക (macOS അല്ലെങ്കിൽ Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

http://localhost:3001-ൽ ഡാഷ്ബോർഡ് തുറക്കുക. Keys പേജിൽ നിങ്ങളുടെ provider keys ചേർക്കുക. Embeddings-ന്, ഒരു Google AI Studio key-യും ഒരു Cloudflare key-യും നല്ല തുടക്കം നൽകുന്നു. അതേ പേജിൽ നിന്ന് നിങ്ങളുടെ unified key പകർത്തുക.

ഘട്ടം 2: embeddings endpoint വിളിക്കുക

ഒരൊറ്റ request-ൽ നിരവധി vectors ലഭിക്കാൻ സ്ട്രിങ്ങുകളുടെ ഒരു ലിസ്റ്റ് അയയ്ക്കുക. നിങ്ങളുടെ documents-നും search queries-നും ഒരേ model മൂല്യം ഉപയോഗിക്കുക.

curl

curl http://localhost:3001/v1/embeddings \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "bge-m3", "input": ["the quick brown fox", "a fast brown fox"]}'

Python: രണ്ട് ടെക്സ്റ്റുകൾ embed ചെയ്ത് താരതമ്യം ചെയ്യുക

import math
from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")

resp = client.embeddings.create(
    model="bge-m3",  # a family name, "auto", or a provider model id
    input=["How do I reset my password?", "Steps to change a forgotten password"],
)
a, b = resp.data[0].embedding, resp.data[1].embedding
print(len(resp.data), "vectors of", len(a), "dimensions")

dot = sum(x * y for x, y in zip(a, b))
norm = math.sqrt(sum(x * x for x in a)) * math.sqrt(sum(y * y for y in b))
print("cosine similarity:", round(dot / norm, 3))

model ഫീൽഡ് മൂന്ന് രൂപങ്ങൾ സ്വീകരിക്കുന്നു: auto, bge-m3 പോലുള്ള ഒരു family പേര്, അല്ലെങ്കിൽ @cf/baai/bge-m3 പോലുള്ള ഒരു provider model id. Provider model id അതിന്റെ family-യിലേക്ക് പരിഹരിക്കപ്പെടുന്നു, അതിനാൽ failover ആ family-ക്കുള്ളിൽ തന്നെ തുടരുന്നു.

ഏത് സൗജന്യ embedding മോഡൽ തിരഞ്ഞെടുക്കണം

ഓരോ vector store-നും ഒരു തവണ മോഡൽ തിരഞ്ഞെടുക്കുക. പിന്നീട് മോഡൽ മാറ്റിയാൽ, എല്ലാ documents-ഉം വീണ്ടും embed ചെയ്യണം.

ആവശ്യംമോഡൽ familyകാരണം
ചെറിയ ഇംഗ്ലീഷ് അല്ലെങ്കിൽ ബഹുഭാഷാ ടെക്സ്റ്റ്, നിരവധി provider-കൾbge-m31024 dimensions, 8,192 input ടോക്കണുകൾ. നിരവധി സൗജന്യ provider-കൾ ഇത് നൽകുന്നതിനാൽ failover-ന് കൂടുതൽ അവസരങ്ങളുണ്ട്.
Google key ഉപയോഗിച്ച് ഉയർന്ന നിലവാരമുള്ള retrievalgemini-embedding-0013072 dimensions. Input പരിധി 2,048 ടോക്കണുകളാണ്, അതിനാൽ നീണ്ട documents chunks ആയി വിഭജിക്കുക.
ഒരു vector-ൽ നീണ്ട documentsembed-v4.0 (Cohere)വലിയ input window. Trial key മാസം 1,000 കോളുകൾ മാത്രം അനുവദിക്കുന്നു, അത് chat-മായി പങ്കിടുന്നു.
ചെറിയ vectors, വേഗത്തിലുള്ള searchbge-small-en-v1.5384 dimensions. ഇംഗ്ലീഷ് മാത്രം, input പരിധി 512 ടോക്കണുകളാണ്.
Code searchcodestral-embedCode-ന് പരിശീലിപ്പിച്ചത്. ഇത് Mistral സൗജന്യ മോഡിന്റെ ക്വോട്ട ഉപയോഗിക്കുന്നു.

വലിയ vectors-ന് vector database-ൽ കൂടുതൽ storage, memory ചെലവാകുന്നു. 3072-dimension vector, 1024-dimension vector-നേക്കാൾ മൂന്ന് മടങ്ങ് വലുതാണ്. ദശലക്ഷത്തിൽ താഴെ chunks ഉള്ള മിക്ക RAG പ്രോജക്റ്റുകൾക്കും 768 മുതൽ 1024 dimensions വരെ നല്ല ഫലം നൽകുന്നു.

പരിധികളും അപകടങ്ങളും

  • Input പരിധികൾ: "Max input" മൂല്യത്തിന് മുകളിലുള്ള ടെക്സ്റ്റ് മുറിക്കപ്പെടുകയോ നിരസിക്കപ്പെടുകയോ ചെയ്യാം. Embed ചെയ്യുന്നതിന് മുൻപ് documents 300 മുതൽ 800 വരെ ടോക്കണുകളുള്ള chunks ആയി വിഭജിക്കുക.
  • ഒരു store-ന് ഒരു family: ഒരു index-ൽ രണ്ട് family-കളിൽ നിന്നുള്ള vectors കലർത്തരുത്. മോഡലുകൾക്കിടയിൽ similarity scores-ന് അർത്ഥമില്ല.
  • Normalization: 3072-ൽ കുറഞ്ഞ dimensions ഉള്ള gemini-embedding-001 vectors നിങ്ങൾ normalize ചെയ്യണമെന്ന് Google പറയുന്നു. Score ആയി dot product ഉപയോഗിക്കുന്നതിന് മുൻപ് എല്ലാ vectors-ഉം normalize ചെയ്യുക.
  • Rate limits: സൗജന്യ tier-കൾ മിനിറ്റിലോ ദിവസത്തിലോ request-കൾ എണ്ണുന്നു. ഓരോ സ്ട്രിങ്ങിനും ഒരു request എന്നതിന് പകരം, സ്ട്രിങ്ങുകളുടെ batch-കൾ ഒരൊറ്റ request-ൽ അയയ്ക്കുക.
  • Anonymous tiers: OVH AI Endpoints key ഇല്ലാതെ ഓരോ IP വിലാസത്തിനും മോഡലിനും മിനിറ്റിൽ 2 request-കൾ അനുവദിക്കുന്നു. ഇത് fallback ആയി ഉപയോഗിക്കുക, bulk indexing-ന് വേണ്ടിയല്ല.
നുറുങ്ങ്: തിരഞ്ഞെടുത്ത family-യിൽ കുറഞ്ഞത് രണ്ട് provider-കൾ നിലനിർത്തുക. അപ്പോൾ ഒരു provider-ലെ 429 പിശക് നിങ്ങളുടെ indexing job നിർത്തുന്നില്ല.

പ്രശ്നപരിഹാരം

പ്രശ്നംകാരണംപരിഹാരം
Bulk indexing സമയത്ത് error 429ആ family-യ്ക്കുള്ള provider പരിധിയിൽ എത്തിഅതേ family-യ്ക്ക് രണ്ടാമത്തെ provider key ചേർക്കുക, അല്ലെങ്കിൽ ഓരോ മിനിറ്റിലും കുറച്ച് request-കൾ അയയ്ക്കുക
മാറ്റത്തിന് ശേഷം search ഫലങ്ങൾ തെറ്റാണ്Documents-ഉം queries-ഉം വ്യത്യസ്ത family-കൾ ഉപയോഗിക്കുന്നുരണ്ടിനും ഒരു model മൂല്യം ഉപയോഗിക്കുക. മാറ്റിയിട്ടുണ്ടെങ്കിൽ documents വീണ്ടും embed ചെയ്യുക
Vector നീളം പ്രതീക്ഷിച്ചതല്ലauto സ്ഥിരസ്ഥിതി family ഉപയോഗിക്കുന്നുവ്യക്തമായ family പേര് സജ്ജമാക്കുക, അല്ലെങ്കിൽ Models, Embeddings-ൽ സ്ഥിരസ്ഥിതി പരിശോധിക്കുക
നീണ്ട ടെക്സ്റ്റുകൾക്ക് മോശം matchesടെക്സ്റ്റ് input പരിധിയേക്കാൾ നീണ്ടതാണ്ടെക്സ്റ്റ് ചെറിയ chunks ആയി വിഭജിക്കുക
Error 401Unified key തെറ്റാണ് അല്ലെങ്കിൽ ഇല്ലKeys പേജിൽ നിന്ന് unified key വീണ്ടും പകർത്തുക
ഇവയെല്ലാം ഒരൊറ്റ കീ വഴി ഉപയോഗിക്കുക. FreeLLMAPI ഒരു ഓപ്പൺ-സോഴ്സ്, സ്വയം ഹോസ്റ്റ് ചെയ്യാവുന്ന റൂട്ടറാണ്. ഇത് ഈ സൗജന്യ ടയറുകളെല്ലാം ഒരൊറ്റ OpenAI-അനുയോജ്യ എൻഡ്‌പോയിന്റിനു പിന്നിൽ വയ്ക്കുന്നു. ഒരു മോഡലിന്റെ നിരക്ക് പരിധി എത്തുമ്പോൾ മറ്റൊന്നിലേക്ക് മാറുന്നു. കാറ്റലോഗ് ബ്രൗസ് ചെയ്യുക അല്ലെങ്കിൽ തത്സമയമാക്കുക.

പതിവ് ചോദ്യങ്ങൾ

സൗജന്യ embeddings API ഉണ്ടോ?

ഉണ്ട്. Google AI Studio, Cloudflare Workers AI, Cohere, NVIDIA, Mistral, OVH എന്നിവയും മറ്റുള്ളവയും പരിധികളോടെ സൗജന്യ embedding മോഡലുകൾ നൽകുന്നു. FreeLLMAPI അവയിൽ 41 എണ്ണം ഒരു OpenAI-compatible endpoint-ന് പിന്നിൽ ചേർക്കുന്നു.

സൗജന്യ embeddings-ന് OpenAI SDK ഉപയോഗിക്കാമോ?

ഉപയോഗിക്കാം. Base URL http://localhost:3001/v1 ആക്കി നിങ്ങളുടെ unified key ഉപയോഗിക്കുക. തുടർന്ന് bge-m3 പോലുള്ള family പേരോടെ client.embeddings.create വിളിക്കുക.

FreeLLMAPI എന്തുകൊണ്ട് മറ്റൊരു embedding മോഡലിലേക്ക് failover ചെയ്യുന്നില്ല?

വ്യത്യസ്ത മോഡലുകളിൽ നിന്നുള്ള vectors പൊരുത്തപ്പെടില്ല. അറിയാതെയുള്ള മോഡൽ മാറ്റം similarity search തകർക്കും. ഒരേ മോഡൽ family നൽകുന്ന provider-കൾക്കിടയിൽ മാത്രമേ router failover ചെയ്യുന്നുള്ളൂ.

RAG-ന് ഏറ്റവും നല്ല സൗജന്യ embedding മോഡൽ ഏതാണ്?

മിക്ക പ്രോജക്റ്റുകൾക്കും bge-m3 നല്ല സ്ഥിരസ്ഥിതിയാണ്. ഇതിന് 1024 dimensions, 8,192-ടോക്കൺ input പരിധി, നിരവധി സൗജന്യ provider-കൾ എന്നിവയുണ്ട്. 3072 dimensions വേണമെങ്കിൽ, Google key ഉണ്ടെങ്കിൽ gemini-embedding-001 ഉപയോഗിക്കുക.

എന്റെ embeddings-ന് എത്ര dimensions വേണം?

മിക്ക search, RAG ജോലികൾക്കും 768 മുതൽ 1024 dimensions ഉപയോഗിക്കുക. വലിയ vectors കൂടുതൽ storage, memory ഉപയോഗിക്കുന്നു. വലുപ്പം ഒരു തവണ തിരഞ്ഞെടുക്കുക, കാരണം മാറ്റം വരുത്തിയാൽ എല്ലാ documents-ഉം വീണ്ടും embed ചെയ്യണം.

അനുബന്ധ ഗൈഡുകൾ

ഉറവിടങ്ങൾ

എല്ലാ ഗൈഡുകളും · എല്ലാ സൗജന്യ മോഡലുകളും കാണുക