ఉచిత embeddings API
Embeddings API శోధన, RAG మరియు క్లస్టరింగ్ కోసం టెక్స్ట్ను vectors గా మారుస్తుంది. అనేక ప్రొవైడర్లు embeddings ను ఉచితంగా ఇస్తారు. FreeLLMAPI 41 ఉచిత embedding మోడల్లను ఒకే /v1/embeddings ఎండ్పాయింట్ వెనుక ఉంచుతుంది. ఈ గైడ్ మోడల్లు, వాటి పరిమితులు మరియు పనిచేసే కోడ్ను చూపుతుంది.
కోడ్, మోడల్ పేర్లు మరియు ప్రత్యక్ష కేటలాగ్ లేబుల్లు ఇంగ్లీషులోనే చూపబడతాయి.
FreeLLMAPIలో ఉచిత embeddings ఎలా పనిచేస్తాయి
/v1/embeddings ఎండ్పాయింట్ OpenAI అభ్యర్థన ఫార్మాట్ను ఉపయోగిస్తుంది. ఏ OpenAI SDK అయినా దీన్ని కాల్ చేయగలదు. మీరు టెక్స్ట్ను పంపుతారు, మరియు ప్రతి ఇన్పుట్ స్ట్రింగ్కు ఒక vector వస్తుంది.
Embeddings chat కంటే వేరే ఫెయిల్ఓవర్ నియమాన్ని ఉపయోగిస్తాయి. Chat అభ్యర్థనలు వేరే మోడల్కు వెళ్లవచ్చు. Embedding అభ్యర్థనలు ఎప్పుడూ వేరే మోడల్కు వెళ్లవు. రెండు మోడల్ల vectors అనుకూలంగా ఉండవు, కాబట్టి నిశ్శబ్దంగా మోడల్ మారితే మీ vector store పాడవుతుంది.
- Family: FreeLLMAPI ప్రొవైడర్లను family వారీగా సమూహపరుస్తుంది. Family అంటే ఒకే vector పరిమాణం ఉన్న ఒకే మోడల్ గుర్తింపు, ఉదాహరణకు 1024 dimensions ఉన్న
bge-m3. - Failover: ఒక family లోని ఒక ప్రొవైడర్ దాని పరిమితికి చేరినప్పుడు, రూటర్ అదే family ను అందించే తదుపరి ప్రొవైడర్ను ప్రయత్నిస్తుంది.
- Default:
model: "auto"డిఫాల్ట్ family ను ఉపయోగిస్తుంది. మీరు డిఫాల్ట్ family ని డాష్బోర్డ్లోని Models, Embeddings పేజీలో సెట్ చేస్తారు.
ఈరోజు ఉచిత embedding మోడల్లు
పట్టిక FreeLLMAPI కేటలాగ్లోని ప్రతి ఉచిత embedding మోడల్ను జాబితా చేస్తుంది. డేటా ప్రత్యక్ష కేటలాగ్ నుండి వస్తుంది. "Max input" అంటే ఒక ఇన్పుట్ స్ట్రింగ్కు గరిష్ట టోకెన్ల సంఖ్య. "Free limit" అంటే ప్రొవైడర్ ప్రచురించిన ఉచిత కోటా.
| మోడల్ | ప్రొవైడర్ | డైమెన్షన్లు | గరిష్ట ఇన్పుట్ | ఉచిత పరిమితి |
|---|---|---|---|---|
Gemini Embeddinggemini-embedding-001 | Google AI Studio | 3072 | 2048 | 100 rpm · 1K req/day |
Nemotron Embed VL 1Bnvidia/llama-nemotron-embed-vl-1b-v2 | NVIDIA NIM | 2048 | 8192 | ~40 rpm |
Nemotron 3 Embed 1B (OR free)nvidia/nemotron-3-embed-1b:free | OpenRouter | 2048 | 32768 | 20 rpm · shared free daily cap |
SEA-LION E5 Embedding 600Maisingapore/SEA-LION-E5-Embedding-600M | SEA-LION | 1024 | 8192 | free · 10 rpm |
SEA-LION ModernBERT Embedding 300Maisingapore/SEA-LION-ModernBERT-Embedding-300M | SEA-LION | 1024 | 8192 | free · 10 rpm |
SEA-LION ModernBERT Embedding 600Maisingapore/SEA-LION-ModernBERT-Embedding-600M | SEA-LION | 1024 | 8192 | free · 10 rpm |
BGE-M3@cf/baai/bge-m3 | Cloudflare Workers AI | 1024 | 8192 | 10K neurons/day (shared) |
EmbeddingGemma 300M@cf/google/embeddinggemma-300m | Cloudflare Workers AI | 768 | 2048 | 10K neurons/day (shared) |
Qwen3 Embedding 0.6B@cf/qwen/qwen3-embedding-0.6b | Cloudflare Workers AI | 1024 | 8192 | 10K neurons/day (shared) |
Cohere Embed v4embed-v4.0 | Cohere | 1536 | 128000 | 1K calls/mo (shared w/ chat) |
Gemini Embedding 2gemini-embedding-2 | Google AI Studio | 3072 | 8192 | free-tier rate limited |
Nemotron 3 Embed 1Bnvidia/nemotron-3-embed-1b | NVIDIA NIM | 2048 | 4096 | ~40 rpm |
PLaMo Embedding 1B (CF)@cf/pfnet/plamo-embedding-1b | Cloudflare Workers AI | 2048 | 4096 | 10K neurons/day (shared) |
BGE Small EN v1.5 (CF)@cf/baai/bge-small-en-v1.5 | Cloudflare Workers AI | 384 | 512 | 10K neurons/day (shared) |
BGE Base EN v1.5 (CF)@cf/baai/bge-base-en-v1.5 | Cloudflare Workers AI | 768 | 512 | 10K neurons/day (shared) |
BGE Large EN v1.5 (CF)@cf/baai/bge-large-en-v1.5 | Cloudflare Workers AI | 1024 | 512 | 10K neurons/day (shared) |
Mistral Embedmistral-embed | Mistral | 1024 | 8192 | free mode · monthly cap (shared) |
Codestral Embedcodestral-embed | Mistral | 1536 | 8192 | free mode · monthly cap (shared) |
Llama Text Embed v2 (Pinecone)llama-text-embed-v2 | Pinecone | 1024 | 2048 | 5M tokens/mo per model |
Multilingual E5 Large (Pinecone)multilingual-e5-large | Pinecone | 1024 | 507 | 5M tokens/mo per model |
Nemotron 3 Embed 1B (Speka)nvidia/nemotron-3-embed-1b | Speka | 2048 | 8192 | $1/month shared across Speka models |
OpenAI: Text Embedding 3 Small (ElectronHub)text-embedding-3-small | ElectronHub | 1536 | 8192 | $0.25/week shared free credits |
OpenAI: Text Embedding 3 Large (ElectronHub)text-embedding-3-large | ElectronHub | 3072 | 8192 | $0.25/week shared free credits |
Nemotron 3 Embed 8B (Inferbase)nvidia-nemotron-3-embed-8b | Inferbase | 4096 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
Qwen 3 Embedding 0.6B (Inferbase)qwen3-embedding-0-6b | Inferbase | 1024 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
Qwen 3 Embedding 4B (Inferbase)qwen3-embedding-4b | Inferbase | 2560 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
Qwen 3 Embedding 8B (Inferbase)qwen3-embedding-8b | Inferbase | 4096 | 8192 | 5,000 requests/month; 100 requests and $0.50 usage/day shared |
LFM2.5 Embedding 350M (LLMTR)liquid/lfm-2.5-embedding-350m-free | LLMTR | 1024 | 512 | Ongoing zero-price route; provider terms apply |
BGE-M3 (SEA-LION)BAAI/bge-m3 | SEA-LION | 1024 | 8192 | free · 10 rpm |
Cohere Embed English v3embed-english-v3.0 | Cohere | 1024 | 512 | 1K calls/mo (shared w/ chat) |
Qwen3 Embedding 8B (OVH)Qwen3-Embedding-8B | OVH AI Endpoints | 4096 | 32768 | free · anonymous 2 req/min per IP |
BGE-M3 (OVH)bge-m3 | OVH AI Endpoints | 1024 | 8192 | free · anonymous 2 req/min per IP |
BGE Multilingual Gemma2 (OVH)bge-multilingual-gemma2 | OVH AI Endpoints | 3584 | 8192 | free · anonymous 2 req/min per IP |
Mistral: Codestral Embed (ElectronHub)codestral-embed | ElectronHub | 1536 | 8192 | $0.25/week shared free credits |
Mistral: Mistral Embed (ElectronHub)mistral-embed | ElectronHub | 1024 | 8192 | $0.25/week shared free credits |
Google: Gemini Embedding 2 (ElectronHub)gemini-embedding-2 | ElectronHub | 3072 | 8192 | $0.25/week shared free credits |
Google: Gemini Embedding 001 (ElectronHub)gemini-embedding-001 | ElectronHub | 3072 | 2048 | $0.25/week shared free credits |
OpenAI: Text Embedding Ada 002 (ElectronHub)text-embedding-ada-002 | ElectronHub | 1536 | 8192 | $0.25/week shared free credits |
Cohere Embed English Light v3embed-english-light-v3.0 | Cohere | 384 | 512 | 1K calls/mo (shared w/ chat) |
Cohere Embed Multilingual v3embed-multilingual-v3.0 | Cohere | 1024 | 512 | 1K calls/mo (shared w/ chat) |
Cohere Embed Multilingual Light v3embed-multilingual-light-v3.0 | Cohere | 384 | 512 | 1K calls/mo (shared w/ chat) |
FreeLLMAPI కేటలాగ్ నుండి ప్రత్యక్ష డేటా (వెర్షన్ 2026.11.19, 2026-11-19 న తనిఖీ చేయబడింది). ఉచిత పరిమితులు తరచుగా మారుతాయి. కేటలాగ్ ప్రతి రోజు తనిఖీ చేయబడుతుంది.
కొంతమంది ప్రొవైడర్లు chat మరియు embeddings కు ఒకే కోటాను పంచుకుంటారు. ఉదాహరణకు, Cohere ట్రయల్ కీ అన్ని ఎండ్పాయింట్లకు కలిపి ప్రతి నెలా 1,000 API కాల్లను అనుమతిస్తుంది. Cloudflare Workers AI రోజుకు 10,000 neurons ఇస్తుంది, ఇవి ఖాతాలోని అన్ని Workers AI మోడల్ల మధ్య పంచుకోబడతాయి.
దశ 1: FreeLLMAPIని ఇన్స్టాల్ చేసి కీలను జోడించండి
FreeLLMAPI ఓపెన్ సోర్స్. ఇది Docker లో మీ కంప్యూటర్పై నడుస్తుంది. మీ ప్రొవైడర్ కీలు మీ కంప్యూటర్లోనే ఉంటాయి.
ఇన్స్టాల్ (macOS లేదా Linux)
curl -fsSL https://freellmapi.co/install.sh | bashhttp://localhost:3001 వద్ద డాష్బోర్డ్ను తెరవండి. Keys పేజీలో మీ ప్రొవైడర్ కీలను జోడించండి. embeddings కోసం, Google AI Studio కీ మరియు Cloudflare కీ మంచి ప్రారంభాన్ని ఇస్తాయి. అదే పేజీ నుండి మీ unified కీని కాపీ చేయండి.
దశ 2: embeddings ఎండ్పాయింట్ను కాల్ చేయండి
ఒకే అభ్యర్థనలో అనేక vectors పొందడానికి స్ట్రింగ్ల జాబితాను పంపండి. మీ డాక్యుమెంట్లకు మరియు మీ శోధన ప్రశ్నలకు ఒకే model విలువను ఉపయోగించండి.
curl
curl http://localhost:3001/v1/embeddings \
-H "Authorization: Bearer <unified-key>" \
-H "Content-Type: application/json" \
-d '{"model": "bge-m3", "input": ["the quick brown fox", "a fast brown fox"]}'Python: రెండు టెక్స్ట్లను embed చేసి పోల్చండి
import math
from openai import OpenAI
client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")
resp = client.embeddings.create(
model="bge-m3", # a family name, "auto", or a provider model id
input=["How do I reset my password?", "Steps to change a forgotten password"],
)
a, b = resp.data[0].embedding, resp.data[1].embedding
print(len(resp.data), "vectors of", len(a), "dimensions")
dot = sum(x * y for x, y in zip(a, b))
norm = math.sqrt(sum(x * x for x in a)) * math.sqrt(sum(y * y for y in b))
print("cosine similarity:", round(dot / norm, 3))model ఫీల్డ్ మూడు రూపాలను అంగీకరిస్తుంది: auto, bge-m3 వంటి family పేరు, లేదా @cf/baai/bge-m3 వంటి ప్రొవైడర్ మోడల్ ID. ప్రొవైడర్ మోడల్ ID దాని family కి పరిష్కరించబడుతుంది, కాబట్టి ఫెయిల్ఓవర్ ఇప్పటికీ ఆ family లోనే ఉంటుంది.
ఏ ఉచిత embedding మోడల్ను ఎంచుకోవాలి
ప్రతి vector store కు మోడల్ను ఒకసారి ఎంచుకోండి. తర్వాత మీరు మోడల్ మారిస్తే, అన్ని డాక్యుమెంట్లను మళ్ళీ embed చేయాలి.
| అవసరం | మోడల్ family | ఎందుకు |
|---|---|---|
| చిన్న ఇంగ్లీష్ లేదా బహుభాషా టెక్స్ట్, అనేక ప్రొవైడర్లు | bge-m3 | 1024 dimensions, 8,192 ఇన్పుట్ టోకెన్లు. అనేక ఉచిత ప్రొవైడర్లు దీన్ని అందిస్తారు, కాబట్టి ఫెయిల్ఓవర్కు ఎక్కువ ఎంపికలు ఉంటాయి. |
| Google కీతో అధిక నాణ్యత గల రిట్రీవల్ | gemini-embedding-001 | 3072 dimensions. ఇన్పుట్ పరిమితి 2,048 టోకెన్లు, కాబట్టి పొడవైన డాక్యుమెంట్లను chunks గా విభజించండి. |
| ఒకే vector లో పొడవైన డాక్యుమెంట్లు | embed-v4.0 (Cohere) | పెద్ద ఇన్పుట్ విండో. ట్రయల్ కీ ప్రతి నెలా 1,000 కాల్లను మాత్రమే అనుమతిస్తుంది, chat తో పంచుకోబడుతుంది. |
| చిన్న vectors మరియు వేగవంతమైన శోధన | bge-small-en-v1.5 | 384 dimensions. ఇంగ్లీష్ మాత్రమే, మరియు ఇన్పుట్ పరిమితి 512 టోకెన్లు. |
| కోడ్ శోధన | codestral-embed | కోడ్ కోసం శిక్షణ పొందింది. ఇది Mistral ఉచిత మోడ్ కోటాను ఉపయోగిస్తుంది. |
పెద్ద vectors vector database లో ఎక్కువ నిల్వ మరియు మెమరీని ఖర్చు చేస్తాయి. 3072-dimension vector, 1024-dimension vector కంటే మూడు రెట్లు పెద్దది. ఒక మిలియన్ chunks కంటే తక్కువ ఉన్న చాలా RAG ప్రాజెక్ట్లకు, 768 నుండి 1024 dimensions మంచి ఫలితాలను ఇస్తాయి.
పరిమితులు మరియు జాగ్రత్తలు
- ఇన్పుట్ పరిమితులు: "Max input" విలువ కంటే ఎక్కువ టెక్స్ట్ కత్తిరించబడవచ్చు లేదా తిరస్కరించబడవచ్చు. embed చేసే ముందు డాక్యుమెంట్లను 300 నుండి 800 టోకెన్ల chunks గా విభజించండి.
- ఒక store కు ఒక family: ఒకే index లో రెండు families నుండి vectors ను కలపవద్దు. మోడల్ల మధ్య similarity స్కోర్లకు అర్థం ఉండదు.
- Normalization: 3072 కంటే తక్కువ dimensions ఉన్న
gemini-embedding-001vectors ను మీరు normalize చేయాలని Google చెబుతుంది. స్కోర్గా dot product ను ఉపయోగించే ముందు అన్ని vectors ను normalize చేయండి. - Rate limits: ఉచిత టియర్లు నిమిషానికి లేదా రోజుకు అభ్యర్థనలను లెక్కిస్తాయి. ప్రతి స్ట్రింగ్కు ఒక అభ్యర్థన కాకుండా, స్ట్రింగ్ల బ్యాచ్ను ఒకే అభ్యర్థనలో పంపండి.
- అనామక టియర్లు: OVH AI Endpoints కీ లేకుండా ప్రతి IP చిరునామా మరియు మోడల్కు నిమిషానికి 2 అభ్యర్థనలను అనుమతిస్తుంది. దీన్ని ఫాల్బ్యాక్గా ఉపయోగించండి, పెద్ద మొత్తంలో ఇండెక్సింగ్ కోసం కాదు.
ట్రబుల్షూటింగ్
| సమస్య | కారణం | పరిష్కారం |
|---|---|---|
| బల్క్ ఇండెక్సింగ్ సమయంలో ఎర్రర్ 429 | ఆ family కోసం ప్రొవైడర్ పరిమితి చేరింది | అదే family కోసం రెండవ ప్రొవైడర్ కీని జోడించండి, లేదా ప్రతి నిమిషం తక్కువ అభ్యర్థనలను పంపండి |
| మార్పు తర్వాత శోధన ఫలితాలు తప్పు | డాక్యుమెంట్లు మరియు ప్రశ్నలు వేర్వేరు families ను ఉపయోగిస్తున్నాయి | రెండింటికీ ఒకే model విలువను ఉపయోగించండి. మీరు దాన్ని మార్చినట్లయితే డాక్యుమెంట్లను మళ్ళీ embed చేయండి |
| Vector పొడవు మీరు ఆశించినది కాదు | auto డిఫాల్ట్ family ను ఉపయోగిస్తుంది | స్పష్టమైన family పేరును సెట్ చేయండి, లేదా Models, Embeddings పై డిఫాల్ట్ను తనిఖీ చేయండి |
| పొడవైన టెక్స్ట్లకు మంచి మ్యాచ్లు రావడం లేదు | టెక్స్ట్ ఇన్పుట్ పరిమితి కంటే పొడవుగా ఉంది | టెక్స్ట్ను చిన్న chunks గా విభజించండి |
| ఎర్రర్ 401 | unified కీ తప్పుగా ఉంది లేదా లేదు | Keys పేజీ నుండి unified కీని మళ్ళీ కాపీ చేయండి |
తరచుగా అడిగే ప్రశ్నలు
ఉచిత embeddings API ఉందా?
అవును. Google AI Studio, Cloudflare Workers AI, Cohere, NVIDIA, Mistral, OVH మరియు ఇతరులు rate limits తో ఉచిత embedding మోడల్లను ఇస్తారు. FreeLLMAPI వాటిలో 41 ను ఒకే OpenAI-compatible ఎండ్పాయింట్ వెనుక ఉంచుతుంది.
ఉచిత embeddings కోసం OpenAI SDK ను ఉపయోగించవచ్చా?
అవును. base URL ను http://localhost:3001/v1 కు సెట్ చేసి, మీ unified కీని ఉపయోగించండి. తర్వాత bge-m3 వంటి family పేరుతో client.embeddings.create ను కాల్ చేయండి.
FreeLLMAPI వేరే embedding మోడల్కు ఎందుకు ఫెయిల్ఓవర్ చేయదు?
వేర్వేరు మోడల్ల vectors అనుకూలంగా ఉండవు. నిశ్శబ్దంగా మోడల్ మారితే similarity శోధన విరిగిపోతుంది. రూటర్ ఒకే మోడల్ family ను అందించే ప్రొవైడర్ల మధ్య మాత్రమే ఫెయిల్ఓవర్ చేస్తుంది.
RAG కోసం ఉత్తమ ఉచిత embedding మోడల్ ఏది?
చాలా ప్రాజెక్ట్లకు, bge-m3 మంచి డిఫాల్ట్. దానికి 1024 dimensions, 8,192-టోకెన్ ఇన్పుట్ పరిమితి మరియు అనేక ఉచిత ప్రొవైడర్లు ఉన్నారు. మీకు 3072 dimensions కావాలంటే మరియు Google కీ ఉంటే gemini-embedding-001 ను ఉపయోగించండి.
నా embeddings కు ఎన్ని dimensions ఉండాలి?
చాలా శోధన మరియు RAG పనులకు 768 నుండి 1024 dimensions ను ఉపయోగించండి. పెద్ద vectors ఎక్కువ నిల్వ మరియు మెమరీని ఉపయోగిస్తాయి. పరిమాణాన్ని ఒకసారి ఎంచుకోండి, ఎందుకంటే మార్పు అంటే అన్ని డాక్యుమెంట్లను మళ్ళీ embed చేయాలి.
సంబంధిత గైడ్లు
- RAG కోసం ఉచిత LLM API
- LangChain కోసం ఉచిత LLM API
- Pythonలో ఉచిత LLM API
- free cohere api
- ఉచిత LLM API రేట్ పరిమితులు
మూలాలు
- FreeLLMAPI docs: Embeddings (20 November 2026 న తనిఖీ చేయబడింది)
- Google AI Studio docs: Embeddings (20 November 2026 న తనిఖీ చేయబడింది)
- Cloudflare Workers AI pricing (20 November 2026 న తనిఖీ చేయబడింది)
- Cohere docs: API keys and rate limits (20 November 2026 న తనిఖీ చేయబడింది)
- OVHcloud AI Endpoints capabilities (20 November 2026 న తనిఖీ చేయబడింది)