ಮುಖಪುಟ / ಮಾರ್ಗದರ್ಶಿಗಳು / ಉಚಿತ ಎಂಬೆಡಿಂಗ್ಸ್ API

ಉಚಿತ ಎಂಬೆಡಿಂಗ್ಸ್ API

ಎಂಬೆಡಿಂಗ್ಸ್ API ಪಠ್ಯವನ್ನು ಹುಡುಕಾಟ, RAG ಮತ್ತು ಕ್ಲಸ್ಟರಿಂಗ್‌ಗಾಗಿ ವೆಕ್ಟರ್‌ಗಳಾಗಿ ಪರಿವರ್ತಿಸುತ್ತದೆ. ಹಲವು ಪ್ರೊವೈಡರ್‌ಗಳು ಎಂಬೆಡಿಂಗ್ಸ್ ಉಚಿತವಾಗಿ ನೀಡುತ್ತವೆ. FreeLLMAPI 41 ಉಚಿತ ಎಂಬೆಡಿಂಗ್ ಮಾಡೆಲ್‌ಗಳನ್ನು ಒಂದೇ /v1/embeddings ಎಂಡ್‌ಪಾಯಿಂಟ್ ಹಿಂದೆ ಇರಿಸುತ್ತದೆ. ಈ ಮಾರ್ಗದರ್ಶಿ ಮಾಡೆಲ್‌ಗಳು, ಅವುಗಳ ಮಿತಿಗಳು ಮತ್ತು ಕಾರ್ಯನಿರ್ವಹಿಸುವ ಕೋಡ್ ತೋರಿಸುತ್ತದೆ.

ಕೋಡ್, ಮಾದರಿ ಹೆಸರುಗಳು ಮತ್ತು ನೇರ ಕ್ಯಾಟಲಾಗ್ ಲೇಬಲ್‌ಗಳನ್ನು ಇಂಗ್ಲಿಷ್‌ನಲ್ಲಿ ತೋರಿಸಲಾಗಿದೆ.

FreeLLMAPI ನಲ್ಲಿ ಉಚಿತ ಎಂಬೆಡಿಂಗ್ಸ್ ಹೇಗೆ ಕೆಲಸ ಮಾಡುತ್ತವೆ

/v1/embeddings ಎಂಡ್‌ಪಾಯಿಂಟ್ OpenAI ವಿನಂತಿ ಸ್ವರೂಪವನ್ನು ಬಳಸುತ್ತದೆ. ಯಾವುದೇ OpenAI SDK ಇದನ್ನು ಕರೆ ಮಾಡಬಹುದು. ನೀವು ಪಠ್ಯ ಕಳುಹಿಸುತ್ತೀರಿ, ಮತ್ತು ಪ್ರತಿ ಇನ್‌ಪುಟ್ ಸ್ಟ್ರಿಂಗ್‌ಗೆ ಒಂದು ವೆಕ್ಟರ್ ಪಡೆಯುತ್ತೀರಿ.

ಎಂಬೆಡಿಂಗ್ಸ್ ಚಾಟ್‌ಗಿಂತ ಬೇರೆ ವೈಫಲ್ಯ ನಿಯಮವನ್ನು ಬಳಸುತ್ತವೆ. ಚಾಟ್ ವಿನಂತಿಗಳು ಬೇರೆ ಮಾಡೆಲ್‌ಗೆ ಹೋಗಬಹುದು. ಎಂಬೆಡಿಂಗ್ ವಿನಂತಿಗಳು ಎಂದಿಗೂ ಬೇರೆ ಮಾಡೆಲ್‌ಗೆ ಹೋಗುವುದಿಲ್ಲ. ಎರಡು ಮಾಡೆಲ್‌ಗಳ ವೆಕ್ಟರ್‌ಗಳು ಹೊಂದಾಣಿಕೆಯಾಗುವುದಿಲ್ಲ, ಆದ್ದರಿಂದ ಮೌನ ಮಾಡೆಲ್ ಬದಲಾವಣೆ ನಿಮ್ಮ ವೆಕ್ಟರ್ ಸ್ಟೋರ್ ಅನ್ನು ಹಾಳುಮಾಡುತ್ತದೆ.

  • ಕುಟುಂಬ: FreeLLMAPI ಪ್ರೊವೈಡರ್‌ಗಳನ್ನು ಕುಟುಂಬ ಪ್ರಕಾರ ಗುಂಪು ಮಾಡುತ್ತದೆ. ಕುಟುಂಬ ಎಂದರೆ ಒಂದು ವೆಕ್ಟರ್ ಗಾತ್ರದೊಂದಿಗೆ ಒಂದು ಮಾಡೆಲ್ ಗುರುತು, ಉದಾಹರಣೆಗೆ 1024 ಆಯಾಮಗಳಲ್ಲಿ bge-m3.
  • ಫೇಲ್‌ಓವರ್: ಒಂದು ಕುಟುಂಬದಲ್ಲಿನ ಒಂದು ಪ್ರೊವೈಡರ್ ತನ್ನ ಮಿತಿ ತಲುಪಿದಾಗ, ರೂಟರ್ ಅದೇ ಕುಟುಂಬವನ್ನು ನೀಡುವ ಮುಂದಿನ ಪ್ರೊವೈಡರ್ ಅನ್ನು ಪ್ರಯತ್ನಿಸುತ್ತದೆ.
  • ಡೀಫಾಲ್ಟ್: model: "auto" ಡೀಫಾಲ್ಟ್ ಕುಟುಂಬವನ್ನು ಬಳಸುತ್ತದೆ. ಡೀಫಾಲ್ಟ್ ಕುಟುಂಬವನ್ನು ಡ್ಯಾಶ್‌ಬೋರ್ಡ್‌ನ Models, Embeddings ಪುಟದಲ್ಲಿ ಹೊಂದಿಸಿ.

ಇಂದಿನ ಉಚಿತ ಎಂಬೆಡಿಂಗ್ ಮಾಡೆಲ್‌ಗಳು

ಕೋಷ್ಟಕವು FreeLLMAPI ಕ್ಯಾಟಲಾಗ್‌ನಲ್ಲಿರುವ ಪ್ರತಿ ಉಚಿತ ಎಂಬೆಡಿಂಗ್ ಮಾಡೆಲ್ ಅನ್ನು ಪಟ್ಟಿ ಮಾಡುತ್ತದೆ. ಡೇಟಾ ಲೈವ್ ಕ್ಯಾಟಲಾಗ್‌ನಿಂದ ಬರುತ್ತದೆ. "Max input" ಎಂದರೆ ಒಂದು ಇನ್‌ಪುಟ್ ಸ್ಟ್ರಿಂಗ್‌ಗೆ ಗರಿಷ್ಠ ಟೋಕನ್ ಸಂಖ್ಯೆ. "Free limit" ಎಂದರೆ ಪ್ರೊವೈಡರ್ ಪ್ರಕಟಿಸುವ ಉಚಿತ ಕೋಟಾ.

ಮಾದರಿಪೂರೈಕೆದಾರಆಯಾಮಗಳುಗರಿಷ್ಠ ಇನ್‌ಪುಟ್ಉಚಿತ ಮಿತಿ
Gemini Embedding
gemini-embedding-001
Google AI Studio30722048100 rpm · 1K req/day
Nemotron Embed VL 1B
nvidia/llama-nemotron-embed-vl-1b-v2
NVIDIA NIM20488192~40 rpm
Nemotron 3 Embed 1B (OR free)
nvidia/nemotron-3-embed-1b:free
OpenRouter20483276820 rpm · shared free daily cap
SEA-LION E5 Embedding 600M
aisingapore/SEA-LION-E5-Embedding-600M
SEA-LION10248192free · 10 rpm
SEA-LION ModernBERT Embedding 300M
aisingapore/SEA-LION-ModernBERT-Embedding-300M
SEA-LION10248192free · 10 rpm
SEA-LION ModernBERT Embedding 600M
aisingapore/SEA-LION-ModernBERT-Embedding-600M
SEA-LION10248192free · 10 rpm
BGE-M3
@cf/baai/bge-m3
Cloudflare Workers AI1024819210K neurons/day (shared)
EmbeddingGemma 300M
@cf/google/embeddinggemma-300m
Cloudflare Workers AI768204810K neurons/day (shared)
Qwen3 Embedding 0.6B
@cf/qwen/qwen3-embedding-0.6b
Cloudflare Workers AI1024819210K neurons/day (shared)
Cohere Embed v4
embed-v4.0
Cohere15361280001K calls/mo (shared w/ chat)
Gemini Embedding 2
gemini-embedding-2
Google AI Studio30728192free-tier rate limited
Nemotron 3 Embed 1B
nvidia/nemotron-3-embed-1b
NVIDIA NIM20484096~40 rpm
PLaMo Embedding 1B (CF)
@cf/pfnet/plamo-embedding-1b
Cloudflare Workers AI2048409610K neurons/day (shared)
BGE Small EN v1.5 (CF)
@cf/baai/bge-small-en-v1.5
Cloudflare Workers AI38451210K neurons/day (shared)
BGE Base EN v1.5 (CF)
@cf/baai/bge-base-en-v1.5
Cloudflare Workers AI76851210K neurons/day (shared)
BGE Large EN v1.5 (CF)
@cf/baai/bge-large-en-v1.5
Cloudflare Workers AI102451210K neurons/day (shared)
Mistral Embed
mistral-embed
Mistral10248192free mode · monthly cap (shared)
Codestral Embed
codestral-embed
Mistral15368192free mode · monthly cap (shared)
Llama Text Embed v2 (Pinecone)
llama-text-embed-v2
Pinecone102420485M tokens/mo per model
Multilingual E5 Large (Pinecone)
multilingual-e5-large
Pinecone10245075M tokens/mo per model
Nemotron 3 Embed 1B (Speka)
nvidia/nemotron-3-embed-1b
Speka20488192$1/month shared across Speka models
OpenAI: Text Embedding 3 Small (ElectronHub)
text-embedding-3-small
ElectronHub15368192$0.25/week shared free credits
OpenAI: Text Embedding 3 Large (ElectronHub)
text-embedding-3-large
ElectronHub30728192$0.25/week shared free credits
Nemotron 3 Embed 8B (Inferbase)
nvidia-nemotron-3-embed-8b
Inferbase409681925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 0.6B (Inferbase)
qwen3-embedding-0-6b
Inferbase102481925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 4B (Inferbase)
qwen3-embedding-4b
Inferbase256081925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 8B (Inferbase)
qwen3-embedding-8b
Inferbase409681925,000 requests/month; 100 requests and $0.50 usage/day shared
LFM2.5 Embedding 350M (LLMTR)
liquid/lfm-2.5-embedding-350m-free
LLMTR1024512Ongoing zero-price route; provider terms apply
BGE-M3 (SEA-LION)
BAAI/bge-m3
SEA-LION10248192free · 10 rpm
Cohere Embed English v3
embed-english-v3.0
Cohere10245121K calls/mo (shared w/ chat)
Qwen3 Embedding 8B (OVH)
Qwen3-Embedding-8B
OVH AI Endpoints409632768free · anonymous 2 req/min per IP
BGE-M3 (OVH)
bge-m3
OVH AI Endpoints10248192free · anonymous 2 req/min per IP
BGE Multilingual Gemma2 (OVH)
bge-multilingual-gemma2
OVH AI Endpoints35848192free · anonymous 2 req/min per IP
Mistral: Codestral Embed (ElectronHub)
codestral-embed
ElectronHub15368192$0.25/week shared free credits
Mistral: Mistral Embed (ElectronHub)
mistral-embed
ElectronHub10248192$0.25/week shared free credits
Google: Gemini Embedding 2 (ElectronHub)
gemini-embedding-2
ElectronHub30728192$0.25/week shared free credits
Google: Gemini Embedding 001 (ElectronHub)
gemini-embedding-001
ElectronHub30722048$0.25/week shared free credits
OpenAI: Text Embedding Ada 002 (ElectronHub)
text-embedding-ada-002
ElectronHub15368192$0.25/week shared free credits
Cohere Embed English Light v3
embed-english-light-v3.0
Cohere3845121K calls/mo (shared w/ chat)
Cohere Embed Multilingual v3
embed-multilingual-v3.0
Cohere10245121K calls/mo (shared w/ chat)
Cohere Embed Multilingual Light v3
embed-multilingual-light-v3.0
Cohere3845121K calls/mo (shared w/ chat)

FreeLLMAPI ಕ್ಯಾಟಲಾಗ್‌ನಿಂದ ನೇರ ಡೇಟಾ (ಆವೃತ್ತಿ 2026.11.19, 2026-11-19 ರಂದು ಪರಿಶೀಲಿಸಲಾಗಿದೆ). ಉಚಿತ ಮಿತಿಗಳು ಆಗಾಗ್ಗೆ ಬದಲಾಗುತ್ತವೆ. ಕ್ಯಾಟಲಾಗ್ ಪ್ರತಿದಿನ ಪರಿಶೀಲಿಸಲಾಗುತ್ತದೆ.

ಕೆಲವು ಪ್ರೊವೈಡರ್‌ಗಳು ಚಾಟ್ ಮತ್ತು ಎಂಬೆಡಿಂಗ್ಸ್ ನಡುವೆ ಒಂದೇ ಕೋಟಾವನ್ನು ಹಂಚಿಕೊಳ್ಳುತ್ತವೆ. ಉದಾಹರಣೆಗೆ, Cohere ಟ್ರಯಲ್ ಕೀ ಎಲ್ಲಾ ಎಂಡ್‌ಪಾಯಿಂಟ್‌ಗಳಿಗೆ ಸೇರಿ ತಿಂಗಳಿಗೆ 1,000 API ಕರೆಗಳನ್ನು ಅನುಮತಿಸುತ್ತದೆ. Cloudflare Workers AI ದಿನಕ್ಕೆ 10,000 neurons ನೀಡುತ್ತದೆ, ಇದನ್ನು ಖಾತೆಯ ಎಲ್ಲಾ Workers AI ಮಾಡೆಲ್‌ಗಳು ಹಂಚಿಕೊಳ್ಳುತ್ತವೆ.

ಹಂತ 1: FreeLLMAPI ಸ್ಥಾಪಿಸಿ ಮತ್ತು ಕೀಗಳನ್ನು ಸೇರಿಸಿ

FreeLLMAPI ಓಪನ್ ಸೋರ್ಸ್ ಆಗಿದೆ. ಇದು ನಿಮ್ಮ ಕಂಪ್ಯೂಟರ್‌ನಲ್ಲಿ Docker ನಲ್ಲಿ ಚಲಿಸುತ್ತದೆ. ನಿಮ್ಮ ಪ್ರೊವೈಡರ್ ಕೀಗಳು ನಿಮ್ಮ ಕಂಪ್ಯೂಟರ್‌ನಲ್ಲೇ ಉಳಿಯುತ್ತವೆ.

ಸ್ಥಾಪಿಸಿ (macOS ಅಥವಾ Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

http://localhost:3001 ನಲ್ಲಿ ಡ್ಯಾಶ್‌ಬೋರ್ಡ್ ತೆರೆಯಿರಿ. Keys ಪುಟದಲ್ಲಿ ನಿಮ್ಮ ಪ್ರೊವೈಡರ್ ಕೀಗಳನ್ನು ಸೇರಿಸಿ. ಎಂಬೆಡಿಂಗ್ಸ್‌ಗೆ, Google AI Studio ಕೀ ಮತ್ತು Cloudflare ಕೀ ಉತ್ತಮ ಆರಂಭ ನೀಡುತ್ತವೆ. ಅದೇ ಪುಟದಿಂದ ನಿಮ್ಮ ಏಕೀಕೃತ ಕೀಯನ್ನು ನಕಲಿಸಿ.

ಹಂತ 2: ಎಂಬೆಡಿಂಗ್ಸ್ ಎಂಡ್‌ಪಾಯಿಂಟ್ ಕರೆ ಮಾಡಿ

ಒಂದೇ ವಿನಂತಿಯಲ್ಲಿ ಹಲವು ವೆಕ್ಟರ್‌ಗಳನ್ನು ಪಡೆಯಲು ಸ್ಟ್ರಿಂಗ್‌ಗಳ ಪಟ್ಟಿ ಕಳುಹಿಸಿ. ನಿಮ್ಮ ದಾಖಲೆಗಳಿಗೂ ನಿಮ್ಮ ಹುಡುಕಾಟ ಪ್ರಶ್ನೆಗಳಿಗೂ ಒಂದೇ model ಮೌಲ್ಯವನ್ನು ಬಳಸಿ.

curl

curl http://localhost:3001/v1/embeddings \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "bge-m3", "input": ["the quick brown fox", "a fast brown fox"]}'

Python: ಎರಡು ಪಠ್ಯಗಳನ್ನು ಎಂಬೆಡ್ ಮಾಡಿ ಹೋಲಿಸಿ

import math
from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")

resp = client.embeddings.create(
    model="bge-m3",  # a family name, "auto", or a provider model id
    input=["How do I reset my password?", "Steps to change a forgotten password"],
)
a, b = resp.data[0].embedding, resp.data[1].embedding
print(len(resp.data), "vectors of", len(a), "dimensions")

dot = sum(x * y for x, y in zip(a, b))
norm = math.sqrt(sum(x * x for x in a)) * math.sqrt(sum(y * y for y in b))
print("cosine similarity:", round(dot / norm, 3))

model ಕ್ಷೇತ್ರವು ಮೂರು ರೂಪಗಳನ್ನು ಸ್ವೀಕರಿಸುತ್ತದೆ: auto, bge-m3 ನಂತಹ ಕುಟುಂಬದ ಹೆಸರು, ಅಥವಾ @cf/baai/bge-m3 ನಂತಹ ಪ್ರೊವೈಡರ್ ಮಾಡೆಲ್ ID. ಪ್ರೊವೈಡರ್ ಮಾಡೆಲ್ ID ತನ್ನ ಕುಟುಂಬಕ್ಕೆ ಪರಿಹರಿಸಲ್ಪಡುತ್ತದೆ, ಆದ್ದರಿಂದ ಫೇಲ್‌ಓವರ್ ಆ ಕುಟುಂಬದೊಳಗೇ ಉಳಿಯುತ್ತದೆ.

ಯಾವ ಉಚಿತ ಎಂಬೆಡಿಂಗ್ ಮಾಡೆಲ್ ಆರಿಸಬೇಕು

ಪ್ರತಿ ವೆಕ್ಟರ್ ಸ್ಟೋರ್‌ಗೆ ಮಾಡೆಲ್ ಅನ್ನು ಒಮ್ಮೆ ಆರಿಸಿ. ನಂತರ ಮಾಡೆಲ್ ಬದಲಿಸಿದರೆ, ನೀವು ಎಲ್ಲಾ ದಾಖಲೆಗಳನ್ನು ಮತ್ತೆ ಎಂಬೆಡ್ ಮಾಡಬೇಕು.

ಅಗತ್ಯಮಾಡೆಲ್ ಕುಟುಂಬಏಕೆ
ಚಿಕ್ಕ ಇಂಗ್ಲಿಷ್ ಅಥವಾ ಬಹುಭಾಷಾ ಪಠ್ಯ, ಅನೇಕ ಪ್ರೊವೈಡರ್‌ಗಳುbge-m31024 ಆಯಾಮಗಳು, 8,192 ಇನ್‌ಪುಟ್ ಟೋಕನ್. ಹಲವು ಉಚಿತ ಪ್ರೊವೈಡರ್‌ಗಳು ಇದನ್ನು ನೀಡುತ್ತವೆ, ಆದ್ದರಿಂದ ಫೇಲ್‌ಓವರ್‌ಗೆ ಹೆಚ್ಚು ಆಯ್ಕೆಗಳಿವೆ.
Google ಕೀಯೊಂದಿಗೆ ಹೆಚ್ಚಿನ ಗುಣಮಟ್ಟದ ಹುಡುಕಾಟgemini-embedding-0013072 ಆಯಾಮಗಳು. ಇನ್‌ಪುಟ್ ಮಿತಿ 2,048 ಟೋಕನ್, ಆದ್ದರಿಂದ ದೀರ್ಘ ದಾಖಲೆಗಳನ್ನು ತುಂಡುಗಳಾಗಿ ವಿಭಜಿಸಿ.
ಒಂದೇ ವೆಕ್ಟರ್‌ನಲ್ಲಿ ದೀರ್ಘ ದಾಖಲೆಗಳುembed-v4.0 (Cohere)ದೊಡ್ಡ ಇನ್‌ಪುಟ್ ವಿಂಡೋ. ಟ್ರಯಲ್ ಕೀ ತಿಂಗಳಿಗೆ ಕೇವಲ 1,000 ಕರೆಗಳನ್ನು ಅನುಮತಿಸುತ್ತದೆ, ಅದು ಚಾಟ್‌ನೊಂದಿಗೆ ಹಂಚಿಕೊಳ್ಳಲ್ಪಡುತ್ತದೆ.
ಚಿಕ್ಕ ವೆಕ್ಟರ್‌ಗಳು ಮತ್ತು ವೇಗದ ಹುಡುಕಾಟbge-small-en-v1.5384 ಆಯಾಮಗಳು. ಇಂಗ್ಲಿಷ್ ಮಾತ್ರ, ಮತ್ತು ಇನ್‌ಪುಟ್ ಮಿತಿ 512 ಟೋಕನ್.
ಕೋಡ್ ಹುಡುಕಾಟcodestral-embedಕೋಡ್‌ಗಾಗಿ ತರಬೇತಿ ಪಡೆದಿದೆ. ಇದು Mistral ಉಚಿತ ಮೋಡ್ ಕೋಟಾವನ್ನು ಬಳಸುತ್ತದೆ.

ದೊಡ್ಡ ವೆಕ್ಟರ್‌ಗಳು ವೆಕ್ಟರ್ ಡೇಟಾಬೇಸ್‌ನಲ್ಲಿ ಹೆಚ್ಚು ಸಂಗ್ರಹಣೆ ಮತ್ತು ಮೆಮೊರಿ ಬಳಸುತ್ತವೆ. 3072-ಆಯಾಮದ ವೆಕ್ಟರ್ 1024-ಆಯಾಮದ ವೆಕ್ಟರ್‌ಗಿಂತ ಮೂರು ಪಟ್ಟು ದೊಡ್ಡದು. ಹತ್ತು ಲಕ್ಷ ತುಂಡುಗಳಿಗಿಂತ ಕಡಿಮೆ ಇರುವ ಹೆಚ್ಚಿನ RAG ಯೋಜನೆಗಳಿಗೆ, 768 ರಿಂದ 1024 ಆಯಾಮಗಳು ಉತ್ತಮ ಫಲಿತಾಂಶ ನೀಡುತ್ತವೆ.

ಮಿತಿಗಳು ಮತ್ತು ಅಪಾಯಗಳು

  • ಇನ್‌ಪುಟ್ ಮಿತಿಗಳು: "Max input" ಮೌಲ್ಯಕ್ಕಿಂತ ಮೇಲಿನ ಪಠ್ಯ ಕತ್ತರಿಸಲ್ಪಡಬಹುದು ಅಥವಾ ತಿರಸ್ಕೃತವಾಗಬಹುದು. ಎಂಬೆಡ್ ಮಾಡುವ ಮೊದಲು ದಾಖಲೆಗಳನ್ನು 300 ರಿಂದ 800 ಟೋಕನ್ ತುಂಡುಗಳಾಗಿ ವಿಭಜಿಸಿ.
  • ಪ್ರತಿ ಸ್ಟೋರ್‌ಗೆ ಒಂದು ಕುಟುಂಬ: ಒಂದೇ ಇಂಡೆಕ್ಸ್‌ನಲ್ಲಿ ಎರಡು ಕುಟುಂಬಗಳ ವೆಕ್ಟರ್‌ಗಳನ್ನು ಮಿಶ್ರಣ ಮಾಡಬೇಡಿ. ಮಾಡೆಲ್‌ಗಳಾದ್ಯಂತ ಸಾಮ್ಯತೆ ಅಂಕಗಳಿಗೆ ಅರ್ಥವಿಲ್ಲ.
  • ನಾರ್ಮಲೈಸೇಶನ್: 3072 ಕ್ಕಿಂತ ಕಡಿಮೆ ಆಯಾಮಗಳ gemini-embedding-001 ವೆಕ್ಟರ್‌ಗಳನ್ನು ನೀವೇ ನಾರ್ಮಲೈಸ್ ಮಾಡಬೇಕು ಎಂದು Google ಹೇಳುತ್ತದೆ. ಸ್ಕೋರ್ ಆಗಿ ಡಾಟ್ ಪ್ರಾಡಕ್ಟ್ ಬಳಸುವ ಮೊದಲು ಎಲ್ಲಾ ವೆಕ್ಟರ್‌ಗಳನ್ನು ನಾರ್ಮಲೈಸ್ ಮಾಡಿ.
  • ರೇಟ್ ಮಿತಿಗಳು: ಉಚಿತ ಶ್ರೇಣಿಗಳು ನಿಮಿಷ ಅಥವಾ ದಿನಕ್ಕೆ ವಿನಂತಿಗಳನ್ನು ಎಣಿಸುತ್ತವೆ. ಸ್ಟ್ರಿಂಗ್‌ಗಳ ಬ್ಯಾಚ್‌ಗಳನ್ನು ಒಂದೇ ವಿನಂತಿಯಲ್ಲಿ ಕಳುಹಿಸಿ, ಪ್ರತಿ ಸ್ಟ್ರಿಂಗ್‌ಗೆ ಒಂದು ವಿನಂತಿ ಅಲ್ಲ.
  • ಅನಾಮಧೇಯ ಶ್ರೇಣಿಗಳು: OVH AI Endpoints ಕೀ ಇಲ್ಲದೆ ಪ್ರತಿ IP ವಿಳಾಸ ಮತ್ತು ಮಾಡೆಲ್‌ಗೆ ನಿಮಿಷಕ್ಕೆ 2 ವಿನಂತಿಗಳನ್ನು ಅನುಮತಿಸುತ್ತದೆ. ಇದನ್ನು ಫಾಲ್‌ಬ್ಯಾಕ್ ಆಗಿ ಬಳಸಿ, ದೊಡ್ಡ ಪ್ರಮಾಣದ ಇಂಡೆಕ್ಸಿಂಗ್‌ಗಲ್ಲ.
ಸಲಹೆ: ಆಯ್ಕೆ ಮಾಡಿದ ಕುಟುಂಬದಲ್ಲಿ ಕನಿಷ್ಠ ಎರಡು ಪ್ರೊವೈಡರ್‌ಗಳನ್ನು ಇರಿಸಿ. ಆಗ ಒಂದು ಪ್ರೊವೈಡರ್‌ನಲ್ಲಿ 429 ದೋಷ ಬಂದರೂ ನಿಮ್ಮ ಇಂಡೆಕ್ಸಿಂಗ್ ಕಾರ್ಯ ನಿಲ್ಲುವುದಿಲ್ಲ.

ದೋಷ ನಿವಾರಣೆ

ಸಮಸ್ಯೆಕಾರಣಪರಿಹಾರ
ಬೃಹತ್ ಇಂಡೆಕ್ಸಿಂಗ್ ಸಮಯದಲ್ಲಿ ದೋಷ 429ಕುಟುಂಬಕ್ಕೆ ಪ್ರೊವೈಡರ್ ಮಿತಿ ತಲುಪಿದೆಅದೇ ಕುಟುಂಬಕ್ಕೆ ಎರಡನೇ ಪ್ರೊವೈಡರ್ ಕೀ ಸೇರಿಸಿ, ಅಥವಾ ಪ್ರತಿ ನಿಮಿಷ ಕಡಿಮೆ ವಿನಂತಿಗಳನ್ನು ಕಳುಹಿಸಿ
ಬದಲಾವಣೆಯ ನಂತರ ಹುಡುಕಾಟ ಫಲಿತಾಂಶಗಳು ತಪ್ಪುದಾಖಲೆಗಳು ಮತ್ತು ಪ್ರಶ್ನೆಗಳು ವಿಭಿನ್ನ ಕುಟುಂಬಗಳನ್ನು ಬಳಸುತ್ತವೆಎರಡಕ್ಕೂ ಒಂದೇ model ಮೌಲ್ಯ ಬಳಸಿ. ಬದಲಿಸಿದ್ದರೆ ದಾಖಲೆಗಳನ್ನು ಮತ್ತೆ ಎಂಬೆಡ್ ಮಾಡಿ
ವೆಕ್ಟರ್ ಉದ್ದ ನೀವು ನಿರೀಕ್ಷಿಸಿದಂತಿಲ್ಲauto ಡೀಫಾಲ್ಟ್ ಕುಟುಂಬವನ್ನು ಬಳಸುತ್ತದೆಸ್ಪಷ್ಟ ಕುಟುಂಬದ ಹೆಸರು ಹೊಂದಿಸಿ, ಅಥವಾ Models, Embeddings ನಲ್ಲಿ ಡೀಫಾಲ್ಟ್ ಪರಿಶೀಲಿಸಿ
ದೀರ್ಘ ಪಠ್ಯಗಳಿಗೆ ಕಳಪೆ ಹೊಂದಾಣಿಕೆಪಠ್ಯ ಇನ್‌ಪುಟ್ ಮಿತಿಗಿಂತ ಉದ್ದವಾಗಿದೆಪಠ್ಯವನ್ನು ಚಿಕ್ಕ ತುಂಡುಗಳಾಗಿ ವಿಭಜಿಸಿ
ದೋಷ 401ಏಕೀಕೃತ ಕೀ ತಪ್ಪಾಗಿದೆ ಅಥವಾ ಇಲ್ಲKeys ಪುಟದಿಂದ ಏಕೀಕೃತ ಕೀಯನ್ನು ಮತ್ತೆ ನಕಲಿಸಿ
ಇವೆಲ್ಲವನ್ನೂ ಒಂದೇ ಕೀ ಮೂಲಕ ಬಳಸಿ. FreeLLMAPI ಒಂದು ಮುಕ್ತ ಮೂಲದ, ಸ್ವಯಂ-ಹೋಸ್ಟ್ ಮಾಡಿದ ರೂಟರ್ ಆಗಿದೆ. ಇದು ಈ ಎಲ್ಲಾ ಉಚಿತ ಶ್ರೇಣಿಗಳನ್ನು ಒಂದೇ OpenAI-ಹೊಂದಾಣಿಕೆಯ ಎಂಡ್‌ಪಾಯಿಂಟ್ ಹಿಂದೆ ಇಡುತ್ತದೆ ಮತ್ತು ಒಂದು ಮಿತಿಗೆ ಒಳಪಟ್ಟಾಗ ಬದಲಾಯಿಸುತ್ತದೆ. ಕ್ಯಾಟಲಾಗ್ ನೋಡಿ ಅಥವಾ ಲೈವ್ ಆಗಿ.

ಪದೇ ಪದೇ ಕೇಳುವ ಪ್ರಶ್ನೆಗಳು

ಉಚಿತ ಎಂಬೆಡಿಂಗ್ಸ್ API ಇದೆಯೇ?

ಹೌದು. Google AI Studio, Cloudflare Workers AI, Cohere, NVIDIA, Mistral, OVH ಮತ್ತು ಇತರರು ಮಿತಿಗಳೊಂದಿಗೆ ಉಚಿತ ಎಂಬೆಡಿಂಗ್ ಮಾಡೆಲ್‌ಗಳನ್ನು ನೀಡುತ್ತಾರೆ. FreeLLMAPI ಅವುಗಳಲ್ಲಿ 41 ಅನ್ನು ಒಂದೇ OpenAI-ಹೊಂದಾಣಿಕೆಯ ಎಂಡ್‌ಪಾಯಿಂಟ್ ಹಿಂದೆ ಇರಿಸುತ್ತದೆ.

ಉಚಿತ ಎಂಬೆಡಿಂಗ್ಸ್‌ಗೆ OpenAI SDK ಬಳಸಬಹುದೇ?

ಹೌದು. ಬೇಸ್ URL ಅನ್ನು http://localhost:3001/v1 ಗೆ ಹೊಂದಿಸಿ ಮತ್ತು ನಿಮ್ಮ ಏಕೀಕೃತ ಕೀ ಬಳಸಿ. ನಂತರ bge-m3 ನಂತಹ ಕುಟುಂಬದ ಹೆಸರಿನೊಂದಿಗೆ client.embeddings.create ಕರೆ ಮಾಡಿ.

FreeLLMAPI ಬೇರೆ ಎಂಬೆಡಿಂಗ್ ಮಾಡೆಲ್‌ಗೆ ಏಕೆ ಫೇಲ್‌ಓವರ್ ಆಗುವುದಿಲ್ಲ?

ವಿಭಿನ್ನ ಮಾಡೆಲ್‌ಗಳ ವೆಕ್ಟರ್‌ಗಳು ಹೊಂದಾಣಿಕೆಯಾಗುವುದಿಲ್ಲ. ಮೌನ ಮಾಡೆಲ್ ಬದಲಾವಣೆ ಸಾಮ್ಯತೆ ಹುಡುಕಾಟವನ್ನು ಮುರಿಯುತ್ತದೆ. ರೂಟರ್ ಒಂದೇ ಮಾಡೆಲ್ ಕುಟುಂಬವನ್ನು ನೀಡುವ ಪ್ರೊವೈಡರ್‌ಗಳ ನಡುವೆ ಮಾತ್ರ ಫೇಲ್‌ಓವರ್ ಮಾಡುತ್ತದೆ.

RAG ಗೆ ಉತ್ತಮ ಉಚಿತ ಎಂಬೆಡಿಂಗ್ ಮಾಡೆಲ್ ಯಾವುದು?

ಹೆಚ್ಚಿನ ಯೋಜನೆಗಳಿಗೆ bge-m3 ಉತ್ತಮ ಡೀಫಾಲ್ಟ್. ಇದರಲ್ಲಿ 1024 ಆಯಾಮಗಳು, 8,192-ಟೋಕನ್ ಇನ್‌ಪುಟ್ ಮಿತಿ ಮತ್ತು ಹಲವು ಉಚಿತ ಪ್ರೊವೈಡರ್‌ಗಳಿವೆ. 3072 ಆಯಾಮಗಳು ಬೇಕಿದ್ದು Google ಕೀ ಇದ್ದರೆ gemini-embedding-001 ಬಳಸಿ.

ನನ್ನ ಎಂಬೆಡಿಂಗ್ಸ್ ಎಷ್ಟು ಆಯಾಮಗಳನ್ನು ಹೊಂದಿರಬೇಕು?

ಹೆಚ್ಚಿನ ಹುಡುಕಾಟ ಮತ್ತು RAG ಕೆಲಸಕ್ಕೆ 768 ರಿಂದ 1024 ಆಯಾಮಗಳನ್ನು ಬಳಸಿ. ದೊಡ್ಡ ವೆಕ್ಟರ್‌ಗಳು ಹೆಚ್ಚು ಸಂಗ್ರಹಣೆ ಮತ್ತು ಮೆಮೊರಿ ಬಳಸುತ್ತವೆ. ಗಾತ್ರವನ್ನು ಒಮ್ಮೆ ಆರಿಸಿ, ಏಕೆಂದರೆ ಬದಲಾವಣೆ ಎಂದರೆ ಎಲ್ಲಾ ದಾಖಲೆಗಳನ್ನು ಮತ್ತೆ ಎಂಬೆಡ್ ಮಾಡಬೇಕು.

ಸಂಬಂಧಿತ ಮಾರ್ಗದರ್ಶಿಗಳು

ಮೂಲಗಳು

ಎಲ್ಲಾ ಮಾರ್ಗದರ್ಶಿಗಳು · ಎಲ್ಲಾ ಉಚಿತ ಮಾದರಿಗಳನ್ನು ನೋಡಿ