Laman utama / Panduan / API embeddings percuma

API embeddings percuma

API embeddings menukar teks kepada vektor untuk carian, RAG dan pengelompokan. Beberapa pembekal memberikan embeddings secara percuma. FreeLLMAPI meletakkan 41 model embedding percuma di belakang satu titik akhir /v1/embeddings. Panduan ini menunjukkan model, had dan kod yang berfungsi.

Kod, nama model dan label katalog langsung dipaparkan dalam bahasa Inggeris.

Cara embeddings percuma berfungsi dalam FreeLLMAPI

Titik akhir /v1/embeddings menggunakan format permintaan OpenAI. Mana-mana SDK OpenAI boleh memanggilnya. Anda menghantar teks, dan anda mendapat satu vektor bagi setiap rentetan input.

Embeddings menggunakan peraturan failover yang berbeza daripada sembang. Permintaan sembang boleh beralih ke model lain. Permintaan embedding tidak sekali-kali beralih ke model lain. Vektor daripada dua model tidak serasi, jadi perubahan model secara senyap akan merosakkan storan vektor anda.

  • Keluarga: FreeLLMAPI mengumpulkan pembekal mengikut keluarga. Keluarga ialah satu identiti model dengan satu saiz vektor, contohnya bge-m3 pada 1024 dimensi.
  • Failover: apabila satu pembekal dalam keluarga mencapai hadnya, penghala mencuba pembekal seterusnya yang menyediakan keluarga yang sama.
  • Lalai: model: "auto" menggunakan keluarga lalai. Anda menetapkan keluarga lalai pada halaman Models, Embeddings papan pemuka.

Model embedding percuma hari ini

Jadual menyenaraikan setiap model embedding percuma dalam katalog FreeLLMAPI. Data diambil daripada katalog langsung. "Max input" ialah bilangan maksimum token untuk satu rentetan input. "Free limit" ialah kuota percuma yang diterbitkan oleh pembekal.

ModelPembekalDimensiInput maksHad percuma
Gemini Embedding
gemini-embedding-001
Google AI Studio30722048100 rpm · 1K req/day
Nemotron Embed VL 1B
nvidia/llama-nemotron-embed-vl-1b-v2
NVIDIA NIM20488192~40 rpm
Nemotron 3 Embed 1B (OR free)
nvidia/nemotron-3-embed-1b:free
OpenRouter20483276820 rpm · shared free daily cap
SEA-LION E5 Embedding 600M
aisingapore/SEA-LION-E5-Embedding-600M
SEA-LION10248192free · 10 rpm
SEA-LION ModernBERT Embedding 300M
aisingapore/SEA-LION-ModernBERT-Embedding-300M
SEA-LION10248192free · 10 rpm
SEA-LION ModernBERT Embedding 600M
aisingapore/SEA-LION-ModernBERT-Embedding-600M
SEA-LION10248192free · 10 rpm
BGE-M3
@cf/baai/bge-m3
Cloudflare Workers AI1024819210K neurons/day (shared)
EmbeddingGemma 300M
@cf/google/embeddinggemma-300m
Cloudflare Workers AI768204810K neurons/day (shared)
Qwen3 Embedding 0.6B
@cf/qwen/qwen3-embedding-0.6b
Cloudflare Workers AI1024819210K neurons/day (shared)
Cohere Embed v4
embed-v4.0
Cohere15361280001K calls/mo (shared w/ chat)
Gemini Embedding 2
gemini-embedding-2
Google AI Studio30728192free-tier rate limited
Nemotron 3 Embed 1B
nvidia/nemotron-3-embed-1b
NVIDIA NIM20484096~40 rpm
PLaMo Embedding 1B (CF)
@cf/pfnet/plamo-embedding-1b
Cloudflare Workers AI2048409610K neurons/day (shared)
BGE Small EN v1.5 (CF)
@cf/baai/bge-small-en-v1.5
Cloudflare Workers AI38451210K neurons/day (shared)
BGE Base EN v1.5 (CF)
@cf/baai/bge-base-en-v1.5
Cloudflare Workers AI76851210K neurons/day (shared)
BGE Large EN v1.5 (CF)
@cf/baai/bge-large-en-v1.5
Cloudflare Workers AI102451210K neurons/day (shared)
Mistral Embed
mistral-embed
Mistral10248192free mode · monthly cap (shared)
Codestral Embed
codestral-embed
Mistral15368192free mode · monthly cap (shared)
Llama Text Embed v2 (Pinecone)
llama-text-embed-v2
Pinecone102420485M tokens/mo per model
Multilingual E5 Large (Pinecone)
multilingual-e5-large
Pinecone10245075M tokens/mo per model
Nemotron 3 Embed 1B (Speka)
nvidia/nemotron-3-embed-1b
Speka20488192$1/month shared across Speka models
OpenAI: Text Embedding 3 Small (ElectronHub)
text-embedding-3-small
ElectronHub15368192$0.25/week shared free credits
OpenAI: Text Embedding 3 Large (ElectronHub)
text-embedding-3-large
ElectronHub30728192$0.25/week shared free credits
Nemotron 3 Embed 8B (Inferbase)
nvidia-nemotron-3-embed-8b
Inferbase409681925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 0.6B (Inferbase)
qwen3-embedding-0-6b
Inferbase102481925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 4B (Inferbase)
qwen3-embedding-4b
Inferbase256081925,000 requests/month; 100 requests and $0.50 usage/day shared
Qwen 3 Embedding 8B (Inferbase)
qwen3-embedding-8b
Inferbase409681925,000 requests/month; 100 requests and $0.50 usage/day shared
LFM2.5 Embedding 350M (LLMTR)
liquid/lfm-2.5-embedding-350m-free
LLMTR1024512Ongoing zero-price route; provider terms apply
BGE-M3 (SEA-LION)
BAAI/bge-m3
SEA-LION10248192free · 10 rpm
Cohere Embed English v3
embed-english-v3.0
Cohere10245121K calls/mo (shared w/ chat)
Qwen3 Embedding 8B (OVH)
Qwen3-Embedding-8B
OVH AI Endpoints409632768free · anonymous 2 req/min per IP
BGE-M3 (OVH)
bge-m3
OVH AI Endpoints10248192free · anonymous 2 req/min per IP
BGE Multilingual Gemma2 (OVH)
bge-multilingual-gemma2
OVH AI Endpoints35848192free · anonymous 2 req/min per IP
Mistral: Codestral Embed (ElectronHub)
codestral-embed
ElectronHub15368192$0.25/week shared free credits
Mistral: Mistral Embed (ElectronHub)
mistral-embed
ElectronHub10248192$0.25/week shared free credits
Google: Gemini Embedding 2 (ElectronHub)
gemini-embedding-2
ElectronHub30728192$0.25/week shared free credits
Google: Gemini Embedding 001 (ElectronHub)
gemini-embedding-001
ElectronHub30722048$0.25/week shared free credits
OpenAI: Text Embedding Ada 002 (ElectronHub)
text-embedding-ada-002
ElectronHub15368192$0.25/week shared free credits
Cohere Embed English Light v3
embed-english-light-v3.0
Cohere3845121K calls/mo (shared w/ chat)
Cohere Embed Multilingual v3
embed-multilingual-v3.0
Cohere10245121K calls/mo (shared w/ chat)
Cohere Embed Multilingual Light v3
embed-multilingual-light-v3.0
Cohere3845121K calls/mo (shared w/ chat)

Data langsung daripada katalog FreeLLMAPI (versi 2026.11.19, disemak 2026-11-19). Had percuma kerap berubah. Katalog disemak setiap hari.

Sesetengah pembekal berkongsi satu kuota antara sembang dan embeddings. Contohnya, kunci percubaan Cohere membenarkan 1,000 panggilan API setiap bulan untuk semua titik akhir bersama. Cloudflare Workers AI memberikan 10,000 neuron setiap hari, dikongsi oleh semua model Workers AI pada akaun itu.

Langkah 1: Pasang FreeLLMAPI dan tambah kunci

FreeLLMAPI ialah sumber terbuka. Ia berjalan pada komputer anda dalam Docker. Kunci pembekal anda kekal pada komputer anda.

Pasang (macOS atau Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

Buka papan pemuka di http://localhost:3001. Tambah kunci pembekal anda pada halaman Keys. Untuk embeddings, kunci Google AI Studio dan kunci Cloudflare memberikan permulaan yang baik. Salin kunci bersatu anda daripada halaman yang sama.

Langkah 2: Panggil titik akhir embeddings

Hantar senarai rentetan untuk mendapat beberapa vektor dalam satu permintaan. Guna nilai model yang sama untuk dokumen dan untuk pertanyaan carian anda.

curl

curl http://localhost:3001/v1/embeddings \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"model": "bge-m3", "input": ["the quick brown fox", "a fast brown fox"]}'

Python: embed dan bandingkan dua teks

import math
from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")

resp = client.embeddings.create(
    model="bge-m3",  # a family name, "auto", or a provider model id
    input=["How do I reset my password?", "Steps to change a forgotten password"],
)
a, b = resp.data[0].embedding, resp.data[1].embedding
print(len(resp.data), "vectors of", len(a), "dimensions")

dot = sum(x * y for x, y in zip(a, b))
norm = math.sqrt(sum(x * x for x in a)) * math.sqrt(sum(y * y for y in b))
print("cosine similarity:", round(dot / norm, 3))

Medan model menerima tiga bentuk: auto, nama keluarga seperti bge-m3, atau ID model pembekal seperti @cf/baai/bge-m3. ID model pembekal diselesaikan kepada keluarganya, jadi failover tetap kekal dalam keluarga itu.

Model embedding percuma yang patut dipilih

Pilih model sekali untuk setiap storan vektor. Jika anda menukar model kemudian, anda mesti embed semua dokumen semula.

KeperluanKeluarga modelSebab
Teks Inggeris pendek atau berbilang bahasa, banyak pembekalbge-m31024 dimensi, 8,192 token input. Beberapa pembekal percuma menyediakannya, jadi failover mempunyai lebih banyak pilihan.
Pengambilan kualiti tinggi dengan kunci Googlegemini-embedding-0013072 dimensi. Had input ialah 2,048 token, jadi pecahkan dokumen panjang kepada bahagian kecil.
Dokumen panjang dalam satu vektorembed-v4.0 (Cohere)Tetingkap input yang besar. Kunci percubaan hanya membenarkan 1,000 panggilan setiap bulan, dikongsi dengan sembang.
Vektor kecil dan carian pantasbge-small-en-v1.5384 dimensi. Hanya Inggeris, dan had input ialah 512 token.
Carian kodcodestral-embedDilatih untuk kod. Ia menggunakan kuota mod percuma Mistral.

Vektor besar menggunakan lebih banyak storan dan memori dalam pangkalan data vektor. Vektor 3072 dimensi adalah tiga kali lebih besar daripada vektor 1024 dimensi. Bagi kebanyakan projek RAG di bawah satu juta bahagian, 768 hingga 1024 dimensi memberikan keputusan yang baik.

Had dan perangkap

  • Had input: teks melebihi nilai "Max input" boleh dipotong atau ditolak. Pecahkan dokumen kepada bahagian 300 hingga 800 token sebelum anda embed.
  • Satu keluarga bagi setiap storan: jangan campurkan vektor daripada dua keluarga dalam satu indeks. Skor kesamaan tidak bermakna merentas model.
  • Normalisasi: Google menyatakan bahawa vektor gemini-embedding-001 dengan kurang daripada 3072 dimensi mesti dinormalisasi oleh anda. Normalisasikan semua vektor sebelum anda guna dot product sebagai skor.
  • Had kadar: peringkat percuma mengira permintaan setiap minit atau setiap hari. Hantar kelompok rentetan dalam satu permintaan, bukan satu permintaan bagi setiap rentetan.
  • Peringkat tanpa nama: OVH AI Endpoints membenarkan 2 permintaan seminit bagi setiap alamat IP dan model tanpa kunci. Gunakannya sebagai sandaran, bukan untuk pengindeksan besar-besaran.
Tip: kekalkan sekurang-kurangnya dua pembekal dalam keluarga pilihan anda. Dengan itu, ralat 429 pada satu pembekal tidak menghentikan tugas pengindeksan anda.

Penyelesaian masalah

MasalahPuncaPenyelesaian
Ralat 429 semasa pengindeksan besar-besaranHad pembekal bagi keluarga itu telah dicapaiTambah kunci pembekal kedua untuk keluarga yang sama, atau hantar lebih sedikit permintaan setiap minit
Hasil carian salah selepas satu perubahanDokumen dan pertanyaan menggunakan keluarga yang berbezaGuna satu nilai model untuk kedua-duanya. Embed dokumen semula jika anda menukarnya
Panjang vektor tidak seperti yang dijangkaauto menggunakan keluarga lalaiTetapkan nama keluarga yang jelas, atau semak nilai lalai pada Models, Embeddings
Teks panjang memberikan padanan yang lemahTeks lebih panjang daripada had inputPecahkan teks kepada bahagian yang lebih kecil
Ralat 401Kunci bersatu salah atau tiadaSalin semula kunci bersatu daripada halaman Keys
Guna setiap satu daripada ini melalui satu kunci. FreeLLMAPI ialah penghala sumber terbuka yang anda hoskan sendiri. Ia meletakkan semua peringkat percuma ini di belakang satu titik akhir serasi OpenAI dan beralih ke pembekal lain apabila had kadar dicapai. Layari katalog atau mula sekarang.

Soalan lazim

Adakah terdapat API embeddings percuma?

Ada. Google AI Studio, Cloudflare Workers AI, Cohere, NVIDIA, Mistral, OVH dan lain-lain menyediakan model embedding percuma dengan had kadar. FreeLLMAPI meletakkan 41 daripadanya di belakang satu titik akhir yang serasi dengan OpenAI.

Bolehkah saya guna SDK OpenAI untuk embeddings percuma?

Boleh. Tetapkan base URL kepada http://localhost:3001/v1 dan guna kunci bersatu anda. Kemudian panggil client.embeddings.create dengan nama keluarga seperti bge-m3.

Mengapa FreeLLMAPI tidak beralih failover kepada model embedding yang berbeza?

Vektor daripada model yang berbeza tidak serasi. Perubahan model secara senyap akan merosakkan carian kesamaan. Penghala hanya beralih failover antara pembekal yang menyediakan keluarga model yang sama.

Apakah model embedding percuma terbaik untuk RAG?

Bagi kebanyakan projek, bge-m3 ialah lalai yang baik. Ia mempunyai 1024 dimensi, had input 8,192 token dan beberapa pembekal percuma. Guna gemini-embedding-001 jika anda mahu 3072 dimensi dan mempunyai kunci Google.

Berapa banyak dimensi yang patut ada pada embeddings saya?

Guna 768 hingga 1024 dimensi untuk kebanyakan kerja carian dan RAG. Vektor yang lebih besar menggunakan lebih banyak storan dan memori. Pilih saiz sekali sahaja, kerana perubahan bermakna anda mesti embed semua dokumen semula.

Panduan berkaitan

Sumber

Semua panduan · Lihat semua model percuma