Laman utama / Panduan / Base URL API percuma yang serasi dengan OpenAI

Base URL API percuma yang serasi dengan OpenAI

Kebanyakan penyedia LLM percuma menerima format API OpenAI. Anda menukar dua nilai dalam klien anda: base URL dan kunci API. Halaman ini menyenaraikan base URL bagi setiap penyedia percuma, yang disemak pada dokumentasi penyedia itu sendiri.

Kod, nama model dan label katalog langsung dipaparkan dalam bahasa Inggeris.

Base URL penyedia percuma

Disemak pada dokumentasi penyedia
PenyediaBase URL yang serasi dengan OpenAIKunci
Google AI Studio (Gemini)https://generativelanguage.googleapis.com/v1beta/openai/Kunci API Gemini
Groqhttps://api.groq.com/openai/v1Kunci API Groq
OpenRouterhttps://openrouter.ai/api/v1Kunci OpenRouter. Guna ID model yang berakhir dengan :free.
NVIDIA API Cataloghttps://integrate.api.nvidia.com/v1Kunci API NVIDIA
Cloudflare Workers AIhttps://api.cloudflare.com/client/v4/accounts/<account-id>/ai/v1Token API Cloudflare
Coherehttps://api.cohere.ai/compatibility/v1Kunci percubaan atau kunci pengeluaran Cohere
Z.ai (Zhipu)https://api.z.ai/api/paas/v4/Kunci API Z.ai
OVHcloud AI Endpointshttps://oai.endpoints.kepler.ai.cloud.ovh.net/v1Pilihan. Penggunaan tanpa nama dibenarkan pada had yang rendah.
Kilo Gatewayhttps://ai-gateway.kilo.ai/api/v1Pilihan untuk model percuma
AI Hordehttps://oai.aihorde.net/v1Kunci Horde, atau kunci tanpa nama 0000000000
Mistralhttps://api.mistral.ai/v1Kunci Mistral. API memerlukan pengaktifan pengebilan.
Scaleway Generative APIshttps://api.scaleway.ai/v1Kunci rahsia Scaleway
Nota: sesetengah SDK menambah /chat/completions pada base URL. Jangan letakkan /chat/completions dalam base URL sendiri. Kekalkan laluan akhir tepat seperti yang ditunjukkan.

Cara menukar base URL dalam klien anda

SDK OpenAI membaca base URL daripada parameter atau daripada pembolehubah persekitaran. Contoh ini menggunakan Groq. Tukar URL, kunci dan ID model untuk penyedia yang lain.

Python (SDK OpenAI)

from openai import OpenAI

client = OpenAI(
    base_url="https://api.groq.com/openai/v1",
    api_key="<groq-key>",
)
resp = client.chat.completions.create(
    model="openai/gpt-oss-20b",
    messages=[{"role": "user", "content": "Say hello"}],
)
print(resp.choices[0].message.content)

Pembolehubah persekitaran

export OPENAI_BASE_URL=https://api.groq.com/openai/v1
export OPENAI_API_KEY=<groq-key>

Banyak alat, contohnya Open WebUI, Cline dan Aider, mempunyai medan untuk base URL yang serasi dengan OpenAI. Letakkan URL daripada jadual dalam medan itu.

Uji base URL sebelum anda menggunakannya

Buat dua semakan sebelum anda mengkonfigurasi alat. Pertama, senaraikan model. Semakan ini menunjukkan bahawa URL dan kunci adalah betul. Kedua, hantar satu permintaan sembang yang pendek. Semakan ini menunjukkan bahawa ID model sah dan anda mempunyai kuota.

Semak URL, kunci dan satu model

BASE=https://api.groq.com/openai/v1
KEY=<groq-key>

# 1. List the models
curl -s $BASE/models -H "Authorization: Bearer $KEY" | head -c 600

# 2. Send one short request
curl -s $BASE/chat/completions \
  -H "Authorization: Bearer $KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "ping"}], "max_tokens": 200}'

Jangan tetapkan nilai max_tokens yang sangat kecil pada model penaakulan. Sesetengah model percuma menggunakan token penaakulan tersembunyi sebelum jawapan yang kelihatan. Dengan had yang kecil, respons boleh berhenti dengan jawapan kosong.

Jika semakan pertama memulangkan 401, kunci itu salah untuk URL ini. Jika semakan kedua memulangkan 429, URL dan kunci adalah betul, tetapi had percuma telah dicapai. Baca pengepala had kadar penyedia untuk mencari masa tetapan semula.

Jurang keserasian yang perlu diketahui

"Serasi dengan OpenAI" tidak bermakna setiap parameter berfungsi. Setiap penyedia menyokong subset yang berbeza.

  • Groq: permintaan dengan logprobs, logit_bias, top_logprobs, messages[].name atau n selain daripada 1 memulangkan ralat 400. Nilai temperature 0 bertukar kepada 1e-8.
  • Cloudflare: URL mengandungi ID akaun anda. Token dihantar sebagai token Bearer.
  • AI Horde: titik akhir menyokong /v1/chat/completions dan /v1/models. Sukarelawan menjalankan model, jadi kelajuan dan senarai model berubah.
  • ID model: setiap penyedia menggunakan nama model sendiri. Baca GET /v1/models pada setiap base URL untuk mendapatkan ID yang sah.

Model percuma yang boleh anda panggil hari ini

Model percuma ini menyokong panggilan alat dan mempunyai tetingkap konteks sekurang-kurangnya 128K token. Jadual menunjukkan penyedia yang menyediakan setiap model secara percuma.

Model percuma dengan panggilan alat dan konteks 128K+
ModelPercuma padaKonteksHad percuma (tawaran terbaik)AlatPenglihatan
GLM 5.3 FlashNVIDIA NIM1M40 permintaan/minit
40 RPM
YaTidak
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaYaYa
Gemini 3.7 FlashGoogle AI Studio1M10 permintaan/minit
20 permintaan/hari
250,000 token/minit
~3M
YaYa
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 permintaan/minit
50 permintaan/hari
50 req/day account-wide (1,000 after a $10 purchase)
YaYa
Qwen3.8 27BGroq, OVH AI Endpoints262K30 permintaan/minit
250 permintaan/hari
70,000 token/minit
~6M
YaYa
Gemini 3.6 FlashGoogle AI Studio1M10 permintaan/minit
20 permintaan/hari
250,000 token/minit
~3M
YaYa
Qwen 3.8 27BCloudflare Workers AI262KShared 10k neurons/dayYaYa
Gemini 3.5 FlashGoogle AI Studio1M10 permintaan/minit
20 permintaan/hari
250,000 token/minit
~3M
YaYa
Nemotron 3 Ultra 550BKilo Gateway, NVIDIA NIM, OpenRouter1M20 permintaan/minit
50 permintaan/hari
50 req/day account-wide (1,000 after a $10 purchase)
YaTidak
Gemini 3.5 Flash LiteGoogle AI Studio1M15 permintaan/minit
20 permintaan/hari
250,000 token/minit
~3M
YaYa
Qwen3.6 27BOVH AI Endpoints131K2 permintaan/minit
2/min per IP
YaTidak
Muse Glimmer 30BNVIDIA NIM131K40 permintaan/minit
40 RPM
YaYa

Memaparkan 12 daripada 46 model percuma yang sepadan. Lihat semua model.

Data langsung daripada katalog FreeLLMAPI (versi 2026.11.19, disemak 2026-11-19). Had percuma kerap berubah. Katalog disemak setiap hari.

Satu base URL untuk setiap penyedia percuma

Setiap base URL dalam jadual mempunyai kunci dan had kadarnya sendiri. Apabila satu penyedia menghantar ralat 429, kod anda mesti bertukar ke URL lain. FreeLLMAPI memberikan anda satu base URL yang serasi dengan OpenAI. Ia dijalankan pada komputer anda dan menghantar setiap permintaan ke penyedia percuma yang masih mempunyai kuota.

Pasang dan panggil base URL tempatan

curl -fsSL https://freellmapi.co/install.sh | bash

export OPENAI_BASE_URL=http://localhost:3001/v1
export OPENAI_API_KEY=<unified-key>

curl $OPENAI_BASE_URL/chat/completions \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "auto", "messages": [{"role": "user", "content": "hi"}]}'
  • Tambah kunci penyedia anda pada halaman Keys di http://localhost:3001.
  • Guna auto untuk membenarkan penghala memilih. Guna auto:fast atau auto:smart untuk mengutamakan kelajuan atau kecerdasan. Anda juga boleh menghantar ID model.
  • Pengepala respons X-Routed-Via menunjukkan penyedia dan model yang menjawab.
  • Pelayan yang sama juga mempunyai /v1/messages untuk klien Anthropic dan /v1beta untuk Gemini CLI.

FreeLLMAPI menggunakan tier percuma, jadi had kadar setiap penyedia tetap terpakai. Failover mengagihkan beban merentasi penyedia, tetapi ia tidak menghapuskan had.

Penyelesaian masalah

MasalahPuncaPenyelesaian
404 Not FoundBase URL mempunyai laluan yang salah, atau mengandungi /chat/completionsGuna base URL daripada jadual dengan tepat
401 UnauthorizedKunci itu untuk penyedia yang lainGuna kunci daripada penyedia yang sama dengan base URL
400 pada permintaan yang sahPenyedia tidak menyokong satu parameterBuang parameter seperti logprobs atau n
Model not foundID model itu daripada penyedia yang lainPanggil GET /v1/models pada base URL
429 Too Many RequestsHad percuma telah dicapaiTunggu tetapan semula, atau guna gerbang yang melakukan failover
Guna setiap satu daripada ini melalui satu kunci. FreeLLMAPI ialah penghala sumber terbuka yang anda hoskan sendiri. Ia meletakkan semua peringkat percuma ini di belakang satu titik akhir serasi OpenAI dan beralih ke pembekal lain apabila had kadar dicapai. Layari katalog atau mula sekarang.

Soalan lazim

Apakah base URL yang serasi dengan OpenAI untuk Gemini?

Google mendokumentasikan https://generativelanguage.googleapis.com/v1beta/openai/ sebagai base URL. Guna kunci API Gemini anda daripada AI Studio sebagai kunci API.

Apakah base URL OpenAI untuk Groq?

Groq mendokumentasikan https://api.groq.com/openai/v1. Guna kunci API Groq dan ID model Groq.

Adakah terdapat API percuma yang serasi dengan OpenAI tanpa kunci?

Ada, dengan had yang rendah. OVHcloud AI Endpoints membenarkan 2 permintaan tanpa nama seminit bagi setiap IP dan model. Kilo Gateway membenarkan 200 permintaan tanpa nama sejam ke model percuma.

Bolehkah saya guna SDK Python OpenAI dengan penyedia percuma?

Boleh. Tetapkan base_url kepada URL penyedia dan api_key kepada kunci penyedia. Guna ID model daripada penyedia itu.

Bagaimana saya menggunakan banyak penyedia percuma dengan satu base URL?

Jalankan gerbang seperti FreeLLMAPI pada komputer anda. Halakan klien anda ke http://localhost:3001/v1 dengan satu kunci bersatu, dan penghala memilih penyedia bagi setiap permintaan.

Panduan berkaitan

Sumber

Semua panduan · Lihat semua model percuma