Головна / Посібники / Базові URL безкоштовних API, сумісних з OpenAI

Базові URL безкоштовних API, сумісних з OpenAI

Більшість безкоштовних провайдерів LLM приймають формат API OpenAI. У вашому клієнті змінюються два значення: базова URL і ключ API. На цій сторінці перелічено базову URL кожного безкоштовного провайдера, перевірену за власною документацією провайдера.

Код, назви моделей і мітки живого каталогу показано англійською.

Базові URL безкоштовних провайдерів

Перевірено за документацією провайдерів
ПровайдерБазова URL, сумісна з OpenAIКлюч
Google AI Studio (Gemini)https://generativelanguage.googleapis.com/v1beta/openai/Ключ API Gemini
Groqhttps://api.groq.com/openai/v1Ключ API Groq
OpenRouterhttps://openrouter.ai/api/v1Ключ OpenRouter. Використовуйте ідентифікатори моделей, які закінчуються на :free.
NVIDIA API Cataloghttps://integrate.api.nvidia.com/v1Ключ API NVIDIA
Cloudflare Workers AIhttps://api.cloudflare.com/client/v4/accounts/<account-id>/ai/v1Токен API Cloudflare
Coherehttps://api.cohere.ai/compatibility/v1Пробний або промисловий ключ Cohere
Z.ai (Zhipu)https://api.z.ai/api/paas/v4/Ключ API Z.ai
OVHcloud AI Endpointshttps://oai.endpoints.kepler.ai.cloud.ovh.net/v1Необов'язково. Анонімне використання дозволено з низьким лімітом.
Kilo Gatewayhttps://ai-gateway.kilo.ai/api/v1Необов'язково для безкоштовних моделей
AI Hordehttps://oai.aihorde.net/v1Ключ Horde або анонімний ключ 0000000000
Mistralhttps://api.mistral.ai/v1Ключ Mistral. Для API потрібна активація оплати.
Scaleway Generative APIshttps://api.scaleway.ai/v1Секретний ключ Scaleway
Примітка: деякі SDK додають /chat/completions до базової URL. Не додавайте /chat/completions до базової URL самі. Залишайте кінцевий шлях точно таким, як показано.

Як змінити базову URL у вашому клієнті

SDK OpenAI читають базову URL з параметра або зі змінної середовища. Цей приклад використовує Groq. Змініть URL, ключ і ідентифікатор моделі для іншого провайдера.

Python (SDK OpenAI)

from openai import OpenAI

client = OpenAI(
    base_url="https://api.groq.com/openai/v1",
    api_key="<groq-key>",
)
resp = client.chat.completions.create(
    model="openai/gpt-oss-20b",
    messages=[{"role": "user", "content": "Say hello"}],
)
print(resp.choices[0].message.content)

Змінні середовища

export OPENAI_BASE_URL=https://api.groq.com/openai/v1
export OPENAI_API_KEY=<groq-key>

Багато інструментів, наприклад Open WebUI, Cline і Aider, мають поле для базової URL, сумісної з OpenAI. Вставте в це поле URL з таблиці.

Перевірте базову URL перед використанням

Виконайте дві перевірки перед налаштуванням інструмента. Спочатку перелічіть моделі. Ця перевірка показує, що URL і ключ правильні. Потім надішліть один короткий запит чату. Ця перевірка показує, що ідентифікатор моделі дійсний і що у вас є квота.

Перевірте URL, ключ і одну модель

BASE=https://api.groq.com/openai/v1
KEY=<groq-key>

# 1. List the models
curl -s $BASE/models -H "Authorization: Bearer $KEY" | head -c 600

# 2. Send one short request
curl -s $BASE/chat/completions \
  -H "Authorization: Bearer $KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "ping"}], "max_tokens": 200}'

Не встановлюйте дуже малий max_tokens для моделей міркування. Деякі безкоштовні моделі використовують приховані токени міркування перед видимою відповіддю. З малим лімітом відповідь може завершитися порожньою.

Якщо перша перевірка повертає 401, ключ неправильний для цієї URL. Якщо друга перевірка повертає 429, URL і ключ правильні, але безкоштовний ліміт досягнуто. Прочитайте заголовки ліміту частоти провайдера, щоб знайти час скидання.

Відомі розбіжності у сумісності

«Сумісний з OpenAI» не означає, що кожен параметр працює. Кожен провайдер підтримує різну підмножину.

  • Groq: запити з logprobs, logit_bias, top_logprobs, messages[].name або n, що не дорівнює 1, повертають помилку 400. Значення temperature 0 змінюється на 1e-8.
  • Cloudflare: URL містить ідентифікатор вашого облікового запису. Токен надсилається як токен Bearer.
  • AI Horde: endpoint підтримує /v1/chat/completions і /v1/models. Моделі запускають волонтери, тому швидкість і список моделей змінюються.
  • Ідентифікатори моделей: кожен провайдер використовує власні назви моделей. Прочитайте GET /v1/models на кожній базовій URL, щоб отримати дійсні ідентифікатори.

Безкоштовні моделі, які можна викликати сьогодні

Ці безкоштовні моделі підтримують виклик інструментів і мають контекстне вікно щонайменше 128K токенів. У таблиці наведено провайдерів, які безкоштовно обслуговують кожну модель.

Безкоштовні моделі з викликом інструментів і контекстом 128K+
МодельБезкоштовно наКонтекстБезкоштовні ліміти (найкращі)ІнструментиЗображення
GLM 5.3 FlashNVIDIA NIM1M40 запитів/хв
40 RPM
ТакНі
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaТакТак
Gemini 3.7 FlashGoogle AI Studio1M10 запитів/хв
20 запитів/добу
250,000 токенів/хв
~3M
ТакТак
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 запитів/хв
50 запитів/добу
50 req/day account-wide (1,000 after a $10 purchase)
ТакТак
Qwen3.8 27BGroq, OVH AI Endpoints262K30 запитів/хв
250 запитів/добу
70,000 токенів/хв
~6M
ТакТак
Gemini 3.6 FlashGoogle AI Studio1M10 запитів/хв
20 запитів/добу
250,000 токенів/хв
~3M
ТакТак
Qwen 3.8 27BCloudflare Workers AI262KShared 10k neurons/dayТакТак
Gemini 3.5 FlashGoogle AI Studio1M10 запитів/хв
20 запитів/добу
250,000 токенів/хв
~3M
ТакТак
Nemotron 3 Ultra 550BKilo Gateway, NVIDIA NIM, OpenRouter1M20 запитів/хв
50 запитів/добу
50 req/day account-wide (1,000 after a $10 purchase)
ТакНі
Gemini 3.5 Flash LiteGoogle AI Studio1M15 запитів/хв
20 запитів/добу
250,000 токенів/хв
~3M
ТакТак
Qwen3.6 27BOVH AI Endpoints131K2 запитів/хв
2/min per IP
ТакНі
Muse Glimmer 30BNVIDIA NIM131K40 запитів/хв
40 RPM
ТакТак

Показано 12 із 46 відповідних безкоштовних моделей. Переглянути всі моделі.

Дані в реальному часі з каталогу FreeLLMAPI (версія 2026.11.19, перевірено 2026-11-19). Безкоштовні ліміти часто змінюються. Каталог перевіряється щодня.

Одна базова URL для кожного безкоштовного провайдера

Кожна базова URL у таблиці має власний ключ і власний ліміт частоти запитів. Коли один провайдер надсилає помилку 429, ваш код повинен перейти на іншу URL. FreeLLMAPI натомість надає одну базову URL, сумісну з OpenAI. Він працює на вашому комп'ютері і надсилає кожен запит до безкоштовного провайдера, який ще має квоту.

Встановлення і виклик локальної базової URL

curl -fsSL https://freellmapi.co/install.sh | bash

export OPENAI_BASE_URL=http://localhost:3001/v1
export OPENAI_API_KEY=<unified-key>

curl $OPENAI_BASE_URL/chat/completions \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "auto", "messages": [{"role": "user", "content": "hi"}]}'
  • Додайте ключі провайдерів на сторінці Keys за адресою http://localhost:3001.
  • Використовуйте auto, щоб маршрутизатор вибирав модель. Використовуйте auto:fast або auto:smart, щоб віддавати перевагу швидкості або інтелекту. Ви також можете надіслати ідентифікатор моделі.
  • Заголовок відповіді X-Routed-Via показує провайдера і модель, які відповіли.
  • Той самий сервер також має /v1/messages для клієнтів Anthropic і /v1beta для Gemini CLI.

FreeLLMAPI використовує безкоштовні тарифи, тому ліміти частоти кожного провайдера все одно діють. Перемикання на резервний варіант розподіляє навантаження між провайдерами, але не знімає ліміти.

Усунення несправностей

ПроблемаПричинаРішення
404 Not FoundБазова URL має неправильний шлях або містить /chat/completionsВикористайте базову URL з таблиці точно
401 UnauthorizedКлюч належить іншому провайдеруВикористайте ключ від того самого провайдера, що й базова URL
400 на дійсному запитіПровайдер не підтримує один параметрВидаліть параметри, такі як logprobs або n
Модель не знайденоІдентифікатор моделі належить іншому провайдеруВикличте GET /v1/models на базовій URL
429 Too Many RequestsДосягнуто безкоштовний лімітЗачекайте скидання або використайте шлюз, який перемикається на резервний варіант
Використовуйте кожну з цих моделей через один ключ. FreeLLMAPI це маршрутизатор з відкритим кодом, який ви розгортаєте самі. Він об'єднує всі ці безкоштовні тарифи за однією кінцевою точкою, сумісною з OpenAI, і переходить до наступного, коли один з них досягає ліміту. Переглянути каталог або або почніть роботу.

Часті запитання

Яка базова URL, сумісна з OpenAI, для Gemini?

Google документує https://generativelanguage.googleapis.com/v1beta/openai/ як базову URL. Використовуйте як ключ API ваш ключ Gemini з AI Studio.

Яка базова URL OpenAI для Groq?

Groq документує https://api.groq.com/openai/v1. Використовуйте ключ API Groq і ідентифікатор моделі Groq.

Чи є безкоштовний API, сумісний з OpenAI, без ключа?

Так, з низькими лімітами. OVHcloud AI Endpoints дозволяє 2 анонімні запити за хвилину для кожної IP-адреси і моделі. Kilo Gateway дозволяє 200 анонімних запитів за годину до безкоштовних моделей.

Чи можна використовувати Python SDK OpenAI з безкоштовними провайдерами?

Так. Встановіть base_url на URL провайдера, а api_key на ключ провайдера. Використовуйте ідентифікатор моделі від цього провайдера.

Як використовувати багато безкоштовних провайдерів з однією базовою URL?

Запустіть на своєму комп'ютері шлюз, наприклад FreeLLMAPI. Вкажіть у клієнті http://localhost:3001/v1 з одним єдиним ключем, і маршрутизатор вибере провайдера для кожного запиту.

Схожі посібники

Джерела

Усі посібники · Переглянути всі безкоштовні моделі