ಮುಖಪುಟ / ಮಾರ್ಗದರ್ಶಿಗಳು / ಉಚಿತ OpenAI-ಹೊಂದಾಣಿಕೆಯ API Base URL ಗಳು

ಉಚಿತ OpenAI-ಹೊಂದಾಣಿಕೆಯ API Base URL ಗಳು

ಹೆಚ್ಚಿನ ಉಚಿತ LLM ಪೂರೈಕೆದಾರರು OpenAI API ಫಾರ್ಮ್ಯಾಟ್ ಸ್ವೀಕರಿಸುತ್ತಾರೆ. ನಿಮ್ಮ ಕ್ಲೈಂಟ್‌ನಲ್ಲಿ ನೀವು ಎರಡು ಮೌಲ್ಯಗಳನ್ನು ಬದಲಿಸುತ್ತೀರಿ: base URL ಮತ್ತು API ಕೀ. ಈ ಪುಟವು ಪ್ರತಿ ಉಚಿತ ಪೂರೈಕೆದಾರರ base URL ಅನ್ನು ಪಟ್ಟಿಮಾಡುತ್ತದೆ, ಪೂರೈಕೆದಾರರ ಸ್ವಂತ ದಾಖಲೆಗಳ ಮೇಲೆ ಪರಿಶೀಲಿಸಲಾಗಿದೆ.

ಕೋಡ್, ಮಾದರಿ ಹೆಸರುಗಳು ಮತ್ತು ನೇರ ಕ್ಯಾಟಲಾಗ್ ಲೇಬಲ್‌ಗಳನ್ನು ಇಂಗ್ಲಿಷ್‌ನಲ್ಲಿ ತೋರಿಸಲಾಗಿದೆ.

ಉಚಿತ ಪೂರೈಕೆದಾರರ base URL ಗಳು

ಪೂರೈಕೆದಾರರ ದಾಖಲೆಗಳ ಮೇಲೆ ಪರಿಶೀಲಿಸಲಾಗಿದೆ
ಪೂರೈಕೆದಾರOpenAI-ಹೊಂದಾಣಿಕೆಯ base URLಕೀ
Google AI Studio (Gemini)https://generativelanguage.googleapis.com/v1beta/openai/Gemini API ಕೀ
Groqhttps://api.groq.com/openai/v1Groq API ಕೀ
OpenRouterhttps://openrouter.ai/api/v1OpenRouter ಕೀ. :free ನಲ್ಲಿ ಕೊನೆಗೊಳ್ಳುವ ಮಾಡೆಲ್ ID ಗಳನ್ನು ಬಳಸಿ.
NVIDIA API Cataloghttps://integrate.api.nvidia.com/v1NVIDIA API ಕೀ
Cloudflare Workers AIhttps://api.cloudflare.com/client/v4/accounts/<account-id>/ai/v1Cloudflare API ಟೋಕನ್
Coherehttps://api.cohere.ai/compatibility/v1Cohere ಟ್ರಯಲ್ ಅಥವಾ ಉತ್ಪಾದನಾ ಕೀ
Z.ai (Zhipu)https://api.z.ai/api/paas/v4/Z.ai API ಕೀ
OVHcloud AI Endpointshttps://oai.endpoints.kepler.ai.cloud.ovh.net/v1ಐಚ್ಛಿಕ. ಕಡಿಮೆ ಮಿತಿಯಲ್ಲಿ ಅನಾಮಧೇಯ ಬಳಕೆ ಅನುಮತಿಸಲಾಗಿದೆ.
Kilo Gatewayhttps://ai-gateway.kilo.ai/api/v1ಉಚಿತ ಮಾಡೆಲ್‌ಗಳಿಗೆ ಐಚ್ಛಿಕ
AI Hordehttps://oai.aihorde.net/v1Horde ಕೀ, ಅಥವಾ ಅನಾಮಧೇಯ ಕೀ 0000000000
Mistralhttps://api.mistral.ai/v1Mistral ಕೀ. API ಗೆ ಬಿಲ್ಲಿಂಗ್ ಸಕ್ರಿಯಗೊಳಿಸುವಿಕೆ ಬೇಕು.
Scaleway Generative APIshttps://api.scaleway.ai/v1Scaleway ರಹಸ್ಯ ಕೀ
ಗಮನಿಸಿ: ಕೆಲವು SDK ಗಳು base URL ಗೆ /chat/completions ಸೇರಿಸುತ್ತವೆ. base URL ನಲ್ಲಿ ನೀವೇ /chat/completions ಹಾಕಬೇಡಿ. ಕೊನೆಯ ಮಾರ್ಗವನ್ನು ತೋರಿಸಿದಂತೆಯೇ ಇಡಿ.

ನಿಮ್ಮ ಕ್ಲೈಂಟ್‌ನಲ್ಲಿ base URL ಅನ್ನು ಹೇಗೆ ಬದಲಿಸುವುದು

OpenAI SDK ಗಳು base URL ಅನ್ನು ನಿಯತಾಂಕದಿಂದ ಅಥವಾ ಪರಿಸರ ವೇರಿಯಬಲ್‌ನಿಂದ ಓದುತ್ತವೆ. ಈ ಉದಾಹರಣೆ Groq ಬಳಸುತ್ತದೆ. ಬೇರೆ ಪೂರೈಕೆದಾರರಿಗೆ URL, ಕೀ ಮತ್ತು ಮಾಡೆಲ್ ID ಬದಲಿಸಿ.

Python (OpenAI SDK)

from openai import OpenAI

client = OpenAI(
    base_url="https://api.groq.com/openai/v1",
    api_key="<groq-key>",
)
resp = client.chat.completions.create(
    model="openai/gpt-oss-20b",
    messages=[{"role": "user", "content": "Say hello"}],
)
print(resp.choices[0].message.content)

ಪರಿಸರ ವೇರಿಯಬಲ್‌ಗಳು

export OPENAI_BASE_URL=https://api.groq.com/openai/v1
export OPENAI_API_KEY=<groq-key>

ಹಲವು ಉಪಕರಣಗಳು, ಉದಾಹರಣೆಗೆ Open WebUI, Cline ಮತ್ತು Aider, OpenAI-ಹೊಂದಾಣಿಕೆಯ base URL ಗಾಗಿ ಕ್ಷೇತ್ರ ಹೊಂದಿವೆ. ಕೋಷ್ಟಕದ URL ಅನ್ನು ಆ ಕ್ಷೇತ್ರದಲ್ಲಿ ಇಡಿ.

ಬಳಸುವ ಮೊದಲು base URL ಪರೀಕ್ಷಿಸಿ

ಉಪಕರಣವನ್ನು ಸಂರಚಿಸುವ ಮೊದಲು ಎರಡು ಪರಿಶೀಲನೆಗಳನ್ನು ಮಾಡಿ. ಮೊದಲು, ಮಾಡೆಲ್‌ಗಳನ್ನು ಪಟ್ಟಿಮಾಡಿ. ಈ ಪರಿಶೀಲನೆ URL ಮತ್ತು ಕೀ ಸರಿಯಾಗಿವೆ ಎಂದು ತೋರಿಸುತ್ತದೆ. ಎರಡನೆಯದು, ಒಂದು ಚಿಕ್ಕ ಚಾಟ್ ವಿನಂತಿ ಕಳುಹಿಸಿ. ಈ ಪರಿಶೀಲನೆ ಮಾಡೆಲ್ ID ಮಾನ್ಯವಾಗಿದೆ ಮತ್ತು ನಿಮಗೆ ಕೋಟಾ ಇದೆ ಎಂದು ತೋರಿಸುತ್ತದೆ.

URL, ಕೀ ಮತ್ತು ಒಂದು ಮಾಡೆಲ್ ಪರಿಶೀಲಿಸಿ

BASE=https://api.groq.com/openai/v1
KEY=<groq-key>

# 1. List the models
curl -s $BASE/models -H "Authorization: Bearer $KEY" | head -c 600

# 2. Send one short request
curl -s $BASE/chat/completions \
  -H "Authorization: Bearer $KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "openai/gpt-oss-20b", "messages": [{"role": "user", "content": "ping"}], "max_tokens": 200}'

ತರ್ಕ ಮಾಡೆಲ್‌ಗಳಲ್ಲಿ ತುಂಬಾ ಚಿಕ್ಕ max_tokens ಮೌಲ್ಯ ಹೊಂದಿಸಬೇಡಿ. ಕೆಲವು ಉಚಿತ ಮಾಡೆಲ್‌ಗಳು ಗೋಚರ ಉತ್ತರದ ಮೊದಲು ಗುಪ್ತ ತರ್ಕ ಟೋಕನ್‌ಗಳನ್ನು ಬಳಸುತ್ತವೆ. ಚಿಕ್ಕ ಮಿತಿಯಿಂದ, ಪ್ರತಿಕ್ರಿಯೆ ಖಾಲಿ ಉತ್ತರದೊಂದಿಗೆ ನಿಲ್ಲಬಹುದು.

ಮೊದಲ ಪರಿಶೀಲನೆ 401 ನೀಡಿದರೆ, ಈ URL ಗೆ ಕೀ ತಪ್ಪಾಗಿದೆ. ಎರಡನೆಯದು 429 ನೀಡಿದರೆ, URL ಮತ್ತು ಕೀ ಸರಿಯಾಗಿವೆ, ಆದರೆ ಉಚಿತ ಮಿತಿ ತಲುಪಿದೆ. ಮರುಹೊಂದಿಕೆಯ ಸಮಯ ಕಂಡುಹಿಡಿಯಲು ಪೂರೈಕೆದಾರರ ದರ ಮಿತಿ ಹೆಡರ್‌ಗಳನ್ನು ಓದಿ.

ತಿಳಿದಿರಬೇಕಾದ ಹೊಂದಾಣಿಕೆಯ ಅಂತರಗಳು

"OpenAI-ಹೊಂದಾಣಿಕೆಯ" ಎಂದರೆ ಪ್ರತಿ ನಿಯತಾಂಕ ಕೆಲಸ ಮಾಡುತ್ತದೆ ಎಂದಲ್ಲ. ಪ್ರತಿ ಪೂರೈಕೆದಾರರು ವಿಭಿನ್ನ ಉಪವಿಭಾಗವನ್ನು ಬೆಂಬಲಿಸುತ್ತಾರೆ.

  • Groq: logprobs, logit_bias, top_logprobs, messages[].name ಅಥವಾ 1 ಅಲ್ಲದ n ಇರುವ ವಿನಂತಿಗಳು ದೋಷ 400 ನೀಡುತ್ತವೆ. temperature 0 ಆದರೆ 1e-8 ಆಗುತ್ತದೆ.
  • Cloudflare: URL ನಲ್ಲಿ ನಿಮ್ಮ ಖಾತೆ ID ಇರುತ್ತದೆ. ಟೋಕನ್ Bearer ಟೋಕನ್ ಆಗಿ ಕಳುಹಿಸಲ್ಪಡುತ್ತದೆ.
  • AI Horde: ಎಂಡ್‌ಪಾಯಿಂಟ್ /v1/chat/completions ಮತ್ತು /v1/models ಅನ್ನು ಬೆಂಬಲಿಸುತ್ತದೆ. ಸ್ವಯಂಸೇವಕರು ಮಾಡೆಲ್‌ಗಳನ್ನು ಚಲಾಯಿಸುತ್ತಾರೆ, ಆದ್ದರಿಂದ ವೇಗ ಮತ್ತು ಮಾಡೆಲ್ ಪಟ್ಟಿ ಬದಲಾಗುತ್ತದೆ.
  • ಮಾಡೆಲ್ ID ಗಳು: ಪ್ರತಿ ಪೂರೈಕೆದಾರರು ತನ್ನದೇ ಮಾಡೆಲ್ ಹೆಸರುಗಳನ್ನು ಬಳಸುತ್ತಾರೆ. ಮಾನ್ಯ ID ಗಳಿಗಾಗಿ ಪ್ರತಿ base URL ನಲ್ಲಿ GET /v1/models ಓದಿ.

ಇಂದು ನೀವು ಕರೆ ಮಾಡಬಹುದಾದ ಉಚಿತ ಮಾಡೆಲ್‌ಗಳು

ಈ ಉಚಿತ ಮಾಡೆಲ್‌ಗಳು ಟೂಲ್ ಕರೆಯನ್ನು ಬೆಂಬಲಿಸುತ್ತವೆ ಮತ್ತು ಕನಿಷ್ಠ 128K ಟೋಕನ್‌ಗಳ ಸಂದರ್ಭ ವಿಂಡೋ ಹೊಂದಿವೆ. ಪ್ರತಿ ಮಾಡೆಲ್ ಅನ್ನು ಉಚಿತವಾಗಿ ಒದಗಿಸುವ ಪೂರೈಕೆದಾರರನ್ನು ಕೋಷ್ಟಕ ತೋರಿಸುತ್ತದೆ.

ಟೂಲ್ ಕರೆ ಮತ್ತು 128K+ ಸಂದರ್ಭ ಇರುವ ಉಚಿತ ಮಾಡೆಲ್‌ಗಳು
ಮಾದರಿಉಚಿತಸಂದರ್ಭಉಚಿತ ಮಿತಿಗಳು (ಅತ್ಯುತ್ತಮ ಕೊಡುಗೆ)ಉಪಕರಣಗಳುದೃಷ್ಟಿ
GLM 5.3 FlashNVIDIA NIM1M40 ವಿನಂತಿ/ನಿಮಿಷ
40 RPM
ಹೌದುಇಲ್ಲ
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaಹೌದುಹೌದು
Gemini 3.7 FlashGoogle AI Studio1M10 ವಿನಂತಿ/ನಿಮಿಷ
20 ವಿನಂತಿ/ದಿನ
250,000 ಟೋಕನ್/ನಿಮಿಷ
~3M
ಹೌದುಹೌದು
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 ವಿನಂತಿ/ನಿಮಿಷ
50 ವಿನಂತಿ/ದಿನ
50 req/day account-wide (1,000 after a $10 purchase)
ಹೌದುಹೌದು
Qwen3.8 27BGroq, OVH AI Endpoints262K30 ವಿನಂತಿ/ನಿಮಿಷ
250 ವಿನಂತಿ/ದಿನ
70,000 ಟೋಕನ್/ನಿಮಿಷ
~6M
ಹೌದುಹೌದು
Gemini 3.6 FlashGoogle AI Studio1M10 ವಿನಂತಿ/ನಿಮಿಷ
20 ವಿನಂತಿ/ದಿನ
250,000 ಟೋಕನ್/ನಿಮಿಷ
~3M
ಹೌದುಹೌದು
Qwen 3.8 27BCloudflare Workers AI262KShared 10k neurons/dayಹೌದುಹೌದು
Gemini 3.5 FlashGoogle AI Studio1M10 ವಿನಂತಿ/ನಿಮಿಷ
20 ವಿನಂತಿ/ದಿನ
250,000 ಟೋಕನ್/ನಿಮಿಷ
~3M
ಹೌದುಹೌದು
Nemotron 3 Ultra 550BKilo Gateway, NVIDIA NIM, OpenRouter1M20 ವಿನಂತಿ/ನಿಮಿಷ
50 ವಿನಂತಿ/ದಿನ
50 req/day account-wide (1,000 after a $10 purchase)
ಹೌದುಇಲ್ಲ
Gemini 3.5 Flash LiteGoogle AI Studio1M15 ವಿನಂತಿ/ನಿಮಿಷ
20 ವಿನಂತಿ/ದಿನ
250,000 ಟೋಕನ್/ನಿಮಿಷ
~3M
ಹೌದುಹೌದು
Qwen3.6 27BOVH AI Endpoints131K2 ವಿನಂತಿ/ನಿಮಿಷ
2/min per IP
ಹೌದುಇಲ್ಲ
Muse Glimmer 30BNVIDIA NIM131K40 ವಿನಂತಿ/ನಿಮಿಷ
40 RPM
ಹೌದುಹೌದು

ಹೊಂದಾಣಿಕೆಯಾಗುವ 46 ಉಚಿತ ಮಾದರಿಗಳಲ್ಲಿ 12 ಅನ್ನು ತೋರಿಸಲಾಗುತ್ತಿದೆ. ಎಲ್ಲಾ ಮಾದರಿಗಳನ್ನು ನೋಡಿ.

FreeLLMAPI ಕ್ಯಾಟಲಾಗ್‌ನಿಂದ ನೇರ ಡೇಟಾ (ಆವೃತ್ತಿ 2026.11.19, 2026-11-19 ರಂದು ಪರಿಶೀಲಿಸಲಾಗಿದೆ). ಉಚಿತ ಮಿತಿಗಳು ಆಗಾಗ್ಗೆ ಬದಲಾಗುತ್ತವೆ. ಕ್ಯಾಟಲಾಗ್ ಪ್ರತಿದಿನ ಪರಿಶೀಲಿಸಲಾಗುತ್ತದೆ.

ಪ್ರತಿ ಉಚಿತ ಪೂರೈಕೆದಾರರಿಗೆ ಒಂದು base URL

ಕೋಷ್ಟಕದ ಪ್ರತಿ base URL ತನ್ನದೇ ಕೀ ಮತ್ತು ತನ್ನದೇ ದರ ಮಿತಿ ಹೊಂದಿದೆ. ಒಂದು ಪೂರೈಕೆದಾರ 429 ದೋಷ ಕಳುಹಿಸಿದಾಗ, ನಿಮ್ಮ ಕೋಡ್ ಬೇರೆ URL ಗೆ ಬದಲಾಗಬೇಕು. FreeLLMAPI ಬದಲಿಗೆ ನಿಮಗೆ ಒಂದು OpenAI-ಹೊಂದಾಣಿಕೆಯ base URL ನೀಡುತ್ತದೆ. ಇದು ನಿಮ್ಮ ಕಂಪ್ಯೂಟರ್‌ನಲ್ಲಿ ಚಲಿಸುತ್ತದೆ ಮತ್ತು ಪ್ರತಿ ವಿನಂತಿಯನ್ನು ಇನ್ನೂ ಕೋಟಾ ಇರುವ ಉಚಿತ ಪೂರೈಕೆದಾರರಿಗೆ ಕಳುಹಿಸುತ್ತದೆ.

ಸ್ಥಳೀಯ base URL ಅನ್ನು ಸ್ಥಾಪಿಸಿ ಮತ್ತು ಕರೆ ಮಾಡಿ

curl -fsSL https://freellmapi.co/install.sh | bash

export OPENAI_BASE_URL=http://localhost:3001/v1
export OPENAI_API_KEY=<unified-key>

curl $OPENAI_BASE_URL/chat/completions \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "auto", "messages": [{"role": "user", "content": "hi"}]}'
  • http://localhost:3001 ನಲ್ಲಿ Keys ಪುಟದಲ್ಲಿ ನಿಮ್ಮ ಪೂರೈಕೆದಾರ ಕೀಗಳನ್ನು ಸೇರಿಸಿ.
  • ರೂಟರ್ ಆಯ್ಕೆ ಮಾಡಲು auto ಬಳಸಿ. ವೇಗ ಅಥವಾ ಬುದ್ಧಿಮತ್ತೆಗೆ ಆದ್ಯತೆ ನೀಡಲು auto:fast ಅಥವಾ auto:smart ಬಳಸಿ. ನೀವು ಮಾಡೆಲ್ ID ಯನ್ನೂ ಕಳುಹಿಸಬಹುದು.
  • X-Routed-Via ಪ್ರತಿಕ್ರಿಯೆ ಹೆಡರ್ ಉತ್ತರಿಸಿದ ಪೂರೈಕೆದಾರ ಮತ್ತು ಮಾಡೆಲ್ ತೋರಿಸುತ್ತದೆ.
  • ಅದೇ ಸರ್ವರ್‌ನಲ್ಲಿ Anthropic ಕ್ಲೈಂಟ್‌ಗಳಿಗೆ /v1/messages ಮತ್ತು Gemini CLI ಗೆ /v1beta ಸಹ ಇದೆ.

FreeLLMAPI ಉಚಿತ ಶ್ರೇಣಿಗಳನ್ನು ಬಳಸುತ್ತದೆ, ಆದ್ದರಿಂದ ಪ್ರತಿ ಪೂರೈಕೆದಾರರ ದರ ಮಿತಿಗಳು ಇನ್ನೂ ಅನ್ವಯಿಸುತ್ತವೆ. ಫೇಲ್‌ಓವರ್ ಹೊರೆಯನ್ನು ಪೂರೈಕೆದಾರರ ನಡುವೆ ಹಂಚುತ್ತದೆ, ಆದರೆ ಮಿತಿಗಳನ್ನು ತೆಗೆದುಹಾಕುವುದಿಲ್ಲ.

ದೋಷ ನಿವಾರಣೆ

ಸಮಸ್ಯೆಕಾರಣಪರಿಹಾರ
404 Not Foundbase URL ತಪ್ಪಾದ ಮಾರ್ಗ ಹೊಂದಿದೆ, ಅಥವಾ /chat/completions ಅನ್ನು ಒಳಗೊಂಡಿದೆಕೋಷ್ಟಕದ base URL ಅನ್ನು ನಿಖರವಾಗಿ ಬಳಸಿ
401 Unauthorizedಕೀ ಬೇರೆ ಪೂರೈಕೆದಾರರಿಗಾಗಿದೆbase URL ನಂತೆಯೇ ಅದೇ ಪೂರೈಕೆದಾರರ ಕೀ ಬಳಸಿ
ಮಾನ್ಯ ವಿನಂತಿಯಲ್ಲಿ 400ಪೂರೈಕೆದಾರರು ಒಂದು ನಿಯತಾಂಕವನ್ನು ಬೆಂಬಲಿಸುವುದಿಲ್ಲlogprobs ಅಥವಾ n ನಂತಹ ನಿಯತಾಂಕಗಳನ್ನು ತೆಗೆದುಹಾಕಿ
ಮಾಡೆಲ್ ಸಿಗಲಿಲ್ಲಮಾಡೆಲ್ ID ಬೇರೆ ಪೂರೈಕೆದಾರರದುbase URL ನಲ್ಲಿ GET /v1/models ಕರೆ ಮಾಡಿ
429 Too Many Requestsಉಚಿತ ಮಿತಿ ತಲುಪಿದೆಮರುಹೊಂದಿಕೆಗಾಗಿ ಕಾಯಿರಿ, ಅಥವಾ ಫೇಲ್‌ಓವರ್ ಮಾಡುವ ಗೇಟ್‌ವೇ ಬಳಸಿ
ಇವೆಲ್ಲವನ್ನೂ ಒಂದೇ ಕೀ ಮೂಲಕ ಬಳಸಿ. FreeLLMAPI ಒಂದು ಮುಕ್ತ ಮೂಲದ, ಸ್ವಯಂ-ಹೋಸ್ಟ್ ಮಾಡಿದ ರೂಟರ್ ಆಗಿದೆ. ಇದು ಈ ಎಲ್ಲಾ ಉಚಿತ ಶ್ರೇಣಿಗಳನ್ನು ಒಂದೇ OpenAI-ಹೊಂದಾಣಿಕೆಯ ಎಂಡ್‌ಪಾಯಿಂಟ್ ಹಿಂದೆ ಇಡುತ್ತದೆ ಮತ್ತು ಒಂದು ಮಿತಿಗೆ ಒಳಪಟ್ಟಾಗ ಬದಲಾಯಿಸುತ್ತದೆ. ಕ್ಯಾಟಲಾಗ್ ನೋಡಿ ಅಥವಾ ಲೈವ್ ಆಗಿ.

ಪದೇ ಪದೇ ಕೇಳುವ ಪ್ರಶ್ನೆಗಳು

Gemini ಗಾಗಿ OpenAI-ಹೊಂದಾಣಿಕೆಯ base URL ಯಾವುದು?

Google https://generativelanguage.googleapis.com/v1beta/openai/ ಅನ್ನು base URL ಆಗಿ ದಾಖಲಿಸುತ್ತದೆ. AI Studio ನಿಂದ ನಿಮ್ಮ Gemini API ಕೀಯನ್ನು API ಕೀಯಾಗಿ ಬಳಸಿ.

Groq OpenAI base URL ಯಾವುದು?

Groq https://api.groq.com/openai/v1 ಅನ್ನು ದಾಖಲಿಸುತ್ತದೆ. Groq API ಕೀ ಮತ್ತು Groq ಮಾಡೆಲ್ ID ಬಳಸಿ.

ಕೀ ಇಲ್ಲದ ಉಚಿತ OpenAI-ಹೊಂದಾಣಿಕೆಯ API ಇದೆಯೇ?

ಹೌದು, ಕಡಿಮೆ ಮಿತಿಗಳೊಂದಿಗೆ. OVHcloud AI Endpoints ಪ್ರತಿ IP ಮತ್ತು ಮಾಡೆಲ್‌ಗೆ ನಿಮಿಷಕ್ಕೆ 2 ಅನಾಮಧೇಯ ವಿನಂತಿಗಳನ್ನು ಅನುಮತಿಸುತ್ತದೆ. Kilo Gateway ಉಚಿತ ಮಾಡೆಲ್‌ಗಳಿಗೆ ಗಂಟೆಗೆ 200 ಅನಾಮಧೇಯ ವಿನಂತಿಗಳನ್ನು ಅನುಮತಿಸುತ್ತದೆ.

ಉಚಿತ ಪೂರೈಕೆದಾರರೊಂದಿಗೆ OpenAI Python SDK ಬಳಸಬಹುದೇ?

ಹೌದು. base_url ಅನ್ನು ಪೂರೈಕೆದಾರರ URL ಗೆ ಮತ್ತು api_key ಅನ್ನು ಪೂರೈಕೆದಾರರ ಕೀಗೆ ಹೊಂದಿಸಿ. ಆ ಪೂರೈಕೆದಾರರಿಂದ ಒಂದು ಮಾಡೆಲ್ ID ಬಳಸಿ.

ಒಂದು base URL ನೊಂದಿಗೆ ಹಲವು ಉಚಿತ ಪೂರೈಕೆದಾರರನ್ನು ಹೇಗೆ ಬಳಸುವುದು?

ನಿಮ್ಮ ಕಂಪ್ಯೂಟರ್‌ನಲ್ಲಿ FreeLLMAPI ನಂತಹ ಗೇಟ್‌ವೇ ಚಲಾಯಿಸಿ. ನಿಮ್ಮ ಕ್ಲೈಂಟ್ ಅನ್ನು ಒಂದು ಏಕೀಕೃತ ಕೀಯೊಂದಿಗೆ http://localhost:3001/v1 ಕಡೆ ತೋರಿಸಿ, ಮತ್ತು ರೂಟರ್ ಪ್ರತಿ ವಿನಂತಿಗೆ ಒಂದು ಪೂರೈಕೆದಾರರನ್ನು ಆಯ್ಕೆ ಮಾಡುತ್ತದೆ.

ಸಂಬಂಧಿತ ಮಾರ್ಗದರ್ಶಿಗಳು

ಮೂಲಗಳು

ಎಲ್ಲಾ ಮಾರ್ಗದರ್ಶಿಗಳು · ಎಲ್ಲಾ ಉಚಿತ ಮಾದರಿಗಳನ್ನು ನೋಡಿ