ಮುಖಪುಟ / ಮಾರ್ಗದರ್ಶಿಗಳು / 1 ಮಿಲಿಯನ್ ಟೋಕನ್ ಸಂದರ್ಭದೊಂದಿಗೆ ಉಚಿತ LLM API

1 ಮಿಲಿಯನ್ ಟೋಕನ್ ಸಂದರ್ಭದೊಂದಿಗೆ ಉಚಿತ LLM API

ದೀರ್ಘ ಸಂದರ್ಭ ವಿಂಡೋ ಒಂದೇ ವಿನಂತಿಯಲ್ಲಿ ಪೂರ್ಣ ಪುಸ್ತಕ, ದೊಡ್ಡ ಕೋಡ್ ಬೇಸ್ ಅಥವಾ ಗಂಟೆಗಳ ಟ್ರಾನ್ಸ್‌ಕ್ರಿಪ್ಟ್‌ಗಳನ್ನು ಓದಲು ಮಾದರಿಗೆ ಅವಕಾಶ ನೀಡುತ್ತದೆ. FreeLLMAPI ಕ್ಯಾಟಲಾಗ್‌ನಲ್ಲಿ 1 ಮಿಲಿಯನ್ ಟೋಕನ್ ಅಥವಾ ಹೆಚ್ಚಿನ ಸಂದರ್ಭ ವಿಂಡೋ ಇರುವ 56 ಉಚಿತ ಮಾದರಿ ಆಫರ್‌ಗಳಿವೆ. ಈ ಮಾರ್ಗದರ್ಶಿ ಈ ಮಾದರಿಗಳನ್ನು ಮತ್ತು ನೀವು ನಿಜವಾಗಿ ಎಷ್ಟು ಕಳುಹಿಸಬಹುದು ಎಂದು ನಿರ್ಧರಿಸುವ ಉಚಿತ ಶ್ರೇಣಿ ಮಿತಿಗಳನ್ನು ತೋರಿಸುತ್ತದೆ.

ಕೋಡ್, ಮಾದರಿ ಹೆಸರುಗಳು ಮತ್ತು ನೇರ ಕ್ಯಾಟಲಾಗ್ ಲೇಬಲ್‌ಗಳನ್ನು ಇಂಗ್ಲಿಷ್‌ನಲ್ಲಿ ತೋರಿಸಲಾಗಿದೆ.

ಇಂದು 1M+ ಟೋಕನ್ ಸಂದರ್ಭವಿರುವ ಉಚಿತ ಮಾದರಿಗಳು

ಕೋಷ್ಟಕ ಕನಿಷ್ಠ 1,000,000 ಟೋಕನ್‌ಗಳ ಸಂದರ್ಭ ವಿಂಡೋ ಇರುವ ಉಚಿತ ಮಾದರಿಗಳನ್ನು ಪಟ್ಟಿ ಮಾಡುತ್ತದೆ, ದೊಡ್ಡದು ಮೊದಲು. ಮಾಹಿತಿ ಲೈವ್ ಕ್ಯಾಟಲಾಗ್‌ನಿಂದ ಬಂದಿದೆ. ಸಂದರ್ಭದ ಗಾತ್ರದ ಜೊತೆಗೆ "ಉಚಿತ ಮಿತಿಗಳು" ಕಾಲಂ ಅನ್ನೂ ನೋಡಿ.

1M+ ಟೋಕನ್ ಸಂದರ್ಭವಿರುವ ಉಚಿತ ಮಾದರಿಗಳು, ದೊಡ್ಡದು ಮೊದಲು
ಮಾದರಿಉಚಿತಸಂದರ್ಭಉಚಿತ ಮಿತಿಗಳು (ಅತ್ಯುತ್ತಮ ಕೊಡುಗೆ)ಉಪಕರಣಗಳುದೃಷ್ಟಿ
OpenAI: GPT-6 LunaElectronHub1.1M$0.25/week shared free creditsಇಲ್ಲಇಲ್ಲ
Gemini 3.8 FlashAPINex, Google AI Studio1M5 ವಿನಂತಿ/ನಿಮಿಷ
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
ಹೌದುಹೌದು
Gemini 3.7 FlashGoogle AI Studio1M10 ವಿನಂತಿ/ನಿಮಿಷ
20 ವಿನಂತಿ/ದಿನ
250,000 ಟೋಕನ್/ನಿಮಿಷ
~3M
ಹೌದುಹೌದು
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 ವಿನಂತಿ/ನಿಮಿಷ
50 ವಿನಂತಿ/ದಿನ
Shared rate limit
ಹೌದುಇಲ್ಲ
DeepSeek V4 Flash 0731Router91M10,000 credits/month (~$1), shared; account-anniversary resetಇಲ್ಲಇಲ್ಲ
Gemini 3.6 FlashGoogle AI Studio1M10 ವಿನಂತಿ/ನಿಮಿಷ
20 ವಿನಂತಿ/ದಿನ
250,000 ಟೋಕನ್/ನಿಮಿಷ
~3M
ಹೌದುಹೌದು
GLM 5.2Router91M10,000 credits/month (~$1), shared; account-anniversary resetಇಲ್ಲಇಲ್ಲ
Gemini 3.5 FlashGoogle AI Studio1M10 ವಿನಂತಿ/ನಿಮಿಷ
20 ವಿನಂತಿ/ದಿನ
250,000 ಟೋಕನ್/ನಿಮಿಷ
~3M
ಹೌದುಹೌದು
DeepSeek V4 ProAPINex, Router91M5 ವಿನಂತಿ/ನಿಮಿಷ
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
ಇಲ್ಲಇಲ್ಲ
Nemotron 3 Ultra 550BGizmo, Kilo Gateway, LLMTR +3 ಇನ್ನೂ1M200 ವಿನಂತಿ/ದಿನ
200 rpd
ಹೌದುಇಲ್ಲ
Gemini 3.5 Flash LiteElectronHub, Google AI Studio1M15 ವಿನಂತಿ/ನಿಮಿಷ
20 ವಿನಂತಿ/ದಿನ
250,000 ಟೋಕನ್/ನಿಮಿಷ
~3M
ಹೌದುಹೌದು
Gemini 3 Flash PreviewGoogle AI Studio1M10 ವಿನಂತಿ/ನಿಮಿಷ
20 ವಿನಂತಿ/ದಿನ
250,000 ಟೋಕನ್/ನಿಮಿಷ
~3M
ಹೌದುಹೌದು
Gemini 3.1 Flash-LiteDreamPrompting, Google AI Studio1M100 ವಿನಂತಿ/ನಿಮಿಷ
5,000 ವಿನಂತಿ/ದಿನ
500,000 ಟೋಕನ್/ದಿನ
500K tokens/day · 5,000 req/day
ಹೌದುಹೌದು
Gemini 2.5 FlashDreamPrompting, ElectronHub, Google AI Studio1M100 ವಿನಂತಿ/ನಿಮಿಷ
5,000 ವಿನಂತಿ/ದಿನ
500,000 ಟೋಕನ್/ದಿನ
500K tokens/day · 5,000 req/day
ಹೌದುಹೌದು
Nemotron 3.5 LightningElectronHub, Gizmo, Kilo Gateway +2 ಇನ್ನೂ1M20 ವಿನಂತಿ/ನಿಮಿಷ
50 ವಿನಂತಿ/ದಿನ
50 req/day account-wide (1,000 after a $10 purchase)
ಹೌದುಇಲ್ಲ

ಹೊಂದಾಣಿಕೆಯಾಗುವ 33 ಉಚಿತ ಮಾದರಿಗಳಲ್ಲಿ 15 ಅನ್ನು ತೋರಿಸಲಾಗುತ್ತಿದೆ. ಎಲ್ಲಾ ಮಾದರಿಗಳನ್ನು ನೋಡಿ.

FreeLLMAPI ಕ್ಯಾಟಲಾಗ್‌ನಿಂದ ನೇರ ಡೇಟಾ (ಆವೃತ್ತಿ 2026.11.19, 2026-11-19 ರಂದು ಪರಿಶೀಲಿಸಲಾಗಿದೆ). ಉಚಿತ ಮಿತಿಗಳು ಆಗಾಗ್ಗೆ ಬದಲಾಗುತ್ತವೆ. ಕ್ಯಾಟಲಾಗ್ ಪ್ರತಿದಿನ ಪರಿಶೀಲಿಸಲಾಗುತ್ತದೆ.

Google AI Studio ನ Gemini Flash ಮಾದರಿಗಳು ಅತ್ಯಂತ ಪ್ರಸಿದ್ಧ 1M-ಟೋಕನ್ ಉಚಿತ ಮಾದರಿಗಳು. ಅವು ಚಿತ್ರಗಳು ಮತ್ತು ಟೂಲ್ ಕರೆಗಳನ್ನೂ ಸ್ವೀಕರಿಸುತ್ತವೆ. ಇತರ ಸಾಲುಗಳು ಉಚಿತ ರೂಟರ್‌ಗಳು ಮತ್ತು NVIDIA ದಿಂದ ಬಂದಿವೆ.

ನಿಜವಾದ ಮಿತಿ: ನಿಮಿಷಕ್ಕೆ ಟೋಕನ್‌ಗಳು

ಸಂದರ್ಭ ವಿಂಡೋ ಮಾದರಿ ಓದಬಹುದಾದ ಅತಿ ದೊಡ್ಡ ಪ್ರಾಂಪ್ಟ್. ಉಚಿತ ಶ್ರೇಣಿಯಲ್ಲಿ ನಿಮಿಷಕ್ಕೆ ಟೋಕನ್‌ಗಳ (TPM) ಮಿತಿಯೂ ಇದೆ. ಅನೇಕ ಉಚಿತ ಶ್ರೇಣಿಗಳಲ್ಲಿ, TPM ಮಿತಿ ಸಂದರ್ಭ ವಿಂಡೋಕ್ಕಿಂತ ಚಿಕ್ಕದಾಗಿರುತ್ತದೆ.

  • ಉದಾಹರಣೆ: ಕೋಷ್ಟಕದಲ್ಲಿನ ಉಚಿತ Gemini Flash ಕೀ ನಿಮಿಷಕ್ಕೆ 250,000 ಟೋಕನ್‌ಗಳನ್ನು ಅನುಮತಿಸುತ್ತದೆ. 800,000 ಟೋಕನ್‌ಗಳ ಪ್ರಾಂಪ್ಟ್ ಸಂದರ್ಭ ವಿಂಡೋದೊಳಗಿದೆ, ಆದರೆ TPM ಮಿತಿಗಿಂತ ಹೆಚ್ಚು. ಪೂರೈಕೆದಾರ 429 ದೋಷ ಕಳುಹಿಸುತ್ತದೆ.
  • ದಿನಕ್ಕೆ ವಿನಂತಿಗಳು: ಕೆಲವು ಉಚಿತ Gemini ಮಾದರಿಗಳು ಪ್ರತಿ ದಿನ ಸುಮಾರು 20 ವಿನಂತಿಗಳನ್ನು ಮಾತ್ರ ಅನುಮತಿಸುತ್ತವೆ. ಅಗತ್ಯವಿರುವ ಕೆಲಸಗಳಿಗೆ ದೀರ್ಘ ಪ್ರಾಂಪ್ಟ್‌ಗಳನ್ನು ಬಳಸಿ.
  • ಔಟ್‌ಪುಟ್ ಪ್ರತ್ಯೇಕ: ಉತ್ತರಕ್ಕೆ ತನ್ನದೇ ಗರಿಷ್ಠ ಉದ್ದವಿದೆ. 1M-ಟೋಕನ್ ಸಂದರ್ಭ 1M-ಟೋಕನ್ ಉತ್ತರ ನೀಡುವುದಿಲ್ಲ.

ಆದ್ದರಿಂದ ಪ್ರಾಯೋಗಿಕವಾಗಿ, ಉಚಿತ 1M-ಸಂದರ್ಭ ಮಾದರಿ ಒಂದು ವಿನಂತಿಯಲ್ಲಿ ಕೆಲವು ನೂರು ಸಾವಿರ ಟೋಕನ್‌ಗಳನ್ನು ಓದಬಲ್ಲದು. ಕಳುಹಿಸುವ ಮೊದಲು ನಿಮ್ಮ ಪ್ರಾಂಪ್ಟ್ ಅನ್ನು ಅಳೆಯಿರಿ.

ಹಂತ 1: FreeLLMAPI ಸ್ಥಾಪಿಸಿ ಮತ್ತು ಕೀಗಳನ್ನು ಸೇರಿಸಿ

FreeLLMAPI ಓಪನ್ ಸೋರ್ಸ್. ಇದು ನಿಮ್ಮ ಕಂಪ್ಯೂಟರ್‌ನಲ್ಲಿ Docker ನಲ್ಲಿ ಚಲಿಸುತ್ತದೆ. ನಿಮ್ಮ ಪೂರೈಕೆದಾರ ಕೀಗಳು ನಿಮ್ಮ ಕಂಪ್ಯೂಟರ್‌ನಲ್ಲೇ ಉಳಿಯುತ್ತವೆ.

ಸ್ಥಾಪಿಸಿ (macOS ಅಥವಾ Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

http://localhost:3001 ನಲ್ಲಿ ಡ್ಯಾಶ್‌ಬೋರ್ಡ್ ತೆರೆಯಿರಿ. Keys ಪುಟದಲ್ಲಿ Google AI Studio ಕೀ ಸೇರಿಸಿ. Google 429 ದೋಷ ಕಳುಹಿಸಿದಾಗ ರೂಟರ್‌ಗೆ ಇನ್ನೊಂದು ದೀರ್ಘ-ಸಂದರ್ಭ ಮಾದರಿ ಇರುವಂತೆ, ಕೋಷ್ಟಕದ ಇತರ ಪೂರೈಕೆದಾರರ ಕೀಗಳನ್ನೂ ಸೇರಿಸಿ. ಅದೇ ಪುಟದಿಂದ ನಿಮ್ಮ ಏಕೀಕೃತ ಕೀಯನ್ನು ನಕಲಿಸಿ.

ಹಂತ 2: ಟೋಕನ್‌ಗಳನ್ನು ಎಣಿಸಿ, ನಂತರ ದೀರ್ಘ ದಸ್ತಾವೇಜು ಕಳುಹಿಸಿ

FreeLLMAPI ಸ್ಥಳೀಯ Gemini countTokens ವಿಧಾನವನ್ನು ನೀಡುತ್ತದೆ. ಕಳುಹಿಸುವ ಮೊದಲು ಪ್ರಾಂಪ್ಟ್ ಅಳೆಯಲು ಇದನ್ನು ಬಳಸಿ.

curl: ಸ್ಥಳೀಯ Gemini ಎಂಡ್‌ಪಾಯಿಂಟ್‌ನೊಂದಿಗೆ ಟೋಕನ್‌ಗಳನ್ನು ಎಣಿಸಿ

curl "http://localhost:3001/v1beta/models/gemini-2.5-flash:countTokens" \
  -H "x-goog-api-key: <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"contents": [{"role": "user", "parts": [{"text": "Paste the long text here"}]}]}'

Python: 1M-ಸಂದರ್ಭ ಮಾದರಿಗೆ ದೀರ್ಘ ಫೈಲ್ ಕಳುಹಿಸಿ

from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>", timeout=300)

doc = open("annual-report.txt", encoding="utf-8").read()
print("about", len(doc) // 4, "tokens")  # rough rule for English text

resp = client.chat.completions.with_raw_response.create(
    model="gemini-2.5-flash",  # pin a 1M-context model; "auto" can pick a smaller one
    messages=[
        {"role": "system", "content": "Answer only from the document. Quote the section you use."},
        {"role": "user", "content": doc + "\n\nQuestion: What are the three largest risks?"},
    ],
    max_tokens=4000,
)
print("Routed via:", resp.headers.get("x-routed-via"))
print(resp.parse().choices[0].message.content)

ದೀರ್ಘ-ಸಂದರ್ಭ ಮಾದರಿಯನ್ನು ಅದರ ಐಡಿಯಿಂದ ನಿಗದಿಪಡಿಸಿ. model: "auto" ಜೊತೆ, ರೂಟರ್ ಚಿಕ್ಕ ಸಂದರ್ಭ ವಿಂಡೋ ಇರುವ ಮಾದರಿಯನ್ನು ಆಯ್ಕೆ ಮಾಡಬಹುದು. ದೊಡ್ಡ ಪ್ರಾಂಪ್ಟ್‌ಗಳನ್ನು ಓದಲು ಸಮಯ ಬೇಕಾಗುವುದರಿಂದ ದೀರ್ಘ ಕ್ಲೈಂಟ್ ಟೈಮ್‌ಔಟ್ ಹೊಂದಿಸಿ.

ದೀರ್ಘ ಸಂದರ್ಭವೋ ಅಥವಾ RAG ಓ?

ದೀರ್ಘ ಸಂದರ್ಭ ಬಳಸಿ ಯಾವಾಗRAG ಬಳಸಿ ಯಾವಾಗ
ದಸ್ತಾವೇಜನ್ನು ಒಮ್ಮೆ ಓದಲಾಗುತ್ತದೆ, ಉದಾಹರಣೆಗೆ ಒಂದು ಒಪ್ಪಂದ ಅಥವಾ ಒಂದು ವರದಿಒಂದೇ ದೊಡ್ಡ ಡೇಟಾದ ಬಗ್ಗೆ ನೀವು ಅನೇಕ ಪ್ರಶ್ನೆಗಳನ್ನು ಕೇಳುತ್ತೀರಿ
ಉತ್ತರಕ್ಕೆ ಪೂರ್ಣ ಪಠ್ಯ ಬೇಕು, ಉದಾಹರಣೆಗೆ ಸಾರಾಂಶ ಅಥವಾ ವಿಭಾಗಗಳ ಹೋಲಿಕೆಉತ್ತರ ಕೆಲವು ಚಿಕ್ಕ ಭಾಗಗಳಲ್ಲಿದೆ
ಪಠ್ಯ ನಿಮ್ಮ ಉಚಿತ ಕೀಯ TPM ಮಿತಿಗಿಂತ ಚಿಕ್ಕದುಡೇಟಾ ಯಾವುದೇ ಉಚಿತ ಸಂದರ್ಭ ವಿಂಡೋ ಅಥವಾ TPM ಮಿತಿಗಿಂತ ದೊಡ್ಡದು
ಪಠ್ಯದ ಕ್ರಮ ಮತ್ತು ರಚನೆಯನ್ನು ಮಾದರಿ ನೋಡಬೇಕುಪ್ರತಿ ವಿನಂತಿಯನ್ನು ಚಿಕ್ಕ ಮತ್ತು ವೇಗವಾಗಿ ಇಡಬೇಕು

RAG ಪ್ರತಿ ಪ್ರಶ್ನೆಯೊಂದಿಗೆ ಡೇಟಾದ ಸಂಬಂಧಿತ ಭಾಗಗಳನ್ನು ಮಾತ್ರ ಕಳುಹಿಸುತ್ತದೆ. ಉಚಿತ ಶ್ರೇಣಿಗಳಲ್ಲಿ ಇದು ಕಡಿಮೆ ಟೋಕನ್‌ಗಳನ್ನು ಬಳಸುತ್ತದೆ. ಇದನ್ನು ಹೊಂದಿಸಲು RAG ಗಾಗಿ ಉಚಿತ LLM API ಮತ್ತು ಉಚಿತ ಎಂಬೆಡಿಂಗ್ಸ್ API ಓದಿ.

ಅಪಾಯಗಳು ಮತ್ತು ದೋಷ ನಿವಾರಣೆ

  • ಕಳೆದುಹೋದ ವಿವರಗಳು: ಬಹಳ ದೀರ್ಘ ಪ್ರಾಂಪ್ಟ್‌ನ ಮಧ್ಯದಲ್ಲಿ ಮಾದರಿಗಳು ಸಂಗತಿಗಳನ್ನು ತಪ್ಪಿಸಿಕೊಳ್ಳಬಹುದು. ನಿಮ್ಮ ಪ್ರಶ್ನೆಯನ್ನು ದಸ್ತಾವೇಜಿನ ನಂತರ ಇರಿಸಿ, ಮತ್ತು ಮಾದರಿಗೆ ತನ್ನ ಮೂಲವನ್ನು ಉಲ್ಲೇಖಿಸಲು ಕೇಳಿ.
  • ತಾರ್ಕಿಕ ಟೋಕನ್‌ಗಳು: Gemini Flash ಮಾದರಿಗಳು ಔಟ್‌ಪುಟ್ ಬಜೆಟ್‌ನಿಂದ ಗುಪ್ತ ತಾರ್ಕಿಕ ಟೋಕನ್‌ಗಳನ್ನು ಬಳಸಬಹುದು. ತುಂಬಾ ಚಿಕ್ಕ max_tokens ಹೊಂದಿಸಬೇಡಿ.
  • PDF ಫೈಲ್‌ಗಳು: FreeLLMAPI PDF, DOCX ಅಥವಾ XLSX ಫೈಲ್‌ಗಳನ್ನು ಪರಿವರ್ತಿಸುವುದಿಲ್ಲ. ಬೈನರಿ ದಸ್ತಾವೇಜು ಲಗತ್ತು ದೋಷ 400 ಹಿಂತಿರುಗಿಸುತ್ತದೆ. ಮೊದಲು ಪಠ್ಯವನ್ನು ಹೊರತೆಗೆಯಿರಿ, ನಂತರ ಪಠ್ಯವನ್ನು ಕಳುಹಿಸಿ.
  • ಪಠ್ಯ ಸ್ವಚ್ಛಗೊಳಿಸಿ: ದಸ್ತಾವೇಜನ್ನು ಕಳುಹಿಸುವ ಮೊದಲು ಪುಟದ ಶೀರ್ಷಿಕೆಗಳು, ಅಡಿಟಿಪ್ಪಣಿಗಳು ಮತ್ತು ಪುನರಾವರ್ತಿತ ವಿಷಯಗಳ ಪಟ್ಟಿಗಳನ್ನು ತೆಗೆದುಹಾಕಿ. ಅವು ಟೋಕನ್‌ಗಳನ್ನು ಬಳಸುತ್ತವೆ ಮತ್ತು ಯಾವುದೇ ಸಂಗತಿಗಳನ್ನು ಸೇರಿಸುವುದಿಲ್ಲ.
  • ಪುನರಾವರ್ತಿತ ಪ್ರಾಂಪ್ಟ್‌ಗಳು: ಪ್ರತಿ ವಿನಂತಿ ಪೂರ್ಣ ದಸ್ತಾವೇಜನ್ನು ಮತ್ತೆ ಕಳುಹಿಸುತ್ತದೆ. ಸಾಧ್ಯವಾದಾಗ ಒಂದೇ ವಿನಂತಿಯಲ್ಲಿ ಹಲವು ಪ್ರಶ್ನೆಗಳನ್ನು ಕೇಳಿ.
ಸಮಸ್ಯೆಕಾರಣಪರಿಹಾರ
ಮೊದಲ ದೀರ್ಘ ವಿನಂತಿಯಲ್ಲಿ ದೋಷ 429ಪ್ರಾಂಪ್ಟ್ TPM ಮಿತಿಗಿಂತ ದೊಡ್ಡದುಪ್ರಾಂಪ್ಟ್ ಚಿಕ್ಕದು ಮಾಡಿ, ಅಥವಾ RAG ಬಳಸಿ
ಸಂದರ್ಭದ ಉದ್ದದ ಬಗ್ಗೆ ದೋಷ 400ವಿನಂತಿ ಚಿಕ್ಕ ವಿಂಡೋ ಇರುವ ಮಾದರಿಗೆ ಹೋಯಿತುಕೋಷ್ಟಕದಿಂದ ಮಾದರಿ ಐಡಿಯನ್ನು ನಿಗದಿಪಡಿಸಿ
ಖಾಲಿ ಅಥವಾ ಕತ್ತರಿಸಿದ ಉತ್ತರmax_tokens ತುಂಬಾ ಚಿಕ್ಕದು, ಅಥವಾ ತಾರ್ಕಿಕತೆ ಅದನ್ನು ಬಳಸಿತುದೊಡ್ಡ max_tokens ಹೊಂದಿಸಿ
ಟೈಮ್‌ಔಟ್ಪ್ರಾಂಪ್ಟ್ ಓದಲು ಮಾದರಿಗೆ ಸಮಯ ಬೇಕು300 ಸೆಕೆಂಡ್ ಅಥವಾ ಹೆಚ್ಚಿನ ಕ್ಲೈಂಟ್ ಟೈಮ್‌ಔಟ್ ಹೊಂದಿಸಿ
ಇವೆಲ್ಲವನ್ನೂ ಒಂದೇ ಕೀ ಮೂಲಕ ಬಳಸಿ. FreeLLMAPI ಒಂದು ಮುಕ್ತ ಮೂಲದ, ಸ್ವಯಂ-ಹೋಸ್ಟ್ ಮಾಡಿದ ರೂಟರ್ ಆಗಿದೆ. ಇದು ಈ ಎಲ್ಲಾ ಉಚಿತ ಶ್ರೇಣಿಗಳನ್ನು ಒಂದೇ OpenAI-ಹೊಂದಾಣಿಕೆಯ ಎಂಡ್‌ಪಾಯಿಂಟ್ ಹಿಂದೆ ಇಡುತ್ತದೆ ಮತ್ತು ಒಂದು ಮಿತಿಗೆ ಒಳಪಟ್ಟಾಗ ಬದಲಾಯಿಸುತ್ತದೆ. ಕ್ಯಾಟಲಾಗ್ ನೋಡಿ ಅಥವಾ ಲೈವ್ ಆಗಿ.

ಪದೇ ಪದೇ ಕೇಳುವ ಪ್ರಶ್ನೆಗಳು

1 ಮಿಲಿಯನ್ ಟೋಕನ್ ಸಂದರ್ಭದೊಂದಿಗೆ ಉಚಿತ LLM API ಇದೆಯೇ?

ಹೌದು. Google AI Studio ಉಚಿತ ಶ್ರೇಣಿಯ Gemini Flash ಮಾದರಿಗಳು ಸುಮಾರು 1 ಮಿಲಿಯನ್ ಟೋಕನ್‌ಗಳ ಸಂದರ್ಭ ವಿಂಡೋ ಹೊಂದಿವೆ. FreeLLMAPI ಕ್ಯಾಟಲಾಗ್‌ನಲ್ಲಿ 1M ಅಥವಾ ಹೆಚ್ಚಿನ ಟೋಕನ್‌ಗಳ 56 ಉಚಿತ ಮಾದರಿ ಆಫರ್‌ಗಳಿವೆ.

ಒಂದೇ ವಿನಂತಿಯಲ್ಲಿ ಉಚಿತವಾಗಿ 1 ಮಿಲಿಯನ್ ಟೋಕನ್ ಕಳುಹಿಸಬಹುದೇ?

ಸಾಮಾನ್ಯವಾಗಿ ಇಲ್ಲ. ಕ್ಯಾಟಲಾಗ್‌ನಲ್ಲಿನ ಉಚಿತ Gemini ಶ್ರೇಣಿ ನಿಮಿಷಕ್ಕೆ 250,000 ಟೋಕನ್‌ಗಳನ್ನು ಅನುಮತಿಸುತ್ತದೆ, ಆದ್ದರಿಂದ ದೊಡ್ಡ ಪ್ರಾಂಪ್ಟ್ 429 ದೋಷ ಪಡೆಯುತ್ತದೆ. ಪ್ರತಿ ವಿನಂತಿಗೆ ಕೆಲವು ನೂರು ಸಾವಿರ ಟೋಕನ್‌ಗಳನ್ನು ಯೋಜಿಸಿ.

ಪ್ರಾಂಪ್ಟ್ ಕಳುಹಿಸುವ ಮೊದಲು ಟೋಕನ್‌ಗಳನ್ನು ಹೇಗೆ ಎಣಿಸುವುದು?

FreeLLMAPI ಮೂಲಕ ಸ್ಥಳೀಯ Gemini countTokens ವಿಧಾನವನ್ನು /v1beta/models/{model}:countTokens ನಲ್ಲಿ ಕರೆ ಮಾಡಿ. ಇಂಗ್ಲಿಷ್ ಪಠ್ಯಕ್ಕೆ, ಸುಮಾರು 4 ಅಕ್ಷರಗಳು ಒಂದು ಟೋಕನ್.

ಯಾವ ಉಚಿತ LLM ಅತಿ ದೊಡ್ಡ ಸಂದರ್ಭ ವಿಂಡೋ ಹೊಂದಿದೆ?

ಈ ಪುಟದ ಕೋಷ್ಟಕ ಉಚಿತ ಮಾದರಿಗಳನ್ನು ಸಂದರ್ಭದ ಗಾತ್ರದಿಂದ, ದೊಡ್ಡದು ಮೊದಲು ವಿಂಗಡಿಸುತ್ತದೆ. ಹಲವು ಉಚಿತ ಮಾದರಿಗಳು ಸುಮಾರು 1 ಮಿಲಿಯನ್ ಟೋಕನ್‌ಗಳನ್ನು ತಲುಪುತ್ತವೆ. ಉಚಿತ ಮಿತಿಗಳ ಕಾಲಂ ಕೂಡ ಓದಿ, ಏಕೆಂದರೆ ಒಂದು ವಿನಂತಿಯ ನಿಜವಾದ ಗಾತ್ರವನ್ನು TPM ಮಿತಿ ನಿರ್ಧರಿಸುತ್ತದೆ.

ದೀರ್ಘ ಸಂದರ್ಭ RAG ಗಿಂತ ಉತ್ತಮವೇ?

ನೀವು ಒಮ್ಮೆ ಓದುವ ಒಂದು ದಸ್ತಾವೇಜಿಗೆ ದೀರ್ಘ ಸಂದರ್ಭ ಉತ್ತಮ. ದೊಡ್ಡ ಡೇಟಾದ ಬಗ್ಗೆ ಅನೇಕ ಪ್ರಶ್ನೆಗಳಿಗೆ RAG ಉತ್ತಮ, ಏಕೆಂದರೆ ಅದು ಪ್ರತಿ ಬಾರಿ ಕಡಿಮೆ ಟೋಕನ್‌ಗಳನ್ನು ಕಳುಹಿಸುತ್ತದೆ.

ಸಂಬಂಧಿತ ಮಾರ್ಗದರ್ಶಿಗಳು

ಮೂಲಗಳು

ಎಲ್ಲಾ ಮಾರ್ಗದರ್ಶಿಗಳು · ಎಲ್ಲಾ ಉಚಿತ ಮಾದರಿಗಳನ್ನು ನೋಡಿ