1 ಮಿಲಿಯನ್ ಟೋಕನ್ ಸಂದರ್ಭದೊಂದಿಗೆ ಉಚಿತ LLM API
ದೀರ್ಘ ಸಂದರ್ಭ ವಿಂಡೋ ಒಂದೇ ವಿನಂತಿಯಲ್ಲಿ ಪೂರ್ಣ ಪುಸ್ತಕ, ದೊಡ್ಡ ಕೋಡ್ ಬೇಸ್ ಅಥವಾ ಗಂಟೆಗಳ ಟ್ರಾನ್ಸ್ಕ್ರಿಪ್ಟ್ಗಳನ್ನು ಓದಲು ಮಾದರಿಗೆ ಅವಕಾಶ ನೀಡುತ್ತದೆ. FreeLLMAPI ಕ್ಯಾಟಲಾಗ್ನಲ್ಲಿ 1 ಮಿಲಿಯನ್ ಟೋಕನ್ ಅಥವಾ ಹೆಚ್ಚಿನ ಸಂದರ್ಭ ವಿಂಡೋ ಇರುವ 56 ಉಚಿತ ಮಾದರಿ ಆಫರ್ಗಳಿವೆ. ಈ ಮಾರ್ಗದರ್ಶಿ ಈ ಮಾದರಿಗಳನ್ನು ಮತ್ತು ನೀವು ನಿಜವಾಗಿ ಎಷ್ಟು ಕಳುಹಿಸಬಹುದು ಎಂದು ನಿರ್ಧರಿಸುವ ಉಚಿತ ಶ್ರೇಣಿ ಮಿತಿಗಳನ್ನು ತೋರಿಸುತ್ತದೆ.
ಕೋಡ್, ಮಾದರಿ ಹೆಸರುಗಳು ಮತ್ತು ನೇರ ಕ್ಯಾಟಲಾಗ್ ಲೇಬಲ್ಗಳನ್ನು ಇಂಗ್ಲಿಷ್ನಲ್ಲಿ ತೋರಿಸಲಾಗಿದೆ.
ಇಂದು 1M+ ಟೋಕನ್ ಸಂದರ್ಭವಿರುವ ಉಚಿತ ಮಾದರಿಗಳು
ಕೋಷ್ಟಕ ಕನಿಷ್ಠ 1,000,000 ಟೋಕನ್ಗಳ ಸಂದರ್ಭ ವಿಂಡೋ ಇರುವ ಉಚಿತ ಮಾದರಿಗಳನ್ನು ಪಟ್ಟಿ ಮಾಡುತ್ತದೆ, ದೊಡ್ಡದು ಮೊದಲು. ಮಾಹಿತಿ ಲೈವ್ ಕ್ಯಾಟಲಾಗ್ನಿಂದ ಬಂದಿದೆ. ಸಂದರ್ಭದ ಗಾತ್ರದ ಜೊತೆಗೆ "ಉಚಿತ ಮಿತಿಗಳು" ಕಾಲಂ ಅನ್ನೂ ನೋಡಿ.
| ಮಾದರಿ | ಉಚಿತ | ಸಂದರ್ಭ | ಉಚಿತ ಮಿತಿಗಳು (ಅತ್ಯುತ್ತಮ ಕೊಡುಗೆ) | ಉಪಕರಣಗಳು | ದೃಷ್ಟಿ |
|---|---|---|---|---|---|
| OpenAI: GPT-6 Luna | ElectronHub | 1.1M | $0.25/week shared free credits | ಇಲ್ಲ | ಇಲ್ಲ |
| Gemini 3.8 Flash | APINex, Google AI Studio | 1M | 5 ವಿನಂತಿ/ನಿಮಿಷ 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | ಹೌದು | ಹೌದು |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 ವಿನಂತಿ/ನಿಮಿಷ 20 ವಿನಂತಿ/ದಿನ 250,000 ಟೋಕನ್/ನಿಮಿಷ ~3M | ಹೌದು | ಹೌದು |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 ವಿನಂತಿ/ನಿಮಿಷ 50 ವಿನಂತಿ/ದಿನ Shared rate limit | ಹೌದು | ಇಲ್ಲ |
| DeepSeek V4 Flash 0731 | Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | ಇಲ್ಲ | ಇಲ್ಲ |
| Gemini 3.6 Flash | Google AI Studio | 1M | 10 ವಿನಂತಿ/ನಿಮಿಷ 20 ವಿನಂತಿ/ದಿನ 250,000 ಟೋಕನ್/ನಿಮಿಷ ~3M | ಹೌದು | ಹೌದು |
| GLM 5.2 | Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | ಇಲ್ಲ | ಇಲ್ಲ |
| Gemini 3.5 Flash | Google AI Studio | 1M | 10 ವಿನಂತಿ/ನಿಮಿಷ 20 ವಿನಂತಿ/ದಿನ 250,000 ಟೋಕನ್/ನಿಮಿಷ ~3M | ಹೌದು | ಹೌದು |
| DeepSeek V4 Pro | APINex, Router9 | 1M | 5 ವಿನಂತಿ/ನಿಮಿಷ 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | ಇಲ್ಲ | ಇಲ್ಲ |
| Nemotron 3 Ultra 550B | Gizmo, Kilo Gateway, LLMTR +3 ಇನ್ನೂ | 1M | 200 ವಿನಂತಿ/ದಿನ 200 rpd | ಹೌದು | ಇಲ್ಲ |
| Gemini 3.5 Flash Lite | ElectronHub, Google AI Studio | 1M | 15 ವಿನಂತಿ/ನಿಮಿಷ 20 ವಿನಂತಿ/ದಿನ 250,000 ಟೋಕನ್/ನಿಮಿಷ ~3M | ಹೌದು | ಹೌದು |
| Gemini 3 Flash Preview | Google AI Studio | 1M | 10 ವಿನಂತಿ/ನಿಮಿಷ 20 ವಿನಂತಿ/ದಿನ 250,000 ಟೋಕನ್/ನಿಮಿಷ ~3M | ಹೌದು | ಹೌದು |
| Gemini 3.1 Flash-Lite | DreamPrompting, Google AI Studio | 1M | 100 ವಿನಂತಿ/ನಿಮಿಷ 5,000 ವಿನಂತಿ/ದಿನ 500,000 ಟೋಕನ್/ದಿನ 500K tokens/day · 5,000 req/day | ಹೌದು | ಹೌದು |
| Gemini 2.5 Flash | DreamPrompting, ElectronHub, Google AI Studio | 1M | 100 ವಿನಂತಿ/ನಿಮಿಷ 5,000 ವಿನಂತಿ/ದಿನ 500,000 ಟೋಕನ್/ದಿನ 500K tokens/day · 5,000 req/day | ಹೌದು | ಹೌದು |
| Nemotron 3.5 Lightning | ElectronHub, Gizmo, Kilo Gateway +2 ಇನ್ನೂ | 1M | 20 ವಿನಂತಿ/ನಿಮಿಷ 50 ವಿನಂತಿ/ದಿನ 50 req/day account-wide (1,000 after a $10 purchase) | ಹೌದು | ಇಲ್ಲ |
ಹೊಂದಾಣಿಕೆಯಾಗುವ 33 ಉಚಿತ ಮಾದರಿಗಳಲ್ಲಿ 15 ಅನ್ನು ತೋರಿಸಲಾಗುತ್ತಿದೆ. ಎಲ್ಲಾ ಮಾದರಿಗಳನ್ನು ನೋಡಿ.
FreeLLMAPI ಕ್ಯಾಟಲಾಗ್ನಿಂದ ನೇರ ಡೇಟಾ (ಆವೃತ್ತಿ 2026.11.19, 2026-11-19 ರಂದು ಪರಿಶೀಲಿಸಲಾಗಿದೆ). ಉಚಿತ ಮಿತಿಗಳು ಆಗಾಗ್ಗೆ ಬದಲಾಗುತ್ತವೆ. ಕ್ಯಾಟಲಾಗ್ ಪ್ರತಿದಿನ ಪರಿಶೀಲಿಸಲಾಗುತ್ತದೆ.
Google AI Studio ನ Gemini Flash ಮಾದರಿಗಳು ಅತ್ಯಂತ ಪ್ರಸಿದ್ಧ 1M-ಟೋಕನ್ ಉಚಿತ ಮಾದರಿಗಳು. ಅವು ಚಿತ್ರಗಳು ಮತ್ತು ಟೂಲ್ ಕರೆಗಳನ್ನೂ ಸ್ವೀಕರಿಸುತ್ತವೆ. ಇತರ ಸಾಲುಗಳು ಉಚಿತ ರೂಟರ್ಗಳು ಮತ್ತು NVIDIA ದಿಂದ ಬಂದಿವೆ.
ನಿಜವಾದ ಮಿತಿ: ನಿಮಿಷಕ್ಕೆ ಟೋಕನ್ಗಳು
ಸಂದರ್ಭ ವಿಂಡೋ ಮಾದರಿ ಓದಬಹುದಾದ ಅತಿ ದೊಡ್ಡ ಪ್ರಾಂಪ್ಟ್. ಉಚಿತ ಶ್ರೇಣಿಯಲ್ಲಿ ನಿಮಿಷಕ್ಕೆ ಟೋಕನ್ಗಳ (TPM) ಮಿತಿಯೂ ಇದೆ. ಅನೇಕ ಉಚಿತ ಶ್ರೇಣಿಗಳಲ್ಲಿ, TPM ಮಿತಿ ಸಂದರ್ಭ ವಿಂಡೋಕ್ಕಿಂತ ಚಿಕ್ಕದಾಗಿರುತ್ತದೆ.
- ಉದಾಹರಣೆ: ಕೋಷ್ಟಕದಲ್ಲಿನ ಉಚಿತ Gemini Flash ಕೀ ನಿಮಿಷಕ್ಕೆ 250,000 ಟೋಕನ್ಗಳನ್ನು ಅನುಮತಿಸುತ್ತದೆ. 800,000 ಟೋಕನ್ಗಳ ಪ್ರಾಂಪ್ಟ್ ಸಂದರ್ಭ ವಿಂಡೋದೊಳಗಿದೆ, ಆದರೆ TPM ಮಿತಿಗಿಂತ ಹೆಚ್ಚು. ಪೂರೈಕೆದಾರ 429 ದೋಷ ಕಳುಹಿಸುತ್ತದೆ.
- ದಿನಕ್ಕೆ ವಿನಂತಿಗಳು: ಕೆಲವು ಉಚಿತ Gemini ಮಾದರಿಗಳು ಪ್ರತಿ ದಿನ ಸುಮಾರು 20 ವಿನಂತಿಗಳನ್ನು ಮಾತ್ರ ಅನುಮತಿಸುತ್ತವೆ. ಅಗತ್ಯವಿರುವ ಕೆಲಸಗಳಿಗೆ ದೀರ್ಘ ಪ್ರಾಂಪ್ಟ್ಗಳನ್ನು ಬಳಸಿ.
- ಔಟ್ಪುಟ್ ಪ್ರತ್ಯೇಕ: ಉತ್ತರಕ್ಕೆ ತನ್ನದೇ ಗರಿಷ್ಠ ಉದ್ದವಿದೆ. 1M-ಟೋಕನ್ ಸಂದರ್ಭ 1M-ಟೋಕನ್ ಉತ್ತರ ನೀಡುವುದಿಲ್ಲ.
ಆದ್ದರಿಂದ ಪ್ರಾಯೋಗಿಕವಾಗಿ, ಉಚಿತ 1M-ಸಂದರ್ಭ ಮಾದರಿ ಒಂದು ವಿನಂತಿಯಲ್ಲಿ ಕೆಲವು ನೂರು ಸಾವಿರ ಟೋಕನ್ಗಳನ್ನು ಓದಬಲ್ಲದು. ಕಳುಹಿಸುವ ಮೊದಲು ನಿಮ್ಮ ಪ್ರಾಂಪ್ಟ್ ಅನ್ನು ಅಳೆಯಿರಿ.
ಹಂತ 1: FreeLLMAPI ಸ್ಥಾಪಿಸಿ ಮತ್ತು ಕೀಗಳನ್ನು ಸೇರಿಸಿ
FreeLLMAPI ಓಪನ್ ಸೋರ್ಸ್. ಇದು ನಿಮ್ಮ ಕಂಪ್ಯೂಟರ್ನಲ್ಲಿ Docker ನಲ್ಲಿ ಚಲಿಸುತ್ತದೆ. ನಿಮ್ಮ ಪೂರೈಕೆದಾರ ಕೀಗಳು ನಿಮ್ಮ ಕಂಪ್ಯೂಟರ್ನಲ್ಲೇ ಉಳಿಯುತ್ತವೆ.
ಸ್ಥಾಪಿಸಿ (macOS ಅಥವಾ Linux)
curl -fsSL https://freellmapi.co/install.sh | bashhttp://localhost:3001 ನಲ್ಲಿ ಡ್ಯಾಶ್ಬೋರ್ಡ್ ತೆರೆಯಿರಿ. Keys ಪುಟದಲ್ಲಿ Google AI Studio ಕೀ ಸೇರಿಸಿ. Google 429 ದೋಷ ಕಳುಹಿಸಿದಾಗ ರೂಟರ್ಗೆ ಇನ್ನೊಂದು ದೀರ್ಘ-ಸಂದರ್ಭ ಮಾದರಿ ಇರುವಂತೆ, ಕೋಷ್ಟಕದ ಇತರ ಪೂರೈಕೆದಾರರ ಕೀಗಳನ್ನೂ ಸೇರಿಸಿ. ಅದೇ ಪುಟದಿಂದ ನಿಮ್ಮ ಏಕೀಕೃತ ಕೀಯನ್ನು ನಕಲಿಸಿ.
ಹಂತ 2: ಟೋಕನ್ಗಳನ್ನು ಎಣಿಸಿ, ನಂತರ ದೀರ್ಘ ದಸ್ತಾವೇಜು ಕಳುಹಿಸಿ
FreeLLMAPI ಸ್ಥಳೀಯ Gemini countTokens ವಿಧಾನವನ್ನು ನೀಡುತ್ತದೆ. ಕಳುಹಿಸುವ ಮೊದಲು ಪ್ರಾಂಪ್ಟ್ ಅಳೆಯಲು ಇದನ್ನು ಬಳಸಿ.
curl: ಸ್ಥಳೀಯ Gemini ಎಂಡ್ಪಾಯಿಂಟ್ನೊಂದಿಗೆ ಟೋಕನ್ಗಳನ್ನು ಎಣಿಸಿ
curl "http://localhost:3001/v1beta/models/gemini-2.5-flash:countTokens" \
-H "x-goog-api-key: <unified-key>" \
-H "Content-Type: application/json" \
-d '{"contents": [{"role": "user", "parts": [{"text": "Paste the long text here"}]}]}'Python: 1M-ಸಂದರ್ಭ ಮಾದರಿಗೆ ದೀರ್ಘ ಫೈಲ್ ಕಳುಹಿಸಿ
from openai import OpenAI
client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>", timeout=300)
doc = open("annual-report.txt", encoding="utf-8").read()
print("about", len(doc) // 4, "tokens") # rough rule for English text
resp = client.chat.completions.with_raw_response.create(
model="gemini-2.5-flash", # pin a 1M-context model; "auto" can pick a smaller one
messages=[
{"role": "system", "content": "Answer only from the document. Quote the section you use."},
{"role": "user", "content": doc + "\n\nQuestion: What are the three largest risks?"},
],
max_tokens=4000,
)
print("Routed via:", resp.headers.get("x-routed-via"))
print(resp.parse().choices[0].message.content)ದೀರ್ಘ-ಸಂದರ್ಭ ಮಾದರಿಯನ್ನು ಅದರ ಐಡಿಯಿಂದ ನಿಗದಿಪಡಿಸಿ. model: "auto" ಜೊತೆ, ರೂಟರ್ ಚಿಕ್ಕ ಸಂದರ್ಭ ವಿಂಡೋ ಇರುವ ಮಾದರಿಯನ್ನು ಆಯ್ಕೆ ಮಾಡಬಹುದು. ದೊಡ್ಡ ಪ್ರಾಂಪ್ಟ್ಗಳನ್ನು ಓದಲು ಸಮಯ ಬೇಕಾಗುವುದರಿಂದ ದೀರ್ಘ ಕ್ಲೈಂಟ್ ಟೈಮ್ಔಟ್ ಹೊಂದಿಸಿ.
ದೀರ್ಘ ಸಂದರ್ಭವೋ ಅಥವಾ RAG ಓ?
| ದೀರ್ಘ ಸಂದರ್ಭ ಬಳಸಿ ಯಾವಾಗ | RAG ಬಳಸಿ ಯಾವಾಗ |
|---|---|
| ದಸ್ತಾವೇಜನ್ನು ಒಮ್ಮೆ ಓದಲಾಗುತ್ತದೆ, ಉದಾಹರಣೆಗೆ ಒಂದು ಒಪ್ಪಂದ ಅಥವಾ ಒಂದು ವರದಿ | ಒಂದೇ ದೊಡ್ಡ ಡೇಟಾದ ಬಗ್ಗೆ ನೀವು ಅನೇಕ ಪ್ರಶ್ನೆಗಳನ್ನು ಕೇಳುತ್ತೀರಿ |
| ಉತ್ತರಕ್ಕೆ ಪೂರ್ಣ ಪಠ್ಯ ಬೇಕು, ಉದಾಹರಣೆಗೆ ಸಾರಾಂಶ ಅಥವಾ ವಿಭಾಗಗಳ ಹೋಲಿಕೆ | ಉತ್ತರ ಕೆಲವು ಚಿಕ್ಕ ಭಾಗಗಳಲ್ಲಿದೆ |
| ಪಠ್ಯ ನಿಮ್ಮ ಉಚಿತ ಕೀಯ TPM ಮಿತಿಗಿಂತ ಚಿಕ್ಕದು | ಡೇಟಾ ಯಾವುದೇ ಉಚಿತ ಸಂದರ್ಭ ವಿಂಡೋ ಅಥವಾ TPM ಮಿತಿಗಿಂತ ದೊಡ್ಡದು |
| ಪಠ್ಯದ ಕ್ರಮ ಮತ್ತು ರಚನೆಯನ್ನು ಮಾದರಿ ನೋಡಬೇಕು | ಪ್ರತಿ ವಿನಂತಿಯನ್ನು ಚಿಕ್ಕ ಮತ್ತು ವೇಗವಾಗಿ ಇಡಬೇಕು |
RAG ಪ್ರತಿ ಪ್ರಶ್ನೆಯೊಂದಿಗೆ ಡೇಟಾದ ಸಂಬಂಧಿತ ಭಾಗಗಳನ್ನು ಮಾತ್ರ ಕಳುಹಿಸುತ್ತದೆ. ಉಚಿತ ಶ್ರೇಣಿಗಳಲ್ಲಿ ಇದು ಕಡಿಮೆ ಟೋಕನ್ಗಳನ್ನು ಬಳಸುತ್ತದೆ. ಇದನ್ನು ಹೊಂದಿಸಲು RAG ಗಾಗಿ ಉಚಿತ LLM API ಮತ್ತು ಉಚಿತ ಎಂಬೆಡಿಂಗ್ಸ್ API ಓದಿ.
ಅಪಾಯಗಳು ಮತ್ತು ದೋಷ ನಿವಾರಣೆ
- ಕಳೆದುಹೋದ ವಿವರಗಳು: ಬಹಳ ದೀರ್ಘ ಪ್ರಾಂಪ್ಟ್ನ ಮಧ್ಯದಲ್ಲಿ ಮಾದರಿಗಳು ಸಂಗತಿಗಳನ್ನು ತಪ್ಪಿಸಿಕೊಳ್ಳಬಹುದು. ನಿಮ್ಮ ಪ್ರಶ್ನೆಯನ್ನು ದಸ್ತಾವೇಜಿನ ನಂತರ ಇರಿಸಿ, ಮತ್ತು ಮಾದರಿಗೆ ತನ್ನ ಮೂಲವನ್ನು ಉಲ್ಲೇಖಿಸಲು ಕೇಳಿ.
- ತಾರ್ಕಿಕ ಟೋಕನ್ಗಳು: Gemini Flash ಮಾದರಿಗಳು ಔಟ್ಪುಟ್ ಬಜೆಟ್ನಿಂದ ಗುಪ್ತ ತಾರ್ಕಿಕ ಟೋಕನ್ಗಳನ್ನು ಬಳಸಬಹುದು. ತುಂಬಾ ಚಿಕ್ಕ
max_tokensಹೊಂದಿಸಬೇಡಿ. - PDF ಫೈಲ್ಗಳು: FreeLLMAPI PDF, DOCX ಅಥವಾ XLSX ಫೈಲ್ಗಳನ್ನು ಪರಿವರ್ತಿಸುವುದಿಲ್ಲ. ಬೈನರಿ ದಸ್ತಾವೇಜು ಲಗತ್ತು ದೋಷ 400 ಹಿಂತಿರುಗಿಸುತ್ತದೆ. ಮೊದಲು ಪಠ್ಯವನ್ನು ಹೊರತೆಗೆಯಿರಿ, ನಂತರ ಪಠ್ಯವನ್ನು ಕಳುಹಿಸಿ.
- ಪಠ್ಯ ಸ್ವಚ್ಛಗೊಳಿಸಿ: ದಸ್ತಾವೇಜನ್ನು ಕಳುಹಿಸುವ ಮೊದಲು ಪುಟದ ಶೀರ್ಷಿಕೆಗಳು, ಅಡಿಟಿಪ್ಪಣಿಗಳು ಮತ್ತು ಪುನರಾವರ್ತಿತ ವಿಷಯಗಳ ಪಟ್ಟಿಗಳನ್ನು ತೆಗೆದುಹಾಕಿ. ಅವು ಟೋಕನ್ಗಳನ್ನು ಬಳಸುತ್ತವೆ ಮತ್ತು ಯಾವುದೇ ಸಂಗತಿಗಳನ್ನು ಸೇರಿಸುವುದಿಲ್ಲ.
- ಪುನರಾವರ್ತಿತ ಪ್ರಾಂಪ್ಟ್ಗಳು: ಪ್ರತಿ ವಿನಂತಿ ಪೂರ್ಣ ದಸ್ತಾವೇಜನ್ನು ಮತ್ತೆ ಕಳುಹಿಸುತ್ತದೆ. ಸಾಧ್ಯವಾದಾಗ ಒಂದೇ ವಿನಂತಿಯಲ್ಲಿ ಹಲವು ಪ್ರಶ್ನೆಗಳನ್ನು ಕೇಳಿ.
| ಸಮಸ್ಯೆ | ಕಾರಣ | ಪರಿಹಾರ |
|---|---|---|
| ಮೊದಲ ದೀರ್ಘ ವಿನಂತಿಯಲ್ಲಿ ದೋಷ 429 | ಪ್ರಾಂಪ್ಟ್ TPM ಮಿತಿಗಿಂತ ದೊಡ್ಡದು | ಪ್ರಾಂಪ್ಟ್ ಚಿಕ್ಕದು ಮಾಡಿ, ಅಥವಾ RAG ಬಳಸಿ |
| ಸಂದರ್ಭದ ಉದ್ದದ ಬಗ್ಗೆ ದೋಷ 400 | ವಿನಂತಿ ಚಿಕ್ಕ ವಿಂಡೋ ಇರುವ ಮಾದರಿಗೆ ಹೋಯಿತು | ಕೋಷ್ಟಕದಿಂದ ಮಾದರಿ ಐಡಿಯನ್ನು ನಿಗದಿಪಡಿಸಿ |
| ಖಾಲಿ ಅಥವಾ ಕತ್ತರಿಸಿದ ಉತ್ತರ | max_tokens ತುಂಬಾ ಚಿಕ್ಕದು, ಅಥವಾ ತಾರ್ಕಿಕತೆ ಅದನ್ನು ಬಳಸಿತು | ದೊಡ್ಡ max_tokens ಹೊಂದಿಸಿ |
| ಟೈಮ್ಔಟ್ | ಪ್ರಾಂಪ್ಟ್ ಓದಲು ಮಾದರಿಗೆ ಸಮಯ ಬೇಕು | 300 ಸೆಕೆಂಡ್ ಅಥವಾ ಹೆಚ್ಚಿನ ಕ್ಲೈಂಟ್ ಟೈಮ್ಔಟ್ ಹೊಂದಿಸಿ |
ಪದೇ ಪದೇ ಕೇಳುವ ಪ್ರಶ್ನೆಗಳು
1 ಮಿಲಿಯನ್ ಟೋಕನ್ ಸಂದರ್ಭದೊಂದಿಗೆ ಉಚಿತ LLM API ಇದೆಯೇ?
ಹೌದು. Google AI Studio ಉಚಿತ ಶ್ರೇಣಿಯ Gemini Flash ಮಾದರಿಗಳು ಸುಮಾರು 1 ಮಿಲಿಯನ್ ಟೋಕನ್ಗಳ ಸಂದರ್ಭ ವಿಂಡೋ ಹೊಂದಿವೆ. FreeLLMAPI ಕ್ಯಾಟಲಾಗ್ನಲ್ಲಿ 1M ಅಥವಾ ಹೆಚ್ಚಿನ ಟೋಕನ್ಗಳ 56 ಉಚಿತ ಮಾದರಿ ಆಫರ್ಗಳಿವೆ.
ಒಂದೇ ವಿನಂತಿಯಲ್ಲಿ ಉಚಿತವಾಗಿ 1 ಮಿಲಿಯನ್ ಟೋಕನ್ ಕಳುಹಿಸಬಹುದೇ?
ಸಾಮಾನ್ಯವಾಗಿ ಇಲ್ಲ. ಕ್ಯಾಟಲಾಗ್ನಲ್ಲಿನ ಉಚಿತ Gemini ಶ್ರೇಣಿ ನಿಮಿಷಕ್ಕೆ 250,000 ಟೋಕನ್ಗಳನ್ನು ಅನುಮತಿಸುತ್ತದೆ, ಆದ್ದರಿಂದ ದೊಡ್ಡ ಪ್ರಾಂಪ್ಟ್ 429 ದೋಷ ಪಡೆಯುತ್ತದೆ. ಪ್ರತಿ ವಿನಂತಿಗೆ ಕೆಲವು ನೂರು ಸಾವಿರ ಟೋಕನ್ಗಳನ್ನು ಯೋಜಿಸಿ.
ಪ್ರಾಂಪ್ಟ್ ಕಳುಹಿಸುವ ಮೊದಲು ಟೋಕನ್ಗಳನ್ನು ಹೇಗೆ ಎಣಿಸುವುದು?
FreeLLMAPI ಮೂಲಕ ಸ್ಥಳೀಯ Gemini countTokens ವಿಧಾನವನ್ನು /v1beta/models/{model}:countTokens ನಲ್ಲಿ ಕರೆ ಮಾಡಿ. ಇಂಗ್ಲಿಷ್ ಪಠ್ಯಕ್ಕೆ, ಸುಮಾರು 4 ಅಕ್ಷರಗಳು ಒಂದು ಟೋಕನ್.
ಯಾವ ಉಚಿತ LLM ಅತಿ ದೊಡ್ಡ ಸಂದರ್ಭ ವಿಂಡೋ ಹೊಂದಿದೆ?
ಈ ಪುಟದ ಕೋಷ್ಟಕ ಉಚಿತ ಮಾದರಿಗಳನ್ನು ಸಂದರ್ಭದ ಗಾತ್ರದಿಂದ, ದೊಡ್ಡದು ಮೊದಲು ವಿಂಗಡಿಸುತ್ತದೆ. ಹಲವು ಉಚಿತ ಮಾದರಿಗಳು ಸುಮಾರು 1 ಮಿಲಿಯನ್ ಟೋಕನ್ಗಳನ್ನು ತಲುಪುತ್ತವೆ. ಉಚಿತ ಮಿತಿಗಳ ಕಾಲಂ ಕೂಡ ಓದಿ, ಏಕೆಂದರೆ ಒಂದು ವಿನಂತಿಯ ನಿಜವಾದ ಗಾತ್ರವನ್ನು TPM ಮಿತಿ ನಿರ್ಧರಿಸುತ್ತದೆ.
ದೀರ್ಘ ಸಂದರ್ಭ RAG ಗಿಂತ ಉತ್ತಮವೇ?
ನೀವು ಒಮ್ಮೆ ಓದುವ ಒಂದು ದಸ್ತಾವೇಜಿಗೆ ದೀರ್ಘ ಸಂದರ್ಭ ಉತ್ತಮ. ದೊಡ್ಡ ಡೇಟಾದ ಬಗ್ಗೆ ಅನೇಕ ಪ್ರಶ್ನೆಗಳಿಗೆ RAG ಉತ್ತಮ, ಏಕೆಂದರೆ ಅದು ಪ್ರತಿ ಬಾರಿ ಕಡಿಮೆ ಟೋಕನ್ಗಳನ್ನು ಕಳುಹಿಸುತ್ತದೆ.
ಸಂಬಂಧಿತ ಮಾರ್ಗದರ್ಶಿಗಳು
- RAG ಗಾಗಿ ಉಚಿತ LLM API
- ಉಚಿತ ಎಂಬೆಡಿಂಗ್ಸ್ API
- free gemini api
- Gemini API ಕೋಟಾ ಮೀರಿದೆ (429 RESOURCE_EXHAUSTED)
- ಉಚಿತ LLM API ಮಿತಿಗಳು
ಮೂಲಗಳು
- FreeLLMAPI docs: Native Gemini API (20 November 2026 ರಂದು ಪರಿಶೀಲಿಸಲಾಗಿದೆ)
- FreeLLMAPI docs: Chat completions and routing (20 November 2026 ರಂದು ಪರಿಶೀಲಿಸಲಾಗಿದೆ)
- Google AI Studio docs: Thinking (20 November 2026 ರಂದು ಪರಿಶೀಲಿಸಲಾಗಿದೆ)
- Gemini Developer API pricing (20 November 2026 ರಂದು ಪರಿಶೀಲಿಸಲಾಗಿದೆ)