ಏಜೆಂಟ್ಗಳಿಗಾಗಿ ಉಚಿತ LLM API
ಒಂದು AI ಏಜೆಂಟ್ ಒಂದು ಕೆಲಸಕ್ಕಾಗಿ ಅನೇಕ ಮಾದರಿ ವಿನಂತಿಗಳನ್ನು ಕಳುಹಿಸುತ್ತದೆ. ಪ್ರತಿ ಹಂತಕ್ಕೆ ಟೂಲ್ ಕರೆ ಮತ್ತು ದೊಡ್ಡ ಸಂದರ್ಭ ಬೇಕು. ಒಂದು ಉಚಿತ ಶ್ರೇಣಿ ಏಜೆಂಟ್ ಅನ್ನು ಬೇಗ ನಿಲ್ಲಿಸುತ್ತದೆ. FreeLLMAPI ಒಂದೇ OpenAI-ಹೊಂದಾಣಿಕೆಯ ಕೀ ಹಿಂದೆ 45 ಉಚಿತ ಪೂರೈಕೆದಾರ ಶ್ರೇಣಿಗಳನ್ನು ಒಟ್ಟುಗೂಡಿಸುತ್ತದೆ. ಮಿತಿಯು ವಿನಂತಿಯನ್ನು ನಿಲ್ಲಿಸಿದಾಗ ಅದು ಮುಂದಿನ ಪೂರೈಕೆದಾರರಿಗೆ ಬದಲಾಗುತ್ತದೆ, ಆದ್ದರಿಂದ ಏಜೆಂಟ್ ಮುಂದುವರಿಯಬಹುದು. ಈ ಮಾರ್ಗದರ್ಶಿ ಟೂಲ್ ಕರೆ, ಹಂತವಾರು ರೂಟಿಂಗ್, ದೀರ್ಘ ಸೆಷನ್ಗಳು ಮತ್ತು ರೂಟರ್ನ MCP ಸರ್ವರ್ ಅನ್ನು ವಿವರಿಸುತ್ತದೆ.
ಕೋಡ್, ಮಾದರಿ ಹೆಸರುಗಳು ಮತ್ತು ನೇರ ಕ್ಯಾಟಲಾಗ್ ಲೇಬಲ್ಗಳನ್ನು ಇಂಗ್ಲಿಷ್ನಲ್ಲಿ ತೋರಿಸಲಾಗಿದೆ.
ಏಜೆಂಟ್ಗೆ ಉಚಿತ API ನಿಂದ ಏನು ಬೇಕು
| ಅಗತ್ಯ | ಏಕೆ | FreeLLMAPI ಏನು ಮಾಡುತ್ತದೆ |
|---|---|---|
| ಟೂಲ್ ಕರೆ | ಏಜೆಂಟ್ ಟೂಲ್ ಆಯ್ಕೆ ಮಾಡಿ ಚಲಾಯಿಸುತ್ತದೆ | ಪ್ರತಿ ಪೂರೈಕೆದಾರರಿಗೆ OpenAI-ಶೈಲಿಯ tools ಕಳುಹಿಸುತ್ತದೆ. ಸರಳ ಪಠ್ಯದ ಟೂಲ್ ಕರೆಗಳನ್ನು ನಿಜವಾದ tool_calls ಆಗಿ ಪರಿವರ್ತಿಸುತ್ತದೆ. |
| ಅನೇಕ ವಿನಂತಿಗಳು | ಒಂದು ಕೆಲಸಕ್ಕೆ 20 ರಿಂದ 100 ಹಂತಗಳು ಬೇಕಾಗಬಹುದು | ಪ್ರತಿ ಕೀಯ ಕೋಟಾವನ್ನು ಎಣಿಸುತ್ತದೆ ಮತ್ತು 429 ಬಂದಾಗ ಮುಂದಿನ ಕೀ ಅಥವಾ ಪೂರೈಕೆದಾರರಿಗೆ ಹೋಗುತ್ತದೆ |
| ದೊಡ್ಡ ಸಂದರ್ಭ | ಟೂಲ್ ಫಲಿತಾಂಶಗಳು ಮತ್ತು ಇತಿಹಾಸ ಪ್ರತಿ ಹಂತದಲ್ಲಿ ಬೆಳೆಯುತ್ತವೆ | ನಿಮ್ಮ ಸರಪಳಿಯ ಮಾದರಿಗಳಿಗೆ ರೂಟ್ ಮಾಡುತ್ತದೆ. ನೀವು ದೀರ್ಘ-ಸಂದರ್ಭದ ಪ್ರೊಫೈಲ್ ಮಾಡಬಹುದು. |
| ಸ್ಥಿರ ವರ್ತನೆ | ಕೆಲಸದ ಮಧ್ಯದಲ್ಲಿ ಮಾದರಿ ಬದಲಾದರೆ ಏಜೆಂಟ್ ಗೊಂದಲಕ್ಕೊಳಗಾಗಬಹುದು | ಒಂದು ಸೆಷನ್ ಅನ್ನು 30 ನಿಮಿಷ ಒಂದೇ ಮಾದರಿಯಲ್ಲಿ ಇರಿಸುತ್ತದೆ. ಬದಲಾವಣೆ ಆದಾಗ ಐಚ್ಛಿಕ ಸಂದರ್ಭ ಹಸ್ತಾಂತರ. |
| ಗೋಚರತೆ | ಯಾವ ಮಾದರಿ ವಿಫಲವಾಯಿತು ಎಂದು ನೀವು ತಿಳಿಯಬೇಕು | ಪ್ರತಿ ಪ್ರತಿಕ್ರಿಯೆಯಲ್ಲಿ X-Routed-Via ಮತ್ತು X-Fallback-Trail ಹೆಡರ್ಗಳು |
ಉಚಿತ ಶ್ರೇಣಿಗಳಿಗೆ ಮಿತಿಗಳಿವೆ. ಫೇಲ್ಓವರ್ ಲೋಡ್ ಅನ್ನು ನಿಮ್ಮ ಕೀಗಳ ಮೇಲೆ ಹಂಚುತ್ತದೆ, ಆದರೆ ಒಟ್ಟು ಮೊತ್ತ ಇನ್ನೂ ಉಚಿತ ಮಿತಿಗಳ ಮೊತ್ತವೇ ಆಗಿರುತ್ತದೆ. ಏಜೆಂಟ್ ಕೆಲಸಕ್ಕಾಗಿ ನಾಲ್ಕು ಅಥವಾ ಹೆಚ್ಚು ಪೂರೈಕೆದಾರರ ಕೀಗಳನ್ನು ಸೇರಿಸಿ.
| ಮಾದರಿ | ಉಚಿತ | ಸಂದರ್ಭ | ಉಚಿತ ಮಿತಿಗಳು (ಅತ್ಯುತ್ತಮ ಕೊಡುಗೆ) | ಉಪಕರಣಗಳು | ದೃಷ್ಟಿ |
|---|---|---|---|---|---|
| GLM 5.3 | UnoRouter | 1M | 1 ವಿನಂತಿ/ನಿಮಿಷ 1 req/min per model | ಹೌದು | ಇಲ್ಲ |
| GLM 5.3 Flash | NVIDIA NIM, UnoRouter | 1M | 40 ವಿನಂತಿ/ನಿಮಿಷ 40 RPM | ಹೌದು | ಹೌದು |
| Gemini 3.8 Flash | Google AI Studio | 1M | Recurring provider quota | ಹೌದು | ಹೌದು |
| Qwen3.8 Flash Next | AMD Radeon Cloud | 262K | Recurring daily account allowance | ಹೌದು | ಇಲ್ಲ |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | ಹೌದು | ಹೌದು |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 ವಿನಂತಿ/ನಿಮಿಷ 20 ವಿನಂತಿ/ದಿನ 250,000 ಟೋಕನ್/ನಿಮಿಷ ~3M | ಹೌದು | ಹೌದು |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | ಹೌದು | ಹೌದು |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 ವಿನಂತಿ/ನಿಮಿಷ 50 ವಿನಂತಿ/ದಿನ 50 req/day account-wide (1,000 after a $10 purchase) | ಹೌದು | ಹೌದು |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 ವಿನಂತಿ/ನಿಮಿಷ 50 ವಿನಂತಿ/ದಿನ Shared rate limit | ಹೌದು | ಇಲ್ಲ |
| Qwen3.8 27B | ElectronHub, Groq, OVH AI Endpoints | 262K | 30 ವಿನಂತಿ/ನಿಮಿಷ 250 ವಿನಂತಿ/ದಿನ 70,000 ಟೋಕನ್/ನಿಮಿಷ ~6M | ಹೌದು | ಹೌದು |
| Gemini 3.6 Flash | Google AI Studio | 1M | 10 ವಿನಂತಿ/ನಿಮಿಷ 20 ವಿನಂತಿ/ದಿನ 250,000 ಟೋಕನ್/ನಿಮಿಷ ~3M | ಹೌದು | ಹೌದು |
| Qwen 3.8 27B | Cloudflare Workers AI | 262K | Shared 10k neurons/day | ಹೌದು | ಹೌದು |
ಹೊಂದಾಣಿಕೆಯಾಗುವ 109 ಉಚಿತ ಮಾದರಿಗಳಲ್ಲಿ 12 ಅನ್ನು ತೋರಿಸಲಾಗುತ್ತಿದೆ. ಎಲ್ಲಾ ಮಾದರಿಗಳನ್ನು ನೋಡಿ.
FreeLLMAPI ಕ್ಯಾಟಲಾಗ್ನಿಂದ ನೇರ ಡೇಟಾ (ಆವೃತ್ತಿ 2026.11.19, 2026-11-19 ರಂದು ಪರಿಶೀಲಿಸಲಾಗಿದೆ). ಉಚಿತ ಮಿತಿಗಳು ಆಗಾಗ್ಗೆ ಬದಲಾಗುತ್ತವೆ. ಕ್ಯಾಟಲಾಗ್ ಪ್ರತಿದಿನ ಪರಿಶೀಲಿಸಲಾಗುತ್ತದೆ.
ಪೈಥಾನ್ನಲ್ಲಿ ಸಂಪೂರ್ಣ ಏಜೆಂಟ್ ಲೂಪ್
ಕೆಳಗಿನ ಲೂಪ್ ಅಧಿಕೃತ OpenAI SDK ಬಳಸುತ್ತದೆ. ಇದು ಟೂಲ್ಗಳನ್ನು ಕಳುಹಿಸುತ್ತದೆ, ಪ್ರತಿ ಟೂಲ್ ಕರೆಯನ್ನು ಚಲಾಯಿಸುತ್ತದೆ, ಫಲಿತಾಂಶವನ್ನು ಮರಳಿ ಕಳುಹಿಸುತ್ತದೆ ಮತ್ತು ಮಾದರಿ ಅಂತಿಮ ಉತ್ತರ ನೀಡಿದಾಗ ನಿಲ್ಲುತ್ತದೆ. ಗರಿಷ್ಠ ಹಂತಗಳ ಸಂಖ್ಯೆಯ ನಂತರವೂ ಅದು ನಿಲ್ಲುತ್ತದೆ.
agent.py
import json
import os
import time
import openai
from openai import OpenAI
client = OpenAI(
base_url="http://localhost:3001/v1",
api_key=os.environ["FREELLMAPI_API_KEY"], # <unified-key>
max_retries=3,
)
def get_weather(city: str) -> dict:
return {"city": city, "temp_c": 18, "sky": "cloudy"}
TOOLS = [{
"type": "function",
"function": {
"name": "get_weather",
"description": "Get the current weather for a city.",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string"}},
"required": ["city"],
},
},
}]
FUNCTIONS = {"get_weather": get_weather}
def call_model(messages, session_id):
for attempt in range(5):
try:
return client.chat.completions.create(
model="auto:smart",
messages=messages,
tools=TOOLS,
extra_headers={"X-Session-Id": session_id},
)
except openai.RateLimitError as err:
header = err.response.headers.get("retry-after", "")
wait = int(header) if header.isdigit() else 2 ** attempt
time.sleep(min(wait, 60))
raise RuntimeError("All free providers are at their limit")
def run(task: str, session_id: str, max_steps: int = 10) -> str:
messages = [
{"role": "system", "content": "Use the tools when they help. Be brief."},
{"role": "user", "content": task},
]
for _ in range(max_steps):
msg = call_model(messages, session_id).choices[0].message
messages.append(msg)
if not msg.tool_calls:
return msg.content
for call in msg.tool_calls:
fn = FUNCTIONS.get(call.function.name)
try:
args = json.loads(call.function.arguments or "{}")
result = fn(**args) if fn else {"error": "unknown tool"}
except Exception as exc: # return tool errors to the model
result = {"error": str(exc)}
messages.append({
"role": "tool",
"tool_call_id": call.id,
"content": json.dumps(result),
})
return "Stopped: too many steps."
print(run("Should I take an umbrella in Dublin today?", session_id="task-001"))- X-Session-Id: ಆ ಮಾದರಿಗೆ ಕೋಟಾ ಇರುವವರೆಗೆ ಒಂದು ಕೆಲಸದ ಎಲ್ಲಾ ಹಂತಗಳನ್ನು ಒಂದೇ ಮಾದರಿಯಲ್ಲಿ ಇರಿಸುತ್ತದೆ.
- Retry-After: ಎಲ್ಲಾ ಕೀಗಳು ತಮ್ಮ ಮಿತಿಯಲ್ಲಿ ಇದ್ದಾಗ, ಗೇಟ್ವೇ ಈ ಹೆಡರ್ನೊಂದಿಗೆ 429 ಹಿಂತಿರುಗಿಸುತ್ತದೆ. ಲೂಪ್ ಕಾಯುತ್ತದೆ ಮತ್ತು ಮತ್ತೆ ಪ್ರಯತ್ನಿಸುತ್ತದೆ.
- ಟೂಲ್ ದೋಷಗಳು: ಲೂಪ್ ದೋಷಗಳನ್ನು ಟೂಲ್ ಫಲಿತಾಂಶಗಳಾಗಿ ಮಾದರಿಗೆ ಕಳುಹಿಸುತ್ತದೆ. ಮಾದರಿ ನಂತರ ತನ್ನ ಕರೆಯನ್ನು ಸರಿಪಡಿಸಬಹುದು.
ಪ್ರತಿ ಹಂತವನ್ನು ಸರಿಯಾದ ಮಾದರಿಗೆ ರೂಟ್ ಮಾಡಿ
ಏಜೆಂಟ್ ಹಂತಗಳು ಸಮಾನವಲ್ಲ. ಯೋಜನೆ ಹಂತಕ್ಕೆ ಬಲಿಷ್ಠ ಮಾದರಿ ಬೇಕು. ಒಂದು ಕ್ಷೇತ್ರವನ್ನು ಮಾತ್ರ ಹೊರತೆಗೆಯುವ ಹಂತಕ್ಕೆ ವೇಗದ ಮಾದರಿ ಬೇಕು. ಪ್ರತಿ ಹಂತದ ಪ್ರಕಾರಕ್ಕೆ ಬೇರೆ ಮಾದರಿ ಸ್ಟ್ರಿಂಗ್ ಬಳಸಿ. ಡ್ಯಾಶ್ಬೋರ್ಡ್ ಬದಲಿಸುವ ಅಗತ್ಯವಿಲ್ಲ.
| ಮಾದರಿ ಸ್ಟ್ರಿಂಗ್ | ಇದರ ಆಧಾರದ ಮೇಲೆ ಶ್ರೇಣೀಕರಣ | ಏಜೆಂಟ್ ಬಳಕೆ |
|---|---|---|
auto:smart | ಬುದ್ಧಿಮತ್ತೆ | ಯೋಜನೆ, ಟೂಲ್ ಆಯ್ಕೆ, ಅಂತಿಮ ಉತ್ತರಗಳು |
auto:fast | ಅಳೆದ ವೇಗ ಮತ್ತು ಮೊದಲ ಬೈಟ್ವರೆಗಿನ ಸಮಯ | ಹೊರತೆಗೆಯುವಿಕೆ, ವರ್ಗೀಕರಣ, ಟೂಲ್ ಔಟ್ಪುಟ್ನ ಸಣ್ಣ ಸಾರಾಂಶಗಳು |
auto:reliable | ಇತ್ತೀಚಿನ ಯಶಸ್ಸಿನ ದರ | ಪೂರ್ಣಗೊಳ್ಳಬೇಕಾದ ನಿಗದಿತ ಏಜೆಂಟ್ಗಳು |
auto:balanced | ಮೊದಲು ವಿಶ್ವಾಸಾರ್ಹತೆ, ನಂತರ ವೇಗ ಮತ್ತು ಬುದ್ಧಿಮತ್ತೆ | ಸಾಮಾನ್ಯ ಡೀಫಾಲ್ಟ್ |
auto:<profile> | ನಿಮ್ಮ ಹೆಸರಿಟ್ಟ ಫೇಲ್ಓವರ್ ಸರಪಳಿ | ಕೇವಲ ಟೂಲ್ ಕರೆ ಮಾಡುವ ಮಾದರಿಗಳ ಸರಪಳಿ |
auto:* ತಂತ್ರಗಳು ಸಕ್ರಿಯಗೊಂಡ ಪ್ರತಿ ಮಾದರಿಯನ್ನು ಶ್ರೇಣೀಕರಿಸುತ್ತವೆ ಮತ್ತು ನಿಮ್ಮ ಸರಪಳಿಯ ಕ್ರಮವನ್ನು ನಿರ್ಲಕ್ಷಿಸುತ್ತವೆ. ಟೂಲ್ಗಳಿರುವ ವಿನಂತಿಗೆ ಇನ್ನೂ ಟೂಲ್ ಕರೆ ಇರುವ ಮಾದರಿ ಬೇಕು. ಕೆಲವು ಸಕ್ರಿಯ ಮಾದರಿಗಳು ಟೂಲ್ಗಳನ್ನು ಚೆನ್ನಾಗಿ ಬೆಂಬಲಿಸದಿದ್ದರೆ, ಕೇವಲ ಟೂಲ್ ಕರೆ ಮಾಡುವ ಮಾದರಿಗಳ ಪ್ರೊಫೈಲ್ ಮಾಡಿ. ನಂತರ ಟೂಲ್ ಹಂತಗಳಿಗೆ auto:<profile> ಬಳಸಿ. ಅಸ್ತಿತ್ವದಲ್ಲಿಲ್ಲದ ಪ್ರೊಫೈಲ್ ಹೆಸರು ದೋಷ 400 ಹಿಂತಿರುಗಿಸುತ್ತದೆ.
X-FreeLLM-Task-Type: code ಹೆಡರ್ ಒಂದು ವಿನಂತಿಗೆ ರೂಟಿಂಗ್ ತೂಕವನ್ನು ವೇಗದಿಂದ ಬುದ್ಧಿಮತ್ತೆಗೆ ಬದಲಿಸುತ್ತದೆ. ಇದು ಮೃದು ಆದ್ಯತೆ. ಇದು ಸಾಮರ್ಥ್ಯ ಪರಿಶೀಲನೆಗಳನ್ನು ಅಥವಾ ಫೇಲ್ಓವರ್ ಸರಪಳಿಯನ್ನು ಬದಲಿಸುವುದಿಲ್ಲ.
ದೀರ್ಘ ಏಜೆಂಟ್ ಸೆಷನ್ಗಳು ಮತ್ತು ಮಾದರಿ ಬದಲಾವಣೆಗಳು
ದೀರ್ಘ ಕೆಲಸದ ಸಮಯದಲ್ಲಿ, ಒಂದು ಮಾದರಿ ತನ್ನ ದೈನಂದಿನ ಮಿತಿಯನ್ನು ತಲುಪಬಹುದು. ನಂತರ ರೂಟರ್ ಇನ್ನೊಂದು ಮಾದರಿಗೆ ಹೋಗುತ್ತದೆ. ಹೊಸ ಮಾದರಿಗೆ ಸಂಪೂರ್ಣ ಸಂದೇಶ ಇತಿಹಾಸ ಸಿಗುತ್ತದೆ, ಆದರೆ ಹಿಂದಿನ ಹಂತಗಳನ್ನು ಇನ್ನೊಂದು ಮಾದರಿ ಮಾಡಿತ್ತು ಎಂದು ಅದಕ್ಕೆ ತಿಳಿಯುವುದಿಲ್ಲ.
ಮಾದರಿ ಬದಲಾದಾಗ ಒಂದು ಸಣ್ಣ ಸಿಸ್ಟಂ ಸಂದೇಶ ಸೇರಿಸಲು ಸಂದರ್ಭ ಹಸ್ತಾಂತರವನ್ನು ಆನ್ ಮಾಡಿ. ಈ ಸಂದೇಶ ಹೊಸ ಮಾದರಿಗೆ ಕೆಲಸವನ್ನು ಮುಂದುವರಿಸಲು ಮತ್ತು ಹಿಂದಿನ ಟೂಲ್ ಫಲಿತಾಂಶಗಳನ್ನು ಉಳಿಸಿಕೊಳ್ಳಲು ಹೇಳುತ್ತದೆ.
FreeLLMAPI .env
FREELLMAPI_CONTEXT_HANDOFF=on_model_switch- ಒಂದು ಸೆಷನ್ಗೆ ಆಯ್ಕೆಯಾದ ಮಾದರಿ ಬದಲಾದಾಗ ಮಾತ್ರ ಹಸ್ತಾಂತರ ಸಂದೇಶ ಸೇರಿಸಲಾಗುತ್ತದೆ.
- ಸೆಷನ್ಗಳು 3 ಗಂಟೆ ಕಾಲ ಮೆಮೊರಿಯಲ್ಲಿ ಇರುತ್ತವೆ. ಏನನ್ನೂ ಡಿಸ್ಕ್ಗೆ ಬರೆಯಲಾಗುವುದಿಲ್ಲ.
- ಸೆಷನ್ ಕೀ
X-Session-Idಹೆಡರ್ ಆಗಿದೆ. ಹೆಡರ್ ಇಲ್ಲದಿದ್ದರೆ, ಅದು ಮೊದಲ ಬಳಕೆದಾರ ಸಂದೇಶದ ಹ್ಯಾಶ್ ಆಗಿರುತ್ತದೆ.
ರೂಟರ್ ಅನ್ನು MCP ಸರ್ವರ್ ಆಗಿ ಬಳಸಿ
FreeLLMAPI /mcp ನಲ್ಲಿ MCP ಸರ್ವರ್ ಕೂಡ ಆಗಿದೆ. MCP ಮಾತನಾಡುವ ಏಜೆಂಟ್ ಪಠ್ಯ ಕೆಲಸವನ್ನು FreeLLMAPI ಮಾದರಿಗೆ ಕಳುಹಿಸಬಹುದು. ಸೆಷನ್ ಸಮಯದಲ್ಲಿ ಅದು ಗೇಟ್ವೇ ಸ್ಥಿತಿಯನ್ನು ಕೂಡ ಓದಬಹುದು: ಬಳಸಬಹುದಾದ ಮಾದರಿಗಳು ಮತ್ತು ಅವುಗಳ ಪ್ಯಾರಾಮೀಟರ್ಗಳು, ಪೂರೈಕೆದಾರರ ಆರೋಗ್ಯ, ಬಳಕೆ ಮತ್ತು ಕ್ಯಾಶ್ ಅಂಕಿಅಂಶಗಳು ಮತ್ತು ರೂಟಿಂಗ್ ತಂತ್ರ.
ಹೊಸ ಸ್ಥಾಪನೆಗಳಲ್ಲಿ MCP ಮೇಲ್ಮೈ ಆಫ್ ಆಗಿರುತ್ತದೆ. Keys ಪುಟದಲ್ಲಿ, Agent compatibility ಅಡಿಯಲ್ಲಿ ಡ್ಯಾಶ್ಬೋರ್ಡ್ನಲ್ಲಿ ಇದನ್ನು ಆನ್ ಮಾಡಿ. ಇದು ಆಫ್ ಆಗಿರುವಾಗ, /mcp 403 ಹಿಂತಿರುಗಿಸುತ್ತದೆ.
Claude Code ಗೆ MCP ಸರ್ವರ್ ಸೇರಿಸಿ
claude mcp add --transport http freellmapi http://localhost:3001/mcp \
--header "Authorization: Bearer <unified-key>"Streamable HTTP ಇರುವ ಯಾವುದೇ MCP ಕ್ಲೈಂಟ್ ಅದೇ ರೀತಿ ಕೆಲಸ ಮಾಡುತ್ತದೆ. ಅದನ್ನು /mcp ಗೆ ತೋರಿಸಿ ಮತ್ತು ಏಕೀಕೃತ ಕೀಯನ್ನು Bearer ಟೋಕನ್ ಆಗಿ ಕಳುಹಿಸಿ. ಉಪಯುಕ್ತ ಟೂಲ್ಗಳು healthcheck, list_models ಮತ್ತು ask_freellmapi. ask_freellmapi ಟೂಲ್ API ನ ಅದೇ ಚಾಟ್ ಮಾರ್ಗದ ಮೂಲಕ ಕೆಲಸವನ್ನು ಚಲಾಯಿಸುತ್ತದೆ, ರೂಟಿಂಗ್ ಮತ್ತು ಫೇಲ್ಓವರ್ ಸಹಿತ.
ಕೋಡಿಂಗ್ ಏಜೆಂಟ್ಗಳಿಗಾಗಿ, FreeLLMAPI ಕ್ಲೈಂಟ್ ಕಾನ್ಫಿಗರೇಶನ್ ಅನ್ನು ನಿಮಗಾಗಿ ಬರೆಯುವ ಸೆಟಪ್ ಆಜ್ಞೆಗಳನ್ನು ಹೊಂದಿದೆ. ಉದಾಹರಣೆಗಳು npx freellmapi setup-claude, setup-codex, setup-cline, setup-openclaw ಮತ್ತು setup-hermes. ಪ್ರತಿ ಆಜ್ಞೆ --dry-run ಅನ್ನು ಬೆಂಬಲಿಸುತ್ತದೆ ಮತ್ತು ಮೊದಲು ಬ್ಯಾಕಪ್ ಮಾಡುತ್ತದೆ.
ದೋಷ ನಿವಾರಣೆ
| ಸಮಸ್ಯೆ | ಕಾರಣ | ಪರಿಹಾರ |
|---|---|---|
| ಮಾದರಿ ಪಠ್ಯದಲ್ಲಿ ಉತ್ತರಿಸುತ್ತದೆ ಮತ್ತು ಯಾವುದೇ ಟೂಲ್ ಕರೆ ಮಾಡುವುದಿಲ್ಲ | ಮಾದರಿಯ ಟೂಲ್ ಕರೆ ದುರ್ಬಲವಾಗಿದೆ | ಟೂಲ್ ಕರೆ ಮಾಡುವ ಮಾದರಿಗಳೊಂದಿಗೆ ಮಾತ್ರ auto:<profile> ಬಳಸಿ |
| ಏಜೆಂಟ್ ಮಧ್ಯದಲ್ಲಿ ಕೆಲಸವನ್ನು ಮತ್ತೆ ಪ್ರಾರಂಭಿಸುತ್ತದೆ | ಒಂದು ಮಿತಿ ಮಾದರಿ ಬದಲಾವಣೆಗೆ ಕಾರಣವಾಯಿತು | X-Session-Id ಕಳುಹಿಸಿ ಮತ್ತು ಸಂದರ್ಭ ಹಸ್ತಾಂತರವನ್ನು ಆನ್ ಮಾಡಿ |
| ಅನೇಕ ಹಂತಗಳ ನಂತರ ದೋಷ 429 | ಸರಪಳಿಯ ಎಲ್ಲಾ ಕೀಗಳು ತಮ್ಮ ಮಿತಿಯಲ್ಲಿವೆ | ಪೂರೈಕೆದಾರರನ್ನು ಸೇರಿಸಿ, ಸಣ್ಣ ಹಂತಗಳಿಗೆ auto:fast ಬಳಸಿ ಮತ್ತು Retry-After ಗಾಗಿ ಕಾಯಿರಿ |
auto:name ನೊಂದಿಗೆ ದೋಷ 400 | ಪ್ರೊಫೈಲ್ ಅಸ್ತಿತ್ವದಲ್ಲಿಲ್ಲ | ಡ್ಯಾಶ್ಬೋರ್ಡ್ನಲ್ಲಿ ಪ್ರೊಫೈಲ್ ಹೆಸರನ್ನು ಪರಿಶೀಲಿಸಿ |
/mcp 403 ಹಿಂತಿರುಗಿಸುತ್ತದೆ | MCP ಮೇಲ್ಮೈ ಆಫ್ ಆಗಿದೆ | Keys ಪುಟದಲ್ಲಿ Agent compatibility ಅಡಿಯಲ್ಲಿ ಅದನ್ನು ಆನ್ ಮಾಡಿ |
| ಕೆಲಸದ ಕೊನೆಯಲ್ಲಿ ಸಂದರ್ಭದ ಉದ್ದದ ದೋಷಗಳು | ಇತಿಹಾಸ ಮಾದರಿಯ ವಿಂಡೋಗಿಂತ ದೊಡ್ಡದಾಗಿದೆ | ಹಳೆಯ ಟೂಲ್ ಫಲಿತಾಂಶಗಳನ್ನು ಸಾರಾಂಶ ಮಾಡಿ ಅಥವಾ ದೀರ್ಘ-ಸಂದರ್ಭ ಪ್ರೊಫೈಲ್ ಬಳಸಿ |
ಪದೇ ಪದೇ ಕೇಳುವ ಪ್ರಶ್ನೆಗಳು
ಏಜೆಂಟ್ಗಳಿಗೆ ಉಚಿತ LLM API ಇದೆಯೇ?
ಹೌದು. ಹಲವು ಪೂರೈಕೆದಾರರಲ್ಲಿ ಟೂಲ್ ಕರೆಯೊಂದಿಗೆ ಉಚಿತ ಶ್ರೇಣಿಗಳಿವೆ. FreeLLMAPI ಅವುಗಳನ್ನು ಒಂದೇ OpenAI-ಹೊಂದಾಣಿಕೆಯ ಕೀ ಹಿಂದೆ ಸಂಯೋಜಿಸುತ್ತದೆ ಮತ್ತು ಮಿತಿಯು ವಿನಂತಿಯನ್ನು ನಿಲ್ಲಿಸಿದಾಗ ಮುಂದಿನ ಪೂರೈಕೆದಾರರಿಗೆ ಬದಲಾಗುತ್ತದೆ.
ಟೂಲ್ ಕರೆಗೆ ಯಾವ ಉಚಿತ LLM ಉತ್ತಮ?
ಟೂಲ್ ಕರೆ ಮತ್ತು 128K ಟೋಕನ್ ಅಥವಾ ಹೆಚ್ಚಿನ ಸಂದರ್ಭ ವಿಂಡೋ ಇರುವ ಮಾದರಿಯನ್ನು ಬಳಸಿ. ಈ ಪುಟದ ಕೋಷ್ಟಕ ಎರಡೂ ನಿಯಮಗಳನ್ನು ಇಂದು ಪೂರೈಸುವ ಅತ್ಯಂತ ಬಲಿಷ್ಠ ಉಚಿತ ಮಾದರಿಗಳನ್ನು ತೋರಿಸುತ್ತದೆ.
FreeLLMAPI ಅನ್ನು MCP ಸರ್ವರ್ ಆಗಿ ಬಳಸಬಹುದೇ?
ಹೌದು. Keys ಪುಟದಲ್ಲಿ Agent compatibility ಅಡಿಯಲ್ಲಿ MCP ಮೇಲ್ಮೈಯನ್ನು ಆನ್ ಮಾಡಿ. ನಂತರ ನಿಮ್ಮ MCP ಕ್ಲೈಂಟ್ ಅನ್ನು ಏಕೀಕೃತ ಕೀಯನ್ನು Bearer ಟೋಕನ್ ಆಗಿ ಬಳಸಿ /mcp ಗೆ ಸಂಪರ್ಕಿಸಿ.
ಮಿತಿಗಳ ಕಾರಣ ಏಜೆಂಟ್ ವಿಫಲವಾಗುವುದನ್ನು ತಡೆಯುವುದು ಹೇಗೆ?
ಹೆಚ್ಚು ಪೂರೈಕೆದಾರರ ಕೀಗಳನ್ನು ಸೇರಿಸಿ, ಸಣ್ಣ ಹಂತಗಳನ್ನು auto:fast ಗೆ ಕಳುಹಿಸಿ, Retry-After ಹೆಡರ್ನೊಂದಿಗೆ 429 ಮೇಲೆ ಮರುಪ್ರಯತ್ನಿಸಿ ಮತ್ತು ಹಂತಗಳ ಗರಿಷ್ಠ ಸಂಖ್ಯೆಯನ್ನು ಹೊಂದಿಸಿ.
ಏಜೆಂಟ್ ಕೆಲಸದ ಮಧ್ಯದಲ್ಲಿ ಮಾದರಿ ಬದಲಾದರೆ ಏನಾಗುತ್ತದೆ?
ಹೊಸ ಮಾದರಿಗೆ ಸಂಪೂರ್ಣ ಸಂದೇಶ ಇತಿಹಾಸ ಸಿಗುತ್ತದೆ. ಸಂದರ್ಭ ಹಸ್ತಾಂತರ ಆನ್ ಆಗಿದ್ದರೆ, ಕೆಲಸವನ್ನು ಮುಂದುವರಿಸಲು ಹೇಳುವ ಸಣ್ಣ ಟಿಪ್ಪಣಿಯೂ ಸಿಗುತ್ತದೆ.
ಸಂಬಂಧಿತ ಮಾರ್ಗದರ್ಶಿಗಳು
- ಫಂಕ್ಷನ್ ಕರೆಯೊಂದಿಗೆ ಉಚಿತ LLM API
- ಪೈಥಾನ್ನಲ್ಲಿ ಉಚಿತ LLM API
- LangChain ಗಾಗಿ ಉಚಿತ LLM API
- n8n ಗಾಗಿ ಉಚಿತ LLM API
- Claude Code ಅನ್ನು ಉಚಿತವಾಗಿ ಬಳಸುವುದು ಹೇಗೆ
- ಉಚಿತ LLM API ಮಿತಿಗಳು
ಮೂಲಗಳು
- FreeLLMAPI docs: REST API (tool calling, routing strategies, response headers) (20 November 2026 ರಂದು ಪರಿಶೀಲಿಸಲಾಗಿದೆ)
- FreeLLMAPI docs: clients, MCP server and context handoff (20 November 2026 ರಂದು ಪರಿಶೀಲಿಸಲಾಗಿದೆ)
- OpenAI Python SDK: errors and retries (20 November 2026 ರಂದು ಪರಿಶೀಲಿಸಲಾಗಿದೆ)
- Claude Code docs: MCP (20 November 2026 ರಂದು ಪರಿಶೀಲಿಸಲಾಗಿದೆ)