ಮುಖಪುಟ / ಮಾರ್ಗದರ್ಶಿಗಳು / ಏಜೆಂಟ್‌ಗಳಿಗಾಗಿ ಉಚಿತ LLM API

ಏಜೆಂಟ್‌ಗಳಿಗಾಗಿ ಉಚಿತ LLM API

ಒಂದು AI ಏಜೆಂಟ್ ಒಂದು ಕೆಲಸಕ್ಕಾಗಿ ಅನೇಕ ಮಾದರಿ ವಿನಂತಿಗಳನ್ನು ಕಳುಹಿಸುತ್ತದೆ. ಪ್ರತಿ ಹಂತಕ್ಕೆ ಟೂಲ್ ಕರೆ ಮತ್ತು ದೊಡ್ಡ ಸಂದರ್ಭ ಬೇಕು. ಒಂದು ಉಚಿತ ಶ್ರೇಣಿ ಏಜೆಂಟ್ ಅನ್ನು ಬೇಗ ನಿಲ್ಲಿಸುತ್ತದೆ. FreeLLMAPI ಒಂದೇ OpenAI-ಹೊಂದಾಣಿಕೆಯ ಕೀ ಹಿಂದೆ 45 ಉಚಿತ ಪೂರೈಕೆದಾರ ಶ್ರೇಣಿಗಳನ್ನು ಒಟ್ಟುಗೂಡಿಸುತ್ತದೆ. ಮಿತಿಯು ವಿನಂತಿಯನ್ನು ನಿಲ್ಲಿಸಿದಾಗ ಅದು ಮುಂದಿನ ಪೂರೈಕೆದಾರರಿಗೆ ಬದಲಾಗುತ್ತದೆ, ಆದ್ದರಿಂದ ಏಜೆಂಟ್ ಮುಂದುವರಿಯಬಹುದು. ಈ ಮಾರ್ಗದರ್ಶಿ ಟೂಲ್ ಕರೆ, ಹಂತವಾರು ರೂಟಿಂಗ್, ದೀರ್ಘ ಸೆಷನ್‌ಗಳು ಮತ್ತು ರೂಟರ್‌ನ MCP ಸರ್ವರ್ ಅನ್ನು ವಿವರಿಸುತ್ತದೆ.

ಕೋಡ್, ಮಾದರಿ ಹೆಸರುಗಳು ಮತ್ತು ನೇರ ಕ್ಯಾಟಲಾಗ್ ಲೇಬಲ್‌ಗಳನ್ನು ಇಂಗ್ಲಿಷ್‌ನಲ್ಲಿ ತೋರಿಸಲಾಗಿದೆ.

ಏಜೆಂಟ್‌ಗೆ ಉಚಿತ API ನಿಂದ ಏನು ಬೇಕು

ಅಗತ್ಯಏಕೆFreeLLMAPI ಏನು ಮಾಡುತ್ತದೆ
ಟೂಲ್ ಕರೆಏಜೆಂಟ್ ಟೂಲ್ ಆಯ್ಕೆ ಮಾಡಿ ಚಲಾಯಿಸುತ್ತದೆಪ್ರತಿ ಪೂರೈಕೆದಾರರಿಗೆ OpenAI-ಶೈಲಿಯ tools ಕಳುಹಿಸುತ್ತದೆ. ಸರಳ ಪಠ್ಯದ ಟೂಲ್ ಕರೆಗಳನ್ನು ನಿಜವಾದ tool_calls ಆಗಿ ಪರಿವರ್ತಿಸುತ್ತದೆ.
ಅನೇಕ ವಿನಂತಿಗಳುಒಂದು ಕೆಲಸಕ್ಕೆ 20 ರಿಂದ 100 ಹಂತಗಳು ಬೇಕಾಗಬಹುದುಪ್ರತಿ ಕೀಯ ಕೋಟಾವನ್ನು ಎಣಿಸುತ್ತದೆ ಮತ್ತು 429 ಬಂದಾಗ ಮುಂದಿನ ಕೀ ಅಥವಾ ಪೂರೈಕೆದಾರರಿಗೆ ಹೋಗುತ್ತದೆ
ದೊಡ್ಡ ಸಂದರ್ಭಟೂಲ್ ಫಲಿತಾಂಶಗಳು ಮತ್ತು ಇತಿಹಾಸ ಪ್ರತಿ ಹಂತದಲ್ಲಿ ಬೆಳೆಯುತ್ತವೆನಿಮ್ಮ ಸರಪಳಿಯ ಮಾದರಿಗಳಿಗೆ ರೂಟ್ ಮಾಡುತ್ತದೆ. ನೀವು ದೀರ್ಘ-ಸಂದರ್ಭದ ಪ್ರೊಫೈಲ್ ಮಾಡಬಹುದು.
ಸ್ಥಿರ ವರ್ತನೆಕೆಲಸದ ಮಧ್ಯದಲ್ಲಿ ಮಾದರಿ ಬದಲಾದರೆ ಏಜೆಂಟ್ ಗೊಂದಲಕ್ಕೊಳಗಾಗಬಹುದುಒಂದು ಸೆಷನ್ ಅನ್ನು 30 ನಿಮಿಷ ಒಂದೇ ಮಾದರಿಯಲ್ಲಿ ಇರಿಸುತ್ತದೆ. ಬದಲಾವಣೆ ಆದಾಗ ಐಚ್ಛಿಕ ಸಂದರ್ಭ ಹಸ್ತಾಂತರ.
ಗೋಚರತೆಯಾವ ಮಾದರಿ ವಿಫಲವಾಯಿತು ಎಂದು ನೀವು ತಿಳಿಯಬೇಕುಪ್ರತಿ ಪ್ರತಿಕ್ರಿಯೆಯಲ್ಲಿ X-Routed-Via ಮತ್ತು X-Fallback-Trail ಹೆಡರ್‌ಗಳು

ಉಚಿತ ಶ್ರೇಣಿಗಳಿಗೆ ಮಿತಿಗಳಿವೆ. ಫೇಲ್‌ಓವರ್ ಲೋಡ್ ಅನ್ನು ನಿಮ್ಮ ಕೀಗಳ ಮೇಲೆ ಹಂಚುತ್ತದೆ, ಆದರೆ ಒಟ್ಟು ಮೊತ್ತ ಇನ್ನೂ ಉಚಿತ ಮಿತಿಗಳ ಮೊತ್ತವೇ ಆಗಿರುತ್ತದೆ. ಏಜೆಂಟ್ ಕೆಲಸಕ್ಕಾಗಿ ನಾಲ್ಕು ಅಥವಾ ಹೆಚ್ಚು ಪೂರೈಕೆದಾರರ ಕೀಗಳನ್ನು ಸೇರಿಸಿ.

ಟೂಲ್ ಕರೆ ಮತ್ತು 128K+ ಸಂದರ್ಭವಿರುವ ಉಚಿತ ಮಾದರಿಗಳು
ಮಾದರಿಉಚಿತಸಂದರ್ಭಉಚಿತ ಮಿತಿಗಳು (ಅತ್ಯುತ್ತಮ ಕೊಡುಗೆ)ಉಪಕರಣಗಳುದೃಷ್ಟಿ
GLM 5.3UnoRouter1M1 ವಿನಂತಿ/ನಿಮಿಷ
1 req/min per model
ಹೌದುಇಲ್ಲ
GLM 5.3 FlashNVIDIA NIM, UnoRouter1M40 ವಿನಂತಿ/ನಿಮಿಷ
40 RPM
ಹೌದುಹೌದು
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaಹೌದುಹೌದು
Qwen3.8 Flash NextAMD Radeon Cloud262KRecurring daily account allowanceಹೌದುಇಲ್ಲ
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditಹೌದುಹೌದು
Gemini 3.7 FlashGoogle AI Studio1M10 ವಿನಂತಿ/ನಿಮಿಷ
20 ವಿನಂತಿ/ದಿನ
250,000 ಟೋಕನ್/ನಿಮಿಷ
~3M
ಹೌದುಹೌದು
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditಹೌದುಹೌದು
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 ವಿನಂತಿ/ನಿಮಿಷ
50 ವಿನಂತಿ/ದಿನ
50 req/day account-wide (1,000 after a $10 purchase)
ಹೌದುಹೌದು
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 ವಿನಂತಿ/ನಿಮಿಷ
50 ವಿನಂತಿ/ದಿನ
Shared rate limit
ಹೌದುಇಲ್ಲ
Qwen3.8 27BElectronHub, Groq, OVH AI Endpoints262K30 ವಿನಂತಿ/ನಿಮಿಷ
250 ವಿನಂತಿ/ದಿನ
70,000 ಟೋಕನ್/ನಿಮಿಷ
~6M
ಹೌದುಹೌದು
Gemini 3.6 FlashGoogle AI Studio1M10 ವಿನಂತಿ/ನಿಮಿಷ
20 ವಿನಂತಿ/ದಿನ
250,000 ಟೋಕನ್/ನಿಮಿಷ
~3M
ಹೌದುಹೌದು
Qwen 3.8 27BCloudflare Workers AI262KShared 10k neurons/dayಹೌದುಹೌದು

ಹೊಂದಾಣಿಕೆಯಾಗುವ 109 ಉಚಿತ ಮಾದರಿಗಳಲ್ಲಿ 12 ಅನ್ನು ತೋರಿಸಲಾಗುತ್ತಿದೆ. ಎಲ್ಲಾ ಮಾದರಿಗಳನ್ನು ನೋಡಿ.

FreeLLMAPI ಕ್ಯಾಟಲಾಗ್‌ನಿಂದ ನೇರ ಡೇಟಾ (ಆವೃತ್ತಿ 2026.11.19, 2026-11-19 ರಂದು ಪರಿಶೀಲಿಸಲಾಗಿದೆ). ಉಚಿತ ಮಿತಿಗಳು ಆಗಾಗ್ಗೆ ಬದಲಾಗುತ್ತವೆ. ಕ್ಯಾಟಲಾಗ್ ಪ್ರತಿದಿನ ಪರಿಶೀಲಿಸಲಾಗುತ್ತದೆ.

ಪೈಥಾನ್‌ನಲ್ಲಿ ಸಂಪೂರ್ಣ ಏಜೆಂಟ್ ಲೂಪ್

ಕೆಳಗಿನ ಲೂಪ್ ಅಧಿಕೃತ OpenAI SDK ಬಳಸುತ್ತದೆ. ಇದು ಟೂಲ್‌ಗಳನ್ನು ಕಳುಹಿಸುತ್ತದೆ, ಪ್ರತಿ ಟೂಲ್ ಕರೆಯನ್ನು ಚಲಾಯಿಸುತ್ತದೆ, ಫಲಿತಾಂಶವನ್ನು ಮರಳಿ ಕಳುಹಿಸುತ್ತದೆ ಮತ್ತು ಮಾದರಿ ಅಂತಿಮ ಉತ್ತರ ನೀಡಿದಾಗ ನಿಲ್ಲುತ್ತದೆ. ಗರಿಷ್ಠ ಹಂತಗಳ ಸಂಖ್ಯೆಯ ನಂತರವೂ ಅದು ನಿಲ್ಲುತ್ತದೆ.

agent.py

import json
import os
import time

import openai
from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:3001/v1",
    api_key=os.environ["FREELLMAPI_API_KEY"],  # <unified-key>
    max_retries=3,
)

def get_weather(city: str) -> dict:
    return {"city": city, "temp_c": 18, "sky": "cloudy"}

TOOLS = [{
    "type": "function",
    "function": {
        "name": "get_weather",
        "description": "Get the current weather for a city.",
        "parameters": {
            "type": "object",
            "properties": {"city": {"type": "string"}},
            "required": ["city"],
        },
    },
}]
FUNCTIONS = {"get_weather": get_weather}

def call_model(messages, session_id):
    for attempt in range(5):
        try:
            return client.chat.completions.create(
                model="auto:smart",
                messages=messages,
                tools=TOOLS,
                extra_headers={"X-Session-Id": session_id},
            )
        except openai.RateLimitError as err:
            header = err.response.headers.get("retry-after", "")
            wait = int(header) if header.isdigit() else 2 ** attempt
            time.sleep(min(wait, 60))
    raise RuntimeError("All free providers are at their limit")

def run(task: str, session_id: str, max_steps: int = 10) -> str:
    messages = [
        {"role": "system", "content": "Use the tools when they help. Be brief."},
        {"role": "user", "content": task},
    ]
    for _ in range(max_steps):
        msg = call_model(messages, session_id).choices[0].message
        messages.append(msg)
        if not msg.tool_calls:
            return msg.content
        for call in msg.tool_calls:
            fn = FUNCTIONS.get(call.function.name)
            try:
                args = json.loads(call.function.arguments or "{}")
                result = fn(**args) if fn else {"error": "unknown tool"}
            except Exception as exc:  # return tool errors to the model
                result = {"error": str(exc)}
            messages.append({
                "role": "tool",
                "tool_call_id": call.id,
                "content": json.dumps(result),
            })
    return "Stopped: too many steps."

print(run("Should I take an umbrella in Dublin today?", session_id="task-001"))
  • X-Session-Id: ಆ ಮಾದರಿಗೆ ಕೋಟಾ ಇರುವವರೆಗೆ ಒಂದು ಕೆಲಸದ ಎಲ್ಲಾ ಹಂತಗಳನ್ನು ಒಂದೇ ಮಾದರಿಯಲ್ಲಿ ಇರಿಸುತ್ತದೆ.
  • Retry-After: ಎಲ್ಲಾ ಕೀಗಳು ತಮ್ಮ ಮಿತಿಯಲ್ಲಿ ಇದ್ದಾಗ, ಗೇಟ್‌ವೇ ಈ ಹೆಡರ್‌ನೊಂದಿಗೆ 429 ಹಿಂತಿರುಗಿಸುತ್ತದೆ. ಲೂಪ್ ಕಾಯುತ್ತದೆ ಮತ್ತು ಮತ್ತೆ ಪ್ರಯತ್ನಿಸುತ್ತದೆ.
  • ಟೂಲ್ ದೋಷಗಳು: ಲೂಪ್ ದೋಷಗಳನ್ನು ಟೂಲ್ ಫಲಿತಾಂಶಗಳಾಗಿ ಮಾದರಿಗೆ ಕಳುಹಿಸುತ್ತದೆ. ಮಾದರಿ ನಂತರ ತನ್ನ ಕರೆಯನ್ನು ಸರಿಪಡಿಸಬಹುದು.

ಪ್ರತಿ ಹಂತವನ್ನು ಸರಿಯಾದ ಮಾದರಿಗೆ ರೂಟ್ ಮಾಡಿ

ಏಜೆಂಟ್ ಹಂತಗಳು ಸಮಾನವಲ್ಲ. ಯೋಜನೆ ಹಂತಕ್ಕೆ ಬಲಿಷ್ಠ ಮಾದರಿ ಬೇಕು. ಒಂದು ಕ್ಷೇತ್ರವನ್ನು ಮಾತ್ರ ಹೊರತೆಗೆಯುವ ಹಂತಕ್ಕೆ ವೇಗದ ಮಾದರಿ ಬೇಕು. ಪ್ರತಿ ಹಂತದ ಪ್ರಕಾರಕ್ಕೆ ಬೇರೆ ಮಾದರಿ ಸ್ಟ್ರಿಂಗ್ ಬಳಸಿ. ಡ್ಯಾಶ್‌ಬೋರ್ಡ್ ಬದಲಿಸುವ ಅಗತ್ಯವಿಲ್ಲ.

ಮಾದರಿ ಸ್ಟ್ರಿಂಗ್ಇದರ ಆಧಾರದ ಮೇಲೆ ಶ್ರೇಣೀಕರಣಏಜೆಂಟ್ ಬಳಕೆ
auto:smartಬುದ್ಧಿಮತ್ತೆಯೋಜನೆ, ಟೂಲ್ ಆಯ್ಕೆ, ಅಂತಿಮ ಉತ್ತರಗಳು
auto:fastಅಳೆದ ವೇಗ ಮತ್ತು ಮೊದಲ ಬೈಟ್‌ವರೆಗಿನ ಸಮಯಹೊರತೆಗೆಯುವಿಕೆ, ವರ್ಗೀಕರಣ, ಟೂಲ್ ಔಟ್‌ಪುಟ್‌ನ ಸಣ್ಣ ಸಾರಾಂಶಗಳು
auto:reliableಇತ್ತೀಚಿನ ಯಶಸ್ಸಿನ ದರಪೂರ್ಣಗೊಳ್ಳಬೇಕಾದ ನಿಗದಿತ ಏಜೆಂಟ್‌ಗಳು
auto:balancedಮೊದಲು ವಿಶ್ವಾಸಾರ್ಹತೆ, ನಂತರ ವೇಗ ಮತ್ತು ಬುದ್ಧಿಮತ್ತೆಸಾಮಾನ್ಯ ಡೀಫಾಲ್ಟ್
auto:<profile>ನಿಮ್ಮ ಹೆಸರಿಟ್ಟ ಫೇಲ್‌ಓವರ್ ಸರಪಳಿಕೇವಲ ಟೂಲ್ ಕರೆ ಮಾಡುವ ಮಾದರಿಗಳ ಸರಪಳಿ

auto:* ತಂತ್ರಗಳು ಸಕ್ರಿಯಗೊಂಡ ಪ್ರತಿ ಮಾದರಿಯನ್ನು ಶ್ರೇಣೀಕರಿಸುತ್ತವೆ ಮತ್ತು ನಿಮ್ಮ ಸರಪಳಿಯ ಕ್ರಮವನ್ನು ನಿರ್ಲಕ್ಷಿಸುತ್ತವೆ. ಟೂಲ್‌ಗಳಿರುವ ವಿನಂತಿಗೆ ಇನ್ನೂ ಟೂಲ್ ಕರೆ ಇರುವ ಮಾದರಿ ಬೇಕು. ಕೆಲವು ಸಕ್ರಿಯ ಮಾದರಿಗಳು ಟೂಲ್‌ಗಳನ್ನು ಚೆನ್ನಾಗಿ ಬೆಂಬಲಿಸದಿದ್ದರೆ, ಕೇವಲ ಟೂಲ್ ಕರೆ ಮಾಡುವ ಮಾದರಿಗಳ ಪ್ರೊಫೈಲ್ ಮಾಡಿ. ನಂತರ ಟೂಲ್ ಹಂತಗಳಿಗೆ auto:<profile> ಬಳಸಿ. ಅಸ್ತಿತ್ವದಲ್ಲಿಲ್ಲದ ಪ್ರೊಫೈಲ್ ಹೆಸರು ದೋಷ 400 ಹಿಂತಿರುಗಿಸುತ್ತದೆ.

X-FreeLLM-Task-Type: code ಹೆಡರ್ ಒಂದು ವಿನಂತಿಗೆ ರೂಟಿಂಗ್ ತೂಕವನ್ನು ವೇಗದಿಂದ ಬುದ್ಧಿಮತ್ತೆಗೆ ಬದಲಿಸುತ್ತದೆ. ಇದು ಮೃದು ಆದ್ಯತೆ. ಇದು ಸಾಮರ್ಥ್ಯ ಪರಿಶೀಲನೆಗಳನ್ನು ಅಥವಾ ಫೇಲ್‌ಓವರ್ ಸರಪಳಿಯನ್ನು ಬದಲಿಸುವುದಿಲ್ಲ.

ದೀರ್ಘ ಏಜೆಂಟ್ ಸೆಷನ್‌ಗಳು ಮತ್ತು ಮಾದರಿ ಬದಲಾವಣೆಗಳು

ದೀರ್ಘ ಕೆಲಸದ ಸಮಯದಲ್ಲಿ, ಒಂದು ಮಾದರಿ ತನ್ನ ದೈನಂದಿನ ಮಿತಿಯನ್ನು ತಲುಪಬಹುದು. ನಂತರ ರೂಟರ್ ಇನ್ನೊಂದು ಮಾದರಿಗೆ ಹೋಗುತ್ತದೆ. ಹೊಸ ಮಾದರಿಗೆ ಸಂಪೂರ್ಣ ಸಂದೇಶ ಇತಿಹಾಸ ಸಿಗುತ್ತದೆ, ಆದರೆ ಹಿಂದಿನ ಹಂತಗಳನ್ನು ಇನ್ನೊಂದು ಮಾದರಿ ಮಾಡಿತ್ತು ಎಂದು ಅದಕ್ಕೆ ತಿಳಿಯುವುದಿಲ್ಲ.

ಮಾದರಿ ಬದಲಾದಾಗ ಒಂದು ಸಣ್ಣ ಸಿಸ್ಟಂ ಸಂದೇಶ ಸೇರಿಸಲು ಸಂದರ್ಭ ಹಸ್ತಾಂತರವನ್ನು ಆನ್ ಮಾಡಿ. ಈ ಸಂದೇಶ ಹೊಸ ಮಾದರಿಗೆ ಕೆಲಸವನ್ನು ಮುಂದುವರಿಸಲು ಮತ್ತು ಹಿಂದಿನ ಟೂಲ್ ಫಲಿತಾಂಶಗಳನ್ನು ಉಳಿಸಿಕೊಳ್ಳಲು ಹೇಳುತ್ತದೆ.

FreeLLMAPI .env

FREELLMAPI_CONTEXT_HANDOFF=on_model_switch
  • ಒಂದು ಸೆಷನ್‌ಗೆ ಆಯ್ಕೆಯಾದ ಮಾದರಿ ಬದಲಾದಾಗ ಮಾತ್ರ ಹಸ್ತಾಂತರ ಸಂದೇಶ ಸೇರಿಸಲಾಗುತ್ತದೆ.
  • ಸೆಷನ್‌ಗಳು 3 ಗಂಟೆ ಕಾಲ ಮೆಮೊರಿಯಲ್ಲಿ ಇರುತ್ತವೆ. ಏನನ್ನೂ ಡಿಸ್ಕ್‌ಗೆ ಬರೆಯಲಾಗುವುದಿಲ್ಲ.
  • ಸೆಷನ್ ಕೀ X-Session-Id ಹೆಡರ್ ಆಗಿದೆ. ಹೆಡರ್ ಇಲ್ಲದಿದ್ದರೆ, ಅದು ಮೊದಲ ಬಳಕೆದಾರ ಸಂದೇಶದ ಹ್ಯಾಶ್ ಆಗಿರುತ್ತದೆ.

ರೂಟರ್ ಅನ್ನು MCP ಸರ್ವರ್ ಆಗಿ ಬಳಸಿ

FreeLLMAPI /mcp ನಲ್ಲಿ MCP ಸರ್ವರ್ ಕೂಡ ಆಗಿದೆ. MCP ಮಾತನಾಡುವ ಏಜೆಂಟ್ ಪಠ್ಯ ಕೆಲಸವನ್ನು FreeLLMAPI ಮಾದರಿಗೆ ಕಳುಹಿಸಬಹುದು. ಸೆಷನ್ ಸಮಯದಲ್ಲಿ ಅದು ಗೇಟ್‌ವೇ ಸ್ಥಿತಿಯನ್ನು ಕೂಡ ಓದಬಹುದು: ಬಳಸಬಹುದಾದ ಮಾದರಿಗಳು ಮತ್ತು ಅವುಗಳ ಪ್ಯಾರಾಮೀಟರ್‌ಗಳು, ಪೂರೈಕೆದಾರರ ಆರೋಗ್ಯ, ಬಳಕೆ ಮತ್ತು ಕ್ಯಾಶ್ ಅಂಕಿಅಂಶಗಳು ಮತ್ತು ರೂಟಿಂಗ್ ತಂತ್ರ.

ಹೊಸ ಸ್ಥಾಪನೆಗಳಲ್ಲಿ MCP ಮೇಲ್ಮೈ ಆಫ್ ಆಗಿರುತ್ತದೆ. Keys ಪುಟದಲ್ಲಿ, Agent compatibility ಅಡಿಯಲ್ಲಿ ಡ್ಯಾಶ್‌ಬೋರ್ಡ್‌ನಲ್ಲಿ ಇದನ್ನು ಆನ್ ಮಾಡಿ. ಇದು ಆಫ್ ಆಗಿರುವಾಗ, /mcp 403 ಹಿಂತಿರುಗಿಸುತ್ತದೆ.

Claude Code ಗೆ MCP ಸರ್ವರ್ ಸೇರಿಸಿ

claude mcp add --transport http freellmapi http://localhost:3001/mcp \
  --header "Authorization: Bearer <unified-key>"

Streamable HTTP ಇರುವ ಯಾವುದೇ MCP ಕ್ಲೈಂಟ್ ಅದೇ ರೀತಿ ಕೆಲಸ ಮಾಡುತ್ತದೆ. ಅದನ್ನು /mcp ಗೆ ತೋರಿಸಿ ಮತ್ತು ಏಕೀಕೃತ ಕೀಯನ್ನು Bearer ಟೋಕನ್ ಆಗಿ ಕಳುಹಿಸಿ. ಉಪಯುಕ್ತ ಟೂಲ್‌ಗಳು healthcheck, list_models ಮತ್ತು ask_freellmapi. ask_freellmapi ಟೂಲ್ API ನ ಅದೇ ಚಾಟ್ ಮಾರ್ಗದ ಮೂಲಕ ಕೆಲಸವನ್ನು ಚಲಾಯಿಸುತ್ತದೆ, ರೂಟಿಂಗ್ ಮತ್ತು ಫೇಲ್‌ಓವರ್ ಸಹಿತ.

ಕೋಡಿಂಗ್ ಏಜೆಂಟ್‌ಗಳಿಗಾಗಿ, FreeLLMAPI ಕ್ಲೈಂಟ್ ಕಾನ್ಫಿಗರೇಶನ್ ಅನ್ನು ನಿಮಗಾಗಿ ಬರೆಯುವ ಸೆಟಪ್ ಆಜ್ಞೆಗಳನ್ನು ಹೊಂದಿದೆ. ಉದಾಹರಣೆಗಳು npx freellmapi setup-claude, setup-codex, setup-cline, setup-openclaw ಮತ್ತು setup-hermes. ಪ್ರತಿ ಆಜ್ಞೆ --dry-run ಅನ್ನು ಬೆಂಬಲಿಸುತ್ತದೆ ಮತ್ತು ಮೊದಲು ಬ್ಯಾಕಪ್ ಮಾಡುತ್ತದೆ.

ದೋಷ ನಿವಾರಣೆ

ಸಮಸ್ಯೆಕಾರಣಪರಿಹಾರ
ಮಾದರಿ ಪಠ್ಯದಲ್ಲಿ ಉತ್ತರಿಸುತ್ತದೆ ಮತ್ತು ಯಾವುದೇ ಟೂಲ್ ಕರೆ ಮಾಡುವುದಿಲ್ಲಮಾದರಿಯ ಟೂಲ್ ಕರೆ ದುರ್ಬಲವಾಗಿದೆಟೂಲ್ ಕರೆ ಮಾಡುವ ಮಾದರಿಗಳೊಂದಿಗೆ ಮಾತ್ರ auto:<profile> ಬಳಸಿ
ಏಜೆಂಟ್ ಮಧ್ಯದಲ್ಲಿ ಕೆಲಸವನ್ನು ಮತ್ತೆ ಪ್ರಾರಂಭಿಸುತ್ತದೆಒಂದು ಮಿತಿ ಮಾದರಿ ಬದಲಾವಣೆಗೆ ಕಾರಣವಾಯಿತುX-Session-Id ಕಳುಹಿಸಿ ಮತ್ತು ಸಂದರ್ಭ ಹಸ್ತಾಂತರವನ್ನು ಆನ್ ಮಾಡಿ
ಅನೇಕ ಹಂತಗಳ ನಂತರ ದೋಷ 429ಸರಪಳಿಯ ಎಲ್ಲಾ ಕೀಗಳು ತಮ್ಮ ಮಿತಿಯಲ್ಲಿವೆಪೂರೈಕೆದಾರರನ್ನು ಸೇರಿಸಿ, ಸಣ್ಣ ಹಂತಗಳಿಗೆ auto:fast ಬಳಸಿ ಮತ್ತು Retry-After ಗಾಗಿ ಕಾಯಿರಿ
auto:name ನೊಂದಿಗೆ ದೋಷ 400ಪ್ರೊಫೈಲ್ ಅಸ್ತಿತ್ವದಲ್ಲಿಲ್ಲಡ್ಯಾಶ್‌ಬೋರ್ಡ್‌ನಲ್ಲಿ ಪ್ರೊಫೈಲ್ ಹೆಸರನ್ನು ಪರಿಶೀಲಿಸಿ
/mcp 403 ಹಿಂತಿರುಗಿಸುತ್ತದೆMCP ಮೇಲ್ಮೈ ಆಫ್ ಆಗಿದೆKeys ಪುಟದಲ್ಲಿ Agent compatibility ಅಡಿಯಲ್ಲಿ ಅದನ್ನು ಆನ್ ಮಾಡಿ
ಕೆಲಸದ ಕೊನೆಯಲ್ಲಿ ಸಂದರ್ಭದ ಉದ್ದದ ದೋಷಗಳುಇತಿಹಾಸ ಮಾದರಿಯ ವಿಂಡೋಗಿಂತ ದೊಡ್ಡದಾಗಿದೆಹಳೆಯ ಟೂಲ್ ಫಲಿತಾಂಶಗಳನ್ನು ಸಾರಾಂಶ ಮಾಡಿ ಅಥವಾ ದೀರ್ಘ-ಸಂದರ್ಭ ಪ್ರೊಫೈಲ್ ಬಳಸಿ
ಇವೆಲ್ಲವನ್ನೂ ಒಂದೇ ಕೀ ಮೂಲಕ ಬಳಸಿ. FreeLLMAPI ಒಂದು ಮುಕ್ತ ಮೂಲದ, ಸ್ವಯಂ-ಹೋಸ್ಟ್ ಮಾಡಿದ ರೂಟರ್ ಆಗಿದೆ. ಇದು ಈ ಎಲ್ಲಾ ಉಚಿತ ಶ್ರೇಣಿಗಳನ್ನು ಒಂದೇ OpenAI-ಹೊಂದಾಣಿಕೆಯ ಎಂಡ್‌ಪಾಯಿಂಟ್ ಹಿಂದೆ ಇಡುತ್ತದೆ ಮತ್ತು ಒಂದು ಮಿತಿಗೆ ಒಳಪಟ್ಟಾಗ ಬದಲಾಯಿಸುತ್ತದೆ. ಕ್ಯಾಟಲಾಗ್ ನೋಡಿ ಅಥವಾ ಲೈವ್ ಆಗಿ.

ಪದೇ ಪದೇ ಕೇಳುವ ಪ್ರಶ್ನೆಗಳು

ಏಜೆಂಟ್‌ಗಳಿಗೆ ಉಚಿತ LLM API ಇದೆಯೇ?

ಹೌದು. ಹಲವು ಪೂರೈಕೆದಾರರಲ್ಲಿ ಟೂಲ್ ಕರೆಯೊಂದಿಗೆ ಉಚಿತ ಶ್ರೇಣಿಗಳಿವೆ. FreeLLMAPI ಅವುಗಳನ್ನು ಒಂದೇ OpenAI-ಹೊಂದಾಣಿಕೆಯ ಕೀ ಹಿಂದೆ ಸಂಯೋಜಿಸುತ್ತದೆ ಮತ್ತು ಮಿತಿಯು ವಿನಂತಿಯನ್ನು ನಿಲ್ಲಿಸಿದಾಗ ಮುಂದಿನ ಪೂರೈಕೆದಾರರಿಗೆ ಬದಲಾಗುತ್ತದೆ.

ಟೂಲ್ ಕರೆಗೆ ಯಾವ ಉಚಿತ LLM ಉತ್ತಮ?

ಟೂಲ್ ಕರೆ ಮತ್ತು 128K ಟೋಕನ್ ಅಥವಾ ಹೆಚ್ಚಿನ ಸಂದರ್ಭ ವಿಂಡೋ ಇರುವ ಮಾದರಿಯನ್ನು ಬಳಸಿ. ಈ ಪುಟದ ಕೋಷ್ಟಕ ಎರಡೂ ನಿಯಮಗಳನ್ನು ಇಂದು ಪೂರೈಸುವ ಅತ್ಯಂತ ಬಲಿಷ್ಠ ಉಚಿತ ಮಾದರಿಗಳನ್ನು ತೋರಿಸುತ್ತದೆ.

FreeLLMAPI ಅನ್ನು MCP ಸರ್ವರ್ ಆಗಿ ಬಳಸಬಹುದೇ?

ಹೌದು. Keys ಪುಟದಲ್ಲಿ Agent compatibility ಅಡಿಯಲ್ಲಿ MCP ಮೇಲ್ಮೈಯನ್ನು ಆನ್ ಮಾಡಿ. ನಂತರ ನಿಮ್ಮ MCP ಕ್ಲೈಂಟ್ ಅನ್ನು ಏಕೀಕೃತ ಕೀಯನ್ನು Bearer ಟೋಕನ್ ಆಗಿ ಬಳಸಿ /mcp ಗೆ ಸಂಪರ್ಕಿಸಿ.

ಮಿತಿಗಳ ಕಾರಣ ಏಜೆಂಟ್ ವಿಫಲವಾಗುವುದನ್ನು ತಡೆಯುವುದು ಹೇಗೆ?

ಹೆಚ್ಚು ಪೂರೈಕೆದಾರರ ಕೀಗಳನ್ನು ಸೇರಿಸಿ, ಸಣ್ಣ ಹಂತಗಳನ್ನು auto:fast ಗೆ ಕಳುಹಿಸಿ, Retry-After ಹೆಡರ್‌ನೊಂದಿಗೆ 429 ಮೇಲೆ ಮರುಪ್ರಯತ್ನಿಸಿ ಮತ್ತು ಹಂತಗಳ ಗರಿಷ್ಠ ಸಂಖ್ಯೆಯನ್ನು ಹೊಂದಿಸಿ.

ಏಜೆಂಟ್ ಕೆಲಸದ ಮಧ್ಯದಲ್ಲಿ ಮಾದರಿ ಬದಲಾದರೆ ಏನಾಗುತ್ತದೆ?

ಹೊಸ ಮಾದರಿಗೆ ಸಂಪೂರ್ಣ ಸಂದೇಶ ಇತಿಹಾಸ ಸಿಗುತ್ತದೆ. ಸಂದರ್ಭ ಹಸ್ತಾಂತರ ಆನ್ ಆಗಿದ್ದರೆ, ಕೆಲಸವನ್ನು ಮುಂದುವರಿಸಲು ಹೇಳುವ ಸಣ್ಣ ಟಿಪ್ಪಣಿಯೂ ಸಿಗುತ್ತದೆ.

ಸಂಬಂಧಿತ ಮಾರ್ಗದರ್ಶಿಗಳು

ಮೂಲಗಳು

ಎಲ್ಲಾ ಮಾರ್ಗದರ್ಶಿಗಳು · ಎಲ್ಲಾ ಉಚಿತ ಮಾದರಿಗಳನ್ನು ನೋಡಿ