முகப்பு / வழிகாட்டிகள் / Function calling உடன் இலவச LLM API

Function calling உடன் இலவச LLM API

Function calling, அல்லது tool calling, ஒரு LLM உங்கள் code-இடம் ஒரு function-ஐ இயக்கக் கேட்க அனுமதிக்கிறது. முகவர்களும் நேரடித் தரவுடன் கூடிய chat bots-உம் கட்டமைக்கப்பட்ட பிரித்தெடுப்பும் அனைத்தும் இதைப் பயன்படுத்துகின்றன. FreeLLMAPI catalog-இல் tool calling உள்ள 190 இலவச model சலுகைகள் உள்ளன. OpenAI-style tools-ஐ அனுப்புகிறீர்கள், gateway ஒவ்வொரு வழங்குநருக்கும் அவற்றை மொழிபெயர்க்கிறது.

குறியீடு, மாதிரிப் பெயர்கள் மற்றும் நேரடி பட்டியல் லேபிள்கள் ஆங்கிலத்தில் காட்டப்படுகின்றன.

FreeLLMAPI மூலம் tool calling எப்படி வேலை செய்கிறது

  1. செய்திகளையும் tools-இன் பட்டியலையும் அனுப்புகிறீர்கள். ஒவ்வொரு tool-க்கும் ஒரு பெயர், ஒரு விளக்கம் மற்றும் அதன் parameters-க்கான JSON Schema உள்ளது.
  2. Model tool_calls-உடனும் finish_reason: "tool_calls"-உடனும் பதிலளிக்கிறது. அது தானாக எதையும் இயக்குவதில்லை.
  3. உங்கள் code function-ஐ இயக்கி, முடிவை role: "tool"-உடன் ஒரு செய்தியாகச் சேர்க்கிறது.
  4. உரையாடலை மீண்டும் அனுப்புகிறீர்கள். இறுதிப் பதிலை எழுத model முடிவைப் பயன்படுத்துகிறது.

Groq, Cerebras, Mistral, OpenRouter மற்றும் Cloudflare போன்ற OpenAI-compatible வழங்குநர்கள் கோரிக்கையை அப்படியே பெறுகின்றன. Gemini-க்கு, FreeLLMAPI tools-ஐ Google’s functionDeclarations வடிவத்துக்கு மொழிபெயர்த்து, பதிலை மீண்டும் மொழிபெயர்க்கிறது. எல்லா வழங்குநர்களுக்கும் உங்கள் code ஒன்றே.

சில models tool call-ஐ உண்மையான tool call ஆக இல்லாமல், வெறும் உரையாக எழுதுகின்றன. FreeLLMAPI இவற்றைக் கண்டறிந்து உண்மையான tool_calls-ஆக மாற்றுகிறது.

இன்று tool calling உள்ள இலவச models

அட்டவணை tool calling உள்ள வலுவான இலவச models-ஐக் காட்டுகிறது. தரவு நேரடி catalog-இலிருந்து வருகிறது. முகவர்களுக்கு, context அளவையும் சரிபார்க்கவும், ஏனெனில் tool வரையறைகளும் முடிவுகளும் அதிக tokens பயன்படுத்துகின்றன.

Tool calling உள்ள இலவச models, வலுவானவை முதலில்
மாதிரிஇலவசம்சூழல் அளவுஇலவச வரம்புகள் (சிறந்த சலுகை)கருவிகள்படப் பார்வை
GLM 5.3UnoRouter1M1 கோரிக்கை/நிமிடம்
1 req/min per model
ஆம்இல்லை
Qwen3.8 MaxACLIDE-€20/month shared internal usage credits · no cardஆம்இல்லை
GLM 5.3 FlashNVIDIA NIM, UnoRouter1M40 கோரிக்கை/நிமிடம்
40 RPM
ஆம்ஆம்
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaஆம்ஆம்
Gemini Flash (latest alias)Google AI Studio-10 கோரிக்கை/நிமிடம்
20 கோரிக்கை/நாள்
250,000 டோக்கன்/நிமிடம்
~3M
ஆம்ஆம்
Qwen3.8 Flash NextAMD Radeon Cloud262KRecurring daily account allowanceஆம்இல்லை
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditஆம்ஆம்
Gemini 3.7 FlashGoogle AI Studio1M10 கோரிக்கை/நிமிடம்
20 கோரிக்கை/நாள்
250,000 டோக்கன்/நிமிடம்
~3M
ஆம்ஆம்
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditஆம்ஆம்
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 கோரிக்கை/நிமிடம்
50 கோரிக்கை/நாள்
50 req/day account-wide (1,000 after a $10 purchase)
ஆம்ஆம்
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 கோரிக்கை/நிமிடம்
50 கோரிக்கை/நாள்
Shared rate limit
ஆம்இல்லை
Qwen3.8 27BElectronHub, Groq, OVH AI Endpoints262K30 கோரிக்கை/நிமிடம்
250 கோரிக்கை/நாள்
70,000 டோக்கன்/நிமிடம்
~6M
ஆம்ஆம்
Gemini 3.6 FlashGoogle AI Studio1M10 கோரிக்கை/நிமிடம்
20 கோரிக்கை/நாள்
250,000 டோக்கன்/நிமிடம்
~3M
ஆம்ஆம்
Qwen 3.8 27BCloudflare Workers AI262KShared 10k neurons/dayஆம்ஆம்
Gemini 3.5 FlashGoogle AI Studio1M10 கோரிக்கை/நிமிடம்
20 கோரிக்கை/நாள்
250,000 டோக்கன்/நிமிடம்
~3M
ஆம்ஆம்

பொருந்தும் 146 இலவச மாதிரிகளில் 15 காட்டப்படுகின்றன. அனைத்து மாதிரிகளையும் பார்க்கவும்.

FreeLLMAPI பட்டியலிலிருந்து நேரடி தரவு (பதிப்பு 2026.11.19, சரிபார்க்கப்பட்டது 2026-11-19). இலவச வரம்புகள் அடிக்கடி மாறும். பட்டியல் ஒவ்வொரு நாளும் சரிபார்க்கப்படுகிறது.

படி 1: FreeLLMAPI-ஐ நிறுவி keys-ஐச் சேர்க்கவும்

FreeLLMAPI open source. இது Docker மூலம் உங்கள் கணினியில் இயங்குகிறது. உங்கள் provider keys உங்கள் கணினியிலேயே இருக்கும்.

நிறுவவும் (macOS அல்லது Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

http://localhost:3001-இல் டாஷ்போர்டைத் திறக்கவும். Keys பக்கத்தில் மூன்று அல்லது அதற்கு மேற்பட்ட வழங்குநர்களின் keys-ஐச் சேர்க்கவும். ஒரு tool loop ஒரு பணிக்குப் பல கோரிக்கைகளை அனுப்புகிறது, எனவே அதிக keys அதிக இடம் தருகின்றன. அதே பக்கத்திலிருந்து உங்கள் ஒருங்கிணைந்த key-ஐ நகலெடுக்கவும்.

படி 2: முழுமையான tool loop-ஐ இயக்கவும்

curl: முதல் கோரிக்கை

curl http://localhost:3001/v1/chat/completions \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "auto",
    "messages": [{"role": "user", "content": "What is the weather in Karachi?"}],
    "tools": [{
      "type": "function",
      "function": {
        "name": "get_weather",
        "description": "Get the current weather for a city.",
        "parameters": {
          "type": "object",
          "properties": {"city": {"type": "string"}},
          "required": ["city"]
        }
      }
    }]
  }'

Python: model இறுதிப் பதிலைத் தரும் வரை loop செய்யவும்

import json
from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")

def get_weather(city: str) -> dict:
    return {"city": city, "temp_c": 32, "condition": "sunny"}  # call a real API here

FUNCS = {"get_weather": get_weather}
tools = [{
    "type": "function",
    "function": {
        "name": "get_weather",
        "description": "Get the current weather for a city.",
        "parameters": {
            "type": "object",
            "properties": {"city": {"type": "string"}},
            "required": ["city"],
        },
    },
}]
messages = [{"role": "user", "content": "What is the weather in Karachi and Lahore?"}]

for _ in range(5):  # stop after 5 rounds
    msg = client.chat.completions.create(model="auto", messages=messages, tools=tools).choices[0].message
    if not msg.tool_calls:
        print(msg.content)
        break
    messages.append(msg)
    for call in msg.tool_calls:
        try:
            args = json.loads(call.function.arguments or "{}")
            result = FUNCS[call.function.name](**args)
        except Exception as exc:  # bad JSON, unknown tool or wrong arguments
            result = {"error": str(exc)}
        messages.append({"role": "tool", "tool_call_id": call.id, "content": json.dumps(result)})

Tool calling stream=True-உடனும் வேலை செய்கிறது. delta.tool_calls chunks-ஐப் பெறுவீர்கள், பிறகு finish_reason: "tool_calls"-உடன் ஒரு இறுதி chunk. JSON-ஐப் பகுப்பதற்கு முன் argument chunks-ஐ இணைக்கவும்.

கட்டமைக்கப்பட்ட தரவைப் பெற ஒரு tool-ஐப் பயன்படுத்தவும்

நிலையான வடிவத்தில் தரவைப் பெறவும் tool calling ஒரு நல்ல வழி. நீங்கள் விரும்பும் புலங்களையே parameters ஆகக் கொண்ட ஒரு tool-ஐ வரையறுக்கவும். tool_choice-ஐ "required"-ஆக அமைக்கவும், இதனால் model ஒரு tool-ஐ அழைக்க வேண்டும். பிறகு arguments-ஐப் படிக்கவும். எந்த function-ஐயும் இயக்க வேண்டியதில்லை.

Python: தேவையான tool call மூலம் புலங்களைப் பிரித்தெடுக்கவும்

import json
from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")
schema = {
    "type": "function",
    "function": {
        "name": "save_contact",
        "description": "Save one contact found in the text.",
        "parameters": {
            "type": "object",
            "properties": {"name": {"type": "string"}, "email": {"type": "string"}},
            "required": ["name", "email"],
        },
    },
}
resp = client.chat.completions.create(
    model="auto",
    messages=[{"role": "user", "content": "Reach Sara Khan at [email protected]."}],
    tools=[schema],
    tool_choice="required",
)
print(json.loads(resp.choices[0].message.tool_calls[0].function.arguments))

Arguments-ஐ உங்கள் சொந்த code மூலம் சரிபார்க்கவும். ஒரு model தேவையான புலத்தை விட்டுவிடலாம் அல்லது தவறான வகையை அனுப்பலாம். சரிபார்ப்பு தோல்வியடைந்தால், பிழையை மீண்டும் அனுப்பி மீண்டும் கேட்கவும்.

பாதுகாப்பு: பணம் செலுத்துதல், மின்னஞ்சல்கள் அல்லது கோப்பு நீக்கம் போன்ற பக்க விளைவுகள் உள்ள tool calls-ஐ சரிபார்ப்பு இல்லாமல் இயக்க வேண்டாம். இந்தச் செயல்களை முதலில் பயனரிடம் உறுதிப்படுத்தக் கேட்கவும்.

ஆபத்துகள்

  • Arguments ஒரு சரம்: function.arguments ஒரு JSON சரம். அதைப் பகுத்து, பிழைகளைப் பிடிக்கவும். சிறிய models சில நேரங்களில் செல்லாத JSON-ஐ அனுப்புகின்றன.
  • Ids-ஐப் பொருத்தவும்: ஒவ்வொரு tool செய்திக்கும் அதன் அழைப்பின் tool_call_id தேவை. Tool செய்திகளுக்கு முன், tool_calls-உடன் assistant செய்தியைச் சேர்க்கவும்.
  • ஒரே நேரத்தில் பல அழைப்புகள்: ஒரு model ஒரே பதிலில் ஒன்றுக்கு மேற்பட்ட tool calls-ஐத் திருப்பலாம். எல்லாவற்றையும் இயக்கவும், பிறகு எல்லா முடிவுகளையும் அனுப்பவும்.
  • Token செலவு: ஒவ்வொரு tool வரையறையும் ஒவ்வொரு கோரிக்கையுடனும் அனுப்பப்படுகிறது. இருபது பெரிய tools ஆயிரக்கணக்கான tokens-ஐப் பயன்படுத்தி, குறைந்த tokens-per-minute வரம்பை விரைவில் எட்டலாம். பணிக்குத் தேவையான tools-ஐ மட்டும் அனுப்பவும்.
  • தெளிவான விளக்கங்கள்: model ஒரு tool-ஐ அதன் பெயர் மற்றும் விளக்கத்திலிருந்து தேர்ந்தெடுக்கிறது. Tool என்ன செய்கிறது, எப்போது பயன்படுத்த வேண்டும் என்று சொல்லும் ஒரு குறுகிய வாக்கியத்தை எழுதவும்.
  • Loop-ஐ நிறுத்தவும்: அதிகபட்ச சுற்றுகளின் எண்ணிக்கையை அமைக்கவும். பலவீனமான model ஒரே tool-ஐ மீண்டும் மீண்டும் அழைக்கலாம்.
  • Tools இல்லாத models: சில இலவச வழங்குநர்கள் tools-ஐ ஆதரிப்பதில்லை. எடுத்துக்காட்டாக, AI Horde tools-ஐ விட்டுவிட்டு வெறும் chat ஆகப் பதிலளிக்கிறது.
பணியின்போது ஒரே model: FreeLLMAPI ஓர் உரையாடலை 30 நிமிடங்களுக்கு ஒரே model-இல் வைத்திருக்கிறது. Tool loop பொதுவாக ஒரே model-இல் தங்குகிறது. ஒரு வரம்பு மாற்றத்தைக் கட்டாயப்படுத்தினால், அடுத்த model tool முடிவுகள் உட்பட முழு செய்தி வரலாற்றைப் பெறுகிறது.

சிக்கல் தீர்வு

சிக்கல்காரணம்தீர்வு
Model உரையில் பதிலளிக்கிறது, எந்த tool-ஐயும் அழைக்கவில்லைModel tools-இல் பலவீனமாக உள்ளது, அல்லது விளக்கம் தெளிவாக இல்லைஅட்டவணையிலிருந்து வலுவான model-ஐ இணைக்கவும், அல்லது tool விளக்கத்தை மேம்படுத்தவும்
Arguments-இல் json.JSONDecodeErrorModel செல்லாத JSON-ஐ அனுப்பியதுபிழையைப் பிடித்து tool முடிவாக மீண்டும் அனுப்பவும், model மீண்டும் முயலலாம்
Tool செய்தி பற்றிய Error 400tool_call_id பொருந்தவில்லை, அல்லது assistant செய்தி இல்லைமுதலில் assistant செய்தியைச் சேர்க்கவும், பிறகு ஒவ்வொரு அழைப்புக்கும் ஒரு tool செய்தியைச் சேர்க்கவும்
முகவர் பணியின்போது Error 429Loop பல பெரிய கோரிக்கைகளை அனுப்புகிறதுஇன்னும் அதிக provider keys-ஐச் சேர்க்கவும், குறைவான tools-ஐ அனுப்பவும்
Loop நிற்கவில்லைModel அதே tool-ஐ மீண்டும் அழைக்கிறதுஒரு சுற்று வரம்பை அமைக்கவும், தெளிவான முடிவுகளைத் திருப்பவும்
இவை அனைத்தையும் ஒரே விசை மூலம் பயன்படுத்துங்கள். FreeLLMAPI என்பது திறந்த மூலமான, நீங்களே நிறுவும் ரூட்டர். இந்த இலவச அடுக்குகள் அனைத்தையும் ஒரே OpenAI-இணக்கமான இறுதிப்புள்ளிக்குப் பின்னால் வைக்கிறது. ஒரு வழங்குநர் வரம்பை எட்டும்போது தானாக அடுத்ததற்கு மாறுகிறது. பட்டியலைப் பார்க்கவும் அல்லது நேரலைக்குச் செல்லவும்.

அடிக்கடி கேட்கப்படும் கேள்விகள்

எந்த இலவச LLM APIs function calling-ஐ ஆதரிக்கின்றன?

Gemini, Groq, Cerebras, Mistral, OpenRouter, Cloudflare மற்றும் பிற வழங்குநர்களிடம் tool calling உள்ள இலவச models உள்ளன. FreeLLMAPI catalog-இல் இன்று tools உள்ள 190 இலவச model சலுகைகள் உள்ளன.

Tool calling என்பது function calling-ஐப் போன்றதா?

ஆம். OpenAI முதலில் function calling என்ற பெயரைப் பயன்படுத்தியது. தற்போதைய API tools மற்றும் tool_calls-ஐப் பயன்படுத்துகிறது. இரண்டு பெயர்களும் model உங்கள் code-இடம் ஒரு function-ஐ இயக்கக் கேட்கிறது என்று பொருள்படும்.

OpenAI வடிவத்தில் Gemini tool calling வேலை செய்யுமா?

ஆம், FreeLLMAPI வழியாக. Gateway OpenAI tools-ஐ Gemini functionDeclarations-ஆக மொழிபெயர்க்கிறது, பதிலை மீண்டும் OpenAI tool_calls-ஆக மொழிபெயர்க்கிறது.

Tool calls-ஐ streaming செய்யலாமா?

ஆம். stream=True உடன் delta.tool_calls chunks-ஐயும், tool_calls என்ற இறுதி finish_reason-ஐயும் பெறுவீர்கள். பகுப்பதற்கு முன் argument chunks-ஐ இணைக்கவும்.

தொடர்புடைய வழிகாட்டிகள்

ஆதாரங்கள்

அனைத்து வழிகாட்டிகள் · அனைத்து இலவச மாதிரிகளையும் பார்க்கவும்