Function calling உடன் இலவச LLM API
Function calling, அல்லது tool calling, ஒரு LLM உங்கள் code-இடம் ஒரு function-ஐ இயக்கக் கேட்க அனுமதிக்கிறது. முகவர்களும் நேரடித் தரவுடன் கூடிய chat bots-உம் கட்டமைக்கப்பட்ட பிரித்தெடுப்பும் அனைத்தும் இதைப் பயன்படுத்துகின்றன. FreeLLMAPI catalog-இல் tool calling உள்ள 190 இலவச model சலுகைகள் உள்ளன. OpenAI-style tools-ஐ அனுப்புகிறீர்கள், gateway ஒவ்வொரு வழங்குநருக்கும் அவற்றை மொழிபெயர்க்கிறது.
குறியீடு, மாதிரிப் பெயர்கள் மற்றும் நேரடி பட்டியல் லேபிள்கள் ஆங்கிலத்தில் காட்டப்படுகின்றன.
FreeLLMAPI மூலம் tool calling எப்படி வேலை செய்கிறது
- செய்திகளையும்
tools-இன் பட்டியலையும் அனுப்புகிறீர்கள். ஒவ்வொரு tool-க்கும் ஒரு பெயர், ஒரு விளக்கம் மற்றும் அதன் parameters-க்கான JSON Schema உள்ளது. - Model
tool_calls-உடனும்finish_reason: "tool_calls"-உடனும் பதிலளிக்கிறது. அது தானாக எதையும் இயக்குவதில்லை. - உங்கள் code function-ஐ இயக்கி, முடிவை
role: "tool"-உடன் ஒரு செய்தியாகச் சேர்க்கிறது. - உரையாடலை மீண்டும் அனுப்புகிறீர்கள். இறுதிப் பதிலை எழுத model முடிவைப் பயன்படுத்துகிறது.
Groq, Cerebras, Mistral, OpenRouter மற்றும் Cloudflare போன்ற OpenAI-compatible வழங்குநர்கள் கோரிக்கையை அப்படியே பெறுகின்றன. Gemini-க்கு, FreeLLMAPI tools-ஐ Google’s functionDeclarations வடிவத்துக்கு மொழிபெயர்த்து, பதிலை மீண்டும் மொழிபெயர்க்கிறது. எல்லா வழங்குநர்களுக்கும் உங்கள் code ஒன்றே.
சில models tool call-ஐ உண்மையான tool call ஆக இல்லாமல், வெறும் உரையாக எழுதுகின்றன. FreeLLMAPI இவற்றைக் கண்டறிந்து உண்மையான tool_calls-ஆக மாற்றுகிறது.
இன்று tool calling உள்ள இலவச models
அட்டவணை tool calling உள்ள வலுவான இலவச models-ஐக் காட்டுகிறது. தரவு நேரடி catalog-இலிருந்து வருகிறது. முகவர்களுக்கு, context அளவையும் சரிபார்க்கவும், ஏனெனில் tool வரையறைகளும் முடிவுகளும் அதிக tokens பயன்படுத்துகின்றன.
| மாதிரி | இலவசம் | சூழல் அளவு | இலவச வரம்புகள் (சிறந்த சலுகை) | கருவிகள் | படப் பார்வை |
|---|---|---|---|---|---|
| GLM 5.3 | UnoRouter | 1M | 1 கோரிக்கை/நிமிடம் 1 req/min per model | ஆம் | இல்லை |
| Qwen3.8 Max | ACLIDE | - | €20/month shared internal usage credits · no card | ஆம் | இல்லை |
| GLM 5.3 Flash | NVIDIA NIM, UnoRouter | 1M | 40 கோரிக்கை/நிமிடம் 40 RPM | ஆம் | ஆம் |
| Gemini 3.8 Flash | Google AI Studio | 1M | Recurring provider quota | ஆம் | ஆம் |
| Gemini Flash (latest alias) | Google AI Studio | - | 10 கோரிக்கை/நிமிடம் 20 கோரிக்கை/நாள் 250,000 டோக்கன்/நிமிடம் ~3M | ஆம் | ஆம் |
| Qwen3.8 Flash Next | AMD Radeon Cloud | 262K | Recurring daily account allowance | ஆம் | இல்லை |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | ஆம் | ஆம் |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 கோரிக்கை/நிமிடம் 20 கோரிக்கை/நாள் 250,000 டோக்கன்/நிமிடம் ~3M | ஆம் | ஆம் |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | ஆம் | ஆம் |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 கோரிக்கை/நிமிடம் 50 கோரிக்கை/நாள் 50 req/day account-wide (1,000 after a $10 purchase) | ஆம் | ஆம் |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 கோரிக்கை/நிமிடம் 50 கோரிக்கை/நாள் Shared rate limit | ஆம் | இல்லை |
| Qwen3.8 27B | ElectronHub, Groq, OVH AI Endpoints | 262K | 30 கோரிக்கை/நிமிடம் 250 கோரிக்கை/நாள் 70,000 டோக்கன்/நிமிடம் ~6M | ஆம் | ஆம் |
| Gemini 3.6 Flash | Google AI Studio | 1M | 10 கோரிக்கை/நிமிடம் 20 கோரிக்கை/நாள் 250,000 டோக்கன்/நிமிடம் ~3M | ஆம் | ஆம் |
| Qwen 3.8 27B | Cloudflare Workers AI | 262K | Shared 10k neurons/day | ஆம் | ஆம் |
| Gemini 3.5 Flash | Google AI Studio | 1M | 10 கோரிக்கை/நிமிடம் 20 கோரிக்கை/நாள் 250,000 டோக்கன்/நிமிடம் ~3M | ஆம் | ஆம் |
பொருந்தும் 146 இலவச மாதிரிகளில் 15 காட்டப்படுகின்றன. அனைத்து மாதிரிகளையும் பார்க்கவும்.
FreeLLMAPI பட்டியலிலிருந்து நேரடி தரவு (பதிப்பு 2026.11.19, சரிபார்க்கப்பட்டது 2026-11-19). இலவச வரம்புகள் அடிக்கடி மாறும். பட்டியல் ஒவ்வொரு நாளும் சரிபார்க்கப்படுகிறது.
படி 1: FreeLLMAPI-ஐ நிறுவி keys-ஐச் சேர்க்கவும்
FreeLLMAPI open source. இது Docker மூலம் உங்கள் கணினியில் இயங்குகிறது. உங்கள் provider keys உங்கள் கணினியிலேயே இருக்கும்.
நிறுவவும் (macOS அல்லது Linux)
curl -fsSL https://freellmapi.co/install.sh | bashhttp://localhost:3001-இல் டாஷ்போர்டைத் திறக்கவும். Keys பக்கத்தில் மூன்று அல்லது அதற்கு மேற்பட்ட வழங்குநர்களின் keys-ஐச் சேர்க்கவும். ஒரு tool loop ஒரு பணிக்குப் பல கோரிக்கைகளை அனுப்புகிறது, எனவே அதிக keys அதிக இடம் தருகின்றன. அதே பக்கத்திலிருந்து உங்கள் ஒருங்கிணைந்த key-ஐ நகலெடுக்கவும்.
படி 2: முழுமையான tool loop-ஐ இயக்கவும்
curl: முதல் கோரிக்கை
curl http://localhost:3001/v1/chat/completions \
-H "Authorization: Bearer <unified-key>" \
-H "Content-Type: application/json" \
-d '{
"model": "auto",
"messages": [{"role": "user", "content": "What is the weather in Karachi?"}],
"tools": [{
"type": "function",
"function": {
"name": "get_weather",
"description": "Get the current weather for a city.",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string"}},
"required": ["city"]
}
}
}]
}'Python: model இறுதிப் பதிலைத் தரும் வரை loop செய்யவும்
import json
from openai import OpenAI
client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")
def get_weather(city: str) -> dict:
return {"city": city, "temp_c": 32, "condition": "sunny"} # call a real API here
FUNCS = {"get_weather": get_weather}
tools = [{
"type": "function",
"function": {
"name": "get_weather",
"description": "Get the current weather for a city.",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string"}},
"required": ["city"],
},
},
}]
messages = [{"role": "user", "content": "What is the weather in Karachi and Lahore?"}]
for _ in range(5): # stop after 5 rounds
msg = client.chat.completions.create(model="auto", messages=messages, tools=tools).choices[0].message
if not msg.tool_calls:
print(msg.content)
break
messages.append(msg)
for call in msg.tool_calls:
try:
args = json.loads(call.function.arguments or "{}")
result = FUNCS[call.function.name](**args)
except Exception as exc: # bad JSON, unknown tool or wrong arguments
result = {"error": str(exc)}
messages.append({"role": "tool", "tool_call_id": call.id, "content": json.dumps(result)})Tool calling stream=True-உடனும் வேலை செய்கிறது. delta.tool_calls chunks-ஐப் பெறுவீர்கள், பிறகு finish_reason: "tool_calls"-உடன் ஒரு இறுதி chunk. JSON-ஐப் பகுப்பதற்கு முன் argument chunks-ஐ இணைக்கவும்.
கட்டமைக்கப்பட்ட தரவைப் பெற ஒரு tool-ஐப் பயன்படுத்தவும்
நிலையான வடிவத்தில் தரவைப் பெறவும் tool calling ஒரு நல்ல வழி. நீங்கள் விரும்பும் புலங்களையே parameters ஆகக் கொண்ட ஒரு tool-ஐ வரையறுக்கவும். tool_choice-ஐ "required"-ஆக அமைக்கவும், இதனால் model ஒரு tool-ஐ அழைக்க வேண்டும். பிறகு arguments-ஐப் படிக்கவும். எந்த function-ஐயும் இயக்க வேண்டியதில்லை.
Python: தேவையான tool call மூலம் புலங்களைப் பிரித்தெடுக்கவும்
import json
from openai import OpenAI
client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")
schema = {
"type": "function",
"function": {
"name": "save_contact",
"description": "Save one contact found in the text.",
"parameters": {
"type": "object",
"properties": {"name": {"type": "string"}, "email": {"type": "string"}},
"required": ["name", "email"],
},
},
}
resp = client.chat.completions.create(
model="auto",
messages=[{"role": "user", "content": "Reach Sara Khan at [email protected]."}],
tools=[schema],
tool_choice="required",
)
print(json.loads(resp.choices[0].message.tool_calls[0].function.arguments))Arguments-ஐ உங்கள் சொந்த code மூலம் சரிபார்க்கவும். ஒரு model தேவையான புலத்தை விட்டுவிடலாம் அல்லது தவறான வகையை அனுப்பலாம். சரிபார்ப்பு தோல்வியடைந்தால், பிழையை மீண்டும் அனுப்பி மீண்டும் கேட்கவும்.
ஆபத்துகள்
- Arguments ஒரு சரம்:
function.argumentsஒரு JSON சரம். அதைப் பகுத்து, பிழைகளைப் பிடிக்கவும். சிறிய models சில நேரங்களில் செல்லாத JSON-ஐ அனுப்புகின்றன. - Ids-ஐப் பொருத்தவும்: ஒவ்வொரு tool செய்திக்கும் அதன் அழைப்பின்
tool_call_idதேவை. Tool செய்திகளுக்கு முன்,tool_calls-உடன் assistant செய்தியைச் சேர்க்கவும். - ஒரே நேரத்தில் பல அழைப்புகள்: ஒரு model ஒரே பதிலில் ஒன்றுக்கு மேற்பட்ட tool calls-ஐத் திருப்பலாம். எல்லாவற்றையும் இயக்கவும், பிறகு எல்லா முடிவுகளையும் அனுப்பவும்.
- Token செலவு: ஒவ்வொரு tool வரையறையும் ஒவ்வொரு கோரிக்கையுடனும் அனுப்பப்படுகிறது. இருபது பெரிய tools ஆயிரக்கணக்கான tokens-ஐப் பயன்படுத்தி, குறைந்த tokens-per-minute வரம்பை விரைவில் எட்டலாம். பணிக்குத் தேவையான tools-ஐ மட்டும் அனுப்பவும்.
- தெளிவான விளக்கங்கள்: model ஒரு tool-ஐ அதன் பெயர் மற்றும் விளக்கத்திலிருந்து தேர்ந்தெடுக்கிறது. Tool என்ன செய்கிறது, எப்போது பயன்படுத்த வேண்டும் என்று சொல்லும் ஒரு குறுகிய வாக்கியத்தை எழுதவும்.
- Loop-ஐ நிறுத்தவும்: அதிகபட்ச சுற்றுகளின் எண்ணிக்கையை அமைக்கவும். பலவீனமான model ஒரே tool-ஐ மீண்டும் மீண்டும் அழைக்கலாம்.
- Tools இல்லாத models: சில இலவச வழங்குநர்கள் tools-ஐ ஆதரிப்பதில்லை. எடுத்துக்காட்டாக, AI Horde tools-ஐ விட்டுவிட்டு வெறும் chat ஆகப் பதிலளிக்கிறது.
சிக்கல் தீர்வு
| சிக்கல் | காரணம் | தீர்வு |
|---|---|---|
| Model உரையில் பதிலளிக்கிறது, எந்த tool-ஐயும் அழைக்கவில்லை | Model tools-இல் பலவீனமாக உள்ளது, அல்லது விளக்கம் தெளிவாக இல்லை | அட்டவணையிலிருந்து வலுவான model-ஐ இணைக்கவும், அல்லது tool விளக்கத்தை மேம்படுத்தவும் |
Arguments-இல் json.JSONDecodeError | Model செல்லாத JSON-ஐ அனுப்பியது | பிழையைப் பிடித்து tool முடிவாக மீண்டும் அனுப்பவும், model மீண்டும் முயலலாம் |
| Tool செய்தி பற்றிய Error 400 | tool_call_id பொருந்தவில்லை, அல்லது assistant செய்தி இல்லை | முதலில் assistant செய்தியைச் சேர்க்கவும், பிறகு ஒவ்வொரு அழைப்புக்கும் ஒரு tool செய்தியைச் சேர்க்கவும் |
| முகவர் பணியின்போது Error 429 | Loop பல பெரிய கோரிக்கைகளை அனுப்புகிறது | இன்னும் அதிக provider keys-ஐச் சேர்க்கவும், குறைவான tools-ஐ அனுப்பவும் |
| Loop நிற்கவில்லை | Model அதே tool-ஐ மீண்டும் அழைக்கிறது | ஒரு சுற்று வரம்பை அமைக்கவும், தெளிவான முடிவுகளைத் திருப்பவும் |
அடிக்கடி கேட்கப்படும் கேள்விகள்
எந்த இலவச LLM APIs function calling-ஐ ஆதரிக்கின்றன?
Gemini, Groq, Cerebras, Mistral, OpenRouter, Cloudflare மற்றும் பிற வழங்குநர்களிடம் tool calling உள்ள இலவச models உள்ளன. FreeLLMAPI catalog-இல் இன்று tools உள்ள 190 இலவச model சலுகைகள் உள்ளன.
Tool calling என்பது function calling-ஐப் போன்றதா?
ஆம். OpenAI முதலில் function calling என்ற பெயரைப் பயன்படுத்தியது. தற்போதைய API tools மற்றும் tool_calls-ஐப் பயன்படுத்துகிறது. இரண்டு பெயர்களும் model உங்கள் code-இடம் ஒரு function-ஐ இயக்கக் கேட்கிறது என்று பொருள்படும்.
OpenAI வடிவத்தில் Gemini tool calling வேலை செய்யுமா?
ஆம், FreeLLMAPI வழியாக. Gateway OpenAI tools-ஐ Gemini functionDeclarations-ஆக மொழிபெயர்க்கிறது, பதிலை மீண்டும் OpenAI tool_calls-ஆக மொழிபெயர்க்கிறது.
Tool calls-ஐ streaming செய்யலாமா?
ஆம். stream=True உடன் delta.tool_calls chunks-ஐயும், tool_calls என்ற இறுதி finish_reason-ஐயும் பெறுவீர்கள். பகுப்பதற்கு முன் argument chunks-ஐ இணைக்கவும்.
தொடர்புடைய வழிகாட்டிகள்
- AI முகவர்களுக்கான இலவச LLM API
- AI agents க்கான இலவச web search API
- சிறந்த இலவச coding model APIs
- LangChain-க்கான இலவச LLM API
- Python இல் இலவச LLM API
ஆதாரங்கள்
- FreeLLMAPI docs: Tool calling (சரிபார்க்கப்பட்டது 20 November 2026)
- FreeLLMAPI README: features (சரிபார்க்கப்பட்டது 20 November 2026)
- OpenAI API reference: Chat Completions tools (சரிபார்க்கப்பட்டது 20 November 2026)
அனைத்து வழிகாட்டிகள் · அனைத்து இலவச மாதிரிகளையும் பார்க்கவும்