ফাংশন কলিংসহ ফ্রি LLM API
ফাংশন কলিং, বা টুল কলিং, একটি LLM-কে আপনার কোডে একটি ফাংশন চালাতে বলতে দেয়। এজেন্ট, লাইভ ডেটাসহ চ্যাটবট এবং স্ট্রাকচার্ড নিষ্কাশন সবই এটি ব্যবহার করে। FreeLLMAPI ক্যাটালগে টুল কলিংসহ 190টি ফ্রি মডেল অফার আছে। আপনি OpenAI-শৈলীর tools পাঠান, এবং গেটওয়ে প্রতিটি প্রোভাইডারের জন্য সেগুলো রূপান্তর করে।
কোড, মডেলের নাম এবং লাইভ ক্যাটালগের লেবেল ইংরেজিতে দেখানো হয়।
FreeLLMAPI-এর মাধ্যমে টুল কলিং কীভাবে কাজ করে
- আপনি মেসেজ এবং
tools-এর একটি তালিকা পাঠান। প্রতিটি টুলের একটি নাম, একটি বর্ণনা এবং তার প্যারামিটারের জন্য একটি JSON Schema আছে। - মডেল
tool_callsএবংfinish_reason: "tool_calls"সহ উত্তর দেয়। সে নিজে কিছু চালায় না। - আপনার কোড ফাংশনটি চালায় এবং ফলাফল
role: "tool"সহ একটি মেসেজ হিসেবে যোগ করে। - আপনি কথোপকথন আবার পাঠান। মডেল ফলাফল ব্যবহার করে চূড়ান্ত উত্তর লেখে।
Groq, Cerebras, Mistral, OpenRouter ও Cloudflare-এর মতো OpenAI-সামঞ্জস্যপূর্ণ প্রোভাইডার অনুরোধটি যেমন আছে তেমন পায়। Gemini-এর জন্য FreeLLMAPI টুলগুলোকে Google-এর functionDeclarations ফরম্যাটে রূপান্তর করে এবং উত্তরটি ফিরিয়ে আনে। প্রতিটি প্রোভাইডারের জন্য আপনার কোড একই থাকে।
কিছু মডেল টুল কলকে সাধারণ টেক্সট হিসেবে লেখে, প্রকৃত টুল কল হিসেবে নয়। FreeLLMAPI এগুলো শনাক্ত করে এবং প্রকৃত tool_calls-এ বদলে দেয়।
আজ টুল কলিংসহ ফ্রি মডেল
টেবিলে টুল কলিংসহ সবচেয়ে শক্তিশালী ফ্রি মডেল দেখানো হয়েছে। ডেটা আসে লাইভ ক্যাটালগ থেকে। এজেন্টের জন্য কনটেক্সটের আকারও দেখুন, কারণ টুলের সংজ্ঞা ও ফলাফল অনেক টোকেন ব্যবহার করে।
| মডেল | বিনামূল্যে | কনটেক্সট | বিনামূল্যের সীমা (সেরা অফার) | টুল | ভিশন |
|---|---|---|---|---|---|
| GLM 5.3 | UnoRouter | 1M | 1 অনুরোধ/মিনিট 1 req/min per model | হ্যাঁ | না |
| Qwen3.8 Max | ACLIDE | - | €20/month shared internal usage credits · no card | হ্যাঁ | না |
| GLM 5.3 Flash | NVIDIA NIM, UnoRouter | 1M | 40 অনুরোধ/মিনিট 40 RPM | হ্যাঁ | হ্যাঁ |
| Gemini 3.8 Flash | Google AI Studio | 1M | Recurring provider quota | হ্যাঁ | হ্যাঁ |
| Gemini Flash (latest alias) | Google AI Studio | - | 10 অনুরোধ/মিনিট 20 অনুরোধ/দিন 250,000 টোকেন/মিনিট ~3M | হ্যাঁ | হ্যাঁ |
| Qwen3.8 Flash Next | AMD Radeon Cloud | 262K | Recurring daily account allowance | হ্যাঁ | না |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | হ্যাঁ | হ্যাঁ |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 অনুরোধ/মিনিট 20 অনুরোধ/দিন 250,000 টোকেন/মিনিট ~3M | হ্যাঁ | হ্যাঁ |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | হ্যাঁ | হ্যাঁ |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 অনুরোধ/মিনিট 50 অনুরোধ/দিন 50 req/day account-wide (1,000 after a $10 purchase) | হ্যাঁ | হ্যাঁ |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 অনুরোধ/মিনিট 50 অনুরোধ/দিন Shared rate limit | হ্যাঁ | না |
| Qwen3.8 27B | ElectronHub, Groq, OVH AI Endpoints | 262K | 30 অনুরোধ/মিনিট 250 অনুরোধ/দিন 70,000 টোকেন/মিনিট ~6M | হ্যাঁ | হ্যাঁ |
| Gemini 3.6 Flash | Google AI Studio | 1M | 10 অনুরোধ/মিনিট 20 অনুরোধ/দিন 250,000 টোকেন/মিনিট ~3M | হ্যাঁ | হ্যাঁ |
| Qwen 3.8 27B | Cloudflare Workers AI | 262K | Shared 10k neurons/day | হ্যাঁ | হ্যাঁ |
| Gemini 3.5 Flash | Google AI Studio | 1M | 10 অনুরোধ/মিনিট 20 অনুরোধ/দিন 250,000 টোকেন/মিনিট ~3M | হ্যাঁ | হ্যাঁ |
মিলে যাওয়া 146টি বিনামূল্যের মডেলের মধ্যে 15টি দেখানো হচ্ছে। সব মডেল দেখুন.
FreeLLMAPI ক্যাটালগের লাইভ ডেটা (সংস্করণ 2026.11.19, যাচাই: 2026-11-19)। বিনামূল্যের সীমা প্রায়ই বদলায়। ক্যাটালগ প্রতিদিন যাচাই করা হয়।
ধাপ 1: FreeLLMAPI ইনস্টল করুন এবং কী যোগ করুন
FreeLLMAPI ওপেন সোর্স। এটি Docker-এ আপনার কম্পিউটারে চলে। আপনার প্রোভাইডার কী আপনার কম্পিউটারেই থাকে।
ইনস্টল করুন (macOS বা Linux)
curl -fsSL https://freellmapi.co/install.sh | bashhttp://localhost:3001-এ ড্যাশবোর্ড খুলুন। Keys পেজে তিন বা তার বেশি প্রোভাইডার থেকে কী যোগ করুন। একটি টুল লুপ একটি টাস্কের জন্য কয়েকটি অনুরোধ পাঠায়, তাই বেশি কী বেশি জায়গা দেয়। একই পেজ থেকে আপনার ইউনিফায়েড কী কপি করুন।
ধাপ 2: একটি সম্পূর্ণ টুল লুপ চালান
curl: প্রথম অনুরোধ
curl http://localhost:3001/v1/chat/completions \
-H "Authorization: Bearer <unified-key>" \
-H "Content-Type: application/json" \
-d '{
"model": "auto",
"messages": [{"role": "user", "content": "What is the weather in Karachi?"}],
"tools": [{
"type": "function",
"function": {
"name": "get_weather",
"description": "Get the current weather for a city.",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string"}},
"required": ["city"]
}
}
}]
}'Python: মডেল চূড়ান্ত উত্তর না দেওয়া পর্যন্ত লুপ চালান
import json
from openai import OpenAI
client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")
def get_weather(city: str) -> dict:
return {"city": city, "temp_c": 32, "condition": "sunny"} # call a real API here
FUNCS = {"get_weather": get_weather}
tools = [{
"type": "function",
"function": {
"name": "get_weather",
"description": "Get the current weather for a city.",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string"}},
"required": ["city"],
},
},
}]
messages = [{"role": "user", "content": "What is the weather in Karachi and Lahore?"}]
for _ in range(5): # stop after 5 rounds
msg = client.chat.completions.create(model="auto", messages=messages, tools=tools).choices[0].message
if not msg.tool_calls:
print(msg.content)
break
messages.append(msg)
for call in msg.tool_calls:
try:
args = json.loads(call.function.arguments or "{}")
result = FUNCS[call.function.name](**args)
except Exception as exc: # bad JSON, unknown tool or wrong arguments
result = {"error": str(exc)}
messages.append({"role": "tool", "tool_call_id": call.id, "content": json.dumps(result)})stream=True-এ টুল কলিংও কাজ করে। আপনি delta.tool_calls চাঙ্ক পান, তারপর finish_reason: "tool_calls" সহ একটি চূড়ান্ত চাঙ্ক পান। JSON পার্স করার আগে আর্গুমেন্ট চাঙ্কগুলো যুক্ত করুন।
স্ট্রাকচার্ড ডেটা পেতে একটি টুল ব্যবহার করুন
একটি নির্দিষ্ট আকারের ডেটা পেতেও টুল কলিং একটি ভালো উপায়। একটি টুল সংজ্ঞায়িত করুন যার প্যারামিটার হলো আপনার চাওয়া ফিল্ডগুলো। tool_choice সেট করুন "required"-এ, যাতে মডেলকে অবশ্যই একটি টুল কল করতে হয়। তারপর আর্গুমেন্টগুলো পড়ুন। কোনো ফাংশন চালানোর দরকার নেই।
Python: প্রয়োজনীয় টুল কল দিয়ে ফিল্ড নিষ্কাশন করুন
import json
from openai import OpenAI
client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")
schema = {
"type": "function",
"function": {
"name": "save_contact",
"description": "Save one contact found in the text.",
"parameters": {
"type": "object",
"properties": {"name": {"type": "string"}, "email": {"type": "string"}},
"required": ["name", "email"],
},
},
}
resp = client.chat.completions.create(
model="auto",
messages=[{"role": "user", "content": "Reach Sara Khan at [email protected]."}],
tools=[schema],
tool_choice="required",
)
print(json.loads(resp.choices[0].message.tool_calls[0].function.arguments))আপনার নিজের কোড দিয়ে আর্গুমেন্ট যাচাই করুন। মডেল একটি প্রয়োজনীয় ফিল্ড বাদ দিতে পারে, বা ভুল ধরনের মান পাঠাতে পারে। যাচাই ব্যর্থ হলে ত্রুটিটি ফেরত পাঠান এবং আবার জিজ্ঞাসা করুন।
সাধারণ ভুল
- আর্গুমেন্ট একটি স্ট্রিং:
function.argumentsএকটি JSON স্ট্রিং। এটি পার্স করুন এবং ত্রুটি ধরুন। ছোট মডেল কখনো কখনো বৈধ নয় এমন JSON পাঠায়। - ID মেলান: প্রতিটি টুল মেসেজের জন্য তার কলের
tool_call_idলাগে। টুল মেসেজের আগেtool_calls-সহ assistant মেসেজ যোগ করুন। - একসাথে কয়েকটি কল: একটি মডেল একটি উত্তরে একাধিক টুল কল ফেরত দিতে পারে। সবগুলো চালান, তারপর সব ফলাফল পাঠান।
- টোকেনের খরচ: প্রতিটি অনুরোধে প্রতিটি টুলের সংজ্ঞা পাঠানো হয়। বিশটি বড় টুল হাজার হাজার টোকেন ব্যবহার করতে পারে এবং দ্রুত একটি কম tokens-per-minute সীমায় পৌঁছাতে পারে। শুধু টাস্কের প্রয়োজনীয় টুল পাঠান।
- স্পষ্ট বর্ণনা: মডেল নাম ও বর্ণনা থেকে টুল বাছে। একটি ছোট বাক্য লিখুন যা বলে টুলটি কী করে এবং কখন ব্যবহার করতে হয়।
- লুপ থামান: রাউন্ডের একটি সর্বোচ্চ সংখ্যা সেট করুন। একটি দুর্বল মডেল একই টুল বারবার কল করতে পারে।
- টুলহীন মডেল: কিছু ফ্রি প্রোভাইডার টুল সমর্থন করে না। উদাহরণস্বরূপ, AI Horde টুলগুলো বাদ দেয় এবং সাধারণ চ্যাট হিসেবে উত্তর দেয়।
সমস্যা সমাধান
| সমস্যা | কারণ | সমাধান |
|---|---|---|
| মডেল টেক্সটে উত্তর দেয়, কোনো টুল কল করে না | মডেল টুলে দুর্বল, অথবা বর্ণনা স্পষ্ট নয় | টেবিল থেকে একটি শক্তিশালী মডেল পিন করুন, অথবা টুলের বর্ণনা উন্নত করুন |
আর্গুমেন্টে json.JSONDecodeError | মডেল অবৈধ JSON পাঠিয়েছে | ত্রুটি ধরুন এবং টুলের ফলাফল হিসেবে আবার পাঠান, যাতে মডেল আবার চেষ্টা করতে পারে |
| একটি টুল মেসেজ নিয়ে Error 400 | tool_call_id মেলে না, অথবা assistant মেসেজ নেই | প্রথমে assistant মেসেজ যোগ করুন, তারপর প্রতিটি কলের জন্য একটি করে টুল মেসেজ যোগ করুন |
| এজেন্ট টাস্কের সময় Error 429 | লুপ অনেক বড় অনুরোধ পাঠায় | আরও প্রোভাইডার কী যোগ করুন, এবং কম টুল পাঠান |
| লুপ থামে না | মডেল একই টুল আবার কল করে | একটি রাউন্ড সীমা সেট করুন, এবং স্পষ্ট ফলাফল ফেরত দিন |
সাধারণ প্রশ্ন
কোন ফ্রি LLM API ফাংশন কলিং সমর্থন করে?
Gemini, Groq, Cerebras, Mistral, OpenRouter, Cloudflare ও অন্য প্রোভাইডারদের টুল কলিংসহ ফ্রি মডেল আছে। FreeLLMAPI ক্যাটালগে আজ টুলসহ 190টি ফ্রি মডেল অফার আছে।
টুল কলিং কি ফাংশন কলিং-এর সমান?
হ্যাঁ। OpenAI প্রথমে ফাংশন কলিং নামটি ব্যবহার করে। বর্তমান API tools ও tool_calls ব্যবহার করে। দুটি নামেরই অর্থ, মডেল আপনার কোডকে একটি ফাংশন চালাতে বলে।
OpenAI ফরম্যাটে কি Gemini-এর টুল কলিং কাজ করে?
হ্যাঁ, FreeLLMAPI-এর মাধ্যমে। গেটওয়ে OpenAI tools-কে Gemini functionDeclarations-এ রূপান্তর করে এবং উত্তরটি আবার OpenAI tool_calls-এ রূপান্তর করে।
কি টুল কল স্ট্রিম করা যায়?
হ্যাঁ। stream=True দিয়ে আপনি delta.tool_calls চাঙ্ক পান এবং চূড়ান্ত finish_reason হিসেবে tool_calls পান। পার্স করার আগে আর্গুমেন্ট চাঙ্কগুলো যুক্ত করুন।
সম্পর্কিত গাইড
- AI এজেন্টের জন্য বিনামূল্যের LLM API
- AI এজেন্টের জন্য বিনামূল্যের web search API
- সেরা বিনামূল্যের কোডিং মডেল API
- LangChain-এর জন্য বিনামূল্যের LLM API
- Python-এ বিনামূল্যের LLM API
উৎস
- FreeLLMAPI docs: Tool calling (যাচাই: 20 November 2026)
- FreeLLMAPI README: features (যাচাই: 20 November 2026)
- OpenAI API reference: Chat Completions tools (যাচাই: 20 November 2026)