হোম / গাইড / ফাংশন কলিংসহ ফ্রি LLM API

ফাংশন কলিংসহ ফ্রি LLM API

ফাংশন কলিং, বা টুল কলিং, একটি LLM-কে আপনার কোডে একটি ফাংশন চালাতে বলতে দেয়। এজেন্ট, লাইভ ডেটাসহ চ্যাটবট এবং স্ট্রাকচার্ড নিষ্কাশন সবই এটি ব্যবহার করে। FreeLLMAPI ক্যাটালগে টুল কলিংসহ 190টি ফ্রি মডেল অফার আছে। আপনি OpenAI-শৈলীর tools পাঠান, এবং গেটওয়ে প্রতিটি প্রোভাইডারের জন্য সেগুলো রূপান্তর করে।

কোড, মডেলের নাম এবং লাইভ ক্যাটালগের লেবেল ইংরেজিতে দেখানো হয়।

FreeLLMAPI-এর মাধ্যমে টুল কলিং কীভাবে কাজ করে

  1. আপনি মেসেজ এবং tools-এর একটি তালিকা পাঠান। প্রতিটি টুলের একটি নাম, একটি বর্ণনা এবং তার প্যারামিটারের জন্য একটি JSON Schema আছে।
  2. মডেল tool_calls এবং finish_reason: "tool_calls" সহ উত্তর দেয়। সে নিজে কিছু চালায় না।
  3. আপনার কোড ফাংশনটি চালায় এবং ফলাফল role: "tool" সহ একটি মেসেজ হিসেবে যোগ করে।
  4. আপনি কথোপকথন আবার পাঠান। মডেল ফলাফল ব্যবহার করে চূড়ান্ত উত্তর লেখে।

Groq, Cerebras, Mistral, OpenRouter ও Cloudflare-এর মতো OpenAI-সামঞ্জস্যপূর্ণ প্রোভাইডার অনুরোধটি যেমন আছে তেমন পায়। Gemini-এর জন্য FreeLLMAPI টুলগুলোকে Google-এর functionDeclarations ফরম্যাটে রূপান্তর করে এবং উত্তরটি ফিরিয়ে আনে। প্রতিটি প্রোভাইডারের জন্য আপনার কোড একই থাকে।

কিছু মডেল টুল কলকে সাধারণ টেক্সট হিসেবে লেখে, প্রকৃত টুল কল হিসেবে নয়। FreeLLMAPI এগুলো শনাক্ত করে এবং প্রকৃত tool_calls-এ বদলে দেয়।

আজ টুল কলিংসহ ফ্রি মডেল

টেবিলে টুল কলিংসহ সবচেয়ে শক্তিশালী ফ্রি মডেল দেখানো হয়েছে। ডেটা আসে লাইভ ক্যাটালগ থেকে। এজেন্টের জন্য কনটেক্সটের আকারও দেখুন, কারণ টুলের সংজ্ঞা ও ফলাফল অনেক টোকেন ব্যবহার করে।

টুল কলিংসহ ফ্রি মডেল, সবচেয়ে শক্তিশালী আগে
মডেলবিনামূল্যেকনটেক্সটবিনামূল্যের সীমা (সেরা অফার)টুলভিশন
GLM 5.3UnoRouter1M1 অনুরোধ/মিনিট
1 req/min per model
হ্যাঁনা
Qwen3.8 MaxACLIDE-€20/month shared internal usage credits · no cardহ্যাঁনা
GLM 5.3 FlashNVIDIA NIM, UnoRouter1M40 অনুরোধ/মিনিট
40 RPM
হ্যাঁহ্যাঁ
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaহ্যাঁহ্যাঁ
Gemini Flash (latest alias)Google AI Studio-10 অনুরোধ/মিনিট
20 অনুরোধ/দিন
250,000 টোকেন/মিনিট
~3M
হ্যাঁহ্যাঁ
Qwen3.8 Flash NextAMD Radeon Cloud262KRecurring daily account allowanceহ্যাঁনা
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditহ্যাঁহ্যাঁ
Gemini 3.7 FlashGoogle AI Studio1M10 অনুরোধ/মিনিট
20 অনুরোধ/দিন
250,000 টোকেন/মিনিট
~3M
হ্যাঁহ্যাঁ
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditহ্যাঁহ্যাঁ
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 অনুরোধ/মিনিট
50 অনুরোধ/দিন
50 req/day account-wide (1,000 after a $10 purchase)
হ্যাঁহ্যাঁ
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 অনুরোধ/মিনিট
50 অনুরোধ/দিন
Shared rate limit
হ্যাঁনা
Qwen3.8 27BElectronHub, Groq, OVH AI Endpoints262K30 অনুরোধ/মিনিট
250 অনুরোধ/দিন
70,000 টোকেন/মিনিট
~6M
হ্যাঁহ্যাঁ
Gemini 3.6 FlashGoogle AI Studio1M10 অনুরোধ/মিনিট
20 অনুরোধ/দিন
250,000 টোকেন/মিনিট
~3M
হ্যাঁহ্যাঁ
Qwen 3.8 27BCloudflare Workers AI262KShared 10k neurons/dayহ্যাঁহ্যাঁ
Gemini 3.5 FlashGoogle AI Studio1M10 অনুরোধ/মিনিট
20 অনুরোধ/দিন
250,000 টোকেন/মিনিট
~3M
হ্যাঁহ্যাঁ

মিলে যাওয়া 146টি বিনামূল্যের মডেলের মধ্যে 15টি দেখানো হচ্ছে। সব মডেল দেখুন.

FreeLLMAPI ক্যাটালগের লাইভ ডেটা (সংস্করণ 2026.11.19, যাচাই: 2026-11-19)। বিনামূল্যের সীমা প্রায়ই বদলায়। ক্যাটালগ প্রতিদিন যাচাই করা হয়।

ধাপ 1: FreeLLMAPI ইনস্টল করুন এবং কী যোগ করুন

FreeLLMAPI ওপেন সোর্স। এটি Docker-এ আপনার কম্পিউটারে চলে। আপনার প্রোভাইডার কী আপনার কম্পিউটারেই থাকে।

ইনস্টল করুন (macOS বা Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

http://localhost:3001-এ ড্যাশবোর্ড খুলুন। Keys পেজে তিন বা তার বেশি প্রোভাইডার থেকে কী যোগ করুন। একটি টুল লুপ একটি টাস্কের জন্য কয়েকটি অনুরোধ পাঠায়, তাই বেশি কী বেশি জায়গা দেয়। একই পেজ থেকে আপনার ইউনিফায়েড কী কপি করুন।

ধাপ 2: একটি সম্পূর্ণ টুল লুপ চালান

curl: প্রথম অনুরোধ

curl http://localhost:3001/v1/chat/completions \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "auto",
    "messages": [{"role": "user", "content": "What is the weather in Karachi?"}],
    "tools": [{
      "type": "function",
      "function": {
        "name": "get_weather",
        "description": "Get the current weather for a city.",
        "parameters": {
          "type": "object",
          "properties": {"city": {"type": "string"}},
          "required": ["city"]
        }
      }
    }]
  }'

Python: মডেল চূড়ান্ত উত্তর না দেওয়া পর্যন্ত লুপ চালান

import json
from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")

def get_weather(city: str) -> dict:
    return {"city": city, "temp_c": 32, "condition": "sunny"}  # call a real API here

FUNCS = {"get_weather": get_weather}
tools = [{
    "type": "function",
    "function": {
        "name": "get_weather",
        "description": "Get the current weather for a city.",
        "parameters": {
            "type": "object",
            "properties": {"city": {"type": "string"}},
            "required": ["city"],
        },
    },
}]
messages = [{"role": "user", "content": "What is the weather in Karachi and Lahore?"}]

for _ in range(5):  # stop after 5 rounds
    msg = client.chat.completions.create(model="auto", messages=messages, tools=tools).choices[0].message
    if not msg.tool_calls:
        print(msg.content)
        break
    messages.append(msg)
    for call in msg.tool_calls:
        try:
            args = json.loads(call.function.arguments or "{}")
            result = FUNCS[call.function.name](**args)
        except Exception as exc:  # bad JSON, unknown tool or wrong arguments
            result = {"error": str(exc)}
        messages.append({"role": "tool", "tool_call_id": call.id, "content": json.dumps(result)})

stream=True-এ টুল কলিংও কাজ করে। আপনি delta.tool_calls চাঙ্ক পান, তারপর finish_reason: "tool_calls" সহ একটি চূড়ান্ত চাঙ্ক পান। JSON পার্স করার আগে আর্গুমেন্ট চাঙ্কগুলো যুক্ত করুন।

স্ট্রাকচার্ড ডেটা পেতে একটি টুল ব্যবহার করুন

একটি নির্দিষ্ট আকারের ডেটা পেতেও টুল কলিং একটি ভালো উপায়। একটি টুল সংজ্ঞায়িত করুন যার প্যারামিটার হলো আপনার চাওয়া ফিল্ডগুলো। tool_choice সেট করুন "required"-এ, যাতে মডেলকে অবশ্যই একটি টুল কল করতে হয়। তারপর আর্গুমেন্টগুলো পড়ুন। কোনো ফাংশন চালানোর দরকার নেই।

Python: প্রয়োজনীয় টুল কল দিয়ে ফিল্ড নিষ্কাশন করুন

import json
from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")
schema = {
    "type": "function",
    "function": {
        "name": "save_contact",
        "description": "Save one contact found in the text.",
        "parameters": {
            "type": "object",
            "properties": {"name": {"type": "string"}, "email": {"type": "string"}},
            "required": ["name", "email"],
        },
    },
}
resp = client.chat.completions.create(
    model="auto",
    messages=[{"role": "user", "content": "Reach Sara Khan at [email protected]."}],
    tools=[schema],
    tool_choice="required",
)
print(json.loads(resp.choices[0].message.tool_calls[0].function.arguments))

আপনার নিজের কোড দিয়ে আর্গুমেন্ট যাচাই করুন। মডেল একটি প্রয়োজনীয় ফিল্ড বাদ দিতে পারে, বা ভুল ধরনের মান পাঠাতে পারে। যাচাই ব্যর্থ হলে ত্রুটিটি ফেরত পাঠান এবং আবার জিজ্ঞাসা করুন।

নিরাপত্তা: পেমেন্ট, ইমেইল বা ফাইল মুছে ফেলার মতো সাইড ইফেক্টসহ টুল কল যাচাই ছাড়া চালাবেন না। এই কাজগুলোর আগে ব্যবহারকারীর কাছে নিশ্চিতকরণ চান।

সাধারণ ভুল

  • আর্গুমেন্ট একটি স্ট্রিং: function.arguments একটি JSON স্ট্রিং। এটি পার্স করুন এবং ত্রুটি ধরুন। ছোট মডেল কখনো কখনো বৈধ নয় এমন JSON পাঠায়।
  • ID মেলান: প্রতিটি টুল মেসেজের জন্য তার কলের tool_call_id লাগে। টুল মেসেজের আগে tool_calls-সহ assistant মেসেজ যোগ করুন।
  • একসাথে কয়েকটি কল: একটি মডেল একটি উত্তরে একাধিক টুল কল ফেরত দিতে পারে। সবগুলো চালান, তারপর সব ফলাফল পাঠান।
  • টোকেনের খরচ: প্রতিটি অনুরোধে প্রতিটি টুলের সংজ্ঞা পাঠানো হয়। বিশটি বড় টুল হাজার হাজার টোকেন ব্যবহার করতে পারে এবং দ্রুত একটি কম tokens-per-minute সীমায় পৌঁছাতে পারে। শুধু টাস্কের প্রয়োজনীয় টুল পাঠান।
  • স্পষ্ট বর্ণনা: মডেল নাম ও বর্ণনা থেকে টুল বাছে। একটি ছোট বাক্য লিখুন যা বলে টুলটি কী করে এবং কখন ব্যবহার করতে হয়।
  • লুপ থামান: রাউন্ডের একটি সর্বোচ্চ সংখ্যা সেট করুন। একটি দুর্বল মডেল একই টুল বারবার কল করতে পারে।
  • টুলহীন মডেল: কিছু ফ্রি প্রোভাইডার টুল সমর্থন করে না। উদাহরণস্বরূপ, AI Horde টুলগুলো বাদ দেয় এবং সাধারণ চ্যাট হিসেবে উত্তর দেয়।
টাস্কের সময় একই মডেল: FreeLLMAPI একটি কথোপকথনকে 30 মিনিট একই মডেলে রাখে। একটি টুল লুপ সাধারণত একই মডেলে থাকে। কোনো সীমা বদল বাধ্য করলে, পরবর্তী মডেল টুল ফলাফলসহ পুরো মেসেজ ইতিহাস পায়।

সমস্যা সমাধান

সমস্যাকারণসমাধান
মডেল টেক্সটে উত্তর দেয়, কোনো টুল কল করে নামডেল টুলে দুর্বল, অথবা বর্ণনা স্পষ্ট নয়টেবিল থেকে একটি শক্তিশালী মডেল পিন করুন, অথবা টুলের বর্ণনা উন্নত করুন
আর্গুমেন্টে json.JSONDecodeErrorমডেল অবৈধ JSON পাঠিয়েছেত্রুটি ধরুন এবং টুলের ফলাফল হিসেবে আবার পাঠান, যাতে মডেল আবার চেষ্টা করতে পারে
একটি টুল মেসেজ নিয়ে Error 400tool_call_id মেলে না, অথবা assistant মেসেজ নেইপ্রথমে assistant মেসেজ যোগ করুন, তারপর প্রতিটি কলের জন্য একটি করে টুল মেসেজ যোগ করুন
এজেন্ট টাস্কের সময় Error 429লুপ অনেক বড় অনুরোধ পাঠায়আরও প্রোভাইডার কী যোগ করুন, এবং কম টুল পাঠান
লুপ থামে নামডেল একই টুল আবার কল করেএকটি রাউন্ড সীমা সেট করুন, এবং স্পষ্ট ফলাফল ফেরত দিন
একটি কী দিয়ে এর প্রতিটি ব্যবহার করুন। FreeLLMAPI একটি ওপেন-সোর্স, নিজের সার্ভারে চালানো রাউটার। এটি এই সব বিনামূল্যের টিয়ার একটি মাত্র OpenAI-সামঞ্জস্যপূর্ণ এন্ডপয়েন্টের পেছনে রাখে এবং কোনো একটির সীমা শেষ হলে অন্যটিতে সরে যায়। ক্যাটালগ ব্রাউজ করুন অথবা শুরু করুন.

সাধারণ প্রশ্ন

কোন ফ্রি LLM API ফাংশন কলিং সমর্থন করে?

Gemini, Groq, Cerebras, Mistral, OpenRouter, Cloudflare ও অন্য প্রোভাইডারদের টুল কলিংসহ ফ্রি মডেল আছে। FreeLLMAPI ক্যাটালগে আজ টুলসহ 190টি ফ্রি মডেল অফার আছে।

টুল কলিং কি ফাংশন কলিং-এর সমান?

হ্যাঁ। OpenAI প্রথমে ফাংশন কলিং নামটি ব্যবহার করে। বর্তমান API tools ও tool_calls ব্যবহার করে। দুটি নামেরই অর্থ, মডেল আপনার কোডকে একটি ফাংশন চালাতে বলে।

OpenAI ফরম্যাটে কি Gemini-এর টুল কলিং কাজ করে?

হ্যাঁ, FreeLLMAPI-এর মাধ্যমে। গেটওয়ে OpenAI tools-কে Gemini functionDeclarations-এ রূপান্তর করে এবং উত্তরটি আবার OpenAI tool_calls-এ রূপান্তর করে।

কি টুল কল স্ট্রিম করা যায়?

হ্যাঁ। stream=True দিয়ে আপনি delta.tool_calls চাঙ্ক পান এবং চূড়ান্ত finish_reason হিসেবে tool_calls পান। পার্স করার আগে আর্গুমেন্ট চাঙ্কগুলো যুক্ত করুন।

সম্পর্কিত গাইড

উৎস

সব গাইড · সব বিনামূল্যের মডেল দেখুন