ہوم / گائیڈز / فنکشن کالنگ کے ساتھ مفت LLM API

فنکشن کالنگ کے ساتھ مفت LLM API

فنکشن کالنگ، یا ٹول کالنگ، LLM کو آپ کے کوڈ سے ایک فنکشن چلانے کا کہنے دیتی ہے۔ ایجنٹس، لائیو ڈیٹا والے چیٹ bots اور ساختی extraction سب اسے استعمال کرتے ہیں۔ FreeLLMAPI کیٹلاگ میں ٹول کالنگ والی 190 مفت ماڈل پیشکشیں ہیں۔ آپ OpenAI طرز کے tools بھیجتے ہیں، اور gateway ہر فراہم کنندہ کے لیے انہیں ترجمہ کرتا ہے۔

کوڈ، ماڈل کے نام اور براہِ راست کیٹلاگ کے لیبل انگریزی میں دکھائے جاتے ہیں۔

FreeLLMAPI کے ذریعے ٹول کالنگ کیسے کام کرتی ہے

  1. آپ پیغامات اور tools کی فہرست بھیجتے ہیں۔ ہر ٹول کا ایک نام، ایک تفصیل اور اس کے پیرامیٹرز کے لیے ایک JSON Schema ہوتا ہے۔
  2. ماڈل tool_calls اور finish_reason: "tool_calls" کے ساتھ جواب دیتا ہے۔ وہ خود کچھ نہیں چلاتا۔
  3. آپ کا کوڈ فنکشن چلاتا ہے اور نتیجہ role: "tool" کے ساتھ ایک پیغام کے طور پر شامل کرتا ہے۔
  4. آپ گفتگو دوبارہ بھیجتے ہیں۔ ماڈل نتیجہ استعمال کر کے حتمی جواب لکھتا ہے۔

OpenAI سے مطابقت رکھنے والے فراہم کنندگان، جیسے Groq، Cerebras، Mistral، OpenRouter اور Cloudflare، درخواست جیسی ہے ویسی ہی وصول کرتے ہیں۔ Gemini کے لیے FreeLLMAPI ٹولز کو Google’s functionDeclarations فارمیٹ میں ترجمہ کرتا ہے اور جواب واپس ترجمہ کرتا ہے۔ آپ کا کوڈ ہر فراہم کنندہ کے لیے ایک جیسا ہے۔

کچھ ماڈلز ٹول کال کو اصل tool call کے بجائے سادہ متن میں لکھتے ہیں۔ FreeLLMAPI انہیں پہچانتا ہے اور اصل tool_calls میں بدل دیتا ہے۔

آج ٹول کالنگ والے مفت ماڈلز

جدول ٹول کالنگ والے مضبوط ترین مفت ماڈلز دکھاتا ہے۔ ڈیٹا لائیو کیٹلاگ سے آتا ہے۔ ایجنٹس کے لیے context کا سائز بھی دیکھیں، کیونکہ ٹول کی تعریفیں اور نتائج بہت سے tokens استعمال کرتے ہیں۔

ٹول کالنگ والے مفت ماڈلز، مضبوط ترین پہلے
ماڈلمفت دستیابسیاق و سباقمفت حدیں (بہترین پیشکش)ٹولزویژن
GLM 5.3UnoRouter1M1 درخواستیں فی منٹ
1 req/min per model
ہاںنہیں
Qwen3.8 MaxACLIDE-€20/month shared internal usage credits · no cardہاںنہیں
GLM 5.3 FlashNVIDIA NIM, UnoRouter1M40 درخواستیں فی منٹ
40 RPM
ہاںہاں
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaہاںہاں
Gemini Flash (latest alias)Google AI Studio-10 درخواستیں فی منٹ
20 درخواستیں فی دن
250,000 ٹوکن فی منٹ
~3M
ہاںہاں
Qwen3.8 Flash NextAMD Radeon Cloud262KRecurring daily account allowanceہاںنہیں
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditہاںہاں
Gemini 3.7 FlashGoogle AI Studio1M10 درخواستیں فی منٹ
20 درخواستیں فی دن
250,000 ٹوکن فی منٹ
~3M
ہاںہاں
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditہاںہاں
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 درخواستیں فی منٹ
50 درخواستیں فی دن
50 req/day account-wide (1,000 after a $10 purchase)
ہاںہاں
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 درخواستیں فی منٹ
50 درخواستیں فی دن
Shared rate limit
ہاںنہیں
Qwen3.8 27BElectronHub, Groq, OVH AI Endpoints262K30 درخواستیں فی منٹ
250 درخواستیں فی دن
70,000 ٹوکن فی منٹ
~6M
ہاںہاں
Gemini 3.6 FlashGoogle AI Studio1M10 درخواستیں فی منٹ
20 درخواستیں فی دن
250,000 ٹوکن فی منٹ
~3M
ہاںہاں
Qwen 3.8 27BCloudflare Workers AI262KShared 10k neurons/dayہاںہاں
Gemini 3.5 FlashGoogle AI Studio1M10 درخواستیں فی منٹ
20 درخواستیں فی دن
250,000 ٹوکن فی منٹ
~3M
ہاںہاں

146 میں سے 15 مماثل مفت ماڈلز دکھائے جا رہے ہیں۔ تمام ماڈلز دیکھیں.

FreeLLMAPI کیٹلاگ کا براہِ راست ڈیٹا (ورژن 2026.11.19، 2026-11-19 کو جانچا گیا)۔ مفت حدیں اکثر بدلتی ہیں۔ کیٹلاگ ہر روز جانچا جاتا ہے۔

مرحلہ 1: FreeLLMAPI انسٹال کریں اور کلیدیں شامل کریں

FreeLLMAPI اوپن سورس ہے۔ یہ Docker میں آپ کے کمپیوٹر پر چلتا ہے۔ آپ کی فراہم کنندہ کلیدیں آپ کے کمپیوٹر پر رہتی ہیں۔

انسٹال کریں (macOS یا Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

ڈیش بورڈ http://localhost:3001 پر کھولیں۔ Keys صفحے پر تین یا زیادہ فراہم کنندگان کی کلیدیں شامل کریں۔ ایک ٹول لوپ ایک کام کے لیے کئی درخواستیں بھیجتا ہے، اس لیے زیادہ کلیدیں زیادہ گنجائش دیتی ہیں۔ اسی صفحے سے اپنی متحدہ کلید کاپی کریں۔

مرحلہ 2: مکمل ٹول لوپ چلائیں

curl: پہلی درخواست

curl http://localhost:3001/v1/chat/completions \
  -H "Authorization: Bearer <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "auto",
    "messages": [{"role": "user", "content": "What is the weather in Karachi?"}],
    "tools": [{
      "type": "function",
      "function": {
        "name": "get_weather",
        "description": "Get the current weather for a city.",
        "parameters": {
          "type": "object",
          "properties": {"city": {"type": "string"}},
          "required": ["city"]
        }
      }
    }]
  }'

Python: ماڈل حتمی جواب دینے تک لوپ کریں

import json
from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")

def get_weather(city: str) -> dict:
    return {"city": city, "temp_c": 32, "condition": "sunny"}  # call a real API here

FUNCS = {"get_weather": get_weather}
tools = [{
    "type": "function",
    "function": {
        "name": "get_weather",
        "description": "Get the current weather for a city.",
        "parameters": {
            "type": "object",
            "properties": {"city": {"type": "string"}},
            "required": ["city"],
        },
    },
}]
messages = [{"role": "user", "content": "What is the weather in Karachi and Lahore?"}]

for _ in range(5):  # stop after 5 rounds
    msg = client.chat.completions.create(model="auto", messages=messages, tools=tools).choices[0].message
    if not msg.tool_calls:
        print(msg.content)
        break
    messages.append(msg)
    for call in msg.tool_calls:
        try:
            args = json.loads(call.function.arguments or "{}")
            result = FUNCS[call.function.name](**args)
        except Exception as exc:  # bad JSON, unknown tool or wrong arguments
            result = {"error": str(exc)}
        messages.append({"role": "tool", "tool_call_id": call.id, "content": json.dumps(result)})

ٹول کالنگ stream=True کے ساتھ بھی کام کرتی ہے۔ آپ کو delta.tool_calls chunks ملتے ہیں، پھر finish_reason: "tool_calls" والا آخری chunk۔ JSON پارس کرنے سے پہلے argument chunks کو جوڑ لیں۔

ساختی ڈیٹا کے لیے ٹول استعمال کریں

ٹول کالنگ مقررہ شکل میں ڈیٹا حاصل کرنے کا ایک اچھا طریقہ بھی ہے۔ ایک ٹول بنائیں جس کے پیرامیٹرز وہ فیلڈز ہوں جو آپ چاہتے ہیں۔ tool_choice کو "required" پر سیٹ کریں، تاکہ ماڈل کو ایک ٹول کال کرنا ہی پڑے۔ پھر arguments پڑھیں۔ آپ کو کوئی فنکشن چلانے کی ضرورت نہیں۔

Python: لازمی ٹول کال کے ساتھ فیلڈز نکالیں

import json
from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>")
schema = {
    "type": "function",
    "function": {
        "name": "save_contact",
        "description": "Save one contact found in the text.",
        "parameters": {
            "type": "object",
            "properties": {"name": {"type": "string"}, "email": {"type": "string"}},
            "required": ["name", "email"],
        },
    },
}
resp = client.chat.completions.create(
    model="auto",
    messages=[{"role": "user", "content": "Reach Sara Khan at [email protected]."}],
    tools=[schema],
    tool_choice="required",
)
print(json.loads(resp.choices[0].message.tool_calls[0].function.arguments))

arguments کو اپنے کوڈ سے جانچیں۔ ماڈل کوئی لازمی فیلڈ چھوڑ سکتا ہے یا غلط قسم بھیج سکتا ہے۔ اگر جانچ ناکام ہو، تو خرابی واپس بھیجیں اور دوبارہ پوچھیں۔

حفاظت: ادائیگیوں، ای میلز یا فائل حذف کرنے جیسی side effects والی ٹول کالز بغیر جانچ کے نہ چلائیں۔ پہلے صارف سے ان کارروائیوں کی تصدیق کروائیں۔

خطرے کے مقامات

  • arguments ایک string ہیں: function.arguments ایک JSON string ہے۔ اسے پارس کریں، اور خرابیاں پکڑیں۔ چھوٹے ماڈلز کبھی ایسا JSON بھیجتے ہیں جو درست نہیں ہوتا۔
  • IDs ملائیں: ہر tool پیغام کو اپنی کال کا tool_call_id چاہیے۔ tool پیغامات سے پہلے tool_calls والا assistant پیغام شامل کریں۔
  • ایک ساتھ کئی کالز: ایک جواب میں ماڈل ایک سے زیادہ ٹول کالز واپس کر سکتا ہے۔ سب چلائیں، پھر سب نتائج بھیجیں۔
  • Token کی لاگت: ہر ٹول کی تعریف ہر درخواست کے ساتھ بھیجی جاتی ہے۔ بیس بڑے ٹولز ہزاروں tokens استعمال کر سکتے ہیں اور کم tokens-per-minute حد تک جلد پہنچ سکتے ہیں۔ صرف وہی ٹولز بھیجیں جن کی کام کو ضرورت ہے۔
  • واضح تفصیلات: ماڈل ٹول کو اس کے نام اور تفصیل سے چنتا ہے۔ ایک مختصر جملہ لکھیں جو بتائے کہ ٹول کیا کرتا ہے اور کب استعمال کرنا ہے۔
  • لوپ روکیں: راؤنڈز کی زیادہ سے زیادہ تعداد مقرر کریں۔ کمزور ماڈل ایک ہی ٹول بار بار کال کر سکتا ہے۔
  • ٹولز کے بغیر ماڈلز: کچھ مفت فراہم کنندگان ٹولز سپورٹ نہیں کرتے۔ مثال کے طور پر AI Horde ٹولز ہٹا دیتا ہے اور سادہ چیٹ کے طور پر جواب دیتا ہے۔
کام کے دوران ایک ہی ماڈل: FreeLLMAPI ایک گفتگو کو 30 منٹ تک ایک ماڈل پر رکھتا ہے۔ ٹول لوپ عموماً ایک ہی ماڈل پر رہتا ہے۔ اگر کوئی حد تبدیلی پر مجبور کرے، تو اگلے ماڈل کو ٹول نتائج سمیت پورا پیغامات کا سلسلہ ملتا ہے۔

خرابیوں کا حل

مسئلہوجہحل
ماڈل متن میں جواب دیتا ہے اور کوئی ٹول کال نہیں کرتاماڈل ٹولز میں کمزور ہے، یا تفصیل واضح نہیںجدول سے مضبوط ماڈل مقرر کریں، یا ٹول کی تفصیل بہتر کریں
arguments پر json.JSONDecodeErrorماڈل نے غلط JSON بھیجاخرابی پکڑیں اور اسے ٹول کے نتیجے کے طور پر واپس بھیجیں، تاکہ ماڈل دوبارہ کوشش کر سکے
ٹول پیغام کے بارے میں Error 400tool_call_id میل نہیں کھاتا، یا assistant پیغام غائب ہےپہلے assistant پیغام شامل کریں، پھر ہر کال کے لیے ایک tool پیغام
ایجنٹ کام کے دوران Error 429لوپ بہت سی بڑی درخواستیں بھیجتا ہےمزید فراہم کنندگان کی کلیدیں شامل کریں، اور کم ٹولز بھیجیں
لوپ نہیں رکتاماڈل ایک ہی ٹول دوبارہ کال کرتا ہےراؤنڈ کی حد مقرر کریں، اور واضح نتائج واپس کریں
ان سب کو ایک ہی کلید سے استعمال کریں۔ FreeLLMAPI ایک اوپن سورس، خود میزبانی والا راؤٹر ہے۔ یہ ان تمام مفت ٹائرز کو ایک ہی OpenAI سے ہم آہنگ اینڈ پوائنٹ کے پیچھے رکھتا ہے، اور جب کوئی ایک ریٹ لمٹ ہو جائے تو خودکار طور پر دوسرے پر منتقل ہو جاتا ہے۔ کیٹلاگ دیکھیں یا لائیو جائیں.

اکثر پوچھے گئے سوالات

کون سی مفت LLM APIs فنکشن کالنگ سپورٹ کرتی ہیں؟

Gemini، Groq، Cerebras، Mistral، OpenRouter، Cloudflare اور دیگر فراہم کنندگان کے پاس ٹول کالنگ والے مفت ماڈلز ہیں۔ FreeLLMAPI کیٹلاگ میں آج ٹولز والی 190 مفت ماڈل پیشکشیں ہیں۔

کیا ٹول کالنگ اور فنکشن کالنگ ایک ہی ہیں؟

ہاں۔ OpenAI نے پہلے فنکشن کالنگ کا نام استعمال کیا۔ موجودہ API tools اور tool_calls استعمال کرتا ہے۔ دونوں ناموں کا مطلب ہے کہ ماڈل آپ کے کوڈ سے ایک فنکشن چلانے کو کہتا ہے۔

کیا Gemini ٹول کالنگ OpenAI فارمیٹ کے ساتھ کام کرتی ہے؟

ہاں، FreeLLMAPI کے ذریعے۔ gateway OpenAI tools کو Gemini functionDeclarations میں ترجمہ کرتا ہے اور جواب کو واپس OpenAI tool_calls میں ترجمہ کرتا ہے۔

کیا میں ٹول کالز کو stream کر سکتا ہوں؟

ہاں۔ stream=True کے ساتھ آپ کو delta.tool_calls chunks اور آخر میں finish_reason کی قدر tool_calls ملتی ہے۔ پارس کرنے سے پہلے argument chunks کو جوڑ لیں۔

متعلقہ گائیڈز

ماخذ

تمام گائیڈز · تمام مفت ماڈلز دیکھیں