হোম / গাইড / SillyTavern-এর জন্য ফ্রি API

SillyTavern-এর জন্য ফ্রি API

SillyTavern একটি চ্যাট ও রোলপ্লে ইন্টারফেস, যা আপনি আপনার কম্পিউটারে চালান। এর জন্য একটি মডেল API দরকার। এই গাইডে দেখানো হয়েছে কীভাবে Chat Completion সোর্স Custom (OpenAI-compatible) ব্যবহার করে SillyTavern-কে FreeLLMAPI-এর সঙ্গে যুক্ত করতে হয়। FreeLLMAPI একটি কী দিয়ে 45টি ফ্রি প্রোভাইডার টিয়ার একসঙ্গে রাখে এবং কোনো সীমা অনুরোধ আটকে দিলে পরের প্রোভাইডারে চলে যায়।

কোড, মডেলের নাম এবং লাইভ ক্যাটালগের লেবেল ইংরেজিতে দেখানো হয়।

শুরু করার আগে

একই কম্পিউটারে আপনার দুটি প্রোগ্রাম লাগবে: SillyTavern এবং FreeLLMAPI। FreeLLMAPI Docker-এ বা একটি ডেস্কটপ অ্যাপ হিসেবে চলে। একটি কমান্ড দিয়ে এটি ইনস্টল করুন:

FreeLLMAPI ইনস্টল করুন (macOS বা Linux)

curl -fsSL https://freellmapi.co/install.sh | bash
  1. http://localhost:3001-এ ড্যাশবোর্ড খুলুন।
  2. Keys পেজে দুই বা তার বেশি প্রোভাইডারের ফ্রি কী যোগ করুন। Google AI Studio, Groq এবং Mistral প্রতিটি একটি ফ্রি কী দেয়।
  3. Keys পেজ থেকে unified key কপি করুন। SillyTavern শুধু এই কী ব্যবহার করে।

ডেস্কটপ অ্যাপ http://127.0.0.1:31415-এ শোনে। আপনি ডেস্কটপ অ্যাপ ব্যবহার করলে এই পেজে http://localhost:3001-এর পরিবর্তে সেই ঠিকানা ব্যবহার করুন।

ধাপ ১: SillyTavern-কে সংযুক্ত করুন

SillyTavern খুলুন এবং উপরের বারে API Connections আইকনে (প্লাগ) ক্লিক করুন। তারপর এই ফিল্ডগুলো সেট করুন:

ফিল্ডমান
APIChat Completion
Chat Completion SourceCustom (OpenAI-compatible)
Custom Endpoint (Base URL)http://localhost:3001/v1
Custom API Keyআপনার unified key, <unified-key>
Enter a Model IDauto, অথবা নিচের টেবিলের একটি model ID

Connect-এ ক্লিক করুন। SillyTavern /v1/models পড়ে এবং Available Models তালিকা ভরে দেয়। URL-এ /chat/completions যোগ করবেন না। SillyTavern পাথটি নিজে যোগ করে।

নোট: Available Models তালিকায় পুরো FreeLLMAPI ক্যাটালগ দেখানো হয়। এতে এমন মডেলও থাকে যেগুলো আপনি এখনো কল করতে পারবেন না, কারণ আপনি তাদের প্রোভাইডারের জন্য কী যোগ করেননি। এখন যে মডেল কাজ করে, রাউটারকে সেটি বেছে নিতে দিতে Enter a Model ID-তে auto লিখুন।

একটি ছোট প্রম্পট পাঠাতে Test Message-এ ক্লিক করুন। উত্তর পেলে সংযোগ কাজ করছে।

ধাপ ২: দীর্ঘ চ্যাটের জন্য মডেল বেছে নিন

একটি রোলপ্লে চ্যাট প্রতিটি বার্তার সঙ্গে ক্যারেক্টার কার্ড, ওয়ার্ল্ড তথ্য এবং চ্যাটের ইতিহাস পাঠায়। একটি দীর্ঘ চ্যাট প্রতিবার কয়েক হাজার টোকেন পাঠাতে পারে। বড় কনটেক্সট উইন্ডোর মডেল বেছে নিন।

Enter a Model ID-তে এই model ID গুলো ব্যবহার করতে পারেন:

  • auto: ড্যাশবোর্ডের fallback চেইন অনুসরণ করে।
  • auto:smart: সক্রিয় মডেলগুলোকে বুদ্ধিমত্তা অনুযায়ী র‍্যাংক করে। গল্পের মান ভালো রাখতে এটি ব্যবহার করুন।
  • auto:fast: সক্রিয় মডেলগুলোকে মাপা গতি অনুযায়ী র‍্যাংক করে। দ্রুত উত্তরের জন্য এটি ব্যবহার করুন।
  • একটি নির্দিষ্ট model ID: প্রতিবার একই লেখার শৈলী দেয়, কিন্তু ওই মডেলের ফ্রি সীমা শেষ হলে থেমে যায়।
দীর্ঘ চ্যাটের জন্য 128K+ কনটেক্সটসহ ফ্রি মডেল
মডেলবিনামূল্যেকনটেক্সটবিনামূল্যের সীমা (সেরা অফার)টুলভিশন
GLM 5.3APINex, UnoRouter1M5 অনুরোধ/মিনিট
10M weighted tokens/day shared across APINex free routes; 4x token multiplier; 5 requests/minute/account
হ্যাঁনা
GLM 5.3 FlashAPINex, BlazeAPI, NVIDIA NIM +আরও 11M40 অনুরোধ/মিনিট
40 RPM
হ্যাঁহ্যাঁ
Gemini 3.8 FlashAPINex, Google AI Studio1M5 অনুরোধ/মিনিট
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
হ্যাঁহ্যাঁ
Qwen3.8 Flash NextAMD Radeon Cloud, BlazeAPI, ElectronHub262KRecurring daily account allowanceহ্যাঁনা
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditহ্যাঁহ্যাঁ
Deepseek V4.1 FlashAPINex1M5 অনুরোধ/মিনিট
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
নানা
Gemini 3.7 FlashGoogle AI Studio1M10 অনুরোধ/মিনিট
20 অনুরোধ/দিন
250,000 টোকেন/মিনিট
~3M
হ্যাঁহ্যাঁ
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditহ্যাঁহ্যাঁ
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 অনুরোধ/মিনিট
50 অনুরোধ/দিন
50 req/day account-wide (1,000 after a $10 purchase)
হ্যাঁহ্যাঁ
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 অনুরোধ/মিনিট
50 অনুরোধ/দিন
Shared rate limit
হ্যাঁনা
DeepSeek V4 Flash 0731ElectronHub, Router91M10,000 credits/month (~$1), shared; account-anniversary resetনানা
Qwen3.8 27BBlazeAPI, ElectronHub, Gizmo +আরও 3262K30 অনুরোধ/মিনিট
250 অনুরোধ/দিন
70,000 টোকেন/মিনিট
~6M
হ্যাঁহ্যাঁ

মিলে যাওয়া 184টি বিনামূল্যের মডেলের মধ্যে 12টি দেখানো হচ্ছে। সব মডেল দেখুন.

FreeLLMAPI ক্যাটালগের লাইভ ডেটা (সংস্করণ 2026.11.19, যাচাই: 2026-11-19)। বিনামূল্যের সীমা প্রায়ই বদলায়। ক্যাটালগ প্রতিদিন যাচাই করা হয়।

FreeLLMAPI একটি কথোপকথন ৩০ মিনিট একই মডেলে রাখে। এতে বার্তাগুলোর মধ্যে ক্যারেক্টারের কণ্ঠ একই থাকে। সীমার কারণে মডেল বদলাতে হলে পরের মডেল একই চ্যাটের ইতিহাস থেকে চালিয়ে যায়।

ধাপ ৩: জেনারেশন সেটিংস সেট করুন

AI Response Configuration প্যানেল খুলুন (স্লাইডার আইকন)। তিনটি সেটিং ফ্রি টিয়ারে সবচেয়ে বেশি প্রভাব ফেলে:

সেটিংপ্রস্তাবিত মানকেন
Context Size (tokens)16,000 থেকে 32,000ছোট কনটেক্সট প্রতি বার্তায় কম টোকেন পাঠায়। ফ্রি টিয়ার প্রায়ই প্রতি মিনিটে টোকেন সীমা রাখে।
Max Response Length (tokens)400 থেকে 800দীর্ঘ উত্তর আউটপুট কোটা দ্রুত শেষ করে। কিছু reasoning মডেল এই বাজেটের একটি অংশ লুকানো চিন্তার জন্যও ব্যবহার করে।
Streamingচালুলেখা আসার সঙ্গে সঙ্গে আপনি তা দেখতে পান। FreeLLMAPI যতগুলো প্রোভাইডারে পৌঁছাতে পারে, সব জায়গায় স্ট্রিম করে।

Custom সোর্সের জন্য SillyTavern-এ একটি Prompt Post-Processing অপশনও আছে। কিছু প্রোভাইডার পরপর দুটি system বার্তা প্রত্যাখ্যান করে। role সম্পর্কিত ত্রুটি এলে Semi-strict বা Strict অপশন বেছে নিন। এই অপশনগুলো একই role-এর বার্তা একত্র করে। "no tools" চিহ্নিত অপশনগুলো টুল কলও সরিয়ে দেয়। "with tools" চিহ্নিত অপশনগুলো সেগুলো রাখে।

দীর্ঘ রোলপ্লেতে রেট লিমিট

প্রতিটি ফ্রি টিয়ারের নিজস্ব সীমা আছে। উদাহরণস্বরূপ, একটি ফ্রি Gemini Flash কী দিনে কম অনুরোধ দেয়, আর একটি Groq কী বেশি অনুরোধ দেয় কিন্তু কম টোকেন সীমায়। রোলপ্লের এক সন্ধ্যায় কয়েকশো অনুরোধ যেতে পারে। একটি ফ্রি কী এত দিন টেকে না।

  • আরও প্রোভাইডার যোগ করুন। প্রতিটি কী দৈনিক অনুরোধ যোগ করে। FreeLLMAPI প্রতিটি কীর কোটা গণনা করে এবং একটি শেষ হলে পরের কী বা প্রোভাইডারে চলে যায়।
  • কনটেক্সট কমান। SillyTavern-এর Summarize এক্সটেনশন দিয়ে পুরোনো বার্তার সারাংশ তৈরি করুন। ছোট প্রম্পট প্রতি মিনিটে কম টোকেন ব্যবহার করে।
  • লুপে swipe এড়িয়ে চলুন। প্রতিটি swipe বা regenerate একটি নতুন অনুরোধ।
  • রিসেট লক্ষ করুন। সব কী সীমায় পৌঁছালে গেটওয়ে Retry-After হেডারসহ error 429 ফেরত দেয়। অনেক দৈনিক সীমা UTC মধ্যরাতে রিসেট হয়।

এই টেবিলে আজকের ক্যাটালগে প্রতিটি প্রোভাইডারের ফ্রি সীমা দেখানো হয়েছে।

প্রোভাইডারবিনামূল্যের মডেলসর্বোচ্চ অনুরোধ/মিনিটসর্বোচ্চ অনুরোধ/দিনসর্বোচ্চ টোকেন/মিনিটটোকেন/মাস (একটি মডেল)সবচেয়ে শক্তিশালী বিনামূল্যের মডেল
ElectronHub84---$0.25/week shared recurring creditQwen3.8 Flash (ElectronHub)
qwen3.8-flash
Cloudflare Workers AI39---~5-10MQwen 3.8 27B (Cloudflare Workers AI)
@cf/qwen/qwen3.8-27b
Inferbase38---5,000 requests/month; 100 requests and $0.50 usage/day sharedDeepSeek V4 Flash (fp8) (Inferbase)
deepseek-v4-flash:fp8
AI Horde31---Ongoing volunteer queue; availability variesGemma 4 31B Heretic (AI Horde)
koboldcpp/gemma-4-31B-it-heretic
ACLIDE29---€20/month shared internal usage credits · no cardQwen3.8 Max (ACLIDE)
qwen/qwen3.8-max:free
Google AI Studio21151,000250,000~3MGemini 3.8 Flash
gemini-3.8-flash
Api.Airforce2011,000-free · 1,000 req/day · 1 req/mingpt-oss-20b (Api.Airforce)
gpt-oss-20b
NVIDIA NIM1940--free · 40 RPMGLM 5.3 Flash (NV)
z-ai/glm-5.3-flash
Cohere172033-~1-2MCommand A+ (05-2026)
command-a-plus-05-2026
DreamPrompting141005,000-free · 500K tokens/day · 5,000 req/dayGemini 3.1 Flash-Lite
google/gemini-3.1-flash-lite
Mistral122-500,000~50-100MMistral Code
mistral-code-latest
ModelScope11-200-Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experienceGLM-5.2 (ModelScope)
ZhipuAI/GLM-5.2

FreeLLMAPI ক্যাটালগের লাইভ ডেটা (সংস্করণ 2026.11.19, যাচাই: 2026-11-19)। বিনামূল্যের সীমা প্রায়ই বদলায়। ক্যাটালগ প্রতিদিন যাচাই করা হয়।

কনটেন্ট নীতি: প্রতিটি প্রোভাইডার ফ্রি অনুরোধের ওপর নিজস্ব ব্যবহার নীতি প্রয়োগ করে। কোনো প্রোভাইডার কিছু কনটেন্ট প্রত্যাখ্যান করতে পারে। FreeLLMAPI প্রোভাইডার কী অনুমতি দেয় তা বদলায় না।

সমস্যা সমাধান

সমস্যাকারণসমাধান
Connect ব্যর্থ হয় বা স্ট্যাটাস লাল থাকেভুল URL অথবা FreeLLMAPI চলছে নাব্রাউজারে http://localhost:3001 খুলুন। নিশ্চিত করুন যে URL /v1 দিয়ে শেষ হয়।
Error 401কী ভুলCustom API Key-এ unified key আবার পেস্ট করুন
নির্বাচিত একটি মডেল সব সময় ব্যর্থ হয়ওই মডেলের প্রোভাইডারের জন্য কোনো কী নেইপ্রোভাইডার কী যোগ করুন, অথবা auto লিখুন
দীর্ঘ সেশনের পর Error 429সব কী সীমায় পৌঁছেছেআরও প্রোভাইডারের কী যোগ করুন, অথবা রিসেটের জন্য অপেক্ষা করুন
বার্তার ক্রম বা role নিয়ে ত্রুটিপ্রোভাইডারের role-এর কঠোর নিয়ম আছেPrompt Post-Processing সেট করুন Semi-strict বা Strict-এ
উত্তর মাঝপথে থেমে যায়একটি reasoning মডেলের জন্য Max Response Length খুব ছোটমান বাড়ান, অথবা reasoning ছাড়া একটি মডেল বেছে নিন
চ্যাটের সময় ক্যারেক্টারের কণ্ঠ বদলে যায়একটি সীমা মডেল বদলাতে বাধ্য করেছেএকটি মডেল পিন করুন যেটি একাধিক প্রোভাইডারে ফ্রি
একটি কী দিয়ে এর প্রতিটি ব্যবহার করুন। FreeLLMAPI একটি ওপেন-সোর্স, নিজের সার্ভারে চালানো রাউটার। এটি এই সব বিনামূল্যের টিয়ার একটি মাত্র OpenAI-সামঞ্জস্যপূর্ণ এন্ডপয়েন্টের পেছনে রাখে এবং কোনো একটির সীমা শেষ হলে অন্যটিতে সরে যায়। ক্যাটালগ ব্রাউজ করুন অথবা শুরু করুন.

সাধারণ প্রশ্ন

SillyTavern-এর জন্য কি ফ্রি API আছে?

হ্যাঁ। Custom (OpenAI-compatible) সোর্সের মাধ্যমে SillyTavern যেকোনো OpenAI-compatible API গ্রহণ করে। FreeLLMAPI অনেক ফ্রি প্রোভাইডার টিয়ারের জন্য একটি এন্ডপয়েন্ট দেয়। প্রতিটি টিয়ারের নিজস্ব সীমা আছে।

SillyTavern Custom (OpenAI-compatible)-এর base URL কী?

FreeLLMAPI সার্ভার ইনস্টলের জন্য http://localhost:3001/v1, অথবা ডেস্কটপ অ্যাপের জন্য http://127.0.0.1:31415/v1 ব্যবহার করুন। /chat/completions যোগ করবেন না।

SillyTavern রোলপ্লের জন্য কোন ফ্রি মডেল সবচেয়ে ভালো?

128K টোকেন বা তার বেশি কনটেক্সট উইন্ডোর মডেল ব্যবহার করুন। মানের জন্য auto:smart, অথবা গতির জন্য auto:fast দিয়ে শুরু করুন। এই পেজের টেবিলে আজকের সেরা ফ্রি মডেলগুলো দেখানো হয়েছে।

SillyTavern-এ কেন error 429 আসে?

একটি ফ্রি টিয়ার তার সীমায় পৌঁছেছে। FreeLLMAPI পরের কী বা প্রোভাইডারে চলে যায়। প্রতিটি কী সীমায় পৌঁছালে আপনি 429 পান। আরও প্রোভাইডার কী যোগ করুন, অথবা কনটেক্সট সাইজ কমান।

ফ্রি API-তে কি SillyTavern স্ট্রিমিং কাজ করে?

হ্যাঁ। AI Response Configuration প্যানেলে Streaming চালু করুন। FreeLLMAPI প্রতিটি প্রোভাইডার থেকে উত্তর OpenAI ফরম্যাটে স্ট্রিম করে।

সম্পর্কিত গাইড

উৎস

সব গাইড · সব বিনামূল্যের মডেল দেখুন