SillyTavern-এর জন্য ফ্রি API
SillyTavern একটি চ্যাট ও রোলপ্লে ইন্টারফেস, যা আপনি আপনার কম্পিউটারে চালান। এর জন্য একটি মডেল API দরকার। এই গাইডে দেখানো হয়েছে কীভাবে Chat Completion সোর্স Custom (OpenAI-compatible) ব্যবহার করে SillyTavern-কে FreeLLMAPI-এর সঙ্গে যুক্ত করতে হয়। FreeLLMAPI একটি কী দিয়ে 45টি ফ্রি প্রোভাইডার টিয়ার একসঙ্গে রাখে এবং কোনো সীমা অনুরোধ আটকে দিলে পরের প্রোভাইডারে চলে যায়।
কোড, মডেলের নাম এবং লাইভ ক্যাটালগের লেবেল ইংরেজিতে দেখানো হয়।
শুরু করার আগে
একই কম্পিউটারে আপনার দুটি প্রোগ্রাম লাগবে: SillyTavern এবং FreeLLMAPI। FreeLLMAPI Docker-এ বা একটি ডেস্কটপ অ্যাপ হিসেবে চলে। একটি কমান্ড দিয়ে এটি ইনস্টল করুন:
FreeLLMAPI ইনস্টল করুন (macOS বা Linux)
curl -fsSL https://freellmapi.co/install.sh | bashhttp://localhost:3001-এ ড্যাশবোর্ড খুলুন।- Keys পেজে দুই বা তার বেশি প্রোভাইডারের ফ্রি কী যোগ করুন। Google AI Studio, Groq এবং Mistral প্রতিটি একটি ফ্রি কী দেয়।
- Keys পেজ থেকে unified key কপি করুন। SillyTavern শুধু এই কী ব্যবহার করে।
ডেস্কটপ অ্যাপ http://127.0.0.1:31415-এ শোনে। আপনি ডেস্কটপ অ্যাপ ব্যবহার করলে এই পেজে http://localhost:3001-এর পরিবর্তে সেই ঠিকানা ব্যবহার করুন।
ধাপ ১: SillyTavern-কে সংযুক্ত করুন
SillyTavern খুলুন এবং উপরের বারে API Connections আইকনে (প্লাগ) ক্লিক করুন। তারপর এই ফিল্ডগুলো সেট করুন:
| ফিল্ড | মান |
|---|---|
| API | Chat Completion |
| Chat Completion Source | Custom (OpenAI-compatible) |
| Custom Endpoint (Base URL) | http://localhost:3001/v1 |
| Custom API Key | আপনার unified key, <unified-key> |
| Enter a Model ID | auto, অথবা নিচের টেবিলের একটি model ID |
Connect-এ ক্লিক করুন। SillyTavern /v1/models পড়ে এবং Available Models তালিকা ভরে দেয়। URL-এ /chat/completions যোগ করবেন না। SillyTavern পাথটি নিজে যোগ করে।
auto লিখুন।একটি ছোট প্রম্পট পাঠাতে Test Message-এ ক্লিক করুন। উত্তর পেলে সংযোগ কাজ করছে।
ধাপ ২: দীর্ঘ চ্যাটের জন্য মডেল বেছে নিন
একটি রোলপ্লে চ্যাট প্রতিটি বার্তার সঙ্গে ক্যারেক্টার কার্ড, ওয়ার্ল্ড তথ্য এবং চ্যাটের ইতিহাস পাঠায়। একটি দীর্ঘ চ্যাট প্রতিবার কয়েক হাজার টোকেন পাঠাতে পারে। বড় কনটেক্সট উইন্ডোর মডেল বেছে নিন।
Enter a Model ID-তে এই model ID গুলো ব্যবহার করতে পারেন:
auto: ড্যাশবোর্ডের fallback চেইন অনুসরণ করে।auto:smart: সক্রিয় মডেলগুলোকে বুদ্ধিমত্তা অনুযায়ী র্যাংক করে। গল্পের মান ভালো রাখতে এটি ব্যবহার করুন।auto:fast: সক্রিয় মডেলগুলোকে মাপা গতি অনুযায়ী র্যাংক করে। দ্রুত উত্তরের জন্য এটি ব্যবহার করুন।- একটি নির্দিষ্ট model ID: প্রতিবার একই লেখার শৈলী দেয়, কিন্তু ওই মডেলের ফ্রি সীমা শেষ হলে থেমে যায়।
| মডেল | বিনামূল্যে | কনটেক্সট | বিনামূল্যের সীমা (সেরা অফার) | টুল | ভিশন |
|---|---|---|---|---|---|
| GLM 5.3 | APINex, UnoRouter | 1M | 5 অনুরোধ/মিনিট 10M weighted tokens/day shared across APINex free routes; 4x token multiplier; 5 requests/minute/account | হ্যাঁ | না |
| GLM 5.3 Flash | APINex, BlazeAPI, NVIDIA NIM +আরও 1 | 1M | 40 অনুরোধ/মিনিট 40 RPM | হ্যাঁ | হ্যাঁ |
| Gemini 3.8 Flash | APINex, Google AI Studio | 1M | 5 অনুরোধ/মিনিট 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | হ্যাঁ | হ্যাঁ |
| Qwen3.8 Flash Next | AMD Radeon Cloud, BlazeAPI, ElectronHub | 262K | Recurring daily account allowance | হ্যাঁ | না |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | হ্যাঁ | হ্যাঁ |
| Deepseek V4.1 Flash | APINex | 1M | 5 অনুরোধ/মিনিট 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | না | না |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 অনুরোধ/মিনিট 20 অনুরোধ/দিন 250,000 টোকেন/মিনিট ~3M | হ্যাঁ | হ্যাঁ |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | হ্যাঁ | হ্যাঁ |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 অনুরোধ/মিনিট 50 অনুরোধ/দিন 50 req/day account-wide (1,000 after a $10 purchase) | হ্যাঁ | হ্যাঁ |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 অনুরোধ/মিনিট 50 অনুরোধ/দিন Shared rate limit | হ্যাঁ | না |
| DeepSeek V4 Flash 0731 | ElectronHub, Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | না | না |
| Qwen3.8 27B | BlazeAPI, ElectronHub, Gizmo +আরও 3 | 262K | 30 অনুরোধ/মিনিট 250 অনুরোধ/দিন 70,000 টোকেন/মিনিট ~6M | হ্যাঁ | হ্যাঁ |
মিলে যাওয়া 184টি বিনামূল্যের মডেলের মধ্যে 12টি দেখানো হচ্ছে। সব মডেল দেখুন.
FreeLLMAPI ক্যাটালগের লাইভ ডেটা (সংস্করণ 2026.11.19, যাচাই: 2026-11-19)। বিনামূল্যের সীমা প্রায়ই বদলায়। ক্যাটালগ প্রতিদিন যাচাই করা হয়।
FreeLLMAPI একটি কথোপকথন ৩০ মিনিট একই মডেলে রাখে। এতে বার্তাগুলোর মধ্যে ক্যারেক্টারের কণ্ঠ একই থাকে। সীমার কারণে মডেল বদলাতে হলে পরের মডেল একই চ্যাটের ইতিহাস থেকে চালিয়ে যায়।
ধাপ ৩: জেনারেশন সেটিংস সেট করুন
AI Response Configuration প্যানেল খুলুন (স্লাইডার আইকন)। তিনটি সেটিং ফ্রি টিয়ারে সবচেয়ে বেশি প্রভাব ফেলে:
| সেটিং | প্রস্তাবিত মান | কেন |
|---|---|---|
| Context Size (tokens) | 16,000 থেকে 32,000 | ছোট কনটেক্সট প্রতি বার্তায় কম টোকেন পাঠায়। ফ্রি টিয়ার প্রায়ই প্রতি মিনিটে টোকেন সীমা রাখে। |
| Max Response Length (tokens) | 400 থেকে 800 | দীর্ঘ উত্তর আউটপুট কোটা দ্রুত শেষ করে। কিছু reasoning মডেল এই বাজেটের একটি অংশ লুকানো চিন্তার জন্যও ব্যবহার করে। |
| Streaming | চালু | লেখা আসার সঙ্গে সঙ্গে আপনি তা দেখতে পান। FreeLLMAPI যতগুলো প্রোভাইডারে পৌঁছাতে পারে, সব জায়গায় স্ট্রিম করে। |
Custom সোর্সের জন্য SillyTavern-এ একটি Prompt Post-Processing অপশনও আছে। কিছু প্রোভাইডার পরপর দুটি system বার্তা প্রত্যাখ্যান করে। role সম্পর্কিত ত্রুটি এলে Semi-strict বা Strict অপশন বেছে নিন। এই অপশনগুলো একই role-এর বার্তা একত্র করে। "no tools" চিহ্নিত অপশনগুলো টুল কলও সরিয়ে দেয়। "with tools" চিহ্নিত অপশনগুলো সেগুলো রাখে।
দীর্ঘ রোলপ্লেতে রেট লিমিট
প্রতিটি ফ্রি টিয়ারের নিজস্ব সীমা আছে। উদাহরণস্বরূপ, একটি ফ্রি Gemini Flash কী দিনে কম অনুরোধ দেয়, আর একটি Groq কী বেশি অনুরোধ দেয় কিন্তু কম টোকেন সীমায়। রোলপ্লের এক সন্ধ্যায় কয়েকশো অনুরোধ যেতে পারে। একটি ফ্রি কী এত দিন টেকে না।
- আরও প্রোভাইডার যোগ করুন। প্রতিটি কী দৈনিক অনুরোধ যোগ করে। FreeLLMAPI প্রতিটি কীর কোটা গণনা করে এবং একটি শেষ হলে পরের কী বা প্রোভাইডারে চলে যায়।
- কনটেক্সট কমান। SillyTavern-এর Summarize এক্সটেনশন দিয়ে পুরোনো বার্তার সারাংশ তৈরি করুন। ছোট প্রম্পট প্রতি মিনিটে কম টোকেন ব্যবহার করে।
- লুপে swipe এড়িয়ে চলুন। প্রতিটি swipe বা regenerate একটি নতুন অনুরোধ।
- রিসেট লক্ষ করুন। সব কী সীমায় পৌঁছালে গেটওয়ে
Retry-Afterহেডারসহ error 429 ফেরত দেয়। অনেক দৈনিক সীমা UTC মধ্যরাতে রিসেট হয়।
এই টেবিলে আজকের ক্যাটালগে প্রতিটি প্রোভাইডারের ফ্রি সীমা দেখানো হয়েছে।
| প্রোভাইডার | বিনামূল্যের মডেল | সর্বোচ্চ অনুরোধ/মিনিট | সর্বোচ্চ অনুরোধ/দিন | সর্বোচ্চ টোকেন/মিনিট | টোকেন/মাস (একটি মডেল) | সবচেয়ে শক্তিশালী বিনামূল্যের মডেল |
|---|---|---|---|---|---|---|
| ElectronHub | 84 | - | - | - | $0.25/week shared recurring credit | Qwen3.8 Flash (ElectronHub)qwen3.8-flash |
| Cloudflare Workers AI | 39 | - | - | - | ~5-10M | Qwen 3.8 27B (Cloudflare Workers AI)@cf/qwen/qwen3.8-27b |
| Inferbase | 38 | - | - | - | 5,000 requests/month; 100 requests and $0.50 usage/day shared | DeepSeek V4 Flash (fp8) (Inferbase)deepseek-v4-flash:fp8 |
| AI Horde | 31 | - | - | - | Ongoing volunteer queue; availability varies | Gemma 4 31B Heretic (AI Horde)koboldcpp/gemma-4-31B-it-heretic |
| ACLIDE | 29 | - | - | - | €20/month shared internal usage credits · no card | Qwen3.8 Max (ACLIDE)qwen/qwen3.8-max:free |
| Google AI Studio | 21 | 15 | 1,000 | 250,000 | ~3M | Gemini 3.8 Flashgemini-3.8-flash |
| Api.Airforce | 20 | 1 | 1,000 | - | free · 1,000 req/day · 1 req/min | gpt-oss-20b (Api.Airforce)gpt-oss-20b |
| NVIDIA NIM | 19 | 40 | - | - | free · 40 RPM | GLM 5.3 Flash (NV)z-ai/glm-5.3-flash |
| Cohere | 17 | 20 | 33 | - | ~1-2M | Command A+ (05-2026)command-a-plus-05-2026 |
| DreamPrompting | 14 | 100 | 5,000 | - | free · 500K tokens/day · 5,000 req/day | Gemini 3.1 Flash-Litegoogle/gemini-3.1-flash-lite |
| Mistral | 12 | 2 | - | 500,000 | ~50-100M | Mistral Codemistral-code-latest |
| ModelScope | 11 | - | 200 | - | Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experience | GLM-5.2 (ModelScope)ZhipuAI/GLM-5.2 |
FreeLLMAPI ক্যাটালগের লাইভ ডেটা (সংস্করণ 2026.11.19, যাচাই: 2026-11-19)। বিনামূল্যের সীমা প্রায়ই বদলায়। ক্যাটালগ প্রতিদিন যাচাই করা হয়।
সমস্যা সমাধান
| সমস্যা | কারণ | সমাধান |
|---|---|---|
| Connect ব্যর্থ হয় বা স্ট্যাটাস লাল থাকে | ভুল URL অথবা FreeLLMAPI চলছে না | ব্রাউজারে http://localhost:3001 খুলুন। নিশ্চিত করুন যে URL /v1 দিয়ে শেষ হয়। |
| Error 401 | কী ভুল | Custom API Key-এ unified key আবার পেস্ট করুন |
| নির্বাচিত একটি মডেল সব সময় ব্যর্থ হয় | ওই মডেলের প্রোভাইডারের জন্য কোনো কী নেই | প্রোভাইডার কী যোগ করুন, অথবা auto লিখুন |
| দীর্ঘ সেশনের পর Error 429 | সব কী সীমায় পৌঁছেছে | আরও প্রোভাইডারের কী যোগ করুন, অথবা রিসেটের জন্য অপেক্ষা করুন |
| বার্তার ক্রম বা role নিয়ে ত্রুটি | প্রোভাইডারের role-এর কঠোর নিয়ম আছে | Prompt Post-Processing সেট করুন Semi-strict বা Strict-এ |
| উত্তর মাঝপথে থেমে যায় | একটি reasoning মডেলের জন্য Max Response Length খুব ছোট | মান বাড়ান, অথবা reasoning ছাড়া একটি মডেল বেছে নিন |
| চ্যাটের সময় ক্যারেক্টারের কণ্ঠ বদলে যায় | একটি সীমা মডেল বদলাতে বাধ্য করেছে | একটি মডেল পিন করুন যেটি একাধিক প্রোভাইডারে ফ্রি |
সাধারণ প্রশ্ন
SillyTavern-এর জন্য কি ফ্রি API আছে?
হ্যাঁ। Custom (OpenAI-compatible) সোর্সের মাধ্যমে SillyTavern যেকোনো OpenAI-compatible API গ্রহণ করে। FreeLLMAPI অনেক ফ্রি প্রোভাইডার টিয়ারের জন্য একটি এন্ডপয়েন্ট দেয়। প্রতিটি টিয়ারের নিজস্ব সীমা আছে।
SillyTavern Custom (OpenAI-compatible)-এর base URL কী?
FreeLLMAPI সার্ভার ইনস্টলের জন্য http://localhost:3001/v1, অথবা ডেস্কটপ অ্যাপের জন্য http://127.0.0.1:31415/v1 ব্যবহার করুন। /chat/completions যোগ করবেন না।
SillyTavern রোলপ্লের জন্য কোন ফ্রি মডেল সবচেয়ে ভালো?
128K টোকেন বা তার বেশি কনটেক্সট উইন্ডোর মডেল ব্যবহার করুন। মানের জন্য auto:smart, অথবা গতির জন্য auto:fast দিয়ে শুরু করুন। এই পেজের টেবিলে আজকের সেরা ফ্রি মডেলগুলো দেখানো হয়েছে।
SillyTavern-এ কেন error 429 আসে?
একটি ফ্রি টিয়ার তার সীমায় পৌঁছেছে। FreeLLMAPI পরের কী বা প্রোভাইডারে চলে যায়। প্রতিটি কী সীমায় পৌঁছালে আপনি 429 পান। আরও প্রোভাইডার কী যোগ করুন, অথবা কনটেক্সট সাইজ কমান।
ফ্রি API-তে কি SillyTavern স্ট্রিমিং কাজ করে?
হ্যাঁ। AI Response Configuration প্যানেলে Streaming চালু করুন। FreeLLMAPI প্রতিটি প্রোভাইডার থেকে উত্তর OpenAI ফরম্যাটে স্ট্রিম করে।
সম্পর্কিত গাইড
- Open WebUI-র জন্য বিনামূল্যের LLM API
- 1 মিলিয়ন টোকেন কনটেক্সটসহ বিনামূল্যের LLM API
- বিনামূল্যের LLM API রেট লিমিট
- ফ্রি OpenAI-সামঞ্জস্যপূর্ণ API বেস URL
- ক্রেডিট কার্ড ছাড়া বিনামূল্যের LLM API
উৎস
- SillyTavern docs: Chat Completion sources, Custom (OpenAI-compatible) (যাচাই: 20 November 2026)
- SillyTavern source: API connection panel labels (public/index.html) (যাচাই: 20 November 2026)
- FreeLLMAPI docs: REST API (routing strategies, model listing, streaming) (যাচাই: 20 November 2026)
- FreeLLMAPI README: features and limitations (যাচাই: 20 November 2026)