1 মিলিয়ন টোকেন কনটেক্সটসহ বিনামূল্যের LLM API
একটি দীর্ঘ কনটেক্সট উইন্ডো একটি মডেলকে এক অনুরোধে একটি পূর্ণ বই, বড় কোড বেস বা ঘণ্টার পর ঘণ্টার ট্রান্সক্রিপ্ট পড়তে দেয়। FreeLLMAPI ক্যাটালগে 1 মিলিয়ন টোকেন বা তার বেশি কনটেক্সট উইন্ডোসহ 56টি বিনামূল্যের মডেল অফার আছে। এই গাইডে সেই মডেলগুলো এবং বিনামূল্যের টিয়ারের সীমা দেখানো হয়েছে, যেগুলো ঠিক করে আপনি আসলে কতটা পাঠাতে পারেন।
কোড, মডেলের নাম এবং লাইভ ক্যাটালগের লেবেল ইংরেজিতে দেখানো হয়।
আজ 1M+ টোকেন কনটেক্সটসহ বিনামূল্যের মডেল
টেবিলে কমপক্ষে 1,000,000 টোকেনের কনটেক্সট উইন্ডোসহ বিনামূল্যের মডেল তালিকাভুক্ত, সবচেয়ে বড়টি আগে। ডেটা আসে লাইভ ক্যাটালগ থেকে। কনটেক্সটের আকারের পাশাপাশি “বিনামূল্যের সীমা” কলামটিও দেখুন।
| মডেল | বিনামূল্যে | কনটেক্সট | বিনামূল্যের সীমা (সেরা অফার) | টুল | ভিশন |
|---|---|---|---|---|---|
| OpenAI: GPT-6 Luna | ElectronHub | 1.1M | $0.25/week shared free credits | না | না |
| Gemini 3.8 Flash | APINex, Google AI Studio | 1M | 5 অনুরোধ/মিনিট 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | হ্যাঁ | হ্যাঁ |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 অনুরোধ/মিনিট 20 অনুরোধ/দিন 250,000 টোকেন/মিনিট ~3M | হ্যাঁ | হ্যাঁ |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 অনুরোধ/মিনিট 50 অনুরোধ/দিন Shared rate limit | হ্যাঁ | না |
| DeepSeek V4 Flash 0731 | Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | না | না |
| Gemini 3.6 Flash | Google AI Studio | 1M | 10 অনুরোধ/মিনিট 20 অনুরোধ/দিন 250,000 টোকেন/মিনিট ~3M | হ্যাঁ | হ্যাঁ |
| GLM 5.2 | Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | না | না |
| Gemini 3.5 Flash | Google AI Studio | 1M | 10 অনুরোধ/মিনিট 20 অনুরোধ/দিন 250,000 টোকেন/মিনিট ~3M | হ্যাঁ | হ্যাঁ |
| DeepSeek V4 Pro | APINex, Router9 | 1M | 5 অনুরোধ/মিনিট 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | না | না |
| Nemotron 3 Ultra 550B | Gizmo, Kilo Gateway, LLMTR +আরও 3 | 1M | 200 অনুরোধ/দিন 200 rpd | হ্যাঁ | না |
| Gemini 3.5 Flash Lite | ElectronHub, Google AI Studio | 1M | 15 অনুরোধ/মিনিট 20 অনুরোধ/দিন 250,000 টোকেন/মিনিট ~3M | হ্যাঁ | হ্যাঁ |
| Gemini 3 Flash Preview | Google AI Studio | 1M | 10 অনুরোধ/মিনিট 20 অনুরোধ/দিন 250,000 টোকেন/মিনিট ~3M | হ্যাঁ | হ্যাঁ |
| Gemini 3.1 Flash-Lite | DreamPrompting, Google AI Studio | 1M | 100 অনুরোধ/মিনিট 5,000 অনুরোধ/দিন 500,000 টোকেন/দিন 500K tokens/day · 5,000 req/day | হ্যাঁ | হ্যাঁ |
| Gemini 2.5 Flash | DreamPrompting, ElectronHub, Google AI Studio | 1M | 100 অনুরোধ/মিনিট 5,000 অনুরোধ/দিন 500,000 টোকেন/দিন 500K tokens/day · 5,000 req/day | হ্যাঁ | হ্যাঁ |
| Nemotron 3.5 Lightning | ElectronHub, Gizmo, Kilo Gateway +আরও 2 | 1M | 20 অনুরোধ/মিনিট 50 অনুরোধ/দিন 50 req/day account-wide (1,000 after a $10 purchase) | হ্যাঁ | না |
মিলে যাওয়া 33টি বিনামূল্যের মডেলের মধ্যে 15টি দেখানো হচ্ছে। সব মডেল দেখুন.
FreeLLMAPI ক্যাটালগের লাইভ ডেটা (সংস্করণ 2026.11.19, যাচাই: 2026-11-19)। বিনামূল্যের সীমা প্রায়ই বদলায়। ক্যাটালগ প্রতিদিন যাচাই করা হয়।
Google AI Studio-র Gemini Flash মডেলগুলো সবচেয়ে পরিচিত 1M-টোকেন বিনামূল্যের মডেল। এগুলো ছবি ও টুল কলও গ্রহণ করে। অন্য সারিগুলো বিনামূল্যের রাউটার ও NVIDIA থেকে আসে।
আসল সীমা: প্রতি মিনিটে টোকেন
কনটেক্সট উইন্ডো হলো সবচেয়ে বড় প্রম্পট, যা মডেল পড়তে পারে। বিনামূল্যের টিয়ারে প্রতি মিনিটের টোকেন (TPM) সীমাও আছে। অনেক বিনামূল্যের টিয়ারে TPM সীমা কনটেক্সট উইন্ডোর চেয়ে ছোট।
- উদাহরণ: টেবিলের একটি বিনামূল্যের Gemini Flash কী প্রতি মিনিটে 250,000 টোকেন অনুমোদন করে। 800,000 টোকেনের একটি প্রম্পট কনটেক্সট উইন্ডোর ভেতরে, কিন্তু TPM সীমার ওপরে। প্রোভাইডার 429 ত্রুটি পাঠায়।
- প্রতি দিনের অনুরোধ: কিছু বিনামূল্যের Gemini মডেল প্রতি দিন মাত্র প্রায় 20টি অনুরোধ দেয়। যেসব কাজের দরকার, শুধু সেখানে লম্বা প্রম্পট ব্যবহার করুন।
- আউটপুট আলাদা: উত্তরের নিজস্ব সর্বোচ্চ দৈর্ঘ্য আছে। 1M-টোকেন কনটেক্সট মানে 1M-টোকেন উত্তর নয়।
তাই বাস্তবে একটি বিনামূল্যের 1M-কনটেক্সট মডেল এক অনুরোধে কয়েক লাখ টোকেন পড়তে পারে। পাঠানোর আগে আপনার প্রম্পট মাপুন।
ধাপ 1: FreeLLMAPI ইনস্টল করুন ও কী যোগ করুন
FreeLLMAPI ওপেন সোর্স। এটি Docker-এ আপনার কম্পিউটারে চলে। আপনার প্রোভাইডার কী আপনার কম্পিউটারেই থাকে।
ইনস্টল করুন (macOS বা Linux)
curl -fsSL https://freellmapi.co/install.sh | bashhttp://localhost:3001-এ ড্যাশবোর্ড খুলুন। Keys পৃষ্ঠায় একটি Google AI Studio কী যোগ করুন। টেবিলের অন্য প্রোভাইডারের কীও যোগ করুন, যাতে Google 429 ত্রুটি পাঠালে রাউটারের কাছে আরেকটি দীর্ঘ-কনটেক্সট মডেল থাকে। একই পৃষ্ঠা থেকে আপনার একীভূত কী কপি করুন।
ধাপ 2: টোকেন গুনুন, তারপর একটি দীর্ঘ ডকুমেন্ট পাঠান
FreeLLMAPI নেটিভ Gemini countTokens মেথড সরবরাহ করে। পাঠানোর আগে প্রম্পট মাপতে এটি ব্যবহার করুন।
curl: নেটিভ Gemini এন্ডপয়েন্ট দিয়ে টোকেন গুনুন
curl "http://localhost:3001/v1beta/models/gemini-2.5-flash:countTokens" \
-H "x-goog-api-key: <unified-key>" \
-H "Content-Type: application/json" \
-d '{"contents": [{"role": "user", "parts": [{"text": "Paste the long text here"}]}]}'Python: একটি দীর্ঘ ফাইল 1M-কনটেক্সট মডেলে পাঠান
from openai import OpenAI
client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>", timeout=300)
doc = open("annual-report.txt", encoding="utf-8").read()
print("about", len(doc) // 4, "tokens") # rough rule for English text
resp = client.chat.completions.with_raw_response.create(
model="gemini-2.5-flash", # pin a 1M-context model; "auto" can pick a smaller one
messages=[
{"role": "system", "content": "Answer only from the document. Quote the section you use."},
{"role": "user", "content": doc + "\n\nQuestion: What are the three largest risks?"},
],
max_tokens=4000,
)
print("Routed via:", resp.headers.get("x-routed-via"))
print(resp.parse().choices[0].message.content)একটি দীর্ঘ-কনটেক্সট মডেল তার আইডি দিয়ে স্থির করুন। model: "auto" দিলে রাউটার ছোট কনটেক্সট উইন্ডোর মডেল বেছে নিতে পারে। একটি লম্বা ক্লায়েন্ট টাইমআউট সেট করুন, কারণ বড় প্রম্পট পড়তে সময় লাগে।
দীর্ঘ কনটেক্সট না RAG?
| দীর্ঘ কনটেক্সট ব্যবহার করুন যখন | RAG ব্যবহার করুন যখন |
|---|---|
| ডকুমেন্টটি একবার পড়া হয়, যেমন একটি চুক্তি বা একটি প্রতিবেদন | একই বড় ডেটা নিয়ে আপনি অনেক প্রশ্ন করেন |
| উত্তরে পুরো টেক্সট দরকার, যেমন সারসংক্ষেপ বা বিভাগের তুলনা | উত্তর কয়েকটি ছোট অংশে আছে |
| টেক্সট আপনার বিনামূল্যের কীর TPM সীমার চেয়ে ছোট | ডেটা যেকোনো বিনামূল্যের কনটেক্সট উইন্ডো বা TPM সীমার চেয়ে বড় |
| মডেলকে টেক্সটের ক্রম ও গঠন দেখতে হবে | প্রতিটি অনুরোধ ছোট ও দ্রুত রাখতে হবে |
RAG প্রতিটি প্রশ্নের সাথে ডেটার শুধু প্রাসঙ্গিক অংশ পাঠায়। বিনামূল্যের টিয়ারে এতে কম টোকেন লাগে। সেটআপের জন্য RAG-এর জন্য বিনামূল্যের LLM API ও বিনামূল্যের embeddings API পড়ুন।
ফাঁদ ও সমস্যা সমাধান
- হারানো বিবরণ: খুব লম্বা প্রম্পটের মাঝখানে মডেল তথ্য মিস করতে পারে। ডকুমেন্টের পরে আপনার প্রশ্ন লিখুন, এবং মডেলকে তার সূত্র উদ্ধৃত করতে বলুন।
- Thinking টোকেন: Gemini Flash মডেল আউটপুট বাজেট থেকে লুকানো thinking টোকেন ব্যবহার করতে পারে। খুব ছোট
max_tokensসেট করবেন না। - PDF ফাইল: FreeLLMAPI PDF, DOCX বা XLSX ফাইল রূপান্তর করে না। একটি বাইনারি ডকুমেন্ট সংযুক্তি ত্রুটি 400 ফেরত দেয়। আগে টেক্সট বের করুন, তারপর টেক্সট পাঠান।
- টেক্সট পরিষ্কার করুন: ডকুমেন্ট পাঠানোর আগে পৃষ্ঠার হেডার, ফুটার ও বারবার আসা বিষয়সূচি সরান। সেগুলো টোকেন নেয় এবং কোনো তথ্য যোগ করে না।
- বারবার প্রম্পট: প্রতিটি অনুরোধ পুরো ডকুমেন্ট আবার পাঠায়। সম্ভব হলে একটি অনুরোধে কয়েকটি প্রশ্ন করুন।
| সমস্যা | কারণ | সমাধান |
|---|---|---|
| প্রথম দীর্ঘ অনুরোধে ত্রুটি 429 | প্রম্পট TPM সীমার চেয়ে বড় | প্রম্পট ছোট করুন, অথবা RAG ব্যবহার করুন |
| কনটেক্সট দৈর্ঘ্য নিয়ে ত্রুটি 400 | অনুরোধটি ছোট উইন্ডোর মডেলে গেছে | টেবিল থেকে একটি মডেল আইডি স্থির করুন |
| খালি বা কাটা উত্তর | max_tokens খুব ছোট, অথবা thinking সেটি ব্যবহার করেছে | একটি বড় max_tokens সেট করুন |
| টাইমআউট | মডেলের প্রম্পট পড়তে সময় লাগে | 300 সেকেন্ড বা তার বেশি ক্লায়েন্ট টাইমআউট সেট করুন |
সাধারণ প্রশ্ন
1 মিলিয়ন টোকেন কনটেক্সটসহ কি বিনামূল্যের LLM API আছে?
হ্যাঁ। Google AI Studio-এর বিনামূল্যের টিয়ারে Gemini Flash মডেলের প্রায় 1 মিলিয়ন টোকেনের কনটেক্সট উইন্ডো আছে। FreeLLMAPI ক্যাটালগে 1M বা তার বেশি টোকেনসহ 56টি বিনামূল্যের মডেল অফার আছে।
এক অনুরোধে কি বিনামূল্যে 1 মিলিয়ন টোকেন পাঠানো যায়?
সাধারণত না। ক্যাটালগের বিনামূল্যের Gemini টিয়ার প্রতি মিনিটে 250,000 টোকেন অনুমোদন করে, তাই বড় প্রম্পটে ত্রুটি 429 আসে। প্রতি অনুরোধে কয়েক লাখ টোকেনের পরিকল্পনা করুন।
প্রম্পট পাঠানোর আগে কীভাবে টোকেন গুনব?
FreeLLMAPI-র মাধ্যমে /v1beta/models/{model}:countTokens-এ নেটিভ Gemini countTokens মেথড কল করুন। ইংরেজি টেক্সটে প্রায় 4টি অক্ষরে একটি টোকেন হয়।
কোন বিনামূল্যের LLM-এর সবচেয়ে বড় কনটেক্সট উইন্ডো?
এই পৃষ্ঠার টেবিল বিনামূল্যের মডেলগুলো কনটেক্সট আকার অনুযায়ী সাজায়, সবচেয়ে বড়টি আগে। কয়েকটি বিনামূল্যের মডেল প্রায় 1 মিলিয়ন টোকেনে পৌঁছায়। বিনামূল্যের সীমার কলামও পড়ুন, কারণ TPM সীমা এক অনুরোধের আসল আকার ঠিক করে।
RAG-এর চেয়ে দীর্ঘ কনটেক্সট কি ভালো?
একবার পড়া এক ডকুমেন্টের জন্য দীর্ঘ কনটেক্সট ভালো। বড় ডেটার ওপর অনেক প্রশ্নের জন্য RAG ভালো, কারণ এটি প্রতিবার কম টোকেন পাঠায়।
সম্পর্কিত গাইড
- RAG-এর জন্য বিনামূল্যের LLM API
- বিনামূল্যের embeddings API
- free gemini api
- Gemini API কোটা শেষ (429 RESOURCE_EXHAUSTED)
- বিনামূল্যের LLM API রেট লিমিট
উৎস
- FreeLLMAPI docs: Native Gemini API (যাচাই: 20 November 2026)
- FreeLLMAPI docs: Chat completions and routing (যাচাই: 20 November 2026)
- Google AI Studio docs: Thinking (যাচাই: 20 November 2026)
- Gemini Developer API pricing (যাচাই: 20 November 2026)