হোম / গাইড / 1 মিলিয়ন টোকেন কনটেক্সটসহ বিনামূল্যের LLM API

1 মিলিয়ন টোকেন কনটেক্সটসহ বিনামূল্যের LLM API

একটি দীর্ঘ কনটেক্সট উইন্ডো একটি মডেলকে এক অনুরোধে একটি পূর্ণ বই, বড় কোড বেস বা ঘণ্টার পর ঘণ্টার ট্রান্সক্রিপ্ট পড়তে দেয়। FreeLLMAPI ক্যাটালগে 1 মিলিয়ন টোকেন বা তার বেশি কনটেক্সট উইন্ডোসহ 56টি বিনামূল্যের মডেল অফার আছে। এই গাইডে সেই মডেলগুলো এবং বিনামূল্যের টিয়ারের সীমা দেখানো হয়েছে, যেগুলো ঠিক করে আপনি আসলে কতটা পাঠাতে পারেন।

কোড, মডেলের নাম এবং লাইভ ক্যাটালগের লেবেল ইংরেজিতে দেখানো হয়।

আজ 1M+ টোকেন কনটেক্সটসহ বিনামূল্যের মডেল

টেবিলে কমপক্ষে 1,000,000 টোকেনের কনটেক্সট উইন্ডোসহ বিনামূল্যের মডেল তালিকাভুক্ত, সবচেয়ে বড়টি আগে। ডেটা আসে লাইভ ক্যাটালগ থেকে। কনটেক্সটের আকারের পাশাপাশি “বিনামূল্যের সীমা” কলামটিও দেখুন।

1M+ টোকেন কনটেক্সটসহ বিনামূল্যের মডেল, সবচেয়ে বড় আগে
মডেলবিনামূল্যেকনটেক্সটবিনামূল্যের সীমা (সেরা অফার)টুলভিশন
OpenAI: GPT-6 LunaElectronHub1.1M$0.25/week shared free creditsনানা
Gemini 3.8 FlashAPINex, Google AI Studio1M5 অনুরোধ/মিনিট
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
হ্যাঁহ্যাঁ
Gemini 3.7 FlashGoogle AI Studio1M10 অনুরোধ/মিনিট
20 অনুরোধ/দিন
250,000 টোকেন/মিনিট
~3M
হ্যাঁহ্যাঁ
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 অনুরোধ/মিনিট
50 অনুরোধ/দিন
Shared rate limit
হ্যাঁনা
DeepSeek V4 Flash 0731Router91M10,000 credits/month (~$1), shared; account-anniversary resetনানা
Gemini 3.6 FlashGoogle AI Studio1M10 অনুরোধ/মিনিট
20 অনুরোধ/দিন
250,000 টোকেন/মিনিট
~3M
হ্যাঁহ্যাঁ
GLM 5.2Router91M10,000 credits/month (~$1), shared; account-anniversary resetনানা
Gemini 3.5 FlashGoogle AI Studio1M10 অনুরোধ/মিনিট
20 অনুরোধ/দিন
250,000 টোকেন/মিনিট
~3M
হ্যাঁহ্যাঁ
DeepSeek V4 ProAPINex, Router91M5 অনুরোধ/মিনিট
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
নানা
Nemotron 3 Ultra 550BGizmo, Kilo Gateway, LLMTR +আরও 31M200 অনুরোধ/দিন
200 rpd
হ্যাঁনা
Gemini 3.5 Flash LiteElectronHub, Google AI Studio1M15 অনুরোধ/মিনিট
20 অনুরোধ/দিন
250,000 টোকেন/মিনিট
~3M
হ্যাঁহ্যাঁ
Gemini 3 Flash PreviewGoogle AI Studio1M10 অনুরোধ/মিনিট
20 অনুরোধ/দিন
250,000 টোকেন/মিনিট
~3M
হ্যাঁহ্যাঁ
Gemini 3.1 Flash-LiteDreamPrompting, Google AI Studio1M100 অনুরোধ/মিনিট
5,000 অনুরোধ/দিন
500,000 টোকেন/দিন
500K tokens/day · 5,000 req/day
হ্যাঁহ্যাঁ
Gemini 2.5 FlashDreamPrompting, ElectronHub, Google AI Studio1M100 অনুরোধ/মিনিট
5,000 অনুরোধ/দিন
500,000 টোকেন/দিন
500K tokens/day · 5,000 req/day
হ্যাঁহ্যাঁ
Nemotron 3.5 LightningElectronHub, Gizmo, Kilo Gateway +আরও 21M20 অনুরোধ/মিনিট
50 অনুরোধ/দিন
50 req/day account-wide (1,000 after a $10 purchase)
হ্যাঁনা

মিলে যাওয়া 33টি বিনামূল্যের মডেলের মধ্যে 15টি দেখানো হচ্ছে। সব মডেল দেখুন.

FreeLLMAPI ক্যাটালগের লাইভ ডেটা (সংস্করণ 2026.11.19, যাচাই: 2026-11-19)। বিনামূল্যের সীমা প্রায়ই বদলায়। ক্যাটালগ প্রতিদিন যাচাই করা হয়।

Google AI Studio-র Gemini Flash মডেলগুলো সবচেয়ে পরিচিত 1M-টোকেন বিনামূল্যের মডেল। এগুলো ছবি ও টুল কলও গ্রহণ করে। অন্য সারিগুলো বিনামূল্যের রাউটার ও NVIDIA থেকে আসে।

আসল সীমা: প্রতি মিনিটে টোকেন

কনটেক্সট উইন্ডো হলো সবচেয়ে বড় প্রম্পট, যা মডেল পড়তে পারে। বিনামূল্যের টিয়ারে প্রতি মিনিটের টোকেন (TPM) সীমাও আছে। অনেক বিনামূল্যের টিয়ারে TPM সীমা কনটেক্সট উইন্ডোর চেয়ে ছোট।

  • উদাহরণ: টেবিলের একটি বিনামূল্যের Gemini Flash কী প্রতি মিনিটে 250,000 টোকেন অনুমোদন করে। 800,000 টোকেনের একটি প্রম্পট কনটেক্সট উইন্ডোর ভেতরে, কিন্তু TPM সীমার ওপরে। প্রোভাইডার 429 ত্রুটি পাঠায়।
  • প্রতি দিনের অনুরোধ: কিছু বিনামূল্যের Gemini মডেল প্রতি দিন মাত্র প্রায় 20টি অনুরোধ দেয়। যেসব কাজের দরকার, শুধু সেখানে লম্বা প্রম্পট ব্যবহার করুন।
  • আউটপুট আলাদা: উত্তরের নিজস্ব সর্বোচ্চ দৈর্ঘ্য আছে। 1M-টোকেন কনটেক্সট মানে 1M-টোকেন উত্তর নয়।

তাই বাস্তবে একটি বিনামূল্যের 1M-কনটেক্সট মডেল এক অনুরোধে কয়েক লাখ টোকেন পড়তে পারে। পাঠানোর আগে আপনার প্রম্পট মাপুন।

ধাপ 1: FreeLLMAPI ইনস্টল করুন ও কী যোগ করুন

FreeLLMAPI ওপেন সোর্স। এটি Docker-এ আপনার কম্পিউটারে চলে। আপনার প্রোভাইডার কী আপনার কম্পিউটারেই থাকে।

ইনস্টল করুন (macOS বা Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

http://localhost:3001-এ ড্যাশবোর্ড খুলুন। Keys পৃষ্ঠায় একটি Google AI Studio কী যোগ করুন। টেবিলের অন্য প্রোভাইডারের কীও যোগ করুন, যাতে Google 429 ত্রুটি পাঠালে রাউটারের কাছে আরেকটি দীর্ঘ-কনটেক্সট মডেল থাকে। একই পৃষ্ঠা থেকে আপনার একীভূত কী কপি করুন।

ধাপ 2: টোকেন গুনুন, তারপর একটি দীর্ঘ ডকুমেন্ট পাঠান

FreeLLMAPI নেটিভ Gemini countTokens মেথড সরবরাহ করে। পাঠানোর আগে প্রম্পট মাপতে এটি ব্যবহার করুন।

curl: নেটিভ Gemini এন্ডপয়েন্ট দিয়ে টোকেন গুনুন

curl "http://localhost:3001/v1beta/models/gemini-2.5-flash:countTokens" \
  -H "x-goog-api-key: <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"contents": [{"role": "user", "parts": [{"text": "Paste the long text here"}]}]}'

Python: একটি দীর্ঘ ফাইল 1M-কনটেক্সট মডেলে পাঠান

from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>", timeout=300)

doc = open("annual-report.txt", encoding="utf-8").read()
print("about", len(doc) // 4, "tokens")  # rough rule for English text

resp = client.chat.completions.with_raw_response.create(
    model="gemini-2.5-flash",  # pin a 1M-context model; "auto" can pick a smaller one
    messages=[
        {"role": "system", "content": "Answer only from the document. Quote the section you use."},
        {"role": "user", "content": doc + "\n\nQuestion: What are the three largest risks?"},
    ],
    max_tokens=4000,
)
print("Routed via:", resp.headers.get("x-routed-via"))
print(resp.parse().choices[0].message.content)

একটি দীর্ঘ-কনটেক্সট মডেল তার আইডি দিয়ে স্থির করুন। model: "auto" দিলে রাউটার ছোট কনটেক্সট উইন্ডোর মডেল বেছে নিতে পারে। একটি লম্বা ক্লায়েন্ট টাইমআউট সেট করুন, কারণ বড় প্রম্পট পড়তে সময় লাগে।

দীর্ঘ কনটেক্সট না RAG?

দীর্ঘ কনটেক্সট ব্যবহার করুন যখনRAG ব্যবহার করুন যখন
ডকুমেন্টটি একবার পড়া হয়, যেমন একটি চুক্তি বা একটি প্রতিবেদনএকই বড় ডেটা নিয়ে আপনি অনেক প্রশ্ন করেন
উত্তরে পুরো টেক্সট দরকার, যেমন সারসংক্ষেপ বা বিভাগের তুলনাউত্তর কয়েকটি ছোট অংশে আছে
টেক্সট আপনার বিনামূল্যের কীর TPM সীমার চেয়ে ছোটডেটা যেকোনো বিনামূল্যের কনটেক্সট উইন্ডো বা TPM সীমার চেয়ে বড়
মডেলকে টেক্সটের ক্রম ও গঠন দেখতে হবেপ্রতিটি অনুরোধ ছোট ও দ্রুত রাখতে হবে

RAG প্রতিটি প্রশ্নের সাথে ডেটার শুধু প্রাসঙ্গিক অংশ পাঠায়। বিনামূল্যের টিয়ারে এতে কম টোকেন লাগে। সেটআপের জন্য RAG-এর জন্য বিনামূল্যের LLM API ও বিনামূল্যের embeddings API পড়ুন।

ফাঁদ ও সমস্যা সমাধান

  • হারানো বিবরণ: খুব লম্বা প্রম্পটের মাঝখানে মডেল তথ্য মিস করতে পারে। ডকুমেন্টের পরে আপনার প্রশ্ন লিখুন, এবং মডেলকে তার সূত্র উদ্ধৃত করতে বলুন।
  • Thinking টোকেন: Gemini Flash মডেল আউটপুট বাজেট থেকে লুকানো thinking টোকেন ব্যবহার করতে পারে। খুব ছোট max_tokens সেট করবেন না।
  • PDF ফাইল: FreeLLMAPI PDF, DOCX বা XLSX ফাইল রূপান্তর করে না। একটি বাইনারি ডকুমেন্ট সংযুক্তি ত্রুটি 400 ফেরত দেয়। আগে টেক্সট বের করুন, তারপর টেক্সট পাঠান।
  • টেক্সট পরিষ্কার করুন: ডকুমেন্ট পাঠানোর আগে পৃষ্ঠার হেডার, ফুটার ও বারবার আসা বিষয়সূচি সরান। সেগুলো টোকেন নেয় এবং কোনো তথ্য যোগ করে না।
  • বারবার প্রম্পট: প্রতিটি অনুরোধ পুরো ডকুমেন্ট আবার পাঠায়। সম্ভব হলে একটি অনুরোধে কয়েকটি প্রশ্ন করুন।
সমস্যাকারণসমাধান
প্রথম দীর্ঘ অনুরোধে ত্রুটি 429প্রম্পট TPM সীমার চেয়ে বড়প্রম্পট ছোট করুন, অথবা RAG ব্যবহার করুন
কনটেক্সট দৈর্ঘ্য নিয়ে ত্রুটি 400অনুরোধটি ছোট উইন্ডোর মডেলে গেছেটেবিল থেকে একটি মডেল আইডি স্থির করুন
খালি বা কাটা উত্তরmax_tokens খুব ছোট, অথবা thinking সেটি ব্যবহার করেছেএকটি বড় max_tokens সেট করুন
টাইমআউটমডেলের প্রম্পট পড়তে সময় লাগে300 সেকেন্ড বা তার বেশি ক্লায়েন্ট টাইমআউট সেট করুন
একটি কী দিয়ে এর প্রতিটি ব্যবহার করুন। FreeLLMAPI একটি ওপেন-সোর্স, নিজের সার্ভারে চালানো রাউটার। এটি এই সব বিনামূল্যের টিয়ার একটি মাত্র OpenAI-সামঞ্জস্যপূর্ণ এন্ডপয়েন্টের পেছনে রাখে এবং কোনো একটির সীমা শেষ হলে অন্যটিতে সরে যায়। ক্যাটালগ ব্রাউজ করুন অথবা শুরু করুন.

সাধারণ প্রশ্ন

1 মিলিয়ন টোকেন কনটেক্সটসহ কি বিনামূল্যের LLM API আছে?

হ্যাঁ। Google AI Studio-এর বিনামূল্যের টিয়ারে Gemini Flash মডেলের প্রায় 1 মিলিয়ন টোকেনের কনটেক্সট উইন্ডো আছে। FreeLLMAPI ক্যাটালগে 1M বা তার বেশি টোকেনসহ 56টি বিনামূল্যের মডেল অফার আছে।

এক অনুরোধে কি বিনামূল্যে 1 মিলিয়ন টোকেন পাঠানো যায়?

সাধারণত না। ক্যাটালগের বিনামূল্যের Gemini টিয়ার প্রতি মিনিটে 250,000 টোকেন অনুমোদন করে, তাই বড় প্রম্পটে ত্রুটি 429 আসে। প্রতি অনুরোধে কয়েক লাখ টোকেনের পরিকল্পনা করুন।

প্রম্পট পাঠানোর আগে কীভাবে টোকেন গুনব?

FreeLLMAPI-র মাধ্যমে /v1beta/models/{model}:countTokens-এ নেটিভ Gemini countTokens মেথড কল করুন। ইংরেজি টেক্সটে প্রায় 4টি অক্ষরে একটি টোকেন হয়।

কোন বিনামূল্যের LLM-এর সবচেয়ে বড় কনটেক্সট উইন্ডো?

এই পৃষ্ঠার টেবিল বিনামূল্যের মডেলগুলো কনটেক্সট আকার অনুযায়ী সাজায়, সবচেয়ে বড়টি আগে। কয়েকটি বিনামূল্যের মডেল প্রায় 1 মিলিয়ন টোকেনে পৌঁছায়। বিনামূল্যের সীমার কলামও পড়ুন, কারণ TPM সীমা এক অনুরোধের আসল আকার ঠিক করে।

RAG-এর চেয়ে দীর্ঘ কনটেক্সট কি ভালো?

একবার পড়া এক ডকুমেন্টের জন্য দীর্ঘ কনটেক্সট ভালো। বড় ডেটার ওপর অনেক প্রশ্নের জন্য RAG ভালো, কারণ এটি প্রতিবার কম টোকেন পাঠায়।

সম্পর্কিত গাইড

উৎস

সব গাইড · সব বিনামূল্যের মডেল দেখুন