API ya LLM bure yenye muktadha wa tokeni milioni 1
Dirisha refu la muktadha linamruhusu modeli kusoma kitabu kizima, msingi mkubwa wa msimbo au saa kadhaa za nakala kwenye ombi moja. Orodha ya FreeLLMAPI ina ofa 56 za modeli bure zenye dirisha la muktadha la tokeni milioni 1 au zaidi. Mwongozo huu unaonyesha modeli hizi na mipaka ya viwango bure inayoamua ni kiasi gani unaweza kutuma kweli.
Msimbo, majina ya modeli na lebo za katalogi ya moja kwa moja zinaonyeshwa kwa Kiingereza.
Modeli bure zenye muktadha wa tokeni 1M+ leo
Jedwali linaorodhesha modeli bure zenye dirisha la muktadha la angalau tokeni 1,000,000, kubwa zaidi kwanza. Data inatoka kwenye orodha hai. Angalia safu ya "Free limits" pamoja na ukubwa wa muktadha.
| Modeli | Bure kwenye | Muktadha | Vikomo vya bure (ofa bora) | Zana | Uoni |
|---|---|---|---|---|---|
| OpenAI: GPT-6 Luna | ElectronHub | 1.1M | $0.25/week shared free credits | Hapana | Hapana |
| Gemini 3.8 Flash | APINex, Google AI Studio | 1M | 5 maombi/dakika 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | Ndiyo | Ndiyo |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 maombi/dakika 20 maombi/siku 250,000 tokeni/dakika ~3M | Ndiyo | Ndiyo |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 maombi/dakika 50 maombi/siku Shared rate limit | Ndiyo | Hapana |
| DeepSeek V4 Flash 0731 | Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | Hapana | Hapana |
| Gemini 3.6 Flash | Google AI Studio | 1M | 10 maombi/dakika 20 maombi/siku 250,000 tokeni/dakika ~3M | Ndiyo | Ndiyo |
| GLM 5.2 | Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | Hapana | Hapana |
| Gemini 3.5 Flash | Google AI Studio | 1M | 10 maombi/dakika 20 maombi/siku 250,000 tokeni/dakika ~3M | Ndiyo | Ndiyo |
| DeepSeek V4 Pro | APINex, Router9 | 1M | 5 maombi/dakika 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | Hapana | Hapana |
| Nemotron 3 Ultra 550B | Gizmo, Kilo Gateway, LLMTR +3 zaidi | 1M | 200 maombi/siku 200 rpd | Ndiyo | Hapana |
| Gemini 3.5 Flash Lite | ElectronHub, Google AI Studio | 1M | 15 maombi/dakika 20 maombi/siku 250,000 tokeni/dakika ~3M | Ndiyo | Ndiyo |
| Gemini 3 Flash Preview | Google AI Studio | 1M | 10 maombi/dakika 20 maombi/siku 250,000 tokeni/dakika ~3M | Ndiyo | Ndiyo |
| Gemini 3.1 Flash-Lite | DreamPrompting, Google AI Studio | 1M | 100 maombi/dakika 5,000 maombi/siku 500,000 tokeni/siku 500K tokens/day · 5,000 req/day | Ndiyo | Ndiyo |
| Gemini 2.5 Flash | DreamPrompting, ElectronHub, Google AI Studio | 1M | 100 maombi/dakika 5,000 maombi/siku 500,000 tokeni/siku 500K tokens/day · 5,000 req/day | Ndiyo | Ndiyo |
| Nemotron 3.5 Lightning | ElectronHub, Gizmo, Kilo Gateway +2 zaidi | 1M | 20 maombi/dakika 50 maombi/siku 50 req/day account-wide (1,000 after a $10 purchase) | Ndiyo | Hapana |
Inaonyesha 15 kati ya 33 modeli za bure zinazolingana. Tazama modeli zote.
Data ya moja kwa moja kutoka katalogi ya FreeLLMAPI (toleo 2026.11.19, imekaguliwa 2026-11-19). Vikomo vya bure hubadilika mara kwa mara. Katalogi hukaguliwa kila siku.
Modeli za Gemini Flash kutoka Google AI Studio ndizo modeli bure za tokeni 1M zinazojulikana zaidi. Pia zinakubali picha na wito wa zana. Safu zingine zinatoka kwa vipanga njia bure na kutoka NVIDIA.
Kikomo halisi: tokeni kwa dakika
Dirisha la muktadha ndilo maelekezo makubwa zaidi ambayo modeli inaweza kusoma. Kiwango bure pia kina kikomo cha tokeni kwa dakika (TPM). Kwenye viwango vingi bure, kikomo cha TPM ni kidogo kuliko dirisha la muktadha.
- Mfano: ufunguo bure wa Gemini Flash kwenye jedwali unaruhusu tokeni 250,000 kwa dakika. Maelekezo ya tokeni 800,000 yako ndani ya dirisha la muktadha, lakini juu ya kikomo cha TPM. Mtoa huduma anatuma hitilafu 429.
- Maombi kwa siku: baadhi ya modeli bure za Gemini zinaruhusu takriban maombi 20 tu kila siku. Tumia maelekezo marefu kwa kazi zinazoyahitaji.
- Pato ni tofauti: jibu lina urefu wake wa juu zaidi. Muktadha wa tokeni 1M hautoi jibu la tokeni 1M.
Kwa hiyo kwa vitendo, modeli bure ya muktadha wa 1M inaweza kusoma tokeni mia kadhaa elfu kwenye ombi moja. Pima maelekezo yako kabla ya kuyatuma.
Hatua 1: Sakinisha FreeLLMAPI na uongeze funguo
FreeLLMAPI ni chanzo huria. Inaendeshwa kwenye kompyuta yako kwenye Docker. Funguo zako za watoa huduma zinabaki kwenye kompyuta yako.
Sakinisha (macOS au Linux)
curl -fsSL https://freellmapi.co/install.sh | bashFungua dashibodi kwenye http://localhost:3001. Ongeza ufunguo wa Google AI Studio kwenye ukurasa wa Keys. Ongeza pia funguo za watoa huduma wengine kwenye jedwali, ili kipanga njia kiwe na modeli nyingine ya muktadha mrefu Google inapotuma hitilafu 429. Nakili ufunguo wako wa umoja kutoka ukurasa uleule.
Hatua 2: Hesabu tokeni, kisha tuma hati ndefu
FreeLLMAPI inahudumia mbinu asili ya Gemini countTokens. Itumie kupima maelekezo kabla ya kuyatuma.
curl: hesabu tokeni kwa sehemu asili ya Gemini
curl "http://localhost:3001/v1beta/models/gemini-2.5-flash:countTokens" \
-H "x-goog-api-key: <unified-key>" \
-H "Content-Type: application/json" \
-d '{"contents": [{"role": "user", "parts": [{"text": "Paste the long text here"}]}]}'Python: tuma faili refu kwa modeli ya muktadha wa 1M
from openai import OpenAI
client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>", timeout=300)
doc = open("annual-report.txt", encoding="utf-8").read()
print("about", len(doc) // 4, "tokens") # rough rule for English text
resp = client.chat.completions.with_raw_response.create(
model="gemini-2.5-flash", # pin a 1M-context model; "auto" can pick a smaller one
messages=[
{"role": "system", "content": "Answer only from the document. Quote the section you use."},
{"role": "user", "content": doc + "\n\nQuestion: What are the three largest risks?"},
],
max_tokens=4000,
)
print("Routed via:", resp.headers.get("x-routed-via"))
print(resp.parse().choices[0].message.content)Bandika modeli ya muktadha mrefu kwa kitambulisho chake. Ukiwa na model: "auto", kipanga njia kinaweza kuchagua modeli yenye dirisha dogo la muktadha. Weka muda mrefu wa kusubiri kwa mteja, kwa sababu maelekezo makubwa yanachukua muda kusomwa.
Muktadha mrefu au RAG?
| Tumia muktadha mrefu wakati | Tumia RAG wakati |
|---|---|
| Hati inasomwa mara moja, kwa mfano mkataba mmoja au ripoti moja | Unauliza maswali mengi kuhusu data kubwa ileile |
| Jibu linahitaji maandishi yote, kwa mfano muhtasari au ulinganisho wa sehemu | Jibu liko kwenye vifungu vichache vifupi |
| Maandishi ni madogo kuliko kikomo cha TPM cha ufunguo wako bure | Data ni kubwa kuliko dirisha lolote la muktadha bure au kikomo chochote cha TPM |
| Unahitaji modeli iione mpangilio na muundo wa maandishi | Unahitaji kuweka kila ombi dogo na la haraka |
RAG hutuma sehemu husika za data pekee pamoja na kila swali. Inatumia tokeni chache kwenye viwango bure. Soma Free LLM API for RAG na Free embeddings API ili kuisanidi.
Mitego na kutatua matatizo
- Maelezo yaliyopotea: modeli zinaweza kukosa ukweli katikati ya maelekezo marefu sana. Weka swali lako baada ya hati, na uombe modeli inukuu chanzo chake.
- Tokeni za kufikiri: modeli za Gemini Flash zinaweza kutumia tokeni za kufikiri zilizofichwa kutoka bajeti ya pato. Usiweke
max_tokensndogo sana. - Faili za PDF: FreeLLMAPI haibadilishi faili za PDF, DOCX au XLSX. Kiambatisho cha hati cha binary kinarudisha hitilafu 400. Toa maandishi kwanza, kisha tuma maandishi.
- Safisha maandishi: ondoa vichwa vya kurasa, vichini na orodha za yaliyomo zinazorudiwa kabla ya kutuma hati. Hivyo vinatumia tokeni na havileti ukweli wowote.
- Maelekezo yanayorudiwa: kila ombi linatuma hati nzima tena. Uliza maswali kadhaa kwenye ombi moja unapoweza.
| Tatizo | Chanzo | Suluhisho |
|---|---|---|
| Hitilafu 429 kwenye ombi la kwanza refu | Maelekezo ni makubwa kuliko kikomo cha TPM | Fanya maelekezo yawe madogo, au tumia RAG |
| Hitilafu 400 kuhusu urefu wa muktadha | Ombi lilienda kwenye modeli yenye dirisha dogo zaidi | Bandika kitambulisho cha modeli kutoka jedwali |
| Jibu ni tupu au limekatwa | max_tokens ni ndogo mno, au kufikiri kuliitumia | Weka max_tokens kubwa zaidi |
| Muda umeisha | Modeli inahitaji muda kusoma maelekezo | Weka muda wa kusubiri wa mteja wa sekunde 300 au zaidi |
Maswali yanayoulizwa mara kwa mara
Kuna API ya LLM bure yenye muktadha wa tokeni milioni 1?
Ndiyo. Modeli za Gemini Flash kwenye kiwango bure cha Google AI Studio zina dirisha la muktadha la takriban tokeni milioni 1. Orodha ya FreeLLMAPI ina ofa 56 za modeli bure zenye tokeni 1M au zaidi.
Naweza kutuma tokeni milioni 1 bure kwenye ombi moja?
Kwa kawaida hapana. Kiwango bure cha Gemini kwenye orodha kinaruhusu tokeni 250,000 kwa dakika, kwa hiyo maelekezo makubwa zaidi yanapata hitilafu 429. Panga laki chache za tokeni kwa kila ombi.
Nahesabuje tokeni kabla ya kutuma maelekezo?
Ita mbinu asili ya Gemini countTokens kupitia FreeLLMAPI kwenye /v1beta/models/{model}:countTokens. Kwa maandishi ya Kiingereza, herufi takriban 4 zinaunda tokeni moja.
Ni LLM ipi bure yenye dirisha kubwa zaidi la muktadha?
Jedwali kwenye ukurasa huu linapanga modeli bure kwa ukubwa wa muktadha, kubwa zaidi kwanza. Modeli kadhaa bure zinafikia takriban tokeni milioni 1. Pia soma safu ya mipaka bure, kwa sababu kikomo cha TPM ndicho kinachoamua ukubwa halisi wa ombi moja.
Je, muktadha mrefu ni bora kuliko RAG?
Muktadha mrefu ni bora kwa hati moja unayoisoma mara moja. RAG ni bora kwa maswali mengi kuhusu data kubwa, kwa sababu inatuma tokeni chache kila mara.
Miongozo inayohusiana
- API ya LLM bure kwa RAG
- API ya bure ya embeddings
- free gemini api
- Kikomo cha Gemini API kimezidi (429 RESOURCE_EXHAUSTED)
- Mipaka ya kiwango cha API ya LLM bure
Vyanzo
- FreeLLMAPI docs: Native Gemini API (imekaguliwa 20 November 2026)
- FreeLLMAPI docs: Chat completions and routing (imekaguliwa 20 November 2026)
- Google AI Studio docs: Thinking (imekaguliwa 20 November 2026)
- Gemini Developer API pricing (imekaguliwa 20 November 2026)