Nyumbani / Miongozo / API ya LLM bure yenye muktadha wa tokeni milioni 1

API ya LLM bure yenye muktadha wa tokeni milioni 1

Dirisha refu la muktadha linamruhusu modeli kusoma kitabu kizima, msingi mkubwa wa msimbo au saa kadhaa za nakala kwenye ombi moja. Orodha ya FreeLLMAPI ina ofa 56 za modeli bure zenye dirisha la muktadha la tokeni milioni 1 au zaidi. Mwongozo huu unaonyesha modeli hizi na mipaka ya viwango bure inayoamua ni kiasi gani unaweza kutuma kweli.

Msimbo, majina ya modeli na lebo za katalogi ya moja kwa moja zinaonyeshwa kwa Kiingereza.

Modeli bure zenye muktadha wa tokeni 1M+ leo

Jedwali linaorodhesha modeli bure zenye dirisha la muktadha la angalau tokeni 1,000,000, kubwa zaidi kwanza. Data inatoka kwenye orodha hai. Angalia safu ya "Free limits" pamoja na ukubwa wa muktadha.

Modeli bure zenye muktadha wa tokeni 1M+, kubwa zaidi kwanza
ModeliBure kwenyeMuktadhaVikomo vya bure (ofa bora)ZanaUoni
OpenAI: GPT-6 LunaElectronHub1.1M$0.25/week shared free creditsHapanaHapana
Gemini 3.8 FlashAPINex, Google AI Studio1M5 maombi/dakika
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
NdiyoNdiyo
Gemini 3.7 FlashGoogle AI Studio1M10 maombi/dakika
20 maombi/siku
250,000 tokeni/dakika
~3M
NdiyoNdiyo
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 maombi/dakika
50 maombi/siku
Shared rate limit
NdiyoHapana
DeepSeek V4 Flash 0731Router91M10,000 credits/month (~$1), shared; account-anniversary resetHapanaHapana
Gemini 3.6 FlashGoogle AI Studio1M10 maombi/dakika
20 maombi/siku
250,000 tokeni/dakika
~3M
NdiyoNdiyo
GLM 5.2Router91M10,000 credits/month (~$1), shared; account-anniversary resetHapanaHapana
Gemini 3.5 FlashGoogle AI Studio1M10 maombi/dakika
20 maombi/siku
250,000 tokeni/dakika
~3M
NdiyoNdiyo
DeepSeek V4 ProAPINex, Router91M5 maombi/dakika
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
HapanaHapana
Nemotron 3 Ultra 550BGizmo, Kilo Gateway, LLMTR +3 zaidi1M200 maombi/siku
200 rpd
NdiyoHapana
Gemini 3.5 Flash LiteElectronHub, Google AI Studio1M15 maombi/dakika
20 maombi/siku
250,000 tokeni/dakika
~3M
NdiyoNdiyo
Gemini 3 Flash PreviewGoogle AI Studio1M10 maombi/dakika
20 maombi/siku
250,000 tokeni/dakika
~3M
NdiyoNdiyo
Gemini 3.1 Flash-LiteDreamPrompting, Google AI Studio1M100 maombi/dakika
5,000 maombi/siku
500,000 tokeni/siku
500K tokens/day · 5,000 req/day
NdiyoNdiyo
Gemini 2.5 FlashDreamPrompting, ElectronHub, Google AI Studio1M100 maombi/dakika
5,000 maombi/siku
500,000 tokeni/siku
500K tokens/day · 5,000 req/day
NdiyoNdiyo
Nemotron 3.5 LightningElectronHub, Gizmo, Kilo Gateway +2 zaidi1M20 maombi/dakika
50 maombi/siku
50 req/day account-wide (1,000 after a $10 purchase)
NdiyoHapana

Inaonyesha 15 kati ya 33 modeli za bure zinazolingana. Tazama modeli zote.

Data ya moja kwa moja kutoka katalogi ya FreeLLMAPI (toleo 2026.11.19, imekaguliwa 2026-11-19). Vikomo vya bure hubadilika mara kwa mara. Katalogi hukaguliwa kila siku.

Modeli za Gemini Flash kutoka Google AI Studio ndizo modeli bure za tokeni 1M zinazojulikana zaidi. Pia zinakubali picha na wito wa zana. Safu zingine zinatoka kwa vipanga njia bure na kutoka NVIDIA.

Kikomo halisi: tokeni kwa dakika

Dirisha la muktadha ndilo maelekezo makubwa zaidi ambayo modeli inaweza kusoma. Kiwango bure pia kina kikomo cha tokeni kwa dakika (TPM). Kwenye viwango vingi bure, kikomo cha TPM ni kidogo kuliko dirisha la muktadha.

  • Mfano: ufunguo bure wa Gemini Flash kwenye jedwali unaruhusu tokeni 250,000 kwa dakika. Maelekezo ya tokeni 800,000 yako ndani ya dirisha la muktadha, lakini juu ya kikomo cha TPM. Mtoa huduma anatuma hitilafu 429.
  • Maombi kwa siku: baadhi ya modeli bure za Gemini zinaruhusu takriban maombi 20 tu kila siku. Tumia maelekezo marefu kwa kazi zinazoyahitaji.
  • Pato ni tofauti: jibu lina urefu wake wa juu zaidi. Muktadha wa tokeni 1M hautoi jibu la tokeni 1M.

Kwa hiyo kwa vitendo, modeli bure ya muktadha wa 1M inaweza kusoma tokeni mia kadhaa elfu kwenye ombi moja. Pima maelekezo yako kabla ya kuyatuma.

Hatua 1: Sakinisha FreeLLMAPI na uongeze funguo

FreeLLMAPI ni chanzo huria. Inaendeshwa kwenye kompyuta yako kwenye Docker. Funguo zako za watoa huduma zinabaki kwenye kompyuta yako.

Sakinisha (macOS au Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

Fungua dashibodi kwenye http://localhost:3001. Ongeza ufunguo wa Google AI Studio kwenye ukurasa wa Keys. Ongeza pia funguo za watoa huduma wengine kwenye jedwali, ili kipanga njia kiwe na modeli nyingine ya muktadha mrefu Google inapotuma hitilafu 429. Nakili ufunguo wako wa umoja kutoka ukurasa uleule.

Hatua 2: Hesabu tokeni, kisha tuma hati ndefu

FreeLLMAPI inahudumia mbinu asili ya Gemini countTokens. Itumie kupima maelekezo kabla ya kuyatuma.

curl: hesabu tokeni kwa sehemu asili ya Gemini

curl "http://localhost:3001/v1beta/models/gemini-2.5-flash:countTokens" \
  -H "x-goog-api-key: <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"contents": [{"role": "user", "parts": [{"text": "Paste the long text here"}]}]}'

Python: tuma faili refu kwa modeli ya muktadha wa 1M

from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>", timeout=300)

doc = open("annual-report.txt", encoding="utf-8").read()
print("about", len(doc) // 4, "tokens")  # rough rule for English text

resp = client.chat.completions.with_raw_response.create(
    model="gemini-2.5-flash",  # pin a 1M-context model; "auto" can pick a smaller one
    messages=[
        {"role": "system", "content": "Answer only from the document. Quote the section you use."},
        {"role": "user", "content": doc + "\n\nQuestion: What are the three largest risks?"},
    ],
    max_tokens=4000,
)
print("Routed via:", resp.headers.get("x-routed-via"))
print(resp.parse().choices[0].message.content)

Bandika modeli ya muktadha mrefu kwa kitambulisho chake. Ukiwa na model: "auto", kipanga njia kinaweza kuchagua modeli yenye dirisha dogo la muktadha. Weka muda mrefu wa kusubiri kwa mteja, kwa sababu maelekezo makubwa yanachukua muda kusomwa.

Muktadha mrefu au RAG?

Tumia muktadha mrefu wakatiTumia RAG wakati
Hati inasomwa mara moja, kwa mfano mkataba mmoja au ripoti mojaUnauliza maswali mengi kuhusu data kubwa ileile
Jibu linahitaji maandishi yote, kwa mfano muhtasari au ulinganisho wa sehemuJibu liko kwenye vifungu vichache vifupi
Maandishi ni madogo kuliko kikomo cha TPM cha ufunguo wako bureData ni kubwa kuliko dirisha lolote la muktadha bure au kikomo chochote cha TPM
Unahitaji modeli iione mpangilio na muundo wa maandishiUnahitaji kuweka kila ombi dogo na la haraka

RAG hutuma sehemu husika za data pekee pamoja na kila swali. Inatumia tokeni chache kwenye viwango bure. Soma Free LLM API for RAG na Free embeddings API ili kuisanidi.

Mitego na kutatua matatizo

  • Maelezo yaliyopotea: modeli zinaweza kukosa ukweli katikati ya maelekezo marefu sana. Weka swali lako baada ya hati, na uombe modeli inukuu chanzo chake.
  • Tokeni za kufikiri: modeli za Gemini Flash zinaweza kutumia tokeni za kufikiri zilizofichwa kutoka bajeti ya pato. Usiweke max_tokens ndogo sana.
  • Faili za PDF: FreeLLMAPI haibadilishi faili za PDF, DOCX au XLSX. Kiambatisho cha hati cha binary kinarudisha hitilafu 400. Toa maandishi kwanza, kisha tuma maandishi.
  • Safisha maandishi: ondoa vichwa vya kurasa, vichini na orodha za yaliyomo zinazorudiwa kabla ya kutuma hati. Hivyo vinatumia tokeni na havileti ukweli wowote.
  • Maelekezo yanayorudiwa: kila ombi linatuma hati nzima tena. Uliza maswali kadhaa kwenye ombi moja unapoweza.
TatizoChanzoSuluhisho
Hitilafu 429 kwenye ombi la kwanza refuMaelekezo ni makubwa kuliko kikomo cha TPMFanya maelekezo yawe madogo, au tumia RAG
Hitilafu 400 kuhusu urefu wa muktadhaOmbi lilienda kwenye modeli yenye dirisha dogo zaidiBandika kitambulisho cha modeli kutoka jedwali
Jibu ni tupu au limekatwamax_tokens ni ndogo mno, au kufikiri kuliitumiaWeka max_tokens kubwa zaidi
Muda umeishaModeli inahitaji muda kusoma maelekezoWeka muda wa kusubiri wa mteja wa sekunde 300 au zaidi
Tumia kila moja ya hizi kwa ufunguo mmoja. FreeLLMAPI ni kipanga njia huria, unachoendesha mwenyewe. Kinaweka tabaka hizi zote za bure nyuma ya kituo kimoja cha OpenAI kinachooana, na kinahamia kwenye nyingine pale kikomo kinapofikiwa. Vinjari katalogi au anza sasa.

Maswali yanayoulizwa mara kwa mara

Kuna API ya LLM bure yenye muktadha wa tokeni milioni 1?

Ndiyo. Modeli za Gemini Flash kwenye kiwango bure cha Google AI Studio zina dirisha la muktadha la takriban tokeni milioni 1. Orodha ya FreeLLMAPI ina ofa 56 za modeli bure zenye tokeni 1M au zaidi.

Naweza kutuma tokeni milioni 1 bure kwenye ombi moja?

Kwa kawaida hapana. Kiwango bure cha Gemini kwenye orodha kinaruhusu tokeni 250,000 kwa dakika, kwa hiyo maelekezo makubwa zaidi yanapata hitilafu 429. Panga laki chache za tokeni kwa kila ombi.

Nahesabuje tokeni kabla ya kutuma maelekezo?

Ita mbinu asili ya Gemini countTokens kupitia FreeLLMAPI kwenye /v1beta/models/{model}:countTokens. Kwa maandishi ya Kiingereza, herufi takriban 4 zinaunda tokeni moja.

Ni LLM ipi bure yenye dirisha kubwa zaidi la muktadha?

Jedwali kwenye ukurasa huu linapanga modeli bure kwa ukubwa wa muktadha, kubwa zaidi kwanza. Modeli kadhaa bure zinafikia takriban tokeni milioni 1. Pia soma safu ya mipaka bure, kwa sababu kikomo cha TPM ndicho kinachoamua ukubwa halisi wa ombi moja.

Je, muktadha mrefu ni bora kuliko RAG?

Muktadha mrefu ni bora kwa hati moja unayoisoma mara moja. RAG ni bora kwa maswali mengi kuhusu data kubwa, kwa sababu inatuma tokeni chache kila mara.

Miongozo inayohusiana

Vyanzo

Miongozo yote · Tazama modeli zote za bure