Free LLM API dengan konteks 1 juta token
Tetingkap konteks yang panjang membolehkan model membaca sebuah buku penuh, pangkalan kod yang besar atau berjam-jam transkrip dalam satu permintaan. Katalog FreeLLMAPI mempunyai 56 tawaran model percuma dengan tetingkap konteks 1 juta token atau lebih. Panduan ini menunjukkan model ini dan had tier percuma yang menentukan berapa banyak yang benar-benar boleh anda hantar.
Kod, nama model dan label katalog langsung dipaparkan dalam bahasa Inggeris.
Model percuma dengan konteks 1M+ token hari ini
Jadual menyenaraikan model percuma dengan tetingkap konteks sekurang-kurangnya 1,000,000 token, yang terbesar dahulu. Data datang daripada katalog langsung. Lihat kolum "Free limits" serta saiz konteks.
| Model | Percuma pada | Konteks | Had percuma (tawaran terbaik) | Alat | Penglihatan |
|---|---|---|---|---|---|
| OpenAI: GPT-6 Luna | ElectronHub | 1.1M | $0.25/week shared free credits | Tidak | Tidak |
| Gemini 3.8 Flash | APINex, Google AI Studio | 1M | 5 permintaan/minit 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | Ya | Ya |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 permintaan/minit 20 permintaan/hari 250,000 token/minit ~3M | Ya | Ya |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 permintaan/minit 50 permintaan/hari Shared rate limit | Ya | Tidak |
| DeepSeek V4 Flash 0731 | Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | Tidak | Tidak |
| Gemini 3.6 Flash | Google AI Studio | 1M | 10 permintaan/minit 20 permintaan/hari 250,000 token/minit ~3M | Ya | Ya |
| GLM 5.2 | Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | Tidak | Tidak |
| Gemini 3.5 Flash | Google AI Studio | 1M | 10 permintaan/minit 20 permintaan/hari 250,000 token/minit ~3M | Ya | Ya |
| DeepSeek V4 Pro | APINex, Router9 | 1M | 5 permintaan/minit 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | Tidak | Tidak |
| Nemotron 3 Ultra 550B | Gizmo, Kilo Gateway, LLMTR +3 lagi | 1M | 200 permintaan/hari 200 rpd | Ya | Tidak |
| Gemini 3.5 Flash Lite | ElectronHub, Google AI Studio | 1M | 15 permintaan/minit 20 permintaan/hari 250,000 token/minit ~3M | Ya | Ya |
| Gemini 3 Flash Preview | Google AI Studio | 1M | 10 permintaan/minit 20 permintaan/hari 250,000 token/minit ~3M | Ya | Ya |
| Gemini 3.1 Flash-Lite | DreamPrompting, Google AI Studio | 1M | 100 permintaan/minit 5,000 permintaan/hari 500,000 token/hari 500K tokens/day · 5,000 req/day | Ya | Ya |
| Gemini 2.5 Flash | DreamPrompting, ElectronHub, Google AI Studio | 1M | 100 permintaan/minit 5,000 permintaan/hari 500,000 token/hari 500K tokens/day · 5,000 req/day | Ya | Ya |
| Nemotron 3.5 Lightning | ElectronHub, Gizmo, Kilo Gateway +2 lagi | 1M | 20 permintaan/minit 50 permintaan/hari 50 req/day account-wide (1,000 after a $10 purchase) | Ya | Tidak |
Memaparkan 15 daripada 33 model percuma yang sepadan. Lihat semua model.
Data langsung daripada katalog FreeLLMAPI (versi 2026.11.19, disemak 2026-11-19). Had percuma kerap berubah. Katalog disemak setiap hari.
Model Gemini Flash daripada Google AI Studio ialah model percuma 1M token yang paling dikenali. Ia juga menerima imej dan panggilan alat. Baris lain datang daripada penghala percuma dan daripada NVIDIA.
Had sebenar: token seminit
Tetingkap konteks ialah gesaan terbesar yang boleh dibaca oleh model. Tier percuma juga mempunyai had token seminit (TPM). Pada banyak tier percuma, had TPM lebih kecil daripada tetingkap konteks.
- Contoh: kunci Gemini Flash percuma dalam jadual membenarkan 250,000 token seminit. Gesaan 800,000 token berada dalam tetingkap konteks, tetapi melebihi had TPM. Pembekal menghantar ralat 429.
- Permintaan sehari: sesetengah model Gemini percuma hanya membenarkan lebih kurang 20 permintaan setiap hari. Gunakan gesaan panjang untuk tugas yang memerlukannya.
- Output berasingan: jawapan mempunyai panjang maksimumnya sendiri. Konteks 1M token tidak memberi jawapan 1M token.
Jadi dalam amalan, model percuma 1M konteks boleh membaca beberapa ratus ribu token dalam satu permintaan. Ukur gesaan anda sebelum anda menghantarnya.
Langkah 1: Pasang FreeLLMAPI dan tambah kunci
FreeLLMAPI ialah sumber terbuka. Ia berjalan pada komputer anda dalam Docker. Kunci pembekal anda kekal pada komputer anda.
Pasang (macOS atau Linux)
curl -fsSL https://freellmapi.co/install.sh | bashBuka papan pemuka di http://localhost:3001. Tambah kunci Google AI Studio pada halaman Keys. Tambah juga kunci daripada pembekal lain dalam jadual, supaya penghala mempunyai model konteks panjang lain apabila Google menghantar ralat 429. Salin kunci bersatu anda daripada halaman yang sama.
Langkah 2: Kira token, kemudian hantar dokumen panjang
FreeLLMAPI menyediakan kaedah asli Gemini countTokens. Gunakannya untuk mengukur gesaan sebelum anda menghantarnya.
curl: kira token dengan titik akhir Gemini asli
curl "http://localhost:3001/v1beta/models/gemini-2.5-flash:countTokens" \
-H "x-goog-api-key: <unified-key>" \
-H "Content-Type: application/json" \
-d '{"contents": [{"role": "user", "parts": [{"text": "Paste the long text here"}]}]}'Python: hantar fail panjang kepada model 1M konteks
from openai import OpenAI
client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>", timeout=300)
doc = open("annual-report.txt", encoding="utf-8").read()
print("about", len(doc) // 4, "tokens") # rough rule for English text
resp = client.chat.completions.with_raw_response.create(
model="gemini-2.5-flash", # pin a 1M-context model; "auto" can pick a smaller one
messages=[
{"role": "system", "content": "Answer only from the document. Quote the section you use."},
{"role": "user", "content": doc + "\n\nQuestion: What are the three largest risks?"},
],
max_tokens=4000,
)
print("Routed via:", resp.headers.get("x-routed-via"))
print(resp.parse().choices[0].message.content)Kunci model konteks panjang mengikut id-nya. Dengan model: "auto", penghala boleh memilih model dengan tetingkap konteks yang lebih kecil. Tetapkan tamat masa klien yang panjang, kerana gesaan besar mengambil masa untuk dibaca.
Konteks panjang atau RAG?
| Gunakan konteks panjang apabila | Gunakan RAG apabila |
|---|---|
| Dokumen dibaca sekali, contohnya satu kontrak atau satu laporan | Anda bertanya banyak soalan tentang data besar yang sama |
| Jawapan memerlukan teks penuh, contohnya ringkasan atau perbandingan bahagian | Jawapan terdapat dalam beberapa petikan pendek |
| Teks lebih kecil daripada had TPM kunci percuma anda | Data lebih besar daripada mana-mana tetingkap konteks atau had TPM percuma |
| Anda memerlukan model melihat susunan dan struktur teks | Anda perlu mengekalkan setiap permintaan kecil dan pantas |
RAG hanya menghantar bahagian data yang berkaitan dengan setiap soalan. Ia menggunakan lebih sedikit token pada tier percuma. Baca Free LLM API for RAG dan Free embeddings API untuk menyediakannya.
Perangkap dan penyelesaian masalah
- Butiran hilang: model boleh terlepas fakta di tengah gesaan yang sangat panjang. Letakkan soalan anda selepas dokumen, dan minta model memetik sumbernya.
- Token pemikiran: model Gemini Flash boleh menggunakan token pemikiran tersembunyi daripada belanjawan output. Jangan tetapkan
max_tokensyang sangat kecil. - Fail PDF: FreeLLMAPI tidak menukar fail PDF, DOCX atau XLSX. Lampiran dokumen binari mengembalikan ralat 400. Ekstrak teks dahulu, kemudian hantar teks itu.
- Bersihkan teks: buang pengepala halaman, pengaki dan jadual kandungan yang berulang sebelum anda menghantar dokumen. Ia menggunakan token dan tidak menambah fakta.
- Gesaan berulang: setiap permintaan menghantar semula keseluruhan dokumen. Tanya beberapa soalan dalam satu permintaan apabila anda boleh.
| Masalah | Punca | Penyelesaian |
|---|---|---|
| Ralat 429 pada permintaan panjang pertama | Gesaan lebih besar daripada had TPM | Kecilkan gesaan, atau gunakan RAG |
| Ralat 400 tentang panjang konteks | Permintaan dihala ke model dengan tetingkap yang lebih kecil | Kunci id model daripada jadual |
| Jawapan kosong atau terpotong | max_tokens terlalu kecil, atau pemikiran menggunakannya | Tetapkan max_tokens yang lebih besar |
| Tamat masa | Model memerlukan masa untuk membaca gesaan | Tetapkan tamat masa klien sebanyak 300 saat atau lebih |
Soalan lazim
Adakah terdapat Free LLM API dengan konteks 1 juta token?
Ada. Model Gemini Flash pada tier percuma Google AI Studio mempunyai tetingkap konteks lebih kurang 1 juta token. Katalog FreeLLMAPI mempunyai 56 tawaran model percuma dengan 1M token atau lebih.
Bolehkah saya menghantar 1 juta token secara percuma dalam satu permintaan?
Biasanya tidak. Tier Gemini percuma dalam katalog membenarkan 250,000 token seminit, jadi gesaan yang lebih besar mendapat ralat 429. Rancang untuk beberapa ratus ribu token bagi setiap permintaan.
Bagaimana saya mengira token sebelum saya menghantar gesaan?
Panggil kaedah asli Gemini countTokens melalui FreeLLMAPI di /v1beta/models/{model}:countTokens. Bagi teks bahasa Inggeris, lebih kurang 4 aksara membentuk satu token.
LLM percuma yang manakah mempunyai tetingkap konteks terbesar?
Jadual pada halaman ini menyusun model percuma mengikut saiz konteks, yang terbesar dahulu. Beberapa model percuma mencapai lebih kurang 1 juta token. Baca juga kolum had percuma, kerana had TPM menentukan saiz sebenar bagi satu permintaan.
Adakah konteks panjang lebih baik daripada RAG?
Konteks panjang lebih baik untuk satu dokumen yang anda baca sekali. RAG lebih baik untuk banyak soalan tentang data besar, kerana ia menghantar lebih sedikit token setiap kali.
Panduan berkaitan
- Free LLM API untuk RAG
- API embeddings percuma
- free gemini api
- Kuota Gemini API melebihi (429 RESOURCE_EXHAUSTED)
- Had kadar Free LLM API
Sumber
- FreeLLMAPI docs: Native Gemini API (disemak 20 November 2026)
- FreeLLMAPI docs: Chat completions and routing (disemak 20 November 2026)
- Google AI Studio docs: Thinking (disemak 20 November 2026)
- Gemini Developer API pricing (disemak 20 November 2026)