API LLM gratis dengan konteks 1 juta token
Jendela konteks yang panjang memungkinkan model membaca satu buku utuh, basis kode yang besar, atau berjam-jam transkrip dalam satu permintaan. Katalog FreeLLMAPI memiliki 56 penawaran model gratis dengan jendela konteks 1 juta token atau lebih. Panduan ini menunjukkan model-model tersebut dan batas tier gratis yang menentukan seberapa banyak yang benar-benar dapat Anda kirim.
Kode, nama model, dan label katalog langsung ditampilkan dalam bahasa Inggris.
Model gratis dengan konteks 1M+ token saat ini
Tabel ini mencantumkan model gratis dengan jendela konteks minimal 1,000,000 token, dari yang terbesar. Data berasal dari katalog langsung. Perhatikan juga kolom "Batas gratis" selain ukuran konteks.
| Model | Gratis di | Konteks | Batas gratis (penawaran terbaik) | Alat | Pemrosesan gambar |
|---|---|---|---|---|---|
| OpenAI: GPT-6 Luna | ElectronHub | 1.1M | $0.25/week shared free credits | Tidak | Tidak |
| Gemini 3.8 Flash | APINex, Google AI Studio | 1M | 5 permintaan/menit 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | Ya | Ya |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 permintaan/menit 20 permintaan/hari 250,000 token/menit ~3M | Ya | Ya |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 permintaan/menit 50 permintaan/hari Shared rate limit | Ya | Tidak |
| DeepSeek V4 Flash 0731 | Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | Tidak | Tidak |
| Gemini 3.6 Flash | Google AI Studio | 1M | 10 permintaan/menit 20 permintaan/hari 250,000 token/menit ~3M | Ya | Ya |
| GLM 5.2 | Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | Tidak | Tidak |
| Gemini 3.5 Flash | Google AI Studio | 1M | 10 permintaan/menit 20 permintaan/hari 250,000 token/menit ~3M | Ya | Ya |
| DeepSeek V4 Pro | APINex, Router9 | 1M | 5 permintaan/menit 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | Tidak | Tidak |
| Nemotron 3 Ultra 550B | Gizmo, Kilo Gateway, LLMTR +3 lagi | 1M | 200 permintaan/hari 200 rpd | Ya | Tidak |
| Gemini 3.5 Flash Lite | ElectronHub, Google AI Studio | 1M | 15 permintaan/menit 20 permintaan/hari 250,000 token/menit ~3M | Ya | Ya |
| Gemini 3 Flash Preview | Google AI Studio | 1M | 10 permintaan/menit 20 permintaan/hari 250,000 token/menit ~3M | Ya | Ya |
| Gemini 3.1 Flash-Lite | DreamPrompting, Google AI Studio | 1M | 100 permintaan/menit 5,000 permintaan/hari 500,000 token/hari 500K tokens/day · 5,000 req/day | Ya | Ya |
| Gemini 2.5 Flash | DreamPrompting, ElectronHub, Google AI Studio | 1M | 100 permintaan/menit 5,000 permintaan/hari 500,000 token/hari 500K tokens/day · 5,000 req/day | Ya | Ya |
| Nemotron 3.5 Lightning | ElectronHub, Gizmo, Kilo Gateway +2 lagi | 1M | 20 permintaan/menit 50 permintaan/hari 50 req/day account-wide (1,000 after a $10 purchase) | Ya | Tidak |
Menampilkan 15 dari 33 model gratis yang cocok. Lihat semua model.
Data langsung dari katalog FreeLLMAPI (versi 2026.11.19, diperiksa 2026-11-19). Batas gratis sering berubah. Katalog diperiksa setiap hari.
Model Gemini Flash dari Google AI Studio adalah model gratis 1 juta token yang paling dikenal. Model ini juga menerima gambar dan panggilan tool. Baris lain berasal dari router gratis dan dari NVIDIA.
Batas sebenarnya: token per menit
Jendela konteks adalah prompt terbesar yang dapat dibaca model. Tier gratis juga memiliki batas token per menit (TPM). Pada banyak tier gratis, batas TPM lebih kecil daripada jendela konteks.
- Contoh: kunci Gemini Flash gratis dalam tabel mengizinkan 250,000 token per menit. Prompt 800,000 token berada dalam jendela konteks, tetapi di atas batas TPM. Penyedia mengirim error 429.
- Permintaan per hari: sebagian model Gemini gratis hanya mengizinkan sekitar 20 permintaan setiap hari. Gunakan prompt panjang untuk tugas yang memerlukannya.
- Output terpisah: jawaban memiliki panjang maksimum sendiri. Konteks 1M token tidak berarti jawaban 1M token.
Jadi dalam praktik, model gratis dengan konteks 1M dapat membaca beberapa ratus ribu token dalam satu permintaan. Ukur prompt Anda sebelum mengirimnya.
Langkah 1: Pasang FreeLLMAPI dan tambahkan kunci
FreeLLMAPI bersifat sumber terbuka. Ia berjalan di komputer Anda dengan Docker. Kunci penyedia Anda tetap berada di komputer Anda.
Pasang (macOS atau Linux)
curl -fsSL https://freellmapi.co/install.sh | bashBuka dasbor di http://localhost:3001. Tambahkan kunci Google AI Studio di halaman Keys. Tambahkan juga kunci dari penyedia lain dalam tabel, agar router memiliki model konteks panjang lain saat Google mengirim error 429. Salin kunci terpadu Anda dari halaman yang sama.
Langkah 2: Hitung token, lalu kirim dokumen panjang
FreeLLMAPI menyajikan metode native Gemini countTokens. Gunakan metode ini untuk mengukur prompt sebelum Anda mengirimnya.
curl: hitung token dengan endpoint Gemini native
curl "http://localhost:3001/v1beta/models/gemini-2.5-flash:countTokens" \
-H "x-goog-api-key: <unified-key>" \
-H "Content-Type: application/json" \
-d '{"contents": [{"role": "user", "parts": [{"text": "Paste the long text here"}]}]}'Python: kirim file panjang ke model 1M-context
from openai import OpenAI
client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>", timeout=300)
doc = open("annual-report.txt", encoding="utf-8").read()
print("about", len(doc) // 4, "tokens") # rough rule for English text
resp = client.chat.completions.with_raw_response.create(
model="gemini-2.5-flash", # pin a 1M-context model; "auto" can pick a smaller one
messages=[
{"role": "system", "content": "Answer only from the document. Quote the section you use."},
{"role": "user", "content": doc + "\n\nQuestion: What are the three largest risks?"},
],
max_tokens=4000,
)
print("Routed via:", resp.headers.get("x-routed-via"))
print(resp.parse().choices[0].message.content)Kunci model konteks panjang berdasarkan id-nya. Dengan model: "auto", router dapat memilih model dengan jendela konteks yang lebih kecil. Atur timeout klien yang panjang, karena prompt besar membutuhkan waktu untuk dibaca.
Konteks panjang atau RAG?
| Gunakan konteks panjang saat | Gunakan RAG saat |
|---|---|
| Dokumen dibaca sekali, misalnya satu kontrak atau satu laporan | Anda mengajukan banyak pertanyaan tentang data besar yang sama |
| Jawaban memerlukan teks lengkap, misalnya ringkasan atau perbandingan beberapa bagian | Jawaban ada di beberapa bagian pendek |
| Teksnya lebih kecil daripada batas TPM kunci gratis Anda | Datanya lebih besar daripada jendela konteks atau batas TPM gratis mana pun |
| Anda membutuhkan model untuk melihat urutan dan struktur teks | Anda perlu menjaga setiap permintaan tetap kecil dan cepat |
RAG hanya mengirim bagian data yang relevan bersama setiap pertanyaan. RAG menggunakan lebih sedikit token pada tier gratis. Baca API LLM gratis untuk RAG dan API embeddings gratis untuk menyiapkannya.
Jebakan dan pemecahan masalah
- Detail yang hilang: model dapat melewatkan fakta di tengah prompt yang sangat panjang. Letakkan pertanyaan Anda setelah dokumen, dan minta model mengutip sumbernya.
- Token berpikir: model Gemini Flash dapat menggunakan token berpikir tersembunyi dari anggaran output. Jangan atur
max_tokensyang sangat kecil. - File PDF: FreeLLMAPI tidak mengonversi file PDF, DOCX, atau XLSX. Lampiran dokumen biner mengembalikan error 400. Ekstrak teksnya terlebih dahulu, lalu kirim teksnya.
- Bersihkan teks: hapus header halaman, footer, dan daftar isi yang berulang sebelum Anda mengirim dokumen. Bagian itu memakai token dan tidak menambah fakta.
- Prompt berulang: setiap permintaan mengirim ulang seluruh dokumen. Ajukan beberapa pertanyaan dalam satu permintaan jika memungkinkan.
| Masalah | Penyebab | Solusi |
|---|---|---|
| Error 429 pada permintaan panjang pertama | Prompt lebih besar dari batas TPM | Perkecil prompt, atau gunakan RAG |
| Error 400 tentang panjang konteks | Permintaan dikirim ke model dengan jendela yang lebih kecil | Kunci id model dari tabel |
| Jawaban kosong atau terpotong | max_tokens terlalu kecil, atau dipakai untuk berpikir | Atur max_tokens yang lebih besar |
| Timeout | Model membutuhkan waktu untuk membaca prompt | Atur timeout klien 300 detik atau lebih |
Pertanyaan yang sering diajukan
Apakah ada API LLM gratis dengan konteks 1 juta token?
Ada. Model Gemini Flash pada tier gratis Google AI Studio memiliki jendela konteks sekitar 1 juta token. Katalog FreeLLMAPI memiliki 56 penawaran model gratis dengan 1M token atau lebih.
Bisakah saya mengirim 1 juta token gratis dalam satu permintaan?
Biasanya tidak. Tier Gemini gratis dalam katalog mengizinkan 250,000 token per menit, sehingga prompt yang lebih besar mendapat error 429. Rencanakan beberapa ratus ribu token untuk setiap permintaan.
Bagaimana cara menghitung token sebelum saya mengirim prompt?
Panggil metode native Gemini countTokens melalui FreeLLMAPI di /v1beta/models/{model}:countTokens. Untuk teks bahasa Inggris, sekitar 4 karakter membentuk satu token.
Model LLM gratis mana yang memiliki jendela konteks terbesar?
Tabel di halaman ini mengurutkan model gratis berdasarkan ukuran konteks, dari yang terbesar. Beberapa model gratis mencapai sekitar 1 juta token. Baca juga kolom batas gratis, karena batas TPM menentukan ukuran sebenarnya dari satu permintaan.
Apakah konteks panjang lebih baik daripada RAG?
Konteks panjang lebih baik untuk satu dokumen yang dibaca sekali. RAG lebih baik untuk banyak pertanyaan tentang data besar, karena setiap kali RAG mengirim lebih sedikit token.
Panduan terkait
- API LLM gratis untuk RAG
- API embeddings gratis
- free gemini api
- Kuota Gemini API terlampaui (429 RESOURCE_EXHAUSTED)
- Batas rate limit API LLM gratis
Sumber
- FreeLLMAPI docs: Native Gemini API (diperiksa 20 November 2026)
- FreeLLMAPI docs: Chat completions and routing (diperiksa 20 November 2026)
- Google AI Studio docs: Thinking (diperiksa 20 November 2026)
- Gemini Developer API pricing (diperiksa 20 November 2026)