Beranda / Panduan / API LLM gratis dengan konteks 1 juta token

API LLM gratis dengan konteks 1 juta token

Jendela konteks yang panjang memungkinkan model membaca satu buku utuh, basis kode yang besar, atau berjam-jam transkrip dalam satu permintaan. Katalog FreeLLMAPI memiliki 56 penawaran model gratis dengan jendela konteks 1 juta token atau lebih. Panduan ini menunjukkan model-model tersebut dan batas tier gratis yang menentukan seberapa banyak yang benar-benar dapat Anda kirim.

Kode, nama model, dan label katalog langsung ditampilkan dalam bahasa Inggris.

Model gratis dengan konteks 1M+ token saat ini

Tabel ini mencantumkan model gratis dengan jendela konteks minimal 1,000,000 token, dari yang terbesar. Data berasal dari katalog langsung. Perhatikan juga kolom "Batas gratis" selain ukuran konteks.

Model gratis dengan konteks 1M+ token, dari yang terbesar
ModelGratis diKonteksBatas gratis (penawaran terbaik)AlatPemrosesan gambar
OpenAI: GPT-6 LunaElectronHub1.1M$0.25/week shared free creditsTidakTidak
Gemini 3.8 FlashAPINex, Google AI Studio1M5 permintaan/menit
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
YaYa
Gemini 3.7 FlashGoogle AI Studio1M10 permintaan/menit
20 permintaan/hari
250,000 token/menit
~3M
YaYa
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 permintaan/menit
50 permintaan/hari
Shared rate limit
YaTidak
DeepSeek V4 Flash 0731Router91M10,000 credits/month (~$1), shared; account-anniversary resetTidakTidak
Gemini 3.6 FlashGoogle AI Studio1M10 permintaan/menit
20 permintaan/hari
250,000 token/menit
~3M
YaYa
GLM 5.2Router91M10,000 credits/month (~$1), shared; account-anniversary resetTidakTidak
Gemini 3.5 FlashGoogle AI Studio1M10 permintaan/menit
20 permintaan/hari
250,000 token/menit
~3M
YaYa
DeepSeek V4 ProAPINex, Router91M5 permintaan/menit
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
TidakTidak
Nemotron 3 Ultra 550BGizmo, Kilo Gateway, LLMTR +3 lagi1M200 permintaan/hari
200 rpd
YaTidak
Gemini 3.5 Flash LiteElectronHub, Google AI Studio1M15 permintaan/menit
20 permintaan/hari
250,000 token/menit
~3M
YaYa
Gemini 3 Flash PreviewGoogle AI Studio1M10 permintaan/menit
20 permintaan/hari
250,000 token/menit
~3M
YaYa
Gemini 3.1 Flash-LiteDreamPrompting, Google AI Studio1M100 permintaan/menit
5,000 permintaan/hari
500,000 token/hari
500K tokens/day · 5,000 req/day
YaYa
Gemini 2.5 FlashDreamPrompting, ElectronHub, Google AI Studio1M100 permintaan/menit
5,000 permintaan/hari
500,000 token/hari
500K tokens/day · 5,000 req/day
YaYa
Nemotron 3.5 LightningElectronHub, Gizmo, Kilo Gateway +2 lagi1M20 permintaan/menit
50 permintaan/hari
50 req/day account-wide (1,000 after a $10 purchase)
YaTidak

Menampilkan 15 dari 33 model gratis yang cocok. Lihat semua model.

Data langsung dari katalog FreeLLMAPI (versi 2026.11.19, diperiksa 2026-11-19). Batas gratis sering berubah. Katalog diperiksa setiap hari.

Model Gemini Flash dari Google AI Studio adalah model gratis 1 juta token yang paling dikenal. Model ini juga menerima gambar dan panggilan tool. Baris lain berasal dari router gratis dan dari NVIDIA.

Batas sebenarnya: token per menit

Jendela konteks adalah prompt terbesar yang dapat dibaca model. Tier gratis juga memiliki batas token per menit (TPM). Pada banyak tier gratis, batas TPM lebih kecil daripada jendela konteks.

  • Contoh: kunci Gemini Flash gratis dalam tabel mengizinkan 250,000 token per menit. Prompt 800,000 token berada dalam jendela konteks, tetapi di atas batas TPM. Penyedia mengirim error 429.
  • Permintaan per hari: sebagian model Gemini gratis hanya mengizinkan sekitar 20 permintaan setiap hari. Gunakan prompt panjang untuk tugas yang memerlukannya.
  • Output terpisah: jawaban memiliki panjang maksimum sendiri. Konteks 1M token tidak berarti jawaban 1M token.

Jadi dalam praktik, model gratis dengan konteks 1M dapat membaca beberapa ratus ribu token dalam satu permintaan. Ukur prompt Anda sebelum mengirimnya.

Langkah 1: Pasang FreeLLMAPI dan tambahkan kunci

FreeLLMAPI bersifat sumber terbuka. Ia berjalan di komputer Anda dengan Docker. Kunci penyedia Anda tetap berada di komputer Anda.

Pasang (macOS atau Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

Buka dasbor di http://localhost:3001. Tambahkan kunci Google AI Studio di halaman Keys. Tambahkan juga kunci dari penyedia lain dalam tabel, agar router memiliki model konteks panjang lain saat Google mengirim error 429. Salin kunci terpadu Anda dari halaman yang sama.

Langkah 2: Hitung token, lalu kirim dokumen panjang

FreeLLMAPI menyajikan metode native Gemini countTokens. Gunakan metode ini untuk mengukur prompt sebelum Anda mengirimnya.

curl: hitung token dengan endpoint Gemini native

curl "http://localhost:3001/v1beta/models/gemini-2.5-flash:countTokens" \
  -H "x-goog-api-key: <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"contents": [{"role": "user", "parts": [{"text": "Paste the long text here"}]}]}'

Python: kirim file panjang ke model 1M-context

from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>", timeout=300)

doc = open("annual-report.txt", encoding="utf-8").read()
print("about", len(doc) // 4, "tokens")  # rough rule for English text

resp = client.chat.completions.with_raw_response.create(
    model="gemini-2.5-flash",  # pin a 1M-context model; "auto" can pick a smaller one
    messages=[
        {"role": "system", "content": "Answer only from the document. Quote the section you use."},
        {"role": "user", "content": doc + "\n\nQuestion: What are the three largest risks?"},
    ],
    max_tokens=4000,
)
print("Routed via:", resp.headers.get("x-routed-via"))
print(resp.parse().choices[0].message.content)

Kunci model konteks panjang berdasarkan id-nya. Dengan model: "auto", router dapat memilih model dengan jendela konteks yang lebih kecil. Atur timeout klien yang panjang, karena prompt besar membutuhkan waktu untuk dibaca.

Konteks panjang atau RAG?

Gunakan konteks panjang saatGunakan RAG saat
Dokumen dibaca sekali, misalnya satu kontrak atau satu laporanAnda mengajukan banyak pertanyaan tentang data besar yang sama
Jawaban memerlukan teks lengkap, misalnya ringkasan atau perbandingan beberapa bagianJawaban ada di beberapa bagian pendek
Teksnya lebih kecil daripada batas TPM kunci gratis AndaDatanya lebih besar daripada jendela konteks atau batas TPM gratis mana pun
Anda membutuhkan model untuk melihat urutan dan struktur teksAnda perlu menjaga setiap permintaan tetap kecil dan cepat

RAG hanya mengirim bagian data yang relevan bersama setiap pertanyaan. RAG menggunakan lebih sedikit token pada tier gratis. Baca API LLM gratis untuk RAG dan API embeddings gratis untuk menyiapkannya.

Jebakan dan pemecahan masalah

  • Detail yang hilang: model dapat melewatkan fakta di tengah prompt yang sangat panjang. Letakkan pertanyaan Anda setelah dokumen, dan minta model mengutip sumbernya.
  • Token berpikir: model Gemini Flash dapat menggunakan token berpikir tersembunyi dari anggaran output. Jangan atur max_tokens yang sangat kecil.
  • File PDF: FreeLLMAPI tidak mengonversi file PDF, DOCX, atau XLSX. Lampiran dokumen biner mengembalikan error 400. Ekstrak teksnya terlebih dahulu, lalu kirim teksnya.
  • Bersihkan teks: hapus header halaman, footer, dan daftar isi yang berulang sebelum Anda mengirim dokumen. Bagian itu memakai token dan tidak menambah fakta.
  • Prompt berulang: setiap permintaan mengirim ulang seluruh dokumen. Ajukan beberapa pertanyaan dalam satu permintaan jika memungkinkan.
MasalahPenyebabSolusi
Error 429 pada permintaan panjang pertamaPrompt lebih besar dari batas TPMPerkecil prompt, atau gunakan RAG
Error 400 tentang panjang konteksPermintaan dikirim ke model dengan jendela yang lebih kecilKunci id model dari tabel
Jawaban kosong atau terpotongmax_tokens terlalu kecil, atau dipakai untuk berpikirAtur max_tokens yang lebih besar
TimeoutModel membutuhkan waktu untuk membaca promptAtur timeout klien 300 detik atau lebih
Gunakan semua ini melalui satu kunci. FreeLLMAPI adalah router sumber terbuka yang Anda hosting sendiri. Router ini menempatkan semua paket gratis ini di balik satu endpoint yang kompatibel dengan OpenAI, dan beralih ke penyedia lain saat batas permintaan tercapai. Lihat katalog atau mulai.

Pertanyaan yang sering diajukan

Apakah ada API LLM gratis dengan konteks 1 juta token?

Ada. Model Gemini Flash pada tier gratis Google AI Studio memiliki jendela konteks sekitar 1 juta token. Katalog FreeLLMAPI memiliki 56 penawaran model gratis dengan 1M token atau lebih.

Bisakah saya mengirim 1 juta token gratis dalam satu permintaan?

Biasanya tidak. Tier Gemini gratis dalam katalog mengizinkan 250,000 token per menit, sehingga prompt yang lebih besar mendapat error 429. Rencanakan beberapa ratus ribu token untuk setiap permintaan.

Bagaimana cara menghitung token sebelum saya mengirim prompt?

Panggil metode native Gemini countTokens melalui FreeLLMAPI di /v1beta/models/{model}:countTokens. Untuk teks bahasa Inggris, sekitar 4 karakter membentuk satu token.

Model LLM gratis mana yang memiliki jendela konteks terbesar?

Tabel di halaman ini mengurutkan model gratis berdasarkan ukuran konteks, dari yang terbesar. Beberapa model gratis mencapai sekitar 1 juta token. Baca juga kolom batas gratis, karena batas TPM menentukan ukuran sebenarnya dari satu permintaan.

Apakah konteks panjang lebih baik daripada RAG?

Konteks panjang lebih baik untuk satu dokumen yang dibaca sekali. RAG lebih baik untuk banyak pertanyaan tentang data besar, karena setiap kali RAG mengirim lebih sedikit token.

Panduan terkait

Sumber

Semua panduan · Lihat semua model gratis