Laman utama / Panduan / Free LLM API dengan konteks 1 juta token

Free LLM API dengan konteks 1 juta token

Tetingkap konteks yang panjang membolehkan model membaca sebuah buku penuh, pangkalan kod yang besar atau berjam-jam transkrip dalam satu permintaan. Katalog FreeLLMAPI mempunyai 56 tawaran model percuma dengan tetingkap konteks 1 juta token atau lebih. Panduan ini menunjukkan model ini dan had tier percuma yang menentukan berapa banyak yang benar-benar boleh anda hantar.

Kod, nama model dan label katalog langsung dipaparkan dalam bahasa Inggeris.

Model percuma dengan konteks 1M+ token hari ini

Jadual menyenaraikan model percuma dengan tetingkap konteks sekurang-kurangnya 1,000,000 token, yang terbesar dahulu. Data datang daripada katalog langsung. Lihat kolum "Free limits" serta saiz konteks.

Model percuma dengan konteks 1M+ token, yang terbesar dahulu
ModelPercuma padaKonteksHad percuma (tawaran terbaik)AlatPenglihatan
OpenAI: GPT-6 LunaElectronHub1.1M$0.25/week shared free creditsTidakTidak
Gemini 3.8 FlashAPINex, Google AI Studio1M5 permintaan/minit
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
YaYa
Gemini 3.7 FlashGoogle AI Studio1M10 permintaan/minit
20 permintaan/hari
250,000 token/minit
~3M
YaYa
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 permintaan/minit
50 permintaan/hari
Shared rate limit
YaTidak
DeepSeek V4 Flash 0731Router91M10,000 credits/month (~$1), shared; account-anniversary resetTidakTidak
Gemini 3.6 FlashGoogle AI Studio1M10 permintaan/minit
20 permintaan/hari
250,000 token/minit
~3M
YaYa
GLM 5.2Router91M10,000 credits/month (~$1), shared; account-anniversary resetTidakTidak
Gemini 3.5 FlashGoogle AI Studio1M10 permintaan/minit
20 permintaan/hari
250,000 token/minit
~3M
YaYa
DeepSeek V4 ProAPINex, Router91M5 permintaan/minit
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
TidakTidak
Nemotron 3 Ultra 550BGizmo, Kilo Gateway, LLMTR +3 lagi1M200 permintaan/hari
200 rpd
YaTidak
Gemini 3.5 Flash LiteElectronHub, Google AI Studio1M15 permintaan/minit
20 permintaan/hari
250,000 token/minit
~3M
YaYa
Gemini 3 Flash PreviewGoogle AI Studio1M10 permintaan/minit
20 permintaan/hari
250,000 token/minit
~3M
YaYa
Gemini 3.1 Flash-LiteDreamPrompting, Google AI Studio1M100 permintaan/minit
5,000 permintaan/hari
500,000 token/hari
500K tokens/day · 5,000 req/day
YaYa
Gemini 2.5 FlashDreamPrompting, ElectronHub, Google AI Studio1M100 permintaan/minit
5,000 permintaan/hari
500,000 token/hari
500K tokens/day · 5,000 req/day
YaYa
Nemotron 3.5 LightningElectronHub, Gizmo, Kilo Gateway +2 lagi1M20 permintaan/minit
50 permintaan/hari
50 req/day account-wide (1,000 after a $10 purchase)
YaTidak

Memaparkan 15 daripada 33 model percuma yang sepadan. Lihat semua model.

Data langsung daripada katalog FreeLLMAPI (versi 2026.11.19, disemak 2026-11-19). Had percuma kerap berubah. Katalog disemak setiap hari.

Model Gemini Flash daripada Google AI Studio ialah model percuma 1M token yang paling dikenali. Ia juga menerima imej dan panggilan alat. Baris lain datang daripada penghala percuma dan daripada NVIDIA.

Had sebenar: token seminit

Tetingkap konteks ialah gesaan terbesar yang boleh dibaca oleh model. Tier percuma juga mempunyai had token seminit (TPM). Pada banyak tier percuma, had TPM lebih kecil daripada tetingkap konteks.

  • Contoh: kunci Gemini Flash percuma dalam jadual membenarkan 250,000 token seminit. Gesaan 800,000 token berada dalam tetingkap konteks, tetapi melebihi had TPM. Pembekal menghantar ralat 429.
  • Permintaan sehari: sesetengah model Gemini percuma hanya membenarkan lebih kurang 20 permintaan setiap hari. Gunakan gesaan panjang untuk tugas yang memerlukannya.
  • Output berasingan: jawapan mempunyai panjang maksimumnya sendiri. Konteks 1M token tidak memberi jawapan 1M token.

Jadi dalam amalan, model percuma 1M konteks boleh membaca beberapa ratus ribu token dalam satu permintaan. Ukur gesaan anda sebelum anda menghantarnya.

Langkah 1: Pasang FreeLLMAPI dan tambah kunci

FreeLLMAPI ialah sumber terbuka. Ia berjalan pada komputer anda dalam Docker. Kunci pembekal anda kekal pada komputer anda.

Pasang (macOS atau Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

Buka papan pemuka di http://localhost:3001. Tambah kunci Google AI Studio pada halaman Keys. Tambah juga kunci daripada pembekal lain dalam jadual, supaya penghala mempunyai model konteks panjang lain apabila Google menghantar ralat 429. Salin kunci bersatu anda daripada halaman yang sama.

Langkah 2: Kira token, kemudian hantar dokumen panjang

FreeLLMAPI menyediakan kaedah asli Gemini countTokens. Gunakannya untuk mengukur gesaan sebelum anda menghantarnya.

curl: kira token dengan titik akhir Gemini asli

curl "http://localhost:3001/v1beta/models/gemini-2.5-flash:countTokens" \
  -H "x-goog-api-key: <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"contents": [{"role": "user", "parts": [{"text": "Paste the long text here"}]}]}'

Python: hantar fail panjang kepada model 1M konteks

from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>", timeout=300)

doc = open("annual-report.txt", encoding="utf-8").read()
print("about", len(doc) // 4, "tokens")  # rough rule for English text

resp = client.chat.completions.with_raw_response.create(
    model="gemini-2.5-flash",  # pin a 1M-context model; "auto" can pick a smaller one
    messages=[
        {"role": "system", "content": "Answer only from the document. Quote the section you use."},
        {"role": "user", "content": doc + "\n\nQuestion: What are the three largest risks?"},
    ],
    max_tokens=4000,
)
print("Routed via:", resp.headers.get("x-routed-via"))
print(resp.parse().choices[0].message.content)

Kunci model konteks panjang mengikut id-nya. Dengan model: "auto", penghala boleh memilih model dengan tetingkap konteks yang lebih kecil. Tetapkan tamat masa klien yang panjang, kerana gesaan besar mengambil masa untuk dibaca.

Konteks panjang atau RAG?

Gunakan konteks panjang apabilaGunakan RAG apabila
Dokumen dibaca sekali, contohnya satu kontrak atau satu laporanAnda bertanya banyak soalan tentang data besar yang sama
Jawapan memerlukan teks penuh, contohnya ringkasan atau perbandingan bahagianJawapan terdapat dalam beberapa petikan pendek
Teks lebih kecil daripada had TPM kunci percuma andaData lebih besar daripada mana-mana tetingkap konteks atau had TPM percuma
Anda memerlukan model melihat susunan dan struktur teksAnda perlu mengekalkan setiap permintaan kecil dan pantas

RAG hanya menghantar bahagian data yang berkaitan dengan setiap soalan. Ia menggunakan lebih sedikit token pada tier percuma. Baca Free LLM API for RAG dan Free embeddings API untuk menyediakannya.

Perangkap dan penyelesaian masalah

  • Butiran hilang: model boleh terlepas fakta di tengah gesaan yang sangat panjang. Letakkan soalan anda selepas dokumen, dan minta model memetik sumbernya.
  • Token pemikiran: model Gemini Flash boleh menggunakan token pemikiran tersembunyi daripada belanjawan output. Jangan tetapkan max_tokens yang sangat kecil.
  • Fail PDF: FreeLLMAPI tidak menukar fail PDF, DOCX atau XLSX. Lampiran dokumen binari mengembalikan ralat 400. Ekstrak teks dahulu, kemudian hantar teks itu.
  • Bersihkan teks: buang pengepala halaman, pengaki dan jadual kandungan yang berulang sebelum anda menghantar dokumen. Ia menggunakan token dan tidak menambah fakta.
  • Gesaan berulang: setiap permintaan menghantar semula keseluruhan dokumen. Tanya beberapa soalan dalam satu permintaan apabila anda boleh.
MasalahPuncaPenyelesaian
Ralat 429 pada permintaan panjang pertamaGesaan lebih besar daripada had TPMKecilkan gesaan, atau gunakan RAG
Ralat 400 tentang panjang konteksPermintaan dihala ke model dengan tetingkap yang lebih kecilKunci id model daripada jadual
Jawapan kosong atau terpotongmax_tokens terlalu kecil, atau pemikiran menggunakannyaTetapkan max_tokens yang lebih besar
Tamat masaModel memerlukan masa untuk membaca gesaanTetapkan tamat masa klien sebanyak 300 saat atau lebih
Guna setiap satu daripada ini melalui satu kunci. FreeLLMAPI ialah penghala sumber terbuka yang anda hoskan sendiri. Ia meletakkan semua peringkat percuma ini di belakang satu titik akhir serasi OpenAI dan beralih ke pembekal lain apabila had kadar dicapai. Layari katalog atau mula sekarang.

Soalan lazim

Adakah terdapat Free LLM API dengan konteks 1 juta token?

Ada. Model Gemini Flash pada tier percuma Google AI Studio mempunyai tetingkap konteks lebih kurang 1 juta token. Katalog FreeLLMAPI mempunyai 56 tawaran model percuma dengan 1M token atau lebih.

Bolehkah saya menghantar 1 juta token secara percuma dalam satu permintaan?

Biasanya tidak. Tier Gemini percuma dalam katalog membenarkan 250,000 token seminit, jadi gesaan yang lebih besar mendapat ralat 429. Rancang untuk beberapa ratus ribu token bagi setiap permintaan.

Bagaimana saya mengira token sebelum saya menghantar gesaan?

Panggil kaedah asli Gemini countTokens melalui FreeLLMAPI di /v1beta/models/{model}:countTokens. Bagi teks bahasa Inggeris, lebih kurang 4 aksara membentuk satu token.

LLM percuma yang manakah mempunyai tetingkap konteks terbesar?

Jadual pada halaman ini menyusun model percuma mengikut saiz konteks, yang terbesar dahulu. Beberapa model percuma mencapai lebih kurang 1 juta token. Baca juga kolum had percuma, kerana had TPM menentukan saiz sebenar bagi satu permintaan.

Adakah konteks panjang lebih baik daripada RAG?

Konteks panjang lebih baik untuk satu dokumen yang anda baca sekali. RAG lebih baik untuk banyak soalan tentang data besar, kerana ia menghantar lebih sedikit token setiap kali.

Panduan berkaitan

Sumber

Semua panduan · Lihat semua model percuma