หน้าแรก / คู่มือ / Free LLM API ที่มี context 1 ล้านโทเค็น

Free LLM API ที่มี context 1 ล้านโทเค็น

หน้าต่าง context ที่ยาวทำให้โมเดลอ่านหนังสือทั้งเล่ม โค้ดเบสขนาดใหญ่ หรือบันทึกการถอดเสียงหลายชั่วโมงในคำขอเดียวได้ แคตตาล็อกของ FreeLLMAPI มีข้อเสนอโมเดลฟรี 56 รายการที่มีหน้าต่าง context 1 ล้านโทเค็นขึ้นไป คู่มือนี้แสดงโมเดลเหล่านี้และขีดจำกัดของแพ็กเกจฟรีที่กำหนดว่าคุณส่งได้จริงมากเพียงใด

โค้ด ชื่อโมเดล และป้ายกำกับของแคตตาล็อกสดจะแสดงเป็นภาษาอังกฤษ

โมเดลฟรีที่มี context 1M+ โทเค็นในปัจจุบัน

ตารางแสดงโมเดลฟรีที่มีหน้าต่าง context อย่างน้อย 1,000,000 โทเค็น เรียงจากใหญ่ที่สุด ข้อมูลมาจากแคตตาล็อกสด ดูคอลัมน์ "Free limits" ควบคู่กับขนาด context ด้วย

โมเดลฟรีที่มี context 1M+ โทเค็น เรียงจากใหญ่ที่สุด
โมเดลฟรีบนขนาดบริบทขีดจำกัดฟรี (ข้อเสนอที่ดีที่สุด)เครื่องมือการอ่านภาพ
OpenAI: GPT-6 LunaElectronHub1.1M$0.25/week shared free creditsไม่ไม่
Gemini 3.8 FlashAPINex, Google AI Studio1M5 คำขอ/นาที
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
ใช่ใช่
Gemini 3.7 FlashGoogle AI Studio1M10 คำขอ/นาที
20 คำขอ/วัน
250,000 โทเคน/นาที
~3M
ใช่ใช่
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 คำขอ/นาที
50 คำขอ/วัน
Shared rate limit
ใช่ไม่
DeepSeek V4 Flash 0731Router91M10,000 credits/month (~$1), shared; account-anniversary resetไม่ไม่
Gemini 3.6 FlashGoogle AI Studio1M10 คำขอ/นาที
20 คำขอ/วัน
250,000 โทเคน/นาที
~3M
ใช่ใช่
GLM 5.2Router91M10,000 credits/month (~$1), shared; account-anniversary resetไม่ไม่
Gemini 3.5 FlashGoogle AI Studio1M10 คำขอ/นาที
20 คำขอ/วัน
250,000 โทเคน/นาที
~3M
ใช่ใช่
DeepSeek V4 ProAPINex, Router91M5 คำขอ/นาที
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
ไม่ไม่
Nemotron 3 Ultra 550BGizmo, Kilo Gateway, LLMTR +3 รายการเพิ่มเติม1M200 คำขอ/วัน
200 rpd
ใช่ไม่
Gemini 3.5 Flash LiteElectronHub, Google AI Studio1M15 คำขอ/นาที
20 คำขอ/วัน
250,000 โทเคน/นาที
~3M
ใช่ใช่
Gemini 3 Flash PreviewGoogle AI Studio1M10 คำขอ/นาที
20 คำขอ/วัน
250,000 โทเคน/นาที
~3M
ใช่ใช่
Gemini 3.1 Flash-LiteDreamPrompting, Google AI Studio1M100 คำขอ/นาที
5,000 คำขอ/วัน
500,000 โทเคน/วัน
500K tokens/day · 5,000 req/day
ใช่ใช่
Gemini 2.5 FlashDreamPrompting, ElectronHub, Google AI Studio1M100 คำขอ/นาที
5,000 คำขอ/วัน
500,000 โทเคน/วัน
500K tokens/day · 5,000 req/day
ใช่ใช่
Nemotron 3.5 LightningElectronHub, Gizmo, Kilo Gateway +2 รายการเพิ่มเติม1M20 คำขอ/นาที
50 คำขอ/วัน
50 req/day account-wide (1,000 after a $10 purchase)
ใช่ไม่

แสดง 15 จาก 33 โมเดลฟรีที่ตรงกัน ดูโมเดลทั้งหมด.

ข้อมูลสดจากแคตตาล็อก FreeLLMAPI (เวอร์ชัน 2026.11.19 ตรวจสอบเมื่อ 2026-11-19) ขีดจำกัดฟรีเปลี่ยนบ่อย แคตตาล็อกถูกตรวจสอบทุกวัน

โมเดล Gemini Flash จาก Google AI Studio คือโมเดลฟรี 1M โทเค็นที่รู้จักกันดีที่สุด โมเดลเหล่านี้ยังรับรูปภาพและ tool call ได้ด้วย แถวอื่นมาจากเราเตอร์ฟรีและจาก NVIDIA

ขีดจำกัดจริง: โทเค็นต่อนาที

หน้าต่าง context คือพรอมต์ที่ใหญ่ที่สุดที่โมเดลอ่านได้ แพ็กเกจฟรียังมีขีดจำกัดโทเค็นต่อนาที (TPM) ในแพ็กเกจฟรีหลายรายการ ขีดจำกัด TPM น้อยกว่าหน้าต่าง context

  • ตัวอย่าง: คีย์ Gemini Flash ฟรีในตารางอนุญาต 250,000 โทเค็นต่อนาที พรอมต์ 800,000 โทเค็นอยู่ในหน้าต่าง context แต่เกินขีดจำกัด TPM ผู้ให้บริการจะส่งข้อผิดพลาด 429
  • คำขอต่อวัน: โมเดล Gemini ฟรีบางตัวอนุญาตเพียงประมาณ 20 คำขอต่อวัน ใช้พรอมต์ยาวสำหรับงานที่ต้องการเท่านั้น
  • เอาต์พุตแยกต่างหาก: คำตอบมีความยาวสูงสุดของตนเอง context 1M โทเค็นไม่ได้หมายความว่าคำตอบยาว 1M โทเค็น

ดังนั้นในทางปฏิบัติ โมเดลฟรีที่มี context 1M อ่านได้ประมาณไม่กี่แสนโทเค็นในคำขอเดียว วัดขนาดพรอมต์ของคุณก่อนส่ง

ขั้นตอนที่ 1: ติดตั้ง FreeLLMAPI และเพิ่มคีย์

FreeLLMAPI เป็นโอเพนซอร์ส ทำงานบนคอมพิวเตอร์ของคุณใน Docker คีย์ของผู้ให้บริการของคุณจะอยู่บนคอมพิวเตอร์ของคุณ

ติดตั้ง (macOS หรือ Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

เปิดแดชบอร์ดที่ http://localhost:3001 เพิ่มคีย์ Google AI Studio ในหน้า Keys เพิ่มคีย์จากผู้ให้บริการอื่นในตารางด้วย เพื่อให้เราเตอร์มีโมเดล long context อีกตัวเมื่อ Google ส่งข้อผิดพลาด 429 คัดลอกคีย์รวมจากหน้าเดียวกัน

ขั้นตอนที่ 2: นับโทเค็น แล้วส่งเอกสารยาว

FreeLLMAPI ให้บริการเมธอด countTokens ของ Gemini แบบเนทีฟ ใช้เมธอดนี้เพื่อวัดพรอมต์ก่อนส่ง

curl: นับโทเค็นด้วย endpoint Gemini แบบเนทีฟ

curl "http://localhost:3001/v1beta/models/gemini-2.5-flash:countTokens" \
  -H "x-goog-api-key: <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"contents": [{"role": "user", "parts": [{"text": "Paste the long text here"}]}]}'

Python: ส่งไฟล์ยาวไปยังโมเดล 1M context

from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>", timeout=300)

doc = open("annual-report.txt", encoding="utf-8").read()
print("about", len(doc) // 4, "tokens")  # rough rule for English text

resp = client.chat.completions.with_raw_response.create(
    model="gemini-2.5-flash",  # pin a 1M-context model; "auto" can pick a smaller one
    messages=[
        {"role": "system", "content": "Answer only from the document. Quote the section you use."},
        {"role": "user", "content": doc + "\n\nQuestion: What are the three largest risks?"},
    ],
    max_tokens=4000,
)
print("Routed via:", resp.headers.get("x-routed-via"))
print(resp.parse().choices[0].message.content)

กำหนดโมเดล long context ด้วย id ของโมเดล หากใช้ model: "auto" เราเตอร์อาจเลือกโมเดลที่มีหน้าต่าง context เล็กกว่า ตั้ง timeout ของไคลเอนต์ให้ยาว เพราะพรอมต์ขนาดใหญ่ใช้เวลาอ่าน

Long context หรือ RAG

ใช้ long context เมื่อใช้ RAG เมื่อ
เอกสารถูกอ่านหนึ่งครั้ง เช่น สัญญาหนึ่งฉบับหรือรายงานหนึ่งฉบับคุณถามคำถามจำนวนมากเกี่ยวกับข้อมูลขนาดใหญ่ชุดเดียวกัน
คำตอบต้องใช้ข้อความทั้งหมด เช่น บทสรุปหรือการเปรียบเทียบหลายส่วนคำตอบอยู่ในข้อความสั้นๆ ไม่กี่ตอน
ข้อความน้อยกว่าขีดจำกัด TPM ของคีย์ฟรีของคุณข้อมูลใหญ่กว่าหน้าต่าง context ฟรีหรือขีดจำกัด TPM ใดๆ
คุณต้องการให้โมเดลเห็นลำดับและโครงสร้างของข้อความคุณต้องการให้แต่ละคำขอเล็กและเร็ว

RAG ส่งเฉพาะส่วนที่เกี่ยวข้องของข้อมูลพร้อมคำถามแต่ละข้อ ใช้โทเค็นน้อยกว่าบนแพ็กเกจฟรี อ่าน Free LLM API สำหรับ RAG และ Free embeddings API เพื่อตั้งค่า

ข้อควรระวังและการแก้ไขปัญหา

  • รายละเอียดที่หายไป: โมเดลอาจพลาดข้อเท็จจริงกลางพรอมต์ที่ยาวมาก ใส่คำถามของคุณหลังเอกสาร และขอให้โมเดลอ้างอิงแหล่งที่มา
  • Thinking token: โมเดล Gemini Flash อาจใช้ thinking token ที่มองไม่เห็นจากงบเอาต์พุต อย่าตั้ง max_tokens ให้น้อยมาก
  • ไฟล์ PDF: FreeLLMAPI ไม่แปลงไฟล์ PDF, DOCX หรือ XLSX ไฟล์แนบเอกสารแบบไบนารีจะคืนค่าข้อผิดพลาด 400 ดึงข้อความออกก่อน แล้วจึงส่งข้อความ
  • ทำความสะอาดข้อความ: ตัดหัวกระดาษ ท้ายกระดาษ และสารบัญที่ซ้ำออกก่อนส่งเอกสาร ส่วนเหล่านี้ใช้โทเค็นและไม่เพิ่มข้อเท็จจริง
  • พรอมต์ที่ซ้ำ: ทุกคำขอส่งเอกสารทั้งฉบับอีกครั้ง ถามหลายคำถามในคำขอเดียวเมื่อทำได้
ปัญหาสาเหตุวิธีแก้
ข้อผิดพลาด 429 ในคำขอยาวแรกพรอมต์ใหญ่กว่าขีดจำกัด TPMทำให้พรอมต์เล็กลง หรือใช้ RAG
ข้อผิดพลาด 400 เกี่ยวกับความยาว contextคำขอถูกส่งไปยังโมเดลที่มีหน้าต่างเล็กกว่ากำหนด model id จากตาราง
คำตอบว่างหรือถูกตัดmax_tokens น้อยเกินไป หรือการคิดใช้งบไปแล้วตั้ง max_tokens ให้มากขึ้น
หมดเวลาโมเดลต้องใช้เวลาอ่านพรอมต์ตั้ง timeout ของไคลเอนต์เป็น 300 วินาทีขึ้นไป
ใช้ทุกตัวในรายการนี้ผ่านคีย์เดียว FreeLLMAPI คือเราเตอร์โอเพนซอร์สที่คุณโฮสต์เอง รวมระดับฟรีทั้งหมดนี้ไว้หลังปลายทางเดียวที่เข้ากันได้กับ OpenAI และเปลี่ยนไปใช้ตัวอื่นเมื่อตัวใดตัวหนึ่งถูกจำกัดอัตรา ดูแคตตาล็อก หรือ เริ่มใช้งานจริง.

คำถามที่พบบ่อย

มี Free LLM API ที่มี context 1 ล้านโทเค็นหรือไม่

มี โมเดล Gemini Flash ในแพ็กเกจฟรีของ Google AI Studio มีหน้าต่าง context ประมาณ 1 ล้านโทเค็น แคตตาล็อกของ FreeLLMAPI มีข้อเสนอโมเดลฟรี 56 รายการที่มี 1M โทเค็นขึ้นไป

ฉันส่ง 1 ล้านโทเค็นฟรีในคำขอเดียวได้หรือไม่

โดยทั่วไปไม่ได้ แพ็กเกจ Gemini ฟรีในแคตตาล็อกอนุญาต 250,000 โทเค็นต่อนาที พรอมต์ที่ใหญ่กว่าจึงได้ข้อผิดพลาด 429 วางแผนให้แต่ละคำขออยู่ที่ไม่กี่แสนโทเค็น

ฉันนับโทเค็นก่อนส่งพรอมต์ได้อย่างไร

เรียกเมธอด countTokens ของ Gemini แบบเนทีฟผ่าน FreeLLMAPI ที่ /v1beta/models/{model}:countTokens สำหรับข้อความภาษาอังกฤษ ประมาณ 4 อักขระเป็นหนึ่งโทเค็น

LLM ฟรีตัวไหนมีหน้าต่าง context ใหญ่ที่สุด

ตารางในหน้านี้เรียงโมเดลฟรีตามขนาด context จากใหญ่ที่สุด โมเดลฟรีหลายตัวถึงประมาณ 1 ล้านโทเค็น อ่านคอลัมน์ free limits ด้วย เพราะขีดจำกัด TPM เป็นตัวกำหนดขนาดจริงของคำขอหนึ่งรายการ

Long context ดีกว่า RAG หรือไม่

Long context ดีกว่าสำหรับเอกสารหนึ่งฉบับที่คุณอ่านครั้งเดียว RAG ดีกว่าสำหรับคำถามจำนวนมากเกี่ยวกับข้อมูลขนาดใหญ่ เพราะส่งโทเค็นน้อยกว่าในแต่ละครั้ง

คู่มือที่เกี่ยวข้อง

แหล่งข้อมูล

คู่มือทั้งหมด · ดูโมเดลฟรีทั้งหมด