Безкоштовний LLM API з контекстом 1 мільйон токенів
Довге вікно контексту дає моделі змогу прочитати цілу книгу, великий обсяг коду або години стенограм в одному запиті. У каталозі FreeLLMAPI є 56 безкоштовних пропозицій моделей з вікном контексту 1 мільйон токенів або більше. Цей посібник показує ці моделі і безкоштовні ліміти тарифу, які визначають, скільки ви насправді можете надіслати.
Код, назви моделей і мітки живого каталогу показано англійською.
Безкоштовні моделі з контекстом 1M+ токенів сьогодні
Таблиця перелічує безкоштовні моделі з вікном контексту щонайменше 1,000,000 токенів, від найбільшого. Дані беруться з живого каталогу. Дивіться стовпець «Free limits», а також розмір контексту.
| Модель | Безкоштовно на | Контекст | Безкоштовні ліміти (найкращі) | Інструменти | Зображення |
|---|---|---|---|---|---|
| OpenAI: GPT-6 Luna | ElectronHub | 1.1M | $0.25/week shared free credits | Ні | Ні |
| Gemini 3.8 Flash | APINex, Google AI Studio | 1M | 5 запитів/хв 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | Так | Так |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 запитів/хв 20 запитів/добу 250,000 токенів/хв ~3M | Так | Так |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 запитів/хв 50 запитів/добу Shared rate limit | Так | Ні |
| DeepSeek V4 Flash 0731 | Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | Ні | Ні |
| Gemini 3.6 Flash | Google AI Studio | 1M | 10 запитів/хв 20 запитів/добу 250,000 токенів/хв ~3M | Так | Так |
| GLM 5.2 | Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | Ні | Ні |
| Gemini 3.5 Flash | Google AI Studio | 1M | 10 запитів/хв 20 запитів/добу 250,000 токенів/хв ~3M | Так | Так |
| DeepSeek V4 Pro | APINex, Router9 | 1M | 5 запитів/хв 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | Ні | Ні |
| Nemotron 3 Ultra 550B | Gizmo, Kilo Gateway, LLMTR +ще 3 | 1M | 200 запитів/добу 200 rpd | Так | Ні |
| Gemini 3.5 Flash Lite | ElectronHub, Google AI Studio | 1M | 15 запитів/хв 20 запитів/добу 250,000 токенів/хв ~3M | Так | Так |
| Gemini 3 Flash Preview | Google AI Studio | 1M | 10 запитів/хв 20 запитів/добу 250,000 токенів/хв ~3M | Так | Так |
| Gemini 3.1 Flash-Lite | DreamPrompting, Google AI Studio | 1M | 100 запитів/хв 5,000 запитів/добу 500,000 токенів/добу 500K tokens/day · 5,000 req/day | Так | Так |
| Gemini 2.5 Flash | DreamPrompting, ElectronHub, Google AI Studio | 1M | 100 запитів/хв 5,000 запитів/добу 500,000 токенів/добу 500K tokens/day · 5,000 req/day | Так | Так |
| Nemotron 3.5 Lightning | ElectronHub, Gizmo, Kilo Gateway +ще 2 | 1M | 20 запитів/хв 50 запитів/добу 50 req/day account-wide (1,000 after a $10 purchase) | Так | Ні |
Показано 15 із 33 відповідних безкоштовних моделей. Переглянути всі моделі.
Дані в реальному часі з каталогу FreeLLMAPI (версія 2026.11.19, перевірено 2026-11-19). Безкоштовні ліміти часто змінюються. Каталог перевіряється щодня.
Моделі Gemini Flash з Google AI Studio є найвідомішими безкоштовними моделями з 1M токенів. Вони також приймають зображення і виклики інструментів. Інші рядки походять із безкоштовних маршрутизаторів і від NVIDIA.
Реальний ліміт: токени за хвилину
Вікно контексту це найбільший промпт, який модель може прочитати. Безкоштовний тариф також має ліміт токенів за хвилину (TPM). На багатьох безкоштовних тарифах ліміт TPM менший за вікно контексту.
- Приклад: безкоштовний ключ Gemini Flash з таблиці дозволяє 250,000 токенів за хвилину. Промпт з 800,000 токенів вміщується у вікно контексту, але перевищує ліміт TPM. Провайдер надсилає помилку 429.
- Запити за добу: деякі безкоштовні моделі Gemini дозволяють лише близько 20 запитів на день. Використовуйте довгі промпти для завдань, які їх потребують.
- Вихід окремо: відповідь має власну максимальну довжину. Контекст 1M токенів не означає відповіді 1M токенів.
Отже, на практиці безкоштовна модель з контекстом 1M може прочитати кілька сотень тисяч токенів в одному запиті. Виміряйте свій промпт, перш ніж його надіслати.
Крок 1: встановіть FreeLLMAPI і додайте ключі
FreeLLMAPI має відкритий код. Він працює на вашому комп'ютері в Docker. Ваші ключі провайдерів залишаються на вашому комп'ютері.
Встановлення (macOS або Linux)
curl -fsSL https://freellmapi.co/install.sh | bashВідкрийте панель керування за адресою http://localhost:3001. Додайте ключ Google AI Studio на сторінці Keys. Додайте також ключі інших провайдерів з таблиці, щоб маршрутизатор мав іншу модель з довгим контекстом, коли Google надсилає помилку 429. Скопіюйте свій єдиний ключ з тієї самої сторінки.
Крок 2: порахуйте токени, потім надішліть довгий документ
FreeLLMAPI обслуговує рідний метод Gemini countTokens. Використовуйте його, щоб виміряти промпт перед надсиланням.
curl: порахувати токени через рідну кінцеву точку Gemini
curl "http://localhost:3001/v1beta/models/gemini-2.5-flash:countTokens" \
-H "x-goog-api-key: <unified-key>" \
-H "Content-Type: application/json" \
-d '{"contents": [{"role": "user", "parts": [{"text": "Paste the long text here"}]}]}'Python: надіслати довгий файл до моделі з контекстом 1M
from openai import OpenAI
client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>", timeout=300)
doc = open("annual-report.txt", encoding="utf-8").read()
print("about", len(doc) // 4, "tokens") # rough rule for English text
resp = client.chat.completions.with_raw_response.create(
model="gemini-2.5-flash", # pin a 1M-context model; "auto" can pick a smaller one
messages=[
{"role": "system", "content": "Answer only from the document. Quote the section you use."},
{"role": "user", "content": doc + "\n\nQuestion: What are the three largest risks?"},
],
max_tokens=4000,
)
print("Routed via:", resp.headers.get("x-routed-via"))
print(resp.parse().choices[0].message.content)Закріпіть модель з довгим контекстом за її ідентифікатором. З model: "auto" маршрутизатор може вибрати модель з меншим вікном контексту. Встановіть довгий тайм-аут клієнта, бо великим промптам потрібен час для читання.
Довгий контекст чи RAG?
| Використовуйте довгий контекст, коли | Використовуйте RAG, коли |
|---|---|
| Документ читається один раз, наприклад один договір або один звіт | Ви ставите багато питань про ті самі великі дані |
| Відповідь потребує повного тексту, наприклад підсумку або порівняння розділів | Відповідь міститься у кількох коротких уривках |
| Текст менший за ліміт TPM вашого безкоштовного ключа | Дані більші за будь-яке безкоштовне вікно контексту або ліміт TPM |
| Моделі потрібно бачити порядок і структуру тексту | Кожен запит потрібно тримати малим і швидким |
RAG надсилає з кожним питанням лише відповідні частини даних. На безкоштовних тарифах він використовує менше токенів. Щоб його налаштувати, прочитайте безкоштовний LLM API для RAG і безкоштовний API ембеддингів.
Підводні камені та усунення несправностей
- Загублені деталі: моделі можуть пропустити факти в середині дуже довгого промпту. Поставте питання після документа і попросіть модель навести джерело.
- Токени міркування: моделі Gemini Flash можуть використовувати приховані токени міркування з бюджету виводу. Не встановлюйте дуже малий
max_tokens. - Файли PDF: FreeLLMAPI не перетворює файли PDF, DOCX або XLSX. Двійкове вкладення документа повертає помилку 400. Спершу витягніть текст, потім надішліть текст.
- Очистіть текст: приберіть заголовки і нижні колонтитули сторінок та повторювані зміст перед надсиланням документа. Вони використовують токени і не додають фактів.
- Повторні промпти: кожен запит знову надсилає весь документ. Ставте кілька питань в одному запиті, коли це можливо.
| Проблема | Причина | Рішення |
|---|---|---|
| Помилка 429 на першому довгому запиті | Промпт більший за ліміт TPM | Зробіть промпт меншим або використайте RAG |
| Помилка 400 про довжину контексту | Запит пішов до моделі з меншим вікном | Закріпіть ідентифікатор моделі з таблиці |
| Порожня або обрізана відповідь | max_tokens замалий, або його використало міркування | Встановіть більший max_tokens |
| Тайм-аут | Моделі потрібен час, щоб прочитати промпт | Встановіть тайм-аут клієнта 300 секунд або більше |
Часті запитання
Чи є безкоштовний LLM API з контекстом 1 мільйон токенів?
Так. Моделі Gemini Flash на безкоштовному тарифі Google AI Studio мають вікно контексту близько 1 мільйона токенів. У каталозі FreeLLMAPI є 56 безкоштовних пропозицій моделей з 1M або більше токенів.
Чи можна безкоштовно надіслати 1 мільйон токенів в одному запиті?
Зазвичай ні. Безкоштовний тариф Gemini в каталозі дозволяє 250,000 токенів за хвилину, тому більший промпт отримує помилку 429. Плануйте для кожного запиту кілька сотень тисяч токенів.
Як порахувати токени перед надсиланням промпту?
Викличте рідний метод Gemini countTokens через FreeLLMAPI за адресою /v1beta/models/{model}:countTokens. Для англійського тексту приблизно 4 символи становлять один токен.
Яка безкоштовна LLM має найбільше вікно контексту?
Таблиця на цій сторінці сортує безкоштовні моделі за розміром контексту, від найбільшого. Кілька безкоштовних моделей досягають близько 1 мільйона токенів. Також читайте стовпець безкоштовних лімітів, бо ліміт TPM визначає реальний розмір одного запиту.
Чи краще довгий контекст, ніж RAG?
Довгий контекст краще для одного документа, який ви читаєте один раз. RAG краще для багатьох питань до великих даних, бо щоразу він надсилає менше токенів.
Схожі посібники
- Безкоштовний LLM API для RAG
- Безкоштовний API ембедінгів
- free gemini api
- Перевищено квоту Gemini API (429 RESOURCE_EXHAUSTED)
- Ліміти запитів безкоштовного LLM API
Джерела
- FreeLLMAPI docs: Native Gemini API (перевірено 20 November 2026)
- FreeLLMAPI docs: Chat completions and routing (перевірено 20 November 2026)
- Google AI Studio docs: Thinking (перевірено 20 November 2026)
- Gemini Developer API pricing (перевірено 20 November 2026)