Головна / Посібники / Безкоштовний LLM API з контекстом 1 мільйон токенів

Безкоштовний LLM API з контекстом 1 мільйон токенів

Довге вікно контексту дає моделі змогу прочитати цілу книгу, великий обсяг коду або години стенограм в одному запиті. У каталозі FreeLLMAPI є 56 безкоштовних пропозицій моделей з вікном контексту 1 мільйон токенів або більше. Цей посібник показує ці моделі і безкоштовні ліміти тарифу, які визначають, скільки ви насправді можете надіслати.

Код, назви моделей і мітки живого каталогу показано англійською.

Безкоштовні моделі з контекстом 1M+ токенів сьогодні

Таблиця перелічує безкоштовні моделі з вікном контексту щонайменше 1,000,000 токенів, від найбільшого. Дані беруться з живого каталогу. Дивіться стовпець «Free limits», а також розмір контексту.

Безкоштовні моделі з контекстом 1M+ токенів, від найбільшого
МодельБезкоштовно наКонтекстБезкоштовні ліміти (найкращі)ІнструментиЗображення
OpenAI: GPT-6 LunaElectronHub1.1M$0.25/week shared free creditsНіНі
Gemini 3.8 FlashAPINex, Google AI Studio1M5 запитів/хв
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
ТакТак
Gemini 3.7 FlashGoogle AI Studio1M10 запитів/хв
20 запитів/добу
250,000 токенів/хв
~3M
ТакТак
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 запитів/хв
50 запитів/добу
Shared rate limit
ТакНі
DeepSeek V4 Flash 0731Router91M10,000 credits/month (~$1), shared; account-anniversary resetНіНі
Gemini 3.6 FlashGoogle AI Studio1M10 запитів/хв
20 запитів/добу
250,000 токенів/хв
~3M
ТакТак
GLM 5.2Router91M10,000 credits/month (~$1), shared; account-anniversary resetНіНі
Gemini 3.5 FlashGoogle AI Studio1M10 запитів/хв
20 запитів/добу
250,000 токенів/хв
~3M
ТакТак
DeepSeek V4 ProAPINex, Router91M5 запитів/хв
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
НіНі
Nemotron 3 Ultra 550BGizmo, Kilo Gateway, LLMTR +ще 31M200 запитів/добу
200 rpd
ТакНі
Gemini 3.5 Flash LiteElectronHub, Google AI Studio1M15 запитів/хв
20 запитів/добу
250,000 токенів/хв
~3M
ТакТак
Gemini 3 Flash PreviewGoogle AI Studio1M10 запитів/хв
20 запитів/добу
250,000 токенів/хв
~3M
ТакТак
Gemini 3.1 Flash-LiteDreamPrompting, Google AI Studio1M100 запитів/хв
5,000 запитів/добу
500,000 токенів/добу
500K tokens/day · 5,000 req/day
ТакТак
Gemini 2.5 FlashDreamPrompting, ElectronHub, Google AI Studio1M100 запитів/хв
5,000 запитів/добу
500,000 токенів/добу
500K tokens/day · 5,000 req/day
ТакТак
Nemotron 3.5 LightningElectronHub, Gizmo, Kilo Gateway +ще 21M20 запитів/хв
50 запитів/добу
50 req/day account-wide (1,000 after a $10 purchase)
ТакНі

Показано 15 із 33 відповідних безкоштовних моделей. Переглянути всі моделі.

Дані в реальному часі з каталогу FreeLLMAPI (версія 2026.11.19, перевірено 2026-11-19). Безкоштовні ліміти часто змінюються. Каталог перевіряється щодня.

Моделі Gemini Flash з Google AI Studio є найвідомішими безкоштовними моделями з 1M токенів. Вони також приймають зображення і виклики інструментів. Інші рядки походять із безкоштовних маршрутизаторів і від NVIDIA.

Реальний ліміт: токени за хвилину

Вікно контексту це найбільший промпт, який модель може прочитати. Безкоштовний тариф також має ліміт токенів за хвилину (TPM). На багатьох безкоштовних тарифах ліміт TPM менший за вікно контексту.

  • Приклад: безкоштовний ключ Gemini Flash з таблиці дозволяє 250,000 токенів за хвилину. Промпт з 800,000 токенів вміщується у вікно контексту, але перевищує ліміт TPM. Провайдер надсилає помилку 429.
  • Запити за добу: деякі безкоштовні моделі Gemini дозволяють лише близько 20 запитів на день. Використовуйте довгі промпти для завдань, які їх потребують.
  • Вихід окремо: відповідь має власну максимальну довжину. Контекст 1M токенів не означає відповіді 1M токенів.

Отже, на практиці безкоштовна модель з контекстом 1M може прочитати кілька сотень тисяч токенів в одному запиті. Виміряйте свій промпт, перш ніж його надіслати.

Крок 1: встановіть FreeLLMAPI і додайте ключі

FreeLLMAPI має відкритий код. Він працює на вашому комп'ютері в Docker. Ваші ключі провайдерів залишаються на вашому комп'ютері.

Встановлення (macOS або Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

Відкрийте панель керування за адресою http://localhost:3001. Додайте ключ Google AI Studio на сторінці Keys. Додайте також ключі інших провайдерів з таблиці, щоб маршрутизатор мав іншу модель з довгим контекстом, коли Google надсилає помилку 429. Скопіюйте свій єдиний ключ з тієї самої сторінки.

Крок 2: порахуйте токени, потім надішліть довгий документ

FreeLLMAPI обслуговує рідний метод Gemini countTokens. Використовуйте його, щоб виміряти промпт перед надсиланням.

curl: порахувати токени через рідну кінцеву точку Gemini

curl "http://localhost:3001/v1beta/models/gemini-2.5-flash:countTokens" \
  -H "x-goog-api-key: <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"contents": [{"role": "user", "parts": [{"text": "Paste the long text here"}]}]}'

Python: надіслати довгий файл до моделі з контекстом 1M

from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>", timeout=300)

doc = open("annual-report.txt", encoding="utf-8").read()
print("about", len(doc) // 4, "tokens")  # rough rule for English text

resp = client.chat.completions.with_raw_response.create(
    model="gemini-2.5-flash",  # pin a 1M-context model; "auto" can pick a smaller one
    messages=[
        {"role": "system", "content": "Answer only from the document. Quote the section you use."},
        {"role": "user", "content": doc + "\n\nQuestion: What are the three largest risks?"},
    ],
    max_tokens=4000,
)
print("Routed via:", resp.headers.get("x-routed-via"))
print(resp.parse().choices[0].message.content)

Закріпіть модель з довгим контекстом за її ідентифікатором. З model: "auto" маршрутизатор може вибрати модель з меншим вікном контексту. Встановіть довгий тайм-аут клієнта, бо великим промптам потрібен час для читання.

Довгий контекст чи RAG?

Використовуйте довгий контекст, колиВикористовуйте RAG, коли
Документ читається один раз, наприклад один договір або один звітВи ставите багато питань про ті самі великі дані
Відповідь потребує повного тексту, наприклад підсумку або порівняння розділівВідповідь міститься у кількох коротких уривках
Текст менший за ліміт TPM вашого безкоштовного ключаДані більші за будь-яке безкоштовне вікно контексту або ліміт TPM
Моделі потрібно бачити порядок і структуру текстуКожен запит потрібно тримати малим і швидким

RAG надсилає з кожним питанням лише відповідні частини даних. На безкоштовних тарифах він використовує менше токенів. Щоб його налаштувати, прочитайте безкоштовний LLM API для RAG і безкоштовний API ембеддингів.

Підводні камені та усунення несправностей

  • Загублені деталі: моделі можуть пропустити факти в середині дуже довгого промпту. Поставте питання після документа і попросіть модель навести джерело.
  • Токени міркування: моделі Gemini Flash можуть використовувати приховані токени міркування з бюджету виводу. Не встановлюйте дуже малий max_tokens.
  • Файли PDF: FreeLLMAPI не перетворює файли PDF, DOCX або XLSX. Двійкове вкладення документа повертає помилку 400. Спершу витягніть текст, потім надішліть текст.
  • Очистіть текст: приберіть заголовки і нижні колонтитули сторінок та повторювані зміст перед надсиланням документа. Вони використовують токени і не додають фактів.
  • Повторні промпти: кожен запит знову надсилає весь документ. Ставте кілька питань в одному запиті, коли це можливо.
ПроблемаПричинаРішення
Помилка 429 на першому довгому запитіПромпт більший за ліміт TPMЗробіть промпт меншим або використайте RAG
Помилка 400 про довжину контекстуЗапит пішов до моделі з меншим вікномЗакріпіть ідентифікатор моделі з таблиці
Порожня або обрізана відповідьmax_tokens замалий, або його використало міркуванняВстановіть більший max_tokens
Тайм-аутМоделі потрібен час, щоб прочитати промптВстановіть тайм-аут клієнта 300 секунд або більше
Використовуйте кожну з цих моделей через один ключ. FreeLLMAPI це маршрутизатор з відкритим кодом, який ви розгортаєте самі. Він об'єднує всі ці безкоштовні тарифи за однією кінцевою точкою, сумісною з OpenAI, і переходить до наступного, коли один з них досягає ліміту. Переглянути каталог або або почніть роботу.

Часті запитання

Чи є безкоштовний LLM API з контекстом 1 мільйон токенів?

Так. Моделі Gemini Flash на безкоштовному тарифі Google AI Studio мають вікно контексту близько 1 мільйона токенів. У каталозі FreeLLMAPI є 56 безкоштовних пропозицій моделей з 1M або більше токенів.

Чи можна безкоштовно надіслати 1 мільйон токенів в одному запиті?

Зазвичай ні. Безкоштовний тариф Gemini в каталозі дозволяє 250,000 токенів за хвилину, тому більший промпт отримує помилку 429. Плануйте для кожного запиту кілька сотень тисяч токенів.

Як порахувати токени перед надсиланням промпту?

Викличте рідний метод Gemini countTokens через FreeLLMAPI за адресою /v1beta/models/{model}:countTokens. Для англійського тексту приблизно 4 символи становлять один токен.

Яка безкоштовна LLM має найбільше вікно контексту?

Таблиця на цій сторінці сортує безкоштовні моделі за розміром контексту, від найбільшого. Кілька безкоштовних моделей досягають близько 1 мільйона токенів. Також читайте стовпець безкоштовних лімітів, бо ліміт TPM визначає реальний розмір одного запиту.

Чи краще довгий контекст, ніж RAG?

Довгий контекст краще для одного документа, який ви читаєте один раз. RAG краще для багатьох питань до великих даних, бо щоразу він надсилає менше токенів.

Схожі посібники

Джерела

Усі посібники · Переглянути всі безкоштовні моделі