Главная / Руководства / Бесплатный LLM API с контекстом 1 миллион токенов

Бесплатный LLM API с контекстом 1 миллион токенов

Длинное окно контекста позволяет модели прочитать целую книгу, большую кодовую базу или часы расшифровок в одном запросе. В каталоге FreeLLMAPI есть 56 бесплатных предложений моделей с окном контекста 1 миллион токенов или больше. Это руководство показывает эти модели и бесплатные лимиты тарифа, которые определяют, сколько вы можете отправить на самом деле.

Код, названия моделей и метки живого каталога показаны на английском языке.

Бесплатные модели с контекстом 1M+ токенов сегодня

В таблице перечислены бесплатные модели с окном контекста не менее 1,000,000 токенов, сначала самые большие. Данные взяты из актуального каталога. Смотрите колонку "Free limits" так же, как размер контекста.

Бесплатные модели с контекстом 1M+ токенов, сначала самые большие
МодельБесплатно вКонтекстБесплатные лимиты (лучшее предложение)ИнструментыЗрение
OpenAI: GPT-6 LunaElectronHub1.1M$0.25/week shared free creditsНетНет
Gemini 3.8 FlashAPINex, Google AI Studio1M5 запр./мин
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
ДаДа
Gemini 3.7 FlashGoogle AI Studio1M10 запр./мин
20 запр./день
250,000 токенов/мин
~3M
ДаДа
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 запр./мин
50 запр./день
Shared rate limit
ДаНет
DeepSeek V4 Flash 0731Router91M10,000 credits/month (~$1), shared; account-anniversary resetНетНет
Gemini 3.6 FlashGoogle AI Studio1M10 запр./мин
20 запр./день
250,000 токенов/мин
~3M
ДаДа
GLM 5.2Router91M10,000 credits/month (~$1), shared; account-anniversary resetНетНет
Gemini 3.5 FlashGoogle AI Studio1M10 запр./мин
20 запр./день
250,000 токенов/мин
~3M
ДаДа
DeepSeek V4 ProAPINex, Router91M5 запр./мин
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
НетНет
Nemotron 3 Ultra 550BGizmo, Kilo Gateway, LLMTR ещё +31M200 запр./день
200 rpd
ДаНет
Gemini 3.5 Flash LiteElectronHub, Google AI Studio1M15 запр./мин
20 запр./день
250,000 токенов/мин
~3M
ДаДа
Gemini 3 Flash PreviewGoogle AI Studio1M10 запр./мин
20 запр./день
250,000 токенов/мин
~3M
ДаДа
Gemini 3.1 Flash-LiteDreamPrompting, Google AI Studio1M100 запр./мин
5,000 запр./день
500,000 токенов/день
500K tokens/day · 5,000 req/day
ДаДа
Gemini 2.5 FlashDreamPrompting, ElectronHub, Google AI Studio1M100 запр./мин
5,000 запр./день
500,000 токенов/день
500K tokens/day · 5,000 req/day
ДаДа
Nemotron 3.5 LightningElectronHub, Gizmo, Kilo Gateway ещё +21M20 запр./мин
50 запр./день
50 req/day account-wide (1,000 after a $10 purchase)
ДаНет

Показано 15 из 33 подходящих бесплатных моделей. Смотреть все модели.

Актуальные данные из каталога FreeLLMAPI (версия 2026.11.19, проверено 2026-11-19). Бесплатные лимиты часто меняются. Каталог проверяется каждый день.

Модели Gemini Flash из Google AI Studio это самые известные бесплатные модели с 1M токенов. Они также принимают изображения и вызовы инструментов. Остальные строки взяты из бесплатных маршрутизаторов и из NVIDIA.

Реальный лимит: токены в минуту

Окно контекста это самый большой промпт, который модель может прочитать. У бесплатного тарифа также есть лимит токенов в минуту (TPM). На многих бесплатных тарифах лимит TPM меньше окна контекста.

  • Пример: бесплатный ключ Gemini Flash из таблицы разрешает 250,000 токенов в минуту. Промпт на 800,000 токенов помещается в окно контекста, но превышает лимит TPM. Провайдер присылает ошибку 429.
  • Запросы в день: некоторые бесплатные модели Gemini разрешают только около 20 запросов в день. Используйте длинные промпты для задач, которым они нужны.
  • Вывод учитывается отдельно: у ответа своя максимальная длина. Контекст 1M токенов не дает ответ на 1M токенов.

Поэтому на практике бесплатная модель с контекстом 1M может прочитать за один запрос несколько сотен тысяч токенов. Измеряйте свой промпт, прежде чем его отправить.

Шаг 1: установите FreeLLMAPI и добавьте ключи

FreeLLMAPI имеет открытый исходный код. Он работает на вашем компьютере в Docker. Ключи провайдеров остаются на вашем компьютере.

Установка (macOS или Linux)

curl -fsSL https://freellmapi.co/install.sh | bash

Откройте панель управления по адресу http://localhost:3001. Добавьте ключ Google AI Studio на странице Keys. Также добавьте ключи других провайдеров из таблицы, чтобы у маршрутизатора была другая модель с длинным контекстом, когда Google присылает ошибку 429. Скопируйте единый ключ с той же страницы.

Шаг 2: подсчитайте токены, затем отправьте длинный документ

FreeLLMAPI обслуживает нативный метод Gemini countTokens. Используйте его, чтобы измерить промпт перед отправкой.

curl: подсчет токенов через нативную конечную точку Gemini

curl "http://localhost:3001/v1beta/models/gemini-2.5-flash:countTokens" \
  -H "x-goog-api-key: <unified-key>" \
  -H "Content-Type: application/json" \
  -d '{"contents": [{"role": "user", "parts": [{"text": "Paste the long text here"}]}]}'

Python: отправка длинного файла модели с контекстом 1M

from openai import OpenAI

client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>", timeout=300)

doc = open("annual-report.txt", encoding="utf-8").read()
print("about", len(doc) // 4, "tokens")  # rough rule for English text

resp = client.chat.completions.with_raw_response.create(
    model="gemini-2.5-flash",  # pin a 1M-context model; "auto" can pick a smaller one
    messages=[
        {"role": "system", "content": "Answer only from the document. Quote the section you use."},
        {"role": "user", "content": doc + "\n\nQuestion: What are the three largest risks?"},
    ],
    max_tokens=4000,
)
print("Routed via:", resp.headers.get("x-routed-via"))
print(resp.parse().choices[0].message.content)

Закрепите модель с длинным контекстом по ее ID. При model: "auto" маршрутизатор может выбрать модель с меньшим окном контекста. Задайте большой тайм-аут клиента, потому что чтение больших промптов занимает время.

Длинный контекст или RAG?

Используйте длинный контекст, когдаИспользуйте RAG, когда
Документ читается один раз, например один договор или один отчетВы задаете много вопросов об одних и тех же больших данных
Ответу нужен полный текст, например сводка или сравнение разделовОтвет находится в нескольких коротких фрагментах
Текст меньше лимита TPM вашего бесплатного ключаДанные больше любого бесплатного окна контекста или лимита TPM
Модели нужно видеть порядок и структуру текстаНужно держать каждый запрос маленьким и быстрым

RAG отправляет с каждым вопросом только нужные части данных. На бесплатных тарифах он расходует меньше токенов. Чтобы его настроить, читайте статьи Бесплатный LLM API для RAG и Бесплатный API эмбеддингов.

Подводные камни и устранение неполадок

  • Потерянные детали: модели могут пропустить факты в середине очень длинного промпта. Поставьте вопрос после документа и попросите модель цитировать источник.
  • Токены рассуждений: модели Gemini Flash могут тратить скрытые токены рассуждений из бюджета вывода. Не задавайте очень маленький max_tokens.
  • Файлы PDF: FreeLLMAPI не преобразует файлы PDF, DOCX или XLSX. Бинарное вложение документа возвращает ошибку 400. Сначала извлеките текст, затем отправьте текст.
  • Очистите текст: удалите колонтитулы, подвалы и повторяющиеся оглавления перед отправкой документа. Они расходуют токены и не добавляют фактов.
  • Повторяющиеся промпты: каждый запрос отправляет документ целиком заново. Если возможно, задавайте несколько вопросов в одном запросе.
ПроблемаПричинаРешение
Ошибка 429 на первом длинном запросеПромпт больше лимита TPMСделайте промпт меньше или используйте RAG
Ошибка 400 о длине контекстаЗапрос ушел модели с меньшим окномЗакрепите ID модели из таблицы
Пустой или обрезанный ответmax_tokens слишком мал, или его занял ход рассужденийЗадайте больший max_tokens
Тайм-аутМодели нужно время, чтобы прочитать промптЗадайте тайм-аут клиента 300 секунд или больше
Используйте каждую из этих моделей через один ключ. FreeLLMAPI это маршрутизатор с открытым исходным кодом, который работает на вашем сервере. Он объединяет все эти бесплатные тарифы за одной конечной точкой, совместимой с OpenAI, и переключается на другой провайдер, когда достигнут лимит запросов. Открыть каталог или перейти.

Часто задаваемые вопросы

Есть ли бесплатный LLM API с контекстом 1 миллион токенов?

Да. Модели Gemini Flash на бесплатном тарифе Google AI Studio имеют окно контекста около 1 миллиона токенов. В каталоге FreeLLMAPI есть 56 бесплатных предложений моделей с 1M токенов или больше.

Можно ли бесплатно отправить 1 миллион токенов за один запрос?

Обычно нет. Бесплатный тариф Gemini в каталоге разрешает 250,000 токенов в минуту, поэтому более большой промпт получает ошибку 429. Рассчитывайте на несколько сотен тысяч токенов в каждом запросе.

Как подсчитать токены перед отправкой промпта?

Вызовите нативный метод Gemini countTokens через FreeLLMAPI по адресу /v1beta/models/{model}:countTokens. Для английского текста примерно 4 символа составляют один токен.

У какого бесплатного LLM самое большое окно контекста?

Таблица на этой странице сортирует бесплатные модели по размеру контекста, сначала самые большие. Несколько бесплатных моделей достигают около 1 миллиона токенов. Также читайте колонку с бесплатными лимитами, потому что лимит TPM определяет реальный размер одного запроса.

Лучше ли длинный контекст, чем RAG?

Длинный контекст лучше для одного документа, который вы читаете один раз. RAG лучше для многих вопросов по большим данным, потому что каждый раз он отправляет меньше токенов.

Похожие руководства

Источники

Все руководства · Смотреть все бесплатные модели