Бесплатный LLM API с контекстом 1 миллион токенов
Длинное окно контекста позволяет модели прочитать целую книгу, большую кодовую базу или часы расшифровок в одном запросе. В каталоге FreeLLMAPI есть 56 бесплатных предложений моделей с окном контекста 1 миллион токенов или больше. Это руководство показывает эти модели и бесплатные лимиты тарифа, которые определяют, сколько вы можете отправить на самом деле.
Код, названия моделей и метки живого каталога показаны на английском языке.
Бесплатные модели с контекстом 1M+ токенов сегодня
В таблице перечислены бесплатные модели с окном контекста не менее 1,000,000 токенов, сначала самые большие. Данные взяты из актуального каталога. Смотрите колонку "Free limits" так же, как размер контекста.
| Модель | Бесплатно в | Контекст | Бесплатные лимиты (лучшее предложение) | Инструменты | Зрение |
|---|---|---|---|---|---|
| OpenAI: GPT-6 Luna | ElectronHub | 1.1M | $0.25/week shared free credits | Нет | Нет |
| Gemini 3.8 Flash | APINex, Google AI Studio | 1M | 5 запр./мин 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | Да | Да |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 запр./мин 20 запр./день 250,000 токенов/мин ~3M | Да | Да |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 запр./мин 50 запр./день Shared rate limit | Да | Нет |
| DeepSeek V4 Flash 0731 | Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | Нет | Нет |
| Gemini 3.6 Flash | Google AI Studio | 1M | 10 запр./мин 20 запр./день 250,000 токенов/мин ~3M | Да | Да |
| GLM 5.2 | Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | Нет | Нет |
| Gemini 3.5 Flash | Google AI Studio | 1M | 10 запр./мин 20 запр./день 250,000 токенов/мин ~3M | Да | Да |
| DeepSeek V4 Pro | APINex, Router9 | 1M | 5 запр./мин 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | Нет | Нет |
| Nemotron 3 Ultra 550B | Gizmo, Kilo Gateway, LLMTR ещё +3 | 1M | 200 запр./день 200 rpd | Да | Нет |
| Gemini 3.5 Flash Lite | ElectronHub, Google AI Studio | 1M | 15 запр./мин 20 запр./день 250,000 токенов/мин ~3M | Да | Да |
| Gemini 3 Flash Preview | Google AI Studio | 1M | 10 запр./мин 20 запр./день 250,000 токенов/мин ~3M | Да | Да |
| Gemini 3.1 Flash-Lite | DreamPrompting, Google AI Studio | 1M | 100 запр./мин 5,000 запр./день 500,000 токенов/день 500K tokens/day · 5,000 req/day | Да | Да |
| Gemini 2.5 Flash | DreamPrompting, ElectronHub, Google AI Studio | 1M | 100 запр./мин 5,000 запр./день 500,000 токенов/день 500K tokens/day · 5,000 req/day | Да | Да |
| Nemotron 3.5 Lightning | ElectronHub, Gizmo, Kilo Gateway ещё +2 | 1M | 20 запр./мин 50 запр./день 50 req/day account-wide (1,000 after a $10 purchase) | Да | Нет |
Показано 15 из 33 подходящих бесплатных моделей. Смотреть все модели.
Актуальные данные из каталога FreeLLMAPI (версия 2026.11.19, проверено 2026-11-19). Бесплатные лимиты часто меняются. Каталог проверяется каждый день.
Модели Gemini Flash из Google AI Studio это самые известные бесплатные модели с 1M токенов. Они также принимают изображения и вызовы инструментов. Остальные строки взяты из бесплатных маршрутизаторов и из NVIDIA.
Реальный лимит: токены в минуту
Окно контекста это самый большой промпт, который модель может прочитать. У бесплатного тарифа также есть лимит токенов в минуту (TPM). На многих бесплатных тарифах лимит TPM меньше окна контекста.
- Пример: бесплатный ключ Gemini Flash из таблицы разрешает 250,000 токенов в минуту. Промпт на 800,000 токенов помещается в окно контекста, но превышает лимит TPM. Провайдер присылает ошибку 429.
- Запросы в день: некоторые бесплатные модели Gemini разрешают только около 20 запросов в день. Используйте длинные промпты для задач, которым они нужны.
- Вывод учитывается отдельно: у ответа своя максимальная длина. Контекст 1M токенов не дает ответ на 1M токенов.
Поэтому на практике бесплатная модель с контекстом 1M может прочитать за один запрос несколько сотен тысяч токенов. Измеряйте свой промпт, прежде чем его отправить.
Шаг 1: установите FreeLLMAPI и добавьте ключи
FreeLLMAPI имеет открытый исходный код. Он работает на вашем компьютере в Docker. Ключи провайдеров остаются на вашем компьютере.
Установка (macOS или Linux)
curl -fsSL https://freellmapi.co/install.sh | bashОткройте панель управления по адресу http://localhost:3001. Добавьте ключ Google AI Studio на странице Keys. Также добавьте ключи других провайдеров из таблицы, чтобы у маршрутизатора была другая модель с длинным контекстом, когда Google присылает ошибку 429. Скопируйте единый ключ с той же страницы.
Шаг 2: подсчитайте токены, затем отправьте длинный документ
FreeLLMAPI обслуживает нативный метод Gemini countTokens. Используйте его, чтобы измерить промпт перед отправкой.
curl: подсчет токенов через нативную конечную точку Gemini
curl "http://localhost:3001/v1beta/models/gemini-2.5-flash:countTokens" \
-H "x-goog-api-key: <unified-key>" \
-H "Content-Type: application/json" \
-d '{"contents": [{"role": "user", "parts": [{"text": "Paste the long text here"}]}]}'Python: отправка длинного файла модели с контекстом 1M
from openai import OpenAI
client = OpenAI(base_url="http://localhost:3001/v1", api_key="<unified-key>", timeout=300)
doc = open("annual-report.txt", encoding="utf-8").read()
print("about", len(doc) // 4, "tokens") # rough rule for English text
resp = client.chat.completions.with_raw_response.create(
model="gemini-2.5-flash", # pin a 1M-context model; "auto" can pick a smaller one
messages=[
{"role": "system", "content": "Answer only from the document. Quote the section you use."},
{"role": "user", "content": doc + "\n\nQuestion: What are the three largest risks?"},
],
max_tokens=4000,
)
print("Routed via:", resp.headers.get("x-routed-via"))
print(resp.parse().choices[0].message.content)Закрепите модель с длинным контекстом по ее ID. При model: "auto" маршрутизатор может выбрать модель с меньшим окном контекста. Задайте большой тайм-аут клиента, потому что чтение больших промптов занимает время.
Длинный контекст или RAG?
| Используйте длинный контекст, когда | Используйте RAG, когда |
|---|---|
| Документ читается один раз, например один договор или один отчет | Вы задаете много вопросов об одних и тех же больших данных |
| Ответу нужен полный текст, например сводка или сравнение разделов | Ответ находится в нескольких коротких фрагментах |
| Текст меньше лимита TPM вашего бесплатного ключа | Данные больше любого бесплатного окна контекста или лимита TPM |
| Модели нужно видеть порядок и структуру текста | Нужно держать каждый запрос маленьким и быстрым |
RAG отправляет с каждым вопросом только нужные части данных. На бесплатных тарифах он расходует меньше токенов. Чтобы его настроить, читайте статьи Бесплатный LLM API для RAG и Бесплатный API эмбеддингов.
Подводные камни и устранение неполадок
- Потерянные детали: модели могут пропустить факты в середине очень длинного промпта. Поставьте вопрос после документа и попросите модель цитировать источник.
- Токены рассуждений: модели Gemini Flash могут тратить скрытые токены рассуждений из бюджета вывода. Не задавайте очень маленький
max_tokens. - Файлы PDF: FreeLLMAPI не преобразует файлы PDF, DOCX или XLSX. Бинарное вложение документа возвращает ошибку 400. Сначала извлеките текст, затем отправьте текст.
- Очистите текст: удалите колонтитулы, подвалы и повторяющиеся оглавления перед отправкой документа. Они расходуют токены и не добавляют фактов.
- Повторяющиеся промпты: каждый запрос отправляет документ целиком заново. Если возможно, задавайте несколько вопросов в одном запросе.
| Проблема | Причина | Решение |
|---|---|---|
| Ошибка 429 на первом длинном запросе | Промпт больше лимита TPM | Сделайте промпт меньше или используйте RAG |
| Ошибка 400 о длине контекста | Запрос ушел модели с меньшим окном | Закрепите ID модели из таблицы |
| Пустой или обрезанный ответ | max_tokens слишком мал, или его занял ход рассуждений | Задайте больший max_tokens |
| Тайм-аут | Модели нужно время, чтобы прочитать промпт | Задайте тайм-аут клиента 300 секунд или больше |
Часто задаваемые вопросы
Есть ли бесплатный LLM API с контекстом 1 миллион токенов?
Да. Модели Gemini Flash на бесплатном тарифе Google AI Studio имеют окно контекста около 1 миллиона токенов. В каталоге FreeLLMAPI есть 56 бесплатных предложений моделей с 1M токенов или больше.
Можно ли бесплатно отправить 1 миллион токенов за один запрос?
Обычно нет. Бесплатный тариф Gemini в каталоге разрешает 250,000 токенов в минуту, поэтому более большой промпт получает ошибку 429. Рассчитывайте на несколько сотен тысяч токенов в каждом запросе.
Как подсчитать токены перед отправкой промпта?
Вызовите нативный метод Gemini countTokens через FreeLLMAPI по адресу /v1beta/models/{model}:countTokens. Для английского текста примерно 4 символа составляют один токен.
У какого бесплатного LLM самое большое окно контекста?
Таблица на этой странице сортирует бесплатные модели по размеру контекста, сначала самые большие. Несколько бесплатных моделей достигают около 1 миллиона токенов. Также читайте колонку с бесплатными лимитами, потому что лимит TPM определяет реальный размер одного запроса.
Лучше ли длинный контекст, чем RAG?
Длинный контекст лучше для одного документа, который вы читаете один раз. RAG лучше для многих вопросов по большим данным, потому что каждый раз он отправляет меньше токенов.
Похожие руководства
- Бесплатный LLM API для RAG
- Бесплатный API эмбеддингов
- free gemini api
- Превышена квота Gemini API (429 RESOURCE_EXHAUSTED)
- Лимиты запросов бесплатного LLM API
Источники
- FreeLLMAPI docs: Native Gemini API (проверено 20 November 2026)
- FreeLLMAPI docs: Chat completions and routing (проверено 20 November 2026)
- Google AI Studio docs: Thinking (проверено 20 November 2026)
- Gemini Developer API pricing (проверено 20 November 2026)