AI ajanları için ücretsiz LLM API
Bir AI ajanı, tek bir görev için çok sayıda model isteği gönderir. Her adım araç çağırma ve geniş bağlam gerektirir. Tek bir ücretsiz katman ajanı hızla durdurur. FreeLLMAPI, 45 ücretsiz sağlayıcı katmanını tek bir OpenAI uyumlu anahtarın arkasında toplar. Bir sınır isteği durdurduğunda sonraki sağlayıcıya geçer, böylece ajan çalışmaya devam edebilir. Bu kılavuz araç çağırmayı, adım başına yönlendirmeyi, uzun oturumları ve yönlendiricinin MCP sunucusunu kapsar.
Kod, model adları ve canlı katalog etiketleri İngilizce gösterilir.
Ücretsiz bir API'den ajanın ihtiyaçları
| Gereksinim | Neden | FreeLLMAPI ne yapar |
|---|---|---|
| Araç çağırma | Ajan araçları seçer ve çalıştırır | Her sağlayıcıya OpenAI tarzı tools iletir. Düz metin araç çağrılarını gerçek tool_calls alanlarına dönüştürür. |
| Çok sayıda istek | Tek bir görev 20 ila 100 adım sürebilir | Her anahtarın kotasını sayar ve 429 hatasında sonraki anahtara veya sağlayıcıya geçer |
| Geniş bağlam | Araç sonuçları ve geçmiş her adımda büyür | Zincirinizdeki modellere yönlendirir. Uzun bağlam profili oluşturabilirsiniz. |
| Tutarlı davranış | Görev ortasında model değişikliği ajanı kafa karıştırabilir | Bir oturumu 30 dakika boyunca tek modelde tutar. Değişiklik olduğunda isteğe bağlı bağlam devri yapılır. |
| Görünürlük | Hangi modelin başarısız olduğunu bilmeniz gerekir | Her yanıtta X-Routed-Via ve X-Fallback-Trail üstbilgileri |
Ücretsiz katmanların sınırları vardır. Yedekleme yükü anahtarlarınıza dağıtır, ancak toplam yine de ücretsiz sınırların toplamıdır. Ajan işi için en az dört sağlayıcıdan anahtar ekleyin.
| Model | Ücretsiz olduğu yer | Bağlam | Ücretsiz limitler (en iyi teklif) | Araçlar | Görsel girdi |
|---|---|---|---|---|---|
| GLM 5.3 | UnoRouter | 1M | 1 istek/dk 1 req/min per model | Evet | Hayır |
| GLM 5.3 Flash | NVIDIA NIM, UnoRouter | 1M | 40 istek/dk 40 RPM | Evet | Evet |
| Gemini 3.8 Flash | Google AI Studio | 1M | Recurring provider quota | Evet | Evet |
| Qwen3.8 Flash Next | AMD Radeon Cloud | 262K | Recurring daily account allowance | Evet | Hayır |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | Evet | Evet |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 istek/dk 20 istek/gün 250,000 jeton/dk ~3M | Evet | Evet |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | Evet | Evet |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 istek/dk 50 istek/gün 50 req/day account-wide (1,000 after a $10 purchase) | Evet | Evet |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 istek/dk 50 istek/gün Shared rate limit | Evet | Hayır |
| Qwen3.8 27B | ElectronHub, Groq, OVH AI Endpoints | 262K | 30 istek/dk 250 istek/gün 70,000 jeton/dk ~6M | Evet | Evet |
| Gemini 3.6 Flash | Google AI Studio | 1M | 10 istek/dk 20 istek/gün 250,000 jeton/dk ~3M | Evet | Evet |
| Qwen 3.8 27B | Cloudflare Workers AI | 262K | Shared 10k neurons/day | Evet | Evet |
109 eşleşen ücretsiz modelden 12 tanesi gösteriliyor. Tüm modelleri gör.
Canlı veriler FreeLLMAPI kataloğundan alınır (sürüm 2026.11.19, 2026-11-19 tarihinde kontrol edildi). Ücretsiz limitler sık değişir. Katalog her gün kontrol edilir.
Python ile eksiksiz bir ajan döngüsü
Aşağıdaki döngü resmi OpenAI SDK'sını kullanır. Araçları gönderir, her araç çağrısını çalıştırır, sonucu geri gönderir ve model son yanıtı verdiğinde durur. Ayrıca en fazla adım sayısına ulaşınca da durur.
agent.py
import json
import os
import time
import openai
from openai import OpenAI
client = OpenAI(
base_url="http://localhost:3001/v1",
api_key=os.environ["FREELLMAPI_API_KEY"], # <unified-key>
max_retries=3,
)
def get_weather(city: str) -> dict:
return {"city": city, "temp_c": 18, "sky": "cloudy"}
TOOLS = [{
"type": "function",
"function": {
"name": "get_weather",
"description": "Get the current weather for a city.",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string"}},
"required": ["city"],
},
},
}]
FUNCTIONS = {"get_weather": get_weather}
def call_model(messages, session_id):
for attempt in range(5):
try:
return client.chat.completions.create(
model="auto:smart",
messages=messages,
tools=TOOLS,
extra_headers={"X-Session-Id": session_id},
)
except openai.RateLimitError as err:
header = err.response.headers.get("retry-after", "")
wait = int(header) if header.isdigit() else 2 ** attempt
time.sleep(min(wait, 60))
raise RuntimeError("All free providers are at their limit")
def run(task: str, session_id: str, max_steps: int = 10) -> str:
messages = [
{"role": "system", "content": "Use the tools when they help. Be brief."},
{"role": "user", "content": task},
]
for _ in range(max_steps):
msg = call_model(messages, session_id).choices[0].message
messages.append(msg)
if not msg.tool_calls:
return msg.content
for call in msg.tool_calls:
fn = FUNCTIONS.get(call.function.name)
try:
args = json.loads(call.function.arguments or "{}")
result = fn(**args) if fn else {"error": "unknown tool"}
except Exception as exc: # return tool errors to the model
result = {"error": str(exc)}
messages.append({
"role": "tool",
"tool_call_id": call.id,
"content": json.dumps(result),
})
return "Stopped: too many steps."
print(run("Should I take an umbrella in Dublin today?", session_id="task-001"))- X-Session-Id: Bu modelin kotası olduğu sürece, bir görevin tüm adımlarını aynı modelde tutar.
- Retry-After: Her anahtar sınırında olduğunda ağ geçidi bu üstbilgiyle 429 döndürür. Döngü bekler ve yeniden dener.
- Araç hataları: Döngü hataları araç sonucu olarak modele geri gönderir. Model çağrısını böylece düzeltebilir.
Her adımı doğru modele yönlendirin
Ajan adımları eşit değildir. Planlama adımı güçlü bir model gerektirir. Tek bir alanı çıkaran adım ise hızlı bir model gerektirir. Her adım türü için farklı bir model dizesi kullanın. Panelde bir değişiklik yapmanız gerekmez.
| Model dizesi | Sıralama ölçütü | Ajan kullanımı |
|---|---|---|
auto:smart | Zeka | Planlama, araç seçimi, son yanıtlar |
auto:fast | Ölçülen hız ve ilk bayta kadar süre | Çıkarma, sınıflandırma, araç çıktısının kısa özetleri |
auto:reliable | Son dönemdeki başarı oranı | Mutlaka tamamlanması gereken zamanlanmış ajanlar |
auto:balanced | Önce güvenilirlik, sonra hız ve zeka | Genel varsayılan |
auto:<profile> | Adlandırılmış yedek zinciriniz | Yalnızca araç çağıran modellerden oluşan bir zincir |
auto:* stratejileri etkin olan her modeli sıralar ve zincir sıranızı yok sayar. Araçlı bir istek yine de araç çağırma destekleyen bir model gerektirir. Etkin modellerin bir kısmı araçları iyi desteklemiyorsa yalnızca araç çağıran modellerden oluşan bir profil oluşturun. Sonra araç adımları için auto:<profile> kullanın. Bilinmeyen bir profil adı 400 hatası döndürür.
X-FreeLLM-Task-Type: code üstbilgisi, tek bir istek için yönlendirme ağırlığını hızdan zekaya kaydırır. Bu yumuşak bir tercihtir. Yetenek denetimlerini veya yedek zincirini değiştirmez.
Uzun ajan oturumları ve model değişiklikleri
Uzun bir görev sırasında bir model günlük sınırına ulaşabilir. Yönlendirici bunun üzerine başka bir modele geçer. Yeni model tüm mesaj geçmişini alır, ancak önceki adımları başka bir modelin yaptığını bilmez.
Model değiştiğinde tek bir kısa sistem mesajı eklemek için bağlam devrini açın. Mesaj, yeni modele görevi sürdürmesini ve önceki araç sonuçlarını korumasını söyler.
FreeLLMAPI .env
FREELLMAPI_CONTEXT_HANDOFF=on_model_switch- Devir mesajı, bir oturum için seçilen model değiştiğinde eklenir.
- Oturumlar bellekte 3 saat tutulur. Diske hiçbir şey yazılmaz.
- Oturum anahtarı
X-Session-Idüstbilgisidir. Bu üstbilgi yoksa, ilk kullanıcı mesajının karmasıdır.
Yönlendiriciyi MCP sunucusu olarak kullanın
FreeLLMAPI, /mcp üzerinde bir MCP sunucusudur. MCP konuşan bir ajan, FreeLLMAPI modeline metin görevi gönderebilir. Ayrıca bir oturum sırasında ağ geçidi durumunu okuyabilir: kullanılabilir modeller ve parametreleri, sağlayıcı sağlığı, kullanım ve önbellek istatistikleri ile yönlendirme stratejisi.
MCP yüzeyi yeni kurulumlarda kapalıdır. Bunu panelde Keys sayfasında, Agent compatibility altında açın. Kapalıyken /mcp 403 döndürür.
Claude Code'a MCP sunucusu ekleyin
claude mcp add --transport http freellmapi http://localhost:3001/mcp \
--header "Authorization: Bearer <unified-key>"Streamable HTTP destekleyen her MCP istemcisi aynı şekilde çalışır. /mcp adresini gösterin ve birleşik anahtarı Bearer belirteci olarak gönderin. Kullanışlı araçlar healthcheck, list_models ve ask_freellmapi araçlarıdır. ask_freellmapi aracı, bir görevi API ile aynı sohbet rotasından, yönlendirme ve yedekleme ile birlikte çalıştırır.
Kodlama ajanları için FreeLLMAPI, istemci yapılandırmasını sizin yerinize yazan kurulum komutlarına sahiptir. Örnekler npx freellmapi setup-claude, setup-codex, setup-cline, setup-openclaw ve setup-hermes komutlarıdır. Her komut --dry-run seçeneğini destekler ve önce bir yedek oluşturur.
Sorun giderme
| Sorun | Neden | Çözüm |
|---|---|---|
| Model metinle yanıt verir ve araç çağırmaz | Modelin araç çağırma desteği zayıftır | Yalnızca araç çağıran modellerle auto:<profile> kullanın |
| Ajan görevi ortada yeniden başlatır | Bir sınır model değişikliğini zorladı | X-Session-Id gönderin ve bağlam devrini açın |
| Çok adımdan sonra 429 hatası | Zincirdeki tüm anahtarlar sınırında | Sağlayıcı ekleyin, küçük adımlar için auto:fast kullanın ve Retry-After süresini bekleyin |
auto:name ile 400 hatası | Profil mevcut değil | Panelde profil adını kontrol edin |
/mcp 403 döndürür | MCP yüzeyi kapalı | Keys sayfasında Agent compatibility altında açın |
| Görevin sonlarında bağlam uzunluğu hataları | Geçmiş, modelin bağlam penceresinden büyük | Eski araç sonuçlarını özetleyin veya uzun bağlam profili kullanın |
Sık sorulan sorular
AI ajanları için ücretsiz bir LLM API var mı?
Evet. Birkaç sağlayıcının araç çağırmalı ücretsiz katmanı vardır. FreeLLMAPI bunları tek bir OpenAI uyumlu anahtar altında birleştirir ve bir sınır isteği durdurduğunda sonraki sağlayıcıya geçer.
Araç çağırma için en iyi ücretsiz LLM hangisi?
128K token veya daha büyük bağlam penceresi olan ve araç çağıran bir model kullanın. Bu sayfadaki tablo, bugün her iki kurala uyan en güçlü ücretsiz modelleri gösterir.
FreeLLMAPI'yi MCP sunucusu olarak kullanabilir miyim?
Evet. Keys sayfasında Agent compatibility altında MCP yüzeyini açın. Sonra MCP istemcinizi birleşik anahtarla Bearer belirteci olarak /mcp adresine bağlayın.
Bir ajanın hız sınırlarında başarısız olmasını nasıl önlerim?
Daha fazla sağlayıcıdan anahtar ekleyin, küçük adımları auto:fast modeline gönderin, 429 hatasında Retry-After üstbilgisine göre yeniden deneyin ve en fazla adım sayısını belirleyin.
Bir AI ajanı görevinin ortasında model değişirse ne olur?
Yeni model tüm mesaj geçmişini alır. Bağlam devri açıksa, görevi sürdürmesini söyleyen kısa bir not da alır.
İlgili rehberler
- Fonksiyon çağrısı destekli ücretsiz LLM API
- Python ile ücretsiz LLM API
- LangChain için ücretsiz LLM API
- n8n için ücretsiz LLM API
- Claude Code'u ücretsiz nasıl kullanırsınız
- Ücretsiz LLM API hız sınırları
Kaynaklar
- FreeLLMAPI docs: REST API (tool calling, routing strategies, response headers) (20 November 2026 tarihinde kontrol edildi)
- FreeLLMAPI docs: clients, MCP server and context handoff (20 November 2026 tarihinde kontrol edildi)
- OpenAI Python SDK: errors and retries (20 November 2026 tarihinde kontrol edildi)
- Claude Code docs: MCP (20 November 2026 tarihinde kontrol edildi)