Ana sayfa / Rehberler / AI ajanları için ücretsiz LLM API

AI ajanları için ücretsiz LLM API

Bir AI ajanı, tek bir görev için çok sayıda model isteği gönderir. Her adım araç çağırma ve geniş bağlam gerektirir. Tek bir ücretsiz katman ajanı hızla durdurur. FreeLLMAPI, 45 ücretsiz sağlayıcı katmanını tek bir OpenAI uyumlu anahtarın arkasında toplar. Bir sınır isteği durdurduğunda sonraki sağlayıcıya geçer, böylece ajan çalışmaya devam edebilir. Bu kılavuz araç çağırmayı, adım başına yönlendirmeyi, uzun oturumları ve yönlendiricinin MCP sunucusunu kapsar.

Kod, model adları ve canlı katalog etiketleri İngilizce gösterilir.

Ücretsiz bir API'den ajanın ihtiyaçları

GereksinimNedenFreeLLMAPI ne yapar
Araç çağırmaAjan araçları seçer ve çalıştırırHer sağlayıcıya OpenAI tarzı tools iletir. Düz metin araç çağrılarını gerçek tool_calls alanlarına dönüştürür.
Çok sayıda istekTek bir görev 20 ila 100 adım sürebilirHer anahtarın kotasını sayar ve 429 hatasında sonraki anahtara veya sağlayıcıya geçer
Geniş bağlamAraç sonuçları ve geçmiş her adımda büyürZincirinizdeki modellere yönlendirir. Uzun bağlam profili oluşturabilirsiniz.
Tutarlı davranışGörev ortasında model değişikliği ajanı kafa karıştırabilirBir oturumu 30 dakika boyunca tek modelde tutar. Değişiklik olduğunda isteğe bağlı bağlam devri yapılır.
GörünürlükHangi modelin başarısız olduğunu bilmeniz gerekirHer yanıtta X-Routed-Via ve X-Fallback-Trail üstbilgileri

Ücretsiz katmanların sınırları vardır. Yedekleme yükü anahtarlarınıza dağıtır, ancak toplam yine de ücretsiz sınırların toplamıdır. Ajan işi için en az dört sağlayıcıdan anahtar ekleyin.

Araç çağırmalı ve 128K+ bağlamlı ücretsiz modeller
ModelÜcretsiz olduğu yerBağlamÜcretsiz limitler (en iyi teklif)AraçlarGörsel girdi
GLM 5.3UnoRouter1M1 istek/dk
1 req/min per model
EvetHayır
GLM 5.3 FlashNVIDIA NIM, UnoRouter1M40 istek/dk
40 RPM
EvetEvet
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaEvetEvet
Qwen3.8 Flash NextAMD Radeon Cloud262KRecurring daily account allowanceEvetHayır
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditEvetEvet
Gemini 3.7 FlashGoogle AI Studio1M10 istek/dk
20 istek/gün
250,000 jeton/dk
~3M
EvetEvet
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditEvetEvet
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 istek/dk
50 istek/gün
50 req/day account-wide (1,000 after a $10 purchase)
EvetEvet
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 istek/dk
50 istek/gün
Shared rate limit
EvetHayır
Qwen3.8 27BElectronHub, Groq, OVH AI Endpoints262K30 istek/dk
250 istek/gün
70,000 jeton/dk
~6M
EvetEvet
Gemini 3.6 FlashGoogle AI Studio1M10 istek/dk
20 istek/gün
250,000 jeton/dk
~3M
EvetEvet
Qwen 3.8 27BCloudflare Workers AI262KShared 10k neurons/dayEvetEvet

109 eşleşen ücretsiz modelden 12 tanesi gösteriliyor. Tüm modelleri gör.

Canlı veriler FreeLLMAPI kataloğundan alınır (sürüm 2026.11.19, 2026-11-19 tarihinde kontrol edildi). Ücretsiz limitler sık değişir. Katalog her gün kontrol edilir.

Python ile eksiksiz bir ajan döngüsü

Aşağıdaki döngü resmi OpenAI SDK'sını kullanır. Araçları gönderir, her araç çağrısını çalıştırır, sonucu geri gönderir ve model son yanıtı verdiğinde durur. Ayrıca en fazla adım sayısına ulaşınca da durur.

agent.py

import json
import os
import time

import openai
from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:3001/v1",
    api_key=os.environ["FREELLMAPI_API_KEY"],  # <unified-key>
    max_retries=3,
)

def get_weather(city: str) -> dict:
    return {"city": city, "temp_c": 18, "sky": "cloudy"}

TOOLS = [{
    "type": "function",
    "function": {
        "name": "get_weather",
        "description": "Get the current weather for a city.",
        "parameters": {
            "type": "object",
            "properties": {"city": {"type": "string"}},
            "required": ["city"],
        },
    },
}]
FUNCTIONS = {"get_weather": get_weather}

def call_model(messages, session_id):
    for attempt in range(5):
        try:
            return client.chat.completions.create(
                model="auto:smart",
                messages=messages,
                tools=TOOLS,
                extra_headers={"X-Session-Id": session_id},
            )
        except openai.RateLimitError as err:
            header = err.response.headers.get("retry-after", "")
            wait = int(header) if header.isdigit() else 2 ** attempt
            time.sleep(min(wait, 60))
    raise RuntimeError("All free providers are at their limit")

def run(task: str, session_id: str, max_steps: int = 10) -> str:
    messages = [
        {"role": "system", "content": "Use the tools when they help. Be brief."},
        {"role": "user", "content": task},
    ]
    for _ in range(max_steps):
        msg = call_model(messages, session_id).choices[0].message
        messages.append(msg)
        if not msg.tool_calls:
            return msg.content
        for call in msg.tool_calls:
            fn = FUNCTIONS.get(call.function.name)
            try:
                args = json.loads(call.function.arguments or "{}")
                result = fn(**args) if fn else {"error": "unknown tool"}
            except Exception as exc:  # return tool errors to the model
                result = {"error": str(exc)}
            messages.append({
                "role": "tool",
                "tool_call_id": call.id,
                "content": json.dumps(result),
            })
    return "Stopped: too many steps."

print(run("Should I take an umbrella in Dublin today?", session_id="task-001"))
  • X-Session-Id: Bu modelin kotası olduğu sürece, bir görevin tüm adımlarını aynı modelde tutar.
  • Retry-After: Her anahtar sınırında olduğunda ağ geçidi bu üstbilgiyle 429 döndürür. Döngü bekler ve yeniden dener.
  • Araç hataları: Döngü hataları araç sonucu olarak modele geri gönderir. Model çağrısını böylece düzeltebilir.

Her adımı doğru modele yönlendirin

Ajan adımları eşit değildir. Planlama adımı güçlü bir model gerektirir. Tek bir alanı çıkaran adım ise hızlı bir model gerektirir. Her adım türü için farklı bir model dizesi kullanın. Panelde bir değişiklik yapmanız gerekmez.

Model dizesiSıralama ölçütüAjan kullanımı
auto:smartZekaPlanlama, araç seçimi, son yanıtlar
auto:fastÖlçülen hız ve ilk bayta kadar süreÇıkarma, sınıflandırma, araç çıktısının kısa özetleri
auto:reliableSon dönemdeki başarı oranıMutlaka tamamlanması gereken zamanlanmış ajanlar
auto:balancedÖnce güvenilirlik, sonra hız ve zekaGenel varsayılan
auto:<profile>Adlandırılmış yedek zincirinizYalnızca araç çağıran modellerden oluşan bir zincir

auto:* stratejileri etkin olan her modeli sıralar ve zincir sıranızı yok sayar. Araçlı bir istek yine de araç çağırma destekleyen bir model gerektirir. Etkin modellerin bir kısmı araçları iyi desteklemiyorsa yalnızca araç çağıran modellerden oluşan bir profil oluşturun. Sonra araç adımları için auto:<profile> kullanın. Bilinmeyen bir profil adı 400 hatası döndürür.

X-FreeLLM-Task-Type: code üstbilgisi, tek bir istek için yönlendirme ağırlığını hızdan zekaya kaydırır. Bu yumuşak bir tercihtir. Yetenek denetimlerini veya yedek zincirini değiştirmez.

Uzun ajan oturumları ve model değişiklikleri

Uzun bir görev sırasında bir model günlük sınırına ulaşabilir. Yönlendirici bunun üzerine başka bir modele geçer. Yeni model tüm mesaj geçmişini alır, ancak önceki adımları başka bir modelin yaptığını bilmez.

Model değiştiğinde tek bir kısa sistem mesajı eklemek için bağlam devrini açın. Mesaj, yeni modele görevi sürdürmesini ve önceki araç sonuçlarını korumasını söyler.

FreeLLMAPI .env

FREELLMAPI_CONTEXT_HANDOFF=on_model_switch
  • Devir mesajı, bir oturum için seçilen model değiştiğinde eklenir.
  • Oturumlar bellekte 3 saat tutulur. Diske hiçbir şey yazılmaz.
  • Oturum anahtarı X-Session-Id üstbilgisidir. Bu üstbilgi yoksa, ilk kullanıcı mesajının karmasıdır.

Yönlendiriciyi MCP sunucusu olarak kullanın

FreeLLMAPI, /mcp üzerinde bir MCP sunucusudur. MCP konuşan bir ajan, FreeLLMAPI modeline metin görevi gönderebilir. Ayrıca bir oturum sırasında ağ geçidi durumunu okuyabilir: kullanılabilir modeller ve parametreleri, sağlayıcı sağlığı, kullanım ve önbellek istatistikleri ile yönlendirme stratejisi.

MCP yüzeyi yeni kurulumlarda kapalıdır. Bunu panelde Keys sayfasında, Agent compatibility altında açın. Kapalıyken /mcp 403 döndürür.

Claude Code'a MCP sunucusu ekleyin

claude mcp add --transport http freellmapi http://localhost:3001/mcp \
  --header "Authorization: Bearer <unified-key>"

Streamable HTTP destekleyen her MCP istemcisi aynı şekilde çalışır. /mcp adresini gösterin ve birleşik anahtarı Bearer belirteci olarak gönderin. Kullanışlı araçlar healthcheck, list_models ve ask_freellmapi araçlarıdır. ask_freellmapi aracı, bir görevi API ile aynı sohbet rotasından, yönlendirme ve yedekleme ile birlikte çalıştırır.

Kodlama ajanları için FreeLLMAPI, istemci yapılandırmasını sizin yerinize yazan kurulum komutlarına sahiptir. Örnekler npx freellmapi setup-claude, setup-codex, setup-cline, setup-openclaw ve setup-hermes komutlarıdır. Her komut --dry-run seçeneğini destekler ve önce bir yedek oluşturur.

Sorun giderme

SorunNedenÇözüm
Model metinle yanıt verir ve araç çağırmazModelin araç çağırma desteği zayıftırYalnızca araç çağıran modellerle auto:<profile> kullanın
Ajan görevi ortada yeniden başlatırBir sınır model değişikliğini zorladıX-Session-Id gönderin ve bağlam devrini açın
Çok adımdan sonra 429 hatasıZincirdeki tüm anahtarlar sınırındaSağlayıcı ekleyin, küçük adımlar için auto:fast kullanın ve Retry-After süresini bekleyin
auto:name ile 400 hatasıProfil mevcut değilPanelde profil adını kontrol edin
/mcp 403 döndürürMCP yüzeyi kapalıKeys sayfasında Agent compatibility altında açın
Görevin sonlarında bağlam uzunluğu hatalarıGeçmiş, modelin bağlam penceresinden büyükEski araç sonuçlarını özetleyin veya uzun bağlam profili kullanın
Bunların hepsini tek bir anahtarla kullanın. FreeLLMAPI, açık kaynaklı ve kendi sunucunuzda çalışan bir yönlendiricidir. Tüm bu ücretsiz katmanları tek bir OpenAI uyumlu uç noktanın arkasında toplar ve bir sağlayıcı hız limitine takıldığında otomatik olarak başka birine geçer. Kataloğa göz atın veya canlı olarak incele.

Sık sorulan sorular

AI ajanları için ücretsiz bir LLM API var mı?

Evet. Birkaç sağlayıcının araç çağırmalı ücretsiz katmanı vardır. FreeLLMAPI bunları tek bir OpenAI uyumlu anahtar altında birleştirir ve bir sınır isteği durdurduğunda sonraki sağlayıcıya geçer.

Araç çağırma için en iyi ücretsiz LLM hangisi?

128K token veya daha büyük bağlam penceresi olan ve araç çağıran bir model kullanın. Bu sayfadaki tablo, bugün her iki kurala uyan en güçlü ücretsiz modelleri gösterir.

FreeLLMAPI'yi MCP sunucusu olarak kullanabilir miyim?

Evet. Keys sayfasında Agent compatibility altında MCP yüzeyini açın. Sonra MCP istemcinizi birleşik anahtarla Bearer belirteci olarak /mcp adresine bağlayın.

Bir ajanın hız sınırlarında başarısız olmasını nasıl önlerim?

Daha fazla sağlayıcıdan anahtar ekleyin, küçük adımları auto:fast modeline gönderin, 429 hatasında Retry-After üstbilgisine göre yeniden deneyin ve en fazla adım sayısını belirleyin.

Bir AI ajanı görevinin ortasında model değişirse ne olur?

Yeni model tüm mesaj geçmişini alır. Bağlam devri açıksa, görevi sürdürmesini söyleyen kısa bir not da alır.

İlgili rehberler

Kaynaklar

Tüm rehberler · Tüm ücretsiz modelleri incele