Laman utama / Panduan / API percuma untuk SillyTavern

API percuma untuk SillyTavern

SillyTavern ialah antara muka sembang dan permainan peranan yang anda jalankan pada komputer anda. Ia memerlukan API model. Panduan ini menyambungkan SillyTavern kepada FreeLLMAPI melalui sumber Chat Completion Custom (OpenAI-compatible). FreeLLMAPI menghimpunkan 45 peringkat pembekal percuma di belakang satu kunci dan beralih kepada pembekal seterusnya apabila had menghentikan permintaan.

Kod, nama model dan label katalog langsung dipaparkan dalam bahasa Inggeris.

Sebelum anda mula

Anda perlukan dua program pada komputer yang sama: SillyTavern dan FreeLLMAPI. FreeLLMAPI berjalan dalam Docker atau sebagai aplikasi desktop. Pasangnya dengan satu arahan:

Pasang FreeLLMAPI (macOS atau Linux)

curl -fsSL https://freellmapi.co/install.sh | bash
  1. Buka papan pemuka di http://localhost:3001.
  2. Tambah kunci percuma daripada dua pembekal atau lebih pada halaman Keys. Google AI Studio, Groq dan Mistral masing-masing memberikan kunci percuma.
  3. Salin kunci bersatu daripada halaman Keys. SillyTavern hanya guna kunci ini.

Aplikasi desktop mendengar pada http://127.0.0.1:31415. Jika anda guna aplikasi desktop, guna alamat itu dan bukan http://localhost:3001 pada halaman ini.

Langkah 1: Sambungkan SillyTavern

Buka SillyTavern dan klik ikon API Connections (palam) pada bar atas. Kemudian tetapkan medan ini:

MedanNilai
APIChat Completion
Chat Completion SourceCustom (OpenAI-compatible)
Custom Endpoint (Base URL)http://localhost:3001/v1
Custom API KeyKunci bersatu anda, <unified-key>
Masukkan Model IDauto, atau ID model daripada jadual di bawah

Klik Connect. SillyTavern membaca /v1/models dan mengisi senarai Available Models. Jangan tambah /chat/completions pada URL. SillyTavern menambah laluan itu sendiri.

Nota: senarai Available Models memaparkan katalog penuh FreeLLMAPI. Ia juga memaparkan model yang belum boleh anda panggil, kerana anda belum menambah kunci untuk pembekal mereka. Taip auto dalam Masukkan Model ID untuk membiarkan penghala memilih model yang berfungsi sekarang.

Klik Test Message untuk menghantar gesaan pendek. Jika anda mendapat jawapan, sambungan berfungsi.

Langkah 2: Pilih model untuk sembang panjang

Sembang permainan peranan menghantar kad watak, maklumat dunia dan sejarah sembang bersama setiap mesej. Sembang panjang boleh menghantar puluhan ribu token setiap kali. Pilih model dengan tetingkap konteks yang besar.

Anda boleh guna ID model ini dalam Masukkan Model ID:

  • auto: mengikut rantai sandaran anda pada papan pemuka.
  • auto:smart: menyusun model yang didayakan mengikut kecerdasan. Guna untuk kualiti cerita.
  • auto:fast: menyusun model yang didayakan mengikut kelajuan yang diukur. Guna untuk balasan pantas.
  • ID model tetap: memberikan gaya penulisan yang sama setiap kali, tetapi berhenti apabila had percuma model itu habis.
Model percuma dengan konteks 128K+ untuk sembang panjang
ModelPercuma padaKonteksHad percuma (tawaran terbaik)AlatPenglihatan
GLM 5.3APINex, UnoRouter1M5 permintaan/minit
10M weighted tokens/day shared across APINex free routes; 4x token multiplier; 5 requests/minute/account
YaTidak
GLM 5.3 FlashAPINex, BlazeAPI, NVIDIA NIM +1 lagi1M40 permintaan/minit
40 RPM
YaYa
Gemini 3.8 FlashAPINex, Google AI Studio1M5 permintaan/minit
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
YaYa
Qwen3.8 Flash NextAMD Radeon Cloud, BlazeAPI, ElectronHub262KRecurring daily account allowanceYaTidak
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditYaYa
Deepseek V4.1 FlashAPINex1M5 permintaan/minit
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
TidakTidak
Gemini 3.7 FlashGoogle AI Studio1M10 permintaan/minit
20 permintaan/hari
250,000 token/minit
~3M
YaYa
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditYaYa
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 permintaan/minit
50 permintaan/hari
50 req/day account-wide (1,000 after a $10 purchase)
YaYa
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 permintaan/minit
50 permintaan/hari
Shared rate limit
YaTidak
DeepSeek V4 Flash 0731ElectronHub, Router91M10,000 credits/month (~$1), shared; account-anniversary resetTidakTidak
Qwen3.8 27BBlazeAPI, ElectronHub, Gizmo +3 lagi262K30 permintaan/minit
250 permintaan/hari
70,000 token/minit
~6M
YaYa

Memaparkan 12 daripada 184 model percuma yang sepadan. Lihat semua model.

Data langsung daripada katalog FreeLLMAPI (versi 2026.11.19, disemak 2026-11-19). Had percuma kerap berubah. Katalog disemak setiap hari.

FreeLLMAPI mengekalkan perbualan pada satu model selama 30 minit. Ini memastikan suara watak kekal sama merentas mesej. Jika had memaksa pertukaran model, model seterusnya meneruskan dari sejarah sembang yang sama.

Langkah 3: Tetapkan tetapan penjanaan

Buka panel AI Response Configuration (ikon peluncur). Tiga tetapan memberi kesan paling besar pada peringkat percuma:

TetapanNilai yang disyorkanSebab
Context Size (tokens)16,000 hingga 32,000Konteks yang lebih kecil menghantar lebih sedikit token setiap mesej. Peringkat percuma selalunya mengehadkan token seminit.
Max Response Length (tokens)400 hingga 800Balasan panjang cepat menghabiskan kuota output. Sesetengah model penaakulan juga guna sebahagian bajet ini untuk pemikiran tersembunyi.
StreamingHidupAnda melihat teks semasa ia tiba. FreeLLMAPI menstrim pada setiap pembekal yang boleh dicapainya.

SillyTavern juga mempunyai pilihan Prompt Post-Processing untuk sumber Custom. Sesetengah pembekal menolak dua mesej sistem berturut-turut. Jika anda mendapat ralat tentang peranan mesej, pilih pilihan Semi-strict atau Strict. Pilihan ini menggabungkan mesej peranan yang sama. Pilihan yang ditanda "no tools" juga membuang panggilan alat. Pilihan yang ditanda "with tools" mengekalkannya.

Had kadar dalam permainan peranan panjang

Setiap peringkat percuma mempunyai hadnya sendiri. Contohnya, kunci Gemini Flash percuma membenarkan beberapa permintaan sehari, dan kunci Groq membenarkan lebih banyak permintaan dengan had token yang lebih rendah. Satu petang permainan peranan boleh menghantar beberapa ratus permintaan. Satu kunci percuma tidak akan bertahan selama itu.

  • Tambah lebih banyak pembekal. Setiap kunci menambah permintaan sehari. FreeLLMAPI mengira kuota setiap kunci dan beralih ke kunci atau pembekal seterusnya apabila satu habis.
  • Kurangkan konteks. Ringkaskan mesej lama dengan sambungan Summarize SillyTavern. Gesaan yang lebih pendek menggunakan lebih sedikit token seminit.
  • Elakkan swipe berulang. Setiap swipe atau regenerate ialah permintaan baharu.
  • Pantau tetapan semula. Apabila semua kunci mencapai had, gateway memulangkan ralat 429 dengan pengepala Retry-After. Banyak had harian ditetapkan semula pada tengah malam UTC.

Jadual menunjukkan had percuma bagi setiap pembekal dalam katalog hari ini.

PembekalModel percumaMaks permintaan/minitMaks permintaan/hariMaks token/minitToken/bulan (satu model)Model percuma terkuat
ElectronHub84---$0.25/week shared recurring creditQwen3.8 Flash (ElectronHub)
qwen3.8-flash
Cloudflare Workers AI39---~5-10MQwen 3.8 27B (Cloudflare Workers AI)
@cf/qwen/qwen3.8-27b
Inferbase38---5,000 requests/month; 100 requests and $0.50 usage/day sharedDeepSeek V4 Flash (fp8) (Inferbase)
deepseek-v4-flash:fp8
AI Horde31---Ongoing volunteer queue; availability variesGemma 4 31B Heretic (AI Horde)
koboldcpp/gemma-4-31B-it-heretic
ACLIDE29---€20/month shared internal usage credits · no cardQwen3.8 Max (ACLIDE)
qwen/qwen3.8-max:free
Google AI Studio21151,000250,000~3MGemini 3.8 Flash
gemini-3.8-flash
Api.Airforce2011,000-free · 1,000 req/day · 1 req/mingpt-oss-20b (Api.Airforce)
gpt-oss-20b
NVIDIA NIM1940--free · 40 RPMGLM 5.3 Flash (NV)
z-ai/glm-5.3-flash
Cohere172033-~1-2MCommand A+ (05-2026)
command-a-plus-05-2026
DreamPrompting141005,000-free · 500K tokens/day · 5,000 req/dayGemini 3.1 Flash-Lite
google/gemini-3.1-flash-lite
Mistral122-500,000~50-100MMistral Code
mistral-code-latest
ModelScope11-200-Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experienceGLM-5.2 (ModelScope)
ZhipuAI/GLM-5.2

Data langsung daripada katalog FreeLLMAPI (versi 2026.11.19, disemak 2026-11-19). Had percuma kerap berubah. Katalog disemak setiap hari.

Dasar kandungan: setiap pembekal mengenakan dasar penggunaannya sendiri ke atas permintaan percuma. Pembekal boleh menolak sesetengah kandungan. FreeLLMAPI tidak mengubah apa yang dibenarkan oleh pembekal.

Penyelesaian masalah

MasalahPuncaPenyelesaian
Sambungan gagal atau status kekal merahURL salah atau FreeLLMAPI tidak berjalanBuka http://localhost:3001 dalam pelayar. Pastikan URL berakhir dengan /v1.
Ralat 401Kunci salahTampal semula kunci bersatu dalam Custom API Key
Model yang dipilih sentiasa gagalTiada kunci untuk pembekal model ituTambah kunci pembekal, atau taip auto
Ralat 429 selepas sesi panjangSemua kunci telah mencapai hadTambah kunci daripada lebih banyak pembekal, atau tunggu tetapan semula
Ralat tentang susunan atau peranan mesejPembekal mempunyai peraturan peranan yang ketatTetapkan Prompt Post-Processing kepada Semi-strict atau Strict
Balasan berhenti di tengah-tengahMax Response Length terlalu kecil untuk model penaakulanTingkatkan nilai itu, atau pilih model tanpa penaakulan
Suara watak berubah semasa sembangHad memaksa pertukaran modelPin satu model yang percuma pada beberapa pembekal
Guna setiap satu daripada ini melalui satu kunci. FreeLLMAPI ialah penghala sumber terbuka yang anda hoskan sendiri. Ia meletakkan semua peringkat percuma ini di belakang satu titik akhir serasi OpenAI dan beralih ke pembekal lain apabila had kadar dicapai. Layari katalog atau mula sekarang.

Soalan lazim

Adakah terdapat API percuma untuk SillyTavern?

Ada. SillyTavern menerima mana-mana API yang serasi dengan OpenAI melalui sumber Custom (OpenAI-compatible). FreeLLMAPI memberikan satu titik akhir untuk banyak peringkat pembekal percuma. Setiap peringkat mempunyai had sendiri.

Apakah base URL untuk SillyTavern Custom (OpenAI-compatible)?

Guna http://localhost:3001/v1 untuk pemasangan pelayan FreeLLMAPI, atau http://127.0.0.1:31415/v1 untuk aplikasi desktop. Jangan tambah /chat/completions.

Model percuma manakah terbaik untuk permainan peranan SillyTavern?

Guna model dengan tetingkap konteks 128K token atau lebih. Mulakan dengan auto:smart untuk kualiti atau auto:fast untuk kelajuan. Jadual pada halaman ini menunjukkan model percuma terkuat hari ini.

Mengapa saya mendapat ralat 429 dalam SillyTavern?

Satu peringkat percuma telah mencapai hadnya. FreeLLMAPI beralih ke kunci atau pembekal seterusnya. Jika setiap kunci telah mencapai had, anda mendapat 429. Tambah lebih banyak kunci pembekal atau kurangkan saiz konteks.

Adakah streaming SillyTavern berfungsi dengan API percuma?

Ya. Hidupkan Streaming dalam panel AI Response Configuration. FreeLLMAPI menstrim balasan daripada setiap pembekal dalam format OpenAI.

Panduan berkaitan

Sumber

Semua panduan · Lihat semua model percuma