API percuma untuk SillyTavern
SillyTavern ialah antara muka sembang dan permainan peranan yang anda jalankan pada komputer anda. Ia memerlukan API model. Panduan ini menyambungkan SillyTavern kepada FreeLLMAPI melalui sumber Chat Completion Custom (OpenAI-compatible). FreeLLMAPI menghimpunkan 45 peringkat pembekal percuma di belakang satu kunci dan beralih kepada pembekal seterusnya apabila had menghentikan permintaan.
Kod, nama model dan label katalog langsung dipaparkan dalam bahasa Inggeris.
Sebelum anda mula
Anda perlukan dua program pada komputer yang sama: SillyTavern dan FreeLLMAPI. FreeLLMAPI berjalan dalam Docker atau sebagai aplikasi desktop. Pasangnya dengan satu arahan:
Pasang FreeLLMAPI (macOS atau Linux)
curl -fsSL https://freellmapi.co/install.sh | bash- Buka papan pemuka di
http://localhost:3001. - Tambah kunci percuma daripada dua pembekal atau lebih pada halaman Keys. Google AI Studio, Groq dan Mistral masing-masing memberikan kunci percuma.
- Salin kunci bersatu daripada halaman Keys. SillyTavern hanya guna kunci ini.
Aplikasi desktop mendengar pada http://127.0.0.1:31415. Jika anda guna aplikasi desktop, guna alamat itu dan bukan http://localhost:3001 pada halaman ini.
Langkah 1: Sambungkan SillyTavern
Buka SillyTavern dan klik ikon API Connections (palam) pada bar atas. Kemudian tetapkan medan ini:
| Medan | Nilai |
|---|---|
| API | Chat Completion |
| Chat Completion Source | Custom (OpenAI-compatible) |
| Custom Endpoint (Base URL) | http://localhost:3001/v1 |
| Custom API Key | Kunci bersatu anda, <unified-key> |
| Masukkan Model ID | auto, atau ID model daripada jadual di bawah |
Klik Connect. SillyTavern membaca /v1/models dan mengisi senarai Available Models. Jangan tambah /chat/completions pada URL. SillyTavern menambah laluan itu sendiri.
auto dalam Masukkan Model ID untuk membiarkan penghala memilih model yang berfungsi sekarang.Klik Test Message untuk menghantar gesaan pendek. Jika anda mendapat jawapan, sambungan berfungsi.
Langkah 2: Pilih model untuk sembang panjang
Sembang permainan peranan menghantar kad watak, maklumat dunia dan sejarah sembang bersama setiap mesej. Sembang panjang boleh menghantar puluhan ribu token setiap kali. Pilih model dengan tetingkap konteks yang besar.
Anda boleh guna ID model ini dalam Masukkan Model ID:
auto: mengikut rantai sandaran anda pada papan pemuka.auto:smart: menyusun model yang didayakan mengikut kecerdasan. Guna untuk kualiti cerita.auto:fast: menyusun model yang didayakan mengikut kelajuan yang diukur. Guna untuk balasan pantas.- ID model tetap: memberikan gaya penulisan yang sama setiap kali, tetapi berhenti apabila had percuma model itu habis.
| Model | Percuma pada | Konteks | Had percuma (tawaran terbaik) | Alat | Penglihatan |
|---|---|---|---|---|---|
| GLM 5.3 | APINex, UnoRouter | 1M | 5 permintaan/minit 10M weighted tokens/day shared across APINex free routes; 4x token multiplier; 5 requests/minute/account | Ya | Tidak |
| GLM 5.3 Flash | APINex, BlazeAPI, NVIDIA NIM +1 lagi | 1M | 40 permintaan/minit 40 RPM | Ya | Ya |
| Gemini 3.8 Flash | APINex, Google AI Studio | 1M | 5 permintaan/minit 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | Ya | Ya |
| Qwen3.8 Flash Next | AMD Radeon Cloud, BlazeAPI, ElectronHub | 262K | Recurring daily account allowance | Ya | Tidak |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | Ya | Ya |
| Deepseek V4.1 Flash | APINex | 1M | 5 permintaan/minit 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | Tidak | Tidak |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 permintaan/minit 20 permintaan/hari 250,000 token/minit ~3M | Ya | Ya |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | Ya | Ya |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 permintaan/minit 50 permintaan/hari 50 req/day account-wide (1,000 after a $10 purchase) | Ya | Ya |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 permintaan/minit 50 permintaan/hari Shared rate limit | Ya | Tidak |
| DeepSeek V4 Flash 0731 | ElectronHub, Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | Tidak | Tidak |
| Qwen3.8 27B | BlazeAPI, ElectronHub, Gizmo +3 lagi | 262K | 30 permintaan/minit 250 permintaan/hari 70,000 token/minit ~6M | Ya | Ya |
Memaparkan 12 daripada 184 model percuma yang sepadan. Lihat semua model.
Data langsung daripada katalog FreeLLMAPI (versi 2026.11.19, disemak 2026-11-19). Had percuma kerap berubah. Katalog disemak setiap hari.
FreeLLMAPI mengekalkan perbualan pada satu model selama 30 minit. Ini memastikan suara watak kekal sama merentas mesej. Jika had memaksa pertukaran model, model seterusnya meneruskan dari sejarah sembang yang sama.
Langkah 3: Tetapkan tetapan penjanaan
Buka panel AI Response Configuration (ikon peluncur). Tiga tetapan memberi kesan paling besar pada peringkat percuma:
| Tetapan | Nilai yang disyorkan | Sebab |
|---|---|---|
| Context Size (tokens) | 16,000 hingga 32,000 | Konteks yang lebih kecil menghantar lebih sedikit token setiap mesej. Peringkat percuma selalunya mengehadkan token seminit. |
| Max Response Length (tokens) | 400 hingga 800 | Balasan panjang cepat menghabiskan kuota output. Sesetengah model penaakulan juga guna sebahagian bajet ini untuk pemikiran tersembunyi. |
| Streaming | Hidup | Anda melihat teks semasa ia tiba. FreeLLMAPI menstrim pada setiap pembekal yang boleh dicapainya. |
SillyTavern juga mempunyai pilihan Prompt Post-Processing untuk sumber Custom. Sesetengah pembekal menolak dua mesej sistem berturut-turut. Jika anda mendapat ralat tentang peranan mesej, pilih pilihan Semi-strict atau Strict. Pilihan ini menggabungkan mesej peranan yang sama. Pilihan yang ditanda "no tools" juga membuang panggilan alat. Pilihan yang ditanda "with tools" mengekalkannya.
Had kadar dalam permainan peranan panjang
Setiap peringkat percuma mempunyai hadnya sendiri. Contohnya, kunci Gemini Flash percuma membenarkan beberapa permintaan sehari, dan kunci Groq membenarkan lebih banyak permintaan dengan had token yang lebih rendah. Satu petang permainan peranan boleh menghantar beberapa ratus permintaan. Satu kunci percuma tidak akan bertahan selama itu.
- Tambah lebih banyak pembekal. Setiap kunci menambah permintaan sehari. FreeLLMAPI mengira kuota setiap kunci dan beralih ke kunci atau pembekal seterusnya apabila satu habis.
- Kurangkan konteks. Ringkaskan mesej lama dengan sambungan Summarize SillyTavern. Gesaan yang lebih pendek menggunakan lebih sedikit token seminit.
- Elakkan swipe berulang. Setiap swipe atau regenerate ialah permintaan baharu.
- Pantau tetapan semula. Apabila semua kunci mencapai had, gateway memulangkan ralat 429 dengan pengepala
Retry-After. Banyak had harian ditetapkan semula pada tengah malam UTC.
Jadual menunjukkan had percuma bagi setiap pembekal dalam katalog hari ini.
| Pembekal | Model percuma | Maks permintaan/minit | Maks permintaan/hari | Maks token/minit | Token/bulan (satu model) | Model percuma terkuat |
|---|---|---|---|---|---|---|
| ElectronHub | 84 | - | - | - | $0.25/week shared recurring credit | Qwen3.8 Flash (ElectronHub)qwen3.8-flash |
| Cloudflare Workers AI | 39 | - | - | - | ~5-10M | Qwen 3.8 27B (Cloudflare Workers AI)@cf/qwen/qwen3.8-27b |
| Inferbase | 38 | - | - | - | 5,000 requests/month; 100 requests and $0.50 usage/day shared | DeepSeek V4 Flash (fp8) (Inferbase)deepseek-v4-flash:fp8 |
| AI Horde | 31 | - | - | - | Ongoing volunteer queue; availability varies | Gemma 4 31B Heretic (AI Horde)koboldcpp/gemma-4-31B-it-heretic |
| ACLIDE | 29 | - | - | - | €20/month shared internal usage credits · no card | Qwen3.8 Max (ACLIDE)qwen/qwen3.8-max:free |
| Google AI Studio | 21 | 15 | 1,000 | 250,000 | ~3M | Gemini 3.8 Flashgemini-3.8-flash |
| Api.Airforce | 20 | 1 | 1,000 | - | free · 1,000 req/day · 1 req/min | gpt-oss-20b (Api.Airforce)gpt-oss-20b |
| NVIDIA NIM | 19 | 40 | - | - | free · 40 RPM | GLM 5.3 Flash (NV)z-ai/glm-5.3-flash |
| Cohere | 17 | 20 | 33 | - | ~1-2M | Command A+ (05-2026)command-a-plus-05-2026 |
| DreamPrompting | 14 | 100 | 5,000 | - | free · 500K tokens/day · 5,000 req/day | Gemini 3.1 Flash-Litegoogle/gemini-3.1-flash-lite |
| Mistral | 12 | 2 | - | 500,000 | ~50-100M | Mistral Codemistral-code-latest |
| ModelScope | 11 | - | 200 | - | Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experience | GLM-5.2 (ModelScope)ZhipuAI/GLM-5.2 |
Data langsung daripada katalog FreeLLMAPI (versi 2026.11.19, disemak 2026-11-19). Had percuma kerap berubah. Katalog disemak setiap hari.
Penyelesaian masalah
| Masalah | Punca | Penyelesaian |
|---|---|---|
| Sambungan gagal atau status kekal merah | URL salah atau FreeLLMAPI tidak berjalan | Buka http://localhost:3001 dalam pelayar. Pastikan URL berakhir dengan /v1. |
| Ralat 401 | Kunci salah | Tampal semula kunci bersatu dalam Custom API Key |
| Model yang dipilih sentiasa gagal | Tiada kunci untuk pembekal model itu | Tambah kunci pembekal, atau taip auto |
| Ralat 429 selepas sesi panjang | Semua kunci telah mencapai had | Tambah kunci daripada lebih banyak pembekal, atau tunggu tetapan semula |
| Ralat tentang susunan atau peranan mesej | Pembekal mempunyai peraturan peranan yang ketat | Tetapkan Prompt Post-Processing kepada Semi-strict atau Strict |
| Balasan berhenti di tengah-tengah | Max Response Length terlalu kecil untuk model penaakulan | Tingkatkan nilai itu, atau pilih model tanpa penaakulan |
| Suara watak berubah semasa sembang | Had memaksa pertukaran model | Pin satu model yang percuma pada beberapa pembekal |
Soalan lazim
Adakah terdapat API percuma untuk SillyTavern?
Ada. SillyTavern menerima mana-mana API yang serasi dengan OpenAI melalui sumber Custom (OpenAI-compatible). FreeLLMAPI memberikan satu titik akhir untuk banyak peringkat pembekal percuma. Setiap peringkat mempunyai had sendiri.
Apakah base URL untuk SillyTavern Custom (OpenAI-compatible)?
Guna http://localhost:3001/v1 untuk pemasangan pelayan FreeLLMAPI, atau http://127.0.0.1:31415/v1 untuk aplikasi desktop. Jangan tambah /chat/completions.
Model percuma manakah terbaik untuk permainan peranan SillyTavern?
Guna model dengan tetingkap konteks 128K token atau lebih. Mulakan dengan auto:smart untuk kualiti atau auto:fast untuk kelajuan. Jadual pada halaman ini menunjukkan model percuma terkuat hari ini.
Mengapa saya mendapat ralat 429 dalam SillyTavern?
Satu peringkat percuma telah mencapai hadnya. FreeLLMAPI beralih ke kunci atau pembekal seterusnya. Jika setiap kunci telah mencapai had, anda mendapat 429. Tambah lebih banyak kunci pembekal atau kurangkan saiz konteks.
Adakah streaming SillyTavern berfungsi dengan API percuma?
Ya. Hidupkan Streaming dalam panel AI Response Configuration. FreeLLMAPI menstrim balasan daripada setiap pembekal dalam format OpenAI.
Panduan berkaitan
- API LLM percuma untuk Open WebUI
- Free LLM API dengan konteks 1 juta token
- Had kadar Free LLM API
- Base URL API percuma yang serasi dengan OpenAI
- API LLM percuma tanpa kad kredit
Sumber
- SillyTavern docs: Chat Completion sources, Custom (OpenAI-compatible) (disemak 20 November 2026)
- SillyTavern source: API connection panel labels (public/index.html) (disemak 20 November 2026)
- FreeLLMAPI docs: REST API (routing strategies, model listing, streaming) (disemak 20 November 2026)
- FreeLLMAPI README: features and limitations (disemak 20 November 2026)