मुख्यपृष्ठ / मार्गदर्शक / SillyTavern साठी मोफत API

SillyTavern साठी मोफत API

SillyTavern हा चॅट आणि रोलप्ले इंटरफेस आहे, जो तुम्ही तुमच्या संगणकावर चालवता. त्याला मॉडेल API लागते. हे मार्गदर्शक SillyTavern ला Chat Completion स्रोत Custom (OpenAI-compatible) द्वारे FreeLLMAPI शी जोडते. FreeLLMAPI एका कीमागे 45 मोफत प्रदाता टियर एकत्र ठेवते. एखादी मर्यादा विनंती थांबवते, तेव्हा ते पुढच्या प्रदात्याकडे जाते.

कोड, मॉडेलची नावे आणि थेट कॅटलॉग लेबल इंग्रजीत दाखवले जातात.

सुरू करण्यापूर्वी

एकाच संगणकावर दोन प्रोग्राम लागतात: SillyTavern आणि FreeLLMAPI. FreeLLMAPI Docker मध्ये किंवा डेस्कटॉप ॲप म्हणून चालते. एका आदेशाने ते इन्स्टॉल करा:

FreeLLMAPI इन्स्टॉल करा (macOS किंवा Linux)

curl -fsSL https://freellmapi.co/install.sh | bash
  1. http://localhost:3001 वर डॅशबोर्ड उघडा.
  2. Keys पेजवर दोन किंवा अधिक प्रदात्यांच्या मोफत की जोडा. Google AI Studio, Groq आणि Mistral प्रत्येकी एक मोफत की देतात.
  3. Keys पेजवरून एकत्रित की कॉपी करा. SillyTavern फक्त हीच की वापरते.

डेस्कटॉप ॲप http://127.0.0.1:31415 वर ऐकते. तुम्ही डेस्कटॉप ॲप वापरत असल्यास, या पानावरील http://localhost:3001 ऐवजी तो पत्ता वापरा.

पायरी 1: SillyTavern जोडा

SillyTavern उघडा आणि वरच्या पट्टीतील API Connections चिन्हावर (प्लग) क्लिक करा. मग हे फील्ड सेट करा:

फील्डमूल्य
APIChat Completion
Chat Completion SourceCustom (OpenAI-compatible)
Custom Endpoint (Base URL)http://localhost:3001/v1
Custom API Keyतुमची एकत्रित की, <unified-key>
Enter a Model IDauto, किंवा खालील तक्त्यातील मॉडेल ID

Connect वर क्लिक करा. SillyTavern /v1/models वाचते आणि Available Models यादी भरते. URL मध्ये /chat/completions जोडू नका. तो मार्ग SillyTavern स्वतः जोडते.

टीप: Available Models यादीत संपूर्ण FreeLLMAPI कॅटलॉग दिसतो. त्यात अशी मॉडेलही दिसतात, ज्यांना तुम्ही अजून कॉल करू शकत नाही, कारण त्यांच्या प्रदात्याची की तुम्ही जोडलेली नाही. राउटरला सध्या चालणारे मॉडेल निवडू देण्यासाठी Enter a Model ID मध्ये auto टाइप करा.

लहान प्रॉम्प्ट पाठवण्यासाठी Test Message वर क्लिक करा. उत्तर आले, तर कनेक्शन काम करते.

पायरी 2: लांब चॅटसाठी मॉडेल निवडा

रोलप्ले चॅट प्रत्येक संदेशासोबत कॅरेक्टर कार्ड, जगाची माहिती आणि चॅट इतिहास पाठवते. लांब चॅटमध्ये प्रत्येक वेळी हजारो टोकन जाऊ शकतात. मोठी संदर्भ विंडो असलेली मॉडेल निवडा.

Enter a Model ID मध्ये तुम्ही ही मॉडेल ID वापरू शकता:

  • auto: डॅशबोर्डवरील फॉलबॅक साखळी पाळते.
  • auto:smart: सक्षम मॉडेल बुद्धिमत्तेनुसार क्रमवारी लावते. कथेच्या गुणवत्तेसाठी वापरा.
  • auto:fast: सक्षम मॉडेल मोजलेल्या वेगानुसार क्रमवारी लावते. जलद उत्तरांसाठी वापरा.
  • निश्चित मॉडेल ID: प्रत्येक वेळी एकच लेखनशैली देते, पण त्या मॉडेलची मोफत मर्यादा संपली की थांबते.
लांब चॅटसाठी 128K+ संदर्भ असलेली मोफत मॉडेल
मॉडेलमोफत उपलब्धसंदर्भमोफत मर्यादा (सर्वोत्तम ऑफर)साधनेव्हिजन
GLM 5.3APINex, UnoRouter1M5 विनंत्या/मिनिट
10M weighted tokens/day shared across APINex free routes; 4x token multiplier; 5 requests/minute/account
होयनाही
GLM 5.3 FlashAPINex, BlazeAPI, NVIDIA NIM +1 अधिक1M40 विनंत्या/मिनिट
40 RPM
होयहोय
Gemini 3.8 FlashAPINex, Google AI Studio1M5 विनंत्या/मिनिट
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
होयहोय
Qwen3.8 Flash NextAMD Radeon Cloud, BlazeAPI, ElectronHub262KRecurring daily account allowanceहोयनाही
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditहोयहोय
Deepseek V4.1 FlashAPINex1M5 विनंत्या/मिनिट
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
नाहीनाही
Gemini 3.7 FlashGoogle AI Studio1M10 विनंत्या/मिनिट
20 विनंत्या/दिवस
250,000 टोकन/मिनिट
~3M
होयहोय
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditहोयहोय
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 विनंत्या/मिनिट
50 विनंत्या/दिवस
50 req/day account-wide (1,000 after a $10 purchase)
होयहोय
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 विनंत्या/मिनिट
50 विनंत्या/दिवस
Shared rate limit
होयनाही
DeepSeek V4 Flash 0731ElectronHub, Router91M10,000 credits/month (~$1), shared; account-anniversary resetनाहीनाही
Qwen3.8 27BBlazeAPI, ElectronHub, Gizmo +3 अधिक262K30 विनंत्या/मिनिट
250 विनंत्या/दिवस
70,000 टोकन/मिनिट
~6M
होयहोय

जुळणाऱ्या 184 मोफत मॉडेलपैकी 12 दाखवले जात आहेत. सर्व मॉडेल पहा.

FreeLLMAPI कॅटलॉगमधील थेट डेटा (आवृत्ती 2026.11.19, तपासले 2026-11-19). मोफत मर्यादा वारंवार बदलतात. कॅटलॉग दररोज तपासले जाते.

FreeLLMAPI एका संभाषणासाठी 30 मिनिटे एकच मॉडेल ठेवते. त्यामुळे संदेशांमध्ये कॅरेक्टरचा आवाज सारखाच राहतो. एखाद्या मर्यादेमुळे मॉडेल बदलावे लागले, तर पुढचे मॉडेल त्याच चॅट इतिहासावरून पुढे चालू ठेवते.

पायरी 3: जनरेशन सेटिंग्ज सेट करा

AI Response Configuration पॅनल उघडा (स्लायडर चिन्ह). मोफत टियरवर तीन सेटिंग्जचा सर्वात मोठा परिणाम होतो:

सेटिंगशिफारस केलेले मूल्यकारण
Context Size (tokens)16,000 ते 32,000लहान संदर्भ प्रत्येक संदेशासोबत कमी टोकन पाठवतो. मोफत टियर अनेकदा प्रति मिनिट टोकन मर्यादित करतात.
Max Response Length (tokens)400 ते 800लांब उत्तरे आउटपुट कोटा लवकर वापरतात. काही reasoning मॉडेल या बजेटचा काही भाग लपलेल्या विचारासाठीही वापरतात.
Streamingचालूमजकूर येताना तुम्हाला दिसतो. FreeLLMAPI जे प्रदाते पोहोचू शकते, त्या सर्वांवर स्ट्रीम करते.

Custom स्रोतासाठी SillyTavern मध्ये Prompt Post-Processing पर्यायही आहे. काही प्रदाते सलग दोन system संदेश नाकारतात. भूमिकेबद्दल त्रुटी आल्यास Semi-strict किंवा Strict पर्याय निवडा. हे पर्याय एकाच भूमिकेचे संदेश एकत्र करतात. "no tools" असे चिन्हांकित पर्याय tool calls काढून टाकतात. "with tools" असे चिन्हांकित पर्याय ते ठेवतात.

लांब रोलप्लेमधील रेट मर्यादा

प्रत्येक मोफत टियरची स्वतःची मर्यादा असते. उदाहरणार्थ, मोफत Gemini Flash की दररोज थोड्याच विनंत्या देते, तर Groq की जास्त विनंत्या पण कमी टोकन मर्यादेसह देते. रोलप्लेची एक संध्याकाळ शेकडो विनंत्या पाठवू शकते. एक मोफत की इतका वेळ टिकत नाही.

  • आणखी प्रदाते जोडा. प्रत्येक की दररोजच्या विनंत्या वाढवते. FreeLLMAPI प्रत्येक कीचा कोटा मोजते आणि एक संपली की पुढच्या की किंवा प्रदात्याकडे जाते.
  • संदर्भ कमी करा. SillyTavern च्या Summarize एक्स्टेंशनने जुने संदेश सारांशित करा. लहान प्रॉम्प्ट प्रति मिनिट कमी टोकन वापरतो.
  • लूपमध्ये swipe करणे टाळा. प्रत्येक swipe किंवा regenerate ही नवी विनंती असते.
  • रीसेट पाहा. सर्व की त्यांच्या मर्यादेवर असतात, तेव्हा गेटवे Retry-After हेडरसह त्रुटी 429 परत करतो. अनेक दैनिक मर्यादा मध्यरात्री UTC ला रीसेट होतात.

तक्त्यात आजच्या कॅटलॉगमधील प्रत्येक प्रदात्याच्या मोफत मर्यादा दिल्या आहेत.

प्रदातामोफत मॉडेलकमाल विनंत्या/मिनिटकमाल विनंत्या/दिवसकमाल टोकन/मिनिटटोकन/महिना (एक मॉडेल)सर्वात सक्षम मोफत मॉडेल
ElectronHub84---$0.25/week shared recurring creditQwen3.8 Flash (ElectronHub)
qwen3.8-flash
Cloudflare Workers AI39---~5-10MQwen 3.8 27B (Cloudflare Workers AI)
@cf/qwen/qwen3.8-27b
Inferbase38---5,000 requests/month; 100 requests and $0.50 usage/day sharedDeepSeek V4 Flash (fp8) (Inferbase)
deepseek-v4-flash:fp8
AI Horde31---Ongoing volunteer queue; availability variesGemma 4 31B Heretic (AI Horde)
koboldcpp/gemma-4-31B-it-heretic
ACLIDE29---€20/month shared internal usage credits · no cardQwen3.8 Max (ACLIDE)
qwen/qwen3.8-max:free
Google AI Studio21151,000250,000~3MGemini 3.8 Flash
gemini-3.8-flash
Api.Airforce2011,000-free · 1,000 req/day · 1 req/mingpt-oss-20b (Api.Airforce)
gpt-oss-20b
NVIDIA NIM1940--free · 40 RPMGLM 5.3 Flash (NV)
z-ai/glm-5.3-flash
Cohere172033-~1-2MCommand A+ (05-2026)
command-a-plus-05-2026
DreamPrompting141005,000-free · 500K tokens/day · 5,000 req/dayGemini 3.1 Flash-Lite
google/gemini-3.1-flash-lite
Mistral122-500,000~50-100MMistral Code
mistral-code-latest
ModelScope11-200-Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experienceGLM-5.2 (ModelScope)
ZhipuAI/GLM-5.2

FreeLLMAPI कॅटलॉगमधील थेट डेटा (आवृत्ती 2026.11.19, तपासले 2026-11-19). मोफत मर्यादा वारंवार बदलतात. कॅटलॉग दररोज तपासले जाते.

सामग्री धोरण: प्रत्येक प्रदाता मोफत विनंत्यांवर स्वतःचे वापर धोरण लागू करतो. काही सामग्री प्रदाता नाकारू शकतो. FreeLLMAPI प्रदाता काय परवानगी देतो, ते बदलत नाही.

समस्यानिवारण

समस्याकारणउपाय
Connect अयशस्वी होते किंवा स्थिती लाल राहतेचुकीचा URL किंवा FreeLLMAPI चालू नाहीब्राउझरमध्ये http://localhost:3001 उघडा. URL /v1 ने संपतो का ते तपासा.
त्रुटी 401की चुकीची आहेCustom API Key मध्ये एकत्रित की पुन्हा पेस्ट करा
निवडलेले मॉडेल नेहमी अयशस्वी होतेत्या मॉडेलच्या प्रदात्याची की नाहीप्रदात्याची की जोडा, किंवा auto टाइप करा
लांब सत्रानंतर त्रुटी 429सर्व की त्यांच्या मर्यादेवर आहेतआणखी प्रदात्यांच्या की जोडा, किंवा रीसेटची वाट पाहा
संदेशांच्या क्रमाबद्दल किंवा भूमिकांबद्दल त्रुटीप्रदात्याचे भूमिकांचे कठोर नियम आहेतPrompt Post-Processing ला Semi-strict किंवा Strict वर सेट करा
उत्तरे मध्येच थांबतातreasoning मॉडेलसाठी Max Response Length खूप लहान आहेकिंमत वाढवा, किंवा reasoning नसलेले मॉडेल निवडा
चॅट दरम्यान कॅरेक्टरचा आवाज बदलतोएका मर्यादेमुळे मॉडेल बदलावे लागलेअनेक प्रदात्यांवर मोफत असलेले एक मॉडेल पिन करा
या सर्व मॉडेलचा वापर एकाच कीद्वारे करा. FreeLLMAPI हा एक ओपन-सोर्स, स्वतः होस्ट केलेला राउटर आहे. तो हे सर्व मोफत टियर एका OpenAI-सुसंगत एंडपॉइंटमागे ठेवतो आणि एखादे मॉडेल मर्यादेत असताना दुसऱ्याकडे वळवतो. कॅटलॉग ब्राउझ करा किंवा थेट पहा.

वारंवार विचारले जाणारे प्रश्न

SillyTavern साठी मोफत API आहे का?

होय. SillyTavern Custom (OpenAI-compatible) स्रोताद्वारे कोणतेही OpenAI-सुसंगत API स्वीकारते. FreeLLMAPI अनेक मोफत प्रदाता टियरसाठी एकच endpoint देते. प्रत्येक टियरची स्वतःची मर्यादा असते.

SillyTavern Custom (OpenAI-compatible) साठी base URL काय आहे?

FreeLLMAPI सर्व्हर इन्स्टॉलसाठी http://localhost:3001/v1 वापरा, किंवा डेस्कटॉप ॲपसाठी http://127.0.0.1:31415/v1 वापरा. /chat/completions जोडू नका.

SillyTavern रोलप्लेसाठी कोणते मोफत मॉडेल सर्वोत्तम आहे?

128K टोकन किंवा अधिक संदर्भ विंडो असलेले मॉडेल वापरा. गुणवत्तेसाठी auto:smart किंवा वेगासाठी auto:fast ने सुरुवात करा. या पानावरील तक्त्यात आज सर्वात सक्षम मोफत मॉडेल दिली आहेत.

SillyTavern मध्ये मला त्रुटी 429 का मिळते?

एका मोफत टियरने मर्यादा गाठली आहे. FreeLLMAPI पुढच्या की किंवा प्रदात्याकडे जाते. प्रत्येक की मर्यादेवर असेल, तर तुम्हाला 429 मिळते. आणखी प्रदात्यांच्या की जोडा, किंवा संदर्भ आकार कमी करा.

SillyTavern स्ट्रीमिंग मोफत API सोबत चालते का?

होय. AI Response Configuration पॅनलमध्ये Streaming चालू करा. FreeLLMAPI प्रत्येक प्रदात्याचे उत्तर OpenAI स्वरूपात स्ट्रीम करते.

संबंधित मार्गदर्शक

स्रोत

सर्व मार्गदर्शक · सर्व मोफत मॉडेल पहा