首页 / 指南 / SillyTavern 免费 API

SillyTavern 免费 API

SillyTavern 是一个在你电脑上运行的聊天与角色扮演界面。它需要模型 API。本指南通过 Chat Completion 源 Custom(OpenAI 兼容),把 SillyTavern 连接到 FreeLLMAPI。FreeLLMAPI 用一个密钥汇集 45 个免费服务商额度。当某个限制阻止请求时,它会切换到下一个服务商。

代码、模型名称和目录中的实时标签以英文显示。

开始之前

你需要在同一台电脑上安装两个程序:SillyTavern 和 FreeLLMAPI。FreeLLMAPI 可以用 Docker 运行,也可以作为桌面应用运行。用一条命令即可安装:

安装 FreeLLMAPI(macOS 或 Linux)

curl -fsSL https://freellmapi.co/install.sh | bash
  1. 在浏览器中打开控制台:http://localhost:3001。
  2. 在密钥页面添加两个或更多服务商的免费密钥。Google AI Studio、Groq 和 Mistral 均可免费获取密钥。
  3. 从密钥页面复制统一密钥。SillyTavern 只使用这个密钥。

桌面应用监听 http://127.0.0.1:31415。如果你使用桌面应用,请在本页中用该地址代替 http://localhost:3001。

第 1 步:连接 SillyTavern

打开 SillyTavern,点击顶部栏中的 API Connections 图标(插头)。然后设置以下字段:

字段值
APIChat Completion
Chat Completion SourceCustom(OpenAI 兼容)
Custom Endpoint(Base URL)http://localhost:3001/v1
Custom API Key你的统一密钥,<unified-key>
输入 Model IDauto,或下表中的模型 ID

点击 Connect。SillyTavern 读取 /v1/models,并填充 Available Models 列表。不要在 URL 后添加 /chat/completions。SillyTavern 会自行添加该路径。

注意:Available Models 列表显示完整的 FreeLLMAPI 目录。该列表也包含你暂时无法调用的模型,因为你还没有为其服务商添加密钥。在 Enter a Model ID 中输入 auto,让路由器选择当前可用的模型。

点击 Test Message,发送一条简短提示。如果得到回答,说明连接正常。

第 2 步:为长对话选择模型

角色扮演对话会随每条消息发送角色卡、世界信息和对话历史。长对话每次可能发送数万个 token。请选择上下文窗口较大的模型。

你可以在 Enter a Model ID 中使用这些模型 ID:

  • auto:遵循控制台中的备用链。
  • auto:smart:按智能程度对已启用的模型排序。用于提升故事质量。
  • auto:fast:按实测速度对已启用的模型排序。用于快速回复。
  • 固定的模型 ID:每次都保持相同的写作风格,但该模型的免费额度用完后会停止。
上下文达到 128K 及以上、适合长对话的免费模型
模型免费提供方上下文免费额度(最优惠)工具视觉
GLM 5.3APINex, UnoRouter1M5 请求/分钟
10M weighted tokens/day shared across APINex free routes; 4x token multiplier; 5 requests/minute/account
是否
GLM 5.3 FlashAPINex, BlazeAPI, NVIDIA NIM 另外 1 个1M40 请求/分钟
40 RPM
是是
Gemini 3.8 FlashAPINex, Google AI Studio1M5 请求/分钟
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
是是
Qwen3.8 Flash NextAMD Radeon Cloud, BlazeAPI, ElectronHub262KRecurring daily account allowance是否
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring credit是是
Deepseek V4.1 FlashAPINex1M5 请求/分钟
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
否否
Gemini 3.7 FlashGoogle AI Studio1M10 请求/分钟
20 请求/天
250,000 令牌/分钟
~3M
是是
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring credit是是
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 请求/分钟
50 请求/天
50 req/day account-wide (1,000 after a $10 purchase)
是是
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 请求/分钟
50 请求/天
Shared rate limit
是否
DeepSeek V4 Flash 0731ElectronHub, Router91M10,000 credits/month (~$1), shared; account-anniversary reset否否
Qwen3.8 27BBlazeAPI, ElectronHub, Gizmo 另外 3 个262K30 请求/分钟
250 请求/天
70,000 令牌/分钟
~6M
是是

显示 12 个(共 184 个匹配的免费模型)。 查看所有模型.

数据来自 FreeLLMAPI 目录(版本 2026.11.19,检查于 2026-11-19)。免费额度经常变化。该目录每天检查一次。

FreeLLMAPI 会在 30 分钟内让一段对话保持使用同一个模型。这样角色的语气在各条消息之间保持一致。如果某个限制迫使更换模型,下一个模型会从相同的对话历史继续。

第 3 步:设置生成参数

打开 AI Response Configuration 面板(滑块图标)。以下三项设置对免费额度的影响最大:

设置建议值原因
Context Size(tokens)16,000 至 32,000较小的上下文每条消息发送的 token 更少。免费额度通常会限制每分钟的 token 数。
Max Response Length(tokens)400 至 800较长的回复会很快用完输出配额。某些推理模型也会将部分预算用于隐藏的思考过程。
Streaming开启文本会边生成边显示。FreeLLMAPI 在所有可连接的服务商上都支持流式输出。

对于 Custom 源,SillyTavern 还有 Prompt Post-Processing 选项。部分服务商不接受连续两条系统消息。如果出现有关消息角色的错误,请选择 Semi-strict 或 Strict 选项。这些选项会合并相同角色的消息。标有“no tools”的选项还会移除工具调用。标有“with tools”的选项则保留工具调用。

长时间角色扮演中的速率限制

每个免费额度都有各自的限制。例如,一个免费的 Gemini Flash 密钥每天允许的请求较少,而 Groq 密钥允许的请求更多,但 token 限制较低。一个晚上的角色扮演可能发送数百个请求。一个免费密钥无法支撑这么久。

  • 添加更多服务商。每个密钥都会增加每日请求数。FreeLLMAPI 会统计每个密钥的配额,并在某个密钥或服务商用完时切换到下一个。
  • 减少上下文。使用 SillyTavern 的 Summarize 扩展总结旧消息。较短的提示使用的每分钟 token 更少。
  • 避免反复 swipe。每次 swipe 或 regenerate 都是一个新请求。
  • 注意重置时间。当所有密钥都达到限制时,网关会返回错误 429 和 Retry-After 头。许多每日限制在 UTC 时间午夜重置。

下表显示了今日目录中各服务商的免费限制。

提供方免费模型每分钟最大请求数每天最大请求数每分钟最大令牌数每月令牌数(单个模型)最强的免费模型
ElectronHub84---$0.25/week shared recurring creditQwen3.8 Flash (ElectronHub)
qwen3.8-flash
Cloudflare Workers AI39---~5-10MQwen 3.8 27B (Cloudflare Workers AI)
@cf/qwen/qwen3.8-27b
Inferbase38---5,000 requests/month; 100 requests and $0.50 usage/day sharedDeepSeek V4 Flash (fp8) (Inferbase)
deepseek-v4-flash:fp8
AI Horde31---Ongoing volunteer queue; availability variesGemma 4 31B Heretic (AI Horde)
koboldcpp/gemma-4-31B-it-heretic
ACLIDE29---€20/month shared internal usage credits · no cardQwen3.8 Max (ACLIDE)
qwen/qwen3.8-max:free
Google AI Studio21151,000250,000~3MGemini 3.8 Flash
gemini-3.8-flash
Api.Airforce2011,000-free · 1,000 req/day · 1 req/mingpt-oss-20b (Api.Airforce)
gpt-oss-20b
NVIDIA NIM1940--free · 40 RPMGLM 5.3 Flash (NV)
z-ai/glm-5.3-flash
Cohere172033-~1-2MCommand A+ (05-2026)
command-a-plus-05-2026
DreamPrompting141005,000-free · 500K tokens/day · 5,000 req/dayGemini 3.1 Flash-Lite
google/gemini-3.1-flash-lite
Mistral122-500,000~50-100MMistral Code
mistral-code-latest
ModelScope11-200-Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experienceGLM-5.2 (ModelScope)
ZhipuAI/GLM-5.2

数据来自 FreeLLMAPI 目录(版本 2026.11.19,检查于 2026-11-19)。免费额度经常变化。该目录每天检查一次。

内容政策:每个服务商都会对免费请求应用其自身的使用政策。服务商可能拒绝某些内容。FreeLLMAPI 不会改变服务商允许的内容。

故障排除

问题原因解决方法
连接失败或状态一直为红色URL 错误,或 FreeLLMAPI 未运行在浏览器中打开 http://localhost:3001。确保 URL 以 /v1 结尾。
错误 401密钥错误在 Custom API Key 中重新粘贴统一密钥
所选模型始终失败没有该模型服务商的密钥添加该服务商的密钥,或输入 auto
长时间使用后出现错误 429所有密钥都已达到限制添加更多服务商的密钥,或等待重置
关于消息顺序或角色的错误该服务商有严格的角色规则将 Prompt Post-Processing 设为 Semi-strict 或 Strict
回复在中途停止对推理模型来说,Max Response Length 太小增大该值,或选择不带推理功能的模型
对话过程中角色语气发生变化某个限制迫使更换了模型固定使用一个在多个服务商上均可免费使用的模型
通过一个密钥使用以上每一个模型。 FreeLLMAPI 是一个开源的自托管路由器。它将所有这些免费套餐放在一个兼容 OpenAI 的端点之后,并在某个套餐被限速时自动切换。 浏览目录 或 立即开始.

常见问题

SillyTavern 有免费 API 吗?

有。SillyTavern 可通过 Custom(OpenAI 兼容)源接入任何兼容 OpenAI 的 API。FreeLLMAPI 为多个免费服务商额度提供一个端点。每个额度都有各自的限制。

SillyTavern Custom(OpenAI 兼容)的 base URL 是什么?

FreeLLMAPI 服务器安装请使用 http://localhost:3001/v1,桌面应用请使用 http://127.0.0.1:31415/v1。不要添加 /chat/completions。

哪个免费模型最适合 SillyTavern 角色扮演?

请使用上下文窗口为 128K token 或更大的模型。追求质量可从 auto:smart 开始,追求速度可从 auto:fast 开始。本页的表格列出了目前最强的免费模型。

为什么在 SillyTavern 中出现错误 429?

某个免费额度已达到限制。FreeLLMAPI 会切换到下一个密钥或服务商。如果所有密钥都已达到限制,就会出现 429。请添加更多服务商密钥,或减小上下文大小。

SillyTavern 的流式输出能与免费 API 一起使用吗?

可以。在 AI Response Configuration 面板中开启 Streaming。FreeLLMAPI 以 OpenAI 格式从每个服务商传输回复。

相关指南

来源

全部指南 · 浏览所有免费模型