SillyTavern 免费 API
SillyTavern 是一个在你电脑上运行的聊天与角色扮演界面。它需要模型 API。本指南通过 Chat Completion 源 Custom(OpenAI 兼容),把 SillyTavern 连接到 FreeLLMAPI。FreeLLMAPI 用一个密钥汇集 45 个免费服务商额度。当某个限制阻止请求时,它会切换到下一个服务商。
代码、模型名称和目录中的实时标签以英文显示。
开始之前
你需要在同一台电脑上安装两个程序:SillyTavern 和 FreeLLMAPI。FreeLLMAPI 可以用 Docker 运行,也可以作为桌面应用运行。用一条命令即可安装:
安装 FreeLLMAPI(macOS 或 Linux)
curl -fsSL https://freellmapi.co/install.sh | bash- 在浏览器中打开控制台:
http://localhost:3001。 - 在密钥页面添加两个或更多服务商的免费密钥。Google AI Studio、Groq 和 Mistral 均可免费获取密钥。
- 从密钥页面复制统一密钥。SillyTavern 只使用这个密钥。
桌面应用监听 http://127.0.0.1:31415。如果你使用桌面应用,请在本页中用该地址代替 http://localhost:3001。
第 1 步:连接 SillyTavern
打开 SillyTavern,点击顶部栏中的 API Connections 图标(插头)。然后设置以下字段:
| 字段 | 值 |
|---|---|
| API | Chat Completion |
| Chat Completion Source | Custom(OpenAI 兼容) |
| Custom Endpoint(Base URL) | http://localhost:3001/v1 |
| Custom API Key | 你的统一密钥,<unified-key> |
| 输入 Model ID | auto,或下表中的模型 ID |
点击 Connect。SillyTavern 读取 /v1/models,并填充 Available Models 列表。不要在 URL 后添加 /chat/completions。SillyTavern 会自行添加该路径。
auto,让路由器选择当前可用的模型。点击 Test Message,发送一条简短提示。如果得到回答,说明连接正常。
第 2 步:为长对话选择模型
角色扮演对话会随每条消息发送角色卡、世界信息和对话历史。长对话每次可能发送数万个 token。请选择上下文窗口较大的模型。
你可以在 Enter a Model ID 中使用这些模型 ID:
auto:遵循控制台中的备用链。auto:smart:按智能程度对已启用的模型排序。用于提升故事质量。auto:fast:按实测速度对已启用的模型排序。用于快速回复。- 固定的模型 ID:每次都保持相同的写作风格,但该模型的免费额度用完后会停止。
| 模型 | 免费提供方 | 上下文 | 免费额度(最优惠) | 工具 | 视觉 |
|---|---|---|---|---|---|
| GLM 5.3 | APINex, UnoRouter | 1M | 5 请求/分钟 10M weighted tokens/day shared across APINex free routes; 4x token multiplier; 5 requests/minute/account | 是 | 否 |
| GLM 5.3 Flash | APINex, BlazeAPI, NVIDIA NIM 另外 1 个 | 1M | 40 请求/分钟 40 RPM | 是 | 是 |
| Gemini 3.8 Flash | APINex, Google AI Studio | 1M | 5 请求/分钟 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | 是 | 是 |
| Qwen3.8 Flash Next | AMD Radeon Cloud, BlazeAPI, ElectronHub | 262K | Recurring daily account allowance | 是 | 否 |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | 是 | 是 |
| Deepseek V4.1 Flash | APINex | 1M | 5 请求/分钟 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | 否 | 否 |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 请求/分钟 20 请求/天 250,000 令牌/分钟 ~3M | 是 | 是 |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | 是 | 是 |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 请求/分钟 50 请求/天 50 req/day account-wide (1,000 after a $10 purchase) | 是 | 是 |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 请求/分钟 50 请求/天 Shared rate limit | 是 | 否 |
| DeepSeek V4 Flash 0731 | ElectronHub, Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | 否 | 否 |
| Qwen3.8 27B | BlazeAPI, ElectronHub, Gizmo 另外 3 个 | 262K | 30 请求/分钟 250 请求/天 70,000 令牌/分钟 ~6M | 是 | 是 |
显示 12 个(共 184 个匹配的免费模型)。 查看所有模型.
数据来自 FreeLLMAPI 目录(版本 2026.11.19,检查于 2026-11-19)。免费额度经常变化。该目录每天检查一次。
FreeLLMAPI 会在 30 分钟内让一段对话保持使用同一个模型。这样角色的语气在各条消息之间保持一致。如果某个限制迫使更换模型,下一个模型会从相同的对话历史继续。
第 3 步:设置生成参数
打开 AI Response Configuration 面板(滑块图标)。以下三项设置对免费额度的影响最大:
| 设置 | 建议值 | 原因 |
|---|---|---|
| Context Size(tokens) | 16,000 至 32,000 | 较小的上下文每条消息发送的 token 更少。免费额度通常会限制每分钟的 token 数。 |
| Max Response Length(tokens) | 400 至 800 | 较长的回复会很快用完输出配额。某些推理模型也会将部分预算用于隐藏的思考过程。 |
| Streaming | 开启 | 文本会边生成边显示。FreeLLMAPI 在所有可连接的服务商上都支持流式输出。 |
对于 Custom 源,SillyTavern 还有 Prompt Post-Processing 选项。部分服务商不接受连续两条系统消息。如果出现有关消息角色的错误,请选择 Semi-strict 或 Strict 选项。这些选项会合并相同角色的消息。标有“no tools”的选项还会移除工具调用。标有“with tools”的选项则保留工具调用。
长时间角色扮演中的速率限制
每个免费额度都有各自的限制。例如,一个免费的 Gemini Flash 密钥每天允许的请求较少,而 Groq 密钥允许的请求更多,但 token 限制较低。一个晚上的角色扮演可能发送数百个请求。一个免费密钥无法支撑这么久。
- 添加更多服务商。每个密钥都会增加每日请求数。FreeLLMAPI 会统计每个密钥的配额,并在某个密钥或服务商用完时切换到下一个。
- 减少上下文。使用 SillyTavern 的 Summarize 扩展总结旧消息。较短的提示使用的每分钟 token 更少。
- 避免反复 swipe。每次 swipe 或 regenerate 都是一个新请求。
- 注意重置时间。当所有密钥都达到限制时,网关会返回错误 429 和
Retry-After头。许多每日限制在 UTC 时间午夜重置。
下表显示了今日目录中各服务商的免费限制。
| 提供方 | 免费模型 | 每分钟最大请求数 | 每天最大请求数 | 每分钟最大令牌数 | 每月令牌数(单个模型) | 最强的免费模型 |
|---|---|---|---|---|---|---|
| ElectronHub | 84 | - | - | - | $0.25/week shared recurring credit | Qwen3.8 Flash (ElectronHub)qwen3.8-flash |
| Cloudflare Workers AI | 39 | - | - | - | ~5-10M | Qwen 3.8 27B (Cloudflare Workers AI)@cf/qwen/qwen3.8-27b |
| Inferbase | 38 | - | - | - | 5,000 requests/month; 100 requests and $0.50 usage/day shared | DeepSeek V4 Flash (fp8) (Inferbase)deepseek-v4-flash:fp8 |
| AI Horde | 31 | - | - | - | Ongoing volunteer queue; availability varies | Gemma 4 31B Heretic (AI Horde)koboldcpp/gemma-4-31B-it-heretic |
| ACLIDE | 29 | - | - | - | €20/month shared internal usage credits · no card | Qwen3.8 Max (ACLIDE)qwen/qwen3.8-max:free |
| Google AI Studio | 21 | 15 | 1,000 | 250,000 | ~3M | Gemini 3.8 Flashgemini-3.8-flash |
| Api.Airforce | 20 | 1 | 1,000 | - | free · 1,000 req/day · 1 req/min | gpt-oss-20b (Api.Airforce)gpt-oss-20b |
| NVIDIA NIM | 19 | 40 | - | - | free · 40 RPM | GLM 5.3 Flash (NV)z-ai/glm-5.3-flash |
| Cohere | 17 | 20 | 33 | - | ~1-2M | Command A+ (05-2026)command-a-plus-05-2026 |
| DreamPrompting | 14 | 100 | 5,000 | - | free · 500K tokens/day · 5,000 req/day | Gemini 3.1 Flash-Litegoogle/gemini-3.1-flash-lite |
| Mistral | 12 | 2 | - | 500,000 | ~50-100M | Mistral Codemistral-code-latest |
| ModelScope | 11 | - | 200 | - | Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experience | GLM-5.2 (ModelScope)ZhipuAI/GLM-5.2 |
数据来自 FreeLLMAPI 目录(版本 2026.11.19,检查于 2026-11-19)。免费额度经常变化。该目录每天检查一次。
故障排除
| 问题 | 原因 | 解决方法 |
|---|---|---|
| 连接失败或状态一直为红色 | URL 错误,或 FreeLLMAPI 未运行 | 在浏览器中打开 http://localhost:3001。确保 URL 以 /v1 结尾。 |
| 错误 401 | 密钥错误 | 在 Custom API Key 中重新粘贴统一密钥 |
| 所选模型始终失败 | 没有该模型服务商的密钥 | 添加该服务商的密钥,或输入 auto |
| 长时间使用后出现错误 429 | 所有密钥都已达到限制 | 添加更多服务商的密钥,或等待重置 |
| 关于消息顺序或角色的错误 | 该服务商有严格的角色规则 | 将 Prompt Post-Processing 设为 Semi-strict 或 Strict |
| 回复在中途停止 | 对推理模型来说,Max Response Length 太小 | 增大该值,或选择不带推理功能的模型 |
| 对话过程中角色语气发生变化 | 某个限制迫使更换了模型 | 固定使用一个在多个服务商上均可免费使用的模型 |
常见问题
SillyTavern 有免费 API 吗?
有。SillyTavern 可通过 Custom(OpenAI 兼容)源接入任何兼容 OpenAI 的 API。FreeLLMAPI 为多个免费服务商额度提供一个端点。每个额度都有各自的限制。
SillyTavern Custom(OpenAI 兼容)的 base URL 是什么?
FreeLLMAPI 服务器安装请使用 http://localhost:3001/v1,桌面应用请使用 http://127.0.0.1:31415/v1。不要添加 /chat/completions。
哪个免费模型最适合 SillyTavern 角色扮演?
请使用上下文窗口为 128K token 或更大的模型。追求质量可从 auto:smart 开始,追求速度可从 auto:fast 开始。本页的表格列出了目前最强的免费模型。
为什么在 SillyTavern 中出现错误 429?
某个免费额度已达到限制。FreeLLMAPI 会切换到下一个密钥或服务商。如果所有密钥都已达到限制,就会出现 429。请添加更多服务商密钥,或减小上下文大小。
SillyTavern 的流式输出能与免费 API 一起使用吗?
可以。在 AI Response Configuration 面板中开启 Streaming。FreeLLMAPI 以 OpenAI 格式从每个服务商传输回复。
相关指南
- Open WebUI 的免费 LLM API
- 上下文为 100 万 token 的免费 LLM API
- 免费 LLM API 速率限制
- 免费兼容 OpenAI 的 API Base URL
- 无需信用卡的免费 LLM API
来源
- SillyTavern docs: Chat Completion sources, Custom (OpenAI-compatible) (检查于 20 November 2026)
- SillyTavern source: API connection panel labels (public/index.html) (检查于 20 November 2026)
- FreeLLMAPI docs: REST API (routing strategies, model listing, streaming) (检查于 20 November 2026)
- FreeLLMAPI README: features and limitations (检查于 20 November 2026)