API miễn phí cho SillyTavern
SillyTavern là giao diện trò chuyện và nhập vai, bạn chạy trên máy tính. Nó cần một API model. Hướng dẫn này kết nối SillyTavern với FreeLLMAPI qua nguồn Chat Completion Custom (OpenAI-compatible). FreeLLMAPI gom 45 gói miễn phí của nhà cung cấp sau một khóa duy nhất. Khi một giới hạn chặn yêu cầu, FreeLLMAPI chuyển sang nhà cung cấp tiếp theo.
Mã, tên mô hình và nhãn danh mục trực tiếp được hiển thị bằng tiếng Anh.
Trước khi bắt đầu
Bạn cần hai chương trình trên cùng một máy tính: SillyTavern và FreeLLMAPI. FreeLLMAPI chạy bằng Docker hoặc dưới dạng ứng dụng máy tính. Cài đặt bằng một lệnh:
Cài đặt FreeLLMAPI (macOS hoặc Linux)
curl -fsSL https://freellmapi.co/install.sh | bash- Mở bảng điều khiển tại
http://localhost:3001. - Thêm khóa miễn phí từ hai nhà cung cấp trở lên ở trang Keys. Google AI Studio, Groq và Mistral đều cấp khóa miễn phí.
- Sao chép khóa thống nhất từ trang Keys. SillyTavern chỉ dùng khóa này.
Ứng dụng máy tính lắng nghe tại http://127.0.0.1:31415. Nếu bạn dùng ứng dụng máy tính, hãy dùng địa chỉ đó thay cho http://localhost:3001 trong trang này.
Bước 1: Kết nối SillyTavern
Mở SillyTavern và nhấn biểu tượng API Connections (hình phích cắm) trên thanh trên cùng. Sau đó đặt các trường sau:
| Trường | Giá trị |
|---|---|
| API | Chat Completion |
| Chat Completion Source | Custom (OpenAI-compatible) |
| Custom Endpoint (Base URL) | http://localhost:3001/v1 |
| Custom API Key | Khóa thống nhất của bạn, <unified-key> |
| Enter a Model ID | auto, hoặc một model ID trong bảng bên dưới |
Nhấn Connect. SillyTavern đọc /v1/models và điền danh sách Available Models. Không thêm /chat/completions vào URL. SillyTavern tự thêm đường dẫn đó.
auto vào Enter a Model ID để bộ định tuyến chọn một model đang hoạt động.Nhấn Test Message để gửi một lời nhắc ngắn. Nếu bạn nhận được câu trả lời, kết nối hoạt động.
Bước 2: Chọn model cho cuộc trò chuyện dài
Một cuộc trò chuyện nhập vai gửi thẻ nhân vật, thông tin thế giới và lịch sử trò chuyện cùng mỗi tin nhắn. Một cuộc trò chuyện dài có thể gửi hàng chục nghìn token mỗi lần. Hãy chọn model có cửa sổ ngữ cảnh lớn.
Bạn có thể dùng các model ID sau trong Enter a Model ID:
auto: theo chuỗi dự phòng trên bảng điều khiển của bạn.auto:smart: xếp hạng các model đã bật theo trí tuệ. Dùng cho chất lượng câu chuyện.auto:fast: xếp hạng các model đã bật theo tốc độ đo được. Dùng cho câu trả lời nhanh.- Một model ID cố định: cho cùng một văn phong mỗi lần, nhưng dừng khi hết giới hạn miễn phí của model đó.
| Mô hình | Miễn phí trên | Ngữ cảnh | Giới hạn miễn phí (ưu đãi tốt nhất) | Công cụ | Thị giác |
|---|---|---|---|---|---|
| GLM 5.3 | APINex, UnoRouter | 1M | 5 yêu cầu/phút 10M weighted tokens/day shared across APINex free routes; 4x token multiplier; 5 requests/minute/account | Có | Không |
| GLM 5.3 Flash | APINex, BlazeAPI, NVIDIA NIM +1 nữa | 1M | 40 yêu cầu/phút 40 RPM | Có | Có |
| Gemini 3.8 Flash | APINex, Google AI Studio | 1M | 5 yêu cầu/phút 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | Có | Có |
| Qwen3.8 Flash Next | AMD Radeon Cloud, BlazeAPI, ElectronHub | 262K | Recurring daily account allowance | Có | Không |
| Qwen3.8 Flash | ElectronHub | 1M | $0.25/week shared recurring credit | Có | Có |
| Deepseek V4.1 Flash | APINex | 1M | 5 yêu cầu/phút 10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account | Không | Không |
| Gemini 3.7 Flash | Google AI Studio | 1M | 10 yêu cầu/phút 20 yêu cầu/ngày 250,000 token/phút ~3M | Có | Có |
| GPT-5.6 Luna | ElectronHub | 1M | $0.25/week shared recurring credit | Có | Có |
| Dots3 Note Preview | Kilo Gateway, OpenRouter | 512K | 20 yêu cầu/phút 50 yêu cầu/ngày 50 req/day account-wide (1,000 after a $10 purchase) | Có | Có |
| DeepSeek V4 Flash | AMD Radeon Cloud, BazaarLink, ElectronHub | 1M | 10 yêu cầu/phút 50 yêu cầu/ngày Shared rate limit | Có | Không |
| DeepSeek V4 Flash 0731 | ElectronHub, Router9 | 1M | 10,000 credits/month (~$1), shared; account-anniversary reset | Không | Không |
| Qwen3.8 27B | BlazeAPI, ElectronHub, Gizmo +3 nữa | 262K | 30 yêu cầu/phút 250 yêu cầu/ngày 70,000 token/phút ~6M | Có | Có |
Đang hiển thị 12 trong số 184 mô hình miễn phí phù hợp. Xem tất cả mô hình.
Dữ liệu trực tiếp từ danh mục FreeLLMAPI (phiên bản 2026.11.19, đã kiểm tra 2026-11-19). Giới hạn miễn phí thay đổi thường xuyên. Danh mục được kiểm tra mỗi ngày.
FreeLLMAPI giữ một cuộc trò chuyện trên cùng một model trong 30 phút. Điều này giữ giọng nhân vật ổn định qua các tin nhắn. Nếu một giới hạn buộc đổi model, model tiếp theo tiếp tục từ cùng lịch sử trò chuyện.
Bước 3: Đặt cài đặt sinh nội dung
Mở bảng AI Response Configuration (biểu tượng thanh trượt). Ba cài đặt có ảnh hưởng lớn nhất đến gói miễn phí:
| Cài đặt | Giá trị khuyến nghị | Lý do |
|---|---|---|
| Context Size (tokens) | 16.000 đến 32.000 | Ngữ cảnh nhỏ hơn gửi ít token hơn cho mỗi tin nhắn. Gói miễn phí thường giới hạn số token mỗi phút. |
| Max Response Length (tokens) | 400 đến 800 | Câu trả lời dài dùng hết hạn mức đầu ra nhanh. Một số model suy luận cũng dùng một phần ngân sách này cho phần suy nghĩ ẩn. |
| Streaming | Bật | Bạn thấy văn bản khi nó đến. FreeLLMAPI truyền dữ liệu trực tiếp trên mọi nhà cung cấp mà nó truy cập được. |
SillyTavern cũng có tùy chọn Prompt Post-Processing cho nguồn Custom. Một số nhà cung cấp từ chối hai tin nhắn hệ thống liền nhau. Nếu bạn gặp lỗi về vai trò tin nhắn, hãy chọn tùy chọn Semi-strict hoặc Strict. Các tùy chọn này gộp các tin nhắn cùng vai trò. Các tùy chọn có nhãn "no tools" cũng xóa lệnh gọi công cụ. Các tùy chọn có nhãn "with tools" giữ lại lệnh gọi công cụ.
Giới hạn tốc độ khi nhập vai dài
Mỗi gói miễn phí có giới hạn riêng. Ví dụ, một khóa Gemini Flash miễn phí cho phép ít yêu cầu mỗi ngày, còn một khóa Groq cho phép nhiều yêu cầu hơn với giới hạn token thấp hơn. Một buổi tối nhập vai có thể gửi vài trăm yêu cầu. Một khóa miễn phí không đủ dùng lâu như vậy.
- Thêm nhiều nhà cung cấp. Mỗi khóa thêm số yêu cầu mỗi ngày. FreeLLMAPI đếm hạn mức của từng khóa và chuyển sang khóa hoặc nhà cung cấp tiếp theo khi một khóa hết hạn mức.
- Giảm ngữ cảnh. Tóm tắt tin nhắn cũ bằng tiện ích Summarize của SillyTavern. Lời nhắc ngắn hơn dùng ít token mỗi phút hơn.
- Tránh lặp lại swipe. Mỗi lần swipe hoặc regenerate là một yêu cầu mới.
- Theo dõi thời điểm làm mới. Khi mọi khóa đều hết giới hạn, gateway trả về lỗi 429 kèm tiêu đề
Retry-After. Nhiều giới hạn hằng ngày được làm mới lúc nửa đêm UTC.
Bảng hiển thị giới hạn miễn phí của từng nhà cung cấp trong danh mục hôm nay.
| Nhà cung cấp | Mô hình miễn phí | Yêu cầu tối đa/phút | Yêu cầu tối đa/ngày | Token tối đa/phút | Token/tháng (một mô hình) | Mô hình miễn phí mạnh nhất |
|---|---|---|---|---|---|---|
| ElectronHub | 84 | - | - | - | $0.25/week shared recurring credit | Qwen3.8 Flash (ElectronHub)qwen3.8-flash |
| Cloudflare Workers AI | 39 | - | - | - | ~5-10M | Qwen 3.8 27B (Cloudflare Workers AI)@cf/qwen/qwen3.8-27b |
| Inferbase | 38 | - | - | - | 5,000 requests/month; 100 requests and $0.50 usage/day shared | DeepSeek V4 Flash (fp8) (Inferbase)deepseek-v4-flash:fp8 |
| AI Horde | 31 | - | - | - | Ongoing volunteer queue; availability varies | Gemma 4 31B Heretic (AI Horde)koboldcpp/gemma-4-31B-it-heretic |
| ACLIDE | 29 | - | - | - | €20/month shared internal usage credits · no card | Qwen3.8 Max (ACLIDE)qwen/qwen3.8-max:free |
| Google AI Studio | 21 | 15 | 1,000 | 250,000 | ~3M | Gemini 3.8 Flashgemini-3.8-flash |
| Api.Airforce | 20 | 1 | 1,000 | - | free · 1,000 req/day · 1 req/min | gpt-oss-20b (Api.Airforce)gpt-oss-20b |
| NVIDIA NIM | 19 | 40 | - | - | free · 40 RPM | GLM 5.3 Flash (NV)z-ai/glm-5.3-flash |
| Cohere | 17 | 20 | 33 | - | ~1-2M | Command A+ (05-2026)command-a-plus-05-2026 |
| DreamPrompting | 14 | 100 | 5,000 | - | free · 500K tokens/day · 5,000 req/day | Gemini 3.1 Flash-Litegoogle/gemini-3.1-flash-lite |
| Mistral | 12 | 2 | - | 500,000 | ~50-100M | Mistral Codemistral-code-latest |
| ModelScope | 11 | - | 200 | - | Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experience | GLM-5.2 (ModelScope)ZhipuAI/GLM-5.2 |
Dữ liệu trực tiếp từ danh mục FreeLLMAPI (phiên bản 2026.11.19, đã kiểm tra 2026-11-19). Giới hạn miễn phí thay đổi thường xuyên. Danh mục được kiểm tra mỗi ngày.
Khắc phục sự cố
| Vấn đề | Nguyên nhân | Cách khắc phục |
|---|---|---|
| Kết nối thất bại hoặc trạng thái vẫn đỏ | URL sai hoặc FreeLLMAPI chưa chạy | Mở http://localhost:3001 trong trình duyệt. Đảm bảo URL kết thúc bằng /v1. |
| Lỗi 401 | Khóa không đúng | Dán lại khóa thống nhất vào Custom API Key |
| Model đã chọn luôn bị lỗi | Không có khóa cho nhà cung cấp của model đó | Thêm khóa của nhà cung cấp, hoặc nhập auto |
| Lỗi 429 sau phiên dài | Mọi khóa đều hết giới hạn | Thêm khóa từ nhiều nhà cung cấp hơn, hoặc chờ làm mới |
| Lỗi về thứ tự hoặc vai trò tin nhắn | Nhà cung cấp có quy tắc vai trò nghiêm ngặt | Đặt Prompt Post-Processing thành Semi-strict hoặc Strict |
| Câu trả lời dừng giữa chừng | Max Response Length quá nhỏ đối với model suy luận | Tăng giá trị, hoặc chọn model không có suy luận |
| Giọng nhân vật thay đổi trong cuộc trò chuyện | Một giới hạn buộc đổi model | Ghim một model miễn phí trên nhiều nhà cung cấp |
Câu hỏi thường gặp
Có API miễn phí cho SillyTavern không?
Có. SillyTavern chấp nhận mọi API tương thích OpenAI qua nguồn Custom (OpenAI-compatible). FreeLLMAPI cung cấp một endpoint cho nhiều gói miễn phí của nhà cung cấp. Mỗi gói có giới hạn riêng.
Base URL cho SillyTavern Custom (OpenAI-compatible) là gì?
Dùng http://localhost:3001/v1 cho bản cài đặt máy chủ FreeLLMAPI, hoặc http://127.0.0.1:31415/v1 cho ứng dụng máy tính. Không thêm /chat/completions.
Model miễn phí nào tốt nhất cho nhập vai trên SillyTavern?
Dùng model có cửa sổ ngữ cảnh từ 128K token trở lên. Bắt đầu với auto:smart để có chất lượng hoặc auto:fast để có tốc độ. Bảng trong trang này cho thấy các model miễn phí mạnh nhất hiện nay.
Tại sao tôi nhận lỗi 429 trong SillyTavern?
Một gói miễn phí đã đạt giới hạn. FreeLLMAPI chuyển sang khóa hoặc nhà cung cấp tiếp theo. Nếu mọi khóa đều hết giới hạn, bạn nhận lỗi 429. Thêm khóa của nhà cung cấp khác hoặc giảm kích thước ngữ cảnh.
Streaming của SillyTavern có hoạt động với API miễn phí không?
Có. Bật Streaming trong bảng AI Response Configuration. FreeLLMAPI truyền câu trả lời từ mỗi nhà cung cấp theo định dạng OpenAI.
Hướng dẫn liên quan
- API LLM miễn phí cho Open WebUI
- API LLM miễn phí với ngữ cảnh 1 triệu token
- Giới hạn tốc độ API LLM miễn phí
- Base URL API tương thích OpenAI miễn phí
- API LLM miễn phí không cần thẻ tín dụng
Nguồn
- SillyTavern docs: Chat Completion sources, Custom (OpenAI-compatible) (đã kiểm tra 20 November 2026)
- SillyTavern source: API connection panel labels (public/index.html) (đã kiểm tra 20 November 2026)
- FreeLLMAPI docs: REST API (routing strategies, model listing, streaming) (đã kiểm tra 20 November 2026)
- FreeLLMAPI README: features and limitations (đã kiểm tra 20 November 2026)