Trang chủ / Hướng dẫn / API miễn phí cho SillyTavern

API miễn phí cho SillyTavern

SillyTavern là giao diện trò chuyện và nhập vai, bạn chạy trên máy tính. Nó cần một API model. Hướng dẫn này kết nối SillyTavern với FreeLLMAPI qua nguồn Chat Completion Custom (OpenAI-compatible). FreeLLMAPI gom 45 gói miễn phí của nhà cung cấp sau một khóa duy nhất. Khi một giới hạn chặn yêu cầu, FreeLLMAPI chuyển sang nhà cung cấp tiếp theo.

Mã, tên mô hình và nhãn danh mục trực tiếp được hiển thị bằng tiếng Anh.

Trước khi bắt đầu

Bạn cần hai chương trình trên cùng một máy tính: SillyTavern và FreeLLMAPI. FreeLLMAPI chạy bằng Docker hoặc dưới dạng ứng dụng máy tính. Cài đặt bằng một lệnh:

Cài đặt FreeLLMAPI (macOS hoặc Linux)

curl -fsSL https://freellmapi.co/install.sh | bash
  1. Mở bảng điều khiển tại http://localhost:3001.
  2. Thêm khóa miễn phí từ hai nhà cung cấp trở lên ở trang Keys. Google AI Studio, Groq và Mistral đều cấp khóa miễn phí.
  3. Sao chép khóa thống nhất từ trang Keys. SillyTavern chỉ dùng khóa này.

Ứng dụng máy tính lắng nghe tại http://127.0.0.1:31415. Nếu bạn dùng ứng dụng máy tính, hãy dùng địa chỉ đó thay cho http://localhost:3001 trong trang này.

Bước 1: Kết nối SillyTavern

Mở SillyTavern và nhấn biểu tượng API Connections (hình phích cắm) trên thanh trên cùng. Sau đó đặt các trường sau:

TrườngGiá trị
APIChat Completion
Chat Completion SourceCustom (OpenAI-compatible)
Custom Endpoint (Base URL)http://localhost:3001/v1
Custom API KeyKhóa thống nhất của bạn, <unified-key>
Enter a Model IDauto, hoặc một model ID trong bảng bên dưới

Nhấn Connect. SillyTavern đọc /v1/models và điền danh sách Available Models. Không thêm /chat/completions vào URL. SillyTavern tự thêm đường dẫn đó.

Lưu ý: danh sách Available Models hiển thị toàn bộ danh mục FreeLLMAPI. Danh sách cũng có các model mà bạn chưa gọi được, vì bạn chưa thêm khóa cho nhà cung cấp của chúng. Nhập auto vào Enter a Model ID để bộ định tuyến chọn một model đang hoạt động.

Nhấn Test Message để gửi một lời nhắc ngắn. Nếu bạn nhận được câu trả lời, kết nối hoạt động.

Bước 2: Chọn model cho cuộc trò chuyện dài

Một cuộc trò chuyện nhập vai gửi thẻ nhân vật, thông tin thế giới và lịch sử trò chuyện cùng mỗi tin nhắn. Một cuộc trò chuyện dài có thể gửi hàng chục nghìn token mỗi lần. Hãy chọn model có cửa sổ ngữ cảnh lớn.

Bạn có thể dùng các model ID sau trong Enter a Model ID:

  • auto: theo chuỗi dự phòng trên bảng điều khiển của bạn.
  • auto:smart: xếp hạng các model đã bật theo trí tuệ. Dùng cho chất lượng câu chuyện.
  • auto:fast: xếp hạng các model đã bật theo tốc độ đo được. Dùng cho câu trả lời nhanh.
  • Một model ID cố định: cho cùng một văn phong mỗi lần, nhưng dừng khi hết giới hạn miễn phí của model đó.
Model miễn phí có ngữ cảnh 128K trở lên cho cuộc trò chuyện dài
Mô hìnhMiễn phí trênNgữ cảnhGiới hạn miễn phí (ưu đãi tốt nhất)Công cụThị giác
GLM 5.3APINex, UnoRouter1M5 yêu cầu/phút
10M weighted tokens/day shared across APINex free routes; 4x token multiplier; 5 requests/minute/account
CóKhông
GLM 5.3 FlashAPINex, BlazeAPI, NVIDIA NIM +1 nữa1M40 yêu cầu/phút
40 RPM
CóCó
Gemini 3.8 FlashAPINex, Google AI Studio1M5 yêu cầu/phút
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
CóCó
Qwen3.8 Flash NextAMD Radeon Cloud, BlazeAPI, ElectronHub262KRecurring daily account allowanceCóKhông
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditCóCó
Deepseek V4.1 FlashAPINex1M5 yêu cầu/phút
10M weighted tokens/day shared across APINex free routes; 3x token multiplier; 5 requests/minute/account
KhôngKhông
Gemini 3.7 FlashGoogle AI Studio1M10 yêu cầu/phút
20 yêu cầu/ngày
250,000 token/phút
~3M
CóCó
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditCóCó
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 yêu cầu/phút
50 yêu cầu/ngày
50 req/day account-wide (1,000 after a $10 purchase)
CóCó
DeepSeek V4 FlashAMD Radeon Cloud, BazaarLink, ElectronHub1M10 yêu cầu/phút
50 yêu cầu/ngày
Shared rate limit
CóKhông
DeepSeek V4 Flash 0731ElectronHub, Router91M10,000 credits/month (~$1), shared; account-anniversary resetKhôngKhông
Qwen3.8 27BBlazeAPI, ElectronHub, Gizmo +3 nữa262K30 yêu cầu/phút
250 yêu cầu/ngày
70,000 token/phút
~6M
CóCó

Đang hiển thị 12 trong số 184 mô hình miễn phí phù hợp. Xem tất cả mô hình.

Dữ liệu trực tiếp từ danh mục FreeLLMAPI (phiên bản 2026.11.19, đã kiểm tra 2026-11-19). Giới hạn miễn phí thay đổi thường xuyên. Danh mục được kiểm tra mỗi ngày.

FreeLLMAPI giữ một cuộc trò chuyện trên cùng một model trong 30 phút. Điều này giữ giọng nhân vật ổn định qua các tin nhắn. Nếu một giới hạn buộc đổi model, model tiếp theo tiếp tục từ cùng lịch sử trò chuyện.

Bước 3: Đặt cài đặt sinh nội dung

Mở bảng AI Response Configuration (biểu tượng thanh trượt). Ba cài đặt có ảnh hưởng lớn nhất đến gói miễn phí:

Cài đặtGiá trị khuyến nghịLý do
Context Size (tokens)16.000 đến 32.000Ngữ cảnh nhỏ hơn gửi ít token hơn cho mỗi tin nhắn. Gói miễn phí thường giới hạn số token mỗi phút.
Max Response Length (tokens)400 đến 800Câu trả lời dài dùng hết hạn mức đầu ra nhanh. Một số model suy luận cũng dùng một phần ngân sách này cho phần suy nghĩ ẩn.
StreamingBậtBạn thấy văn bản khi nó đến. FreeLLMAPI truyền dữ liệu trực tiếp trên mọi nhà cung cấp mà nó truy cập được.

SillyTavern cũng có tùy chọn Prompt Post-Processing cho nguồn Custom. Một số nhà cung cấp từ chối hai tin nhắn hệ thống liền nhau. Nếu bạn gặp lỗi về vai trò tin nhắn, hãy chọn tùy chọn Semi-strict hoặc Strict. Các tùy chọn này gộp các tin nhắn cùng vai trò. Các tùy chọn có nhãn "no tools" cũng xóa lệnh gọi công cụ. Các tùy chọn có nhãn "with tools" giữ lại lệnh gọi công cụ.

Giới hạn tốc độ khi nhập vai dài

Mỗi gói miễn phí có giới hạn riêng. Ví dụ, một khóa Gemini Flash miễn phí cho phép ít yêu cầu mỗi ngày, còn một khóa Groq cho phép nhiều yêu cầu hơn với giới hạn token thấp hơn. Một buổi tối nhập vai có thể gửi vài trăm yêu cầu. Một khóa miễn phí không đủ dùng lâu như vậy.

  • Thêm nhiều nhà cung cấp. Mỗi khóa thêm số yêu cầu mỗi ngày. FreeLLMAPI đếm hạn mức của từng khóa và chuyển sang khóa hoặc nhà cung cấp tiếp theo khi một khóa hết hạn mức.
  • Giảm ngữ cảnh. Tóm tắt tin nhắn cũ bằng tiện ích Summarize của SillyTavern. Lời nhắc ngắn hơn dùng ít token mỗi phút hơn.
  • Tránh lặp lại swipe. Mỗi lần swipe hoặc regenerate là một yêu cầu mới.
  • Theo dõi thời điểm làm mới. Khi mọi khóa đều hết giới hạn, gateway trả về lỗi 429 kèm tiêu đề Retry-After. Nhiều giới hạn hằng ngày được làm mới lúc nửa đêm UTC.

Bảng hiển thị giới hạn miễn phí của từng nhà cung cấp trong danh mục hôm nay.

Nhà cung cấpMô hình miễn phíYêu cầu tối đa/phútYêu cầu tối đa/ngàyToken tối đa/phútToken/tháng (một mô hình)Mô hình miễn phí mạnh nhất
ElectronHub84---$0.25/week shared recurring creditQwen3.8 Flash (ElectronHub)
qwen3.8-flash
Cloudflare Workers AI39---~5-10MQwen 3.8 27B (Cloudflare Workers AI)
@cf/qwen/qwen3.8-27b
Inferbase38---5,000 requests/month; 100 requests and $0.50 usage/day sharedDeepSeek V4 Flash (fp8) (Inferbase)
deepseek-v4-flash:fp8
AI Horde31---Ongoing volunteer queue; availability variesGemma 4 31B Heretic (AI Horde)
koboldcpp/gemma-4-31B-it-heretic
ACLIDE29---€20/month shared internal usage credits · no cardQwen3.8 Max (ACLIDE)
qwen/qwen3.8-max:free
Google AI Studio21151,000250,000~3MGemini 3.8 Flash
gemini-3.8-flash
Api.Airforce2011,000-free · 1,000 req/day · 1 req/mingpt-oss-20b (Api.Airforce)
gpt-oss-20b
NVIDIA NIM1940--free · 40 RPMGLM 5.3 Flash (NV)
z-ai/glm-5.3-flash
Cohere172033-~1-2MCommand A+ (05-2026)
command-a-plus-05-2026
DreamPrompting141005,000-free · 500K tokens/day · 5,000 req/dayGemini 3.1 Flash-Lite
google/gemini-3.1-flash-lite
Mistral122-500,000~50-100MMistral Code
mistral-code-latest
ModelScope11-200-Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experienceGLM-5.2 (ModelScope)
ZhipuAI/GLM-5.2

Dữ liệu trực tiếp từ danh mục FreeLLMAPI (phiên bản 2026.11.19, đã kiểm tra 2026-11-19). Giới hạn miễn phí thay đổi thường xuyên. Danh mục được kiểm tra mỗi ngày.

Chính sách nội dung: mỗi nhà cung cấp áp dụng chính sách sử dụng riêng cho yêu cầu miễn phí. Nhà cung cấp có thể từ chối một số nội dung. FreeLLMAPI không thay đổi những gì nhà cung cấp cho phép.

Khắc phục sự cố

Vấn đềNguyên nhânCách khắc phục
Kết nối thất bại hoặc trạng thái vẫn đỏURL sai hoặc FreeLLMAPI chưa chạyMở http://localhost:3001 trong trình duyệt. Đảm bảo URL kết thúc bằng /v1.
Lỗi 401Khóa không đúngDán lại khóa thống nhất vào Custom API Key
Model đã chọn luôn bị lỗiKhông có khóa cho nhà cung cấp của model đóThêm khóa của nhà cung cấp, hoặc nhập auto
Lỗi 429 sau phiên dàiMọi khóa đều hết giới hạnThêm khóa từ nhiều nhà cung cấp hơn, hoặc chờ làm mới
Lỗi về thứ tự hoặc vai trò tin nhắnNhà cung cấp có quy tắc vai trò nghiêm ngặtĐặt Prompt Post-Processing thành Semi-strict hoặc Strict
Câu trả lời dừng giữa chừngMax Response Length quá nhỏ đối với model suy luậnTăng giá trị, hoặc chọn model không có suy luận
Giọng nhân vật thay đổi trong cuộc trò chuyệnMột giới hạn buộc đổi modelGhim một model miễn phí trên nhiều nhà cung cấp
Dùng tất cả các mô hình này qua một khóa duy nhất. FreeLLMAPI là bộ định tuyến mã nguồn mở, tự lưu trữ. Nó đặt tất cả các gói miễn phí này sau một endpoint duy nhất tương thích OpenAI, và tự chuyển sang nhà cung cấp khác khi một nhà cung cấp bị giới hạn tốc độ. Xem danh mục hoặc bắt đầu.

Câu hỏi thường gặp

Có API miễn phí cho SillyTavern không?

Có. SillyTavern chấp nhận mọi API tương thích OpenAI qua nguồn Custom (OpenAI-compatible). FreeLLMAPI cung cấp một endpoint cho nhiều gói miễn phí của nhà cung cấp. Mỗi gói có giới hạn riêng.

Base URL cho SillyTavern Custom (OpenAI-compatible) là gì?

Dùng http://localhost:3001/v1 cho bản cài đặt máy chủ FreeLLMAPI, hoặc http://127.0.0.1:31415/v1 cho ứng dụng máy tính. Không thêm /chat/completions.

Model miễn phí nào tốt nhất cho nhập vai trên SillyTavern?

Dùng model có cửa sổ ngữ cảnh từ 128K token trở lên. Bắt đầu với auto:smart để có chất lượng hoặc auto:fast để có tốc độ. Bảng trong trang này cho thấy các model miễn phí mạnh nhất hiện nay.

Tại sao tôi nhận lỗi 429 trong SillyTavern?

Một gói miễn phí đã đạt giới hạn. FreeLLMAPI chuyển sang khóa hoặc nhà cung cấp tiếp theo. Nếu mọi khóa đều hết giới hạn, bạn nhận lỗi 429. Thêm khóa của nhà cung cấp khác hoặc giảm kích thước ngữ cảnh.

Streaming của SillyTavern có hoạt động với API miễn phí không?

Có. Bật Streaming trong bảng AI Response Configuration. FreeLLMAPI truyền câu trả lời từ mỗi nhà cung cấp theo định dạng OpenAI.

Hướng dẫn liên quan

Nguồn

Tất cả hướng dẫn · Xem tất cả mô hình miễn phí