Trang chủ / Hướng dẫn / Continue với API LLM miễn phí

Continue với API LLM miễn phí

Continue là tiện ích AI mã nguồn mở cho VS Code và JetBrains. Nó có chat, chế độ agent và tự động hoàn thành tab. Hướng dẫn này kết nối cả ba với model miễn phí qua FreeLLMAPI. Bạn sửa một tệp, config.yaml.

Mã, tên mô hình và nhãn danh mục trực tiếp được hiển thị bằng tiếng Anh.

Các phần kết nối với nhau thế nào

Continue dùng vai trò (role). Mỗi model trong config.yaml có một hoặc nhiều vai trò. Chat và chế độ agent dùng vai trò chat. Hoàn thành văn bản mờ (ghost text) dùng vai trò autocomplete. Nếu bạn không đặt vai trò, mặc định là chat, edit, apply và summarize.

Tính năng ContinueEndpoint FreeLLMAPIModel cần có
Chat, edit, apply/v1/chat/completionsMọi model chat
Chế độ agent/v1/chat/completions với toolsGọi công cụ (khả năng tool_use)
Tự động hoàn thành tab/v1/completions (prompt và suffix kiểu cũ)Một model nhanh

FreeLLMAPI phục vụ /v1/completions cho các client tự động hoàn thành trong trình soạn thảo, gửi yêu cầu prompt và suffix kiểu OpenAI cũ. Continue gửi các yêu cầu này khi bạn đặt useLegacyCompletionsEndpoint: true.

Bước 1: Cài đặt FreeLLMAPI và chạy lệnh thiết lập

Cài đặt trên macOS hoặc Linux

curl -fsSL https://freellmapi.co/install.sh | bash

Mở http://localhost:3001. Thêm ít nhất hai khóa nhà cung cấp miễn phí ở trang Keys. Sao chép khóa thống nhất của bạn. Sau đó chạy lệnh thiết lập:

Một lệnh

npx freellmapi setup-continue --url http://localhost:3001 --api-key <unified-key> --dry-run
npx freellmapi setup-continue --url http://localhost:3001 --api-key <unified-key>

Lệnh tạo bản sao lưu và gộp một model chat vào ~/.continue/config.yaml. Nó đặt khóa vào ~/.continue/.env. YAML tham chiếu khóa như một secret, nên khóa thô không có trong tệp cấu hình.

Vì sao dùng .env: tài liệu Continue nói rằng tiện ích IDE không đọc được biến môi trường của shell. Continue tìm secret trong <workspace>/.env, <workspace>/.continue/.env, ~/.continue/.env và sau đó là môi trường tiến trình.

Để kiểm tra kết nối mà không cần IDE, dùng Continue CLI. Lệnh là cn, từ gói npm @continuedev/cli. Tài liệu Continue đánh dấu CLI này là alpha.

Kiểm tra một lần

npm install -g @continuedev/cli
cn -p "Say hello"

Tiện ích VS Code và JetBrains đọc cùng một tệp ~/.continue/config.yaml. Bạn cấu hình cổng một lần cho cả hai IDE. Mỗi yêu cầu đi đến máy tính của bạn, nên localhost hoạt động và không cần đường hầm.

Bước 2: Thêm model chat và tự động hoàn thành

Mở config.yaml từ menu cấu hình trong Continue. Dùng biểu tượng bánh răng cạnh Local Config. Tệp nằm ở ~/.continue/config.yaml trên macOS và Linux, và ở %USERPROFILE%\.continue\config.yaml trên Windows. Một tệp đầy đủ cho chat, chế độ agent và tự động hoàn thành trông như sau:

~/.continue/config.yaml

name: FreeLLMAPI
version: 1.0.0
schema: v1
models:
  - name: FreeLLMAPI
    provider: openai
    model: auto
    apiBase: http://localhost:3001/v1
    apiKey: ${{ secrets.FREELLMAPI_API_KEY }}
    capabilities:
      - tool_use
    defaultCompletionOptions:
      contextLength: 128000
  - name: FreeLLMAPI Autocomplete
    provider: openai
    model: auto
    apiBase: http://localhost:3001/v1
    apiKey: ${{ secrets.FREELLMAPI_API_KEY }}
    useLegacyCompletionsEndpoint: true
    roles:
      - autocomplete

~/.continue/.env

FREELLMAPI_API_KEY=<unified-key>
  • capabilities: tool_use là bắt buộc cho chế độ agent. Continue thường tự nhận diện, nhưng model cổng auto không phải tên model đã biết, nên hãy đặt nó.
  • contextLength cho Continue biết cần gửi bao nhiêu ngữ cảnh. Đặt nó bằng ngữ cảnh của model bạn dùng.
  • Thay auto trong mục tự động hoàn thành bằng một model ID được ghim nếu bạn muốn cùng một model cho mỗi lần gõ phím.

Bước 3: Chọn model

Với chat và chế độ agent, dùng model có gọi công cụ và cửa sổ ngữ cảnh lớn. Bảng hiển thị các model miễn phí đáp ứng cả hai điều kiện hiện nay.

Model miễn phí cho chat và chế độ agent của Continue
Mô hìnhMiễn phí trênNgữ cảnhGiới hạn miễn phí (ưu đãi tốt nhất)Công cụThị giác
GLM 5.3UnoRouter1M1 yêu cầu/phút
1 req/min per model
CóKhông
GLM 5.3 FlashNVIDIA NIM, UnoRouter1M40 yêu cầu/phút
40 RPM
CóCó
Gemini 3.8 FlashGoogle AI Studio1MRecurring provider quotaCóCó
Qwen3.8 Flash NextAMD Radeon Cloud262KRecurring daily account allowanceCóKhông
Qwen3.8 FlashElectronHub1M$0.25/week shared recurring creditCóCó
Gemini 3.7 FlashGoogle AI Studio1M10 yêu cầu/phút
20 yêu cầu/ngày
250,000 token/phút
~3M
CóCó
GPT-5.6 LunaElectronHub1M$0.25/week shared recurring creditCóCó
Dots3 Note PreviewKilo Gateway, OpenRouter512K20 yêu cầu/phút
50 yêu cầu/ngày
50 req/day account-wide (1,000 after a $10 purchase)
CóCó

Đang hiển thị 8 trong số 109 mô hình miễn phí phù hợp. Xem tất cả mô hình.

Dữ liệu trực tiếp từ danh mục FreeLLMAPI (phiên bản 2026.11.19, đã kiểm tra 2026-11-19). Giới hạn miễn phí thay đổi thường xuyên. Danh mục được kiểm tra mỗi ngày.

Với tự động hoàn thành, tài liệu Continue khuyên dùng các model được huấn luyện để hoàn thành, ví dụ Codestral và Qwen Coder. Tài liệu nói rằng model chat lớn và model suy luận không cho kết quả hoàn thành hữu ích. Bảng hiển thị các gói Codestral và Qwen Coder miễn phí hiện nay. Sao chép đúng ID từ GET /v1/models.

Model Codestral và Qwen Coder miễn phí cho tự động hoàn thành
Mô hìnhMiễn phí trênNgữ cảnhGiới hạn miễn phí (ưu đãi tốt nhất)Công cụThị giác
CodestralDreamPrompting, LLM7, Mistral +1 nữa256K100 yêu cầu/phút
5,000 yêu cầu/ngày
500,000 token/ngày
500K tokens/day · 5,000 req/day
CóKhông
Codestral 2508ACLIDE, Api.Airforce, ElectronHub +1 nữa256K1 yêu cầu/phút
1,000 yêu cầu/ngày
1,000 req/day · 1 req/min
CóKhông
Qwen2.5 Coder 32BCloudflare Workers AI33K~10-20MCóKhông
Qwen3 Coder 30B A3B InstructElectronHub, ModelScope262K200 yêu cầu/ngày
Daily login: 200 credits + 50 for linked Alibaba Cloud; 24h expiry; shared; noncommercial experience
CóKhông
codestral-latestApi.Airforce32K1 yêu cầu/phút
1,000 yêu cầu/ngày
1,000 req/day · 1 req/min
KhôngKhông
Qwen3 Coder PlusACLIDE-€20/month shared internal usage credits · no cardCóKhông
Qwen3 Coder 480B A35B Instruct (turbo)Inferbase8K5,000 requests/month; 100 requests and $0.50 usage/day sharedKhôngKhông
Qwen3 CoderSeptor Labs128KShared daily allowanceCóKhông

Đang hiển thị 8 trong số 9 mô hình miễn phí phù hợp. Xem tất cả mô hình.

Dữ liệu trực tiếp từ danh mục FreeLLMAPI (phiên bản 2026.11.19, đã kiểm tra 2026-11-19). Giới hạn miễn phí thay đổi thường xuyên. Danh mục được kiểm tra mỗi ngày.

Bạn cũng có thể dùng một model ID định tuyến thay cho auto. Ví dụ, auto:smart ưu tiên các model có trí tuệ cao nhất, và auto:fast ưu tiên tốc độ đo được. Tạo một mục model riêng cho mỗi cái, sau đó chọn nó trong menu model của Continue.

Cài đặt tự động hoàn thành và giới hạn

Tự động hoàn thành gửi một yêu cầu gần như sau mỗi lần ngừng gõ. Trên gói miễn phí, đây là cách dùng hạn mức của bạn nhanh nhất. Dùng khối autocompleteOptions để gửi ít yêu cầu hơn, nhỏ hơn.

Thêm bên dưới mục model tự động hoàn thành

    autocompleteOptions:
      debounceDelay: 500
      maxPromptTokens: 1024
      onlyMyCode: true
  • debounceDelay là thời gian chờ tính bằng mili giây sau khi bạn ngừng gõ. Giá trị cao hơn gửi ít yêu cầu hơn. Ví dụ trong tài liệu Continue dùng 250.
  • maxPromptTokens giới hạn kích thước mỗi prompt hoàn thành.
  • Đặt tự động hoàn thành trên model có giới hạn mỗi phút cao. Đừng đặt nó trên model có 20 yêu cầu mỗi ngày.
  • Giữ chat và tự động hoàn thành trên các model khác nhau. Khi đó tự động hoàn thành không dùng hạn mức mà chat cần.

Khi một nhà cung cấp gửi lỗi 429, FreeLLMAPI thử model tiếp theo trong chuỗi. Tiêu đề phản hồi X-Routed-Via cho biết nhà cung cấp đã trả lời.

Khắc phục sự cố

Vấn đềNguyên nhânCách khắc phục
401 "Invalid API key"Khóa không đúng, hoặc Continue chưa tải được secretĐặt FREELLMAPI_API_KEY vào ~/.continue/.env, sau đó tải lại IDE
Chế độ agent không dùng được cho modelModel không có khả năng tool_use trong cấu hìnhThêm capabilities: [tool_use] vào model chat
Không có ghost textKhông model nào có vai trò autocompleteThêm mục tự động hoàn thành với roles: [autocomplete]
Hoàn thành chậmModel lớn hoặc gói miễn phí chậmGhim một model nhanh từ bảng tự động hoàn thành
Thông báo "Tất cả model bị giới hạn tốc độ sau N lần thử"Mọi khóa đều hết giới hạnTăng debounceDelay và thêm khóa từ nhiều nhà cung cấp hơn
Dùng tất cả các mô hình này qua một khóa duy nhất. FreeLLMAPI là bộ định tuyến mã nguồn mở, tự lưu trữ. Nó đặt tất cả các gói miễn phí này sau một endpoint duy nhất tương thích OpenAI, và tự chuyển sang nhà cung cấp khác khi một nhà cung cấp bị giới hạn tốc độ. Xem danh mục hoặc bắt đầu.

Câu hỏi thường gặp

Continue có miễn phí không?

Có. Continue là tiện ích mã nguồn mở. Nó cần một API model. Với FreeLLMAPI, nó dùng các gói miễn phí của nhà cung cấp, nên chi phí suy luận là $0.

Làm sao để bật tự động hoàn thành tab miễn phí trong VS Code?

Cài Continue và thêm một model với roles: [autocomplete], provider: openai, apiBase: http://localhost:3001/v1 và useLegacyCompletionsEndpoint: true. FreeLLMAPI trả lời tại /v1/completions.

Model miễn phí nào tốt nhất cho tự động hoàn thành của Continue?

Tài liệu Continue khuyên dùng các model được huấn luyện để hoàn thành, như Codestral và Qwen Coder. Gói miễn phí của cả hai có trong bảng trên trang này. Không khuyến nghị dùng model chat lớn và model suy luận.

Tại sao Continue không đọc được biến môi trường của tôi?

Tài liệu Continue nói rằng tiện ích IDE không đọc được biến môi trường của shell. Đặt khóa vào ~/.continue/.env và tham chiếu nó như ${{ secrets.FREELLMAPI_API_KEY }}.

Chế độ agent của Continue có hoạt động với model miễn phí không?

Có, nếu model hỗ trợ gọi công cụ. Thêm khả năng tool_use cho model trong config.yaml và dùng model có cửa sổ ngữ cảnh lớn.

Hướng dẫn liên quan

Nguồn

Tất cả hướng dẫn · Xem tất cả mô hình miễn phí