Trang chủ / Hướng dẫn / Groq so với Cerebras

Groq so với Cerebras

Groq và Cerebras đều chạy LLM trên chip tùy chỉnh và đều được biết đến nhờ đầu ra nhanh. Năm 2026, khác biệt lớn nhất nằm ở quyền truy cập miễn phí. Groq có gói Free định kỳ. Cerebras có tín dụng dùng thử và tín dụng này hết hạn. Trang này so sánh tốc độ, giới hạn miễn phí và mô hình, với dữ liệu từ cả hai nhà cung cấp và danh mục trực tiếp.

Mã, tên mô hình và nhãn danh mục trực tiếp được hiển thị bằng tiếng Anh.

Tóm tắt đặt cạnh nhau

Groq so với Cerebras, theo tài liệu nhà cung cấp (đã kiểm tra ngày 20 tháng 11 năm 2026)
Tiêu chíGroqCerebras
Phần cứngChip Groq LPUChip wafer-scale của Cerebras
Truy cập miễn phíGói Free định kỳ với giới hạn theo mô hìnhKhông có gói miễn phí được gia hạn. Tín dụng dùng thử $5 trong 30 ngày
Thẻ hoặc phương thức thanh toánKhông cần cho gói FreeCần để kích hoạt bản dùng thử và API
Tốc độ GPT-OSS 120B (số liệu nhà cung cấp)Khoảng 500 token/sKhoảng 3,000 token/s
Tốc độ Qwen 3.8 27B (số liệu nhà cung cấp)Khoảng 450 token/sKhoảng 1,850 token/s
Giới hạn miễn phí GPT-OSS 120BXem bảng trực tiếp bên dướiDùng thử: 5 yêu cầu/phút, 1M token/ngày
Ngữ cảnh khi dùng miễn phí131,072 token trên hầu hết mô hình chat65K (GPT-OSS) và 64K (Qwen) khi dùng thử
API tương thích OpenAICó, api.groq.com/openai/v1Có, api.cerebras.ai/v1
Dịch vụ khácChuyển giọng nói thành văn bản (Whisper) và chuyển văn bản thành giọng nóiChỉ có mô hình chat trong danh sách hiện tại

Số liệu tốc độ lấy từ trang mô hình của mỗi nhà cung cấp. Tốc độ thực tế phụ thuộc vào độ dài prompt, tải và khu vực. Chúng tôi không tự đo.

Tốc độ

Theo số liệu của nhà cung cấp, Cerebras nhanh hơn trên hai mô hình mà cả hai cùng phục vụ. Cerebras liệt kê khoảng 3,000 token mỗi giây cho GPT-OSS 120B. Groq liệt kê khoảng 500 token mỗi giây cho cùng mô hình. Với Qwen 3.8 27B, Cerebras liệt kê khoảng 1,850 và Groq khoảng 450.

Cả hai đều nhanh hơn nhiều so với hầu hết nhà cung cấp GPU. Với câu trả lời chat vài trăm token, cả hai đều cho người dùng cảm giác tức thì. Sự khác biệt quan trọng hơn với đầu ra dài, tác vụ theo lô và các tác nhân chuỗi nhiều lệnh gọi.

Groq cũng liệt kê GPT-OSS 20B khoảng 1,000 token mỗi giây. Nếu bạn cần tốc độ trên gói Free, một mô hình nhỏ trên Groq thường là lựa chọn tốt nhất.

Giới hạn miễn phí

Groq áp dụng giới hạn tốc độ ở cấp tổ chức. Bảng cho thấy giới hạn miễn phí của Groq trong danh mục hiện nay.

Mô hình Groq trong gói Free hiện nay
Mô hìnhMiễn phí trênNgữ cảnhGiới hạn miễn phí (ưu đãi tốt nhất)Công cụThị giác
Qwen3.8 27BGroq262K30 yêu cầu/phút
250 yêu cầu/ngày
70,000 token/phút
~6M
CóCó
GPT-OSS 120BGroq131K30 yêu cầu/phút
1,000 yêu cầu/ngày
8,000 token/phút
200,000 token/ngày
~6M
CóKhông
GPT-OSS 20BGroq131K30 yêu cầu/phút
1,000 yêu cầu/ngày
8,000 token/phút
200,000 token/ngày
~6M
CóKhông
GPT-OSS Safeguard 20BGroq131K30 yêu cầu/phút
1,000 yêu cầu/ngày
8,000 token/phút
200,000 token/ngày
~6M
CóKhông
ALLaM 2 7BGroq4K30 yêu cầu/phút
1,000 yêu cầu/ngày
6,000 token/phút
500,000 token/ngày
~15M
KhôngKhông
Llama Prompt Guard 2 22MGroq51230 yêu cầu/phút
14,400 yêu cầu/ngày
15,000 token/phút
14.4K rpd
KhôngKhông
Llama Prompt Guard 2 86MGroq51230 yêu cầu/phút
14,400 yêu cầu/ngày
15,000 token/phút
14.4K rpd
KhôngKhông

Dữ liệu trực tiếp từ danh mục FreeLLMAPI (phiên bản 2026.11.19, đã kiểm tra 2026-11-19). Giới hạn miễn phí thay đổi thường xuyên. Danh mục được kiểm tra mỗi ngày.

Cerebras không có dòng nào trong danh mục miễn phí, vì quyền truy cập miễn phí duy nhất của họ là bản dùng thử. Bản dùng thử cấp $5 tín dụng sau khi bạn thêm phương thức thanh toán đã xác minh. Tín dụng hết hạn 30 ngày sau khi Cerebras cấp. Trong thời gian dùng thử, GPT-OSS 120B cho phép 5 yêu cầu mỗi phút và 1M token mỗi ngày. Qwen 3.8 27B cho phép 300 yêu cầu mỗi phút.

Trong thực tế: Groq là nhà cung cấp miễn phí mà bạn có thể giữ lâu dài. Cerebras là nhà cung cấp trả phí mà bạn có thể dùng thử miễn phí trong một tháng.

Mô hình

  • Mô hình sản xuất của Groq: GPT-OSS 120B, GPT-OSS 20B, Llama 3.3 70B, Llama 3.1 8B và các mô hình giọng nói Whisper.
  • Mô hình preview của Groq: Qwen 3.8 27B, MiniMax M2.7, GPT-OSS Safeguard 20B, Llama Prompt Guard và các mô hình giọng nói Orpheus, cùng những mô hình khác.
  • Mô hình của Cerebras: GPT-OSS 120B và Qwen 3.8 27B.
  • Mô hình preview có thể thay đổi hoặc ngừng với thông báo ngắn. Đừng xây dựng sản phẩm chỉ dựa trên mô hình preview.

Cả hai nhà cung cấp đều phục vụ GPT-OSS, nên bạn có thể so sánh chúng trên cùng một mô hình. Các nhà cung cấp khác cũng phục vụ GPT-OSS miễn phí. Đọc the free GPT-OSS API page để xem mọi tuyến.

Lỗi giới hạn tốc độ và tiêu đề

Cả hai API đều trả về HTTP 429 khi bạn vượt giới hạn. Groq ghi tài liệu các tiêu đề giới hạn tốc độ của họ. Đọc các tiêu đề này để chậm lại trước khi chạm giới hạn.

Tiêu đề GroqÝ nghĩa
x-ratelimit-limit-requestsGiới hạn yêu cầu mỗi ngày của bạn
x-ratelimit-remaining-requestsSố yêu cầu còn lại trong ngày hiện tại
x-ratelimit-limit-tokensGiới hạn token mỗi phút của bạn
x-ratelimit-remaining-tokensSố token còn lại trong phút hiện tại
retry-afterSố giây cần chờ. Groq chỉ gửi tiêu đề này kèm phản hồi 429

Với bản dùng thử Cerebras, giới hạn thường gặp nhất là 5 yêu cầu mỗi phút trên GPT-OSS 120B. Trên Groq, giới hạn thường gặp nhất với prompt dài là token mỗi phút. Để biết thêm chi tiết, đọc Groq rate limit errors.

Nên chọn bên nào

Trường hợp sử dụngLựa chọnLý do
API miễn phí cho dự án phụGroqGói Free định kỳ, không cần thẻ
Đầu ra nhanh nhất trên GPT-OSS 120BCerebrasKhoảng 6 lần số liệu nhà cung cấp của Groq
Tác nhân lập trình với prompt dàiGroq, hoặc một nhóm nhà cung cấpNgữ cảnh 131K. Ngữ cảnh bản dùng thử Cerebras khoảng 65K
Chuyển giọng nói thành văn bảnGroqGroq phục vụ các mô hình Whisper
Endpoint sản xuất trả phí, rất nhanhCerebrasGói developer không có giới hạn theo giờ hoặc theo ngày
Sử dụng miễn phí không dừng ở một giới hạnCả hai trong một cổngChuyển đổi dự phòng chuyển yêu cầu khi đạt một giới hạn

Bạn không phải chọn một. FreeLLMAPI có bộ điều hợp cho cả hai. Thêm khóa Groq để dùng miễn phí hằng ngày và khóa Cerebras trong thời gian dùng thử. Dùng chiến lược định tuyến auto:fast để ưu tiên mô hình nhanh. Khi Groq trả về 429, bộ định tuyến thử mô hình tiếp theo trong chuỗi của bạn.

Dùng tất cả các mô hình này qua một khóa duy nhất. FreeLLMAPI là bộ định tuyến mã nguồn mở, tự lưu trữ. Nó đặt tất cả các gói miễn phí này sau một endpoint duy nhất tương thích OpenAI, và tự chuyển sang nhà cung cấp khác khi một nhà cung cấp bị giới hạn tốc độ. Xem danh mục hoặc bắt đầu.

Câu hỏi thường gặp

Groq có nhanh hơn Cerebras không?

Không, theo số liệu nhà cung cấp thì không. Cerebras liệt kê khoảng 3,000 token mỗi giây cho GPT-OSS 120B. Groq liệt kê khoảng 500 token mỗi giây cho cùng mô hình.

Cerebras có miễn phí như Groq không?

Không. Groq có gói Free định kỳ. Cerebras không có gói miễn phí được gia hạn, chỉ có tín dụng dùng thử $5 hết hạn sau 30 ngày và cần phương thức thanh toán.

Giới hạn gói Free của Groq là gì?

Groq đặt giới hạn theo từng mô hình, ở cấp tổ chức. Bảng trên trang này cho biết giới hạn miễn phí hiện tại của từng mô hình Groq từ danh mục trực tiếp.

Groq và Cerebras cùng phục vụ những mô hình nào?

Cả hai đều phục vụ GPT-OSS 120B và Qwen 3.8 27B. Groq cũng phục vụ GPT-OSS 20B, các mô hình Llama, Whisper và một số mô hình preview.

Tôi có thể dùng Groq và Cerebras cùng nhau không?

Có. Một cổng như FreeLLMAPI có thể giữ khóa của cả hai. Khi một nhà cung cấp trả về lỗi giới hạn tốc độ, cổng gửi yêu cầu tới nhà cung cấp tiếp theo.

Hướng dẫn liên quan

Nguồn

Tất cả hướng dẫn · Xem tất cả mô hình miễn phí