Groq so với Cerebras
Groq và Cerebras đều chạy LLM trên chip tùy chỉnh và đều được biết đến nhờ đầu ra nhanh. Năm 2026, khác biệt lớn nhất nằm ở quyền truy cập miễn phí. Groq có gói Free định kỳ. Cerebras có tín dụng dùng thử và tín dụng này hết hạn. Trang này so sánh tốc độ, giới hạn miễn phí và mô hình, với dữ liệu từ cả hai nhà cung cấp và danh mục trực tiếp.
Mã, tên mô hình và nhãn danh mục trực tiếp được hiển thị bằng tiếng Anh.
Tóm tắt đặt cạnh nhau
| Tiêu chí | Groq | Cerebras |
|---|---|---|
| Phần cứng | Chip Groq LPU | Chip wafer-scale của Cerebras |
| Truy cập miễn phí | Gói Free định kỳ với giới hạn theo mô hình | Không có gói miễn phí được gia hạn. Tín dụng dùng thử $5 trong 30 ngày |
| Thẻ hoặc phương thức thanh toán | Không cần cho gói Free | Cần để kích hoạt bản dùng thử và API |
| Tốc độ GPT-OSS 120B (số liệu nhà cung cấp) | Khoảng 500 token/s | Khoảng 3,000 token/s |
| Tốc độ Qwen 3.8 27B (số liệu nhà cung cấp) | Khoảng 450 token/s | Khoảng 1,850 token/s |
| Giới hạn miễn phí GPT-OSS 120B | Xem bảng trực tiếp bên dưới | Dùng thử: 5 yêu cầu/phút, 1M token/ngày |
| Ngữ cảnh khi dùng miễn phí | 131,072 token trên hầu hết mô hình chat | 65K (GPT-OSS) và 64K (Qwen) khi dùng thử |
| API tương thích OpenAI | Có, api.groq.com/openai/v1 | Có, api.cerebras.ai/v1 |
| Dịch vụ khác | Chuyển giọng nói thành văn bản (Whisper) và chuyển văn bản thành giọng nói | Chỉ có mô hình chat trong danh sách hiện tại |
Số liệu tốc độ lấy từ trang mô hình của mỗi nhà cung cấp. Tốc độ thực tế phụ thuộc vào độ dài prompt, tải và khu vực. Chúng tôi không tự đo.
Tốc độ
Theo số liệu của nhà cung cấp, Cerebras nhanh hơn trên hai mô hình mà cả hai cùng phục vụ. Cerebras liệt kê khoảng 3,000 token mỗi giây cho GPT-OSS 120B. Groq liệt kê khoảng 500 token mỗi giây cho cùng mô hình. Với Qwen 3.8 27B, Cerebras liệt kê khoảng 1,850 và Groq khoảng 450.
Cả hai đều nhanh hơn nhiều so với hầu hết nhà cung cấp GPU. Với câu trả lời chat vài trăm token, cả hai đều cho người dùng cảm giác tức thì. Sự khác biệt quan trọng hơn với đầu ra dài, tác vụ theo lô và các tác nhân chuỗi nhiều lệnh gọi.
Groq cũng liệt kê GPT-OSS 20B khoảng 1,000 token mỗi giây. Nếu bạn cần tốc độ trên gói Free, một mô hình nhỏ trên Groq thường là lựa chọn tốt nhất.
Giới hạn miễn phí
Groq áp dụng giới hạn tốc độ ở cấp tổ chức. Bảng cho thấy giới hạn miễn phí của Groq trong danh mục hiện nay.
| Mô hình | Miễn phí trên | Ngữ cảnh | Giới hạn miễn phí (ưu đãi tốt nhất) | Công cụ | Thị giác |
|---|---|---|---|---|---|
| Qwen3.8 27B | Groq | 262K | 30 yêu cầu/phút 250 yêu cầu/ngày 70,000 token/phút ~6M | Có | Có |
| GPT-OSS 120B | Groq | 131K | 30 yêu cầu/phút 1,000 yêu cầu/ngày 8,000 token/phút 200,000 token/ngày ~6M | Có | Không |
| GPT-OSS 20B | Groq | 131K | 30 yêu cầu/phút 1,000 yêu cầu/ngày 8,000 token/phút 200,000 token/ngày ~6M | Có | Không |
| GPT-OSS Safeguard 20B | Groq | 131K | 30 yêu cầu/phút 1,000 yêu cầu/ngày 8,000 token/phút 200,000 token/ngày ~6M | Có | Không |
| ALLaM 2 7B | Groq | 4K | 30 yêu cầu/phút 1,000 yêu cầu/ngày 6,000 token/phút 500,000 token/ngày ~15M | Không | Không |
| Llama Prompt Guard 2 22M | Groq | 512 | 30 yêu cầu/phút 14,400 yêu cầu/ngày 15,000 token/phút 14.4K rpd | Không | Không |
| Llama Prompt Guard 2 86M | Groq | 512 | 30 yêu cầu/phút 14,400 yêu cầu/ngày 15,000 token/phút 14.4K rpd | Không | Không |
Dữ liệu trực tiếp từ danh mục FreeLLMAPI (phiên bản 2026.11.19, đã kiểm tra 2026-11-19). Giới hạn miễn phí thay đổi thường xuyên. Danh mục được kiểm tra mỗi ngày.
Cerebras không có dòng nào trong danh mục miễn phí, vì quyền truy cập miễn phí duy nhất của họ là bản dùng thử. Bản dùng thử cấp $5 tín dụng sau khi bạn thêm phương thức thanh toán đã xác minh. Tín dụng hết hạn 30 ngày sau khi Cerebras cấp. Trong thời gian dùng thử, GPT-OSS 120B cho phép 5 yêu cầu mỗi phút và 1M token mỗi ngày. Qwen 3.8 27B cho phép 300 yêu cầu mỗi phút.
Mô hình
- Mô hình sản xuất của Groq: GPT-OSS 120B, GPT-OSS 20B, Llama 3.3 70B, Llama 3.1 8B và các mô hình giọng nói Whisper.
- Mô hình preview của Groq: Qwen 3.8 27B, MiniMax M2.7, GPT-OSS Safeguard 20B, Llama Prompt Guard và các mô hình giọng nói Orpheus, cùng những mô hình khác.
- Mô hình của Cerebras: GPT-OSS 120B và Qwen 3.8 27B.
- Mô hình preview có thể thay đổi hoặc ngừng với thông báo ngắn. Đừng xây dựng sản phẩm chỉ dựa trên mô hình preview.
Cả hai nhà cung cấp đều phục vụ GPT-OSS, nên bạn có thể so sánh chúng trên cùng một mô hình. Các nhà cung cấp khác cũng phục vụ GPT-OSS miễn phí. Đọc the free GPT-OSS API page để xem mọi tuyến.
Lỗi giới hạn tốc độ và tiêu đề
Cả hai API đều trả về HTTP 429 khi bạn vượt giới hạn. Groq ghi tài liệu các tiêu đề giới hạn tốc độ của họ. Đọc các tiêu đề này để chậm lại trước khi chạm giới hạn.
| Tiêu đề Groq | Ý nghĩa |
|---|---|
x-ratelimit-limit-requests | Giới hạn yêu cầu mỗi ngày của bạn |
x-ratelimit-remaining-requests | Số yêu cầu còn lại trong ngày hiện tại |
x-ratelimit-limit-tokens | Giới hạn token mỗi phút của bạn |
x-ratelimit-remaining-tokens | Số token còn lại trong phút hiện tại |
retry-after | Số giây cần chờ. Groq chỉ gửi tiêu đề này kèm phản hồi 429 |
Với bản dùng thử Cerebras, giới hạn thường gặp nhất là 5 yêu cầu mỗi phút trên GPT-OSS 120B. Trên Groq, giới hạn thường gặp nhất với prompt dài là token mỗi phút. Để biết thêm chi tiết, đọc Groq rate limit errors.
Nên chọn bên nào
| Trường hợp sử dụng | Lựa chọn | Lý do |
|---|---|---|
| API miễn phí cho dự án phụ | Groq | Gói Free định kỳ, không cần thẻ |
| Đầu ra nhanh nhất trên GPT-OSS 120B | Cerebras | Khoảng 6 lần số liệu nhà cung cấp của Groq |
| Tác nhân lập trình với prompt dài | Groq, hoặc một nhóm nhà cung cấp | Ngữ cảnh 131K. Ngữ cảnh bản dùng thử Cerebras khoảng 65K |
| Chuyển giọng nói thành văn bản | Groq | Groq phục vụ các mô hình Whisper |
| Endpoint sản xuất trả phí, rất nhanh | Cerebras | Gói developer không có giới hạn theo giờ hoặc theo ngày |
| Sử dụng miễn phí không dừng ở một giới hạn | Cả hai trong một cổng | Chuyển đổi dự phòng chuyển yêu cầu khi đạt một giới hạn |
Bạn không phải chọn một. FreeLLMAPI có bộ điều hợp cho cả hai. Thêm khóa Groq để dùng miễn phí hằng ngày và khóa Cerebras trong thời gian dùng thử. Dùng chiến lược định tuyến auto:fast để ưu tiên mô hình nhanh. Khi Groq trả về 429, bộ định tuyến thử mô hình tiếp theo trong chuỗi của bạn.
Câu hỏi thường gặp
Groq có nhanh hơn Cerebras không?
Không, theo số liệu nhà cung cấp thì không. Cerebras liệt kê khoảng 3,000 token mỗi giây cho GPT-OSS 120B. Groq liệt kê khoảng 500 token mỗi giây cho cùng mô hình.
Cerebras có miễn phí như Groq không?
Không. Groq có gói Free định kỳ. Cerebras không có gói miễn phí được gia hạn, chỉ có tín dụng dùng thử $5 hết hạn sau 30 ngày và cần phương thức thanh toán.
Giới hạn gói Free của Groq là gì?
Groq đặt giới hạn theo từng mô hình, ở cấp tổ chức. Bảng trên trang này cho biết giới hạn miễn phí hiện tại của từng mô hình Groq từ danh mục trực tiếp.
Groq và Cerebras cùng phục vụ những mô hình nào?
Cả hai đều phục vụ GPT-OSS 120B và Qwen 3.8 27B. Groq cũng phục vụ GPT-OSS 20B, các mô hình Llama, Whisper và một số mô hình preview.
Tôi có thể dùng Groq và Cerebras cùng nhau không?
Có. Một cổng như FreeLLMAPI có thể giữ khóa của cả hai. Khi một nhà cung cấp trả về lỗi giới hạn tốc độ, cổng gửi yêu cầu tới nhà cung cấp tiếp theo.
Hướng dẫn liên quan
- Gói miễn phí của Cerebras: bạn nhận được gì năm 2026
- Groq đạt giới hạn tốc độ (429)
- free gpt oss api
- free groq api
- Giới hạn tốc độ API LLM miễn phí
- API chuyển giọng nói thành văn bản miễn phí
Nguồn
- GroqCloud docs: Supported models (đã kiểm tra 20 November 2026)
- GroqCloud docs: Rate limits (đã kiểm tra 20 November 2026)
- Groq Community: Is there a free tier and what are its limits? (đã kiểm tra 20 November 2026)
- Cerebras Inference docs: Rate limits (đã kiểm tra 20 November 2026)
- Cerebras Inference docs: Models overview (đã kiểm tra 20 November 2026)
- FreeLLMAPI docs: Supported platforms (đã kiểm tra 20 November 2026)