Groq 与 Cerebras 对比
Groq 和 Cerebras 都在定制芯片上运行 LLM,两者都以输出速度快而著称。2026 年,它们最大的区别在于免费使用方式。Groq 有可持续的免费套餐。Cerebras 有一笔会过期的试用额度。本页结合两家厂商的数据和实时目录,对比速度、免费额度和模型。
代码、模型名称和目录中的实时标签以英文显示。
并列汇总
| 对比项 | Groq | Cerebras |
|---|---|---|
| 硬件 | Groq LPU 芯片 | Cerebras 晶圆级芯片 |
| 免费使用 | 可持续的免费套餐,有各模型的限制 | 没有可续期的免费套餐。30 天内 5 美元试用额度 |
| 银行卡或支付方式 | 免费套餐无需 | 激活试用和 API 需要 |
| GPT-OSS 120B 速度(厂商数据) | 约 500 tokens/s | 约 3,000 tokens/s |
| Qwen 3.8 27B 速度(厂商数据) | 约 450 tokens/s | 约 1,850 tokens/s |
| GPT-OSS 120B 免费限制 | 见下方的实时表格 | 试用:5 req/min,每天 1M tokens |
| 免费使用的上下文 | 大多数聊天模型为 131,072 tokens | 试用中为 65K(GPT-OSS)和 64K(Qwen) |
| 兼容 OpenAI 的 API | 是,api.groq.com/openai/v1 | 是,api.cerebras.ai/v1 |
| 其他服务 | 语音转文字(Whisper)和文字转语音 | 当前列表中仅有聊天模型 |
速度数据来自各厂商的模型页面。实际速度取决于提示词长度、负载和地区。我们未做实测。
速度
根据厂商数据,在两者都提供的两个模型上,Cerebras 更快。对于 GPT-OSS 120B,它标称约 3,000 tokens 每秒。Groq 对同一模型标称约 500 tokens 每秒。对于 Qwen 3.8 27B,Cerebras 标称约 1,850,Groq 约 450。
两者都比大多数 GPU 提供方快得多。对于几百个 tokens 的聊天回复,用户会觉得两者都是即时的。差异在长输出、批处理任务以及需要串联多次调用的代理中更为重要。
Groq 还标称 GPT-OSS 20B 约为 1,000 tokens 每秒。如果您在免费套餐中需要速度,Groq 上的小模型往往是最佳选择。
免费限制
Groq 在组织层面应用速率限制。下表显示当前目录中 Groq 的免费限制。
| 模型 | 免费提供方 | 上下文 | 免费额度(最优惠) | 工具 | 视觉 |
|---|---|---|---|---|---|
| Qwen3.8 27B | Groq | 262K | 30 请求/分钟 250 请求/天 70,000 令牌/分钟 ~6M | 是 | 是 |
| GPT-OSS 120B | Groq | 131K | 30 请求/分钟 1,000 请求/天 8,000 令牌/分钟 200,000 令牌/天 ~6M | 是 | 否 |
| GPT-OSS 20B | Groq | 131K | 30 请求/分钟 1,000 请求/天 8,000 令牌/分钟 200,000 令牌/天 ~6M | 是 | 否 |
| GPT-OSS Safeguard 20B | Groq | 131K | 30 请求/分钟 1,000 请求/天 8,000 令牌/分钟 200,000 令牌/天 ~6M | 是 | 否 |
| ALLaM 2 7B | Groq | 4K | 30 请求/分钟 1,000 请求/天 6,000 令牌/分钟 500,000 令牌/天 ~15M | 否 | 否 |
| Llama Prompt Guard 2 22M | Groq | 512 | 30 请求/分钟 14,400 请求/天 15,000 令牌/分钟 14.4K rpd | 否 | 否 |
| Llama Prompt Guard 2 86M | Groq | 512 | 30 请求/分钟 14,400 请求/天 15,000 令牌/分钟 14.4K rpd | 否 | 否 |
数据来自 FreeLLMAPI 目录(版本 2026.11.19,检查于 2026-11-19)。免费额度经常变化。该目录每天检查一次。
Cerebras 在免费目录中没有条目,因为它唯一的免费方式是试用。添加已验证的支付方式后,试用会提供 5 美元额度。该额度自 Cerebras 发放起 30 天后过期。在试用期间,GPT-OSS 120B 允许每分钟 5 次请求,每天 1M tokens。Qwen 3.8 27B 允许每分钟 300 次请求。
模型
- Groq 正式模型:GPT-OSS 120B、GPT-OSS 20B、Llama 3.3 70B、Llama 3.1 8B 以及 Whisper 语音模型。
- Groq 预览模型:Qwen 3.8 27B、MiniMax M2.7、GPT-OSS Safeguard 20B、Llama Prompt Guard 以及 Orpheus 语音模型,另有其他模型。
- Cerebras 模型:GPT-OSS 120B 和 Qwen 3.8 27B。
- 预览模型可能会在短时间内变更或下线。请勿仅基于预览模型构建产品。
两家厂商都提供 GPT-OSS,因此您可以在同一模型上进行比较。其他提供方也免费提供 GPT-OSS。所有途径请阅读免费 GPT-OSS API 页面。
速率限制错误与标头
当您超过限制时,两种 API 都会返回 HTTP 429。Groq 记录了其速率限制标头。请阅读这些标头,以便在达到限制之前放慢请求速度。
| Groq 标头 | 含义 |
|---|---|
x-ratelimit-limit-requests | 您每天的请求数限制 |
x-ratelimit-remaining-requests | 当天剩余的请求数 |
x-ratelimit-limit-tokens | 您每分钟的令牌数限制 |
x-ratelimit-remaining-tokens | 当前分钟内剩余的令牌数 |
retry-after | 需要等待的秒数。Groq 仅在返回 429 响应时发送 |
在 Cerebras 试用中,最常见的限制是 GPT-OSS 120B 每分钟 5 次请求。在 Groq 上,长提示词最常见的限制是每分钟令牌数。更多详情请阅读 Groq 速率限制错误。
如何选择
| 使用场景 | 选择 | 原因 |
|---|---|---|
| 个人项目的免费 API | Groq | 无需银行卡的可持续免费套餐 |
| GPT-OSS 120B 上最快的输出 | Cerebras | 约为 Groq 厂商数据的 6 倍 |
| 带长提示词的编码代理 | Groq,或提供方池 | 131K 上下文。Cerebras 试用的上下文约为 65K |
| 语音转文字 | Groq | Groq 提供 Whisper 模型 |
| 付费的、极快的生产端点 | Cerebras | 开发者套餐没有每小时或每天的上限 |
| 不会在某一限制处停止的免费使用 | 两者都置于网关之后 | 当达到某个限制时,故障转移会转移请求 |
您不必只选一个。FreeLLMAPI 为两者都提供了适配器。添加一个 Groq 密钥以用于每日免费使用,并在试用期间添加一个 Cerebras 密钥。使用 auto:fast 路由策略优先选择快速模型。当 Groq 返回 429 时,路由器会尝试您链中的下一个模型。
常见问题
Groq 比 Cerebras 快吗?
根据厂商数据,不快。对于 GPT-OSS 120B,Cerebras 标称约 3,000 tokens 每秒。Groq 对同一模型标称约 500 tokens 每秒。
Cerebras 像 Groq 一样免费吗?
不。Groq 有可持续的免费套餐。Cerebras 没有可续期的免费套餐,只有一笔 5 美元的试用额度,30 天后过期,并且需要支付方式。
Groq 免费套餐的限制是什么?
Groq 在组织层面为每个模型设置限制。本页的表格列出了实时目录中每个 Groq 模型的当前免费限制。
Groq 和 Cerebras 都提供哪些模型?
两者都提供 GPT-OSS 120B 和 Qwen 3.8 27B。Groq 还提供 GPT-OSS 20B、Llama 系列模型、Whisper 以及部分预览模型。
我能否同时使用 Groq 和 Cerebras?
可以。FreeLLMAPI 等网关可以同时保存两者的密钥。当某个提供方返回速率限制错误时,网关会将请求发送到下一个提供方。
相关指南
来源
- GroqCloud docs: Supported models (检查于 20 November 2026)
- GroqCloud docs: Rate limits (检查于 20 November 2026)
- Groq Community: Is there a free tier and what are its limits? (检查于 20 November 2026)
- Cerebras Inference docs: Rate limits (检查于 20 November 2026)
- Cerebras Inference docs: Models overview (检查于 20 November 2026)
- FreeLLMAPI docs: Supported platforms (检查于 20 November 2026)