对比

Cerebras 晶圆级推理与主流 GPU 推理速度对比

Cerebras 10 月 27 日官宣 2027 年在 OCI 提供晶圆级推理;基于 CS-4 与 CS-3 已公布实测数据,对比晶圆级芯片相对 GPU 的单用户 token 速度差距。

一句话总结

2026 年 10 月 27 日 Cerebras 与甲骨文官宣晶圆级推理 2027 年上线 OCI:已公布实测中 CS-4 在 GPT-OSS-120B 上交付 4,400+ tokens/秒/用户、最高较 GPU 方案快 30 倍,独立基准下 CS-3 在 gpt-oss-120B 上 2,700+ tokens/秒/用户对英伟达 B200 的 900 tokens/秒。

对比概览 ​

2026 年 10 月 27 日,Cerebras 与甲骨文官宣:Cerebras 高速推理计划于 2027 日历年上线 OCI,面向 AI 实验室、企业与开发者。Cerebras 的晶圆级引擎 WSE 将计算与内存集成在单一晶圆上,减少数据搬运与芯片间通信,面向长推理序列与多步智能体工作流。本文基于 Cerebras 已公布的 CS-4 与 CS-3 实测数据,以及 Artificial Analysis 独立基准,量化晶圆级芯片相对主流 GPU(英伟达 B200)的单用户 token 速度差距。

对比表 ​

对比维度Cerebras WSE(CS-4 / CS-3)英伟达 GPU(B200 等)
芯片架构晶圆级引擎 WSE:计算与内存集成在单一晶圆上,减少数据搬运与芯片间通信,权重驻留片上 SRAM(WSE-3/3T)主流 GPU(B200),为 Artificial Analysis 实测对照对象,架构参数未在本研究范围内列示
基准模型GPT-OSS-120B(CS-4);gpt-oss-120B(CS-3);Llama 4 Maverick 400B(CS-3)同左模型下的对照实测
单用户 tokens/秒CS-4:GPT-OSS-120B 相同提示词下 4,400+ tokens/秒/用户;CS-3:gpt-oss-120B 上 2,700+ tokens/秒/用户、Llama 4 Maverick(400B)上 2,522 tokens/秒B200:gpt-oss-120B 上 900 tokens/秒(10 路并发时 580);Llama 4 Maverick(400B)上 1,038 tokens/秒
对比的 GPU作为基准参照方英伟达 B200(Artificial Analysis 独立基准实测)
领先倍数CS-4 最高较 GPU 方案快 30 倍(Cerebras 新闻稿);CS-3 在 Llama 4 Maverick 400B 上领先约 2.4 倍基准线
OCI 上线时间Cerebras 高速推理计划于 2027 日历年上线 OCI;OCI 已有 Dedicated AI Clusters 推理基础未在本研究范围内展开 OCI 侧 GPU 推理细节
典型场景长推理序列与多步智能体工作流;智能体工作流有效批大小为 1,WSE-3/3T 权重驻留片上 SRAM 在解码时延上占优通用 GPU 推理场景

证据与立场 ​

Cerebras 官方口径:CS-4 在 GPT-OSS-120B 相同提示词下交付 4,400+ tokens/秒/用户,最高较 GPU 方案快 30 倍(Cerebras 2026 年 8 月 19 日新闻稿);Cerebras 高速推理计划于 2027 日历年上线 OCI,OCI 已有推理能力基础(OCI Enterprise AI 的 Dedicated AI Clusters);晶圆级引擎 WSE 将计算与内存集成在单一晶圆上,面向长推理序列与多步智能体工作流(Cerebras 新闻稿,2026 年 10 月 27 日)。

独立基准口径:据 Artificial Analysis 独立基准(Cerebras 博客援引),gpt-oss-120B 上 CS-3 达 2,700+ tokens/秒/用户,英伟达 B200 仅 900 tokens/秒(10 路并发时 580);据 36氪 援引 Artificial Analysis,Llama 4 Maverick(400B)上 CS-3 为 2,522 tokens/秒、B200 为 1,038 tokens/秒,领先约 2.4 倍。

论文与披露口径:据 arXiv 2026 年 10 月论文,智能体工作流有效批大小为 1,权重驻留片上 SRAM 的架构(WSE-3/3T)在解码时延上占优;Cerebras 现有大客户含 OpenAI、G42、MBZUAI、AWS(Cerebras 10-Q 风险披露)。

争议解读 ​

口径差异一:厂商自测与独立基准并存。CS-4 的 4,400+ tokens/秒与最高快 30 倍来自 Cerebras 自家新闻稿(2026 年 8 月 19 日),属厂商自测口径;CS-3 的 2,700+ tokens/秒、2,522 tokens/秒与 B200 的对照值来自 Artificial Analysis 独立基准(经 Cerebras 博客与 36氪 援引),两者测量条件、并发设置与模型版本均未完全对齐,30 倍上限是特定提示词与模型组合下的峰值,而非跨场景的普遍差距。

口径差异二:B200 数值随并发变化。gpt-oss-120B 上 B200 单路 900 tokens/秒、10 路并发时降至 580 tokens/秒,说明对照基准对并发设置敏感,比较时需注明并发口径。

口径差异三:OCI 交付尚未发生。晶圆级推理 2027 日历年才上线 OCI,当前所有数字均来自 Cerebras 自有集群的已公布实测;OCI 侧上线后的实际速度、容量与定价未披露。

数据来源 ​