新闻

Ricursive 发布 Ripple-65B Preview:3200 万美元训练,TerminalBench 2.1 得分 80.52 居美国开放权重首位(2026 年 11 月 6 日)

Ricursive 于 2026 年 11 月 6 日发布 Ripple-65B Preview:65B 稠密模型、12 万亿 token 预训练、100 万 token 上下文,TerminalBench 2.1 得 80.52。

一句话总结

Ricursive Intelligence 于 2026 年 11 月 6 日发布 Ripple-65B Preview:65B 参数的稠密 Transformer,预训练用了 12 万亿 token,支持最长 100 万 token 上下文,TerminalBench 2.1 得分 80.52,官方称其为美国开放权重模型在该基准上的最好成绩;从零开始的全部研发成本为 3200 万美元。

事件概述 ​

2026 年 11 月 6 日,Ricursive Intelligence 在官方站点发布 Ripple-65B Preview。这家公司的主业是芯片设计 AI,官方称其为了让芯片设计平台具备自主编码能力,从零训练了一个语言模型,并把通用版本对外开放。

官方给这一定位的关键词是「美国开放权重 SOTA(state of the art,最佳水平)」:Ripple-65B Preview 在 TerminalBench 2.1 上得到 80.52 分,高于规模更大的 Reflection Beam 501B(80.1)、Meta Muse Spark Open 816B(76.4)、Thinking Machines Inkling 975B(63.8)与 NVIDIA Nemotron 3 Ultra 550B(56.4)。

模型已上线 Hugging Face、Together AI、GMI Cloud、OpenRouter 与 Fireworks 五个渠道,可本地部署在 NVIDIA DGX Spark 这类设备上。

关键信息 ​

项目官方公布内容
发布时间2026 年 11 月 6 日
参数规模650 亿参数(65B),稠密(dense)Transformer,非 MoE
预训练数据12 万亿 token
上下文长度最长 1,000,000 token
TerminalBench 2.180.52 分
对比成绩Reflection Beam 501B 为 80.1、Meta Muse Spark Open 816B 为 76.4、Inkling 975B 为 63.8、Nemotron 3 Ultra 550B 为 56.4
研发成本3,200 万美元,含预训练阶梯、数据配比、合成数据、后训练与最终正式训练
强化学习规模140 万次 rollout,官方称为 Reflection Beam 的约 1/70
可用渠道Hugging Face、Together AI、GMI Cloud、OpenRouter、Fireworks

架构与训练 ​

Ripple-65B 选择的是稠密架构而不是混合专家(MoE)。官方给出的理由是降低预训练与后训练的基础设施复杂度:训练全程维持 40% 的模型浮点利用率(MFU),且没有使用自定义算子,也没有做量化。

具体配置方面,官方披露了「窄而深」的比例:d_model 为 5120,共 80 层;为提升推理表现,增加了注意力头数量,同时提高滑动窗口注意力(SWA)与全局层的比例,并缩小 SWA 窗口以抵消成本。此外还加入了 FFN 激活裁剪、门控注意力、全局 NoPE 与 value residuals 四项设计。

预训练配方的改进来自一系列模型阶梯实验。官方称起点是 Allen Institute for AI 的 Olmo 3 阶梯,逐版加入 StepFun 的批大小与学习率缩放律、平滑的维度与深度缩放、pre+post norm、sigmoid 门控注意力、global NoPE 与 value residuals,并最终换成大幅上调代码比例的预训练数据集。累计效果是:在 4B 规模上,达到同等代码表现所需的算力最多降到原来的 1/16(以 dolma_stack 的交叉熵衡量)。

后训练方面,官方明确没有采购任何后训练数据,而是自建合成数据管线、质量过滤与覆盖度指标。强化学习配方包含截断重要性采样(truncated importance sampling)、分数中心化(score centering)与线性长度惩罚,并用长周期合成环境逐步加难。官方称从初始 SFT checkpoint 到 TerminalBench 2.1 的 80.5 分只用了 140 万次 rollout。

成本与对比 ​

3200 万美元是这次发布最受关注的数据。官方定义的口径是「从零开始的全部研发成本」,包括预训练阶梯开发、数据配比、评测、调试、合成数据生成、后训练配方开发,以及最终的正式预训练与后训练。官方同时称,这一数字约为「上一个开放权重编码 SOTA」成本的十分之一,并在脚注中引用了 Reflection 在 SpaceX Colossus 上训练其模型的公开报道。

需要注意口径差异:Reflection Beam 501B 的 80.1 分与 Meta Muse Spark Open 816B 的 76.4 分均引自 Ricursive 官方对比表,属于同一厂商整理的横评,第三方独立复现结果尚未公开。TerminalBench 2.1 是公开基准,但各模型的评测配置、工具权限与提示词设置未必完全一致,跨厂商分数不宜直接等同于能力排序。

从参数效率看,65B 稠密模型的成绩超过 501B 与 816B 的开放权重模型,是官方最想强调的结论。其解释有两点:一是架构与训练配方针对编码任务做了针对性优化;二是强化学习只用了约 1/70 的 rollout 就达到目标分数,说明数据与任务设计比单纯堆算力更关键。

影响与边界 ​

对使用方而言,最直接的变化是部署门槛。65B 稠密模型可以在单机或小规模集群上运行,官方点名 NVIDIA DGX Spark 这类低显存带宽设备也能高效推理,这与 500B 以上模型需要多卡集群的现实形成对比。

对开放权重生态而言,这次发布补上了一个「中等参数、编码专精」的位置。当前开放权重榜单的高分段多由 400B 以上的 MoE 模型占据,65B 稠密模型进入同一分数区间,会给需要在本地或私有环境跑编码智能体的团队提供替代选项。

需要区分事实与判断:80.52 分、3200 万美元、140 万次 rollout 均来自 Ricursive 官方博客,属厂商自报口径;「美国开放权重 SOTA」是官方基于 TerminalBench 2.1 单榜的说法,并非所有基准上的综合排名。官方也未公布模型在长上下文检索、多语言与安全评测上的完整数据。

官方来源 ​