杂项

企业如何规划谷歌 TPU 上 OCI 的工作负载选型

谷歌第八代 TPU 8t 训练与 8i 推理将于 2027 年在 OCI 上线,OCI 为谷歌外首家超大规模云;本文给出训练/推理选型、评估近线性扩展、规划多年扩容节奏的步骤。

一句话总结

甲骨文官方 2026 年 10 月 27 日称,OCI 将成为谷歌以外首家提供谷歌 TPU 的超大规模云,第八代 TPU 8t/8i 计划 2027 日历年上线;企业可按五步完成训练/推理选型、扩展评估与多年扩容规划。

适用场景 ​

  • 需要前沿模型训练与后训练(稠密或 MoE)算力、希望在 OCI 内获得谷歌 TPU 这一专用训练选项的企业。
  • 运行多智能体迭代推理、长上下文应用,需要专门推理硬件而非通用 GPU 的团队。
  • 需要在 OCI 内同时持有 GPU 与 TPU、按负载性能与经济性做混合架构选型的平台工程团队。

依据:甲骨文官方新闻稿(Oracle AI World,拉斯维加斯,2026 年 10 月 27 日)称,OCI 将成为谷歌以外首家提供谷歌 TPU 的超大规模云平台(first hyperscaler outside Google)。

操作步骤 ​

  1. 区分训练与推理负载:前沿训练与后训练(稠密或 MoE)选 TPU 8t,多智能体迭代推理选 TPU 8i;官方称第八代 TPU 含 TPU 8t(训练)与 TPU 8i(推理)两种架构。
  2. 评估 pod 规模与开发周期:官方称 TPU 8t 单 pod 计算性能约为上一代 3 倍(nearly 3x),可将前沿模型开发周期从数月缩短至数周;据此评估自身模型在 TPU 近线性扩展架构下的 pod 规模需求与开发周期预期。
  3. 规划多年扩容节奏:官方称谷歌 TPU 上 OCI 将于 2027 日历年可用,并在多年内逐步扩容(ramping over a multi-year period);据此预留区域、电力与冷却资源,OCI 将在其基础设施内提供电力、冷却与数据中心网络。
  4. 建立混合成本模型:在 OCI 内对比 TPU 与现有 GPU 实例的单位 token 经济学;谷歌 AI 与基础设施高级副总裁兼首席技术师 Amin Vahdat 称,下一代 AI 需要多样化算力,TPU 为高要求训练与推理负载提供专用选项。
  5. 跟踪软件栈兼容性:TPU 支持稠密与 MoE 模型训练及推理、智能体与长上下文应用;跟踪 Google Cloud TPU 开源软件栈与 OCI 部署的兼容性文档,提前组建 XLA 工具链团队。

注意事项 ​

  • 可用时间为官方所称 2027 日历年,具体月份、区域与 SKU 未披露,以官方文档为准。
  • 约 3 倍单 pod 性能与开发周期从数月缩短至数周均为官方口径,实际收益取决于模型规模、并行策略与数据管线,需以自有模型实测验证。
  • OCI 内 TPU 实例的配额、定价与与现有 GPU 的一致性 SLA 未在公告中披露,以 Oracle 商务条款与官方文档为准。
  • TPU 开源软件栈与 OCI 部署的兼容性细节随上线推进公布,迁移前需核对版本矩阵。

参考来源 ​