記事

国産GPU+脳型チップ異種混在型推論システム:大規模モデル推論の国産化新経路

2026中国算力大会で、中国移動雲は国産初のGPU+脳型チップ異種混在型LLM推論システムを発表。AttentionをGPU、FFNを脳型チップが処理し、DeepSeek V4 Flashで効率2倍以上・コスト40%以上削減を実証。

要約

2026年9月12日、中国移動雲(China Mobile Cloud)は中国電子科技南湖研究院、北京霊汐科技、上海天数智芯、清華大学、北京大学と共同で、2026中国算力大会「算力首創首発布会」において、国産初のGPU+脳型チップ大規模モデル異種混在型推論システムを発表した。TransformerのAttention計算を国産GPUが、FFNモジュールを脳型チップが担い、DeepSeek V4 Flashで推論出力・効率が2倍以上、業務運営コストが40%以上削減された。

背景:LLM推論の二重のボトルネック

AI産業の重心がモデル訓練から大規模推論サービスへ移る中、推論算力はトークンファクトリー、AIエージェント、文生视频(テキストから動画)などの業務を支える新たなデジタルインフラとなっている。大規模モデルの同時サービスはスループットと消費電力コストに極めて高い要求を課し、従来の単一GPU推論アーキテクチャは二重のボトルネックに直面する。データの頻繁な移動による「メモリの壁」と「消費電力の壁」、さらに国内の先進プロセス供給制約により、ハードウェアの微細化だけでの算力向上には限界がある。

技術方式:国産GPUと脳型チップの分業

本プロジェクトはシステムアーキテクチャ革新から着手し、初めて国産汎用GPUと脳型チップを深く融合させ、TransformerモデルのPD/AF分離推論モードを実現した:

  • Attention(注意機構)計算:国産GPUが担当。
  • FFN(フィードフォワード)モジュール:脳型チップが担当。メモリ内計算(存算一体)と大容量オンチップSRAMの利点を活かし、従来のGPU推論の固有のボトルネックを突破。

チームは自社開発のモデルコンパイラ、高速インターコネクトプロトコル、統一推論エンジンにより、2種類の算力のタスク分解・協調スケジューリング・結果集約を実現した。

検証結果:DeepSeek V4 Flashでチューニング

本システムはDeepSeek V4 Flash大規模モデルで完全なチューニング検証を完了した。同種の国産GPU算力クラスタとの比較:

  • 推論出力と効率:いずれも2倍以上向上。
  • 業務運営コスト:40%以上削減。

これは国内成熟プロセスの国産チップが、システムアーキテクチャ革新によって国際的な次世代推論アーキテクチャに匹敵する業務能力を実現できることを示し、LLM推論の国産化の再現可能な技術パラダイムを提供する。

産学連携と展開計画

本成果はオペレーター、チップ企業、研究機関、大学が連携する産学官協同の典型例であり、チップ適応、推論エンジン開発から業務シナリオ検証までの全チェーンを構築した。今後はトークンファクトリー、AIコード開発、文生视频、マルチエージェント協調、スマート製造、金融・通信セキュリティなどのシナリオで検証を進め、コアの異種混在推論フレームワークを段階的に開放し、国内GPU・脳型チップベンダーや算力オペレーターを支援する計画。

データソースと参考