郭明錤：NVIDIAが推論プリフィル最適化チップ「Rubin CPX」プロジェクトを再開

Nvidiaは市場から一度は放棄されたと見なされていたチッププロジェクトをひそかに再始動し、AI推論におけるコストが高いプリフィル（Prefill）段階をターゲットにしています。

著名アナリスト郭明錤の最新産業調査によると、NvidiaはAI推論プリフィル加速GPUプロジェクト「Rubin CPX」を再始動し、製品設計を大幅に見直したとのことです。現在の計画では、新版Rubin CPXは2027年第1四半期に生産開始が見込まれています。

今回のプロジェクト再始動は明確なシグナルを発しています。NvidiaはAI推論段階のプリフィルにおけるパフォーマンスとコストのボトルネック解消に注力しているのです。大規模モデルでコンテキスト長が継続的に増加する中、プリフィル段階では大量の入力情報を処理しKV Cacheを生成する必要があり、その効率はAI推論全体のコストと展開経済性に直接影響します。

郭明錤によれば、現時点で50%以上のAI推論のワークロードが入力コンテキスト処理およびKV Cache構築に由来しています。

チップ仕様が大幅調整、計算能力は標準Rubinに接近

新版Rubin CPXのコア仕様は従来の案と比べ明らかに変更されています。

計算能力と消費電力においては、新版CPXは性能が標準Rubin GPUに近づき、1枚あたり最大消費電力も2300Wとなっています。メモリ面では、新版CPXは168GBのHBM4メモリを採用し、従来案の128GB GDDR7より明らかにアップグレードされていますが、標準Rubin GPUの288GB HBM4よりは低いです。

郭明錤によると、8枚のCPXを搭載した計算トレイでは合計で約1.34TBのHBM4容量となり、多くの長大なコンテキストのプリフィルワークロードおよび対応するKV Cacheのニーズをカバーできます。これはRubin CPXが単純により高い汎用計算能力を追求するものではなく、長いコンテキストシナリオにおけるメモリ容量とプリフィル効率に特化して設計し直されたことを意味します。

共有ラックから独立展開へ、より柔軟な構成

ラックアーキテクチャも今回の調整のポイントです。

従来案ではCPXはRubin GPUとラックを共有する予定でしたが、新版では独立したMGX ETLラック構成に変更され、顧客が実際のニーズに応じてCPXの計算能力を単独で拡張することが可能になります。

具体的には、顧客は64、128、192、または256枚のCPX GPUの導入規模を選択可能です。64枚のCPX GPUごとに1つのラックモジュールを構成し、8つの計算トレイにはそれぞれ8枚のCPX GPUが搭載され、さらに1つのスイッチトレイが備わります。

モジュラー式設計は、顧客が大規模Rubinラックに固定されることなく、プリフィル負荷の実際のニーズに応じてCPX計算能力を柔軟に追加できることを意味します。

階層型インターコネクト設計によりプリフィル展開コスト低減

インターコネクトアーキテクチャにおいて、Rubin CPXは階層型設計を採用し、性能とコストのトレードオフを図っています。

1つの計算トレイの内部では、8枚のCPX GPUがNVLinkによるScale-up拡張を行います。各CPX GPUのNVLink帯域幅は1～1.5TB/sで、標準Rubin GPUの3.6TB/sより低めです。

トレイ間およびラックモジュール内部のScale-outレベルでは、CPXはSpectrum-6イーサネット全銅L1リンクを採用し、ラックモジュール間の接続は各モジュールのSpectrum-6スイッチを介してOSFP光ファイバーリンクで接続されます。

完全に高帯域GPUインターコネクトに依存する方式と比べ、この階層型アーキテクチャはプリフィルシナリオ向けのコスト最適化により重きを置いています。

Rubin GPUとの協調、長大なコンテキスト推論を狙う

Rubin CPXは単独で動作する汎用GPUではなく、プリフィルアクセラレータとしてVera Rubin NVL72とセットで利用されます。

郭明錤の説明によると、NvidiaはCPXとRubin GPUを1:1の割合で導入することを推奨しています。CPXはプリフィル段階の計算とKV Cacheの生成を担い、その後イーサネットRDMAを通じてKV CacheをRubin GPUに転送し、Rubin GPUが後続のデコードを完了します。

製品ポジショニングから見ると、Rubin CPXのコアは標準Rubin GPUの代替ではなく、AI推論プロセスをさらに分割し、異なるGPUがプリフィルとデコードのタスクをそれぞれ担当することにあります。

郭明錤はこれを「長大なコンテキストプリフィルにおける最もコストパフォーマンスの高いソリューション」と位置付けています。AIモデルのコンテキストウィンドウ拡大が続く中、プリフィル段階の計算量とKV Cacheの規模も拡大を続けており、Nvidiaによる今回のCPXプロジェクト再始動は、専用ハードウェアや異種展開方式によって長大なコンテキスト推論のコストをさらに削減しようとする試みといえます。