NVIDIAはGrace CPUとHopper GPUで構成された「Grace Hopper Superchip」の製品モデル「NCIDIA GH200」について、HBM3eを搭載した新しいバリアントを提供することを発表しました。2024年第2四半期から提供されます。

GH200

GH200は当ブログでは紹介できていませんが、2年前に明らかにされたGrace CPUと、昨年公開されたHopper GPUを組み合わせたモジュールです。Grace CPUは72コアのArmコア（Neoverse V2）から構成されており、こちらには480GBのLPDDR5Xを搭載しています。一方でHopper側には現在96GBのHBM3メモリを搭載しています。

CPUとGPUの接続にはNVLink-C2Cを採用し、高速かつ、CPUとGPUそれぞれのメモリがデータの一貫性を維持できる様になっています。そのため、CPUやGPUが互いのメモリにアクセス出来る様になっているというのも特徴です。

今回発表された新しいバリアントでは96GB HBM3＠4TB/sから141GB HBM3e＠5TB/sへとアップグレードされます。メモリ速度は、6.4Gbpsから8Gbpsに向上。ここからすると新しいメモリのバス幅は5,120bitほどですかね。メモリ自体の容量も増加するとのことで、新しいバリアントではメモリスタックの数も変わりません。