錦です。
NVIDIAはHot Chipsにて、同社の新GPUアーキテクチャ「Hopper」とCPU「Grace」についてこれまでに発表されているものから更に踏み込まれた情報を明らかにしました。
Grace
まずはGraceから見ていきます。GraceはArmのHPC向けアーキテクチャ「Neoverse」を基に開発されたコアを144コア搭載していることが明らかになっています。
メモリにはLPDDR5Xを使用することがすでに明らかにされています。帯域は1TB/sを以上となっており、またLPDDRを採用することによってコンプレックス全体の消費電力を500Wに抑えることができているともしています。
NVLink C2C
今回の発表で最も注目すべきなのが「NVLink C2C」です。これはチップレット間を結ぶ新しいリンクです。当記事のタイトルでCPU・GPU間と表現しましたが、実際にはチップレット間なのでGPU・CPU・DPU・SoCの通信に利用することが可能となっています。
NVLink C2CはPCIe Gen 5の7倍以上の帯域である900GB/sで通信します。これはAMDのInfinity Fabricよりも大幅に高速です。NVLinkはインターコネクトでArmで使用されるAMBA CHIプロトコルとx86で使用されているCXLプロトコルをサポートしており、どうやら他社製品を組み合わせることができるようになっているようです。
そして、NVLink C2Cのスイッチを担うのがNVSwitchです。NVSwitchでは、最大32台のDGX H100システムをAIスパコンにリンクすることができ、AI性能においてエクサフロップス性能を発揮できます。
Hopper
最後にGPU「Hopper」こと「NVIDIA H100 Tensor Core GPU」についても発表を行いました。
Hopperでは、Tranceformer Engineと新型Tensorコアでは、世界最大のニューラルネットワークモデルによるAI推論が全世代と比較して30倍も高速になります。
メモリには世界で初めてHBM3を採用し、3TB/sのメモリ帯域幅をもっているとのことです。
また、マルチテナント、マルチユーザー構成の仮想化のサポートが追加されるほか、選択マッピング・DNA、タンパク質分析においての反復ループを高速化させるDPX命令のサポート、セキュリティ強化などが発表されました。
