錦です。
VideoCardzによると、スーパーコンピューターを設計するPawseyのCTOであるUgo Varetto氏がISC 2021で次期スーパーコンピューターに750以上の次世代AMD MI GPUを搭載することを明らかにし、1つのGPUあたり128GB のメモリを搭載することが明らかになりました。
Setonix
そのスパコンの名前はSetonixといい、20万を超えるMilan CPUコア(Zen 3 EPYC)と750以上の「AMD Mi-NextGPUs」を搭載しているとのこと。その他にも528TBを超えるシステムメモリや15PBを超えるSSDなど、仕様をざっと見た限り、かなりえげつない仕様のスパコンであることがわかります。
今回の話で重要なのが、1つのGPUあたり128GBになるということです。それ以外の話は省略します。
「AMD Mi-NextGPUs」とは「AMD Instinct MI200」のことを指しています。CDNA 2をベースにした研究向けのGPUとなっており、現行のMI100の後継です。
メモリと詳細な仕様
メモリは今回の情報で1基あたり128GBであることがわかりましたが、既にメモリ規格はHBM2eになることがわかっています。
A high level diagram for AMD's upcoming CDNA2/Aldebaran product MI200.
— Locuza (@Locuza_) 2021年7月1日
Physically it's a hefty scaling, from 64 CUs on Vega20 to 128 on CDNA1 to now 2x128 on MI200(CDNA2).
Total interface width doubles from 4096b HBM2 to 8192b HBM2e.
Capacity quadruples from 32GB to 128GB. pic.twitter.com/a95o2JbYux
Locuza氏がTwitterに公開したブロック図によると、128GB HBM2eメモリのメモリインターフェイスは8192bitとなっているそうで、MI100の32GB HBM2から容量が4倍、メモリインターフェイスが2倍となっています。メモリスタックは合計8つ搭載され、それぞれに16GBの容量があります。
スケーリングについては、64CUから128CUx2の256CUまでとなっているとのことです。MI200はマルチチップレット構成を採っており、1チップレットあたり16CUx8で128CU、それが最大2チップレットあるということなので最大256CUになるということのようです。ただし、有効化されるCU数はまだ明らかではありません。
競合はA100
競合となるのはNVIDIA A100であることには間違いなく、あちらは80GBのHBM2eメモリを搭載しています。vRAM的には有利なんですが、どうなんでしょうか。
今後の情報に期待です。