Microsoftは、Ignite 2023にて、同社のクラウドサービスであるMicrosoft Azureに向けて「Maia 100」という毒にAIアクセラレータと、Armベースの「Cobalt 100」を発表しました。

市場状況

現在、半導体ファブ企業の増加やArmの効率性の高さや、世界的な半導体不足、一部に特化したアクセラレータの需要が高まっていることなどなどから、様々なVPSやクラウドサービス、IaaS/PaaSなどは機械学習は、他社製チップから社内設計のものを提供する動きがあります。例えば、AWSは、ArmのNeoverseをベースとした「Graviton」、Googleの「TPU」、Oracleの「Ampere」など、IntelやAMD製のプロセッサ以外を採用する動きがあります。

Microsoftもこの動きにもれず動いていたようです。

MicrosoftはGPTを提供しているOpenAIと提携しており、CopilotやBingAIの他、AzureのサービスにもOpenAIを組み込んだものを提供しています。その中でMicrosoftはサーバー向けに、よりAIに特化した2種類のチップを発表しました。

Maia

Maiaブランドは、プロセッサではなくAIアクセラレータです。その最初の製品となるのは「Maia 100」です。

Tom's Hardwareによると、Maia 100と後述する「Cobalt 100」は最新のTSMCプロセスノードで製造されているとMicrosoftが話しており、The Vergeによると5nmであるとのことです。

The Vergeによると、トランジスタ数は1050億基。非常に大規模なチップであることがわかります。Microsoftは、Maia 100の冷却に水冷を使うことを表明しています。

なお、MicrosoftはMaia 100をGPUと表現しており、おそらく感覚的にはNVIDIA H100のようなものになるのでしょうか（PC WatchはTPUやASICのようなものと指摘している）。

具体的な仕様については明かされていませんが、Maia 100搭載サーバーは、アクセラレータごとに4.8 Tbitの帯域を備えた完全にカスタムされたイーサネットベースのネットワークプロトコルで設計されており、より優れたスケーリングとE2Eのワークロードパフォーマンスを可能にするとしているようです。

Maia 100は、OpenAIからのフィードバックを受けて開発したとしており、大規模な言語モデル向けに設計されているとしています。現時点で、GPT 3.5 Turboを使ってMaia 100がテストされているそうです。OpenAIの各モデルはNVIDIA製GPUによってトレーニングされていますが、今後はMicrosoft製チップも活用されていくようになるのでしょうか。