AIアクセラレータ市場はNVIDIAが支配しているが、同社が全ての需要を賄えているわけではない。この莫大な需要の波の中、他社もAIアクセラレータの投入を急いでいるが、AMDも「Instinct MI300X」に対する需要が急増しており、NVIDIAだけが享受してきた利益の一部にAMDもありつける可能性について、中国サイトが報じている。

AMDは今後AIアクセラレーター「MI300X」を大量に出荷する事が報じられているが、これは現在のAIチップ市場の7％の供給量にあたるとのことだ。わずか7％ではあるが、昨年のNVIDIAの収益を鑑みれば、それだけでも莫大な収益に繋がる事は想像に難くない。

NVIDIAチップへの需要は引き続き全く供給が追いついていないほど積み上がっているが、全ての企業がこれを購入できるだけの体力があるわけではなく、また昨日発表されたBlackwellによって、更にそのコストは跳ね上がると予想される。

コストパフォーマンスを考えた場合、AMDのMI300Xは実に魅力的な選択肢となり得る。そして、AMDは安定した供給も約束しており、これに対する需要が急増しているとのことだ。以下は、AMD MI300XのNVIDIA H100に対する性能比較である。

• メモリ容量は2.4倍
• メモリ帯域幅は1.6倍
• FP8 TFLOPSは1.3倍
• FP16 TFLOPSは1.3倍
• 1対1比較でH100（Llama 2 70B）より最大20%高速
• 1対1比較でH100（FlashAttention 2）に対して最大20%高速
• サーバーでH100（Llama 2 70B）に対して最大40%高速
• サーバーでH100 (Bloom 176B)に対して最大60%高速化

AMDのMI300Xに関しては、MicrosoftやMetaなどがテストしているとも伝えられている。同社は間もなくMI300Xを大量に出荷する見込みであり、公約通りの性能を提供することに成功すれば、AMDに大きなチャンスが生まれる可能性があるだろう。既に一部の専門家はMI300Xへの移行を検討している事も伝えられている。

Sources

• 快科技
• via Wccftech: AMD To Ship Huge Quantities Of Instinct MI300X Accelerators, Capturing 7% of AI Market