SXM (ソケット)

SXM (Server PCI Express Module) ^[1]は、 Nvidia Compute Accelerator をシステムに接続するための高帯域幅 ソケットソリューションです。P100 モデル以降のNvidia Teslaの各世代、DGX コンピュータシリーズ、HGX ボードには、対応する GPU ドーターカードの高帯域幅、電力供給などを実現する SXM ソケットタイプが付属しています。^[2] Nvidia は、これらの組み合わせをエンドユーザー製品として提供しています (例: DGX システムシリーズのモデル)。現在のソケット世代は、Pascalベースの GPU の場合は SXM、 Voltaベースの GPUの場合は SXM2 と SXM3 、 Ampereベースの GPU の場合は SXM4、Hopperベースの GPU の場合は SXM5 です。これらのソケットは、これらのアクセラレータの特定のモデルに使用され、 PCIe同等品よりもカードあたりのパフォーマンスが高くなります。^[2] DGX-1システムはSXM-2ソケットを搭載した最初のシステムであり、P100 GPUを搭載したフォームファクタ互換のSXMモジュールを搭載した最初のシステムであり、後にV100 GPUを搭載したSXM2モジュールへのアップグレード（または事前装備）が可能であることが発表されました。^{[3] [4]}

SXMボードは通常4つまたは8つのGPUスロットで構築されますが、Nvidia DGX-2などの一部のソリューションでは、複数のボードを接続して高いパフォーマンスを実現します。SXMボード用のサードパーティソリューションも存在しますが、Supermicroなどのほとんどのシステムインテグレーターは、4つまたは8つのソケット構成で提供される、事前に構築されたNvidia HGXボードを使用します。^[5]このソリューションは、SXMベースのGPUサーバーのコストと難易度を大幅に下げ、同じ世代のすべてのボード間で互換性と信頼性を実現します。

例えばHGXボード上のSXMモジュール、特に最近の世代では、GPU間の通信を高速化するためのNVLinkスイッチが搭載されている場合があります。これにより、通常CPUとPCIe内に存在するボトルネックも軽減されます。[ 2 ] [ ^{6 ]}ドーターカード上のGPUは、メインの通信プロトコルとしてNVLinkを使用しています。たとえば、HopperベースのH100 SXM5ベースのGPUは、18個のNVLink 4チャネルで最大900 GB/秒の帯域幅を使用でき、各チャネルは50 GB/秒の帯域幅を提供します。 ^[7]これは、x16スロット内で最大64 GB/秒の帯域幅を処理できるPCIe 5.0と比較したものです。^[8]この高帯域幅は、GPUがNVLinkバスを介してメモリを共有できることも意味し、HGXボード全体をホストシステムに単一の大規模なGPUとして表示できます。^[9]

電力供給もSXMソケットによって行われるため、PCIe相当のカードで必要な外部電源ケーブルは不要です。これと水平マウントを組み合わせることで、より効率的な冷却オプションが可能になり、SXMベースのGPUはより高いTDPで動作できるようになります。たとえば、HopperベースのH100は、SXMソケットからのみ最大700Wを引き出すことができます。^[10]ケーブルがないため、大規模システムの組み立てと修理がはるかに簡単になり、障害が発生する可能性も減ります。^[2]

初期のNvidia Tegra自動車向け評価ボード「Drive PX2」には、カードの両側に 2 つのMXM (モバイル PCI Express モジュール) ソケットがありました。このデュアル MXM 設計は、SXM ソケットの Nvidia Tesla 実装の前身と考えることができます。

DGXで使用されるアクセラレータの比較: ^{[11] [12] [13]}

• コンピュータ ノードあたり 4 台および 8 台の A100 を使用した高性能コンピューティングに関する Erlangen National High Performance Computing Center のページ。スイッチ トポロジ ダンプも表示されます。