| 発売日 | 2020年11月16日 |
|---|---|
| デザイン: | アム |
| 製造工程 | |
| 歴史 | |
| 前任者 | AMD ファイアプロ |
| 変異体 | RDNA(消費者、プロフェッショナル) |
CDNA ( Compute DNA ) は、AMDがデータセンター向けに設計したコンピューティング中心のグラフィックス プロセッシング ユニット(GPU)マイクロアーキテクチャです。主にAMD Instinctシリーズのデータセンター グラフィックス カードで使用される CDNA は、 Graphics Core Next (GCN) マイクロアーキテクチャの後継です。もう 1 つの後継は、コンシューマー グラフィックスに重点を置いたマイクロアーキテクチャであるRDNA (Radeon DNA) です。
CDNAの第一世代は2020年3月5日に発表され、[2] 2020年11月16日に発売されたAMD Instinct MI100に搭載されました。[3]これはCDNA 1の唯一の生産製品であり、TSMCのN7 FinFETプロセスで製造されています。
CDNAラインの2番目のイテレーションでは、前身のモノリシックアプローチとは異なるマルチチップモジュール(MCM)アプローチが実装されました。AMD Instinct MI250XとMI250に搭載されたこのMCM設計では、ダイを接続するためにエレベーテッドファンアウトブリッジ(EFB) [4]が使用されました。これら2つの製品は2021年11月8日に発表され、11月11日に発売されました。CDNA 2ラインには、モノリシック設計を使用した後発のMI210も含まれています。[5] MI250XとMI250は、 Open Compute Project (OCP)のOCPアクセラレータモジュール(OAM)ソケットフォームファクタを使用した最初のAMD製品でした。より低ワット数のPCIeバージョンも利用可能です。
CDNA の 3 番目のイテレーションでは、複数のノードで製造されたさまざまなチップレットを利用する MCM 設計に切り替わります。現在 MI300X と MI300A で構成されているこの製品は、15 個の独自のダイを備え、高度な 3D パッケージング技術で接続されています。MI300 シリーズは 2023 年 1 月 5 日に発表され、2023 年後半に発売されました。
1 遺伝子
| 発売日 | 2020年11月16日 |
|---|---|
| 製造工程 | TSMC N7 (フィンFET ) |
| 歴史 | |
| 前任者 | AMD ファイアプロ |
| 後継 | 遺伝子2 |
CDNAファミリは、 Arcturusという 1 つのダイで構成されています。ダイは 750 平方ミリメートルで、256 億個のトランジスタを含み、TSMC の N7 ノードで製造されています。[ 6] Arcturus ダイは 120 個のコンピューティング ユニットと 4096 ビットのメモリ バスを持ち、4 つのHBM2配置に接続されており、ダイに 32 GB のメモリと 1200 GB/s を超えるメモリ帯域幅を提供します。前身と比較して、CDNA はグラフィックス アクセラレーションに関連するすべてのハードウェアを削除しました。削除されたのは、グラフィックス キャッシュ、テッセレーション ハードウェア、レンダリング出力ユニット(ROP)、ディスプレイ エンジンなどです。CDNA は、HEVC、H.264、VP9デコード用のVCNメディア エンジンを保持しています。 [7] CDNA は、 NvidiaのVolta アーキテクチャで追加されたものと同様の専用のマトリックス コンピューティング ハードウェアも追加しました。
建築
120 個のコンピューティング ユニット (CU) は 4 つの非同期コンピューティング エンジン (ACE) に編成され、各 ACE は独自の独立したコマンド実行とディスパッチを維持します。CU レベルでは、CDNA コンピューティング ユニットは GCN ユニットと同様に編成されます。各 CU には 4 つの SIMD16 が含まれており、それぞれが 4 サイクルにわたって 64 スレッドのウェーブフロント (Wave64) を実行します。
メモリシステム
CDNA は HBM のクロックを 20% 向上させ、Vega 20 (GCN 5.0) と比較して約 200 GB/s の帯域幅増加を実現しています。ダイには 4 MB の共有 L2 キャッシュがあり、CU に 1 クロックあたり 2 KB を出力します。CU レベルでは、各 CU に独自の L1 キャッシュ、CU あたり 64 KB のローカル データ ストア (LDS)、およびすべての CU で共有される 4 KB のグローバル データ ストア (GDS) があります。この GDS は、制御データやリダクション操作を保存したり、小さなグローバル共有サーフェスとして機能したりするために使用できます。[7] [8]
実験的なPIM実装
2022年10月、サムスンはMI100のProcessing-In-Memory(PIM)特化バージョンをデモしました。2022年12月、サムスンは96個の改造されたMI100のクラスターを披露し、さまざまなワークロードの処理スループットの大幅な向上と消費電力の大幅な削減を誇っていました。[9]
GCNからの変更点
個々の計算ユニットはGCNと非常によく似ていますが、CUごとに4つの行列ユニットが追加されています。より多くのデータ型のサポートが追加され、BF16、INT8、INT4が追加されました。[7]行列ユニットと新しいデータ型を利用した操作の詳細なリストについては、CDNA ISAリファレンスガイドを参照してください。
製品
- ^ abcd ブースト値(利用可能な場合)は、基本値の下に斜体で記載されます。
- ^ ab精度パフォーマンスは、 FMA操作に基づいてベース (またはブースト) コア クロック速度から計算されます。
- ^ 統合シェーダー :テクスチャ マッピング ユニット :レンダリング出力ユニットと計算ユニット (CU)
- ^テクスチャ フィルレートは、 テクスチャ マッピング ユニットの数にベース (またはブースト) コア クロック速度を掛けて計算されます。
- ^ピクセル フィルレートは、 レンダリング出力ユニットの数にベース (またはブースト) コア クロック速度を掛けて計算されます。
遺伝子2
| 発売日 | 2021年11月8日 |
|---|---|
| 製造工程 | TSMC N6 |
| 歴史 | |
| 前任者 | 1 遺伝子 |
| 後継 | 3 遺伝子 |
CDNAと同様に、CDNA 2もAldebaranという1つのダイで構成されています。このダイは790平方ミリメートルと推定され、TSMCのN6ノードで製造され、280億個のトランジスタが含まれています。[12] Aldebaranダイには112個のコンピューティングユニットのみが含まれており、Arcturusから6.67%減少しています。前世代と同様に、このダイには4096ビットのメモリバスが含まれており、容量が最大64 GBまで倍増したHBM2eを使用しています。CDNA 2の最大の変更点は、2つのダイを同じパッケージに配置できることです。MI250Xは、2つのAldebaranダイ、220個のCU(ダイあたり110個)、および128 GBのHBM2eで構成されています。これらのダイは4つのInfinity Fabricリンクで接続され、ホストシステムによって独立したGPUとしてアドレス指定されます。[13]
建築
112個のCUはCDNAと同様に、4つの非同期計算エンジンに分かれており、各エンジンには前世代の30個のCUではなく28個のCUが搭載されています。CDNAと同様に、各CUには4サイクルにわたって64スレッドのウェーブフロントを実行する4つのSIMD16ユニットが含まれています。4つのマトリックスエンジンとベクターユニットはフルレートFP64のサポートを追加し、前世代に比べて大幅な向上を実現しています。[14] CDNA 2では複数の内部キャッシュも改良され、帯域幅が全体的に2倍になっています。
メモリシステム
CDNA 2のメモリシステムは、全面的に改善されています。HBM2eへの移行から始まり、容量が64 GBに倍増し、帯域幅が約3分の1(約1200 GB/秒から1600 GB/秒)増加しました。[ 13] キャッシュレベル。各GCDには、32のスライスに分割された16ウェイ、8 MBのL2キャッシュがあります。このキャッシュは、クロックあたり4KB、スライスあたりクロックあたり128 Bを出力します。これは、CDNAからの帯域幅の2倍です。[13] さらに、4KBのグローバルデータストアが削除されました。[14] L2とLDSを含むすべてのキャッシュに、FP64データのサポートが追加されました。
相互接続
CDNA 2は、同じパッケージに複数のGPUを搭載した最初の製品です。2つのGPUダイは4つのInfinity Fabricリンクで接続されており、双方向帯域幅の合計は400GB/sです。[14]各ダイには8つのInfinity Fabricリンクが含まれており、それぞれが16レーンのInfinity Linkで物理的に実装されています。AMDプロセッサとペアリングすると、これはInfinity Fabricとして機能します。他のx86プロセッサとペアリングすると、16レーンのPCIe 4.0にフォールバックします。[14]
CDNAからの変更
最大の先行変更は、すべてのコンピューティング要素にわたるフルレート FP64 サポートの追加です。これにより、FP64 マトリックス計算が 4 倍に増加し、FP64 ベクトル計算が大幅に増加します。[13]さらに、' V_PK_FMA_F32 ' や ' V_PK_MUL_F32 'などのオペコードを使用して、パックされた FP32 操作のサポートが追加されました。[15]パックされた FP32 操作により、最大 2 倍のスループットが可能になりますが、コードの変更が必要です。[13] CDNA と同様に、CDNA 2 操作の詳細については、CDNA 2 ISA リファレンス ガイドを参照してください。
製品
3 遺伝子
| 発売日 | 2023年12月6日 |
|---|---|
| 製造工程 | TSMC N5およびN6 |
| 歴史 | |
| 前任者 | 遺伝子2 |
CDNA 3は、以前のモデルとは異なり、 AMDのZen 2、3、4製品ラインと同様に、マルチチップシステムで使用される複数のダイで構成されています。MI300パッケージは比較的大規模で、 5nmで製造された9つのチップレットが4つの6nmチップレットの上に配置されています。[16]これはすべて、8つのHBM配置を使用して128GBのHBM3と組み合わされています。[17]このパッケージには、推定1460億個のトランジスタが含まれています。これは、Instinct MI300XとMI300Aの形で提供され、後者はAPUです。これらの製品は2023年12月6日に発売されました。[18]
製品
製品比較
- ^ abcd ブースト値(利用可能な場合)は、基本値の下に斜体で記載されます。
- ^ ab精度パフォーマンスは、 FMA操作に基づいてベース (またはブースト) コア クロック速度から計算されます。
- ^ 統合シェーダー :テクスチャ マッピング ユニット :レンダリング出力ユニット : AI アクセラレータとコンピューティング ユニット (CU) /ストリーミング マルチプロセッサ (SM)
- ^テクスチャ フィルレートは、 テクスチャ マッピング ユニットの数にベース (またはブースト) コア クロック速度を掛けて計算されます。
- ^ピクセル フィルレートは、 レンダリング出力ユニットの数にベース (またはブースト) コア クロック速度を掛けて計算されます。
参照
参考文献
- ^ スミス、ライアン(2022年6月9日)。「AMD:2023年にCDNA 3とZen 4を組み合わせてMI300データセンターAPUを発売」。AnandTech 。2022年12月20日閲覧。
- ^ ライアン・スミス。「AMDがCDNA GPUアーキテクチャを発表:データセンター専用のGPUアーキテクチャ」。www.anandtech.com 。 2022年9月20日閲覧。
- ^ 「GPUデータベース:AMD Radeon Instinct MI100」。TechPowerUp 。 2022年9月20日閲覧。
- ^ ライアン・スミス。「AMD、Instinct MI200アクセラレータファミリーを発表:サーバーをエクサスケール以上へ」www.anandtech.com 。 2022年9月21日閲覧。
- ^ ライアン・スミス。「AMD、Instinct MI210アクセラレーターをリリース:PCIeカード上のCDNA 2」。www.anandtech.com 。 2022年9月21日閲覧。
- ^ Kennedy, Patrick (2020年11月16日). 「AMD Instinct MI100 32GB CDNA GPUが発売」. ServeTheHome . 2022年9月22日閲覧。
- ^ abc 「AMD CDNA ホワイトペーパー」(PDF) . amd.com . 2020 年 3 月 5 日. 2022 年9 月 22 日閲覧。
- ^ 「「AMD Instinct MI100」命令セットアーキテクチャ、リファレンスガイド」(PDF) . developer.amd.com . 2020年12月14日. 2022年9月22日閲覧。
- ^ Aaron Klotz (2022年12月14日). 「Samsung Soups Up 96 AMD MI100 GPUs With Radical Computational Memory」. Tom's Hardware . 2022年12月23日閲覧。
- ^ 「AMD Instinct MI100 パンフレット」(PDF) . AMD . 2022年12月25日閲覧。
- ^ 「AMD CDNA ホワイトペーパー」(PDF) . AMD . 2022 年12 月 25 日閲覧。
- ^ Anton Shilov (2021年11月17日). 「AMDのInstinct MI250X OAMカードの写真:Aldebaranの巨大なダイが明らかに」. Tom's Hardware . 2022年11月20日閲覧。
- ^ abcde 「Hot Chips 34 – AMDのInstinct MI200アーキテクチャ」。Chips and Cheese。2022年9月18日。 2022年11月10日閲覧。
- ^ abcd 「AMD CDNA™ 2 アーキテクチャーの紹介」(PDF) . AMD.com . 2022年11月20日閲覧。
- ^ 「「AMD Instinct MI200」命令セットアーキテクチャ」(PDF) . developer.amd.com . 2022年2月4日. 2022年10月11日閲覧。
- ^ ライアン・スミス。「CES 2023:AMD Instinct MI300データセンターAPUシリコンが到着 - 146Bトランジスタ、2023年下半期に出荷」。www.anandtech.com 。 2023年1月22日閲覧。
- ^ Paul Alcorn (2023年1月5日). 「AMD Instinct MI300 Data Center APUのクローズアップ写真: 13個のチップレット、1460億個のトランジスタ」. Tom's Hardware . 2023年1月22日閲覧。
- ^ Kennedy, Patrick (2023年12月6日). 「AI時代に向けてAMD Instinct MI300X GPUとMI300A APUが発売」. ServeTheHome . 2024年4月15日閲覧。
- ^ Oh, Nate (2022年12月16日). 「NvidiaがPCIe Tesla V100を正式に発表」. AnandTech .
- ^ 「NVIDIA Tesla V100 PCIe 16GB」。TechPowerUp。
- ^ ライアン・スミス(2022年12月19日)。「Nvidia Voltaが発表」。AnandTech。
- ^ 「NVIDIA Tesla V100 SXM3 32GB」。TechPowerUp。
- ^ Walton, Jarred (2019年1月10日). 「AMD Radeon VIIを実際に使ってみた」. PC Gamer .
- ^ ab 「Next Horizon – David Wang プレゼンテーション」(PDF) . AMD .
- ^ 「AMD Radeon Instinct MI50 アクセラレーター (16GB)」. AMD .
- ^ 「AMD Radeon Instinct MI50 アクセラレーター (32GB)」. AMD .
- ^ 「AMD Radeon Instinct MI50 データシート」(PDF) . AMD .
- ^ 「AMD Radeon Instinct MI50 仕様」。TechPowerUp 。 2022年5月27日閲覧。
- ^ “Radeon Instinct MI60”. AMD . 2018年11月22日時点のオリジナルよりアーカイブ。2022年5月27日閲覧。
- ^ 「AMD Radeon Instinct MI60 データシート」(PDF) . AMD .
- ^ 「AMD Radeon Instinct MI60 仕様」。TechPowerUp 。 2022年5月27日閲覧。
- ^ 「Nvidia A100 Tensor Core GPU アーキテクチャ」(PDF) . Nvidia . 2022 年12 月 12 日閲覧。
- ^ 「Nvidia A100 PCIE 80 GB 仕様」。TechPowerUp 。 2022年12月12日閲覧。
- ^ 「Nvidia A100 Tensor Core GPU アーキテクチャ」(PDF) . Nvidia . 2022 年12 月 12 日閲覧。
- ^ 「Nvidia A100 SXM4 80 GB 仕様」。TechPowerUp 。 2022年12月12日閲覧。
- ^ 「AMD Instinct MI100 パンフレット」(PDF) . AMD . 2022年12月25日閲覧。
- ^ 「AMD CDNA ホワイトペーパー」(PDF) . AMD . 2022 年12 月 25 日閲覧。
外部リンク
- 公式ウェブページ
- AMD CDNA アーキテクチャのホワイトペーパー
- AMD CDNA 2 アーキテクチャのホワイトペーパー
- AMD CDNA 3 アーキテクチャのホワイトペーパー
