高度なベクター拡張機能

アドバンスト・ベクター・エクステンション（AVX 、 Gesher New Instructions、その後Sandy Bridge New Instructionsとも呼ばれる）は、IntelとAdvanced Micro Devices （AMD）のマイクロプロセッサ向けx86命令セットアーキテクチャのSIMD拡張機能です。2008年3月にIntelによって提案され、 2011年第1四半期に出荷されたSandy Bridge ^{[ 1 ]}マイクロアーキテクチャでIntelが最初にサポートし、その後2011年第4四半期に出荷されたBulldozer ^{[ 2 ]}マイクロアーキテクチャでAMDがサポートしました。AVXは、新しい機能、新しい命令、新しいコーディング方式を提供します。

AVX2（Haswell New Instructionsとも呼ばれる）は、ほとんどの整数命令を256ビットに拡張し、新しい命令を導入する。これらは、2013年に出荷されたIntelのHaswellマイクロアーキテクチャで初めてサポートされた。

AVX-512は、 2013年7月にIntelが提案し、 2016年に出荷されたKnights Landingコプロセッサで初めてIntelがサポートした新しいEVEXプレフィックスエンコーディングを使用して、AVXを512ビットサポートに拡張します。 ^{[ 3 ] [ 4 ]}従来のプロセッサでは、AVX-512は2017年にSkylakeサーバーおよびHEDTプロセッサで導入されました。

AVXは16個のYMMレジスタを使用して、複数のデータに対して単一の命令を実行します（SIMDを参照）。各YMMレジスタは、以下のデータを保持し、同時演算（数学演算）を実行できます。

• 8 つの 32 ビット単精度浮動小数点数または
• 64ビット倍精度浮動小数点数が4つ。

SIMDレジスタの幅が128ビットから256ビットに拡張され、レジスタ名もXMM0～XMM7からYMM0～YMM7に変更されました（x86-64モードでは、XMM0～XMM15からYMM0～YMM15に変更）。従来のSSE命令は、VEXプレフィックスを介して引き続き使用でき、YMMレジスタの下位128ビットを操作できます。

AVX では、宛先レジスタが 2 つのソース オペランドとは異なるVEX コーディング スキームと呼ばれる 3 つのオペランド SIMD 命令フォーマットが導入されました。たとえば、従来の 2 つのオペランド形式a ← a + bを使用するSSE命令は、ソース オペランドの両方を保持したまま、非破壊的な 3 つのオペランド形式c ← a + bを使用できるようになりました。当初、AVX の 3 つのオペランド フォーマットは SIMD オペランド (YMM) を持つ命令に限定されており、汎用レジスタ (EAX など) を持つ命令は含まれていませんでした。その後、BMIなどの後の拡張機能で、汎用レジスタに対する新しい命令をコーディングするために使用されました。VEX コーディングは、 AVX-512で導入された k0-k7 マスク レジスタを操作する命令にも使用されます。

SIMD メモリ オペランドのアライメント要件は緩和されています。[ 5 ^{] VEXで}コード化されていないものとは異なり、ほとんどの VEX コードのベクトル命令では、メモリ オペランドがベクトル サイズにアライメントされている必要はありません。注目すべきは、このVMOVDQA命令では依然としてメモリ オペランドがアライメントされている必要があることです。

新しいVEX コーディング方式では、オペコード空間を拡張し、命令が 2 つ以上のオペランドを持つことを可能にし、SIMD ベクトルレジスタを 128 ビットより長くすることを可能にする新しいコード接頭辞セットが導入されます。VEX 接頭辞は、従来の SSE 命令にも使用でき、3 つのオペランド形式にして、VZEROUPPERおよびを必要とせずに AVX 命令とより効率的にやり取りできるようにしますVZEROALL。

AVX命令は128ビットと256ビットの両方のSIMDをサポートしています。128ビット版は、ベクトル化を広げることなく古いコードを改善し、SSEからAVXへの移行に伴うペナルティを回避するのに役立ちます。また、初期のAMD AVX実装では高速です。このモードはAVX-128と呼ばれることもあります。^{[ 6 ]}

SSEシリーズと比較して、AVXはデジタルメディア再生、ウェブブラウジング、非対称暗号化などのパフォーマンスをさらに向上させた。

Advanced Vector Extensions 2 (AVX2) は、 Haswell New Instructionsとも呼ばれ、^{[ 25 ]} Intel のHaswell マイクロアーキテクチャで導入された AVX 命令セットの拡張です。AVX2 では、以下の機能が追加されています。

• ほとんどのベクトル整数SSEおよびAVX命令が256ビットに拡張される
• 非連続メモリ位置からベクトル要素をロードできるようにするためのサポートを集める
• DWORDおよびQWORD粒度の任意の組み合わせ
• ベクトルシフト。

3オペランド積和演算（FMA3）拡張機能は、Intelが同じプロセッサマイクロアーキテクチャで導入したため、AVX2の一部とみなされることがあります。しかし、これは独自のCPUIDフラグを使用する独立した拡張機能であり、その詳細は別のページに記載されています（以下では説明しません）。

AVX-512は、 2013年7月にインテルが提案したx86命令セットアーキテクチャ用の256ビットAdvanced Vector Extensions SIMD命令の512ビット拡張です。^{[ 3 ]}

AVX-512命令は、新しいEVEXプレフィックスでエンコードされます。これにより、4つのオペランド、8つの新しい64ビットopmaskレジスタ、自動ブロードキャスト付きスカラーメモリモード、明示的な丸め制御、および圧縮変位メモリアドレッシングモードが可能になります。レジスタファイルの幅は512ビットに拡張され、x86-64モードではレジスタの総数が32（レジスタZMM0～ZMM31）に増加します。

AVX-512は複数の命令サブセットで構成されており、それらすべてが実装するすべてのプロセッサでサポートされるとは限りません。命令セットは以下のとおりです。

• AVX-512 Foundation (F) –いくつかの新しい命令を追加し、32ビットおよび64ビット浮動小数点SSE-SSE4.1およびAVX/AVX2命令のほとんどをEVEXコーディング方式で拡張し、512ビットレジスタ、演算マスク、パラメータブロードキャスト、組み込み丸めおよび例外制御をサポートします。 
• AVX-512競合検出命令（CD）-より多くのループをベクトル化できるようにするための効率的な競合検出、Knights Landing ^{[ 3 ]でサポートされています。} 
• AVX-512 指数および逆数命令 (ER) –超越演算の実装を支援するために設計された指数および逆数演算、Knights Landing ^{[ 3 ]によってサポートされています。} 
• AVX-512 プリフェッチ命令 (PF) – Knights Landing ^{[ 3 ]}でサポートされる新しいプリフェッチ機能 
• AVX-512 ベクトル長拡張 (VL) –ほとんどの AVX-512 操作を XMM (128 ビット) および YMM (256 ビット) レジスタ (x86-64 モードの XMM16-XMM31 および YMM16-YMM31 を含む) でも操作できるように拡張します^{[ 26 ]} 
• AVX-512 バイトおよびワード命令 (BW) – AVX-512 を拡張して 8 ビットおよび 16 ビットの整数演算をカバーする^{[ 26 ]} 
• AVX-512 ダブルワードおよびクワッドワード命令 (DQ) –拡張された 32 ビットおよび 64 ビット整数演算^{[ 26 ]} 
• AVX-512整数融合乗算加算（IFMA）– 512ビット整数の融合乗算加算。^{[ 27 ]： 746} 
• AVX-512 ベクトルバイト操作命令 (VBMI) は、AVX-512BW には存在しないベクトルバイト順列命令を追加します。
• AVX-512 ベクトルニューラルネットワーク命令 ワード可変精度 (4VNNIW) –ディープラーニング用のベクトル命令。 
• AVX-512 融合乗算累積パック単精度 (4FMAPS) –ディープラーニング向けベクトル命令。 
• VPOPCNTDQ –ビット数が 1 に設定されている。^{[ 28 ]} 
• VPCLMULQDQ –クワッドワードのキャリーなし乗算。^{[ 28 ]} 
• AVX-512 ベクトルニューラルネットワーク命令 (VNNI) –ディープラーニングのためのベクトル命令。^{[ 28 ]} 
• AVX-512 ガロア体新命令 (GFNI) –ガロア体を計算するためのベクトル命令。^{[ 28 ]} 
• AVX-512 ベクトルAES命令（VAES）– AES符号化のためのベクトル命令。^{[ 28 ]} 
• AVX-512 ベクトルバイト操作命令 2 (VBMI2) –バイト/ワードのロード、ストア、シフト付き連結。^{[ 28 ]} 
• AVX-512 ビット アルゴリズム (BITALG) – VPOPCNTDQ を拡張したバイト/ワードビット操作命令。^{[ 28 ]} 
• AVX-512 Bfloat16浮動小数点命令（BF16）– AI高速化のためのベクトル命令。 
• AVX-512半精度浮動小数点命令 (FP16) –精度を下げて浮動小数点数および複素数を操作するためのベクトル命令。 
• AVX-512ビット操作命令（BMM）–ビット行列乗算およびビット反転命令。 

すべての実装で必須となるのはコア拡張機能AVX-512F（AVX-512 Foundation）のみですが、現在のすべての実装はCD（競合検出）もサポートしています。AVX-512を搭載したすべての中央処理装置は、VL、DQ、BWもサポートしています。ER、PF、4VNNIW、4FMAPS命令セット拡張機能は、現在Intelコンピューティングコプロセッサでのみ実装されています。

AVX-512Fで更新されたSSE/AVX命令は、AVXバージョンと同じニーモニックを使用します。512ビットZMMレジスタで動作でき、128/256ビットXMM/YMMレジスタ（AVX-512VL使用時）およびバイト、ワード、ダブルワード、クワッドワードの整数オペランド（AVX-512BW/DQおよびVBMI使用時）もサポートします。^{[ 27 ]： 23}

販売終了となったサブセットは以下のとおりです。

• AVX-512 ベクトルペアの交差とマスクレジスタのペア (VP2INTERSECT) –ダブルワード/クワッドワードとマスクレジスタのペアの交差を計算します。Intelではサポートが終了していますが、AMD では引き続きサポートされています。 
• Xeon Phi ER、PF、4FMAPS、4VNNIW。

AVX-VNNIは、AVX512-VNNI命令セット拡張のVEX符号化バリアントです。同様に、AVX-IFMAはAVX512-IFMAのVEX符号化バリアントです。これらの拡張機能は、対応するAVX-512と同じ演算セットを提供しますが、256ビットベクトルに制限されており、ブロードキャスト、opmaskレジスタ、16を超えるベクトルレジスタへのアクセスなど、 EVEX符号化の追加機能はサポートしていません。これらの拡張機能により、プロセッサにAVX-512が実装されていない場合でも、VNNIおよびIFMA演算をサポートできます。

AVX-NE-CONVERTは、 Bfloat16（BF16）、半精度（FP16）、単精度（FP32）の浮動小数点数間の変換を行うための命令セットを導入します。これらの新しい命令はVEXコードで記述されているため、AVX2ベクトルレジスタに限定され、AVX-512のopmaskサポートは利用できません。ブロードキャストは、メモリから数値をロードするための2つの特殊命令によってのみサポートされ、命令エンコーディング機能としてはサポートされていません。

これらの命令セットは、一連の命令に対してより多くの入力データ型の組み合わせをサポートすることで、AVX-VNNI拡張機能をさらに拡張します。AVX -VNNIの命令では、最初の入力オペランドとして符号なしバイトのベクトル、2番目の入力オペランドとして符号付きバイトのベクトルを受け取りますが、AVX-VNNI-INT8では、任意の位置で符号付きおよび符号なしバイト入力をサポートするこれらの命令のバリアントが追加されます。同様に、AVX- VNNIでは、入力オペランドとして2つの符号付き16ビットワードのベクトルを受け取りますが、AVX-VNNI-INT16では、任意の位置で符号付きおよび符号なし16ビットワード入力のサポートが追加されます。VPDP*VPDPBUSD(S)VPDPWSSD(S)

符号付き入力と符号なし入力の両方を受け入れる命令については、入力の順序（符号付き/符号なし、符号なし/符号付き）に応じて異なる命令が用意されています。これは、 VEXエンコーディングでは2番目の入力オペランドのみがメモリオペランドとしてサポートされているためです。これにより、サポートされている任意のデータ型を命令によってメモリからロードできます。

2023 年 7 月に発表された AVX10 ^{[ 40 ]}は、新しい「統合型」 AVX 命令セットです。AVX-512 のいくつかの問題、特に分割が多すぎるという問題^{[ 41 ]} (20 個の機能フラグ) に対処しています。最初の技術文書では 512 ビットベクトルのサポートはオプションでしたが、改訂 3.0 以降ではベクトル長の列挙が削除され、512 ビットベクトルは必須になりました。^{[ 42 ]}

AVX10 は、命令サポートをテストするための簡略化された CPUID インターフェイスを提供します。これは、AVX10 バージョン番号 (サポートされている命令セットを示し、後のバージョンは常に以前のバージョンのスーパーセットです) で構成されます。^{[ 43 ]}例えば、AVX10.2 は、CPU が AVX10 の 2 番目のバージョンに対応していることを示します。^{[ 44 ]} AVX10 技術仕様の初期改訂では、ISA 拡張名の一部としてサポートされる最大ベクトル長も含まれていました。たとえば、AVX10.2/256 は、ベクトル長が最大 256 ビットの AVX10 の 2 番目のバージョンを意味しますが、後の改訂では不要になりました。

AVX10 の最初のバージョンである AVX10.1 では、 AVX-512 に既に含まれていた命令やエンコード機能 (具体的には Intel Sapphire RapidsではAVX-512F、CD、VL、DQ、BW、IFMA、VBMI、VBMI2、BITALG、VNNI、GFNI、VPOPCNTDQ、VPCLMULQDQ、VAES、BF16、FP16) を超える命令やエンコード機能は導入されていません。AVX10 と 512 ビット ベクトルをサポートする CPU では、AVX-512 をサポートするアプリケーションが AVX-512 命令を引き続き使用できるように、従来の AVX-512 機能フラグはすべて設定されたままになります。^{[ 44 ]}

AVX10.1はIntel Granite Rapids ^{[ 44 ]} (2024年第3四半期)で初めてリリースされ、AVX10.2はDiamond Rapids ^{[ 45 ]}とNova Lake ^{[ 46 ]}で利用可能になる予定です。

• マルチメディア、科学、金融アプリケーションにおける浮動小数点演算を多用する計算に適しています（AVX2は整数演算のサポートを追加します）。
• 浮動小数点SIMD計算における並列処理能力とスループットを向上させます。
• 非破壊命令を使用することで、レジスタ負荷を軽減します。
• Linux RAIDソフトウェアのパフォーマンスを向上させます（AVX2が必要で、AVXでは不十分です）^{[ 47 ]}

AVX命令は命令サイズが大きいため、消費電力と発熱量が多くなります。高クロック周波数で負荷の高いAVX命令を実行すると、負荷変動時の電圧降下が大きくなり、CPUの安定性に影響を与える可能性があります。一部のIntelプロセッサには、このような命令の実行時にターボブースト周波数の上限を下げる機能が備わっています。この周波数低下は、CPUが熱的および消費電力の上限に達していない場合でも発生します。

Skylakeとその派生製品では、スロットリングは3つのレベルに分けられます。^{[ 68 ] [ 69 ]}

• L0 (100%): 通常のターボブースト制限値。
• L1（約85%）：AVXブーストの上限。256ビットの「ヘビー」（浮動小数点演算ユニット：浮動小数点演算と整数乗算）命令によってソフトトリガーされ、512ビットの「ライト」（その他すべて）命令によってハードトリガーされる。
• L2（約60%）：AVX-512ブーストの上限。512ビットの重い命令によってソフトトリガーされる。

周波数遷移は、ソフト遷移またはハード遷移のいずれかになります。ハード遷移とは、そのような命令が検出されるとすぐに周波数が低下することを意味します。ソフト遷移とは、一致する命令のしきい値数に達した後にのみ周波数が低下することを意味します。制限はスレッドごとです。^{[ 68 ]}

アイスレイクでは、2つのレベルのみが残っています。^{[ 70 ]}

• L0 (100%): 通常のターボブースト制限値。
• L1（約97％）：512ビット命令によってトリガーされますが、シングルコアブーストが有効な場合のみトリガーされ、マルチコアがロードされている場合はトリガーされません。

Rocket Lakeプロセッサは、ベクトルサイズに関係なく、いかなる種類のベクトル命令を実行しても周波数低下を引き起こしません。^{[ 70 ]}ただし、熱や電力の制限に達するなど、他の理由でクロックダウンが発生する場合があります。

クロックダウンとは、Intel プロセッサで混合ワークロードにおいて AVX を使用すると、周波数の低下を招く可能性があることを意味します。このような場合、幅の広い重い命令の使用を避けることで、その影響を最小限に抑えることができます。AVX-512VL では、AVX-512 命令で 256 ビットまたは 128 ビットのオペランドを使用できるため、混合負荷のデフォルトとして適切です。^{[ 71 ]}

クロックダウンをサポートするロック解除済みのプロセッサでは、クロック比低下オフセット（通常はAVXおよびAVX-512オフセットと呼ばれる）は調整可能であり、Intelのオーバークロック/チューニングユーティリティまたはBIOS（サポートされている場合）で完全にオフ（0xに設定）にすることができます。^{[ 72 ]}

• F16C命令セット拡張
• メモリ保護拡張機能
• ARM 用スケーラブル ベクトル拡張- AVX-512 に類似した新しいベクトル命令セット ( VFPおよびNEONを補完するもの) で、いくつかの追加機能があります。
• APXアドバンストパフォーマンス拡張機能

• Intel Intrinsics ガイド
• x86アセンブリ言語リファレンスマニュアル