非正規数

コンピュータサイエンスにおいて、非正規数は、浮動小数点演算でゼロ付近のアンダーフローギャップを埋める非正規化数（非正規数と呼ばれることもある）のサブセットです。最小の正の正規数よりも小さい絶対値を持つ非ゼロの数は非正規数ですが、非正規数はその範囲外の数を指す場合もあります。

古い文書の中には (特にIEEE 754やC 言語の初期リリースなどの標準文書)、「非正規化」は非正規数のみを指すために使用されています。この用法は、他の非正規化数を表現できないハードウェアについて説明するときに特にさまざまな標準文書で使用されていますが、ここでの説明では、IEEE 754の 2008 年改訂版に従って「非正規化」という用語を使用しています。日常的な議論では、非正規化と非正規化という用語は、非正規化範囲外の非正規化 IEEE 2 進数 が存在しないという理由もあって、同じ意味で使用されていることがよくあります。

「数値」という用語は、数学的な抽象概念ではなく、特定の数字のシーケンスを説明するために、かなり緩く使用されています。実数と浮動小数点表現の関係の詳細については、「浮動小数点」を参照してください。明確さが必要な場合は、「数値」ではなく「表現」が使用されることがあります。

数学的な実数は、複数の浮動小数点表現によって近似できます。 1 つの表現は正規表現として定義され、他の表現は正規表現との関係によって、非正規表現、非正規表現、非正規表現として定義されます。

通常の浮動小数点値では、仮数部(一般に仮数部とも呼ばれる)の先頭にゼロはありません。むしろ、指数を調整することで先頭のゼロが削除されます (たとえば、数値 0.0123 は1.23 × 10 ⁻²と表記されます)。逆に、非正規化浮動小数点値では、仮数の先頭桁がゼロになります。これらのうち、非正規数は、正規化されると最小の表現可能な指数 (範囲が制限されている指数) を下回る指数を持つ値を表します。

IEEE 浮動小数点数の仮数部 (または仮数部) は、浮動小数点数のうち有効桁を表す部分です。正の正規化数の場合、 m 0 が 0 以外の場合、 m 0 . m 1 m 2 m 3 ... m p −2 m p −1 (m は有効桁、p は精度) として表すことができます。2進_基数の場合_、先頭_の2_進桁は常に_1である_ことに注意してください。非_正規数の場合、指数は最小値であるため、先頭の有効桁は 0 (0. m ₁ m ₂ m ₃ ... m _{p −2} m _{p −1} ) となり、最小の正規数よりも 0 に近い数値を表現できます。浮動小数点数は、指数が最小値である場合は常に非正規数として認識されます。

このようにアンダーフローギャップを埋めると、有効桁が失われますが、アンダーフロー時にゼロにフラッシュするアプローチ（アンダーフローに達したときにすべての有効桁を破棄する）を使用する場合ほど急激ではありません。したがって、非正規数の生成は、結果が小さいときに計算の精度が徐々に失われることを可能にするため、 段階的アンダーフローと呼ばれることがあります。

IEEE 754-2008では、非正規数は非正規数と名前が変更され、2 進数と 10 進数の両方の形式でサポートされています。2 進交換形式では、非正規数はバイアス指数0 でエンコードされますが、最小許容指数の値、つまり 1 大きい値 (つまり、1 としてエンコードされているかのように) で解釈されます。10 進交換形式では、形式が非正規化数を直接サポートするため、特別なエンコードは必要ありません。

数学的に言えば、特定の符号の正規化された浮動小数点数は、ほぼ対数的に間隔が空けられており、そのため、有限サイズの通常の浮動小数点数にはゼロを含めることはできません。非正規浮動小数点数は、負の通常の浮動小数点数と正の通常の浮動小数点数の間のギャップにまたがる、線形間隔の値のセットです。

非正規数は、浮動小数点数の加算と減算が決してアンダーフローしないことを保証します。つまり、2 つの近接した浮動小数点数は常に表現可能な非ゼロの差を持ちます。段階的アンダーフローがなければ、減算a  −  bはアンダーフローし、値が等しくない場合でもゼロを生成します。これは、段階的アンダーフローが使用されている場合には発生しないゼロ除算エラーにつながる可能性があります。^[1]

IEEE 754 標準が書かれていた頃、Intel 8087に非正規数が実装されました。これらは最終的に採用されたKCS フォーマット提案の中で群を抜いて最も議論を呼んだ機能でしたが^{[2] 、この実装は非正規数が実用的な実装でサポートできることを示しました。}浮動小数点ユニットの実装の中には、非正規数をハードウェアで直接サポートせず、何らかのソフトウェア サポートに依存しているものもあります。これはユーザーには透過的かもしれませんが、非正規数を生成または消費する計算が、通常の数の同様の計算よりもはるかに遅くなる可能性があります。

IEEE2進浮動小数点形式では、非正規数はゼロ指数フィールドとゼロ以外の仮数フィールドを持つことで表現されます。^[3]

IEEE 2 進浮動小数点形式には他の非正規化数は存在しませんが、IEEE 10 進浮動小数点形式を含む他のいくつかの形式には存在します 。

一部のシステムでは、ハードウェアで非正規値を通常の値と同じように処理します。その他のシステムでは、非正規値の処理をシステム ソフトウェア (「アシスト」) に任せ、通常の値とゼロのみをハードウェアで処理します。非正規値をソフトウェアで処理すると、常にパフォーマンスが大幅に低下します。非正規値がすべてハードウェアで計算される場合、通常の数値と同等の速度で処理できるようにする実装手法があります。^[4]ただし、多くの最新の x86 プロセッサでは計算速度が大幅に低下したままです。極端な場合、非正規オペランドを含む命令には 100 クロック サイクルも追加でかかることがあり、最も高速な命令でも 6 倍も遅くなります。^{[5] [6]}

この速度差はセキュリティリスクとなる可能性があります。研究者は、この差がタイミングサイドチャネルを提供し、悪意のあるウェブサイトがウェブブラウザ内で別のサイトからページコンテンツを抽出できるようにすることを示しました。^[7]

アプリケーションによっては、精度を維持するため、または一部のプロセッサでパフォーマンスの低下を回避するために、非正規数を回避するコードを含める必要がある場合があります。たとえば、オーディオ処理アプリケーションでは、非正規値は通常、人間の可聴範囲を超えるほど静かな信号を表します。このため、パフォーマンスの低下が発生するプロセッサで非正規値を回避する一般的な方法は、信号が非正規レベルに達したらゼロにカットするか、非常に静かなノイズ信号をミックスすることです。^[8]非正規数を防ぐ他の方法としては、DC オフセットの追加、数値の量子化、ナイキスト信号の追加などがあります。^[9] SSE2プロセッサ拡張以降、Intel はCPU ハードウェアで非正規数をゼロに丸める機能を提供しています。^[10]

Intel の C および Fortran コンパイラは、最適化レベルが より高い場合、デフォルトでSSEのDAZ(denormals-are-zero) フラグと(flush-to-zero) フラグを有効にします。^[11]の効果は、浮動小数点演算に対する非正規数入力引数をゼロとして扱うことであり、 の効果は、入力引数自体が非正規数でなくても、非正規数浮動小数点になる演算に対して非正規数浮動小数点ではなくゼロを返すことです。clangとgcc は、プラットフォームと最適化レベルに応じてデフォルトの状態が異なります。 FTZ-O0DAZFTZ

SSEをサポートするターゲットでフラグとフラグを有効にする非C99準拠の方法を以下に示すが、広くサポートされているわけではない。少なくとも2006年以降、Mac OS Xで動作することが知られている。^[12]DAZFTZ

#include <fenv.h> #pragma STDC FENV_ACCESS ON // DAZ と FTZ を設定し、他の CSR 設定を上書きします。// https://opensource.apple.com/source/Libm/Libm-287.1/Source/Intel/、fenv.c、および fenv.h を参照してください。fesetenv ( FE_DFL_DISABLE_SSE_DENORMS_ENV ); // fesetenv(FE_DFL_ENV) // 両方を無効にし、他の CSR 設定を上書きします。 

Cライブラリがまだこのフラグを実装していない他のx86-SSEプラットフォームでは、以下が機能する可能性があります。^[13]

#include <xmmintrin.h> _mm_setcsr ( _mm_getcsr ( ) | 0x0040 ) ; // DAZ _mm_setcsr ( _mm_getcsr () | 0x8000 ) ; // FTZ _mm_setcsr ( _mm_getcsr () | 0x8040 ); // 両方_mm_setcsr ( _mm_getcsr () & ~ 0x8040 ); // 両方を無効にする 
    
    
    
   

およびマクロは_MM_SET_DENORMALS_ZERO_MODE、_MM_SET_FLUSH_ZERO_MODE上記のコードのより読みやすいインターフェースをラップします。^[14]

// DAZ を有効にするには
#include <pmmintrin.h> _MM_SET_DENORMALS_ZERO_MODE ( _MM_DENORMALS_ZERO_ON ); // FTZ を有効にするには#include <xmmintrin.h> _MM_SET_FLUSH_ZERO_MODE ( _MM_FLUSH_ZERO_ON ); 


 

ほとんどのコンパイラはデフォルトで前述のマクロを提供していますが、そうでない場合は次のコード スニペットを使用できます (FTZ の定義も同様です)。

#define _MM_DENORMALS_ZERO_MASK 0x0040 
#define _MM_DENORMALS_ZERO_ON 0x0040 
#define _MM_DENORMALS_ZERO_OFF 0x0000

#define _MM_SET_DENORMALS_ZERO_MODE(mode) _mm_setcsr((_mm_getcsr() & ~_MM_DENORMALS_ZERO_MASK) | (mode)) 
#define _MM_GET_DENORMALS_ZERO_MODE() (_mm_getcsr() & _MM_DENORMALS_ZERO_MASK)

デフォルトの非正規化動作はABIによって義務付けられているため、適切に動作するソフトウェアは、呼び出し元に戻る前、または他のライブラリのコードを呼び出す前に、非正規化モードを保存して復元する必要があります。

AArch32 NEON (SIMD) FPUは常にフラッシュ・ツー・ゼロ・モード^[要出典]を使用します。これはと同じです。スカラーFPUとAArch64 SIMDでは、フラッシュ・ツー・ゼロの動作はオプションであり、制御レジスタのビット（Arm32ではFPSCR、AArch64ではFPCR）FTZ + DAZによって制御されます。 ^[15]FZ

これを行う 1 つの方法は次のとおりです。

#if defined(__arm64__) || defined(__aarch64__) 
uint64_t fpcr ; asm ( "mrs %0, fpcr" : "=r" ( fpcr )); //FPCR レジスタをロードasm ( "msr fpcr, %0" :: "r" ( fpcr | ( 1 << 24 ) )); //24 番目のビット (FTZ) を 1 に設定#endif     
                      
                

一部の ARM プロセッサには、非正規数のハードウェア処理機能があります。

• 対数表記

• Eric Sc​​hwarz、Martin Schmookler、Son Dao Trong (2003 年 6 月)。「非正規化数のハードウェア実装」(PDF)。議事録 16th IEEE Symposium on Computer Arithmetic (Arith16)。16th IEEE Symposium on Computer Arithmetic。IEEE Computer Society。pp . 104–111。ISBN 0-7695-1894-X。^{[永久リンク切れ‍ ]}

• 非正規数が計算結果の改善に役立つ例については、William KahanのWebサイト[1]のさまざまな論文も参照してください。