量子化（信号処理）

数学およびデジタル信号処理における量子化とは、大きなセット（多くの場合は連続したセット）の入力値を、多くの場合は有限個の要素を持つ（可算な）より小さなセットの出力値にマッピングするプロセスです。 四捨五入と切り捨ては、量子化プロセスの典型的な例です。信号をデジタル形式で表現するプロセスには通常、四捨五入が含まれるため、量子化はほぼすべてのデジタル信号処理に何らかの形で関与しています。量子化は、基本的にすべての非可逆圧縮アルゴリズムの中核でもあります。

入力値と量子化された値の差 (丸め誤差など) は、量子化誤差と呼ばれます。量子化を実行するデバイスまたはアルゴリズム関数は、量子化器と呼ばれます。アナログ - デジタル コンバーターは、量子化器の一例です。

例えば、実数を最も近い整数値に丸めることは、非常に基本的なタイプの量子化器、つまり均一量子化器を形成します。量子化ステップサイズが特定の値に等しい典型的な（中間トレッド）均一量子化器は、次のように表すことができます。 ${\displaystyle x}$${\displaystyle \Delta }$

${\displaystyle Q(x)=\Delta \cdot \left\lfloor {\frac {x}{\Delta }}+{\frac {1}{2}}\right\rfloor }$、

ここで、表記は床関数を表します。 ${\displaystyle \lfloor \ \rfloor }$

あるいは、同じ量子化器を天井関数で次のように表現することもできる。

${\displaystyle Q(x)=\Delta \cdot \left\lceil {\frac {x}{\Delta }}-{\frac {1}{2}}\right\rceil }$。

(この表記は天井関数を表します)。 ${\displaystyle \lceil \ \rceil }$

量子化器の基本的な特性は、可能な出力値メンバーの可算なセットが、可能な入力値のセットよりも小さいことです。出力値セットのメンバーは、整数、有理数、または実数値を持つことができます。最も近い整数に単純に丸める場合、ステップ サイズは1 に等しくなります。が他の整数値の場合、または が他の整数値に等しい場合、この量子化器は実数値の入力と整数値の出力を持ちます。 ${\displaystyle \Delta }$${\displaystyle \Delta =1}$${\displaystyle \Delta }$

量子化ステップサイズ (Δ) が量子化される信号の変動に比べて小さい場合、このような丸め操作によって生成される平均二乗誤差がおよそ になることは比較的簡単に示せます。^{[1] [2] [ 3] [4] [5] [6]平均二乗誤差は量子化}ノイズ電力とも呼ばれます。量子化器に 1 ビットを追加すると Δ の値が半分になり、ノイズ電力が ⁠ 倍に減少します。${\displaystyle \Delta ^{2}/12}$1/4⁠ .デシベルで表すと、騒音パワーの変化は${\displaystyle \scriptstyle 10\cdot \log _{10}(1/4)\ \approx \ -6\ \mathrm {dB} .}$

量子化器の可能な出力値の集合は可算であるため、量子化器は分類段階（または順方向量子化段階）と再構成段階（または逆量子化段階）と呼ばれる 2 つの異なる段階に分解できます。分類段階では入力値が整数量子化インデックス にマッピングされ、再構成段階ではインデックスが入力値の出力近似値である再構成値にマッピングされます。上記の均一量子化器の例では、順方向量子化段階は次のように表すことができます。 ${\displaystyle k}$${\displaystyle k}$ ${\displaystyle y_{k}}$

${\displaystyle k=\left\lfloor {\frac {x}{\Delta }}+{\frac {1}{2}}\right\rfloor }$、

そしてこの例の量子化器の再構成段階は単純に

${\displaystyle y_{k}=k\cdot \Delta }$。

この分解は量子化動作の設計と分析に役立ち、量子化されたデータが通信チャネルを介してどのように通信されるかを示しています。ソース エンコーダーは順方向量子化ステージを実行し、通信チャネルを介してインデックス情報を送信し、デコーダーは再構成ステージを実行して元の入力データの出力近似値を生成します。一般に、順方向量子化ステージでは、入力データを量子化インデックス データの整数空間にマッピングする任意の関数を使用できます。逆量子化ステージは、概念的に (または文字通りに)、各量子化インデックスを対応する再構成値にマッピングするテーブル ルックアップ操作です。この 2 段階の分解は、ベクトル量子化器とスカラー量子化器に等しく適用されます。

量子化は多数対少数のマッピングであるため、本質的に非線形かつ不可逆なプロセスです (つまり、同じ出力値が複数の入力値によって共有されるため、一般に、出力値のみが与えられた場合、正確な入力値を復元することは不可能です)。

入力値の可能な集合は無限に大きく、連続していて可算でない場合もあります（すべての実数の集合、またはある限られた範囲内のすべての実数の集合など）。出力値の可能な集合は有限または可算無限です。^[6]量子化に関係する入力集合と出力集合は、かなり一般的な方法で定義できます。たとえば、ベクトル量子化は、多次元（ベクトル値）入力データに量子化を適用することです。^[7]

アナログ-デジタル変換器(ADC) は、サンプリングと量子化という 2 つのプロセスとしてモデル化できます。サンプリングは、時間によって変化する電圧信号を離散時間信号 (実数のシーケンス) に変換します。量子化は、各実数を離散値の有限セットからの近似値に置き換えます。最も一般的には、これらの離散値は固定小数点ワードとして表されます。任意の数の量子化レベルが可能ですが、一般的なワード長は8 ビット(256 レベル)、16 ビット (65,536 レベル)、および 24 ビット (1,680 万レベル) です。数値シーケンスを量子化すると、量子化誤差のシーケンスが生成されます。これは、その確率的動作のため、量子化ノイズと呼ばれる加法的なランダム信号としてモデル化されることがあります。量子化器が使用するレベルが多いほど、量子化ノイズ電力は低くなります。

レート歪み最適化量子化は、非可逆データ圧縮アルゴリズムのソース コーディングで使用されます。その目的は、通信チャネルまたはストレージ メディアでサポートされているビット レートの制限内で歪みを管理することです。このコンテキストでの量子化の分析には、量子化器の出力を表すために使用されるデータ量 (通常は桁数またはビット数またはビットレートで測定) の調査と、量子化プロセスによって導入される精度の低下 (歪みと呼ばれる)の調査が含まれます。

符号付き入力データに対するほとんどの一様量子化器は、ミッドライザーとミッドトレッドの2つのタイプに分類できます。この用語は、値0の周りの領域で何が起こるかに基づいており、量子化器の入出力関数を階段と見なすというアナロジーを使用しています。ミッドトレッド量子化器はゼロ値の再構成レベル（階段の踏み板に対応）を持ち、ミッドライザー量子化器はゼロ値の分類しきい値（階段の蹴込みに対応）を持ちます。 ^[9]

ミッドトレッド量子化では丸めが行われます。ミッドトレッド均一量子化の式は前のセクションで説明されています。

${\displaystyle Q(x)=\Delta \cdot \left\lfloor {\frac {x}{\Delta }}+{\frac {1}{2}}\right\rfloor }$、

ミッドライザー量子化では切り捨てが行われます。ミッドライザー均一量子化器の入力出力式は次のようになります。

${\displaystyle Q(x)=\Delta \cdot \left(\left\lfloor {\frac {x}{\Delta }}\right\rfloor +{\frac {1}{2}}\right)}$、

ここで分類規則は次のように与えられる。

${\displaystyle k=\left\lfloor {\frac {x}{\Delta }}\right\rfloor }$

そして再構築ルールは

${\displaystyle y_{k}=\Delta \cdot \left(k+{\tfrac {1}{2}}\right)}$。

ミッドライザーのユニフォーム量子化器にはゼロ出力値がないことに注意してください。最小出力振幅はステップ サイズの半分です。対照的に、ミッドトレッド量子化器にはゼロ出力レベルがあります。一部のアプリケーションでは、ゼロ出力信号表現が必要になる場合があります。

一般的に、ミッドライザーまたはミッドトレッド量子化器は、実際には均一量子化器ではない可能性があります。つまり、量子化器の分類間隔のサイズがすべて同じではない可能性があり、その可能な出力値の間隔がすべて同じではない可能性があります。ミッドライザー量子化器の特徴は、分類しきい値が正確にゼロであることです。ミッドトレッド量子化器の特徴は、再構成値が正確にゼロであることです。^[9]

デッドゾーン量子化器は、 0を中心に対称的な動作をするミッドトレッド量子化器の一種です。このような量子化器のゼロ出力値の周りの領域は、デッドゾーンまたはデッドバンドと呼ばれます。デッドゾーンは、ノイズゲートやスケルチ機能と同じ目的を果たすことがあります。特に圧縮アプリケーションでは、デッドゾーンに他のステップとは異なる幅が与えられることがあります。それ以外は均一な量子化器の場合、デッドゾーンの幅は、順方向量子化ルール^{[10] [11] [12]}を使用して任意の値に設定できます。${\displaystyle w}$

${\displaystyle k=\operatorname {sgn}(x)\cdot \max \left(0,\left\lfloor {\frac {\left|x\right|-w/2}{\Delta }}+1\right\rfloor \right)}$、

ここで関数（）は符号関数（ signum関数とも呼ばれる）である。このようなデッドゾーン量子化器の一般的な再構成規則は次のように与えられる。 ${\displaystyle \operatorname {sgn} }$

${\displaystyle y_{k}=\operatorname {sgn}(k)\cdot \left({\frac {w}{2}}+\Delta \cdot (|k|-1+r_{k})\right)}$、

ここで、 は、ステップ サイズの割合として 0 から 1 の範囲の再構成オフセット値です。通常、入力データを、ゼロを中心に対称で、ゼロでピーク値に達する一般的な確率密度関数(PDF) (ガウス、ラプラシアン、または一般化ガウスPDF など) を使用して量子化する場合。一般に はに依存する可能性があり、 は以下で説明する最適条件を満たすように選択できますが、 などの定数に単純に設定されることがよくあります。(この定義では、 ( )関数の定義により、 は効果がないこと に注意してください。)${\displaystyle r_{k}}$${\displaystyle 0\leq r_{k}\leq {\tfrac {1}{2}}}$${\displaystyle r_{k}}$${\displaystyle k}$${\displaystyle {\tfrac {1}{2}}}$${\displaystyle y_{0}=0}$${\displaystyle \operatorname {sgn} }$${\displaystyle r_{0}}$

非常に一般的に使用される特殊なケース（たとえば、財務会計や初等数学で一般的に使用される方式）は、すべての に対しておよび を設定することです。この場合、デッドゾーン量子化器の中央デッドゾーンは他のすべてのステップと同じ幅を持ち、その再構築値もすべて等間隔であるため、デッドゾーン量子化器は均一量子化器でもあります。 ${\displaystyle w=\Delta }$${\displaystyle r_{k}={\tfrac {1}{2}}}$${\displaystyle k}$

量子化誤差の解析における一般的な仮定は、量子化誤差が信号処理システムに加法性ホワイトノイズと同様の影響を与えるというものである。つまり、信号との相関は無視でき、パワースペクトル密度はほぼ平坦である。^{[2] [6] [13] [14]}加法性ノイズモデルは、デジタルフィルタリングシステムにおける量子化誤差の影響の解析によく使用され、このような解析に非常に役立つ可能性がある。これは、滑らかなPDFを持つ高解像度の量子化（信号強度に比べて小さい）の場合に有効なモデルであることがわかっている。^{[2] [15]}${\displaystyle \Delta }$

加法性ノイズの振る舞いは、必ずしも有効な仮定ではありません。量子化誤差（ここで説明したように定義された量子化器の場合）は信号と決定論的に関連しており、完全に独立しているわけではありません。したがって、周期的な信号は周期的な量子化ノイズを生成する可能性があります。また、場合によっては、デジタル信号処理システムでリミットサイクルが発生することもあります。量子化誤差がソース信号から効果的に独立していることを保証する1つの方法は、ディザ量子化（場合によってはノイズシェーピングを使用）を実行することです。これは、量子化の前に信号にランダム（または疑似ランダム）ノイズを追加することです。 ^{[6] [14]}

典型的なケースでは、元の信号は 1 つの最下位ビット(LSB) よりもはるかに大きくなります。この場合、量子化誤差は信号と有意な相関がなく、ほぼ均一な分布になります。量子化に丸めを使用すると、量子化誤差の平均は 0 になり、二乗平均平方根(RMS) 値はこの分布の標準偏差で、 で与えられます。切り捨てを使用すると、誤差の平均は 0 以外になり、RMS 値は になります。丸めでは切り捨てよりも RMS 誤差が少なくなりますが、その違いは の静的 (DC) 項によるものだけです。AC 誤差の RMS 値はどちらの場合もまったく同じなので、誤差の DC 項を無視できる状況 (AC 結合システムなど) では、切り捨てよりも丸めの方が特別な利点はありません。どちらの場合も、全信号範囲のパーセンテージとしての標準偏差は、量子化ビット数が 1 ビット変化するごとに 2 倍に変化します。したがって、潜在的な信号対量子化雑音電力比は 4、つまり1 ビットあたり約 6 dB 変化します。 ${\displaystyle \scriptstyle {\frac {1}{\sqrt {12}}}\mathrm {LSB} \ \approx \ 0.289\,\mathrm {LSB} }$${\displaystyle \scriptstyle {\frac {1}{2}}\mathrm {LSB} }$${\displaystyle \scriptstyle {\frac {1}{\sqrt {3}}}\mathrm {LSB} }$${\displaystyle \scriptstyle {\frac {1}{2}}\mathrm {LSB} }$${\displaystyle \scriptstyle 10\cdot \log _{10}(4)}$

振幅が低い場合、量子化誤差は入力信号に依存するようになり、歪みが生じます。この歪みはアンチエイリアシング フィルターの後に発生し、これらの歪みがサンプル レートの 1/2 を超えると、対象バンドにエイリアシングされます。量子化誤差を入力信号から独立させるために、信号にノイズを追加してディザリングします。これにより、信号対ノイズ比がわずかに低下しますが、歪みを完全に除去できます。

量子化ノイズは、 ADC の量子化によって発生する量子化誤差のモデルです。これは、ADC へのアナログ入力電圧と出力のデジタル値の間の丸め誤差です。このノイズは非線形で信号に依存します。いくつかの異なる方法でモデル化できます。

理想的なADCでは、量子化誤差は-1/2 LSBから+1/2 LSBの間で均一に分布し、信号はすべての量子化レベルをカバーする均一な分布を持ち、信号対量子化ノイズ比（SQNR）は次のように計算できます。

${\displaystyle \mathrm {SQNR} =20\log _{10}(2^{Q})\approx 6.02\cdot Q\ \mathrm {dB} \,\!}$

ここで、Q は量子化ビットの数です。

これを満たす最も一般的なテスト信号は、全振幅の三角波とノコギリ波です。

たとえば、16 ビットADC の最大信号対量子化ノイズ比は 6.02 × 16 = 96.3 dB です。

入力信号が全振幅正弦波の場合、信号の分布は均一ではなくなり、対応する式は次のようになります。

${\displaystyle \mathrm {SQNR} \approx 1.761+6.02\cdot Q\ \mathrm {dB} \,\!}$

ここでも、量子化ノイズは均一に分布していると仮定します。入力信号の振幅が大きく、周波数スペクトルが広い場合がこれに該当します。^[16] この場合、16 ビット ADC の最大信号対雑音比は 98.09 dB です。信号対雑音比の 1.761 の差は、信号が三角波やのこぎり波ではなくフルスケールの正弦波であるためにのみ発生します。

高解像度ADCの複雑な信号の場合、これは正確なモデルです。低解像度ADC、高解像度ADCの低レベル信号、および単純な波形の場合、量子化ノイズは均一に分布していないため、このモデルは不正確になります。^[17]これらの場合、量子化ノイズの分布は信号の正確な振幅に大きく影響されます。

計算はフルスケール入力を基準に行われます。信号が小さい場合、相対的な量子化歪みは非常に大きくなる可能性があります。この問題を回避するには、アナログ圧縮を使用できますが、歪みが生じる可能性があります。

多くの場合、量子化器の設計では、限られた範囲の出力値のみをサポートし、入力がサポート範囲を超えるたびにクリッピングを実行して出力をこの範囲に制限します。このクリッピングによって生じる誤差は、過負荷歪みと呼ばれます。サポート範囲の極端な制限内では、量子化器の選択可能な出力値間の間隔の量は粒度と呼ばれ、この間隔によって生じる誤差は粒状歪みと呼ばれます。量子化器の設計では、粒状歪みと過負荷歪みの適切なバランスを決定することが一般的です。サポートされる出力値の数が一定である場合、平均粒状歪みを減らすと平均過負荷歪みが増加する可能性があり、その逆も同様です。信号の振幅 (または、同等の量子化ステップ サイズ) を制御して適切なバランスを実現する手法は、自動ゲイン制御(AGC) の使用です。しかし、量子化器の設計によっては、粒度誤差や過負荷誤差の概念が適用されない場合があります（例えば、入力データの範囲が限られている量子化器や、選択可能な出力値の集合が可算無限である量子化器など）。^[6]${\displaystyle \Delta }$

量子化演算を実行するスカラー量子化器は、通常、次の 2 つの段階に分解できます。

分類

入力信号範囲を重複しない間隔に分類するプロセス。そのためには、 に対して となる決定境界値 を定義し、極限は および で定義されます。特定の間隔範囲に含まれるすべての入力は、同じ量子化インデックス に関連付けられます。${\displaystyle M}$ ${\displaystyle \{I_{k}\}_{k=1}^{M}}$${\displaystyle M-1}$ ${\displaystyle \{b_{k}\}_{k=1}^{M-1}}$${\displaystyle I_{k}=[b_{k-1}~,~b_{k})}$${\displaystyle k=1,2,\ldots ,M}$${\displaystyle b_{0}=-\infty }$${\displaystyle b_{M}=\infty }$${\displaystyle x}$${\displaystyle I_{k}}$${\displaystyle k}$

復興

各区間は、マッピングを実装する再構築値によって表されます。${\displaystyle I_{k}}$ ${\displaystyle y_{k}}$${\displaystyle x\in I_{k}\Rightarrow y=y_{k}}$

これら 2 つの段階を合わせて、 の数学的操作が構成されます。 ${\displaystyle y=Q(x)}$

エントロピー符号化技術は、分類段階を実行するソースエンコーダから再構成段階を実行するデコーダに量子化インデックスを伝達するために適用できます。これを行う 1 つの方法は、各量子化インデックスをバイナリコードワード に関連付けることです。重要な考慮事項は、各コードワードに使用されるビット数であり、ここでは で示されます。その結果、レベル量子化器とそのインデックス値を伝達するための関連コードワードセットの設計では、ビットレートや歪み などの選択された設計制約のセットを最適に満たす 、および の値を見つける必要があります。 ${\displaystyle k}$${\displaystyle c_{k}}$${\displaystyle \mathrm {length} (c_{k})}$${\displaystyle M}$${\displaystyle \{b_{k}\}_{k=1}^{M-1}}$${\displaystyle \{c_{k}\}_{k=1}^{M}}$${\displaystyle \{y_{k}\}_{k=1}^{M}}$ ${\displaystyle R}$ ${\displaystyle D}$

情報源が関連する PDF を持つランダム変数を生成すると仮定すると、ランダム変数が特定の量子化間隔内に入る確率は次のように表されます。 ${\displaystyle S}$${\displaystyle X}$${\displaystyle f(x)}$${\displaystyle p_{k}}$${\displaystyle I_{k}}$

${\displaystyle p_{k}=P[x\in I_{k}]=\int _{b_{k-1}}^{b_{k}}f(x)dx}$。

この量子化器の結果のビットレート（量子化された値あたりの平均ビット単位）は、次のように導出できます。 ${\displaystyle R}$

${\displaystyle R=\sum _{k=1}^{M}p_{k}\cdot \mathrm {length} (c_{k})=\sum _{k=1}^{M}\mathrm {length} (c_{k})\int _{b_{k-1}}^{b_{k}}f(x)dx}$。

歪みが平均二乗誤差によって測定されると仮定すると、^[a]歪みDは次のように表される。

${\displaystyle D=E[(x-Q(x))^{2}]=\int _{-\infty }^{\infty }(x-Q(x))^{2}f(x)dx=\sum _{k=1}^{M}\int _{b_{k-1}}^{b_{k}}(x-y_{k})^{2}f(x)dx}$。

重要な観察結果は、レートは決定境界とコードワードの長さに依存するのに対し、歪みは決定境界と再構成レベルに依存するということです。 ${\displaystyle R}$${\displaystyle \{b_{k}\}_{k=1}^{M-1}}$${\displaystyle \{\mathrm {length} (c_{k})\}_{k=1}^{M}}$${\displaystyle D}$${\displaystyle \{b_{k}\}_{k=1}^{M-1}}$${\displaystyle \{y_{k}\}_{k=1}^{M}}$

量子化器のこれら 2 つのパフォーマンス メトリックを定義した後、量子化器の設計問題に対する一般的なレート歪みの定式化は、次の 2 つの方法のいずれかで表現できます。

1. 最大歪み制約が与えられた場合、ビットレートを最小化する${\displaystyle D\leq D_{\max }}$${\displaystyle R}$
2. 最大ビットレート制約が与えられた場合、歪みを最小化する${\displaystyle R\leq R_{\max }}$${\displaystyle D}$

多くの場合、これらの問題の解は、ラグランジュ乗数がレートと歪みの適切なバランスを確立する非負の定数である制約のない問題に定式化を変換することによって、同等に（または近似的に）表現され、解決できます。制約のない問題を解くことは、問題の同等の制約付き定式化に対する解の族の凸包上の点を見つけることに相当します。ただし、これらの 3 つの問題定式化のいずれかに対する解、特に閉じた形式の解を見つけることは困難な場合があります。多次元反復最適化手法を必要としない解は、一様分布、^[18]指数分布、^[12]およびラプラシアン^[12]分布の 3 つの PDF に対してのみ公開されています。反復最適化アプローチは、他のケースでも解を見つけるために使用できます。^{[6] [19] [20]}${\displaystyle \min \left\{D+\lambda \cdot R\right\}}$ ${\displaystyle \lambda }$

再構成値は歪みにのみ影響し、ビット レートには影響しないことに注意してください。また、以下に示すように、各値は全体の歪みに 別々に寄与します。${\displaystyle \{y_{k}\}_{k=1}^{M}}$${\displaystyle y_{k}}$${\displaystyle d_{k}}$

${\displaystyle D=\sum _{k=1}^{M}d_{k}}$

どこ

${\displaystyle d_{k}=\int _{b_{k-1}}^{b_{k}}(x-y_{k})^{2}f(x)dx}$

この観察は分析を容易にするために使用できます。値のセットが与えられれば、それぞれの値を個別に最適化して、歪みへの寄与を最小限に抑えることができます。 ${\displaystyle \{b_{k}\}_{k=1}^{M-1}}$${\displaystyle y_{k}}$${\displaystyle D}$

平均二乗誤差歪み基準の場合、各区間内の再構成値を区間内の条件付き期待値（重心とも呼ばれる）に設定することで、再構成値の最適なセットが得られることが簡単に示されます。これは次のように表されます。 ${\displaystyle \{y_{k}^{*}\}_{k=1}^{M}}$${\displaystyle y_{k}}$${\displaystyle I_{k}}$

${\displaystyle y_{k}^{*}={\frac {1}{p_{k}}}\int _{b_{k-1}}^{b_{k}}xf(x)dx}$。

十分に設計されたエントロピー符号化技術を使用すると、インデックスの真の情報量に近いビットレートを使用できるため、 ${\displaystyle \{k\}_{k=1}^{M}}$

${\displaystyle \mathrm {length} (c_{k})\approx -\log _{2}\left(p_{k}\right)}$

そしてそれゆえ

${\displaystyle R=\sum _{k=1}^{M}-p_{k}\cdot \log _{2}\left(p_{k}\right)}$。

この近似を使用すると、エントロピー符号化設計の問題を量子化器自体の設計から切り離すことができます。算術符号化などの最新のエントロピー符号化技術では、一連の既知の（または適応的に推定された）確率が与えられれば、ソースの真のエントロピーに非常に近いビット レートを実現できます。 ${\displaystyle \{p_{k}\}_{k=1}^{M}}$

いくつかの設計では、特定の数の分類領域を最適化するのではなく、量子化器の設計問題に の値の最適化も含まれる場合があります。一部の確率的ソース モデルでは、 が無限大に近づくときに最高のパフォーマンスが達成される場合があります。 ${\displaystyle M}$${\displaystyle M}$${\displaystyle M}$

上記の定式化では、ビット レート制約を0 に設定して無視する場合、または可変長コード(またはレート歪みの意味で FLC よりも優れた算術符号化などの他のエントロピー符号化テクノロジ) の代わりに固定長コード (FLC) を使用して量子化されたデータを表すと仮定すると、最適化問題は歪みのみの最小化に簡略化されます。 ${\displaystyle \lambda }$${\displaystyle D}$

レベル量子化器によって生成されたインデックスは、ビット/シンボルを使用する固定長コードを使用してコード化できます。たとえば、レベルが 256 の場合、FLC ビット レートは8 ビット/シンボルです。このため、このような量子化器は 8 ビット量子化器と呼ばれることもあります。ただし、FLC を使用すると、より優れたエントロピー コーディングを使用することで得られる圧縮の改善が失われます。 ${\displaystyle M}$${\displaystyle R=\lceil \log _{2}M\rceil }$${\displaystyle M=}$${\displaystyle R}$

レベルを持つFLCを想定すると、レート歪み最小化問題は歪み最小化のみに縮小できる。縮小された問題は次のように表現できる。PDFを持つソースと、量子化器が分類領域のみを使用するという制約が与えられた場合、結果として生じる歪みを最小化する 決定境界と再構成レベルを見つける。${\displaystyle M}$${\displaystyle X}$${\displaystyle f(x)}$${\displaystyle M}$${\displaystyle \{b_{k}\}_{k=1}^{M-1}}$${\displaystyle \{y_{k}\}_{k=1}^{M}}$

${\displaystyle D=E[(x-Q(x))^{2}]=\int _{-\infty }^{\infty }(x-Q(x))^{2}f(x)dx=\sum _{k=1}^{M}\int _{b_{k-1}}^{b_{k}}(x-y_{k})^{2}f(x)dx=\sum _{k=1}^{M}d_{k}}$。

上記の問題に対する最適解を求めると、MMSQE（最小平均二乗量子化誤差）解と呼ばれることもある量子化器が得られ、結果として得られるPDF最適化（非一様）量子化器はロイド・マックス量子化器と呼ばれます。ロイド・マックス量子化器は、次のように、およびから生じる2組の同時方程式を解く反復法^{[6] [21] [22]}を独立して開発した2人の人物にちなんで名付けられました。 ${\displaystyle {\partial D/\partial b_{k}}=0}$${\displaystyle {\partial D/\partial y_{k}}=0}$

${\displaystyle {\partial D \over \partial b_{k}}=0\Rightarrow b_{k}={y_{k}+y_{k+1} \over 2}}$、

各閾値を各再構築値のペアの中間点に配置し、

${\displaystyle {\partial D \over \partial y_{k}}=0\Rightarrow y_{k}={\int _{b_{k-1}}^{b_{k}}xf(x)dx \over \int _{b_{k-1}}^{b_{k}}f(x)dx}={\frac {1}{p_{k}}}\int _{b_{k-1}}^{b_{k}}xf(x)dx}$

これにより、各再構築値が、関連する分類間隔の重心（条件付き期待値）に配置されます。

1957年に最初に記述されたロイド法Iアルゴリズムは、ベクトルデータに適用するために簡単な方法で一般化できます。この一般化により、リンデ・ブゾ・グレイ（LBG）またはk平均分類器最適化法が生まれました。さらに、この手法は、ベクトルデータのエントロピー制約も含めるように簡単な方法でさらに一般化できます。^[23]

ロイド・マックス量子化器は、入力PDFが範囲 にわたって均一に分布している場合、実際には均一量子化器です。ただし、均一分布を持たないソースの場合、最小歪み量子化器は均一量子化器ではない可能性があります。均一に分布したソースに適用された均一量子化器の分析は、次のようにまとめることができます。 ${\displaystyle [y_{1}-\Delta /2,~y_{M}+\Delta /2)}$

対称的なソースXは、他の場所では0に対して、でモデル化できます。量子化器の ステップサイズと信号対量子化ノイズ比（SQNR）は、${\displaystyle f(x)={\tfrac {1}{2X_{\max }}}}$${\displaystyle x\in [-X_{\max },X_{\max }]}$${\displaystyle \Delta ={\tfrac {2X_{\max }}{M}}}$

${\displaystyle {\rm {SQNR}}=10\log _{10}{\frac {\sigma _{x}^{2}}{\sigma _{q}^{2}}}=10\log _{10}{\frac {(M\Delta )^{2}/12}{\Delta ^{2}/12}}=10\log _{10}M^{2}=20\log _{10}M}$。

ビットを使用する固定長コードの場合、となり 、 ${\displaystyle N}$${\displaystyle M=2^{N}}$${\displaystyle {\rm {SQNR}}=20\log _{10}{2^{N}}=N\cdot (20\log _{10}2)=N\cdot 6.0206\,{\rm {dB}}}$

またはビットあたり約 6 dB です。たとえば、=8 ビットの場合、=256 レベルで SQNR = 8×6 = 48 dB です。=16 ビットの場合、=65536 レベルで SQNR = 16×6 = 96 dB です。量子化で使用される各追加ビットに対して SQNR が 6 dB 向上するという特性は、よく知られた性能指数です。ただし、この導出は、均一なソースに適用される均一な量子化器のみを対象としているため、注意して使用する必要があります。他のソース PDF および他の量子化器設計の場合、PDF のタイプ、ソースのタイプ、量子化器のタイプ、および動作ビット レート範囲によっては、SQNR が 6 dB/ビットで予測される値と多少異なる場合があります。 ${\displaystyle N}$${\displaystyle M}$${\displaystyle N}$${\displaystyle M}$

ただし、多くのソースでは、十分に高いビット レートで動作している場合、量子化器 SQNR 関数の傾きは 6 dB/ビットとして近似できると想定するのが一般的です。漸近的に高いビット レートでは、ステップ サイズを半分に減らすと、ビット レートがサンプルあたり約 1 ビット増加し (値が前の 2 倍のサイズの間隔の左半分にあるか右半分にあるかを示すために 1 ビット必要となるため)、近似に基づいて平均二乗誤差が 4 分の 1 (つまり 6 dB) 減少します。 ${\displaystyle \Delta ^{2}/12}$

漸近的に高いビットレートでは、厳密な理論的分析により、多くのソースPDFに対して6dB/ビットの近似がサポートされています。^{[2] [3] [5] [6]}さらに、これらの条件下では、最適なスカラー量子化器の構造（レート歪みの意味で）は均一量子化器の構造に近づきます。^{[5] [6]}

多くの物理量は、実際には物理的実体によって量子化されています。この制限が適用される分野の例としては、電子工学（電子による）、光学（光子による）、生物学（ DNAによる）、物理学（プランク限界による）、化学（分子による）などが挙げられます。

• ベータエンコーダ
• 色の量子化
• データビニング
• 離散化
• 離散化エラー
• ポスタリゼーション
• パルス符号変調
• クォンタイル
• 量子化（画像処理）
• 回帰希釈– 説明変数または独立変数の量子化などのエラーによって引き起こされるパラメータ推定値のバイアス

• バーナード・ウィドロウ、イシュトヴァン・コラー（2007）。『デジタル計算、信号処理、制御における量子化ノイズ』ケンブリッジ大学出版局。ISBN 9780521886710。

• 最小カウント