量子化（信号処理）

アナログ-デジタル変換器（ADC）は、サンプリングと量子化という2つのプロセスとしてモデル化できます。サンプリングは、時間とともに変化する電圧信号を離散時間信号、つまり実数のシーケンスに変換します。量子化は、各実数を有限個の離散値からの近似値に置き換えます。これらの離散値は、一般的には固定小数点ワードとして表現されます。量子化レベルはいくつでも設定可能ですが、一般的なワード長は8ビット（256レベル）、16ビット（65,536レベル）、24ビット（1,680 万レベル）です。数値のシーケンスを量子化すると、量子化誤差のシーケンスが生成されます。この誤差は、確率的な挙動を示すため、量子化ノイズと呼ばれる加算的なランダム信号としてモデル化されることがあります。量子化器が使用するレベル数が多いほど、量子化ノイズのパワーは低くなります。

レート歪み最適化量子化は、通信チャネルまたは記憶媒体がサポートするビットレートの制限内で歪みを管理することを目的とした、非可逆データ圧縮アルゴリズムのソース符号化において用いられます。この文脈における量子化の分析には、量子化器の出力を表すために使用されるデータ量（通常は桁数、ビット数、またはビットレートで測定）の調査と、量子化プロセスによって生じる精度損失（歪みと呼ばれる）の調査が含まれます。

符号付き入力データ用のほとんどの均一量子化器は、ミッドライザーとミッドトレッドの 2 つのタイプに分類できます。この用語は、値 0 付近の領域で何が起こるかに基づいており、量子化器の入出力関数を階段と見なすアナロジーを使用しています。ミッドトレッド量子化器は、ゼロ値の再構成レベル (階段のトレッドに対応) を持ち、ミッドライザー量子化器は、ゼロ値の分類閾値 (階段のライザーに対応) を持ちます。 ^{[ 9 ]}

中間トレッドの量子化には丸め処理が含まれます。中間トレッドの均一量子化の式は、前のセクションで説明されています。

${\displaystyle Q(x)=\Delta \cdot \left\lfloor {\frac {x}{\Delta }}+{\frac {1}{2}}\right\rfloor }$、

ミッドライザー量子化は切り捨てを伴う。ミッドライザー均一量子化器の入出力式は次のようになる。

${\displaystyle Q(x)=\Delta \cdot \left(\left\lfloor {\frac {x}{\Delta }}\right\rfloor +{\frac {1}{2}}\right)}$、

ここで、分類ルールは次のように与えられる。

${\displaystyle k=\left\lfloor {\frac {x}{\Delta }}\right\rfloor }$

そして再構成ルールは

${\displaystyle y_{k}=\Delta \cdot \left(k+{\tfrac {1}{2}}\right)}$。

ミッドライザー均一量子化器は出力値がゼロにならないことに注意してください。最小出力値はステップサイズの半分です。一方、ミッドトレッド量子化器は出力レベルがゼロになります。アプリケーションによっては、出力信号をゼロで表現することが必要となる場合があります。

一般的に、ミッドライザーまたはミッドトレッド量子化器は、実際には均一量子化器ではない可能性があります。つまり、量子化器の分類間隔のサイズがすべて同じであるとは限らず、可能な出力値間の間隔がすべて同じであるとは限らない場合があります。ミッドライザー量子化器の特徴は、分類閾値が正確にゼロであることであり、ミッドトレッド量子化器の特徴は、再構成値が正確にゼロであることです。^{[ 9 ]}

デッドゾーン量子化器は、0 を中心として対称的な動作をする中間ステップ量子化器の一種です。このような量子化器のゼロ出力値周辺の領域は、デッドゾーンまたはデッドバンドと呼ばれます。デッドゾーンは、ノイズゲートやスケルチ機能と同様の役割を果たすことがあります。特に圧縮アプリケーションでは、デッドゾーンの幅を他のステップの幅とは異なる値に設定することがあります。それ以外の点では均一な量子化器の場合、デッドゾーンの幅は任意の値に設定できます。${\displaystyle w}$前方量子化ルール^{[ 10 ] [ 11 ] [ 12 ]を使用することにより}

${\displaystyle k=\operatorname {sgn}(x)\cdot \max \left(0,\left\lfloor {\frac {\left|x\right|-w/2}{\Delta }}+1\right\rfloor \right)}$、

関数${\displaystyle \operatorname {sgn} }$（ ）は符号関数（符号関数とも呼ばれる）である。このようなデッドゾーン量子化器の一般的な再構成規則は次のように与えられる。

${\displaystyle y_{k}=\operatorname {sgn}(k)\cdot \left({\frac {w}{2}}+\Delta \cdot (|k|-1+r_{k})\right)}$、

どこ$\displaystyle r_{k}}$は、ステップサイズの分数として0から1の範囲の再構成オフセット値です。通常、${\displaystyle 0\leq r_{k}\leq {\tfrac {1}{2}}}$入力データを、ゼロを中心に対称でゼロでピーク値に達する典型的な確率密度関数（PDF）（ガウス分布、ラプラシアン分布、または一般化ガウス分布など）で量子化する場合。${\displaystyle r_{k}}$依存する可能性がある${\displaystyle k}$一般的に、そして以下に説明する最適性条件を満たすように選択できますが、多くの場合、単に定数に設定されます。${\displaystyle {\tfrac {1}{2}}}$（この定義では、${\displaystyle y_{0}=0}$定義により${\displaystyle \operatorname {sgn} }$(  )関数なので、${\displaystyle r_{0}}$効果はありません。）

非常によく使われる特殊なケース（例えば、財務会計や初等数学で一般的に使われる方式）は、${\displaystyle w=\Delta }$そして${\displaystyle r_{k}={\tfrac {1}{2}}}$すべての人々のために${\displaystyle k}$この場合、デッドゾーン量子化器は均一量子化器でもあります。なぜなら、この量子化器の中央のデッドゾーンは他のすべてのステップと同じ幅を持ち、すべての再構成値も等間隔になっているからです。

量子化誤差の解析における一般的な仮定は、信号処理システムに加法性白色雑音と同様の影響を与えるというものである。つまり、信号との相関が無視できるほど小さく、パワースペクトル密度がほぼ平坦であるという仮定である。^{[ 2 ] [ 6 ] [ 13 ] [ 14 ]}加法性雑音モデルは、デジタルフィルタリングシステムにおける量子化誤差の影響の解析によく用いられ、このような解析において非常に有用である。高解像度量子化（小さな）の場合、このモデルが妥当であることが示されている。${\displaystyle \Delta }$信号強度に比例して）滑らかなPDFを持つ。^{[ 2 ] [ 15 ]}

加算ノイズの挙動は、常に有効な仮定ではありません。量子化誤差（ここで説明するように定義された量子化器の場合）は、信号と決定論的に関連しており、信号から完全に独立しているわけではありません。したがって、周期的な信号は周期的な量子化ノイズを生成する可能性があります。また、場合によっては、デジタル信号処理システムでリミットサイクルが発生する原因となることもあります。量子化誤差をソース信号から効果的に独立させる方法の1つは、ディザリング量子化（ノイズシェーピングを伴う場合もあります）を実行することです。これは、量子化の前に信号にランダム（または擬似ランダム）ノイズを加えるものです。 ^{[ 6 ] [ 14 ]}

典型的なケースでは、元の信号は最下位ビット(LSB) よりもはるかに大きい。この場合、量子化誤差は信号と有意な相関がなく、ほぼ一様分布となる。丸めを用いて量子化する場合、量子化誤差の平均はゼロとなり、二乗平均平方根(RMS) 値はこの分布の標準偏差となる。${\displaystyle \scriptstyle {\frac {1}{\sqrt {12}}}\mathrm {LSB} \ \approx \ 0.289\,\mathrm {LSB} }$切り捨てを使用する場合、誤差の平均値はゼロではない。${\displaystyle \scriptstyle {\frac {1}{2}}\mathrm {LSB} }$そしてRMS値は${\displaystyle \scriptstyle {\frac {1}{\sqrt {3}}}\mathrm {LSB} }$丸めは切り捨てよりも RMS 誤差が小さくなるが、その差は静的 (DC) 項によるものである。${\displaystyle \scriptstyle {\frac {1}{2}}\mathrm {LSB} }$AC誤差のRMS値はどちらの場合もまったく同じなので、誤差のDC項を無視できる状況（AC結合システムなど）では、丸めと切り捨ての特別な利点はありません。どちらの場合も、標準偏差は、量子化ビット数が1ビット変化するごとに、信号範囲全体に対する割合として2倍に変化します。したがって、信号対量子化雑音電力比は4倍、または${\displaystyle \scriptstyle 10\cdot \log _{10}(4)}$ 1ビットあたり約6dB 。

振幅が小さい場合、量子化誤差は入力信号に依存するようになり、歪みが生じます。この歪みはアンチエイリアシングフィルタの後に発生し、歪みがサンプリングレートの1/2を超えると、目的の帯域にエイリアシングが発生します。量子化誤差を入力信号から独立させるために、信号にノイズを加えることでディザリングを行います。これにより信号対雑音比はわずかに低下しますが、歪みを完全に除去することができます。

量子化ノイズは、 ADCにおける量子化によって生じる量子化誤差のモデルです。これは、ADCへのアナログ入力電圧と出力されるデジタル値との間の丸め誤差です。このノイズは非線形であり、信号に依存します。いくつかの異なる方法でモデル化することができます。

理想的なADCでは、量子化誤差が-1/2 LSBから+1/2 LSBの間で均一に分布し、信号がすべての量子化レベルをカバーする均一分布を持つ場合、信号対量子化雑音比（SQNR）は次のように計算できます。

${\displaystyle \mathrm {SQNR} =20\log _{10}(2^{Q})\approx 6.02\cdot Q\ \mathrm {dB} \,\!}$

ここで、Qは量子化ビット数である。

この条件を満たす最も一般的なテスト信号は、振幅が完全な三角波とノコギリ波です。

例えば、16ビットADCの最大信号対量子化雑音比は6.02 × 16 = 96.3  dBです。

入力信号が全振幅の正弦波の場合、信号の分布はもはや均一ではなく、対応する方程式は代わりに次のようになります。

${\displaystyle \mathrm {SQNR} \approx 1.761+6.02\cdot Q\ \mathrm {dB} \,\!}$

ここでは、量子化ノイズは再び均一に分布していると仮定します。入力信号の振幅が大きく、周波数スペクトルが広い場合、このようになります。^{[ 16 ]} この場合、16ビットADCの最大信号対雑音比は98.09  dBです。信号対雑音比の1.761の差は、信号が三角波や鋸歯状波ではなく、フルスケールの正弦波であることによってのみ発生します。

高解像度ADCの複雑な信号の場合、これは正確なモデルです。低解像度ADC、高解像度ADCの低レベル信号、および単純な波形の場合、量子化ノイズは均一に分布しないため、このモデルは不正確になります。^{[ 17 ]}これらの場合、量子化ノイズの分布は信号の正確な振幅に大きく影響されます。

計算はフルスケール入力を基準としています。信号が小さい場合、相対的な量子化歪みは非常に大きくなる可能性があります。この問題を回避するためにアナログ圧縮を用いることができますが、これによって歪みが生じる可能性があります。

量子化器の設計では、多くの場合、可能な出力値の範囲を限定し、入力がサポート範囲を超えた場合にクリッピングを実行して出力をこの範囲に制限します。このクリッピングによって生じる誤差は、過負荷歪みと呼ばれます。サポート範囲の極限内では、量子化器の選択可能な出力値間の間隔は粒度と呼ばれ、この間隔によって生じる誤差は粒度歪みと呼ばれます。量子化器の設計では、粒度歪みと過負荷歪みの適切なバランスを決定することが一般的です。サポート可能な出力値の数が決まっている場合、平均粒度歪みを減らすと平均過負荷歪みが増加する可能性があり、その逆もまた然りです。信号の振幅（または同等に、量子化ステップサイズ）を制御する手法${\displaystyle \Delta }$適切なバランスを実現するには、自動利得制御（AGC）を使用する方法があります。ただし、一部の量子化器設計では、粒度誤差と過負荷誤差の概念が適用されない場合があります（たとえば、入力データの範囲が限られている量子化器や、選択可能な出力値が可算無限集合である場合など）。^{[ 6 ]}

量子化演算を実行するスカラー量子化器は、通常、2つの段階に分解できます。

分類

入力信号範囲を分類するプロセス${\displaystyle M}$重複しない区間${\displaystyle \{I_{k}\}_{k=1}^{M}}$定義することによって${\displaystyle M-1}$決定境界値${\displaystyle \{b_{k}\}_{k=1}^{M-1}}$、したがって${\displaystyle I_{k}=[b_{k-1}~,~b_{k})}$のために${\displaystyle k=1,2,\ldots ,M}$極限は以下のように定義される${\displaystyle b_{0}=-\infty }$そして${\displaystyle b_{M}=\infty }$すべての入力${\displaystyle x}$特定の区間範囲に収まる${\displaystyle I_{k}}$同じ量子化インデックスに関連付けられています${\displaystyle k}$。

再建

各間隔${\displaystyle I_{k}}$再構成値によって表される${\displaystyle y_{k}}$マッピングを実装する${\displaystyle x\in I_{k}\Rightarrow y=y_{k}}$。

これら２つの段階を合わせると、数学演算は次のようになる。${\displaystyle y=Q(x)}$。

エントロピー符号化技術は、分類段階を実行するソースエンコーダから再構成段階を実行するデコーダへ量子化インデックスを伝達するために適用できる。その方法の一つは、各量子化インデックスを関連付けることである。${\displaystyle k}$バイナリコードワード付き${\displaystyle c_{k}}$重要な考慮事項は、各コードワードに使用されるビット数であり、ここではで表されます。${\displaystyle \mathrm {length} (c_{k})}$その結果、${\displaystyle M}$レベル量子化器と、そのインデックス値を伝達するための関連するコードワードセットでは、以下の値を見つける必要があります。${\displaystyle \{b_{k}\}_{k=1}^{M-1}}$、${\displaystyle \{c_{k}\}_{k=1}^{M}}$そして${\displaystyle \{y_{k}\}_{k=1}^{M}}$ビットレートなどの選択された設計制約を最適に満たす${\displaystyle R}$歪み​${\displaystyle D}$。

情報源を仮定すると${\displaystyle S}$ランダム変数を生成する${\displaystyle X}$関連するPDFファイル付き${\displaystyle f(x)}$確率${\displaystyle p_{k}}$確率変数が特定の量子化区間内に収まる${\displaystyle I_{k}}$次のように与えられます。

${\displaystyle p_{k}=P[x\in I_{k}]=\int _{b_{k-1}}^{b_{k}}f(x)dx}$。

結果として得られるビットレート${\displaystyle R}$この量子化器の場合、量子化値あたりの平均ビット数を単位として、以下のように導出できます。

${\displaystyle R=\sum _{k=1}^{M}p_{k}\cdot \mathrm {length} (c_{k})=\sum _{k=1}^{M}\mathrm {length} (c_{k})\int _{b_{k-1}}^{b_{k}}f(x)dx}$。

歪みが平均二乗誤差で測定されると仮定すると、^{[ a ]}歪みDは次のように表されます。

${\displaystyle D=E[(x-Q(x))^{2}]=\int _{-\infty }^{\infty }(x-Q(x))^{2}f(x)dx=\sum _{k=1}^{M}\int _{b_{k-1}}^{b_{k}}(x-y_{k})^{2}f(x)dx}$。

重要な観察は、${\displaystyle R}$決定境界に依存する${\displaystyle \{b_{k}\}_{k=1}^{M-1}}$そして符号語の長さ${\displaystyle \{\mathrm {length} (c_{k})\}_{k=1}^{M}}$歪みは${\displaystyle D}$決定境界に依存する${\displaystyle \{b_{k}\}_{k=1}^{M-1}}$および再建レベル${\displaystyle \{y_{k}\}_{k=1}^{M}}$。

量子化器の性能指標を2つ定義した後、量子化器設計問題に対する典型的なレート歪み定式化は、次の2つの方法のいずれかで表現できます。

1. 最大歪み制約が与えられた場合${\displaystyle D\leq D_{\max }}$ビットレートを最小化する${\displaystyle R}$
2. 最大ビットレートの制約が与えられた場合${\displaystyle R\leq R_{\max }}$歪みを最小限に抑える${\displaystyle D}$

多くの場合、これらの問題の解は、定式化を制約のない問題に変換することによって、同等（または近似的）に表現および解決できます。${\displaystyle \min \left\{D+\lambda \cdot R\right\}}$ラグランジュ乗数${\displaystyle \lambda }$は、レートと歪みの適切なバランスを確立する非負定数です。制約のない問題を解くことは、問題の同等の制約付き定式化に対する解の族の凸包上の点を見つけることと同等です。ただし、これら 3 つの問題定式化のいずれかに対する解、特に閉形式の解を見つけることは困難です。多次元反復最適化手法を必要としない解は、一様分布、^{[ 18 ]}指数分布、^{[ 12 ]}およびラプラシアン分布^{[ 12 ]}の 3 つの PDF についてのみ公開されています。反復最適化アプローチは、他のケースで解を見つけるために使用できます。^{[ 6 ] [ 19 ] [ 20 ]}

再構成値に注意してください${\displaystyle \{y_{k}\}_{k=1}^{M}}$歪みのみに影響し、ビットレートには影響しません。${\displaystyle y_{k}}$別途寄付を行う${\displaystyle d_{k}}$全体歪みは以下の図に示すとおりです。

${\displaystyle D=\sum _{k=1}^{M}d_{k}}$

どこ

${\displaystyle d_{k}=\int _{b_{k-1}}^{b_{k}}(x-y_{k})^{2}f(x)dx}$

この観察は、以下のセットが与えられた場合、分析を容易にするために使用できます。${\displaystyle \{b_{k}\}_{k=1}^{M-1}}$値、それぞれの値${\displaystyle y_{k}}$歪みへの影響を最小限に抑えるために個別に最適化することができる${\displaystyle D}$。

平均二乗誤差歪み基準の場合、最適な再構成値のセットは容易に示せる。${\displaystyle \{y_{k}^{*}\}_{k=1}^{M}}$再構成値を設定することで得られる。${\displaystyle y_{k}}$各区間内で${\displaystyle I_{k}}$区間内の条件付き期待値（重心とも呼ばれる）は、次のように表される。

${\displaystyle y_{k}^{*}={\frac {1}{p_{k}}}\int _{b_{k-1}}^{b_{k}}xf(x)dx}$。

十分に適切に設計されたエントロピー符号化技術を使用することで、インデックスの真の情報量に近いビットレートを使用できる可能性がある。${\displaystyle \{k\}_{k=1}^{M}}$実質的に

${\displaystyle \mathrm {length} (c_{k})\approx -\log _{2}\left(p_{k}\right)}$

そのため

${\displaystyle R=\sum _{k=1}^{M}-p_{k}\cdot \log _{2}\left(p_{k}\right)}$。

この近似を用いることで、エントロピー符号化設計問題を量子化器自体の設計から分離することが可能になる。算術符号化などの最新のエントロピー符号化技術は、既知の（または適応的に推定された）確率のセットが与えられた場合、ソースの真のエントロピーに非常に近いビットレートを実現できる。${\displaystyle \{p_{k}\}_{k=1}^{M}}$。

一部の設計では、特定の分類領域数を最適化するのではなく、${\displaystyle M}$量子化器の設計問題には、以下の値の最適化が含まれる可能性がある。${\displaystyle M}$同様に。一部の確率的ソースモデルでは、最高のパフォーマンスは次のような場合に達成される可能性があります。${\displaystyle M}$無限大に近づく。

上記の定式化において、ビットレート制約を無視して${\displaystyle \lambda }$0 に等しい、または、量子化データを可変長コードではなく固定長コード (FLC) を使用して表現すると仮定した場合(または、レート歪みの意味で FLC よりも優れた算術符号化などの他のエントロピー符号化技術を使用した場合)、最適化問題は歪みの最小化に帰着する。${\displaystyle D}$一人で。

生成されたインデックス${\displaystyle M}$-レベル量子化器は、固定長コードを使用して符号化できます。${\displaystyle R=\lceil \log _{2}M\rceil }$ビット/シンボル。たとえば、${\displaystyle M=}$256レベル、FLCビットレート${\displaystyle R}$1シンボルあたり8ビットです。そのため、このような量子化器は8ビット量子化器と呼ばれることもあります。しかし、FLCを使用すると、より優れたエントロピー符号化によって得られる圧縮率の向上効果が失われます。

FLCを仮定すると${\displaystyle M}$レベルによっては、レート歪み最小化問題は歪み最小化問題のみに帰着させることができます。帰着された問題は次のように表すことができます。${\displaystyle X}$PDF付き${\displaystyle f(x)}$量子化器は、${\displaystyle M}$分類領域、決定境界を見つける${\displaystyle \{b_{k}\}_{k=1}^{M-1}}$および再建レベル${\displaystyle \{y_{k}\}_{k=1}^{M}}$結果として生じる歪みを最小限に抑える

${\displaystyle D=E[(x-Q(x))^{2}]=\int _{-\infty }^{\infty }(x-Q(x))^{2}f(x)dx=\sum _{k=1}^{M}\int _{b_{k-1}}^{b_{k}}(x-y_{k})^{2}f(x)dx=\sum _{k=1}^{M}d_{k}}$。

上記の問題に対する最適な解を見つけると、MMSQE（最小平均二乗量子化誤差）解と呼ばれる量子化器が得られ、結果として得られるPDF最適化（非一様）量子化器は、ロイド・マックス量子化器と呼ばれ、独立して反復法^{[ 6 ] [ 21 ] [ 22 ]}を開発した2人の人物にちなんで名付けられました。${\displaystyle {\partial D/\partial b_{k}}=0}$そして${\displaystyle {\partial D/\partial y_{k}}=0}$、 次のように：

${\displaystyle {\partial D \over \partial b_{k}}=0\Rightarrow b_{k}={y_{k}+y_{k+1} \over 2}}$、

これにより、各閾値は各再構成値のペアの中間点に配置され、

${\displaystyle {\partial D \over \partial y_{k}}=0\Rightarrow y_{k}={\int _{b_{k-1}}^{b_{k}}xf(x)dx \over \int _{b_{k-1}}^{b_{k}}f(x)dx}={\frac {1}{p_{k}}}\int _{b_{k-1}}^{b_{k}}xf(x)dx}$

これにより、各再構成値は、それに関連付けられた分類区間の重心（条件付き期待値）に配置されます。

1957年に最初に記述されたロイドの方法Iアルゴリズムは、ベクトルデータへの適用に向けて簡単に一般化できます。この一般化により、リンデ・ブゾ・グレイ（LBG）またはk平均法分類器最適化法が得られます。さらに、この手法は、ベクトルデータに対するエントロピー制約を含めるように簡単に一般化することもできます。^{[ 23 ]}

ロイド・マックス量子化器は、入力PDFが範囲全体に一様に分布している場合、実際には一様量子化器である。${\displaystyle [y_{1}-\Delta /2,~y_{M}+\Delta /2)}$しかし、一様分布を持たない信号源の場合、最小歪み量子化器は一様量子化器にならない可能性があります。一様分布信号源に一様量子化器を適用した場合の解析は、以下のように要約できます。

対称的なソースXは次のようにモデル化できます。${\displaystyle f(x)={\tfrac {1}{2X_{\max }}}}$、 のために${\displaystyle x\in [-X_{\max },X_{\max }]}$それ以外の場所では0。ステップサイズ${\displaystyle \Delta ={\tfrac {2X_{\max }}{M}}}$量子化器の信号対量子化雑音比（SQNR）は

${\displaystyle {\rm {SQNR}}=10\log _{10}{\frac {\sigma _{x}^{2}}{\sigma _{q}^{2}}}=10\log _{10}{\frac {(M\Delta )^{2}/12}{\Delta ^{2}/12}}=10\log _{10}M^{2}=20\log _{10}M}$。

固定長コードを使用する場合${\displaystyle N}$ビット、${\displaystyle M=2^{N}}$、 その結果 ${\displaystyle {\rm {SQNR}}=20\log _{10}{2^{N}}=N\cdot (20\log _{10}2)=N\cdot 6.0206\,{\rm {dB}}}$、

または ビットあたり約6dB。例えば、${\displaystyle N}$=8ビット、${\displaystyle M}$=256レベル、SQNR = 8×6 = 48  dB。${\displaystyle N}$=16ビット、${\displaystyle M}$=65536、SQNR = 16×6 = 96  dB。量子化に使用される追加ビットごとにSQNRが6 dB改善するという特性は 、よく知られた性能指標です。ただし、この指標は注意深く使用する必要があります。この導出は、均一なソースに適用される均一な量子化器のみを対象としています。他のソースPDFや他の量子化器設計の場合、SQNRは PDFの種類、ソースの種類、量子化器の種類、および動作ビットレート範囲に応じて、6 dB/ビットで予測される値とは多少異なる場合があります。

しかし、多くのソースでは、十分高いビットレートで動作している場合、量子化器のSQNR関数の傾きは6  dB/ビットと近似できると想定するのが一般的です。漸近的に高いビットレートでは、ステップサイズを半分にすると、ビットレートがサンプルあたり約1ビット増加し（値が前の2倍のサイズの間隔の左半分か右半分かを示すために1ビット必要になるため）、平均二乗誤差は4分の1（つまり6  dB）減少します。${\displaystyle \Delta ^{2}/12}$近似値。

漸近的に高いビットレートでは、多くのソース PDF に対して 6  dB/bit 近似が厳密な理論解析によって支持されています。^{[ 2 ] [ 3 ] [ 5 ] [ 6 ]}さらに、最適なスカラー量子化器の構造 (レート歪みの意味で) は、これらの条件下では均一量子化器の構造に近づきます。^{[ 5 ] [ 6 ]}