加法性白色ガウスノイズ

加法性ホワイトガウスノイズ( AWGN ) は、情報理論で自然界で発生する多くのランダムプロセスの影響を模倣するために使用される基本的なノイズモデルです。修飾子は特定の特性を表します。

• 情報システムに固有の可能性のあるノイズに追加されるため、付加的です。
• 白は、情報システムの周波数帯域全体にわたって均一なパワースペクトル密度を持つという考えを指します。これは、可視スペクトルのすべての周波数で均一な放射によって実現される白色に似ています。
• ガウス分布は、時間領域で正規分布し、平均時間領域値がゼロであるためです(ガウス過程)。

広帯域ノイズは、導体内の原子の熱振動（熱ノイズまたはジョンソン・ナイキストノイズと呼ばれる）、ショットノイズ、地球やその他の暖かい物体からの黒体放射、太陽などの天体源など、多くの自然ノイズ源から発生します。確率論の中心極限定理は、多くのランダムプロセスの合計がガウス分布または正規分布と呼ばれる分布になる傾向があることを示しています。

AWGN は、通信の唯一の障害が一定のスペクトル密度(帯域幅の1 ヘルツあたりのワット数として表される) と振幅のガウス分布を持つ広帯域ノイズまたはホワイト ノイズの線形追加であるチャネル モデルとしてよく使用されます。このモデルは、フェージング、周波数選択性、干渉、非線形性、または分散を考慮しません。ただし、他の現象を考慮する前に、システムの基本的な動作を理解するのに役立つ、シンプルで扱いやすい数学モデルを生成します。

AWGN チャネルは、多くの衛星および深宇宙通信リンクに適したモデルです。マルチパス、地形によるブロッキング、干渉などがあるため、ほとんどの地上リンクには適していません。ただし、地上パスのモデリングでは、AWGN は、マルチパス、地形によるブロッキング、干渉、地上の乱れ、および現代の無線システムが地上での操作で遭遇する自己干渉に加えて、調査対象のチャネルのバックグラウンド ノイズをシミュレートするためによく使用されます。

AWGN チャネルは、離散時間イベント インデックス における一連の出力によって表されます。は入力とノイズの合計です。ここで、 は独立かつ同一に分布し、分散(ノイズ)を持つゼロ平均正規分布から抽出されます。 はと相関がないものと想定されます。 ${\displaystyle Y_{i}}$${\displaystyle i}$${\displaystyle Y_{i}}$${\displaystyle X_{i}}$${\displaystyle Z_{i}}$${\displaystyle Z_{i}}$ ${\displaystyle N}$${\displaystyle Z_{i}}$${\displaystyle X_{i}}$

${\displaystyle Z_{i}\sim {\mathcal {N}}(0,N)\,\!}$

${\displaystyle Y_{i}=X_{i}+Z_{i}.\,\!}$

ノイズがゼロでない限り、チャネルの容量は無限であり、十分に制約されています。入力に対する最も一般的な制約は、いわゆる「電力」制約であり、チャネルを介して送信されるコードワードに対して、次のことが求められます。 ${\displaystyle N}$${\displaystyle X_{i}}$${\displaystyle (x_{1},x_{2},\dots ,x_{k})}$

${\displaystyle {\frac {1}{k}}\sum _{i=1}^{k}x_{i}^{2}\leq P,}$

ここで、最大チャネル電力を表します。したがって、電力制限チャネルのチャネル容量は次のように表されます。 ^{[説明が必要]}${\displaystyle P}$

${\displaystyle C=\max \left\{I(X;Y):f{\text{ st }}E\left(X^{2}\right)\leq P\right\}\,\!}$

ここで はの分布です。 を展開し、これを微分エントロピーの観点から書き表します。 ${\displaystyle f}$${\displaystyle X}$${\displaystyle I(X;Y)}$

${\displaystyle {\begin{aligned}&I(X;Y)=h(Y)-h(Y\mid X)\\[5pt]={}&h(Y)-h(X+Z\mid X)\\[5pt]={}&h(Y)-h(Z\mid X)\end{aligned}}\,\!}$

しかし、 とは独立しているので、次のようになります。 ${\displaystyle X}$${\displaystyle Z}$

${\displaystyle I(X;Y)=h(Y)-h(Z)\,\!}$

ガウス分布の 微分エントロピーを評価すると次のようになります。

${\displaystyle h(Z)={\frac {1}{2}}\log(2\pi eN)\,\!}$

と は独立しており、それらの和は次のようになる。 ${\displaystyle X}$${\displaystyle Z}$${\displaystyle Y}$

${\displaystyle E(Y^{2})=E((X+Z)^{2})=E(X^{2})+2E(X)E(Z)+E(Z^{2})\leq P+N\,\!}$

この境界から、微分エントロピーの性質から次のことが推測される。

${\displaystyle h(Y)\leq {\frac {1}{2}}\log(2\pi e(P+N))\,\!}$

したがって、チャネル容量は相互情報量の達成可能な最高限界によって与えられる。

${\displaystyle I(X;Y)\leq {\frac {1}{2}}\log(2\pi e(P+N))-{\frac {1}{2}}\log(2\pi eN)\,\!}$

が最大化されるのは次の場合です: ${\displaystyle I(X;Y)}$

${\displaystyle X\sim {\mathcal {N}}(0,P)\,\!}$

したがって、 AWGN チャネルの チャネル容量は次のように表されます。${\displaystyle C}$

${\displaystyle C={\frac {1}{2}}\log \left(1+{\frac {P}{N}}\right)\,\!}$

から（異なるメッセージの数）までのインデックスを持つチャネルを通じてメッセージを送信しているとします。メッセージをビットにエンコードする場合、レートは次のように定義されます。 ${\displaystyle 1}$${\displaystyle M}$${\displaystyle M}$${\displaystyle n}$${\displaystyle R}$

${\displaystyle R={\frac {\log M}{n}}\,\!}$

無限大に近づくにつれてエラーの最大確率がゼロに近づくようなコードシーケンスがある場合、そのレートは達成可能であると言われます。容量は達成可能な最高レートです。 ${\displaystyle n}$${\displaystyle C}$

ノイズ レベル の AWGN チャネルを介して送信された長さ のコードワードについて考えます。受信時に、コードワード ベクトルの分散は となり、その平均は送信されたコードワードになります。ベクトルは、送信されたコードワードの周囲の半径 の球内に含まれる可能性が非常に高くなります。受信したすべてのメッセージをこの球の中心にあるコードワードにマッピングしてデコードすると、受信したベクトルがこの球の外にある場合にのみエラーが発生しますが、これは非常にまれです。 ${\displaystyle n}$${\displaystyle N}$${\displaystyle N}$${\textstyle {\sqrt {n(N+\varepsilon )}}}$

各コードワード ベクトルには、それにデコードされる受信コードワード ベクトルの球が関連付けられており、各球はコードワードに一意にマッピングされる必要があります。これらの球は交差してはならないため、球のパッキングという問題に直面します。 ビットのコードワード ベクトルには、いくつの異なるコードワードをパッキングできるでしょうか。受信ベクトルは最大エネルギーが であるため、半径 の球を占有する必要があります。各コードワード球の半径は です。n次元球の体積は に正比例するため、送信電力Pで球にパッキングできる一意にデコード可能な球の最大数は次のとおりです。 ${\displaystyle n}$${\displaystyle n(P+N)}$${\textstyle {\sqrt {n(P+N)}}}$${\displaystyle {\sqrt {nN}}}$${\displaystyle r^{n}}$

${\displaystyle {\frac {(n(P+N))^{n/2}}{(nN)^{n/2}}}=2^{(n/2)\log \left(1+P/N\right)}\,\!}$

この議論によれば、レートR は以下になります。 ${\displaystyle {\frac {1}{2}}\log \left(1+{\frac {P}{N}}\right)}$

このセクションでは、前のセクションで示したレートの上限の達成可能性を示します。

エンコーダとデコーダの両方に知られているコードブックは、長さn、分散と平均がゼロの iid ガウスのコードワードを選択することによって生成されます。n が大きい場合、コードブックの実験的分散はその分布の分散に非常に近くなり、それによって確率的に電力制約の違反を回避します。 ${\displaystyle P-\varepsilon }$

受信メッセージは、一意に共通に典型的なコードブック内のメッセージにデコードされます。そのようなメッセージが存在しない場合、または電力制約に違反している場合は、デコード エラーが宣言されます。

がメッセージのコードワードを表し、が前と同様に受信ベクトルを表すものとします。次の 3 つのイベントを定義します。 ${\displaystyle X^{n}(i)}$${\displaystyle i}$${\displaystyle Y^{n}}$

1. イベント: 受信したメッセージの電力は より大きいです。${\displaystyle U}$${\displaystyle P}$
2. イベント: 送信されたコードワードと受信されたコードワードは共同で典型的ではありません。${\displaystyle V}$
3. イベント:は、の典型的な集合にあります。つまり、誤ったコードワードは、受信ベクトルと共同で典型的なものです。${\displaystyle E_{j}}$${\displaystyle (X^{n}(j),Y^{n})}$${\displaystyle A_{\varepsilon }^{(n)}}$${\displaystyle i\neq j}$

したがって、または のいずれかが発生すると、エラーが発生します。大数の法則により、n が無限大に近づくにつれて はゼロになり、漸近等分割法則により、同じことが にも適用されます。したがって、十分に大きい に対して、およびはそれぞれ 未満になります。と はに対して独立しているため、およびも独立であることがわかります。したがって、漸近等分割法則により、 です。これにより、エラーの確率 を次のように 計算できます。${\displaystyle U}$${\displaystyle V}$${\displaystyle E_{i}}$${\displaystyle P(U)}$${\displaystyle P(V)}$${\displaystyle n}$${\displaystyle P(U)}$${\displaystyle P(V)}$${\displaystyle \varepsilon }$${\displaystyle X^{n}(i)}$${\displaystyle X^{n}(j)}$${\displaystyle i\neq j}$${\displaystyle X^{n}(i)}$${\displaystyle Y^{n}}$${\displaystyle P(E_{j})=2^{-n(I(X;Y)-3\varepsilon )}}$${\displaystyle P_{e}^{(n)}}$

${\displaystyle {\begin{aligned}P_{e}^{(n)}&\leq P(U)+P(V)+\sum _{j\neq i}P(E_{j})\\&\leq \varepsilon +\varepsilon +\sum _{j\neq i}2^{-n(I(X;Y)-3\varepsilon )}\\&\leq 2\varepsilon +(2^{nR}-1)2^{-n(I(X;Y)-3\varepsilon )}\\&\leq 2\varepsilon +(2^{3n\varepsilon })2^{-n(I(X;Y)-R)}\\&\leq 3\varepsilon \end{aligned}}}$

したがって、n が無限大に近づくと、はゼロになり、になります。したがって、前に導出した容量に任意に近いレート R のコードが存在します。 ${\displaystyle P_{e}^{(n)}}$${\displaystyle R<I(X;Y)-3\varepsilon }$

ここでは、容量を超えるレートは達成できないことを示します。 ${\displaystyle C={\frac {1}{2}}\log \left(1+{\frac {P}{N}}\right)}$

コードブックの電力制約が満たされ、さらにメッセージが均一分布に従うと仮定します。を入力メッセージ、 を出力メッセージとします。したがって、情報は次のように流れます。 ${\displaystyle W}$${\displaystyle {\hat {W}}}$

${\displaystyle W\longrightarrow X^{(n)}(W)\longrightarrow Y^{(n)}\longrightarrow {\hat {W}}}$

ファノの不等式を利用すると次のようになります。

${\displaystyle H(W\mid {\hat {W}})\leq 1+nRP_{e}^{(n)}=n\varepsilon _{n}}$一方​${\displaystyle \varepsilon _{n}\rightarrow 0}$${\displaystyle P_{e}^{(n)}\rightarrow 0}$

をコードワードインデックスiのエンコードされたメッセージとします。 ${\displaystyle X_{i}}$

${\displaystyle {\begin{aligned}nR&=H(W)\\&=I(W;{\hat {W}})+H(W\mid {\hat {W}})\\&\leq I(W;{\hat {W}})+n\varepsilon _{n}\\&\leq I(X^{(n)};Y^{(n)})+n\varepsilon _{n}\\&=h(Y^{(n)})-h(Y^{(n)}\mid X^{(n)})+n\varepsilon _{n}\\&=h(Y^{(n)})-h(Z^{(n)})+n\varepsilon _{n}\\&\leq \sum _{i=1}^{n}h(Y_{i})-h(Z^{(n)})+n\varepsilon _{n}\\&\leq \sum _{i=1}^{n}I(X_{i};Y_{i})+n\varepsilon _{n}\end{aligned}}}$

インデックス i のコードワードの平均電力を次のように します。${\displaystyle P_{i}}$

${\displaystyle P_{i}={\frac {1}{2^{nR}}}\sum _{w}x_{i}^{2}(w)\,\!}$

ここで、合計はすべての入力メッセージにわたって行われます。とは独立しているので、ノイズレベル に対するの累乗の期待値は次のようになります。 ${\displaystyle w}$${\displaystyle X_{i}}$${\displaystyle Z_{i}}$${\displaystyle Y_{i}}$${\displaystyle N}$

${\displaystyle E(Y_{i}^{2})=P_{i}+N\,\!}$

そして、正規分布している場合は、 ${\displaystyle Y_{i}}$

${\displaystyle h(Y_{i})\leq {\frac {1}{2}}\log {2\pi e}(P_{i}+N)\,\!}$

したがって、

${\displaystyle {\begin{aligned}nR&\leq \sum (h(Y_{i})-h(Z_{i}))+n\varepsilon _{n}\\&\leq \sum \left({\frac {1}{2}}\log(2\pi e(P_{i}+N))-{\frac {1}{2}}\log(2\pi eN)\right)+n\varepsilon _{n}\\&=\sum {\frac {1}{2}}\log \left(1+{\frac {P_{i}}{N}}\right)+n\varepsilon _{n}\end{aligned}}}$

ジェンセンの等式をxの凹関数に適用すると、次の式が得られます。 ${\displaystyle \log(1+x)}$

${\displaystyle {\frac {1}{n}}\sum _{i=1}^{n}{\frac {1}{2}}\log \left(1+{\frac {P_{i}}{N}}\right)\leq {\frac {1}{2}}\log \left(1+{\frac {1}{n}}\sum _{i=1}^{n}{\frac {P_{i}}{N}}\right)\,\!}$

各コードワードは個別に電力制約を満たすため、平均も電力制約を満たします。したがって、

${\displaystyle {\frac {1}{n}}\sum _{i=1}^{n}{\frac {P_{i}}{N}},\,\!}$

これを適用して上記の不等式を簡略化すると次の式が得られます。

${\displaystyle {\frac {1}{2}}\log \left(1+{\frac {1}{n}}\sum _{i=1}^{n}{\frac {P_{i}}{N}}\right)\leq {\frac {1}{2}}\log \left(1+{\frac {P}{N}}\right).\,\!}$

したがって、 でなければなりません。したがって、R は、 として、前に導出された容量に任意に近い値よりも小さくなければなりません。 ${\displaystyle R\leq {\frac {1}{2}}\log \left(1+{\frac {P}{N}}\right)+\varepsilon _{n}}$${\displaystyle \varepsilon _{n}\rightarrow 0}$

シリアル データ通信では、ランダムジッタ(RJ) によって発生するタイミング エラーをモデル化するために AWGN 数学モデルが使用されます。

右のグラフは、AWGNに関連するタイミングエラーの例を示しています。変数Δtはゼロ交差の不確実性を表します。AWGNの振幅が増加すると、信号対雑音比は低下します。その結果、不確実性Δtが増加します。 [ ^1]

AWGNの影響を受けると、入力が正弦波の場合、狭帯域フィルタの出力における1秒あたりの正方向または負方向のゼロ交差の平均数は、

${\displaystyle {\begin{aligned}&{\frac {\text{positive zero crossings}}{\text{second}}}={\frac {\text{negative zero crossings}}{\text{second}}}\\[8pt]={}&f_{0}{\sqrt {\frac {{\text{SNR}}+1+{\frac {B^{2}}{12f_{0}^{2}}}}{{\text{SNR}}+1}}},\end{aligned}}}$

どこ

ƒ ₀ = フィルタの中心周波数、

B = フィルタ帯域幅、

SNR = 線形用語での信号対雑音電力比。

現代の通信システムでは、帯域制限された AWGN を無視することはできません。位相器領域で帯域制限された AWGN をモデル化すると、統計分析により、実数と虚数の寄与の振幅はガウス分布モデルに従う独立変数であることがわかります。組み合わせると、結果として得られる位相器の振幅はレイリー分布のランダム変数になり、位相は 0 から 2 πまで均一に分布します。

右のグラフは、帯域制限された AWGN がコヒーレントな搬送波信号にどのような影響を与えるかの例を示しています。ノイズ ベクトルの瞬間的な応答を正確に予測することはできませんが、その時間平均応答は統計的に予測できます。グラフに示されているように、ノイズ位相子は 1 σ円内に約 38%、2 σ円内に約 86% 、3 σ円内に約 98% の時間存在すると自信を持って予測できます。^[1]

• グラウンドバウンス
• 雑音のある通信路の符号化定理
• ガウス過程