中心極限定理の図解

まず、確率密度関数から始めます。この関数は不連続ではありますが、作成可能な最も極端な例とは程遠いものです。これは、次数が0と1の区分的多項式です。この分布の平均は0、標準偏差は1です。

次に、それぞれが上記の密度を持つ2つの独立変数の和の密度を計算します。和の密度は、上記の密度とそれ自身との畳み込みです。

2つの変数の合計の平均は0です。右図に示されている密度は、$\displaystyle {\sqrt {2}}}$そのため、標準偏差は1になります。

この密度分布は、元の密度分布よりも既に滑らかになっています。ただし、元の密度分布が定義された区間に対応する明らかな隆起が見られます。

次に、それぞれが上記の密度を持つ3つの独立変数の合計の密度を計算します。合計の密度は、最初の密度と2番目の密度の畳み込みです。

3つの変数の合計の平均は0です。右図に示されている密度は√3で再スケーリングされているため、標準偏差は1です。

この密度分布は、前のものよりもさらに滑らかです。この図では、凹凸はほとんど見られません。

最後に、それぞれが上記の密度を持つ4つの独立変数の合計の密度を計算します。合計の密度は、最初の密度と3番目の密度の畳み込み（または2番目の密度とそれ自身との畳み込み）によって求められます。

4つの変数の合計の平均は0です。右図に示されている密度は√4で再スケーリングされているため、標準偏差は1です。

この密度は、質的には通常の密度と非常によく似ているように見える。肉眼ではしこりは確認できない。

離散確率変数Xの確率分布において、1、2、3に等しい重みが割り当てられていると仮定します。

${\displaystyle X=\left\{{\begin{matrix}1&{\mbox{確率}}\ {\mbox{1/3},\\2&{\mbox{確率}}\ {\mbox{1/3},\\3&{\mbox{確率}}\ {\mbox{1/3}.\end{matrix}}\right.}$

確率変数Xの確率質量関数は、次の棒グラフで表すことができます。

これは明らかに正規分布のベル型曲線とは全く似ていない。上記の図と下記の図を比較してみよう。

次に、 Xの2つの独立したコピーの合計を考えてみましょう。

${\displaystyle \left\{{\begin{matrix}1+1&=&2\\1+2&=&3\\1+3&=&4\\2+1&=&3\\2+2&=&4\\2+3&=&5\\3+1&=&4\\3+2&=&5\\3+3&=&6\end{matrix}}\right\}=\left\{{\begin{matrix}2&{\mbox{確率}}\ {\mbox{1/9}\\3&{\mbox{確率}}\ {\mbox{2/9}\\4&{\mbox{確率}}\ {\mbox{3/9}\\5&{\mbox{確率}}\ {\mbox{2/9}\\6&{\mbox{確率}}\ {\mbox{2/9}\ 1/9\end{matrix}}\right\}}$

この和の確率質量関数は、次のように表すことができます。

これはまだベル型の曲線とはあまり似ていませんが、ベル型の曲線と同様に、X自体の確率質量関数とは異なり、中央部が両端よりも高くなっています。

次に、この確率変数の独立した3つのコピーの合計を考えてみましょう。

${\displaystyle \left\{{\begin{matrix}1+1+1&=&3\\1+1+2&=&4\\1+1+3&=&5\\1+2+1&=&4\\1+2+2&=&5\\1+2+3&=&6\\1+3+1&=&5\\1+3+2&=&6\\1+3+3&=&7\\2+1+1&=&4\\2+1+2&=&5\\2+1+3&=&6\\2+2+1&=&5\\2+2+2&=&6\\2+2+3&=&7\\2 +3+1&=&6\\2+3+2&=&7\\2+3+3&=&8\\3+1+1&=&5\\3+1+2&=&6\\3+1+3&=&7\\3+2+1&=&6\\3+2+2&=&7\\3+2+3&=&8\\3+3+1&=&7\\3+3+2&=&8\\3+3+3&=&9\end{matrix}}\right\}=\left\{{\begin{matrix}3&{\mbox{with}}\確率 1/27 の場合 4&確率 3/27 の場合 5&確率 6/27 の場合 6&確率 7/27 の場合 7&確率 6/27 の場合 8&確率 3/27 の場合 9&確率 1/27 の場合$

この和の確率質量関数は、次のように表すことができます。

これは中央部が両端部よりも大きいだけでなく、両端部から中央部に向かって移動すると、ベル型の曲線と同様に、傾きが最初は増加し、その後減少する。

ベル型曲線との類似度は、以下のように定量化できる。

Pr( X ₁ + X ₂ + X ₃ ≤ 7) = 1/27 + 3/27 + 6/27 + 7/27 + 6/27 = 23/27 = 0.85185... 。

これは通常の近似値にどれだけ近いでしょうか？ Y = X ₁ + X ₂ + X _{3の期待値は 6 であり、} Yの標準偏差は2 の平方根であることが容易にわかります。Y ≤ 7 (弱い不等式) はY < 8 (厳密な不等式)の場合に限り成り立つため、連続性補正を使用して、

${\displaystyle {\mbox{Pr}}(Y\leq 7.5)={\mbox{P}}\left({Y-6 \over {\sqrt {2}}}\leq {7.5-6 \over {\sqrt {2}}}\right)={\mbox{Pr}}(Z\leq 1.0606602\dots )=0.85558\dots }$

ここで、Zは標準正規分布に従います。追加された独立な確率変数の数がわずか3つであることを考えると、0.85185...と0.85558...の差は驚くほど小さいように見えます。

以下の画像は、このページで紹介した例に基づいたシミュレーションの結果を示しています。一様分布からの抽出を1,000回繰り返し、その結果を合計しています。

このシミュレーションはモンテカルロ法に基づいているため、処理は10,000回繰り返されます。その結果、1,000回の均一抽出の合計の分布は、ベル型の曲線に非常によく似ていることが示されました。