中心極限定理

中心極限定理

タイプ	定理
分野	確率論
声明	有限の正の分散を持つiid ランダム変数のシーケンスのスケールされた合計は、分布において正規分布に収束します。
一般化	リンデバーグのCLT

確率論における中心極限定理( CLT ) は、適切な条件下では、標本平均の正規化された分布は標準正規分布に収束すると述べます。これは、元の変数自体が正規分布していない場合でも当てはまります。中心極限定理には複数のバージョンがあり、それぞれ異なる条件のコンテキストに適用されます。

この定理は、正規分布に有効な確率的および統計的手法が、他の種類の分布を含む多くの問題に適用できることを意味するため、確率論における重要な概念です。

この定理は確率論の正式な発展の過程で多くの変化を遂げてきました。定理の以前のバージョンは1811年に遡りますが、現代の形で正確に述べられたのは1920年になってからでした。^[1]

統計学では、CLTは次のように表現されます。は、期待値（平均）と有限の正の分散を持つ母集団から採取したサイズの統計標本を表し、 は標本平均（それ自体がランダム変数）を表します。の分布のとしての極限は、平均と分散を持つ正規分布です。^[2]${\displaystyle X_{1},X_{2},\dots ,X_{n}}$${\displaystyle n}$${\displaystyle \mu }$ ${\displaystyle \sigma ^{2}}$${\displaystyle {\bar {X}}_{n}}$${\displaystyle n\to \infty }$${\displaystyle ({\bar {X}}_{n}-\mu ){\sqrt {n}}}$${\displaystyle 0}$${\displaystyle \sigma ^{2}}$

言い換えると、観測値の大きなサンプルが得られ、各観測値は他の観測値に依存しない方法でランダムに生成され、観測値の平均 (算術平均) が計算されるとします。この手順を何度も実行して観測平均値の集合が得られた場合、中心極限定理によれば、サンプル サイズが十分に大きい場合、これらの平均値の確率分布は正規分布に近似します。

中心極限定理にはいくつかのバリエーションがあります。一般的な形式では、ランダム変数は独立かつ同一分布(iid) である必要があります。この要件は緩和することができ、特定の条件を満たす場合、非同一分布または非独立観測値でも平均が正規分布に収束します。

正規分布は二項分布の近似として使用できるというこの定理の最も古いバージョンは、ド・モアブル・ラプラスの定理です。

が期待値が与えられ、有限分散が与えられる分布を持つiidランダム変数の列であるとする。標本平均に興味があるとする。${\displaystyle \{X_{1},\ldots ,X_{n}}\}$${\displaystyle \mu }$${\displaystyle \sigma ^{2}.}$ $${\displaystyle {\bar {X}}_{n}\equiv {\frac {X_{1}+\cdots +X_{n}}{n}}.}$$

大数の法則により、標本平均はほぼ確実に（したがって確率的にも）期待値に収束する。${\displaystyle \mu }$${\displaystyle n\to \infty .}$

古典的な中心極限定理は、この収束中に決定論的数の周りで起こる確率的変動の大きさと分布形式を記述する。より正確には、が大きくなるにつれて、正規化された平均の分布、すなわちサンプル平均とその限界との差を係数 でスケールしたものが、平均と分散を持つ正規分布に近づくことを述べている。が十分に大きい場合、の分布は平均と分散を持つ正規分布に任意に近づく。${\displaystyle \mu }$${\displaystyle n}$${\displaystyle {\sqrt {n}}({\bar {X}}_{n}-\mu )}$${\displaystyle {\bar {X}}_{n}}$${\displaystyle \mu ,}$${\displaystyle {\sqrt {n}}}$${\displaystyle 0}$${\displaystyle \sigma ^{2}.}$${\displaystyle n,}$${\displaystyle {\bar {X}}_{n}}$${\displaystyle \mu }$${\displaystyle \sigma ^{2}/n.}$

この定理の有用性は、個々の分布の形状に関係なく、分布が正規分布に近づくことです。正式には、この定理は次のように述べることができます。 ${\displaystyle {\sqrt {n}}({\bar {X}}_{n}-\mu )}$${\displaystyle X_{i}.}$

の場合、分布の収束とは、 の累積分布関数が分布のcdfに点ごとに収束することを意味します。 は、 で評価された標準正規cdfで ある任意の実数に対して、収束は における一様であり、 は集合の最小の上限（または上限）を表します。 ^[5]${\displaystyle \sigma >0,}$${\displaystyle {\sqrt {n}}({\bar {X}}_{n}-\mu )}$${\displaystyle {\mathcal {N}}(0,\sigma ^{2})}$${\displaystyle z,}$ $${\displaystyle \lim _{n\to \infty }\mathbb {P} \left[{\sqrt {n}}({\bar {X}}_{n}-\mu )\leq z\right]=\lim _{n\to \infty }\mathbb {P} \left[{\frac {{\sqrt {n}}({\bar {X}}_{n}-\mu )}{\sigma }}\leq {\frac {z}{\sigma }}\right]=\Phi \left({\frac {z}{\sigma }}\right),}$$${\displaystyle \Phi (z)}$${\displaystyle z.}$${\displaystyle z}$$${\displaystyle \lim _{n\to \infty }\;\sup _{z\in \mathbb {R} }\;\left|\mathbb {P} \left[{\sqrt {n}}({\bar {X}}_{n}-\mu )\leq z\right]-\Phi \left({\frac {z}{\sigma }}\right)\right|=0~,}$$${\displaystyle \sup }$

この中心極限定理の変形では、ランダム変数は独立している必要がありますが、必ずしも同一に分布している必要はありません。この定理では、ランダム変数が何らかの順序のモーメントを持ち、これらのモーメントの増加率が以下に示すリャプノフ条件によって制限されることも要求されます。 ${\textstyle X_{i}}$${\textstyle \left|X_{i}\right|}$${\textstyle (2+\delta )}$

実際には、 に対するリャプノフの条件を確認するのが最も簡単です。${\textstyle \delta =1}$

ランダム変数のシーケンスが Lyapunov の条件を満たす場合、Lindeberg の条件も満たします。ただし、逆の含意は成り立ちません。

上記と同じ設定と表記で、リャプノフ条件は次のより弱い条件 ( 1920 年のLindebergによる) に置き換えることができます。

任意の に対して が指示関数であると仮定します。この場合、標準化された合計の分布は 標準正規分布 に収束します。${\textstyle \varepsilon >0}$ $${\displaystyle \lim _{n\to \infty }{\frac {1}{s_{n}^{2}}}\sum _{i=1}^{n}\operatorname {E} \left[(X_{i}-\mu _{i})^{2}\cdot \mathbf {1} _{\left\{\left|X_{i}-\mu _{i}\right|>\varepsilon s_{n}\right\}}\right]=0}$$${\textstyle \mathbf {1} _{\{\ldots \}}}$$${\displaystyle {\frac {1}{s_{n}}}\sum _{i=1}^{n}\left(X_{i}-\mu _{i}\right)}$$${\textstyle {\mathcal {N}}(0,1)}$

特性関数を使用する証明は、各個体が内のランダムベクトルで、平均ベクトルと共分散行列（ベクトルの成分間）を持ち、これらのランダムベクトルが独立かつ同一に分布している場合に拡張できます。多次元中心極限定理によれば、スケールすると、合計は多変量正規分布に収束します。^[7]これらのベクトルの合計は、成分ごとに行われます。 ${\textstyle \mathbf {X} _{i}}$${\textstyle \mathbb {R} ^{k}}$${\textstyle {\boldsymbol {\mu }}=\operatorname {E} [\mathbf {X} _{i}]}$ ${\textstyle \mathbf {\Sigma } }$

を独立したランダムベクトルとする 。ランダムベクトルの合計はであり 、その平均はである 。したがって、 ${\displaystyle i=1,2,3,\ldots ,}$$${\displaystyle \mathbf {X} _{i}={\begin{bmatrix}X_{i}^{(1)}\\\vdots \\X_{i}^{(k)}\end{bmatrix}}}$$${\displaystyle \mathbf {X} _{1},\ldots ,\mathbf {X} _{n}}$$${\displaystyle \sum _{i=1}^{n}\mathbf {X} _{i}={\begin{bmatrix}X_{1}^{(1)}\\\vdots \\X_{1}^{(k)}\end{bmatrix}}+{\begin{bmatrix}X_{2}^{(1)}\\\vdots \\X_{2}^{(k)}\end{bmatrix}}+\cdots +{\begin{bmatrix}X_{n}^{(1)}\\\vdots \\X_{n}^{(k)}\end{bmatrix}}={\begin{bmatrix}\sum _{i=1}^{n}X_{i}^{(1)}\\\vdots \\\sum _{i=1}^{n}X_{i}^{(k)}\end{bmatrix}}}$$$${\displaystyle \mathbf {{\bar {X}}_{n}} ={\begin{bmatrix}{\bar {X}}_{i}^{(1)}\\\vdots \\{\bar {X}}_{i}^{(k)}\end{bmatrix}}={\frac {1}{n}}\sum _{i=1}^{n}\mathbf {X} _{i}.}$$$${\displaystyle {\frac {1}{\sqrt {n}}}\sum _{i=1}^{n}\left[\mathbf {X} _{i}-\operatorname {E} \left(\mathbf {X} _{i}\right)\right]={\frac {1}{\sqrt {n}}}\sum _{i=1}^{n}(\mathbf {X} _{i}-{\boldsymbol {\mu }})={\sqrt {n}}\left({\overline {\mathbf {X} }}_{n}-{\boldsymbol {\mu }}\right).}$$

多変量中心極限定理は、 共 分散行列 が$${\displaystyle {\sqrt {n}}\left({\overline {\mathbf {X} }}_{n}-{\boldsymbol {\mu }}\right)\mathrel {\overset {d}{\longrightarrow }} {\mathcal {N}}_{k}(0,{\boldsymbol {\Sigma }}),}$$ ${\displaystyle {\boldsymbol {\Sigma }}}$$${\displaystyle {\boldsymbol {\Sigma }}={\begin{bmatrix}{\operatorname {Var} \left(X_{1}^{(1)}\right)}&\operatorname {Cov} \left(X_{1}^{(1)},X_{1}^{(2)}\right)&\operatorname {Cov} \left(X_{1}^{(1)},X_{1}^{(3)}\right)&\cdots &\operatorname {Cov} \left(X_{1}^{(1)},X_{1}^{(k)}\right)\\\operatorname {Cov} \left(X_{1}^{(2)},X_{1}^{(1)}\right)&\operatorname {Var} \left(X_{1}^{(2)}\right)&\operatorname {Cov} \left(X_{1}^{(2)},X_{1}^{(3)}\right)&\cdots &\operatorname {Cov} \left(X_{1}^{(2)},X_{1}^{(k)}\right)\\\operatorname {Cov} \left(X_{1}^{(3)},X_{1}^{(1)}\right)&\operatorname {Cov} \left(X_{1}^{(3)},X_{1}^{(2)}\right)&\operatorname {Var} \left(X_{1}^{(3)}\right)&\cdots &\operatorname {Cov} \left(X_{1}^{(3)},X_{1}^{(k)}\right)\\\vdots &\vdots &\vdots &\ddots &\vdots \\\operatorname {Cov} \left(X_{1}^{(k)},X_{1}^{(1)}\right)&\operatorname {Cov} \left(X_{1}^{(k)},X_{1}^{(2)}\right)&\operatorname {Cov} \left(X_{1}^{(k)},X_{1}^{(3)}\right)&\cdots &\operatorname {Var} \left(X_{1}^{(k)}\right)\\\end{bmatrix}}~.}$$

多変量中心極限定理はクラメール・ウォルドの定理を用いて証明することができる。^[7]

収束率は次のベリー・エッセン型の結果によって与えられます。

この要因が必要かどうかは不明である。^[9]${\textstyle d^{1/4}}$

一般化中心極限定理（GCLT）は、1920年から1937年にかけて複数の数学者（バーンスタイン、リンデバーグ、レヴィ、フェラー、コルモゴロフなど）によって研究されたものである。 ^{[10] GCLTの完全な証明は、1937年に}ポール・レヴィによってフランス語で初めて公表された。^{[11] GCLTの完全な証明の英語版は}、グネデンコとコルモゴロフの1954年の本の翻訳で入手できる。 ^[12]

GCLTの声明は次の通りである: ^[13]

非退化ランダム変数 Z が0 < α ≤ 2に対してα安定であるためには、ランダム変数 X ₁、X ₂、X ₃、... と定数 a _n > 0、b _n ∈ ℝの独立した同一分布の列が存在し、

a _n ( X ₁ + ... + X _n ) − b _n → Z。

ここで→は、ランダム変数の合計のシーケンスが分布に収束することを意味します。つまり、対応する分布は、 Fのすべての連続点でF _n ( y ) → F ( y )を満たします。

言い換えれば、独立した同一分布のランダム変数の和が分布的に何らかのZに収束する場合、Z は安定した分布でなければなりません。

独立した同一分布のランダム変数のシーケンスを一般化すると、離散時間における混合ランダムプロセスが便利になります。「混合」とは、大まかに言えば、互いに時間的に離れたランダム変数がほぼ独立していることを意味します。エルゴード理論と確率論では、いくつかの種類の混合が使用されています。特に、によって定義される強い混合(α 混合とも呼ばれます)を参照してください。ここで、はいわゆる強い混合係数です。 ${\textstyle \alpha (n)\to 0}$${\textstyle \alpha (n)}$

強混合下の中心極限定理の簡略化された定式化は次の通りである: ^[14]

実際、 シリーズが絶対的に収束する場所です。 $${\displaystyle \sigma ^{2}=\operatorname {E} \left(X_{1}^{2}\right)+2\sum _{k=1}^{\infty }\operatorname {E} \left(X_{1}X_{1+k}\right),}$$

は別の定常シーケンスであるため、漸近正規性が満たされないため、この仮定は省略できません。 ${\textstyle \sigma \neq 0}$${\textstyle X_{n}=Y_{n}-Y_{n-1}}$${\textstyle Y_{n}}$

この定理にはより強いバージョンがある。^[15]仮定はに置き換えられ、仮定は に置き換えられる。 ${\textstyle \operatorname {E} \left[X_{n}^{12}\right]<\infty }$${\textstyle \operatorname {E} \left[{\left|X_{n}\right|}^{2+\delta }\right]<\infty }$${\textstyle \alpha _{n}=O\left(n^{-5}\right)}$$${\displaystyle \sum _{n}\alpha _{n}^{\frac {\delta }{2(2+\delta )}}<\infty .}$$

そのようなものの存在は結論を保証します。混合条件における極限定理の百科事典的な扱いについては、(Bradley 2007) を参照してください。 ${\textstyle \delta >0}$

中心極限定理は特性関数を用いた証明がある。^{[18]これは（弱い）}大数の法則の証明に似ている。

は独立かつ同一分布するランダム変数で、それぞれ平均と有限分散 を持つものとします。合計は平均と分散 を持ちます。ランダム変数 について考えます 。ここで、最後のステップで、それぞれ平均 0 と分散 1 ( )を持つ 新しいランダム変数 を定義しました。の特性関数は で与えられます 。 ここで、 最後のステップで、 はすべて同一分布であるという事実を使用しました。テイラーの定理により、の特性関数 は、 よりも急速にゼロに向かうの関数に対する「小さなo表記」です。指数関数( )の極限により、の特性関数は に等しくなります。 ${\textstyle \{X_{1},\ldots ,X_{n},\ldots \}}$${\textstyle \mu }$${\textstyle \sigma ^{2}}$${\textstyle X_{1}+\cdots +X_{n}}$ ${\textstyle n\mu }$ ${\textstyle n\sigma ^{2}}$$${\displaystyle Z_{n}={\frac {X_{1}+\cdots +X_{n}-n\mu }{\sqrt {n\sigma ^{2}}}}=\sum _{i=1}^{n}{\frac {X_{i}-\mu }{\sqrt {n\sigma ^{2}}}}=\sum _{i=1}^{n}{\frac {1}{\sqrt {n}}}Y_{i},}$$${\textstyle Y_{i}={\frac {X_{i}-\mu }{\sigma }}}$${\textstyle \operatorname {var} (Y)=1}$${\textstyle Z_{n}}$$${\displaystyle \varphi _{Z_{n}}\!(t)=\varphi _{\sum _{i=1}^{n}{{\frac {1}{\sqrt {n}}}Y_{i}}}\!(t)\ =\ \varphi _{Y_{1}}\!\!\left({\frac {t}{\sqrt {n}}}\right)\varphi _{Y_{2}}\!\!\left({\frac {t}{\sqrt {n}}}\right)\cdots \varphi _{Y_{n}}\!\!\left({\frac {t}{\sqrt {n}}}\right)\ =\ \left[\varphi _{Y_{1}}\!\!\left({\frac {t}{\sqrt {n}}}\right)\right]^{n},}$$${\textstyle Y_{i}}$${\textstyle Y_{1}}$$${\displaystyle \varphi _{Y_{1}}\!\left({\frac {t}{\sqrt {n}}}\right)=1-{\frac {t^{2}}{2n}}+o\!\left({\frac {t^{2}}{n}}\right),\quad \left({\frac {t}{\sqrt {n}}}\right)\to 0}$$${\textstyle o(t^{2}/n)}$${\textstyle t}$${\textstyle t^{2}/n}$ ${\textstyle e^{x}=\lim _{n\to \infty }\left(1+{\frac {x}{n}}\right)^{n}}$${\displaystyle Z_{n}}$$${\displaystyle \varphi _{Z_{n}}(t)=\left(1-{\frac {t^{2}}{2n}}+o\left({\frac {t^{2}}{n}}\right)\right)^{n}\rightarrow e^{-{\frac {1}{2}}t^{2}},\quad n\to \infty .}$$

より高次の項はすべて、極限 で消えます。右辺は標準正規分布 の特性関数に等しく、これはレヴィの連続定理により、 の分布がに近づくことを意味します。したがって、標本平均は 正規分布 に収束する ようなものであり 、そこから中心極限定理が導かれます。 ${\textstyle n\to \infty }$${\textstyle {\mathcal {N}}(0,1)}$${\textstyle Z_{n}}$${\textstyle {\mathcal {N}}(0,1)}$${\textstyle n\to \infty }$ $${\displaystyle {\bar {X}}_{n}={\frac {X_{1}+\cdots +X_{n}}{n}}}$$$${\displaystyle {\frac {\sqrt {n}}{\sigma }}({\bar {X}}_{n}-\mu )=Z_{n}}$$${\textstyle {\mathcal {N}}(0,1)}$

中心極限定理は漸近分布のみを与える。有限個の観測値に対する近似値としては、正規分布のピークに近い場合にのみ妥当な近似値を与える。裾まで広がるには非常に多くの観測値が必要である。^[要出典]

中心極限定理における収束は、極限累積分布関数が連続しているため一様である。第3中心モーメント が存在し、それが有限である場合、収束速度は少なくとも のオーダーである（ベリー・エッセン定理を参照）。スタインの方法^[19]は、中心極限定理を証明するだけでなく、選択されたメトリックの収束速度の境界を提供するためにも使用できる。^[20]${\textstyle \operatorname {E} \left[(X_{1}-\mu )^{3}\right]}$${\textstyle 1/{\sqrt {n}}}$

正規分布への収束は、エントロピーが正規分布のエントロピーに対して単調に増加するという意味で単調である。 ^[21]${\textstyle Z_{n}}$

中心極限定理は、特に、独立かつ同一に分布する離散確率変数の和に適用されます。離散確率変数の和は依然として離散確率変数であるため、累積確率分布関数が連続変数（つまり、正規分布の累積確率分布関数）に対応する累積確率分布関数に収束する離散確率変数のシーケンスに直面します。これは、 n 個の独立した同一の離散変数の和の実現値のヒストグラムを作成すると、ヒストグラムを形成する長方形の上部の面の中心を結ぶ区分線形曲線は、n が無限大に近づくにつれてガウス曲線に収束することを意味します。この関係は、ド・モアブル・ラプラスの定理として知られています。二項分布の記事では、離散変数が 2 つの値のみを取る単純なケースへの中心極限定理のこのような適用について詳しく説明しています。

研究によると、中心極限定理にはいくつかの一般的だが重大な誤解があり、そのいくつかは広く使われている教科書にも記載されている。^{[22] [23] [24]}これには以下のものが含まれる。

• この定理は、反復サンプリングによって母集団から抽出されたiidランダム変数の平均値 (または合計) ではなく、任意の変数のランダム サンプリングに適用されるという誤った考え。つまり、この定理は、ランダム サンプリングによって、このようなランダム変数の平均値 (または合計) の異なる値から形成されるサンプリング分布が生成されるものと想定しています。
• 定理により、ランダム サンプリングによって、母集団の分布に関係なく、任意のランダム変数の十分に大きなサンプルに対して正規分布が出現することが保証されるという誤った考え。実際には、このようなサンプリングによって母集団の特性が漸近的に再現され、これはグリベンコ-カンテリの定理によって裏付けられた直感的な結果です。
• この定理は、標本サイズが約30を超える場合、正規分布の良い近似値をもたらし、^[25]母集団の性質に関係なく信頼性の高い推論を可能にするという誤った考えがあります。実際には、この経験的な経験則には正当な根拠がなく、重大な欠陥のある推論につながる可能性があります。近似値が成立する場所については、Z検定を参照してください。

大数の法則と中心極限定理は、「n が無限大に近づくにつれて、S _nの極限挙動はどうなるか」という一般的な問題に対する部分的な解です。数学的分析では、漸近級数は、このような質問に取り組むために使用される最も一般的なツールの 1 つです。

の漸近展開があるとします。 ${\textstyle f(n)}$$${\displaystyle f(n)=a_{1}\varphi _{1}(n)+a_{2}\varphi _{2}(n)+O{\big (}\varphi _{3}(n){\big )}\qquad (n\to \infty ).}$$

両方の部分をφ1 ( n )で割って極限値をとると、展開における最高次の項の係数である1が生成され、_これはf ( n )の主要項が変化する 速度を表します。$${\displaystyle \lim _{n\to \infty }{\frac {f(n)}{\varphi _{1}(n)}}=a_{1}.}$$

非公式には、「f ( n ) は、およそ₁ φ ₁ ( n )として増大する」と言うことができます。 f ( n )とその近似値の差を取り、展開の次の項で割ると、 f ( n )についてのより洗練された記述が得られます。 $${\displaystyle \lim _{n\to \infty }{\frac {f(n)-a_{1}\varphi _{1}(n)}{\varphi _{2}(n)}}=a_{2}.}$$

ここで、関数とその近似値の差は、およそ 2 φ 2 ( n ) で増加すると言えます。_関数を適切な正規化関数で割り、結果の極限挙動を見ると、元の関数自体の極限挙動について多くのことがわかるという考え方です。

非公式には、古典的な確率論で、独立した同一分布のランダム変数X ₁、...、X _nの合計S _{n を}^{研究すると、これと似たようなことが起こります。 [要出典]} 各X _{i が}有限の平均μ を持つ場合、大数の法則により、⁠S _n/ん⁠ → μ . ^[26] さらに各X _{i が}有限分散σ ²を持つ場合、中心極限定理により、 ξ は N ( 0, σ ² )として分布します。これにより、非公式展開の最初の2つの定数の値が与えられます。 $${\displaystyle {\frac {S_{n}-n\mu }{\sqrt {n}}}\to \xi ,}$$$${\displaystyle S_{n}\approx \mu n+\xi {\sqrt {n}}.}$$

X _{i が}有限の平均または分散を持たない 場合、シフトおよび再スケールされた合計の収束は、異なる中心化およびスケーリング係数でも発生する可能性があります。 または非公式には $${\displaystyle {\frac {S_{n}-a_{n}}{b_{n}}}\rightarrow \Xi ,}$$$${\displaystyle S_{n}\approx a_{n}+\Xi b_{n}.}$$

このようにして生じる分布Ξは安定分布と呼ばれます。^[27] 明らかに、正規分布は安定ですが、平均や分散が定義されていないコーシー分布などの他の安定分布も存在します。スケーリング係数b _{n は}、任意のc ≥ ⁠に対してn ^cに比例する場合があります。1/2⁠ ; また、 nのゆっくり変化する関数を掛け合わせることもできる。 ^{[28] [29]}

反復対数の法則は、大数の法則と中心極限定理の「間」で何が起きているかを指定します。具体的には、大数の法則のnと中心極限定理の√ nの中間のサイズである正規化関数√ n log log n が、自明でない極限動作を提供するというものです。

2つ以上の独立変数の和の密度は、それらの密度の畳み込みです（これらの密度が存在する場合）。したがって、中心極限定理は、畳み込みの下での密度関数の特性に関するステートメントとして解釈できます。つまり、密度関数の数が無制限に増加すると、多数の密度関数の畳み込みは正規密度に近づきます。これらの定理には、上記の中心極限定理の形式よりも強い仮説が必要です。このタイプの定理は、しばしば局所極限定理と呼ばれます。独立した同一分布のランダム変数の和に関する特定の局所極限定理については、 Petrov ^[30]を参照してください。

畳み込みの特性関数は、関係する密度の特性関数の積であるため、中心極限定理にはさらに別の言い方があります。つまり、上記の条件下では、密度関数の数が無制限に増加するにつれて、複数の密度関数の特性関数の積は、正規密度の特性関数に近づきます。具体的には、特性関数の引数に適切なスケーリング係数を適用する必要があります。

特性関数は本質的にフーリエ変換であるため、 フーリエ変換についても同等のことが言えます。

S _{n を}n 個のランダム変数の合計とします。多くの中心極限定理は、n → ∞のときにS _n / √ Var( S _n )が分布的にN (0,1) (平均 0、分散 1 の正規分布) に収束するような条件を提供します。場合によっては、定数σ ²と関数f(n) を見つけて、 n → ∞のときにS _n /(σ √ n⋅f ( n ) ) が分布的にN (0,1)に収束する可能性があります。

積の対数は、単純に因子の対数の合計です。したがって、正の値のみを取るランダム変数の積の対数が正規分布に近づくと、積自体は対数正規分布に近づきます。多くの物理量 (特に質量や長さはスケールの問題であり、負になることはありません) は、さまざまなランダム因子の積であるため、対数正規分布に従います。この中心極限定理の乗法バージョンは、ジブラの法則と呼ばれることもあります。

ランダム変数の和に対する中心極限定理は有限分散の条件を要求するが、積に対する対応する定理は密度関数が二乗積分可能であるという対応する条件を要求する。^[32]

漸近正規性、つまり適切なシフトと再スケーリング後の正規分布への収束は、上で扱った古典的なフレームワーク、つまり独立したランダム変数 (またはベクトル) の合計よりもはるかに一般的な現象です。新しいフレームワークが随時発表されていますが、今のところ単一の統一フレームワークは存在しません。

これら 2 つのε _nに近い分布には密度 (実際には対数凹密度) があるため、それらの間の総分散距離は密度間の差の絶対値の積分になります。総分散の収束は弱い収束よりも強くなります。

対数凹密度の重要な例としては、与えられた凸体の内側では関数が定数で外側では消えるというものがあります。これは凸体上の均一分布に対応し、「凸体の中心極限定理」という用語を説明しています。

別の例: f ( x ₁ , ..., x _n ) = const · exp(−(| x ₁ | ^α + ⋯ + | x _n | ^α ) ^β )ただし、α > 1かつαβ > 1です。β = 1の場合、f ( x ₁ , ..., x _n )はconst · exp (−| x ₁ | ^α ) … exp(−| x _n | ^α )に因数分解され、これはX ₁、...、X _nが独立していることを意味します。 ただし、一般には、それらは従属しています。

条件f ( x ₁ , ..., x _n ) = f (| x ₁ |, ..., | x _n |)は、 X ₁ , ..., X _nが平均ゼロで相関がないことを保証する。^{[要出典]しかし、それらは独立である必要はなく、}ペアワイズ独立である必要もない。^[要出典]ところで、ペアワイズ独立性は古典的な中心極限定理における独立性を置き換えることはできない。^[34]

以下はベリー・エッセン型の結果です。

⁠の分布X ₁ + ⋯ + X _n/√n​⁠ は近似的に正規分布である必要はない（実際、一様分布になることもある）。 ^[36]しかし、球面c上の一様分布によれば、 c ₁ X ₁ + ⋯ + c _n X _nの分布は、ほとんどのベクトル（c ₁、...、c _n）に対して（総変動距離において）に近い${\textstyle {\mathcal {N}}(0,1)}$²
₁+ ⋯ + c²
_位= 1。

2 より大きいすべての次元でも同じことが当てはまります。

多面体K _{n は}ガウス ランダム多面体と呼ばれます。

同様の結果は、ガウス多面体の頂点の数、辺の数、そして実際にはあらゆる次元の面の数にも当てはまります。^[40]

行列Mの線形関数は、その要素（与えられた係数を持つ）の線形結合、M ↦ tr( AM )です。ここで、A は係数の行列です。トレース (線形代数)#内積を参照してください。

ランダム直交行列は、その分布が直交群O( n , R )上の正規化されたハール測度である場合に、一様分布していると言われます。回転行列#一様ランダム回転行列を参照してください。

中心極限定理は結晶格子（有限グラフ上の無限折り畳み可換グラフ）上の単純ランダムウォークに対して確立され、結晶構造の設計に使用されます。 ^{[43] [44]}

中心極限定理の簡単な例としては、同じで偏りのないサイコロをたくさん振ることが挙げられます。振られた目の合計 (または平均) の分布は、正規分布でよく近似されます。現実世界の量は、多くの観測されていないランダムなイベントのバランスの取れた合計であることが多いため、中心極限定理は、正規確率分布の普及についても部分的に説明します。また、制御された実験で大規模なサンプル統計を正規分布に近似することも正当化します。

回帰分析、特に最小二乗法では、従属変数が何らかの関数に従って 1 つ以上の独立変数に依存し、誤差項が加算されることを指定します。回帰に関するさまざまなタイプの統計的推論では、誤差項が正規分布していると仮定します。この仮定は、誤差項が実際には多くの独立した誤差項の合計であると仮定することで正当化できます。個々の誤差項が正規分布していなくても、中心極限定理により、それらの合計は正規分布で十分に近似できます。

統計学におけるその重要性を考えると、中心極限定理に含まれる収束を実証する論文やコンピュータパッケージが数多く存在する。^[45]

オランダの数学者ヘンク・タイムスは次のように書いている: ^[46]

中心極限定理には興味深い歴史があります。この定理の最初のバージョンは、フランス生まれの数学者アブラアン・ド・モアブルによって提唱されました。彼は 1733 年に発表した注目すべき論文で、正規分布を使用して、公平なコインを何度も投げたときに表が出る回数の分布を近似しました。この発見は当時をはるかに先取りしていたため、有名なフランスの数学者ピエール・シモン・ラプラスが 1812 年に発表した記念碑的な著書「確率の分析理論」でこの発見を無名の状態から救い出すまで、ほとんど忘れ去られていました。ラプラスは、二項分布を正規分布で近似することで、ド・モアブルの発見を拡張しました。しかし、ド・モアブルと同様に、ラプラスの発見も当時はあまり注目されませんでした。中心極限定理の重要性が認識されたのは、19 世紀末になってからで、1901 年にロシアの数学者アレクサンドル・リャプノフが中心極限定理を一般的な言葉で定義し、数学的にどのように機能するかを正確に証明しました。今日では、中心極限定理は確率論の非公式の権威であると考えられています。

フランシス・ゴルトン卿は中心極限定理を次のように説明した。^[47]

「エラーの頻度の法則」によって表現される宇宙の秩序の素晴らしい形ほど想像力を刺激するものを私はほとんど知りません。もしギリシャ人がこの法則を知っていたなら、この法則は擬人化され、神格化されたことでしょう。この法則は、最も激しい混乱の真っ只中に、静けさと完全な自己の消失をもって君臨しています。群衆が大きければ大きいほど、そして見かけ上の無秩序が大きければ大きいほど、この法則の支配はより完璧になります。これは、非合理性の最高の法則です。混沌とした要素の大きなサンプルを取り上げ、その大きさの順序に従って整列させると、予期せぬ最も美しい形の規則性が最初からずっと潜在していたことがわかります。

実際の「中心極限定理」（ドイツ語では「zentraler Grenzwertsatz」）という用語は、 1920年にジョージ・ポリアが論文のタイトルで初めて使用しました。^{[48] [49]}ポリアは、確率論におけるその重要性から、この定理を「中心」と呼びました。ル・カンによると、フランス確率学派は「中心」という言葉を「分布の裾ではなく中心の挙動を説明する」という意味で解釈しています。 ^[49]ポリア^[48]が1920年に発表した論文「確率計算の中心極限定理とモーメント問題」の要約は、次のように翻訳されています。

繰り返しの実験、非常に多くの基本誤差と非常に小さな基本誤差の組み合わせをもたらす測定誤差、拡散過程などでのガウス確率密度1 = e ^{− x 2}の発生は、よく知られているように、確率計算で中心的な役割を果たすまさに同じ極限定理によって説明できます。この極限定理の実際の発見者はラプラスという名前です。その厳密な証明はおそらくチェビシェフによって最初に与えられ、その最も明確な定式化は、私が知る限り、リアポウノフの論文にあります...

定理の歴史については、ラプラスの基礎研究やコーシー、ベッセル、ポアソンの貢献を詳述した徹底的な説明がハルドによってなされている。^[50] 2つの歴史的説明、1つはラプラスからコーシーへの発展をカバーし、もう1つは1920年代のフォン・ミーゼス、ポリア、リンデバーグ、レヴィ、クラマーによる貢献をカバーし、ハンス・フィッシャーによって与えられている。 ^[51]ル・カムは1935年頃の期間について記述している。 ^[49]バーンスタイン^{[52]は、一般的な設定でCLTの最初の証明につながった}パフヌティ・チェビシェフと彼の学生アンドレイ・マルコフとアレクサンドル・リャプノフの研究に焦点を当てた歴史的議論を提示している。

中心極限定理の歴史に関する興味深い注釈は、1922年のリンデバーグ中心極限定理に似た結果の証明が、ケンブリッジ大学キングス・カレッジのアラン・チューリングの1934年のフェローシップ論文の主題であったことである。チューリングは論文を提出した後で初めて、それがすでに証明されていたことを知った。その結果、チューリングの論文は出版されなかった。^[53]

• 漸近等分割性
• 漸近分布
• ベイツ分布
• ベンフォードの法則– CLT をランダム変数の積に拡張した結果。
• ベリー・エッシーン定理
• 方向統計の中心極限定理– 方向統計の場合に適用される中心極限定理
• デルタ法- ランダム変数の関数の極限分布を計算します。
• エルデシュ・カッツ定理– 整数の素因数の数と正規確率分布を結び付ける
• フィッシャー・ティペット・グネデンコの定理– 極値に対する極限定理（ max{ X _n }など）
• アーウィン・ホール分布
• マルコフ連鎖の中心極限定理
• 正規分布
• トゥイーディー収束定理- 中心極限定理とポアソン収束定理の橋渡しとなる定理^[54]
• ドンスカーの定理

• Bárány, Imre ; Vu, Van (2007). 「ガウス多面体の中心極限定理」Annals of Probability . 35 (4). Institute of Mathematical Statistics: 1593–1621. arXiv : math/0610192 . doi :10.1214/009117906000000791. S2CID  9128253.
• バウアー、ハインツ (2001)。測定と積分理論。ベルリン：デ・グルイテル。ISBN 3110167190。
• ビリングスリー、パトリック（1995年）。確率と測定（第3版）。ジョン・ワイリー・アンド・サンズ。ISBN 0-471-00710-2。
• Bradley, Richard (2005). 「強混合条件の基本特性。調査といくつかの未解決の問題」。確率調査。2 : 107–144。arXiv : math /0511078。Bibcode : 2005math .....11078B。doi : 10.1214/154957805100000104。S2CID  8395267。
• ブラッドリー、リチャード (2007)。『強混合条件入門』（第 1 版）。ヒーバーシティ、ユタ州：ケンドリック プレス。ISBN 978-0-9740427-9-4。
• Dinov, Ivo; Christou, Nicolas; Sanchez, Juana (2008). 「中心極限定理: 新しい SOCR アプレットとデモンストレーション活動」. Journal of Statistics Education . 16 (2). ASA: 1–15. doi :10.1080/10691898.2008.11889560. PMC 3152447.  PMID 21833159.  2016-03-03 にオリジナルからアーカイブ。2008-08-23に取得。
• ダレット、リチャード（2004）。確率：理論と例（第3版）。ケンブリッジ大学出版局。ISBN 0521765390。
• フィッシャー、ハンス (2011)。中心極限定理の歴史: 古典的確率論から現代的確率論まで(PDF) 。数学と物理科学の歴史における資料と研究。ニューヨーク: シュプリンガー。doi :10.1007 / 978-0-387-87857-7。ISBN 978-0-387-87856-0. MR  2743162. Zbl  1226.60004. 2017-10-31 にオリジナルからアーカイブ(PDF)されました。
• Gaposhkin, VF (1966). 「Lacunary series and independent functions」. Russian Mathematical Surveys . 21 (6): 1–82. Bibcode :1966RuMaS..21....1G. doi :10.1070/RM1966v021n06ABEH001196. S2CID  250833638.。
• Klartag, Bo'az (2007). 「凸集合の中心極限定理」. Inventiones Mathematicae . 168 (1): 91–131. arXiv : math/0605014 . Bibcode :2007InMat.168...91K. doi :10.1007/s00222-006-0028-8. S2CID  119169773.
• Klartag, Bo'az (2008). 「無条件基底を持つ凸体のベリー・エッセン型不等式」.確率論と関連分野. 145 (1–2): 1–33. arXiv : 0705.0832 . doi :10.1007/s00440-008-0158-6. S2CID  10163322.

• カーンアカデミーの中心極限定理
• 「中心極限定理」。数学百科事典。EMS Press。2001 [1994]。
• Weisstein, Eric W.「中心極限定理」。MathWorld。
• カール・マクテーグによる、ゴルトンボードを使った中心極限定理を説明するミュージックビデオ