確率分布
確率論 と 統計学 において 、 正規分布 または ガウス分布は、 実数値の ランダム変数 に対する 連続確率分布 の一種である。その 確率密度関数 の一般的な形式は [ 要出典 ] である
。
f
(
x
)
=
1
2
π
σ
2
e
−
(
x
−
μ
)
2
2
σ
2
.
{\displaystyle f(x)={\frac {1}{\sqrt {2\pi \sigma ^{2}}}}e^{-{\frac {(x-\mu )^{2}}{2\sigma ^{2}}}}\,.}
パラメータは 分布の 平均 または 期待値(および 中央値 と 最頻値 )であり 、パラメータは 分散 です 。 分布の 標準偏差 は(シグマ)です。ガウス分布のランダム変数は 正規分布して いると言われ、 正規偏差 と呼ばれます。
μ
{\textstyle \mu }
σ
2
{\textstyle \sigma ^{2}}
σ
{\textstyle \sigma }
正規分布は統計学 において重要であり、 分布が不明な 実数値の ランダム変数を表すために 自然 科学や 社会科学 でよく使用されます。 [2] [3]正規分布の重要性は、 中心極限定理 に一部起因しています 。中心極限定理は、ある条件下では、有限の平均と分散を持つランダム変数の多数のサンプル(観測値)の平均は、それ自体がランダム変数であり、その分布はサンプル数が増えるにつれて正規分布に 収束することを述べています。したがって、 測定誤差 などの多くの独立したプロセスの合計であると予想される物理量は 、ほぼ正規分布になることがよくあります。 [4]
さらに、ガウス分布には、分析研究において価値のあるいくつかのユニークな特性があります。たとえば、独立した正規偏差の固定された集合の任意の 線形結合は、正規偏差です。 不確実性の伝播 や 最小二乗法 [5] パラメータフィッティングなどの多くの結果と方法は、 関連する変数が正規分布している場合、明示的な形式で分析的に導くことができます。
正規分布は非公式には ベル曲線 と呼ばれることもあります。 [6] しかし、他の多くの分布も ベル曲線です( コーシー分布 、 スチューデントの t分布 、 ロジスティック 分布など)。(他の名前については 命名 を参照してください 。)
単変量確率分布は 、 多変量正規分布 の ベクトルと 行列正規分布 の行列 に対して一般化されます 。
定義
標準正規分布
正規分布の最も単純なケースは、 標準正規分布 または 単位正規分布 として知られています。これは、 およびの場合の特殊なケースであり、次の 確率密度関数 (または密度)によって記述されます 。
変数 の平均は 0、分散と標準偏差は 1 です。密度は で ピークを持ち 、 および で 変曲点を 持ちます。
μ
=
0
{\textstyle \mu =0}
σ
2
=
1
{\textstyle \sigma ^{2}=1}
φ
(
z
)
=
e
−
z
2
2
2
π
.
{\displaystyle \varphi (z)={\frac {e^{\frac {-z^{2}}{2}}}{\sqrt {2\pi }}}\,.}
z
{\textstyle z}
φ
(
z
)
{\textstyle \varphi (z)}
1
2
π
{\textstyle {\frac {1}{\sqrt {2\pi }}}}
z
=
0
{\textstyle z=0}
z
=
+
1
{\textstyle z=+1}
z
=
−
1
{\textstyle z=-1}
上記の密度は 標準正規分布として最もよく知られていますが、 他のバージョンの正規分布を説明するためにこの用語を使用している著者もいます。 たとえば、
カール・フリードリヒ・ガウスはかつて標準正規分布を
の分散を持つと定義し 、 スティーブン・スティグラー [7] はかつて標準正規分布を
の単純な関数形式で分散を持つと定義しました。
φ
(
z
)
=
e
−
z
2
π
,
{\displaystyle \varphi (z)={\frac {e^{-z^{2}}}{\sqrt {\pi }}},}
1
2
{\displaystyle {\frac {1}{2}}}
φ
(
z
)
=
e
−
π
z
2
,
{\displaystyle \varphi (z)=e^{-\pi z^{2}},}
σ
2
=
1
2
π
.
{\textstyle \sigma ^{2}={\frac {1}{2\pi }}.}
一般正規分布
すべての正規分布は標準正規分布のバージョンであり、その定義域は係数(標準偏差) によって引き伸ばされ、次に 係数 (平均値) によって変換されます。
σ
{\textstyle \sigma }
μ
{\textstyle \mu }
f
(
x
∣
μ
,
σ
2
)
=
1
σ
φ
(
x
−
μ
σ
)
.
{\displaystyle f(x\mid \mu ,\sigma ^{2})={\frac {1}{\sigma }}\varphi \left({\frac {x-\mu }{\sigma }}\right)\,.}
確率密度は、積分 が 1 のままになるように スケーリングする必要があります 。
1
/
σ
{\textstyle 1/\sigma }
が標準正規偏差 である 場合 、 は期待値 と標準偏差 の正規分布を持ちます 。これは、標準正規分布を の係数で拡大/縮小し 、 だけシフトして、 と呼ばれる別の正規分布を生成できるということと同じです 。逆に、 がパラメータ および の正規偏差である場合 、この 分布は、式 によって再拡大縮小およびシフトされ、 標準正規分布に変換されます。この変量は の標準化された形式とも呼ばれます 。
Z
{\textstyle Z}
X
=
σ
Z
+
μ
{\textstyle X=\sigma Z+\mu }
μ
{\textstyle \mu }
σ
{\textstyle \sigma }
Z
{\textstyle Z}
σ
{\textstyle \sigma }
μ
{\textstyle \mu }
X
{\textstyle X}
X
{\textstyle X}
μ
{\textstyle \mu }
σ
2
{\textstyle \sigma ^{2}}
X
{\textstyle X}
Z
=
(
X
−
μ
)
/
σ
{\textstyle Z=(X-\mu )/\sigma }
X
{\textstyle X}
表記
標準ガウス分布(平均ゼロ、分散1の標準正規分布)の確率密度は、ギリシャ文字の ( ファイ )で表されることが多い。 [8] ギリシャ文字ファイの代替形で ある もよく使われる。
ϕ
{\textstyle \phi }
φ
{\textstyle \varphi }
正規分布はしばしば またはと呼ばれる 。 [9] したがって、ランダム変数が平均 と標準偏差 で正規分布している場合 、次のように書くことができる。
N
(
μ
,
σ
2
)
{\textstyle N(\mu ,\sigma ^{2})}
N
(
μ
,
σ
2
)
{\textstyle {\mathcal {N}}(\mu ,\sigma ^{2})}
X
{\textstyle X}
μ
{\textstyle \mu }
σ
{\textstyle \sigma }
X
∼
N
(
μ
,
σ
2
)
.
{\displaystyle X\sim {\mathcal {N}}(\mu ,\sigma ^{2}).}
代替パラメータ化
分布の幅を定義するパラメータとして、標準偏差 や分散の代わりに 精度 を使うことを提唱する著者もいる 。精度は通常、分散の逆数として定義される。 [ 10] 分布の式は次のようになる。
τ
{\textstyle \tau }
σ
{\textstyle \sigma }
σ
2
{\textstyle \sigma ^{2}}
1
/
σ
2
{\textstyle 1/\sigma ^{2}}
f
(
x
)
=
τ
2
π
e
−
τ
(
x
−
μ
)
2
/
2
.
{\displaystyle f(x)={\sqrt {\frac {\tau }{2\pi }}}e^{-\tau (x-\mu )^{2}/2}.}
この選択は、 がゼロに非常に近い場合の数値計算で利点があり 、 多変量正規分布 を持つ変数の ベイズ推定 などのいくつかのコンテキストで式を簡素化すると主張されています。
σ
{\textstyle \sigma }
あるいは、標準偏差の逆数を 精度 として定義すると 、正規分布の式は次のようになる。
τ
′
=
1
/
σ
{\textstyle \tau '=1/\sigma }
f
(
x
)
=
τ
′
2
π
e
−
(
τ
′
)
2
(
x
−
μ
)
2
/
2
.
{\displaystyle f(x)={\frac {\tau '}{\sqrt {2\pi }}}e^{-(\tau ')^{2}(x-\mu )^{2}/2}.}
スティグラーによれば、この定式化は、式がはるかに単純で覚えやすく、 分布の
分位数の近似式が単純であるため有利です。
正規分布は、 自然パラメータ および 、自然統計量 x および x 2 を持つ 指数族を 形成します。正規分布の双対期待パラメータは、 η 1 = μ および η 2 = μ 2 + σ 2 です。
θ
1
=
μ
σ
2
{\textstyle \textstyle \theta _{1}={\frac {\mu }{\sigma ^{2}}}}
θ
2
=
−
1
2
σ
2
{\textstyle \textstyle \theta _{2}={\frac {-1}{2\sigma ^{2}}}}
累積分布関数
標準正規分布の累積分布関数 ( CDF)は、通常ギリシャ文字の大文字で表記され 、積分である。
Φ
{\textstyle \Phi }
Φ
(
x
)
=
1
2
π
∫
−
∞
x
e
−
t
2
/
2
d
t
.
{\displaystyle \Phi (x)={\frac {1}{\sqrt {2\pi }}}\int _{-\infty }^{x}e^{-t^{2}/2}\,dt\,.}
エラー関数
関連する 誤差関数は 、平均 0 および分散 1/2 の正規分布に従うランダム変数が範囲 に入る確率を与えます 。つまり、
erf
(
x
)
{\textstyle \operatorname {erf} (x)}
[
−
x
,
x
]
{\textstyle [-x,x]}
erf
(
x
)
=
1
π
∫
−
x
x
e
−
t
2
d
t
=
2
π
∫
0
x
e
−
t
2
d
t
.
{\displaystyle \operatorname {erf} (x)={\frac {1}{\sqrt {\pi }}}\int _{-x}^{x}e^{-t^{2}}\,dt={\frac {2}{\sqrt {\pi }}}\int _{0}^{x}e^{-t^{2}}\,dt\,.}
これらの積分は初等関数では表現できず、 特殊関数 と呼ばれることが多い。しかし、多くの数値近似が知られている。詳細については以下を参照。
2つの機能は密接に関連しており、
Φ
(
x
)
=
1
2
[
1
+
erf
(
x
2
)
]
.
{\displaystyle \Phi (x)={\frac {1}{2}}\left[1+\operatorname {erf} \left({\frac {x}{\sqrt {2}}}\right)\right]\,.}
密度、平均 、分散を 持つ一般的な正規分布の場合 、累積分布関数は
f
{\textstyle f}
μ
{\textstyle \mu }
σ
2
{\textstyle \sigma ^{2}}
F
(
x
)
=
Φ
(
x
−
μ
σ
)
=
1
2
[
1
+
erf
(
x
−
μ
σ
2
)
]
.
{\displaystyle F(x)=\Phi \left({\frac {x-\mu }{\sigma }}\right)={\frac {1}{2}}\left[1+\operatorname {erf} \left({\frac {x-\mu }{\sigma {\sqrt {2}}}}\right)\right]\,.}
標準正規累積分布関数の補関数は、 特に工学の教科書では Q関数 と呼ばれることが多い。 [11] [12] これは、標準正規乱数変数の値が を超える確率を与える 。関数 の他の定義 (すべて の単純な変換 )も時々使用される。 [13]
Q
(
x
)
=
1
−
Φ
(
x
)
{\textstyle Q(x)=1-\Phi (x)}
X
{\textstyle X}
x
{\textstyle x}
P
(
X
>
x
)
{\textstyle P(X>x)}
Q
{\textstyle Q}
Φ
{\textstyle \Phi }
標準正規累積分布関数の グラフ は 、点(0,1/2)を中心に 2回 回転対称性 を持ちます。つまり、 です。その 不定 積分は次のように表すことができます。
Φ
{\textstyle \Phi }
Φ
(
−
x
)
=
1
−
Φ
(
x
)
{\textstyle \Phi (-x)=1-\Phi (x)}
∫
Φ
(
x
)
d
x
=
x
Φ
(
x
)
+
φ
(
x
)
+
C
.
{\displaystyle \int \Phi (x)\,dx=x\Phi (x)+\varphi (x)+C.}
標準正規分布の累積分布関数は、 部分積分によって 級数に展開できます。
Φ
(
x
)
=
1
2
+
1
2
π
⋅
e
−
x
2
/
2
[
x
+
x
3
3
+
x
5
3
⋅
5
+
⋯
+
x
2
n
+
1
(
2
n
+
1
)
!
!
+
⋯
]
.
{\displaystyle \Phi (x)={\frac {1}{2}}+{\frac {1}{\sqrt {2\pi }}}\cdot e^{-x^{2}/2}\left[x+{\frac {x^{3}}{3}}+{\frac {x^{5}}{3\cdot 5}}+\cdots +{\frac {x^{2n+1}}{(2n+1)!!}}+\cdots \right]\,.}
ここで は 二重階乗 を表します 。
!
!
{\textstyle !!}
大きなx に対する累積分布関数の 漸近 展開 も部分積分を使って導くことができる。詳しくは 誤差関数#漸近展開を 参照のこと。 [14]
標準正規分布の累積分布関数の近似値は、テイラー級数近似を使用して簡単に求めることができます。
Φ
(
x
)
≈
1
2
+
1
2
π
∑
k
=
0
n
(
−
1
)
k
x
(
2
k
+
1
)
2
k
k
!
(
2
k
+
1
)
.
{\displaystyle \Phi (x)\approx {\frac {1}{2}}+{\frac {1}{\sqrt {2\pi }}}\sum _{k=0}^{n}{\frac {(-1)^{k}x^{(2k+1)}}{2^{k}k!(2k+1)}}\,.}
テイラー級数展開による再帰計算
導関数族の再帰的性質は 、分布の既知の値の任意の点についての再帰的要素を使用して、急速に収束する テイラー級数 展開を簡単に構築するために使用できます 。
e
a
x
2
{\textstyle e^{ax^{2}}}
Φ
(
x
0
)
{\textstyle \Phi (x_{0})}
Φ
(
x
)
=
∑
n
=
0
∞
Φ
(
n
)
(
x
0
)
n
!
(
x
−
x
0
)
n
,
{\displaystyle \Phi (x)=\sum _{n=0}^{\infty }{\frac {\Phi ^{(n)}(x_{0})}{n!}}(x-x_{0})^{n}\,,}
どこ:
Φ
(
0
)
(
x
0
)
=
1
2
π
∫
−
∞
x
0
e
−
t
2
/
2
d
t
Φ
(
1
)
(
x
0
)
=
1
2
π
e
−
x
0
2
/
2
Φ
(
n
)
(
x
0
)
=
−
(
x
0
Φ
(
n
−
1
)
(
x
0
)
+
(
n
−
2
)
Φ
(
n
−
2
)
(
x
0
)
)
,
n
≥
2
.
{\displaystyle {\begin{aligned}\Phi ^{(0)}(x_{0})&={\frac {1}{\sqrt {2\pi }}}\int _{-\infty }^{x_{0}}e^{-t^{2}/2}\,dt\\\Phi ^{(1)}(x_{0})&={\frac {1}{\sqrt {2\pi }}}e^{-x_{0}^{2}/2}\\\Phi ^{(n)}(x_{0})&=-\left(x_{0}\Phi ^{(n-1)}(x_{0})+(n-2)\Phi ^{(n-2)}(x_{0})\right),&n\geq 2\,.\end{aligned}}}
逆関数にテイラー級数とニュートン法を使用する
上記のテイラー級数 展開の応用として、 ニュートン法を 使用して 計算を逆にすることができます。つまり、 累積分布関数 の値が分かっているが、 を取得するために必要な x が分からない場合は 、ニュートン法を使用して x を見つけ、上記のテイラー級数展開を使用して計算回数を最小限に抑えることができます。ニュートン法は、 の 1 次導関数 ( 正規標準分布の積分) が正規標準分布であり、ニュートン法のソリューションですぐに使用できるため、この問題を解決するのに最適です。
Φ
(
x
)
{\textstyle \Phi (x)}
Φ
(
x
)
{\textstyle \Phi (x)}
Φ
(
x
)
{\textstyle \Phi (x)}
解決するには、目的の に対する 既知の近似解 を選択してください 。 は分布表の値、または 任意の計算方法を使用して を計算した後のインテリジェントな推定値である可能性があります。 のこの値 と上記のテイラー級数展開を使用して、計算を最小限に抑えます。
x
0
{\textstyle x_{0}}
Φ
(
x
)
{\textstyle \Phi (x)}
x
0
{\textstyle x_{0}}
Φ
(
x
0
)
{\textstyle \Phi (x_{0})}
x
0
{\textstyle x_{0}}
計算されたと目的 の の差 ( と呼ぶ)が、10 −5 、10 −15 などの許容できる小さな誤差より小さくなるまで、次のプロセスを繰り返します 。
Φ
(
x
n
)
{\textstyle \Phi (x_{n})}
Φ
{\textstyle \Phi }
Φ
(
desired
)
{\textstyle \Phi ({\text{desired}})}
x
n
+
1
=
x
n
−
Φ
(
x
n
,
x
0
,
Φ
(
x
0
)
)
−
Φ
(
desired
)
Φ
′
(
x
n
)
,
{\displaystyle x_{n+1}=x_{n}-{\frac {\Phi (x_{n},x_{0},\Phi (x_{0}))-\Phi ({\text{desired}})}{\Phi '(x_{n})}}\,,}
どこ
Φ
(
x
,
x
0
,
Φ
(
x
0
)
)
{\textstyle \Phi (x,x_{0},\Phi (x_{0}))}
は 、テイラー級数解からであり 、
Φ
(
x
)
{\textstyle \Phi (x)}
x
0
{\textstyle x_{0}}
Φ
(
x
0
)
{\textstyle \Phi (x_{0})}
Φ
′
(
x
n
)
=
1
2
π
e
−
x
n
2
/
2
.
{\displaystyle \Phi '(x_{n})={\frac {1}{\sqrt {2\pi }}}e^{-x_{n}^{2}/2}\,.}
繰り返し計算が、選択された許容可能な小さい値以下の誤差に収束すると、 x は 目的の値の a を取得するために必要な値になります 。
Φ
(
x
)
{\textstyle \Phi (x)}
Φ
(
desired
)
{\textstyle \Phi ({\text{desired}})}
標準偏差とカバレッジ
正規分布の場合、平均からの標準偏差が 1 未満の値はセットの 68.27% を占め、平均からの標準偏差が 2 未満の値はセットの 95.45% を占め、標準偏差が 3 未満の値はセットの 99.73% を占めます。
正規分布から抽出された値の約68%は平均値から1標準偏差 σ 以内にあり、約95%は2標準偏差以内にあり、約99.7%は3標準偏差以内にあります。 [6]この事実は 、68-95-99.7(経験的)ルール 、または 3シグマルール として知られています 。
より正確には、正規分布が から までの範囲にある確率 は で与えられます
。
12 桁の有効数字の場合、 の値は 次のようになります。
μ
−
n
σ
{\textstyle \mu -n\sigma }
μ
+
n
σ
{\textstyle \mu +n\sigma }
F
(
μ
+
n
σ
)
−
F
(
μ
−
n
σ
)
=
Φ
(
n
)
−
Φ
(
−
n
)
=
erf
(
n
2
)
.
{\displaystyle F(\mu +n\sigma )-F(\mu -n\sigma )=\Phi (n)-\Phi (-n)=\operatorname {erf} \left({\frac {n}{\sqrt {2}}}\right).}
n
=
1
,
2
,
…
,
6
{\textstyle n=1,2,\ldots ,6}
が大きい場合は 、近似値 を使用できます 。
n
{\textstyle n}
1
−
p
≈
e
−
n
2
/
2
n
π
/
2
{\textstyle 1-p\approx {\frac {e^{-n^{2}/2}}{n{\sqrt {\pi /2}}}}}
分位関数
分布の分位関数は 、 累積分布関数の逆です。標準正規分布の分位関数は プロビット関数と呼ばれ、逆 誤差関数 で表すことができます 。
平均 と分散
の正規ランダム変数の場合 、分位関数
は です。 標準正規分布の分位は通常 と表されます
。 これらの値は 、仮説検定、 信頼区間 の構築 、 Q-Q プロット で使用されます 。正規ランダム変数は の確率で を 超え、 の確率で 区間外になります 。特に、分位点は 1.96 である ため、正規ランダム変数が区間外になる のは 5% のケースのみです。
Φ
−
1
(
p
)
=
2
erf
−
1
(
2
p
−
1
)
,
p
∈
(
0
,
1
)
.
{\displaystyle \Phi ^{-1}(p)={\sqrt {2}}\operatorname {erf} ^{-1}(2p-1),\quad p\in (0,1).}
μ
{\textstyle \mu }
σ
2
{\textstyle \sigma ^{2}}
F
−
1
(
p
)
=
μ
+
σ
Φ
−
1
(
p
)
=
μ
+
σ
2
erf
−
1
(
2
p
−
1
)
,
p
∈
(
0
,
1
)
.
{\displaystyle F^{-1}(p)=\mu +\sigma \Phi ^{-1}(p)=\mu +\sigma {\sqrt {2}}\operatorname {erf} ^{-1}(2p-1),\quad p\in (0,1).}
Φ
−
1
(
p
)
{\textstyle \Phi ^{-1}(p)}
z
p
{\textstyle z_{p}}
X
{\textstyle X}
μ
+
z
p
σ
{\textstyle \mu +z_{p}\sigma }
1
−
p
{\textstyle 1-p}
μ
±
z
p
σ
{\textstyle \mu \pm z_{p}\sigma }
2
(
1
−
p
)
{\textstyle 2(1-p)}
z
0.975
{\textstyle z_{0.975}}
μ
±
1.96
σ
{\textstyle \mu \pm 1.96\sigma }
次の表は、指定された確率で 範囲に入る 分 位数を示しています 。これらの値は、 正規分布(または 漸近正規分布)を持つ サンプル平均 やその他の統計的 推定 値の 許容区間 を決定するのに役立ちます。 [15] 次の表は 、 上記の定義とは異なります。
z
p
{\textstyle z_{p}}
X
{\textstyle X}
μ
±
z
p
σ
{\textstyle \mu \pm z_{p}\sigma }
p
{\textstyle p}
2
erf
−
1
(
p
)
=
Φ
−
1
(
p
+
1
2
)
{\textstyle {\sqrt {2}}\operatorname {erf} ^{-1}(p)=\Phi ^{-1}\left({\frac {p+1}{2}}\right)}
Φ
−
1
(
p
)
{\textstyle \Phi ^{-1}(p)}
が小さい場合 、分位関数は有用な 漸近展開を持つ [ 要出典 ]
p
{\textstyle p}
Φ
−
1
(
p
)
=
−
ln
1
p
2
−
ln
ln
1
p
2
−
ln
(
2
π
)
+
o
(
1
)
.
{\textstyle \Phi ^{-1}(p)=-{\sqrt {\ln {\frac {1}{p^{2}}}-\ln \ln {\frac {1}{p^{2}}}-\ln(2\pi )}}+{\mathcal {o}}(1).}
プロパティ
正規分布は、最初の2つ(つまり、平均と 分散 以外 )を超える キュムラントがゼロになる唯一の分布です。また、指定された平均と分散に対して 最大エントロピー を持つ連続分布でもあります。 [16] [17] Gearyは、平均と分散が有限であると仮定すると、独立した抽出セットから計算された平均と分散が互いに独立している分布は正規分布のみであることを示しました。 [18] [19]
正規分布は楕円分布 のサブクラスです 。正規分布は平均に関して 対称 で、実数線全体にわたって非ゼロです。そのため、人の 体重 や株価など、本質的に正または大きく歪んだ変数には適したモデルではない場合があります。このような変数は 、対数正規分布 や パレート分布 など の他の分布によってより適切に説明される場合があります 。
正規密度の値は、平均値から 数 標準偏差以上離れている場合、実質的にゼロになります (たとえば、3 標準偏差の広がりは、分布全体の 0.27% を除くすべてをカバーします)。したがって、 外れ 値 (平均値から多くの標準偏差離れた値) がかなりの割合で存在すると予想される場合、このモデルは適切ではない可能性があります。また、正規分布する変数に最適な 最小二乗法やその他の 統計的推論 法は、そのようなデータに適用すると、信頼性が非常に低くなることがよくあります。このような場合は、より 裾の重い 分布を想定し、適切な 堅牢な統計的推論 法を適用する必要があります。
x
{\textstyle x}
ガウス分布は、平均や分散が有限であるかどうかに関係なく、 独立した同一 分布の和のアトラクターである 安定分布 のファミリーに属します。極限の場合であるガウスを除いて、すべての安定分布は重い裾と無限の分散を持ちます。これは、安定しており、解析的に表現できる確率密度関数を持つ数少ない分布の 1 つであり、他の分布は コーシー分布 と レヴィ分布 です。
対称性と微分
密度(平均 と分散) を持つ正規分布には、 次の特性があります。
f
(
x
)
{\textstyle f(x)}
μ
{\textstyle \mu }
σ
2
>
0
{\textstyle \sigma ^{2}>0}
これは分布の 最頻値 、 中央値 、平均 値 である 点を中心に対称である。 [20]
x
=
μ
,
{\textstyle x=\mu ,}
これは 単峰性 であり、1 次導関数 はに対しては正、 に対しては負で 、 に対してのみゼロである。
x
<
μ
,
{\textstyle x<\mu ,}
x
>
μ
,
{\textstyle x>\mu ,}
x
=
μ
.
{\textstyle x=\mu .}
曲線と - 軸によって囲まれた領域は 1 です (つまり 1 に等しい)。
x
{\textstyle x}
その一次導関数は
f
′
(
x
)
=
−
x
−
μ
σ
2
f
(
x
)
.
{\textstyle f'(x)=-{\frac {x-\mu }{\sigma ^{2}}}f(x).}
その2次導関数は
f
″
(
x
)
=
(
x
−
μ
)
2
−
σ
2
σ
4
f
(
x
)
.
{\textstyle f''(x)={\frac {(x-\mu )^{2}-\sigma ^{2}}{\sigma ^{4}}}f(x).}
その密度には2つの 変曲点 (2次導関数が ゼロで符号が変わる点)があり、平均値から1標準偏差離れたところ、つまりとにある [ 20]
f
{\textstyle f}
x
=
μ
−
σ
{\textstyle x=\mu -\sigma }
x
=
μ
+
σ
.
{\textstyle x=\mu +\sigma .}
その密度は 対数凹面で ある。 [20]
その密度は無限に 微分可能 であり、実際 2次の 超滑らかさである 。[21]
さらに、標準正規分布の 密度(つまり 、および )には次の特性もあります。
φ
{\textstyle \varphi }
μ
=
0
{\textstyle \mu =0}
σ
=
1
{\textstyle \sigma =1}
その一次導関数は
φ
′
(
x
)
=
−
x
φ
(
x
)
.
{\textstyle \varphi '(x)=-x\varphi (x).}
その2次導関数は
φ
″
(
x
)
=
(
x
2
−
1
)
φ
(
x
)
{\textstyle \varphi ''(x)=(x^{2}-1)\varphi (x)}
より一般的には、その n 次導関数は n 次(確率論的) エルミート多項式 で ある 。 [22]
φ
(
n
)
(
x
)
=
(
−
1
)
n
He
n
(
x
)
φ
(
x
)
,
{\textstyle \varphi ^{(n)}(x)=(-1)^{n}\operatorname {He} _{n}(x)\varphi (x),}
He
n
(
x
)
{\textstyle \operatorname {He} _{n}(x)}
正規分布する変数が 既知であり 、特定のセット内にある確率は、分数が 標準正規分布に従う という事実を使用して計算できます。
X
{\textstyle X}
μ
{\textstyle \mu }
σ
2
{\textstyle \sigma ^{2}}
Z
=
(
X
−
μ
)
/
σ
{\textstyle Z=(X-\mu )/\sigma }
瞬間
変数の 単純モーメントと絶対 モーメントは 、それぞれと の期待値です。 の 期待値 がゼロの場合、これらのパラメータは 中心モーメントと呼ばれます 。それ以外の場合は、これらのパラメータは非中心モーメント と呼ばれます。 通常、整数次 のモーメントのみを対象とします 。
X
{\textstyle X}
X
p
{\textstyle X^{p}}
|
X
|
p
{\textstyle |X|^{p}}
μ
{\textstyle \mu }
X
{\textstyle X}
p
{\textstyle \ p}
が正規分布に従う場合 、非中心モーメントは存在し、 実部が−1より大きい任意のものに対して有限である。任意の非負整数 に対して 、単純中心モーメントは次のようになる。 [23]
ここで は 二重階乗 、つまり から 1 までのすべての数の積で と同じ偶奇性を持つものの 積を表す。
X
{\textstyle X}
p
{\textstyle p}
p
{\textstyle p}
E
[
(
X
−
μ
)
p
]
=
{
0
if
p
is odd,
σ
p
(
p
−
1
)
!
!
if
p
is even.
{\displaystyle \operatorname {E} \left[(X-\mu )^{p}\right]={\begin{cases}0&{\text{if }}p{\text{ is odd,}}\\\sigma ^{p}(p-1)!!&{\text{if }}p{\text{ is even.}}\end{cases}}}
n
!
!
{\textstyle n!!}
n
{\textstyle n}
n
.
{\textstyle n.}
中心絶対モーメントはすべての偶数次数では平モーメントと一致するが、奇数次数ではゼロではない。任意の非負整数に対して
p
,
{\textstyle p,}
E
[
|
X
−
μ
|
p
]
=
σ
p
(
p
−
1
)
!
!
⋅
{
2
π
if
p
is odd
1
if
p
is even
=
σ
p
⋅
2
p
/
2
Γ
(
p
+
1
2
)
π
.
{\displaystyle {\begin{aligned}\operatorname {E} \left[|X-\mu |^{p}\right]&=\sigma ^{p}(p-1)!!\cdot {\begin{cases}{\sqrt {\frac {2}{\pi }}}&{\text{if }}p{\text{ is odd}}\\1&{\text{if }}p{\text{ is even}}\end{cases}}\\&=\sigma ^{p}\cdot {\frac {2^{p/2}\Gamma \left({\frac {p+1}{2}}\right)}{\sqrt {\pi }}}.\end{aligned}}}
最後の式は、任意の非整数に対しても有効である。 平均が、平積率と絶対積率を 合流型超幾何関数 で表すことができる場合 、 [24]
p
>
−
1.
{\textstyle p>-1.}
μ
≠
0
,
{\textstyle \mu \neq 0,}
1
F
1
{\textstyle {}_{1}F_{1}}
U
.
{\textstyle U.}
E
[
X
p
]
=
σ
p
⋅
(
−
i
2
)
p
U
(
−
p
2
,
1
2
,
−
1
2
(
μ
σ
)
2
)
,
E
[
|
X
|
p
]
=
σ
p
⋅
2
p
/
2
Γ
(
1
+
p
2
)
π
1
F
1
(
−
p
2
,
1
2
,
−
1
2
(
μ
σ
)
2
)
.
{\displaystyle {\begin{aligned}\operatorname {E} \left[X^{p}\right]&=\sigma ^{p}\cdot (-i{\sqrt {2}})^{p}U\left(-{\frac {p}{2}},{\frac {1}{2}},-{\frac {1}{2}}\left({\frac {\mu }{\sigma }}\right)^{2}\right),\\\operatorname {E} \left[|X|^{p}\right]&=\sigma ^{p}\cdot 2^{p/2}{\frac {\Gamma \left({\frac {1+p}{2}}\right)}{\sqrt {\pi }}}{}_{1}F_{1}\left(-{\frac {p}{2}},{\frac {1}{2}},-{\frac {1}{2}}\left({\frac {\mu }{\sigma }}\right)^{2}\right).\end{aligned}}}
これらの式は、 が整数でない 場合でも有効です。 一般化エルミート多項式 も参照してください。
p
{\textstyle p}
区間内にある イベントを条件とする の期待値 は で与えられます
。
ここで 、 と は それぞれ の密度と累積分布関数です 。これは 逆ミルズ比 として知られています 。上記では、逆ミルズ比のように標準正規密度の代わりに の密度 が使用されていることに注意してください。そのため、ここでは の代わりに が 使用されています 。
X
{\textstyle X}
X
{\textstyle X}
[
a
,
b
]
{\textstyle [a,b]}
E
[
X
∣
a
<
X
<
b
]
=
μ
−
σ
2
f
(
b
)
−
f
(
a
)
F
(
b
)
−
F
(
a
)
,
{\displaystyle \operatorname {E} \left[X\mid a<X<b\right]=\mu -\sigma ^{2}{\frac {f(b)-f(a)}{F(b)-F(a)}}\,,}
f
{\textstyle f}
F
{\textstyle F}
X
{\textstyle X}
b
=
∞
{\textstyle b=\infty }
f
{\textstyle f}
X
{\textstyle X}
σ
2
{\textstyle \sigma ^{2}}
σ
{\textstyle \sigma }
平均 と分散を持つ 正規密度の フーリエ 変換 は [25]
f
{\textstyle f}
μ
{\textstyle \mu }
σ
2
{\textstyle \sigma ^{2}}
f
^
(
t
)
=
∫
−
∞
∞
f
(
x
)
e
−
i
t
x
d
x
=
e
−
i
μ
t
e
−
1
2
(
σ
t
)
2
,
{\displaystyle {\hat {f}}(t)=\int _{-\infty }^{\infty }f(x)e^{-itx}\,dx=e^{-i\mu t}e^{-{\frac {1}{2}}(\sigma t)^{2}}\,,}
ここで、 は 虚数単位 です 。平均 の場合 、最初の因子は 1 であり、フーリエ変換は、定数因子を除けば、 平均 0 および分散 の 周波数領域 上の正規密度です。特に、標準正規分布は フーリエ変換の
固有関数 です。
i
{\textstyle i}
μ
=
0
{\textstyle \mu =0}
1
/
σ
2
{\textstyle 1/\sigma ^{2}}
φ
{\textstyle \varphi }
確率論では、実数値ランダム変数の確率分布のフーリエ変換は、 その変数の 特性関数 と密接に関係しており、特性関数は、実変数 (フーリエ変換の 周波数 パラメータ)の関数として の の 期待値 として定義されます。この定義は、複素数値変数 に解析的に拡張できます 。 [26] 両者の関係は次のとおりです。
X
{\textstyle X}
φ
X
(
t
)
{\textstyle \varphi _{X}(t)}
e
i
t
X
{\textstyle e^{itX}}
t
{\textstyle t}
t
{\textstyle t}
φ
X
(
t
)
=
f
^
(
−
t
)
.
{\displaystyle \varphi _{X}(t)={\hat {f}}(-t)\,.}
モーメントとキュムラントを生成する関数
実数ランダム変数の モーメント 生成関数は 、実パラメータの関数としての の期待値です。密度 、平均 、分散を 持つ正規分布の場合 、モーメント生成関数が存在し、次の式に等しくなります。
X
{\textstyle X}
e
t
X
{\textstyle e^{tX}}
t
{\textstyle t}
f
{\textstyle f}
μ
{\textstyle \mu }
σ
2
{\textstyle \sigma ^{2}}
M
(
t
)
=
E
[
e
t
X
]
=
f
^
(
i
t
)
=
e
μ
t
e
σ
2
t
2
/
2
.
{\displaystyle M(t)=\operatorname {E} \left[e^{tX}\right]={\hat {f}}(it)=e^{\mu t}e^{\sigma ^{2}t^{2}/2}\,.}
任意の
k
{\displaystyle k}
について、 モーメント生成関数 ( の 指数級数として表される) における
t
k
/
k
!
{\displaystyle t^{k}/k!}
の係数は、 正規分布の期待値 です。
t
{\displaystyle t}
E
[
X
k
]
{\displaystyle E[X^{k}]}
キュムラント 母関数は モーメント母関数の対数であり、すなわち
g
(
t
)
=
ln
M
(
t
)
=
μ
t
+
1
2
σ
2
t
2
.
{\displaystyle g(t)=\ln M(t)=\mu t+{\tfrac {1}{2}}\sigma ^{2}t^{2}\,.}
この指数級数の係数はキュムラントを定義しますが、これは
t
{\displaystyle t}
の二次多項式であるため、最初の 2 つの キュムラント 、つまり平均 と分散 のみがゼロ以外になります。
μ
{\textstyle \mu }
σ
2
{\displaystyle \sigma ^{2}}
一部の著者は、代わりに特性関数 E[ e itX ] = e iμt − σ 2 t 2 /2 および ln E[ e itX ] = iμt − で作業することを好む。 1 / 2 σ 2 t 2 。
シュタイン演算子とクラス
スタイン法 では、 スタイン演算子とランダム変数のクラスは 、 すべての絶対連続関数のクラス です 。
X
∼
N
(
μ
,
σ
2
)
{\textstyle X\sim {\mathcal {N}}(\mu ,\sigma ^{2})}
A
f
(
x
)
=
σ
2
f
′
(
x
)
−
(
x
−
μ
)
f
(
x
)
{\textstyle {\mathcal {A}}f(x)=\sigma ^{2}f'(x)-(x-\mu )f(x)}
F
{\textstyle {\mathcal {F}}}
f
:
R
→
R
such that
E
[
|
f
′
(
X
)
|
]
<
∞
{\textstyle f:\mathbb {R} \to \mathbb {R} {\mbox{ such that }}\mathbb {E} [|f'(X)|]<\infty }
ゼロ分散限界
がゼロに近づく極限 で は 、確率密度は 最終的に任意の でゼロに近づきます が、 の場合は積分が 1 のままである間、無制限に増加します。したがって、 の場合、正規分布は通常の 関数 として定義することはできません 。
σ
2
{\textstyle \sigma ^{2}}
f
(
x
)
{\textstyle f(x)}
x
≠
μ
{\textstyle x\neq \mu }
x
=
μ
{\textstyle x=\mu }
σ
2
=
0
{\textstyle \sigma ^{2}=0}
しかし、分散ゼロの正規分布を 一般化関数 として定義することができます。具体的には、 平均 によって変換された ディラックのデルタ関数 として、つまり です。
その累積分布関数は、 平均 によって変換された ヘヴィサイドのステップ関数 であり、つまり
δ
{\textstyle \delta }
μ
{\textstyle \mu }
f
(
x
)
=
δ
(
x
−
μ
)
.
{\textstyle f(x)=\delta (x-\mu ).}
μ
{\textstyle \mu }
F
(
x
)
=
{
0
if
x
<
μ
1
if
x
≥
μ
.
{\displaystyle F(x)={\begin{cases}0&{\text{if }}x<\mu \\1&{\text{if }}x\geq \mu \,.\end{cases}}}
最大エントロピー
指定された有限平均と有限分散を 持つ実数上のすべての確率分布の中で 、正規分布は 最大エントロピー を持つ分布です 。 [27] これを確認するには、 確率密度 を持つ 連続ランダム変数 を とします 。 のエントロピーは 次のように定義されます。 [28] [29] [30]
μ
{\textstyle \mu }
σ
2
{\textstyle \sigma ^{2}}
N
(
μ
,
σ
2
)
{\textstyle N(\mu ,\sigma ^{2})}
X
{\textstyle X}
f
(
x
)
{\textstyle f(x)}
X
{\textstyle X}
H
(
X
)
=
−
∫
−
∞
∞
f
(
x
)
ln
f
(
x
)
d
x
,
{\displaystyle H(X)=-\int _{-\infty }^{\infty }f(x)\ln f(x)\,dx\,,}
ここで、 は常にゼロであると理解されます 。 この関数は、分布が適切に正規化され、指定された平均と分散を持つという制約の下で、 変分法 を使用することで最大化できます。 3 つの ラグランジュ乗数 を持つ関数 が定義されます。
f
(
x
)
log
f
(
x
)
{\textstyle f(x)\log f(x)}
f
(
x
)
=
0
{\textstyle f(x)=0}
L
=
−
∫
−
∞
∞
f
(
x
)
ln
f
(
x
)
d
x
−
λ
0
(
1
−
∫
−
∞
∞
f
(
x
)
d
x
)
−
λ
1
(
μ
−
∫
−
∞
∞
f
(
x
)
x
d
x
)
−
λ
2
(
σ
2
−
∫
−
∞
∞
f
(
x
)
(
x
−
μ
)
2
d
x
)
.
{\displaystyle L=-\int _{-\infty }^{\infty }f(x)\ln f(x)\,dx-\lambda _{0}\left(1-\int _{-\infty }^{\infty }f(x)\,dx\right)-\lambda _{1}\left(\mu -\int _{-\infty }^{\infty }f(x)x\,dx\right)-\lambda _{2}\left(\sigma ^{2}-\int _{-\infty }^{\infty }f(x)(x-\mu )^{2}\,dx\right)\,.}
エントロピーが最大になると、についての 小さな変化 によって が 0 になる
変化が生成されます。
δ
f
(
x
)
{\textstyle \delta f(x)}
f
(
x
)
{\textstyle f(x)}
δ
L
{\textstyle \delta L}
L
{\textstyle L}
0
=
δ
L
=
∫
−
∞
∞
δ
f
(
x
)
(
−
ln
f
(
x
)
−
1
+
λ
0
+
λ
1
x
+
λ
2
(
x
−
μ
)
2
)
d
x
.
{\displaystyle 0=\delta L=\int _{-\infty }^{\infty }\delta f(x)\left(-\ln f(x)-1+\lambda _{0}+\lambda _{1}x+\lambda _{2}(x-\mu )^{2}\right)\,dx\,.}
これは任意の小さな に対して成り立つため 、 を乗じる係数は ゼロでなければならず、 を解くと 次のようになります。
δ
f
(
x
)
{\textstyle \delta f(x)}
δ
f
(
x
)
{\textstyle \delta f(x)}
f
(
x
)
{\textstyle f(x)}
f
(
x
)
=
exp
(
−
1
+
λ
0
+
λ
1
x
+
λ
2
(
x
−
μ
)
2
)
.
{\displaystyle f(x)=\exp \left(-1+\lambda _{0}+\lambda _{1}x+\lambda _{2}(x-\mu )^{2}\right)\,.}
適切に正規化され、指定された平均と分散を持つ ラグランジュ制約が満たされるのは 、、、 が次の ように選択される場合
のみです。
正規分布のエントロピーは、
平均 に依存しない に等しくなります
。
f
(
x
)
{\textstyle f(x)}
λ
0
{\textstyle \lambda _{0}}
λ
1
{\textstyle \lambda _{1}}
λ
2
{\textstyle \lambda _{2}}
f
(
x
)
=
1
2
π
σ
2
e
−
(
x
−
μ
)
2
2
σ
2
.
{\displaystyle f(x)={\frac {1}{\sqrt {2\pi \sigma ^{2}}}}e^{-{\frac {(x-\mu )^{2}}{2\sigma ^{2}}}}\,.}
X
∼
N
(
μ
,
σ
2
)
{\textstyle X\sim N(\mu ,\sigma ^{2})}
H
(
X
)
=
1
2
(
1
+
ln
2
σ
2
π
)
,
{\displaystyle H(X)={\tfrac {1}{2}}(1+\ln 2\sigma ^{2}\pi )\,,}
μ
{\textstyle \mu }
その他のプロパティ
あるランダム変数の 特性関数が ゼロの近傍で 多項式 の 形である場合 、 マルチンキエヴィチの 定理( ユゼフ・マルチンキエヴィチ にちなんで名付けられた)は、 は せいぜい2次多項式であり、したがって は 正規ランダム変数であると主張しています。 [31] この結果の帰結として、正規分布は有限個(2個)の非ゼロ キュムラント を持つ唯一の分布であることがわかります。
ϕ
X
{\textstyle \phi _{X}}
X
{\textstyle X}
ϕ
X
(
t
)
=
exp
Q
(
t
)
{\textstyle \phi _{X}(t)=\exp Q(t)}
Q
(
t
)
{\textstyle Q(t)}
Q
{\textstyle Q}
X
{\textstyle X}
と が 共に正規 分布し 、かつ 相関がない 場合 、それらは 独立で ある。と が 共に 正規分布である という要件は 必須であり、これがなければこの性質は成り立たない。 [32] [33] [証明] 非正規分布のランダム変数の場合、無相関であることは独立性を意味しない。
X
{\textstyle X}
Y
{\textstyle Y}
X
{\textstyle X}
Y
{\textstyle Y}
ある正規分布 と別の正規分布の カルバック ・ライブラー距離 は次のように表される。 [34] 同じ分布間のヘリンガー距離は次のように表さ
れる 。
X
1
∼
N
(
μ
1
,
σ
1
2
)
{\textstyle X_{1}\sim N(\mu _{1},\sigma _{1}^{2})}
X
2
∼
N
(
μ
2
,
σ
2
2
)
{\textstyle X_{2}\sim N(\mu _{2},\sigma _{2}^{2})}
D
K
L
(
X
1
∥
X
2
)
=
(
μ
1
−
μ
2
)
2
2
σ
2
2
+
1
2
(
σ
1
2
σ
2
2
−
1
−
ln
σ
1
2
σ
2
2
)
{\displaystyle D_{\mathrm {KL} }(X_{1}\parallel X_{2})={\frac {(\mu _{1}-\mu _{2})^{2}}{2\sigma _{2}^{2}}}+{\frac {1}{2}}\left({\frac {\sigma _{1}^{2}}{\sigma _{2}^{2}}}-1-\ln {\frac {\sigma _{1}^{2}}{\sigma _{2}^{2}}}\right)}
H
2
(
X
1
,
X
2
)
=
1
−
2
σ
1
σ
2
σ
1
2
+
σ
2
2
exp
(
−
1
4
(
μ
1
−
μ
2
)
2
σ
1
2
+
σ
2
2
)
{\displaystyle H^{2}(X_{1},X_{2})=1-{\sqrt {\frac {2\sigma _{1}\sigma _{2}}{\sigma _{1}^{2}+\sigma _{2}^{2}}}}\exp \left(-{\frac {1}{4}}{\frac {(\mu _{1}-\mu _{2})^{2}}{\sigma _{1}^{2}+\sigma _{2}^{2}}}\right)}
正規分布の フィッシャー 情報行列は 対角行列であり 、次の形式をとる。
μ
{\textstyle \mu }
σ
2
{\textstyle \sigma ^{2}}
I
(
μ
,
σ
2
)
=
(
1
σ
2
0
0
1
2
σ
4
)
{\displaystyle {\mathcal {I}}(\mu ,\sigma ^{2})={\begin{pmatrix}{\frac {1}{\sigma ^{2}}}&0\\0&{\frac {1}{2\sigma ^{4}}}\end{pmatrix}}}
正規分布の平均の共役事前分布は別の正規分布である。 [ 35 ] 具体的には、 がiid で事前分布がの場合、推定 値 の事後分布は
x
1
,
…
,
x
n
{\textstyle x_{1},\ldots ,x_{n}}
∼
N
(
μ
,
σ
2
)
{\textstyle \sim N(\mu ,\sigma ^{2})}
μ
∼
N
(
μ
0
,
σ
0
2
)
{\textstyle \mu \sim N(\mu _{0},\sigma _{0}^{2})}
μ
{\textstyle \mu }
μ
∣
x
1
,
…
,
x
n
∼
N
(
σ
2
n
μ
0
+
σ
0
2
x
¯
σ
2
n
+
σ
0
2
,
(
n
σ
2
+
1
σ
0
2
)
−
1
)
{\displaystyle \mu \mid x_{1},\ldots ,x_{n}\sim {\mathcal {N}}\left({\frac {{\frac {\sigma ^{2}}{n}}\mu _{0}+\sigma _{0}^{2}{\bar {x}}}{{\frac {\sigma ^{2}}{n}}+\sigma _{0}^{2}}},\left({\frac {n}{\sigma ^{2}}}+{\frac {1}{\sigma _{0}^{2}}}\right)^{-1}\right)}
正規分布族は 指数族 (EF) を形成するだけでなく、実際には 2 次 分散関数 ( NEF-QVF ) を持つ 自然指数族 (NEF) を形成します。正規分布の多くの特性は、NEF-QVF 分布、NEF 分布、または一般に EF 分布の特性に一般化されます。NEF-QVF 分布は、ポアソン分布、ガンマ分布、二項分布、および負の二項分布を含む 6 つの族で構成されますが、確率と統計で研究される一般的な族の多くは NEF または EF です。 情報幾何学 では 、正規分布族は 一定の曲率 を持つ 統計多様体 を形成する。同じ族は(±1)接続 と に関して 平坦で ある。 [36]
−
1
{\textstyle -1}
∇
(
e
)
{\textstyle \nabla ^{(e)}}
∇
(
m
)
{\textstyle \nabla ^{(m)}}
がに従って分布している 場合 、 となる 。独立性の仮定は存在しないことに注意すること。 [37]
X
1
,
…
,
X
n
{\textstyle X_{1},\dots ,X_{n}}
N
(
0
,
σ
2
)
{\textstyle N(0,\sigma ^{2})}
E
[
max
i
X
i
]
≤
σ
2
ln
n
{\textstyle E[\max _{i}X_{i}]\leq \sigma {\sqrt {2\ln n}}}
中心極限定理
離散イベントの数が増えると、関数は正規分布に似てきます。
公平な 6 面サイコロ の合計が 、中心極限定理に従って、 が増加するにつれて正規分布に収束することを示す確率密度関数の比較 。右下のグラフでは、前のグラフの平滑化されたプロファイルが再スケーリングされ、重ね合わされ、正規分布 (黒い曲線) と比較されています。
p
(
k
)
{\textstyle p(k)}
n
{\textstyle n}
n
a
{\textstyle na}
中心極限定理は、ある特定の(かなり一般的な)条件下では、多数のランダム変数の合計がほぼ正規分布に従うと述べています。より具体的には、 は 同じ任意分布、ゼロ平均、分散を 持つ独立した同一分布の ランダム変数であり 、 は その平均を でスケールしたものです。
すると、 が増加するにつれて 、 の確率分布は、 ゼロ平均、分散 の正規分布に近づくようになります 。
X
1
,
…
,
X
n
{\textstyle X_{1},\ldots ,X_{n}}
σ
2
{\textstyle \sigma ^{2}}
Z
{\textstyle Z}
n
{\textstyle {\sqrt {n}}}
Z
=
n
(
1
n
∑
i
=
1
n
X
i
)
{\displaystyle Z={\sqrt {n}}\left({\frac {1}{n}}\sum _{i=1}^{n}X_{i}\right)}
n
{\textstyle n}
Z
{\textstyle Z}
σ
2
{\textstyle \sigma ^{2}}
依存度と分布のモーメントに特定の制約が課される場合、定理は独立していない変数や同一に分布していない
変数に拡張できます。
(
X
i
)
{\textstyle (X_{i})}
実際に遭遇する 多くの 検定統計量 、 スコア 、 推定量には、特定のランダム変数の合計が含まれており、 影響関数 を使用することで、さらに多くの推定量をランダム変数の合計として表すことができます。中心極限定理は、これらの統計パラメータが漸近的に正規分布することを意味します。
中心極限定理は、特定の分布が正規分布で近似できることも意味します。たとえば、
二項分布は 、 平均 と分散が 大きく 、 0 または 1 に近すぎない、 ほぼ正規分布 です 。
B
(
n
,
p
)
{\textstyle B(n,p)}
n
p
{\textstyle np}
n
p
(
1
−
p
)
{\textstyle np(1-p)}
n
{\textstyle n}
p
{\textstyle p}
パラメータ の ポアソン分布は 、 の値が大きい場合、平均 と分散 の正規分布に近似します 。 [38]
λ
{\textstyle \lambda }
λ
{\textstyle \lambda }
λ
{\textstyle \lambda }
λ
{\textstyle \lambda }
カイ 二乗分布は、 が大きい場合、 平均 、分散でほぼ正規分布になります 。
χ
2
(
k
)
{\textstyle \chi ^{2}(k)}
k
{\textstyle k}
2
k
{\textstyle 2k}
k
{\textstyle k}
が大きい場合、スチューデント の t 分布は 平均 0、分散 1 でほぼ正規分布になります 。
t
(
ν
)
{\textstyle t(\nu )}
ν
{\textstyle \nu }
これらの近似値が十分に正確であるかどうかは、近似値が必要とされる目的と、正規分布への収束率によって異なります。通常、このような近似値は分布の末端では精度が低くなります。
中心極限定理における近似誤差の一般的な上限は ベリー・エッセン定理 によって与えられ、近似の改良は エッジワース展開 によって与えられます。
この定理は、多数の均一なノイズ源の合計をガウスノイズ としてモデル化することを正当化するためにも使用できます 。AWGN を 参照してください 。
通常の変数の演算と機能
a: および の 正規 変数の 関数の確率密度 。b : 2つの正規変数 と の 関数の確率密度 ( 、 、 、 、 ) 。c : 2つの相関した正規変数と の2つの関数の結合確率密度のヒートマップ ( 、 、 、 、 、 ) 。d: 4つのiid標準正規変数の関数の確率密度 。これらはレイトレーシングの数値法によって計算されます。 [39]
cos
x
2
{\textstyle \cos x^{2}}
x
{\textstyle x}
μ
=
−
2
{\textstyle \mu =-2}
σ
=
3
{\textstyle \sigma =3}
x
y
{\textstyle x^{y}}
x
{\textstyle x}
y
{\textstyle y}
μ
x
=
1
{\textstyle \mu _{x}=1}
μ
y
=
2
{\textstyle \mu _{y}=2}
σ
x
=
0.1
{\textstyle \sigma _{x}=0.1}
σ
y
=
0.2
{\textstyle \sigma _{y}=0.2}
ρ
x
y
=
0.8
{\textstyle \rho _{xy}=0.8}
x
{\textstyle x}
y
{\textstyle y}
μ
x
=
−
2
{\textstyle \mu _{x}=-2}
μ
y
=
5
{\textstyle \mu _{y}=5}
σ
x
2
=
10
{\textstyle \sigma _{x}^{2}=10}
σ
y
2
=
20
{\textstyle \sigma _{y}^{2}=20}
ρ
x
y
=
0.495
{\textstyle \rho _{xy}=0.495}
∑
i
=
1
4
|
x
i
|
{\textstyle \sum _{i=1}^{4}\vert x_{i}\vert }
1つ以上の独立したまたは相関のある正規変数の任意の関数の 確率密度 、 累積 分布 、 逆累積分布は、レイトレーシング [39] (Matlabコード)の数値法で計算できます。次のセクションでは、いくつかの特殊なケースを見ていきます。
単一の通常変数に対する操作
が平均 と分散で正規分布している 場合 、
X
{\textstyle X}
μ
{\textstyle \mu }
σ
2
{\textstyle \sigma ^{2}}
a
X
+
b
{\textstyle aX+b}
は、任意の実数 およびに対して、平均 および分散 で正規分布します 。つまり、正規分布族は 線形変換 に対して閉じています。
a
{\textstyle a}
b
{\textstyle b}
a
μ
+
b
{\textstyle a\mu +b}
a
2
σ
2
{\textstyle a^{2}\sigma ^{2}}
の指数は 対数 正規 分布します 。
X
{\textstyle X}
e
X
∼
ln
(
N
(
μ
,
σ
2
)
)
{\textstyle e^{X}\sim \ln(N(\mu ,\sigma ^{2}))}
の 標準 シグモイド は ロジット正規分布します : 。
X
{\textstyle X}
σ
(
X
)
∼
P
(
N
(
μ
,
σ
2
)
)
{\textstyle \sigma (X)\sim P({\mathcal {N}}(\mu ,\,\sigma ^{2}))}
の絶対値は 折り畳み正規分布 に従います 。 これは 半正規分布 と呼ばれます 。
X
{\textstyle X}
|
X
|
∼
N
f
(
μ
,
σ
2
)
{\textstyle {\left|X\right|\sim N_{f}(\mu ,\sigma ^{2})}}
μ
=
0
{\textstyle \mu =0}
正規化された残差の絶対値 は、 自由度 1 の カイ 分布 に従います 。
|
X
−
μ
|
/
σ
{\textstyle |X-\mu |/\sigma }
|
X
−
μ
|
/
σ
∼
χ
1
{\textstyle |X-\mu |/\sigma \sim \chi _{1}}
の二乗は、 自由度 1 の 非心カイ二乗分布 に従います 。 の場合 、分布は単に カイ二乗 と呼ばれます。
X
/
σ
{\textstyle X/\sigma }
X
2
/
σ
2
∼
χ
1
2
(
μ
2
/
σ
2
)
{\textstyle X^{2}/\sigma ^{2}\sim \chi _{1}^{2}(\mu ^{2}/\sigma ^{2})}
μ
=
0
{\textstyle \mu =0}
正規変数の対数尤度は、単にその 確率密度関数 の対数です 。 これは標準正規変数のスケーリングおよびシフトされた二乗であるため、スケーリングおよびシフトされた カイ二乗 変数として分布します。
x
{\textstyle x}
ln
p
(
x
)
=
−
1
2
(
x
−
μ
σ
)
2
−
ln
(
σ
2
π
)
.
{\displaystyle \ln p(x)=-{\frac {1}{2}}\left({\frac {x-\mu }{\sigma }}\right)^{2}-\ln \left(\sigma {\sqrt {2\pi }}\right).}
変数を ある区間に制限した分布は、 切断正規分布 と呼ばれます 。
X
{\textstyle X}
[
a
,
b
]
{\textstyle [a,b]}
(
X
−
μ
)
−
2
{\textstyle (X-\mu )^{-2}}
位置 0 、スケール の レヴィ分布 に従います 。
σ
−
2
{\textstyle \sigma ^{-2}}
2つの独立した正規変数に対する演算
およびが、平均 、 分散 の2 つ の独立した 正規確率変数で ある 場合 、それらの合計も正規分布し、 [証明] 平均 および分散に なります 。
X
1
{\textstyle X_{1}}
X
2
{\textstyle X_{2}}
μ
1
{\textstyle \mu _{1}}
μ
2
{\textstyle \mu _{2}}
σ
1
2
{\textstyle \sigma _{1}^{2}}
σ
2
2
{\textstyle \sigma _{2}^{2}}
X
1
+
X
2
{\textstyle X_{1}+X_{2}}
μ
1
+
μ
2
{\textstyle \mu _{1}+\mu _{2}}
σ
1
2
+
σ
2
2
{\textstyle \sigma _{1}^{2}+\sigma _{2}^{2}}
特に、 とが 平均0、分散 で独立した正規偏差である場合 、と も また独立しており、平均0、分散 で正規分布します。これは 分極恒等式 の特別な場合です 。 [40]
X
{\textstyle X}
Y
{\textstyle Y}
σ
2
{\textstyle \sigma ^{2}}
X
+
Y
{\textstyle X+Y}
X
−
Y
{\textstyle X-Y}
2
σ
2
{\textstyle 2\sigma ^{2}}
、が平均 、分散 の 2 つの独立した正規偏差であり 、、 が 任意 の実数である場合、変数も平均 、分散 の正規分布になります 。したがって、正規分布は 安定して います(指数 )。
X
1
{\textstyle X_{1}}
X
2
{\textstyle X_{2}}
μ
{\textstyle \mu }
σ
2
{\textstyle \sigma ^{2}}
a
{\textstyle a}
b
{\textstyle b}
X
3
=
a
X
1
+
b
X
2
−
(
a
+
b
)
μ
a
2
+
b
2
+
μ
{\displaystyle X_{3}={\frac {aX_{1}+bX_{2}-(a+b)\mu }{\sqrt {a^{2}+b^{2}}}}+\mu }
μ
{\textstyle \mu }
σ
2
{\textstyle \sigma ^{2}}
α
=
2
{\textstyle \alpha =2}
、が正規分布である 場合 、それらの正規化された 幾何平均は 、および を伴う 正規分布です (視覚化についてはここを参照)。
X
k
∼
N
(
m
k
,
σ
k
2
)
{\textstyle X_{k}\sim {\mathcal {N}}(m_{k},\sigma _{k}^{2})}
k
∈
{
0
,
1
}
{\textstyle k\in \{0,1\}}
1
∫
R
n
X
0
α
(
x
)
X
1
1
−
α
(
x
)
d
x
X
0
α
X
1
1
−
α
{\textstyle {\frac {1}{\int _{\mathbb {R} ^{n}}X_{0}^{\alpha }(x)X_{1}^{1-\alpha }(x)\,{\text{d}}x}}X_{0}^{\alpha }X_{1}^{1-\alpha }}
N
(
m
α
,
σ
α
2
)
{\textstyle {\mathcal {N}}(m_{\alpha },\sigma _{\alpha }^{2})}
m
α
=
α
m
0
σ
1
2
+
(
1
−
α
)
m
1
σ
0
2
α
σ
1
2
+
(
1
−
α
)
σ
0
2
{\textstyle m_{\alpha }={\frac {\alpha m_{0}\sigma _{1}^{2}+(1-\alpha )m_{1}\sigma _{0}^{2}}{\alpha \sigma _{1}^{2}+(1-\alpha )\sigma _{0}^{2}}}}
σ
α
2
=
σ
0
2
σ
1
2
α
σ
1
2
+
(
1
−
α
)
σ
0
2
{\textstyle \sigma _{\alpha }^{2}={\frac {\sigma _{0}^{2}\sigma _{1}^{2}}{\alpha \sigma _{1}^{2}+(1-\alpha )\sigma _{0}^{2}}}}
2つの独立した標準正規変数に対する演算
とが 平均0、分散1の2つの独立した標準正規分布のランダム変数である
場合、
X
1
{\textstyle X_{1}}
X
2
{\textstyle X_{2}}
それらの和と差は平均 0、分散 2 で正規分布します 。
X
1
±
X
2
∼
N
(
0
,
2
)
{\textstyle X_{1}\pm X_{2}\sim {\mathcal {N}}(0,2)}
それらの積は、 密度関数 を持つ 積分布 [41] に従います。 ここで、 は 第二種修正ベッセル関数 です 。この分布はゼロの周りで対称で、 で無限大であり 、 特性関数 を持ちます。
Z
=
X
1
X
2
{\textstyle Z=X_{1}X_{2}}
f
Z
(
z
)
=
π
−
1
K
0
(
|
z
|
)
{\textstyle f_{Z}(z)=\pi ^{-1}K_{0}(|z|)}
K
0
{\textstyle K_{0}}
z
=
0
{\textstyle z=0}
ϕ
Z
(
t
)
=
(
1
+
t
2
)
−
1
/
2
{\textstyle \phi _{Z}(t)=(1+t^{2})^{-1/2}}
それらの比率は 標準の コーシー分布 に従います。
X
1
/
X
2
∼
Cauchy
(
0
,
1
)
{\textstyle X_{1}/X_{2}\sim \operatorname {Cauchy} (0,1)}
それらのユークリッドノルムは レイリー分布 に従います 。
X
1
2
+
X
2
2
{\textstyle {\sqrt {X_{1}^{2}+X_{2}^{2}}}}
複数の独立した正規変数に対する演算
独立した正規偏差の任意の線形結合は 正規 偏差です。
が独立した標準正規分布に従う場合 、それらの平方和は 自由 度 が
X
1
,
X
2
,
…
,
X
n
{\textstyle X_{1},X_{2},\ldots ,X_{n}}
n
{\textstyle n}
X
1
2
+
⋯
+
X
n
2
∼
χ
n
2
.
{\displaystyle X_{1}^{2}+\cdots +X_{n}^{2}\sim \chi _{n}^{2}.}
が平均と分散を 持つ独立した正規分布するランダム変数である 場合 、その 標本平均 は標本 標準偏差 から独立しており、 [42]これは Basuの定理 または Cochranの定理 を使用して証明できます 。 [43] これら2つの量の比は、 自由度 を持つ スチューデントのt分布に従います。
X
1
,
X
2
,
…
,
X
n
{\textstyle X_{1},X_{2},\ldots ,X_{n}}
μ
{\textstyle \mu }
σ
2
{\textstyle \sigma ^{2}}
n
−
1
{\textstyle n-1}
t
=
X
¯
−
μ
S
/
n
=
1
n
(
X
1
+
⋯
+
X
n
)
−
μ
1
n
(
n
−
1
)
[
(
X
1
−
X
¯
)
2
+
⋯
+
(
X
n
−
X
¯
)
2
]
∼
t
n
−
1
.
{\displaystyle t={\frac {{\overline {X}}-\mu }{S/{\sqrt {n}}}}={\frac {{\frac {1}{n}}(X_{1}+\cdots +X_{n})-\mu }{\sqrt {{\frac {1}{n(n-1)}}\left[(X_{1}-{\overline {X}})^{2}+\cdots +(X_{n}-{\overline {X}})^{2}\right]}}}\sim t_{n-1}.}
が独立した標準正規確率変数である 場合 、それらの正規化された平方和の比は 自由度が ( n , m )の F分布 に従う: [44]
X
1
,
X
2
,
…
,
X
n
{\textstyle X_{1},X_{2},\ldots ,X_{n}}
Y
1
,
Y
2
,
…
,
Y
m
{\textstyle Y_{1},Y_{2},\ldots ,Y_{m}}
F
=
(
X
1
2
+
X
2
2
+
⋯
+
X
n
2
)
/
n
(
Y
1
2
+
Y
2
2
+
⋯
+
Y
m
2
)
/
m
∼
F
n
,
m
.
{\displaystyle F={\frac {\left(X_{1}^{2}+X_{2}^{2}+\cdots +X_{n}^{2}\right)/n}{\left(Y_{1}^{2}+Y_{2}^{2}+\cdots +Y_{m}^{2}\right)/m}}\sim F_{n,m}.}
正規ベクトルの二次形式 、つまり 複数の独立したまたは相関した正規変数の 二次関数は、 一般化されたカイ二乗 変数です。
q
=
∑
x
i
2
+
∑
x
j
+
c
{\textstyle q=\sum x_{i}^{2}+\sum x_{j}+c}
密度関数に対する演算
分割 正規分布は、 異なる正規分布の密度関数のスケールされたセクションを結合し、密度を再スケールして 1 つに統合するという点で最も直接的に定義されます。 切断正規分布は 、単一の密度関数のセクションを再スケールすることによって生成されます。
無限割り算とクラメールの定理
任意の正の整数に対して、平均 と分散 を 持つ任意の正規分布は、それぞれ平均 と分散 を持つ独立した正規偏差 の合計の分布である 。この特性は 無限割り切れる可能性 と呼ばれる。 [45]
n
{\textstyle {\text{n}}}
μ
{\textstyle \mu }
σ
2
{\textstyle \sigma ^{2}}
n
{\textstyle {\text{n}}}
μ
n
{\textstyle {\frac {\mu }{n}}}
σ
2
n
{\textstyle {\frac {\sigma ^{2}}{n}}}
逆に、 とが 独立した確率変数であり、それらの和が 正規分布に従う場合、 との両方が 正規偏差でなければならない。 [46]
X
1
{\textstyle X_{1}}
X
2
{\textstyle X_{2}}
X
1
+
X
2
{\textstyle X_{1}+X_{2}}
X
1
{\textstyle X_{1}}
X
2
{\textstyle X_{2}}
この結果は クラメールの分解定理 として知られており、 2つの分布の 畳み込み が正規分布となるのは、両方が正規分布である場合のみであると言うことと同等である。クラメールの定理は、独立した非ガウス変数の線形結合は、正規分布に任意に近づくことはあっても、厳密に正規分布になることは決してないということを意味している。 [31]
カッツ・ベルンシュタイン定理
カッツ ・ベルンシュタインの定理 は、 XとY が独立であり、かつXとY も 独立である場合、 X と Yは 必ず正規分布に従うこと を述べている。 [47] [48]
X
{\textstyle X}
Y
{\textstyle Y}
X
+
Y
{\textstyle X+Y}
X
−
Y
{\textstyle X-Y}
より一般的には、 が独立した確率変数である場合、2つの異なる線形結合 とが独立であることと、すべてが 正規分布かつで ある場合に限ります。 ここで、 はの分散を表します 。 [47]
X
1
,
…
,
X
n
{\textstyle X_{1},\ldots ,X_{n}}
∑
a
k
X
k
{\textstyle \sum {a_{k}X_{k}}}
∑
b
k
X
k
{\textstyle \sum {b_{k}X_{k}}}
X
k
{\textstyle X_{k}}
∑
a
k
b
k
σ
k
2
=
0
{\textstyle \sum {a_{k}b_{k}\sigma _{k}^{2}=0}}
σ
k
2
{\textstyle \sigma _{k}^{2}}
X
k
{\textstyle X_{k}}
拡張機能
正規分布の概念は、確率論で最も重要な分布の 1 つであり、単変量 (つまり 1 次元) の場合 (ケース 1) の標準的な枠組みをはるかに超えて拡張されています。これらの拡張はすべて 正規法則 または ガウス 法則とも呼ばれるため、名前にはある程度の曖昧さが存在します。
多 変量正規分布は、 k 次元 ユークリッド空間 におけるガウスの法則を記述する 。ベクトル X∈Rk は 、その成分 Σ の 任意の線形結合が多変量正規分布である場合に多変量正規分布となる。 kj =1 です a j X j は (一変量)正規分布に従います。 Xの分散は、 k×k 対称正定値行列 V です 。 多変量正規分布は、楕円分布 の特殊なケースです 。そのため、 k = 2 の場合 の等密度軌跡は 楕円であり、任意の k の場合は 楕円体 です 。
修正ガウス分布は、 すべての負の要素が 0 にリセットされた正規分布の修正バージョンです。
複素正規分布は 複素正規ベクトルを扱います。複素ベクトル X ∈ C k は 、その実数部と虚数部の両方が 2 k次元の多変量正規分布を一緒に持つ場合、正規分布であると言われます 。X の分散共分散構造は、 分散 行列 Γ と 関係 行列 C の 2 つの行列によって記述されます 。
行列正規分布は、 正規分布する行列の場合を説明します。
ガウス過程は 正規分布する 確率過程 である。これらは、ある無限次元 ヒルベルト空間 Hの要素として見ることができるため、 k = ∞ の場合の多変量正規ベクトルの類似物である 。任意の定数 a ∈ H に対してスカラー 積 ( a , h ) が (一変量) 正規分布に従う場合、ランダム要素 h ∈ H は正規であると言われる。このようなガウスランダム要素の分散構造は、線形共分散 演算子 K: H → H で記述できる 。いくつかのガウス過程は、独自の名前が付けられるほど人気になった。
ガウス q 分布は、 正規分布の q 類似物 を表す抽象的な数学的構成です。
q- ガウス分布は、 Tsallisエントロピー を最大化するという意味でガウス分布に類似しており、 Tsallis分布 の一種です。この分布は、上記の ガウスq分布 とは異なります 。
カニアダキス κ- ガウス分布は、 カニアダキス 統計 から生じるガウス分布の一般化であり、 カニアダキス分布 の 1 つです 。
確率変数 Xは、 分布が2つの部分からなる正規分布を持つ。
f
X
(
x
)
=
N
(
μ
,
σ
1
2
)
if
x
≤
μ
{\displaystyle f_{X}(x)=N(\mu ,\sigma _{1}^{2}){\text{ if }}x\leq \mu }
f
X
(
x
)
=
N
(
μ
,
σ
2
2
)
if
x
≥
μ
{\displaystyle f_{X}(x)=N(\mu ,\sigma _{2}^{2}){\text{ if }}x\geq \mu }
ここで、 μ は 平均であり、 σ 1 2 と σ 2 2 は それぞれ平均の左側と右側の分布の分散です。
この分布の平均、分散、第三中心モーメントは決定されている [49]
E
(
X
)
=
μ
+
2
π
(
σ
2
−
σ
1
)
{\displaystyle \operatorname {E} (X)=\mu +{\sqrt {\frac {2}{\pi }}}(\sigma _{2}-\sigma _{1})}
V
(
X
)
=
(
1
−
2
π
)
(
σ
2
−
σ
1
)
2
+
σ
1
σ
2
{\displaystyle \operatorname {V} (X)=\left(1-{\frac {2}{\pi }}\right)(\sigma _{2}-\sigma _{1})^{2}+\sigma _{1}\sigma _{2}}
T
(
X
)
=
2
π
(
σ
2
−
σ
1
)
[
(
4
π
−
1
)
(
σ
2
−
σ
1
)
2
+
σ
1
σ
2
]
{\displaystyle \operatorname {T} (X)={\sqrt {\frac {2}{\pi }}}(\sigma _{2}-\sigma _{1})\left[\left({\frac {4}{\pi }}-1\right)(\sigma _{2}-\sigma _{1})^{2}+\sigma _{1}\sigma _{2}\right]}
ここでE( X )、V( X )、T( X )はそれぞれ平均、分散、3次中心モーメントです。
ガウスの法則の主な実用的な用途の 1 つは、実際に遭遇するさまざまなランダム変数の経験的分布をモデル化することです。このような場合、可能な拡張は、2 つ以上のパラメーターを持つより豊富な分布族であり、経験的分布をより正確に適合させることができます。このような拡張の例は次のとおりです。
ピアソン分布 — 正規法則を拡張してさまざまな歪度と尖度の値を含む 4 つのパラメータを持つ確率分布のファミリ。
一般化 正規分布は 指数分布とも呼ばれ、漸近挙動がより厚い、またはより薄い分布裾を許容します。
統計的推論
パラメータの推定
正規分布のパラメータがわからず、代わりに 推定し たい場合がよくあります。つまり、正規分布の 標本からパラメータ と のおおよその値を知りたいのです。この問題に対する標準的なアプローチは 最大尤度 法であり 、 対数尤度関数 を最大化する必要があります。
(
x
1
,
…
,
x
n
)
{\textstyle (x_{1},\ldots ,x_{n})}
N
(
μ
,
σ
2
)
{\textstyle {\mathcal {N}}(\mu ,\sigma ^{2})}
μ
{\textstyle \mu }
σ
2
{\textstyle \sigma ^{2}}
ln
L
(
μ
,
σ
2
)
=
∑
i
=
1
n
ln
f
(
x
i
∣
μ
,
σ
2
)
=
−
n
2
ln
(
2
π
)
−
n
2
ln
σ
2
−
1
2
σ
2
∑
i
=
1
n
(
x
i
−
μ
)
2
.
{\displaystyle \ln {\mathcal {L}}(\mu ,\sigma ^{2})=\sum _{i=1}^{n}\ln f(x_{i}\mid \mu ,\sigma ^{2})=-{\frac {n}{2}}\ln(2\pi )-{\frac {n}{2}}\ln \sigma ^{2}-{\frac {1}{2\sigma ^{2}}}\sum _{i=1}^{n}(x_{i}-\mu )^{2}.}
および
について導関数をとり 、結果として得られる一階条件系を解くと、 最大尤度推定値 が得られます。
μ
{\textstyle \mu }
σ
2
{\textstyle \sigma ^{2}}
μ
^
=
x
¯
≡
1
n
∑
i
=
1
n
x
i
,
σ
^
2
=
1
n
∑
i
=
1
n
(
x
i
−
x
¯
)
2
.
{\displaystyle {\hat {\mu }}={\overline {x}}\equiv {\frac {1}{n}}\sum _{i=1}^{n}x_{i},\qquad {\hat {\sigma }}^{2}={\frac {1}{n}}\sum _{i=1}^{n}(x_{i}-{\overline {x}})^{2}.}
すると 次のようになります。
ln
L
(
μ
^
,
σ
^
2
)
{\textstyle \ln {\mathcal {L}}({\hat {\mu }},{\hat {\sigma }}^{2})}
ln
L
(
μ
^
,
σ
^
2
)
=
(
−
n
/
2
)
[
ln
(
2
π
σ
^
2
)
+
1
]
{\displaystyle \ln {\mathcal {L}}({\hat {\mu }},{\hat {\sigma }}^{2})=(-n/2)[\ln(2\pi {\hat {\sigma }}^{2})+1]}
サンプル平均
推定量は すべての観測値の算術平均であるため、 標本平均 と呼ばれます。統計量は に対して 完全 かつ 十分である ため 、 レーマン・シェッフェの定理 により、 一様最小分散不偏 (UMVU) 推定量と なります。 [50] 有限標本では、正規分布します。
この推定量の分散は、 逆 フィッシャー情報行列の μμ 要素に等しくなります。これは、推定量が 有限標本効率的 で あることを意味します。実用上重要なのは、 の 標準誤差 が に比例するという 事実です。つまり、標準誤差を 10 倍に減らしたい場合は、標本内の点の数を 100 倍に増やす必要があります。この事実は、世論調査の標本サイズや モンテカルロシミュレーション の試行回数を決定する際に広く使用されています 。
μ
^
{\displaystyle \textstyle {\hat {\mu }}}
x
¯
{\displaystyle \textstyle {\overline {x}}}
μ
{\textstyle \mu }
μ
^
{\displaystyle \textstyle {\hat {\mu }}}
μ
^
∼
N
(
μ
,
σ
2
/
n
)
.
{\displaystyle {\hat {\mu }}\sim {\mathcal {N}}(\mu ,\sigma ^{2}/n).}
I
−
1
{\displaystyle \textstyle {\mathcal {I}}^{-1}}
μ
^
{\displaystyle \textstyle {\hat {\mu }}}
1
/
n
{\displaystyle \textstyle 1/{\sqrt {n}}}
漸近理論 の観点からは 、 は 矛盾なく 、つまり の とき に 確率的に に収束します 。推定量は 漸近的に正規 でもあり、これは有限サンプルでは正規であるという事実の単純な帰結です。
μ
^
{\displaystyle \textstyle {\hat {\mu }}}
μ
{\textstyle \mu }
n
→
∞
{\textstyle n\rightarrow \infty }
n
(
μ
^
−
μ
)
→
d
N
(
0
,
σ
2
)
.
{\displaystyle {\sqrt {n}}({\hat {\mu }}-\mu )\,\xrightarrow {d} \,{\mathcal {N}}(0,\sigma ^{2}).}
サンプル分散
推定量は 標本分散 と呼ばれます 。これは標本 ( ) の分散だからです。実際には、 の代わりに別の推定量がよく使用されます 。この別の推定量は と表記され 、 標本分散 とも呼ばれますが、これは用語の曖昧さを表しています。その平方根は 標本標準偏差 と呼ばれます 。推定量は、分母に n ではなく ( n − 1) を持つ点で と異なります (いわゆる ベッセル補正 )。
と の差は 、 n が大きい場合、無視できるほど小さくなります。 ただし 、有限標本では、 を使用する理由は、 基礎となるパラメータ の 不偏推定量 であるのに対し 、 は偏りがあるからです。また、レーマン・シェッフェの定理により、推定量は一様最小分散不偏 ( UMVU ) であり、 [50] すべての不偏推定量の中で「最良」の推定量となります。しかし、 平均二乗誤差 (MSE) 基準 の点では、 バイアス推定量 の方が よりも優れていることが示されます。有限サンプルでは 、 と はどちらも 自由度
( n − 1) の尺度 カイ二乗分布 に従います。
これらの式の最初の式は、 の分散が に等しく、 逆フィッシャー情報行列 の σσ 要素よりもわずかに大きいことを示しています 。したがって、 は の効率的な推定量ではなく 、さらに は UMVU であるため、 の有限サンプルの効率的な推定量は存在しないと結論付けることができます 。
σ
^
2
{\displaystyle \textstyle {\hat {\sigma }}^{2}}
(
x
1
,
…
,
x
n
)
{\textstyle (x_{1},\ldots ,x_{n})}
σ
^
2
{\displaystyle \textstyle {\hat {\sigma }}^{2}}
s
2
{\textstyle s^{2}}
s
{\textstyle s}
s
2
{\textstyle s^{2}}
σ
^
2
{\displaystyle \textstyle {\hat {\sigma }}^{2}}
s
2
=
n
n
−
1
σ
^
2
=
1
n
−
1
∑
i
=
1
n
(
x
i
−
x
¯
)
2
.
{\displaystyle s^{2}={\frac {n}{n-1}}{\hat {\sigma }}^{2}={\frac {1}{n-1}}\sum _{i=1}^{n}(x_{i}-{\overline {x}})^{2}.}
s
2
{\textstyle s^{2}}
σ
^
2
{\displaystyle \textstyle {\hat {\sigma }}^{2}}
s
2
{\textstyle s^{2}}
σ
2
{\textstyle \sigma ^{2}}
σ
^
2
{\displaystyle \textstyle {\hat {\sigma }}^{2}}
s
2
{\textstyle s^{2}}
σ
^
2
{\displaystyle \textstyle {\hat {\sigma }}^{2}}
s
2
{\textstyle s^{2}}
s
2
{\textstyle s^{2}}
σ
^
2
{\displaystyle \textstyle {\hat {\sigma }}^{2}}
s
2
∼
σ
2
n
−
1
⋅
χ
n
−
1
2
,
σ
^
2
∼
σ
2
n
⋅
χ
n
−
1
2
.
{\displaystyle s^{2}\sim {\frac {\sigma ^{2}}{n-1}}\cdot \chi _{n-1}^{2},\qquad {\hat {\sigma }}^{2}\sim {\frac {\sigma ^{2}}{n}}\cdot \chi _{n-1}^{2}.}
s
2
{\textstyle s^{2}}
2
σ
4
/
(
n
−
1
)
{\textstyle 2\sigma ^{4}/(n-1)}
I
−
1
{\displaystyle \textstyle {\mathcal {I}}^{-1}}
s
2
{\textstyle s^{2}}
σ
2
{\textstyle \sigma ^{2}}
s
2
{\textstyle s^{2}}
σ
2
{\textstyle \sigma ^{2}}
漸近理論を適用すると、推定量 と推定量は両方とも 矛盾しません。つまり、 サンプル サイズが になると確率的に に収束します 。2 つの推定量は両方とも漸近的に正規です。
特に、両方の推定量は に対して漸近的に効率的です 。
s
2
{\textstyle s^{2}}
σ
^
2
{\displaystyle \textstyle {\hat {\sigma }}^{2}}
σ
2
{\textstyle \sigma ^{2}}
n
→
∞
{\textstyle n\rightarrow \infty }
n
(
σ
^
2
−
σ
2
)
≃
n
(
s
2
−
σ
2
)
→
d
N
(
0
,
2
σ
4
)
.
{\displaystyle {\sqrt {n}}({\hat {\sigma }}^{2}-\sigma ^{2})\simeq {\sqrt {n}}(s^{2}-\sigma ^{2})\,\xrightarrow {d} \,{\mathcal {N}}(0,2\sigma ^{4}).}
σ
2
{\textstyle \sigma ^{2}}
信頼区間
コクランの定理 によれば 、正規分布の場合、標本平均 と標本分散 s 2 は 独立して おり、つまり、それらの 結合分布を 考慮しても利点はない 。逆の定理もある。標本において標本平均と標本分散が独立している場合、標本は正規分布から来ているに違いない。 と s の間の独立性は、いわゆる t 統計量 を構築するために使用できる。
この量 tは、自由度 ( n − 1) の スチューデントの t 分布 を持ち 、 補助統計量 (パラメータの値に依存しない) である。この t統計量の分布を反転すると、 μ の 信頼区間 を構築できる 。 [51] 同様に、 統計量 s 2の χ 2分布を反転すると、 σ 2 の信頼区間が得られる 。 [52]
ここで、 t k,p および χ
μ
^
{\displaystyle \textstyle {\hat {\mu }}}
μ
^
{\displaystyle \textstyle {\hat {\mu }}}
t
=
μ
^
−
μ
s
/
n
=
x
¯
−
μ
1
n
(
n
−
1
)
∑
(
x
i
−
x
¯
)
2
∼
t
n
−
1
{\displaystyle t={\frac {{\hat {\mu }}-\mu }{s/{\sqrt {n}}}}={\frac {{\overline {x}}-\mu }{\sqrt {{\frac {1}{n(n-1)}}\sum (x_{i}-{\overline {x}})^{2}}}}\sim t_{n-1}}
μ
∈
[
μ
^
−
t
n
−
1
,
1
−
α
/
2
s
n
,
μ
^
+
t
n
−
1
,
1
−
α
/
2
s
n
]
{\displaystyle \mu \in \left[{\hat {\mu }}-t_{n-1,1-\alpha /2}{\frac {s}{\sqrt {n}}},\,{\hat {\mu }}+t_{n-1,1-\alpha /2}{\frac {s}{\sqrt {n}}}\right]}
σ
2
∈
[
n
−
1
χ
n
−
1
,
1
−
α
/
2
2
s
2
,
n
−
1
χ
n
−
1
,
α
/
2
2
s
2
]
{\displaystyle \sigma ^{2}\in \left[{\frac {n-1}{\chi _{n-1,1-\alpha /2}^{2}}}s^{2},\,{\frac {n-1}{\chi _{n-1,\alpha /2}^{2}}}s^{2}\right]}
2k 、p はそれぞれt 分布と χ 2 分布 の p 番目 の分位数 です。これらの信頼区間の 信頼 水準は1 − α です。つまり、真の値 μ と σ 2 は、確率 (または 有意水準 ) α でこれらの区間から外れます 。実際には、通常 α = 5% とされ、その結果は 95% 信頼区間となります。σ の信頼区間は、 σ 2 の 区間境界の平方根を取ることで求められます 。
および s 2 の漸近分布から近似式を導くことができます 。
近似式は n
の大きな値に対して有効になり、標準正規分布の分位数 z α /2 は n に依存しない ため、手動計算ではより便利です 。特に、最も一般的な α = 5%の値は、 | z 0.025 | = 1.96 になります 。
μ
^
{\displaystyle \textstyle {\hat {\mu }}}
μ
∈
[
μ
^
−
|
z
α
/
2
|
n
s
,
μ
^
+
|
z
α
/
2
|
n
s
]
{\displaystyle \mu \in \left[{\hat {\mu }}-{\frac {|z_{\alpha /2}|}{\sqrt {n}}}s,\,{\hat {\mu }}+{\frac {|z_{\alpha /2}|}{\sqrt {n}}}s\right]}
σ
2
∈
[
s
2
−
2
|
z
α
/
2
|
n
s
2
,
s
2
+
2
|
z
α
/
2
|
n
s
2
]
{\displaystyle \sigma ^{2}\in \left[s^{2}-{\sqrt {2}}{\frac {|z_{\alpha /2}|}{\sqrt {n}}}s^{2},\,s^{2}+{\sqrt {2}}{\frac {|z_{\alpha /2}|}{\sqrt {n}}}s^{2}\right]}
正規性検定
正規性検定は、与えられたデータ セット { x 1 , ..., x n } が正規分布から得られる可能性を評価します。通常、 帰無仮説 H 0 は、観測値が不特定の平均 μ と分散 σ 2 で正規分布しているというものであり、対立仮説 H a は分布が任意であるというものです。この問題に対して、多くの検定 (40 種類以上) が考案されています。その中でも特に有名な検定を以下に概説します。
診断プロットは 直感的に魅力的ですが、帰無仮説を受け入れるか拒否するかを非公式な人間の判断に依存するため、同時に主観的です。
Q-Q プロットは、 正規確率プロット または ランクイット プロットとも呼ばれ 、データ セットの並べ替えられた値を、標準正規分布の対応する分位数の期待値に対してプロットしたものです。つまり、これは (Φ −1 ( p k ), x ( k ) ) の形式の点のプロットです。ここで、プロットされた点 p k はp k = ( k − α )/( n + 1 − 2 α ) に等しく、 α は 調整定数で、0 から 1 までの値になります。帰無仮説が真である場合、プロットされた点はほぼ直線上に位置するはずです。
P-P プロット – Q-Q プロットに似ていますが、あまり使用されません。この方法は、点 (Φ( z ( k ) ), p k )をプロットすることから構成されます 。正規分布データの場合、このプロットは (0, 0) と (1, 1) の間の 45° の線上にあります。
z
(
k
)
=
(
x
(
k
)
−
μ
^
)
/
σ
^
{\textstyle \textstyle z_{(k)}=(x_{(k)}-{\hat {\mu }})/{\hat {\sigma }}}
適合度検定 :
モーメントベースのテスト :
経験分布関数に基づくテスト :
正規分布のベイズ分析
正規分布データのベイズ分析は、考えられるさまざまな可能性によって複雑になります。
平均または分散のいずれか、あるいはどちらも固定量と見なすことができます。
分散が不明な場合、分散を直接使用して分析することも、分散の逆数である 精度 を使用して分析することもできます。精度を使用して式を表現する理由は、ほとんどの場合の分析が簡略化されるためです。
単変量と 多変量の 両方のケースを考慮する必要があります。
未知の変数には、 共役事前分布 または 不適切な 事前分布の いずれかが配置される場合があります。
ベイズ線形回帰 では、基本モデルでデータが正規分布していると仮定し、 回帰係数 に正規事前分布が配置される場合、追加のケースセットが発生します。結果の分析は、 独立した同一分布 データ の基本ケースと同様です。
非線形回帰の場合の式は 共役先行 論文にまとめられています。
2つの二次方程式の和
次の補助式は、事後 更新方程式を簡素化するのに役立ちます 。事後更新方程式は、そうしないとかなり面倒になります。
a
(
x
−
y
)
2
+
b
(
x
−
z
)
2
=
(
a
+
b
)
(
x
−
a
y
+
b
z
a
+
b
)
2
+
a
b
a
+
b
(
y
−
z
)
2
{\displaystyle a(x-y)^{2}+b(x-z)^{2}=(a+b)\left(x-{\frac {ay+bz}{a+b}}\right)^{2}+{\frac {ab}{a+b}}(y-z)^{2}}
この式は、平方展開し、 x 内の項をグループ化し、 平方完成することで、 x 内の 2 つの二次方程式の和を書き直したものです 。いくつかの項に付随する複素定数因子については、次の点に注意してください。
係数は y と z の 加重平均 の形をとります 。
a
y
+
b
z
a
+
b
{\textstyle {\frac {ay+bz}{a+b}}}
a
b
a
+
b
=
1
1
a
+
1
b
=
(
a
−
1
+
b
−
1
)
−
1
.
{\textstyle {\frac {ab}{a+b}}={\frac {1}{{\frac {1}{a}}+{\frac {1}{b}}}}=(a^{-1}+b^{-1})^{-1}.}
これは、この係数が量 a と bの 逆数 が直接加算される 状況から生じるものと考えられることを示しています。したがって、 a と b 自体を組み合わせるには、結果を逆数にし、加算し、さらに逆数にして、元の単位に戻す必要があります。これはまさに 調和平均によって実行される操作の一種であるため、 が a と b の 調和平均 の半分である ことは驚くべきことではありません 。
a
b
a
+
b
{\textstyle {\frac {ab}{a+b}}}
同様の式は、2つのベクトル二次方程式の和についても書くことができます。 x 、 y 、 z が長さ k のベクトルで 、 A と B が 対称で サイズ の 可逆行列 である場合 、
k
×
k
{\textstyle k\times k}
(
y
−
x
)
′
A
(
y
−
x
)
+
(
x
−
z
)
′
B
(
x
−
z
)
=
(
x
−
c
)
′
(
A
+
B
)
(
x
−
c
)
+
(
y
−
z
)
′
(
A
−
1
+
B
−
1
)
−
1
(
y
−
z
)
{\displaystyle {\begin{aligned}&(\mathbf {y} -\mathbf {x} )'\mathbf {A} (\mathbf {y} -\mathbf {x} )+(\mathbf {x} -\mathbf {z} )'\mathbf {B} (\mathbf {x} -\mathbf {z} )\\={}&(\mathbf {x} -\mathbf {c} )'(\mathbf {A} +\mathbf {B} )(\mathbf {x} -\mathbf {c} )+(\mathbf {y} -\mathbf {z} )'(\mathbf {A} ^{-1}+\mathbf {B} ^{-1})^{-1}(\mathbf {y} -\mathbf {z} )\end{aligned}}}
どこ
c
=
(
A
+
B
)
−
1
(
A
y
+
B
z
)
{\displaystyle \mathbf {c} =(\mathbf {A} +\mathbf {B} )^{-1}(\mathbf {A} \mathbf {y} +\mathbf {B} \mathbf {z} )}
x ′ A x の 形式は 2次形式 と呼ばれ 、 スカラー です。
言い換えると、 x
の要素のペアの積のすべての可能な組み合わせを合計し 、それぞれに別々の係数を持ちます。さらに、 であるため、 A の非対角要素については 合計のみが重要であり、 A が 対称 であると仮定しても一般性が失われることはありません 。さらに、 A が対称である場合、形式
x
′
A
x
=
∑
i
,
j
a
i
j
x
i
x
j
{\displaystyle \mathbf {x} '\mathbf {A} \mathbf {x} =\sum _{i,j}a_{ij}x_{i}x_{j}}
x
i
x
j
=
x
j
x
i
{\textstyle x_{i}x_{j}=x_{j}x_{i}}
a
i
j
+
a
j
i
{\textstyle a_{ij}+a_{ji}}
x
′
A
y
=
y
′
A
x
.
{\textstyle \mathbf {x} '\mathbf {A} \mathbf {y} =\mathbf {y} '\mathbf {A} \mathbf {x} .}
平均からの差の合計
もう一つの便利な式は次の通り です。
∑
i
=
1
n
(
x
i
−
μ
)
2
=
∑
i
=
1
n
(
x
i
−
x
¯
)
2
+
n
(
x
¯
−
μ
)
2
{\displaystyle \sum _{i=1}^{n}(x_{i}-\mu )^{2}=\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}+n({\bar {x}}-\mu )^{2}}
x
¯
=
1
n
∑
i
=
1
n
x
i
.
{\textstyle {\bar {x}}={\frac {1}{n}}\sum _{i=1}^{n}x_{i}.}
既知の差異あり
サイズ nの iid 正規分布データ ポイント X のセット (各個別のポイント x が既知の 分散 σ 2 に従う) の場合 、 共役事前 分布も正規分布になります。
x
∼
N
(
μ
,
σ
2
)
{\textstyle x\sim {\mathcal {N}}(\mu ,\sigma ^{2})}
これは、分散を 精度 として書き直す、つまり τ = 1/σ 2 を 使用することで、より簡単に示すことができます。そして の場合 、 次のように進めます。
x
∼
N
(
μ
,
1
/
τ
)
{\textstyle x\sim {\mathcal {N}}(\mu ,1/\tau )}
μ
∼
N
(
μ
0
,
1
/
τ
0
)
,
{\textstyle \mu \sim {\mathcal {N}}(\mu _{0},1/\tau _{0}),}
まず、 尤度関数は 次のようになります (平均からの差の合計については上記の式を使用)。
p
(
X
∣
μ
,
τ
)
=
∏
i
=
1
n
τ
2
π
exp
(
−
1
2
τ
(
x
i
−
μ
)
2
)
=
(
τ
2
π
)
n
/
2
exp
(
−
1
2
τ
∑
i
=
1
n
(
x
i
−
μ
)
2
)
=
(
τ
2
π
)
n
/
2
exp
[
−
1
2
τ
(
∑
i
=
1
n
(
x
i
−
x
¯
)
2
+
n
(
x
¯
−
μ
)
2
)
]
.
{\displaystyle {\begin{aligned}p(\mathbf {X} \mid \mu ,\tau )&=\prod _{i=1}^{n}{\sqrt {\frac {\tau }{2\pi }}}\exp \left(-{\frac {1}{2}}\tau (x_{i}-\mu )^{2}\right)\\&=\left({\frac {\tau }{2\pi }}\right)^{n/2}\exp \left(-{\frac {1}{2}}\tau \sum _{i=1}^{n}(x_{i}-\mu )^{2}\right)\\&=\left({\frac {\tau }{2\pi }}\right)^{n/2}\exp \left[-{\frac {1}{2}}\tau \left(\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}+n({\bar {x}}-\mu )^{2}\right)\right].\end{aligned}}}
次に、次のように進めます。
p
(
μ
∣
X
)
∝
p
(
X
∣
μ
)
p
(
μ
)
=
(
τ
2
π
)
n
/
2
exp
[
−
1
2
τ
(
∑
i
=
1
n
(
x
i
−
x
¯
)
2
+
n
(
x
¯
−
μ
)
2
)
]
τ
0
2
π
exp
(
−
1
2
τ
0
(
μ
−
μ
0
)
2
)
∝
exp
(
−
1
2
(
τ
(
∑
i
=
1
n
(
x
i
−
x
¯
)
2
+
n
(
x
¯
−
μ
)
2
)
+
τ
0
(
μ
−
μ
0
)
2
)
)
∝
exp
(
−
1
2
(
n
τ
(
x
¯
−
μ
)
2
+
τ
0
(
μ
−
μ
0
)
2
)
)
=
exp
(
−
1
2
(
n
τ
+
τ
0
)
(
μ
−
n
τ
x
¯
+
τ
0
μ
0
n
τ
+
τ
0
)
2
+
n
τ
τ
0
n
τ
+
τ
0
(
x
¯
−
μ
0
)
2
)
∝
exp
(
−
1
2
(
n
τ
+
τ
0
)
(
μ
−
n
τ
x
¯
+
τ
0
μ
0
n
τ
+
τ
0
)
2
)
{\displaystyle {\begin{aligned}p(\mu \mid \mathbf {X} )&\propto p(\mathbf {X} \mid \mu )p(\mu )\\&=\left({\frac {\tau }{2\pi }}\right)^{n/2}\exp \left[-{\frac {1}{2}}\tau \left(\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}+n({\bar {x}}-\mu )^{2}\right)\right]{\sqrt {\frac {\tau _{0}}{2\pi }}}\exp \left(-{\frac {1}{2}}\tau _{0}(\mu -\mu _{0})^{2}\right)\\&\propto \exp \left(-{\frac {1}{2}}\left(\tau \left(\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}+n({\bar {x}}-\mu )^{2}\right)+\tau _{0}(\mu -\mu _{0})^{2}\right)\right)\\&\propto \exp \left(-{\frac {1}{2}}\left(n\tau ({\bar {x}}-\mu )^{2}+\tau _{0}(\mu -\mu _{0})^{2}\right)\right)\\&=\exp \left(-{\frac {1}{2}}(n\tau +\tau _{0})\left(\mu -{\dfrac {n\tau {\bar {x}}+\tau _{0}\mu _{0}}{n\tau +\tau _{0}}}\right)^{2}+{\frac {n\tau \tau _{0}}{n\tau +\tau _{0}}}({\bar {x}}-\mu _{0})^{2}\right)\\&\propto \exp \left(-{\frac {1}{2}}(n\tau +\tau _{0})\left(\mu -{\dfrac {n\tau {\bar {x}}+\tau _{0}\mu _{0}}{n\tau +\tau _{0}}}\right)^{2}\right)\end{aligned}}}
上記の導出では、2つの二次方程式の和に上記の式を使用し、 μを 含まない定数因子をすべて除去しました。結果は、平均 と精度 を持つ正規分布の 核 、つまり
n
τ
x
¯
+
τ
0
μ
0
n
τ
+
τ
0
{\textstyle {\frac {n\tau {\bar {x}}+\tau _{0}\mu _{0}}{n\tau +\tau _{0}}}}
n
τ
+
τ
0
{\textstyle n\tau +\tau _{0}}
p
(
μ
∣
X
)
∼
N
(
n
τ
x
¯
+
τ
0
μ
0
n
τ
+
τ
0
,
1
n
τ
+
τ
0
)
{\displaystyle p(\mu \mid \mathbf {X} )\sim {\mathcal {N}}\left({\frac {n\tau {\bar {x}}+\tau _{0}\mu _{0}}{n\tau +\tau _{0}}},{\frac {1}{n\tau +\tau _{0}}}\right)}
これは、事前パラメータに関する事後パラメータのベイズ更新方程式のセットとして記述できます。
τ
0
′
=
τ
0
+
n
τ
μ
0
′
=
n
τ
x
¯
+
τ
0
μ
0
n
τ
+
τ
0
x
¯
=
1
n
∑
i
=
1
n
x
i
{\displaystyle {\begin{aligned}\tau _{0}'&=\tau _{0}+n\tau \\[5pt]\mu _{0}'&={\frac {n\tau {\bar {x}}+\tau _{0}\mu _{0}}{n\tau +\tau _{0}}}\\[5pt]{\bar {x}}&={\frac {1}{n}}\sum _{i=1}^{n}x_{i}\end{aligned}}}
つまり、 総精度が nτ (または、総分散が n / σ 2 ) で平均値がである n 個 のデータ ポイントを組み合わせるには、データの総精度を事前の総精度に加算するだけで新しい総精度を導き出し、 精度加重平均 、つまり、それぞれが関連する総精度で重み付けされたデータ平均と事前平均の 加重平均 によって新しい平均を形成します。精度が観測の確実性を示すものと考えられる場合、これは論理的に意味をなします。事後平均の分布では、各入力コンポーネントがその確実性によって重み付けされ、この分布の確実性は個々の確実性の合計です。(これを直感的に理解するには、「全体が部分の合計よりも大きい (または大きくない)」という表現を比較してください。さらに、事後分布の知識は事前分布と尤度の組み合わせから得られるため、事後分布のほうがそのコンポーネントのいずれよりも確実であると考えるのが理にかなっています。)
x
¯
{\textstyle {\bar {x}}}
上記の式は、ベイズ法による共役事前 分布の ベイズ分析を 精度の観点から行う方が便利である理由を明らかにしている 。事後精度は事前精度と尤度精度の合計に過ぎず、事後平均は前述のように精度加重平均によって計算される。同じ式を分散の観点から書くと、すべての精度を逆数にすることで、より見苦しい式が得られる。
σ
0
2
′
=
1
n
σ
2
+
1
σ
0
2
μ
0
′
=
n
x
¯
σ
2
+
μ
0
σ
0
2
n
σ
2
+
1
σ
0
2
x
¯
=
1
n
∑
i
=
1
n
x
i
{\displaystyle {\begin{aligned}{\sigma _{0}^{2}}'&={\frac {1}{{\frac {n}{\sigma ^{2}}}+{\frac {1}{\sigma _{0}^{2}}}}}\\[5pt]\mu _{0}'&={\frac {{\frac {n{\bar {x}}}{\sigma ^{2}}}+{\frac {\mu _{0}}{\sigma _{0}^{2}}}}{{\frac {n}{\sigma ^{2}}}+{\frac {1}{\sigma _{0}^{2}}}}}\\[5pt]{\bar {x}}&={\frac {1}{n}}\sum _{i=1}^{n}x_{i}\end{aligned}}}
平均値がわかっている場合
サイズ nの iid 正規分布データ ポイント X のセットで 、各ポイント x が 既知の平均 μ に 従う場合、 分散 の 共役事前分布は 逆ガンマ分布 または スケール逆カイ 2 乗分布 になります。この 2 つは、 パラメーター化 が異なることを除いて同等です 。逆ガンマの方が一般的に使用されますが、便宜上、スケール逆カイ 2 乗を使用します。σ 2 の事前分布は次のとおりです。
x
∼
N
(
μ
,
σ
2
)
{\textstyle x\sim {\mathcal {N}}(\mu ,\sigma ^{2})}
p
(
σ
2
∣
ν
0
,
σ
0
2
)
=
(
σ
0
2
ν
0
2
)
ν
0
/
2
Γ
(
ν
0
2
)
exp
[
−
ν
0
σ
0
2
2
σ
2
]
(
σ
2
)
1
+
ν
0
2
∝
exp
[
−
ν
0
σ
0
2
2
σ
2
]
(
σ
2
)
1
+
ν
0
2
{\displaystyle p(\sigma ^{2}\mid \nu _{0},\sigma _{0}^{2})={\frac {(\sigma _{0}^{2}{\frac {\nu _{0}}{2}})^{\nu _{0}/2}}{\Gamma \left({\frac {\nu _{0}}{2}}\right)}}~{\frac {\exp \left[{\frac {-\nu _{0}\sigma _{0}^{2}}{2\sigma ^{2}}}\right]}{(\sigma ^{2})^{1+{\frac {\nu _{0}}{2}}}}}\propto {\frac {\exp \left[{\frac {-\nu _{0}\sigma _{0}^{2}}{2\sigma ^{2}}}\right]}{(\sigma ^{2})^{1+{\frac {\nu _{0}}{2}}}}}}
上記の尤度 関数を 分散の観点から記述すると、次のようになります。
p
(
X
∣
μ
,
σ
2
)
=
(
1
2
π
σ
2
)
n
/
2
exp
[
−
1
2
σ
2
∑
i
=
1
n
(
x
i
−
μ
)
2
]
=
(
1
2
π
σ
2
)
n
/
2
exp
[
−
S
2
σ
2
]
{\displaystyle {\begin{aligned}p(\mathbf {X} \mid \mu ,\sigma ^{2})&=\left({\frac {1}{2\pi \sigma ^{2}}}\right)^{n/2}\exp \left[-{\frac {1}{2\sigma ^{2}}}\sum _{i=1}^{n}(x_{i}-\mu )^{2}\right]\\&=\left({\frac {1}{2\pi \sigma ^{2}}}\right)^{n/2}\exp \left[-{\frac {S}{2\sigma ^{2}}}\right]\end{aligned}}}
どこ
S
=
∑
i
=
1
n
(
x
i
−
μ
)
2
.
{\displaystyle S=\sum _{i=1}^{n}(x_{i}-\mu )^{2}.}
それから:
p
(
σ
2
∣
X
)
∝
p
(
X
∣
σ
2
)
p
(
σ
2
)
=
(
1
2
π
σ
2
)
n
/
2
exp
[
−
S
2
σ
2
]
(
σ
0
2
ν
0
2
)
ν
0
2
Γ
(
ν
0
2
)
exp
[
−
ν
0
σ
0
2
2
σ
2
]
(
σ
2
)
1
+
ν
0
2
∝
(
1
σ
2
)
n
/
2
1
(
σ
2
)
1
+
ν
0
2
exp
[
−
S
2
σ
2
+
−
ν
0
σ
0
2
2
σ
2
]
=
1
(
σ
2
)
1
+
ν
0
+
n
2
exp
[
−
ν
0
σ
0
2
+
S
2
σ
2
]
{\displaystyle {\begin{aligned}p(\sigma ^{2}\mid \mathbf {X} )&\propto p(\mathbf {X} \mid \sigma ^{2})p(\sigma ^{2})\\&=\left({\frac {1}{2\pi \sigma ^{2}}}\right)^{n/2}\exp \left[-{\frac {S}{2\sigma ^{2}}}\right]{\frac {(\sigma _{0}^{2}{\frac {\nu _{0}}{2}})^{\frac {\nu _{0}}{2}}}{\Gamma \left({\frac {\nu _{0}}{2}}\right)}}~{\frac {\exp \left[{\frac {-\nu _{0}\sigma _{0}^{2}}{2\sigma ^{2}}}\right]}{(\sigma ^{2})^{1+{\frac {\nu _{0}}{2}}}}}\\&\propto \left({\frac {1}{\sigma ^{2}}}\right)^{n/2}{\frac {1}{(\sigma ^{2})^{1+{\frac {\nu _{0}}{2}}}}}\exp \left[-{\frac {S}{2\sigma ^{2}}}+{\frac {-\nu _{0}\sigma _{0}^{2}}{2\sigma ^{2}}}\right]\\&={\frac {1}{(\sigma ^{2})^{1+{\frac {\nu _{0}+n}{2}}}}}\exp \left[-{\frac {\nu _{0}\sigma _{0}^{2}+S}{2\sigma ^{2}}}\right]\end{aligned}}}
上記は、スケール逆カイ二乗分布であり、
ν
0
′
=
ν
0
+
n
ν
0
′
σ
0
2
′
=
ν
0
σ
0
2
+
∑
i
=
1
n
(
x
i
−
μ
)
2
{\displaystyle {\begin{aligned}\nu _{0}'&=\nu _{0}+n\\\nu _{0}'{\sigma _{0}^{2}}'&=\nu _{0}\sigma _{0}^{2}+\sum _{i=1}^{n}(x_{i}-\mu )^{2}\end{aligned}}}
または同等
ν
0
′
=
ν
0
+
n
σ
0
2
′
=
ν
0
σ
0
2
+
∑
i
=
1
n
(
x
i
−
μ
)
2
ν
0
+
n
{\displaystyle {\begin{aligned}\nu _{0}'&=\nu _{0}+n\\{\sigma _{0}^{2}}'&={\frac {\nu _{0}\sigma _{0}^{2}+\sum _{i=1}^{n}(x_{i}-\mu )^{2}}{\nu _{0}+n}}\end{aligned}}}
逆ガンマ分布 の観点から再パラメータ化すると 、結果は次のようになります。
α
′
=
α
+
n
2
β
′
=
β
+
∑
i
=
1
n
(
x
i
−
μ
)
2
2
{\displaystyle {\begin{aligned}\alpha '&=\alpha +{\frac {n}{2}}\\\beta '&=\beta +{\frac {\sum _{i=1}^{n}(x_{i}-\mu )^{2}}{2}}\end{aligned}}}
平均値と分散が不明の場合
各点 x が 未知の平均 μ と未知の 分散 σ 2 に従う、 サイズ nの iid 正規分布データ ポイント X のセットの場合、平均と分散に対して、 正規逆ガンマ分布 で構成される複合 (多変量) 共役事前分布 が配置されます 。論理的には、これは次のように発生します。
x
∼
N
(
μ
,
σ
2
)
{\textstyle x\sim {\mathcal {N}}(\mu ,\sigma ^{2})}
平均は不明だが分散は既知のケースの分析から、更新方程式には、データ ポイントの平均と、データ ポイントの 合計 分散 (既知の分散をデータ ポイントの数で割って計算) で構成されるデータから計算された十分な統計量が含まれることがわかります。
分散は不明だが平均はわかっているケースの分析から、更新方程式には、データ ポイントの数と 偏差の二乗の合計 で構成されるデータに対する十分な統計量が含まれていることがわかります。
事後更新値は、さらにデータを処理する際に事前分布として機能することに注意してください。したがって、可能な限り同じセマンティクスを念頭に置きながら、先ほど説明した十分な統計量の観点から事前分布を論理的に考える必要があります。
平均と分散の両方が未知のケースを処理するには、平均、総分散、分散事前分布の計算に使用されるデータ ポイントの数、および偏差の二乗和の固定推定値を使用して、平均と分散に独立した事前分布を配置することができます。ただし、実際には、平均の総分散は未知の分散に依存し、分散事前分布に含まれる偏差の二乗和は未知の平均に依存する (ように見える) ことに注意してください。実際には、後者の依存関係は比較的重要ではありません。実際の平均をシフトすると、生成されたポイントが同じ量だけシフトし、平均して偏差の二乗は同じままになります。ただし、平均の総分散の場合はそうではありません。未知の分散が増加すると、平均の総分散も比例して増加するため、この依存関係を捉えたいと考えています。
これは、未知の分散に対する平均の 条件付き事前分布 を作成し、事前分布に関連付けられた 疑似観測 の平均を指定するハイパーパラメータと、疑似観測の数を指定する別のパラメータを作成することを示唆しています。この数は分散のスケーリングパラメータとして機能し、実際の分散パラメータに対する平均の全体的な分散を制御できるようにします。分散の事前分布にも 2 つのハイパーパラメータがあり、1 つは事前分布に関連付けられた疑似観測の偏差の二乗の合計を指定し、もう 1 つは疑似観測の数を指定します。各事前分布には疑似観測の数を指定するハイパーパラメータがあり、それぞれの場合でその事前分布の相対的な分散を制御します。これらは 2 つの別々のハイパーパラメータとして指定されるため、2 つの事前分布の分散 (信頼度とも呼ばれます) を個別に制御できます。
これにより、すぐに正規逆ガンマ分布 が得られます。これは、 共役事前 分布( 分散上の 逆ガンマ分布と、分散を 条件とする 平均上の正規分布)が使用され、定義した同じ 4 つのパラメータを使用して、定義した 2 つの分布の積です。
事前確率は通常、次のように定義されます。
p
(
μ
∣
σ
2
;
μ
0
,
n
0
)
∼
N
(
μ
0
,
σ
2
/
n
0
)
p
(
σ
2
;
ν
0
,
σ
0
2
)
∼
I
χ
2
(
ν
0
,
σ
0
2
)
=
I
G
(
ν
0
/
2
,
ν
0
σ
0
2
/
2
)
{\displaystyle {\begin{aligned}p(\mu \mid \sigma ^{2};\mu _{0},n_{0})&\sim {\mathcal {N}}(\mu _{0},\sigma ^{2}/n_{0})\\p(\sigma ^{2};\nu _{0},\sigma _{0}^{2})&\sim I\chi ^{2}(\nu _{0},\sigma _{0}^{2})=IG(\nu _{0}/2,\nu _{0}\sigma _{0}^{2}/2)\end{aligned}}}
更新方程式は次のように導出できます。
x
¯
=
1
n
∑
i
=
1
n
x
i
μ
0
′
=
n
0
μ
0
+
n
x
¯
n
0
+
n
n
0
′
=
n
0
+
n
ν
0
′
=
ν
0
+
n
ν
0
′
σ
0
2
′
=
ν
0
σ
0
2
+
∑
i
=
1
n
(
x
i
−
x
¯
)
2
+
n
0
n
n
0
+
n
(
μ
0
−
x
¯
)
2
{\displaystyle {\begin{aligned}{\bar {x}}&={\frac {1}{n}}\sum _{i=1}^{n}x_{i}\\\mu _{0}'&={\frac {n_{0}\mu _{0}+n{\bar {x}}}{n_{0}+n}}\\n_{0}'&=n_{0}+n\\\nu _{0}'&=\nu _{0}+n\\\nu _{0}'{\sigma _{0}^{2}}'&=\nu _{0}\sigma _{0}^{2}+\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}+{\frac {n_{0}n}{n_{0}+n}}(\mu _{0}-{\bar {x}})^{2}\end{aligned}}}
疑似観測値のそれぞれの数に実際の観測値の数が追加されます。新しい平均ハイパーパラメータは再び加重平均ですが、今回は観測値の相対数によって加重されます。最後に、の更新は 既知の平均の場合と同様ですが、この場合、偏差の二乗和は真の平均ではなく観測データの平均に対して取られるため、結果として、以前の平均とデータの平均の偏差から生じる追加のエラー ソースに対処するために新しい相互作用項を追加する必要があります。
ν
0
′
σ
0
2
′
{\textstyle \nu _{0}'{\sigma _{0}^{2}}'}
証拠
事前分布は
p
(
μ
∣
σ
2
;
μ
0
,
n
0
)
∼
N
(
μ
0
,
σ
2
/
n
0
)
=
1
2
π
σ
2
n
0
exp
(
−
n
0
2
σ
2
(
μ
−
μ
0
)
2
)
∝
(
σ
2
)
−
1
/
2
exp
(
−
n
0
2
σ
2
(
μ
−
μ
0
)
2
)
p
(
σ
2
;
ν
0
,
σ
0
2
)
∼
I
χ
2
(
ν
0
,
σ
0
2
)
=
I
G
(
ν
0
/
2
,
ν
0
σ
0
2
/
2
)
=
(
σ
0
2
ν
0
/
2
)
ν
0
/
2
Γ
(
ν
0
/
2
)
exp
[
−
ν
0
σ
0
2
2
σ
2
]
(
σ
2
)
1
+
ν
0
/
2
∝
(
σ
2
)
−
(
1
+
ν
0
/
2
)
exp
[
−
ν
0
σ
0
2
2
σ
2
]
.
{\displaystyle {\begin{aligned}p(\mu \mid \sigma ^{2};\mu _{0},n_{0})&\sim {\mathcal {N}}(\mu _{0},\sigma ^{2}/n_{0})={\frac {1}{\sqrt {2\pi {\frac {\sigma ^{2}}{n_{0}}}}}}\exp \left(-{\frac {n_{0}}{2\sigma ^{2}}}(\mu -\mu _{0})^{2}\right)\\&\propto (\sigma ^{2})^{-1/2}\exp \left(-{\frac {n_{0}}{2\sigma ^{2}}}(\mu -\mu _{0})^{2}\right)\\p(\sigma ^{2};\nu _{0},\sigma _{0}^{2})&\sim I\chi ^{2}(\nu _{0},\sigma _{0}^{2})=IG(\nu _{0}/2,\nu _{0}\sigma _{0}^{2}/2)\\&={\frac {(\sigma _{0}^{2}\nu _{0}/2)^{\nu _{0}/2}}{\Gamma (\nu _{0}/2)}}~{\frac {\exp \left[{\frac {-\nu _{0}\sigma _{0}^{2}}{2\sigma ^{2}}}\right]}{(\sigma ^{2})^{1+\nu _{0}/2}}}\\&\propto {(\sigma ^{2})^{-(1+\nu _{0}/2)}}\exp \left[{\frac {-\nu _{0}\sigma _{0}^{2}}{2\sigma ^{2}}}\right].\end{aligned}}}
したがって、結合事前確率は
p
(
μ
,
σ
2
;
μ
0
,
n
0
,
ν
0
,
σ
0
2
)
=
p
(
μ
∣
σ
2
;
μ
0
,
n
0
)
p
(
σ
2
;
ν
0
,
σ
0
2
)
∝
(
σ
2
)
−
(
ν
0
+
3
)
/
2
exp
[
−
1
2
σ
2
(
ν
0
σ
0
2
+
n
0
(
μ
−
μ
0
)
2
)
]
.
{\displaystyle {\begin{aligned}p(\mu ,\sigma ^{2};\mu _{0},n_{0},\nu _{0},\sigma _{0}^{2})&=p(\mu \mid \sigma ^{2};\mu _{0},n_{0})\,p(\sigma ^{2};\nu _{0},\sigma _{0}^{2})\\&\propto (\sigma ^{2})^{-(\nu _{0}+3)/2}\exp \left[-{\frac {1}{2\sigma ^{2}}}\left(\nu _{0}\sigma _{0}^{2}+n_{0}(\mu -\mu _{0})^{2}\right)\right].\end{aligned}}}
上記のセクションの既知の分散を持つ
尤度 関数は次のようになります。
p
(
X
∣
μ
,
σ
2
)
=
(
1
2
π
σ
2
)
n
/
2
exp
[
−
1
2
σ
2
(
∑
i
=
1
n
(
x
i
−
μ
)
2
)
]
{\displaystyle {\begin{aligned}p(\mathbf {X} \mid \mu ,\sigma ^{2})&=\left({\frac {1}{2\pi \sigma ^{2}}}\right)^{n/2}\exp \left[-{\frac {1}{2\sigma ^{2}}}\left(\sum _{i=1}^{n}(x_{i}-\mu )^{2}\right)\right]\end{aligned}}}
これを精度ではなく分散で表すと次のようになります
。
p
(
X
∣
μ
,
σ
2
)
=
(
1
2
π
σ
2
)
n
/
2
exp
[
−
1
2
σ
2
(
∑
i
=
1
n
(
x
i
−
x
¯
)
2
+
n
(
x
¯
−
μ
)
2
)
]
∝
σ
2
−
n
/
2
exp
[
−
1
2
σ
2
(
S
+
n
(
x
¯
−
μ
)
2
)
]
{\displaystyle {\begin{aligned}p(\mathbf {X} \mid \mu ,\sigma ^{2})&=\left({\frac {1}{2\pi \sigma ^{2}}}\right)^{n/2}\exp \left[-{\frac {1}{2\sigma ^{2}}}\left(\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}+n({\bar {x}}-\mu )^{2}\right)\right]\\&\propto {\sigma ^{2}}^{-n/2}\exp \left[-{\frac {1}{2\sigma ^{2}}}\left(S+n({\bar {x}}-\mu )^{2}\right)\right]\end{aligned}}}
S
=
∑
i
=
1
n
(
x
i
−
x
¯
)
2
.
{\textstyle S=\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}.}
したがって、事後分布は次のようになります(条件付け要因としてのハイパーパラメータを除外)。
p
(
μ
,
σ
2
∣
X
)
∝
p
(
μ
,
σ
2
)
p
(
X
∣
μ
,
σ
2
)
∝
(
σ
2
)
−
(
ν
0
+
3
)
/
2
exp
[
−
1
2
σ
2
(
ν
0
σ
0
2
+
n
0
(
μ
−
μ
0
)
2
)
]
σ
2
−
n
/
2
exp
[
−
1
2
σ
2
(
S
+
n
(
x
¯
−
μ
)
2
)
]
=
(
σ
2
)
−
(
ν
0
+
n
+
3
)
/
2
exp
[
−
1
2
σ
2
(
ν
0
σ
0
2
+
S
+
n
0
(
μ
−
μ
0
)
2
+
n
(
x
¯
−
μ
)
2
)
]
=
(
σ
2
)
−
(
ν
0
+
n
+
3
)
/
2
exp
[
−
1
2
σ
2
(
ν
0
σ
0
2
+
S
+
n
0
n
n
0
+
n
(
μ
0
−
x
¯
)
2
+
(
n
0
+
n
)
(
μ
−
n
0
μ
0
+
n
x
¯
n
0
+
n
)
2
)
]
∝
(
σ
2
)
−
1
/
2
exp
[
−
n
0
+
n
2
σ
2
(
μ
−
n
0
μ
0
+
n
x
¯
n
0
+
n
)
2
]
×
(
σ
2
)
−
(
ν
0
/
2
+
n
/
2
+
1
)
exp
[
−
1
2
σ
2
(
ν
0
σ
0
2
+
S
+
n
0
n
n
0
+
n
(
μ
0
−
x
¯
)
2
)
]
=
N
μ
∣
σ
2
(
n
0
μ
0
+
n
x
¯
n
0
+
n
,
σ
2
n
0
+
n
)
⋅
I
G
σ
2
(
1
2
(
ν
0
+
n
)
,
1
2
(
ν
0
σ
0
2
+
S
+
n
0
n
n
0
+
n
(
μ
0
−
x
¯
)
2
)
)
.
{\displaystyle {\begin{aligned}p(\mu ,\sigma ^{2}\mid \mathbf {X} )&\propto p(\mu ,\sigma ^{2})\,p(\mathbf {X} \mid \mu ,\sigma ^{2})\\&\propto (\sigma ^{2})^{-(\nu _{0}+3)/2}\exp \left[-{\frac {1}{2\sigma ^{2}}}\left(\nu _{0}\sigma _{0}^{2}+n_{0}(\mu -\mu _{0})^{2}\right)\right]{\sigma ^{2}}^{-n/2}\exp \left[-{\frac {1}{2\sigma ^{2}}}\left(S+n({\bar {x}}-\mu )^{2}\right)\right]\\&=(\sigma ^{2})^{-(\nu _{0}+n+3)/2}\exp \left[-{\frac {1}{2\sigma ^{2}}}\left(\nu _{0}\sigma _{0}^{2}+S+n_{0}(\mu -\mu _{0})^{2}+n({\bar {x}}-\mu )^{2}\right)\right]\\&=(\sigma ^{2})^{-(\nu _{0}+n+3)/2}\exp \left[-{\frac {1}{2\sigma ^{2}}}\left(\nu _{0}\sigma _{0}^{2}+S+{\frac {n_{0}n}{n_{0}+n}}(\mu _{0}-{\bar {x}})^{2}+(n_{0}+n)\left(\mu -{\frac {n_{0}\mu _{0}+n{\bar {x}}}{n_{0}+n}}\right)^{2}\right)\right]\\&\propto (\sigma ^{2})^{-1/2}\exp \left[-{\frac {n_{0}+n}{2\sigma ^{2}}}\left(\mu -{\frac {n_{0}\mu _{0}+n{\bar {x}}}{n_{0}+n}}\right)^{2}\right]\\&\quad \times (\sigma ^{2})^{-(\nu _{0}/2+n/2+1)}\exp \left[-{\frac {1}{2\sigma ^{2}}}\left(\nu _{0}\sigma _{0}^{2}+S+{\frac {n_{0}n}{n_{0}+n}}(\mu _{0}-{\bar {x}})^{2}\right)\right]\\&={\mathcal {N}}_{\mu \mid \sigma ^{2}}\left({\frac {n_{0}\mu _{0}+n{\bar {x}}}{n_{0}+n}},{\frac {\sigma ^{2}}{n_{0}+n}}\right)\cdot {\rm {IG}}_{\sigma ^{2}}\left({\frac {1}{2}}(\nu _{0}+n),{\frac {1}{2}}\left(\nu _{0}\sigma _{0}^{2}+S+{\frac {n_{0}n}{n_{0}+n}}(\mu _{0}-{\bar {x}})^{2}\right)\right).\end{aligned}}}
言い換えると、事後分布は、 上の正規分布と 上の逆ガンマ分布の積の形を持ち 、パラメータは上記の更新方程式と同じです。
p
(
μ
|
σ
2
)
{\textstyle p(\mu |\sigma ^{2})}
p
(
σ
2
)
{\textstyle p(\sigma ^{2})}
発生と応用
実際の問題における正規分布の発生は、大まかに次の 4 つのカテゴリに分類できます。
正確には正規分布です。
近似正規法則、例えば、そのような近似が 中心極限定理 によって正当化される場合、および
正規分布としてモデル化された分布 - 正規分布は、与えられた平均と分散に対して 最大エントロピー を持つ分布です。
回帰問題 - 体系的な効果が十分にモデル化された後に正規分布が見つかります。
正確な正規性
量子調和振動子 の基底状態は ガウス分布に従います。
物理学 における特定の量は、 ジェームズ・クラーク・マクスウェル によって初めて実証されたように、正規分布しています 。そのような量の例は次のとおりです。
量子調和振動子 における基底状態の確率密度関数 。
拡散を 経験する粒子の位置 。粒子が最初に特定の点に位置する場合(つまり、その確率分布は ディラックのデルタ関数)、時間 t の後、その位置は分散 t を持つ正規分布によって記述され、 拡散方程式 を満たします 。最初の位置が特定の密度関数によって与えられる場合、時間 t における密度は g と正規確率密度関数 の 畳み込み です。
∂
∂
t
f
(
x
,
t
)
=
1
2
∂
2
∂
x
2
f
(
x
,
t
)
{\textstyle {\frac {\partial }{\partial t}}f(x,t)={\frac {1}{2}}{\frac {\partial ^{2}}{\partial x^{2}}}f(x,t)}
g
(
x
)
{\textstyle g(x)}
ほぼ正規性
中心極限定理で説明されているように、 ほぼ 正規分布は多くの状況で発生します 。結果が 、加算的かつ独立して 作用する多くの小さな効果によって生成される場合、その分布は正規分布に近くなります。効果が乗算的に(加算的ではなく)作用する場合、または他の効果よりもかなり大きい単一の外部影響がある場合、正規近似は有効ではありません。
想定される正常性
フィッシャーの アヤメの花のデータセットからの アヤメ の萼片幅のヒストグラム 。最もよく適合する正規分布を重ねて表示しています。
正規曲線、つまり誤差のラプラシアン曲線の発生は、非常に異常な現象としてしか認識できません。これは、特定の分布で大まかに近似されます。この理由と、その美しい単純さのため、特に理論的な調査では、おそらくこれを最初の近似として使用できます。
— ピアソン(1901)
この仮定を経験的にテストする統計的手法があります。上記の正規性テストのセクションを参照してください。
生物学 では 、さまざまな変数の 対数は 正規分布する傾向があり、つまり、 (男性/女性のサブグループに分離した後) 対数正規分布 になる傾向があります。例としては、次のものがあります。
生体組織の大きさの測定(長さ、高さ、皮膚面積、重量) [53]
生物標本の 不活性な 付属肢(毛、爪、爪、歯)の 成長方向の 長 さ 。おそらく樹皮の厚さもこの範疇に入る。
成人の血圧など、特定の生理学的測定値。
金融、特に ブラック・ショールズ・モデル では、為替レート、価格指数、株価指数の対数の変化は正規分布であると仮定されている(これらの変数は単利ではなく複利のように振舞うため乗法 的 で ある)。 ブノワ・マンデルブロ などの数学者の中には、 重い裾 を持つ 対数レヴィ分布の 方が、特に 株価暴落 の分析にはより適切なモデルであると主張する者もいる 。金融モデルで正規分布の仮定を使用することは、 ナシム・ニコラス・タレブ の著作でも批判されている。
物理実験における測定誤差は 、多くの場合、正規分布によってモデル化されます。正規分布の使用は、測定誤差が正規分布していると仮定していることを意味するのではなく、むしろ、誤差の平均と分散に関する知識のみに基づいて、正規分布を使用することで可能な限り最も保守的な予測が生成されます。 [54]
標準化されたテスト では 、問題の数と難易度を選択するか( IQテスト の場合のように)、生のテストスコアを正規分布に当てはめて出力スコアに変換することで、結果を正規分布にすることができます。たとえば、 SAT の従来の範囲である200~800は、平均500、標準偏差100の正規分布に基づいています。
10月の降雨量に当てはめた累積正規分布。 分布の当てはめを参照。
方法論上の問題と査読
ジョン・イオアニディスは、 研究結果を検証するための基準として正規分布する標準偏差を使用すると、正規分布していない現象についての 反証可能な予測がテストされないままになると 主張した 。これには、たとえば、すべての必要条件が存在し、加算のように一方が他方の代わりになることができない場合にだけ現れる現象や、ランダムに分布していない現象が含まれる。イオアニディスは、標準偏差中心の検証は、反証可能な予測のうち反証可能な予測の一部が、反証可能な予測の範囲の非正規分布部分にある可能性があり、場合によってはその部分にあるため、すべてではないが一部は正規分布している仮説や理論に、有効であるかのような誤った印象を与えるだけでなく、反証可能な予測のいずれも正規分布していない仮説を、実際には反証可能な予測をしているのに、あたかも反証不可能であるかのように根拠もなく却下することになる、と主張している。イオアニディスは、相互に排他的な理論が研究雑誌によって検証済みとして受け入れられるケースの多くは、非正規分布の予測の実証的な反証を雑誌が取り入れなかったことが原因で、相互に排他的な理論が正しいからではなく、相互に排他的な理論が正しいということはあり得ないと主張している。ただし、相互に排他的な2つの理論が両方とも間違っていて、3つ目の理論が正しいということはあり得ない。 [56]
計算方法
正規分布から値を生成する
フランシス・ゴルトン が発明した装置である ビーン マシンは 、正規乱数の最初の生成装置といえます。この装置は、交互に並んだピンの列を持つ垂直のボードで構成されています。小さなボールが上から落とされ、ピンに当たるとランダムに左または右に跳ね返ります。ボールは下部のビンに集められ、ガウス曲線に似たパターンに落ち着きます。
コンピュータシミュレーション、特にモンテカルロ法 の適用では 、正規分布する値を生成することが望ましい場合がよくあります。以下にリストされているアルゴリズムはすべて、標準正規偏差を生成します。これは、 N ( μ , σ 2 )が X = μ + σZ として生成できるためです。 ここで、 Zは標準正規です。これらのアルゴリズムはすべて、 一様 乱数変量を生成できる 乱数ジェネレータ U が利用可能であることを前提としています 。
最も簡単な方法は、 確率積分変換 特性に基づいています。U が (0,1)に均一に分布している場合、Φ −1 ( U )は標準正規分布に従います。この方法の欠点は、プロビット 関数 Φ −1の計算に依存していることですが、これは解析的には実行できません。いくつかの近似法は、Hart(1968)と erfの 記事に記載されています 。Wichuraは、この関数を小数点以下16桁まで計算する高速アルゴリズムを示しており、 [57] R はこれを使用して 正規分布のランダム変量を計算します。
中心極限定理 に基づいた、 プログラムしやすい近似アプローチは 次のとおりです。12個の均一な U (0,1)偏差を生成し、それらをすべて加算して6を引くと、結果として得られるランダム変数はほぼ標準正規分布になります。実際には、分布は アーウィン・ホール 分布になり 、これは正規分布の12セクション11次多項式近似です。このランダム偏差の範囲は(-6, 6)に制限されます。 [58] 真の正規分布では、全サンプルのわずか0.00034%が±6σの外側に落ちることに注意してください。
ボックス ・ミュラー法で は、(0,1) 上に 一様に 分布する 2 つの独立した乱数 U と V を使用します。この場合、2 つの乱数変数 X と Y は ともに標準正規分布に従い、 独立になります。この定式化は、 2 変量正規 乱数ベクトル ( X 、 Y )に対して、 2 乗ノルム X 2 + Y 2 が 自由度 2 のカイ 2 乗分布 に従うことから生じます。カイ 2 乗分布は、これらの式の 量 −2 ln( U ) に対応する簡単に生成できる 指数乱数変数 です 。角度は、乱数変数 V によって選択された円の周囲に一様に分布します。
X
=
−
2
ln
U
cos
(
2
π
V
)
,
Y
=
−
2
ln
U
sin
(
2
π
V
)
.
{\displaystyle X={\sqrt {-2\ln U}}\,\cos(2\pi V),\qquad Y={\sqrt {-2\ln U}}\,\sin(2\pi V).}
マルサリア 極座標法は 、ボックス・ミュラー法の修正版で、正弦関数と余弦関数の計算を必要としません。この方法では、 U と V は 均一 (-1,1) 分布から抽出され、次に S = U 2 + V 2 が計算されます。S が 1 以上の場合は 、 この方法が最初からやり直され、それ以外の場合は 2 つの量 が返されます。この場合も、 X と Y は 独立した標準正規乱数変数です。
X
=
U
−
2
ln
S
S
,
Y
=
V
−
2
ln
S
S
{\displaystyle X=U{\sqrt {\frac {-2\ln S}{S}}},\qquad Y=V{\sqrt {\frac {-2\ln S}{S}}}}
比率法 [59] は棄却法である。アルゴリズムは次のように進行する。
2 つの独立した均一偏差 U と V を 生成します。
X = √ 8/ e ( V − 0.5)/ U を計算します 。
オプション: X 2 ≤ 5 − 4 e 1/4 Uの場合、 Xを 受け入れ てアルゴリズムを終了します。
オプション: X 2 ≥ 4 e −1.35 / U + 1.4の場合は Xを 拒否し、手順1からやり直します。
X 2 ≤ −4 ln U の場合は X を 受け入れ 、それ以外の場合はアルゴリズムを最初からやり直します。
2つのオプションのステップにより、ほとんどの場合、最後のステップでの対数の評価を回避できます。これらのステップは大幅に改善され、 [60] 対数が評価されることはほとんどなくなります。
ジッグラト アルゴリズム [61] はボックス-ミュラー変換よりも高速で、正確です。すべてのケースの約97%で、2つの乱数、1つのランダム整数と1つのランダム一様乱数、1つの乗算とifテストのみを使用します。これらの2つの組み合わせが「ジッグラトのコア」(対数を使用した一種の拒否サンプリング)の外側になる3%のケースでのみ、指数関数とより均一な乱数を使用する必要があります。
整数演算は標準正規分布からサンプリングするために使用できます。 [62] [63]この方法は、 理想的な近似 の条件を満たすという意味で正確です 。 [64] つまり、標準正規分布から実数をサンプリングし、これを最も近い表現可能な浮動小数点数に丸めるのと同じです。
高速アダマール変換と正規分布の関係について も調査が行われています [65] 。高速 アダマール変換 では加算と減算のみが行われ、中心極限定理によりほぼあらゆる分布の乱数が正規分布に変換されるためです。この点で、一連のアダマール変換をランダム順列と組み合わせることで、任意のデータセットを正規分布データに変換できます。
正規累積分布関数と正規分位関数の数値近似
標準正規 累積分布関数は 、科学計算や統計計算で広く使用されています。
Φ( x ) の値は、 数値積分 、 テイラー級数 、 漸近級数 、 連分数 などのさまざまな方法によって非常に正確に近似できます 。必要な精度のレベルに応じて、さまざまな近似が使用されます。
Zelen & Severo (1964)は、 絶対誤差 | ε ( x ) | < 7.5·10 −8 (アルゴリズム26.2.17)で x > 0に対するΦ( x )の近似値を与えている。 ここで、 ϕ ( x )は標準正規確率密度関数であり、 b 0 = 0.2316419、 b 1 = 0.319381530、 b 2 = −0.356563782、 b 3 = 1.781477937、 b 4 = −1.821255978、 b 5 = 1.330274429である。
Φ
(
x
)
=
1
−
φ
(
x
)
(
b
1
t
+
b
2
t
2
+
b
3
t
3
+
b
4
t
4
+
b
5
t
5
)
+
ε
(
x
)
,
t
=
1
1
+
b
0
x
,
{\displaystyle \Phi (x)=1-\varphi (x)\left(b_{1}t+b_{2}t^{2}+b_{3}t^{3}+b_{4}t^{4}+b_{5}t^{5}\right)+\varepsilon (x),\qquad t={\frac {1}{1+b_{0}x}},}
Hart (1968) は、 erfc() 関数の近似法を、指数関数の有無にかかわらず有理関数を使用して数十種類挙げています 。彼のアルゴリズムは、複雑さの度合いと結果の精度が異なり、絶対精度は最大 24 桁です。West (2009) のアルゴリズムは、Hart のアルゴリズム 5666 と末尾の 連分数 近似を組み合わせて、16 桁の精度を持つ高速計算アルゴリズムを提供します。
Cody (1969)は、Hart68の解がerfには適していないことを思い出した後、有理チェビシェフ近似 によって、相対誤差が最大となるerfとerfcの両方の解を与えました 。
Marsaglia (2004)は、任意の精度で Φ( x ) を計算するための テイラー級数展開に基づく単純なアルゴリズム [注1] を提案しました。このアルゴリズムの欠点は、計算時間が比較的遅いことです(たとえば、 x = 10 の場合、16桁の精度で関数を計算するには300回以上の反復が必要です)。
Φ
(
x
)
=
1
2
+
φ
(
x
)
(
x
+
x
3
3
+
x
5
3
⋅
5
+
x
7
3
⋅
5
⋅
7
+
x
9
3
⋅
5
⋅
7
⋅
9
+
⋯
)
{\displaystyle \Phi (x)={\frac {1}{2}}+\varphi (x)\left(x+{\frac {x^{3}}{3}}+{\frac {x^{5}}{3\cdot 5}}+{\frac {x^{7}}{3\cdot 5\cdot 7}}+{\frac {x^{9}}{3\cdot 5\cdot 7\cdot 9}}+\cdots \right)}
GNU 科学ライブラリは、ハートのアルゴリズムと チェビシェフ多項式 による近似を使用して、標準正規累積分布関数の値を計算します 。
Dia (2023)は、絶対値での 最大相対誤差が 未満となる の次の近似を提案している。 に対して、 に対して 、
1
−
Φ
{\textstyle 1-\Phi }
2
−
53
{\textstyle 2^{-53}}
(
≈
1.1
×
10
−
16
)
{\textstyle \left(\approx 1.1\times 10^{-16}\right)}
x
≥
0
{\textstyle x\geq 0}
1
−
Φ
(
x
)
=
(
0.39894228040143268
x
+
2.92678600515804815
)
(
x
2
+
8.42742300458043240
x
+
18.38871225773938487
x
2
+
5.81582518933527391
x
+
8.97280659046817350
)
(
x
2
+
7.30756258553673541
x
+
18.25323235347346525
x
2
+
5.70347935898051437
x
+
10.27157061171363079
)
(
x
2
+
5.66479518878470765
x
+
18.61193318971775795
x
2
+
5.51862483025707963
x
+
12.72323261907760928
)
(
x
2
+
4.91396098895240075
x
+
24.14804072812762821
x
2
+
5.26184239579604207
x
+
16.88639562007936908
)
(
x
2
+
3.83362947800146179
x
+
11.61511226260603247
x
2
+
4.92081346632882033
x
+
24.12333774572479110
)
e
−
x
2
2
{\textstyle {\begin{aligned}1-\Phi \left(x\right)&=\left({\frac {0.39894228040143268}{x+2.92678600515804815}}\right)\left({\frac {x^{2}+8.42742300458043240x+18.38871225773938487}{x^{2}+5.81582518933527391x+8.97280659046817350}}\right)\\&\left({\frac {x^{2}+7.30756258553673541x+18.25323235347346525}{x^{2}+5.70347935898051437x+10.27157061171363079}}\right)\left({\frac {x^{2}+5.66479518878470765x+18.61193318971775795}{x^{2}+5.51862483025707963x+12.72323261907760928}}\right)\\&\left({\frac {x^{2}+4.91396098895240075x+24.14804072812762821}{x^{2}+5.26184239579604207x+16.88639562007936908}}\right)\left({\frac {x^{2}+3.83362947800146179x+11.61511226260603247}{x^{2}+4.92081346632882033x+24.12333774572479110}}\right)e^{-{\frac {x^{2}}{2}}}\end{aligned}}}
x
<
0
{\textstyle x<0}
1
−
Φ
(
x
)
=
1
−
(
1
−
Φ
(
−
x
)
)
{\displaystyle 1-\Phi \left(x\right)=1-\left(1-\Phi \left(-x\right)\right)}
ショア(1982)は、信頼性工学や在庫分析などの工学およびオペレーションズリサーチの確率的最適化モデルに組み込むことができる単純な近似を導入しました。 p = Φ( z ) と表記すると、分位関数の最も単純な近似は次のようになります。
z
=
Φ
−
1
(
p
)
=
5.5556
[
1
−
(
1
−
p
p
)
0.1186
]
,
p
≥
1
/
2
{\displaystyle z=\Phi ^{-1}(p)=5.5556\left[1-\left({\frac {1-p}{p}}\right)^{0.1186}\right],\qquad p\geq 1/2}
この近似では、 z の最大絶対誤差は 0.026 になります ( 0.5 ≤ p ≤ 0.9999の場合、 0 ≤ z ≤ 3.719 に相当 )。p < 1/2の場合は、 p を 1 − p に 置き換えて 符号を変更します。もう 1 つの近似は、精度がやや劣りますが、単一パラメータ近似です
。
z
=
−
0.4115
{
1
−
p
p
+
log
[
1
−
p
p
]
−
1
}
,
p
≥
1
/
2
{\displaystyle z=-0.4115\left\{{\frac {1-p}{p}}+\log \left[{\frac {1-p}{p}}\right]-1\right\},\qquad p\geq 1/2}
後者は、正規分布の損失積分の簡単な近似を導き出すのに役立ち、次のように定義される。
L
(
z
)
=
∫
z
∞
(
u
−
z
)
φ
(
u
)
d
u
=
∫
z
∞
[
1
−
Φ
(
u
)
]
d
u
L
(
z
)
≈
{
0.4115
(
p
1
−
p
)
−
z
,
p
<
1
/
2
,
0.4115
(
1
−
p
p
)
,
p
≥
1
/
2.
or, equivalently,
L
(
z
)
≈
{
0.4115
{
1
−
log
[
p
1
−
p
]
}
,
p
<
1
/
2
,
0.4115
1
−
p
p
,
p
≥
1
/
2.
{\displaystyle {\begin{aligned}L(z)&=\int _{z}^{\infty }(u-z)\varphi (u)\,du=\int _{z}^{\infty }[1-\Phi (u)]\,du\\[5pt]L(z)&\approx {\begin{cases}0.4115\left({\dfrac {p}{1-p}}\right)-z,&p<1/2,\\\\0.4115\left({\dfrac {1-p}{p}}\right),&p\geq 1/2.\end{cases}}\\[5pt]{\text{or, equivalently,}}\\L(z)&\approx {\begin{cases}0.4115\left\{1-\log \left[{\frac {p}{1-p}}\right]\right\},&p<1/2,\\\\0.4115{\dfrac {1-p}{p}},&p\geq 1/2.\end{cases}}\end{aligned}}}
この近似は、右端に対して特に正確です(z≥1.4 の場合、最大誤差は 10 −3 )。 応答モデリング手法 (RMM、Shore、2011、2012)に基づく累積分布関数の高精度な近似は 、Shore(2005)に示されています。
その他の近似については、 誤差関数#基本関数による近似 を参照してください。特に、累積分布関数 と分位関数 の全領域における 相対 誤差が小さいことは、2008 年に Sergei Winitzki によって明示的に可逆な式によって実現されています。
Φ
{\textstyle \Phi }
Φ
−
1
{\textstyle \Phi ^{-1}}
歴史
発達
一部の著者 [66] [67] は、正規分布の発見は ド・モアブルによるものだとしている。ド・モアブルは 1738 年 [注 2] に、 ( a + b ) n の 二項展開 における係数の研究を 『偶然の理論』 第 2 版で発表した 。ド・モアブルは、この展開における中間項の大きさが とほぼ等しいこと 、および「 m または
2
n
/
2
π
n
{\textstyle 2^{n}/{\sqrt {2\pi n}}}
1 / 2 n が無限大の量である場合、中央から区間 ℓ 離れた項が 中央の項に対して持つ比の対数は である 。」 [68] この定理は正規確率法則の最初の難解な表現として解釈できるが、 スティグラー は、ド・モアブル自身は彼の結果を二項係数のおおよその規則以上のものとして解釈しておらず、特にド・モアブルには確率密度関数の概念が欠けていたと指摘している。 [69]
−
2
ℓ
ℓ
n
{\textstyle -{\frac {2\ell \ell }{n}}}
カール・フリードリヒ・ガウスは、 1809 年に 最小二乗法 を合理化する方法として正規分布を発見しました 。
1823年、 ガウスは モノグラフ 「最小 二乗法 、最大 尤度法 、 正規分布 など、いくつかの重要な統計概念を紹介する 理論 」 を出版した。ガウスは、未知の量 V の測定値を表すために M 、 M ′ 、 M ″、…を 使用し、その量の最も確からしい推定値、つまり、観測された実験結果が得られる確率 φ ( M − V ) · φ ( M ′ − V ) · φ ( M ″ − V ) · … を最大化する推定値を求めた。彼の表記法では、 φΔ は大きさ Δ の測定誤差の確率密度関数である。関数 φ が何であるかを知らなかったガウスは、彼の方法が、測定値の算術平均というよく知られた答えに簡略化されることを要求した。 [注 3] これらの原理から出発して、ガウスは、位置パラメータの推定値として算術平均を選択することを合理化する唯一の法則は、誤差の正規法則であることを証明しました。 [70]
ここで、 h は 「観測の精度の尺度」です。この正規法則を実験における誤差の一般的なモデルとして使用して、ガウスは、現在では 非線形 加重最小二乗 法として知られているものを定式化しました。 [71]
φ
Δ
=
h
√
π
e
−
h
h
Δ
Δ
,
{\displaystyle \varphi {\mathit {\Delta }}={\frac {h}{\surd \pi }}\,e^{-\mathrm {hh} \Delta \Delta },}
ピエール=シモン・ラプラスは1810 年に 中心極限定理 を証明し 、統計学における正規分布の重要性を確立しました。
正規分布の法則を最初に提案したのはガウスだが、 ラプラスも 重要な貢献をした。 [注 4] 1774年に複数の観測値を集約する問題を最初に提起したのはラプラスであったが、 [72] 彼自身の解決策は ラプラス分布 につながった。 1782年に 積分 ∫ e − t 2 dt = √ π の値を最初に計算し、正規分布の正規化定数を与えたのはラプラスであった。 [73] この業績により、ガウスはラプラスの優位性を認めた。 [74]最後に、1810年にラプラスは基本的な 中心極限定理を 証明してアカデミーに提示し 、正規分布の理論的重要性を強調した。 [75]
1809年にアイルランド系アメリカ人の数学者ロバート・アドレインが、 ガウスとは独立して、洞察に富んでいるが欠陥のある正規確率法則の導出を2つ同時に発表した ことは興味深い。 [76] 彼の研究は科学界ではほとんど注目されなかったが、1871年に アッベ によって掘り起こされた。 [77]
19世紀半ばに マクスウェルは、 正規分布は単に便利な数学的ツールであるだけでなく、自然現象にも起こり得ることを証明した。 [78]ある方向に分解した速度が x と x + dx の間にある粒子の数は 、
N
1
α
π
e
−
x
2
α
2
d
x
{\displaystyle \operatorname {N} {\frac {1}{\alpha \;{\sqrt {\pi }}}}\;e^{-{\frac {x^{2}}{\alpha ^{2}}}}\,dx}
ネーミング
現在、この概念は英語では通常、 正規分布 または ガウス分布 として知られています。その他のあまり一般的ではない名前には、ガウス分布、ラプラス-ガウス分布、誤差の法則、誤差の容易さの法則、ラプラスの第 2 法則、ガウスの法則などがあります。
ガウス自身は、その応用に関係する「正規方程式」に関連してこの用語を造ったようで、正規は、通常のものではなく、直交するという意味を専門的に持っていた。 [79] しかし、19世紀末までに、一部の著者 [注5]は、 正規分布という 名称を使い始め 、そこでは「正規」という言葉が形容詞として使われていた。この用語は、この分布が典型的で、一般的であり、したがって正規であると見なされていたという事実を反映していると考えられている。 ピアース (その著者の一人)はかつて「正規」を次のように定義した。「...「正規」は、実際に起こることの平均(または他の種類の平均)ではなく、 長期的には特定の状況下で起こるであろうことの平均値である。」 [ 80] 20世紀初頭、 ピアソンは、 この分布の名称として 正規という 用語を普及させた。 [81]
何年も前に私はラプラス・ガウス曲線を 正規 曲線と呼びました。この名前は、国際的な優先権の問題を回避しますが、他のすべての頻度分布が何らかの意味で「異常」であると人々に信じさせるという欠点があります。
— ピアソン(1920)
また、分布を現代の表記法である標準偏差σ で初めて記述したのはピアソンでした 。その後まもなく、1915 年に フィッシャーが 正規分布の式に位置パラメータを追加し、現在の表記法で表現しました。
d
f
=
1
2
σ
2
π
e
−
(
x
−
m
)
2
/
(
2
σ
2
)
d
x
.
{\displaystyle df={\frac {1}{\sqrt {2\sigma ^{2}\pi }}}e^{-(x-m)^{2}/(2\sigma ^{2})}\,dx.}
平均ゼロ、分散1の正規分布を表す「標準正規」という用語は、1950年代頃に一般的に使われるようになり、P. G. Hoel (1947)の「 数理統計学入門」 やA. M. Mood (1950)の 「統計理論入門」などの 人気教科書に登場しました。 [82]
参照
数学ポータル
ベイツ分布 – アーウィン・ホール分布に似ていますが、0~1の範囲に再スケールされています。
ベーレンス・フィッシャー問題 – 異なる分散を持つ 2 つの正規標本の平均が同じかどうかを検定するという長年の問題。
バタチャリヤ距離 – 正規分布の混合物を分離するために使用される方法
エルデシュ・カッツ定理– 数論 における正規分布の発生について
最大半値で全幅
ガウスぼかし - 畳み込み 、正規分布をカーネルとして使用します
ガウス関数
上のpdfを持つ 修正半正規分布 [83] は として与えられ 、ここで は フォックス・ライトのプサイ関数 を表す 。
(
0
,
∞
)
{\textstyle (0,\infty )}
f
(
x
)
=
2
β
α
2
x
α
−
1
exp
(
−
β
x
2
+
γ
x
)
Ψ
(
α
2
,
γ
β
)
{\textstyle f(x)={\frac {2\beta ^{\frac {\alpha }{2}}x^{\alpha -1}\exp(-\beta x^{2}+\gamma x)}{\Psi {\left({\frac {\alpha }{2}},{\frac {\gamma }{\sqrt {\beta }}}\right)}}}}
Ψ
(
α
,
z
)
=
1
Ψ
1
(
(
α
,
1
2
)
(
1
,
0
)
;
z
)
{\textstyle \Psi (\alpha ,z)={}_{1}\Psi _{1}\left({\begin{matrix}\left(\alpha ,{\frac {1}{2}}\right)\\(1,0)\end{matrix}};z\right)}
正規分布と無相関は独立性を意味するものではない
比率正規分布
逆正規分布
標準正規表
シュタインの補題
準ガウス分布
正規分布する確率変数の合計
Tweedie 分布– 正規分布は、Tweedie 指数分散モデル ファミリーのメンバーです 。
ラップされた正規分布 – 円形領域に適用された正規分布
Z検定 – 正規分布を使用する
注記
^ たとえば、このアルゴリズムは Bc プログラミング言語の 記事で説明されています。
^ ド・ムーヴルは、1733 年に初めてその発見をパンフレット『 Appriximatio ad Summam Terminorum Binomii ( a + b )』で発表した。 ん 彼はSeriem Expansiの中で 、私的流通のみを目的とした小冊子を出版した。しかし、1738年になってようやく彼はその成果を公表した。オリジナルの小冊子は数回にわたって再版された。例えばWalker (1985)を参照。
^ 「ある量が、同じ状況で、同じ注意を払って行われた複数の直接観察によって決定された場合、観察された値の算術平均は、厳密にはなくても、少なくともほぼ最も確からしい値を与えるという仮説を公理と見なすのが慣例となっている。したがって、常にそれに従うのが最も安全である。」— ガウス (1809、セクション 177)
^ 「この曲線をガウス・ラプラシアン曲線または 正規 曲線と呼ぶ私の習慣は、2人の偉大な天文学者数学者の間の発見の功績を比例させる必要がないようにする。」ピアソン(1905年、189ページ)からの引用
^ ここで具体的に言及されているもの以外にも、 1875年頃の ピアーズ 、 ゴルトン (ゴルトン(1889、第5章))、 レクシス (レクシス(1878)、ローバッサー&ヴェロン(2003))の著作にも同様の用法が見られる。 [ 要出典 ]
参考文献
引用
^ Norton, Matthew; Khokhlov, Valentyn; Uryasev, Stan (2019). 「ポートフォリオ最適化と密度推定への応用による共通確率分布のCVaRとbPOEの計算」 (PDF) . Annals of Operations Research . 299 ( 1– 2). Springer: 1281– 1315. arXiv : 1811.11301 . doi :10.1007/s10479-019-03373-1. S2CID 254231768. 2023年3月31日時点 のオリジナル (PDF)からアーカイブ。 2023年 2月27日 閲覧 。
^ 正規分布、ゲイル心理学百科事典
^ カセラ&バーガー(2001年、102ページ)
^ Lyon, A. (2014). 正規分布はなぜ正規なのか?、英国科学哲学ジャーナル。
^ Jorge, Nocedal; Stephan, J. Wright (2006). 数値最適化 (第 2 版). Springer. p. 249. ISBN 978-0387-30303-1 。
^ ab 「正規分布」 。www.mathsisfun.com 。 2020年 8月15日 閲覧 。
^ スティグラー(1982)
^ ハルペリン、ハートレー、ホエル (1965、項目 7)
^ マクファーソン(1990年、110ページ)
^ ベルナルド&スミス(2000年、121ページ)
^ スコット、クレイトン、ノワック、ロバート (2003 年 8 月 7 日)。「Q 関数」 。Connexions 。
^ Barak, Ohad (2006 年 4 月 6 日). 「Q 関数と誤差関数」 (PDF) 。テルアビブ大学。2009 年 3 月 25 日時点のオリジナル (PDF)からアーカイブ。
^ Weisstein, Eric W. 「正規分布関数」 。MathWorld 。
^ アブラモウィッツ、ミルトン 、 ステグン、アイリーン・アン 編 (1983) [1964 年 6 月]。「第 26 章、式 26.2.12」。 数式、グラフ、および数学表付き数学関数ハンドブック 。応用数学シリーズ。第 55 巻 (訂正を含む第 10 回目の初版 (1972 年 12 月) の追加訂正を含む第 9 回目の再版、初版)。ワシントン DC、ニューヨーク: 米国商務省、国立標準局、ドーバー出版。p. 932。ISBN 978-0-486-61272-0 LCCN 64-60036。MR 0167642。LCCN 65-12253 。
^ Vaart, AW van der (1998年10月13日). 漸近統計. ケンブリッジ大学出版局. doi :10.1017/cbo9780511802256. ISBN 978-0-511-80225-6 。
^ Cover, Thomas M.; Thomas, Joy A. (2006). 情報理論の要素 . John Wiley and Sons. p. 254. ISBN 9780471748816 。
^ Park, Sung Y.; Bera, Anil K. (2009). 「最大エントロピー自己回帰条件付き不均一分散モデル」 (PDF) . Journal of Econometrics . 150 (2): 219– 230. CiteSeerX 10.1.1.511.9750 . doi :10.1016/j.jeconom.2008.12.014. 2016年3月7日時点の オリジナル (PDF)からアーカイブ。 2011年 6月2日 閲覧 。
^ Geary RC(1936)「非正規分布サンプルのスチューデント比」の分布。王立統計学会誌補足3(2):178–184
^ルカーチ 、 ユージン(1942年3月)。 「 正規分布の特徴づけ」 。Annals of Mathematical Statistics。13 ( 1): 91-93。doi : 10.1214 / AOMS / 1177731647。ISSN 0003-4851。JSTOR 2236166。MR 0006626。Zbl 0060.28509。Wikidata Q55897617 。
^ abc パテル&リード(1996、[2.1.4])
^ ファン(1991年、1258ページ)
^ パテル&リード(1996、[2.1.8])
^ パプーリス、アタナシオス。 確率、ランダム変数および確率過程 (第4版)。p.148。
^ Winkelbauer, Andreas (2012). 「正規分布のモーメントと絶対モーメント」. arXiv : 1209.4340 [math.ST].
^ ブリュック(1995年、23ページ)
^ ブリュック(1995年、24ページ)
^ カバー&トーマス(2006年、254ページ)
^ ウィリアムズ、デイビッド(2001)。『 オッズを計る:確率と統計のコース』 (再版)。ケンブリッジ[ua]:ケンブリッジ大学出版局。pp. 197–199。ISBN 978-0-521-00618-7 。
^ スミス、ホセ・M・ベルナルド、エイドリアンFM(2000)。 ベイズ理論 (再版)。チチェスター[ua]:ワイリー 。pp.209、366。ISBN 978-0-471-49464-5 。 {{cite book}}: CS1 maint: multiple names: authors list (link)
^ O'Hagan, A. ( 1994) Kendall's Advanced Theory of statistics, Vol 2B, Bayesian Inference 、Edward Arnold。ISBN 0-340-52922-9 (セクション 5.40)
^ ab Bryc (1995, p. 35)
^ UIUC、講義 21。多変量正規分布、21.6:「個別ガウス分布と結合ガウス分布」。
^ エドワード・L・メルニックとアーロン・テネンバイン、「正規分布の誤った仕様」、 アメリカ統計学者 、第36巻、1982年11月第4号、372-373ページ
^ 「2つの正規(ガウス)確率分布のカルバック・ライブラー(KL)距離」 。Allisons.org 。2007年12月5日。 2017年 3月3日 閲覧 。
^ Jordan, Michael I. (2010 年 2 月 8 日). 「Stat260: ベイズモデリングと推論: 正規分布の共役事前分布」 (PDF) 。
^ 甘利・長岡(2000)
^ 「ガウス分布のランダム変数の最大値の期待値」。Mathematics Stack Exchange 。 2024年 4月7日 閲覧 。
^ 「ポアソン分布の正規近似」。Stat.ucla.edu 。 2017年 3月3日 閲覧 。
^ ab Das, Abhranil (2021). 「正規分布を積分および分類する方法」. Journal of Vision . 21 (10): 1. arXiv : 2012.14331 . doi : 10.1167/jov.21.10.1. PMC 8419883. PMID 34468706.
^ ブリュック (1995, 27ページ)
^ Weisstein, Eric W. 「正規積分布」 。MathWorld。wolfram.com 。
^ルカーチ、ユージン (1942) 。 「正規分布の特徴づけ」。 数理 統計年報 。13 ( 1): 91– 3。doi : 10.1214/aoms/ 1177731647。ISSN 0003-4851。JSTOR 2236166 。
^ Basu, D.; Laha, RG (1954). 「正規分布のいくつかの特徴について」. Sankhyā . 13 (4): 359– 62. ISSN 0036-4452. JSTOR 25048183.
^ Lehmann, EL (1997). 統計的仮説のテスト (第2版). Springer. p. 199. ISBN 978-0-387-94919-2 。
^ パテル&リード(1996、[2.3.6])
^ ガランボス & シモネリ (2004、定理 3.5)
^ ab ルカーチとキング (1954)
^ Quine, MP (1993). 「正規分布の3つの特徴について」. 確率と数理統計 . 14 (2): 257– 263.
^ John, S (1982). 「3パラメータ2ピース正規分布族とそのフィッティング」. Communications in Statistics – Theory and Methods . 11 (8): 879– 885. doi :10.1080/03610928208828279.
^ クリシュナムーシー(2006年、127ページ)
^ クリシュナムーシー(2006年、130ページ)
^ クリシュナムーシー(2006年、133ページ)
^ ハクスリー(1932)
^ジェインズ、エドウィン・T. (2003). 確率論 : 科学の論理。ケンブリッジ大学出版局。pp. 592– 593。ISBN 9780521592710 。
^ Oosterbaan, Roland J. (1994). 「第 6 章: 水文データの頻度と回帰分析」 (PDF) 。 Ritzema, Henk P. (編)。 排水原理と応用、出版物 16 (第 2 改訂版)。 オランダ、ワーゲニンゲン: 国際土地再生・改善研究所 (ILRI)。 pp. 175– 224。 ISBN 978-90-70754-33-4 。
^ 出版された研究結果のほとんどがなぜ間違っているのか、ジョン・PA・イオアニディス、2005年
^ Wichura, Michael J. (1988). 「アルゴリズム AS241: 正規分布のパーセンテージポイント」. 応用統計 . 37 (3): 477– 84. doi :10.2307/2347330. JSTOR 2347330.
^ ジョンソン、コッツ、バラクリシュナン(1995、方程式(26.48))
^ キンダーマン&モナハン(1977)
^ レヴァ(1992)
^ マルサリア&ツァン(2000)
^ カーニー(2016)
^ ドゥ、ファン、ウェイ(2022)
^ モナハン(1985年、第2節)
^ ウォレス(1996)
^ ジョンソン、コッツ、バラクリシュナン(1994年、85ページ)
^ Le Cam & Lo Yang (2000、p. 74)
^ ド・モアブル、アブラハム(1733)、補論I – ウォーカー(1985、p.77)を参照
^ スティグラー(1986年、76ページ)
^ ガウス(1809年、第177節)
^ ガウス(1809年、第179節)
^ ラプラス (1774、問題 III)
^ ピアソン(1905年、189ページ)
^ ガウス(1809年、第177節)
^ スティグラー(1986年、144ページ)
^ スティグラー(1978年、243ページ)
^ スティグラー(1978年、244ページ)
^ マクスウェル(1860年、23ページ)
^ ジェインズ、エドウィン J.; 確率論:科学の論理 、第7章。
^ ピアース、チャールズ・S.(1909年頃写本)、 Collected Papers v. 6、段落327。
^ クラスカル&スティグラー(1997年)。
^ 「最も初期の使用例...(エントリー標準正規曲線)」。
^ Sun, Jingchao; Kong, Maiying; Pal, Subhadip (2021年6月22日). 「修正半正規分布:特性と効率的なサンプリング方式」. Communications in Statistics – Theory and Methods . 52 (5): 1591– 1613. doi :10.1080/03610926.2021.1934700. ISSN 0361-0926. S2CID 237919587.
出典
アルドリッチ、ジョン、ミラー、ジェフ。「確率と統計における記号の最も初期の使用」。
アルドリッチ、ジョン、ミラー、ジェフ。「数学用語の最も古い使用例」 特に、「ベル型とベル曲線」、「正規分布」、「ガウス分布」、「誤差、誤差の法則、誤差の理論など」の項目。
天利俊一、長岡宏(2000年) 『情報幾何学の方法』 オックスフォード大学出版局 。ISBN 978-0-8218-0531-2 。
ベルナルド、ホセ・M.; スミス、エイドリアンFM (2000)。 ベイズ理論 。ワイリー 。ISBN 978-0-471-49464-5 。
Bryc, Wlodzimierz (1995)。 正規分布:特性と応用 。Springer- Verlag。ISBN 978-0-387-97990-8 。
Casella, George; Berger, Roger L. (2001). 統計的推論 (第2版). Duxbury. ISBN 978-0-534-24312-8 。
Cody, William J. (1969). 「誤差関数の有理チェビシェフ近似」 . 計算数学 . 23 (107): 631– 638. doi : 10.1090/S0025-5718-1969-0247736-4 .
Cover, Thomas M.; Thomas, Joy A. (2006). 情報理論の要素 。John Wiley and Sons。
Dia, Yaya D. (2023). 「近似不完全積分、相補誤差関数への応用」. SSRN . doi :10.2139/ssrn.4487559. S2CID 259689086.
ド・モアブル、アブラハム (1738)。 偶然性の理論 。アメリカ数学会 。ISBN 978-0-8218-2103-9 。
Du, Y.; Fan, B.; Wei, B. (2022). 「標準正規分布のための改良された正確なサンプリングアルゴリズム」. 計算統計 . 37 (2): 721– 737. arXiv : 2008.03855 . doi :10.1007/s00180-021-01136-w.
Fan, Jianqing (1991). 「ノンパラメトリックデコンボリューション問題の最適収束率について」. 統計年報 . 19 (3): 1257– 1272. doi : 10.1214/aos/1176348248 . JSTOR 2241949.
ガルトン、フランシス (1889)。自然遺伝 (PDF) 。ロンドン、イギリス: リチャード・クレイ・アンド・サンズ。
ガランボス、ヤノス、シモネッリ、イタロ (2004)。 ランダム変数の積: 物理学の問題と算術関数への応用 。Marcel Dekker, Inc. ISBN 978-0-8247-5402-0 。
ガウス、カロロ・フリデリコ (1809)。『 太陽の周りを円錐断面で運動する天体の運動理論 』 (ラテン語)。ハンブルギ、シュムティブス F. ペルテスおよび IH ベッサー。英語訳。
グールド、スティーブン・ジェイ (1981年)。 『人間の誤った測定』 (初版)。WWノートン 。ISBN 978-0-393-01489-1 。
ハルペリン、マックス; ハートレー、ハーマン O.; ホエル、ポールG. (1965)。「統計記号と表記の推奨標準。COPSS 記号と表記に関する委員会」。 アメリカ 統計学者 。19 (3): 12– 14。doi :10.2307/2681417。JSTOR 2681417 。
ハート、ジョン F.他。 (1968年)。 コンピュータによる近似 。ニューヨーク州ニューヨーク: John Wiley & Sons, Inc. ISBN 978-0-88275-642-4 。
「正規分布」、 数学百科事典 、 EMS Press 、2001 [1994]
ハーシュタイン、リチャード J.、 マレー、チャールズ (1994)。 『ベルカーブ: アメリカ生活における知能と階級構造』 。 フリー プレス 。ISBN 978-0-02-914673-6 。
ハクスリー、ジュリアン・S.(1932年)。 相対的成長の問題 。ロンドン 。ISBN 978-0-486-61114-3 . OCLC 476909537.
ジョンソン 、ノーマン L.、コッツ、サミュエル、バラクリシュナン、ナラヤナスワミ (1994)。 連続一変量分布、第 1 巻 。Wiley。ISBN 978-0-471-58495-7 。
ジョンソン 、ノーマン L.、コッツ、サミュエル、バラクリシュナン、ナラヤナスワミ (1995)。 連続一変量分布、第 2 巻 。Wiley。ISBN 978-0-471-58494-0 。
Karney, CFF (2016). 「正規分布からの正確なサンプリング」 ACM Transactions on Mathematical Software . 42 (1): 3:1–14. arXiv : 1303.6257 . doi :10.1145/2710016. S2CID 14252035.
Kinderman, Albert J.; Monahan, John F. (1977). 「一様偏差の比率を用いたランダム変数のコンピュータ生成」 ACM Transactions on Mathematical Software . 3 (3): 257– 260. doi : 10.1145/355744.355750 . S2CID 12884505.
クリシュナムーシー、カリムトゥ (2006)。 統計分布ハンドブックとその応用 。 チャップマン&ホール/CRC。ISBN 978-1-58488-635-8 。
Kruskal, William H.; Stigler, Stephen M. (1997)。Spencer, Bruce D. (編)。 「標準用語: 統計学およびその他の分野における「標準」」 統計学と公共政策。オックスフォード大学出版局 。ISBN 978-0-19-852341-3 。
ラプラス、ピエール=シモン・ド (1774)。 「出来事に関する原因の確率に関する記憶」。 Mémoires de l'Académie Royale des Sciences de Paris (Savants étrangers)、Tome 6 : 621–656 。 Stephen M. Stiglerによる翻訳、 Statistical Science 1 (3)、1986: JSTOR 2245476。
ラプラス、ピエール=シモン(1812年)。 Théorie Analytique des probabilités [ 確率の分析理論 ]。パリ、ヴェーダ州クルシエ。
ル・カム、ルシアン、ロー・ヤン、グレース(2000年)。 統計学における漸近論:いくつかの基本概念 (第2版)。シュプリンガー 。ISBN 978-0-387-95036-5 。
Leva, Joseph L. (1992). 「高速正規乱数ジェネレーター」 (PDF) . ACM Transactions on Mathematical Software . 18 (4): 449– 453. CiteSeerX 10.1.1.544.5806 . doi :10.1145/138351.138364. S2CID 15802663. 2010 年 7 月 16 日のオリジナル (PDF) からアーカイブ。
レクシス、ヴィルヘルム (1878)。 「人間社会の正常な生活と統計の安定性を保証する」。 国際人口統計誌 。 Ⅱ .パリ: 447–462 。
ルカーチ、ユージン; キング、エドガー P. ( 1954) 。 「正規分布の特性」。 数理統計年報 。25 (2): 389– 394。doi : 10.1214 / aoms/1177728796。JSTOR 2236741 。
マクファーソン、グレン(1990)。 科学的調査における統計:その基礎、応用、解釈 。シュプリンガー・フェアラーク 。ISBN 978-0-387-97137-7 。
Marsaglia, George ; Tsang, Wai Wan (2000). 「ランダム変数を生成するためのジッグラト法」. Journal of Statistical Software . 5 (8). doi : 10.18637/jss.v005.i08 .
Marsaglia, George (2004). 「正規分布の評価」. 統計ソフトウェアジャーナル . 11 (4). doi : 10.18637/jss.v011.i04 .
マクスウェル、ジェームズ・クラーク (1860)。「V. 気体の力学理論の図解。 - パート I: 完全に弾性のある球の運動と衝突について」。 哲学雑誌 。シリーズ 4。19 (124): 19– 32。doi : 10.1080 /14786446008642818。
Monahan, JF (1985). 「乱数生成の精度」. 計算数学 . 45 (172): 559– 568. doi : 10.1090/S0025-5718-1985-0804945-X .
Patel, Jagdish K.; Read, Campbell B. (1996)。 正規分布ハンドブック(第2版) 。CRC Press。ISBN 978-0-8247-9342-5 。
ピアソン、カール(1901)。 「 空間内の点の系に最も近い線と平面について」 (PDF) 。 哲学雑誌 。6. 2 (11): 559– 572。doi :10.1080/14786440109462720。S2CID 125037489 。
カール・ピアソン (1905)。 「『フェヒナーとピアソンによるフェールゲセッツとセーヌのフェラルゲマイネルンゲン。再合流』。」 バイオメトリカ 。 4 (1): 169–212 。 土井 :10.2307/2331536。 JSTOR 2331536。
ピアソン 、カール( 1920)。「相関の歴史に関するノート」。 バイオメトリカ 。13 (1): 25-45。doi : 10.1093 /biomet/13.1.25。JSTOR 2331722 。
Rohrbasser, Jean-Marc; Véron, Jacques (2003). 「Wilhelm Lexis: 「物事の本質」の表現としての通常の寿命」 Population . 58 (3): 303– 322. doi : 10.3917/pope.303.0303 .
Shore, H ( 1982). 「逆累積関数、密度関数、および正規分布の損失積分の簡単な近似」。英国 王立 統計学会誌。シリーズ C (応用統計) 。31 (2): 108– 114。doi :10.2307/2347972。JSTOR 2347972 。
Shore, H (2005). 「正規分布の CDF に対する正確な RMM ベースの近似」. Communications in Statistics – Theory and Methods . 34 (3): 507– 513. doi :10.1081/sta-200052102. S2CID 122148043.
Shore, H (2011). 「レスポンスモデリング手法」 WIREs Comput Stat . 3 (4): 357– 372. doi :10.1002/wics.151. S2CID 62021374.
Shore, H (2012). 「レスポンスモデリング方法論モデルの推定」 WIREs Comput Stat . 4 (3): 323– 333. doi :10.1002/wics.1199. S2CID 122366147.
スティグラー 、スティーブン・M. ( 1978) 。 「初期の数理統計学」。 統計年報 。6 (2): 239– 265。doi : 10.1214/aos/1176344123。JSTOR 2958876 。
スティグラー、スティーブン・M ( 1982)。「控えめな提案:正常のための新しい基準」 アメリカ 統計学者 。36 (2): 137-138。doi :10.2307 / 2684031。JSTOR 2684031 。
スティグラー、スティーブン・M(1986年)。 統計の歴史:1900年以前の不確実性の測定 。ハーバード大学出版局 。ISBN 978-0-674-40340-6 。
スティグラー、スティーブン・M(1999)。 表の統計 。ハーバード大学出版局 。ISBN 978-0-674-83601-3 。
ウォーカー、ヘレン M. (1985)。「正規確率の法則に関するド・モアブル」 (PDF) 。スミス、デイビッド・ユージン (編)。 数学の参考書 。ドーバー 。ISBN 978-0-486-64690-9 。
Wallace, CS (1996). 「正規および指数変数用の高速擬似乱数ジェネレータ」 ACM Transactions on Mathematical Software . 22 (1): 119– 127. doi : 10.1145/225545.225554 . S2CID 18514848.
ワイスタイン、エリック W. 「正規分布」。 マスワールド 。
West, Graeme (2009). 「累積正規関数のより良い近似値」 (PDF) 。 Wilmott Magazine : 70– 76。 2012年2月29日時点のオリジナル (PDF) からアーカイブ。
ゼレン、マービン、セベロ、ノーマン C. (1964)。確率関数 (第 26 章)。 数式、グラフ、および数学表を含む数学関数ハンドブック 、 アブラモウィッツ、M. 、 ステグン、IA 著 : National Bureau of Standards。ニューヨーク、NY: ドーバー 。ISBN 978-0-486-61272-0 。
外部リンク
ウィキメディア・コモンズには、正規分布 に関連するメディアがあります 。