定義
累積分布関数 標準正規分布の累積分布関数（CDF）は、通常ギリシャ文字の大文字で表されます 。 Φ {\displaystyle \Phi } Φ （ x ） = 1 2 π ∫ − ∞ x e − t 2 / 2 d t 。 {\displaystyle \Phi (x)={\frac {1}{\sqrt {2\pi }}}\int _{-\infty }^{x}e^{-t^{2}/2}\,dt\,.}
関連するエラー関数 erf （ x ） {\textstyle \operatorname {erf} (x)} 。 [ − x 、 x ] {\displaystyle [-x,x]} ： erf （ x ） = 1 π ∫ − x x e − t 2 d t = 2 π ∫ 0 x e − t 2 d t 。 {\displaystyle \operatorname {erf} (x)={\frac {1}{\sqrt {\pi }}}\int _{-x}^{x}e^{-t^{2}}\,dt={\frac {2}{\sqrt {\pi }}}\int _{0}^{x}e^{-t^{2}}\,dt\,.}
これらの積分は初等関数で表現することができず、しばしば特殊関数 と呼ばれます。しかし、多くの数値近似法が知られています。詳しくは下記を ご覧ください。
この2つの機能は密接に関連しており、 Φ （ x ） = 1 2 [ 1 + erf （ x 2 ） ] 。 {\displaystyle \Phi (x)={\frac {1}{2}}\left[1+\operatorname {erf} \left({\frac {x}{\sqrt {2}}}\right)\right].}
密度を持つ一般 f {\displaystyle f} μ {\displaystyle \mu } σ 2 {\textstyle \sigma ^{2}} F （ x ） = Φ （ x − μ σ ） = 1 2 [ 1 + erf （ x − μ σ 2 ） ] 。 {\displaystyle F(x)=\Phi {\left({\frac {x-\mu }{\sigma }}\right)}={\frac {1}{2}}\left[1+\operatorname {erf} \left({\frac {x-\mu }{\sigma {\sqrt {2}}}}\right)\right].}
したがって、xが a とb の間にあり、かつa < b である確率は[ 16 ] ： P （ 1 < x ≤ b ） = 1 2 [ erf （ b − μ σ 2 ） − erf （ 1 − μ σ 2 ） ] {\displaystyle \operatorname {P} (a<x\leq b)={\frac {1}{2}}\left[\operatorname {erf} \left({\frac {b-\mu }{\sigma {\sqrt {2}}}}\right)-\operatorname {erf} \left({\frac {a-\mu }{\sigma {\sqrt {2}}}}\right)\right]}
標準正規累積分布関数の補関数、Q （ x ） = 1 − Φ （ x ） {\textstyle Q(x)=1-\Phi (x)} は、特に工学系の文献ではQ関数 と呼ばれることが多い。[ 17 ] [ 18 ] 。 X {\displaystyle X} 超える x {\displaystyle x} P （ X > x ） {\displaystyle P(X>x)} Q {\displaystyle Q} Φ {\displaystyle \Phi } [ 19 ]
標準正規累積分布関数 の グラフΦ {\displaystyle \Phi } 回転対称性 を持つ。つまり、 Φ （ − x ） = 1 − Φ （ x ） {\displaystyle \Phi (-x)=1-\Phi (x)} 原始関数 （不定積分）は次のように表すことができます 。 ∫ Φ （ x ） d x = x Φ （ x ） + φ （ x ） + C 。 {\displaystyle \int \Phi (x)\,dx=x\Phi (x)+\varphi (x)+C.}
大きなx に対する累積分布関数の漸近展開は、 部分積分 を用いて導出できる。 Φ （ x ） = 1 2 + 1 2 π e − x 2 / 2 ∑ n = 0 ∞ 1 （ 2 n + 1 ） ! ! x 2 n + 1 。 {\displaystyle \Phi (x)={\frac {1}{2}}+{\frac {1}{\sqrt {2\pi }}}e^{-x^{2}/2}\sum _{n=0}^{\infty }{\frac {1}{(2n+1)!!}}x^{2n+1}\,.} ! ! {\textstyle !!} は二重階乗 を表します。詳しくは、誤差関数§ 漸近展開を 参照してください。 [ 20 ]
テイラー級数表現 正規分布の 級数 φ {\displaystyle \varphi } 代入する 。 − 1 2 x 2 {\displaystyle -{\tfrac {1}{2}}x^{2}} 指数関数のテイラー 級数 [ 21 ]
φ （ x ） = 1 2 π ∑ n = 0 ∞ （ − 1 ） n n ! 2 n x 2 n {\displaystyle \varphi (x)={\frac {1}{\sqrt {2\pi }}}\sum _{n=0}^{\infty }{\frac {(-1)^{n}}{n!\,2^{n}}}x^{2n}}
この級数を項ごとに積分することで、累積分布関数のテイラー級数を得ることができます。[ 22 ]
Φ （ x ） = 1 2 + 1 2 π ∑ n = 0 ∞ （ − 1 ） n n ! 2 n （ 2 n + 1 ） x 2 n + 1 。 {\displaystyle \Phi (x)={\frac {1}{2}}+{\frac {1}{\sqrt {2\pi }}}\sum _{n=0}^{\infty }{\frac {(-1)^{n}}{n!\,2^{n}(2n+1)}}x^{2n+1}.} 、 x {\displaystyle x} 。 [ 22 ]
これらの級数はいずれも、実数および複素数のすべての値に対して収束する完全関数を表しています 。 x {\displaystyle x}
テイラー級数を用いた再帰的計算 エルミート多項式 He n x ) の漸化式は、任意の点x 0 の周りのテイラー級数 展開を効率的に構築するために使用できます。 Φ （ x ） = ∑ n = 0 ∞ Φ （ n ） （ x 0 ） n ! （ x − x 0 ） n 、 {\displaystyle \Phi (x)=\sum _{n=0}^{\infty }{\frac {\Phi ^{(n)}(x_{0})}{n!}}(x-x_{0})^{n}\,,} Φ （ 0 ） （ x 0 ） = 1 2 π ∫ − ∞ x 0 e − t 2 / 2 d t Φ （ 1 ） （ x 0 ） = 1 2 π e − x 0 2 / 2 Φ （ n ） （ x 0 ） = − （ x 0 Φ （ n − 1 ） （ x 0 ） + （ n − 2 ） Φ （ n − 2 ） （ x 0 ） ） 、 n ≥ 2 。 {\displaystyle {\begin{aligned}\Phi ^{(0)}(x_{0})&={\frac {1}{\sqrt {2\pi }}}\int _{-\infty }^{x_{0}}e^{-t^{2}/2}\,dt\\\Phi ^{(1)}(x_{0})&={\frac {1}{\sqrt {2\pi }}}e^{-x_{0}^{2}/2}\\\Phi ^{(n)}(x_{0})&=-\left(x_{0}\Phi ^{(n-1)}(x_{0})+(n-2)\Phi ^{(n-2)}(x_{0})\right),&n\geq 2\,.\end{aligned}}}
物件 正規分布は、最初の 2 つ（つまり、平均と分散 以外）を超えるキュムラント がゼロになる唯一の分布です。また、指定された平均と分散に対して最大のエントロピーを持つ連続分布でもあります。 [ 25 ] ギアリーは 、平均と分散が有限であると仮定すると、正規分布は、一連の独立した抽出から計算された平均と分散が互いに独立している唯一の分布であることを示しました。[ 26 ] [ 27 ]
正規分布は楕円分布 の一種です。正規分布は平均値に関して対称で あり、実数全体でゼロ以外の値をとります。そのため、人の体重や 株価など、本質的に正の値をとる変数や、大きく歪んだ変数には適さない場合があります。そのような変数は、 対数正規分布 やパレート分布 など、他の分布でより適切に記述できる可能性があります。
正規密度の値は、値が のときに実質的にゼロになります。 x {\displaystyle x} 平均値から数標準偏差 以上離れた値（ 外れ 値（平均値から多くの標準偏差離れた値）がかなりの割合で発生すると予想される場合、このモデルは適切ではないかもしれません。正規分布変数に最適な最小二乗法やその他の統計的推論 手法は、このようなデータに適用すると信頼性が著しく低下することがよくあります。このような場合は、裾の重い 分布を想定し、適切なロバストな統計的推論 手法を適用する必要があります。
ガウス分布は、平均や分散が有限であるか否かにかかわらず、独立同分布の 分布の和のアトラクターとなる安定 分布のファミリーに属します。極限的なケースであるガウス分布を除いて、すべての安定分布は裾が厚く、分散は無限大です。ガウス分布は、安定分布であり、かつ確率密度関数を解析的に表現できる数少ない分布の1つであり、他にはコーシー分布 とレヴィ分布 があります。
瞬間 変数の単純モーメントと絶対 モーメント X {\displaystyle X} は X p {\textstyle X^{p}} | X | p {\textstyle |X|^{p}} が μ {\displaystyle \mu } の X {\displaystyle X} がゼロの場合、これらのパラメータは中心モーメント と呼ばれ、そうでない場合は、これらのパラメータは非中心モーメント と呼ばれます通常、私たちは整数次数のモーメントのみに関心があります。 p {\displaystyle p}
もし X {\displaystyle X} は 。 p {\displaystyle p} 実部が-1 。 任意の非負整数に対してp {\displaystyle p} [ 31 ] E [ （ X − μ ） p ] = { 0 もし p 奇妙だ、 σ p （ p − 1 ） ! ! もし p 均等です。 {\displaystyle \operatorname {E} \left[(X-\mu )^{p}\right]={\begin{cases}0&{\text{if }}p{\text{ is odd,}}\\\sigma ^{p}(p-1)!!&{\text{if }}p{\text{ is even.}}\end{cases}}} n ! ! {\textstyle n!!} は二重階乗 、つまり から のすべての数の積を表します。 n {\displaystyle n} 同じパリティを持つn 。 {\textstyle n.}
中心絶対モーメントは、偶数次では通常のモーメントと一致するが、奇数次ではゼロにならない。任意の非負整数に対してp 、 {\textstyle p,}
E [ | X − μ | p ] = σ p （ p − 1 ） ! ! ⋅ { 2 π もし p 奇妙だ 1 もし p さえ = σ p ⋅ 2 p / 2 Γ （ p + 1 2 ） π 。 {\displaystyle {\begin{aligned}\operatorname {E} \left[|X-\mu |^{p}\right]&=\sigma ^{p}(p-1)!!\cdot {\begin{cases}{\sqrt {\frac {2}{\pi }}}&{\text{if }}p{\text{ is odd}}\\1&{\text{if }}p{\text{ is even}}\end{cases}}\\[8pt]&=\sigma ^{p}\cdot {\frac {2^{p/2}\Gamma \left({\frac {p+1}{2}}\right)}{\sqrt {\pi }}}.\end{aligned}}} p > − 1. {\textstyle p>-1.} μ ≠ 0 、 {\textstyle \mu \neq 0,} 単純モーメントと絶対モーメントは、合流型超幾何関数 を用いて表現できる。1 F 1 {\textstyle {}_{1}F_{1}} U 。 {\textstyle U.} [ 32 ] E [ X p ] = σ p ⋅ （ − 私 2 ） p U （ − p 2 、 1 2 、 − μ 2 2 σ 2 ） 、 E [ | X | p ] = σ p ⋅ 2 p / 2 Γ （ 1 + p 2 ） π 1 F 1 （ − p 2 、 1 2 、 − μ 2 2 σ 2 ） 。 {\displaystyle {\begin{aligned}\operatorname {E} \left[X^{p}\right]&=\sigma ^{p}\cdot {\left(-i{\sqrt {2}}\right)}^{p}\,U{\left(-{\frac {p}{2}},{\frac {1}{2}},-{\frac {\mu ^{2}}{2\sigma ^{2}}}\right)},\\\operatorname {E} \left[|X|^{p}\right]&=\sigma ^{p}\cdot 2^{p/2}{\frac {\Gamma {\left({\frac {1+p}{2}}\right)}}{\sqrt {\pi }}}\,{}_{1}F_{1}{\left(-{\frac {p}{2}},{\frac {1}{2}},-{\frac {\mu ^{2}}{2\sigma ^{2}}}\right)}.\end{aligned}}}
これらの表現は、 p > − 1 {\displaystyle p>-1} は 一般化エルミート多項式 も参照してください。
期待される X {\displaystyle X} X {\displaystyle X} する [ 1 、 b ] {\textstyle [a,b]} E [ X ∣ 1 < X < b ] = μ − σ 2 f （ b ） − f （ 1 ） F （ b ） − F （ 1 ） 、 {\displaystyle \operatorname {E} \left[X\mid a<X<b\right]=\mu -\sigma ^{2}{\frac {f(b)-f(a)}{F(b)-F(a)}}\,,} で f {\displaystyle f} そして F {\displaystyle F} それぞれは、 。 X {\displaystyle X} b = ∞ {\textstyle b=\infty } 逆ミルズ比 として知られています。上記では密度 f {\displaystyle f} の X {\displaystyle X} 。 σ 2 {\textstyle \sigma ^{2}} σ {\displaystyle \sigma }
最大エントロピー 指定された有限平均を持つ実数上のすべての確率分布の中で μ {\displaystyle \mu } そして有限 の σ 2 {\displaystyle \sigma ^{2}} 正規 N （ μ 、 σ 2 ） {\textstyle N(\mu ,\sigma ^{2})} はエントロピーが最大 となるものです。これを確認するには、 とします。 X {\displaystyle X} 確率密度 を 連続確率変数 である f （ x ） {\displaystyle f(x)} エントロピー X {\displaystyle X} は [ 35 ] [ 36 ] [ 37 ] H （ X ） = − ∫ − ∞ ∞ f （ x ） ln f （ x ） d x 、 {\displaystyle H(X)=-\int _{-\infty }^{\infty }f(x)\ln f(x)\,dx\,,} f （ x ） ログ f （ x ） {\textstyle f(x)\log f(x)} 。 f （ x ） = 0 {\displaystyle f(x)=0} 。3 つの ラグランジュ乗数 を持つ関数が定義される。 L = − ∫ − ∞ ∞ f （ x ） ln f （ x ） d x − λ 0 （ 1 − ∫ − ∞ ∞ f （ x ） d x ） − λ 1 （ μ − ∫ − ∞ ∞ f （ x ） x d x ） − λ 2 （ σ 2 − ∫ − ∞ ∞ f （ x ） （ x − μ ） 2 d x ） 。 {\displaystyle L=-\int _{-\infty }^{\infty }f(x)\ln f(x)\,dx-\lambda _{0}\left(1-\int _{-\infty }^{\infty }f(x)\,dx\right)-\lambda _{1}\left(\mu -\int _{-\infty }^{\infty }f(x)x\,dx\right)-\lambda _{2}\left(\sigma ^{2}-\int _{-\infty }^{\infty }f(x)(x-\mu )^{2}\,dx\right)\,.}
最大エントロピーでは、小さな変化δ f （ x ） {\textstyle \delta f(x)} f （ x ） {\textstyle f(x)} δ L {\textstyle \delta L} L {\displaystyle L} 0 = δ L = ∫ − ∞ ∞ δ f （ x ） （ − ln f （ x ） − 1 + λ 0 + λ 1 x + λ 2 （ x − μ ） 2 ） d x 。 {\displaystyle 0=\delta L=\int _{-\infty }^{\infty }\delta f(x)\left(-\ln f(x)-1+\lambda _{0}+\lambda _{1}x+\lambda _{2}(x-\mu )^{2}\right)\,dx\,.}
これはどんな小さなものにも当てはまるはずなので δ f （ x ） {\displaystyle \delta f(x)} δ f （ x ） {\displaystyle \delta f(x)} はゼロでなければならず、 を f （ x ） {\displaystyle f(x)} f （ x ） = exp （ − 1 + λ 0 + λ 1 x + λ 2 （ x − μ ） 2 ） 。 {\displaystyle f(x)=\exp \left(-1+\lambda _{0}+\lambda _{1}x+\lambda _{2}(x-\mu )^{2}\right)\,.}
ラグランジュ制約は、 f （ x ） {\displaystyle f(x)} は 。 λ 0 {\displaystyle \lambda _{0}} λ 1 {\displaystyle \lambda _{1}} λ 2 {\displaystyle \lambda _{2}} f （ x ） = 1 2 π σ 2 e − （ x − μ ） 2 2 σ 2 。 {\displaystyle f(x)={\frac {1}{\sqrt {2\pi \sigma ^{2}}}}e^{-{\frac {(x-\mu )^{2}}{2\sigma ^{2}}}}\,.} X ～ N （ μ 、 σ 2 ） {\textstyle X\sim N(\mu ,\sigma ^{2})} H （ X ） = 1 2 （ 1 + ln 2 σ 2 π ） 、 {\displaystyle H(X)={\tfrac {1}{2}}(1+\ln 2\sigma ^{2}\pi )\,,} 。 μ {\displaystyle \mu }
その他の物件 特性関数ϕ X {\textstyle \phi _{X}} の X {\displaystyle X} 。 ϕ X （ t ） = exp Q （ t ） {\textstyle \phi _{X}(t)=\exp Q(t)} Q （ t ） {\textstyle Q(t)} が多項式 である場合、マルシンキェヴィチの定理 (ユゼフ・マルシンキェヴィチ にちなんで命名) は次のように主張します Q {\displaystyle Q} は したがって X {\displaystyle X} は [ 38 ] キュムラント が有限個（2個）存在する唯一の分布であることがわかる。 もし X {\displaystyle X} そして Y {\displaystyle Y} が 共に正規分布 に従い、かつ 無相関で ある場合、それらは独立で ある。X {\displaystyle X} そして Y {\displaystyle Y} は 共同で 正規分布に従うことが不可欠であり、そうでなければこの性質は成り立たない。 [ 39 ] [ 40 ] [証明] ある正規分布のカルバック・ライブラー情報量 X 1 ～ N （ μ 1 、 σ 1 2 ） {\textstyle X_{1}\sim N(\mu _{1},\sigma _{1}^{2})} X 2 ～ N （ μ 2 、 σ 2 2 ） {\textstyle X_{2}\sim N(\mu _{2},\sigma _{2}^{2})} [ 41 ] D K L （ X 1 ∥ X 2 ） = （ μ 1 − μ 2 ） 2 2 σ 2 2 + 1 2 （ σ 1 2 σ 2 2 − 1 − ln σ 1 2 σ 2 2 ） {\displaystyle D_{\mathrm {KL} }(X_{1}\parallel X_{2})={\frac {(\mu _{1}-\mu _{2})^{2}}{2\sigma _{2}^{2}}}+{\frac {1}{2}}\left({\frac {\sigma _{1}^{2}}{\sigma _{2}^{2}}}-1-\ln {\frac {\sigma _{1}^{2}}{\sigma _{2}^{2}}}\right)} 距離は、 H 2 （ X 1 、 X 2 ） = 1 − 2 σ 1 σ 2 σ 1 2 + σ 2 2 exp （ − 1 4 （ μ 1 − μ 2 ） 2 σ 1 2 + σ 2 2 ） {\displaystyle H^{2}(X_{1},X_{2})=1-{\sqrt {\frac {2\sigma _{1}\sigma _{2}}{\sigma _{1}^{2}+\sigma _{2}^{2}}}}\exp \left(-{\frac {1}{4}}{\frac {(\mu _{1}-\mu _{2})^{2}}{\sigma _{1}^{2}+\sigma _{2}^{2}}}\right)} 正規 情報行列 μ {\displaystyle \mu } そして σ 2 {\textstyle \sigma ^{2}} 私 （ μ 、 σ 2 ） = （ 1 σ 2 0 0 1 2 σ 4 ） {\displaystyle {\mathcal {I}}(\mu ,\sigma ^{2})={\begin{pmatrix}{\frac {1}{\sigma ^{2}}}&0\\0&{\frac {1}{2\sigma ^{4}}}\end{pmatrix}}} 正規分布の平均の共役事前分布は、別の正規分布である。[ 42 ] 具体的 x 1 、 … 、 x n {\textstyle x_{1},\ldots ,x_{n}} ～ N （ μ 、 σ 2 ） {\textstyle \sim N(\mu ,\sigma ^{2})} μ ～ N （ μ 0 、 σ 0 2 ） {\textstyle \mu \sim N(\mu _{0},\sigma _{0}^{2})} μ {\displaystyle \mu } μ ∣ x 1 、 … 、 x n ～ N （ σ 2 n μ 0 + σ 0 2 x ¯ σ 2 n + σ 0 2 、 （ n σ 2 + 1 σ 0 2 ） − 1 ） {\displaystyle \mu \mid x_{1},\ldots ,x_{n}\sim {\mathcal {N}}\left({\frac {{\frac {\sigma ^{2}}{n}}\mu _{0}+\sigma _{0}^{2}{\bar {x}}}{{\frac {\sigma ^{2}}{n}}+\sigma _{0}^{2}}},\left({\frac {n}{\sigma ^{2}}}+{\frac {1}{\sigma _{0}^{2}}}\right)^{-1}\right)} 正規分布の族は、指数族 (EF) を形成するだけでなく、実際には二次分散関数 ( NEF-QVF ) を持つ 自然指数族 (NEF) を形成します。正規分布の多くの特性は、NEF-QVF 分布、NEF 分布、または一般的に EF 分布の特性に一般化されます。NEF-QVF 分布は、ポアソン分布、ガンマ分布、二項分布、負の二項分布を含む 6 つの族で構成され、確率と統計で研究される一般的な族の多くは NEF または EF です。 情報幾何学 において、正規分布の族は一定の曲率 を持つ統計的多様体を形成する 。 − 1 {\displaystyle -1} 平坦である。 ∇ （ e ） {\textstyle \nabla ^{(e)}} ∇ （ m ） {\textstyle \nabla ^{(m)}} 43 ] もしX 1 、 … 、 X n {\textstyle X_{1},\dots ,X_{n}} N （ 0 、 σ 2 ） {\textstyle N(0,\sigma ^{2})} E [ 最大 私 X 私 ] ≤ σ 2 ln n {\textstyle E[\max _{i}X_{i}]\leq \sigma {\sqrt {2\ln n}}} [ 44 ]
通常の変数の操作と機能
複数の独立した正規変数に対する演算 独立した正規偏差の任意の線形結合 は、正規偏差である。もしX 1 、 X 2 、 … 、 X n {\textstyle X_{1},X_{2},\ldots ,X_{n}} カイ二乗分布 に従う。 n {\displaystyle n} 自由 X 1 2 + ⋯ + X n 2 ～ χ n 2 。 {\displaystyle X_{1}^{2}+\cdots +X_{n}^{2}\sim \chi _{n}^{2}.} もしX 1 、 X 2 、 … 、 X n {\textstyle X_{1},X_{2},\ldots ,X_{n}} 。 μ {\displaystyle \mu } σ 2 {\textstyle \sigma ^{2}} 標本平均 は標本標準偏差とは独立である [ 48 ]。 Basuの定理 またはCochranの定理 [ 49 ] スチューデントのt分布 に従う。n − 1 {\textstyle n-1} t = X ¯ − μ S / n = 1 n （ X 1 + ⋯ + X n ） − μ 1 n （ n − 1 ） [ （ X 1 − X ¯ ） 2 + ⋯ + （ X n − X ¯ ） 2 ] ～ t n − 1 。 {\displaystyle t={\frac {{\overline {X}}-\mu }{S/{\sqrt {n}}}}={\frac {{\frac {1}{n}}(X_{1}+\cdots +X_{n})-\mu }{\sqrt {{\frac {1}{n(n-1)}}\left[(X_{1}-{\overline {X}})^{2}+\cdots +(X_{n}-{\overline {X}})^{2}\right]}}}\sim t_{n-1}.} もしX 1 、 X 2 、 … 、 X n {\textstyle X_{1},X_{2},\ldots ,X_{n}} Y 1 、 Y 2 、 … 、 Y m {\textstyle Y_{1},Y_{2},\ldots ,Y_{m}} ( n , m ) 自由度のF分布に従います。 [ 50 ] F = （ X 1 2 + X 2 2 + ⋯ + X n 2 ） / n （ Y 1 2 + Y 2 2 + ⋯ + Y m 2 ） / m ～ F n 、 m 。 {\displaystyle F={\frac {\left(X_{1}^{2}+X_{2}^{2}+\cdots +X_{n}^{2}\right)/n}{\left(Y_{1}^{2}+Y_{2}^{2}+\cdots +Y_{m}^{2}\right)/m}}\sim F_{n,m}.}
法線ベクトルの二次形式、すなわち二次関数 q = ∑ x 私 2 + ∑ x j + c {\textstyle q=\sum x_{i}^{2}+\sum x_{j}+c} 一般化カイ二乗 変数となります。
密度関数に対する演算 分割正規分布は 、異なる正規分布の密度関数のスケーリングされた部分を結合し、密度を再スケーリングして積分値が1になるようにすることで最も直接的に定義されます。切断正規分布は 、単一の密度関数の一部を再スケーリングすることによって得られます。
拡張機能 確率論において最も重要な分布の一つである正規分布の概念は、単変量（つまり一次元）の場合（ケース1）という標準的な枠組みをはるかに超えて拡張されてきた。これらの拡張もすべて正規分布 またはガウス 分布と呼ばれるため、名称に若干の曖昧さが存在する。
多変量正規分布は、 k 次元ユークリッド空間 におけるガウス分布を表します。ベクトルX ∈ R k Σ k j =1 a j X j が (単変量) 正規分布に従う場合、多 変量正規分布に従います。X の分散は、k k V です。多変量正規分布は、楕円分布 の特殊なケースです。そのため、 k = 2楕円 であり、任意のk の場合の等密度軌跡は楕円体 です。 修正ガウス分布は、 正規分布の修正版であり、すべての負の要素が0にリセットされます。複素正規分布は 、複素正規ベクトルを扱います。複素ベクトルX ∈ C k は 、その実数成分と虚数成分の両方が2 k 次元多変量正規分布に従う場合に正規であると言われます。Xの 分散共分散構造は、分散 Γ と関係 C の 2 つの行列によって記述されます。行列の正規分布 とは、正規分布に従う行列の場合を指します。ガウス過程は 正規分布に従う確率過程 です。これらは無限次元ヒルベルト空間 Hの要素と見なすことができ、したがって k = ∞h ∈ H a ∈ H 積 ( a , h )が (単変量) 正規分布に従う場合に正規であると言われます。このようなガウスランダム要素の分散構造は、線形 共分散演算子 K : H → H ガウスq分布は 、正規分布のq版 を表す抽象的な数学的構成物である。q-ガウス分布は、 ツァリスエントロピーを 最大化するという意味でガウス分布の類似物であり、ツァリス分布 の一種です。この分布は、上記のガウスq分布 とは異なります。 カニアダキスκ ガウス分布は 、 カニアダキス統計 から生じるガウス分布の一般化であり、カニアダキス分布 の1つです。 確率変数X が 二部正規分布に従うのは、その分布が f X （ x ） = { N （ μ 、 σ 1 2 ） 、 もし x ≤ μ N （ μ 、 σ 2 2 ） 、 もし x ≥ μ {\displaystyle f_{X}(x)={\begin{cases}N(\mu ,\sigma _{1}^{2}),&{\text{ if }}x\leq \mu \\N(\mu ,\sigma _{2}^{2}),&{\text{ if }}x\geq \mu \end{cases}}} μ は平均であり、σ 2 1 σ 2 2
この分布の平均E( X ) 、分散V( X ) 、および第 3 次中心モーメントT( X )が決定されています [ 55 ] 。 E （ X ） = μ + 2 π （ σ 2 − σ 1 ） 、 V （ X ） = （ 1 − 2 π ） （ σ 2 − σ 1 ） 2 + σ 1 σ 2 、 T （ X ） = 2 π （ σ 2 − σ 1 ） [ （ 4 π − 1 ） （ σ 2 − σ 1 ） 2 + σ 1 σ 2 ] 。 {\displaystyle {\begin{aligned}\operatorname {E} (X)&=\mu +{\sqrt {\frac {2}{\pi }}}(\sigma _{2}-\sigma _{1}),\\\operatorname {V} (X)&=\left(1-{\frac {2}{\pi }}\right)(\sigma _{2}-\sigma _{1})^{2}+\sigma _{1}\sigma _{2},\\\operatorname {T} (X)&={\sqrt {\frac {2}{\pi }}}(\sigma _{2}-\sigma _{1})\left[\left({\frac {4}{\pi }}-1\right)(\sigma _{2}-\sigma _{1})^{2}+\sigma _{1}\sigma _{2}\right].\end{aligned}}}
ガウス分布の主な実用的用途の一つは、実務で遭遇する様々な確率変数の経験分布をモデル化することです。このような場合、2つ以上のパラメータを持つ、より豊富な分布族を拡張することで、経験分布をより正確に近似することが可能になります。そのような拡張の例としては、以下のようなものがあります。
ピアソン分布とは 、正規分布を拡張してさまざまな歪度と尖度の値を含むようにした、4つのパラメータを持つ確率分布の族である。一般化正規分布（ 指数べき分布とも呼ばれる）は、漸近的な挙動が厚い、または薄い分布の裾野を許容する。
統計的推論
パラメータの推定 正規分布のパラメータがわからない場合、代わりにそれを推定し たい場合がよくあります。つまり、サンプルがあれば（ x 1 、 … 、 x n ） {\textstyle (x_{1},\ldots ,x_{n})} N （ μ 、 σ 2 ） {\textstyle {\mathcal {N}}(\mu ,\sigma ^{2})} 。 μ {\displaystyle \mu } そして σ 2 {\textstyle \sigma ^{2}} 最尤法 であり、これは対数尤度関数 ln L （ μ 、 σ 2 ） = ∑ 私 = 1 n ln f （ x 私 ∣ μ 、 σ 2 ） = − n 2 ln （ 2 π ） − n 2 ln σ 2 − 1 2 σ 2 ∑ 私 = 1 n （ x 私 − μ ） 2 。 {\displaystyle {\begin{aligned}\ln {\mathcal {L}}(\mu ,\sigma ^{2})&=\sum _{i=1}^{n}\ln f(x_{i}\mid \mu ,\sigma ^{2})\\&=-{\frac {n}{2}}\ln(2\pi )-{\frac {n}{2}}\ln \sigma ^{2}-{\frac {1}{2\sigma ^{2}}}\sum _{i=1}^{n}(x_{i}-\mu )^{2}.\end{aligned}}} とる μ {\displaystyle \mu } そして σ 2 {\textstyle \sigma ^{2}} 最尤推定値が 得られる。 μ ^ = x ¯ ≡ 1 n ∑ 私 = 1 n x 私 、 σ ^ 2 = 1 n ∑ 私 = 1 n （ x 私 − x ¯ ） 2 。 {\displaystyle {\hat {\mu }}={\overline {x}}\equiv {\frac {1}{n}}\sum _{i=1}^{n}x_{i},\qquad {\hat {\sigma }}^{2}={\frac {1}{n}}\sum _{i=1}^{n}(x_{i}-{\overline {x}})^{2}.}
それからln L （ μ ^ 、 σ ^ 2 ） {\textstyle \ln {\mathcal {L}}({\hat {\mu }},{\hat {\sigma }}^{2})} ln L （ μ ^ 、 σ ^ 2 ） = − n 2 [ ln （ 2 π σ ^ 2 ） + 1 ] {\displaystyle \ln {\mathcal {L}}({\hat {\mu }},{\hat {\sigma }}^{2})=-{\frac {n}{2}}[\ln \left(2\pi {\hat {\sigma }}^{2}\right)+1]}
標本分散 推定器σ ^ 2 {\displaystyle \textstyle {\hat {\sigma }}^{2}} これは標本分散 （ x 1 、 … 、 x n ） {\textstyle (x_{1},\ldots ,x_{n})} σ ^ 2 {\displaystyle \textstyle {\hat {\sigma }}^{2}} s 2 {\textstyle s^{2}} 標本分散とも呼ばれ、用語に多少の曖昧さがある 。 s {\displaystyle s} は 標本標準偏差 と呼ばれます。推定量はs 2 {\textstyle s^{2}} σ ^ 2 {\displaystyle \textstyle {\hat {\sigma }}^{2}} 分母のn の代わりに( n -1) を用いることで（いわゆるベッセル補正 ）： s 2 = n n − 1 σ ^ 2 = 1 n − 1 ∑ 私 = 1 n （ x 私 − x ¯ ） 2 。 {\displaystyle s^{2}={\frac {n}{n-1}}{\hat {\sigma }}^{2}={\frac {1}{n-1}}\sum _{i=1}^{n}(x_{i}-{\overline {x}})^{2}.} s 2 {\textstyle s^{2}} σ ^ 2 {\displaystyle \textstyle {\hat {\sigma }}^{2}} n が s 2 {\textstyle s^{2}} 不偏推定量であるということです。 σ 2 {\textstyle \sigma ^{2}} σ ^ 2 {\displaystyle \textstyle {\hat {\sigma }}^{2}} s 2 {\textstyle s^{2}} UMVU ）[ 56 ] σ ^ 2 {\displaystyle \textstyle {\hat {\sigma }}^{2}} s 2 {\textstyle s^{2}} 平均二乗誤差 （MSE）基準に関して。有限サンプルでは両方ともs 2 {\textstyle s^{2}} σ ^ 2 {\displaystyle \textstyle {\hat {\sigma }}^{2}} chi-squared distribution with (n − 1) degrees of freedom: s 2 ∼ σ 2 n − 1 ⋅ χ n − 1 2 , σ ^ 2 ∼ σ 2 n ⋅ χ n − 1 2 . {\displaystyle s^{2}\sim {\frac {\sigma ^{2}}{n-1}}\cdot \chi _{n-1}^{2},\qquad {\hat {\sigma }}^{2}\sim {\frac {\sigma ^{2}}{n}}\cdot \chi _{n-1}^{2}.} s 2 {\textstyle s^{2}} 2 σ 4 / ( n − 1 ) {\textstyle 2\sigma ^{4}/(n-1)} σσ -element of the inverse Fisher information matrix I − 1 {\displaystyle \textstyle {\mathcal {I}}^{-1}} 2 σ 4 / n {\textstyle 2\sigma ^{4}/n} s 2 {\textstyle s^{2}} σ 2 {\textstyle \sigma ^{2}} s 2 {\textstyle s^{2}} σ 2 {\textstyle \sigma ^{2}}
Applying the asymptotic theory, both estimators s 2 {\textstyle s^{2}} σ ^ 2 {\displaystyle \textstyle {\hat {\sigma }}^{2}} σ 2 {\textstyle \sigma ^{2}} n → ∞ {\textstyle n\rightarrow \infty } n ( σ ^ 2 − σ 2 ) ≃ n ( s 2 − σ 2 ) → d N ( 0 , 2 σ 4 ) . {\displaystyle {\sqrt {n}}({\hat {\sigma }}^{2}-\sigma ^{2})\simeq {\sqrt {n}}(s^{2}-\sigma ^{2})\,\xrightarrow {d} \,{\mathcal {N}}(0,2\sigma ^{4}).} σ 2 {\textstyle \sigma ^{2}}
Confidence intervals By Cochran's theorem , for normal distributions the sample mean μ ^ {\displaystyle \textstyle {\hat {\mu }}} s 2 independent , which means there can be no gain in considering their joint distribution . There is also a converse theorem: if in a sample the sample mean and sample variance are independent, then the sample must have come from the normal distribution. The independence between μ ^ {\displaystyle \textstyle {\hat {\mu }}} s can be employed to construct the so-called t-statistic : t = μ ^ − μ s / n = x ¯ − μ 1 n ( n − 1 ) ∑ ( x i − x ¯ ) 2 ∼ t n − 1 {\displaystyle t={\frac {{\hat {\mu }}-\mu }{s/{\sqrt {n}}}}={\frac {{\overline {x}}-\mu }{\sqrt {{\frac {1}{n(n-1)}}\sum (x_{i}-{\overline {x}})^{2}}}}\sim t_{n-1}} t has the Student's t-distribution with (n − 1) degrees of freedom, and it is an ancillary statistic (independent of the value of the parameters). Inverting the distribution of this t -statistics will allow us to construct the confidence interval for μ ;[ 57] χ 2 s 2 σ 2 [ 58] μ ∈ [ μ ^ − t n − 1 , 1 − α / 2 s n , μ ^ + t n − 1 , 1 − α / 2 s n ] {\displaystyle \mu \in \left[{\hat {\mu }}-t_{n-1,1-\alpha /2}{\frac {s}{\sqrt {n}}},\,{\hat {\mu }}+t_{n-1,1-\alpha /2}{\frac {s}{\sqrt {n}}}\right]} σ 2 ∈ [ n − 1 χ n − 1 , 1 − α / 2 2 s 2 , n − 1 χ n − 1 , α / 2 2 s 2 ] {\displaystyle \sigma ^{2}\in \left[{\frac {n-1}{\chi _{n-1,1-\alpha /2}^{2}}}s^{2},\,{\frac {n-1}{\chi _{n-1,\alpha /2}^{2}}}s^{2}\right]} 、t k 、p χ 2 k、p は、 それぞれt 分布およびχ 2 p 番目の分位数 です。これらの信頼区間は信頼水準 1 − α μ およびσ 2 が確率 (または有意水準 ) α でこれらの区間外にあることを意味します。実際には、通常α = 5%が使用され、95% 信頼区間が得られます。σ の 信頼区間は、σ 2
近似式は漸近分布から導出できる。μ ^ {\displaystyle \textstyle {\hat {\mu }}} s 2 μ ∈ [ μ ^ − | z α / 2 | n s 、 μ ^ + | z α / 2 | n s ] {\displaystyle \mu \in \left[{\hat {\mu }}-{\frac {|z_{\alpha /2}|}{\sqrt {n}}}s,\,{\hat {\mu }}+{\frac {|z_{\alpha /2}|}{\sqrt {n}}}s\right]} σ 2 ∈ [ s 2 − 2 | z α / 2 | n s 2 、 s 2 + 2 | z α / 2 | n s 2 ] {\displaystyle \sigma ^{2}\in \left[s^{2}-{\sqrt {2}}{\frac {|z_{\alpha /2}|}{\sqrt {n}}}s^{2},\,s^{2}+{\sqrt {2}}{\frac {|z_{\alpha /2}|}{\sqrt {n}}}s^{2}\right]} n の値が大きい場合に有効になり、標準正規分位数z α /2 はn に依存しないため、手動計算にはより便利です。特に、最も一般的なα = 5%| z 0.025 | = 1.96 となります。
正規性検定 正規性検定は、与えられたデータセット{ x 1 , ..., x n が正規分布から得られたものである可能性を評価します。通常、帰無仮説 H 0 μ と分散σ 2 H a は
診断プロットは 直感的に理解しやすいものの、同時に主観的な側面も持ち合わせている。なぜなら、帰無仮説を受け入れるか拒否するかは、非公式な人間の判断に委ねられるからである。
Q-Q プロット（ 正規確率プロット またはRankit プロットとも呼ばれる）は、データセットからソートされた値を、標準正規分布の対応する分位数の期待値に対してプロットしたものです。つまり、( Φ −1 ( p k x ( k ) ) の形式の点のプロットであり、プロット点p k はp k k − α )/( n + 1 − 2 α )α は 0 から 1 の間の任意の値をとる調整定数です。 帰無仮説が真である場合、プロットされた点はほぼ直線上に並ぶはずです。P–P プロット – Q–Q プロットに似ていますが、使用頻度ははるかに低いです。この方法は、点( Φ ( z ( k ) ), p k ) をプロットすることから成ります。 z （ k ） = （ x （ k ） − μ ^ ） / σ ^ {\textstyle \textstyle z_{(k)}=(x_{(k)}-{\hat {\mu }})/{\hat {\sigma }}} 正規分布データの場合、このプロットは(0, 0) と(1, 1) の間の直線上に位置するはずです。 適合度検定 ：
モーメントベースの検定 ：
経験分布関数に基づく検定 ：
正規分布のベイズ分析 正規分布データのベイズ分析は、考慮すべき様々な可能性が存在するため複雑である。
非線形回帰の場合の式は、共役事前 分布に関する記事にまとめられています。
2つの二次式の和
以下の補助式は、そうでなければかなり面倒になる事後 更新方程式を簡略化するのに役立ちます。
1 （ x − y ） 2 + b （ x − z ） 2 = （ 1 + b ） （ x − 1 y + b z 1 + b ） 2 + 1 b 1 + b （ y − z ） 2 {\displaystyle a(x-y)^{2}+b(x-z)^{2}=(a+b)\left(x-{\frac {ay+bz}{a+b}}\right)^{2}+{\frac {ab}{a+b}}(y-z)^{2}}
この方程式は、 x に関する2つの二次式の和を、平方を展開し、x の項をグループ化し、平方完成すること によって書き換えたものです。いくつかの項に付随する複素定数因子については、次の点に注意してください。
その要因1 y + b z 1 + b {\textstyle {\frac {ay+bz}{a+b}}} y とz の加重平均 の形をとる。 1 b 1 + b = 1 1 1 + 1 b = （ 1 − 1 + b − 1 ） − 1 。 {\textstyle {\frac {ab}{a+b}}={\frac {1}{{\frac {1}{a}}+{\frac {1}{b}}}}=(a^{-1}+b^{-1})^{-1}.} a とbの 逆数 が直接加算される状況から生じるものと考えることができることを示しています。したがって、 a とb自体を組み合わせるには、逆数を取り、加算し、結果を再び逆数にして元の単位に戻す必要があります。これはまさに 調和平均 によって実行される操作なので、1 b 1 + b {\textstyle {\frac {ab}{a+b}}} は、 a とb の調和平均 の半分です。
平均からの差の合計 もう一つ便利な公式は以下のとおりです。 ∑ 私 = 1 n （ x 私 − μ ） 2 = ∑ 私 = 1 n （ x 私 − x ¯ ） 2 + n （ x ¯ − μ ） 2 {\displaystyle \sum _{i=1}^{n}(x_{i}-\mu )^{2}=\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}+n({\bar {x}}-\mu )^{2}} x ¯ = 1 n ∑ 私 = 1 n x 私 。 {\textstyle {\bar {x}}={\frac {1}{n}}\sum _{i=1}^{n}x_{i}.}
既知の分散 サイズnの独立同 分布 正規分布データ点X x が 以下を満たす場合x ～ N （ μ 、 σ 2 ） {\textstyle x\sim {\mathcal {N}}(\mu ,\sigma ^{2})} 既知の分散 σ 2 事前 分布も正規分布に従います。
これは、分散を精度として書き換えることでより簡単に示すことができます 。 τ = 1/ σ² x ～ N （ μ 、 1 / τ ） {\textstyle x\sim {\mathcal {N}}(\mu ,1/\tau )} μ ～ N （ μ 0 、 1 / τ 0 ） 、 {\textstyle \mu \sim {\mathcal {N}}(\mu _{0},1/\tau _{0}),}
まず、尤度関数 は（平均からの差の合計に関する上記の式を用いて）次のようになります。 p （ X ∣ μ 、 τ ） = ∏ 私 = 1 n τ 2 π exp （ − 1 2 τ （ x 私 − μ ） 2 ） = （ τ 2 π ） n / 2 exp （ − 1 2 τ ∑ 私 = 1 n （ x 私 − μ ） 2 ） = （ τ 2 π ） n / 2 exp [ − 1 2 τ （ ∑ 私 = 1 n （ x 私 − x ¯ ） 2 + n （ x ¯ − μ ） 2 ） ] 。 {\displaystyle {\begin{aligned}p(\mathbf {X} \mid \mu ,\tau )&=\prod _{i=1}^{n}{\sqrt {\frac {\tau }{2\pi }}}\exp \left(-{\frac {1}{2}}\tau (x_{i}-\mu )^{2}\right)\\&=\left({\frac {\tau }{2\pi }}\right)^{n/2}\exp \left(-{\frac {1}{2}}\tau \sum _{i=1}^{n}(x_{i}-\mu )^{2}\right)\\&=\left({\frac {\tau }{2\pi }}\right)^{n/2}\exp \left[-{\frac {1}{2}}\tau \left(\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}+n({\bar {x}}-\mu )^{2}\right)\right].\end{aligned}}}
次に、以下の手順で進めます。 p （ μ ∣ X ） ∝ p （ X ∣ μ ） p （ μ ） = （ τ 2 π ） n / 2 exp [ − 1 2 τ （ ∑ 私 = 1 n （ x 私 − x ¯ ） 2 + n （ x ¯ − μ ） 2 ） ] τ 0 2 π exp （ − 1 2 τ 0 （ μ − μ 0 ） 2 ） ∝ exp （ − 1 2 （ τ （ ∑ 私 = 1 n （ x 私 − x ¯ ） 2 + n （ x ¯ − μ ） 2 ） + τ 0 （ μ − μ 0 ） 2 ） ） ∝ exp （ − 1 2 （ n τ （ x ¯ − μ ） 2 + τ 0 （ μ − μ 0 ） 2 ） ） = exp （ − 1 2 （ n τ + τ 0 ） （ μ − n τ x ¯ + τ 0 μ 0 n τ + τ 0 ） 2 + n τ τ 0 n τ + τ 0 （ x ¯ − μ 0 ） 2 ） ∝ exp （ − 1 2 （ n τ + τ 0 ） （ μ − n τ x ¯ + τ 0 μ 0 n τ + τ 0 ） 2 ） {\displaystyle {\begin{aligned}p(\mu \mid \mathbf {X} )&\propto p(\mathbf {X} \mid \mu )p(\mu )\\&=\left({\frac {\tau }{2\pi }}\right)^{n/2}\exp \left[-{\frac {1}{2}}\tau \left(\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}+n({\bar {x}}-\mu )^{2}\right)\right]{\sqrt {\frac {\tau _{0}}{2\pi }}}\exp \left(-{\frac {1}{2}}\tau _{0}(\mu -\mu _{0})^{2}\right)\\&\propto \exp \left(-{\frac {1}{2}}\left(\tau \left(\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}+n({\bar {x}}-\mu )^{2}\right)+\tau _{0}(\mu -\mu _{0})^{2}\right)\right)\\&\propto \exp \left(-{\frac {1}{2}}\left(n\tau ({\bar {x}}-\mu )^{2}+\tau _{0}(\mu -\mu _{0})^{2}\right)\right)\\&=\exp \left(-{\frac {1}{2}}(n\tau +\tau _{0})\left(\mu -{\dfrac {n\tau {\bar {x}}+\tau _{0}\mu _{0}}{n\tau +\tau _{0}}}\right)^{2}+{\frac {n\tau \tau _{0}}{n\tau +\tau _{0}}}({\bar {x}}-\mu _{0})^{2}\right)\\&\propto \exp \left(-{\frac {1}{2}}(n\tau +\tau _{0})\left(\mu -{\dfrac {n\tau {\bar {x}}+\tau _{0}\mu _{0}}{n\tau +\tau _{0}}}\right)^{2}\right)\end{aligned}}}
上記の導出では、2つの二次式の和に関する上記の式を使用し、μ に関係しないすべての定数因子を消去しました。その結果、平均が の正規分布のカーネルが得られます。 n τ x ¯ + τ 0 μ 0 n τ + τ 0 {\textstyle {\frac {n\tau {\bar {x}}+\tau _{0}\mu _{0}}{n\tau +\tau _{0}}}} n τ + τ 0 {\textstyle n\tau +\tau _{0}} p （ μ ∣ X ） ～ N （ n τ x ¯ + τ 0 μ 0 n τ + τ 0 、 1 n τ + τ 0 ） {\displaystyle p(\mu \mid \mathbf {X} )\sim {\mathcal {N}}\left({\frac {n\tau {\bar {x}}+\tau _{0}\mu _{0}}{n\tau +\tau _{0}}},{\frac {1}{n\tau +\tau _{0}}}\right)}
これは、事後パラメータを事前パラメータで表すベイズ更新方程式のセットとして記述できます。 τ 0 ′ = τ 0 + n τ μ 0 ′ = n τ x ¯ + τ 0 μ 0 n τ + τ 0 x ¯ = 1 n ∑ 私 = 1 n x 私 {\displaystyle {\begin{aligned}\tau _{0}'&=\tau _{0}+n\tau \\[5pt]\mu _{0}'&={\frac {n\tau {\bar {x}}+\tau _{0}\mu _{0}}{n\tau +\tau _{0}}}\\[5pt]{\bar {x}}&={\frac {1}{n}}\sum _{i=1}^{n}x_{i}\end{aligned}}}
つまり、n個 のデータポイントを合計精度nτ n / σ² ） x ¯ {\textstyle {\bar {x}}} 加重 平均 、すなわち精度加重平均によって新しい平均が形成されます。精度が観測の確実性を示すものと考えると、これは論理的に理にかなっています。事後平均の分布では、各入力成分はそれぞれの確実性で重み付けされ、この分布の確実性は個々の確実性の合計になります。（この直感的な理解のために、「全体は部分の総和よりも大きい（または大きくない）」という表現と比較してみてください。さらに、事後分布の知識は事前分布と尤度の知識の組み合わせから得られるため、事後分布の確実性がその成分のどちらよりも高いのは当然です。）
上記の式は、精度に関して正規分布の共役事前 分布のベイズ分析を 行う方が便利な理由を示しています。事後精度は事前精度と尤度精度の合計であり、事後平均は上記のように精度加重平均によって計算されます。同じ式は、すべての精度の逆数を取ることで分散の観点から記述できますが、より複雑な式になります。 σ 0 2 ′ = 1 n σ 2 + 1 σ 0 2 μ 0 ′ = n x ¯ σ 2 + μ 0 σ 0 2 n σ 2 + 1 σ 0 2 x ¯ = 1 n ∑ 私 = 1 n x 私 {\displaystyle {\begin{aligned}{\sigma _{0}^{2}}'&={\frac {1}{{\frac {n}{\sigma ^{2}}}+{\frac {1}{\sigma _{0}^{2}}}}}\\[5pt]\mu _{0}'&={\frac {{\frac {n{\bar {x}}}{\sigma ^{2}}}+{\frac {\mu _{0}}{\sigma _{0}^{2}}}}{{\frac {n}{\sigma ^{2}}}+{\frac {1}{\sigma _{0}^{2}}}}}\\[5pt]{\bar {x}}&={\frac {1}{n}}\sum _{i=1}^{n}x_{i}\end{aligned}}}
既知の平均値 サイズnの独立同 分布 正規分布データ点X x が 以下を満たす場合x ～ N （ μ 、 σ 2 ） {\textstyle x\sim {\mathcal {N}}(\mu ,\sigma ^{2})} μ が既知の場合、分散 の共役事前分布は 逆ガンマ分布 またはスケーリングされた逆カイ二乗分布 になります。この2つは、パラメータ化が 異なる点を除けば同等です。逆ガンマ 次 p （ σ 2 ∣ ν 0 、 σ 0 2 ） = （ σ 0 2 ν 0 2 ） ν 0 / 2 Γ （ ν 0 2 ） exp [ − ν 0 σ 0 2 2 σ 2 ] （ σ 2 ） 1 + ν 0 2 ∝ exp [ − ν 0 σ 0 2 2 σ 2 ] （ σ 2 ） 1 + ν 0 2 {\displaystyle p(\sigma ^{2}\mid \nu _{0},\sigma _{0}^{2})={\frac {(\sigma _{0}^{2}{\frac {\nu _{0}}{2}})^{\nu _{0}/2}}{\Gamma \left({\frac {\nu _{0}}{2}}\right)}}~{\frac {\exp \left[{\frac {-\nu _{0}\sigma _{0}^{2}}{2\sigma ^{2}}}\right]}{(\sigma ^{2})^{1+{\frac {\nu _{0}}{2}}}}}\propto {\frac {\exp \left[{\frac {-\nu _{0}\sigma _{0}^{2}}{2\sigma ^{2}}}\right]}{(\sigma ^{2})^{1+{\frac {\nu _{0}}{2}}}}}}
上記の尤度関数を 分散を用いて表すと次のようになる。 p （ X ∣ μ 、 σ 2 ） = （ 1 2 π σ 2 ） n / 2 exp [ − 1 2 σ 2 ∑ 私 = 1 n （ x 私 − μ ） 2 ] = （ 1 2 π σ 2 ） n / 2 exp [ − S 2 σ 2 ] {\displaystyle {\begin{aligned}p(\mathbf {X} \mid \mu ,\sigma ^{2})&=\left({\frac {1}{2\pi \sigma ^{2}}}\right)^{n/2}\exp \left[-{\frac {1}{2\sigma ^{2}}}\sum _{i=1}^{n}(x_{i}-\mu )^{2}\right]\\&=\left({\frac {1}{2\pi \sigma ^{2}}}\right)^{n/2}\exp \left[-{\frac {S}{2\sigma ^{2}}}\right]\end{aligned}}} S = ∑ 私 = 1 n （ x 私 − μ ） 2 。 {\displaystyle S=\sum _{i=1}^{n}(x_{i}-\mu )^{2}.}
それから： p （ σ 2 ∣ X ） ∝ p （ X ∣ σ 2 ） p （ σ 2 ） = （ 1 2 π σ 2 ） n / 2 exp [ − S 2 σ 2 ] （ σ 0 2 ν 0 2 ） ν 0 2 Γ （ ν 0 2 ） exp [ − ν 0 σ 0 2 2 σ 2 ] （ σ 2 ） 1 + ν 0 2 ∝ （ 1 σ 2 ） n / 2 1 （ σ 2 ） 1 + ν 0 2 exp [ − S 2 σ 2 + − ν 0 σ 0 2 2 σ 2 ] = 1 （ σ 2 ） 1 + ν 0 + n 2 exp [ − ν 0 σ 0 2 + S 2 σ 2 ] {\displaystyle {\begin{aligned}p(\sigma ^{2}\mid \mathbf {X} )&\propto p(\mathbf {X} \mid \sigma ^{2})p(\sigma ^{2})\\&=\left({\frac {1}{2\pi \sigma ^{2}}}\right)^{n/2}\exp \left[-{\frac {S}{2\sigma ^{2}}}\right]{\frac {(\sigma _{0}^{2}{\frac {\nu _{0}}{2}})^{\frac {\nu _{0}}{2}}}{\Gamma \left({\frac {\nu _{0}}{2}}\right)}}~{\frac {\exp \left[{\frac {-\nu _{0}\sigma _{0}^{2}}{2\sigma ^{2}}}\right]}{(\sigma ^{2})^{1+{\frac {\nu _{0}}{2}}}}}\\&\propto \left({\frac {1}{\sigma ^{2}}}\right)^{n/2}{\frac {1}{(\sigma ^{2})^{1+{\frac {\nu _{0}}{2}}}}}\exp \left[-{\frac {S}{2\sigma ^{2}}}+{\frac {-\nu _{0}\sigma _{0}^{2}}{2\sigma ^{2}}}\right]\\&={\frac {1}{(\sigma ^{2})^{1+{\frac {\nu _{0}+n}{2}}}}}\exp \left[-{\frac {\nu _{0}\sigma _{0}^{2}+S}{2\sigma ^{2}}}\right]\end{aligned}}}
上記は、スケーリングされた逆カイ二乗分布でもあり、 ν 0 ′ = ν 0 + n ν 0 ′ σ 0 2 ′ = ν 0 σ 0 2 + ∑ 私 = 1 n （ x 私 − μ ） 2 {\displaystyle {\begin{aligned}\nu _{0}'&=\nu _{0}+n\\\nu _{0}'{\sigma _{0}^{2}}'&=\nu _{0}\sigma _{0}^{2}+\sum _{i=1}^{n}(x_{i}-\mu )^{2}\end{aligned}}} ν 0 ′ = ν 0 + n σ 0 2 ′ = ν 0 σ 0 2 + ∑ 私 = 1 n （ x 私 − μ ） 2 ν 0 + n {\displaystyle {\begin{aligned}\nu _{0}'&=\nu _{0}+n\\{\sigma _{0}^{2}}'&={\frac {\nu _{0}\sigma _{0}^{2}+\sum _{i=1}^{n}(x_{i}-\mu )^{2}}{\nu _{0}+n}}\end{aligned}}}
逆ガンマ分布の 観点から再パラメータ化すると、結果は次のようになる。 α ′ = α + n 2 β ′ = β + ∑ 私 = 1 n （ x 私 − μ ） 2 2 {\displaystyle {\begin{aligned}\alpha '&=\alpha +{\frac {n}{2}}\\\beta '&=\beta +{\frac {\sum _{i=1}^{n}(x_{i}-\mu )^{2}}{2}}\end{aligned}}}
平均値と分散が不明な場合 サイズnの独立同 分布 正規分布データ点X x が 以下を満たす場合x ～ N （ μ 、 σ 2 ） {\textstyle x\sim {\mathcal {N}}(\mu ,\sigma ^{2})} μ と分散 σ² が 正規逆ガンマ分布 からなる複合（多変量）共役事前分布 が設定されます。論理的には、これは次のように始まります。
平均値は不明だが分散が既知の場合の分析から、更新式には、データ点の平均値とデータ点の総分散からなるデータから計算された十分統計量 が含まれることがわかります。総分散は、既知の分散をデータ点の数で割ることによって計算されます。 分散は不明だが平均が既知のケースの分析から、更新方程式にはデータ点の数と二乗偏差の 合計からなるデータに関する十分統計量が含まれることがわかります。 事後更新値は、追加データが処理される際の事前分布として機能することに注意してください。したがって、事前分布については、先に述べた十分統計量の観点から論理的に考えるべきであり、可能な限り同じ意味論を念頭に置く必要があります。 平均と分散の両方が未知の場合に対処するには、平均と分散に対して独立した事前分布を設定し、平均、総分散、分散事前分布の計算に使用されるデータ点の数、および二乗偏差の合計を固定推定値として設定することができます。ただし、実際には、平均の総分散は未知の分散に依存し、分散事前分布に含まれる二乗偏差の合計は未知の平均に依存する（ように見える）ことに注意してください。実際には、後者の依存性は比較的重要ではありません。実際の平均をシフトすると、生成された点が同じ量だけシフトし、平均的に二乗偏差は同じままになります。しかし、平均の総分散の場合はそうではありません。未知の分散が増加すると、平均の総分散も比例して増加するため、この依存性を捉えたいのです。 これは、未知の分散に対する平均の条件付き事前分布 を作成することを意味します。この事前分布に関連付けられた擬似観測 の平均を指定するハイパーパラメータと、擬似観測の数を指定する別のパラメータがあります。この数は分散のスケーリングパラメータとして機能し、実際の分散パラメータに対する平均の全体的な分散を制御できるようにします。分散の事前分布にも2つのハイパーパラメータがあり、1つは事前分布に関連付けられた擬似観測の二乗偏差の合計を指定し、もう1つは擬似観測の数を再度指定します。各事前分布には擬似観測の数を指定するハイパーパラメータがあり、それぞれの場合において、これはその事前分布の相対的な分散を制御します。これらは2つの別々のハイパーパラメータとして与えられているため、2つの事前分布の分散（つまり信頼度）を個別に制御できます。 これにより、正規逆ガンマ分布が すぐに導き出されます。これは、先ほど定義した 2 つの分布の積であり、共役事前 分布(分散に対する逆ガンマ分布と、分散を 条件とする 平均に対する正規分布) を使用し、先ほど定義したのと同じ 4 つのパラメータを使用します。事前確率は通常、次のように定義されます。 p （ μ ∣ σ 2 ; μ 0 、 n 0 ） ～ N （ μ 0 、 σ 2 / n 0 ） p （ σ 2 ; ν 0 、 σ 0 2 ） ～ 私 χ 2 （ ν 0 、 σ 0 2 ） = 私 G （ ν 0 / 2 、 ν 0 σ 0 2 / 2 ） {\displaystyle {\begin{aligned}p(\mu \mid \sigma ^{2};\mu _{0},n_{0})&\sim {\mathcal {N}}(\mu _{0},\sigma ^{2}/n_{0})\\p(\sigma ^{2};\nu _{0},\sigma _{0}^{2})&\sim I\chi ^{2}(\nu _{0},\sigma _{0}^{2})=IG(\nu _{0}/2,\nu _{0}\sigma _{0}^{2}/2)\end{aligned}}}
更新式は以下のように導出できます。 x ¯ = 1 n ∑ 私 = 1 n x 私 μ 0 ′ = n 0 μ 0 + n x ¯ n 0 + n n 0 ′ = n 0 + n ν 0 ′ = ν 0 + n ν 0 ′ σ 0 2 ′ = ν 0 σ 0 2 + ∑ 私 = 1 n （ x 私 − x ¯ ） 2 + n 0 n n 0 + n （ μ 0 − x ¯ ） 2 {\displaystyle {\begin{aligned}{\bar {x}}&={\frac {1}{n}}\sum _{i=1}^{n}x_{i}\\\mu _{0}'&={\frac {n_{0}\mu _{0}+n{\bar {x}}}{n_{0}+n}}\\n_{0}'&=n_{0}+n\\\nu _{0}'&=\nu _{0}+n\\\nu _{0}'{\sigma _{0}^{2}}'&=\nu _{0}\sigma _{0}^{2}+\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}+{\frac {n_{0}n}{n_{0}+n}}(\mu _{0}-{\bar {x}})^{2}\end{aligned}}} ν 0 ′ σ 0 2 ′ {\textstyle \nu _{0}'{\sigma _{0}^{2}}'}
計算手法
正規分布から値を生成する フランシス・ゴルトン が発明した「ビーンマシン」 は、正規乱数を生成する最初の装置と言えるでしょう。この装置は、ピンが交互に並んだ垂直な板で構成されています。小さなボールが上から落とされ、ピンに当たると左右にランダムに跳ね返ります。ボールは下部の容器に集められ、ガウス曲線に似たパターンに落ち着きます。コンピュータシミュレーション、特にモンテカルロ法 の応用においては、正規分布に従う値を生成することが望ましい場合が多い。以下に挙げるアルゴリズムはすべて標準正規偏差を生成する。これは、N ( μ , σ² )がX = μ + σZ Zは標準正規分布に従う。これらのアルゴリズムはすべて 、 一様 乱数を生成できる乱数発生器 Uが 利用可能であることを前提としている。
最も単純な方法は、確率積分変換の 性質に基づいています。Uが (0,1) 上で一様分布している場合、Φ −1 ( U )プロビット関数 Φ −1の計算に依存していることです。近似的な方法は Hart (1968) およびerf の 記事に記載されています。Wichura は、この関数を 16 桁の小数点以下まで計算する高速アルゴリズムを提供しており、[ 66 ] これはR で正規分布の乱数を計算するために使用されます。 中心極限定理 に基づく、プログラムしやすい近似的なアプローチは 次のとおりです。12 個の一様U (0,1)Irwin–Hall 分布になります。これは、正規分布の 12 セクションの 11 次多項式近似です。このランダム偏差は(−6, 6) の範囲に限定されます。[ 67 ] 真の正規分布では、すべてのサンプルの 0.00034% だけが±6σ の 範囲 ボックス・ミュラー法では、 (0,1)上で 一様 分布する2つの独立した乱数U とV を使用します。次に、2つのランダム変数X とYを使用します。 X = − 2 ln U コス （ 2 π V ） 、 Y = − 2 ln U 罪 （ 2 π V ） 。 {\displaystyle X={\sqrt {-2\ln U}}\,\cos(2\pi V),\qquad Y={\sqrt {-2\ln U}}\,\sin(2\pi V).} 独立で ある。この定式化は、二変量正規 ランダムベクトル( X 、Y ) の場合、二乗ノルムX 2 + Y 2 が カイ二乗分布 に従うためである。これは、これらの式における量−2 ln( U )に対応する容易に生成できる 指数ランダム変数であり、角度はランダム変数 V によって選択される円周上に一様に分布している。 マルサリア極座標法は 、正弦関数と余弦関数の計算を必要としないボックス・ミュラー法の改良版です。この方法では、U とV は一様分布(−1,1)から抽出され、S = U² + V² が 、 この X = U − 2 ln S S 、 Y = V − 2 ln S S {\displaystyle X=U{\sqrt {\frac {-2\ln S}{S}}},\qquad Y=V{\sqrt {\frac {-2\ln S}{S}}}} X とY は互いに独立した標準正規分布に従う確率変数です。 比率法[ 68 ] 2つの独立した一様偏差U とV を生成する。 X = √ 8/ e V − 0.5)/ U オプション：X 2 ≤ 5 − 4 e 1/4 U の場合、 X を受け入れてアルゴリズムを終了します。 オプション: X 2 ≥ 4 e −1.35 / U + 1.4の場合、 X を棄却してステップ 1 からやり直します。 X 2 ≤ −4 ln U X を受け入れ、そうでない場合はアルゴリズムを最初からやり直します。2 つのオプションの手順により、ほとんどの場合、最後の手順での対数の評価を回避できます。これらの手順は大幅に改善することができ[ 69 ] ジグラットアルゴリズム [ 70 ] 整数演算は、標準正規分布からサンプリングするために使用できます。[ 71 ] [ 72 ] この方法は、理想的な近似 の条件を満たすという意味で正確です。[ 73 ] 高速アダマール変換 と正規分布の関係についてもいくつかの研究が行われている[ 74 ]
正規累積分布関数および正規分位関数の数値近似 標準正規累積分布関数は 、科学計算や統計計算において広く用いられている。
Φ ( x )数値積分 、テイラー級数 、漸近級数 、連分数 など、さまざまな方法で非常に高い精度で近似することができます。必要な精度に応じて、異なる近似方法が用いられます。
Zelen & Severo (1964) は、 x > 0 の場合のΦ ( x )| ε ( x ) | < 7.5·10 −8 Φ （ x ） = 1 − φ （ x ） （ b 1 t + b 2 t 2 + b 3 t 3 + b 4 t 4 + b 5 t 5 ） + ε （ x ） 、 t = 1 1 + b 0 x 、 {\displaystyle \Phi (x)=1-\varphi (x)\left(b_{1}t+b_{2}t^{2}+b_{3}t^{3}+b_{4}t^{4}+b_{5}t^{5}\right)+\varepsilon (x),\qquad t={\frac {1}{1+b_{0}x}},} ϕ ( x )は 標準b0 = 0.2316419b1 = 0.319381530b2 −0.356563782 、 b3 = 1.781477937 、b4 = −1.821255978 、b5 = 1.330274429 で ある Hart (1968)は、 erfc() 関数 (erfc(x) = 1 - erf(x))に対して、指数関数を含むか含まないかを問わず、有理関数による数十の近似式を列挙している。彼のアルゴリズムは複雑さと結果として得られる精度が異なり、最大絶対精度は 24 桁である。West (2009) のアルゴリズムは、Hart のアルゴリズム 5666 と末尾の連分数 近似を組み合わせることで、16 桁の精度を持つ高速計算アルゴリズムを実現している。Cody (1969) は、Hart68 の解が erf には適していないことを思い出した後、 有理チェビシェフ近似 によって、erf と erfc の両方に対する最大相対誤差限界を持つ解を与えた。マルサリア（2004） はテイラー級数展開に基づく単純なアルゴリズムを提案した[ 注1 ]。 Φ （ x ） = 1 2 + φ （ x ） （ x + x 3 3 + x 5 3 ⋅ 5 + x 7 3 ⋅ 5 ⋅ 7 + x 9 3 ⋅ 5 ⋅ 7 ⋅ 9 + ⋯ ） {\displaystyle \Phi (x)={\frac {1}{2}}+\varphi (x)\left(x+{\frac {x^{3}}{3}}+{\frac {x^{5}}{3\cdot 5}}+{\frac {x^{7}}{3\cdot 5\cdot 7}}+{\frac {x^{9}}{3\cdot 5\cdot 7\cdot 9}}+\cdots \right)} Φ ( x )をx = 10GNU科学ライブラリは、ハートのアルゴリズムと チェビシェフ多項式 による近似を用いて、標準正規累積分布関数の値を計算します。 Dia (2023) は、次の近似を提案している。1 − Φ {\textstyle 1-\Phi } 2 − 53 {\textstyle 2^{-53}} （ ≈ 1.1 × 10 − 16 ） {\textstyle \left(\approx 1.1\times 10^{-16}\right)} x ≥ 0 {\textstyle x\geq 0} 1 − Φ （ x ） = （ 0.39894228040143268 x + 2.92678600515804815 ） （ x 2 + 8.42742300458043240 x + 18.38871225773938487 x 2 + 5.81582518933527391 x + 8.97280659046817350 ） （ x 2 + 7.30756258553673541 x + 18.25323235347346525 x 2 + 5.70347935898051437 x + 10.27157061171363079 ） （ x 2 + 5.66479518878470765 x + 18.61193318971775795 x 2 + 5.51862483025707963 x + 12.72323261907760928 ） （ x 2 + 4.91396098895240075 x + 24.14804072812762821 x 2 + 5.26184239579604207 x + 16.88639562007936908 ） （ x 2 + 3.83362947800146179 x + 11.61511226260603247 x 2 + 4.92081346632882033 x + 24.12333774572479110 ） e − x 2 2 {\textstyle {\begin{aligned}1-\Phi \left(x\right)&=\left({\frac {0.39894228040143268}{x+2.92678600515804815}}\right)\left({\frac {x^{2}+8.42742300458043240x+18.38871225773938487}{x^{2}+5.81582518933527391x+8.97280659046817350}}\right)\\&\left({\frac {x^{2}+7.30756258553673541x+18.25323235347346525}{x^{2}+5.70347935898051437x+10.27157061171363079}}\right)\left({\frac {x^{2}+5.66479518878470765x+18.61193318971775795}{x^{2}+5.51862483025707963x+12.72323261907760928}}\right)\\&\left({\frac {x^{2}+4.91396098895240075x+24.14804072812762821}{x^{2}+5.26184239579604207x+16.88639562007936908}}\right)\left({\frac {x^{2}+3.83362947800146179x+11.61511226260603247}{x^{2}+4.92081346632882033x+24.12333774572479110}}\right)e^{-{\frac {x^{2}}{2}}}\end{aligned}}} x < 0 {\textstyle x<0} 1 − Φ （ x ） = 1 − （ 1 − Φ （ − x ） ） {\displaystyle 1-\Phi \left(x\right)=1-\left(1-\Phi \left(-x\right)\right)}
ショア（1982）は、信頼性工学や在庫分析などの工学およびオペレーションズリサーチの確率的最適化モデルに組み込むことができる単純な近似を導入した。p = Φ ( z ) と表記すると、 分位 関数の 最もz = Φ − 1 （ p ） = 5.5556 [ 1 − （ 1 − p p ） 0.1186 ] 、 p ≥ 1 / 2 {\displaystyle z=\Phi ^{-1}(p)=5.5556\left[1-\left({\frac {1-p}{p}}\right)^{0.1186}\right],\qquad p\geq 1/2}
この近似では、 z に対して最大絶対誤差が 0.026 となります ( 0.5 ≤ p ≤ 0.9999の場合、 0 ≤ z ≤ 3.719 に対応)。p < 1/2 の場合は、 pを 1 − p に置き換えて符号を反転します。精度はやや劣りますが、別の近似として、単一パラメータ近似があります。 z = − 0.4115 { 1 − p p + ログ [ 1 − p p ] − 1 } 、 p ≥ 1 / 2 {\displaystyle z=-0.4115\left\{{\frac {1-p}{p}}+\log \left[{\frac {1-p}{p}}\right]-1\right\},\qquad p\geq 1/2}
後者は、正規分布の損失積分の単純な近似式を導出するのに役立ち、それは次のように定義される。 L （ z ） = ∫ z ∞ （ u − z ） φ （ u ） d u = ∫ z ∞ [ 1 − Φ （ u ） ] d u L （ z ） ≈ { 0.4115 （ p 1 − p ） − z 、 p < 1 / 2 、 0.4115 （ 1 − p p ） 、 p ≥ 1 / 2. または同等に、 L （ z ） ≈ { 0.4115 { 1 − ログ [ p 1 − p ] } 、 p < 1 / 2 、 0.4115 1 − p p 、 p ≥ 1 / 2. {\displaystyle {\begin{aligned}L(z)&=\int _{z}^{\infty }(u-z)\varphi (u)\,du=\int _{z}^{\infty }[1-\Phi (u)]\,du\\[5pt]L(z)&\approx {\begin{cases}0.4115\left({\dfrac {p}{1-p}}\right)-z,&p<1/2,\\\\0.4115\left({\dfrac {1-p}{p}}\right),&p\geq 1/2.\end{cases}}\\[5pt]{\text{or, equivalently,}}\\L(z)&\approx {\begin{cases}0.4115\left\{1-\log \left[{\frac {p}{1-p}}\right]\right\},&p<1/2,\\\\0.4115{\dfrac {1-p}{p}},&p\geq 1/2.\end{cases}}\end{aligned}}}
この近似は、特に右端の裾野に対して正確です（z ≥ 1.4 の場合、最大誤差は 10 −3です）。 応答モデリング手法 (RMM、Shore、2011、2012)に基づく累積分布関数の高精度近似は、Shore (2005) に示されています。
その他の近似については、次のページを参照してください：誤差関数#初等関数による近似 。特に、累積分布関数の全領域における小さな相対誤差については、次のページを参照してください 。 Φ {\displaystyle \Phi } Φ − 1 {\textstyle \Phi ^{-1}}
歴史
発達 一部の著者[ 75 ] [ 76 ] ド・モアブル に帰している。ド・モアブルは1738年[ 注2 ] に著書『確率論』 ( a + b ) n 項展開 における係数の研究を発表した。ド・モアブルはこの展開の中間項が近似的に次の大きさであることを証明した。2 n / 2 π n {\textstyle 2^{n}/{\sqrt {2\pi n}}} m または1/2 n が 無限に大きい量である場合、中央から区間ℓ だけ 離れた項が 比 − 2 ℓ ℓ n {\textstyle -{\frac {2\ell \ell }{n}}} 77 ] スティグラーは、ド・モアブル自身は自分の結果 を [ 78 ]
1809年、カール・フリードリヒ・ガウスは 、正規分布が最小二乗法を 合理化する方法を提供することを示した。 1823年、ガウスは モノグラフ「Theoria combinationis observationum erroribus minimis obnoxiae 」 を出版し、その中で最小二乗法 、最尤法 、正規分布など、いくつかの重要な統計概念を紹介した。ガウスは、未知の量 V の測定値を表すためにM 、M ′M ″、…φ ( M - V )・ φ ( M′ - V )・ φ ( M ″-V ) ・… を最大化する推定値を探した。彼の表記では、φΔは大きさΔの測定誤差の確率密度関数である。関数φ が何であるかを知らないガウスは、彼の方法がよく知られた答え、つまり測定値の算術平均に帰着することを要求した。[ 注3 ] [ 79 ] φ Δ = h √ π e − h h Δ Δ 、 {\displaystyle \varphi {\mathit {\Delta }}={\frac {h}{\surd \pi }}\,e^{-\mathrm {hh} \Delta \Delta },} h は「観測の精度の尺度」である。ガウスはこの正規法則を実験における誤差の一般的なモデルとして使用し、現在では非線形 重み付き最小二乗 法として知られるものを定式化した。[ 80 ]
ピエール＝シモン・ラプラスは1810年に 中心極限定理 を証明し、統計学における正規分布の重要性を確固たるものにした。正規分布の法則を最初に提唱したのはガウスでしたが、ラプラスも 重要な貢献をしました。[ 注4 ] [ 81 ] ラプラシアン分布につながりました。1782年に 積分∫ e − t 2 dt = √ π の値を最初に計算したのはラプラスで、正規分布の正規化定数を提供しました。[ 82 ] [ 83 ] 最後に、1810年に基本中心極限定理 を証明し、アカデミーに発表したのはラプラスで、正規分布の理論的重要性を強調しました。[ 84 ]
1809年にアイルランド系アメリカ人の数学者ロバート・エイドリアンが、 ガウスとは同時期に独立して、正規確率法則の洞察に富むものの欠陥のある2つの導出を発表したことは注目に値する。 [ 85 ] 彼の研究は、1871年にアッベ によって掘り起こされるまで、科学界ではほとんど注目されなかった。[ 86 ]
19世紀半ば、マクスウェルは 正規分布が便利な数学的ツールであるだけでなく、自然現象にも現れる可能性があることを示した。ある方向に分解された速度がx とx + dx N 1 α π e − x 2 α 2 d x {\displaystyle \operatorname {N} {\frac {1}{\alpha \;{\sqrt {\pi }}}}\;e^{-{\frac {x^{2}}{\alpha ^{2}}}}\,dx}
ネーミング 今日では、この概念は英語では一般的に正規分布 またはガウス分布 として知られています。その他、あまり一般的ではない名称としては、ガウス分布、ラプラス・ガウス分布、誤差の法則、誤差の容易性の法則、ラプラスの第二法則、ガウスの法則などがあります。
ガウス自身は、その応用に関わる「正規方程式」に言及してこの用語を造語したようで、正規とは、通常の意味ではなく、直交するという技術的な意味合いを持つ。[ 87 ] [ 注 5 ] は正規分布という 名称を使い始め、形容詞として「正規」という言葉が使われるようになった。この用語は、この分布が典型的で一般的であり、したがって正規で あると見なされていることを反映していると考えられている。パース (これらの著者の 1 人) はかつて「正規」を次のように定義した。「… 『正規』とは、実際に起こることの平均 (または他の種類の平均) ではなく、ある状況下で長期的に起こるであろうことの平均である。」[ 88 ] 20 ピアソンは この分布の名称として正規 という用語を普及させた。 [ 89 ]
何年も前に私はラプラス・ガウス曲線を正規 曲線と呼んだが、この名称は国際的な優先権の問題を回避できる一方で、他のすべての周波数分布が何らかの意味で「異常」であると人々に信じ込ませるという欠点がある。
また、分布を現代の表記法である標準偏差σ で表したのはピアソンが最初でした。その直後の1915年、フィッシャーは 正規分布の式に位置パラメータを追加し、現在のような形で表現しました。 d f = 1 2 σ 2 π e − （ x − m ） 2 / （ 2 σ 2 ） d x 。 {\displaystyle df={\frac {1}{\sqrt {2\sigma ^{2}\pi }}}e^{-(x-m)^{2}/(2\sigma ^{2})}\,dx.}
平均がゼロで分散が1の正規分布を表す「標準正規分布」 という用語は、1950年代頃に一般的に使われるようになり、P. G. Hoel (1947)の「数学統計学入門」 やAlexander M. Mood (1950)の「統計理論入門」 といった人気教科書にも登場した。[ 90 ] [ 91 ] [ 92 ]
![{\displaystyle [-x,x]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/e23c41ff0bd6f01a0e27054c2b85819fcd08b762)
![{\displaystyle \Phi (x)={\frac {1}{2}}\left[1+\operatorname {erf} \left({\frac {x}{\sqrt {2}}}\right)\right].}](https://wikimedia.org/api/rest_v1/media/math/render/svg/a8356fb040a87c7199fe5d99ca78fc217bb22260)
![{\displaystyle F(x)=\Phi {\left({\frac {x-\mu }{\sigma }}\right)}={\frac {1}{2}}\left[1+\operatorname {erf} \left({\frac {x-\mu }{\sigma {\sqrt {2}}}}\right)\right].}](https://wikimedia.org/api/rest_v1/media/math/render/svg/d71d8dab3627a46c34fafde729c82724b641b3eb)
![{\displaystyle \operatorname {P} (a<x\leq b)={\frac {1}{2}}\left[\operatorname {erf} \left({\frac {b-\mu }{\sigma {\sqrt {2}}}}\right)-\operatorname {erf} \left({\frac {a-\mu }{\sigma {\sqrt {2}}}}\right)\right]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/081e3058b1d40566c4e105866b7728e950d32f1d)
![{\displaystyle \operatorname {E} \left[(X-\mu )^{p}\right]={\begin{cases}0&{\text{pが奇数の場合},}}\\\sigma ^{p}(p-1)!!&{\text{pが偶数の場合}}}\end{cases}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/f1d2c92b62ac2bbe07a8e475faac29c8cc5f7755)
![{\displaystyle {\begin{aligned}\operatorname {E} \left[|X-\mu |^{p}\right]&=\sigma ^{p}(p-1)!!\cdot {\begin{cases}{\sqrt {\frac {2}{\pi }}}&{\text{pが奇数の場合}}\\1&{\text{pが偶数の場合}}\end{cases}}\\[8pt]&=\sigma ^{p}\cdot {\frac {2^{p/2}\Gamma \left({\frac {p+1}{2}}\right)}{\sqrt {\pi }}}.\end{aligned}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/3be5c6403b0141985f1980de6283a118ef4ea267)
![{\displaystyle {\begin{aligned}\operatorname {E} \left[X^{p}\right]&=\sigma ^{p}\cdot {\left(-i{\sqrt {2}}\right)}^{p}\,U{\left(-{\frac {p}{2}},{\frac {1}{2}},-{\frac {\mu ^{2}}{2\sigma ^{2}}}\right)},\\\operatorname {E} \left[|X|^{p}\right]&=\sigma ^{p}\cdot 2^{p/2}{\frac {\Gamma {\left({\frac {1+p}{2}}\right)}}{\sqrt {\pi }}}\,{}_{1}F_{1}{\left(-{\frac {p}{2}},{\frac {1}{2}},-{\frac {\mu ^{2}}{2\sigma ^{2}}}\right)}.\end{aligned}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/7c1a76b43032d0b01ff1935cced240253263ec62)
![{\textstyle [a,b]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/2c780cbaafb5b1d4a6912aa65d2b0b1982097108)
![{\displaystyle \operatorname {E} \left[X\mid a<X<b\right]=\mu -\sigma ^{2}{\frac {f(b)-f(a)}{F(b)-F(a)}}\,,}](https://wikimedia.org/api/rest_v1/media/math/render/svg/ad97cc40960e6d1d4e65f51596c9cd0c9accfdc0)
![{\displaystyle {\hat {f}}(t)=\operatorname {E} [e^{-itx}]=e^{-i\mu t}e^{-{\frac {1}{2}}\sigma ^{2}t^{2}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/952332f7eee9e208a58adcb0fc9579bdaa143cce)
![{\displaystyle \operatorname {E} [\cos(tx)]=\cos(\mu t)e^{-{\frac {1}{2}}\sigma ^{2}t^{2}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/5395d7de6a6755a20b760ae1a32fffc4321f63be)
![{\displaystyle \operatorname {E} [\sin(tx)]=\sin(\mu t)e^{-{\frac {1}{2}}\sigma ^{2}t^{2}}.}](https://wikimedia.org/api/rest_v1/media/math/render/svg/da4035208745307ad5ea8c4ac3274bdebc42bccd)
![{\displaystyle \operatorname {E} [\cosh(tx)]=\cosh(\mu t)e^{{\frac {1}{2}}\sigma ^{2}t^{2}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/ab17a3e9ea7d35d5f8f142bdb6057ea1cf8ff224)
![{\displaystyle \operatorname {E} [\sinh(tx)]=\sinh(\mu t)e^{{\frac {1}{2}}\sigma ^{2}t^{2}}.}](https://wikimedia.org/api/rest_v1/media/math/render/svg/448bbe59bcf7fbe7f53f44effd9ce6d75fc19fc3)
![{\displaystyle M(t)=\operatorname {E} \left[e^{tX}\right]={\hat {f}}(it)=e^{\mu t}e^{\sigma ^{2}t^{2}/2}\,.}](https://wikimedia.org/api/rest_v1/media/math/render/svg/3b5930b107fb4328bc04d077d65ce3d2bf1510de)
![{\displaystyle \operatorname {E} [X^{k}]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/9893a5b728d8111751abbcf6bd653d214b462cdc)
![{\displaystyle \operatorname {E} [\vert f'(X)\vert ]<\infty }](https://wikimedia.org/api/rest_v1/media/math/render/svg/c172f331ab4cca02c7e06a7322b7832f082e717b)
![{\textstyle E[\max _{i}X_{i}]\leq \sigma {\sqrt {2\ln n}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/0dfb87c9b047ccf23ace2139d97810dff1ed6670)
![{\displaystyle t={\frac {{\overline {X}}-\mu }{S/{\sqrt {n}}}}={\frac {{\frac {1}{n}}(X_{1}+\cdots +X_{n})-\mu }{\sqrt {{\frac {1}{n(n-1)}}\left[(X_{1}-{\overline {X}})^{2}+\cdots +(X_{n}-{\overline {X}})^{2}\right]}}}\sim t_{n-1}.}](https://wikimedia.org/api/rest_v1/media/math/render/svg/36ff0d3c79a0504e8f259ef99192b825357914d7)
![{\displaystyle {\begin{aligned}\operatorname {E} (X)&=\mu +{\sqrt {\frac {2}{\pi }}}(\sigma _{2}-\sigma _{1}),\\\operatorname {V} (X)&=\left(1-{\frac {2}{\pi }}\right)(\sigma _{2}-\sigma _{1})^{2}+\sigma _{1}\sigma _{2},\\\operatorname {T} (X)&={\sqrt {\frac {2}{\pi }}}(\sigma _{2}-\sigma _{1})\left[\left({\frac {4}{\pi }}-1\right)(\sigma _{2}-\sigma _{1})^{2}+\sigma _{1}\sigma _{2}\right].\end{aligned}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/97f32cc8147bff0b5cdc02123a520a1119854060)
![\displaystyle \ln {\mathcal {L}}({\hat {\mu }},{\hat {\sigma }}^{2})=-{\frac {n}{2}}[\ln \left(2\pi {\hat {\sigma }}^{2}\right)+1]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/7a7b6b2fbd860136ca19d0c90b7a231bd6ef87a3)
![{\displaystyle \mu \in \left[{\hat {\mu }}-t_{n-1,1-\alpha /2}{\frac {s}{\sqrt {n}}},\,{\hat {\mu }}+t_{n-1,1-\alpha /2}{\frac {s}{\sqrt {n}}}\right]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/86ad00c4aac2907f6358d3ab3a5e413a58158be4)
![{\displaystyle \sigma ^{2}\in \left[{\frac {n-1}{\chi _{n-1,1-\alpha /2}^{2}}}s^{2},\,{\frac {n-1}{\chi _{n-1,\alpha /2}^{2}}}s^{2}\right]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/87c0c6ae7bd48ba8377279fed58df479f0de900c)
![{\displaystyle \mu \in \left[{\hat {\mu }}-{\frac {|z_{\alpha /2}|}{\sqrt {n}}}s,\,{\hat {\mu }}+{\frac {|z_{\alpha /2}|}{\sqrt {n}}}s\right]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/6ed5adb135a9cd03de1aa21d774e66be1adb4ea8)
![{\displaystyle \sigma ^{2}\in \left[s^{2}-{\sqrt {2}}{\frac {|z_{\alpha /2}|}{\sqrt {n}}}s^{2},\,s^{2}+{\sqrt {2}}{\frac {|z_{\alpha /2}|}{\sqrt {n}}}s^{2}\right]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/56646fb560578a0414ad2f045c14031c4015b9a2)
![{\displaystyle {\begin{aligned}p(\mathbf {X} \mid \mu ,\tau )&=\prod _{i=1}^{n}{\sqrt {\frac {\tau }{2\pi }}}\exp \left(-{\frac {1}{2}}\tau (x_{i}-\mu )^{2}\right)\\&=\left({\frac {\tau }{2\pi }}\right)^{n/2}\exp \left(-{\frac {1}{2}}\tau \sum _{i=1}^{n}(x_{i}-\mu )^{2}\right)\\&=\left({\frac {\tau }{2\pi }}\right)^{n/2}\exp \left[-{\frac {1}{2}}\tau \left(\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}+n({\bar {x}}-\mu )^{2}\right)\right].\end{aligned}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/c2bcd1c34520a24e29b758a0f7427e79e9d8a414)
![{\displaystyle {\begin{aligned}p(\mu \mid \mathbf {X} )&\propto p(\mathbf {X} \mid \mu )p(\mu )\\&=\left({\frac {\tau }{2\pi }}\right)^{n/2}\exp \left[-{\frac {1}{2}}\tau \left(\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}+n({\bar {x}}-\mu )^{2}\right)\right]{\sqrt {\frac {\tau _{0}}{2\pi }}}\exp \left(-{\frac {1}{2}}\tau _{0}(\mu -\mu _{0})^{2}\right)\\&\propto \exp \left(-{\frac {1}{2}}\left(\tau \left(\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}+n({\bar {x}}-\mu )^{2}\right)+\tau _{0}(\mu -\mu _{0})^{2}\right)\right)\\&\propto \exp \left(-{\frac {1}{2}}\left(n\tau ({\bar {x}}-\mu )^{2}+\tau _{0}(\mu -\mu _{0})^{2}\right)\right)\\&=\exp \left(-{\frac {1}{2}}(n\tau +\tau _{0})\left(\mu -{\dfrac {n\tau {\bar {x}}+\tau _{0}\mu _{0}}{n\tau +\tau _{0}}}\right)^{2}+{\frac {n\tau \tau _{0}}{n\tau +\tau _{0}}}({\bar {x}}-\mu _{0})^{2}\right)\\&\propto \exp \left(-{\frac {1}{2}}(n\tau +\tau _{0})\left(\mu -{\dfrac {n\tau {\bar {x}}+\tau _{0}\mu _{0}}{n\tau +\tau _{0}}}\right)^{2}\right)\end{aligned}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/96e309ead00fbc8603eced5342aa5df534522d6a)
![{\displaystyle {\begin{aligned}\tau _{0}'&=\tau _{0}+n\tau \\[5pt]\mu _{0}'&={\frac {n\tau {\bar {x}}+\tau _{0}\mu _{0}}{n\tau +\tau _{0}}}\\[5pt]{\bar {x}}&={\frac {1}{n}}\sum _{i=1}^{n}x_{i}\end{aligned}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/a6cfbdf504b1a9ce4cbe79561b4ae983fdf7271d)
![{\displaystyle {\begin{aligned}{\sigma _{0}^{2}}'&={\frac {1}{{\frac {n}{\sigma ^{2}}}+{\frac {1}{\sigma _{0}^{2}}}}}\\[5pt]\mu _{0}'&={\frac {{\frac {n{\bar {x}}}{\sigma ^{2}}}+{\frac {\mu _{0}}{\sigma _{0}^{2}}}}{{\frac {n}{\sigma ^{2}}}+{\frac {1}{\sigma _{0}^{2}}}}}\\[5pt]{\bar {x}}&={\frac {1}{n}}\sum _{i=1}^{n}x_{i}\end{aligned}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/ea454c8840683777ce8192d9ae63068c63962858)
![{\displaystyle p(\sigma ^{2}\mid \nu _{0},\sigma _{0}^{2})={\frac {(\sigma _{0}^{2}{\frac {\nu _{0}}{2}})^{\nu _{0}/2}}{\Gamma \left({\frac {\nu _{0}}{2}}\right)}}~{\frac {\exp \left[{\frac {-\nu _{0}\sigma _{0}^{2}}{2\sigma ^{2}}}\right]}{(\sigma ^{2})^{1+{\frac {\nu _{0}}{2}}}}}\propto {\frac {\exp \left[{\frac {-\nu _{0}\sigma _{0}^{2}}{2\sigma ^{2}}}\right]}{(\sigma ^{2})^{1+{\frac {\nu _{0}}{2}}}}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/ef2528fe4774a93087d4adae570ef9ab84707f52)
![{\displaystyle {\begin{aligned}p(\mathbf {X} \mid \mu ,\sigma ^{2})&=\left({\frac {1}{2\pi \sigma ^{2}}}\right)^{n/2}\exp \left[-{\frac {1}{2\sigma ^{2}}}\sum _{i=1}^{n}(x_{i}-\mu )^{2}\right]\\&=\left({\frac {1}{2\pi \sigma ^{2}}}\right)^{n/2}\exp \left[-{\frac {S}{2\sigma ^{2}}}\right]\end{aligned}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/cc06aa31588bba03e4748f8f345f0638a75dc156)
![{\displaystyle {\begin{aligned}p(\sigma ^{2}\mid \mathbf {X} )&\propto p(\mathbf {X} \mid \sigma ^{2})p(\sigma ^{2})\\&=\left({\frac {1}{2\pi \sigma ^{2}}}\right)^{n/2}\exp \left[-{\frac {S}{2\sigma ^{2}}}\right]{\frac {(\sigma _{0}^{2}{\frac {\nu _{0}}{2}})^{\frac {\nu _{0}}{2}}}{\Gamma \left({\frac {\nu _{0}}{2}}\right)}}~{\frac {\exp \left[{\frac {-\nu _{0}\sigma _{0}^{2}}{2\sigma ^{2}}}\right]}{(\sigma ^{2})^{1+{\frac {\nu _{0}}{2}}}}}\\&\propto \left({\frac {1}{\sigma ^{2}}}\right)^{n/2}{\frac {1}{(\sigma ^{2})^{1+{\frac {\nu _{0}}{2}}}}}\exp \left[-{\frac {S}{2\sigma ^{2}}}+{\frac {-\nu _{0}\sigma _{0}^{2}}{2\sigma ^{2}}}\right]\\&={\frac {1}{(\sigma ^{2})^{1+{\frac {\nu _{0}+n}{2}}}}}\exp \left[-{\frac {\nu _{0}\sigma _{0}^{2}+S}{2\sigma ^{2}}}\right]\end{aligned}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/381c1b93f6dc76e2cdca9f3f1f77132dd51dc55f)
![{\displaystyle z=\Phi ^{-1}(p)=5.5556\left[1-\left({\frac {1-p}{p}}\right)^{0.1186}\right],\qquad p\geq 1/2}](https://wikimedia.org/api/rest_v1/media/math/render/svg/5f2df7f1427d0c90d075faef38f4f5ab7acce5c9)
![{\displaystyle z=-0.4115\left\{{\frac {1-p}{p}}+\log \left[{\frac {1-p}{p}}\right]-1\right\},\qquad p\geq 1/2}](https://wikimedia.org/api/rest_v1/media/math/render/svg/e1edea9f990058f741db6735799c8b40999b833b)
![{\displaystyle {\begin{aligned}L(z)&=\int _{z}^{\infty }(uz)\varphi (u)\,du=\int _{z}^{\infty }[1-\Phi (u)]\,du\\[5pt]L(z)&\approx {\begin{cases}0.4115\left({\dfrac {p}{1-p}}\right)-z,&p<1/2,\\\\0.4115\left({\dfrac {1-p}{p}}\right),&p\geq 1/2.\end{cases}}\\[5pt]{\text{または同等に、}}\\L(z)&\approx {\begin{cases}0.4115\left\{1-\log \left[{\frac {p}{1-p}}\right]\right\},&p<1/2,\\\\0.4115{\dfrac {1-p}{p}},&p\geq 1/2.\end{cases}}\end{aligned}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/e4b69fa586cffdfbbd40a94c65629726e4ae78bf)
