正規化定数

確率論では、正規化定数または正規化係数を使用して、任意の確率関数を総確率が 1 の確率密度関数に縮小します。

たとえば、ガウス関数は確率密度関数に正規化することができ、標準正規分布を与えます。ベイズの定理では、正規化定数は、すべての可能な仮説の合計が 1 に等しくなるようにするために使用されます。正規化定数の他の用途には、ルジャンドル多項式の値を 1 にすることや、正規直交関数の直交性などがあります。

同様の概念は、多項式など、確率以外の分野でも使用されています。

確率論において、正規化定数とは、どこでも負でない関数に掛けてそのグラフの下の面積が1になる定数であり、例えば確率密度関数や確率質量関数を作るときに使われる。^{[1] [2]}

単純なガウス関数 から始めると、対応するガウス積分 が得られる。$${\displaystyle p(x)=e^{-x^{2}/2},\quad x\in (-\infty ,\infty )}$$ $${\displaystyle \int _{-\infty }^{\infty }p(x)\,dx=\int _{-\infty }^{\infty }e^{-x^{2}/2}\,dx={\sqrt {2\pi \,}},}$$

ここで、後者の逆数値を前者の正規化定数として使用し、積分が1と なるように 関数を定義すれば 、その関数は確率密度関数となる。^{[3]これは標準}正規分布 の密度である。（この場合の標準とは、期待値が0で分散が1であることを意味する。） ${\displaystyle \varphi (x)}$$${\displaystyle \varphi (x)={\frac {1}{\sqrt {2\pi \,}}}p(x)={\frac {1}{\sqrt {2\pi \,}}}e^{-x^{2}/2}}$$$${\displaystyle \int _{-\infty }^{\infty }\varphi (x)\,dx=\int _{-\infty }^{\infty }{\frac {1}{\sqrt {2\pi \,}}}e^{-x^{2}/2}\,dx=1}$$${\displaystyle \varphi (x)}$

そして、定数は関数の正規化定数です。 ${\textstyle {\frac {1}{\sqrt {2\pi }}}}$${\displaystyle p(x)}$

同様に、 したがって、は すべての非負整数の集合上の確率質量関数です。^[4] これは、期待値λを持つポアソン分布の確率質量関数です。 $${\displaystyle \sum _{n=0}^{\infty }{\frac {\lambda ^{n}}{n!}}=e^{\lambda },}$$$${\displaystyle f(n)={\frac {\lambda ^{n}e^{-\lambda }}{n!}}}$$

確率密度関数がさまざまなパラメータの関数である場合、その正規化定数も関数になることに注意してください。ボルツマン分布のパラメータ化された正規化定数は、統計力学において中心的な役割を果たします。その文脈では、正規化定数はパーティション関数と呼ばれます。

ベイズの定理によれば、事後確率の測度は事前確率の測度と尤度関数の積に比例します。 に比例するということは、測度 1 を空間全体に割り当てるために、つまり確率の測度を得るために、正規化定数を掛け算または割り算する必要があることを意味します。単純な離散ケースでは、次のようになります。 ここで、P(H ₀ ) は仮説が真である事前確率です。P(D|H ₀ ) は仮説が真である場合のデータの条件付き確率ですが、データが既知である場合は、データが与えられた仮説 (またはそのパラメータ) の尤度です。P(H ₀ |D) はデータが与えられた場合の仮説が真である事後確率です。 P(D)はデータを生成する確率であるはずですが、それだけでは計算が難しいため、この関係を比例関係として記述する別の方法は、次のようになります。P (H|D)は確率なので、すべての可能な（相互に排他的な）仮説の合計は1になるはずであり、 この場合、値の 逆数が正規化定数 です。^[5] 合計を積分に置き換えることで、可算数の仮説から非可算数の仮説に拡張できます。 $${\displaystyle P(H_{0}|D)={\frac {P(D|H_{0})P(H_{0})}{P(D)}}}$$$${\displaystyle P(H_{0}|D)\propto P(D|H_{0})P(H_{0})。}$$$${\displaystyle P(H_{0}|D)={\frac {P(D|H_{0})P(H_{0})}{\displaystyle \sum _{i}P(D|H_{i})P(H_{i})}}.}$$$${\displaystyle P(D)=\sum _{i}P(D|H_{i})P(H_{i})\;}$$

具体的には、実用的な目的で正規化定数を推定する方法は数多くある。その方法には、ブリッジサンプリング法、単純モンテカルロ推定量、一般化調和平均推定量、重要度サンプリングなどがある。^[6]

ルジャンドル多項式は、区間 [−1, 1] 上の均一測度に関して直交性があり、1 における値が 1 になるように正規化されているという特徴があります。多項式に掛けて 1 における値となる定数は、正規化定数です。

正規直交関数は、ある内積⟨ f、g ⟩に関して正規化されます。 $${\displaystyle \langle f_{i},\,f_{j}\rangle =\,\delta _{i,j}}$$

定数1/ √2は、双曲三角形の隣り合う辺の長さと反対側の辺の長さから双曲関数cosh と sinh を確立するために使用されます。

• 正規化（統計）