尤度比検定

パラメータ空間を持つ統計モデルがあると仮定します。${\displaystyle \Theta }$帰無仮説は、多くの場合、パラメータが${\displaystyle \theta }$指定された部分集合に含まれる$\displaystyle \Theta _{0}}$の${\displaystyle \Theta }$したがって、代替仮説は次のようになる。${\displaystyle \theta }$は補集合の中にある$\displaystyle \Theta _{0}}$つまり${\displaystyle \Theta ~\backslash ~\Theta _{0}}$、これは で表される$\displaystyle \Theta _{0}^{\text{c}}$帰無仮説に対する尤度比検定統計量$\displaystyle H_{0}\,:\,\theta \in \Theta _{0}}$は次のように与えられる：^{[ 8 ]}

$${\displaystyle \lambda _{\text{LR}}=-2\ln \left[{\frac {~\sup _{\theta \in \Theta _{0}}{\mathcal {L}}(\theta )~}{~\sup _{\theta \in \Theta }{\mathcal {L}}(\theta )~}}\right]}$$

ここで、括弧内の量は尤度比と呼ばれます。${\displaystyle \sup }$表記は上限値を表します。すべての尤度は正であり、制約付き最大値は制約なし最大値を超えることができないため、尤度比は0から1の間に、尤度比検定統計量は0から無限大の間に制限されます。

尤度比検定統計量は、多くの場合、対数尤度の差として表されます。$$\displaystyle \lambda _{\text{LR}}=-2\left[\ell (\theta _{0})-\ell ({\hat {\theta }})\right]}$$ どこ $${\displaystyle \ell ({\hat {\theta }})\equiv \ln \left[\,\sup _{\theta \in \Theta }{\mathcal {L}}(\theta )\,\right]}$$ は最大化尤度関数の対数である。$\displaystyle {\mathcal {L}}}$、 そして${\displaystyle \ell (\theta _{0})}$は、帰無仮説が真である特殊な場合の最大値です（ただし、必ずしも最大化する値ではありません）。$\displaystyle {\mathcal {L}}}$（サンプリングされたデータの場合） $$\displaystyle \theta _{0}\in \Theta _{0}\qquad {\text{ および }}\qquad {\hat {\theta }}\in \Theta ~}$$ は、それぞれの最大値の引数と、それらが埋め込まれている許容範囲を表します。− 2 を掛けることで、数学的に (ウィルクスの定理により)が保証されます。$\displaystyle \lambda _{\text{LR}}$帰無仮説が真である場合、漸近的にχ²分布に収束する。 ^{[ 9 ]}尤度比統計量の有限標本分布は一般には不明である。^{[ 10 ]}

尤度比検定では、モデルが入れ子構造になっていることが必要です。つまり、より複雑なモデルのパラメータに制約を課すことで、より単純なモデルに変換できる必要があります。多くの一般的な検定統計量は入れ子構造のモデルに対する検定であり、対数尤度比またはその近似値として表現できます。例えば、 Z検定、F検定、G検定、ピアソンのカイ二乗検定などです。1標本t検定の例については、以下を参照してください。

モデルがネストされていない場合は、尤度比検定の代わりに、通常は使用できる検定の一般化があります。詳細については、相対尤度を参照してください。

単純対単純仮説検定では、帰無仮説と対立仮説の両方においてモデルが完全に特定されており、便宜上、仮想パラメータの固定値を用いて記述される。${\displaystyle \theta }$:

$${\displaystyle {\begin{aligned}H_{0}&:&\theta =\theta _{0},\\H_{1}&:&\theta =\theta _{1}.\end{aligned}}}$$ この場合、どちらの仮説の下でも、データの分布は完全に指定されています。推定すべき未知のパラメータはありません。この場合、尤度比検定の変形が利用可能です。^{[ 11 ] [ 12 ]}

$${\displaystyle \Lambda (x)={\frac {~{\mathcal {L}}(\theta _{0}\mid x)~}{~{\mathcal {L}}(\theta _{1}\mid x)~}}.}$$

古い文献の中には、上記の関数の逆数を定義として使用しているものもある。^{[ 13 ]}したがって、代替モデルが帰無モデルよりも優れている場合、尤度比は小さくなる。

尤度比検定では、以下の判定ルールが示される。

値${\displaystyle c}$そして${\displaystyle q}$通常は、特定の有意水準を得るために選択される。${\displaystyle \alpha }$関係を通じて $${\displaystyle q\Pr(\Lambda =c\mid H_{0})~+~\Pr(\Lambda <c\mid H_{0})~=~\alpha ~.}$$ ネイマン・ピアソン補題によれば、この尤度比検定はあらゆるレベルの検定の中で最も強力である。${\displaystyle \alpha }$このケースのテスト。^{[ 7 ] [ 12 ]}

以下の例は、Stuart、Ord & Arnold (1999 、§22.2)から改変および要約したものです。

正規分布に従う母集団から、サイズnのランダムサンプルを抽出したとします。母集団の平均μと標準偏差σはどちらも未知です。平均が与えられた値μ ₀と等しいかどうかを検定します。

したがって、帰無仮説はH ₀ : μ = μ ₀  であり、対立仮説はH ₁ : μ ≠ μ ₀  である。尤度関数は $$\displaystyle {\mathcal {L}}(\mu ,\sigma \mid x)=\left(2\pi \sigma ^{2}\right)^{-n/2}\exp \left(-\sum _{i=1}^{n}{\frac {(x_{i}-\mu )^{2}}{2\sigma ^{2}}}\right)\,.}$$

（ここでは省略する）いくつかの計算により、次のことが示される。 $${\displaystyle \lambda _{LR}=n\ln \left(1+{\frac {t^{2}}{n-1}}\right)}$$ ここで、tは自由度n - 1のt統計量である。したがって、 t _{(n - 1)}の既知の正確な分布を用いて推論を行うことができる。