スコアテスト

統計学において、スコア検定は、帰無仮説の下で仮説パラメータ値で評価された尤度関数（スコアと呼ばれる）の勾配に基づいて、統計パラメータに対する制約を評価します。直感的には、制約付き推定量が尤度関数の最大値に近い場合、スコアは標本誤差を超えてゼロと異なるべきではありません。スコア検定の有限サンプル分布は一般に未知ですが、 1948年にCR Raoによって初めて証明されたように、帰無仮説の下では漸近的なχ ²分布を持ちます。^[1]この事実を使用して、統計的有意性を判断することができます。

等式制約条件の下での関数の最大化は、問題のラグランジュ表現を使用して最も簡単に実行できるため、スコア テストは、制約に関連付けられたラグランジュ乗数の大きさのテストとして同等に理解できます。ここでも、制約が最大尤度で非拘束である場合、ラグランジュ乗数のベクトルは、サンプリング誤差を超えて 0 と異なるべきではありません。これら 2 つのアプローチの同等性は、1959 年にSD Silveyによって初めて示されました^{[2]。これにより、}ラグランジュ乗数テストという名前が付けられ、 BreuschとPaganのよく引用される 1980 年の論文以来、特に計量経済学でより一般的に使用されるようになりました。^[3]

スコア検定がワルド検定や尤度比検定よりも優れている点は、スコア検定では制約付き推定値の計算のみが必要であることです。[ ^4]これにより、制約なしの最大尤度推定値がパラメータ空間の境界点にある場合でも検定が可能になります。^[要出典]さらに、スコア検定では帰無仮説の下での尤度関数の推定のみが必要であるため、対立仮説に関する尤度比検定よりも特異性が低くなります。^[5]

を一変量パラメータに依存する尤度関数とし、をデータとする。スコアは次のように定義される。 ${\displaystyle L}$${\displaystyle \theta}$${\displaystyle x}$${\displaystyle U(\theta )}$

${\displaystyle U(\theta )={\frac {\partial \log L(\theta \mid x)}{\partial \theta }}.}$

フィッシャー情報は^[6]

${\displaystyle I(\theta )=-\operatorname {E} \left[\left.{\frac {\partial ^{2}}{\partial \theta ^{2}}}\log f(X;\theta )\,\right|\,\theta \right]\,,}$

ここでƒ は確率密度です。

テストする統計は ${\displaystyle {\mathcal {H}}_{0}:\theta =\theta _{0}}$${\displaystyle S(\theta _{0})={\frac {U(\theta _{0})^{2}}{I(\theta _{0})}}$

が真であるとき、これはの漸近分布を持つ。漸近的には同じであるが、フィッシャー情報行列の外部勾配積推定量を使用してLM統計量を計算すると、小さなサンプルではバイアスが生じる可能性がある。^[7]${\displaystyle \chi _{1}^{2}}$${\displaystyle {\mathcal {H}}_{0}}$

一部のテキストでは、統計を正規分布に対してテストする 別の表記法が使用されていることに注意してください。このアプローチは同等であり、同じ結果が得られます。${\displaystyle S^{*}(\theta )={\sqrt {S(\theta )}}}$

${\displaystyle \left({\frac {\partial \log L(\theta \mid x)}{\partial \theta }}\right)_{\theta =\theta _{0}}\geq C}$

ここで、は尤度関数、は帰無仮説における関心パラメータの値、 は必要な検定のサイズ（つまり、が真である場合に棄却する確率、タイプ I の誤りを参照）に応じて設定される定数です。 ${\displaystyle L}$${\displaystyle \theta _{0}}$${\displaystyle C}$${\displaystyle H_{0}}$${\displaystyle H_{0}}$

スコア検定は、 からの小さな偏差を調べる最も強力な検定である。これを確認するには、と を比較する検定を考えてみよう。ネイマン・ピアソンの補題により、最も強力な検定は次の形式となる。 ${\displaystyle H_{0}}$${\displaystyle \theta =\theta _{0}}$${\displaystyle \theta =\theta _{0}+h}$

${\displaystyle {\frac {L(\theta _{0}+h\mid x)}{L(\theta _{0}\mid x)}}\geq K;}$

両辺の対数をとると

${\displaystyle \log L(\theta _{0}+h\mid x)-\log L(\theta _{0}\mid x)\geq \log K.}$

スコアテストは置換（テイラー級数展開による） の後に行われます。

${\displaystyle \log L(\theta _{0}+h\mid x)\approx \log L(\theta _{0}\mid x)+h\times \left({\frac {\partial \log L(\theta \mid x)}{\partial \theta }}\right)_{\theta =\theta _{0}}}$

そして上記を と同一視します。 ${\displaystyle C}$${\displaystyle \log(K)}$

帰無仮説が真であれば、尤度比検定、ワルド検定、スコア検定は漸近的に同等な仮説検定である。^{[8] [9]}ネストされたモデルを検定する場合、各検定の統計量は、2つのモデルの自由度の差に等しい自由度を持つカイ2乗分布に収束する。しかし、帰無仮説が真でない場合、統計量は​​非心度パラメータが異なる可能性のある非心カイ2乗分布に収束する。

より一般的なスコア検定は、複数のパラメータがある場合に導出できます。 が帰無仮説の下での最大尤度推定値であり、 とがそれぞれスコアベクトルとフィッシャー情報行列であると仮定します。 ${\displaystyle {\widehat {\theta }}_{0}}$${\displaystyle \theta}$${\displaystyle H_{0}}$${\displaystyle U}$${\displaystyle I}$

${\displaystyle U^{T}({\widehat {\theta }}_{0})I^{-1}({\widehat {\theta }}_{0})U({\widehat {\theta }}_{0})\sim \chi _{k}^{2}}$

漸近的に、ここで は帰無仮説によって課される制約の数であり、 ${\displaystyle H_{0}}$${\displaystyle k}$

${\displaystyle U({\widehat {\theta }}_{0})={\frac {\partial \log L({\widehat {\theta }}_{0}\mid x)}{\partial \theta }}}$

そして

${\displaystyle I({\widehat {\theta }}_{0})=-\operatorname {E} \left({\frac {\partial ^{2}\log L({\widehat {\theta }}_{0}\mid x)}{\partial \theta \,\partial \theta '}}\right).}$

これはテストに使用できます。 ${\displaystyle H_{0}}$

検定統計量の実際の式は、フィッシャー情報行列のどの推定量が使用されているかによって異なります。^[10]

多くの場合、スコア統計は別の一般的に使用される統計に還元されます。^[11]

線形回帰では、ラグランジュ乗数検定はF検定の関数として表すことができます。^[12]

データが正規分布に従う場合、スコア統計量はt 統計量と同じになります。^{[説明が必要]}

データがバイナリ観測で構成されている場合、スコア統計はピアソンのカイ二乗検定のカイ二乗統計と同じになります。

• フィッシャー情報
• 均一に最も強力なテスト
• スコア（統計）
• Sup-LM テスト

• Buse, A. (1982). 「尤度比、ワルド、ラグランジュ乗数検定: 解説ノート」アメリカ統計学者36 ( 3a): 153–157. doi :10.1080/00031305.1982.10482817.
• Godfrey, LG (1988)。「ラグランジュ乗数検定と誤指定の検定: 拡張分析」。計量経済学における誤指定検定。ニューヨーク: ケンブリッジ大学出版局。pp. 69–99。ISBN 0-521-26616-5。
• Ma, Jun; Nelson, Charles R. (2016)。「Wald テストの性能が劣る計量経済モデルにおける LM テストの優位性」。Unobserved Components and Time Series Econometrics。オックスフォード大学出版局。pp. 310–330。doi :10.1093/acprof:oso/ 9780199683666.003.0014。ISBN 978-0-19-968366-6。
• Rao, CR (2005)。「スコアテスト: 歴史的レビューと最近の開発」。ランキングと選択、多重比較、信頼性の進歩。ボストン: Birkhäuser。pp. 3–20。ISBN 978-0-8176-3232-8。