スコアリングアルゴリズム

スコアリングアルゴリズムはフィッシャースコアリングとも呼ばれ、^[1]統計学で最大尤度方程式を数値的に解くために使用されるニュートン法の一種で、ロナルド・フィッシャーにちなんで名付けられました。

を、2 回微分可能なpdfで独立かつ同一に分布するランダム変数とし、の最大尤度推定量(MLE)を計算します。まず、アルゴリズムの開始点 があり、についてのスコア関数のテイラー展開を考えます。 ${\displaystyle Y_{1},\ldots ,Y_{n}}$ ${\displaystyle f(y;\theta )}$${\displaystyle \theta ^{*}}$${\displaystyle \theta}$${\displaystyle \theta _{0}}$${\displaystyle V(\theta )}$${\displaystyle \theta _{0}}$

${\displaystyle V(\theta )\おおよそ V(\theta _{0})-{\mathcal {J}}(\theta _{0})(\theta -\theta _{0}),\,}$

どこ

${\displaystyle {\mathcal {J}}(\theta _{0})=-\sum _{i=1}^{n}\left.\nabla \nabla ^{\top }\right|_{\theta =\theta _{0}}\log f(Y_{i};\theta )}$

は、における観測情報行列です。 を設定し、それを使用して整理すると、次のようになります。 ${\displaystyle \theta _{0}}$${\displaystyle \theta =\theta ^{*}}$${\displaystyle V(\theta ^{*})=0}$

${\displaystyle \theta ^{*}\approx \theta _{0}+{\mathcal {J}}^{-1}(\theta _{0})V(\theta _{0}).\,}$

そこで我々はアルゴリズムを使用する

${\displaystyle \theta _{m+1}=\theta _{m}+{\mathcal {J}}^{-1}(\theta _{m})V(\theta _{m}),\,}$

そして、ある一定の規則性条件下では、 であることが証明されます。 ${\displaystyle \theta _{m}\rightarrow \theta ^{*}}$

実際には、は通常、 、つまりフィッシャー情報量 に置き換えられ、フィッシャースコアリングアルゴリズムが得られます。 ${\displaystyle {\mathcal {J}}(\theta )}$${\displaystyle {\mathcal {I}}(\theta )=\mathrm {E} [{\mathcal {J}}(\theta )]}$

${\displaystyle \theta _{m+1}=\theta _{m}+{\mathcal {I}}^{-1}(\theta _{m})V(\theta _{m})}$..

いくつかの規則性条件下では、が整合的な推定量である場合、（単一ステップ後の補正）は、その誤差分布が真の最大尤度推定値の誤差分布と漸近的に同一であるという意味で「最適」である。^[2]${\displaystyle \theta_{m}}$${\displaystyle \theta _{m+1}}$

• スコア（統計）
• スコアテスト
• フィッシャー情報

• Jennrich, RI & Sampson, PF (1976). 「最大尤度分散成分推定のためのニュートン-ラプソン法と関連アルゴリズム」. Technometrics . 18 (1): 11–17. doi :10.1080/00401706.1976.10489395 (2024年11月1日非アクティブ). JSTOR  1267911.{{cite journal}}: CS1 メンテナンス: DOI は 2024 年 11 月時点で非アクティブです (リンク)