局所漸近正規性

統計学において、局所漸近正規性は統計モデルのシーケンスの特性であり、パラメータを適切に再スケーリングした後、このシーケンスを正規位置モデルで漸近的に近似することができます。局所漸近正規性が保持される重要な例として、通常のパラメトリックモデルからのiidサンプリングが挙げられます。

局所漸近正規性の概念はル・カン（1960）によって導入され、推定量と検定効率の扱いにおいて基本的なものである。^[1]

パラメトリック統計モデル の系列{  P _n,θ : θ ∈ Θ  }がθにおいて局所漸近正規分布(LAN)であるとは、行列r _nとI _θおよびランダムベクトルΔ _n,θ ~ N (0, I _θ )が存在し、すべての収束系列h _n → hに対して、^[2]

${\displaystyle \ln {\frac {dP_{\!n,\theta +r_{n}^{-1}h_{n}}}{dP_{n,\theta }}}=h'\Delta _{n,\theta }-{\frac {1}{2}}h'I_{\theta }\,h+o_{P_{n,\theta }}(1),}$

ここでの導関数はラドン・ニコディム導関数であり、尤度比の形式化されたバージョンであり、oは確率表記法における大きな Oの一種です。言い換えると、局所尤度比は分布において平均が分散の半分を引いたものに等しい正規確率変数に収束する必要があります。

${\displaystyle \ln {\frac {dP_{\!n,\theta +r_{n}^{-1}h_{n}}}{dP_{n,\theta }}}\ \ {\xrightarrow {d}}\ \ {\mathcal {N}}{\Big (}{-{\tfrac {1}{2}}}h'I_{\theta }\,h,\ h'I_{\theta }\,h{\Big )}.}$

分布と分布の列は連続している。^[2]${\displaystyle P_{\!n,\theta +r_{n}^{-1}h_{n}}}$${\displaystyle P_{n,\theta }}$

LANモデルの最もわかりやすい例は、尤度が2回連続微分可能なiidモデルである。{  X ₁ , X ₂ , …, X _n  }がiidサンプルであり、各X _iが密度関数f ( x , θ )を持つと仮定する。モデルの尤度関数は

${\displaystyle p_{n,\theta }(x_{1},\ldots ,x_{n};\,\theta )=\prod _{i=1}^{n}f(x_{i},\theta ).}$

fがθで2回連続微分可能である場合、

${\displaystyle {\begin{aligned}\ln p_{n,\theta +\delta \theta }&\approx \ln p_{n,\theta }+\delta \theta '{\frac {\partial \ln p_{n,\theta }}{\partial \theta }}+{\frac {1}{2}}\delta \theta '{\frac {\partial ^{2}\ln p_{n,\theta }}{\partial \theta \,\partial \theta '}}\delta \theta \\&=\ln p_{n,\theta }+\delta \theta '\sum _{i=1}^{n}{\frac {\partial \ln f(x_{i},\theta )}{\partial \theta }}+{\frac {1}{2}}\delta \theta '{\bigg [}\sum _{i=1}^{n}{\frac {\partial ^{2}\ln f(x_{i},\theta )}{\partial \theta \,\partial \theta '}}{\bigg ]}\delta \theta .\end{aligned}}}$

差し込むと、 ${\displaystyle \delta \theta =h/{\sqrt {n}}}$

${\displaystyle \ln {\frac {p_{n,\theta +h/{\sqrt {n}}}}{p_{n,\theta }}}=h'{\Bigg (}{\frac {1}{\sqrt {n}}}\sum _{i=1}^{n}{\frac {\partial \ln f(x_{i},\theta )}{\partial \theta }}{\Bigg )}\;-\;{\frac {1}{2}}h'{\Bigg (}{\frac {1}{n}}\sum _{i=1}^{n}-{\frac {\partial ^{2}\ln f(x_{i},\theta )}{\partial \theta \,\partial \theta '}}{\Bigg )}h\;+\;o_{p}(1).}$

中心極限定理により、最初の項（括弧内）は分布的に正規乱数Δ _θ ~ N (0, I _θ )に収束しますが、大数の法則により、2番目の括弧内の式は確率的にフィッシャー情報行列I θ_に収束します。

${\displaystyle I_{\theta }=\mathrm {E} {\bigg [}{-{\frac {\partial ^{2}\ln f(X_{i},\theta )}{\partial \theta \,\partial \theta '}}}{\bigg ]}=\mathrm {E} {\bigg [}{\bigg (}{\frac {\partial \ln f(X_{i},\theta )}{\partial \theta }}{\bigg )}{\bigg (}{\frac {\partial \ln f(X_{i},\theta )}{\partial \theta }}{\bigg )}'\,{\bigg ]}.}$

したがって、局所漸近正規性の定義は満たされ、iid観測値と2回連続微分可能尤度を持つパラメトリックモデルがLANプロパティを持つことを確認しました。

• 漸近分布