デルタ法

統計学において、デルタ法は確率変数の漸近分布を導出する方法の一つです。この方法は、対象となる確率変数が漸近的にガウス分布に従う確率変数の微分可能な関数として定義できる場合に適用できます。より一般的には、デルタ法は、極限過程に収束する確率過程のアダマール方向微分可能な汎関数に適用されます。

歴史

デルタ法は誤差伝播から派生したもので、その背後にある考え方は20世紀初頭には知られていた。^{[ 1 ]}その統計的応用は1928年にTLケリーによってまで遡ることができる。^{[ 2 ]}この方法の正式な記述は1935年にJLドゥーブによって提示された。 ^{[ 3 ]}ロバート・ドーフマンも1938年にそのバージョンを記述した。^{[ 4 ]}

単変量デルタ法

デルタ法は多変量設定にも容易に一般化できるが、この手法の慎重な動機付けは単変量の場合の方が容易に説明できる。おおまかに言うと、次の条件を満たす確率変数の列 $X n が$ 存在する場合

{{\sqrt {n}}[X_{n}-\theta ]\,{\xrightarrow {D}}\,{\mathcal {N}}(0,\sigma ^{2})},

ここで、θとσ2^は有限値の定数であり、 ${\xrightarrow {D}}$ 分布の収束を表す場合、

{{\sqrt {n}}[g(X_{n})-g(\theta )]\,{\xrightarrow {D}}\,{\mathcal {N}}(0,\sigma ^{2}\cdot [g'(\theta )]^{2})}

関数g は、その 1 階導関数がで評価されるという性質を満たす任意の関数gに対して、 $\theta$ 、 $g'(\theta )$ 存在し、ゼロ以外の値である。

デルタ法の直感的な考え方は、関数の「十分に小さい」範囲であれば、任意のg関数を1次テイラー多項式、つまり線形関数で近似できるというものです。確率変数がほぼ正規分布に従う場合、その線形変換も正規分布に従います。分散が「十分に小さい」限り、確率変数の系列の集中点付近で関数を近似する際に、小さな範囲を確保できます。gを平均などの確率変数に適用する場合、デルタ法はサンプルサイズが大きくなるにつれてより効果的に機能します。これは、サンプルサイズが大きくなると分散が小さくなり、関心のある点における関数gのより小さな範囲にテイラー近似が適用されるためです。

単変量の場合の証明

この結果の証明は、以下の仮定の下では容易である。 $g(x)$ 近傍では微分可能である $\theta$ そして $g'(x)$ 連続 $\theta$ と $g'(\theta )\neq 0$ まず、平均値の定理（すなわち、テイラーの定理を用いたテイラー級数の1次近似）を用います。

g(X_{n})=g(\theta )+g'({\tilde {\theta }})(X_{n}-\theta ),

どこ ${\tilde {\theta }}$ $X n$ とθの間にある。注意： $X_{n}\,{\xrightarrow {P}}\,\theta$ そして $|{\tilde {\theta }}-\theta |<|X_{n}-\theta |$ それはきっと ${\tilde {\theta }}\,{\xrightarrow {P}}\,\theta$ $g' (θ)$ は連続であるため、連続写像定理を適用すると、

g'({\tilde {\theta }})\,{\xrightarrow {P}}\,g'(\theta ),

どこ ${\xrightarrow {P}}$ は確率収束を表します。

項を並べ替えて、 ${\sqrt {n}}$ 与える

{\sqrt {n}}[g(X_{n})-g(\theta )]=g'({\tilde {\theta }}){\sqrt {n}}[X_{n}-\theta ].

以来

{{\sqrt {n}}[X_{n}-\theta ]{\xrightarrow {D}}{\mathcal {N}}(0,\sigma ^{2})}

仮定により、スルツキーの定理から次のことが導かれる。

{{\sqrt {n}}[g(X_{n})-g(\theta )]{\xrightarrow {D}}{\mathcal {N}}(0,\sigma ^{2}[g'(\theta )]^{2})}.

これで証明は完了です。

明示的な近似次数を用いた証明

あるいは、最後にさらに1つのステップを追加して、近似の次数を求めることもできます。

{\begin{aligned}{\sqrt {n}}[g(X_{n})-g(\theta )]&=g'({\tilde {\theta }}){\sqrt {n}}[X_{n}-\theta ]\\[5pt]&={\sqrt {n}}[X_{n}-\theta ]\left[g'({\tilde {\theta }})+g'(\theta )-g'(\theta )\right]\\[5pt]&={\sqrt {n}}[X_{n}-\theta ]\left[g'(\theta )\right]+{\sqrt {n}}[X_{n}-\theta ]\left[g'({\tilde {\theta }})-g'(\theta )\right]\\[5pt]&={\sqrt {n}}[X_{n}-\theta ]\left[g'(\theta )\right]+O_{p}(1)\cdot o_{p}(1)\\[5pt]&={\sqrt {n}}[X_{n}-\theta ]\left[g'(\theta )\right]+o_{p}(1).\end{aligned}}

これは、近似誤差が確率的に0に収束することを示している。

多変量デルタ法

定義により、一致推定量B は確率的に真の値βに収束し、多くの場合、中心極限定理を適用して漸近正規性を得ることができます。

{\sqrt {n}}\left(B-\beta \right)\,{\xrightarrow {D}}\,N\left(0,\Sigma \right),

ここで、 nは観測数、Σ は（対称正半定値）共分散行列です。推定量Bのスカラー値関数hの分散を推定したいとします。テイラー級数の最初の 2 項のみを残し、勾配をベクトル表記で表すと、 h(B) は次のように推定できます。

h(B)\approx h(\beta )+\nabla h(\beta )^{T}\cdot (B-\beta )

これは、 h(B)の分散がおよそ

{\begin{aligned}\operatorname {Var} \left(h(B)\right)&\approx \operatorname {Var} \left(h(\beta )+\nabla h(\beta )^{T}\cdot (B-\beta )\right)\\[5pt]&=\operatorname {Var} \left(h(\beta )+\nabla h(\beta )^{T}\cdot B-\nabla h(\beta )^{T}\cdot \beta \right)\\[5pt]&=\operatorname {Var} \left(\nabla h(\beta )^{T}\cdot B\right)\\[5pt]&=\nabla h(\beta )^{T}\cdot \operatorname {Cov} (B)\cdot \nabla h(\beta )\\[5pt]&=\nabla h(\beta )^{T}\cdot {\frac {\Sigma }{n}}\cdot \nabla h(\beta )\end{aligned}}

平均値の定理（多変数実数値関数の場合）を用いると、これが一次近似に依存しないことがわかる。

したがって、デルタ法は、

{\sqrt {n}}\left(h(B)-h(\beta )\right)\,{\xrightarrow {D}}\,N\left(0,\nabla h(\beta )^{T}\cdot \Sigma \cdot \nabla h(\beta )\right)

または単変量で言えば、

{\sqrt {n}}\left(h(B)-h(\beta )\right)\,{\xrightarrow {D}}\,N\left(0,\sigma ^{2}\cdot \left(h^{\prime }(\beta )\right)^{2}\right).

例：二項比率

X _nがパラメータを持つ二項分布に従うと仮定します $p\in (0,1]$ そしてn。

{{\sqrt {n}}\left[{\frac {X_{n}}{n}}-p\right]\,{\xrightarrow {D}}\,N(0,p(1-p))},

$g (θ) = log(θ)$ でデルタ法を適用して確認します

{{\sqrt {n}}\left[\log \left({\frac {X_{n}}{n}}\right)-\log(p)\right]\,{\xrightarrow {D}}\,N(0,p(1-p)[1/p]^{2})}

したがって、任意の有限nに対して、分散は $\log \left({\frac {X_{n}}{n}}\right)$ 実際には存在しない（X _{n は}ゼロになる可能性があるため）、漸近分散は $\log \left({\frac {X_{n}}{n}}\right)$ 存在し、等しい

{\frac {1-p}{np}}.

p>0なので、 $\Pr \left({\frac {X_{n}}{n}}>0\right)\rightarrow 1$ として $n\rightarrow \infty$ 確率は1に収束し、 $\log \left({\frac {X_{n}}{n}}\right)$ nが大きい場合、有限である。

さらに、もし ${\hat {p}}$ そして ${\hat {q}}$ はそれぞれサイズnとmの独立したサンプルからの異なるグループ率の推定値であり、推定相対リスクの対数は ${\frac {\hat {p}}{\hat {q}}}$ 漸近分散は

{\frac {1-p}{p\,n}}+{\frac {1-q}{q\,m}}.

これは、仮説検定を構築したり、相対リスクの信頼区間を作成したりするのに役立ちます。

別形式

デルタ法は、 $X n$ またはBが漸近的に正規であるという仮定なしに、基本的に上記と同じ形式で使用されることが多い。多くの場合、唯一の文脈は分散が「小さい」ということである。その結果は、変換された量の平均と共分散の近似値を与えるだけである。たとえば、Klein (1953、p. 258) で提示された式は次のとおりである。^{[ 5 ]}

{\begin{aligned}\operatorname {Var} \left(h_{r}\right)=&\sum _{i}\left({\frac {\partial h_{r}}{\partial B_{i}}}\right)^{2}\operatorname {Var} \left(B_{i}\right)+\sum _{i}\sum _{j\neq i}\left({\frac {\partial h_{r}}{\partial B_{i}}}\right)\left({\frac {\partial h_{r}}{\partial B_{j}}}\right)\operatorname {Cov} \left(B_{i},B_{j}\right)\\\operatorname {Cov} \left(h_{r},h_{s}\right)=&\sum _{i}\left({\frac {\partial h_{r}}{\partial B_{i}}}\right)\left({\frac {\partial h_{s}}{\partial B_{i}}}\right)\operatorname {Var} \left(B_{i}\right)+\sum _{i}\sum _{j\neq i}\left({\frac {\partial h_{r}}{\partial B_{i}}}\right)\left({\frac {\partial h_{s}}{\partial B_{j}}}\right)\operatorname {Cov} \left(B_{i},B_{j}\right)\end{aligned}}

ここで、 $h r$ はh ( B )のr番目の要素であり、 B _iはBのi番目の要素です。

2次デルタ法

$g' (θ) = 0$ の場合、デルタ法は適用できません。ただし、 $g'' (θ)$ が存在し、ゼロでない場合は、2次デルタ法を適用できます。テイラー展開により、 $n[g(X_{n})-g(\theta )]={\frac {1}{2}}n[X_{n}-\theta ]^{2}\left[g''(\theta )\right]+o_{p}(1)$ 分散は $g\left(X_{n}\right)$ 4 次までのモーメントに依存します $X_{n}$ 。

2次法を用いる場合、 $g (Xn)$ の期待値はもはや単純に $g (θ)$ ではなく、曲率に依存する補正項も含まれること $に注意してください。$ $E[g(X_{n})]\approx g(\theta )+{\frac {1}{2}}g''(\theta )\sigma ^{2}$ 直感的には、関数に大きな曲率がある場合、入力変数 $X n が$ $ガウス分布（かつ対称的な裾を持つ）であっても、関数の期待値は平均の関数g (θ)$ と等しくなくなります。

2次デルタ法は、より正確な近似を行う際にも有用である。 $g\left(X_{n}\right)$ サンプルサイズが小さい場合の分布。 ${\sqrt {n}}[g(X_{n})-g(\theta )]={\sqrt {n}}[X_{n}-\theta ]g'(\theta )+{\frac {1}{2}}{\frac {n[X_{n}-\theta ]^{2}}{\sqrt {n}}}g''(\theta )+o_{p}(1)$ 例えば、 $X_{n}$ 標準正規分布に従う。 $g\left(X_{n}\right)$ これは、標準正規分布と自由度1のカイ二乗分布の加重和として近似できる。

ノンパラメトリックデルタ法

デルタ法の一種はノンパラメトリック統計学にも存在する。 $X_{i}\sim F$ サンプルサイズがの独立同分布の確率変数である。 $n$ 経験分布関数を用いて ${\hat {F}}_{n}$ 、そして $T$ 機能的である。 $T$ アダマールはチェビシェフ計量に関して微分可能か、

{\frac {T({\hat {F}}_{n})-T(F)}{\widehat {\text{se}}}}\xrightarrow {D} N(0,1)

どこ ${\widehat {\text{se}}}={\frac {\hat {\tau }}{\sqrt {n}}}$ そして ${\hat {\tau }}^{2}={\frac {1}{n}}\sum _{i=1}^{n}{\hat {L}}^{2}(X_{i})$ 、と ${\hat {L}}(x)=L_{{\hat {F}}_{n}}(\delta _{x})$ 経験的影響関数を表す $T$ 非パラメトリック $(1-\alpha )$ 点ごとの漸近信頼区間 $T(F)$ したがって、は次のように与えられる。

T({\hat {F}}_{n})\pm z_{1-\alpha /2}{\widehat {\text{se}}}

どこ $z_{q}$ は $q$ 標準正規分布の分位点。

例

以下の例では、 $L_{F}$ は、母集団分布で評価された影響関数を表す。 $F$ その経験的対応物 ${\widehat {L}}$ これは、未知の母集団量を適切な標本推定値で置き換えることによって得られる。

平均

平均関数については

T(F)=\int x\,dF(x)=\mu ,

汚染 $F$ 点質量によって $x$ 与える

T{\bigl (}(1-\varepsilon )F+\varepsilon \delta _{x}{\bigr )}=(1-\varepsilon )\mu +\varepsilon x.

したがって、影響関数は

L_{F}(x)=x-\mu .

以来 $T({\widehat {F}}_{n})={\overline {X}}_{n}$ その経験的バージョンは

{\widehat {L}}(x)=x-{\overline {X}}_{n}.

その結果、

{\widehat {\tau }}^{2}={\frac {1}{n}}\sum _{i=1}^{n}(X_{i}-{\overline {X}}_{n})^{2},

そして上記の一般式から得られる標準誤差は

{\widehat {\operatorname {se} }}({\overline {X}}_{n})={\frac {\widehat {\tau }}{\sqrt {n}}}.

^{[ 6 ]}

相関係数

させて $Z=(X,Y)$ 、そして $T(F)$ ピアソン相関係数

T(F)=\rho ={\frac {\operatorname {E} [XY]-\operatorname {E} [X]\operatorname {E} [Y]}{\sqrt {\operatorname {Var} (X)\operatorname {Var} (Y)}}}.

書き込み

{\widetilde {x}}={\frac {x-\mu _{X}}{\sigma _{X}}},\qquad {\widetilde {y}}={\frac {y-\mu _{Y}}{\sigma _{Y}}},

相関関数の影響関数は

L_{F}(x,y)={\widetilde {x}}{\widetilde {y}}-{\frac {\rho }{2}}\left({\widetilde {x}}^{\,2}+{\widetilde {y}}^{\,2}\right).

させて

{\widehat {x}}_{i}={\frac {X_{i}-{\overline {X}}}{{\widehat {\sigma }}_{X}}},\qquad {\widehat {y}}_{i}={\frac {Y_{i}-{\overline {Y}}}{{\widehat {\sigma }}_{Y}}},

そして ${\widehat {\rho }}$ を標本相関係数とする。経験的影響値は次のようになる。

{\widehat {L}}(X_{i},Y_{i})={\widehat {x}}_{i}{\widehat {y}}_{i}-{\frac {\widehat {\rho }}{2}}\left({\widehat {x}}_{i}^{\,2}+{\widehat {y}}_{i}^{\,2}\right).

したがって、一般標準誤差式における分散係数は次のように推定できる。

{\widehat {\tau }}^{2}={\frac {1}{n}}\sum _{i=1}^{n}{\widehat {L}}^{2}(X_{i},Y_{i}).

^{[ 6 ]}

分位数

させて

q_{p}=F^{-1}(p)

次数の分位数である $p$ 仮に $F$ 密度を持つ $f$ それは連続的で正の値です $q_{p}$ 分位関数の影響関数は

L_{F}(x)={\frac {p-\mathbf {1} _{\{x\leq q_{p}\}}}{f(q_{p})}}.

もし ${\widehat {q}}_{p}$ サンプル分位数と ${\widehat {f}}({\widehat {q}}_{p})$ はその分位点における密度の推定値であり、影響関数は次のように推定できます。

{\widehat {L}}(x)={\frac {p-\mathbf {1} _{\{x\leq {\widehat {q}}_{p}\}}}{{\widehat {f}}({\widehat {q}}_{p})}}.

したがって、

{\widehat {\tau }}^{2}={\frac {1}{n}}\sum _{i=1}^{n}\left({\frac {p-\mathbf {1} _{\{X_{i}\leq {\widehat {q}}_{p}\}}}{{\widehat {f}}({\widehat {q}}_{p})}}\right)^{2}.

人口レベルでは、

\operatorname {E} _{F}[L_{F}^{2}(X)]={\frac {p(1-p)}{f(q_{p})^{2}}},

したがって、標本分位点の漸近分散は

\operatorname {Var} ({\widehat {q}}_{p})\sim {\frac {p(1-p)}{nf(q_{p})^{2}}}.

^{[ 6 ]}

参考文献

↑ Portnoy, Stephen (2013). 「編集者への手紙」。The American Statistician . 67 (3): 190. doi : 10.1080/00031305.2013.820668 . S2CID 219596186 .
↑ケリー、トルーマン L. ( 1928). 『人間の心の岐路：差異化可能な精神能力の研究』 49-50頁。ISBN 978-1-4338-0048-1。{{cite book}}ISBN /日付の不一致（ヘルプ）
↑ Doob, JL (1935). 「特定の統計量の極限分布」 . Annals of Mathematical Statistics . 6 (3): 160– 169. doi : 10.1214/aoms/1177732594 . JSTOR 2957546 .
↑ Ver Hoef, JM (2012). 「デルタ法を発明したのは誰か？」。アメリカ統計学者。66 ( 2 ): 124–127。doi : 10.1080 /00031305.2012.687494。JSTOR 23339471。
↑クライン、LR（1953）。計量経済学の教科書。p. 258。
1 2 3 Wasserman, Larry (2006). All of Nonparametric Statistics . Springer. pp. 20–21 . doi : 10.1007/0-387-30623-4 . ISBN 978-0-387-25145-5。

さらに読む

Oehlert, GW ( 1992). 「デルタ法に関する注記」。アメリカ統計学者。46 ( 1): 27–29。doi : 10.1080 /00031305.1992.10475842。JSTOR 2684406。
ウォルター、カーク M. (1985). 「テイラー級数法」 .分散推定入門. ニューヨーク: スプリンガー. pp. 221–247 . ISBN 0-387-96119-4。

外部リンク

Asmussen, Søren (2005). 「デルタ法のいくつかの応用例」(PDF)。講義ノート。オーフス大学。 2015年5月25日にオリジナル(PDF)からアーカイブ済み。

[1] Portnoy, Stephen (2013). 「編集者への手紙」。The American Statistician . 67 (3): 190. doi : 10.1080/00031305.2013.820668 . S2CID 219596186 .

[2] ケリー、トルーマン L. ( 1928). 『人間の心の岐路：差異化可能な精神能力の研究』 49-50頁。ISBN 978-1-4338-0048-1。{{cite book}}ISBN /日付の不一致（ヘルプ）

[3] Doob, JL (1935). 「特定の統計量の極限分布」 . Annals of Mathematical Statistics . 6 (3): 160– 169. doi : 10.1214/aoms/1177732594 . JSTOR 2957546 .

[4] Ver Hoef, JM (2012). 「デルタ法を発明したのは誰か？」。アメリカ統計学者。66 ( 2 ): 124–127。doi : 10.1080 /00031305.2012.687494。JSTOR 23339471。

[5] クライン、LR（1953）。計量経済学の教科書。p. 258。

[Wasserman2006-6] 1 2 3 Wasserman, Larry (2006). All of Nonparametric Statistics . Springer. pp. 20–21 . doi : 10.1007/0-387-30623-4 . ISBN 978-0-387-25145-5。

[ 1 ]

[ 2 ]

[ 3 ]

[ 4 ]

[ 5 ]

[ 6 ]

デルタ法

歴史

単変量デルタ法

単変量の場合の証明

明示的な近似次数を用いた証明

多変量デルタ法

例：二項比率

別形式

2次デルタ法

ノンパラメトリックデルタ法

例

平均

相関係数

分位数

関連項目

参考文献

さらに読む

外部リンク

関連するトピック

統計学

漸近分布

ガウス分布

微分可能な関数