最大間隔推定

2つの値を仮定します${\displaystyle x_{(1)}=2}$、${\displaystyle x_{(2)}=4}$指数分布からサンプリングされた${\displaystyle F(x;\lambda )=1-e^{-x\lambda },x\geq 0}$未知のパラメータを持つ${\displaystyle \lambda >0}$MSEを構築するには、まず最初に間隔を見つける必要があります。

プロセスは、${\displaystyle \lambda }$これは「差」列の幾何平均を最大化します。${\displaystyle (n+1)}$st ルートは、次の積の最大化に変わります。${\displaystyle (1-e^{-2\lambda })\cdot (e^{-2\lambda }-e^{-4\lambda })\cdot (e^{-4\lambda })}$貸す${\displaystyle \mu =e^{-2\lambda }}$問題は、${\displaystyle \mu ^{5}-2\mu ^{4}+\mu ^{3}}$区別すると、${\displaystyle \mu }$満たさなければならない${\displaystyle 5\mu ^{4}-8\mu ^{3}+3\mu ^{2}=0}$この方程式の根は 0、0.6、1 です。${\displaystyle \mu }$実際は${\displaystyle e^{-2\lambda }}$0より大きく1より小さくなければなりません。したがって、唯一許容される解は $${\displaystyle \mu =0.6\quad \Rightarrow \quad \lambda _{\text{MSE}}={\frac {\ln 0.6}{-2}}\approx 0.255,}$$ これは平均が指数分布に対応する${\displaystyle \lambda \approx 3.915}$比較のために、最尤推定値は${\displaystyle \lambda }$は標本平均の逆数である3なので、$\textstyle \lambda _{\text{MLE}}={\frac {1}{3}}\approx 0.333}$。

仮定する${\displaystyle \{x_{(1)},\dots ,x_{(n)}\}}$これは一様分布からの順序付きサンプルです${\displaystyle U(a,b)}$不明なエンドポイント${\displaystyle a}$そして${\displaystyle b}$累積分布関数は${\textstyle F(x;a,b)={\frac {xa}{ba}}}$いつ${\displaystyle x\in [a,b]}$したがって、個々の間隔は次のように与えられる。 $$${\displaystyle D_{1}={\frac {x_{(1)}-a}{ba}},\ \ D_{i}={\frac {x_{(i)}-x_{(i-1)}}{ba}}\ {\text{for }}i=2,\ldots ,n,\ \ D_{n+1}={\frac {b-x_{(n)}}{ba}}.\ \ }$$$

幾何平均を計算し、その対数を取ると、統計${\displaystyle S_{n}}$等しくなります $${\displaystyle S_{n}(a,b)={\frac {\ln(x_{(1)}-a)}{n+1}}+{\frac {\sum _{i=2}^{n}\ln(x_{(i)}-x_{(i-1)})}{n+1}}+{\frac {\ln(b-x_{(n)})}{n+1}}-\ln(ba).}$$ ここでは、パラメータに依存する項は3つだけです。${\displaystyle a}$そして${\displaystyle b}$これらのパラメータに関して微分し、結果として得られる線形システムを解くと、最大間隔の推定値は次のようになります。 $${\displaystyle {\hat {a}}={\frac {nx_{(1)}-x_{(n)}}{n-1}}、\ \ {\hat {b}}={\frac {nx_{(n)}-x_{(1)}}{n-1}}。$$これらは、連続一様分布に対する一様最小分散不偏推定量（UMVU） として知られています。 ^{[ 1 ]}比較すると、この問題に対する最尤推定量は、${\displaystyle {\hat {a}}=x_{(1)}}$そして${\displaystyle {\hat {b}}=x_{(n)}}$偏りがあり、平均二乗誤差が大きい。

密度

分布

J字型密度関数とその分布のグラフ。スケールパラメータが15、形状パラメータが0.5、位置パラメータが10のシフトワイブル分布。xが10に近づくにつれて密度は漸近的に無限大に近づき、他のパラメータの推定値は矛盾する。分布のグラフには変曲点がないことに注意。

最大間隔推定量は、標本サイズが無限大に近づくにつれて、確率的にパラメータθ ₀の真の値に収束するという点で、一致推定量です。 ^{[ 2 ]}最大間隔推定の一致性は、最尤推定量よりもはるかに一般的な条件下で成り立ちます。特に、基礎となる分布が J 字型である場合、最尤推定は失敗しますが、MSE は成功します。^{[ 1 ]} J 字型の密度の例としては、形状パラメータが 1 未満のシフトされたワイブル分布が挙げられます。密度は、x が位置パラメータに近づくにつれて無限大に近づき、他のパラメータの推定値が不一致になります。

最大間隔推定量は、最尤推定量が存在する場合には、少なくとも漸近的に最尤推定量と同等の効率性を持つ。ただし、最尤推定量が存在しない場合でも、最大間隔推定量が存在する可能性がある。^{[ 1 ]}

最大間隔推定量は 、間隔の狭い観測値、特に同点観測値に敏感である。^{[ 11 ]}$${\displaystyle X_{i+k}=X_{i+k-1}=\cdots =X_{i},\,}$$ これにより $${\displaystyle D_{i+k}(\theta )=D_{i+k-1}(\theta )=\cdots =D_{i+1}(\theta )=0.\,}$$

同順位が複数の観測によるものである場合、繰り返される間隔（そうでなければゼロになるもの）は対応する尤度に置き換える必要があります。つまり、${\displaystyle f_{i}(\theta )}$のために${\displaystyle D_{i}(\theta )}$、 として $${\displaystyle \lim _{x_{i}\to x_{i-1}}{\frac {\int _{x_{i-1}}^{x_{i}}f(t;\theta )\,dt}{x_{i}-x_{i-1}}}=f(x_{i-1},\theta )=f(x_{i},\theta ),}$$ 以来${\displaystyle x_{i}=x_{i-1}}$[ ^{1 ]​}

同点が丸め誤差によるものである場合、Cheng & Stephens (1989) は、その影響を取り除く別の方法を提案している。^[ 注^{1 ]}${\displaystyle r}$関連する観測値${\displaystyle x_{i}}$に${\displaystyle x_{i+r-1}}$、 させて${\displaystyle \delta }$丸め誤差を表します。すべての真の値は、次の範囲内に収まるはずです。${\displaystyle x\pm \delta }$対応する分布点は、次の範囲に収まるはずです。${\displaystyle y_{L}=F(x-\delta ,{\hat {\theta }})}$そして${\displaystyle y_{U}=F(x+\delta ,{\hat {\theta }})}$ChengとStephensは、丸められた値がこの区間で均等に間隔を空けていると仮定することを提案している^{[ 11 ]}$${\displaystyle D_{j}={\frac {y_{U}-y_{L}}{r-1}}\quad (j=i+1,\ldots ,i+r-1).}$$

MSE法は二次クラスタリングにも敏感です。この現象の一例として、一連の観測値が単一の正規分布から得られたと考えられているが、実際には平均値の異なる複数の正規分布の混合から得られた場合が挙げられます。もう一つの例は、データが指数分布から得られたと考えられているが、実際にはガンマ分布から得られた場合です。後者の場合、下側裾野で間隔が狭くなる可能性があります。${\displaystyle M(\theta )}$これは二次的なクラスタリング効果を示しており、データのより詳細な調査が必要であることを示唆している。^{[ 11 ]}

Ranneby & Ekström (1997)は、MSE 法を一般化して、Kullback–Leibler 尺度以外の他の尺度を近似しました。Ekström (1997) はさらにこの方法を拡張し、高次の間隔を使用して推定量の特性を調査しました。${\displaystyle m}$-次数間隔は次のように定義されます${\displaystyle F(X_{j+m})-F(X_{j})}$^{[ 12 ]}

Rannebyら(2005) は、多変数ケースへの最大間隔法の拡張について論じている。${\displaystyle \mathbb {R} ^{k}(k>1)}$彼らは、ディリクレセルに基づく幾何学的アプローチと、「最近傍ボール」メトリックに基づく確率的アプローチという、2つの代替アプローチについて議論している。^{[ 13 ]}