単調尤度比

分布における単調な尤度比と${\displaystyle \f(x)\}$${\displaystyle \g(x)\}$

上記の密度関数の比はパラメータ内で単調であるため、単調尤度比の特性を満たします。 ${\displaystyle \ x\ ,}$${\displaystyle \ {\frac {\ f(x)\ }{g(x)}}\ }$

統計学において、単調尤度比の性質は、 2つの確率密度関数（PDF）の比の性質である。正式には、分布とは次の場合に性質を持つ。 ${\displaystyle \f(x)\}$${\displaystyle \g(x)\}$

${\displaystyle \ {\text{for every }}x_{2}>x_{1},\quad {\frac {f(x_{2})}{\ g(x_{2})\ }}\geq {\frac {f(x_{1})}{\ g(x_{1})\ }}\ }$

つまり、比率が引数内で非減少である場合です。 ${\displaystyle x}$

関数が一次微分可能な場合、その性質は次のように表現されることがある。

${\displaystyle {\frac {\ \partial }{\ \partial x}}\left({\frac {f(x)}{\ g(x)\ }}\right)\geq 0\ }$

ある議論に関して定義を満たす2つの分布については、それらが「MLRPを持つ」と言います。ある統計に関して定義を満たす分布の族については、それらが「MLRを持つ」 と言います。${\displaystyle \ x\ ,}$${\displaystyle \ x~.}$${\displaystyle \ T(X)\ ,}$${\displaystyle \ T(X)~.}$

MLRP は、ある観測変数の大きさとその変数が抽出される分布との間に単純な関係があるデータ生成プロセスを表すために使用されます。 が に関してMLRP を満たす場合、観測値 が高いほど、分布ではなく分布から抽出された可能性が高くなります。単調な関係の場合と同様に、尤度比の単調性は統計、特に最大尤度推定 を使用する場合に役立ちます。また、MLR を持つ分布族には、一次確率優位性や増加するハザード比など、いくつかの適切な確率的特性があります。残念ながら、これもよくあることですが、この仮定の強さは現実性を犠牲にして得られます。世界の多くのプロセスは、入力と出力の間に単調な対応を示しません。 ${\displaystyle \ f(x)\ }$${\displaystyle \ g(x)\ }$${\displaystyle \ x\ }$${\displaystyle \ f\ }$${\displaystyle \ g~.}$

あるプロジェクトに取り組んでいて、一生懸命働くか怠けるかのどちらかができるとします。努力の選択と結果として得られるプロジェクトの品質をと呼びます。努力を条件とするの分布について MLRP が成り立つ場合、品質が高いほど一生懸命働いた可能性が高くなります。逆に、品質が低いほど怠けた可能性が高くなります。 ${\displaystyle \ e\ }$${\displaystyle \ q~.}$${\displaystyle \ q\ }$${\displaystyle \ e\ }$

1:は高い労力を意味し、 は低い労力を意味します。${\displaystyle \ e\in \{H,L\}\ }$${\displaystyle \ H\ }$${\displaystyle \ L\ }$

2:から得られるものを観察するベイズの法則により、一様事前分布で、 ${\displaystyle \ q\ }$${\displaystyle \ f(q\ |\ e)~.}$

${\displaystyle \ \operatorname {\mathbb {P} } {\bigl [}\ e=H\ {\big |}\ q\ {\bigr ]}={\frac {f(q\ |\ H)}{\ f(q\ |\ H)+f(q\ |\ L)\ }}\ }$

3: がMLRPを満たすと仮定する。整理すると、労働者が一生懸命働く確率は ${\displaystyle \ f(q\ |\ e)\ }$

${\displaystyle \ {\frac {1}{\ 1+f(q\ |\ L)/f(q\ |\ H)\ }}\ }$

これは、MLRPのおかげで、 で単調増加します（は で減少するため）。${\displaystyle \ q\ }$${\displaystyle \ {\frac {f(q\ |\ L)}{\ f(q\ |\ H)\ }}\ }$${\displaystyle \ q\ }$

したがって、雇用主が「業績評価」を行う場合、従業員の仕事の成果からその従業員の行動を推測することができます。

統計モデルでは、多くの場合、データが何らかの分布群の分布によって生成されると想定し、その分布を決定しようとします。このタスクは、分布群に単調尤度比特性 (MLRP) がある場合に簡素化されます。

順序付けられた集合内の値を取るパラメータによってインデックス付けされた密度関数の族は、任意の${\displaystyle \ {\bigl \{}\ f_{\theta }(x)\ {\big |}\ \theta \in \Theta \ {\bigr \}}\ }$${\displaystyle \ \theta \ }$${\displaystyle \ \Theta \ }$ ${\displaystyle \ T(X)\ }$${\displaystyle \ \theta _{1}<\theta _{2}\ ,}$

${\displaystyle \ {\frac {f_{\theta _{2}}(X=x_{1},\ x_{2},\ x_{3},\ \ldots \ )}{\ f_{\theta _{1}}(X=x_{1},\ x_{2},\ x_{3},\ \ldots \ )\ }}\ }$は非減少関数である${\displaystyle \ T(X)~.}$

そして、分布族は「 に MLR を持つ」と言います。 ${\displaystyle \ T(X)\ }$

ランダム変数のファミリーが均一にMLRPを持っている場合、仮説との比較で最も強力なテストは簡単に決定できます。${\displaystyle \ T(X)\ ,}$${\displaystyle \ H_{0}\ :\ \theta \leq \theta _{0}\ }$${\displaystyle \ H_{1}\ :\ \theta >\theta _{0}~.}$

例:確率的技術への入力（例えば労働者の努力）と その出力を確率密度関数で表すとします。このとき、この族の単調尤度比特性（MLRP）は次のように表されます。任意のに対して、 この比率 が増加する という事実は 、${\displaystyle \ e\ }$${\displaystyle \ y\ }$${\displaystyle \ f(y;e)~.}$${\displaystyle \ f\ }$${\displaystyle \ e_{1},e_{2}\ ,}$${\displaystyle e_{2}>e_{1}}$${\displaystyle \ {\frac {\ f(y;e_{2})\ }{f(y;e_{1})}}\ }$${\displaystyle \ y~.}$

単調尤度は、確率モデルだけでなく、点推定や仮説検定などの統計理論のさまざまな分野で使用されます。

1パラメータ指数族は単調な尤度関数を持つ。特に、1次元の指数族の確率密度関数または確率質量関数は、

${\displaystyle \ f_{\theta }(x)=c(\theta )\ h(x)\ \exp {\Bigl (}\ \pi \left(\theta \right)\ T\left(x\right)\ {\Bigr )}\ }$

が非減少で ある場合、十分な統計量 において単調な非減少尤度比を持ちます。${\displaystyle \ T(x)\ ,}$${\displaystyle \ \pi (\theta )\ }$

単調尤度関数は、カーリン・ルビンの定理に従って、均一に最も強力な検定を構築するために使用されます。^[1] スカラーパラメータによってパラメータ化された確率密度関数を持つスカラー測定を考え、尤度比を定義します。 が単調非減少である 場合、任意のペア（つまり、が大きいほど、 の可能性が高い）に対して、しきい値検定は次のようになります。 ${\displaystyle \ \theta \ ,}$${\displaystyle \ \ell (x)={\frac {f_{\theta _{1}}(x)}{\ f_{\theta _{0}}(x)\ }}~.}$${\displaystyle \ \ell (x)\ }$${\displaystyle \ x\ ,}$${\displaystyle \ \theta _{1}\geq \theta _{0}\ }$${\displaystyle \ x\ }$${\displaystyle \ H_{1}\ }$

${\displaystyle \ \varphi (x)={\begin{cases}1&{\text{if }}x>x_{0}\\0&{\text{if }}x<x_{0}\end{cases}}\ }$

が選ばれる場所${\displaystyle \ x_{0}\ }$${\displaystyle \ \operatorname {\mathbb {E} } {\bigl \{}\ \varphi (X)\ {\big |}\ \theta _{0}\ {\bigr \}}=\alpha \ }$

テスト用のサイズの UMP テストです。${\displaystyle \ \alpha \ }$${\displaystyle \ H_{0}\ :\ \theta \leq \theta _{0}~~}$${\displaystyle ~~H_{1}:\theta >\theta _{0}~.}$

まったく同じテストが、テスト対 UMP でもあることに注意してください。${\displaystyle \ H_{0}\ :\ \theta =\theta _{0}~~}$${\displaystyle ~~H_{1}:\theta >\theta _{0}~.}$

単調尤度関数は、ヨハン・ファンツァグルらが定めた方法を用いて、中央値不偏推定量を構築するのに用いられる。^{[2] [3]そのような手順の1つは、}平均不偏推定量に対するラオ・ブラックウェル手順 の類似物である。この手順は、平均不偏推定に対するラオ・ブラックウェル手順よりも小さいクラスの確率分布に適用されるが、損失関数のクラスは大きい。^{[3] : 713}

分布族が単調尤度比特性を持つ場合、${\displaystyle \ f_{\theta }(x)\ }$${\displaystyle \ T(X)\ ,}$

1. この家族は、 では単調減少のハザード率を示す（ただし、 では必ずしもそうではない）。${\displaystyle \ \theta \ }$${\displaystyle \ T(X)\ }$
2. 族はにおいて一次（したがって二次）の確率的優位性を示し、 の最良のベイズ更新はにおいて増加します。${\displaystyle \ x\ ,}$${\displaystyle \ \theta \ }$${\displaystyle T(X)}$

しかし、その逆は当てはまりません。単調なハザード率も確率的優位性も MLRP を意味するものではありません。

分布族がMLRを満たすとすると、${\displaystyle \ f_{\theta }\ }$${\displaystyle \ x\ ,}$${\displaystyle \ \theta _{1}>\theta _{0}\ }$${\displaystyle \ x_{1}>x_{0}\ :}$

${\displaystyle \ {\frac {f_{\theta _{1}}(x_{1})}{\ f_{\theta _{0}}(x_{1})\ }}\geq {\frac {\ f_{\theta _{1}}(x_{0})\ }{f_{\theta _{0}}(x_{0})}}\ ,}$

または同等:

${\displaystyle \ f_{\theta _{1}}(x_{1})\ f_{\theta _{0}}(x_{0})\geq f_{\theta _{1}}(x_{0})\ f_{\theta _{0}}(x_{1})~.}$

この式を2回積分すると次のようになります。

上記の 2 つの不等式を組み合わせて、第一順位の優位性を得ます。

${\displaystyle F_{\theta _{1}}(x)\leq F_{\theta _{0}}(x)~\forall x\ }$

単調なハザード率を得るには、上記の 2 番目の不等式のみを使用します。

${\displaystyle \ {\frac {f_{\theta _{1}}(x)}{\ 1-F_{\theta _{1}}(x)\ }}\leq {\frac {f_{\theta _{0}}(x)}{\ 1-F_{\theta _{0}}(x)\ }}~\forall x\ }$

MLRはメカニズムデザインと情報の経済学におけるエージェントのタイプ分布に関する重要な条件であり、ポール・ミルグロムは信号の「好ましさ」（確率的優位性の観点から）をMLRの結果として定義しました。^[4] メカニズムデザインモデルのほとんどのソリューションは、適用と解釈が容易なソリューション方法を利用するために、MLRを満たすタイプ分布を前提としています。