ランダム化決定ルール

統計的意思決定理論において、ランダム化意思決定規則または混合意思決定規則は、確率を決定論的意思決定規則に関連付ける意思決定規則です。有限意思決定問題では、ランダム化意思決定規則は、非ランダム化意思決定規則のリスク ポイントの 凸包であるリスク セットを定義します。

ランダム化されたベイズ規則の代わりにランダム化されていない規則が常に存在するため、ベイズ統計ではランダム化は必要ありません。ただし、頻度主義統計理論では、離散確率分布に関する信頼区間や仮説検定を導出する場合など、ミニマックスなどの最適条件を満たすためにランダム化規則の使用が必要になることがあります。

ランダム化決定規則を利用する統計的検定はランダム化検定と呼ばれます。

を、関連する確率 を持つ非ランダム化決定ルールの集合とします。ランダム化決定ルールは と定義され、関連するリスク関数は です。^[1]このルールは、決定ルールがそれぞれ確率で選択されるランダム実験として扱うことができます。^[2]${\displaystyle {\mathcal {D}}=\{d_{1},d_{2}...,d_{h}\}}$${\displaystyle p_{1},p_{2},...,p_{h}}$${\displaystyle d^{*}}$${\displaystyle \sum _{i=1}^{h}p_{i}d_{i}}$ ${\displaystyle R(\theta,d^{*})}$${\displaystyle \sum _{i=1}^{h}p_{i}R(\theta ,d_{i})}$${\displaystyle d_{1},...,d_{h}\in {\mathcal {D}}}$${\displaystyle p_{1},...p_{h}}$

あるいは、ランダム化決定ルールは、サンプル空間の各メンバーに対して、行動空間の要素に直接確率を割り当てることができる。より正式には、行動が選択される確率を表す。このアプローチでは、その損失関数も次のように直接定義される。[ ^3]${\displaystyle {\mathcal {A}}}$${\displaystyle d^{*}(x,A)}$${\displaystyle a\in {\mathcal {A}}}$${\displaystyle \int _{A\in {\mathcal {A}}}d^{*}(x,A)L(\theta ,A)dA}$

ランダム化決定ルールの導入により、統計学者が決定を選択できるより大きな決定空間が作られる。非ランダム化決定ルールは、1つの決定または行動の確率が1であるランダム化決定ルールの特殊なケースであるため、元の決定空間は新しい決定空間の適切なサブセットである。^[4]${\displaystyle {\mathcal {D}}}$${\displaystyle {\mathcal {D}}^{*}}$

非ランダム化決定ルールと同様に、ランダム化決定ルールは、許容性、最小最大性、ベイズなどの好ましい特性を満たす場合があります。これは、有限決定問題、つまりパラメータ空間が、たとえば要素の有限集合である問題の場合で説明されます。リスク集合（以降は と表記）は、各エントリが特定のパラメータの下でのランダム化決定ルールに関連付けられたリスク関数の値であるすべてのベクトルの集合です。つまり、形式 のすべてのベクトルが含まれます。ランダム化決定ルールの定義により、リスク集合はリスク の凸包であることに注意してください。^[5]${\displaystyle k}$${\displaystyle {\mathcal {S}}}$${\displaystyle (R(\theta _{1},d^{*}),...R(\theta _{k},d^{*})),d^{*}\in {\mathcal {D}}^{*}}$${\displaystyle (R(\theta _{1},d),...R(\theta _{k},d)),d\in {\mathcal {D}}}$

パラメータ空間にと の2つの要素しかない場合、これは のサブセットを構成するため、およびのリスクにそれぞれ対応する座標軸およびに関して描くことができます。^[6]右に例を示します。 ${\displaystyle \theta _{1}}$${\displaystyle \theta _{2}}$${\displaystyle \mathbb {R} ^{2}}$${\displaystyle R_{1}}$${\displaystyle R_{2}}$${\displaystyle \theta _{1}}$${\displaystyle \theta _{2}}$

許容される決定ルールとは、他の決定ルールによって支配されない決定ルールである。つまり、すべてのパラメータに対して同等またはそれより低いリスクを持ち、あるパラメータに対してそれより完全に低いリスクを持つ決定ルールは存在しない。有限決定問題では、許容される決定ルールのリスクポイントは、他のすべてのリスクポイントよりも低いx座標またはy座標を持つか、より正式には、という形式のリスクポイントを持つルールの集合である。したがって、リスクセットの下限の左側が許容される決定ルールの集合である。^{[6] [7]}${\displaystyle (a,b)}$${\displaystyle \{(R_{1},R_{2}):R_{1}\leq a,R_{2}\leq b\}\cap {\mathcal {S}}=(a,b)}$

ミニマックスベイズルールは、すべての決定ルールの中で最大リスクを最小化するルールです。この点では、ランダム化決定ルールが他のすべての非ランダム化決定ルールよりも優れたパフォーマンスを発揮する場合があります。^[1]${\displaystyle \sup _{\theta \in \Theta }R(\theta ,d^{*})}$${\displaystyle {\mathcal {D}}^{*}}$

2つの可能なパラメータを持つ有限の決定問題では、正方形の族を考慮することによってミニマックスルールを見つけることができます。^[8]に接するそのような正方形のうち最小の正方形の値がミニマックスリスクであり、リスクセット上の対応する点がミニマックスルールです。 ${\displaystyle Q(c)=\{(R_{1},R_{2}):0\leq R_{1}\leq c,0\leq R_{2}\leq c\}}$${\displaystyle c}$${\displaystyle {\mathcal {S}}}$

リスク集合が直線と交差する場合、直線上にある許容される決定規則はミニマックスである。リスク集合内のすべての点に対してまたはが成り立つ場合、ミニマックス規則は極値点（すなわち、非ランダム化決定規則）または2つの極値点を結ぶ線（非ランダム化決定規則）のいずれかになる。^{[9] [6]}${\displaystyle R_{1}=R_{2}}$${\displaystyle R_{2}>R_{1}}$${\displaystyle R_{1}>R_{2}}$

• 
  ミニマックスルールはランダム化された決定ルールです。${\displaystyle (1-p)d_{1}+pd_{2}}$
• 
  ミニマックスルールは です。${\displaystyle d_{2}}$
• 
  ミニマックス規則はすべて、という形式の規則です。${\displaystyle (1-p)d_{1}+pd_{2}}$${\displaystyle 0\leq p\leq 1}$

ランダム化ベイズ規則は、すべての決定規則の中でベイズリスク が最小となる規則です。パラメータ空間が 2 つの要素を持つ特殊なケースでは、直線（および はそれぞれおよびの事前確率を表します）は、ベイズリスク を持つ点の族です。したがって、決定問題に対する最小ベイズリスクは、直線がリスク集合に接する最小のものです。^{[10] [11]}この直線は、リスク集合の 1 つの端点にのみ接する、つまり非ランダム化決定規則に対応するか、またはリスク集合の 1 つの側全体と重なる、つまり 2 つの非ランダム化決定規則と、その 2 つを組み合わせたランダム化決定規則に対応する場合があります。これは、以下の 3 つの状況で説明されます。 ${\displaystyle r(\pi ,d^{*})}$${\displaystyle \pi _{1}R_{1}+(1-\pi _{1})R_{2}=c}$${\displaystyle \pi _{1}}$${\displaystyle \pi _{2}}$${\displaystyle \theta _{1}}$${\displaystyle \theta _{2}}$${\displaystyle c}$${\displaystyle c}$

• 
  ベイズ規則は、という形式の決定規則の集合です。${\displaystyle (1-p)d_{1}+pd_{2}}$${\displaystyle 0\leq p\leq 1}$
• 
  ベイズの定理は です。${\displaystyle d_{1}}$
• 
  ベイズの定理は です。${\displaystyle d_{2}}$

異なる事前確率は異なる傾きをもたらすため、ある事前確率に関してベイズであるすべてのルールの集合は、許容されるルールの集合と同じである。^[12]

非ランダム化ベイズ規則が存在しないがランダム化ベイズ規則が存在するという状況はあり得ないことに注意する。ランダム化ベイズ規則の存在は、非ランダム化ベイズ規則の存在を意味する。これは、無限のパラメータ空間、無限のベイズリスク、および最小ベイズリスクが達成できるかどうかに関係なく、一般的なケースでも当てはまる。^{[3] [12]}これは、統計学者が統計的決定に到達するためにランダム化を利用する必要がないという直感的な考えを裏付けている。^[4]

ランダム化ベイズ規則には常に非ランダム化の代替案があるため、ベイズ統計では不必要である。しかし、頻度主義統計では、ランダム化規則は理論的には特定の状況下で必要であり、^[13]最初に発明されたときは実践上有用であると考えられていた。エゴン・ピアソンは、ランダム化規則は「強い反対には遭わないだろう」と予測した。^[14]しかし、今日では実際にランダム化規則を実践している統計学者はほとんどいない。^{[14] [15]}

ランダム化検定は順列検定と混同してはならない。^[16]

尤度比検定の通常の定式化では、尤度比が定数 より小さい場合は常に帰無仮説が棄却され、それ以外の場合は受け入れられます。ただし、が離散的である場合、 が可能なときに帰無仮説の下では、これが問題になることがあります。 ${\displaystyle \Lambda }$${\displaystyle K}$${\displaystyle \Lambda }$${\displaystyle \Lambda =K}$

解決策としては、帰無仮説が受け入れられる確率を表す検定関数を定義することである: ^{[17] [18]}${\displaystyle \phi (x)}$

${\displaystyle \phi (x)=\left\{{\begin{array}{l}1&{\text{ if }}\Lambda >K\\p(x)&{\text{ if }}\Lambda =K\\0&{\text{ if }}\Lambda <K\end{array}}\right.}$

これは、いつでも表が出る可能性を持つ偏ったコインを投げ、表が出たら帰無仮説を棄却するものとして解釈できる。^[15]${\displaystyle p(x)}$${\displaystyle \Lambda =k}$

ネイマン・ピアソンの補題の一般化形は、この検定が同じ有意水準におけるすべての検定の中で最大の検出力を持ち、そのような検定はどの有意水準に対しても必ず存在し、通常の状況下では検定は唯一無二であることを述べている。^[19]${\displaystyle \alpha }$${\displaystyle \alpha }$

例として、基礎分布が確率 のベルヌーイ分布であり、対立仮説 に対して帰無仮説を検定する場合を考えます。となるような を選択し、 の場合は帰無仮説を棄却するのが自然です。ここでは検定統計量です。ただし、 となる場合を考慮するために、検定関数を定義します。 ${\displaystyle p}$${\displaystyle p\leq \lambda }$${\displaystyle p>\lambda }$${\displaystyle k}$${\displaystyle P({\hat {p}}>k|H_{0})=\alpha }$${\displaystyle {\hat {p}}>k}$${\displaystyle {\hat {p}}}$${\displaystyle {\hat {p}}=k}$

${\displaystyle \phi (x)=\left\{{\begin{array}{l}1&{\text{ if }}{\hat {p}}>k\\\gamma &{\text{ if }}{\hat {p}}=k\\0&{\text{ if }}{\hat {p}}<k\end{array}}\right.}$

ここで はとなるように選ばれます。 ${\displaystyle \gamma }$${\displaystyle P({\hat {p}}>k|H_{0})+\gamma P({\hat {p}}=k|H_{0})=\alpha }$

信頼区間の構築においても同様の問題が発生します。例えば、クロッパー・ピアソン区間は二項分布の離散的性質のため常に保守的です。別の方法としては、信頼区間の上限と下限を見つけ、次の式を解くことです。^[14]${\displaystyle U}$${\displaystyle L}$

${\displaystyle \left\{{\begin{array}{l}Pr({\hat {p}}<k|p=U)+\gamma P({\hat {p}}=k|p=U)&=\alpha /2\\Pr({\hat {p}}>k|p=L)+\gamma P({\hat {p}}=k|p=L)&=\alpha /2\end{array}}\right.}$

ここで、は(0, 1) 上の 一様ランダム変数です。${\displaystyle \gamma }$

• 混合戦略
• 線形計画法

• Agresti, Alan; Gottard, Anna (2005). 「コメント: ランダム化信頼区間と Mid-P アプローチ」(PDF) .統計科学. 5 (4): 367–371. doi : 10.1214/088342305000000403 .
• Bickel, Peter J.; Doksum, Kjell A. (2001).数理統計学: 基本的な考え方と選択されたトピック(第 2 版). Upper Saddle River, NJ: Prentice-Hall. ISBN 978-0138503635。
• DeGroot, Morris H. (2004).最適な統計的決定. ホーボーケン、ニュージャージー州: Wiley-Interscience. ISBN 978-0471680291。
• パルミジャーニ、ジョヴァンニ、イノウエ、ルルデス YT (2009)。意思決定理論：原則とアプローチ。チチェスター、ウェストサセックス：ジョン ワイリー アンド サンズ。ISBN 9780470746684。
• ロバート、クリスチャン P (2007)。ベイズ選択：意思決定理論的基礎から計算実装まで。ニューヨーク：シュプリンガー。ISBN 9780387715988。
• Young, GA; Smith, RL (2005).統計的推論の基礎. ケンブリッジ: ケンブリッジ大学出版局. ISBN 9780521548663。