マルコフの不等式

確率論において、マルコフの不等式は、非負のランダム変数が何らかの正の定数以上である確率の上限を与える。マルコフの不等式は、選択された正の定数ごとに、不等式が実際には等式となるようなランダム変数が存在するという意味で厳密である。^[1]

この不等式はロシアの数学者アンドレイ・マルコフにちなんで名付けられているが、それ以前にはパフヌティ・チェビシェフ（マルコフの師）の研究に登場しており、特に解析学の分野では、チェビシェフの不等式（時にはこれを第一チェビシェフの不等式と呼び、チェビシェフの不等式を第二チェビシェフの不等式と呼ぶこともある）またはビエナイメの不等式と呼ばれている。

マルコフの不等式（および他の同様の不等式）は、確率と期待値を関連付け、ランダム変数の累積分布関数の（多くの場合は緩いがそれでも有用な）境界を提供します。マルコフの不等式は、分布関数の観点から非負のランダム変数の期待値の上限を設定するためにも使用できます。

Xが非負の確率変数でa  > 0の場合、 Xが少なくともaである確率は、最大でもXの期待値をaで割った値になります。^[1]

${\displaystyle \operatorname {P} (X\geq a)\leq {\frac {\operatorname {E} (X)}{a}}.}$

のとき、をとって前の不等式を次のように書き直す ことができる。${\displaystyle \operatorname {E} (X)>0}$${\displaystyle a={\tilde {a}}\cdot \operatorname {E} (X)}$${\displaystyle {\tilde {a}}>0}$

${\displaystyle \operatorname {P} (X\geq {\tilde {a}}\cdot \operatorname {E} (X))\leq {\frac {1}{\tilde {a}}}.}$

測度論の言語では、マルコフの不等式は、( X , Σ,  μ )が測度空間であり、が測定可能な拡張実数値関数であり、ε > 0である場合、 ${\displaystyle f}$

${\displaystyle \mu (\{x\in X:|f(x)|\geq \varepsilon \})\leq {\frac {1}{\varepsilon }}\int _{X}|f|\, d\mu 。}$

この測度論的な定義はチェビシェフの不等式と呼ばれることもある。^[2]

φが非減少非負関数、Xが（必ずしも非負ではない）確率変数、φ ( a )>0のとき、^[3]

${\displaystyle \operatorname {P} (X\geq a)\leq {\frac {\operatorname {E} (\varphi (X))}{\varphi (a)}}.}$

0より大きい値でサポートされる Xの高次モーメントを使用した直接的な帰結は、

${\displaystyle \operatorname {P} (|X|\geq a)\leq {\frac {\operatorname {E} (|X|^{n})}{a^{n}}}.}$

Xが非負の確率変数でa  > 0であり、 U がXに依存しない 一様分布の確率変数である場合、^[4]${\displaystyle [0,1]}$

${\displaystyle \operatorname {P} (X\geq Ua)\leq {\frac {\operatorname {E} (X)}{a}}.}$

Uはほぼ確実に 1 より小さいので、この境界はマルコフの不等式よりも厳密に強力です。注目すべきことに、U は1 より小さい定数に置き換えることはできません。つまり、マルコフの不等式の決定論的改善は一般には存在し得ません。マルコフの不等式は でサポートされている分布に対して等式で成り立ちますが、上記のランダム化された変形は で制限されている任意の分布に対して等式で成り立ちます。 ${\displaystyle \{0,a\}}$${\displaystyle [0,a]}$

一般の読者にとって確率の場合の方が理解しやすいため、測度空間が確率空間である場合と、より一般的な場合を分けます。

${\displaystyle \オペレータ名 {E} (X)=\オペレータ名 {P} (X<a)\cdot \オペレータ名 {E} (X|X<a)+\オペレータ名 {P} (X\geq a)\cdot \オペレータ名 {E} (X|X\geq a)}$ここで、ランダム変数は非負であるため 0 以上であり、条件付き期待値はrv が取り得る 値以上の値のみを考慮するため0 以上です。${\displaystyle \operatorname {E} (X|X<a)}$${\displaystyle X}$${\displaystyle \operatorname {E} (X|X\geq a)}$${\displaystyle a}$${\displaystyle a}$${\displaystyle X}$

プロパティ 1: ${\displaystyle \operatorname {P} (X<a)\cdot \operatorname {E} (X\mid X<a)\geq 0}$

非負のランダム変数 が与えられた場合、 であるため条件付き期待値はです。また、確率は常に非負、つまり です。したがって、積は次のようになります。 ${\displaystyle X}$${\displaystyle \operatorname {E} (X\mid X<a)\geq 0}$${\displaystyle X\geq 0}$${\displaystyle \operatorname {P} (X<a)\geq 0}$

${\displaystyle \operatorname {P} (X<a)\cdot \operatorname {E} (X\mid X<a)\geq 0}$。

これは直感的です。 を条件付けると、結果は非負の値になり、積が非負のままになることが保証されるからです。 ${\displaystyle X<a}$

プロパティ2: ${\displaystyle \operatorname {P} (X\geq a)\cdot \operatorname {E} (X\mid X\geq a)\geq a\cdot \operatorname {P} (X\geq a)}$

の場合、期待値は少なくとも です。両辺に を掛けると、次のようになります。 ${\displaystyle X\geq a}$${\displaystyle X\geq a}$${\displaystyle a.\operatorname {E} (X\mid X\geq a)\geq a}$${\displaystyle \operatorname {P} (X\geq a)}$

${\displaystyle \operatorname {P} (X\geq a)\cdot \operatorname {E} (X\mid X\geq a)\geq a\cdot \operatorname {P} (X\geq a)}$。

これは直感的にわかります。なぜなら、考慮されるすべての値は少なくとも であり、その平均も より大きいか に等しいからです。 ${\displaystyle a}$${\displaystyle a}$

したがって直感的には、となり、直接 につながります。 ${\displaystyle \operatorname {E} (X)\geq \operatorname {P} (X\geq a)\cdot \operatorname {E} (X|X\geq a)\geq a\cdot \operatorname {P} (X\geq a)}$${\displaystyle \operatorname {P} (X\geq a)\leq {\frac {\operatorname {E} (X)}{a}}}$

方法1: 期待値の定義から:

${\displaystyle \operatorname {E} (X)=\int _{-\infty }^{\infty }xf(x)\,dx}$

しかし、Xは非負の確率変数なので、

${\displaystyle \operatorname {E} (X)=\int _{-\infty }^{\infty }xf(x)\,dx=\int _{0}^{\infty }xf(x)\,dx}$

このことから、

${\displaystyle \operatorname {E} (X)=\int _{0}^{a}xf(x)\,dx+\int _{a}^{\infty }xf(x)\,dx\geq \int _{a}^{\infty }xf(x)\,dx\geq \int _{a}^{\infty }af(x)\,dx=a\int _{a}^{\infty }f(x)\,dx=a\operatorname {Pr} (X\geq a)}$

ここから、をで割ると、 ${\displaystyle a}$

${\displaystyle \Pr(X\geq a)\leq \operatorname {E} (X)/a}$

方法 2: 任意のイベント について、を の指示確率変数 とします。 つまり、が発生する場合は、それ以外の場合は となります。${\displaystyle E}$${\displaystyle I_{E}}$${\displaystyle E}$${\displaystyle I_{E}=1}$${\displaystyle E}$${\displaystyle I_{E}=0}$

この表記法を用いると、イベントが発生した場合、およびの場合となります。そして、が与えられた場合、 ${\displaystyle I_{(X\geq a)}=1}$${\displaystyle X\geq a}$${\displaystyle I_{(X\geq a)}=0}$${\displaystyle X<a}$${\displaystyle a>0}$

${\displaystyle aI_{(X\geq a)}\leq X}$

これは、 の 2 つの可能な値を考えると明らかです。 の場合、 となり、したがって となります。それ以外の場合は となり、 となり、したがって となります。 ${\displaystyle X\geq a}$${\displaystyle X<a}$${\displaystyle I_{(X\geq a)}=0}$${\displaystyle aI_{(X\geq a)}=0\leq X}$${\displaystyle X\geq a}$${\displaystyle I_{X\geq a}=1}$${\displaystyle aI_{X\geq a}=a\leq X}$

は単調増加関数なので、不等式の両辺の期待値を取ってもそれを逆転させることはできない。したがって、 ${\displaystyle \operatorname {E} }$

${\displaystyle \operatorname {E} (aI_{(X\geq a)})\leq \operatorname {E} (X).}$

さて、期待値の線形性を用いると、この不等式の左辺は次のようになる。

${\displaystyle a\operatorname {E} (I_{(X\geq a)})=a(1\cdot \operatorname {P} (X\geq a)+0\cdot \operatorname {P} (X<a))=a\operatorname {P} (X\geq a).}$

つまり、

${\displaystyle a\operatorname {P} (X\geq a)\leq \operatorname {E} (X)}$

そして、 a > 0なので 、両辺を aで割ることができます。

関数は絶対値のみを式に代入するので、非負関数であると仮定できる。ここで、X上の実数値関数sを次のように 考える。${\displaystyle f}$

${\displaystyle s(x)={\begin{cases}\varepsilon ,&{\text{if }}f(x)\geq \varepsilon \\0,&{\text{if }}f(x)<\varepsilon \end{cases}}}$

すると、ルベーグ積分の定義により${\displaystyle 0\leq s(x)\leq f(x)}$

${\displaystyle \int _{X}f(x)\,d\mu \geq \int _{X}s(x)\,d\mu =\varepsilon \mu (\{x\in X:\,f(x)\geq \varepsilon \})}$

そして なので、両辺は で割ることができ、 ${\displaystyle \varepsilon >0}$${\displaystyle \varepsilon }$

${\displaystyle \mu (\{x\in X:\,f(x)\geq \varepsilon \})\leq {1 \over \varepsilon }\int _{X}f\,d\mu .}$

ここで、が非負の整数値のみをとる離散確率変数である 場合の特殊なケースの証明を示します。${\displaystyle X}$

を正の整数とする。定義により${\displaystyle a}$${\displaystyle a\operatorname {Pr} (X>a)}$ ${\displaystyle =a\operatorname {Pr} (X=a+1)+a\operatorname {Pr} (X=a+2)+a\operatorname {Pr} (X=a+3)+...}$ ${\displaystyle \leq a\operatorname {Pr} (X=a)+(a+1)\operatorname {Pr} (X=a+1)+(a+2)\operatorname {Pr} (X=a+2)+...}$ ${\displaystyle \leq \operatorname {Pr} (X=1)+2\operatorname {Pr} (X=2)+3\operatorname {Pr} (X=3)+...}$ ${\displaystyle +a\operatorname {Pr} (X=a)+(a+1)\operatorname {Pr} (X=a+1)+(a+2)\operatorname {Pr} (X=a+2)+...}$ ${\displaystyle =\operatorname {E} (X)}$

で割ると目的の結果が得られます。 ${\displaystyle a}$

チェビシェフの不等式は、分散を用いてランダム変数が平均から大きく逸脱する確率を制限します。具体的には、

${\displaystyle \operatorname {P} (|X-\operatorname {E} (X)|\geq a)\leq {\frac {\operatorname {Var} (X)}{a^{2}}},}$

任意のa > 0に対して。^[3]ここでVar( X )はXの分散であり、次のように定義されます。

${\displaystyle \operatorname {Var} (X)=\operatorname {E} [(X-\operatorname {E} (X))^{2}].}$

チェビシェフの不等式は、マルコフの不等式からランダム変数を考慮することによって導かれる。

${\displaystyle (X-\operatorname {E} (X))^{2}}$

そしてマルコフの不等式が示す 定数は${\displaystyle a^{2},}$

${\displaystyle \operatorname {P} ((X-\operatorname {E} (X))^{2}\geq a^{2})\leq {\frac {\operatorname {Var} (X)}{a^{2}}}.}$

この議論は次のように要約できます (「MI」はマルコフの不等式の使用を示します)。

${\displaystyle \operatorname {P} (|X-\operatorname {E} (X)|\geq a)=\operatorname {P} \left((X-\operatorname {E} (X))^{2}\geq a^{2}\right)\,{\overset {\underset {\mathrm {MI} }{}}{\leq }}\,{\frac {\operatorname {E} \left((X-\operatorname {E} (X))^{2}\right)}{a^{2}}}={\frac {\operatorname {Var} (X)}{a^{2}}}.}$

1. 「単調」な結果は次のように示されます。

   ${\displaystyle \operatorname {P} (|X|\geq a)=\operatorname {P} {\big (}\varphi (|X|)\geq \varphi (a){\big )}\,{\overset {\underset {\mathrm {MI} }{}}{\leq }}\,{\frac {\operatorname {E} (\varphi (|X|))}{\varphi (a)}}}$

2. 結果として、非負のランダム変数Xに対して、Xの分位関数は次の式を満たします。

   ${\displaystyle Q_{X}(1-p)\leq {\frac {\operatorname {E} (X)}{p}},}$

   証明

   ${\displaystyle p\leq \operatorname {P} (X\geq Q_{X}(1-p))\,{\overset {\underset {\mathrm {MI} }{}}{\leq }}\,{\frac {\operatorname {E} (X)}{Q_{X}(1-p)}}.}$

3. を自己随伴行列値確率変数とし、を とする。すると ${\displaystyle M\succeq 0}$${\displaystyle A\succ 0}$

   ${\displaystyle \operatorname {P} (M\npreceq A)\leq \operatorname {tr} (\operatorname {E} (X)A^{-1})}$

   これも同様に証明できる。^[5]

所得がマイナスにならないと仮定すると、マルコフの不等式によれば、平均所得の10倍以上を持つ人は人口の10%（1/10）以下であることがわかる。^[6]

もう 1 つの簡単な例は次のとおりです。アンドリューは統計コースのテストで平均 4 つの間違いを犯します。アンドリューが少なくとも 10 個の間違いを犯す確率の最良の上限は 0.4 です。アンドリューは確率 0.4 で正確に 10 個の間違いを犯し、確率 0.6 で間違いを犯さない可能性があることに注意してください。期待値は正確に 4 個の間違いです。 ${\displaystyle \operatorname {P} (X\geq 10)\leq {\frac {\operatorname {E} (X)}{\alpha }}={\frac {4}{10}}.}$

• ペイリー・ジグムント不等式– 対応する下限値
• 集中度の不等式- ランダム変数の裾の境界の概要。

• ミザールシステムにおけるマルコフの不等式の正式な証明。