マルコフの不等式

φが非減少非負関数であり、Xが(必ずしも非負ではない) 確率変数であり、φ ( a ) > 0 である場合、^{[ 3 ]}

${\displaystyle \operatorname {P} (X\geq a)\leq {\frac {\operatorname {E} (\varphi (X))}{\varphi (a)}}.}$

0より大きい値でサポートされるXの高次モーメントを使用すると、次の直接的な帰結が得られます。

${\displaystyle \operatorname {P} (|X|\geq a)\leq {\frac {\operatorname {E} (|X|^{n})}{a^{n}}}.}$

それぞれの測度論的バージョンは以下の通りである。

${\displaystyle \mu (\{x\in X:|f(x)|\geq \varepsilon \})\leq {\frac {1}{\varphi (\varepsilon )}}\int _{X}\varphi (|f|).}$

そして

${\displaystyle \mu (\{x\in X:|f(x)|\geq \varepsilon \})\leq {\frac {1}{\varepsilon ^{p}}}\int _{X}|f|^{p}={\frac {1}{\varepsilon ^{p}}}\|f\|_{L^{p}}^{p}.}$

どこ${\displaystyle \|\cdot \|_{L^{p}}}$Lpノルムを表す。

Xが非負の確率変数でa  >  0であり、 U が一様分布する確率変数である場合${\displaystyle [0,1]}$それは Xに依存しない、ならば^{[ 4 ]}

${\displaystyle \operatorname {P} (X\geq Ua)\leq {\frac {\operatorname {E} (X)}{a}}.}$

Uはほぼ確実に1より小さいので、この境界はマルコフの不等式よりも厳密に強い。驚くべきことに、Uは1より小さい定数で置き換えることはできないため、マルコフの不等式に対する決定論的な改善は一般には存在しない。マルコフの不等式は、以下の分布に対して等号が成り立つ。${\displaystyle \{0,a\}}$上記のランダム化バリアントは、境界が一定の任意の分布に対して等号で成り立つ。${\displaystyle [0,a]}$。

${\displaystyle \operatorname {E} (X)=\operatorname {P} (X<a)\cdot \operatorname {E} (X|X<a)+\operatorname {P} (X\geq a)\cdot \operatorname {E} (X|X\geq a)}$どこ${\displaystyle \operatorname {E} (X|X<a)}$確率変数として0以上である${\displaystyle X}$は非負であり、${\displaystyle \operatorname {E} (X|X\geq a)}$以上${\displaystyle a}$条件付き期待値は、以上の値のみを考慮するため${\displaystyle a}$どのRV${\displaystyle X}$受け取れる。

物件1：${\displaystyle \operatorname {P} (X<a)\cdot \operatorname {E} (X\mid X<a)\geq 0}$

非負の確率変数が与えられた場合${\displaystyle X}$条件付き期待値${\displaystyle \operatorname {E} (X\mid X<a)\geq 0}$なぜなら${\displaystyle X\geq 0}$また、確率は常に非負です。つまり、${\displaystyle \operatorname {P} (X<a)\geq 0}$したがって、製品は次のようになります。

${\displaystyle \operatorname {P} (X<a)\cdot \operatorname {E} (X\mid X<a)\geq 0}$。

これは直感的である。${\displaystyle X<a}$結果は依然として非負の値となり、積が非負のままであることを保証します。

物件2：${\displaystyle \operatorname {P} (X\geq a)\cdot \operatorname {E} (X\mid X\geq a)\geq a\cdot \operatorname {P} (X\geq a)}$

のために${\displaystyle X\geq a}$期待値は${\displaystyle X\geq a}$少なくとも${\displaystyle a.\operatorname {E} (X\mid X\geq a)\geq a}$両辺に${\displaystyle \operatorname {P} (X\geq a)}$すると、次のようになります。

${\displaystyle \operatorname {P} (X\geq a)\cdot \operatorname {E} (X\mid X\geq a)\geq a\cdot \operatorname {P} (X\geq a)}$。

これは、考慮されるすべての値が少なくとも${\displaystyle a}$平均も以上になる${\displaystyle a}$。

したがって直感的に、${\displaystyle \operatorname {E} (X)\geq \operatorname {P} (X\geq a)\cdot \operatorname {E} (X|X\geq a)\geq a\cdot \operatorname {P} (X\geq a)}$これは直接的に${\displaystyle \operatorname {P} (X\geq a)\leq {\frac {\operatorname {E} (X)}{a}}}$。

方法1： 期待値の定義から：

${\displaystyle \operatorname {E} (X)=\int _{-\infty }^{\infty }xf(x)\,dx}$

しかし、Xは非負の確率変数であるため、

${\displaystyle \operatorname {E} (X)=\int _{-\infty }^{\infty }xf(x)\,dx=\int _{0}^{\infty }xf(x)\,dx}$

これから、

${\displaystyle \operatorname {E} (X)=\int _{0}^{a}xf(x)\,dx+\int _{a}^{\infty }xf(x)\,dx\geq \int _{a}^{\infty }xf(x)\,dx\geq \int _{a}^{\infty }af(x)\,dx=a\int _{a}^{\infty }f(x)\,dx=a\operatorname {Pr} (X\geq a)}$

ここから、${\displaystyle a}$それによって私たちは

${\displaystyle \Pr(X\geq a)\leq \operatorname {E} (X)/a}$

方法2： あらゆるイベントに対応${\displaystyle E}$、 させて${\displaystyle I_{E}}$指標確率変数${\displaystyle E}$つまり、${\displaystyle I_{E}=1}$もし${\displaystyle E}$発生し、${\displaystyle I_{E}=0}$さもないと。

この表記法を用いると、次のようになります。${\displaystyle I_{(X\geq a)}=1}$イベント${\displaystyle X\geq a}$発生し、${\displaystyle I_{(X\geq a)}=0}$もし${\displaystyle X<a}$すると、${\displaystyle a>0}$、

${\displaystyle aI_{(X\geq a)}\leq X}$

これは、2 つの可能な値を考慮すると明らかです。${\displaystyle X\geq a}$。 もし${\displaystyle X<a}$、 それから${\displaystyle I_{(X\geq a)}=0}$、 など${\displaystyle aI_{(X\geq a)}=0\leq X}$そうでなければ、${\displaystyle X\geq a}$そのために${\displaystyle I_{X\geq a}=1}$など${\displaystyle aI_{X\geq a}=a\leq X}$。

以来${\displaystyle \operatorname {E} }$は単調増加関数であり、不等式の両辺の期待値を取ってもそれを反転させることはできません。したがって、

${\displaystyle \operatorname {E} (aI_{(X\geq a)})\leq \operatorname {E} (X).}$

さて、期待値の線形性を用いると、この不等式の左辺は以下と同じになります。

${\displaystyle a\operatorname {E} (I_{(X\geq a)})=a(1\cdot \operatorname {P} (X\geq a)+0\cdot \operatorname {P} (X<a))=a\operatorname {P} (X\geq a).}$

したがって、

${\displaystyle a\operatorname {P} (X\geq a)\leq \operatorname {E} (X)}$

また、 a  > 0なので 、両辺をaで割ることができます。 

関数は${\displaystyle f}$は非負である。なぜなら、方程式にはその絶対値のみが現れるからである。次に、X上の実数値関数s を次のように考える。

${\displaystyle s(x)={\begin{cases}\varepsilon ,&{\text{if }}f(x)\geq \varepsilon \\0,&{\text{if }}f(x)<\varepsilon \end{cases}}}$

それから${\displaystyle 0\leq s(x)\leq f(x)}$ルベーグ積分の定義により

${\displaystyle \int _{X}f(x)\,d\mu \geq \int _{X}s(x)\,d\mu =\varepsilon \mu (\{x\in X:\,f(x)\geq \varepsilon \})}$

そしてそれ以来${\displaystyle \varepsilon >0}$両辺は${\displaystyle \varepsilon }$取得

${\displaystyle \mu (\{x\in X:\,f(x)\geq \varepsilon \})\leq {1 \over \varepsilon }\int _{X}f\,d\mu .}$

拡張版も同様の方法で証明できる。

${\displaystyle \varphi (\varepsilon )\cdot \mu (\{x\in X:|f(x)|\geq \varepsilon \})=\int _{\{x\in X:|f(x)|\geq \varepsilon \}}\varphi (\varepsilon )\,d\mu \leq \int _{\{x\in X:|f(x)|\geq \varepsilon \}}\varphi (|f|)\,d\mu \leq \int _{X}\varphi (|f|)\,d\mu .}$

潜り抜けて${\displaystyle \varphi (\varepsilon )}$結果は次のようになります。

${\displaystyle \mu (\{x\in X:\,|f(x)|\geq \varepsilon \})\leq {1 \over \varphi (\varepsilon )}\int _{X}\varphi (|f|)\,d\mu .}$

ここでは、次の特殊なケースの証明を示します。${\displaystyle X}$は、非負の整数値のみをとる離散確率変数です。

させて${\displaystyle a}$正の整数であること。定義により。${\displaystyle a\operatorname {Pr} (X>a)}$${\displaystyle =a\operatorname {Pr} (X=a+1)+a\operatorname {Pr} (X=a+2)+a\operatorname {Pr} (X=a+3)+...}$${\displaystyle \leq a\operatorname {Pr} (X=a)+(a+1)\operatorname {Pr} (X=a+1)+(a+2)\operatorname {Pr} (X=a+2)+...}$${\displaystyle \leq \operatorname {Pr} (X=1)+2\operatorname {Pr} (X=2)+3\operatorname {Pr} (X=3)+...}$${\displaystyle +a\operatorname {Pr} (X=a)+(a+1)\operatorname {Pr} (X=a+1)+(a+2)\operatorname {Pr} (X=a+2)+...}$${\displaystyle =\operatorname {E} (X)}$

で割る${\displaystyle a}$望ましい結果が得られる。

チェビシェフの不等式は、分散を用いて確率変数が平均から大きく乖離する確率を制限します。具体的には、

${\displaystyle \operatorname {P} (|X-\operatorname {E} (X)|\geq a)\leq {\frac {\operatorname {Var} (X)}{a^{2}}},}$

任意のa > 0に対して。^{[ 3 ]}ここでVar( X )はX の分散であり、次のように定義されます。

${\displaystyle \operatorname {Var} (X)=\operatorname {E} [(X-\operatorname {E} (X))^{2}].}$

チェビシェフの不等式は、確率変数を考慮することによりマルコフの不等式から導かれる。

${\displaystyle (X-\operatorname {E} (X))^{2}}$

そして一定の${\displaystyle a^{2},}$マルコフの不等式は次のようになる。

${\displaystyle \operatorname {P} ((X-\operatorname {E} (X))^{2}\geq a^{2})\leq {\frac {\operatorname {Var} (X)}{a^{2}}}.}$

この議論は以下のように要約できます（「MI」はマルコフの不等式の使用を示します）。

${\displaystyle \operatorname {P} (|X-\operatorname {E} (X)|\geq a)=\operatorname {P} \left((X-\operatorname {E} (X))^{2}\geq a^{2}\right)\,{\overset {\underset {\mathrm {MI} }{}}{\leq }}\,{\frac {\operatorname {E} \left((X-\operatorname {E} (X))^{2}\right)}{a^{2}}}={\frac {\operatorname {Var} (X)}{a^{2}}}.}$

1. 「単調性」の結果は、以下のように証明できます。

   ${\displaystyle \operatorname {P} (|X|\geq a)=\operatorname {P} {\big (}\varphi (|X|)\geq \varphi (a){\big )}\,{\overset {\underset {\mathrm {MI} }{}}{\leq }}\,{\frac {\operatorname {E} (\varphi (|X|))}{\varphi (a)}}}$

2. 非負の確率変数Xに対して、Xの分位関数が次の式を満たすという結果が得られた。

   ${\displaystyle Q_{X}(1-p)\leq {\frac {\operatorname {E} (X)}{p}},}$

   証明に使用した

   ${\displaystyle p\leq \operatorname {P} (X\geq Q_{X}(1-p))\,{\overset {\underset {\mathrm {MI} }{}}{\leq }}\,{\frac {\operatorname {E} (X)}{Q_{X}(1-p)}}.}$

3. させて${\displaystyle M\succeq 0}$自己共役行列値確率変数であり、${\displaystyle A\succ 0}$。 それから

   ${\displaystyle \operatorname {P} (M\npreceq A)\leq \operatorname {Tr} (\operatorname {E} (M)A^{-1})}$

   同様の方法で証明できる。^{[ 5 ]}