チェビシェフの不等式

させて${\displaystyle X}$（積分可能）有限の非ゼロ分散を持つ確率変数である$\displaystyle \sigma ^{2}}$（したがって期待値は有限である）${\displaystyle \mu }$^{[ 9 ]}すると、任意の実数に対して${\displaystyle k>0}$、

${\displaystyle \Pr(|X-\mu |\geq k\sigma )\leq {\frac {1}{k^{2}}}.}$

ケースのみ${\displaystyle k>1}$便利です。${\displaystyle k\leq 1}$右側$1/k² ≥ 1$また、すべての確率は最大でも1であるため、不等式は自明である。

例として、${\displaystyle k={\sqrt {2}}}$確率値が区間外にあることを示している${\displaystyle (\mu -{\sqrt {2}}\sigma ,\mu +{\sqrt {2}}\sigma )}$超えない${\displaystyle 1/2}$言い換えれば、値が区間内に含まれる確率（つまり「カバレッジ」）は少なくとも${\displaystyle 1/2}$。

一般的には、${\displaystyle a>0}$、

${\displaystyle \Pr(|X-\mu |\geq a)\leq {\frac {\sigma ^{2}}{a^{2}}}.}$

この不等式は、有限の平均と分散が既知であれば、完全に任意の分布に適用できるため、一般的に、関連する分布についてより多くの側面がわかっている場合に導き出せるであろう値と比較して、不十分な上限値を与える。

させて${\displaystyle (X,\,\Sigma ,\,\mu )}$を測度空間とし、${\displaystyle f}$上で定義された拡張実数値可測関数である。${\displaystyle X}$すると、任意の実数に対して${\displaystyle t>0}$そして${\displaystyle 0<p<\infty }$、

${\displaystyle \mu (\{x\in X\,:\,\,|f(x)|\geq t\})\leq {1 \over t^{p}}\int _{X}|f|^{p}\,d\mu .}$

より一般的に言えば、${\displaystyle g}$は、非負かつ非減少の拡張実数値可測関数であり、${\displaystyle g(t)\neq 0}$それから：

${\displaystyle \mu (\{x\in X\,:\,\,f(x)\geq t\})\leq {1 \over g(t)}\int _{X}g\circ f\,d\mu .}$

この記述はマルコフの不等式から導かれる。${\displaystyle \mu (\{x\in X:|F(x)|\geq \varepsilon \})\leq {\frac {1}{\varepsilon }}\int _{X}|F|d\mu }$、 と${\displaystyle F=g\circ f}$そして${\displaystyle \varepsilon =g(t)}$この場合${\displaystyle \mu (\{x\in X\,:\,\,g\circ f(x)\geq g(t)\})\geq \mu (\{x\in X\,:\,\,f(x)\geq t\})}$前述の記述は、定義によって続く。${\displaystyle g(x)}$として${\displaystyle |x|^{p}}$もし${\displaystyle x\geq t}$そして${\displaystyle 0}$さもないと。

セルバーグは任意の区間への一般化を導き出した。^{[ 11 ]}${\displaystyle X}$は平均を持つ確率変数です${\displaystyle \mu }$および分散${\displaystyle \sigma ^{2}}$セルバーグの不等式は^{[ 12 ]}、もし${\displaystyle \beta \geq \alpha \geq 0}$、

${\displaystyle \Pr(X\in [\mu -\alpha ,\mu +\beta ])\geq {\begin{cases}{\frac {\alpha ^{2}}{\alpha ^{2}+\sigma ^{2}}}&{\text{if }}\alpha (\beta -\alpha )\geq 2\sigma ^{2}\\{\frac {4\alpha \beta -4\sigma ^{2}}{(\alpha +\beta )^{2}}}&{\text{if }}2\alpha \beta \geq 2\sigma ^{2}\geq \alpha (\beta -\alpha )\\0&\sigma ^{2}\geq \alpha \beta \end{cases}}}$

いつ${\displaystyle \alpha =\beta }$これはチェビシェフの不等式に帰着する。これらは可能な限り最良の境界であることが知られている。^{[ 13 ]}

チェビシェフの不等式は、多変数設定にも自然に拡張され、${\displaystyle n}$確率変数${\displaystyle X_{i}}$平均${\displaystyle \mu _{i}}$および分散${\displaystyle \sigma _{i}^{2}}$すると、次の不等式が成り立つ。

${\displaystyle \Pr \left(\sum _{i=1}^{n}(X_{i}-\mu _{i})^{2}\geq k^{2}\sum _{i=1}^{n}\sigma _{i}^{2}\right)\leq {\frac {1}{k^{2}}}}$

これは、2次元の場合にそれを証明した著者にちなんでバーンバウム・レイモンド・ザッカーマン不等式として知られています。^{[ 14 ]}この結果はベクトルを用いて書き直すことができます。${\displaystyle X=(X_{1},X_{2},\ldots )}$平均${\displaystyle \mu =(\mu _{1},\mu _{2},\ldots )}$標準偏差${\displaystyle \sigma =(\sigma _{1},\sigma _{2},\ldots )}$ユークリッドノルムにおいて${\displaystyle ||\cdot ||}$[ ^{15 ]​}

${\displaystyle \Pr(\|X-\mu \|\geq k\|\sigma \|)\leq {\frac {1}{k^{2}}}.}$

同様の無限次元チェビシェフの不等式も得られる。関連する2つ目の不等式もChenによって導出されている。^{[ 16 ]}${\displaystyle n}$確率ベクトルの次元とする${\displaystyle X}$そして${\displaystyle \operatorname {E} (X)}$平均となる${\displaystyle X}$。 させて${\displaystyle S}$共分散行列を とし、${\displaystyle k>0}$。 それから

${\displaystyle \Pr \left((X-\operatorname {E} (X))^{T}S^{-1}(X-\operatorname {E} (X))<k\right)\geq 1-{\frac {n}{k}}}$

どこ${\displaystyle Y^{T}}$は の転置です${\displaystyle Y}$不等式はマハラノビス距離を用いて次のように表すことができる。

${\displaystyle \Pr \left(d_{S}^{2}(X,\operatorname {E} (X))<k\right)\geq 1-{\frac {n}{k}}}$

マハラノビス距離は${\displaystyle S}$定義される

${\displaystyle d_{S}(x,y)={\sqrt {(x-y)^{T}S^{-1}(x-y)}}}$

ナバロ^{[ 17 ]}は、これらの境界がシャープであることを証明した。つまり、平均と共分散行列がわかっている場合、これらの境界はその領域に対して可能な限り最良の境界である。${\displaystyle X}$。

Stellato ら^{[ 18 ]}は、この多変数チェビシェフ不等式が、半正定値計画 (SDP)を解くことによって境界が計算されるVandenberghe ら^{[ 19 ]}の特殊なケースとして解析的に容易に導出できることを示した。

ミッツェンマッハーとアップファル^{[ 26 ]}は、マルコフの不等式を非負変数に適用すると、${\displaystyle |X-\operatorname {E} (X)|^{n}}$テールバウンドのファミリーを取得できます

${\displaystyle \Pr \left(|X-\operatorname {E} (X)|\geq k\operatorname {E} (|X-\operatorname {E} (X)|^{n})^{\frac {1}{n}}\right)\leq {\frac {1}{k^{n}}},\qquad k>0,\ n\geq 2.}$

のために${\displaystyle n=2}$チェビシェフの不等式が得られる。${\displaystyle k\geq 1,\ n>4}$そして、${\displaystyle n}$^{モーメント}が存在する場合、この境界はチェビシェフの不等式よりも厳密です。この手法はモーメント法と呼ばれ、しばしば末尾境界の証明に用いられます。

関連する不等式で、指数チェビシェフの不等式^{[ 27 ]}として知られるものもある。

${\displaystyle \Pr(X\geq \varepsilon )\leq e^{-t\varepsilon }\operatorname {E} \left(e^{tX}\right),\qquad t>0.}$

させて${\displaystyle K(t)}$キュムラント生成関数とする。

${\displaystyle K(t)=\log \left(\operatorname {E} \left(e^{tx}\right)\right).}$

ルジャンドル・フェンシェル変換を用いると、${\displaystyle K(t)}$そして指数チェビシェフの不等式を用いると、

${\displaystyle -\log(\Pr(X\geq \varepsilon ))\geq \sup _{t}(t\varepsilon -K(t)).}$

この不等式は、非有界変数に対する指数不等式を得るために使用できる。^{[ 28 ]}

もし${\displaystyle \Pr(x)}$区間に基づいて有限のサポートを持つ${\displaystyle [a,b]}$、 させて${\displaystyle M=\max(|a|,|b|)}$、 どこ${\displaystyle |x|}$は絶対値です${\displaystyle x}$平均が${\displaystyle \Pr(x)}$はゼロなので、すべての${\displaystyle k>0}$^{[ 29 ]}

${\displaystyle {\frac {\operatorname {E} (|X|^{r})-k^{r}}{M^{r}}}\leq \Pr(|X|\geq k)\leq {\frac {\operatorname {E} (|X|^{r})}{k^{r}}}.}$

これらの不等式の2番目は${\displaystyle r=2}$はチェビシェフ限界です。最初の式は、の値の下限を示します。${\displaystyle \Pr(x)}$。

Sawらは、母平均と分散が不明で存在しない場合もあるが、標本平均と標本標準偏差が母平均と分散から推定できる場合にチェビシェフの不等式を拡張した。${\displaystyle N}$サンプルは、同じ分布からの新たな抽出の期待値を制限するために用いられる。^{[ 30 ]}この不等式のより単純なバージョンは、Kabán によって与えられている。^{[ 31 ]}

${\displaystyle \Pr(|X-m|\geq ks)\leq {\frac {1}{N+1}}\left\lfloor {\frac {N+1}{N}}\left({\frac {N-1}{k^{2}}}+1\right)\right\rfloor }$

どこ${\displaystyle X}$これは、我々がサンプリングしたランダム変数です。${\displaystyle N}$回数、${\displaystyle m}$は標本平均です。${\displaystyle k}$は定数であり、${\displaystyle s}$は標本標準偏差です。

この不等式は、母集団モーメントが存在しない場合や、標本が弱く交換可能な分布しか持たない場合にも成り立ちます。この基準は、ランダムサンプリングの場合に満たされます。有限標本サイズ (${\displaystyle N<100}$）はKonijnによって決定された。^{[ 32 ]}この表では、標本から計算された平均の標準誤差の倍数Cに基づいて、平均のさまざまな信頼区間を計算することができる。たとえば、Konijnは、の場合について、${\displaystyle N=59}$平均値の95％信頼区間${\displaystyle m}$は${\displaystyle (m-Cs,m+Cs)}$、 どこ${\displaystyle C=4.447\cdot 1.006=4.47}$（これは正規分布を仮定した場合に得られる値の2.28倍であり、分布の正確な性質を知らないことによる精度の低下を示している。）

同等の不等式は、標本平均に関して導出することができる。^{[ 31 ]}

${\displaystyle \Pr(|X-m|\geq km)\leq {\frac {N-1}{N}}{\frac {1}{k^{2}}}{\frac {s^{2}}{m^{2}}}+{\frac {1}{N}}.}$

有限サンプルサイズに対するSaw–Yang–Mo不等式の値の表（${\displaystyle N<100}$）はKonijnによって決定されました。^{[ 32 ]}

固定の場合${\displaystyle N}$そして大きな${\displaystyle m}$Saw–Yang–Moの不等式は近似的に^{[ 33 ]である。}

${\displaystyle \Pr(|X-m|\geq ks)\leq {\frac {1}{N+1}}.}$

Beasleyらはこの不等式の修正を提案している^{[ 33 ]}

${\displaystyle \Pr(|X-m|\geq ks)\leq {\frac {1}{k^{2}(N+1)}}.}$

実証的な検証では、この修正は保守的な結果をもたらすものの、統計的検出力は低いように思われる。その理論的根拠は、現時点ではまだ解明されていない。

Stellato ら^{[ 18 ]}は表記を簡略化し、Saw ら^{[ 30 ]}の経験的チェビシェフ不等式を多変数ケースに拡張した。${\textstyle \xi \in \mathbb {R} ^{n_{\xi }}}$を確率変数とし、${\textstyle N\in \mathbb {Z} _{\geq n_{\xi }}}$私たちは描きます${\textstyle N+1}$iid サンプル${\textstyle \xi }$と表記される${\textstyle \xi ^{(1)},\dots ,\xi ^{(N)},\xi ^{(N+1)}\in \mathbb {R} ^{n_{\xi }}}$最初の${\textstyle N}$サンプルでは、​​経験平均を次のように定義します。${\textstyle \mu _{N}={\frac {1}{N}}\sum _{i=1}^{N}\xi ^{(i)}}$そして、不偏な経験的共分散は${\textstyle \Sigma _{N}={\frac {1}{N}}\sum _{i=1}^{N}(\xi ^{(i)}-\mu _{N})(\xi ^{(i)}-\mu _{N})^{\top }}$。 もし${\displaystyle \Sigma _{N}}$が非特異である場合、すべての${\displaystyle \lambda \in \mathbb {R} _{\geq 0}}$それから

${\displaystyle {\begin{aligned}&P^{N+1}\left((\xi ^{(N+1)}-\mu _{N})^{\top }\Sigma _{N}^{-1}(\xi ^{(N+1)}-\mu _{N})\geq \lambda ^{2}\right)\\[8pt]\leq {}&\min \left\{1,{\frac {1}{N+1}}\left\lfloor {\frac {n_{\xi }(N+1)(N^{2}-1+N\lambda ^{2})}{N^{2}\lambda ^{2}}}\right\rfloor \right\}.\end{aligned}}}$

Francesco Paolo CantelliによるCantelli の不等式^{[ 38 ]}は、実数確率変数 (${\displaystyle X}$）平均値（${\displaystyle \mu }$）と分散（${\displaystyle \sigma ^{2}}$）

${\displaystyle \Pr(X-\mu \geq a)\leq {\frac {\sigma ^{2}}{\sigma ^{2}+a^{2}}}}$

どこ${\displaystyle a\geq 0}$。

この不等式は、チェビシェフの不等式の片側変形を証明するために使用できます。${\displaystyle k>0}$^{[ 39 ]}

${\displaystyle \Pr(X-\mu \geq k\sigma )\leq {\frac {1}{1+k^{2}}}.}$

片側検定の境界は厳密であることが知られています。これを確認するには、確率変数を考えてみましょう。${\displaystyle X}$値を取得する

${\displaystyle X=1}$確率で${\displaystyle {\frac {\sigma ^{2}}{1+\sigma ^{2}}}}$

${\displaystyle X=-\sigma ^{2}}$確率で${\displaystyle {\frac {1}{1+\sigma ^{2}}}.}$

それから${\displaystyle \operatorname {E} (X)=0}$そして${\displaystyle \operatorname {E} (X^{2})=\sigma ^{2}}$そして${\displaystyle \Pr(X<1)=1/(1+\sigma ^{2})}$。

Bhattacharyya ^{[ 40 ]}は分布の3次モーメントと4次モーメントを使用してカンテリの不等式を拡張しました。

させて${\displaystyle \mu =0}$そして${\displaystyle \sigma ^{2}}$を分散とする。${\displaystyle \gamma =E[X^{3}]/\sigma ^{3}}$そして${\displaystyle \kappa =E[X^{4}]/\sigma ^{4}}$。

もし${\displaystyle k^{2}-k\gamma -1>0}$それから

${\displaystyle \Pr(X>k\sigma )\leq {\frac {\kappa -\gamma ^{2}-1}{(\kappa -\gamma ^{2}-1)(1+k^{2})+(k^{2}-k\gamma -1)}}.}$

必要性${\displaystyle k^{2}-k\gamma -1>0}$必要になる場合があります${\displaystyle k}$適度に大きい。

の場合${\displaystyle E[X^{3}]=0}$これは以下のように簡略化されます

${\displaystyle \Pr(X>k\sigma )\leq {\frac {\kappa -1}{\kappa \left(k^{2}+1\right)-2}}\quad {\text{for }}k>1.}$

以来${\displaystyle {\frac {\kappa -1}{\kappa \left(k^{2}+1\right)-2}}={\frac {1}{2}}-{\frac {\kappa (k-1)}{2(\kappa -1)}}+O\left((k-1)^{2}\right)}$のために${\displaystyle k}$1に近いこの境界は、カンテリの境界をわずかに上回る。${\displaystyle {\frac {1}{2}}-{\frac {k-1}{2}}+O\left((k-1)^{2}\right)}$として${\displaystyle \kappa >1}$。

チェビシェフの不等式に対して2倍の優位性を持つ。

1823年にガウスは、ゼロに唯一のモードを持つ分布について、 ^{[ 41 ]}

${\displaystyle \Pr(|X|\geq k)\leq {\frac {4\operatorname {E} (X^{2})}{9k^{2}}}\quad {\text{if}}\quad k^{2}\geq {\frac {4}{3}}\operatorname {E} (X^{2}),}$

${\displaystyle \Pr(|X|\geq k)\leq 1-{\frac {k}{{\sqrt {3}}\operatorname {E} (X^{2})}}\quad {\text{if}}\quad k^{2}\leq {\frac {4}{3}}\operatorname {E} (X^{2}).}$

ヴィソチャンスキー・ペトゥニン不等式は、単峰性分布の最頻値からの偏差にのみ適用されるガウスの不等式を、平均値からの偏差、あるいはより一般的には任意の中心からの偏差に一般化するものである。 ^{[ 42 ]}${\displaystyle X}$は平均が単峰性の分布である${\displaystyle \mu }$および分散${\displaystyle \sigma ^{2}}$すると、不等式は次のようになる。

${\displaystyle \Pr(|X-\mu |\geq k\sigma )\leq {\frac {4}{9k^{2}}}\quad {\text{if}}\quad k\geq {\sqrt {8/3}}=1.633.}$

${\displaystyle \Pr(|X-\mu |\geq k\sigma )\leq {\frac {4}{3k^{2}}}-{\frac {1}{3}}\quad {\text{if}}\quad k\leq {\sqrt {8/3}}.}$

対称な単峰性分布の場合、中央値と最頻値は等しいので、ヴィソチャンスキー・ペトゥニン不等式とガウスの不等式はどちらも同じ中心に適用されます。さらに、対称分布の場合、次の点に注目することで片側境界が得られます。

${\displaystyle \Pr(X-\mu \geq k\sigma )=\Pr(X-\mu \leq -k\sigma )={\frac {1}{2}}\Pr(|X-\mu |\geq k\sigma ).}$

追加分数${\displaystyle 4/9}$これらの裾野境界に含まれる要素は、チェビシェフの不等式よりも優れた信頼区間をもたらします。たとえば、任意の対称単峰分布の場合、ヴィソチャンスキー・ペトゥニンの不等式によれば、分布の 4/(9 × 3^2) = 4/81 ≈ 4.9% が最頻値の 3 標準偏差の範囲外にあります。

DasGuptaは、分布が正規分布であることがわかっている場合^{[ 43 ]}

${\displaystyle \Pr(|X-\mu |\geq k\sigma )\leq {\frac {1}{3k^{2}}}.}$

ダスグプタの不等式から、正規分布の場合、少なくとも95%は平均値から約2.582標準偏差の範囲内に収まることがわかる。これは真の値（平均値から約1.96標準偏差）よりも緩やかな値である。

• DasGuptaは、この不等式に対する正規分布の最良の境界のセットを決定した。^{[ 43 ]}
• SteligaとSzynalはこれらの境界をパレート分布に拡張した。^{[ 44 ]}
• Grechuk らは、任意の分布族と、標準偏差の代わりに任意の偏差リスク尺度に対して、チェビシェフの不等式における最良の境界を導出する一般的な方法を開発した。特に、対数凹型密度を持つ分布に対するチェビシェフの不等式を導出した。^{[ 45 ]}

ペイリー・ジグムントの不等式は裾確率の下限を与えるのに対し、チェビシェフの不等式は上限を与える。^{[ 46 ]}確率変数の二乗にこれを適用すると、次のようになる。

${\displaystyle \Pr(|Z|>\theta {\sqrt {E[Z^{2}]}})\geq {\frac {(1-\theta ^{2})^{2}E[Z^{2}]^{2}}{E[Z^{4}]}}.}$

チェビシェフの不等式の応用例の 1 つは、分布が不明な変数の信頼区間を作成することです。ハルデーンは、^{[ 47 ]}ケンドールによって導出された方程式^{[ 48 ]}を使用して、変数 (${\displaystyle x}$）は、平均がゼロ、分散が1、歪度が有限である（${\displaystyle \gamma }$）と尖度（${\displaystyle \kappa }$) すると、変量は正規分布標準スコアに変換できます(${\displaystyle z}$):

${\displaystyle z=x-{\frac {\gamma }{6}}(x^{2}-1)+{\frac {x}{72}}[2\gamma ^{2}(4x^{2}-7)-3\kappa (x^{2}-3)]+\cdots }$

この変換は、チェビシェフの不等式の代替として、あるいは分布が未知の変量の信頼区間を導出するための補助手段として有用である可能性がある。

この変換は、中程度の歪みや尖度を持つ分布には有効かもしれませんが、分布が著しく歪んでいる場合や尖度が高い場合には、性能が低下します。

期待値が 1 であるn 個の非負の独立な確率変数X _iの任意の集合に対して^{[ 49 ]}

${\displaystyle \Pr \left({\frac {\sum _{i=1}^{n}X_{i}}{n}}-1\geq {\frac {1}{n}}\right)\leq {\frac {7}{8}}.}$

チェビシェフの不等式には、他にもいくつかの不等式が関連付けられている。

• チェビシェフの和の不等式
• チェビシェフ・マルコフ・スティルチェス不等式