経験分布関数

統計学において、経験分布関数（一般的には経験累積分布関数、eCDFとも呼ばれる）は、サンプルの経験的測定に関連付けられた分布関数です。^[1]この累積分布関数は、 n個のデータポイントごとに1/ nずつ増加するステップ関数です。測定変数の任意の指定された値におけるその値は、測定変数の観測値のうち指定された値以下であるものの割合です。

経験分布関数は、サンプル内の点を生成した累積分布関数の推定値です。グリベンコ・カンテリ定理によれば、経験分布関数は確率 1 でその基礎分布に収束します。経験分布関数の基礎累積分布関数への 収束率を定量化する結果は数多く存在します。

( X ₁ , …, X _n )を共通の累積分布関数F ( t )を持つ独立した同一分布の実数ランダム変数とする。経験分布関数は次のように定義される^[2]

${\displaystyle {\widehat {F}}_{n}(t)={\frac {{\mbox{サンプル内の要素数}}\leq t}{n}}={\frac {1}{n}}\sum _{i=1}^{n}\mathbf {1} _{X_{i}\leq t},}$

ここで、 はイベントAの指標です。tが固定されている場合、指標はパラメータp = F ( t )を持つベルヌーイ確率変数です。したがって、は平均nF ( t )と分散nF ( t )(1 − F ( t ))を持つ二項確率変数です。これは、 がF ( t )の不偏推定量であることを意味します。 ${\displaystyle \mathbf {1} _{A}}$ ${\displaystyle \mathbf {1} _{X_{i}\leq t}}$${\displaystyle n{\widehat {F}}_{n}(t)}$ ${\displaystyle {\widehat {F}}_{n}(t)}$

しかし、一部の教科書では次のように定義されています。

${\displaystyle {\widehat {F}}_{n}(t)={\frac {1}{n+1}}\sum _{i=1}^{n}\mathbf {1} _{X_{i}\leq t}}$^{[3] [4]}

n が無限大に近づくにつれて、比率( n  + 1)/ n は1 に近づくため、上記の 2 つの定義の漸近的特性は同じになります。

大数の強い法則により、推定量はn  → ∞のときにほぼ確実にF ( t )に収束する。これはtのあらゆる値に対して当てはまる。^[2]${\displaystyle \scriptstyle {\widehat {F}}_{n}(t)}$

${\displaystyle {\widehat {F}}_{n}(t)\ {\xrightarrow {\text{as}}}\ F(t);}$

したがって推定量は矛盾がない。この表現は、経験分布関数が真の累積分布関数に点ごとに収束することを主張している。グリベンコ・カンテリ定理と呼ばれるより強い結果があり、これは、収束は実際にはtにわたって一様に起こることを述べている：^[5]${\displaystyle \scriptstyle {\widehat {F}}_{n}(t)}$

${\displaystyle \|{\widehat {F}}_{n}-F\|_{\infty }\equiv \sup _{t\in \mathbb {R} }{\big |}{\widehat {F}}_{n}(t)-F(t){\big |}\ \xrightarrow {} \ 0.}$

この式の超ノルムは、経験分布と仮定された真の累積分布関数Fとの間の適合度を検定するためのコルモゴロフ・スミルノフ統計量と呼ばれます。ここでは、超ノルムの代わりに他のノルム関数を使用することもできます。たとえば、L ²ノルムはクラマー・フォン・ミーゼス統計量を生み出します。 ${\displaystyle \scriptstyle {\widehat {F}}_{n}(t)}$

漸近分布は、さらにいくつかの異なる方法で特徴付けることができます。まず、 中心極限定理は、点ごとに、標準的な収束率を持つ漸近的に正規分布に従うことを述べています。 ^[2]${\displaystyle \scriptstyle {\widehat {F}}_{n}(t)}$${\displaystyle {\sqrt {n}}}$

${\displaystyle {\sqrt {n}}{\big (}{\widehat {F}}_{n}(t)-F(t){\big )}\ \ {\xrightarrow {d}}\ \ {\mathcal {N}}{\Big (}0,F(t){\big (}1-F(t){\big )}{\Big )}.}$

この結果はドンスカー定理によって拡張され、経験的過程は 、によってインデックス付けされた関数として見ると、スコロホッド空間における分布において平均ゼロのガウス過程に収束することを主張する。ここで、Bは標準ブラウン橋である。^[5]このガウス過程の共分散構造は ${\displaystyle \scriptstyle {\sqrt {n}}({\widehat {F}}_{n}-F)}$${\displaystyle \scriptstyle t\in \mathbb {R} }$ ${\displaystyle \scriptstyle D[-\infty ,+\infty ]}$ ${\displaystyle \scriptstyle G_{F}=B\circ F}$

${\displaystyle \operatorname {E} [\,G_{F}(t_{1})G_{F}(t_{2})\,]=F(t_{1}\wedge t_{2})-F(t_{1})F(t_{2}).}$

ドンスカー定理における均一収束率は、ハンガリー埋め込みとして知られる結果によって定量化できる。^[6]

${\displaystyle \limsup _{n\to \infty }{\frac {\sqrt {n}}{\ln ^{2}n}}{\big \|}{\sqrt {n}}({\widehat {F}}_{n}-F)-G_{F,n}{\big \|}_{\infty }} ,\quad {\text{as}}}$

あるいは、収束率は、この式のノルムの漸近挙動の観点から定量化することもできます。この分野では多くの結果が存在し、たとえば、ドヴォレツキー-キーファー-ウォルフォウィッツ不等式は、の裾の確率に上限を与えます。^[6]${\displaystyle \scriptstyle {\sqrt {n}}({\widehat {F}}_{n}-F)}$${\displaystyle \scriptstyle {\sqrt {n}}\|{\widehat {F}}_{n}-F\|_{\infty }}$

${\displaystyle \Pr \!{\Big (}{\sqrt {n}}\|{\widehat {F}}_{n}-F\|_{\infty }>z{\Big )}\leq 2e^{-2z^{2}}.}$

実際、コルモゴロフは、累積分布関数Fが連続している場合、式は分布的に に収束し、これはFの形に依存しないコルモゴロフ分布を持つことを示しました。 ${\displaystyle \scriptstyle {\sqrt {n}}\|{\widehat {F}}_{n}-F\|_{\infty }}$${\displaystyle \scriptstyle \|B\|_{\infty}}$

反復対数の法則から導かれるもう一つの結果は、^[6]

${\displaystyle \limsup _{n\to \infty }{\frac {{\sqrt {n}}\|{\widehat {F}}_{n}-F\|_{\infty }}{\sqrt {2\ln \ln n}}}\leq {\frac {1}{2}},\quad {\text{as}}}$

そして

${\displaystyle \liminf _{n\to \infty }{\sqrt {2n\ln \ln n}}\|{\widehat {F}}_{n}-F\|_{\infty }={\frac {\pi }{2}},\quad {\text{as}}}$

ドヴォレツキー・キーファー・ウォルフォヴィッツ不等式によれば、真のCDF を含む区間は確率で次のように指定される。 ${\displaystyle F(x)}$${\displaystyle 1-\alpha }$

${\displaystyle F_{n}(x)-\varepsilon \leq F(x)\leq F_{n}(x)+\varepsilon \;{\text{ ただし }}\varepsilon ={\sqrt {\frac {\ln {\frac {2}{\alpha }}}{2n}}}.}$

上記の境界に従って、統計実装のいずれかを使用して、さまざまな分布の経験的 CDF、CDF、および信頼区間をプロットできます。

経験分布関数のソフトウェア実装の非網羅的なリストには以下が含まれます。

• R ソフトウェアでは、このような「ecdf」オブジェクトを使用してプロット、印刷、計算するためのいくつかの方法を使用して、経験累積分布関数を計算します。
• MATLABでは経験的累積分布関数（cdf）プロットを使用することができます。
• SAS の jmp では、CDF プロットは経験累積分布関数のプロットを作成します。
• Minitab、経験的CDFを作成する
• Mathwaveでは、データに確率分布を当てはめることができます
• データプロットでは経験的CDFプロットをプロットできます
• Scipyではscipy.stats.ecdfが使えます
• Statsmodelsでは、statsmodels.distributions.empirical_distribution.ECDFを使用することができます。
• Matplotlib、matplotlib.pyplot.ecdf関数を使用（バージョン3.8.0の新機能）^[7]
• Seaborn、seaborn.ecdfplot関数を使用
• Plotly、plotly.express.ecdf 関数を使用する
• Excelでは経験的CDFプロットをプロットできます
• ArviZ、az.plot_ecdf 関数を使用

• 関数の呼び出し
• カウントデータ
• 分布フィッティング
• ドヴォレツキー＝キーファー＝ウォルフォウィッツの不等式
• 経験的確率
• 経験的プロセス
• サンプルから四分位数を推定する
• 頻度（統計）
• 経験的可能性
• 打ち切り過程のカプランマイヤー推定量
• 生存機能
• Q-Qプロット

• Shorack, GR ; Wellner, JA (1986).経験的プロセスと統計への応用. ニューヨーク: Wiley. ISBN 0-471-86725-X。

• ウィキメディア・コモンズにおける経験的分布関数に関連するメディア