エネルギー距離

エネルギー距離は確率分布間の統計的距離である。XとYがそれぞれ累積分布関数（cdf）FとGを持つR ^d内の独立したランダムベクトルである場合、分布FとG間のエネルギー距離は、

${\displaystyle D^{2}(F,G)=2\operatorname {E} \|X-Y\|-\operatorname {E} \|X-X'\|-\operatorname {E} \|Y-Y'\|\geq 0,}$

ここで、(X, X', Y, Y') は独立であり、X と X' の累積分布関数は F、Y と Y' の累積分布関数は G、は期待値、||です。|| はベクトルの長さを表します。エネルギー距離は計量の公理をすべて満たすため、エネルギー距離は分布の等式を特徴付けます。D(F,G) = 0 は F = Gの場合に限ります。統計アプリケーションにおけるエネルギー距離は 1985 年にGábor J. Székelyによって導入されました。Székely は、実数値のランダム変数の場合、がHarald Cramérの距離のちょうど 2 倍であることを証明しました。 ^[1]${\displaystyle \operatorname {E} }$${\displaystyle D^{2}(F,G)}$

${\displaystyle \int _{-\infty }^{\infty }(F(x)-G(x))^{2}\,dx.}$

この同値性の簡単な証明についてはSzékely (2002)を参照のこと。^[2]

しかし、高次元では、エネルギー距離は回転不変であるのに対し、クラメール距離は回転不変ではないため、2 つの距離は異なります。(クラメール距離は分布フリーの クラメール・フォン・ミーゼス基準と同じではないことに注意してください。)

エネルギー距離の概念を、距離空間上の確率分布に一般化することができます。 をボレルシグマ代数を持つ距離空間とします。を測定可能空間上のすべての確率測度の集合とします。 μ と ν が における確率測度である場合、 μ と ν の エネルギー距離は、${\displaystyle (M,d)}$ ${\displaystyle {\mathcal {B}}(M)}$${\displaystyle {\mathcal {P}}(M)}$ ${\displaystyle (M,{\mathcal {B}}(M))}$${\displaystyle {\mathcal {P}}(M)}$${\displaystyle D}$

${\displaystyle D^{2}(\mu ,\nu )=2\operatorname {E} [d(X,Y)]-\operatorname {E} [d(X,X')]-\operatorname {E} [d(Y,Y')].}$

しかし、これは必ずしも非負ではない。 が強負定値核であれば、 は 計量であり、その逆もまた同様である。^[3]この条件は、 が負の型を持つと表現される。が計量であるためには負の型だけでは不十分である。後者の条件は、 が強負の型を持つと表現される。この状況では、エネルギー距離がゼロとなるのは、X と Y が同一分布に従う場合のみである。負の型だが強負の型ではない計量の例として、タクシー計量を持つ平面がある。すべてのユークリッド空間、さらには可分ヒルベルト空間も強負の型を持つ。^[4]${\displaystyle (M,d)}$${\displaystyle D}$${\displaystyle (M,d)}$${\displaystyle D}$${\displaystyle (M,d)}$

機械学習のためのカーネル法に関する文献では、エネルギー距離のこれらの一般化された概念は、最大平均差異という名前で研究されています。仮説検定における距離ベース法とカーネル法の同等性については、複数の著者によって取り上げられています。^{[5] [6]}

関連する統計概念であるE統計またはエネルギー統計の概念^[7]は、 1980年代にハンガリーのブダペストやMIT、イェール大学、コロンビア大学で講演していたガボール・J・セーケイによって導入されました。この概念はニュートンの位置エネルギーの概念に基づいています。^[8]その考え方は、統計的観測を、基礎となる統計的帰無仮説が真である場合にのみゼロになる統計的位置エネルギーによって支配される天体と見なすというものです。エネルギー統計は、統計的観測間の 距離の関数です。

エネルギー距離とE 統計量は 、 Zinger AA、Kakosyan AV、Klebanov LB の「統計量の平均値と特定の確率測定基準による分布の特性評価」、Stability Problems for Stochastic Models。モスクワ、VNIISI、1989、47-55 でN距離と N 統計量として考えられました。(ロシア語)、英訳: 統計量の平均値と特定の確率測定基準による分布の特性評価 AA Zinger、AV Kakosyan、LB Klebanov、Journal of Soviet Mathematics (1992)。同じ論文では、強負定値カーネルの定義が与えられ、上で説明した距離空間の一般化が提供されました。書籍^[3]では、これらの結果と統計的検定への応用も示されています。この本には、測度をその潜在的可能性から回復するためのいくつかの応用も含まれています。

2 つのランダム変数XとY が同じ確率分布を持つという帰無仮説を考えます。XとYからの統計サンプルの場合: ${\displaystyle \mu =\nu }$

${\displaystyle x_{1},\dots ,x_{n}}$そして、${\displaystyle y_{1},\dots ,y_{m}}$

X サンプルと Y サンプル間の距離の算術平均は次のとおり計算されます。

${\displaystyle A:={\frac {1}{nm}}\sum _{i=1}^{n}\sum _{j=1}^{m}\|x_{i}-y_{j}\|,B:={\frac {1}{n^{2}}}\sum _{i=1}^{n}\sum _{j=1}^{n}\|x_{i}-x_{j}\|,C:={\frac {1}{m^{2}}}\sum _{i=1}^{m}\sum _{j=1}^{m}\|y_{i}-y_{j}\|}$。

基礎となる帰無仮説の E 統計量は次のように定義されます。

${\displaystyle E_{n,m}(X,Y):=2A-B-C}$

^{[8] [9]は、} XとYが同じ分布（ ）を持つ場合にのみ、対応する母集団値がゼロになることを証明できます。この帰無仮説の下では、検定統計量は ${\displaystyle E_{n,m}(X,Y)\geq 0}$${\displaystyle \mu =\nu }$

${\displaystyle T={\frac {nm}{n+m}}E_{n,m}(X,Y)}$

分布は独立した標準正規分布の2次形式に収束する。対立仮説ではTは無限大に近づく。これにより、一貫した統計的検定、すなわち等分布のエネルギー検定を構築することが可能になる。 ^[10]

不均一性のE係数も導入することができます。これは常に0から1の間で、次のように定義されます。

${\displaystyle H={\frac {D^{2}(F_{X},F_{Y})}{2\operatorname {\operatorname {E} } \|X-Y\|}}={\frac {2\operatorname {E} \|X-Y\|-\operatorname {E} \|X-X'\|-\operatorname {E} \|Y-Y'\|}{2\operatorname {\operatorname {E} } \|X-Y\|}},}$

ここで、 は期待値 を表します。XとY が同じ分布を持つ 場合、 H  = 0 になります。${\displaystyle \operatorname {E} }$

多変量適合度尺度は、任意の次元（サンプルサイズに制限されない）の分布に対して定義されます。エネルギー適合度統計量は、

${\displaystyle Q_{n}=n\left({\frac {2}{n}}\sum _{i=1}^{n}\operatorname {E} \|x_{i}-X\|^{\alpha }-\operatorname {E} \|X-X'\|^{\alpha }-{\frac {1}{n^{2}}}\sum _{i=1}^{n}\sum _{j=1}^{n}\|x_{i}-x_{j}\|^{\alpha }\right),}$

ここで、X と X' は独立しており、仮定された分布、およびに従って同一に分布しています。必要な条件は、帰無仮説の下では、X が有限モーメントを持つことだけです。帰無仮説の下では、Q _nの漸近分布は、中心化されたガウス確率変数の 2 次形式です。対立仮説の下では、Q _{n は}確率的に無限大に近づくため、統計的に一貫性のある検定が決定されます。ほとんどのアプリケーションでは、指数 1 (ユークリッド距離) を適用できます。多変量正規性検定の重要な特殊なケース^{[9]は、R の}エネルギーパッケージで実装されています。パレート (べき乗則)などの裾の重い分布や、(0,1) の指数を適用した 安定分布の検定も開発されています。${\displaystyle \alpha \in (0,2)}$${\displaystyle \alpha }$${\displaystyle \operatorname {E} Q_{n}=\operatorname {E} \|X-X'\|^{\alpha }}$

アプリケーションには以下が含まれます:

• 階層的クラスタリング（ウォード法の一般化）^{[11] [12]}
• 多変量正規性の検定^[9]
• 均等分布の多重サンプル仮説の検定、^{[13] [14] [15]}
• 変化点検出^[16]
• 多変量独立性:
  • 距離相関、^[17]
  • ブラウン共分散^[18 ]
• 採点ルール:

GneitingとRaftery ^[19]はエネルギー距離を適用して、確率予測のための新しい非常に一般的なタイプの適切なスコアリングルールであるエネルギースコアを開発しました。

• 堅牢な統計^[20]
• シナリオの縮小^[21]
• 遺伝子選択^[22]
• マイクロアレイデータ解析^[23]
• 材料構造解析^[24]
• 形態計測および化学計測データ^[25]

エネルギー統計の応用は、 R用のオープンソースエネルギーパッケージ^[26]に実装されています。