定義
距離共分散 まず、標本距離共分散 の定義から始めましょう。実数値またはベクトル値の確率変数 ( X 、 Y ) のペアから統計的標本 ( X k 、 Y k ) 、 k = 1、2 、... 、n とします。最初に、すべてのペアワイズ距離を含む n × n 距離行列 ( a j 、 k ) と ( b j 、 k )を計算します。
1 j 、 k = ‖ X j − X k ‖ 、 j 、 k = 1 、 2 、 … 、 n 、 b j 、 k = ‖ Y j − Y k ‖ 、 j 、 k = 1 、 2 、 … 、 n 、 {\displaystyle {\begin{aligned}a_{j,k}&=\|X_{j}-X_{k}\|,\qquad j,k=1,2,\ldots ,n,\\b_{j,k}&=\|Y_{j}-Y_{k}\|,\qquad j,k=1,2,\ldots ,n,\end{aligned}}} ここで、|| ⋅ ||はユークリッドノルム を表します。次に、すべての二重中心距離を取ります。
A j 、 k := 1 j 、 k − 1 ¯ j ⋅ − 1 ¯ ⋅ k + 1 ¯ ⋅ ⋅ 、 B j 、 k := b j 、 k − b ¯ j ⋅ − b ¯ ⋅ k + b ¯ ⋅ ⋅ 、 {\displaystyle A_{j,k}:=a_{j,k}-{\overline {a}}_{j\cdot }-{\overline {a}}_{\cdot k}+{\overline {a}}_{\cdot \cdot },\qquad B_{j,k}:=b_{j,k}-{\overline {b}}_{j\cdot }-{\overline {b}}_{\cdot k}+{\overline {b}}_{\cdot \cdot },} どこ1 ¯ j ⋅ {\displaystyle \textstyle {\overline {a}}_{j\cdot }} j 番目の行の平均は、1 ¯ ⋅ k {\displaystyle \textstyle {\overline {a}}_{\cdot k}} はk 番目の列の平均であり、1 ¯ ⋅ ⋅ {\displaystyle \textstyle {\overline {a}}_{\cdot \cdot }} は、 X サンプルの距離行列の全体平均 です。b 値についても同様の表記法です。(中心化された距離行列 ( A j , k ) および ( B j , k ) では、すべての行とすべての列の合計はゼロになります。)二乗サンプル距離共分散(スカラー)は、単純に積 A j , k B j , k の算術平均です。
dCov n 2 ( X 、 Y ) := 1 n 2 ∑ j = 1 n ∑ k = 1 n A j 、 k B j 、 k 。 {\displaystyle \operatorname {dCov} _{n}^{2}(X,Y):={\frac {1}{n^{2}}}\sum _{j=1}^{n}\sum _{k=1}^{n}A_{j,k}\,B_{j,k}.} 統計量T n = n dCov 2 n ( X , Y ) は、任意の次元のランダムベクトルの独立性に関する一貫性のある多変量検定を決定します。実装については、R のenergyパッケージの dcov.test 関数を参照してください。
距離共分散 の母集団値は、同様の方法で定義できます。Xを 確率分布 μ を持つp 次元ユークリッド空間の値をとる確率変数とし、Y を 確率分布ν を持つq 次元ユークリッド空間の値をとる確率変数とし、X とY の 期待値が有限であると仮定します。
1 μ ( x ) := E [ ‖ X − x ‖ ] 、 D ( μ ) := E [ 1 μ ( X ) ] 、 d μ ( x 、 x ′ ) := ‖ x − x ′ ‖ − 1 μ ( x ) − 1 μ ( x ′ ) + D ( μ ) 。 {\displaystyle a_{\mu }(x):=\operatorname {E} [\|Xx\|],\quad D(\mu ):=\operatorname {E} [a_{\mu }(X)],\quad d_{\mu }(x,x'):=\|xx'\|-a_{\mu }(x)-a_{\mu }(x')+D(\mu ).} 最後に、 X とY の二乗距離共分散の母集団値を次のように定義する。
dCov 2 ( X 、 Y ) := E [ d μ ( X 、 X ′ ) d ν ( Y 、 Y ′ ) ] 。 {\displaystyle \operatorname {dCov} ^{2}(X,Y):=\operatorname {E} {\big [}d_{\mu }(X,X')d_{\nu }(Y,Y'){\big ]}.} これは以下の定義と同等であることを示すことができる。
dCov 2 ( X 、 Y ) := E [ ‖ X − X ′ ‖ ‖ Y − Y ′ ‖ ] + E [ ‖ X − X ′ ‖ ] E [ ‖ Y − Y ′ ‖ ] − E [ ‖ X − X ′ ‖ ‖ Y − Y 」 ‖ ] − E [ ‖ X − X 」 ‖ ‖ Y − Y ′ ‖ ] = E [ ‖ X − X ′ ‖ ‖ Y − Y ′ ‖ ] + E [ ‖ X − X ′ ‖ ] E [ ‖ Y − Y ′ ‖ ] − 2 E [ ‖ X − X ′ ‖ ‖ Y − Y 」 ‖ ] 、 {\displaystyle {\begin{aligned}\operatorname {dCov} ^{2}(X,Y):={}&\operatorname {E} [\|XX'\|\,\|YY'\|]+\operatorname {E} [\|XX'\|]\,\operatorname {E} [\|YY'\|]\\&\qquad {}-\operatorname {E} [\|XX'\|\,\|YY''\|]-\operatorname {E} [\|XX''\|\,\|YY'\|]\\={}&\operatorname {E} [\|XX'\|\,\|YY'\|]+\operatorname {E} [\|XX'\|]\,\operatorname {E} [\|YY'\|]\\&\qquad {}-2\operatorname {E} [\|XX'\|\,\|YY''\|],\end{aligned}}} ここで、E は期待値を表し、( X 、 Y ) 、 {\displaystyle \textstyle (X,Y),} ( X ′ 、 Y ′ ) 、 {\displaystyle \textstyle (X',Y'),} そして( X 」 、 Y 」 ) {\displaystyle \textstyle (X'',Y'')} 独立かつ同一の分布に従う。( X ′ 、 Y ′ ) {\displaystyle \textstyle (X',Y')} そして( X 」 、 Y 」 ) {\displaystyle \textstyle (X'',Y'')} は、変数の独立同分布(iid)コピーを表す。X {\displaystyle X} そしてY {\displaystyle Y} も同様にiidである。距離共分散は、 古典的なピアソンの共分散 covを 用いて次のように表すことができる。
dCov 2 ( X 、 Y ) = カバー ( ‖ X − X ′ ‖ 、 ‖ Y − Y ′ ‖ ) − 2 カバー ( ‖ X − X ′ ‖ 、 ‖ Y − Y 」 ‖ ) 。 {\displaystyle \operatorname {dCov} ^{2}(X,Y)=\operatorname {cov} (\|XX'\|,\|YY'\|)-2\operatorname {cov} (\|XX'\|,\|YY''\|)。} この恒等式は、距離共分散が距離の共分散cov( ‖ X − X' ‖ , ‖ Y − Y' ‖ )とは異なることを示している。Xと Y が独立でない場合でも、これはゼロになる可能性がある。 [ 6 ]
あるいは、距離共分散は、確率変数の結合特性関数とそれらの周辺特性関数の積との間の距離の重み付きL2 ノルム として定義でき ます。 [ 7 ]
dCov 2 ( X 、 Y ) = 1 c p c q ∫ R p + q | φ X 、 Y ( s 、 t ) − φ X ( s ) φ Y ( t ) | 2 | s | p 1 + p | t | q 1 + q d t d s {\displaystyle \operatorname {dCov} ^{2}(X,Y)={\frac {1}{c_{p}c_{q}}}\int _{\mathbb {R} ^{p+q}}{\frac {\left|\varphi _{X,Y}(s,t)-\varphi _{X}(s)\varphi _{Y}(t)\right|^{2}}{|s|_{p}^{1+p}|t|_{q}^{1+q}}}\,dt\,ds} どこφ X 、 Y ( s 、 t ) {\displaystyle \varphi _{X,Y}(s,t)} 、φ X ( s ) {\displaystyle \varphi _{X}(s)} 、 そしてφ Y ( t ) {\displaystyle \varphi _{Y}(t)} はそれぞれ( X , Y ) 、 X 、Y の特性関数 であり、p 、qは X とY のユークリッド次元、したがってs とt のユークリッド次元を表し 、c p 、c q は定数です。重み関数 ( c p c q | s | p 1 + p | t | q 1 + q ) − 1 {\displaystyle ({c_{p}c_{q}}{|s|_{p}^{1+p}|t|_{q}^{1+q}})^{-1}} は、従属変数に対してゼロにならないスケール等変かつ回転不変な尺度 を生成するように選択されます。 [ 7 ] 特性関数の定義の 1 つの解釈は、変数e isX とe itY は、 s とt で与えられる異なる周期を持つX とY の周期的表現であり、距離共分散の特性関数の定義の分子にある式ϕ X , Y ( s , t ) − ϕ X ( s ) ϕ Y ( t )は、単に e isX とe itY の古典的な共分散であるということです。特性関数の定義は、dCov 2 ( X , Y ) = 0がX とY が独立である場合に限り、かつその場合に限り、であることを明確に示しています。
距離相関 2 つの確率変数の距離相関 は、それらの距離共分散を 距離標準偏差 の積で割ることによって得られます。距離相関は、
dCor 2 ( X 、 Y ) = dCov 2 ( X 、 Y ) dVar 2 ( X ) dVar 2 ( Y ) 、 {\displaystyle \operatorname {dCor} ^{2}(X,Y)={\frac {\operatorname {dCov} ^{2}(X,Y)}{\sqrt {\operatorname {dVar} ^{2}(X)\,\operatorname {dVar} ^{2}(Y)}}},} また、標本距離相関は 、上記の母集団係数に標本距離共分散と距離分散を代入することによって定義される。
サンプル距離相関を簡単に計算するには、R のenergy パッケージのdcor 関数を参照してください。
不動産
距離共分散 dCov ( X 、 Y ) ≥ 0 {\displaystyle \operatorname {dCov} (X,Y)\geq 0} そしてdCov n ( X 、 Y ) ≥ 0 {\displaystyle \operatorname {dCov} _{n}(X,Y)\geq 0} ;dCov 2 ( 1 1 + b 1 C 1 X 、 1 2 + b 2 C 2 Y ) = | b 1 b 2 | dCov 2 ( X 、 Y ) {\displaystyle \operatorname {dCov} ^{2}(a_{1}+b_{1}\,\mathbf {C} _{1}\,X,a_{2}+b_{2}\,\mathbf {C} _{2}\,Y)=|b_{1}\,b_{2}|\operatorname {dCov} ^{2}(X,Y)} すべての定数ベクトルについて1 1 、 1 2 {\displaystyle a_{1},a_{2}} 、スカラーb 1 、 b 2 {\displaystyle b_{1},b_{2}} 、および正規直交行列C 1 、 C 2 {\displaystyle \mathbf {C} _{1},\mathbf {C} _{2}} 。ランダムベクトルが( X 1 、 Y 1 ) {\displaystyle (X_{1},Y_{1})} そして( X 2 、 Y 2 ) {\displaystyle (X_{2},Y_{2})} 独立している dCov ( X 1 + X 2 、 Y 1 + Y 2 ) ≤ dCov ( X 1 、 Y 1 ) + dCov ( X 2 、 Y 2 ) 。 {\displaystyle \operatorname {dCov} (X_{1}+X_{2},Y_{1}+Y_{2})\leq \operatorname {dCov} (X_{1},Y_{1})+\operatorname {dCov} (X_{2},Y_{2}).} 平等は、以下の場合に限り成立する。X 1 {\displaystyle X_{1}} そしてY 1 {\displaystyle Y_{1}} 両方とも定数、またはX 2 {\displaystyle X_{2}} そしてY 2 {\displaystyle Y_{2}} 両方とも定数、またはX 1 、 X 2 、 Y 1 、 Y 2 {\displaystyle X_{1},X_{2},Y_{1},Y_{2}} 互いに独立している。 dCov ( X 、 Y ) = 0 {\displaystyle \operatorname {dCov} (X,Y)=0} X とY が独立である場合に限る。この最後の特性は、中心距離を用いて作業することによる最も重要な効果です。
統計dCov n 2 ( X 、 Y ) {\displaystyle \operatorname {dCov} _{n}^{2}(X,Y)} は、dCov 2 ( X 、 Y ) {\displaystyle \operatorname {dCov} ^{2}(X,Y)} XとYの独立性の下で
E [ dCov n 2 ( X 、 Y ) ] = n − 1 n 2 { ( n − 2 ) dCov 2 ( X 、 Y ) + E [ ‖ X − X ′ ‖ ] E [ ‖ Y − Y ′ ‖ ] } = n − 1 n 2 E [ ‖ X − X ′ ‖ ] E [ ‖ Y − Y ′ ‖ ] 。 {\displaystyle {\begin{aligned}\operatorname {E} [\operatorname {dCov} _{n}^{2}(X,Y)]&={\frac {n-1}{n^{2}}}\left\{(n-2)\operatorname {dCov} ^{2}(X,Y)+\operatorname {E} [\|X-X'\|]\,\operatorname {E} [\|Y-Y'\|]\right\}\\[6pt]&={\frac {n-1}{n^{2}}}\operatorname {E} [\|X-X'\|]\,\operatorname {E} [\|Y-Y'\|].\end{aligned}}} 不偏推定 量dCov 2 ( X 、 Y ) {\displaystyle \operatorname {dCov} ^{2}(X,Y)} Székely と Rizzo によって与えられました。
一般化 距離共分散は、ユークリッド距離のべき乗を含むように一般化できます。
dCov 2 ( X 、 Y ; α ) := E [ ‖ X − X ′ ‖ α ‖ Y − Y ′ ‖ α ] + E [ ‖ X − X ′ ‖ α ] E [ ‖ Y − Y ′ ‖ α ] − 2 E [ ‖ X − X ′ ‖ α ‖ Y − Y 」 ‖ α ] 。 {\displaystyle {\begin{aligned}\operatorname {dCov} ^{2}(X,Y;\alpha ):={}&\operatorname {E} [\|X-X'\|^{\alpha }\,\|Y-Y'\|^{\alpha }]+\operatorname {E} [\|X-X'\|^{\alpha }]\,\operatorname {E} [\|Y-Y'\|^{\alpha }]\\&\qquad {}-2\operatorname {E} [\|X-X'\|^{\alpha }\,\|Y-Y''\|^{\alpha }].\end{aligned}}} そして、すべての0 < α < 2 {\displaystyle 0<\alpha <2} 、X {\displaystyle X} そしてY {\displaystyle Y} 独立であるのは、dCov 2 ( X 、 Y ; α ) = 0 {\displaystyle \operatorname {dCov} ^{2}(X,Y;\alpha )=0} この特徴付けは指数には当てはまらないα = 2 {\displaystyle \alpha =2} ; この場合は二変量の場合( X 、 Y ) {\displaystyle (X,Y)} 、dCor ( X 、 Y ; α = 2 ) {\displaystyle \operatorname {dCor} (X,Y;\alpha =2)} はピアソン相関係数の決定論的関数である。もし1 k 、 ℓ {\displaystyle a_{k,\ell }} そしてb k 、 ℓ {\displaystyle b_{k,\ell }} はα {\displaystyle \alpha } 対応する距離のべき乗、0 < α ≤ 2 {\displaystyle 0<\alpha \leq 2} 、 それからα {\displaystyle \alpha } サンプル距離共分散は、次の非負の数として定義できます。
dCov n 2 ( X 、 Y ; α ) := 1 n 2 ∑ k 、 ℓ A k 、 ℓ B k 、 ℓ 。 {\displaystyle \operatorname {dCov} _{n}^{2}(X,Y;\alpha ):={\frac {1}{n^{2}}}\sum _{k,\ell }A_{k,\ell }\,B_{k,\ell }.} 拡張できるdCov {\displaystyle \operatorname {dCov} } 距離空間 値ランダム変数 X {\displaystyle X} そしてY {\displaystyle Y} : もしX {\displaystyle X} 法律があるμ {\displaystyle \mu } 距離空間において、距離d {\displaystyle d} 次に定義する1 μ ( x ) := E [ d ( X 、 x ) ] {\displaystyle a_{\mu }(x):=\operatorname {E} [d(X,x)]} 、D ( μ ) := E [ 1 μ ( X ) ] {\displaystyle D(\mu ):=\operatorname {E} [a_{\mu }(X)]} 、そして(1 μ {\displaystyle a_{\mu }} 有限である、つまり、X {\displaystyle X} 有限の一次モーメントを持つ)d μ ( x 、 x ′ ) := d ( x 、 x ′ ) − 1 μ ( x ) − 1 μ ( x ′ ) + D ( μ ) {\displaystyle d_{\mu }(x,x'):=d(x,x')-a_{\mu }(x)-a_{\mu }(x')+D(\mu )} ならばY {\displaystyle Y} 法律があるν {\displaystyle \nu } (有限の一次モーメントを持つ、おそらく異なる距離空間において)
dCov 2 ( X 、 Y ) := E [ d μ ( X 、 X ′ ) d ν ( Y 、 Y ′ ) ] 。 {\displaystyle \operatorname {dCov} ^{2}(X,Y):=\operatorname {E} {\big [}d_{\mu }(X,X')d_{\nu }(Y,Y'){\big ]}.} これは、すべてのそのようなものに対して非負であるX 、 Y {\displaystyle X,Y} 両方の距離空間が負の型を持つ場合。ここで、距離空間( M 、 d ) {\displaystyle (M,d)} 負の型を持つ場合( M 、 d 1 / 2 ) {\displaystyle (M,d^{1/2})} はヒルベルト空間 の部分集合と等長で ある。[ 13 ] 両方の距離空間が強い負型を持つ場合、dCov 2 ( X 、 Y ) = 0 {\displaystyle \operatorname {dCov} ^{2}(X,Y)=0} もしX 、 Y {\displaystyle X,Y} 独立している。
ブラウン運動の共分散は、共分散の概念を確率過程に一般化することによって導き出される。確率変数XとYの共分散の二乗は、次の形式で表すことができる。
カバー ( X 、 Y ) 2 = E [ ( X − E ( X ) ) ( X ′ − E ( X ′ ) ) ( Y − E ( Y ) ) ( Y ′ − E ( Y ′ ) ) ] {\displaystyle \operatorname {cov} (X,Y)^{2}=\operatorname {E} \left[{\big (}X-\operatorname {E} (X){\big )}{\big (}X^{\mathrm {'} }-\operatorname {E} (X^{\mathrm {'} }){\big )}{\big (}Y-\operatorname {E} (Y){\big )}{\big (}Y^{\mathrm {'} }-\operatorname {E} (Y^{\mathrm {'} }){\big )}\right]} ここで、E は期待値 を表し、プライム記号は独立同分布のコピーを表します。この式の次の一般化が必要です。U(s)、V(t) がすべての実数 s および t に対して定義された任意のランダム過程である場合、X の U 中心バージョンを次のように定義します。
X U := U ( X ) − E X [ U ( X ) ∣ { U ( t ) } ] {\displaystyle X_{U}:=U(X)-\operatorname {E} _{X}\left[U(X)\mid \left\{U(t)\right\}\right]} 減算された条件付き期待値が存在するときはいつでも、Y V をY の V 中心バージョンとします。 (X,Y) の (U,V) 共分散は、その二乗が次のようになる非負の数として定義されます。
カバー U 、 V 2 ( X 、 Y ) := E [ X U X U ′ Y V Y V ′ ] {\displaystyle \operatorname {cov} _{U,V}^{2}(X,Y):=\operatorname {E} \left[X_{U}X_{U}^{\mathrm {'} }Y_{V}Y_{V}^{\mathrm {'} }\right]} 右辺が非負かつ有限である場合。最も重要な例は、U と V が期待値がゼロで共分散が| s | + | t | − | s − t | = 2 min( s , t ) (非負の s, t の場合のみ) である両側独立 ブラウン運動 /ウィーナー過程 である場合です。(これは標準ウィーナー過程の共分散の 2 倍です。ここでは係数 2 によって計算が簡略化されます。) この場合、( U , V ) の共分散は ブラウン共分散 と呼ばれ、次のように表されます。
カバー W ( X 、 Y ) 。 {\displaystyle \operatorname {cov} _{W}(X,Y).} 驚くべき偶然の一致がある。ブラウン運動の共分散は距離の共分散と同じである。
カバー W ( X 、 Y ) = dCov ( X 、 Y ) 、 {\displaystyle \operatorname {cov} _{\mathrm {W} }(X,Y)=\operatorname {dCov} (X,Y),} したがって、ブラウン運動の相関は 距離の相関と同じである。
一方、ブラウン運動を決定論的な恒等関数 id に置き換えると、Cov id ( X , Y ) は古典的なピアソン共分散の 絶対値に なります。
カバー 私 d ( X 、 Y ) = | カバー ( X 、 Y ) | 。 {\displaystyle \operatorname {cov} _{\mathrm {id} }(X,Y)=\left\vert \operatorname {cov} (X,Y)\right\vert .}
参考文献 Bickel, Peter J.; Xu, Ying (2009). "Discussion of: Brownian distance covariance" . The Annals of Applied Statistics . 3 (4): 1266– 1269. arXiv : 0912.3295 . doi : 10.1214/09-AOAS312A . ジニ、C. (1912)。可変性と可変性 。ボローニャ:ティポグラフィア・ディ・パオロ・クッピーニ。Bibcode : 1912vamu.book....G。 クレバノフ、LB(2005)。 N距離とその応用 。プラハ:カロリヌム出版 、カレル大学。ISBN 9788024611525 。 コソロック、マイケル R. (2009)。 「ブラウン距離共分散に関する議論」。応用統計年報 。3 (4 ) : 1270–1278。arXiv : 1010.0822 。土井 :10.1214/09-AOAS312B。S2CID 88518490。 Lyons, Russell (2014). 「距離空間における距離共変性」. The Annals of Probability . 41 (5): 3284–3305 . arXiv : 1106.5758 . doi : 10.1214 /12-AOP803 . S2CID 73677891 . Pearson, K. ( 1895a). 「両親がいる場合の退行と遺伝に関する注記」。王立協会紀要 。58 : 240–242。Bibcode : 1895RSPS ...58..240P。 Pearson, K. (1895b). 「相関の歴史に関する覚書」 . Biometrika . 13 : 25–45 . doi : 10.1093/biomet/13.1.25 . Rizzo, Maria; Székely, Gábor (2021-02-22). "energy: E-Statistics: Multivariate Inference via the Energy of Data" . バージョン: 1.7-8 . 2021-10-31 に取得. Székely, Gábor J.; Rizzo, Maria L.; Bakirov, Nail K. (2007). "距離の相関による独立性の測定と検定". The Annals of Statistics . 35 (6): 2769– 2794. arXiv : 0803.4101 . doi : 10.1214/009053607000000505 . S2CID 5661488 . Székely, Gábor J.; Rizzo, Maria L. (2009a). "ブラウン距離共分散" . The Annals of Applied Statistics . 3 (4): 1236– 1265. doi : 10.1214/09-AOAS312 . PMC 2889501 . PMID 20574547 . セーケリー、ガボール J.リゾ、マリア L. (2009b)。「リジョインダー: ブラウン距離共分散」。応用統計年報 。3 (4 ) : 1303–1308。arXiv : 1010.0844 。土井 :10.1214/09-AOAS312REJ 。 Székely, Gábor J.; Rizzo, Maria L. (2012). "距離共分散の一意性について". Statistics & Probability Letters . 82 (12): 2278–2282 . doi : 10.1016/j.spl.2012.08.007 . Székely, Gabor J.; Rizzo, Maria L. (2014). "Partial Distance Correlation with Methods for Dissimilarities". The Annals of Statistics . 42 (6): 2382–2412 . arXiv : 1310.2926 . Bibcode : 2014arXiv1310.2926S . doi : 10.1214/14-AOS1255 . S2CID 55801702 .