共分散と相関

確率論と統計学では、共分散と相関という数学的概念は非常によく似ています。^{[ 1 ] [ 2 ]}どちらも、2つの確率変数または確率変数の集合が、期待値から同様の方法で逸脱する傾向の度合いを表します。

XとY_がそれぞれ平均（期待値）μXとμY _、標準偏差σXと_σYを持つ2_つの確率変数である場合、それらの共分散と相関は次のようになります。

共分散

${\displaystyle {\text{cov}}_{XY}=\sigma _{XY}=E[(X-\mu _{X})\,(Y-\mu _{Y})]}$

相関

${\displaystyle {\text{corr}}_{XY}=\rho _{XY}=E[(X-\mu _{X})\,(Y-\mu _{Y})]/(\sigma _{X}\sigma _{Y})\,,}$

となることによって $${\displaystyle \rho _{XY}=\sigma _{XY}/(\sigma _{X}\sigma _{Y})}$$

ここで、 Eは期待値演算子である。なお、相関は無次元量であるのに対し、共分散は2つの変数の単位を掛け合わせることで得られる単位で表される。

Yが常にXと同じ値を取る場合、変数とそれ自身との共分散が得られます（つまり$\displaystyle \sigma _{XX}}$これは分散と呼ばれ、より一般的には次のように表されます。${\displaystyle \sigma _{X}^{2},}$標準偏差の二乗。変数とそれ自身との相関 は常に1 です (ただし、X が常に同じ単一の値をとるため、2 つの分散がゼロになる退化ケースは除きます。この場合、相関の計算には0 による除算が含まれるため、相関は存在しません)。より一般的には、2 つの変数間の相関は、一方の変数が常に他方の変数の線形関数によって正確に与えられる値をとる場合、1 (または -1) になります。線形関数の傾きはそれぞれ正 (または負) です。

理論的な共分散と相関の値は上記のように関連付けられているが、これらの量の標本推定値の確率分布は単純な方法で関連付けられているわけではなく、一般的には別々に扱う必要がある。

1 を超える任意の数のランダム変数がある場合、それらの変数をランダムベクトルに積み重ねることができ、そのi^番目の要素はi^番目のランダム変数になります。次に、分散と共分散を共分散行列に配置することができ、その ( i , j ) 要素はi^{番目のランダム変数と}j^番目のランダム変数の間の共分散になります。同様に、相関を相関行列に配置することができます。

広義の定常時系列の場合、平均と分散は時間を通じて一定です（E( X _n+m ) = E( X _n ) = μ _Xおよび var( X _n+m ) = var( X _n ) であり、変数Yについても同様です）。この場合、相互共分散と相互相関は時間差の関数となります。

相互共分散

${\displaystyle \sigma _{XY}(m)=E[(X_{n}-\mu _{X})\,(Y_{n+m}-\mu _{Y})],}$

相互相関

${\displaystyle \rho _{XY}(m)=E[(X_{n}-\mu _{X})\,(Y_{n+m}-\mu _{Y})]/(\sigma _{X}\sigma _{Y}).}$

YがXと同じ変数である場合、上記の式は自己共分散と自己相関と呼ばれます。

自己共分散

${\displaystyle \sigma _{XX}(m)=E[(X_{n}-\mu _{X})\,(X_{n+m}-\mu _{X})],}$

自己相関

${\displaystyle \rho _{XX}(m)=E[(X_{n}-\mu _{X})\,(X_{n+m}-\mu _{X})]/(\sigma _{X}^{2}).}$