ピアソン相関係数

統計学において、ピアソン相関係数（PCC）^[a]は、2つのデータ セット間の線形相関を測定する相関係数です。これは、 2 つの変数の共分散とそれらの標準偏差の積の比率です。したがって、本質的には共分散の正規化された測定値であり、結果は常に -1 から 1 の間の値になります。共分散自体と同様に、この測定値は変数の線形相関のみを反映でき、他の多くの種類の関係や相関は無視されます。簡単な例として、小学校の児童のサンプルの年齢と身長のピアソン相関係数は、0 より大幅に大きく 1 より小さいことが予想されます (1 は非現実的に完全な相関を表すため)。

これは、1880年代にフランシス・ゴルトンが提唱した関連するアイデアからカール・ピアソンが発展させたもので、その数式は1844年にオーギュスト・ブラヴェによって導出され発表された。 ^{[b] [6] [7] [8] [9]}このように、係数の命名はスティグラーの法則の一例である。

相関係数は、2組のx座標データとy座標データを表す2点間の角度の余弦を考慮することによって導き出すことができます。^[10]したがって、この式は-1から1の間の数値であり、すべての点が直線上にある場合は1に等しくなります。

ピアソンの相関係数は、2 つの変数の共分散をそれらの標準偏差の積で割ったものです。定義の形式には「積モーメント」、つまり平均調整されたランダム変数の積の平均 (原点に関する第 1 モーメント)が含まれます。そのため、名前に「積モーメント」という修飾語が付いています。 ^{[検証が必要]}

ピアソンの相関係数は、母集団に適用される場合、一般的にギリシャ文字ρ （ロー）で表され、母集団相関係数または母集団ピアソン相関係数と呼ばれることもあります。ランダム変数のペア（たとえば、身長と体重）が与えられた場合、 ρ ^[11]の式は^[12]です。${\displaystyle (X,Y)}$

$${\displaystyle \rho _{X,Y}={\frac {\operatorname {cov} (X,Y)}{\sigma _{X}\sigma _{Y}}}}$$

どこ

• ${\displaystyle \operatorname {cov} }$共分散は
• ${\displaystyle \sigma _{X}}$標準偏差 は${\displaystyle X}$
• ${\displaystyle \sigma _{Y}}$は標準偏差です 。${\displaystyle Y}$

の式は平均と期待値で表すことができる。^[11]${\displaystyle \operatorname {cov} (X,Y)}$

${\displaystyle \operatorname {cov} (X,Y)=\operatorname {\mathbb {E} } [(X-\mu _{X})(Y-\mu _{Y})],}$

の式は次のようにも書ける。 ${\displaystyle \rho }$

$${\displaystyle \rho _{X,Y}={\frac {\operatorname {\mathbb {E} } [(X-\mu _{X})(Y-\mu _{Y})]}{\sigma _{X}\sigma _{Y}}}}$$

どこ

• ${\displaystyle \sigma _{Y}}$そして上記のように定義される${\displaystyle \sigma _{X}}$
• ${\displaystyle \mu _{X}}$の平均は${\displaystyle X}$
• ${\displaystyle \mu _{Y}}$の平均は${\displaystyle Y}$
• ${\displaystyle \operatorname {\mathbb {E} } }$期待です。

の式は非中心モーメントで表すことができます。 ${\displaystyle \rho }$

${\displaystyle {\begin{aligned}\mu _{X}={}&\operatorname {\mathbb {E} } [\,X\,]\\\mu _{Y}={}&\operatorname {\mathbb {E} } [\,Y\,]\\\sigma _{X}^{2}={}&\operatorname {\mathbb {E} } \left[\,\left(X-\operatorname {\mathbb {E} } [X]\right)^{2}\,\right]=\operatorname {\mathbb {E} } \left[\,X^{2}\,\right]-\left(\operatorname {\mathbb {E} } [\,X\,]\right)^{2}\\\sigma _{Y}^{2}={}&\operatorname {\mathbb {E} } \left[\,\left(Y-\operatorname {\mathbb {E} } [Y]\right)^{2}\,\right]=\operatorname {\mathbb {E} } \left[\,Y^{2}\,\right]-\left(\,\operatorname {\mathbb {E} } [\,Y\,]\right)^{2}\\&\operatorname {\mathbb {E} } [\,\left(X-\mu _{X}\right)\left(Y-\mu _{Y}\right)\,]=\operatorname {\mathbb {E} } [\,\left(X-\operatorname {\mathbb {E} } [\,X\,]\right)\left(Y-\operatorname {\mathbb {E} } [\,Y\,]\right)\,]=\operatorname {\mathbb {E} } [\,X\,Y\,]-\operatorname {\mathbb {E} } [\,X\,]\operatorname {\mathbb {E} } [\,Y\,]\,,\end{aligned}}}$

の式は次のようにも書ける。 ${\displaystyle \rho }$$${\displaystyle \rho _{X,Y}={\frac {\operatorname {\mathbb {E} } [\,X\,Y\,]-\operatorname {\mathbb {E} } [\,X\,]\operatorname {\mathbb {E} } [\,Y\,]}{{\sqrt {\operatorname {\mathbb {E} } \left[\,X^{2}\,\right]-\left(\operatorname {\mathbb {E} } [\,X\,]\right)^{2}}}~{\sqrt {\operatorname {\mathbb {E} } \left[\,Y^{2}\,\right]-\left(\operatorname {\mathbb {E} } [\,Y\,]\right)^{2}}}}}.}$$

ピアソンの相関係数は、標本に適用された場合、一般的には で表され、標本相関係数または標本ピアソン相関係数と呼ばれることもあります。標本に基づく共分散と分散の推定値を上記の式に代入すると、の式が得られます。ペアで構成されるペアデータを考えると、は次のように定義されます 。${\displaystyle r_{xy}}$${\displaystyle r_{xy}}$${\displaystyle \left\{(x_{1},y_{1}),\ldots ,(x_{n},y_{n})\right\}}$${\displaystyle n}$${\displaystyle r_{xy}}$

$${\displaystyle r_{xy}={\frac {\sum _{i=1}^{n}(x_{i}-{\bar {x}})(y_{i}-{\bar {y}})}{{\sqrt {\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}}}{\sqrt {\sum _{i=1}^{n}(y_{i}-{\bar {y}})^{2}}}}}}$$

どこ

• ${\displaystyle n}$サンプルサイズは
• ${\displaystyle x_{i},y_{i}}$個々のサンプルポイントはiでインデックス付けされる
• ${\textstyle {\bar {x}}={\frac {1}{n}}\sum _{i=1}^{n}x_{i}}$（標本平均）； についても同様です。${\displaystyle {\bar {y}}}$

整理すると次の式が得られる^[11]。 ${\displaystyle r_{xy}}$

${\displaystyle r_{xy}={\frac {\sum _{i}x_{i}y_{i}-n{\bar {x}}{\bar {y}}}{{\sqrt {\sum _{i}x_{i}^{2}-n{\bar {x}}^{2}}}~{\sqrt {\sum _{i}y_{i}^{2}-n{\bar {y}}^{2}}}}},}$

ここで、は上記のように定義されます。 ${\displaystyle n,x_{i},y_{i},{\bar {x}},{\bar {y}}}$

もう一度整理すると、次の式が得られます。 ${\displaystyle r_{xy}}$

${\displaystyle r_{xy}={\frac {n\sum x_{i}y_{i}-\sum x_{i}\sum y_{i}}{{\sqrt {n\sum x_{i}^{2}-\left(\sum x_{i}\right)^{2}}}~{\sqrt {n\sum y_{i}^{2}-\left(\sum y_{i}\right)^{2}}}}},}$

ここで、は上記のように定義されます。 ${\displaystyle n,x_{i},y_{i}}$

この式は、サンプル相関を計算するための便利なシングルパスアルゴリズムを示唆していますが、関係する数値によっては数値的に不安定になる場合があります。

同等の表現は、標準スコアの積の平均としてのの式を次のように与えます。 ${\displaystyle r_{xy}}$

${\displaystyle r_{xy}={\frac {1}{n-1}}\sum _{i=1}^{n}\left({\frac {x_{i}-{\bar {x}}}{s_{x}}}\right)\left({\frac {y_{i}-{\bar {y}}}{s_{y}}}\right)}$

どこ

• ${\displaystyle n,x_{i},y_{i},{\bar {x}},{\bar {y}}}$は上記のように定義され、以下のように定義される${\displaystyle s_{x},s_{y}}$
• ${\textstyle \left({\frac {x_{i}-{\bar {x}}}{s_{x}}}\right)}$は標準得点です（ の標準得点についても同様です）。${\displaystyle y}$

の代替式も利用できます。たとえば、 には次の式を使用できます。 ${\displaystyle r_{xy}}$${\displaystyle r_{xy}}$

${\displaystyle r_{xy}={\frac {\sum x_{i}y_{i}-n{\bar {x}}{\bar {y}}}{(n-1)s_{x}s_{y}}}}$

どこ

• ${\displaystyle n,x_{i},y_{i},{\bar {x}},{\bar {y}}}$上記のように定義され、
• ${\textstyle s_{x}={\sqrt {{\frac {1}{n-1}}\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}}}}$(標本標準偏差)。 についても同様です。${\displaystyle s_{y}}$

が平均 0、分散の共分散正規分布である場合、 となります。 ${\displaystyle (X,Y)}$ ${\displaystyle \Sigma }$${\displaystyle \Sigma ={\begin{bmatrix}\sigma _{X}^{2}&\rho _{X,Y}\sigma _{X}\sigma _{Y}\\\rho _{X,Y}\sigma _{X}\sigma _{Y}&\sigma _{Y}^{2}\\\end{bmatrix}}}$

ノイズが多い状況では、2組の確率変数間の相関係数の抽出は簡単ではありません。特に、正準相関分析では、ノイズの影響が大きいために相関値が低下していることが報告されています。このアプローチの一般化については、別の場所で説明されています。^[13]

欠損データがある場合、ギャレンは最大尤度推定値を導出した。^[14]

一部の分布（正規分布以外の安定した分布など）には定義された分散がありません。

標本と母集団のピアソン相関係数の値はどちらも -1 から 1 の間です。+1 または -1 に等しい相関は、データ ポイントが正確に直線上にあること (標本相関の場合)、または 2 変量分布が直線上に完全に配置されていること(母集団相関の場合) に対応します。ピアソン相関係数は対称です: corr( X , Y ) = corr( Y , X )。

ピアソン相関係数の重要な数学的特性は、2 つの変数の位置とスケールが別々に変化しても不変であることです。つまり、相関係数を変更せずに、 X をa + bXに変換し、Y をc + dYに変換できます(ここで、a、b、c、およびd は定数で、b、d > 0です)。(これは、母集団と標本の両方のピアソン相関係数に当てはまります。) より一般的な線形変換では相関が変わります。この応用については、 § n 個のランダム変数の相関解除を参照してください。

相関係数の範囲は -1 から 1 です。絶対値がちょうど 1 の場合、線形方程式がXとYの関係を完全に表し、すべてのデータ ポイントが直線上に並んでいることを意味します。相関の符号は回帰の傾きによって決定されます。値が +1 の場合、すべてのデータ ポイントが、 Xが増加するとY が増加する直線上に並んでいることを意味し、値が -1 の場合、 Yは増加するがX は減少する直線上に並んでいることを意味します。^[15]値が 0 の場合、変数間に線形依存関係がないことを意味します。^[16]

より一般的には、( X _i − X )( Y _i − Y )は、 X _iとY _{i が}それぞれの平均値の同じ側にある場合にのみ正になります。したがって、 X _iとY _{i が}それぞれの平均値よりも同時に大きくなるか、同時に小さくなる傾向がある場合、相関係数は正になります。X _iとY _{i が}それぞれの平均値の反対側にある傾向がある場合、相関係数は負 (反相関)になります。さらに、どちらかの傾向が強いほど、相関係数の 絶対値は大きくなります。

ロジャースとナイスワンダー^[17]は相関関係またはその単純な関数を解釈する13の方法を分類しました。

• 生のスコアと平均値の機能
• 標準化共分散
• 回帰直線の標準化された傾き
• 2つの回帰勾配の幾何平均
• 2つの分散の比の平方根
• 標準化変数の平均積
• 2つの標準化回帰直線間の角度の関数
• 2つの変数ベクトル間の角度の関数
• 標準化スコア間の差の再スケール分散
• バルーンルールから推定
• 等濃度の二変量楕円に関連する
• 計画された実験からの検定統計量の関数
• 2つの平均の比率

非中心化データの場合、相関係数と、それぞれyをxに回帰させて得られるy = g _X ( x )とx = g _Y ( y )の2 つの回帰直線間の角度φとの間に関係があります。 (ここで、φは、 r > 0の場合は直線の交点の周りに形成される第 1 象限内で反時計回りに測定され、 r < 0の場合は第 4 象限から第 2 象限まで反時計回りに測定されます。) ^{[18]では、標準偏差が等しい場合}、r = sec φ − tan φであることが示されています。ここで、 sec と tan は三角関数です。

中心化データ（すなわち、各変数の標本平均によってシフトされ、各変数の平均がゼロになるデータ）の場合、相関係数は、N次元空間（各変数のN回の観測）における2つの観測ベクトル間の角度θの余弦として見ることもできる。^[19]

データセットに対して、非中心化 (ピアソン非準拠) 相関係数と中心化相関係数の両方を決定で​​きます。例として、5 か国の国民総生産がそれぞれ 10 億ドル、20 億ドル、30 億ドル、50 億ドル、80 億ドルであるとします。これらの同じ 5 か国 (同じ順序) の貧困率が 11%、12%、13%、15%、18% であるとします。次に、xとyを上記のデータを含む順序付けられた 5 要素ベクトルとします。x = (1, 2, 3, 5, 8)、y = (0.11, 0.12, 0.13, 0.15, 0.18)。

2つのベクトル間の角度θを求める通常の手順（ドット積を参照）により、非中心相関係数は

${\displaystyle \cos \theta ={\frac {\mathbf {x} \cdot \mathbf {y} }{\left\|\mathbf {x} \right\|\left\|\mathbf {y} \right\|}}={\frac {2.93}{{\sqrt {103}}{\sqrt {0.0983}}}}=0.920814711.}$

この非中心相関係数はコサイン類似度と同一である。上記のデータは、完全に相関するように意図的に選択された：y = 0.10 + 0.01 x。したがって、ピアソン相関係数はちょうど1でなければならない。データを中心化すると（xをℰ( x ) = 3.8、yをℰ( y ) = 0.138シフト） 、 x = (−2.8, −1.8, −0.8, 1.2, 4.2)、y = (−0.028, −0.018, −0.008, 0.012, 0.042)となり、

${\displaystyle \cos \theta ={\frac {\mathbf {x} \cdot \mathbf {y} }{\left\|\mathbf {x} \right\|\left\|\mathbf {y} \right\|}}={\frac {0.308}{{\sqrt {30.8}}{\sqrt {0.00308}}}}=1=\rho _{xy},}$

予想通り。

相関係数の解釈については、いくつかの著者がガイドラインを提示している。^{[20] [21]}しかし、そのような基準はどれも、ある意味では恣意的である。^[21]相関係数の解釈は、状況と目的によって異なる。高品質の機器を使用して物理法則を検証している場合、相関係数0.8は非常に低い可能性があるが、複雑な要因の寄与が大きい可能性がある社会科学では非常に高いとみなされる可能性がある。

ピアソンの相関係数に基づく統計的推論は、多くの場合、次の 2 つの目的のいずれかに焦点を当てます。

• 1 つの目的は、サンプル相関係数rの値に基づいて、真の相関係数ρが 0 に等しいという帰無仮説を検定することです。
• もう一つの目的は、繰り返しサンプリングを行ったときに、 ρ が含まれる確率が与えられた信頼区間を導出することです。

これらの目的の 1 つまたは両方を達成する方法については、以下で説明します。

順列検定は、仮説検定を実行し、信頼区間を構築するための直接的なアプローチを提供します。ピアソンの相関係数の順列検定には、次の 2 つの手順が含まれます。

1. 元のペアデータ ( x _i、  y _i ) を使用して、ペアをランダムに再定義し、新しいデータセット ( x _i、  y _i′ ) を作成します。ここで、i′はセット {1,..., n } の順列です。順列i′は、すべてのn ! 個の可能な順列に等しい確率でランダムに選択されます。これは、セット {1, ..., n } からi′ をランダムに非置換で抽出することと同じです。密接に関連するアプローチであるブートストラップでは、iとi′ は等しく、{1, ..., n }から置換して抽出されます。
2. ランダム化されたデータから相関係数rを構築します。

順列検定を実行するには、手順 (1) と (2) を何度も繰り返します。順列検定のp 値は、手順 (2) で生成されたr値のうち、元のデータから計算されたピアソン相関係数よりも大きい値の割合です。ここで「大きい」とは、両側検定または片側検定のどちらが望ましいかに応じて、値の大きさが大きいか、または符号付き値が大きいかのいずれかを意味します。

ブートストラップは、ピアソンの相関係数の信頼区間を作成するために使用できます。「ノンパラメトリック」ブートストラップでは、n組の観測セットからn組 ( x _i、  y _i ) が「置換」で再サンプリングされ、再サンプリングされたデータに基づいて相関係数rが計算されます。このプロセスは多数回繰り返され、再サンプリングされたr値の経験分布を使用して、統計のサンプリング分布を近似します。ρの95%信頼区間は、再サンプリングされたr値の2.5 パーセンタイルから 97.5パーセンタイルまでの区間として定義できます。

とがランダム変数で、それらの間には加法正規ノイズを伴う単純な線形関係（すなわち、y= a + bx + e）がある場合、相関に関連する 標準誤差は${\displaystyle x}$${\displaystyle y}$

${\displaystyle \sigma _{r}={\sqrt {\frac {1-r^{2}}{n-2}}}}$

ここで相関関係とサンプルサイズである。^{[22] [23]}${\displaystyle r}$${\displaystyle n}$

相関のない二変量正規分布からのペアの場合、スチューデント化されたピアソンの相関係数の標本分布は、自由度n − 2のスチューデントのt分布に従います 。具体的には、基礎となる変数が二変量正規分布である場合、変数

${\displaystyle t={\frac {r}{\sigma _{r}}}=r{\sqrt {\frac {n-2}{1-r^{2}}}}}$

は、ヌルケース（相関ゼロ）では学生のt分布に従う。 ^[24]これは、サンプルサイズが十分に大きい場合、非正規分布の観測値の場合にもほぼ当てはまる。^[25] rの臨界値を決定するには、逆関数が必要である。

${\displaystyle r={\frac {t}{\sqrt {n-2+t^{2}}}}.}$

あるいは、大規模なサンプルの漸近的アプローチを使用することもできます。

別の初期の論文^{[26]では、小さなサンプルサイズでの}ρの一般的な値のグラフと表が提供され、計算手法が議論されています。

基礎変数が正規分布でない場合、ピアソンの相関係数の標本分布はスチューデントのt分布に従うが、自由度は減少する。^[27]

二変量正規分布に従うデータの場合、二変量正規分布の標本相関係数 rの正確な密度関数f ( r )は^{[28] [29] [30]である。}

${\displaystyle f(r)={\frac {(n-2)\,\mathrm {\Gamma } (n-1)\left(1-\rho ^{2}\right)^{\frac {n-1}{2}}\left(1-r^{2}\right)^{\frac {n-4}{2}}}{{\sqrt {2\pi }}\,\operatorname {\Gamma } {\mathord {\left(n-{\tfrac {1}{2}}\right)}}(1-\rho r)^{n-{\frac {3}{2}}}}}{}_{2}\mathrm {F} _{1}{\mathord {\left({\tfrac {1}{2}},{\tfrac {1}{2}};{\tfrac {1}{2}}(2n-1);{\tfrac {1}{2}}(\rho r+1)\right)}}}$

ここで はガンマ関数であり、 はガウス超幾何関数です。 ${\displaystyle \Gamma }$${\displaystyle {}_{2}\mathrm {F} _{1}(a,b;c;z)}$

（集団相関がゼロ）の特別なケースでは、正確な密度関数f（r）は次のように表される。 ${\displaystyle \rho =0}$

${\displaystyle f(r)={\frac {\left(1-r^{2}\right)^{\frac {n-4}{2}}}{\operatorname {\mathrm {B} } {\mathord {\left({\tfrac {1}{2}},{\tfrac {n-2}{2}}\right)}}}},}$

ここで、はベータ関数であり、これは上記のように、スチューデント化された標本の相関係数に対するスチューデントの t 分布の密度を記述する 1 つの方法です。 ${\displaystyle \mathrm {B} }$

信頼区間と信頼検定は信頼分布から計算できる。ρの正確な信頼密度は^[31]である。

$${\displaystyle \pi (\rho \mid r)={\frac {\nu (\nu -1)\Gamma (\nu -1)}{{\sqrt {2\pi }}\Gamma \left(\nu +{\frac {1}{2}}\right)}}\left(1-r^{2}\right)^{\frac {\nu -1}{2}}\cdot \left(1-\rho ^{2}\right)^{\frac {\nu -2}{2}}\cdot \left(1-r\rho \right)^{\frac {1-2\nu }{2}}\operatorname {F} \left({\tfrac {3}{2}},-{\tfrac {1}{2}};\nu +{\tfrac {1}{2}};{\tfrac {1+r\rho }{2}}\right)}$$

ここで はガウス超幾何関数であり、 です。 ${\displaystyle \operatorname {F} }$${\displaystyle \nu =n-1>1}$

実際には、ρに関連する信頼区間と仮説検定は、通常、分散安定化変換、フィッシャー変換を使用して実行されます。${\displaystyle F}$

${\displaystyle F(r)\equiv {\tfrac {1}{2}}\,\ln \left({\frac {1+r}{1-r}}\right)=\operatorname {artanh} (r)}$

F ( r ) は、近似的に正規分布に 従う。

${\displaystyle {\text{mean}}=F(\rho )=\operatorname {artanh} (\rho )}$    および標準誤差 ${\displaystyle ={\text{SE}}={\frac {1}{\sqrt {n-3}}},}$

ここで、nはサンプル サイズです。近似誤差はサンプル サイズが大きい場合に最も低くなり、小さい場合は大きくなります。 ${\displaystyle n}$${\displaystyle r}$${\displaystyle \rho _{0}}$

近似値を用いると、Zスコアは

${\displaystyle z={\frac {x-{\text{mean}}}{\text{SE}}}=[F(r)-F(\rho _{0})]{\sqrt {n-3}}}$

標本ペアが独立かつ同一に分布し、二変量正規分布に従うという仮定のもと、という帰無仮説の下では、 となります。したがって、正規確率表からおおよそのp 値を得ることができます。たとえば、z  = 2.2 が観測され、 という帰無仮説を検定するために両側 p 値が必要な場合、 p 値は2 Φ(−2.2) = 0.028となります。ここで、 Φ は標準正規累積分布関数です。 ${\displaystyle \rho =\rho _{0}}$${\displaystyle \rho =0}$

ρの信頼区間を得るために、まずF（） の信頼区間を計算します。${\displaystyle \rho }$

${\displaystyle 100(1-\alpha )\%{\text{CI}}:\operatorname {artanh} (\rho )\in [\operatorname {artanh} (r)\pm z_{\alpha /2}{\text{SE}}]}$

逆フィッシャー変換により、間隔は相関スケールに戻ります。

${\displaystyle 100(1-\alpha )\%{\text{CI}}:\rho \in [\tanh(\operatorname {artanh} (r)-z_{\alpha /2}{\text{SE}}),\tanh(\operatorname {artanh} (r)+z_{\alpha /2}{\text{SE}})]}$

たとえば、サンプルサイズn =50 でr = 0.7 が観測され、  ρの 95% 信頼区間を取得したいとします。変換された値は なので、変換されたスケールの信頼区間は、つまり (0.5814, 1.1532) です。相関スケールに戻すと、(0.5237, 0.8188) になります。 ${\textstyle \operatorname {arctanh} \left(r\right)=0.8673}$${\displaystyle 0.8673\pm {\frac {1.96}{\sqrt {47}}}}$

標本相関係数の2乗は、通常、r ^{2と表され、}決定係数の特殊なケースです。この場合、単純な線形回帰でXによって説明されるYの分散の割合を推定します。したがって、観測データセットと適合データセットがある場合、開始点として、平均値の周りのY _iの合計変動は次のように分解できます。 ${\displaystyle Y_{1},\dots ,Y_{n}}$${\displaystyle {\hat {Y}}_{1},\dots ,{\hat {Y}}_{n}}$

${\displaystyle \sum _{i}(Y_{i}-{\bar {Y}})^{2}=\sum _{i}(Y_{i}-{\hat {Y}}_{i})^{2}+\sum _{i}({\hat {Y}}_{i}-{\bar {Y}})^{2},}$

ここで、は回帰分析から得られた適合値である。これを整理すると、 ${\displaystyle {\hat {Y}}_{i}}$

${\displaystyle 1={\frac {\sum _{i}(Y_{i}-{\hat {Y}}_{i})^{2}}{\sum _{i}(Y_{i}-{\bar {Y}})^{2}}}+{\frac {\sum _{i}({\hat {Y}}_{i}-{\bar {Y}})^{2}}{\sum _{i}(Y_{i}-{\bar {Y}})^{2}}}.}$

上記の 2 つの加数は、 Xによって説明されるYの分散の割合(右) と、Xでは説明されない分散の割合(左) です。

次に、最小二乗回帰モデルの特性を適用します。これは、との間の標本共分散がゼロであるということです。したがって、回帰における観測値と適合応答値の間の標本相関係数は次のように表すことができます (計算は期待値の下で行われ、ガウス統計を仮定します)。 ${\displaystyle {\hat {Y}}_{i}}$${\displaystyle Y_{i}-{\hat {Y}}_{i}}$

${\displaystyle {\begin{aligned}r(Y,{\hat {Y}})&={\frac {\sum _{i}(Y_{i}-{\bar {Y}})({\hat {Y}}_{i}-{\bar {Y}})}{\sqrt {\sum _{i}(Y_{i}-{\bar {Y}})^{2}\cdot \sum _{i}({\hat {Y}}_{i}-{\bar {Y}})^{2}}}}\\[6pt]&={\frac {\sum _{i}(Y_{i}-{\hat {Y}}_{i}+{\hat {Y}}_{i}-{\bar {Y}})({\hat {Y}}_{i}-{\bar {Y}})}{\sqrt {\sum _{i}(Y_{i}-{\bar {Y}})^{2}\cdot \sum _{i}({\hat {Y}}_{i}-{\bar {Y}})^{2}}}}\\[6pt]&={\frac {\sum _{i}[(Y_{i}-{\hat {Y}}_{i})({\hat {Y}}_{i}-{\bar {Y}})+({\hat {Y}}_{i}-{\bar {Y}})^{2}]}{\sqrt {\sum _{i}(Y_{i}-{\bar {Y}})^{2}\cdot \sum _{i}({\hat {Y}}_{i}-{\bar {Y}})^{2}}}}\\[6pt]&={\frac {\sum _{i}({\hat {Y}}_{i}-{\bar {Y}})^{2}}{\sqrt {\sum _{i}(Y_{i}-{\bar {Y}})^{2}\cdot \sum _{i}({\hat {Y}}_{i}-{\bar {Y}})^{2}}}}\\[6pt]&={\sqrt {\frac {\sum _{i}({\hat {Y}}_{i}-{\bar {Y}})^{2}}{\sum _{i}(Y_{i}-{\bar {Y}})^{2}}}}.\end{aligned}}}$

したがって

${\displaystyle r(Y,{\hat {Y}})^{2}={\frac {\sum _{i}({\hat {Y}}_{i}-{\bar {Y}})^{2}}{\sum _{i}(Y_{i}-{\bar {Y}})^{2}}}}$

ここで、 はXの線形関数によって説明されるYの分散の割合です。 ${\displaystyle r(Y,{\hat {Y}})^{2}}$

上記の導出において、

${\displaystyle \sum _{i}(Y_{i}-{\hat {Y}}_{i})({\hat {Y}}_{i}-{\bar {Y}})=0}$

最小二乗モデルでは 残差二乗和（RSS）のβ0とβ1に対する偏微分が₀に等しいことに気づくことで証明できる。ここ_で

${\displaystyle {\text{RSS}}=\sum _{i}(Y_{i}-{\hat {Y}}_{i})^{2}}$。

結局、方程式は次のように書ける。

${\displaystyle r(Y,{\hat {Y}})^{2}={\frac {{\text{SS}}_{\text{reg}}}{{\text{SS}}_{\text{tot}}}}}$

どこ

• ${\displaystyle {\text{SS}}_{\text{reg}}=\sum _{i}({\hat {Y}}_{i}-{\bar {Y}})^{2}}$
• ${\displaystyle {\text{SS}}_{\text{tot}}=\sum _{i}(Y_{i}-{\bar {Y}})^{2}}$。

この記号は回帰二乗和、説明二乗和とも呼ばれ、二乗の合計和（データの 分散に比例）です。${\displaystyle {\text{SS}}_{\text{reg}}}$${\displaystyle {\text{SS}}_{\text{tot}}}$

母集団ピアソン相関係数はモーメントで定義されるため、母集団共分散が定義され、母集団の周辺分散が定義されて非ゼロである任意の二変量確率分布に対して存在します。コーシー分布などの一部の確率分布は分散が定義されていないため、XまたはY がそのような分布に従う場合、ρ は定義されません。裾の重い分布に従うと疑われるデータを含むアプリケーションなど、一部の実際のアプリケーションでは、これは重要な考慮事項です。ただし、相関係数の存在は通常は問題になりません。たとえば、分布の範囲が制限されている場合、ρ は常に定義されます。

• 標本サイズが中程度または大きく、母集団が正規分布である場合、二変量正規分布の場合には、標本相関係数は母集団相関係数の最尤推定値であり、漸近的に 不偏かつ効率的であり、これは大まかに言って、標本相関係数よりも正確な推定値を構築することは不可能であることを意味します。
• サンプル サイズが大きく、母集団が正規分布していない場合、サンプル相関係数はほぼ偏りのない状態を保ちますが、効率的ではない可能性があります。
• サンプル サイズが大きい場合、サンプル平均、分散、共分散が一貫している限り、サンプル相関係数は母集団相関係数の一貫した推定値になります (これは、大数の法則を適用できる場合に保証されます)。
• サンプルサイズが小さい場合、サンプル相関係数rはρの不偏推定値にはなりません。^[11]代わりに調整相関係数を使用する必要があります。定義についてはこの記事の他の部分を参照してください。
• サンプルに分散誤差がある場合、不均衡な二値データでは相関関係が異なる可能性がある。 ^[32]

一般的に使用される多くの統計と同様に、標本統計量 rは堅牢ではないため^[33]、外れ値が存在する場合、その値は誤解を招く可能性があります。^{[34] [35]}特に、PMCCは分布的に堅牢ではなく^[36]、外れ値耐性もありません^[33]（「堅牢な統計」§「定義」を参照）。XとYの間の散布図を調べると、通常、堅牢性の欠如が問題になる可能性がある状況が明らかになり、そのような場合には、関連の堅牢な尺度を使用することをお勧めします。 ただし、ほとんどの堅牢な関連性の推定値は、何らかの方法で統計的依存性を測定しますが、一般にピアソンの相関係数と同じスケールで解釈できるわけではないことに注意してください。

ピアソンの相関係数の統計的推論は、データ分布に敏感です。データがほぼ正規分布している場合は、正確検定とフィッシャー変換に基づく漸近検定を適用できますが、そうでない場合は誤解を招く可能性があります。状況によっては、ブートストラップを適用して信頼区間を構築したり、順列検定を適用して仮説検定を実行したりできます。これらの非パラメトリック手法は、二変量正規性が成立しない状況では、より有意義な結果をもたらす可能性があります。ただし、これらの手法の標準バージョンは、データの交換可能性に依存しています。つまり、分析対象のデータ ペアの順序付けやグループ化は行われず、相関推定値の動作に影響する可能性があります。

層別分析は、二変量正規性の欠如を補う、またはある要因から生じる相関関係を分離しながら別の要因を制御するための1つの方法です。Wがクラスターメンバーシップまたは制御することが望ましい別の要因を表す場合、Wの値に基づいてデータを層別化し、各層内の相関係数を計算できます。その後、層レベルの推定値を組み合わせて、 Wを制御しながら全体の相関関係を推定できます。^[37]

相関係数のバリエーションは、さまざまな目的に応じて計算できます。次に例をいくつか示します。

標本相関係数rはρの不偏推定値ではない。二変量正規分布に従うデータの場合、二変量正規分布の標本相関係数 rの期待値E[ r ]は^{[38]である。}

${\displaystyle \operatorname {\mathbb {E} } \left[r\right]=\rho -{\frac {\rho \left(1-\rho ^{2}\right)}{2n}}+\cdots ,\quad }$したがってrは偏った推定値である。${\displaystyle \rho .}$

最小分散不偏推定量r _adjは^[39]で与えられる。

どこ：

• ${\displaystyle r,n}$上記のように定義され、
• ${\displaystyle \mathbf {_{2}F_{1}} (a,b;c;z)}$はガウス超幾何関数です。

近似的に不偏な推定量r _adjは、 E[ r ]を切り捨ててこの切り捨てられた方程式を解くことによって得ることができる^{[引用が必要]}。

式（２） の近似解^{[要出典]は}

ここで（３）

• ${\displaystyle r,n}$上記のように定義され、
• r _{adj は}最適ではない推定量である。 ^{[引用が必要] [説明が必要]}
• r _adjはlog( f ( r ))を最大化することによっても得られる。
• r _adjはnの値が大きい場合に分散が最小となる。
• r _adjには1 ⁄ ( n − 1)のオーダーのバイアスがあります。

もう一つの提案された^[11]調整相関係数は^{[引用が必要]である。}

${\displaystyle r_{\text{adj}}={\sqrt {1-{\frac {(1-r^{2})(n-1)}{(n-2)}}}}.}$

nの値が大きい場合、  r _adj ≈ r となります。

相関関係にある観測値にはそれぞれ異なる重要度があり、重みベクトルwで表現できると仮定する。重みベクトルw（長さはすべて n）を使ってベクトルxとyの相関関係を計算するには、 ^{[40] [41]}

• 加重平均:$${\displaystyle \operatorname {m} (x;w)={\frac {\sum _{i}w_{i}x_{i}}{\sum _{i}w_{i}}}.}$$
• 加重共分散$${\displaystyle \operatorname {cov} (x,y;w)={\frac {\sum _{i}w_{i}\cdot (x_{i}-\operatorname {m} (x;w))(y_{i}-\operatorname {m} (y;w))}{\sum _{i}w_{i}}}.}$$
• 加重相関$${\displaystyle \operatorname {corr} (x,y;w)={\frac {\operatorname {cov} (x,y;w)}{\sqrt {\operatorname {cov} (x,x;w)\operatorname {cov} (y,y;w)}}}.}$$

反射相関はピアソンの相関の変形であり、データが平均値を中心にしていない。^[要出典]母集団反射相関は

${\displaystyle \operatorname {corr} _{r}(X,Y)={\frac {\operatorname {\mathbb {E} } [\,X\,Y\,]}{\sqrt {\operatorname {\mathbb {E} } [\,X^{2}\,]\cdot \operatorname {\mathbb {E} } [\,Y^{2}\,]}}}.}$

反射相関は対称的ですが、平行移動に対して不変ではありません。

${\displaystyle \operatorname {corr} _{r}(X,Y)=\operatorname {corr} _{r}(Y,X)=\operatorname {corr} _{r}(X,bY)\neq \operatorname {corr} _{r}(X,a+bY),\quad a\neq 0,b>0.}$

サンプル反射相関はコサイン類似度と同等です。

${\displaystyle rr_{xy}={\frac {\sum x_{i}y_{i}}{\sqrt {(\sum x_{i}^{2})(\sum y_{i}^{2})}}}.}$

サンプル反射相関の加重バージョンは

${\displaystyle rr_{xy,w}={\frac {\sum w_{i}x_{i}y_{i}}{\sqrt {(\sum w_{i}x_{i}^{2})(\sum w_{i}y_{i}^{2})}}}.}$

スケール相関はピアソンの相関の変形であり、データの範囲を意図的に制限し、制御された方法で時系列の高速成分間の相関を明らかにする。^[42]スケール相関は、データの短いセグメント間の平均相関として定義される。

与えられたスケールに対して信号の全長に収まるセグメントの数を とします。 ${\displaystyle K}$${\displaystyle T}$${\displaystyle s}$

${\displaystyle K=\operatorname {round} \left({\frac {T}{s}}\right).}$

信号全体にわたるスケール相関は次のように計算される。 ${\displaystyle {\bar {r}}_{s}}$

${\displaystyle {\bar {r}}_{s}={\frac {1}{K}}\sum \limits _{k=1}^{K}r_{k},}$

ここで、 はセグメント のピアソンの相関係数です。 ${\displaystyle r_{k}}$${\displaystyle k}$

パラメータを選択すると、値の範囲が狭まり、長い時間スケールの相関が除去され、短い時間スケールの相関のみが明らかになります。したがって、遅い成分の寄与は除去され、速い成分の寄与は保持されます。 ${\displaystyle s}$

2つの変数XとYの距離はピアソン距離と呼ばれ、相関係数から次のように定義される^[43]。

${\displaystyle d_{X,Y}=1-\rho _{X,Y}.}$

ピアソン相関係数が[-1, +1]の間にあることを考慮すると、ピアソン距離は[0, 2]にあります。ピアソン距離は、ゲインとオフセットが不明な通信やストレージのクラスター分析やデータ検出に使用されています。^[44]

このように定義されたピアソンの「距離」は、負の相関に 1 より大きい距離を割り当てます。実際には、強い正の相関と負の相関の両方が意味を持つため、ピアソンの「距離」を最近傍アルゴリズムに使用する場合は注意が必要です。このアルゴリズムは正の相関を持つ近傍のみを含め、負の相関を持つ近傍を除外します。代わりに、絶対値の距離 を適用して、正の相関と負の相関の両方を考慮することもできます。正の関連性と負の関連性に関する情報は、後で個別に抽出できます。 ${\displaystyle d_{X,Y}=1-|\rho _{X,Y}|}$

単位円[0, 2π)上で定義された変数X = { x ₁ ,..., x _n }とY = { y ₁ ,..., y _n }に対して、ピアソン係数の円類似体を定義することが可能である。^{[45]これは、} XとYのデータポイントを正弦関数で変換することによって行われ、相関係数は次のように与えられる。

${\displaystyle r_{\text{circular}}={\frac {\sum _{i=1}^{n}\sin(x_{i}-{\bar {x}})\sin(y_{i}-{\bar {y}})}{{\sqrt {\sum _{i=1}^{n}\sin(x_{i}-{\bar {x}})^{2}}}{\sqrt {\sum _{i=1}^{n}\sin(y_{i}-{\bar {y}})^{2}}}}}}$

ここで、 および はXと Yの円平均です。この測定は、データの角度方向が重要な気象学などの分野で役立ちます。 ${\displaystyle {\bar {x}}}$${\displaystyle {\bar {y}}}$

母集団またはデータ セットが 2 つ以上の変数によって特徴付けられる場合、偏相関係数は、他の変数の選択されたサブセットの変化に応じて両方の変数が変化する方法では説明されない、変数のペア間の依存関係の強さを測定します。

2つの観測量とに対して、二部量子系におけるピアソン相関係数は次のように定義される^{[46] [47]}${\displaystyle X}$${\displaystyle Y}$

${\displaystyle \mathbb {Cor} (X,Y)={\frac {\mathbb {E} [X\otimes Y]-\mathbb {E} [X]\cdot \mathbb {E} [Y]}{\sqrt {\mathbb {V} [X]\cdot \mathbb {V} [Y]}}}\,,}$

どこ

• ${\displaystyle \mathbb {E} [X]}$は観測量の期待値であり、${\displaystyle X}$
• ${\displaystyle \mathbb {E} [Y]}$は観測量の期待値であり、${\displaystyle Y}$
• ${\displaystyle \mathbb {E} [X\otimes Y]}$は観測量の期待値であり、${\displaystyle X\otimes Y}$
• ${\displaystyle \mathbb {V} [X]}$は観測量の分散であり、${\displaystyle X}$
• ${\displaystyle \mathbb {V} [Y]}$観測可能な値の分散です。${\displaystyle Y}$

${\displaystyle \mathbb {Cor} (X,Y)}$は対称的、すなわち、であり、その絶対値はアフィン変換に対して不変である。 ${\displaystyle \mathbb {Cor} (X,Y)=\mathbb {Cor} (Y,X)}$

変数間の関係が非線形であっても、データ変換を使用することで、任意の数のランダム変数のすべてのペア間の相関関係を常に除去することができます。人口分布に対するこの結果のプレゼンテーションは、CoxとHinkleyによって提供されています。^[48]

標本相関をゼロに減らすための対応する結果も存在します。n個のランダム変数のベクトルがm回観測されるとします。X を、観測iのj番目の変数である行列とします。をすべての要素が 1 である m 行 m 列の正方行列とします。D はすべてのランダム変数の平均がゼロになるように変換されたデータであり、Tはすべての変数の平均がゼロで、他のすべての変数との相関がゼロになるように変換されたデータです。Tの標本相関行列は単位行列になります。単位分散を得るには、これをさらに標準偏差で割る必要があります。変換された変数は、独立していない場合でも相関がなくなります。 ${\displaystyle X_{i,j}}$${\displaystyle Z_{m,m}}$

${\displaystyle D=X-{\frac {1}{m}}Z_{m,m}X}$

${\displaystyle T=D(D^{\mathsf {T}}D)^{-{\frac {1}{2}}},}$

ここで、指数は−+1 ⁄ 2 は、行列の逆行列の平方根を表します。 Tの相関行列は単位行列になります。新しいデータ観測x がn要素の行ベクトルである、同じ変換をxに適用して、変換されたベクトルdとtを取得できます。

${\displaystyle d=x-{\frac {1}{m}}Z_{1,m}X,}$

${\displaystyle t=d(D^{\mathsf {T}}D)^{-{\frac {1}{2}}}.}$

この無相関は、多変量データの 主成分分析に関連しています。

• Rの統計基本パッケージは、相関係数をcor(x, y)、または (P 値も含め) cor.test(x, y) で実装します。
• pearsonr(x, y) 経由のSciPy Pythonライブラリ。
• Pandas Pythonライブラリは、メソッドpandas.DataFrame.corrのデフォルトオプションとしてピアソン相関係数の計算を実装しています。
• Wolfram Mathematica のCorrelation 関数、または (P 値を使用して) CorrelationTest を使用します。
• correlation_coefficient 関数を介したBoost C ++ライブラリ。
• Excel には、ピアソンの相関係数を計算するための correl(array1, array2) 関数が組み込まれています。

• アンスコムの四重奏団
• 協会（統計）
• コリゲーション係数
  • ユールのQ
  • ユールのY
• 多重相関係数
• 一致相関係数
• 相関と依存性
• 相関比
• 減衰
• 距離相関
• 最大情報係数
• 多重相関
• 正規分布と無相関は独立性を意味するものではない
• オッズ比
• 部分相関
• ポリコリック相関
• 象限カウント比
• RV係数
• スピアマンの順位相関係数

• 「ココ」。比較相関関係.org 。– 重複変数または非重複変数を持つ 2 つの従属または独立相関の統計的比較を行うための無料の Web インターフェイスと R パッケージ。
• 「相関関係」。nagysandor.eu。– 2 つの正規分布変数の相関関係に関するインタラクティブな Flash シミュレーション。
• 「相関係数計算機」。hackmath.net。線形回帰。
• 「ピアソンの相関係数の臨界値」(PDF)。frank.mtsu.edu /~dkfuller。– 大きなテーブル。
• 「相関関係を推測する」。– 相関の概念をより深く理解するために、散布図内の 2 つの変数の相関関係を推測するゲームです。