
統計学において、相関とは、2 つの確率変数または二変量データ間の統計的関係の一種です。通常、相関とは、一対の量が線形的に関連している程度を指します。より一般的には、変数間の任意の関係は関連性と呼ばれ、一方の変動が他方によってどの程度説明できるかを意味します。[ 1 ] [ 2 ]
相関関係が存在するからといって、因果関係が存在すると推論するには不十分であり、これはしばしば「相関関係は因果関係を意味しない」と述べられます。さらに、相関関係の概念は依存関係とは異なります。2つの変数が独立であれば、それらは無相関ですが、その逆は必ずしも真ではありません。2つの変数が無相関であっても、互いに依存している可能性があるのです。
相関関係は、実際に活用できる予測的な関係性を示すことができるため、有用です。例えば、電力会社は、電力需要と天候の相関関係に基づいて、穏やかな日には発電量を減らすかもしれません。この例では、異常気象によって人々が暖房や冷房のために電力をより多く消費するため、因果関係が存在します。
相関を測定するために使用できる相関係数はいくつかあり、しばしば次のように表されます。または最も一般的なのはピアソン相関係数で、これは2つの変数間の線形関係にのみ敏感です(ただし、一方の変数が他方の非線形関数である場合でも線形関係が存在する可能性があります)。ピアソン相関係数よりも頑健で、変数間の構造化されていない関係を検出するために、スピアマンの順位相関係数などの他の相関係数が開発されました。[ 3 ] [ 4 ] [ 5 ]
The concept has been generalized to other forms of association between two variables, such as mutual information and distance covariance.

The most familiar measure of dependence between two quantities is the Pearson product-moment correlation coefficient, most commonly called 'Pearson's correlation coefficient' or simply 'the correlation coefficient' (as it is the most common variant). It is obtained by taking the ratio of the covariance between two variables of a numerical dataset normalized to the square root of their variances. Equivalently, Pearson's correlation coefficient can be calculated by dividing the covariance of the two variables by the product of their standard deviations. Karl Pearson developed the coefficient from a similar idea by Francis Galton.[6]
A Pearson product-moment correlation coefficient attempts to establish a line of best fit through a dataset of two variables by essentially laying out the expected values and the resulting Pearson's correlation coefficient indicates how far away the actual dataset is from the expected values. Depending on the sign of the Pearson's correlation coefficient, the result can be either a negative or positive correlation if there is any sort of relationship between the variables in the data set.
The population correlation coefficient between two random variables and with expected values and and standard deviations and is defined as:
where is the expected value operator, means covariance, and is a widely used alternative notation for the correlation coefficient. The Pearson correlation is defined only if both standard deviations are finite and positive. An alternative formula purely in terms of moments is:
It is a corollary of the Cauchy–Schwarz inequality that the absolute value of the Pearson correlation coefficient is not bigger than 1. Therefore, the value of a correlation coefficient ranges between −1 and +1. The correlation coefficient is +1 in the case of a perfect direct (increasing) linear relationship (correlation), −1 in the case of a perfect inverse (decreasing) linear relationship (anti-correlation),[7] and some value in the open intervalその他のすべての場合において、変数間の線形依存性の度合いを示します。値がゼロに近づくほど、関係性は弱まります(無相関に近づきます)。係数が-1または1に近いほど、変数間の相関は強くなります。
変数が独立している場合、ピアソンの相関係数は0になります。しかし、相関係数は2つの変数間の線形関係のみを検出するため、その逆は必ずしも真ではありません。相関係数が0だからといって、変数が独立しているとは限りません。
例えば、確率変数はゼロを中心に対称に分布しており、。 それから完全に決定されます、 となることによってそしては完全に依存しているが、相関はゼロである。つまり、無相関である。ただし、特別な場合、そしてこれらは共同で正規分布に従い、無相関は独立と同等である。
相関のないデータは必ずしも独立性を意味するわけではないが、確率変数の相互情報量が0であれば、それらの変数が独立しているかどうかを確認できる。
一連のペアの測定値インデックス標本相関係数は母集団ピアソン相関係数を推定するために使用できる間そして標本相関係数は次のように定義される。
どこそしては、そして、 そしてそして補正された標本標準偏差はそして。
同等の表現は
どこそして補正されていないサンプル標準偏差はそして。
もしそして測定結果には測定誤差が含まれるため、相関係数の現実的な限界は-1から+1ではなく、より狭い範囲である。[ 8 ]単一の独立変数を持つ線形モデルの場合、決定係数(R二乗)は、ピアソンの積率相関係数。
以下の表に示すXとYの同時確率分布を考えてみましょう。
この同時分布の場合、周辺分布は次のようになります。
これにより、以下の期待値と分散が得られます。
したがって:
スピアマンの順位相関係数やケンドールの順位相関係数(τ)などの順位相関係数は、一方の変数が増加すると他方の変数が増加する傾向の程度を測定しますが、その増加が線形関係で表される必要はありません。一方の変数が増加すると他方の変数が減少する場合、順位相関係数は負になります。これらの順位相関係数は、計算量を減らすため、または係数が分布の非正規性に対してより敏感にならないようにするために、ピアソンの係数の代替としてよく使用されます。しかし、順位相関係数はピアソンの積率相関係数とは異なるタイプの関係を測定するため、この見解には数学的な根拠がほとんどなく、母集団相関係数の代替尺度としてではなく、異なるタイプの関連性の尺度として見るのが適切です。[ 9 ] [ 10 ]
順位相関の性質と、線形相関との違いを説明するために、次の4組の数値を考えてみましょう。:
各ペアから次のペアへと進むにつれて、増加するので、この関係は、常に増加を伴うこれは、完全な順位相関があり、スピアマンの相関係数とケンドールの相関係数の両方が 1 であることを意味しますが、この例ではピアソンの積率相関係数は 0.7544 であり、点が直線上に並んでいないことを示しています。同様に、常に減少するが増加すると、順位相関係数は -1 になりますが、ピアソン積率相関係数は、点が直線にどれだけ近いかによって、-1 に近い場合もそうでない場合もあります。順位相関が完全に成り立つ極端な場合、2 つの係数は両方とも等しくなります (両方とも +1 または両方とも -1) が、これは一般的には当てはまらないため、2 つの係数の値を意味のある形で比較することはできません。[ 9 ]例えば、3 つのペア (1, 1) (2, 3) (3, 2) の場合、スピアマンの係数は 1/2 ですが、ケンドールの係数は 1/3 です。
「相関関係は因果関係を意味しない」という従来の定説は、相関関係だけでは変数間の因果関係を推論できないことを意味する。[ 11 ]この定説は、相関関係が因果関係の存在の可能性を示せないという意味ではない。しかし、相関関係の根底にある原因は、もしあるとしても、間接的で不明である可能性があり、高い相関関係は、因果関係が存在しない同一関係(トートロジー)とも重なる(例えば、同じ構成概念を測定する2つの変数間)。したがって、2つの変数間の相関関係は、因果関係(どちらの方向でも)を確立するための十分条件ではない。
子供の年齢と身長の相関関係は因果関係が比較的明確ですが、人の気分と健康の相関関係はそれほど明確ではありません。気分が良くなると健康が良くなるのでしょうか、それとも健康が良いと気分が良くなるのでしょうか、あるいはその両方でしょうか?あるいは、両方の根底には別の要因があるのでしょうか?言い換えれば、相関関係は可能性のある因果関係の証拠として捉えることはできますが、もし因果関係が存在するとしても、それがどのようなものかを示すことはできません。

ピアソン相関係数は、 2 つの変数間の線形関係の強さを示しますが、その値は一般的にそれらの関係を完全に特徴付けるものではありません。特に、条件付き平均が与えられた、と表記されるは線形ではない相関係数は、。
隣の画像は、フランシス・アンスコムによって作成された4つの異なる変数ペアのセットであるアンスコムの四重奏の散布図を示しています。[ 12 ]変数は同じ平均 (7.5)、分散 (4.12)、相関 (0.816)、回帰直線 ()。しかし、グラフからわかるように、変数の分布は大きく異なります。最初のグラフ(左上)は正規分布しているように見え、相関のある2つの変数を考慮し、正規性の仮定に従う場合に期待されるものと一致します。2番目のグラフ(右上)は正規分布していません。2つの変数の間に明らかな関係が見られますが、線形ではありません。この場合、ピアソン相関係数は、正確な関数関係があることを示しているのではなく、その関係が線形関係でどの程度近似できるかを示しているだけです。3番目のグラフ(左下)では、相関係数を1から0.816に下げるのに十分な影響を与える外れ値が1つあることを除いて、線形関係は完全です。最後に、4番目のグラフ(右下)は、2つの変数間の関係が線形ではないにもかかわらず、1つの外れ値で高い相関係数が得られる別の例を示しています。
これらの例は、相関係数が要約統計量として、データの視覚的検査に取って代わることはできないことを示しています。これらの例は、ピアソン相関がデータが正規分布に従うことを前提としていることを示していると言われることがありますが、これは部分的にしか正しくありません。[ 6 ]ピアソン相関は、有限の共分散行列を持つ任意の分布に対して正確に計算できます。これには、実際に遭遇するほとんどの分布が含まれます。ただし、ピアソン相関係数(標本平均と分散とともに)は、データが多変量正規分布から抽出された場合にのみ十分な統計量となります。結果として、ピアソン相関係数は、データが多変量正規分布から抽出された場合に限り、変数間の関係を完全に特徴付けます。

同様に、2つの確率過程についてそして: それらが独立であれば、それらは無相関である。[ 13 ] : p. 151この記述の反対は必ずしも真ではない。2 つの変数が無相関であっても、互いに独立しているとは限らない。
変数XとYの間の依存関係の度合いは、変数が表現される尺度に依存しません。つまり、XとYの関係を分析する場合、ほとんどの相関尺度は、 Xをa + bX、Yをc + dYに変換しても影響を受けません。ここで、 a、b、c、dは定数です ( bとdは正の値です)。これは、一部の相関統計量だけでなく、それらの母集団における類似値にも当てはまります。順位相関係数などの一部の相関統計量は、 Xおよび/またはYの周辺分布の単調変換に対しても不変です。

ほとんどの相関尺度は、 XとYのサンプリング方法に影響を受けやすい。より広い値の範囲で見た場合、依存関係は強くなる傾向がある。したがって、すべての成人男性における父親と息子の身長の相関係数を考慮し、父親の身長が165cmから170cmの間にある場合に計算された同じ相関係数と比較すると、後者の場合の相関は弱くなる。一方または両方の変数の範囲制限を補正しようとするいくつかの手法が開発されており、メタ分析で一般的に使用されている。最も一般的なのは、ソーンダイクのケースIIとケースIIIの式である。[ 14 ]
使用されているさまざまな相関尺度は、XとYの特定の同時分布に対して定義されない場合があります。たとえば、ピアソン相関係数はモーメントによって定義されるため、モーメントが定義されていない場合は定義されません。分位数に基づく依存性尺度は常に定義されます。母集団の依存性尺度を推定することを目的とした標本ベースの統計は、データがサンプリングされた母集団の空間構造に基づいて、不偏性や漸近的一致性などの望ましい統計的特性を持つ場合と持たない場合があります。
データ分布に対する感度は有利に利用できます。たとえば、スケーリング相関は、範囲に対する感度を利用して時系列の高速成分間の相関を抽出するように設計されています。[ 15 ]制御された方法で値の範囲を縮小することにより、長い時間スケールでの相関はフィルタリングされ、短い時間スケールでの相関のみが明らかになります。
相関行列確率変数はマトリックスだれのエントリーは
したがって、対角成分はすべて1になります。相関の尺度として積率係数を用いる場合、相関行列は標準化された確率変数の共分散行列と同じになります。のためにこれは、母集団相関行列にも適用されます(この場合は母集団標準偏差であり、標本相関行列(この場合)に渡される。は標本標準偏差を表します。したがって、それぞれは必然的に半正定値行列になります。さらに、相関行列は、どの変数もそのすべての値を他の変数の値の線形関数として正確に生成できない場合に厳密に正定値になります。
相関行列は、相関がそしては、そして。
相関行列は、例えば、重回帰分析における適合度の指標である重決定係数の式の一つに現れる。
統計モデリングでは、変数間の関係を表す相関行列は、推定に必要なパラメータの数などの要素によって区別される、さまざまな相関構造に分類されます。たとえば、交換可能な相関行列では、すべての変数ペアが同じ相関を持つとモデル化されるため、行列の非対角要素はすべて等しくなります。一方、自己回帰行列は、変数が時系列を表す場合によく使用されます。これは、測定値が時間的に近いほど相関が大きくなる傾向があるためです。その他の例としては、独立、非構造、M依存、トープレッツなどがあります。
探索的データ分析において、相関関係の図解は、相関行列を、注目すべき相関関係を実線(正の相関)または点線(負の相関)で表す図に置き換えることによって行われる。
一部のアプリケーション(例えば、部分的にしか観測されていないデータからデータモデルを構築する場合)では、「近似」相関行列(例えば、計算方法のために通常は正の半定値性を欠く行列)に「最も近い」相関行列を見つけたい場合があります。
2002年にHigham [ 16 ]はフロベニウスノルムを用いて近接性の概念を形式化し、 Dykstraの射影アルゴリズムを用いて最近傍相関行列を計算する方法を提供した。
これによりこのテーマへの関心が高まり、その後数年間で新たな理論的(例えば、因子構造を持つ最近傍相関行列の計算[ 17 ])および数値的(例えば、最近傍相関行列を計算するためのニュートン法の使用[ 18 ])な結果が得られました。
ペアの場合確率変数の条件付き平均は二変量正規分布に従う。は、の線形関数である。条件付き平均は、の線形関数である。相関係数間そしてそして周辺平均と分散はそしてこの線形関係を決定する:
どこそして期待値はそしてそれぞれ、そしては標準偏差ですそしてそれぞれ。
経験的相関相関係数の推定値分布推定値は
どこはガウス超幾何関数です。
相関係数によって得られる情報だけでは、確率変数間の依存構造を定義するには不十分です。相関係数が依存構造を完全に定義できるのは、例えば分布が多変量正規分布である場合など、非常に特殊な場合に限られます。(上の図を参照。)楕円分布の場合、相関係数は等密度の(超)楕円を特徴づけますが、依存構造を完全に特徴づけるわけではありません(例えば、多変量t分布の自由度によって裾依存性のレベルが決まります)。
連続変数については、ピアソン相関係数が従属確率変数に対してゼロになる可能性があるという欠点に対処するために、複数の代替依存性尺度が導入されました(概要については[ 21 ]およびその中の参考文献を参照)。これらはすべて、値がゼロであれば独立性を意味するという重要な特性を共有しています。このため、一部の著者[ 21 ] [ 22 ]は、特に距離相関を日常的に使用することを推奨しています。[ 23 ] [ 24 ]もう一つの代替尺度は、ランダム化依存係数です。[ 25 ] RDCは、計算効率の良いコピュラベースの多変量確率変数間の依存性尺度であり、確率変数の非線形スケーリングに対して不変です。
代替のより一般的な尺度の重要な欠点の 1 つは、2 つの変数が関連しているかどうかをテストするために使用する場合、データが多変量正規分布に従う場合、ピアソンの相関係数と比較して検出力が低くなる傾向があることです。[ 21 ]これは、ノーフリーランチ定理の含意です。あらゆる種類の関係を検出するために、これらの尺度は他の関係、特にピアソンの相関係数が最適なガウス周辺分布を持つ線形関係という重要な特殊なケースの検出力を犠牲にする必要があります。もう 1 つの問題は解釈に関するものです。ピアソンの相関係数はすべての値に対して解釈できますが、代替尺度は一般的に極端な値でのみ意味のある解釈が可能です。[ 26 ]
2つの二値変数について、オッズ比はそれらの依存性を測定し、非負の数の範囲(場合によっては無限大)をとります。 。ユールのYやユールのQなどの関連統計量は、これを相関のような範囲に正規化する。オッズ比は、従属変数が離散的で、独立変数が 1 つ以上存在する可能性があるケースをモデル化するために、ロジスティック モデルによって一般化されます。
相関比、エントロピーに基づく相互情報量、総相関、二重総相関、ポリコリック相関はすべて、それらの間のコピュラを考慮することで、より一般的な依存関係を検出することができます。一方、決定係数は相関係数を重回帰に一般化します。