相互相関

信号処理において、相互相関は、 2 つの系列の類似性を、一方の系列から他方の系列への変位の関数として表す尺度です。これは、スライディングドット積またはスライディング インナー プロダクトとも呼ばれます。これは、長い信号からより短い既知の特徴を検索する場合によく使用されます。これは、パターン認識、単粒子分析、電子トモグラフィー、平均化、暗号解読、神経生理学で応用されています。相互相関は、2 つの関数の畳み込みと性質が似ています。信号と信号自体の相互相関である自己相関では、常に遅延がゼロのときにピークがあり、そのサイズが信号エネルギーになります。

確率と統計学において、相互相関という用語は、 2 つのランダム ベクトルとのエントリ間の相関を指します。一方、ランダム ベクトルの相関は、の相関行列を形成するエントリ自体のエントリ間の相関です。とのそれぞれが、時系列で繰り返し実現されるスカラー ランダム変数である場合、 のさまざまな時間インスタンスの相関はの自己相関と呼ばれ、との時間にわたる相互相関は時間的相互相関と呼ばれます。 確率と統計学では、相関の定義には常に標準化係数が含まれるため、相関の値は -1 から +1 までになります。 ${\displaystyle \mathbf {X} }$${\displaystyle \mathbf {Y} }$${\displaystyle \mathbf {X} }$${\displaystyle \mathbf {X} }$${\displaystyle \mathbf {X} }$${\displaystyle \mathbf {X} }$${\displaystyle \mathbf {Y} }$${\displaystyle \mathbf {X} }$${\displaystyle \mathbf {X} }$${\displaystyle \mathbf {X} }$${\displaystyle \mathbf {Y} }$

および がそれぞれ確率密度関数とを持つ2 つの独立したランダム変数である場合、差の確率密度は、相互相関 (信号処理の意味で) によって正式に定義されます。ただし、この用語は確率と統計では使用されません。対照的に、畳み込み(およびの相互相関に相当) は、合計 の確率密度関数を与えます。 ${\displaystyle X}$${\displaystyle Y}$ ${\displaystyle f}$${\displaystyle g}$${\displaystyle Y-X}$${\displaystyle f\star g}$ ${\displaystyle f*g}$${\displaystyle f(t)}$${\displaystyle g(-t)}$${\displaystyle X+Y}$

連続関数およびの場合、相互相関は次のように定義されます。^{[1] [2] [3]}これは と同等で、はの複素共役を表し、変位または遅れと呼ばれます。特定の で相互相関が最大になる相関の高いおよびの場合、における特徴はにおける後続の特徴にも発生するため、 は だけ遅れていると説明できます。 ${\displaystyle f}$${\displaystyle g}$$${\displaystyle (f\star g)(\tau )\ \triangleq \int _{-\infty }^{\infty }{\overline {f(t)}}g(t+\tau )\,dt}$$$${\displaystyle (f\star g)(\tau )\ \triangleq \int _{-\infty }^{\infty }{\overline {f(t-\tau )}}g(t)\,dt}$$${\displaystyle {\overline {f(t)}}}$${\displaystyle f(t)}$${\displaystyle \tau }$${\displaystyle f}$${\displaystyle g}$${\displaystyle \tau }$${\displaystyle f}$${\displaystyle t}$${\displaystyle g}$${\displaystyle t+\tau }$${\displaystyle g}$ ${\displaystyle f}$${\displaystyle \tau }$

と が両方とも周期 の連続周期関数である場合、から への積分は、長さ の任意の区間での積分に置き換えられます。これは、 と同等です。同様に、離散関数の場合、相互相関は次のように定義されます。^{[4] [5]}これは、次と同等です。有限離散関数の場合、（円）相互相関は次のように定義されます。^[6]これは、次と同等です。有限離散関数、 の場合、カーネル相互相関は次のように定義されます。^[7]ここで、はカーネル関数のベクトル、 はアフィン変換です。 ${\displaystyle f}$${\displaystyle g}$${\displaystyle T}$${\displaystyle -\infty }$${\displaystyle \infty }$${\displaystyle [t_{0},t_{0}+T]}$${\displaystyle T}$$${\displaystyle (f\star g)(\tau )\ \triangleq \int _{t_{0}}^{t_{0}+T}{\overline {f(t)}}g(t+\tau )\,dt}$$$${\displaystyle (f\star g)(\tau )\ \triangleq \int _{t_{0}}^{t_{0}+T}{\overline {f(t-\tau )}}g(t)\,dt}$$$${\displaystyle (f\star g)[n]\ \triangleq \sum _{m=-\infty }^{\infty }{\overline {f[m]}}g[m+n]}$$$${\displaystyle (f\star g)[n]\ \triangleq \sum _{m=-\infty }^{\infty }{\overline {f[m-n]}}g[m]}$$${\displaystyle f,g\in \mathbb {C} ^{N}}$$${\displaystyle (f\star g)[n]\ \triangleq \sum _{m=0}^{N-1}{\overline {f[m]}}g[(m+n)_{{\text{mod}}~N}]}$$$${\displaystyle (f\star g)[n]\ \triangleq \sum _{m=0}^{N-1}{\overline {f[(m-n)_{{\text{mod}}~N}]}}g[m]}$$${\displaystyle f\in \mathbb {C} ^{N}}$${\displaystyle g\in \mathbb {C} ^{M}}$$${\displaystyle (f\star g)[n]\ \triangleq \sum _{m=0}^{N-1}{\overline {f[m]}}K_{g}[(m+n)_{{\text{mod}}~N}]}$$${\displaystyle K_{g}=[k(g,T_{0}(g)),k(g,T_{1}(g)),\dots ,k(g,T_{N-1}(g))]}$${\displaystyle k(\cdot ,\cdot )\colon \mathbb {C} ^{M}\times \mathbb {C} ^{M}\to \mathbb {R} }$${\displaystyle T_{i}(\cdot )\colon \mathbb {C} ^{M}\to \mathbb {C} ^{M}}$

具体的には、円形の変換、回転変換、スケール変換などです。カーネル相互相関は、相互相関を線形空間からカーネル空間に拡張します。相互相関は変換と同値であり、カーネル相互相関は、変換、回転、スケールなどを含むすべてのアフィン変換と同値です。 ${\displaystyle T_{i}(\cdot )}$

例として、x 軸に沿った未知のシフトのみが異なる2 つの実数値関数とを考えます。相互相関を使用して、 x 軸に沿ってどれだけシフトすれば と同一になるかを調べることができます。この式は基本的に、関数を x 軸に沿ってスライドさせ、各位置での積の積分を計算します。関数が一致すると、 の値が最大化されます。これは、ピーク (正の領域) が揃っていると、積分に大きく寄与するからです。同様に、谷 (負の領域) が揃っていると、2 つの負の数の積は正であるため、谷も積分に正の寄与をします。 ${\displaystyle f}$${\displaystyle g}$${\displaystyle g}$${\displaystyle f}$${\displaystyle g}$${\displaystyle (f\star g)}$

複素数値関数 およびでは、の共役を取ることで、虚数成分を持つ整列したピーク（または整列した谷）が積分にプラスに寄与することが保証されます。 ${\displaystyle f}$${\displaystyle g}$${\displaystyle f}$

計量経済学では、ラグ付き相互相関は相互自己相関と呼ばれることもある。^{[8] : p. 74}

ランダムベクトル および（それぞれに期待値と分散が存在するランダム要素が含まれる）に対して、との相互相関行列は^{[10] : p.337}で定義され、次元 を持ちます。要素ごとに記述すると、ランダムベクトルと は同じ次元である必要はなく、どちらもスカラー値である可能性があります。 は期待値です。 ${\displaystyle \mathbf {X} =(X_{1},\ldots ,X_{m})}$${\displaystyle \mathbf {Y} =(Y_{1},\ldots ,Y_{n})}$${\displaystyle \mathbf {X} }$${\displaystyle \mathbf {Y} }$$${\displaystyle \operatorname {R} _{\mathbf {X} \mathbf {Y} }\triangleq \ \operatorname {E} \left[\mathbf {X} \mathbf {Y} \right]}$$${\displaystyle m\times n}$$${\displaystyle \operatorname {R} _{\mathbf {X} \mathbf {Y} }={\begin{bmatrix}\operatorname {E} [X_{1}Y_{1}]&\operatorname {E} [X_{1}Y_{2}]&\cdots &\operatorname {E} [X_{1}Y_{n}]\\\\\operatorname {E} [X_{2}Y_{1}]&\operatorname {E} [X_{2}Y_{2}]&\cdots &\operatorname {E} [X_{2}Y_{n}]\\\\\vdots &\vdots &\ddots &\vdots \\\\\operatorname {E} [X_{m}Y_{1}]&\operatorname {E} [X_{m}Y_{2}]&\cdots &\operatorname {E} [X_{m}Y_{n}]\end{bmatrix}}}$$${\displaystyle \mathbf {X} }$${\displaystyle \mathbf {Y} }$${\displaystyle \operatorname {E} }$

たとえば、と がランダムベクトルである場合、 は番目の要素が である行列になります。 ${\displaystyle \mathbf {X} =\left(X_{1},X_{2},X_{3}\right)}$${\displaystyle \mathbf {Y} =\left(Y_{1},Y_{2}\right)}$${\displaystyle \operatorname {R} _{\mathbf {X} \mathbf {Y} }}$${\displaystyle 3\times 2}$${\displaystyle (i,j)}$${\displaystyle \operatorname {E} [X_{i}Y_{j}]}$

およびが複素ランダムベクトルで、それぞれに期待値と分散が存在するランダム変数が含まれている場合、との相互相関行列はによって定義されます。ここで、 はエルミート転置を表します。 ${\displaystyle \mathbf {Z} =(Z_{1},\ldots ,Z_{m})}$${\displaystyle \mathbf {W} =(W_{1},\ldots ,W_{n})}$${\displaystyle \mathbf {Z} }$${\displaystyle \mathbf {W} }$$${\displaystyle \operatorname {R} _{\mathbf {Z} \mathbf {W} }\triangleq \ \operatorname {E} [\mathbf {Z} \mathbf {W} ^{\rm {H}}]}$$${\displaystyle {}^{\rm {H}}}$

時系列分析と統計では、一対のランダム プロセスの相互相関は、2 つの時間の関数として、異なる時間におけるプロセスの値の相関です。を一対のランダム プロセス、を任意の時点 (は離散時間プロセスの場合は整数、連続時間プロセスの場合は実数) とします。この場合、 は、時間 におけるプロセスの特定の実行によって生成された値 (または実現値) です。 ${\displaystyle (X_{t},Y_{t})}$${\displaystyle t}$${\displaystyle t}$${\displaystyle X_{t}}$${\displaystyle t}$

各 について、プロセスが時刻で平均と、分散と を持っているとします。このとき、時刻と の間の相互相関の定義は^{[10] : p.392}で表されます。ここで は期待値演算子です。この式は定義されない場合もあることに注意してください。 ${\displaystyle \mu _{X}(t)}$${\displaystyle \mu _{Y}(t)}$${\displaystyle \sigma _{X}^{2}(t)}$${\displaystyle \sigma _{Y}^{2}(t)}$${\displaystyle t}$${\displaystyle t}$${\displaystyle t_{1}}$${\displaystyle t_{2}}$$${\displaystyle \operatorname {R} _{XY}(t_{1},t_{2})\triangleq \ \operatorname {E} \left[X_{t_{1}}{\overline {Y_{t_{2}}}}\right]}$$${\displaystyle \operatorname {E} }$

乗算の前に平均を減算すると、時間と間の相互共分散が得られます。^{[10] : p.392}平均や分散が存在しない可能性があるため、この式はすべての時系列またはプロセスに対して明確に定義されているわけではないことに注意してください。 ${\displaystyle t_{1}}$${\displaystyle t_{2}}$$${\displaystyle \operatorname {K} _{XY}(t_{1},t_{2})\triangleq \ \operatorname {E} \left[\left(X_{t_{1}}-\mu _{X}(t_{1})\right){\overline {(Y_{t_{2}}-\mu _{Y}(t_{2}))}}\right]}$$

広義の定常性を持つ一対の確率過程をとします。このとき、相互共分散関数と相互相関関数は次のように与えられます。 ${\displaystyle (X_{t},Y_{t})}$

$${\displaystyle \operatorname {R} _{XY}(\tau )\triangleq \ \operatorname {E} \left[X_{t}{\overline {Y_{t+\tau }}}\right]}$$または同等$${\displaystyle \operatorname {R} _{XY}(\tau )=\operatorname {E} \left[X_{t-\tau }{\overline {Y_{t}}}\right]}$$

$${\displaystyle \operatorname {K} _{XY}(\tau )\triangleq \ \operatorname {E} \left[\left(X_{t}-\mu _{X}\right){\overline {\left(Y_{t+\tau }-\mu _{Y}\right)}}\right]}$$または同等に、 およびはそれぞれプロセス の平均と標準偏差であり、定常性により時間の経過とともに一定です。 および についても同様に、それぞれです。は期待値を示します。相互共分散と相互相関が から独立しているということは、 が全体として広義の定常であるという要件によって伝えられる追加情報（個別に広義の定常であることを超えて）とまったく同じです。 $${\displaystyle \operatorname {K} _{XY}(\tau )=\operatorname {E} \left[\left(X_{t-\tau }-\mu _{X}\right){\overline {\left(Y_{t}-\mu _{Y}\right)}}\right]}$$${\displaystyle \mu _{X}}$${\displaystyle \sigma _{X}}$${\displaystyle (X_{t})}$${\displaystyle (Y_{t})}$${\displaystyle \operatorname {E} [\ ]}$${\displaystyle t}$${\displaystyle (X_{t},Y_{t})}$

広義の定常 確率過程のペアの相互相関は、一方の過程から測定されたサンプルと他方の過程から測定されたサンプル (およびその時間シフト) の積を平均することによって推定できます。平均に含まれるサンプルは、信号内のすべてのサンプルの任意のサブセット (たとえば、有限の時間ウィンドウ内のサンプル、または信号の 1 つのサブサンプリング^{[どちら? ]} ) です。サンプル数が多い場合、平均は真の相互相関に収束します。

一部の分野 (統計学や時系列分析など) では、相互相関関数を正規化して時間依存のピアソン相関係数を取得するのが一般的です。ただし、他の分野 (工学など) では通常、正規化は省略され、「相互相関」と「相互共分散」という用語が同じ意味で使用されます。

確率過程の正規化された相互相関の定義は、関数が明確に定義されている場合、その値は範囲内にある必要があり、1 は完全な相関を示し、-1 は完全な反相関を示します。 $${\displaystyle \rho _{XX}(t_{1},t_{2})={\frac {\operatorname {K} _{XX}(t_{1},t_{2})}{\sigma _{X}(t_{1})\sigma _{X}(t_{2})}}={\frac {\operatorname {E} \left[\left(X_{t_{1}}-\mu _{t_{1}}\right){\overline {\left(X_{t_{2}}-\mu _{t_{2}}\right)}}\right]}{\sigma _{X}(t_{1})\sigma _{X}(t_{2})}}}$$${\displaystyle \rho _{XX}}$${\displaystyle [-1,1]}$

広義の定常確率過程の定義は、自己相関を相関として解釈することで統計的依存性の強さのスケールフリーな尺度が得られるため、また正規化が推定された自己相関の統計的特性に影響を及ぼすため、正規化は重要である。 $${\displaystyle \rho _{XY}(\tau )={\frac {\operatorname {K} _{XY}(\tau )}{\sigma _{X}\sigma _{Y}}}={\frac {\operatorname {E} \left[\left(X_{t}-\mu _{X}\right){\overline {\left(Y_{t+\tau }-\mu _{Y}\right)}}\right]}{\sigma _{X}\sigma _{Y}}}}$$

広義定常確率過程の相互相関関数は次のような対称性を持つ: [11] ^{: p.173 広義定常確率過程の相互相関関数は次のような対称性を持つ: [11]} : p.173広義定常確率過程の相互相関関数は次のような対称性を持つ:$${\displaystyle \operatorname {R} _{XY}(t_{1},t_{2})={\overline {\operatorname {R} _{YX}(t_{2},t_{1})}}}$$$${\displaystyle \operatorname {R} _{XY}(\tau )={\overline {\operatorname {R} _{YX}(-\tau )}}}$$

相互相関は、2つの信号間の時間遅延を決定するのに役立ちます。たとえば、マイクロホンアレイを横切る音響信号の伝播の時間遅延を決定する場合などです。^{[12] [13] [説明が必要] 2つの信号間の}相互相関 を計算した後、相互相関関数の最大値（信号が負の相関の場合は最小値）は、信号が最もよく揃う時点を示します。つまり、2つの信号間の時間遅延は、画像処理の用語 にあるように、最大​​の引数、つまり相互相関のarg maxによって決まります。$${\displaystyle \tau _{\mathrm {delay} }={\underset {t\in \mathbb {R} }{\operatorname {arg\,max} }}((f\star g)(t))}$$

照明や露出条件によって画像とテンプレートの明るさが変化する画像処理アプリケーションでは、まず画像を正規化します。これは通常、各ステップで平均を減算し、標準偏差で割ることで行われます。つまり、テンプレートとサブ画像の相互相関 は ${\displaystyle t(x,y)}$${\displaystyle f(x,y)}$

$${\displaystyle {\frac {1}{n}}\sum _{x,y}{\frac {1}{\sigma _{f}\sigma _{t}}}\left(f(x,y)-\mu _{f}\right)\left(t(x,y)-\mu _{t}\right)}$$

ここで、はのピクセル数、 は の平均、 はの標準偏差です。 ${\displaystyle n}$${\displaystyle t(x,y)}$${\displaystyle f(x,y)}$${\displaystyle \mu _{f}}$${\displaystyle f}$${\displaystyle \sigma _{f}}$${\displaystyle f}$

関数解析の用語では、これは 2 つの正規化されたベクトルのドット積として考えることができます。つまり、 および の場合、上記の合計は に等しくなります。ここで は内積で、はL ² ノルムです。コーシー・シュワルツの法則により、ZNCC の範囲は になります。 $${\displaystyle F(x,y)=f(x,y)-\mu _{f}}$$$${\displaystyle T(x,y)=t(x,y)-\mu _{t}}$$$${\displaystyle \left\langle {\frac {F}{\|F\|}},{\frac {T}{\|T\|}}\right\rangle }$$${\displaystyle \langle \cdot ,\cdot \rangle }$${\displaystyle \|\cdot \|}$${\displaystyle [-1,1]}$

したがって、と が実行行列である場合、それらの正規化された相互相関は、単位ベクトルとの間の角度の余弦に等しくなります。したがって、 が に正のスカラーを乗じたものに等しい場合のみ、 になります。 ${\displaystyle f}$${\displaystyle t}$${\displaystyle F}$${\displaystyle T}$${\displaystyle 1}$${\displaystyle F}$${\displaystyle T}$

正規化相関は、テンプレート マッチング(画像内のパターンまたはオブジェクトのインスタンスを検索するプロセス)に使用される方法の 1 つです。また、ピアソンの積率相関係数の 2 次元バージョンでもあります。

NCC は ZNCC に似ていますが、強度のローカル平均値を減算しないという点が異なります。$${\displaystyle {\frac {1}{n}}\sum _{x,y}{\frac {1}{\sigma _{f}\sigma _{t}}}f(x,y)t(x,y)}$$

非線形システムで相互相関を使用する場合は注意が必要です。入力の特性に依存する特定の状況では、非線形ダイナミクスを持つシステムの入力と出力間の相互相関は、特定の非線形効果を完全に無視する可能性があります。^[14]この問題は、一部の二次モーメントがゼロになる可能性があり、2つの信号の間に「相関」（統計的依存性の意味で）がほとんどないと誤って示唆される可能性があるために発生しますが、実際には2つの信号は非線形ダイナミクスによって強く関連しています。

• Tahmasebi, Pejman; Hezarkhani, Ardeshir; Sahimi, Muhammad (2012). 「相互相関関数に基づくマルチポイント地統計モデリング」.計算地球科学. 16 (3): 779–797. Bibcode :2012CmpGe..16..779T. doi :10.1007/s10596-012-9287-1. S2CID  62710397.

• Mathworld の相互相関
• http://scribblethink.org/Work/nvisionInterface/nip.html
• http://www.staff.ncl.ac.uk/oliver.hinton/eee305/Chapter6.pdf