ネイサン・マンテルにちなんで名付けられたマンテル検定は、2 つの行列間の相関関係を統計的に検定するものです。行列は同じ次元でなければなりません。ほとんどのアプリケーションでは、これらは同じオブジェクトのベクトル間の相互関係を表す行列です。この検定は、国立衛生研究所の生物統計学者であるネイサン・マンテルによって1967 年に初めて発表されました。[ 1 ]この検定の説明は、高度な統計学の書籍 (例: Sokal & Rohlf 1995 [ 2 ] )で見つけることができます。
この検定は生態学でよく用いられ、データは通常、生物種などの対象間の「距離」の推定値である。例えば、一方のマトリックスには、分子系統学の手法によって得られた、研究対象となるすべての種のペア間の遺伝的距離(すなわち、2つの異なるゲノム間の差異の量)の推定値が含まれる。もう一方のマトリックスには、各種の分布域と他のすべての種の分布域との間の地理的距離の推定値が含まれる。この場合、検証される仮説は、これらの生物の遺伝的変異が地理的距離の変異と相関しているかどうかである。
n個のオブジェクトがあり、行列が対称である場合(つまり、オブジェクトaからオブジェクトbまでの距離が、bからaまでの距離と同じである場合)、そのような行列には次のものが含まれます。
距離。距離は互いに独立していないため、ある物体の「位置」を変えると、これらの距離(各オブジェクトから他のオブジェクトまでの距離)の関係は、 2つの距離セット間の相関係数を評価し、その統計的有意性を検定するだけでは評価できません。マンテル検定はこの問題に対処します。
採用された手順は、一種のランダム化または順列検定です。2 つのセット間の相関は、距離が計算され、これは報告される相関の尺度であると同時に、検定の基礎となる検定統計量でもあります。原則として、任意の相関係数を使用できますが、通常はピアソンの積率相関係数が使用されます。
相関係数の通常の用法とは異なり、相関がゼロから逸脱しているように見える場合の有意性を評価するために、行列の行と列を何度もランダムに置換し、置換のたびに相関を再計算します。観測された相関の有意性は、より高い相関係数をもたらす置換の割合によって決まります。
その根拠は、 2つの行列間に相関関係がないという帰無仮説が真であれば、行列の行と列を入れ替えても、係数が大きくなるか小さくなるかは等しく起こるはずだという点にある。順列検定を用いることで、2つの行列それぞれの要素間の統計的依存性から生じる問題を克服できるだけでなく、行列内の要素の統計的分布に関する仮定に頼る必要もなくなる。
多くの統計ソフトウェアパッケージには、マンテル検定を実行するためのルーチンが含まれています。
マンテル検定(およびその拡張である部分マンテル検定)を紹介する様々な論文には、帰無仮説と対立仮説を完全に規定する明確な統計的枠組みが欠けている。そのため、これらの検定が普遍的であるという誤った考えが伝わる可能性がある。例えば、マンテル検定と部分マンテル検定は、空間的自己相関が存在する場合には欠陥があり、誤って低いp値を返すことがある。例えば、GuillotとRousset(2013)を参照。[ 3 ]