行列の正規分布

統計学において、行列正規分布または行列ガウス分布は、多変量正規分布を行列値確率変数に一般化した確率分布である。

ランダム行列X ( n × p ) の確率密度関数は、行列正規分布に従う。  ${\displaystyle {\mathcal {MN}}_{n,p}(\mathbf {M} ,\mathbf {U} ,\mathbf {V} )}$形式は次のとおりです。

${\displaystyle p(\mathbf {X} \mid \mathbf {M} ,\mathbf {U} ,\mathbf {V} )={\frac {\exp \left(-{\frac {1}{2}}\,\mathrm {tr} \left[\mathbf {V} ^{-1}(\mathbf {X} -\mathbf {M} )^{T}\mathbf {U} ^{-1}(\mathbf {X} -\mathbf {M} )\right]\right)}{(2\pi )^{np/2}|\mathbf {V} |^{n/2}|\mathbf {U} |^{p/2}}}$

どこ${\displaystyle \mathrm {tr} }$はトレースを表し、Mはn × p、Uはn × n、Vはp × pであり、密度は標準ルベーグ測度に関する確率密度関数として理解される。      $\displaystyle \mathbb {R} ^{n\times p}}$すなわち、 に関する積分に対応する尺度$\displaystyle dx_{11}dx_{21}\dots dx_{n1}dx_{12}\dots dx_{n2}\dots dx_{np}}$。

行列正規分布は、多変量正規分布と次のような関係にある。

${\displaystyle \mathbf {X} \sim {\mathcal {MN}}_{n\times p}(\mathbf {M} ,\mathbf {U} ,\mathbf {V} ),}$

かつその場合に限り

${\displaystyle \mathrm {vec} (\mathbf {X} )\sim {\mathcal {N}}_{np}(\mathrm {vec} (\mathbf {M} ),\mathbf {V} \otimes \mathbf {U} )}$

どこ${\displaystyle \otimes }$はクロネッカー積を表し、${\displaystyle \mathrm {vec} (\mathbf {M} )}$は、​${\displaystyle \mathbf {M} }$。

もし${\displaystyle \mathbf {X} \sim {\mathcal {MN}}_{n\times p}(\mathbf {M} ,\mathbf {U} ,\mathbf {V} )}$すると、次の性質が得られます。^{[ 1 ] [ 2 ]}

多変量正規分布に従って同一分布するn個の独立したp次元確率変数のサンプルを想像してみましょう。

${\displaystyle \mathbf {Y} _{i}\sim {\mathcal {N}}_{p}({\boldsymbol {\mu }},{\boldsymbol {\Sigma }}){\text{ with }}i\in \{1,\ldots ,n\}}$。

n × p行列を定義するとき  ${\displaystyle \mathbf {X} }$i番目の行は${\displaystyle \mathbf {Y} _{i}}$すると、次の結果が得られます。

${\displaystyle \mathbf {X} \sim {\mathcal {MN}}_{n\times p}(\mathbf {M} ,\mathbf {U} ,\mathbf {V} )}$

各行が${\displaystyle \mathbf {M} }$に等しい${\displaystyle {\boldsymbol {\mu }}}$つまり${\displaystyle \mathbf {M} =\mathbf {1} _{n}\times {\boldsymbol {\mu }}^{T}}$、${\displaystyle \mathbf {U} }$はn × nの単位行列であり、行は独立しており、  ${\displaystyle \mathbf {V} ={\boldsymbol {\Sigma }}}$。

k個の行列が与えられ 、それぞれサイズはn  × pで、 ${\displaystyle \mathbf {X} _{1},\mathbf {X} _{2},\ldots ,\mathbf {X} _{k}}$行列正規分布から独立同分布でサンプリングされたと仮定すると、パラメータの最尤推定値は、以下を最大化することによって得られます。

${\displaystyle \prod _{i=1}^{k}{\mathcal {MN}}_{n\times p}(\mathbf {X} _{i}\mid \mathbf {M} ,\mathbf {U} ,\mathbf {V} ).}$

平均値の解は閉じた形式で表され、

${\displaystyle \mathbf {M} ={\frac {1}{k}}\sum _{i=1}^{k}\mathbf {X} _{i}}$

しかし、共分散パラメータはそうではありません。ただし、これらのパラメータは、以下の値で勾配をゼロにすることで反復的に最大化できます。

${\displaystyle \mathbf {U} ={\frac {1}{kp}}\sum _{i=1}^{k}(\mathbf {X} _{i}-\mathbf {M} )\mathbf {V} ^{-1}(\mathbf {X} _{i}-\mathbf {M} )^{T}}$

そして

${\displaystyle \mathbf {V} ={\frac {1}{kn}}\sum _{i=1}^{k}(\mathbf {X} _{i}-\mathbf {M} )^{T}\mathbf {U} ^{-1}(\mathbf {X} _{i}-\mathbf {M} ),}$

例えば^{[ 3 ]}およびその中の参考文献を参照のこと。共分散パラメータは、任意のスケールファクターs > 0に対して、次の式が成り立つという意味で識別不可能である。

${\displaystyle {\mathcal {MN}}_{n\times p}(\mathbf {X} \mid \mathbf {M} ,\mathbf {U} ,\mathbf {V} )={\mathcal {MN}}_{n\times p}(\mathbf {X} \mid \mathbf {M} ,s\mathbf {U} ,{\tfrac {1}{s}}\mathbf {V} ).}$

行列正規分布からのサンプリングは、多変量正規分布のサンプリング手順の特殊なケースである。${\displaystyle \mathbf {X} }$標準正規分布からのnp 個の独立したサンプルからなるn × p行列とする。

${\displaystyle \mathbf {X} \sim {\mathcal {MN}}_{n\times p}(\mathbf {0} ,\mathbf {I} ,\mathbf {I} ).}$

すると

${\displaystyle \mathbf {Y} =\mathbf {M} +\mathbf {A} \mathbf {X} \mathbf {B} ,}$

となることによって

${\displaystyle \mathbf {Y} \sim {\mathcal {MN}}_{n\times p}(\mathbf {M} ,\mathbf {AA} ^{T},\mathbf {B} ^{T}\mathbf {B} ),}$

ここで、AとBは、コレスキー分解または同様の行列の平方根演算によって選択できる。

Dawid (1981) は、行列値正規分布とウィシャート分布、逆ウィシャート分布、行列t分布などの他の分布との関係について議論していますが、ここで使用されているものとは異なる表記法を使用しています。

• 多変量正規分布

• Dawid, AP (1981). 「行列変数分布理論：表記上の考察とベイズ的応用」Biometrika . 68 (1): 265– 274. doi : 10.1093/biomet/68.1.265 . JSTOR 2335827 . MR 0614963 .  
• Dutilleul, P (1999). "行列正規分布の最尤推定アルゴリズム". Journal of Statistical Computation and Simulation . 64 (2): 105–123 . doi : 10.1080/00949659908811970 .
• アーノルド、SF（1981）『線形モデルと多変量解析の理論』ニューヨーク：ジョン・ワイリー＆サンズ、ISBN 0471050652