逆ウィシャート分布

逆ウィシャート

表記	${\displaystyle {\mathcal {W}}^{-1}({\mathbf {\Psi } },\nu )}$
パラメータ	${\displaystyle \nu >p-1}$ 自由度（実数）、スケール行列（正定義） ${\displaystyle \mathbf {\Psi } >0}$${\displaystyle p\times p}$
サポート	${\displaystyle \mathbf {X} }$p  ×  pは 正定値である
PDF	${\displaystyle {\frac {\left|\mathbf {\Psi } \right|^{\nu /2}}{2^{\n p/2}\Gamma _{p}({\frac {\nu }{2}})}}\left|\mathbf {X} \right|^{-(\nu +p+1)/2}e^{-{\frac {1}{2}}\operatorname { tr} (\mathbf {\Psi } \mathbf {X} ^{-1})}}$ ${\displaystyle \Gamma_{p}}$多変量ガンマ関数である ${\displaystyle \operatorname {tr} }$トレース機能​
平均	${\displaystyle {\frac {\mathbf {\Psi } }{\nu -p-1}}}$のために${\displaystyle \nu >p+1}$
モード	${\displaystyle {\frac {\mathbf {\Psi } }{\nu +p+1}}}$[1] : 406
分散	以下を参照してください

統計学において、逆ウィシャート分布（逆ウィシャート分布とも呼ばれる）は、実数値の正定値行列上に定義される確率分布である。ベイズ統計学では、多変量正規分布の共分散行列の 共役事前分布として使用される。

逆ウィシャート分布 がウィシャート分布に従うとき、 はと表記される逆ウィシャート分布に従うと言う。逆ウィシャート分布については重要な恒等式が導出されている。^[2]${\displaystyle \mathbf {X} }$${\displaystyle \mathbf {X} \sim {\mathcal {W}}^{-1}(\mathbf {\Psi } ,\nu )}$ ${\displaystyle \mathbf {X} ^{-1}}$ ${\displaystyle {\mathcal {W}}(\mathbf {\Psi } ^{-1},\nu )}$

逆ウィシャートの確率密度関数は次の通りである: ^[3]

${\displaystyle f_{\mathbf {X} }({\mathbf {X} };{\mathbf {\Psi } },\nu )={\frac {\left|{\mathbf {\Psi } }\right |^{\nu /2}}{2^{\n p/2}\Gamma _{p}({\frac {\nu }{2}})}}\left|\mathbf {X} \right|^{-(\nu +p+1)/2}e^{-{\frac {1}{2}}\operatorname { tr} (\mathbf {\Psi } \mathbf {X} ^{-1})}}$

ここで、 およびは正定値行列、は行列式、 は多変量ガンマ関数です。 ${\displaystyle \mathbf {X} }$${\displaystyle {\mathbf {\Psi } }}$${\displaystyle p\times p}$ ${\displaystyle |\cdot |}$${\displaystyle \Gamma _{p}(\cdot )}$

と のサイズが の場合、 は逆ウィシャート分布 に従います。^[4]${\displaystyle {\mathbf {X} }\sim {\mathcal {W}}({\mathbf {\Sigma } },\nu )}$${\displaystyle {\mathbf {\Sigma } }}$${\displaystyle p\times p}$${\displaystyle \mathbf {A} ={\mathbf {X} }^{-1}}$${\displaystyle \mathbf {A} \sim {\mathcal {W}}^{-1}({\mathbf {\Sigma } }^{-1},\nu )}$

逆ウィシャート分布を持つと仮定する。行列を互いに 適合するように分割する。${\displaystyle {\mathbf {A} }\sim {\mathcal {W}}^{-1}({\mathbf {\Psi } },\nu )}$${\displaystyle {\mathbf {A} }}$${\displaystyle {\mathbf {\Psi } }}$

${\displaystyle {\mathbf {A} }={\begin{bmatrix}\mathbf {A} _{11}&\mathbf {A} _{12}\\\mathbf {A} _{21}&\mathbf {A} _{22}\end{bmatrix}},\;{\mathbf {\Psi } }={\begin{bmatrix}\mathbf {\Psi } _{11}&\mathbf {\Psi } _{12}\\\mathbf {\Psi } _{21}&\mathbf {\Psi } _{22}\end{bmatrix}}}$

ここで、とが行列である場合、 ${\displaystyle {\mathbf {A} _{ij}}}$${\displaystyle {\mathbf {\Psi } _{ij}}}$${\displaystyle p_{i}\times p_{j}}$

1. ${\displaystyle \mathbf {A} _{11}}$はおよび と独立であり、 はにおけるのシュ​​ーア補数である。${\displaystyle \mathbf {A} _{11}^{-1}\mathbf {A} _{12}}$${\displaystyle {\mathbf {A} }_{22\cdot 1}}$${\displaystyle {\mathbf {A} _{22\cdot 1}}={\mathbf {A} }_{22}-{\mathbf {A} }_{21}{\mathbf {A} }_{11}^{-1}{\mathbf {A} }_{12}}$${\displaystyle {\mathbf {A} _{11}}}$${\displaystyle {\mathbf {A} }}$
2. ${\displaystyle {\mathbf {A} _{11}}\sim {\mathcal {W}}^{-1}({\mathbf {\Psi } _{11}},\nu -p_{2})}$;
3. ${\displaystyle {\mathbf {A} }_{11}^{-1}{\mathbf {A} }_{12}\mid {\mathbf {A} }_{22\cdot 1}\sim MN_{p_{1}\times p_{2}}({\mathbf {\Psi } }_{11}^{-1}{\mathbf {\Psi } }_{12},{\mathbf {A} }_{22\cdot 1}\otimes {\mathbf {\Psi } }_{11}^{-1})}$ここで、 は行列正規分布です。${\displaystyle MN_{p\times q}(\cdot ,\cdot )}$
4. ${\displaystyle {\mathbf {A} }_{22\cdot 1}\sim {\mathcal {W}}^{-1}({\mathbf {\Psi } }_{22\cdot 1},\nu )}$、 どこ;${\displaystyle {\mathbf {\Psi } _{22\cdot 1}}={\mathbf {\Psi } }_{22}-{\mathbf {\Psi } }_{21}{\mathbf {\Psi } }_{11}^{-1}{\mathbf {\Psi } }_{12}}$

事前分布を持つ共分散行列について推論したいとします。観測値が分布から抽出された独立した p 変量ガウス変数である場合、条件付き分布は 分布を持ちます。 ${\displaystyle {\mathbf {\Sigma } }}$ ${\displaystyle {p(\mathbf {\Sigma } )}}$${\displaystyle {\mathcal {W}}^{-1}({\mathbf {\Psi } },\nu )}$${\displaystyle \mathbf {X} =[\mathbf {x} _{1},\ldots ,\mathbf {x} _{n}]}$${\displaystyle N(\mathbf {0} ,{\mathbf {\Sigma } })}$${\displaystyle {p(\mathbf {\Sigma } \mid \mathbf {X} )}}$${\displaystyle {\mathcal {W}}^{-1}({\mathbf {A} }+{\mathbf {\Psi } },n+\nu )}$${\displaystyle {\mathbf {A} }=\mathbf {X} \mathbf {X} ^{T}}$

事前分布と事後分布は同じ族なので、逆ウィシャート分布は多変量ガウス分布と 共役であると言えます。

多変量ガウス分布との共役性により、式と線型代数恒等式を使用して、ガウス分布のパラメータを周辺化（積分）することができます。 ${\displaystyle \mathbf {\Sigma } }$${\displaystyle p(x)={\frac {p(x|\Sigma )p(\Sigma )}{p(\Sigma |x)}}}$${\displaystyle v^{T}\Omega v={\text{tr}}(\Omega vv^{T})}$

${\displaystyle f_{\mathbf {X} \,\mid \,\Psi ,\nu }(\mathbf {x} )=\int f_{\mathbf {X} \,\mid \,\mathbf {\Sigma } \,=\,\sigma }(\mathbf {x} )f_{\mathbf {\Sigma } \,\mid \,\mathbf {\Psi } ,\nu }(\sigma )\,d\sigma ={\frac {|\mathbf {\Psi } |^{\nu /2}\Gamma _{p}\left({\frac {\nu +n}{2}}\right)}{\pi ^{np/2}|\mathbf {\Psi } +\mathbf {A} |^{(\nu +n)/2}\Gamma _{p}({\frac {\nu }{2}})}}}$

（分散行列は実際には分からないが、事前に分かっており、データから得ることができるため、右辺を直接評価することができるので、これは有用である）。事前分布としての逆ウィシャート分布は、既存の転移事前知識を介して構築することができる。^[5]${\displaystyle \mathbf {\Sigma } }$${\displaystyle {\mathbf {\Psi } }}$${\displaystyle {\mathbf {A} }}$

以下は、Press, SJ (1982)「Applied Multivariate Analysis」、第 2 版 (Dover Publications、ニューヨーク) に基づいていますが、上記の pdf 定義と一致するように自由度を再パラメータ化しています。

およびとすると、 となる。 ${\displaystyle W\sim {\mathcal {W}}(\mathbf {\Psi } ^{-1},\nu )}$${\displaystyle \nu \geq p}$${\displaystyle X\doteq W^{-1}}$${\displaystyle X\sim {\mathcal {W}}^{-1}(\mathbf {\Psi } ,\nu )}$

平均: ^{[4] : 85}

${\displaystyle \operatorname {E} (\mathbf {X} )={\frac {\mathbf {\Psi } }{\nu -p-1}}.}$

の各要素の分散: ${\displaystyle \mathbf {X} }$

${\displaystyle \operatorname {Var} (x_{ij})={\frac {(\nu -p+1)\psi _{ij}^{2}+(\nu -p-1)\psi _{ii}\psi _{jj}}{(\nu -p)(\nu -p-1)^{2}(\nu -p-3)}}}$

対角線の分散は、 の場合と同じ式を使用し、次のように簡略化されます。 ${\displaystyle i=j}$

${\displaystyle \operatorname {Var} (x_{ii})={\frac {2\psi _{ii}^{2}}{(\nu -p-1)^{2}(\nu -p-3)}}.}$

の要素の共分散は次のように与えられます。 ${\displaystyle \mathbf {X} }$

${\displaystyle \operatorname {Cov} (x_{ij},x_{k\ell })={\frac {2\psi _{ij}\psi _{k\ell }+(\nu -p-1)(\psi _{ik}\psi _{j\ell }+\psi _{i\ell }\psi _{kj})}{(\nu -p)(\nu -p-1)^{2}(\nu -p-3)}}}$

同じ結果はフォン・ローゼン^[6]によってクロネッカー積の形で次のように表現されている。

${\displaystyle {\begin{aligned}\mathbf {E} \left(W^{-1}\otimes W^{-1}\right)&=c_{1}\Psi \otimes \Psi +c_{2}Vec(\Psi )Vec(\Psi )^{T}+c_{2}K_{pp}\Psi \otimes \Psi \\\mathbf {Cov} _{\otimes }\left(W^{-1},W^{-1}\right)&=(c_{1}-c_{3})\Psi \otimes \Psi +c_{2}Vec(\Psi )Vec(\Psi )^{T}+c_{2}K_{pp}\Psi \otimes \Psi \end{aligned}}}$

どこ

${\displaystyle {\begin{aligned}c_{2}&=\left[(\nu -p)(\nu -p-1)(\nu -p-3)\right]^{-1}\\c_{1}&=(\nu -p-2)c_{2}\\c_{3}&=(\nu -p-1)^{-2},\end{aligned}}}$

${\displaystyle K_{pp}{\text{ is a }}p^{2}\times p^{2}}$ 交換行列

${\displaystyle \mathbf {Cov} _{\otimes }\left(W^{-1},W^{-1}\right)=\mathbf {E} \left(W^{-1}\otimes W^{-1}\right)-\mathbf {E} \left(W^{-1}\right)\otimes \mathbf {E} \left(W^{-1}\right).}$

論文には誤植があるようで、 の係数はではなくと与えられており、平均二乗逆ウィシャートの系3.1の表現は次のようにすべきである。 ${\displaystyle K_{pp}\Psi \otimes \Psi }$${\displaystyle c_{1}}$${\displaystyle c_{2}}$

${\displaystyle \mathbf {E} \left[W^{-1}W^{-1}\right]=(c_{1}+c_{2})\Sigma ^{-1}\Sigma ^{-1}+c_{2}\Sigma ^{-1}\mathbf {tr} (\Sigma ^{-1}).}$

共分散が対角の場合に相互作用項がどのようにスパースになるかを示すために、任意のパラメータを導入します。 ${\displaystyle \Psi =\mathbf {I} _{3\times 3}}$${\displaystyle u,v,w}$

${\displaystyle \mathbf {E} \left(W^{-1}\otimes W^{-1}\right)=u\Psi \otimes \Psi +v\,\mathrm {vec} (\Psi )\,\mathrm {vec} (\Psi )^{T}+wK_{pp}\Psi \otimes \Psi .}$

ここで は行列ベクトル化演算子を表します。すると、2次モーメント行列は次のようになります。 ${\displaystyle \mathrm {vec} }$

${\displaystyle \mathbf {E} \left(W^{-1}\otimes W^{-1}\right)={\begin{bmatrix}u+v+w&\cdot &\cdot &\cdot &v&\cdot &\cdot &\cdot &v\\\cdot &u&\cdot &w&\cdot &\cdot &\cdot &\cdot &\cdot \\\cdot &\cdot &u&\cdot &\cdot &\cdot &w&\cdot &\cdot \\\cdot &w&\cdot &u&\cdot &\cdot &\cdot &\cdot &\cdot \\v&\cdot &\cdot &\cdot &u+v+w&\cdot &\cdot &\cdot &v\\\cdot &\cdot &\cdot &\cdot &\cdot &u&\cdot &w&\cdot \\\cdot &\cdot &w&\cdot &\cdot &\cdot &u&\cdot &\cdot \\\cdot &\cdot &\cdot &\cdot &\cdot &w&\cdot &u&\cdot \\v&\cdot &\cdot &\cdot &v&\cdot &\cdot &\cdot &u+v+w\\\end{bmatrix}}}$

これは、の対角要素の相関を含む場合にのみゼロ以外になりますが、他のすべての要素は相互に無相関ですが、必ずしも統計的に独立しているわけではありません。ウィシャート積の分散は、特異ケースおよび拡張によりフルランクケースでもCookら^[7]によって得られています。 ${\displaystyle W^{-1}}$

ミュアヘッド^[8]は定理3.2.8で、が として分布し、がおよび から独立した任意のベクトルである場合、 後者の標本平均の推定によって1つの自由度が放棄されることを示している。同様に、ボドナーらはさらに、および を主対角要素の周辺分布 と設定すると、${\displaystyle A^{p\times p}}$${\displaystyle {\mathcal {W}}_{p}(\nu ,\Sigma )}$${\displaystyle V}$${\displaystyle A}$${\displaystyle V^{T}AV\sim {\mathcal {W}}_{1}(\nu ,A^{T}\Sigma A)}$${\displaystyle {\frac {V^{T}AV}{V^{T}\Sigma V}}\sim \chi _{\nu -1}^{2}}$${\displaystyle {\frac {V^{T}A^{-1}V}{V^{T}\Sigma ^{-1}V}}\sim {\text{Inv-}}\chi _{\nu -p+1}^{2}}$${\displaystyle V=(1,\,0,\cdots ,0)^{T}}$

${\displaystyle {\frac {[A^{-1}]_{1,1}}{[\Sigma ^{-1}]_{1,1}}}\sim {\frac {2^{-k/2}}{\Gamma (k/2)}}x^{-k/2-1}e^{-1/(2x)},\;\;k=\nu -p+1}$

そして、端を回転させると、同様の結果がすべての対角要素に適用されます。 ${\displaystyle V}$${\displaystyle [A^{-1}]_{i,i}}$

複素ウィシャートの場合の対応する結果はブレナンとリード^[9]によって示され、無相関逆複素ウィシャートはシャーマン^[10]によって、主要な対角要素が相関し、他のすべての要素が無相関である対角統計構造を持つことが示されました。 ${\displaystyle {\mathcal {W_{C}}}^{-1}(\mathbf {I} ,\nu ,p)}$

• 逆ウィシャート分布の一変量特化は逆ガンマ分布である。（すなわち一変量）およびの場合、逆ウィシャート分布の確率密度関数は行列となる。${\displaystyle p=1}$${\displaystyle \alpha =\nu /2}$${\displaystyle \beta =\mathbf {\Psi } /2}$${\displaystyle x=\mathbf {X} }$

${\displaystyle p(x\mid \alpha ,\beta )={\frac {\beta ^{\alpha }\,x^{-\alpha -1}\exp(-\beta /x)}{\Gamma _{1}(\alpha )}}.}$

つまり、逆ガンマ分布であり、 は通常のガンマ関数です。${\displaystyle \Gamma _{1}(\cdot )}$

• 逆ウィシャート分布は、形状パラメータと尺度パラメータがの場合の逆行列ガンマ分布の特殊なケースです。${\displaystyle \alpha ={\frac {\nu }{2}}}$${\displaystyle \beta =2}$
• もう1つの一般化は、一般化逆ウィシャート分布と呼ばれています。正定値行列は、が として分布している場合、 として分布していると言えます。ここで は対称行列 の平方根を表し、パラメータは正定値行列であり、パラメータはより大きい正のスカラーです。が単位行列に等しい場合、 であることに注意してください。この一般化逆ウィシャート分布は、多変量自己回帰プロセスの分布の推定に適用されています。^[11]${\displaystyle {\mathcal {GW}}^{-1}}$${\displaystyle p\times p}$${\displaystyle \mathbf {X} }$${\displaystyle {\mathcal {GW}}^{-1}(\mathbf {\Psi } ,\nu ,\mathbf {S} )}$${\displaystyle \mathbf {Y} =\mathbf {X} ^{1/2}\mathbf {S} ^{-1}\mathbf {X} ^{1/2}}$${\displaystyle {\mathcal {W}}^{-1}(\mathbf {\Psi } ,\nu )}$${\displaystyle \mathbf {X} ^{1/2}}$${\displaystyle \mathbf {X} }$${\displaystyle \mathbf {\Psi } ,\mathbf {S} }$${\displaystyle p\times p}$${\displaystyle \nu }$${\displaystyle 2p}$${\displaystyle \mathbf {S} }$${\displaystyle {\mathcal {GW}}^{-1}(\mathbf {\Psi } ,\nu ,\mathbf {S} )={\mathcal {W}}^{-1}(\mathbf {\Psi } ,\nu )}$
• 別の種類の一般化は、正規逆ウィシャート分布であり、本質的には多変量正規分布と逆ウィシャート分布の積です。
• スケール行列が単位行列、が任意の直交行列である場合、 を で置き換えても の pdf は変化しないため、 はある意味で球面不変ランダム過程 (SIRP) の族に属します。^{[説明が必要]}${\displaystyle {\mathcal {\Psi }}=\mathbf {I} }$${\displaystyle {\mathcal {\Phi }}}$${\displaystyle \mathbf {X} }$${\displaystyle {\Phi }\mathbf {X} {\mathcal {\Phi }}^{T}}$${\displaystyle \mathbf {X} }$${\displaystyle {\mathcal {W}}^{-1}(\mathbf {I} ,\nu ,p)}$

したがって、長さの任意のp ベクトルは 、 の pdf を変更せずにベクトル に回転することができ、さらに は対角要素を交換する置換行列になることができます。 の対角要素は、前のセクションのpdf と同様に、互いに独立ではありませんが、同一の逆カイ二乗分布に従います。 この結果は、最適ポートフォリオ統計では知られており、Bodnar らの定理 2 系 1 では 逆形式 で表現されています ^[12]。${\displaystyle V}$${\displaystyle l_{2}}$${\displaystyle V^{T}V=1}$${\displaystyle \mathbf {\Phi } V=[1\;0\;0\cdots ]^{T}}$${\displaystyle V^{T}\mathbf {X} V}$${\displaystyle \mathbf {\Phi } }$${\displaystyle \mathbf {X} }$${\displaystyle f_{x_{11}}}$${\displaystyle {\frac {V^{T}\mathbf {\Psi } V}{V^{T}\mathbf {X} V}}\sim \chi _{\nu -p+1}^{2}}$

• ウィシャート分布の場合と同様に、分布の線形変換は修正逆ウィシャート分布を与える。とがフルランク行列である場合、 ^[13]${\displaystyle \mathbf {X^{p\times p}} \sim {\mathcal {W}}_{p}^{-1}\left({\mathbf {\Psi } },\nu \right).}$${\displaystyle {\mathbf {\Theta } }^{p\times p}}$ ${\displaystyle \mathbf {\Theta } \mathbf {X} {\mathbf {\Theta } }^{T}\sim {\mathcal {W}}_{p}^{-1}\left({\mathbf {\Theta } }{\mathbf {\Psi } }{\mathbf {\Theta } }^{T},\nu \right).}$
• とが フルランクである 場合 、^[13]${\displaystyle \mathbf {X^{p\times p}} \sim {\mathcal {W}}_{p}^{-1}\left({\mathbf {\Psi } },\nu \right).}$${\displaystyle {\mathbf {\Theta } }^{m\times p}}$${\displaystyle m\times p,\;\;m<p}$${\displaystyle m}$ ${\displaystyle \mathbf {\Theta } \mathbf {X} {\mathbf {\Theta } }^{T}\sim {\mathcal {W}}_{m}^{-1}\left({\mathbf {\Theta } }{\mathbf {\Psi } }{\mathbf {\Theta } }^{T},\nu \right).}$

• 逆行列ガンマ分布
• 行列正規分布
• ウィシャート分布
• 複素逆ウィシャート分布