行列のランクの定理
数学 、特に 線型代数学 において 、 マックス・A・ウッドベリー [1] [2] にちなんで名付けられた ウッドベリー行列 恒等式は、ある 行列の階数 k 補正の逆行列は、元の行列の逆行列に階数 k 補正を行うことで計算できるというものである 。この公式の別名は、 行列反転補題 、 シャーマン・モリソン・ウッドベリー公式 、または単に ウッドベリー公式 である。しかし、この恒等式はウッドベリー報告以前にもいくつかの論文に登場していた。 [3] [4]
ウッドベリー行列の恒等式は [5]
(
あ
+
あなた
C
五
)
−
1
=
あ
−
1
−
あ
−
1
あなた
(
C
−
1
+
五
あ
−
1
あなた
)
−
1
五
あ
−
1
、
{\displaystyle \left(A+UCV\right)^{-1}=A^{-1}-A^{-1}U\left(C^{-1}+VA^{-1}U\right)^{-1}VA^{-1},}
ここで、 A 、 U 、 C 、 Vは 適合行列 です 。A は n × n 、 C は k × k 、 U は n × k 、 Vは k × n です 。これは ブロック単位の逆行列 を使って導出できます 。
この恒等式は主に行列に使用されますが、一般環 や Ab カテゴリ でも成立します 。
ウッドベリー行列恒等式は、逆行列と線形方程式の解を安価に計算することを可能にする。しかし、この式の数値安定性についてはほとんど知られていない。誤差範囲に関する結果は公表されていない。逸話的証拠 [6]は、一見無害な例(元の行列と修正された行列の両方が 条件付きで ある場合)でも発散する可能性があることを示唆している 。
議論
この結果を証明するには、まずより簡単な結果を証明することから始めます。 A と C を 単位行列 I に置き換えると 、もう少し簡単な別の単位行列が得られます。
この 簡約された単位行列
から元の方程式を復元するには 、 を 、 を に置き換えます 。
(
私
+
あなた
五
)
−
1
=
私
−
あなた
(
私
+
五
あなた
)
−
1
五
。
{\displaystyle \left(I+UV\right)^{-1}=IU\left(I+VU\right)^{-1}V.}
あなた
{\displaystyle U}
あ
−
1
あなた
{\displaystyle A^{-1}U}
五
{\displaystyle V}
C
五
{\displaystyle CV}
この恒等式自体は、2つのより単純な恒等式の組み合わせとして見ることができます。最初の恒等式は
このよう
にして得られ
、同様に
2番目の恒等式は、 右側に
を、左側に を乗じること
で得られる
、いわゆる プッシュスルー恒等式 [7] です。
私
=
(
私
+
ポ
)
−
1
(
私
+
ポ
)
=
(
私
+
ポ
)
−
1
+
(
私
+
ポ
)
−
1
ポ
、
{\displaystyle I=(I+P)^{-1}(I+P)=(I+P)^{-1}+(I+P)^{-1}P,}
(
私
+
ポ
)
−
1
=
私
−
(
私
+
ポ
)
−
1
ポ
、
{\displaystyle (I+P)^{-1}=I-(I+P)^{-1}P,}
(
私
+
ポ
)
−
1
=
私
−
ポ
(
私
+
ポ
)
−
1
。
{\displaystyle (I+P)^{-1}=IP(I+P)^{-1}.}
(
私
+
あなた
五
)
−
1
あなた
=
あなた
(
私
+
五
あなた
)
−
1
{\displaystyle (I+UV)^{-1}U=U(I+VU)^{-1}}
あなた
(
私
+
五
あなた
)
=
(
私
+
あなた
五
)
あなた
{\displaystyle U(I+VU)=(I+UV)U}
(
私
+
五
あなた
)
−
1
{\displaystyle (I+VU)^{-1}}
(
私
+
あなた
五
)
−
1
{\displaystyle (I+UV)^{-1}}
すべてをまとめると、
最初の等式と 2 番目の等式は、それぞれ最初の恒等式と 2 番目の恒等式から生じます。
(
私
+
あなた
五
)
−
1
=
私
−
あなた
五
(
私
+
あなた
五
)
−
1
=
私
−
あなた
(
私
+
五
あなた
)
−
1
五
。
{\displaystyle \left(I+UV\right)^{-1}=I-UV\left(I+UV\right)^{-1}=IU\left(I+VU\right)^{-1}V.}
特別なケース
がベクトルの とき、この恒等式は シャーマン・モリソンの公式 に帰着します。
五
、
あなた
{\displaystyle V,U}
スカラーの場合、簡約版は単純に
1
1
+
あなた
ヴ
=
1
−
あなた
ヴ
1
+
ヴ
あなた
。
{\displaystyle {\frac {1}{1+uv}}=1-{\frac {uv}{1+vu}}.}
和の逆数
n = k かつ U = V = I n が単位行列である
場合、
(
あ
+
B
)
−
1
=
あ
−
1
−
あ
−
1
(
B
−
1
+
あ
−
1
)
−
1
あ
−
1
=
あ
−
1
−
あ
−
1
(
あ
B
−
1
+
私
)
−
1
。
{\displaystyle {\begin{aligned}\left(A+B\right)^{-1}&=A^{-1}-A^{-1}\left(B^{-1}+A^{-1}\right)^{-1}A^{-1}\\[1ex]&=A^{-1}-A^{-1}\left(AB^{-1}+{I}\right)^{-1}.\end{aligned}}}
上記の式の右辺の項を結合し続けると、 Huaの恒等式が得られる。
(
あ
+
B
)
−
1
=
あ
−
1
−
(
あ
+
あ
B
−
1
あ
)
−
1
。
{\displaystyle \left({A}+{B}\right)^{-1}={A}^{-1}-\left({A}+{A}{B}^{-1}{A}\right)^{-1}.}
同じアイデンティティのもう一つの便利な形は
(
あ
−
B
)
−
1
=
あ
−
1
+
あ
−
1
B
(
あ
−
B
)
−
1
、
{\displaystyle \left({A}-{B}\right)^{-1}={A}^{-1}+{A}^{-1}{B}\left({A}-{B}\right)^{-1},}
これは、上記のものと異なり、が 特異な の 場合でも有効であり、 の スペクトル半径 が 1 未満の
場合は となる再帰構造を持ちます
。つまり、上記の和が収束する場合、 は に等しくなります 。
B
{\displaystyle B}
(
あ
−
B
)
−
1
=
∑
け
=
0
∞
(
あ
−
1
B
)
け
あ
−
1
{\displaystyle \left({A}-{B}\right)^{-1}=\sum _{k=0}^{\infty }\left({A}^{-1}{B}\right)^{k}{A}^{-1}}
あ
−
1
B
{\displaystyle A^{-1}B}
(
あ
−
B
)
−
1
{\displaystyle (AB)^{-1}}
この形式は、 B が A の摂動で ある摂動展開で使用できます 。
バリエーション
二項逆定理
A 、 B 、 U 、 V がそれぞれ n × n 、 k × k 、 n × k 、 k × n の大きさの行列である 場合 、
(
あ
+
あなた
B
五
)
−
1
=
あ
−
1
−
あ
−
1
あなた
B
(
B
+
B
五
あ
−
1
あなた
B
)
−
1
B
五
あ
−
1
{\displaystyle \left(A+UBV\right)^{-1}=A^{-1}-A^{-1}UB\left(B+BVA^{-1}UB\right)^{-1}BVA^{-1}}
ただし、 A と B + BVA −1 UB は非特異である。後者の非特異性は、 B −1が B ( I + VA −1 UB ) に等しく 、後者の階数が B の階数を超えることができないため、B −1が存在することを必要とする。 [7]
B は逆数であるため、 右辺の括弧内の逆数を挟む 2つの B項は ( B −1 ) −1 に置き換えることができ、 その結果、元のウッドベリー恒等式が得られます。
B が特異で非正方である 場合のバリエーション: [7]
(
あ
+
あなた
B
五
)
−
1
=
あ
−
1
−
あ
−
1
あなた
(
私
+
B
五
あ
−
1
あなた
)
−
1
B
五
あ
−
1
。
{\displaystyle (A+UBV)^{-1}=A^{-1}-A^{-1}U(I+BVA^{-1}U)^{-1}BVA^{-1} 。}
A が特異な特定のケースについても公式が存在する 。 [8]
半正定値行列の擬似逆行列
一般に、ウッドベリーの恒等式は、1つ以上の逆元が (ムーア・ペンローズ)擬似逆 元に置き換えられた場合、有効ではない。しかし、 およびが 半正定値 であり 、 (それ 自体が半正定値であることを意味する)場合、次の式が一般化を提供する: [9] [10]
あ
{\displaystyle A}
C
{\displaystyle C}
五
=
あなた
H
{\displaystyle V=U^{\mathrm {H} }}
あ
+
あなた
C
五
{\displaystyle A+UCV}
(
バツ
バツ
H
+
はい
はい
H
)
+
=
(
ず
ず
H
)
+
+
(
私
−
はい
ず
+
)
H
バツ
+
H
え
バツ
+
(
私
−
はい
ず
+
)
、
ず
=
(
私
−
バツ
バツ
+
)
はい
、
え
=
私
−
バツ
+
はい
(
私
−
ず
+
ず
)
ふ
−
1
(
バツ
+
はい
)
H
、
ふ
=
私
+
(
私
−
ず
+
ず
)
はい
H
(
バツ
バツ
H
)
+
はい
(
私
−
ず
+
ず
)
、
{\displaystyle {\begin{aligned}\left(XX^{\mathrm {H} }+YY^{\mathrm {H} }\right)^{+}&=\left(ZZ^{\mathrm {H} }\right)^{+}+\left(I-YZ^{+}\right)^{\mathrm {H} }X^{+\mathrm {H} }EX^{+}\left(I-YZ^{+}\right),\\Z&=\left(I-XX^{+}\right)Y,\\E&=I-X^{+}Y\left(I-Z^{+}Z\right)F^{-1}\left(X^{+}Y\right)^{\mathrm {H} },\\F&=I+\left(I-Z^{+}Z\right)Y^{\mathrm {H} }\left(XX^{\mathrm {H} }\right)^{+}Y\left(I-Z^{+}Z\right),\end{aligned}}}
ここで、任意の半正定値行列は、 ある に対して に 等しいため、 は と書くことができます 。
A
+
U
C
U
H
{\displaystyle A+UCU^{\mathrm {H} }}
X
X
H
+
Y
Y
H
{\displaystyle XX^{\mathrm {H} }+YY^{\mathrm {H} }}
M
M
H
{\displaystyle MM^{\mathrm {H} }}
M
{\displaystyle M}
派生語
直接的な証拠
この式は、ウッドベリー恒等式の右側にある逆行列を掛けると恒等行列になること
を確認することで証明できます。
(
A
+
U
C
V
)
{\displaystyle (A+UCV)}
(
A
+
U
C
V
)
[
A
−
1
−
A
−
1
U
(
C
−
1
+
V
A
−
1
U
)
−
1
V
A
−
1
]
=
{
I
−
U
(
C
−
1
+
V
A
−
1
U
)
−
1
V
A
−
1
}
+
{
U
C
V
A
−
1
−
U
C
V
A
−
1
U
(
C
−
1
+
V
A
−
1
U
)
−
1
V
A
−
1
}
=
{
I
+
U
C
V
A
−
1
}
−
{
U
(
C
−
1
+
V
A
−
1
U
)
−
1
V
A
−
1
+
U
C
V
A
−
1
U
(
C
−
1
+
V
A
−
1
U
)
−
1
V
A
−
1
}
=
I
+
U
C
V
A
−
1
−
(
U
+
U
C
V
A
−
1
U
)
(
C
−
1
+
V
A
−
1
U
)
−
1
V
A
−
1
=
I
+
U
C
V
A
−
1
−
U
C
(
C
−
1
+
V
A
−
1
U
)
(
C
−
1
+
V
A
−
1
U
)
−
1
V
A
−
1
=
I
+
U
C
V
A
−
1
−
U
C
V
A
−
1
=
I
.
{\displaystyle {\begin{aligned}&\left(A+UCV\right)\left[A^{-1}-A^{-1}U\left(C^{-1}+VA^{-1}U\right)^{-1}VA^{-1}\right]\\={}&\left\{I-U\left(C^{-1}+VA^{-1}U\right)^{-1}VA^{-1}\right\}+\left\{UCVA^{-1}-UCVA^{-1}U\left(C^{-1}+VA^{-1}U\right)^{-1}VA^{-1}\right\}\\={}&\left\{I+UCVA^{-1}\right\}-\left\{U\left(C^{-1}+VA^{-1}U\right)^{-1}VA^{-1}+UCVA^{-1}U\left(C^{-1}+VA^{-1}U\right)^{-1}VA^{-1}\right\}\\={}&I+UCVA^{-1}-\left(U+UCVA^{-1}U\right)\left(C^{-1}+VA^{-1}U\right)^{-1}VA^{-1}\\={}&I+UCVA^{-1}-UC\left(C^{-1}+VA^{-1}U\right)\left(C^{-1}+VA^{-1}U\right)^{-1}VA^{-1}\\={}&I+UCVA^{-1}-UCVA^{-1}\\={}&I.\end{aligned}}}
代替証明
アプリケーション
この恒等式は、 A −1 がすでに計算されていて、 ( A + UCV ) −1 を計算したい特定の数値計算で役立ちます。 A の逆行列が利用できるので、 恒等式の右辺を使用して結果を得るためには、 C −1 + VA −1 U の逆行列を求めるだけで済みます。 C の次元が A よりはるかに小さい場合、 A + UCV を 直接反転するよりも効率的です。一般的なケースは、 A の 低ランク更新 A + UCV の逆行列を求めること(ここで、 U に は数列しかなく、 V に は数行しかない)、または 行列 B が 低ランク行列 UCV で近似できる場合(たとえば、 特異値分解を使用) で、行列 A + B の逆行列の近似値を求めることです。
これは、例えば、 カルマン フィルタ や 再帰的最小二乗法で、状態ベクトル サイズの行列の反転を必要とする パラメトリック ソリューションを 条件方程式ベースのソリューションに置き換えるために適用されます 。カルマン フィルタの場合、この行列は観測ベクトルの次元を持ちます。つまり、一度に 1 つの新しい観測のみが処理される場合、この行列は 1 と小さくなります。これにより、多くの場合リアルタイムであるフィルタの計算が大幅に高速化されます。
Cが 単位行列 I である場合 、この行列は 数値線形代数 と 数値偏微分方程式では 静電容量行列 として 知られています 。 [4]
I
+
V
A
−
1
U
{\displaystyle I+VA^{-1}U}
参照
注記
^ Max A. Woodbury、 「修正行列の反転 」、覚書報告書 42、統計研究グループ、プリンストン大学、プリンストン、ニュージャージー州、1950 年、4 ページ MR 38136
^ Max A. Woodbury、 「出力入力行列の安定性」 、シカゴ、イリノイ州、1949年、5ページ、 MR 32564
^ Guttmann, Louis (1946). 「逆行列を計算するための拡大法」. Ann. Math. Statist . 17 (3): 336–343. doi : 10.1214/aoms/1177730946 .
^ ab Hager, William W. (1989). 「行列の逆行列の更新」 SIAM Review . 31 (2): 221–239. doi :10.1137/1031049. JSTOR 2030425. MR 0997457.
^ ハイアム、ニコラス (2002)。 数値アルゴリズムの精度と安定性 (第 2 版) 。SIAM。p . 258。ISBN 978-0-89871-521-7 . MR 1927606.
^ 「MathOverflowディスカッション」 。MathOverflow 。
^ abc Henderson, HV; Searle, SR (1981). 「行列の和の逆行列の導出について」 (PDF) . SIAM Review . 23 (1): 53–60. doi :10.1137/1023004. hdl : 1813/32749 . JSTOR 2029838.
^ Kurt S. Riedel、「ランク増加行列のシャーマン–モリソン–ウッドベリー恒等式とセンタリングへの応用」、 SIAM Journal on Matrix Analysis and Applications 、13 (1992)659-662、 doi :10.1137/0613040 プレプリント MR 1152773
^ バーンスタイン、デニス S. (2018)。 スカラー、ベクトル、行列数学:理論、事実、公式 (改訂増補版)。プリンストン:プリンストン大学出版局。p. 638。ISBN 9780691151205 。
^ Schott, James R. (2017). 統計のための行列分析 (第3版). ホーボーケン、ニュージャージー:John Wiley & Sons、Inc. p. 219. ISBN 9781119092483 。
Press, WH; Teukolsky, SA; Vetterling, WT; Flannery, BP (2007)、「セクション 2.7.3. Woodbury 式」、 Numerical Recipes: The Art of Scientific Computing (第 3 版)、ニューヨーク: Cambridge University Press、 ISBN 978-0-521-88068-8
外部リンク