線形代数において、固有値分解(または固有値分解、 EVDとも呼ばれる)は行列の因数分解である。によって与えられる標準形式に、そこでは、の固有値を含む対角行列です。斜めに、そしては、列がの対応する固有ベクトルである行列です。 。この方法で因数分解できるのは対角化可能な行列のみです。因数分解される行列が正規または実対称行列の場合、この分解はスペクトル定理から導かれる「スペクトル分解」と呼ばれます。
次元Nの非ゼロベクトルv は、次の形式の線形方程式を満たす場合、正方N × N行列Aの固有ベクトルである。
あるスカラーλに対して、λはvに対応する固有値と呼ばれる。幾何学的に言えば、Aの固有ベクトルはAが単に伸ばしたり縮めたりするベクトルであり、それぞれのベクトルが伸ばしたり縮めたりする量が対応する固有値である。上記の式は固有値方程式または固有値問題と呼ばれる。
これにより、固有値に関する方程式が得られます。
この方程式をの特性方程式と呼びます。 ; それは未知数に関する 次多項式方程式。私たちは呼びますの固有多項式 .
本稿では、スカラーの代数的に閉じた体のみを考察する。この場合、特性方程式はNλ個の異なる解を持ち、 1 ≤ Nλ ≤ Nとなる。解の集合、すなわち固有値の集合は、のスペクトルと呼ばれる。 . [ 1 ] [ 2 ] [ 3 ]
pを因数分解 すると
そして特性方程式は次のようになる
整数n iは、固有値λ iの代数的重複度と呼ばれる。代数的重複度の合計はNになる。
各固有値λ iに対して、未知数 に関する特定の固有値方程式が得られます。 :
各固有値方程式には、 1 ≤ m i ≤ n i 個の線形独立な解が存在します。m i個の解の線形結合(ゼロベクトルを与える解を除く)が、固有値λ iに関連付けられた固有ベクトルです。整数m iは、 λ iの幾何学的重複度と呼ばれます。代数的重複度n iと幾何学的重複度m i は等しい場合も等しくない場合もありますが、常にm i ≤ n iであることを覚えておくことが重要です。最も単純なケースは、もちろんm i = n i = 1の場合です。線形独立な固有ベクトルの総数N vは、幾何学的重複度を合計することで計算できます。
固有ベクトルは、二重インデックスを使用して固有値でインデックス付けできます。v ijはi番目の固有値に対応するj番目の固有ベクトルです。固有ベクトルは、より単純な単一インデックスv k ( k = 1, 2, ..., N v )を使用してインデックス付けすることもできます。
A をn × nの正方行列とし、 n 個の線形独立な固有ベクトルq i ( i = 1, ..., n ) を持つとする。このとき、A は次のように因数分解できる。
ここで、Qはn × nの正方行列であり、i 番目の列はAの固有ベクトルq iであり、Λは対角要素が対応する固有値である対角行列、 Λ ii = λ iです。この方法で因数分解できるのは対角化可能な行列のみであることに注意してください。たとえば、欠陥行列(これはせん断行列であるため)対角化できません。
n 個の固有ベクトルq iは通常正規化されますが、必ずしも正規化する必要はありません。正規化されていないn 個の固有ベクトルv iもQの列として使用できます。これは、 Q −1の存在によってQの固有ベクトルの大きさが分解で相殺されることに注目することで理解できます。固有値λ iのいずれかが複数の線形独立な固有ベクトルを持つ場合(つまり、λ iの幾何学的重複度が1より大きい場合)、この固有値λ iの固有ベクトルは互いに直交するように選択できます。ただし、2 つの固有ベクトルが異なる 2 つの固有値に属する場合、それらが互いに直交することは不可能な場合があります。たとえば、行列は直交基底で対角化できません(以下の例を参照)。 1つの特別なケースは、 Aが正規行列である場合です。この場合、スペクトル定理により、 Aを正規直交基底{ q i }で対角化することは常に可能です。
この分解は、固有ベクトルの基本的な性質から導き出すことができる。
線形独立な固有ベクトル非ゼロ固有値を持つものは、すべての可能な積の基底(必ずしも正規直交基底とは限らない)を形成する。、のためにこれは、対応する行列変換の像(または範囲)と同じであり、行列の列空間でもある。線形独立な固有ベクトルの数非ゼロ固有値を持つ行列のランクは、行列のランクに等しい。また、対応する行列変換の画像(または範囲)の次元、およびその列空間も示します。
線形独立な固有ベクトル固有値がゼロである行列は、行列変換の零空間(核とも呼ばれるの基底(正規直交基底に選択可能)を形成する。 .
その実数行列
対角線で表すと次のようになる。、そこでは、決定すべき非特異行列である。
それから
実際の数値についてはそして .
左辺の等式の両辺に を掛ける、
上記の式は、2つの連立方程式に分解できます。
固有値を因数分解するそして、
賃貸
これは2つのベクトル方程式のシステムを与える。
これは、2つの解を固有値として含む単一のベクトル方程式で表すことができる。
どこでは、いずれかの固有値を表します。または、そしては対応する固有ベクトルを表します。または .
シフト左辺に持ってきて因数分解する外へ、
以来は単数形ではないので、次のことが不可欠です。はゼロではない。したがって、
したがって
行列の固有値の解を与えるとしてまたは。 の固有値分解から得られる対角行列はしたがって .
上記の連立方程式に解を代入すると、
方程式を解くと、次のようになります。
したがって、行列はの固有値分解に必要は
最後に、 の対角化は:
この例では、そして異なる固有値に関連付けられた固有ベクトルは、互いに直交することはできません。実際、次のようになります。
それは、単数形。
行列の場合は固有値分解が可能であり、その固有値のいずれもゼロでない場合、は可逆であり、その逆は次のように与えられる。
もしは対称行列です。は の固有ベクトルから形成されます。、それからは直交行列であることが保証されています。したがって、さらに、は対角行列であり、その逆行列は簡単に計算できます。
測定された実データ行列に固有値分解を適用する場合、上記の形式で全ての固有値を修正せずに使用すると、逆行列の妥当性が低下する可能性があります。これは、固有値が相対的に小さくなるにつれて、逆行列への寄与が大きくなるためです。ゼロに近い値や測定システムの「ノイズ」の値は過度な影響を与え、逆行列を用いた解(検出)を妨げる可能性があります。[ 4 ]
2つの緩和策が提案されている。1つは、小さい固有値またはゼロの固有値を切り捨てること、もう1つは、最も低い信頼できる固有値をそれより小さい固有値まで拡張することである。また、ノイズが支配的になった固有値をロールオフするための、統計的に根拠のあるが偏りのある手法であるティホノフ正則化も参照のこと。
最初の緩和方法は、元の行列から不要な要素を取り除くスパースサンプルを作成するのと似ています。しかし、解や検出プロセスがノイズレベルに近い場合、切り捨てによって目的の解に影響を与える要素が除去されてしまう可能性があります。
2つ目の緩和策は、固有値を拡張することで、低い値が逆問題に与える影響を大幅に軽減しつつも、ノイズに近い解も見つけられるようにするものです。
極めて類似した低い値の固有値は、測定ノイズ(ほとんどのシステムでは低いと想定される)を適切に表していると仮定することで、信頼性の高い固有値を求めることができる。
固有値が値によってランクソートされている場合、信頼できる固有値は、ソートされた固有値のラプラシアンを最小化することによって見つけることができます。 [ 5 ]
固有値には添え字が付いている。ソート済みであることを示す。最小化の位置は、最も低い信頼性のある固有値である。計測システムでは、この信頼性のある固有値の平方根は、システムの構成要素全体の平均ノイズとなる。
固有値分解により、行列のべき級数の計算がはるかに容易になります。f( x )が次のように与えられる 場合 そうすれば、 Λは対角行列である ため、Λの関数は非常に簡単に計算できます。
f ( Λ )の非対角要素はゼロです。つまり、f ( Λ )も対角行列です。したがって、f ( A )を計算するには、各固有値に対して関数を計算するだけで済みます。
同様の手法は、正則関数計算においてより一般的に機能し、 上 から見ると、
これらは関数の例です。 さらに、は行列指数関数です。
スペクトル行列は、固有の値と完全な固有ベクトルセットを持つ行列です。この特性により、スペクトル行列は完全に対角化可能となり、固有値分解を用いてより単純な形式に分解することができます。この分解プロセスは、特に量子力学、信号処理、数値解析などの分野において、行列の構造と挙動に関する基本的な洞察をもたらします。[ 6 ]
複素数値の正方行列正常です(つまり、、そこではの共役転置です ) 分解できる場合に限り、、そこではユニタリ行列です(つまり、 ) およびは対角行列です。[ 7 ]列のは正規直交基底を形成し、の固有ベクトルである。対応する固有値とともに . [ 8 ]
例えば、正規行列 .
固有値はそして .
これらの固有値に対応する可能性のある正規化固有ベクトルは次のとおりです。そして .
因数分解は、そこで
、 、そして .
検証は .
この例は、正規行列を対角化するプロセスを示しています。固有値と固有ベクトルを求め、ユニタリ行列を形成することによって対角行列、そして分解を検証する。

特別なケースとして、すべての実対称行列では、固有値は実数であり、固有ベクトルは実数かつ正規直交行列として選択できます。したがって、実対称行列はは次のように分解できます。、そこでは、列が の実数正規直交固有ベクトルである直交行列です。、そしては、の固有値である対角行列です。 . [ 9 ]
対角化可能な行列は、線形独立な固有ベクトルの完全なセットを持つ場合、固有値分解を用いて分解できます。それらは次のように表すことができます。、そこでは、列が の固有ベクトルである行列です。、そしては、 の対応する固有値からなる対角行列です。 . [ 8 ]
正定値行列とは、すべての固有値が正である行列のことです。これらは次のように分解できます。コレスキー分解を用いると、は下三角行列である。[ 10 ]
直交行列は以下を満たす(実数の場合)ユニタリ行列は以下を満たす(複雑なケース)の転置を表すそしてはの共役転置を表します 。ユニタリ変換を用いて対角化する。 [ 8 ]
エルミート行列は以下を満たす、そこではの共役転置を表しますこれらはユニタリ行列または直交行列を使用して対角化できます。 [ 8 ]
与えられた行列の固有値を計算したいとします。行列が小さい場合は、特性多項式を使用して記号的に計算できます。しかし、これは大きな行列では不可能な場合が多く、その場合は数値的な方法を使用する必要があります。
実際には、大きな行列の固有値は特性多項式を用いて計算されることはありません。多項式の計算自体がコストのかかるものになり、高次多項式の正確な(記号的な)根を計算して表現することは困難です。アーベル・ルフィニの定理によれば、高次(5次以上)多項式の根は一般にn乗根を用いて単純に表現することはできません。したがって、固有ベクトルと固有値を求める一般的なアルゴリズムは反復的です。
多項式の根を近似するための反復数値アルゴリズムは、ニュートン法など存在するが、一般に特性多項式を計算してからこれらの方法を適用するのは非現実的である。その理由の一つは、特性多項式の係数における小さな丸め誤差が、固有値と固有ベクトルに大きな誤差をもたらす可能性があることである。根は係数の極めて条件の悪い関数である。 [ 11 ]
単純かつ正確な反復法はべき乗法である。ランダムベクトルvを選択し、単位ベクトルのシーケンスを計算する。
この数列は、 v が固有ベクトル基底にこの固有ベクトルの非ゼロ成分を持つ場合(また、最大絶対値の固有値が 1 つしかない場合)、ほぼ常に最大絶対値の固有値に対応する固有ベクトルに収束します。この単純なアルゴリズムは、いくつかの実用的なアプリケーションで役立ちます。たとえば、 Google は検索エンジンでドキュメントのページランクを計算するためにこれを使用しています。 [ 12 ] また、べき乗法は、より高度なアルゴリズムの出発点となっています。たとえば、数列の最後のベクトルだけでなく、数列のすべてのベクトルのスパンを調べることで、固有ベクトルのより良い(より速く収束する)近似値を得ることができ、このアイデアはアーノルディ反復法の基礎となっています。[ 11 ] また、重要なQR アルゴリズムも、べき乗法の微妙な変換に基づいています。[ 11 ]
固有値が計算されたら、次の式を解くことで固有ベクトルを計算できます。 ガウス消去法または行列方程式を解くための他の方法 を使用する。
しかし、実際の大規模な固有値法では、固有ベクトルは通常、固有値計算の副産物として別の方法で計算されます。たとえば、べき乗反復では、固有ベクトルは実際には固有値の前に計算されます(これは通常、固有ベクトルのレイリー商によって計算されます)。 [ 11 ]エルミート行列(または任意の正規行列) の QR アルゴリズムでは、正規直交固有ベクトルは、アルゴリズムのステップからのQ行列の積として得られます。 [ 11 ] (より一般的な行列の場合、QR アルゴリズムは最初にSchur 分解を生成し、そこから逆代入手順によって固有ベクトルを得ることができます。[ 13 ])エルミート行列の場合、固有ベクトルと固有値の両方が必要な場合は、分割統治固有値アルゴリズムの方がQR アルゴリズムよりも効率的です。[ 11 ]
固有値の幾何学的重複度は、関連する固有空間の次元、つまり零空間の次元として記述できることを思い出してください。代数的重複度は次元と考えることもできます。それは、関連する一般化固有空間(第一の意味で)の次元であり、行列の零空間です。十分大きな任意のつまり、それは(第一の意味で)一般化固有ベクトルの空間であり、一般化固有ベクトルとは最終的にになる任意のベクトルである。もし が十分な回数連続して適用されます。任意の固有ベクトルは一般化固有ベクトルであり、したがって各固有空間は関連する一般化固有空間に含まれます。これにより、幾何学的重複度が常に代数的重複度以下であることが簡単に証明されます。
この用法は、後述する一般化固有値問題と混同してはならない。
共役固有ベクトルまたは共役固有ベクトルとは、変換後にその共役のスカラー倍に写像されるベクトルであり、そのスカラーは線形変換の共役固有値または共役固有値と呼ばれます。共役固有ベクトルと共役固有値は、本質的に通常の固有ベクトルと固有値と同じ情報と意味を表しますが、別の座標系が使用される場合に生じます。対応する方程式は次のとおりです。 例えば、コヒーレント電磁散乱理論では、線形変換Aは散乱物体が行う動作を表し、固有ベクトルは電磁波の偏光状態を表します。光学では、座標系は波の視点から定義され、前方散乱アライメント(FSA)として知られており、通常の固有値方程式が得られます。一方、レーダーでは、座標系はレーダーの視点から定義され、後方散乱アライメント(BSA)として知られており、コニー固有値方程式が得られます。
一般化固有値問題(第2の意味)とは、以下の式を満たす (ゼロでない)ベクトルvを見つける問題である。 ここで、AとBは行列である。vがλを用いてこの式を満たす場合、vをAとBの一般化固有ベクトル(第2の意味)と呼び、 λをAとBの一般化固有値(第2の意味)と呼び、これは一般化固有ベクトルvに対応する。λの取りうる値は、次の式を満たさなければならない 。
n個の線形独立なベクトル{ v 1 , …, v n }が存在し、すべてのi ∈ {1, …, n }に対してAv i = λ i Bv iとなる場合、行列PとDを次のように 定義します。 すると、次の等式が成り立つ。 そしてその証拠は
そしてPは可逆関数なので、右からその逆関数を掛ければ証明は完了する。
λが複素数であるA − λ Bの形の行列の集合はペンシルと呼ばれます。行列ペンシルという用語は、行列のペア( A , B )を指す場合もあります。[ 14 ]
Bが可逆行列である場合、元の問題は次の形式で記述できます。 これは標準的な固有値問題です。しかし、ほとんどの場合、逆行列計算を行うのではなく、最初に述べた一般化固有値問題を解く方が望ましいです。これは、AとBがエルミート行列である場合に特に重要です。なぜなら、この場合、B −1 Aは一般にエルミート行列ではなく、解の重要な性質がもはや明らかにならないからです。
AとBが両方とも対称行列またはエルミート行列であり、Bが正定値行列でもある場合、固有値λiは実数であり、異なる固有値を持つ固有ベクトルv1とv2はB直交である( v1 * Bv2 = 0 )。[ 15 ]この場合、上記の行列Pが以下の条件を満たす ように固有ベクトルを選択できる。 または そして、一般化固有ベクトルの基底が 存在する(欠陥問題ではない)。[ 14 ] このケースは、エルミート定値ペンシルまたは定値ペンシルと呼ばれることがある。[ 14 ]