行列ノルム

行列ノルムは、すべてのユニタリ行列に対して、${\displaystyle U,V}$行列${\displaystyle A}$、${\displaystyle \lVert UAV\rVert =\lVert A\rVert }$。

対称ゲージ関数は絶対ベクトルノルムである${\displaystyle \phi$ :\mathbb {C} ^{p}\to \mathbb {R} ^{+}} で、 ${\displaystyle \phi (Px)=\phi (x)}$任意の置換行列に対して${\displaystyle P}$つまり：

• 非否定性：${\displaystyle \phi (x)\geq 0}$、 そして${\displaystyle \phi (x)=0}$かつその場合に限り${\displaystyle x=0}$。
• 正の同質性：${\displaystyle \phi (\alpha x)=|\alpha |\phi (x)}$任意の実数に対して${\displaystyle \alpha }$。
• 三角不等式：${\displaystyle \phi (x+y)\leq \phi (x)+\phi (y)}$。
• 対称：${\displaystyle \phi (Px)=\phi (x)}$任意の置換行列に対して${\displaystyle P}$。

ノルムがユニタリ不変行列ノルムであるのは、それが特異値ベクトル上の対称ゲージ関数である場合に限る。 ^{[ 4 ]}

行列ノルム${\displaystyle \|\cdot \|}$の上$\displaystyle K^{m\times n}}$ベクトルノルムと整合していると呼ばれる${\displaystyle \|\cdot \|_{\alpha }}$の上${\displaystyle K^{n}}$そしてベクトルノルム${\displaystyle \|\cdot \|_{\beta }}$の上${\displaystyle K^{m}}$、 もし： $$\displaystyle \left\|Ax\right\|_{\beta }\leq \left\|A\right\|\left\|x\right\|_{\alpha }}$$ すべての人々のために${\displaystyle A\in K^{m\times n}}$そしてすべて${\displaystyle x\in K^{n}}$. m = nの特殊な場合、${\displaystyle \alpha =\beta }$、${\displaystyle \|\cdot \|}$互換性があるとも言われる${\displaystyle \|\cdot \|_{\alpha }}$。

ベクトルノルムによって誘導されるすべての行列ノルムは定義により一貫性があります。また、任意のサブ乗法行列ノルムは$\displaystyle K^{n\times n}}$適合するベクトルノルムを誘導する${\displaystyle K^{n}}$定義することによって${\displaystyle \left\|v\right\|:=\left\|\left(v,v,\dots ,v\right)\right\|}$。

行列ノルム${\displaystyle \|\cdot \|}$行列ノルムは、ローナー次数に関して単調である場合、単調であると呼ばれます。したがって、行列ノルムは、次の場合に増加します。

${\displaystyle A\preccurlyeq B\Rightarrow \|A\|\leq \|B\|.}$

フロベニウスノルムとスペクトルノルムは、単調ノルムの例である。^{[ 5 ]}

ベクトルのpノルム(${\displaystyle 1\leq p\leq \infty }$) は両方のスペースに使用されます${\displaystyle K^{n}}$そして${\displaystyle K^{m},}$すると、対応する演算子ノルムは次のようになります。^{[ 2 ]}$${\displaystyle \|A\|_{p}=\sup\{\|Ax\|_{p}:x\in K^{n}{\text{ such that }}\|x\|_{p}\leq 1\}.}$$これらの誘導ノルムは、以下で扱う行列の「要素ごとの」pノルムおよびシャッテンpノルム とは異なり、通常は次のように表記されます。${\displaystyle \|A\|_{p}.}$

幾何学的に言えば、pノルム単位球を想像することができる。${\displaystyle V_{p,n}=\{x\in K^{n}:\|x\|_{p}\leq 1\}}$で${\displaystyle K^{n}}$次に、線形マップを適用します。${\displaystyle A}$ボールに向かって。それは歪んだ凸型になるだろう。${\displaystyle AV_{p,n}\subset K^{m}}$、 そして${\displaystyle \|A\|_{p}}$歪んだ凸形状の最長「半径」を測定します。言い換えれば、pノルム単位球を取る必要があります。${\displaystyle V_{p,m}}$で${\displaystyle K^{m}}$それを少なくとも${\displaystyle \|A\|_{p}}$十分な大きさにするために${\displaystyle AV_{p,n}}$。

上記の定義を一般化することができます。ベクトルノルムがあると仮定します。${\displaystyle \|\cdot \|_{\alpha }}$そして${\displaystyle \|\cdot \|_{\beta }}$スペース用${\displaystyle K^{n}}$そして${\displaystyle K^{m}}$それぞれ、対応する演算子ノルムは $${\displaystyle \|A\|_{\alpha ,\beta }=\sup\{\|Ax\|_{\beta }:x\in K^{n}{\text{ such that }}\|x\|_{\alpha }\leq 1\}}$$ 特に、${\displaystyle \|A\|_{p}}$前述の定義は、${\displaystyle \|A\|_{p,p}}$。

特別な場合${\displaystyle \alpha =2}$そして${\displaystyle \beta =\infty }$誘導行列ノルムは次のように計算できます。$${\displaystyle \|A\|_{2,\infty }=\max _{1\leq i\leq m}\|A_{i:}\|_{2},}$$どこ${\displaystyle A_{i:}}$は行列の i 番目の行です${\displaystyle A}$。

特別な場合${\displaystyle \alpha =1}$そして${\displaystyle \beta =2}$誘導行列ノルムは次のように計算できます。$${\displaystyle \|A\|_{1,2}=\max _{1\leq j\leq n}\|A_{:j}\|_{2},}$$どこ${\displaystyle A_{:j}}$は行列の j 番目の列です${\displaystyle A}$。

したがって、${\displaystyle \|A\|_{2,\infty }}$そして${\displaystyle \|A\|_{1,2}}$これらはそれぞれ、行列の行および列の2ノルムの最大値です。

任意の演算子ノルムは 、それを誘導するベクトルノルムと 整合しており、$${\displaystyle \|Ax\|_{\beta }\leq \|A\|_{\alpha ,\beta }\|x\|_{\alpha }.}$$

仮定する${\displaystyle \|\cdot \|_{\alpha ,\beta }}$;${\displaystyle \|\cdot \|_{\beta ,\gamma }}$; そして${\displaystyle \|\cdot \|_{\alpha ,\gamma }}$は、それぞれのベクトルノルムのペアによって誘導される演算子ノルムである。${\displaystyle (\|\cdot \|_{\alpha },\|\cdot \|_{\beta })}$;${\displaystyle (\|\cdot \|_{\beta },\|\cdot \|_{\gamma })}$; そして${\displaystyle (\|\cdot \|_{\alpha },\|\cdot \|_{\gamma })}$。 それから、

${\displaystyle \|AB\|_{\alpha ,\gamma }\leq \|A\|_{\beta ,\gamma }\|B\|_{\alpha ,\beta };}$

これは以下から $${\displaystyle \|ABx\|_{\gamma }\leq \|A\|_{\beta ,\gamma }\|Bx\|_{\beta }\leq \|A\|_{\beta ,\gamma }\|B\|_{\alpha ,\beta }\|x\|_{\alpha }}$$ そして $${\displaystyle \sup _{\|x\|_{\alpha }=1}\|ABx\|_{\gamma }=\|AB\|_{\alpha ,\gamma }.}$$

仮定する${\displaystyle \|\cdot \|_{\alpha ,\alpha }}$は正方行列の空間における作用素ノルムである。${\displaystyle K^{n\times n}}$ ベクトルノルムによって誘導される${\displaystyle \|\cdot \|_{\alpha }}$そして${\displaystyle \|\cdot \|_{\alpha }}$すると、演算子ノルムは劣乗法行列ノルムとなる。 $${\displaystyle \|AB\|_{\alpha ,\alpha }\leq \|A\|_{\alpha ,\alpha }\|B\|_{\alpha ,\alpha }.}$$

さらに、そのような規範は不等式を満たす。

すべての正の整数rに対して、ρ ( A )はAのスペクトル半径です。対称行列またはエルミート行列Aの場合、2 ノルムについては ( 1 )で等号が成り立ちます。この場合、2 ノルムはAのスペクトル半径と正確に一致するからです。任意の行列の場合、どのノルムについても等号が成り立たない場合があります。反例としては、 $${\displaystyle A={\begin{bmatrix}0&1\\0&0\end{bmatrix}},}$$ これはスペクトル半径がゼロになる。いずれにせよ、任意の行列ノルムに対して、スペクトル半径の公式は次のようになる。 $${\displaystyle \lim _{r\to \infty }\|A^{r}\|^{1/r}=\rho (A).}$$

ベクトルノルムが${\displaystyle \|\cdot \|_{\alpha }}$そして${\displaystyle \|\cdot \|_{\beta }}$対称正定値行列に基づくエネルギーノルムで表されます${\displaystyle P}$そして${\displaystyle Q}$それぞれ、結果として得られる演算子ノルムは次のように与えられる。 $${\displaystyle \|A\|_{P,Q}=\sup\{\|Ax\|_{Q}:\|x\|_{P}\leq 1\}.}$$

対称行列の平方根を使用して${\displaystyle P}$そして${\displaystyle Q}$それぞれ、演算子ノルムは修正行列のスペクトルノルムとして表現できる。

$${\displaystyle \|A\|_{P,Q}=\|Q^{1/2}AP^{-1/2}\|_{2}.}$$

させて${\displaystyle (a_{1},\ldots ,a_{n})}$行列のm列の次元をとする${\displaystyle A}$元の定義から、行列は${\displaystyle A}$m次元空間にn個のデータポイントを示します。${\displaystyle L_{2,1}}$norm ^{[ 7 ]}は、行列の列のユークリッドノルムの合計です。

${\displaystyle \|A\|_{2,1}=\sum _{j=1}^{n}\|a_{j}\|_{2}=\sum _{j=1}^{n}\left(\sum _{i=1}^{m}|a_{ij}|^{2}\right)^{1/2}}$

の${\displaystyle L_{2,1}}$損失関数としてノルムを用いると、各データポイント（列）の誤差が二乗されないため、よりロバストになります。これは、ロバストなデータ分析やスパースコーディングで用いられます。

p、q ≥ 1の場合、${\displaystyle L_{2,1}}$規範は一般化できる${\displaystyle L_{p,q}}$基準は以下のとおりです。

${\displaystyle \|A\|_{p,q}=\left(\sum _{j=1}^{n}\left(\sum _{i=1}^{m}|a_{ij}|^{p}\right)^{\frac {q}{p}}\right)^{\frac {1}{q}}.}$

p = q = 2の場合、${\displaystyle L_{p,q}}$このノルムは、フロベニウスノルムまたはヒルベルト・シュミットノルムと呼ばれますが、後者の用語は（おそらく無限次元の）ヒルベルト空間上の作用素の文脈でより頻繁に使用されます。このノルムは、さまざまな方法で定義できます。

${\displaystyle \|A\|_{\text{F}}={\sqrt {\sum _{i}^{m}\sum _{j}^{n}|a_{ij}|^{2}}}={\sqrt {\operatorname {trace} \left(A^{*}A\right)}}={\sqrt {\sum _{i=1}^{\min\{m,n\}}\sigma _{i}^{2}(A)}},}$

ここでトレースは対角成分の合計であり、${\displaystyle \sigma _{i}(A)}$は、​${\displaystyle A}$2番目の等式は、明示的な計算によって証明される。${\displaystyle \mathrm {trace} (A^{*}A)}$3番目の等式は、の特異値分解によって証明される。${\displaystyle A}$そして、トレースが円シフトに対して不変であるという事実。

フロベニウスノルムはユークリッドノルムの拡張であり、${\displaystyle K^{n\times n}}$そして、これはすべての行列の空間におけるフロベニウス内積から得られる。

フロベニウスノルムは劣乗法性を持ち、数値線形代数において非常に有用である。フロベニウスノルムの劣乗法性は、コーシー・シュワルツの不等式を用いて証明できる。実際、劣乗法性以上の性質を持ち、$${\displaystyle \|AB\|_{F}\leq \|A\|_{op}\|B\|_{F}}$$ここで、演算子ノルムは${\displaystyle \|\cdot \|_{op}\leq \|\cdot \|_{F}}$。

フロベニウスノルムは誘導ノルムよりも計算が容易な場合が多く、回転（および一般的にはユニタリ演算）に対して不変であるという有用な性質を持っています。つまり、${\displaystyle \|A\|_{\text{F}}=\|AU\|_{\text{F}}=\|UA\|_{\text{F}}}$任意のユニタリ行列に対して${\displaystyle U}$この特性はトレースの周期性から導かれる（${\displaystyle \operatorname {trace} (XYZ)=\operatorname {trace} (YZX)=\operatorname {trace} (ZXY)}$):

${\displaystyle \|AU\|_{\text{F}}^{2}=\operatorname {trace} \left((AU)^{*}AU\right)=\operatorname {trace} \left(U^{*}A^{*}AU\right)=\operatorname {trace} \left(UU^{*}A^{*}A\right)=\operatorname {trace} \left(A^{*}A\right)=\|A\|_{\text{F}}^{2},}$

そして同様に：

${\displaystyle \|UA\|_{\text{F}}^{2}=\operatorname {trace} \left((UA)^{*}UA\right)=\operatorname {trace} \left(A^{*}U^{*}UA\right)=\operatorname {trace} \left(A^{*}A\right)=\|A\|_{\text{F}}^{2},}$

ここで我々は統一的な性質を利用した${\displaystyle U}$（つまり、${\displaystyle U^{*}U=UU^{*}=\mathbf {I} }$)

また、

${\displaystyle \|A^{*}A\|_{\text{F}}=\|AA^{*}\|_{\text{F}}\leq \|A\|_{\text{F}}^{2}}$

そして

${\displaystyle \|A+B\|_{\text{F}}^{2}=\|A\|_{\text{F}}^{2}+\|B\|_{\text{F}}^{2}+2\operatorname {Re} \left(\langle A,B\rangle _{\text{F}}\right),}$

どこ${\displaystyle \langle A,B\rangle _{\text{F}}}$はフロベニウス内積であり、Reは複素数の実数部である（実数行列の場合は関係ない）。

最大ノルムは、 p = qが無限大に近づくときの極限における要素ごとのノルムです。

${\displaystyle \|A\|_{\max }=\max _{i,j}|a_{ij}|.}$

このノルムは劣乗法ではありませんが、右辺を修正すると${\displaystyle {\sqrt {mn}}\max _{i,j}\vert a_{ij}\vert }$そうさせるのです。

注意すべき点として、一部の文献（例えば、通信複雑性）では、最大ノルムの別の定義として、${\displaystyle \gamma _{2}}$-ノルムとは、因数分解ノルムを指します。

${\displaystyle \gamma _{2}(A)=\min _{U,V:A=UV^{T}}\|U\|_{2,\infty }\|V\|_{2,\infty }=\min _{U,V:A=UV^{T}}\max _{i,j}\|U_{i,:}\|_{2}\|V_{j,:}\|_{2}}$

させて${\displaystyle \|A\|_{p}}$ここでも、ベクトルpノルムによって誘導されるノルム（上記の「誘導ノルム」の項を参照）について言及します。

行列の場合${\displaystyle A\in \mathbb {R} ^{m\times n}}$階級​${\displaystyle r}$、次の不等式が成り立つ：^{[ 12 ] [ 13 ]}

• ${\displaystyle \|A\|_{2}\leq \|A\|_{F}\leq {\sqrt {r}}\|A\|_{2}}$
• ${\displaystyle \|A\|_{F}\leq \|A\|_{*}\leq {\sqrt {r}}\|A\|_{F}}$
• ${\displaystyle \|A\|_{\max }\leq \|A\|_{2}\leq {\sqrt {mn}}\|A\|_{\max }}$
• ${\displaystyle {\frac {1}{\sqrt {n}}}\|A\|_{\infty }\leq \|A\|_{2}\leq {\sqrt {m}}\|A\|_{\infty }}$
• ${\displaystyle {\frac {1}{\sqrt {m}}}\|A\|_{1}\leq \|A\|_{2}\leq {\sqrt {n}}\|A\|_{1}.}$