行列のベクトル空間上のノルム
数学 の分野では 、 ベクトル空間 内の要素に対して ノルムが定義されます。特に、ベクトル空間が行列で構成される場合、そのようなノルムは 行列ノルム と呼ばれます 。行列ノルムは、行列の乗算とも相互作用する必要がある点でベクトルノルムとは異なります。
予選
実数 または 複素数 の 体 が与えられたとき 、を の 行と 列を持ち、 の要素を持つ 行列の K ベクトル 空間 とします 。行列ノルムは 上の ノルム です。
K
{\displaystyle K}
K
m
×
n
{\displaystyle K^{m\times n}}
m
{\displaystyle m}
n
{\displaystyle n}
K
{\displaystyle K}
K
m
×
n
{\displaystyle K^{m\times n}}
ノルムは、多くの場合、二重の縦棒 で表現されます (例: )。したがって、行列ノルムは、 次の特性を満たす 関数です。 [1] [2]
‖
A
‖
{\displaystyle \|A\|}
‖
⋅
‖
:
K
m
×
n
→
R
{\displaystyle \|\cdot \|:K^{m\times n}\to \mathbb {R} }
すべてのスカラー と行列について 、
α
∈
K
{\displaystyle \alpha \in K}
A
,
B
∈
K
m
×
n
{\displaystyle A,B\in K^{m\times n}}
‖
A
‖
≥
0
{\displaystyle \|A\|\geq 0}
( 正の値 )
‖
A
‖
=
0
⟺
A
=
0
m
,
n
{\displaystyle \|A\|=0\iff A=0_{m,n}}
( 確定 )
‖
α
A
‖
=
|
α
|
‖
A
‖
{\displaystyle \left\|\alpha A\right\|=\left|\alpha \right|\left\|A\right\|}
( 完全に均質 )
‖
A
+
B
‖
≤
‖
A
‖
+
‖
B
‖
{\displaystyle \|A+B\|\leq \|A\|+\|B\|}
( 劣加法性または 三角不等式を 満たす )
行列と並べ替えられたベクトルを区別する唯一の特徴は 乗算である。行列ノルムは 、乗算 も可能である場合に特に有用である : [1] [2] [3]
‖
A
B
‖
≤
‖
A
‖
‖
B
‖
{\displaystyle \left\|AB\right\|\leq \left\|A\right\|\left\|B\right\|}
[注1]
Kn × n 上のすべてのノルムは 、サブ乗法になるように再スケールすることができます。いくつかの書籍では、用語「 行列 ノルム」は サブ乗法ノルムのために予約されています。 [4]
ベクトルノルムによって誘導される行列ノルム
上の ベクトルノルム と上の ベクトルノルム が与えられている とします。任意の 行列 A は 、標準基底に関して から への線型演算子を誘導し、対応する誘導ノルム、演算子ノルム、または従属ノルムをすべての行列の空間上で次のように定義します 。 ここ で 、 は 上限 を 表し ます 。
この ノルム は 、 によって誘導されるマッピングが ベクトルをどれだけ引き伸ばせるかを測定します。使用されるベクトルノルム に応じて 、 演算子ノルムに
以外の表記法を使用できます。
‖
⋅
‖
α
{\displaystyle \|\cdot \|_{\alpha }}
K
n
{\displaystyle K^{n}}
‖
⋅
‖
β
{\displaystyle \|\cdot \|_{\beta }}
K
m
{\displaystyle K^{m}}
m
×
n
{\displaystyle m\times n}
K
n
{\displaystyle K^{n}}
K
m
{\displaystyle K^{m}}
K
m
×
n
{\displaystyle K^{m\times n}}
m
×
n
{\displaystyle m\times n}
‖
A
‖
α
,
β
=
sup
{
‖
A
x
‖
β
:
x
∈
K
n
with
‖
x
‖
α
=
1
}
=
sup
{
‖
A
x
‖
β
‖
x
‖
α
:
x
∈
K
n
with
x
≠
0
}
.
{\displaystyle {\begin{aligned}\|A\|_{\alpha ,\beta }&=\sup\{\|Ax\|_{\beta }:x\in K^{n}{\text{ with }}\|x\|_{\alpha }=1\}\\&=\sup \left\{{\frac {\|Ax\|_{\beta }}{\|x\|_{\alpha }}}:x\in K^{n}{\text{ with }}x\neq 0\right\}.\end{aligned}}}
sup
{\displaystyle \sup }
A
{\displaystyle A}
‖
⋅
‖
α
{\displaystyle \|\cdot \|_{\alpha }}
‖
⋅
‖
β
{\displaystyle \|\cdot \|_{\beta }}
‖
⋅
‖
α
,
β
{\displaystyle \|\cdot \|_{\alpha ,\beta }}
ベクトルによって誘導される行列ノルム p -規範
ベクトル ( )の p ノルムを両方の空間に使用する と 、 対応する演算子ノルムは次のようになります。 [2] これらの誘導ノルムは、以下で扱う行列の「エントリワイズ」 p ノルムや シャッテン p ノルム とは異なります。これらは通常、
1
≤
p
≤
∞
{\displaystyle 1\leq p\leq \infty }
K
n
{\displaystyle K^{n}}
K
m
,
{\displaystyle K^{m},}
‖
A
‖
p
=
sup
x
≠
0
‖
A
x
‖
p
‖
x
‖
p
.
{\displaystyle \|A\|_{p}=\sup _{x\neq 0}{\frac {\|Ax\|_{p}}{\|x\|_{p}}}.}
‖
A
‖
p
.
{\displaystyle \|A\|_{p}.}
幾何学的に言えば、 における p ノルム単位球を想像し、 その球に 線形写像を適用することができます。その結果、歪んだ凸形状 となり 、 歪んだ凸形状の最長の「半径」を測定します。言い換えると、 における p ノルム単位球を取り 、それを少なくとも 倍にして 、 を収容できる大きさにする必要があります 。
V
p
,
n
=
{
x
∈
K
n
:
‖
x
‖
p
≤
1
}
{\displaystyle V_{p,n}=\{x\in K^{n}:\|x\|_{p}\leq 1\}}
K
n
{\displaystyle K^{n}}
A
{\displaystyle A}
A
V
p
,
n
⊂
K
m
{\displaystyle AV_{p,n}\subset K^{m}}
‖
A
‖
p
{\displaystyle \|A\|_{p}}
V
p
,
m
{\displaystyle V_{p,m}}
K
m
{\displaystyle K^{m}}
‖
A
‖
p
{\displaystyle \|A\|_{p}}
A
V
p
,
n
{\displaystyle AV_{p,n}}
p = 1, ∞
のとき 、簡単な式が得られます。 これは単に行列の列の絶対値の合計の最大値です。 これは単に行列の行の絶対値の合計の最大値です。たとえば、 のときは
次の式が得られます。
p
=
1
,
∞
{\displaystyle p=1,\infty }
‖
A
‖
1
=
max
1
≤
j
≤
n
∑
i
=
1
m
|
a
i
j
|
,
{\displaystyle \|A\|_{1}=\max _{1\leq j\leq n}\sum _{i=1}^{m}|a_{ij}|,}
‖
A
‖
∞
=
max
1
≤
i
≤
m
∑
j
=
1
n
|
a
i
j
|
,
{\displaystyle \|A\|_{\infty }=\max _{1\leq i\leq m}\sum _{j=1}^{n}|a_{ij}|,}
A
=
[
−
3
5
7
2
6
4
0
2
8
]
,
{\displaystyle A={\begin{bmatrix}-3&5&7\\2&6&4\\0&2&8\\\end{bmatrix}},}
‖
A
‖
1
=
max
(
|
−
3
|
+
2
+
0
;
5
+
6
+
2
;
7
+
4
+
8
)
=
max
(
5
,
13
,
19
)
=
19
,
{\displaystyle \|A\|_{1}=\max(|{-3}|+2+0;5+6+2;7+4+8)=\max(5,13,19)=19,}
‖
A
‖
∞
=
max
(
|
−
3
|
+
5
+
7
;
2
+
6
+
4
;
0
+
2
+
8
)
=
max
(
15
,
12
,
10
)
=
15.
{\displaystyle \|A\|_{\infty }=\max(|{-3}|+5+7;2+6+4;0+2+8)=\max(15,12,10)=15.}
スペクトルノルム( p = 2)
(ベクトルの ユークリッドノルム または-ノルム)
のとき 、誘導される行列ノルムは スペクトルノルム です。(2つの値は 無限次元では一致 しません。詳細については スペクトル半径 を参照してください。スペクトル半径をスペクトルノルムと混同しないでください。)行列のスペクトルノルムは の 最大 特異値 (つまり、が の 共役転置 を表す 行列の最大 固有値 の平方根 )です。 [5] ここで は 行列の最大特異値を表します。
p
=
2
{\displaystyle p=2}
ℓ
2
{\displaystyle \ell _{2}}
A
{\displaystyle A}
A
{\displaystyle A}
A
∗
A
,
{\displaystyle A^{*}A,}
A
∗
{\displaystyle A^{*}}
A
{\displaystyle A}
‖
A
‖
2
=
λ
max
(
A
∗
A
)
=
σ
max
(
A
)
.
{\displaystyle \|A\|_{2}={\sqrt {\lambda _{\max }\left(A^{*}A\right)}}=\sigma _{\max }(A).}
σ
max
(
A
)
{\displaystyle \sigma _{\max }(A)}
A
.
{\displaystyle A.}
さらに次のプロパティがあります:
‖
A
‖
2
=
sup
{
x
∗
A
y
:
x
∈
K
m
,
y
∈
K
n
with
‖
x
‖
2
=
‖
y
‖
2
=
1
}
.
{\textstyle \|A\|_{2}=\sup\{x^{*}Ay:x\in K^{m},y\in K^{n}{\text{ with }}\|x\|_{2}=\|y\|_{2}=1\}.}
コーシー・シュワルツの不等式 によって証明される 。
‖
A
∗
A
‖
2
=
‖
A
A
∗
‖
2
=
‖
A
‖
2
2
{\textstyle \|A^{*}A\|_{2}=\|AA^{*}\|_{2}=\|A\|_{2}^{2}}
特異値分解 (SVD) によって証明されます 。
A
{\displaystyle A}
‖
A
‖
2
=
σ
m
a
x
(
A
)
≤
‖
A
‖
F
=
∑
i
σ
i
(
A
)
2
{\textstyle \|A\|_{2}=\sigma _{\mathrm {max} }(A)\leq \|A\|_{\rm {F}}={\sqrt {\sum _{i}\sigma _{i}(A)^{2}}}}
、ここで は フロベニウスノルムです。等式は、行列が 階数 1 の行列またはゼロ行列である場合にのみ成立します。
‖
A
‖
F
{\displaystyle \|A\|_{\textrm {F}}}
A
{\displaystyle A}
‖
A
‖
2
=
ρ
(
A
∗
A
)
≤
‖
A
∗
A
‖
∞
≤
‖
A
‖
1
‖
A
‖
∞
{\displaystyle \|A\|_{2}={\sqrt {\rho (A^{*}A)}}\leq {\sqrt {\|A^{*}A\|_{\infty }}}\leq {\sqrt {\|A\|_{1}\|A\|_{\infty }}}}
。
ベクトルによって誘導される行列ノルム α - そして β -規範
上記の定義を一般化することができます。 空間 とに対してそれぞれベクトルノルム とがあるとします 。対応する演算子ノルムは です。 特に、 前に定義した は の特殊なケースです 。
‖
⋅
‖
α
{\displaystyle \|\cdot \|_{\alpha }}
‖
⋅
‖
β
{\displaystyle \|\cdot \|_{\beta }}
K
n
{\displaystyle K^{n}}
K
m
{\displaystyle K^{m}}
‖
A
‖
α
,
β
=
sup
x
≠
0
‖
A
x
‖
β
‖
x
‖
α
.
{\displaystyle \|A\|_{\alpha ,\beta }=\sup _{x\neq 0}{\frac {\|Ax\|_{\beta }}{\|x\|_{\alpha }}}.}
‖
A
‖
p
{\displaystyle \|A\|_{p}}
‖
A
‖
p
,
p
{\displaystyle \|A\|_{p,p}}
および の特殊なケースでは 、誘導行列ノルムは によって計算できます 。
ここで 、 は行列 の i 番目の行です。
α
=
2
{\displaystyle \alpha =2}
β
=
∞
{\displaystyle \beta =\infty }
‖
A
‖
2
,
∞
=
max
1
≤
i
≤
m
‖
A
i
:
‖
2
,
{\displaystyle \|A\|_{2,\infty }=\max _{1\leq i\leq m}\|A_{i:}\|_{2},}
A
i
:
{\displaystyle A_{i:}}
A
{\displaystyle A}
および の特殊なケースでは 、誘導行列ノルムは によって計算できます 。
ここで 、 は行列 の j 番目の列です。
α
=
1
{\displaystyle \alpha =1}
β
=
2
{\displaystyle \beta =2}
‖
A
‖
1
,
2
=
max
1
≤
j
≤
n
‖
A
:
j
‖
2
,
{\displaystyle \|A\|_{1,2}=\max _{1\leq j\leq n}\|A_{:j}\|_{2},}
A
:
j
{\displaystyle A_{:j}}
A
{\displaystyle A}
したがって、 およびは それぞれ行列の行と列の 2 ノルムの最大値です。
‖
A
‖
2
,
∞
{\displaystyle \|A\|_{2,\infty }}
‖
A
‖
1
,
2
{\displaystyle \|A\|_{1,2}}
プロパティ
任意の演算子ノルムはそれを誘導するベクトルノルムと整合しており、
‖
A
x
‖
β
≤
‖
A
‖
α
,
β
‖
x
‖
α
.
{\displaystyle \|Ax\|_{\beta }\leq \|A\|_{\alpha ,\beta }\|x\|_{\alpha }.}
; ; および が、それぞれベクトルノルム ; ; および のペアによって誘導される演算子ノルムであると 仮定します 。すると、
‖
⋅
‖
α
,
β
{\displaystyle \|\cdot \|_{\alpha ,\beta }}
‖
⋅
‖
β
,
γ
{\displaystyle \|\cdot \|_{\beta ,\gamma }}
‖
⋅
‖
α
,
γ
{\displaystyle \|\cdot \|_{\alpha ,\gamma }}
(
‖
⋅
‖
α
,
‖
⋅
‖
β
)
{\displaystyle (\|\cdot \|_{\alpha },\|\cdot \|_{\beta })}
(
‖
⋅
‖
β
,
‖
⋅
‖
γ
)
{\displaystyle (\|\cdot \|_{\beta },\|\cdot \|_{\gamma })}
(
‖
⋅
‖
α
,
‖
⋅
‖
γ
)
{\displaystyle (\|\cdot \|_{\alpha },\|\cdot \|_{\gamma })}
‖
A
B
‖
α
,
γ
≤
‖
A
‖
β
,
γ
‖
B
‖
α
,
β
;
{\displaystyle \|AB\|_{\alpha ,\gamma }\leq \|A\|_{\beta ,\gamma }\|B\|_{\alpha ,\beta };}
これは
次の
ことから導かれ、
‖
A
B
x
‖
γ
≤
‖
A
‖
β
,
γ
‖
B
x
‖
β
≤
‖
A
‖
β
,
γ
‖
B
‖
α
,
β
‖
x
‖
α
{\displaystyle \|ABx\|_{\gamma }\leq \|A\|_{\beta ,\gamma }\|Bx\|_{\beta }\leq \|A\|_{\beta ,\gamma }\|B\|_{\alpha ,\beta }\|x\|_{\alpha }}
sup
‖
x
‖
α
=
1
‖
A
B
x
‖
γ
=
‖
A
B
‖
α
,
γ
.
{\displaystyle \sup _{\|x\|_{\alpha }=1}\|ABx\|_{\gamma }=\|AB\|_{\alpha ,\gamma }.}
正方行列
がベクトルノルム とによって誘導される 正方行列の空間上の演算子ノルムである とします 。このとき、演算子ノルムは部分乗法行列ノルムです。
‖
⋅
‖
α
,
α
{\displaystyle \|\cdot \|_{\alpha ,\alpha }}
K
n
×
n
{\displaystyle K^{n\times n}}
‖
⋅
‖
α
{\displaystyle \|\cdot \|_{\alpha }}
‖
⋅
‖
α
{\displaystyle \|\cdot \|_{\alpha }}
‖
A
B
‖
α
,
α
≤
‖
A
‖
α
,
α
‖
B
‖
α
,
α
.
{\displaystyle \|AB\|_{\alpha ,\alpha }\leq \|A\|_{\alpha ,\alpha }\|B\|_{\alpha ,\alpha }.}
さらに、そのような規範は不等式を満たす。
すべての正の整数 r に対して成り立ち、ここで ρ ( A )は A の スペクトル半径 です 。 対称 または エルミート Aの場合、 2 ノルムに対して ( 1 )の等式が成り立ちます 。この場合、 2 ノルムは A のスペクトル半径とまったく同じ だからです 。任意の行列の場合、どのノルムに対しても等式が成り立たない場合があります。反例として、スペクトル半径がゼロになる があります
。いずれにしても、どの行列ノルムに対しても、 スペクトル半径の式
が成り立ちます 。
A
=
[
0
1
0
0
]
,
{\displaystyle A={\begin{bmatrix}0&1\\0&0\end{bmatrix}},}
lim
r
→
∞
‖
A
r
‖
1
/
r
=
ρ
(
A
)
.
{\displaystyle \lim _{r\to \infty }\|A^{r}\|^{1/r}=\rho (A).}
一貫性と互換性のある規範
上の 行列ノルムは、 すべて のおよびすべて
の に対して、 上の ベクトルノルムおよび 上の ベクトルノルムと 一致すると さ
れます。m = n かつ の特別なケースでは 、 は と 互換性がある とも呼ばれます 。
‖
⋅
‖
{\displaystyle \|\cdot \|}
K
m
×
n
{\displaystyle K^{m\times n}}
‖
⋅
‖
α
{\displaystyle \|\cdot \|_{\alpha }}
K
n
{\displaystyle K^{n}}
‖
⋅
‖
β
{\displaystyle \|\cdot \|_{\beta }}
K
m
{\displaystyle K^{m}}
‖
A
x
‖
β
≤
‖
A
‖
‖
x
‖
α
{\displaystyle \left\|Ax\right\|_{\beta }\leq \left\|A\right\|\left\|x\right\|_{\alpha }}
A
∈
K
m
×
n
{\displaystyle A\in K^{m\times n}}
x
∈
K
n
{\displaystyle x\in K^{n}}
α
=
β
{\displaystyle \alpha =\beta }
‖
⋅
‖
{\displaystyle \|\cdot \|}
‖
⋅
‖
α
{\displaystyle \|\cdot \|_{\alpha }}
定義により、すべての誘導ノルムは矛盾しません。また、 上の任意のサブ乗法行列ノルムは、を 定義することにより 、 上の互換性のあるベクトルノルムを誘導します 。
K
n
×
n
{\displaystyle K^{n\times n}}
K
n
{\displaystyle K^{n}}
‖
v
‖
:=
‖
(
v
,
v
,
…
,
v
)
‖
{\displaystyle \left\|v\right\|:=\left\|\left(v,v,\dots ,v\right)\right\|}
「エントリごとの」行列ノルム
これらのノルムは、行列をサイズのベクトルとして 扱い 、よく知られているベクトルノルムの 1 つを使用します。たとえば、 ベクトルの pノルム p ≥ 1 を使用すると、次のようになります。
m
×
n
{\displaystyle m\times n}
m
⋅
n
{\displaystyle m\cdot n}
‖
A
‖
p
,
p
=
‖
v
e
c
(
A
)
‖
p
=
(
∑
i
=
1
m
∑
j
=
1
n
|
a
i
j
|
p
)
1
/
p
{\displaystyle \|A\|_{p,p}=\|\mathrm {vec} (A)\|_{p}=\left(\sum _{i=1}^{m}\sum _{j=1}^{n}|a_{ij}|^{p}\right)^{1/p}}
これは、誘導 p ノルム (上記参照) や Schatten p ノルム (下記参照) とは異なるノルムですが、表記は同じです。
特別な場合 p = 2 はフロベニウスノルムであり、 p = ∞ は最大ノルムをもたらします。
2,1 メートル そして L p,q 規範
を行列の列と します 。元の定義によれば、行列は m次元空間に n個の データ点を表します。 ノルム [6] は行列の列のユークリッドノルムの合計です。
(
a
1
,
…
,
a
n
)
{\displaystyle (a_{1},\ldots ,a_{n})}
A
{\displaystyle A}
A
{\displaystyle A}
L
2
,
1
{\displaystyle L_{2,1}}
‖
A
‖
2
,
1
=
∑
j
=
1
n
‖
a
j
‖
2
=
∑
j
=
1
n
(
∑
i
=
1
m
|
a
i
j
|
2
)
1
/
2
{\displaystyle \|A\|_{2,1}=\sum _{j=1}^{n}\|a_{j}\|_{2}=\sum _{j=1}^{n}\left(\sum _{i=1}^{m}|a_{ij}|^{2}\right)^{1/2}}
誤差関数としてのノルム は、各データ ポイント (列) の誤差が 2 乗されないため、より堅牢です。 堅牢なデータ分析 や スパース コーディング で使用されます。
L
2
,
1
{\displaystyle L_{2,1}}
p 、 q ≥ 1 の場合 、 ノルムは次のように一般化できます 。
L
2
,
1
{\displaystyle L_{2,1}}
L
p
,
q
{\displaystyle L_{p,q}}
‖
A
‖
p
,
q
=
(
∑
j
=
1
n
(
∑
i
=
1
m
|
a
i
j
|
p
)
q
p
)
1
q
.
{\displaystyle \|A\|_{p,q}=\left(\sum _{j=1}^{n}\left(\sum _{i=1}^{m}|a_{ij}|^{p}\right)^{\frac {q}{p}}\right)^{\frac {1}{q}}.}
フロベニウスノルム
p = q = 2 の ノルムは フロベニウス ノルム または ヒルベルト・シュミットノルム と呼ばれます が、後者の用語は(無限次元の可能性のある) ヒルベルト空間 上の演算子の文脈でより頻繁に使用されます。このノルムはさまざまな方法で定義できます。
L
p
,
q
{\displaystyle L_{p,q}}
‖
A
‖
F
=
∑
i
m
∑
j
n
|
a
i
j
|
2
=
trace
(
A
∗
A
)
=
∑
i
=
1
min
{
m
,
n
}
σ
i
2
(
A
)
,
{\displaystyle \|A\|_{\text{F}}={\sqrt {\sum _{i}^{m}\sum _{j}^{n}|a_{ij}|^{2}}}={\sqrt {\operatorname {trace} \left(A^{*}A\right)}}={\sqrt {\sum _{i=1}^{\min\{m,n\}}\sigma _{i}^{2}(A)}},}
ここで、 トレースは 対角要素の和であり、 は の 特異値 です 。2 番目の等式は、 の明示的な計算によって証明されます。3 番目の等式は 、 の 特異値分解 と、トレースが円シフトに対して不変であるという事実
によって証明されます。
σ
i
(
A
)
{\displaystyle \sigma _{i}(A)}
A
{\displaystyle A}
t
r
a
c
e
(
A
∗
A
)
{\displaystyle \mathrm {trace} (A^{*}A)}
A
{\displaystyle A}
フロベニウス ノルムはユークリッド ノルムの拡張であり、 すべての行列の空間上の
フロベニウス内積 から生じます。
K
n
×
n
{\displaystyle K^{n\times n}}
フロベニウスノルムは乗法性が劣っており、数値線形代数 に非常に役立ちます 。フロベニウスノルムの乗法性は、 コーシー・シュワルツの不等式 を使用して証明できます。
フロベニウスノルムは誘導ノルムよりも計算が簡単な場合が多く、回転 (および一般的な ユニタリ 演算)に対して不変であるという便利な特性があります 。つまり、任意の ユニタリ行列 に対してです。この特性は、トレースの巡回的な性質( )から得られます。
‖
A
‖
F
=
‖
A
U
‖
F
=
‖
U
A
‖
F
{\displaystyle \|A\|_{\text{F}}=\|AU\|_{\text{F}}=\|UA\|_{\text{F}}}
U
{\displaystyle U}
trace
(
X
Y
Z
)
=
trace
(
Y
Z
X
)
=
trace
(
Z
X
Y
)
{\displaystyle \operatorname {trace} (XYZ)=\operatorname {trace} (YZX)=\operatorname {trace} (ZXY)}
‖
A
U
‖
F
2
=
trace
(
(
A
U
)
∗
A
U
)
=
trace
(
U
∗
A
∗
A
U
)
=
trace
(
U
U
∗
A
∗
A
)
=
trace
(
A
∗
A
)
=
‖
A
‖
F
2
,
{\displaystyle \|AU\|_{\text{F}}^{2}=\operatorname {trace} \left((AU)^{*}AU\right)=\operatorname {trace} \left(U^{*}A^{*}AU\right)=\operatorname {trace} \left(UU^{*}A^{*}A\right)=\operatorname {trace} \left(A^{*}A\right)=\|A\|_{\text{F}}^{2},}
同様に:
‖
U
A
‖
F
2
=
trace
(
(
U
A
)
∗
U
A
)
=
trace
(
A
∗
U
∗
U
A
)
=
trace
(
A
∗
A
)
=
‖
A
‖
F
2
,
{\displaystyle \|UA\|_{\text{F}}^{2}=\operatorname {trace} \left((UA)^{*}UA\right)=\operatorname {trace} \left(A^{*}U^{*}UA\right)=\operatorname {trace} \left(A^{*}A\right)=\|A\|_{\text{F}}^{2},}
ここでは のユニタリ性 (つまり、 ) を使用しています。
U
{\displaystyle U}
U
∗
U
=
U
U
∗
=
I
{\displaystyle U^{*}U=UU^{*}=\mathbf {I} }
また、
‖
A
∗
A
‖
F
=
‖
A
A
∗
‖
F
≤
‖
A
‖
F
2
{\displaystyle \|A^{*}A\|_{\text{F}}=\|AA^{*}\|_{\text{F}}\leq \|A\|_{\text{F}}^{2}}
そして
‖
A
+
B
‖
F
2
=
‖
A
‖
F
2
+
‖
B
‖
F
2
+
2
Re
(
⟨
A
,
B
⟩
F
)
,
{\displaystyle \|A+B\|_{\text{F}}^{2}=\|A\|_{\text{F}}^{2}+\|B\|_{\text{F}}^{2}+2\operatorname {Re} \left(\langle A,B\rangle _{\text{F}}\right),}
ここで、は フロベニウスの内積 であり 、Reは複素数の実数部です(実数行列の場合は無関係です)。
⟨
A
,
B
⟩
F
{\displaystyle \langle A,B\rangle _{\text{F}}}
最大ノルム
最大 ノルムは、 p = q が 無限大に近づくときの極限における要素ごとのノルムです 。
‖
A
‖
max
=
max
i
,
j
|
a
i
j
|
.
{\displaystyle \|A\|_{\max }=\max _{i,j}|a_{ij}|.}
このノルムは乗法未満ではありませんが、右辺を に変更すると 乗法未満になります。
m
n
max
i
,
j
|
a
i
j
|
{\displaystyle {\sqrt {mn}}\max _{i,j}\vert a_{ij}\vert }
一部の文献( 「通信複雑性 」など )では、最大ノルムの別の定義( -ノルムとも呼ばれる)が因数分解ノルムを指していることに注意してください。
γ
2
{\displaystyle \gamma _{2}}
γ
2
(
A
)
=
min
U
,
V
:
A
=
U
V
T
‖
U
‖
2
,
∞
‖
V
‖
2
,
∞
=
min
U
,
V
:
A
=
U
V
T
max
i
,
j
‖
U
i
,
:
‖
2
‖
V
j
,
:
‖
2
{\displaystyle \gamma _{2}(A)=\min _{U,V:A=UV^{T}}\|U\|_{2,\infty }\|V\|_{2,\infty }=\min _{U,V:A=UV^{T}}\max _{i,j}\|U_{i,:}\|_{2}\|V_{j,:}\|_{2}}
シャッテン規範
シャッテン pノルムは、 p ノルムを行列の 特異値 のベクトルに 適用するときに生じる。 [2] 行列 の特異値が σ i で表される場合 、シャッテン p ノルムは次のように定義される。
m
×
n
{\displaystyle m\times n}
A
{\displaystyle A}
‖
A
‖
p
=
(
∑
i
=
1
min
{
m
,
n
}
σ
i
p
(
A
)
)
1
/
p
.
{\displaystyle \|A\|_{p}=\left(\sum _{i=1}^{\min\{m,n\}}\sigma _{i}^{p}(A)\right)^{1/p}.}
これらのノルムは、誘導された p ノルムやエントリごとの p ノルムと表記法を共有していますが、異なります。
すべてのシャッテンノルムは、約乗法です。また、ユニタリ不変であり、 すべての行列 とすべての ユニタリ行列 およびに対して成り立ちます 。
‖
A
‖
=
‖
U
A
V
‖
{\displaystyle \|A\|=\|UAV\|}
A
{\displaystyle A}
U
{\displaystyle U}
V
{\displaystyle V}
最もよく知られているケースは、p = 1、2、∞です 。p = 2の場合は 、前に紹介したフロベニウスノルムになります。p = ∞の場合は、スペクトルノルムになります。これは、ベクトル2ノルムによって誘導される演算子ノルムです(上記を参照)。最後に、 p = 1の場合は、次のように定義される 核ノルム( トレースノルム 、 または Ky Fan 'n'ノルム [7] とも呼ばれます )になります。
‖
A
‖
∗
=
trace
(
A
∗
A
)
=
∑
i
=
1
min
{
m
,
n
}
σ
i
(
A
)
,
{\displaystyle \|A\|_{*}=\operatorname {trace} \left({\sqrt {A^{*}A}}\right)=\sum _{i=1}^{\min\{m,n\}}\sigma _{i}(A),}
ここで、 は となる 半正定値行列を表します 。より正確には、は 半正定値行列 であるため 、その 平方根は 明確に定義されます。核ノルムは ランク関数 の 凸包で あるため、 数学的最適化 で低ランク行列を探すために
よく使用されます。
A
∗
A
{\displaystyle {\sqrt {A^{*}A}}}
B
{\displaystyle B}
B
B
=
A
∗
A
{\displaystyle BB=A^{*}A}
A
∗
A
{\displaystyle A^{*}A}
‖
A
‖
∗
{\displaystyle \|A\|_{*}}
rank
(
A
)
{\displaystyle {\text{rank}}(A)}
フォン・ノイマンのトレース不等式 とユークリッド空間の ヘルダー不等式 を組み合わせると 、シャッテンノルムの ヘルダー不等式 のバージョンが得られます 。
1
/
p
+
1
/
q
=
1
{\displaystyle 1/p+1/q=1}
|
trace
(
A
′
B
)
|
≤
‖
A
‖
p
‖
B
‖
q
,
{\displaystyle \left|\operatorname {trace} (A'B)\right|\leq \|A\|_{p}\|B\|_{q},}
特に、これはシャッテンノルム不等式を意味する。
‖
A
‖
F
2
≤
‖
A
‖
p
‖
A
‖
q
.
{\displaystyle \|A\|_{F}^{2}\leq \|A\|_{p}\|A\|_{q}.}
単調な規範
行列ノルムは、 ローナー順序 に関して単調である場合に 単調で あると呼ばれる 。したがって、行列ノルムが増加する場合、
‖
⋅
‖
{\displaystyle \|\cdot \|}
A
≼
B
⇒
‖
A
‖
≤
‖
B
‖
.
{\displaystyle A\preccurlyeq B\Rightarrow \|A\|\leq \|B\|.}
フロベニウスノルムとスペクトルノルムは単調ノルムの例である。 [8]
カット基準
行列ノルムのもう一つの発想源は、行列を重み付き有向グラフの隣接行列として考えることから生まれます 。 [ 9] いわゆる「カットノルム」は、関連するグラフが二部グラフ に どれ だけ 近い かを測定します 。 ここ
で、 A ∈ K m × n です 。 [9] [10] [11] 同等の定義(定数係数まで)では、条件 2| S | > n & 2| T | > m ; S = T ; または S ∩ T = ∅ が課されます。 [10]
‖
A
‖
◻
=
max
S
⊆
[
n
]
,
T
⊆
[
m
]
|
∑
s
∈
S
,
t
∈
T
A
t
,
s
|
{\displaystyle \|A\|_{\Box }=\max _{S\subseteq [n],T\subseteq [m]}{\left|\sum _{s\in S,t\in T}{A_{t,s}}\right|}}
カットノルムは誘導演算子ノルム ‖· ‖∞→1 と同等であり、それ自体は グロタンディーク ノルムと呼ばれる別のノルムと同等である。 [11]
グロタンディークノルムを定義するには、まず線形演算子 K 1 → K 1 は単なるスカラーであり、したがって任意の K k → K k 上の線形演算子に拡張されることに注意する。さらに、 K n と K m の基底を任意に選択すると 、任意の線形演算子 K n → K m は、各行列要素をスカラー乗算によってK k の要素に乗せることで、線形演算子 ( K k ) n → ( K k ) m に拡張される。グロタンディークノルムは、拡張された演算子のノルムであり、記号で表すと次のようになる 。 [11]
‖
A
‖
G
,
k
=
sup
each
u
j
,
v
j
∈
K
k
;
‖
u
j
‖
=
‖
v
j
‖
=
1
∑
j
∈
[
n
]
,
ℓ
∈
[
m
]
(
u
j
⋅
v
j
)
A
ℓ
,
j
{\displaystyle \|A\|_{G,k}=\sup _{{\text{each }}u_{j},v_{j}\in K^{k};\|u_{j}\|=\|v_{j}\|=1}{\sum _{j\in [n],\ell \in [m]}{(u_{j}\cdot v_{j})A_{\ell ,j}}}}
グロタンディークノルムは基底(通常は標準基底 とされる )と k の選択に依存します。
規範の同等性
任意の 2 つの行列ノルム とに対して 、次の式が成り立ちます。
‖
⋅
‖
α
{\displaystyle \|\cdot \|_{\alpha }}
‖
⋅
‖
β
{\displaystyle \|\cdot \|_{\beta }}
r
‖
A
‖
α
≤
‖
A
‖
β
≤
s
‖
A
‖
α
{\displaystyle r\|A\|_{\alpha }\leq \|A\|_{\beta }\leq s\|A\|_{\alpha }}
正の数 r と s に対して、すべての行列 に対して成り立ちます 。言い換えると、 上のすべてのノルムは 同値で あり、 上に 同じ 位相を 誘導します。ベクトル空間が 有限 次元 を持つため、これは当てはまります。
A
∈
K
m
×
n
{\displaystyle A\in K^{m\times n}}
K
m
×
n
{\displaystyle K^{m\times n}}
K
m
×
n
{\displaystyle K^{m\times n}}
K
m
×
n
{\displaystyle K^{m\times n}}
m
×
n
{\displaystyle m\times n}
さらに、上の 任意の行列ノルムに対して、が 任意の に対して乗法行列ノルム未満となる ような 唯一の正の実数が存在する 。すなわち、
‖
⋅
‖
{\displaystyle \|\cdot \|}
R
n
×
n
{\displaystyle \mathbb {R} ^{n\times n}}
k
{\displaystyle k}
ℓ
‖
⋅
‖
{\displaystyle \ell \|\cdot \|}
ℓ
≥
k
{\displaystyle \ell \geq k}
k
=
sup
{
‖
A
B
‖
:
‖
A
‖
≤
1
,
‖
B
‖
≤
1
}
.
{\displaystyle k=\sup\{\Vert AB\Vert \,:\,\Vert A\Vert \leq 1,\Vert B\Vert \leq 1\}.}
を満たす 他の部分乗法行列ノルムが存在しない場合、 部分乗法行列ノルムは 最小で あると言われます 。
‖
⋅
‖
α
{\displaystyle \|\cdot \|_{\alpha }}
‖
⋅
‖
β
{\displaystyle \|\cdot \|_{\beta }}
‖
⋅
‖
β
<
‖
⋅
‖
α
{\displaystyle \|\cdot \|_{\beta }<\|\cdot \|_{\alpha }}
規範の等価性の例
ここで、ベクトルp ノルムによって誘導されるノルムについてもう一度説明します ( 上記の「誘導ノルム」のセクションを参照)。
‖
A
‖
p
{\displaystyle \|A\|_{p}}
階数 の行列 については 、次の不等式が成り立つ: [12] [13]
A
∈
R
m
×
n
{\displaystyle A\in \mathbb {R} ^{m\times n}}
r
{\displaystyle r}
‖
A
‖
2
≤
‖
A
‖
F
≤
r
‖
A
‖
2
{\displaystyle \|A\|_{2}\leq \|A\|_{F}\leq {\sqrt {r}}\|A\|_{2}}
‖
A
‖
F
≤
‖
A
‖
∗
≤
r
‖
A
‖
F
{\displaystyle \|A\|_{F}\leq \|A\|_{*}\leq {\sqrt {r}}\|A\|_{F}}
‖
A
‖
max
≤
‖
A
‖
2
≤
m
n
‖
A
‖
max
{\displaystyle \|A\|_{\max }\leq \|A\|_{2}\leq {\sqrt {mn}}\|A\|_{\max }}
1
n
‖
A
‖
∞
≤
‖
A
‖
2
≤
m
‖
A
‖
∞
{\displaystyle {\frac {1}{\sqrt {n}}}\|A\|_{\infty }\leq \|A\|_{2}\leq {\sqrt {m}}\|A\|_{\infty }}
1
m
‖
A
‖
1
≤
‖
A
‖
2
≤
n
‖
A
‖
1
.
{\displaystyle {\frac {1}{\sqrt {m}}}\|A\|_{1}\leq \|A\|_{2}\leq {\sqrt {n}}\|A\|_{1}.}
参照
注記
^この条件は、 正方行列 ( m = n )の場合のように、積が定義されている場合にのみ適用されます 。
参考文献
^ ab ワイスタイン、エリック W. 「マトリックス ノルム」. mathworld.wolfram.com 。 2020年8月24日 に取得 。
^ abcd "Matrix norms". fourier.eng.hmc.edu . 2020年8月24日 閲覧 。
^ Malek-Shahmirzadi, Massoud (1983). 「特定のクラスの行列ノルムの特性」. 線形および多重線形代数 . 13 (2): 97–99. doi :10.1080/03081088308817508. ISSN 0308-1087.
^ Horn, Roger A. (2012). マトリックス分析 . Johnson, Charles R. (第2版). ケンブリッジ: ケンブリッジ大学出版局. pp. 340–341. ISBN 978-1-139-77600-4 . OCLC 817236655.
^ Carl D. Meyer、「行列解析と応用線形代数」、§5.2、p.281、Society for Industrial & Applied Mathematics、2000年6月。
^ Ding, Chris; Zhou, Ding; He, Xiaofeng; Zha, Hongyuan (2006 年 6 月)。「R1-PCA: 堅牢なサブスペース分解のための回転不変 L1 ノルム主成分分析」。 第 23 回国際機械学習会議の議事録 。ICML '06。ピッツバーグ、ペンシルバニア州、米国: ACM。pp. 281–288。doi : 10.1145 /1143844.1143880。ISBN 1-59593-383-2 。
^ Fan, Ky. (1951). 「完全に連続な演算子の固有値の最大特性と不等式」. 米国科学アカデミー紀要 . 37 (11): 760–766. Bibcode :1951PNAS...37..760F. doi : 10.1073/pnas.37.11.760 . PMC 1063464. PMID 16578416 .
^ Ciarlet, Philippe G. (1989). 数値線形代数と最適化入門 . ケンブリッジ、イギリス: ケンブリッジ大学出版局. p. 57. ISBN 0521327881 。
^ ab Frieze, Alan; Kannan, Ravi (1999-02-01). 「行列への迅速な近似とその応用」. Combinatorica . 19 (2): 175–220. doi :10.1007/s004930050052. ISSN 1439-6912. S2CID 15231198.
^ ab Lovász László (2012). 「カット距離」. 大規模ネットワークとグラフの限界 . AMS コロキウム出版. 第 60 巻. プロビデンス、ロードアイランド州: アメリカ数学会. pp. 127–131. ISBN 978-0-8218-9085-1 。 Lovászは‖A‖□を[0,1]の範囲になるように再スケールしている こと に 注意 し て ください 。
^ abc Alon, Noga ; Naor, Assaf (2004-06-13). 「カットノルムのグロタンディーク不等式による近似」。 第 36回ACMコンピューティング理論シンポジウム議事録 。STOC '04。シカゴ、イリノイ州、米国:Association for Computing Machinery。pp. 72–80。doi : 10.1145 /1007352.1007371。ISBN 978-1-58113-852-8 . S2CID 1667427。
^ Golub, Gene ; Charles F. Van Loan (1996). 行列計算 – 第3版。ボルチモア: ジョンズホプキンス大学出版局、56–57。ISBN 0-8018-5413 -X 。
^ ロジャー・ホーンとチャールズ・ジョンソン。 マトリックス分析、 第5章、ケンブリッジ大学出版局、1985年 。ISBN 0-521-38632-2 。
文献
James W. Demmel 、「応用数値線形代数」、セクション 1.7、SIAM 発行、1997 年。
Carl D. Meyer著「行列解析と応用線形代数」SIAM出版、2000年。[1]
John Watrous 、「量子情報理論」、2.3 演算子の規範、講義ノート、ウォータールー大学、2011 年。
ケンドール・アトキンソン著『数値解析入門』、ジョン・ワイリー・アンド・サンズ社、1989年出版