条件数

数値解析では、関数の条件数は、入力引数の小さな変化に対して関数の出力値がどれだけ変化するかを測定します。これは、関数が入力の変化やエラーに対してどれだけ敏感であるか、および入力のエラーによって出力にどれだけのエラーが生じるかを測定するために使用されます。非常に頻繁に、逆問題を解くことになります。つまり、xについて解く場合、（局所）逆問題の条件数を使用する必要があります。^{[1] [2]}${\displaystyle f(x)=y,}$

条件数は不確実性の伝播理論から導かれ、入力の相対的変化に対する出力の漸近的な最悪ケースの相対的変化の値として正式に定義されます。「関数」は問題の解であり、「引数」は問題のデータです。条件数は線形代数の問題に頻繁に適用されます。その場合、導関数は単純ですが、誤差はさまざまな方向にある可能性があるため、行列の幾何学から計算されます。より一般的には、条件数は複数の変数を持つ非線形関数に対して定義できます。

条件数が低い問題は良好条件であると言われ、条件数が高い問題は不良条件であると言われます。数学以外の用語で言えば、不良条件の問題とは、入力（独立変数）の小さな変化に対して、答えまたは従属変数が大きく変化する問題です。これは、方程式の正しい解/答えを見つけるのが難しくなることを意味します。条件数は問題の特性です。問題を解く、つまり解を計算するために使用できるアルゴリズムは、問題と対になっています。一部のアルゴリズムには、後方安定性と呼ばれる特性があります。一般に、後方安定アルゴリズムは、良好条件の問題を正確に解くことが期待できます。数値解析の教科書には、問題の条件数の公式が示されており、既知の後方安定アルゴリズムが特定されています。

経験則として、条件数が の場合、算術法による精度の損失により数値法で失われる精度に加えて、最大で 桁の精度が失われる可能性があります。 ^[3]ただし、条件数はアルゴリズムで発生する可能性のある最大の不正確さの正確な値を与えるわけではありません。通常は推定値で制限するだけです（計算値は不正確さを測定するためのノルムの選択によって異なります）。 ${\displaystyle \kappa (A)=10^{k}}$${\displaystyle k}$

問題と入力と出力を持つアルゴリズムが与えられた場合、誤差は絶対誤差であり、相対誤差は${\displaystyle f}$${\displaystyle {\tilde {f}}}$${\displaystyle x}$${\displaystyle {\tilde {f}}(x),}$${\displaystyle \delta f(x):=f(x)-{\tilde {f}}(x),}$${\displaystyle \|\delta f(x)\|=\left\|f(x)-{\tilde {f}}(x)\right\|}$${\displaystyle \|\delta f(x)\|/\|f(x)\|=\left\|f(x)-{\tilde {f}}(x)\right\|/\|f(x)\|.}$

この文脈では、問題の絶対条件数は^{[説明が必要]}である。${\displaystyle f}$

${\displaystyle \lim _{\varepsilon \rightarrow 0^{+}}\,\sup _{\|\delta x\|\,\leq \,\varepsilon }{\frac {\|\delta f(x)\|}{\|\delta x\|}}}$

そして相対条件数は^{[説明が必要]}

${\displaystyle \lim _{\varepsilon \rightarrow 0^{+}}\,\sup _{\|\delta x\|\,\leq \,\varepsilon }{\frac {\|\delta f(x)\|/\|f(x)\|}{\|\delta x\|/\|x\|}}.}$

たとえば、線形方程式 Ax  =  bに関連付けられた条件数は、近似後の解x の不正確さの上限を示します。これは、丸め誤差の影響が考慮される前の値であることに注意してください。条件付けは行列の特性であり、対応するシステムを解くために使用されるコンピュータのアルゴリズムや浮動小数点精度ではありません。特に、条件数は (非常に大まかに) bの変化に対する解x の変化率であると考えてください。したがって、条件数が大きい場合、 bの小さな誤差でもxに大きな誤差が生じる可能性があります。一方、条件数が小さい場合、xの誤差はbの誤差ほど大きくなりません。

条件数は、より正確には、xの相対誤差とbの相対誤差の最大比として定義されます。

e をbの誤差とする。Aが非特異行列であると仮定すると、解A −1 ^bの誤差はA ⁻¹ eで ある。解の相対誤差とbの相対誤差の比は

${\displaystyle {\frac {\left\|A^{-1}e\right\|}{\left\|A^{-1}b\right\|}}/{\frac {\|e\|}{\|b\|}}={\frac {\left\|A^{-1}e\right\|}{\|e\|}}{\frac {\|b\|}{\left\|A^{-1}b\right\|}}.}$

最大値（bとeがゼロでない場合）は、次のように2つの演算子ノルムの積になります。

${\displaystyle {\begin{aligned}\max _{e,b\neq 0}\left\{{\frac {\left\|A^{-1}e\right\|}{\|e\|}}{\frac {\|b\|}{\left\|A^{-1}b\right\|}}\right\}&=\max _{e\neq 0}\left\{{\frac {\left\|A^{-1}e\right\|}{\|e\|}}\right\}\,\max _{b\neq 0}\left\{{\frac {\|b\|}{\left\|A^{-1}b\right\|}}\right\}\\&=\max _{e\neq 0}\left\{{\frac {\left\|A^{-1}e\right\|}{\|e\|}}\right\}\,\max _{x\neq 0}\left\{{\frac {\|Ax\|}{\|x\|}}\right\}\\&=\left\|A^{-1}\right\|\,\|A\|.\end{aligned}}}$

同じ定義は、任意の一貫した規範、すなわち以下を満たす規範 にも適用されます。

${\displaystyle \kappa (A)=\left\|A^{-1}\right\|\,\left\|A\right\|\geq \left\|A^{-1}A\right\|=1.}$

条件数がちょうど 1 の場合 ( A が線形等長変換のスカラー倍である場合にのみ発生します)、ソリューション アルゴリズムは (原理的には、アルゴリズム自体にエラーがない場合)、データの精度よりも劣らないソリューションの近似値を見つけることができます。

ただし、これはアルゴリズムがこのソリューションに急速に収束することを意味するのではなく、アルゴリズムによって導入される前方誤差が中間の丸め誤差の蓄積によって同様に発散しない限り、ソース データの不正確さ (後方誤差) が原因でアルゴリズムが恣意的に発散しないことを意味します。^{[説明が必要]}

条件数は無限大になることもありますが、これは問題が不適切である（データの各選択に対して一意で明確に定義された解を持たない、つまり行列が逆行列ではない）ことを意味し、確実に解を見つけられるアルゴリズムは期待できません。

条件数の定義は、2つの例で説明できるように、 ノルムの選択に依存します。

が（ベクトル）ユークリッドノルム（L ²ノルムとも呼ばれ、通常は と表記される） によって誘導される行列ノルムである場合、${\displaystyle \|\cdot \|}$${\displaystyle \|\cdot \|_{2}}$

${\displaystyle \kappa (A)={\frac {\sigma _{\text{max}}(A)}{\sigma _{\text{min}}(A)}},}$

ここで、 と はそれぞれの最大特異値と最小特異値です。したがって、 ${\displaystyle \sigma _{\text{max}}(A)}$${\displaystyle \sigma _{\text{min}}(A)}$${\displaystyle A}$

• が正規分布である場合、 およびはそれぞれの最大および最小の（モジュライによる）固有値です。${\displaystyle A}$$${\displaystyle \kappa (A)={\frac {\left|\lambda _{\text{max}}(A)\right|}{\left|\lambda _{\text{min}}(A)\right|}},}$$${\displaystyle \lambda _{\text{max}}(A)}$${\displaystyle \lambda _{\text{min}}(A)}$${\displaystyle A}$
• がユニタリである場合、${\displaystyle A}$${\displaystyle \kappa (A)=1.}$

L ²に関する条件数は数値線形代数で頻繁に出現するため、行列の条件数という名前が付けられています。

が（ベクトル）ノルムによって誘導される行列ノルム であり、が下三角非特異（すなわち、すべての に対して）である場合、 ${\displaystyle \|\cdot \|}$${\displaystyle L^{\infty }}$${\displaystyle A}$${\displaystyle a_{ii}\neq 0}$${\displaystyle i}$

${\displaystyle \kappa (A)\geq {\frac {\max _{i}{\big (}|a_{ii}|{\big )}}{\min _{i}{\big (}|a_{ii}|{\big )}}}}$

任意の三角行列の固有値は、単に対角要素であるということを思い出してください。

このノルムで計算された条件数は、ユークリッドノルムを基準にして計算された条件数よりも一般的に大きくなりますが、より簡単に評価できます（また、解くべき問題に非線形代数[^{明確化が必要]}が含まれる場合、たとえば無理関数や超越関数または数を数値法で近似する場合、これが実際に計算可能な唯一の条件数であることがよくあります）。

条件数が 1 より大幅に大きくない場合、行列は条件が整っており、その逆行列を高い精度で計算できることを意味します。条件数が非常に大きい場合、行列は条件が整っていないと言われます。実際には、このような行列はほぼ特異であり、その逆行列の計算、または線形連立方程式の解は大きな数値誤差を招きやすくなります。

逆行列でない行列は、条件数が無限大であると言われることがよくあります。あるいは、 と定義することもできます。ここで、 はムーア・ペンローズ擬似逆行列です。正方行列の場合、残念ながら条件数は不連続になりますが、逆行列になることはありませんが、方程式系を定義するために使用される長方形行列の場合は便利な定義です。 ${\displaystyle \kappa (A)=\|A\|\|A^{\dagger }\|}$${\displaystyle A^{\dagger }}$

条件数は非線形関数に対しても定義でき、微積分を使用して計算できます。条件数は点によって異なります。場合によっては、関数のドメインまたは質問のドメインでの最大（または上限）条件数を全体の条件数として使用できますが、特定のポイントでの条件数の方が重要な場合もあります。

1変数の微分可能関数 の条件数は関数としてである。点 で評価すると、これは ${\displaystyle f}$${\displaystyle \left|xf'/f\right|}$${\displaystyle x}$

${\displaystyle \left|{\frac {xf'(x)}{f(x)}}\right|=\left|{\frac {(\log f)'}{(\log x)'}}\right|.}$

これは経済学における関数の 弾力性の絶対値であることに注意してください。

最も簡潔に言えば、これはの対数微分 （）との対数微分（ ）の比（の絶対値）として理解でき、比 となります。これは、対数微分が関数の相対的変化の微小率であるためです。つまり、の値でスケールされた微分です。関数が1 点でゼロを持つ場合、その点での条件数は無限大です。これは、入力の微小な変化によって出力がゼロから正または負に変化し、分母がゼロの比率、つまり相対的変化が無限大になる可能性があるためです。 ${\displaystyle f}$${\displaystyle (\log f)'=f'/f}$${\displaystyle x}$${\displaystyle (\log x)'=x'/x=1/x}$${\displaystyle xf'/f}$${\displaystyle f'}$${\displaystyle f}$

もっと直接的に言えば、 の小さな変化に対して、の相対的な変化は であり、 の相対的な変化はである。この比をとると、 ${\displaystyle \Delta x}$${\displaystyle x}$${\displaystyle x}$${\displaystyle [(x+\Delta x)-x]/x=(\Delta x)/x}$${\displaystyle f(x)}$${\displaystyle [f(x+\Delta x)-f(x)]/f(x)}$

${\displaystyle {\frac {[f(x+\Delta x)-f(x)]/f(x)}{(\Delta x)/x}}={\frac {x}{f(x)}}{\frac {f(x+\Delta x)-f(x)}{(x+\Delta x)-x}}={\frac {x}{f(x)}}{\frac {f(x+\Delta x)-f(x)}{\Delta x}}.}$

最後の項は差分商（割線の傾き）であり、極限を取ると導関数が得られます。

一般的な基本関数の条件数は、有効数字を計算する際に特に重要であり、導関数からすぐに計算できます。重要なものをいくつか以下に示します。

条件数は、データをある定義域（たとえば、実数の -組）からある共域（たとえば、実数の -組）にマッピングする任意の関数に対して定義できます。ここで、定義域と共域は両方ともバナッハ空間です。条件数は、その関数が引数の小さな変更（または小さなエラー）に対してどの程度敏感であるかを表します。これは、多項式の根の探索や固有値の計算など、さまざまな計算問題の感度と潜在的な精度の問題を評価する上で重要です。 ${\displaystyle f}$${\displaystyle m}$ ${\displaystyle x}$${\displaystyle n}$${\displaystyle f(x)}$

ある点におけるの条件数（具体的には相対条件数^[4] ）は、 の変化が無限小になる極限において、の分数変化と の任意の分数変化との比の最大値として定義される：^[4]${\displaystyle f}$${\displaystyle x}$${\displaystyle f(x)}$${\displaystyle x}$${\displaystyle \delta x}$${\displaystyle x}$

${\displaystyle \lim _{\varepsilon \to 0^{+}}\sup _{\|\delta x\|\leq \varepsilon }\left[\left.{\frac {\left\|f(x+\delta x)-f(x)\right\|}{\|f(x)\|}}\right/{\frac {\|\delta x\|}{\|x\|}}\right],}$

ここで は のドメイン/コドメイン上のノルムです。 ${\displaystyle \|\cdot \|}$${\displaystyle f}$

が微分可能な場合、これは次と同値である: ^[4]${\displaystyle f}$

${\displaystyle {\frac {\|J(x)\|}{\|f(x)\|/\|x\|}},}$

ここで、⁠ ⁠ は${\displaystyle J(x)}$におけるの偏微分のヤコビ行列を表し、 は行列の 誘導ノルムです。${\displaystyle f}$${\displaystyle x}$${\displaystyle \|J(x)\|}$

• 線形最小二乗法の数値解析法
• 数値安定性
• ヒルベルト行列
• 不適切問題
• 特異値
• ウィルソン行列

• デメル、ジェームズ(1990)。「最近傍欠陥行列と不良条件の幾何学」。コックス、MG、ハマーリング、S. (編)。信頼性の高い数値計算。オックスフォード: クラレンドン プレス。pp. 35–55。ISBN 0-19-853564-3。

• Holistic Numerical Methods Instituteにおける行列の条件数
• 条件数を決定するMATLABライブラリ関数
• 条件数 – 数学百科事典
• 行列条件数を発明したのは誰か？ ニック・ハイアム著