感度分析

最初の直感的なアプローチ（特に複雑でないケースで役立つ）は、各入力間の関係を分析することです。${\displaystyle Z_{i}}$そして出力${\displaystyle Y}$散布図を使用して、これらのペアの挙動を観察します。図は相関関係とどの入力が出力に影響を与えるかについての初期的なアイデアを提供します。図 2 は、2 つの入力、$\displaystyle Z_{3}}$そして${\displaystyle Z_{4}}$出力と高い相関関係にある。

最も単純で一般的なアプローチの1つは、一度に1つの要素を変更して、それが出力にどのような影響を与えるかを確認することです。^{[ 17 ] [ 18 ] [ 19 ]} OATは通常、

• 1つの入力変数を変更し、他の変数を基準値（名目値）に維持すると、
• 変数を元の値に戻し、その後、他の入力値についても同様の手順を繰り返す。

感度は、出力の変化を監視することによって測定できます。たとえば、偏微分や線形回帰などです。出力で観察される変化は、変更された単一の変数によるものであることが明確にわかるため、これは論理的なアプローチと言えます。さらに、一度に1つの変数を変更することで、他のすべての変数をその中心値または基準値に固定できます。これにより、結果の比較可能性が高まり（すべての「効果」は空間内の同じ中心点を参照して計算されます）、複数の入力因子が同時に変更された場合に発生しやすいコンピュータプログラムのクラッシュの可能性が最小限に抑えられます。OATは、実用的な理由から、モデラーによく好まれます。OAT分析でモデルが失敗した場合、モデラーは失敗の原因となっている入力因子をすぐに知ることができます。

しかし、このアプローチは単純ではあるものの、入力変数の同時変動を考慮していないため、入力空間を十分に探索するものではありません。つまり、OATアプローチでは入力変数間の相互作用の存在を検出できず、非線形モデルには適していません。^{[ 20 ]}

OATアプローチで未探索のまま残る入力空間の割合は、入力数に対して超指数関数的に増加します。たとえば、一度に1つずつ探索される3変数パラメータ空間は、原点を中心とする立方体のx、y、z軸に沿って点を取ることに相当します。これらの点すべてを囲む凸包は、全パラメータ空間のわずか1/6の体積を持つ正八面体です。より一般的には、超直方体の軸の凸包は、体積が1/6の超八面体を形成します。${\displaystyle 1/n!}$5 つの入力で、探索された空間はすでに全パラメータ空間の 1% 未満にまで減少します。軸外のボリュームは実際にはまったくサンプリングされていないため、これは過大評価です。これを空間のランダム サンプリングと比較してください。ランダム サンプリングでは、点が追加されるにつれて凸包がボリューム全体に近づきます。^{[ 21 ]} OAT のスパース性は理論的には線形モデルでは問題になりませんが、自然界では真の線形性はまれです。

統計学者マックス・D・モリスにちなんで名付けられたこの方法は、多数のパラメータを持つスクリーニングシステムに適しています。さまざまなパラメータ軸に沿って繰り返しステップを組み合わせるため、基本効果法としても知られています。^{[ 22 ]}

局所微分に基づく手法では、出力の 偏微分を取る。${\displaystyle Y}$入力要因に関して${\displaystyle X_{i}}$:

${\displaystyle \left|{\frac {\partial Y}{\partial X_{i}}}\right|_{{\textbf {x}}^{0}},}$

ここで、添え字x ⁰は、導関数が入力空間内の固定点で取られることを示しています (そのため、クラス名に「local」という語があります)。随伴モデリング^{[ 23 ] [ 24 ]}および自動微分^{[ 25 ]}は、元の関数を評価するコストの最大 4〜6 倍のコストですべての偏導関数を計算できる方法です。OAT と同様に、ローカル法は入力空間を完全に探索しようとはせず、通常は一度に 1 つの変数という小さな摂動を調べます。ニューラル ネットワークを介して導関数ベースの感度から類似のサンプルを選択し、不確実性の定量化を実行することが可能です。

ローカル手法の利点の1つは、システム内のすべての感度を表す行列を作成できるため、入力変数と出力変数の数が多い場合にグローバル手法では達成できない概要を提供できることです。^{[ 26 ]}

感度分析における回帰分析とは、モデル応答に線形回帰を当てはめ、標準化回帰係数を感度の直接的な指標として用いる手法です。回帰はデータに対して線形である必要があります（つまり、回帰変数に二次項などを含まない超平面である必要があります）。そうでない場合、標準化係数の解釈が困難になるためです。したがって、この方法はモデル応答が実際に線形である場合に最も適しています。線形性は、例えば決定係数が大きい場合に確認できます。回帰分析の利点は、簡便で計算コストが低いことです。

分散ベースの手法^{[ 27 ]}は、入力と出力の不確実性を確率分布によって表される確率変数として定量化し、出力の分散を入力変数と変数の組み合わせに起因する部分に分解する確率的手法の一種です。したがって、出力の入力変数に対する感度は、その入力によって引き起こされる出力の分散の量によって測定されます。

この量は、 Sobol指数を使用して定量化および計算されます。Sobol指数は、入力または入力グループによって説明される分散の割合を表します。この式は基本的に、${\displaystyle X_{i}}$不確実性（分散）のみ${\displaystyle Y}$（他の変数の変動を平均したもの）であり、一次感度指数、主効果指数、主ソボル指数、またはソボル主指数として知られています。

入力の場合${\displaystyle X_{i}}$Sobol指数は次のように定義されます。

$${\displaystyle S_{i}={\frac {V(\mathbb {E} [Y\vert X_{i}])}{V(Y)}}}$$どこ${\displaystyle V(\cdot )}$そして${\displaystyle \mathbb {E} [\cdot ]}$それぞれ分散演算子と期待値演算子を表す。

重要なことに、一次感度指数は${\displaystyle X_{i}}$相互作用によって生じる不確実性を測定しない${\displaystyle X_{i}}$他の変数との関係も調べられます。さらに、総効果指数と呼ばれる指標は、 の総分散を示します。${\displaystyle Y}$原因は${\displaystyle X_{i}}$そして、他の入力変数との相互作用も考慮します。総効果指数は次のように表されます。$${\displaystyle S_{i}^{T}=1-{\frac {V(\mathbb {E} [Y\vert X_{\sim i}])}{V(Y)}}}$$どこ${\displaystyle X_{\sim i}=(X_{1},...,X_{i-1},X_{i+1},...,X_{p})}$は、入力変数の集合を表します。${\displaystyle X_{i}}$。

分散ベースの手法は、入力空間を包括的に探索し、相互作用や非線形応答を考慮に入れることができます。そのため、計算が可能な場合には広く用いられています。通常、この計算にはモンテカルロ法が用いられますが、モンテカルロ法では数千回ものモデル実行が必要となる場合があるため、必要に応じて計算コストを削減するために他の手法（メタモデルなど）を用いることもできます。

モーメント非依存法は、モデル出力の確率密度関数または累積分布関数を考慮することにより、分散ベースの手法を拡張する。${\displaystyle Y}$したがって、それらは特定の瞬間を指すものではありません 。${\displaystyle Y}$そのため、その名前が付けられました。

モーメントに依存しない感度尺度${\displaystyle X_{i}}$、ここでは と表記される$\displaystyle \xi _{i}}$は、条件付き期待値を距離に置き換えることで、分散ベースの指標と同様の方程式によって定義できます。${\displaystyle \xi _{i}=E[d(P_{Y},P_{Y|X_{i}})]}$、 どこ${\displaystyle d(\cdot ,\cdot )}$確率尺度間の統計的距離[指標または乖離]である。${\displaystyle P_{Y}}$そして${\displaystyle P_{Y|X_{i}}}$周辺確率と条件付き確率の尺度は${\displaystyle Y}$[ ^{28 ]​}

もし${\displaystyle d()\geq 0}$は距離であり、モーメントに依存しないグローバル感度尺度はゼロ独立性を満たす。これは、レニーの公準 D としても知られる関連統計的性質である。^{[ 29 ]}

モーメントに依存しない感度指標のクラスには、次のような指標が含まれます。${\displaystyle \delta }$-重要度尺度^{[ 30 ]} 、 Chatterjeeの新しい相関係数^{[ 31 ]} 、 WieselのWasserstein相関^{[ 32 ]}、BarrとRabitzのカーネルベースの感度尺度^{[ 33 ] 。}

モーメントに依存しないアプローチのカテゴリに属する​​、グローバル感度分析のもう1つの尺度は、PAWN 指数です。^{[ 34 ]}これは、累積分布関数(CDF)に基づいて、無条件出力分布と条件付き出力分布 (すべての入力パラメータを変化させ、${\displaystyle i}$（結果として、 番目の入力）。無条件出力分布と条件付き出力分布の差は、通常、コルモゴロフ・スミルノフ検定（KS）を使用して計算されます。特定の入力パラメータに対する PAWN 指数は、すべての KS 値に対する要約統計量を計算することによって得られます。

従来の感度分析手法の大きな欠点の1つは、いずれもモデルの応答曲面／出力の空間的に順序付けられた構造を考慮していないことである。${\displaystyle Y=f(X)}$パラメータ空間において。方向バリオグラムと共バリオグラムの概念を利用することで、応答曲面のバリオグラム分析（VARS）は、値に対する空間的に連続した相関構造を認識することによってこの弱点に対処します。${\displaystyle Y}$、したがって、${\displaystyle {\frac {\partial Y}{\partial x_{i}}}}$[ ^{35 ] [ 36 ]​}

基本的に、変動性が高いほど、特定の摂動スケールにおける特定の方向/パラメータに沿った応答曲面の不均一性が高くなります。したがって、VARSフレームワークでは、与えられた摂動スケールに対する方向バリオグラムの値は、バリオグラム分析を方向と摂動スケールの両方の概念にリンクすることにより、感度情報の包括的な図として考えることができます。結果として、VARSフレームワークは、感度がスケール依存の概念であるという事実を考慮し、従来の感度分析方法のスケールの問題を克服します。^{[ 37 ]}さらに重要なことに、VARSは、他の戦略よりもはるかに低い計算コスト（約2桁効率的）で、比較的安定していて統計的に頑健なパラメータ感度の推定値を提供できます。^{[ 38 ]}注目すべきことに、VARSフレームワークと分散ベースおよび微分ベースのアプローチの間には理論的なつながりがあることが示されています。

フーリエ振幅感度テスト（FAST）は、フーリエ級数を用いて多変数関数（モデル）を周波数領域で表現し、単一の周波数変数を使用します。そのため、感度指標の計算に必要な積分は単変数となり、計算コストの削減につながります。

シャプレー効果はシャプレー値に依存し、あらゆる可能な要因の組み合わせにおける特定の要因の平均限界貢献度を表します。これらの値は、その値が一次ソボル効果と全次数効果の間にあるため、ソボル指数と関連しています。^{[ 39 ]}

その原理は、対象となる関数を直交多項式の基底に射影することである。ソボル指数は、この分解の係数を用いて解析的に表現される。^{[ 40 ]}

メタモデル（エミュレータ、サロゲートモデル、応答曲面とも呼ばれる）は、モデル自体の入出力動作を近似するメタモデルと呼ばれる比較的単純な数学関数を構築するデータモデリング/機械学習アプローチです。 ^{[ 41 ]}言い換えれば、「モデルをモデリングする」という概念です（そのため「メタモデル」という名前が付けられています）。コンピュータモデルは、解くのに時間がかかる非常に複雑な一連の方程式である可能性がありますが、常にその入力の関数として見なすことができるという考えです。${\displaystyle Y=f(X)}$入力空間内の複数の点でモデルを実行することで、より単純なメタモデルを適合させることができる可能性がある。$\displaystyle {\hat {f}}(X)}$、したがって$\displaystyle {\hat {f}}(X)\approx f(X)}$許容誤差の範囲内に収まるように。^{[ 42 ]}次に、メタモデルから感度尺度を計算できます（モンテカルロ法または解析的方法のいずれかを使用）。計算コストの増加はごくわずかです。重要なのは、メタモデルに適合させるために必要なモデル実行回数は、モデルから感度尺度を直接推定するために必要な実行回数よりも桁違いに少ないということです。^{[ 43 ]}

明らかに、メタモデルアプローチの核心は、$\displaystyle {\hat {f}}(X)}$（メタモデル）モデルに十分近い近似値${\displaystyle f(X)}$これには以下の手順が必要です。

1. 入力空間内の複数の点でモデルをサンプリング（実行）する。これにはサンプル設計が必要となる。
2. 使用するエミュレータ（数学関数）の種類を選択します。
3. メタモデルをモデルのサンプルデータを使用して「トレーニング」する – これは一般的に、メタモデルが実際のモデルを可能な限り忠実に模倣するまで、メタモデルのパラメータを調整することを意味します。

モデルのサンプリングは、多くの場合、ソボル数列（数学者イリヤ・M・ソボルによる）やラテン超立方体サンプリングなどの低不一致数列で行うことができますが、効率が多少低下するものの、ランダムな設計も使用できます。メタモデルタイプの選択とトレーニングは、トレーニング方法がメタモデルのクラスに依存するため、本質的に関連しています。感度分析に成功裏に使用されてきたメタモデルのタイプには、次のようなものがあります。

• ガウス過程^{[ 43 ]} (クリギングとも呼ばれる) では、出力点の任意の組み合わせが多変量ガウス分布に従うと仮定されます。最近では、異分散性や不連続な応答を扱うために「ツリー」ガウス過程が使用されています。 ^{[ 44 ] [ 45 ]}
• ランダムフォレスト^{[ 41 ]}では、多数の決定木が訓練され、その結果が平均化されます。
• 勾配ブースティング^{[ 41 ]}では、一連の単純な回帰を使用してデータポイントに重みを付け、エラーを順次削減します。
• 多項式カオス展開^{[ 46 ]}は、直交多項式を使用して応答曲面を近似します。
• 平滑化スプライン[ ^{47 ]は通常、}高次元モデル表現（HDMR）の切り捨てと組み合わせて使用​​されます（下記参照）。
• 離散ベイジアンネットワーク^{[ 48 ]}は、ノイズモデルなどの標準モデルと組み合わせて使用​​されます。ノイズモデルは、変数間の条件付き独立性に関する情報を利用して、次元を大幅に削減します。

エミュレータを使用すると機械学習の問題が生じますが、モデルの応答が高度に非線形な場合は、この問題の解決が困難になることがあります。いずれの場合も、例えば交差検証などを用いてエミュレータの精度を確認することが有効です。

高次元モデル表現(HDMR) ^{[ 49 ] [ 50 ] (この用語は H. Rabitz [ 51 ]}による) は、本質的にはエミュレーターアプローチであり、関数出力を、次元が増加する入力項と相互作用の線形結合に分解します。HDMR アプローチは、通常、高次の相互作用 (2 次または 3 次以上) を無視することでモデルをうまく近似できるという事実を利用します。切り捨てられた級数の項は、それぞれ多項式やスプライン (REFS) などで近似でき、応答は、切り捨て次数までの主効果と相互作用の合計として表現されます。この観点から、HDMR は高次の相互作用を無視するエミュレーターと見なすことができます。利点は、完全な次数エミュレーターよりも高次元のモデルをエミュレートできることです。

モンテカルロフィルタリングによる感度分析^{[ 52 ]}もサンプリングベースのアプローチであり、その目的は、出力の特定の値（例えば、高い値または低い値）に対応する入力因子の空間内の領域を特定することです。