逆問題

最初の難点は、重要な問題を反映しています。つまり、観測データには十分な情報が含まれていないため、追加のデータが必要なのです。追加データは、パラメータ値、その空間分布、あるいはより一般的にはそれらの相互依存性に関する物理的な事前情報から得ることができます。また、他の実験から得ることもできます。例えば、重力計と地震計で記録されたデータを統合して、密度をより正確に推定することを考えてみましょう。この追加情報の統合は、基本的に統計学の問題です。この学問分野こそが、「性質の異なる量をどのように混合するか」という問いに答えることができるのです。これについては、後述の「ベイズ的アプローチ」のセクションでより詳しく説明します。

分布パラメータに関しては、その空間分布に関する事前情報は、多くの場合、これらの分布パラメータのいくつかの導関数に関する情報で構成されます。また、やや人為的ではありますが、データに合理的に適合する「最も単純な」モデルを探すのが一般的な慣行です。これは通常、ペナルティを課すことによって達成されます。${\displaystyle L^{1}}$パラメータの勾配（または全変動）のノルム（このアプローチはエントロピーの最大化とも呼ばれる）。また、必要な場合にのみ自由度を導入するパラメータ化によってモデルを単純化することもできる。

追加情報は、モデルパラメータまたはそれらの関数に対する不等式制約によって統合される場合もあります。このような制約は、パラメータの非現実的な値（例えば負の値）を避けるために重要です。この場合、モデルパラメータによって張られる空間はもはやベクトル空間ではなく、許容モデルのサブセットとなります。${\displaystyle P_{\text{adm}}}$続編で。

前述のように、ノイズによって測定値がどのモデルにも一致しない可能性があるため、データを生成するモデルを探すのではなく、最良の（または最適な）モデル、つまりデータに最もよく一致するモデルを探すことになります。これにより、残差の大きさ、つまり予測データが観測データからどれだけ離れているかを定量化する関数である目的関数を最小化することにつながります。 もちろん、完全なデータ（つまりノイズがない）がある場合、復元されたモデルは観測データに完全に適合するはずです。標準的な目的関数、${\displaystyle \varphi }$、は、次の形式です。 ${\displaystyle \varphi (p)=\|Fp-d_{\text{obs}}\|^{2}}$ どこ${\displaystyle \|\cdot \|}$はユークリッドノルムです（${\displaystyle L^{2}}$残差のノルム（測定値がサンプルではなく関数である場合）を使用します。このアプローチは、統計学で広く使用されている通常の最小二乗法を使用することに相当します。ただし、ユークリッドノルムは外れ値に非常に敏感であることが知られています。この問題を回避するために、たとえば他の距離を使用することを検討できます。${\displaystyle L^{1}}$規範に代わるものとして${\displaystyle L^{2}}$標準。

最小二乗法と非常によく似ているのが確率的アプローチです。データに混入するノイズの統計がわかっている場合、最尤基準に一致するモデルである最も可能性の高いモデル m を探すことを考えることができます。ノイズがガウス分布の場合、最尤基準は最小二乗基準として現れ、データ空間におけるユークリッドスカラー積はノイズの共分散を含むスカラー積に置き換えられます。また、モデルパラメータに関する事前情報が利用可能な場合は、逆問題の解を定式化するためにベイズ推論を使用することを考えることができます。このアプローチは、Tarantola の著書で詳しく説明されています。^{[ 10 ]}。逆問題に対するベイズアプローチでは、多くの場合、ガウス過程を使用して微分方程式の解をモデル化し（必ずしも線形化する必要はありません）、メカニズムシステムをエミュレート（またはトレーニング）して、推定（または較正）の事前情報として機能します。^{[ 11 ]}

ここでは、データの不適合度を定量化するためにユークリッドノルムを使用します。線形逆問題を扱っているため、目的関数は二次関数です。その最小化には、（1変数関数を最小化する場合と同じ考え方で）勾配を計算するのが一般的です。最適モデルでは${\displaystyle p_{\text{opt}}}$この勾配は消滅し、次のように表すことができます。 $${\displaystyle \nabla _{p}\varphi =2(F^{\mathrm {T} }Fp_{\text{opt}}-F^{\mathrm {T} }d_{\text{obs}})=0}$$ ここで、F ^{T は}Fの転置行列を表す。この式は次のように簡略化される。 $${\displaystyle F^{\mathrm {T} }Fp_{\text{opt}}=F^{\mathrm {T} }d_{\text{obs}}}$$

この式は正規方程式として知られており、逆問題の解の可能性を示しています。例の行列では${\displaystyle F^{\mathrm {T} }F}$一般的にフルランクであることが判明したため、上記の式は意味を持ち、モデルパラメータを一意に決定します。一意の解を得るために追加情報を統合する必要はありません。

逆問題の中には非常に単純な解を持つものもある。例えば、ユニソルベント関数の集合、つまり の集合がある場合などである。${\displaystyle n}$関数を評価すると、${\displaystyle n}$異なる点から、線形独立なベクトルの集合が得られます。これは、これらの関数の線形結合が与えられた場合、ベクトルを行列の列として配置し、その行列を反転することで係数を計算できることを意味します。単可解関数の最も単純な例は、単可解定理を使用して単可解となるように構成された多項式です。具体的には、これはヴァンデルモンド行列を反転することによって行われます。しかし、これは非常に特殊な状況です。

一般的に、逆問題の解法には高度な最適化アルゴリズムが必要です。モデルが多数のパラメータで記述される場合（回折トモグラフィーの応用によっては未知数の数が10億に達することもあります）、正規方程式に関連する線形システムを解くのは煩雑になる可能性があります。最適化問題を解くために使用する数値解法は、特に解の計算に必要なコストに依存します。 ${\displaystyle Fp}$順問題の適切なアルゴリズムが選択されたら（単純な行列ベクトル乗算では不十分な場合があり、行列が小さい場合は不十分な場合があります）${\displaystyle F}$が巨大な場合）、最小化を実行するための適切なアルゴリズムは、線形システムの解法や二次関数の最小化のための数値的方法を扱った教科書で見つけることができます（たとえば、Ciarlet ^{[ 13 ]}または Nocedal ^{[ 14 ]}を参照）。

また、ユーザーはモデルに物理的な制約を追加したい場合もあるでしょう。この場合、制約付き最適化手法に精通している必要がありますが、これはそれ自体が一つのテーマです。いずれの場合も、目的関数の勾配を計算することが、最適化問題の解決における重要な要素となることがよくあります。前述のように、分布パラメータの空間分布に関する情報は、パラメータ化によって導入できます。最適化中にこのパラメータ化を適応させることも考えられます。^{[ 15 ]}

目的関数がユークリッドノルム以外のノルムに基づく場合、二次最適化の領域から外れる必要があります。その結果、最適化問題はより困難になります。特に、${\displaystyle L^{1}}$ノルムはデータの不適合を定量化するために使用されます。目的関数はもはや微分可能ではありません。その勾配はもはや意味をなしません。非微分可能最適化からの専用の方法 (例えば Lemaréchal ^{[ 16 ]}を参照) が登場します。

最適なモデルが計算されたら、「このモデルを信頼できるか？」という疑問に答える必要があります。この疑問は次のように定式化できます。このモデルと「ほぼ同等」にデータに適合するモデルの集合はどれくらい大きいか？二次目的関数の場合、この集合は超楕円体、つまりサブセットに含まれます。${\displaystyle R^{M}}$（${\displaystyle M}$は未知数の数です。その大きさは、「ほぼ同様に」の意味、つまりノイズレベルによって異なります。この楕円体の最大軸の方向（行列の最小固有値に関連付けられた固有ベクトル）${\displaystyle F^{T}F}$）は、決定性の低い成分の方向です。この方向に従うと、目的関数の値を大きく変えることなくモデルに大きな摂動を与えることができ、結果として大きく異なる準最適モデルが得られます。明らかに、「このモデルを信頼できるか」という問いへの答えは、ノイズレベルと目的関数のヘッセ行列の固有値、あるいは正則化が組み込まれていない場合は、行列の特異値によって決まります。${\displaystyle F}$もちろん、正則化（またはその他の種類の事前情報）を使用することで、ほぼ最適な解の集合のサイズが縮小され、結果として計算された解に対する信頼性が高まります。

ここでは、分布パラメータの復元に焦点を当てます。分布パラメータを求めるには、これらの未知の関数を離散化する必要があります。そうすることで、問題の次元を有限に縮小できます。しかし、ここで疑問となるのは、計算した解と元の問題の解との間に何らかの関連性があるかどうかです。さらに、元の問題の解とは何を意味するのでしょうか。有限個のデータでは無限個の未知数を決定することはできないため、元のデータ不適合関数を正則化して解の一意性を確保する必要があります。多くの場合、未知数を有限次元空間に縮小することで適切な正則化が得られます。計算された解は、求めていた解の離散版のように見えます。たとえば、単純な離散化は、デコンボリューション問題を解くのにしばしば有効です。数値解に欠落した周波数が現れない限り有効です。しかし多くの場合、正則化を目的関数に明示的に組み込む必要があります。

何が起こりうるかを理解するためには、このような線形逆問題を解くことは、第一種フレドホルム積分方程式を解くことに相当するということを念頭に置いておく必要がある。 $${\displaystyle d(x)=\int _{\Omega }K(x,y)p(y)dy}$$

どこ${\displaystyle K}$カーネルは、${\displaystyle x}$そして${\displaystyle y}$はベクトルです${\displaystyle R^{2}}$、 そして${\displaystyle \Omega }$はドメインです${\displaystyle R^{2}}$これは2Dアプリケーションの場合に当てはまります。3Dアプリケーションの場合は、${\displaystyle x,y\in R^{3}}$ここでモデルパラメータは${\displaystyle p}$は関数から成り、モデルの応答もまた、で表される関数から成ります。${\displaystyle d(x)}$この方程式は、行列方程式を無限次元に拡張したものである。${\displaystyle d=Fp}$離散的な問題の場合に与えられる。

十分に滑らか${\displaystyle K}$上記で定義された演算子は、次のような妥当なバナッハ空間上でコンパクトである。${\displaystyle L^{2}}$F.リース理論によれば、このような演算子の特異値の集合はゼロを含み（したがって零空間が存在する）、有限であるか、せいぜい可算であり、後者の場合、それらはゼロに収束する数列を構成する。対称カーネルの場合、無限個の固有値があり、それに対応する固有ベクトルはヒルベルト基底を構成する。${\displaystyle L^{2}}$したがって、この方程式の解は零空間の加法関数を除いて決定され、特異値が無限大の場合、解（任意の小さな固有値の逆数を含む）は不安定になります。この2つの要素が、この積分方程式の解を典型的な不適切問題にしています。しかし、順方向写像の擬似逆関数（これも任意の加法関数を除いて）によって解を定義することができます。順方向写像がコンパクトな場合、古典的なティホノフ正則化は、事前情報を積分するために使用すれば機能します。${\displaystyle L^{2}}$解のノルムはできるだけ小さくする必要があります。そうすることで、逆問題が適切に定式化されます。しかし、有限次元の場合と同様に、計算された解に対する信頼性を問わなければなりません。ここでも、基本的には、情報はヘッセ行列の固有値にあります。解を計算するために、小さな固有値に関連付けられた固有ベクトルを含む部分空間を探索する場合、解はほとんど信頼できません。その成分の一部が適切に決定されないためです。最小の固有値は、ティホノフ正則化で導入された重みに等しくなります。

不規則なカーネルは、モデル空間を単純に装備すると、コンパクトではなく、場合によっては非有界な順方向マップを生成する可能性があります。${\displaystyle L^{2}}$ノルム。このような場合、ヘッセ行列は有界作用素ではなく、固有値の概念はもはや意味をなさない。それを有界作用素にして適切に定式化された問題を設計するには、数学的解析が必要である。例については、^{[ 17 ]}を参照のこと。ここでも、計算された解に対する信頼性を疑問視し、答えを得るために固有値の概念を一般化する必要がある。^{[ 18 ]}

ヘッセ行列演算子のスペクトルの解析は、計算された解の信頼性を判断する上で重要な要素です。しかし、このような解析は通常、非常に負荷の高い作業です。そのため、いくつかの著者は、未知関数のすべての成分ではなく、線形演算子による未知関数の像である部分未知のみに関心がある場合の代替アプローチを調査しました。これらのアプローチは、「Backus and Gilbert 法^{[ 19 ]}」、「Lionsの番人アプローチ^{[ 20} ]」、および SOLA 法^{[ 21 ]と呼ばれ、Chavent [ 22 ]}で説明されているように、これらのアプローチは互いに強く関連していることがわかりました。^最後に、物理学者がよく持ち出す限定解像度 の概念は、いくつかの不適切に決定された成分が解を損なう可能性があるという事実の特定の見方にすぎません。しかし、一般的に言えば、モデルのこれらの不適切に決定された成分は、必ずしも高周波に関連付けられているわけではありません。

デコンボリューションの目的は、元の画像または信号を再構成することです。${\displaystyle p(x)}$データ上ではノイズが多くぼやけているように見える${\displaystyle d(x)}$^{[ 23 ]} 数学的な観点から言えば、カーネルは${\displaystyle K(x,y)}$ここでは、${\displaystyle x}$そして${\displaystyle y}$。

これらの方法では、分布パラメータの復元を試みます。観測は、一連の線に沿って実行されるこのパラメータの積分の測定から成ります。これをで表します。${\displaystyle \Gamma _{x}}$このファミリーの測定点に関連付けられた線${\displaystyle x}$観測結果${\displaystyle x}$したがって、次のように書くことができる。 $${\displaystyle d(x)=\int _{\Gamma _{x}}w(x,y)p(y)\,dy}$$ どこ${\displaystyle w(x,y)}$既知の重み関数。この式を上記のフレドホルム積分と比較すると、カーネルが${\displaystyle K(x,y)}$これは、ある線上でピークを迎えるデルタ関数の一種です。${\displaystyle {\Gamma _{x}}}$このようなカーネルでは、順方向マップはコンパクトではありません。

逆熱伝導に関する初期の論文は、埋設温度センサーから大気圏再突入時の表面熱流束を決定することから始まった。^{[ 33 ] [ 34 ]} 表面熱流束が必要であるが表面センサーが実用的でないその他の用途には、往復動エンジン内部、ロケットエンジン内部、原子炉コンポーネントのテストなどがある。^{[ 35 ]}温度信号の減衰と遅延によって引き起こされる不良設定性と測定誤差に対する感度に対処するために、さまざまな数値的手法が開発されている。^{[ 36 ] [ 37 ] [ 38 ]}

線形逆問題は19世紀末には理論的に完全に解決されていたのに対し、非線形逆問題で1970年以前に解決されていたのは、ロシア数学学派（クライン、ゲルファント、レヴィタン、マルチェンコ）の先駆的な研究以降、逆スペクトル問題と（1次元空間の）逆散乱問題という1つのクラスのみであった。これらの結果に関する大規模なレビューは、チャダンとサバティエの著書『量子散乱理論の逆問題』（英語版2版、ロシア語版1版）にまとめられている。

この種の問題では、データは散乱を記述する線形演算子のスペクトルの特性です。スペクトルは、固有値と固有関数から構成され、これらを合わせて「離散スペクトル」と、連続スペクトルと呼ばれる一般化を形成します。非常に注目すべき物理的ポイントは、散乱実験では連続スペクトルに関する情報しか得られず、散乱演算子を復元するにはその完全なスペクトルを知ることが必要かつ十分であるということです。したがって、線形逆問題で同様の性質を持つ零空間よりもはるかに興味深い、目に見えないパラメータが存在します。さらに、このような演算子のスペクトルが運動の結果として保存されるような物理的な運動があります。この現象は、例えばKorteweg–de Vries方程式のような、特別な非線形偏微分発展方程式によって支配されます。演算子のスペクトルが単一の固有値に縮小されると、それに対応する運動は、一定速度で変形せずに伝播する単一の隆起、つまり「ソリトン」と呼ばれる孤立波の運動になります。

完全信号とその一般化は、Korteweg–de Vries方程式やその他の可積分非線形偏微分方程式において非常に興味深いものであり、多くの応用が期待されています。この分野は1970年代から数理物理学の一分野として研究されてきました。非線形逆問題は現在、応用科学の多くの分野（音響学、力学、量子力学、電磁散乱、特にレーダー探査、地震探査、そしてほぼすべての画像処理技術）でも研究されています。

リーマン予想に関連する最後の例は、WuとSprungによって示されました。そのアイデアは、半古典的な古い量子理論では、ハミルトニアン内のポテンシャルの逆数は、固有値（エネルギー）カウント関数n（x ）の半微分に比例するというものです。 

目標は、多孔質媒体内の単相流体の流れをモデル化する放物型偏微分方程式の拡散係数を復元することです。この問題は、70年代初頭に行われた先駆的な研究以来、多くの研究の対象となってきました。^{[ 39 ]}二相流に関しては、相対透過率と毛細管圧を推定することが重要な問題です。^{[ 40 ]}

目標は、地震記録から波速（P波とS波）と密度分布を復元することです。このような逆問題は、地震学および探査地球物理学において非常に重要です。基本的に、次の2つの数学モデルを考えることができます。

• 音響波動方程式（空間次元が2または3の場合、S波は無視される）
• 弾性力学方程式では、P波速度とS波速度はラメ定数と密度から導出できる。

これらの基本的な双曲線方程式は、減衰、異方性、その他の物理的効果を組み込むことで改良することができる。

1 次元波動方程式の逆問題の解法は、多くの研究の対象となってきた。これは、解の一意性を証明できる数少ない非線形逆問題の 1 つです。^{[ 8 ]}解の安定性の解析は、別の課題でした。^{[ 41 ]}最小二乗法を用いた実用的な応用が開発されました。^{[ 41 ] [ 42 ]} 2 次元または 3 次元の問題や弾性力学方程式への拡張は 80 年代から試みられてきましたが、非常に困難であることが判明しました 。この問題は、フル ウェーブフォーム インバージョン (FWI) と呼ばれることが多く、まだ完全には解決されていません。主な困難としては、地震記録への非ガウス ノイズの存在、サイクル スキップの問題 (位相曖昧性としても知られています)、データ ミスフィット関数の混沌とし​​た挙動などがあります。^{[ 43 ]}一部の著者は、目的関数がデータ不適合関数よりもカオス的でないように逆問題を再定式化する可能性を調査した。^{[ 44 ] [ 45 ]}

波動方程式における逆問題の難しさを認識した地震学者は、幾何光学を利用した簡略化された手法を研究した。具体的には、地震計記録に観測された波面の到達時刻から伝播速度分布を逆算することを目指した。これらの波面は、直接波または反射面に関連する反射波と関連付けることができ、反射面の形状は速度分布とともに決定される。

到着時間分布${\displaystyle {\tau }(x)}$（${\displaystyle x}$点光源から発せられた波面の（物理空間内の点）は、アイコナール方程式を満たす。 $${\displaystyle \|\nabla \tau (x)\|=s(x),}$$ どこ${\displaystyle s(x)}$これは、遅さ（速度の逆数）分布を表します。${\displaystyle \|\cdot \|}$この方程式は非線形となる。古典的な解法は、点光源から光線（到達時間が一定となる軌跡）を発射することである。

この問題はトモグラフィーに似ています。測定された到達時間は、スローネスのレイパスに沿った積分です。しかし、このトモグラフィーに似た問題は非線形です。主な理由は、未知のレイパスの形状が速度（またはスローネス）分布に依存するためです。非線形性にもかかわらず、走時トモグラフィーは、地球内部または地下における伝播速度を決定するのに非常に効果的であることが判明しました。後者の側面は、特に「回折トモグラフィー」のセクションで述べた方法を用いた地震イメージングの重要な要素です。

順方向マップが非線形であるため、データ不適合関数は非凸になる可能性が高く、局所最小化手法は非効率的になります。この困難を克服するために、いくつかの手法が検討されてきました。

• 逆問題の確率的枠組みにおける事後密度関数のサンプリングやメトロポリスアルゴリズムなどのグローバル最適化手法の使用、 ^{[ 47 ]}遺伝的アルゴリズム（単独またはメトロポリスアルゴリズムとの組み合わせ：既存の浸透率データに一致する浸透率の決定への応用については^{[ 48 ]}を参照）、ニューラルネットワーク、マルチスケール解析を含む正則化手法。
• 最小二乗目的関数をより滑らかにするための再定式化（波動方程式の逆問題については^{[ 44 ] [ 45 ]を参照）。}

逆問題、特に無限次元の場合、規模が大きくなる可能性があり、そのため重要な計算時間が必要になります。順方向写像が非線形の場合、計算の困難さが増し、目的関数を最小化することが難しくなります。線形の場合とは異なり、正規方程式を解くためにヘッセ行列を明示的に使用することはここでは意味がありません。ヘッセ行列はモデルによって変化するからです。いくつかのモデルでは、目的関数の勾配を評価する方がはるかに効果的です。ヤコビアン（しばしば「フレシェ微分」と呼ばれる）の非常に重い計算を回避できれば、重要な計算労力を節約できます。ChaventとLionsによって提案された随伴状態法^{[ 49 ]}は、この非常に重い計算を回避することを目的としています。これは現在非常に広く使用されています。^{[ 50 ]}