逆問題

科学における逆問題とは、一連の観察から、それらを生み出す原因となる要因を計算するプロセスです。たとえば、X 線コンピューター断層撮影で画像を計算し、音響学で音源を再構成し、地球の重力場の測定値から地球の密度を計算します。これは、結果から始めて原因を計算するため、逆問題と呼ばれます。これは、原因から始めて結果を計算する順問題の逆です。

逆問題は、直接観察できないパラメータについて教えてくれるため、科学と数学において最も重要な数学的問題の一つです。逆問題は、システム識別、光学、レーダー、音響、通信理論、信号処理、医療用画像処理、コンピュータービジョン、^{[1] [2]} 地球物理学、海洋学、天文学、リモートセンシング、自然言語処理、機械学習、^[3] 非破壊検査、斜面安定性解析^[4]など、多くの分野で見られます。^[要出典]

原因を発見するために結果から始めることは、何世紀にもわたって物理学者の関心事でした。歴史的な例としては、アダムスとルヴェリエの計算が挙げられ、天王星の軌道の乱れから海王星を発見するに至りました。しかし、逆問題の正式な研究は 20 世紀まで開始されませんでした。

逆問題の解法の最も初期の例の1つは、ヘルマン・ワイルによって発見され、1911年に発表されたもので、ラプラス・ベルトラミ演算子の固有値の漸近挙動を説明しています。^{[5]今日では}ワイルの法則として知られていますが、これはおそらく、太鼓の形を聞き分けることができるかどうかという疑問に対する答えとして最も簡単に理解できます。ワイルは、太鼓の固有振動数が特定の方程式によって太鼓の面積と周囲長に関連付けられると推測し、その結果は後の数学者によって改良されました。

逆問題の分野は後にソ連系アルメニアの物理学者ヴィクトル・アンバルツミアンによって取り上げられた。^{[6] [7]}

アンバルツミアンは学生時代に原子構造理論、エネルギー準位の形成、シュレーディンガー方程式とその特性を徹底的に研究し、微分方程式の固有値の理論を習得すると、離散エネルギー準位と微分方程式の固有値の間に明らかな類似点があることを指摘した。そして彼は、固有値の族が与えられた場合、それらの固有値を持つ方程式の形を見つけることは可能かと尋ねた。本質的にアンバルツミアンは、振動する弦の方程式を決定する逆シュトゥルム・リウヴィル問題を検討していた。この論文は1929年にドイツの物理学雑誌Zeitschrift für Physikに掲載され、かなり長い間無名のままだった。数十年後のこの状況について、アンバルツミアンは「天文学者が物理学雑誌に数学的な内容の記事を発表した場合、その記事に起こる可能性が最も高いのは忘れ去られることだ」と述べた。

それにもかかわらず、第二次世界大戦の終わりごろ、20歳のアンバルツミアンによって書かれたこの論文はスウェーデンの数学者によって発見され、逆問題に関する研究の全領域の出発点となり、一つの学問分野の基礎となった。

その後、ソ連のゲルファンドとレビタンを中心に、逆散乱問題の「直接解」に重要な努力が注がれました。 ^[8]彼らは、解を決定するための解析的構成法を提案しました。コンピュータが利用可能になると、一部の著者は、1D 波動方程式の逆問題などの類似の問題に彼らのアプローチを適用する可能性を調査しました。しかし、逆変換は不安定なプロセスであることがすぐに判明しました。ノイズとエラーが著しく増幅されるため、直接解はほとんど実行不可能になります。その後、1970 年代頃に、最小二乗法と確率論的アプローチが登場し、さまざまな物理システムに含まれるパラメータの決定に非常に役立つことがわかりました。このアプローチは大きな成功を収めました。今日では、逆問題は、化学、経済学、コンピュータ サイエンスなど、物理学以外の分野でも調査されています。最終的には、数値モデルが社会の多くの部分で普及するにつれて、これらの数値モデルのそれぞれに関連する逆問題が予想されるようになります。

ニュートン以来、科学者たちは世界をモデル化しようと広範に試みてきました。特に、数学モデルが利用できる場合（たとえば、ニュートンの万有引力の法則や静電気のクーロン方程式）、物理システムを記述するいくつかのパラメータ（質量分布や電荷分布など）が与えられれば、システムの挙動を予測できます。このアプローチは数学モデリングと呼ばれ、上記の物理パラメータはモデルパラメータまたは単にモデルと呼ばれます。正確には、物理​​システムの状態という概念を導入します。これは、数学モデルの方程式の解です。最適制御理論では、これらの方程式は状態方程式と呼ばれます。多くの場合、私たちが本当に知りたいのは物理状態ではなく、それがいくつかのオブジェクトに与える影響（たとえば、重力場が特定の惑星に与える影響）だけです。したがって、観測演算子と呼ばれる別の演算子を導入する必要があります。これは、物理システムの状態 (ここでは予測される重力場) を観測したいもの (ここでは対象とする惑星の動き) に変換します。ここで、いわゆる順方向問題を導入できます。これは、次の 2 つのステップで構成されます。

• システムの状態を、それを記述する物理的パラメータから決定する
• 観測演算子をシステムの推定状態に適用して、観測対象の動作を予測します。

これにより、モデルパラメータを にマッピングする別の演算子 （F は「forward」の略）が導入されます。これは、この 2 段階の手順の結果であるモデルが予測するデータです。演算子は、 forward 演算子またはforward マップと呼ばれます。このアプローチでは、基本的に原因を知った上で結果を予測しようとします。 ${\displaystyle F}$${\displaystyle p}$${\displaystyle F(p)}$${\displaystyle p}$${\displaystyle F}$

以下の表は、地球を物理システムとみなし、さまざまな物理現象について、システムを記述するモデル パラメーター、物理システムの状態を記述する物理量、およびシステムの状態に関して一般的に行われる観察を示しています。

逆問題アプローチでは、大まかに言えば、結果が与えられたときに原因を知ろうとします。

逆問題は順問題の「逆」です。特定のモデル パラメータによって生成されたデータを決定する代わりに、記録した観測データ (添え字obs は観測を表します) を生成するモデル パラメータを決定します。言い換えると、目標は、(少なくとも近似的に) が順マップであるような モデルパラメータを決定することです。モデル パラメータの数 (無限である可能性あり) と記録されたデータの数を で表します。以下で使用するいくつかの便利な概念と関連する表記法を紹介します。 ${\displaystyle d_{\text{obs}}}$${\displaystyle p}$$${\displaystyle d_{\text{obs}}=F(p)}$$${\displaystyle F}$${\displaystyle M}$${\displaystyle N}$

• によって表されるモデルの空間:モデルパラメータによって張られるベクトル空間。次元を持ちます。${\displaystyle P}$${\displaystyle M}$
• 測定サンプルを成分を持つベクトルに整理する場合、データ空間はで表されます(測定値が関数で構成されている場合、は無限次元のベクトル空間です)。${\displaystyle D}$${\displaystyle D=\mathbb {R} ^{N}}$${\displaystyle N}$${\displaystyle D}$
• ${\displaystyle F(p)}$:モデルの応答 。モデルによって予測されたデータで構成されます。${\displaystyle p}$ ${\displaystyle p}$
• ${\displaystyle F(P)}$: 順方向マップによる のイメージは、すべてのモデルの応答から構成される のサブセットです( が線形でない限り、サブスペースではありません)。${\displaystyle P}$${\displaystyle D}$${\displaystyle F}$
• ${\displaystyle d_{\text{obs}}-F(p)}$:モデルに関連付けられた データの不適合 (または残差) : の要素であるベクトルとして配置できます。${\displaystyle p}$${\displaystyle D}$

残差の概念は非常に重要です。データに一致するモデルを見つけるという観点から、残差の分析により、検討中のモデルが現実的であるかどうかが明らかになります。データとモデル応答の間に体系的な非現実的な矛盾がある場合も、フォワード マップが不十分であることを示し、改善されたフォワード マップに関する洞察が得られる可能性があります。

演算子が線形の場合、逆問題は線形です。それ以外の場合、つまりほとんどの場合、逆問題は非線形です。また、モデルは常に有限個のパラメータで記述できるわけではありません。分散パラメータ(たとえば、波の速度の分布) を探す場合がこれに該当します。このような場合、逆問題の目標は 1 つまたは複数の関数を取得することです。このような逆問題は、無限次元の逆問題です。 ${\displaystyle F}$

線形フォワードマップの場合、有限個のモデルパラメータを扱うとき、フォワードマップは線形システム として記述することができ 、ここではフォワードマップを特徴付ける行列である。線形システムは、正則化法とベイズ法の両方で解くことができる。^[9]$${\displaystyle d=Fp}$$${\displaystyle F}$

実際にモデルパラメータに関して線形である物理システムはごくわずかです。地球物理学におけるそのようなシステムの 1 つが、地球の重力場です。地球の重力場は、地下の地球の密度分布によって決まります。地球の岩相は大きく変化するため、地球の表面の重力場の微細な違いを観察することができます。重力 (ニュートンの万有引力の法則) に関する理解から、重力の数学的表現は次のようになることがわかります。 ここでは、局所的な重力加速度の尺度、は万有引力定数、は地下の岩石の局所的な質量 (密度に関連)、は質量から観測点までの距離です。 $${\displaystyle d={\frac {Gp}{r^{2}}};}$$${\displaystyle d}$${\displaystyle G}$${\displaystyle p}$${\displaystyle r}$

上記の式を離散化することで、地球表面の離散データ観測を、詳しく知りたい地下の離散モデルパラメータ（密度）に関連付けることができます。たとえば、地球表面の 5 か所で測定を行った場合を考えてみましょう。この場合、データ ベクトルは次元 (5×1) の列ベクトルです。その- 番目の要素は - 番目の観測位置に関連付けられます。また、地下には位置がわかっている未知の質量が 5 つしかないこともわかっています(非現実的ですが、概念を示すために使用)。- 番目の観測位置と- 番目の質量の間の距離を で表します。したがって、5 つの未知の質量と 5 つのデータ ポイントを関連付ける線形システムを次のように構築できます。 ${\displaystyle d}$${\displaystyle i}$${\displaystyle i}$${\displaystyle p_{j}}$${\displaystyle r_{ij}}$${\displaystyle i}$${\displaystyle j}$$${\displaystyle d=Fp,}$$ $${\displaystyle d={\begin{bmatrix}d_{1}\\d_{2}\\d_{3}\\d_{4}\\d_{5}\end{bmatrix}},\quad p={\begin{bmatrix}p_{1}\\p_{2}\\p_{3}\\p_{4}\\p_{5}\end{bmatrix}},}$$ $${\displaystyle F={\begin{bmatrix}{\frac {G}{r_{11}^{2}}}&{\frac {G}{r_{12}^{2}}}&{\frac {G}{r_{13}^{2}}}&{\frac {G}{r_{14}^{2}}}&{\frac {G}{r_{15}^{2}}}\\{\frac {G}{r_{21}^{2}}}&{\frac {G}{r_{22}^{2}}}&{\frac {G}{r_{23}^{2}}}&{\frac {G}{r_{24}^{2}}}&{\frac {G}{r_{25}^{2}}}\\{\frac {G}{r_{31}^{2}}}&{\frac {G}{r_{32}^{2}}}&{\frac {G}{r_{33}^{2}}}&{\frac {G}{r_{34}^{2}}}&{\frac {G}{r_{35}^{2}}}\\{\frac {G}{r_{41}^{2}}}&{\frac {G}{r_{42}^{2}}}&{\frac {G}{r_{43}^{2}}}&{\frac {G}{r_{44}^{2}}}&{\frac {G}{r_{45}^{2}}}\\{\frac {G}{r_{51}^{2}}}&{\frac {G}{r_{52}^{2}}}&{\frac {G}{r_{53}^{2}}}&{\frac {G}{r_{54}^{2}}}&{\frac {G}{r_{55}^{2}}}\end{bmatrix}}}$$

データに適合するモデル パラメータを求めるには、行列を反転して測定値をモデル パラメータに直接変換できる 可能性があります。たとえば、 5 つの方程式と 5 つの未知数を持つシステムは非常に特殊な状況です。この例は、この特殊性を実現するように設計されています。一般に、データと未知数の数は異なるため、行列は正方ではありません。 ${\displaystyle F}$$${\displaystyle p=F^{-1}d_{\text{obs}}}$$${\displaystyle F}$

ただし、正方行列であっても逆行列が存在しない場合があります。行列はランク不足 (つまり、固有値がゼロ)になる可能性があり、システムの解は一意ではありません。その場合、逆問題の解は未決定になります。これが最初の難しさです。過剰決定システム (未知数よりも方程式が多い) には他の問題があります。また、ノイズによって観測結果が損なわれ、モデル パラメータに対する可能な応答の範囲外になる可能性があり、システムの解が存在しない可能性があります。これは別の難しさです。 ${\displaystyle F}$${\displaystyle p=F^{-1}d_{\text{obs}}}$${\displaystyle d}$${\displaystyle F(P)}$${\displaystyle p=F^{-1}d_{\text{obs}}}$

最初の困難は、重大な問題を反映しています。つまり、私たちの観察には十分な情報が含まれていないため、追加のデータが必要です。追加のデータは、パラメータ値、その空間分布、またはより一般的には相互依存関係に関する物理的な事前情報から取得できます。また、他の実験から取得することもできます。たとえば、密度をより正確に推定するために、重力計と地震計によって記録されたデータを統合することを検討できます。この追加情報の統合は、基本的に統計の問題です。この分野は、「異なる性質の量を混合する方法」という質問に答えることができる分野です。これについては、以下の「ベイズアプローチ」のセクションで詳しく説明します。

分布パラメータに関しては、その空間分布に関する事前情報は、これらの分布パラメータの導関数に関する情報から構成されることがよくあります。また、多少不自然ではありますが、データに合理的に一致する「最も単純な」モデルを探すことも一般的な方法です。これは通常、パラメータの勾配のノルム(または総変動) にペナルティを課すことによって実現されます (このアプローチはエントロピーの最大化とも呼ばれます)。必要な場合にのみ自由度を導入するパラメータ化によってモデルを単純にすることもできます。 ${\displaystyle L^{1}}$

追加情報は、モデル パラメータまたはその一部の関数に対する不等式制約を通じて統合される場合もあります。このような制約は、パラメータの非現実的な値 (たとえば負の値) を回避するために重要です。この場合、モデル パラメータによって張られる空間はベクトル空間ではなくなり、後述の によって示される許容モデルのサブセットになります。${\displaystyle P_{\text{adm}}}$

上で述べたように、ノイズによって測定値がどのモデルのイメージともならない可能性があり、その場合、データを生成するモデルを探すことはできず、最良（または最適）のモデル、つまりデータに最もよく一致するモデルを探すことになります。これにより、目的関数、つまり残差の大きさや予測データが観測データからどれだけ離れているかを定量化する関数を最小化することにつながり ます。もちろん、データが完全（つまりノイズなし）であれば、回復されたモデルは観測データに完全に適合するはずです。標準的な目的関数の形式は次のとおりです。 ここでは残差のユークリッドノルム（測定値がサンプルではなく関数である場合はノルムになります）です。このアプローチは、統計学で広く使用されているアプローチである通常の最小二乗法を使用することになります。ただし、ユークリッドノルムは外れ値に非常に敏感であることが知られています。この問題を回避するには、ノルムの代わりに、ノルムなどの他の距離を使用することを検討します。 ${\displaystyle \varphi}$${\displaystyle \varphi (p)=\|Fp-d_{\text{obs}}\|^{2}}$${\displaystyle \|\cdot \|}$${\displaystyle L^{2}}$${\displaystyle L^{1}}$${\displaystyle L^{2}}$

最小二乗法に非常によく似ているのが確率的アプローチです。データを汚染するノイズの統計がわかっている場合、最大尤度基準 に一致するモデルである最も尤度の高いモデル m を探すことが考えられます。ノイズがガウス分布の場合、最大尤度基準は最小二乗基準として現れ、データ空間のユークリッドスカラー積はノイズの共分散を含むスカラー積に置き換えられます。また、モデルパラメータに関する事前情報が利用できる場合は、ベイズ推定を使用して逆問題の解を定式化することが考えられます。このアプローチは、Tarantola の本で詳しく説明されています。^[10]

ここでは、ユークリッドノルムを使用してデータの不適合を定量化します。線形逆問題を扱っているため、目的関数は 2 次です。目的関数を最小化するには、同じ原理を使用して勾配を計算するのが一般的です (1 つの変数のみの関数を最小化する場合と同様)。最適モデルでは、この勾配はゼロになり、次のように記述できます。 ここで、F ^{T は}Fの転置行列を表します。この式は次のように簡略化されます。 ${\displaystyle p_{\text{opt}}}$$${\displaystyle \nabla_{p}\varphi =2(F^{\mathrm {T} }Fp_{\text{opt}}-F^{\mathrm {T} }d_{\text{obs}})=0}$$$${\displaystyle F^{\mathrm {T} }Fp_{\text{opt}}=F^{\mathrm {T} }d_{\text{obs}}}$$

この式は正規方程式として知られており、逆問題に対する可能な解を与えてくれます。私たちの例では、行列は一般的にフルランクであることが判明しており、上記の方程式は意味を持ち、モデルパラメータを一意に決定します。一意の解を得るために追加情報を統合する必要はありません。 ${\displaystyle F^{\mathrm {T} }F}$

逆問題は、数学的モデリングで通常遭遇する適切問題とは対照的に、一般的に不適切である。ジャック・アダマールが提案した適切問題の 3 つの条件 (解の存在、一意性、安定性) のうち、安定性の条件が最も頻繁に破られる。関数解析の意味で、逆問題は距離空間間のマッピングによって表される。逆問題は無限次元空間で定式化されることが多いが、有限数の測定に制限され、有限数の未知のパラメータのみを回復するという実際的な考慮により、問題が離散形式で作り直される可能性がある。この場合、逆問題は一般的に不適切となる。これらの場合、解に軽い仮定を導入し、過剰適合を防ぐために正則化が使用されることがある。正則化された逆問題の多くの例は、ベイズ推論の特殊なケースとして解釈できる。^[11]

逆問題の中には、非常に簡単に解けるものもあります。たとえば、一組の非溶解関数、つまり、異なる点で評価すると線形独立なベクトルの集合が生成される関数の集合がある場合などです。${\displaystyle n}$つまり、これらの関数の線形結合が与えられれば、ベクトルを行列の列として配置し、この行列を反転することで係数を計算できます。非溶解関数の最も簡単な例は、非溶解定理を使用して非溶解になるように構成された多項式です。具体的には、これはヴァンデルモンド行列を反転することで行われます。しかし、これは非常に特殊な状況です。 ${\displaystyle n}$

一般に、逆問題の解決には高度な最適化アルゴリズムが必要です。モデルが多数のパラメータで記述されている場合（一部の回折トモグラフィーアプリケーションに含まれる未知数の数は10億に達することがあります）、正規方程式に関連する線形システムを解くのは面倒な場合があります。最適化問題を解くために使用する数値手法は、特に 順問題の解を計算するために必要なコストによって異なります。順問題を解くための適切なアルゴリズムを選択したら（行列が巨大な場合は、単純な行列ベクトル乗算では不十分な場合があります）、最小化を実行するための適切なアルゴリズムは、線形システムの解法や2次関数の最小化に関する数値手法を扱った教科書に記載されています（たとえば、Ciarlet ^[12]またはNocedal ^[13]を参照）。 ${\displaystyle Fp}$${\displaystyle F}$

また、ユーザーはモデルに物理的な制約を追加したい場合があります。この場合、ユーザーは制約付き最適化手法に精通している必要がありますが、これはそれ自体がテーマです。すべての場合において、目的関数の勾配を計算することは、最適化問題の解決の重要な要素となることがよくあります。前述のように、分布パラメータの空間分布に関する情報は、パラメータ化を通じて導入できます。最適化中にこのパラメータ化を適応させることも考えられます。^[14]

目的関数がユークリッドノルム以外のノルムに基づく場合、2次最適化の領域から外れる必要があります。その結果、最適化問題はより困難になります。特に、ノルムがデータの不適合を定量化するために使用されている場合、目的関数は微分可能ではなくなり、その勾配はもはや意味をなさなくなります。微分不可能な最適化からの専用手法（たとえば、Lemaréchal ^[15]を参照）が登場します。 ${\displaystyle L^{1}}$

最適モデルが計算されたら、「このモデルは信頼できるか」という疑問に答える必要があります。この疑問は次のように定式化できます。このモデルと「ほぼ同様に」データに一致するモデルのセットの大きさはどれくらいでしょうか。2 次目的関数の場合、このセットは超楕円体 ( のサブセット) に含まれます(は未知数の数)。このサイズは「ほぼ同様に」の意味、つまりノイズ レベルによって異なります。この楕円体の最大軸の方向 (行列の最小固有値に関連付けられた固有ベクトル) は、決定が不十分なコンポーネントの方向です。この方向に従えば、目的関数の値を大幅に変更せずにモデルに大きな摂動を加えることができるため、大幅に異なる準最適モデルが得られます。 「このモデルは信頼できるか」という質問に対する答えは、ノイズ レベルと目的関数のヘッセ行列の固有値によって決まることがはっきりとわかります。また、正規化が統合されていない場合は、行列の特異値によって決まります。もちろん、正規化 (または他の種類の事前情報) を使用すると、ほぼ最適なソリューションのセットのサイズが縮小され、計算されたソリューションに対する信頼度が高まります。 ${\displaystyle R^{M}}$${\displaystyle M}$${\displaystyle F^{T}F}$${\displaystyle F}$

ここでは、分布パラメータの回復に焦点を当てます。分布パラメータを探すときは、これらの未知の関数を離散化する必要があります。そうすることで、問題の次元を有限に減らします。しかし、ここでの疑問は、計算した解と最初の問題の解との間に何らかの関連があるかどうかです。そして、もう 1 つの疑問は、最初の問題の解とはどういう意味かということです。有限の数のデータでは、無限の未知数を決定できないため、元のデータ ミスフィット関数を正規化して、解の一意性を確保する必要があります。多くの場合、未知数を有限次元空間に減らすと、適切な正規化が実現します。計算された解は、探していた解の離散バージョンのようになります。たとえば、単純な離散化は、デコンボリューションの問題を解決するためによく機能します。数値解に欠落した周波数が表示されないようにする限り、機能します。しかし、多くの場合、正規化は目的関数に明示的に統合する必要があります。

何が起こるかを理解するためには、このような線形逆問題を解くことは、第一種フレドホルム積分方程式を解くことと同じであることを念頭に置く必要があります。 $${\displaystyle d(x)=\int _{\Omega }K(x,y)p(y)dy}$$

ここで、 は核、およびは のベクトル、は の領域です。これは 2D アプリケーションに当てはまります。3D アプリケーションの場合は、 を検討します。ここで、モデル パラメータは関数で構成され、モデルの応答も で表される関数で構成されることに注意してください。この方程式は、離散問題の場合に与えられる 行列方程式の無限次元への拡張です。${\displaystyle K}$${\displaystyle x}$${\displaystyle y}$${\displaystyle R^{2}}$${\displaystyle \Omega }$${\displaystyle R^{2}}$${\displaystyle x,y\in R^{3}}$${\displaystyle p}$${\displaystyle d(x)}$${\displaystyle d=Fp}$

十分に滑らかな に対して、上で定義した演算子は、などの適切なバナッハ空間上でコンパクトです。F . リース理論によれば、このような演算子の特異値の集合にはゼロが含まれ（したがってヌル空間が存在します）、有限またはせいぜい可算であり、後者の場合、それらはゼロに向かうシーケンスを構成します。対称カーネルの場合、固有値は無限大であり、関連する固有ベクトルは のヒルベルト基底を構成します。したがって、この方程式の任意の解はヌル空間の加法関数まで決定され、特異値が無限大の場合、解（任意の小さな固有値の逆数を含む）は不安定です。この 2 つの要素により、この積分方程式の解は典型的な不良設定問題になります。ただし、順方向マップの擬似逆を通じて解を定義できます（これも任意の加法関数まで）。順方向マップがコンパクトな場合、解のノルムが可能な限り小さくなるという事前情報を統合するために古典的なティホノフ正則化を使用すると、この正則化が機能します。これにより、逆問題が適切に設定されます。ただし、有限次元の場合と同様に、計算された解に置くことができる信頼性に疑問を抱く必要があります。ここでも、基本的に、情報はヘッセ演算子の固有値にあります。解を計算するために、小さな固有値に関連付けられた固有ベクトルを含むサブスペースを探索すると、解はほとんど信頼できません。そのコンポーネントの一部が適切に決定されない可能性があります。最小の固有値は、ティホノフ正則化で導入された重みに等しくなります。 ${\displaystyle K}$${\displaystyle L^{2}}$${\displaystyle L^{2}}$${\displaystyle L^{2}}$

不規則カーネルは、単純にモデルの空間にノルムを装備すると、コンパクトではなく、さらには無限大のフォワードマップを生成する可能性があります。このような場合、ヘッセ行列は有界演算子ではなく、固有値の概念はもはや意味をなさなくなります。有界演算子にして適切に設定された問題を設計するには、数学的分析が必要です。図解は^[16]にあります。ここでも、計算された解にどれだけの信頼性があるか疑問視する必要があり、答えを得るためには固有値の概念を一般化する必要があります。^[17]${\displaystyle L^{2}}$

したがって、ヘッセ演算子のスペクトルの分析は、計算された解の信頼性を判断するための重要な要素です。ただし、このような分析は通常、非常に負荷の大きい作業です。このため、未知の関数のすべてのコンポーネントではなく、線形演算子による未知の関数の像であるサブ未知のコンポーネントのみに関心がある場合の代替アプローチを調査する著者が何人かいます。これらのアプローチは、「Backus and Gilbert 法^[18]」、Lionsのセンチネル アプローチ^[19] 、および SOLA 法^{[20]と呼ばれています。これらのアプローチは、Chavent [21]}で説明されているように、互いに強く関連していることがわかりました。最後に、物理学者がよく引用する限られた解像度 の概念は、一部の決定が不十分なコンポーネントがソリューションを台無しにする可能性があるという事実の特定の見方に他なりません。しかし、一般的に言えば、モデルのこれらの決定が不十分なコンポーネントは、必ずしも高周波に関連付けられているわけではありません。

以下に述べる問題は、フレドホルム積分の異なるバージョンに対応しており、それぞれが特定のカーネルに関連付けられています。 ${\displaystyle K}$

デコンボリューションの目的は、データ上でノイズが多くぼやけて見える元の画像または信号を再構築することです。^[22] 数学的な観点から見ると、ここでのカーネルはと間の差のみに依存します。 ${\displaystyle p(x)}$${\displaystyle d(x)}$${\displaystyle K(x,y)}$${\displaystyle x}$${\displaystyle y}$

これらの方法では、分布パラメータの回復を試み、観測は直線群に沿って実行されるこのパラメータの積分の測定から成ります。測定点 に関連付けられたこの直線群のを で表します。 における観測は次のように記述できます。 ここで はに沿った弧長で、 は既知の重み関数です。 この式を上記のフレドホルム積分と比較すると、カーネルは直線 でピークとなるデルタ関数の一種であることがわかります。 このようなカーネルでは、フォワード マップはコンパクトではありません。 ${\displaystyle \Gamma _{x}}$${\displaystyle x}$${\displaystyle x}$$${\displaystyle d(x)=\int _{\Gamma _{x}}w(x,y)p(y)\,dy}$$${\displaystyle s}$${\displaystyle {\Gamma _{x}}}$${\displaystyle w(x,y)}$${\displaystyle K(x,y)}$${\displaystyle {\Gamma _{x}}}$

X線コンピュータ断層撮影では、パラメータが積分される線は直線である。パラメータ分布の断層撮影再構成は、ラドン変換の逆変換に基づいている。理論的観点からは、多くの線形逆問題はよく理解されているが、ラドン変換とその一般化に関わる問題は、データの十分性の問題がまだ解決されていないなど、依然として多くの理論的課題を抱えている。そのような問題には、3次元のX線変換のデータが不完全であることや、X線変換をテンソル場に一般化することに関わる問題などがある。検討されている解決策には、代数再構成法、フィルタ補正逆投影法があり、計算能力の向上に伴い、反復スパース漸近最小分散法などの反復再構成法も登場している。^[23]

回折トモグラフィーは、探査地震学における古典的な線形逆問題である。与えられた震源-受信機ペアについて一度に記録された振幅は、震源と受信機からの距離（移動時間で測定）の合計が対応する記録時間に等しくなるような点から生じる寄与の合計である。3Dでは、パラメータは線に沿って積分されるのではなく、面上で積分される。伝播速度が一定であれば、そのような点は楕円体上に分布する。逆問題は、速度分布がわかっている場合に、調査に沿って記録された地震記録から回折点の分布を取得することである。直接的な解は、もともとBeylkinとLambaréらによって提案された。^[24]これらの研究は、振幅保存マイグレーションとして知られるアプローチの出発点となった（Beylkin ^{[25] [26]}およびBleistein ^[27]を参照）。波動方程式を解くために幾何光学的手法（光線など）が使用される場合、これらの方法は、最小二乗法から派生したいわゆる最小二乗移動法^[28]と密接に関連していることがわかります（Lailly、^[29] Tarantola ^[30]を参照）。

回転する恒星を考えてみると、スペクトルプロファイルで観測できるスペクトル線はドップラー効果によってシフトします。ドップラートモグラフィーは、物体のスペクトルモニタリングに含まれる情報を恒星大気の放射（周期的な回転運動における視線速度と位相の関数として）の2D画像に変換することを目的としています。トム・マーシュ[ ^31]が説明したように、この線形逆問題はトモグラフィーに似ています。記録に効果をもたらすために線に沿って積分された分布パラメータを回復する必要があります。

逆熱伝導に関する初期の論文は、埋設温度センサーから大気圏再突入時の表面熱流束を測定したことから生まれた。^{[32] [33]} 表面熱流束は必要だが表面センサーが実用的ではない他の用途としては、往復動エンジン内部、ロケットエンジン内部、原子炉部品の試験などがある。^[34]温度信号の減衰や遅れによって引き起こされる不適切性や測定誤差に対する感度に対処するために、さまざまな数値手法が開発されてきた。^{[35] [36] [37]}

非線形逆問題は、本質的により難しい逆問題群を構成します。ここでは、順方向マップは非線形演算子です。物理現象のモデリングは、偏微分方程式の解に依存することがよくあります (重力法則を除く上記の表を参照)。これらの偏微分方程式は線形であることが多いですが、これらの方程式に現れる物理パラメータは、システムの状態、つまりシステムに対する観察に非線形に依存します。 ${\displaystyle F}$

線形逆問題は 19 世紀末に理論的観点から完全に解決されたが^[要出典]、 1970 年以前に完全に解決された非線形逆問題は、ロシア数学派 (クライン、ゲルファンド、レビタン、マルチェンコ)の独創的な研究後の、逆スペクトル問題と ( 1 つの空間次元 )逆散乱問題という 1 つのクラスのみであった。その結果の大規模なレビューは、チャダンとサバティエの著書「量子散乱理論の逆問題」( 英語版 2 冊、ロシア語版 1 冊 ) で発表されている。

この種の問題では、データは散乱を記述する線形演算子のスペクトルの特性です。スペクトルは固有値と固有関数で構成され、一緒に「離散スペクトル」と一般化され、連続スペクトルと呼ばれます。非常に注目すべき物理的な点は、散乱実験は連続スペクトルに関する情報のみを提供し、その完全なスペクトルを知ることは散乱演算子を復元するのに必要かつ十分であるということです。したがって、線形逆問題で同様の特性を持つヌル空間よりもはるかに興味深い、目に見えないパラメータがあります。さらに、そのような演算子のスペクトルがそのような動作の結果として保存される物理的な動作があります。この現象は、Korteweg-de Vries 方程式などの特別な非線形偏微分発展方程式によって制御されます。演算子のスペクトルが 1 つの固有値に縮小されると、それに対応する動作は、一定の速度で変形せずに伝播する単一の隆起、つまり「ソリトン」と呼ばれる孤立波の動作になります。

完全信号と、コルテヴェック・ド・フリース方程式やその他の積分可能な非線形偏微分方程式の一般化は、多くの応用が考えられ、非常に興味深いものです。この分野は、1970 年代から数理物理学の一分野として研究されてきました。非線形逆問題は現在、多くの応用科学分野 (音響学、力学、量子力学、電磁波散乱 - 特にレーダー探査、地震探査、およびほぼすべての画像化手法) でも研究されています。

リーマン予想に関連する最後の例は、ウーとシュプルングによって示されました。その考え方は、半古典的な 古い量子理論では、ハミルトニアンの内部のポテンシャルの逆数が、固有値（エネルギー）を数える関数 n ( x ) の半微分に比例するというものです。

目標は、多孔質媒体内の単相流体の流れをモデル化する放物型偏微分方程式の拡散係数を回復することです。この問題は、1970年代初頭に行われた先駆的な研究以来、多くの研究の対象となってきました。 ^[38]二相流に関しては、相対浸透率と毛細管圧力を推定することが重要な問題です。^[39]

目標は、地震記録から波の速度（P波とS波）と密度分布を復元することです。このような逆問題は、地震学と探査地球物理学において最も関心の高いものです。基本的に、2つの数学モデルを検討することができます。

• 音響波動方程式（空間次元が2または3の場合、S波は無視されます）
• ラメパラメータと密度から P 波速度と S 波速度を導出できる弾性力学方程式。

これらの基本的な双曲方程式は、減衰、異方性などを組み込むことでアップグレードできます。

1D 波動方程式の逆問題の解決は、多くの研究の対象となってきました。これは、解の一意性を証明できる数少ない非線形逆問題の 1 つです。^[8]解の安定性の分析も別の課題でした。^[40]最小二乗法を使用した実用的なアプリケーションが開発されました。^{[40] [41]} 2D または 3D 問題や弾性力学方程式への拡張は 80 年代から試みられましたが、非常に困難であることが判明しました。完全波形反転 (FWI) と呼ばれることが多いこの問題は、まだ完全には解決されていません。主な困難としては、地震記録への非ガウス ノイズの存在、サイクル スキップの問題 (位相の曖昧さとも呼ばれる)、およびデータ ミスフィット関数のカオス的動作などがあります。^[42]一部の著者は、逆問題を再定式化して、目的関数をデータ ミスフィット関数よりもカオス的でないようにする可能性を調査しました。^{[43] [44]}

波動方程式の逆問題がいかに難しいかを認識した地震学者は、幾何光学を利用した簡略化されたアプローチを研究しました。特に、地震記録で観測された波面の到着時間を知ることで、伝播速度分布を逆変換することを目指しました。これらの波面は、直接の到着または反射体に関連する反射と関連付けられる可能性があり、その形状は速度分布と併せて決定されます。

点光源から発せられた波面の到着時間分布（は物理空間内の点）は、アイコナール方程式を満たします。 ここで、 は遅さ（速度の逆数）分布を表します。 の存在により、この方程式は非線形になります。これは、点光源から光線（到着時間が一定である軌道）を発射することによって古典的に解かれます。 ${\displaystyle {\tau }(x)}$${\displaystyle x}$$${\displaystyle \|\nabla \tau (x)\|=s(x),}$$${\displaystyle s(x)}$${\displaystyle \|\cdot \|}$

この問題はトモグラフィーに似ています。測定された到着時間は、レイパスに沿った遅さの積分です。しかし、このトモグラフィーに似た問題は非線形です。主な理由は、未知のレイパス形状が速度 (または遅さ) の分布に依存するためです。非線形の特性にもかかわらず、移動時間トモグラフィーは地球または地下の伝播速度を決定するのに非常に効果的であることが判明しました。後者の側面は、特に「回折トモグラフィー」のセクションで説明した方法を使用した地震画像化の重要な要素です。

問題は適切性に関するものである。最小二乗問題には、データに連続的に依存する唯一の解が存在するか（安定性の問題）？これは最初の問題であるが、の非線形性のために難しい問題でもある。困難がどこから生じるのかを見るために、Chavent ^[45]は、データミスフィット関数の最小化を概念的に 2 つの連続するステップに分割することを提案した（は許容されるモデルのサブセットである）。 ${\displaystyle F}$${\displaystyle P_{\text{adm}}}$

• 投影ステップ: 与えられた投影（目的関数の定義に含まれる距離に応じて最も近い点）を見つける${\displaystyle d_{\text{obs}}}$${\displaystyle F(P_{\text{adm}})}$${\displaystyle F(P_{\text{adm}})}$
• この投影が与えられた場合、演算子による像がこの投影であるモデルである 1 つの前像を見つけます。${\displaystyle F}$

どちらのステップでも困難が生じる可能性があり、通常は発生します。

1. 演算子は1対1ではない可能性が高いため、複数の原像が存在する可能性があります。${\displaystyle F}$
2. が 1 対 1 の場合でも、その逆は にわたって連続ではない可能性があります。${\displaystyle F}$${\displaystyle F(P)}$
3. この集合が閉じていない場合、投影は存在しない可能性がある。${\displaystyle F(P_{\text{adm}})}$
4. の非線形性により、への投影は非凸になる可能性があり、一意でなく連続でない可能性があります。${\displaystyle F(P_{\text{adm}})}$${\displaystyle F}$

これらの点の数学的分析については Chavent ^[45]を参照する。

フォワードマップは非線形であるため、データミスフィット関数は非凸になる可能性が高く、局所最小化手法は非効率的になります。この困難を克服するために、いくつかのアプローチが検討されてきました。

• 逆問題確率枠組みにおける事後密度関数のサンプリングやメトロポリスアルゴリズムなどのグローバル最適化手法の使用、 ^[46]遺伝的アルゴリズム（単独またはメトロポリスアルゴリズムとの組み合わせ：既存の透水係数データと一致する透水係数の決定への応用については^{[47]を参照）、ニューラルネットワーク、マルチスケール解析を含む正則化手法。}
• 最小二乗目的関数をより滑らかに再定式化する（波動方程式の逆問題については^{[43] [44]を参照）。}

逆問題は、特に無限次元の場合、サイズが大きくなる可能性があり、そのためかなりの計算時間が必要になります。順方向マップが非線形の場合、計算の難しさが増し、目的関数を最小化することが困難になることがあります。線形の場合とは対照的に、正規方程式を解くためにヘッセ行列を明示的に使用することは、ここでは意味がありません。ヘッセ行列はモデルによって異なります。一部のモデルでは、目的関数の勾配を評価する方がはるかに効果的です。ヤコビアン（「フレシェ導関数」と呼ばれることが多い）の非常に重い計算を避けることができれば、重要な計算労力を節約できます。Chavent と Lions によって提案された随伴状態法^[48]は、この非常に重い計算を避けることを目的としています。現在、非常に広く使用されています。^[49]

逆問題理論は、天気予報、海洋学、水文学、石油工学などで広く使用されています。^{[51] [52] [53]}もう一つの応用は、工学構造物の非破壊特性評価のための弾性波の逆問題です。^[50]

逆問題は熱伝達の分野でも見られ、表面熱流束^[54]は剛体内の温度データから推定されます。また、植物の腐敗の制御を理解する際にも使われます。^[55]線形逆問題は、信号処理におけるスペクトル推定や到来方向(DOA)推定の基礎でもあります。

逆リソグラフィーは、半導体デバイス製造用のフォトマスク設計に使用されます。

逆問題全般を扱う主な学術雑誌は次の 4 つです。

• 逆問題
• 逆問題と不適切問題ジャーナル^[56]
• 科学と工学における逆問題^[57]
• 逆問題とイメージング^[58]

医用画像、地球物理学、非破壊検査などの多くのジャーナルでは、それらの分野の逆問題が主に扱われています。

• 大気逆問題 - 大気柱の物理的性質の垂直分布の測定Pages displaying wikidata descriptions as a fallback
• バッカス・ギルバート法
• コンピュータ断層撮影 – X線を使用して断面画像を作成する医療用画像診断法Pages displaying short descriptions of redirect targets
  • 代数的再構成技術 – コンピュータ断層撮影における技術
  • フィルタ逆投影 – 積分変換Pages displaying short descriptions of redirect targets
  • 反復的再構築
• データ同化 – 観測データで数値モデルを更新する技術
• エンジニアリング最適化 – 最適化のテクニック
• グレーボックスモデル – 限定された構造を持つ数学的データ生成モデル
• 数理地球物理学 – 地理分野における数学の応用Pages displaying short descriptions of redirect targets
• 最適推定 - 応用統計学、ベイズの定理に基づく正規化行列逆法Pages displaying wikidata descriptions as a fallback
• 地震逆解析
• ティホノフ正則化 – 不適切問題に対する正則化手法Pages displaying short descriptions of redirect targets
• 圧縮センシング - 信号処理技術
• 帰納法の問題 – 帰納的推論が決定的な知識につながるかどうかという問題

• チャダン、ホスロー、サバティエ、ピエール・セレスタン（1977年）。量子散乱理論の逆問題。スプリンガー・フェルラーク。ISBN 0-387-08092-9 
• アスター、リチャード、ボルチャーズ、ブライアン、サーバー、クリフォード (2018)。パラメータ推定と逆問題、第 3 版、エルゼビア。ISBN 9780128134238、ISBN 9780128134238  
• Press, WH; Teukolsky, SA; Vetterling, WT; Flannery, BP (2007)。「セクション 19.4. 逆問題と事前情報の使用」。数値レシピ: 科学計算の技術(第 3 版)。ニューヨーク: Cambridge University Press。ISBN 978-0-521-88068-8. 2011年8月11日時点のオリジナルよりアーカイブ。2011年8月17日閲覧。

• CW Groetsch (1999)。逆問題: 学部生のためのアクティビティ。ケンブリッジ大学出版局。ISBN 978-0-88385-716-8。
• キルケビー、エイドリアン（2024 ）。 「ファインマンの逆問題」。SIAMレビュー。66 （4）：694– 718。arXiv ：2310.15589。doi：10.1137/ 23M1611488。ISSN 0036-1445  。

• 逆問題国際協会 2017-06-15ウェイバックマシンにアーカイブ
• ユーラシア逆問題協会
• フィンランド逆問題協会
• 逆問題ネットワーク
• アルバート・タラントラのウェブサイトには、彼の逆問題理論の本の無料PDF版と、逆問題に関するいくつかのオンライン記事が掲載されています。
• アラバマ大学の逆問題のページ 2014-04-05 にWayback Machineでアーカイブ
• 逆問題と地統計学プロジェクト 2017-11-02ウェイバックマシンにアーカイブ、ニールス・ボーア研究所、コペンハーゲン大学
• Andy Ganse の地球物理学的逆理論リソース ページ
• フィンランド逆問題研究センター 2009-02-20 にWayback Machineにアーカイブ