PROSEモデリング言語

PROSE ^{[1] [2] [3] [4]は、Synthetic Calculus [5] [6] [7]} (別名MetaCalculus)として知られる全体論的モデリングパラダイムを確立した数学的な4GL 仮想マシンでした。TRW Systemsで開発されたSLANG ^[8] /CUE ^[9]シミュレーションおよび最適化言語の後継として、1974年にControl Dataスーパーコンピュータで導入されました。これは、 CDC 6600 CPUの命令スタックでループするように最適化された自動微分(AD)を採用した最初の商用言語でした^{[10 ] [11] [12] [13]}。

PROSE は豊富なブロック構造の手続き型言語でしたが、次のような同時変数数学システムの融合に重点が置かれていました。

暗黙の非線形方程式システム、常微分方程式システム、および多次元最適化。

これらの種類のシステム モデルはそれぞれが異なり、手続き型構文に加えて、自動化して解決するための演算子テンプレートがありました。これらの自動化されたシステムの問題は、未知数が同時であり、定式化して部分的に解決したり、代数操作 (置換など) によって解決したりすることができず、全体として解決する必要があったため、「全体的」であると考えられていました。また、全体性はアルゴリズムの決定性または数学的な「閉包」にも関係しており、数値不安定性によって損なわれない限り、原理的にはソリューションの収束が可能で確実でした。

これらの全体的な問題モデルは、この閉包性により独立して自動化および解決できるため、サブルーチンのように、1 つを別のモデルの中にネストすることで、より高い全体に統合できます。ユーザーは、それらを通常のサブルーチンのように扱うことができます。

しかし、意味的には、この数学的融合はサブルーチンの仕組みよりもかなり複雑でした。なぜなら、プログラム階層内の上位にある呼び出し演算子テンプレートによって、各問題モデルに反復ソリューション エンジンが接続されていたからです。数値ソリューション プロセスでは、このエンジンが制御権を握り、問題モデル サブルーチンを反復的に呼び出し、システム問題が解決されるまで呼び出しテンプレートに戻りません。反復モデル サブルーチン呼び出しの一部またはすべてで、エンジンは、呼び出しテンプレートで定義されたモデルの入力未知数 (引数) に関して、モデル ホラルキー内の式の自動微分を呼び出します。これらのホリスティック モデルのユビキタスなネストに対応するために、セマンティクスで追加のメカニズムが実行されました。

ネストされた解が予測（数値積分など）である場合、その解法アルゴリズムは、モデル式に加えて、自動的に微分化されます。この微分化は、初期条件から境界条件への積分全体にわたって（連鎖律によって）伝播するため、初期条件に関する境界条件の微分化（いわゆるフレシェ導関数）が実行されます。これにより、ニュートン法エンジンを使用した反復「シューティング」法による境界値問題の定型的な解法が可能になります。もちろん、同時に、この伝播された微分化は、微分方程式の任意のパラメータに関して実行して、積分関数をさらに形作ることもできます。これらのパラメータは、積分プロセス上のホラルキー内の任意のネストの未知数として解くことができ、全体的な問題の定式化において非常に便利です。

内側のネストされた問題が探索であり、外側の問題も探索 (最適化など) である場合、内側の探索の未知数に関して生成された偏導関数は、微分幾何学座標変換を介して外側の探索の偏導関数に変換される必要があります。これもまた、高次の微分と、場合によっては異なる独立変数を伴う反復プロセスです。

しかし、これらの拡張された反復的な微分演算プロセスは、ユーザーからはまったく見えず、モデリング タスクにおいて、通常のサブルーチンとその呼び出しだけが含まれる場合よりも、それほど重要ではありませんでした。これらのプロセスは反復的であり、反復の回数と種類は不定でした。これは、サブ問題全体が解決され、それがより高度な問題の一部でもあるためです。各問題のネストを「ホロン」と呼ぶのは自然なことでした。この動的なエンティティは、この用語を作ったアーサー ケストラーの理論に完全に適合していたからです。これは、オリジナルの PROSE ドキュメントでは行われませんでした。当時、ケストラーの理論は新しく、やや議論を呼んでいたためです。この用語は、後にケン ウィルバーがケストラーのホロン概念を承認した後に使用されました。

完全なモデリング パラダイムは、以下の演算子テンプレートによって区別される 3 つのクラスのホロンのみで構成されます。

    モデル サブルーチン内の同時未知数と ソルバー エンジン内の同時未知数を検索します 
       [不等式制約変数を保持]    
       [マッチング 等式制約変数]
       最大 化|最小化 目的変数

    ソルバーエンジンによってモデルサブルーチン内の同時未知数を 検索し、等式制約変数と一致させます。   
        
     

    ソルバー エンジンを モデル サブルーチン方程式のレート変数/レベル変数に対して 開始し、独立変数ステップの増分変数を制限変数に渡します。  
            
  
    モデルサブルーチンを ソルバーエンジンで 統合する

これら 3 つの演算子テンプレートは、方程式モデル サブルーチン階層をカプセル化する動的ホロンを作成しました。この階層には、他のネストされたホロンを含めることができます。これは、モデル サブルーチンに、サブ問題をカプセル化する演算子テンプレートのいずれかを含めることができるためです。ホラーキー内の各ホロンには、ホロン クラス内の他のホロンと交換可能なソルバー アルゴリズム エンジンがありました。自動微分法の拡張演算と、数値積分を動的に微分化する能力により、図 1 に示すホラーキーモデリングの独自のモードが生まれました。

この例題は、境界値問題アプリケーションの最適化に使用されるアルゴリズムに関する RAND レポートの FORTRAN アプリケーションでした。このレポートは教科書としても出版されており、^[14]同じ著者Richard Bellmanが考案した「動的プログラミング」の代替である準線形化について説明しています。教科書の付録 2 にある FORTRAN プログラムは、図 1 の白いボックス (目に見える構文) に完全に埋め込まれた 25 行の PROSE プログラムの 5 倍以上のコード量を含んでいます。このモデリングとプログラミングの議論でより重要なのは、FORTRAN プログラムには 14 個の DO ループが含まれているのに対し、PROSE プログラムにはループが含まれていないことです。プログラムの簡素化に関するもう 1 つのポイントは、動的メモリ管理がユーザーにとって当然のことと見なされる可能性があることです。ホロンからその呼び出し演算子テンプレートに戻ると、ホロンは破棄され、そのメモリは他の用途のために解放されます。

このアプリケーションは、問題を記述するために必要なコード量が実際にはごくわずかです。PROSE プログラムが非常に小さいのはそのためです。反復的なソリューション手法はすべて、ソルバー エンジン (図 1 の省略記号) の内部にあります。モデルにループが必要になることはほとんどありません。そのため、モデリング ツールであるスプレッドシートにはループさえありません。

この例題は、ホロン パラダイムを 1 つのアプリケーションに完全にカプセル化します。ホロン タイプ 3 つすべてが採用されています。ホラルキーの最上位レベルでの最適化検索、中間ホロンとしての相関検索(最適化検索の制限されたサブセット)、および最内ホロンとしてのシステム ダイナミクス シミュレーションです。これと同じ構造を持つ別の PROSE プログラムが図 2 に示されています。これは、構造と重量の制約に従って、片持ち翼構造の揚力を最大化するための最適化の、やや大規模なアプリケーションです。この場合、外側のホロン ソルバーによって検索される最適化の未知数の座標次元は 10 個あります。

2 つの外側のホロンにはそれぞれ、検索エンジンが解く未知数の隠れた座標系があります。また、これらのエンジンは、それらの未知数に依存するすべての下流変数の偏微分を必要とし、これは自動微分演算によって評価されます。外側の座標系の微分は、内側の検索エンジンが収束した後 (ローカル ソリューションを見つけた後)、内側の座標系の微分から計算する必要があります。ここで、微分幾何学座標変換が適用されます。図 2 の翼の問題には、積分求積関数を含む、さらに下流のサブプログラム (図示せず) があります。

これらのサブプログラムにはシステム ダイナミクス (微分方程式) モデルの数値積分が含まれているため、自動微分演算にはシミュレーション エンジン (および求積ソルバー) の積分アルゴリズムの微分が含まれ、初期条件に対する境界 (積分曲線の終点) 条件の導関数を評価します。この計算は、正式な記号微分では実行できません。また、有限差分近似でも実行できません。正確な連鎖規則伝播を伴う自動微分のみが実行可能です。

図 3 は、ホロンの一般化されたアーキテクチャを横から示しており、目に見えるモデリング構文と、特徴的な 5 ステップの反復プロセスを持つ目に見えないセマンティクス アーキテクチャを示しています。ホロンは、演算テンプレートによって動的に作成される座標系と数学的に関連付けられた、計算問題解決ユニットです。その演算子は、シミュレーションの場合は数値予測器、相関と最適化の場合は検索エンジンのいずれかであるソルバー エンジンです。そのオペランドはモデル プロシージャです (それ自体が従属ホロンのホラルキーである場合があります)。

本質的にホロンはスプレッドシートのような比喩的な計算コンテナですが、通常の代数言語のように手続き型ループが可能です。しかし、その目的は、より高度な数学を表現する代数式を構成することです (たとえば、微分方程式は代数式であり、その変数の一部は速度です)。

図 4 ～ 7 は、シミュレーション、相関、最適化のさまざまなホロン クラスがこのアーキテクチャをどのように反映し、モデリング (科学方程式) を数値近似数学のアルゴリズム ソルバー エンジンから分離しているかを示しています。

前述のように、ホロンは、入力された代数式のセットをカプセル化するスプレッドシートのような計算コンテナです。しかし、スプレッドシートとは異なり、これらの式は、近似値 (反復) の連続を伴う、1 つの単位としてのみ一緒に解決できる、還元不可能な全体の一部です。したがって、式の計算が 1 パスのみであるスプレッドシートは、1 パスの計算のみを伴う「縮退」または「縮小」ホロンと考えることができます。

ホロン モデルは、代数式のカプセル化されたシステムを、一連の式を 1 回通過する以外の定義可能な解決条件に同時未知数を関連付ける、より高度な問題の原型に昇格します。複数回の通過による近似値を解決条件に「収束」させるには、「内部の」反復計算が必要です。

各ホロンは、交換可能な演算子として適用可能な、独自のクラスの解決方法を使用して、高等数学から生まれた 3 つのシステム問題アーキタイプのうちの 1 つを自動化します。これらの方法は、入力された数式とその計算に作用し、ホロン ソリューションへの連続した近似値を導きます。これらの問題アーキタイプは、自然現象のモデリングを表す数式コレクションから簡単に派生し、連続またはネストされたホロンのホラルキーとして計算プログラム全体を合成するための構成要素として使用できます。アルファベットとして一緒に使用すると、これらのアーキタイプの問題は、ホロンのコレクションを通じて計算の「影響」を伝播する特別な意味論的「接着」方法論を含む代数プログラミング言語内での高等数学モデリングのトポロジになります。

ホロンがアルファベットの組み合わせによって結合してより大きな全体を形成すると、そのようなホラルキーは、自然現象のモデリングから生じることが多い問題の原型になる傾向があります。例としては、相関ホロンとシミュレーション ホロンの組み合わせによって解決される境界値問題があります。

PROSE は、次の 3 つのエンジン カテゴリで、神話上の神々にちなんで名付けられた交換可能なソルバーのパンテオンを導入しました。

• HERA – 検索プロセス中に不要な極値を認識して回避するための特別なロジックを備えた、ニュートンの 2 次勾配法の高度なバージョン。
• HERCULES – 線形、整数、混合整数問題のための特別な制約付き最適化ソルバー。
• JOVE – ニュートンの 2 次勾配探索を適用した順次制約なし最適化手法。
• JUPITER – Davidon-Fletcher-Powell (DFP) 可変メトリック検索を適用する移動外部切断ペナルティ関数法。
• THOR – 「セクション線形化」線形計画法。
• ZEUS – Davidon-Fletcher-Powell (DFP) 可変メトリック検索を適用する順次制約なし最適化手法。

• AJAX – 減衰ニュートン・ラプソン法とニュートン・ガウス法の擬似逆根探索器。
• MARS – 減衰ニュートン・ラプソン法とニュートン・ハウスホルダー法の擬似逆根探索器。

• ATHENA – 微分伝播と出力従属変数のオプション制限を備えた多次ルンゲ・クッタ法。
• GEMINI – コンテキストに応じて微分伝播の有無にかかわらず、Gragg、Bulirsch、Stoer による有理関数外挿の自動開始テクニック。
• ISIS – 微分伝播によるルンゲ・クッタ・ギル法。
• JANISIS – 差分伝播コンテキストまたは非差分伝播コンテキストに応じて、ISIS または JANUS。
• JANUS – 非微分伝播コンテキスト用の Adams-Moulton 予測子修正子。
• MERCURY – 非微分伝播コンテキスト向けのギア速度/状態微分剛性およびステップサイズ最適化手法。
• MERLIN – 微分伝播による Gragg、Bulirsch、Stoer による有理関数外挿の自動開始手法。
• MINERVA – 微分伝播がなく、出力従属変数をオプションで制限する多次ルンゲ・クッタ法。
• NEPTUNE – 微分伝播なしでGragg、Bulirsch、Stoerによる有理関数外挿の自動開始手法。
• PEGASUS – サラフィアン埋め込みとして知られる特殊な 5 次ルンゲ・クッタ法。非微分伝播コンテキストでの出力従属変数のオプションの制限に加えて、同時に 4 次結果が得られます。

これらのソルバーは、適用されるネスト コンテキストに応じて、3 つのエンジン カテゴリで異なる数値手法を適用しました。一部のシミュレーション ソルバー (JANUS、MERCURY、MINERVA、MERLIN、PEGASUS) は、自動微分演算用にオーバーロードされていないため、相関および最適化の自動微分コンテキストにネストできませんでした。そのため、自動微分モードまたは通常の演算モード (微分は内部的にオフ) で効率的に動作するハイブリッド バージョンの JANISIS (ISIS または JANUS) と GEMINI (MERLIN または NEPTUNE) が導入されました。これにより、さまざまなモードの非微分検索サブステップが適用されたときに、非微分モードでモデルを何度も繰り返し呼び出していた AJAX、MARS、JOVE、ZEUS、JUPITER などのソルバーの反復検索が大幅に高速化されました。

ウィキメディア・コモンズには、 PROSE (モデリング言語)に関連するメディアがあります。