シミュレーションに基づく最適化

順位付けおよび選択手法は、選択肢が固定され既知である問題向けに設計されており、シミュレーションを用いてシステム性能を推定します。シミュレーション最適化の場面では、無差別領域アプローチ、最適な計算予算配分、知識勾配アルゴリズムなどの手法が適用可能です。

応答曲面法では、入力変数と応答変数の間の関係を見つけることが目的です。プロセスは、線形回帰モデルを当てはめようとするところから始まります。P値が低い場合は、通常は二次である高次の多項式回帰が実行されます。入力変数と応答変数の間の良好な関係を見つけるプロセスは、各シミュレーション テストで実行されます。シミュレーション最適化では、応答曲面法を使用して、応答変数に関して望ましい結果を生み出す最適な入力変数を見つけることができます。^{[ 7 ]}

ヒューリスティック法は、速度によって精度を変化させます。その目的は、従来の方法が遅すぎる場合や問題解決に失敗した場合、従来の方法よりも速く良い解を見つけることです。通常、最適値ではなく局所最適値を見つけますが、その値は最終的な解に十分近いとみなされます。このような方法の例としては、タブーサーチや遺伝的アルゴリズムなどがあります。^{[ 4 ]}

メタモデルにより、研究者は高価で時間のかかるコンピュータシミュレーションを実行することなく、信頼性の高い近似モデル出力を得ることができます。したがって、モデル最適化のプロセスは計算時間とコストを削減できます。^{[ 8 ]}

確率近似は、関数を直接計算できず、ノイズのある観測によってのみ推定できる場合に使用されます。このようなシナリオでは、この方法（または一連の方法）は、これらの関数の極値を探します。目的関数は次のようになります。^{[ 9 ]}

${\displaystyle {\underset {{\text{x}}\in \theta }{\min }}f{\bigl (}{\text{x}}{\bigr )}={\underset {{\text{x}}\in \theta }{\min }}\mathrm {E} [F{\bigl (}{\text{x,y}})]}$

${\displaystyle y}$はノイズを表す確率変数 です。

${\displaystyle x}$は、 ${\displaystyle f{\bigl (}{\text{x}}{\bigr )}}$。

${\displaystyle \theta }$ はパラメータの定義域です${\displaystyle x}$。

導関数を用いない最適化は、数理最適化の一分野です。この方法は、導関数が利用できない、または信頼できない場合に、特定の最適化問題に適用されます。導関数を用いない方法は、サンプル関数値に基づいてモデルを構築するか、詳細なモデルを利用せずに直接サンプル関数値のセットを抽出します。導関数を必要としないため、導関数に基づく方法とは比較できません。^{[ 10 ]}

制約のない最適化問題の場合、形式は次のようになります。

${\displaystyle {\underset {{\text{x}}\in \mathbb {R} ^{n}}{\min }}f{\bigl (}{\text{x}}{\bigr )}}$

導関数を用いない最適化の限界：

1. 一部の手法では、変数が数個を超える最適化問題を処理できず、結果の精度が通常あまり高くありません。しかし、目的関数に「ノイズ」として現れるランダム性を含む非自明なシミュレーション最適化問題において、導関数を用いない手法が成功した実例は数多くあります。例えば、以下を参照してください ^{[ 5 ]} 。^{[ 11 ]}

2. 非凸関数を最小化する場合、その限界が明らかになります。

3. 導関数を用いない最適化手法は比較的単純で簡単ですが、ほとんどの最適化手法と同様に、実際の実装には注意が必要です（例えば、アルゴリズムのパラメータの選択など）。