平均場粒子法

平均場シミュレーションアルゴリズムを説明するために、まず有限または可算な状態空間 S を用意し、P ( S ) を S 上のすべての確率測度の集合とします。確率分布のシーケンスを考えます。${\displaystyle (\eta _{0},\eta _{1},\cdots )}$S上で進化方程式を満たすもの:

一部の、おそらく非線形なマッピング${\displaystyle \Phi :P(S)\to P(S).}$これらの分布はベクトルで表されます

${\displaystyle \eta _{n}=(\eta _{n}(x))_{x\in S},}$

以下の条件を満たすもの：

${\displaystyle 0\leqslant \eta _{n}(x)\leqslant 1,\qquad \sum \nolimits _{x\in S}\eta _{n}(x)=1.}$

したがって、${\displaystyle \Phi }$これは、${\displaystyle (s-1)}$-単位単体をそれ自身に分解する。ここで、s は集合Sの濃度を表す。s が大きすぎると、方程式 ( 1 )を解くことは困難または計算コストが非常に高くなる。これらの発展方程式を近似する自然な方法の 1 つは、平均場粒子モデルを使用して状態空間を順次縮小することである。最も単純な平均場シミュレーション スキームの 1 つは、マルコフ連鎖によって定義される。

${\displaystyle \xi _{n}^{(N)}=\left(\xi _{n}^{(N,1)},\cdots ,\xi _{n}^{(N,N)}\right)}$

製品分野において${\displaystyle S^{N}}$確率分布を持つN個の独立した確率変数から始める${\displaystyle \eta _{0}}$そして基本的な遷移

${\displaystyle \mathbf {P} \left(\left.\xi _{n+1}^{(N,1)}=y^{1},\cdots ,\xi _{n+1}^{(N,N)}=y^{N}\right|\xi _{n}^{(N)}\right)=\prod _{i=1}^{N}\Phi \left(\eta _{n}^{N}\right)\left(y^{i}\right),}$

経験的尺度を用いて

${\displaystyle \eta _{n}^{N}={\frac {1}{N}}\sum _{j=1}^{N}1_{\xi _{n}^{(N,j)}}}$

どこ${\displaystyle 1_{x}}$は状態xの指示関数です。

言い換えれば、${\displaystyle \xi _{n}^{(N)}}$サンプル${\displaystyle \xi _{n+1}^{(N)}}$は確率分布を持つ独立な確率変数である。${\displaystyle \Phi \left(\eta _{n}^{N}\right)}$この平均場シミュレーション手法の根拠は次のとおりです。${\displaystyle \eta _{n}^{N}}$は、${\displaystyle \eta _{n}}$、 それから${\displaystyle \Phi \left(\eta _{n}^{N}\right)}$は近似値です${\displaystyle \Phi \left(\eta _{n}\right)=\eta _{n+1}}$したがって、${\displaystyle \eta _{n+1}^{N}}$は、共通の確率分布を持つN個の条件付き独立な確率変数の経験的尺度である。${\displaystyle \Phi \left(\eta _{n}^{N}\right)}$私たちは期待しています${\displaystyle \eta _{n+1}^{N}}$良い近似値となる${\displaystyle \eta _{n+1}}$。

もう一つの戦略はコレクションを見つけることです

${\displaystyle K_{\eta _{n}}=\left(K_{\eta _{n}}(x,y)\right)_{x,y\in S}}$

インデックスによって示される確率行列${\displaystyle \eta _{n}\in P(S)}$そのため

この式により、数列を解釈することができます${\displaystyle (\eta _{0},\eta _{1},\cdots )}$ランダム状態の確率分布として${\displaystyle \left({\overline {X}}_{0},{\overline {X}}_{1},\cdots \right)}$基本遷移を伴う非線形マルコフ連鎖モデル

${\displaystyle \mathbf {P} \left(\left.{\overline {X}}_{n+1}=y\right|{\overline {X}}_{n}=x\right)=K_{\eta _{n}}(x,y),\qquad {\text{Law}}({\overline {X}}_{n})=\eta _{n}.}$

マルコフ遷移の集合${\displaystyle K_{\eta _{n}}}$式（1）を満たすものは、一連の測定のマッキアン解釈と呼ばれる。${\displaystyle \eta _{n}}$（ 2 ）の平均場粒子解釈は、マルコフ連鎖によって定義される。

${\displaystyle \xi _{n}^{(N)}=\left(\xi _{n}^{(N,1)},\cdots ,\xi _{n}^{(N,N)}\right)}$

製品分野において${\displaystyle S^{N}}$N 個の独立したランダムなコピーから開始${\displaystyle X_{0}}$そして基本的な遷移

${\displaystyle \mathbf {P} \left(\left.\xi _{n+1}^{(N,1)}=y^{1},\cdots ,\xi _{n+1}^{(N,N)}=y^{N}\right|\xi _{n}^{(N)}\right)=\prod _{i=1}^{N}K_{n+1,\eta _{n}^{N}}\left(\xi _{n}^{(N,i)},y^{i}\right),}$

経験的尺度を用いて

${\displaystyle \eta _{n}^{N}={\frac {1}{N}}\sum _{j=1}^{N}1_{\xi _{n}^{(N,j)}}}$

写像に関するいくつかの弱い正則性条件^{[ 2 ]の下で}${\displaystyle \Phi }$任意の関数に対して${\displaystyle f:S\to \mathbf {R} }$ほぼ確実に収束する

${\displaystyle {\frac {1}{N}}\sum _{j=1}^{N}f\left(\xi _{n}^{(N,j)}\right)\to _{N\uparrow \infty }E\left(f({\overline {X}}_{n})\right)=\sum _{x\in S}\eta _{n}(x)f(x)}$

これらの非線形マルコフ過程とその平均場粒子解釈は、一般的な可測状態空間上の時間非均質モデルに拡張することができる。^{[ 2 ]}

上述の抽象モデルを説明するために、確率行列を考えてみましょう。${\displaystyle M=(M(x,y))_{x,y\in S}}$そしていくつかの機能${\displaystyle G:S\to (0,1)}$これらの2つのオブジェクトにマッピングを関連付けます

${\displaystyle {\begin{cases}\Phi :P(S)\to P(S)\\(\eta _{n}(x))_{x\in S}\mapsto \left(\Phi (\eta _{n})(y)\right)_{y\in S}\end{cases}}\qquad \Phi (\eta _{n})(y)=\sum _{x\in S}\Psi _{G}(\eta _{n})(x)M(x,y)}$

そしてボルツマン・ギブス尺度 ${\displaystyle \Psi _{G}(\eta _{n})(x)}$定義される

${\displaystyle \Psi _{G}(\eta _{n})(x)={\frac {\eta _{n}(x)G(x)}{\sum _{z\in S}\eta _{n}(z)G(z)}}.}$

を と表記する${\displaystyle K_{\eta _{n}}=\left(K_{\eta _{n}}(x,y)\right)_{x,y\in S}}$インデックスによって示される確率行列のコレクション${\displaystyle \eta _{n}\in P(S)}$によって与えられた

${\displaystyle K_{\eta _{n}}(x,y)=\epsilon G(x)M(x,y)+(1-\epsilon G(x))\Phi (\eta _{n})(y)}$

あるパラメータに対して${\displaystyle \epsilon \in [0,1]}$式（2）が満たされることは容易に確認できる。さらに、（例えば^{[ 3 ]}を参照）式（ 1 ）の解がファインマン・カッツの公式で与えられることも示すことができる。

${\displaystyle \eta _{n}(x)={\frac {E\left(1_{x}(X_{n})\prod _{p=0}^{n-1}G(X_{p})\right)}{E\left(\prod _{p=0}^{n-1}G(X_{p})\right)}},}$

マルコフ連鎖を用いて${\displaystyle X_{n}}$初期分布${\displaystyle \eta _{0}}$およびマルコフ遷移M。

任意の関数${\displaystyle f:S\to \mathbf {R} }$我々は持っています

${\displaystyle \eta _{n}(f):=\sum _{x\in S}\eta _{n}(x)f(x)={\frac {E\left(f(X_{n})\prod _{p=0}^{n-1}G(X_{p})\right)}{E\left(\prod _{p=0}^{n-1}G(X_{p})\right)}}}$

もし${\displaystyle G(x)=1}$は単位関数であり、${\displaystyle \epsilon =1}$すると、

${\displaystyle K_{\eta _{n}}(x,y)=M(x,y)=\mathbf {P} \left(\left.X_{n+1}=y\right|X_{n}=x\right),\qquad \eta _{n}(x)=E\left(1_{x}(X_{n})\right)=\mathbf {P} (X_{n}=x).}$

そして、式（2）はチャップマン・コルモゴロフ方程式に帰着する。

${\displaystyle \eta _{n+1}(y)=\sum _{x\in S}\eta _{n}(x)M(x,y)\qquad \Leftrightarrow \qquad \mathbf {P} \left(X_{n+1}=y\right)=\sum _{x\in S}\mathbf {P} (X_{n+1}=y|X_{n}=x)\mathbf {P} \left(X_{n}=x\right)}$

このファインマン・カッツモデルの平均場粒子解釈は、N個の条件付き独立な確率変数を順次サンプリングすることによって定義される。${\displaystyle \xi _{n+1}^{(N,i)}}$確率分布

${\displaystyle K_{n+1,\eta _{n}^{N}}\left(\xi _{n}^{(N,i)},y\right)=\epsilon G\left(\xi _{n}^{(N,i)}\right)M\left(\xi _{n}^{(N,i)},y\right)+\left(1-\epsilon G\left(\xi _{n}^{(N,i)}\right)\right)\sum _{j=1}^{N}{\frac {G\left(\xi _{n}^{(N,j)}\right)}{\sum _{k=1}^{N}G\left(\xi _{n}^{(N,k)}\right)}}M\left(\xi _{n}^{(N,j)},y\right)}$

言い換えれば、確率で${\displaystyle \epsilon G\left(\xi _{n}^{(N,i)}\right)}$粒子${\displaystyle \xi _{n}^{(N,i)}}$新しい状態に進化する${\displaystyle \xi _{n+1}^{(N,i)}=y}$確率分布に従ってランダムに選択${\displaystyle M\left(\xi _{n}^{(N,i)},y\right)}$; さもないと、${\displaystyle \xi _{n}^{(N,i)}}$新しい場所にジャンプする${\displaystyle \xi _{n}^{(N,j)}}$確率に比例してランダムに選択される${\displaystyle G\left(\xi _{n}^{(N,j)}\right)}$そして新たな状態へと進化する${\displaystyle \xi _{n+1}^{(N,i)}=y}$確率分布に従ってランダムに選択${\displaystyle M\left(\xi _{n}^{(N,j)},y\right).}$もし${\displaystyle G(x)=1}$は単位関数であり、${\displaystyle \epsilon =1}$粒子間の相互作用は消滅し、粒子モデルはマルコフ連鎖の独立したコピーのシーケンスに縮小する。${\displaystyle X_{n}}$。 いつ${\displaystyle \epsilon =0}$上述の平均場粒子モデルは、適応度関数Gと突然変異遷移Mを持つ単純な突然変異選択遺伝的アルゴリズムに帰着します。これらの非線形マルコフ連鎖モデルとそれらの平均場粒子解釈は、一般的な可測状態空間 (遷移状態、経路空間、ランダム逸脱空間を含む) 上の時間非均質モデルおよび連続時間モデルに拡張できます。^{[ 1 ] [ 2 ] [ 3 ]}

実数値の確率変数の列を考える${\displaystyle \left({\overline {X}}_{0},{\overline {X}}_{1},\cdots \right)}$方程式によって順次定義される

コレクションと共に${\displaystyle W_{n}}$独立な標準ガウス乱数、正のパラメータσ、いくつかの関数${\displaystyle a,b,c:\mathbf {R} \to \mathbf {R} ,}$そしていくつかの標準的なガウス初期ランダム状態${\displaystyle {\overline {X}}_{0}}$私たちは${\displaystyle \eta _{n}}$ランダム状態の確率分布とする${\displaystyle {\overline {X}}_{n}}$つまり、任意の有界可測関数fに対して、

${\displaystyle E\left(f({\overline {X}}_{n})\right)=\int _{\mathbf {R} }f(x)\eta _{n}(dx),}$

と

${\displaystyle \mathbf {P} \left({\overline {X}}_{n}\in dx\right)=\eta _{n}(dx)}$

この積分はルベーグ積分であり、dx は状態xの微小近傍を表します。マルコフ連鎖の遷移は、任意の有界可測関数fに対して次の式で与えられます。

${\displaystyle E\left(\left.f\left({\overline {X}}_{n+1}\right)\right|{\overline {X}}_{n}=x\right)=\int _{\mathbf {R} }K_{\eta _{n}}(x,dy)f(y),}$

と

${\displaystyle K_{\eta _{n}}(x,dy)=\mathbf {P} \left(\left.{\overline {X}}_{n+1}\in dy\right|{\overline {X}}_{n}=x\right)={\frac {1}{{\sqrt {2\pi }}\sigma }}\exp {\left\{-{\frac {1}{2\sigma ^{2}}}\left(y-\left[b(x)\int _{\mathbf {R} }a(z)\eta _{n}(dz)+c(x)\right]\right)^{2}\right\}}dy}$

条件付き期待値のタワー特性を用いて、確率分布が${\displaystyle \eta _{n}}$非線形方程式を満たす

${\displaystyle \int _{\mathbf {R} }\eta _{n+1}(dy)f(y)=\int _{\mathbf {R} }\left[\int _{\mathbf {R} }\eta _{n}(dx)K_{\eta _{n}}(x,dy)\right]f(y)}$

任意の有界可測関数fに対して、この式はより簡潔な形で記述されることもある。

${\displaystyle \eta _{n+1}=\Phi \left(\eta _{n}\right)=\eta _{n}K_{\eta _{n}}\quad \Leftrightarrow \quad \eta _{n+1}(dy)=\left(\eta _{n}K_{\eta _{n}}\right)(dy)=\int _{x\in \mathbf {R} }\eta _{n}(dx)K_{\eta _{n}}(x,dy)}$

このモデルの平均場粒子解釈はマルコフ連鎖によって定義される。

${\displaystyle \xi _{n}^{(N)}=\left(\xi _{n}^{(N,1)},\cdots ,\xi _{n}^{(N,N)}\right)}$

製品分野において${\displaystyle \mathbf {R} ^{N}}$による

${\displaystyle \xi _{n+1}^{(N,i)}=\left({\frac {1}{N}}\sum _{j=1}^{N}a\left(\xi _{n}^{(N,i)}\right)\right)b\left(\xi _{n}^{(N,i)}\right)+c\left(\xi _{n}^{(N,i)}\right)+\sigma W_{n}^{i}\qquad 1\leqslant i\leqslant N}$

どこ

${\displaystyle \xi _{0}^{(N)}=\left(\xi _{0}^{(N,1)},\cdots ,\xi _{0}^{(N,N)}\right),\qquad \left(W_{n}^{1},\cdots ,W_{n}^{N}\right)}$

N 個の独立したコピーを表す${\displaystyle {\overline {X}}_{0}}$そして${\displaystyle W_{n};n\geqslant 1,}$それぞれ。正則モデル（例えば、有界リプシッツ関数a、b、cの場合）では、ほぼ確実に収束します。

${\displaystyle {\frac {1}{N}}\sum _{j=1}^{N}f\left(\xi _{n}^{(N,i)}\right)=\int _{\mathbf {R} }f(y)\eta _{n}^{N}(dy)\to _{N\uparrow \infty }E\left(f({\overline {X}}_{n})\right)=\int _{\mathbf {R} }f(y)\eta _{n}(dy),}$

経験的尺度を用いて

${\displaystyle \eta _{n}^{N}={\frac {1}{N}}\sum _{j=1}^{N}\delta _{\xi _{n}^{(N,i)}}}$

任意の有界可測関数fに対して(例えば^{[ 2 ]}を参照)。上記の表示では、${\displaystyle \delta _{x}}$は状態xにおけるディラック測度を表します。

標準ブラウン運動を考察する${\displaystyle {\overline {W}}_{t_{n}}}$（別名ウィーナー過程）時間メッシュシーケンス上で評価${\displaystyle t_{0}=0<t_{1}<\cdots <t_{n}<\cdots }$与えられた時間ステップで${\displaystyle t_{n}-t_{n-1}=h}$私たちは選びます${\displaystyle c(x)=x}$ in equation (1), we replace ${\displaystyle b(x)}$ and σ by ${\displaystyle b(x)\times h}$ and ${\displaystyle \sigma \times {\sqrt {h}}}$, and we write ${\displaystyle {\overline {X}}_{t_{n}}}$ instead of ${\displaystyle {\overline {X}}_{n}}$ the values of the random states evaluated at the time step ${\displaystyle t_{n}.}$ Recalling that ${\displaystyle \left({\overline {W}}_{t_{n+1}}-{\overline {W}}_{t_{n}}\right)}$ are independent centered Gaussian random variables with variance ${\displaystyle t_{n}-t_{n-1}=h,}$ the resulting equation can be rewritten in the following form

When h → 0, the above equation converge to the nonlinear diffusion process

${\displaystyle d{\overline {X}}_{t}=E\left(a\left({\overline {X}}_{t}\right)\right)b({\overline {X}}_{t})dt+\sigma d{\overline {W}}_{t}}$

The mean field continuous time model associated with these nonlinear diffusions is the (interacting) diffusion process ${\displaystyle \xi _{t}^{(N)}=\left(\xi _{t}^{(N,i)}\right)_{1\leqslant i\leqslant N}}$ on the product space ${\displaystyle \mathbf {R} ^{N}}$ defined by

${\displaystyle d\xi _{t}^{(N,i)}=\left({\frac {1}{N}}\sum _{j=1}^{N}a\left(\xi _{t}^{(N,i)}\right)\right)b\left(\xi _{t}^{(N,i)}\right)+\sigma d{\overline {W}}_{t}^{i}\qquad 1\leqslant i\leqslant N}$

where

${\displaystyle \xi _{0}^{(N)}=\left(\xi _{0}^{(N,1)},\cdots ,\xi _{0}^{(N,N)}\right),\qquad \left({\overline {W}}_{t}^{1},\cdots ,{\overline {W}}_{t}^{N}\right)}$

are N independent copies of ${\displaystyle {\overline {X}}_{0}}$ and ${\displaystyle {\overline {W}}_{t}.}$ For regular models (for instance for bounded Lipschitz functions a, b) we have the almost sure convergence

${\displaystyle {\frac {1}{N}}\sum _{j=1}^{N}f\left(\xi _{t}^{(N,i)}\right)=\int _{\mathbf {R} }f(y)\eta _{t}^{N}(dy)\to _{N\uparrow \infty }E\left(f({\overline {X}}_{t})\right)=\int _{\mathbf {R} }f(y)\eta _{t}(dy)}$,

with ${\displaystyle \eta _{t}={\text{Law}}\left({\overline {X}}_{t}\right),}$ and the empirical measure

${\displaystyle \eta _{t}^{N}={\frac {1}{N}}\sum _{j=1}^{N}\delta _{\xi _{t}^{(N,i)}}}$

for any bounded measurable functions f (cf. for instance.^[7]). These nonlinear Markov processes and their mean field particle interpretation can be extended to interacting jump-diffusion processes^{[1][2][23][25]}