反復フィルタリング

反復フィルタリングアルゴリズムは、部分的に観測された動的システムに対する最大尤度推論のためのツールです。 未知のパラメータに対する確率的摂動を使用して、パラメータ空間を探索します。この拡張モデルに逐次モンテカルロ（粒子フィルタ）を適用すると、データとより一致するパラメータ値が選択されます。適切に構築された手順は、連続的に減少する摂動で反復し、最大尤度推定値に収束します。^{[1] [2] [3]} 反復フィルタリング法は、これまで感染症の伝播動態を研究するために最も広範に使用されてきました。ケーススタディには、コレラ、^{[4] [5]}エボラウイルス、^[6]インフルエンザ、^{[7] [8] [9] [10]}マラリア、^{[11] [12] [13]} HIV、^[14]百日咳、^{[15] [16]}ポリオウイルス^[17] および麻疹が含まれます。^{[5] [18]} これらの方法に適していると提案されている他の分野には、生態学的ダイナミクス^{[19] [20]}や金融^{[21] [22]}などがある。

パラメータ空間への摂動は、いくつかの異なる役割を果たします。まず、摂動によって尤度表面が滑らかになり、アルゴリズムがグローバル検索の初期段階で尤度の小規模な特徴を克服できるようになります。次に、モンテ カルロ変動により、検索が局所的最小値から逃れることができます。3 番目に、反復フィルタリング更新では、摂動されたパラメータ値を使用して、対数尤度の導関数の近似値を構築します (この量は通常は閉じた形式では利用できません)。4 番目に、パラメータ摂動は、連続モンテ カルロ中に発生する可能性のある数値的困難を克服するのに役立ちます。

データは、時刻ごとに収集された時系列です。動的システムは、次の意味で 関数によって生成されるマルコフ過程によってモデル化されます。${\displaystyle y_{1},\dots ,y_{N}}$${\displaystyle t_{1} <t_{2} <\dots <t_{N}}$ ${\displaystyle X(t)}$${\displaystyle f(x,s,t,\theta,W)}$

${\displaystyle X(t_{n}^{})=f(X(t_{n-1}^{}),t_{n-1}^{},t_{n}^{},\theta ,W)}$

ここで、は未知のパラメータのベクトルであり、は評価されるたびに独立して抽出されるランダムな量である。ある時点における初期条件は初期化関数によって指定される。測定密度は、部分観測マルコフ過程の仕様を完成させる。ここでは、基本的な反復フィルタリングアルゴリズム（IF1） ^{[1] [2]}を示し、続いて反復摂動ベイズマップ（IF2）を実装する反復フィルタリングアルゴリズムを示す。[ ^{3] [23]}${\displaystyle \theta}$${\displaystyle W}$${\displaystyle f(.)}$${\displaystyle X(t_{0})}$${\displaystyle t_{0}$${\displaystyle X(t_{0})=h(\theta )}$${\displaystyle g(y_{n}|X_{n},t_{n},\theta )}$

入力: 上記のように指定された部分観測マルコフモデル、モンテカルロサンプルサイズ、反復回数、冷却パラメータ、 共分散行列、初期パラメータベクトル${\displaystyle J}$${\displaystyle M}$${\displaystyle 0<a<1}$${\displaystyle b}$${\displaystyle \Phi}$${\displaystyle \theta ^{(1)}}$

〜のために${\displaystyle m_{}^{}=1}$${\displaystyle M_{}^{}}$

抽選 する ${\displaystyle \Theta _{F}(t_{0}^{},j)\sim \mathrm {Normal} (\theta ^{(m)},ba^{m-1}\Phi )}$${\displaystyle j=1,\dots ,J}$

設定する ${\displaystyle X_{F}(t_{0}^{},j)=h{\big (}\Theta _{F}(t_{0}^{},j){\big )}}$${\displaystyle j=1,\dots ,J}$

セット${\displaystyle {\bar {\theta }}(t_{0}^{})=\theta ^{(m)}}$

〜のために${\displaystyle n_{}^{}=1}$${\displaystyle N_{}^{}}$

抽選 する ${\displaystyle \Theta _{P}(t_{n}^{},j)\sim \mathrm {Normal} (\Theta _{F}(t_{n-1}^{},j),a^ {m-1}\ファイ)}$${\displaystyle j=1,\dots ,J}$

設定する ${\displaystyle X_{P}(t_{n}^{},j)=f(X_{F}(t_{n-1}^{},j),t_{n-1}^{},t_{n},\Theta _{P}(t_{n},j),W)}$${\displaystyle j=1,\dots ,J}$

設定する ${\displaystyle w(n,j)=g(y_{n}|X_{P}(t_{n}^{},j),t_{n}^{},\Theta _{P}(t_{ n},j))}$${\displaystyle j=1,\dots ,J}$

描く​${\displaystyle k_{1}^{},\dots ,k_{J}^{}}$${\displaystyle P(k_{j}^{}=i)=w(n,i){\big ></\sum }_{\ell }w(n,\ell )}$

設定して ${\displaystyle X_{F}(t_{n}^{},j)=X_{P}(t_{n}^{},k_{j}^{})}$${\displaystyle \Theta _{F}(t_{n}^{},j)=\Theta _{P}(t_{n}^{},k_{j}^{})}$${\displaystyle j=1,\dots ,J}$

の標本平均に設定すると、ベクトルの成分は${\displaystyle {\bar {\theta }}_{i}^{}(t_{n}^{})}$${\displaystyle \{\Theta _{F,i}^{}(t_{n}^{},j),j=1,\dots ,J\}}$${\displaystyle \Theta _{F}^{}}$${\displaystyle \{\Theta _{F,i}^{}\}}$

標本分散に設定する${\displaystyle V_{i}^{}(t_{n}^{})}$${\displaystyle \{\Theta _{P,i}^{}(t_{n}^{},j),j=1,\dots ,J\}}$

セット${\displaystyle \theta _{i}^{(m+1)}=\theta _{i}^{(m)}+V_{i}(t_{1})\sum _{n=1}^{N}V_{i}^{-1}(t_{n})({\bar {\theta }}_{i}(t_{n})-{\bar {\theta }}_{i}(t_{n-1}))}$

出力: 最大尤度推定${\displaystyle {\hat {\theta }}=\theta ^{(M+1)}}$

1. IF1の場合、初期条件の指定時にのみモデルに入力されるパラメータは、データ内のそれらの情報が時系列の小さな部分に集中している可能性があるため、特別なアルゴリズム上の注意が必要です。^[1]${\displaystyle X(t_{0})}$
2. 理論的には、必要な平均と分散を持つ任意の分布を正規分布の代わりに使用できます。正規分布を使用し、パラメータの可能な値に対する制約を削除するために再パラメータ化するのが標準です。
3. IF1アルゴリズムの改良により、より優れた漸近性能が得られることが提案されている。^{[24] [25]}

入力: 上記のように指定された部分観測マルコフモデル、モンテカルロサンプルサイズ、反復回数、冷却パラメータ、共分散行列、初期パラメータベクトル${\displaystyle J}$${\displaystyle M}$${\displaystyle 0<a<1}$${\displaystyle \Phi }$${\displaystyle \{\Theta _{j},j=1,\dots ,J\}}$

〜のために${\displaystyle m_{}^{}=1}$${\displaystyle M_{}^{}}$

設定 する ${\displaystyle \Theta _{F}(t_{0}^{},j)\sim \mathrm {Normal} (\Theta _{j},a^{m-1}\Phi )}$${\displaystyle j=1,\dots ,J}$

設定する ${\displaystyle X_{F}(t_{0}^{},j)=h{\big (}\Theta _{F}(t_{0}^{},j){\big )}}$${\displaystyle j=1,\dots ,J}$

〜のために${\displaystyle n_{}^{}=1}$${\displaystyle N_{}^{}}$

抽選 する ${\displaystyle \Theta _{P}(t_{n}^{},j)\sim \mathrm {Normal} (\Theta _{F}(t_{n-1}^{},k_{j}^{}),a^{m-1}\Phi )}$${\displaystyle j=1,\dots ,J}$

設定する ${\displaystyle X_{P}(t_{n}^{},j)=f(X_{F}(t_{n-1}^{},j),t_{n-1}^{},t_{n},\Theta _{P}(t_{n},j),W)}$${\displaystyle j=1,\dots ,J}$

設定する ${\displaystyle w(n,j)=g(y_{n}|X_{P}(t_{n}^{},j),t_{n}^{},\Theta _{P}(t_{n},j))}$${\displaystyle j=1,\dots ,J}$

描く​${\displaystyle k_{1}^{},\dots ,k_{J}^{}}$${\displaystyle P(k_{j}^{}=i)=w(n,i){\big /}{\sum }_{\ell }w(n,\ell )}$

設定 して ${\displaystyle X_{F}(t_{n}^{},j)=X_{P}(t_{n}^{},k_{j}^{})}$${\displaystyle \Theta _{F}(t_{n}^{},j)=\Theta _{P}(t_{n}^{},k_{j}^{})}$${\displaystyle j=1,\dots ,J}$

設定 する ${\displaystyle \Theta _{j}=\Theta _{F}(t_{N}^{},j)}$${\displaystyle j=1,\dots ,J}$

出力: 最大尤度推定値を近似するパラメータベクトル、${\displaystyle \{\Theta _{j},j=1,\dots ,J\}}$

「pomp: 部分的に観測されたマルコフ過程の統計的推論」: R パッケージ。