マルコフ連鎖の中心極限定理

ランダム過程の数学的理論において、マルコフ連鎖の中心極限定理は、確率論の古典的な中心極限定理(CLT) と形式がいくぶん似ている結論を持つが、古典的な CLT で分散が担う役割の量の定義はより複雑である。ビエネイメの恒等式の一般形も参照のこと。

次のような場合を考えます。

• ある集合のランダムな要素の列は定常確率分布を持つマルコフ連鎖である。${\textstyle X_{1},X_{2},X_{3},\ldots }$
• 過程の初期分布、すなわち の分布は定常分布なので、 は同一に分布する。古典的な中心極限定理では、これらのランダム変数は独立していると仮定されるが、ここでは、過程がマルコフ特性を持つという弱い仮定のみを用いる。${\textstyle X_{1}}$${\textstyle X_{1},X_{2},X_{3},\ldots }$
• ${\textstyle g}$は、（測定可能な）実数値関数であり、${\textstyle \operatorname {var} (g(X_{1}))<+\infty .}$

さて、^{[1] [2] [3]}

${\displaystyle {\begin{aligned}\mu &=\operatorname {E} (g(X_{1})),\\{\widehat {\mu }}_{n}&={\frac {1} {n}}\sum _{k=1}^{n}g(X_{k})\\\sigma ^{2}&:=\lim _{n\to \infty }\operatorname {var} ({\sqrt {n}}{\widehat {\mu }}_{n})=\lim _{n\to \infty }n\operatorname {var} ({\widehat {\mu }} _{n})=\オペレーター名 {var} (g(X_{1}))+2\sum _{k=1}^{\infty }\オペレーター名 {cov} (g(X_{1}),g(X_{1+k})).\end{aligned}}}$

そして[ 4 ^]${\textstyle n\to \infty ,}$

${\displaystyle {\sqrt {n}}({\hat {\mu }}_{n}-\mu )\ {\xrightarrow {\mathcal {D}}}\ {\text{Normal}}(0, \sigma ^{2}),}$

ここで、装飾された矢印は分布の収束を示します。

マルコフ連鎖の中心極限定理は、特定の条件下では、一般状態空間マルコフ連鎖の関数に対して保証できます。特に、モンテカルロ設定に焦点を当ててこれを実行できます。MCMC (マルコフ連鎖モンテカルロ) 設定での適用例は次のとおりです。

グリッド上の単純な剛体球モデルを考えてみましょう。 と仮定します。 上の適切な配置とは、隣接する 2 つの点が白にならないように、各点を黒または白に着色することです。上のすべての適切な配置の集合を、適切な配置の総数を 、各適切な配置が等しく起こり得るように π を 上の一様分布とします。目標が適切な配置における白点の典型的な数を計算することであるとします。つまり、 がにおける白点の数である場合、 の値を求めます。 ${\displaystyle X=\{1,\ldots ,n_{1}\}\times \{1,\ldots ,n_{2}\}\subseteq Z^{2}}$${\displaystyle X}$${\displaystyle \chi}$${\displaystyle X}$${\displaystyle N_{\chi }(n_{1},n_{2})}$${\displaystyle \chi}$${\displaystyle W(x)}$${\displaystyle x\in \chi}$

${\displaystyle E_{\pi }W=\sum _{x\in \chi }{\frac {W(x)}{N_{\chi }{\bigl (}n_{1},n_{2}{ \bigr )}}}}$

および が中程度に大きい場合、 の近似値に頼らざるを得なくなります。 上の次のマルコフ連鎖を考えてみましょう。 を固定して設定します。ここで、 は任意の適切な構成です。点をランダムに 1 つ選び、独立に を描きます。であり、隣接する点がすべて黒の場合、 を白く塗り、他の点はそのままにします。それ以外の場合は、を黒く塗り、他の点はそのままにします。結果として得られる構成を と呼びます。このように続けると、 という不変分布を持つハリスエルゴードマルコフ連鎖が得られます。これで、 を推定するのは簡単です。また、 は有限（ただし、大きくなる可能性があります）なので、は に指数関数的に速く収束することがよく知られており、これはに対してCLT が成り立つことを意味します。 ${\displaystyle n_{1}}$${\displaystyle n_{2}}$${\displaystyle E_{\pi }W}$${\displaystyle \chi}$${\displaystyle p\in (0,1)}$${\displaystyle X_{1}=x_{1}}$${\displaystyle x_{1}\in \chi }$${\displaystyle (x,y)\in X}$${\displaystyle U\sim \mathrm {制服} (0,1)}$${\displaystyle u\leq p}$${\displaystyle (x,y)}$${\displaystyle (x,y)}$${\displaystyle X_{1}}$${\displaystyle \{X_{1},X_{2},X_{3},\ldots \}}$${\displaystyle \pi}$${\displaystyle E_{\pi }W}$${\displaystyle {\overline {w_{n}}}=\sum _{i=1}^{n}W(X_{i})/n}$${\displaystyle \chi}$${\displaystyle X}$${\displaystyle \pi}$${\displaystyle {\overline {w_{n}}}}$

相関関係（例えば、マルコフ連鎖モンテカルロシミュレーションにおける連続相関関係）から生じる分散の追加項を考慮に入れないと、例えばサンプル平均の信頼区間を計算するときに疑似複製の問題が発生する可能性があります。

• Gordin, MI および Lifšic, BA (1978)。「定常マルコフ過程の中心極限定理」。Soviet Mathematics、Doklady、19、392-394。(ロシア語原文の英語訳)。
• Geyer, Charles J. (2011)。「MCMC 入門」。SP Brooks、AE Gelman、GL Jones、XL Meng 編『マルコフ連鎖モンテカルロハンドブック』。Chapman & Hall/CRC、ボカラトン、pp. 3–48。