定常プロセス

数学と統計学において、定常過程（または厳密/厳密に定常な過程、強い/強い定常な過程）は、無条件結合確率分布が時間的に変化しても変化しない確率過程です。したがって、平均や分散などのパラメータも時間の経過とともに変化しません。

定常性は時系列分析で使用される多くの統計的手順の根底にある仮定であるため、非定常データは定常になるように変換されることがよくあります。定常性違反の最も一般的な原因は平均の傾向であり、これは単位根または決定論的傾向の存在による可能性があります。前者の単位根の場合、確率的ショックには永続的な影響があり、プロセスは平均回帰しません。後者の決定論的傾向の場合、プロセスは傾向定常プロセスと呼ばれ、確率的ショックには一時的な影響しかなく、その後、変数は決定論的に進化する（非定数の）平均に向かう傾向があります。

トレンド定常プロセスは厳密には定常ではありませんが、時間の関数のみである根本的なトレンドを除去することで、簡単に定常プロセスに変換できます。同様に、1 つ以上の単位根を持つプロセスは、差分化によって定常化できます。トレンドのような動作を含まない重要なタイプの非定常プロセスは、時間とともに周期的に変化する確率プロセスである周期定常プロセスです。

多くのアプリケーションでは、厳密な意味での定常性は制限が厳しすぎます。その場合、広義の定常性やN次定常性などの他の形式の定常性が使用されます。異なる種類の定常性の定義は、異なる著者間で一貫していません (その他の用語を参照)。

正式には、 が確率過程であり、 がの時刻における無条件（つまり、特定の開始値を参照しない）結合分布の累積分布関数を表すとします。このとき、 が厳密に定常、強く定常、または厳密な意味で定常であるとは、 ^{[1] : p. 155}のとき言われます。${\displaystyle \left\{X_{t}\right\}}$${\displaystyle F_{X}(x_{t_{1}+\tau },\ldots ,x_{t_{n}+\tau })}$${\displaystyle \left\{X_{t}\right\}}$${\displaystyle t_{1}+\tau ,\ldots ,t_{n}+\tau }$${\displaystyle \left\{X_{t}\right\}}$

は に影響を与えないので、は時間に依存しません。 ${\displaystyle \tau}$${\displaystyle F_{X}(\cdot )}$${\displaystyle F_{X}}$

ホワイト ノイズは定常プロセスの最も単純な例です。

離散時間定常過程のうち、標本空間も離散的である（したがって、ランダム変数はN 個の可能な値のうちの 1 つを取る）例として、ベルヌーイ方式が挙げられます。連続標本空間を持つ離散時間定常過程の他の例としては、自己回帰過程や移動平均過程が挙げられます。これらはいずれも自己回帰移動平均モデルのサブセットです。非自明な自己回帰成分を持つモデルは、パラメータ値に応じて定常または非定常のいずれかになります。重要な非定常の特殊なケースとしては、モデルに 単位根が存在する場合が挙げられます。

を任意のスカラー確率変数とし、時系列を次のように 定義する。${\displaystyle Y}$${\displaystyle \left\{X_{t}\right\}}$

${\displaystyle X_{t}=Y\qquad {\text{すべてのtについて}$

は定常時系列であり、実現値は一連の定数値から構成され、各実現値には異なる定数値があります。この場合、大数の法則は適用されません。単一の実現値からの平均の極限値は、の期待値ではなく、によって決定されるランダムな値を取るからです。 ${\displaystyle \left\{X_{t}\right\}}$${\displaystyle Y}$${\displaystyle Y}$

プロセスはエルゴード的でないため、の時間平均は収束しません。 ${\displaystyle X_{t}}$

任意の単一の実現が明らかにノイズのない構造を持つ定常過程のさらなる例として、が一様分布を持ち、時系列を次のように 定義するとする。${\displaystyle Y}$${\displaystyle [0,2\pi ]}$${\displaystyle \left\{X_{t}\right\}}$

${\displaystyle X_{t}=\cos(t+Y)\quad {\text{ }}t\in \mathbb {R} の場合。}$

すると、( を法として) は任意の の場合と同じ一様分布に従うため、 は厳密に定常になります。 ${\displaystyle \left\{X_{t}\right\}}$${\displaystyle (t+Y)}$${\displaystyle 2\pi }$${\displaystyle Y}$${\displaystyle t}$

弱い白色ノイズは必ずしも厳密に定常であるとは限らないことに留意してください。を区間内で一様に分布するランダム変数とし、時系列を定義します。${\displaystyle \omega}$${\displaystyle (0,2\pi )}$${\displaystyle \left\{z_{t}\right\}}$

${\displaystyle z_{t}=\cos(t\omega )\quad (t=1,2,...)}$

それから

${\displaystyle {\begin{aligned}\mathbb {E} (z_{t})&={\frac {1}{2\pi }}\int _{0}^{2\pi }\cos(t\omega )\,d\omega =0,​​\\\operatorname {Var} (z_{t})&={\frac {1}{2\pi }}\int _{0}^{2\pi }\cos ^{2}(t\omega )\,d\omega =1/2,\\\operatorname {Cov} (z_{t},z_{j})&={\frac {1}{2\pi }}\int _{0}^{2\pi }\cos(t\omega )\cos(j\omega )\,d\omega =0\quad \forall t\neq j.\end{aligned}}}$

弱い意味でのホワイト ノイズも同様です (平均と相互共分散がゼロで、分散がすべて同じ)。ただし、厳密には定常ではありません。 ${\displaystyle \{z_{t}\}}$

式 1では、確率過程のサンプルの分布は、すべての について、時間的にシフトしたサンプルの分布と等しくなければなりません。N次定常性は、定常性のより弱い形式であり、特定の次数までのすべての についてのみこれが要求されます。ランダム過程がN次定常であるとは、次の場合です。^{[1] : p. 152}${\displaystyle n}$ ${\displaystyle n}$${\displaystyle n}$${\displaystyle N}$${\displaystyle \left\{X_{t}\right\}}$

信号処理で一般的に使用されるより弱い形式の定常性は、弱意味定常性、広意味定常性 (WSS)、または共分散定常性として知られています。WSS ランダム プロセスでは、第 1モーメント(つまり平均) と自己共分散が時間に対して変化せず、第 2 モーメントがすべての時間に対して有限であることのみが必要です。有限の平均と共分散を持つ厳密に定常なプロセスも WSS です。^{[2] : p. 299}

したがって、 WSS である連続時間 ランダムプロセスに は、平均関数と自己共分散関数に次の制限があります。 ${\displaystyle \left\{X_{t}\right\}}$${\displaystyle m_{X}(t)\triangleq \operatorname {E} [X_{t}]}$${\displaystyle K_{XX}(t_{1},t_{2})\triangleq \operatorname {E} [(X_{t_{1}}-m_{X}(t_{1}))(X_{t_{2}}-m_{X}(t_{2}))]}$

最初の性質は、平均関数が定数でなければならないことを意味します。2番目の性質は、自己共分散関数がととの差にのみ依存し、2つの変数ではなく1つの変数でインデックス付けする必要があることを意味します。^{[1] ：p. 159}したがって、次のように書く代わりに、 ${\displaystyle m_{X}(t)}$${\displaystyle t_{1}}$${\displaystyle t_{2}}$

${\displaystyle \,\!K_{XX}(t_{1}-t_{2},0)\,}$

この表記は、次のように省略されることが多い: ${\displaystyle \tau =t_{1}-t_{2}}$

${\displaystyle K_{XX}(\tau )\triangleq K_{XX}(t_{1}-t_{2},0)}$

これはまた、自己相関がのみに依存すること、 すなわち${\displaystyle \tau =t_{1}-t_{2}}$

${\displaystyle \,\!R_{X}(t_{1},t_{2})=R_{X}(t_{1}-t_{2},0)\triangleq R_{X}(\tau ).}$

3 番目の特性は、任意の時間に対して 2 番目のモーメントが有限でなければならないというものです。 ${\displaystyle t}$

広義の定常性の主な利点は、時系列をヒルベルト空間の文脈に置くことです。Hを{ x ( t )} によって生成されるヒルベルト空間 (つまり、与えられた確率空間上のすべての平方積分可能なランダム変数のヒルベルト空間におけるこれらのランダム変数のすべての線形結合の集合の閉包) とします。自己共分散関数の正定値性により、ボクナーの定理から、 H が{ e ^{−2 π iξ⋅t} } によって生成されるL ² ( μ )のヒルベルト部分空間と同型となるような実数直線上の正の測度が存在することが示されます。これにより、連続時間定常確率過程の次のフーリエ型分解が得られます。すべての${\displaystyle \mu}$${\displaystyle \omega _{\xi }}$${\displaystyle t}$

${\displaystyle X_{t}=\int e^{-2\pi i\lambda \cdot t}\,d\omega _{\lambda },}$

ここで、右辺の積分は適切な（リーマン）意味で解釈されます。同じ結果は離散時間定常プロセスにも当てはまり、スペクトル測度は単位円上で定義されます。

WSS ランダム信号を線形時間不変( LTI )フィルターで処理する場合、相関関数を線形演算子として考えると便利です。これは巡回演算子 (2 つの引数の差のみに依存) であるため、その固有関数はフーリエ複素指数です。さらに、LTI 演算子の固有関数も複素指数であるため、WSS ランダム信号の LTI 処理は非常に扱いやすく、すべての計算を周波数領域で実行できます。したがって、WSS 仮定は信号処理アルゴリズムで広く採用されています。

が複雑な確率過程である場合、自己共分散関数は次のように定義され、式3の要件に加えて、擬似自己共分散関数は時間遅れのみに依存することが要求される。式では、 WSSは、 ${\displaystyle \left\{X_{t}\right\}}$${\displaystyle K_{XX}(t_{1},t_{2})=\operatorname {E} [(X_{t_{1}}-m_{X}(t_{1})){\overline {(X_{t_{2}}-m_{X}(t_{2}))}}]}$${\displaystyle J_{XX}(t_{1},t_{2})=\operatorname {E} [(X_{t_{1}}-m_{X}(t_{1}))(X_{t_{2}}-m_{X}(t_{2}))]}$${\displaystyle \left\{X_{t}\right\}}$

定常性の概念は、2 つの確率過程に拡張できます。

2つの確率過程とが、それらの累積分布が時間シフトに対して不変である場合、すなわち、 ${\displaystyle \left\{X_{t}\right\}}$${\displaystyle \left\{Y_{t}\right\}}$${\displaystyle F_{XY}(x_{t_{1}},\ldots ,x_{t_{m}},y_{t_{1}^{'}},\ldots ,y_{t_{n}^{'}})}$

2つのランダムプロセスは、次の条件を満たす場合、共同で( M  +  N )次の定常プロセスであると言われる: ^{[1] : p. 159}${\displaystyle \left\{X_{t}\right\}}$${\displaystyle \left\{Y_{t}\right\}}$

2 つの確率過程と が両方とも広義定常であり、それらの相互共分散関数が時間差 のみに依存する場合、これらは共同で広義定常であると呼ばれます。これは次のように要約できます。 ${\displaystyle \left\{X_{t}\right\}}$${\displaystyle \left\{Y_{t}\right\}}$${\displaystyle K_{XY}(t_{1},t_{2})=\operatorname {E} [(X_{t_{1}}-m_{X}(t_{1}))(Y_{t_{2}}-m_{Y}(t_{2}))]}$${\displaystyle \tau =t_{1}-t_{2}}$

• 確率過程がN次定常である場合、すべての⁠ ⁠に対してM次定常でもあります。${\displaystyle M\leq N}$
• 確率過程が2次定常（）であり、有限の2次モーメントを持つ場合、それは広義の定常でもある。^{[1] ：p. 159}${\displaystyle N=2}$
• 確率過程が広義の定常性を持つ場合、必ずしも2次定常性を持つとは限らない。^{[1] : p. 159}
• 確率過程が厳密な意味で定常であり、有限の2次モーメントを持つ場合、それは広義の意味で定常である。^{[2] : p. 299}
• 2つの確率過程が共同で( M  +  N )次の定常状態にあるとしても、個々の過程がM次、N次の定常状態にあることを保証するものではない。^{[1] : p. 159}

厳密な定常性以外の定常性の種類に使用される用語は、かなり複雑になることがあります。次にいくつかの例を示します。

• プリーストリーは、ここで広義の定常性について示したものと同様の条件がm次までのモーメントにも当てはまる場合、 m次まで定常で あるとしている。^{[3] [4]}したがって、広義の定常性は「 2 次まで定常」と同等であり、ここで示した 2 次定常性の定義とは異なる。
• HonarkhahとCaersは、多点地統計学の文脈でも定常性の仮定を使用しており、n点以上の統計は空間領域で定常であると仮定しています。^[5]

時系列を定常化する方法の 1 つは、連続する観測値間の差を計算することです。これは差分と呼ばれます。差分は、時系列のレベルの変化を除去して傾向を排除することで、時系列の平均を安定させるのに役立ちます。差分が適切に取られていれば、季節性も排除できます (例: 1 年間隔の観測値を差分して年間の傾向を排除する)。

対数などの変換は、時系列の分散を安定させるのに役立ちます。

非定常時系列を識別する方法の1つはACFプロットです。時には、元の時系列よりもACFプロットの方がパターンがはっきり見えることがありますが、常にそうであるとは限りません。^[6]

非定常性を識別する別の方法は、一連のラプラス変換を調べることです。これにより、指数傾向と正弦波の季節性 (複雑な指数傾向) の両方が識別されます。ウェーブレット変換やフーリエ変換などの信号分析の関連技術も役立つ場合があります。

• レヴィ過程
• 定常エルゴード過程
• ウィーナー・ヒンチンの定理
• エルゴード性
• 統計的規則性
• 自己相関
• ウィットル確率

• エンダース、ウォルター (2010)。応用計量経済時系列(第 3 版)。ニューヨーク: ワイリー。pp. 53–57。ISBN 978-0-470-50539-7。
• Jestrovic, I .; Coyle, JL; Sejdic , E (2015). 「健康な成人における流体粘度の増加 がEEG 信号の定常特性に与える影響」。Brain Research。1589 : 45–53。doi :10.1016/j.brainres.2014.09.035。PMC 4253861。PMID 25245522。 
• Hyndman, Athanasopoulos (2013)。予測：原則と実践。Otexts。https://www.otexts.org/fpp/8/1

• ランダム関数のスペクトル分解 (Springer)