自己回帰移動平均モデル

表記AR( p )は、 p次自己回帰モデルを表します。AR( p )モデルは次のように記述されます。

${\displaystyle X_{t}=\sum _{i=1}^{p}\varphi _{i}X_{ti}+\varepsilon _{t}}$

どこ$\displaystyle \varphi _{1},\ldots ,\varphi _{p}}$はパラメータであり、確率変数である。${\displaystyle \varepsilon _{t}}$ホワイトノイズは、通常は独立同分布（iid）の正規確率変数です。^{[ 1 ] [ 2 ]}

モデルが定常性を保つためには、その特性多項式の根が単位円の外側にある必要があります。例えば、AR(1) モデルのプロセスでは、${\displaystyle |\varphi _{1}|\geq 1}$根は静止していないため${\displaystyle 1-\varphi _{1}B=0}$単位円の内側に位置する。^{[ 3 ]}

拡張ディッキー・フラー検定は、固有モード関数とトレンド成分の安定性を評価できます。定常時系列にはARMAモデルが、非定常時系列には長短期記憶モデルを用いて抽象的な特徴を導出できます。最終的な値は、各時系列の予測結果を再構築することによって得られます。

MA( q )という表記は、次数qの移動平均モデルを表します。

${\displaystyle X_{t}=\mu +\varepsilon _{t}+\sum _{i=1}^{q}\theta _{i}\varepsilon _{ti}\,}$

どこで${\displaystyle \theta _{1},...,\theta _{q}}$はモデルのパラメータであり、${\displaystyle \mu }$期待は${\displaystyle X_{t}}$（しばしば0とみなされる）$\displaystyle \varepsilon _{1}}$、...、${\displaystyle \varepsilon _{t}}$は、一般的に正規分布に従う確率変数である、独立同分布の白色雑音誤差項である。^{[ 4 ]}

ARMA( p , q )という表記は、p 個の自己回帰項とq 個の移動平均項を持つモデルを指します。このモデルには AR( p ) モデルと MA( q ) モデルが含まれます。^{[ 5 ]}

${\displaystyle X_{t}=\varepsilon _{t}+\sum _{i=1}^{p}\varphi _{i}X_{ti}+\sum _{i=1}^{q}\theta _{i}\varepsilon _{ti}.\,}$

一部の文献では、モデルはラグ演算子Lを使用して指定されます。これらの用語では、AR( p ) モデルは次のように与えられます。

${\displaystyle \varepsilon _{t}=\left(1-\sum _{i=1}^{p}\varphi _{i}L^{i}\right)X_{t}=\varphi (L)X_{t}\,}$

どこ${\displaystyle \varphi }$多項式を表す

${\displaystyle \varphi (L)=1-\sum _{i=1}^{p}\varphi _{i}L^{i}.\,}$

MA( q )モデルは次のように表される。

${\displaystyle X_{t}-\mu =\left(1+\sum _{i=1}^{q}\theta _{i}L^{i}\right)\varepsilon _{t}=\theta (L)\varepsilon _{t},\,}$

どこ${\displaystyle \theta }$多項式を表す

${\displaystyle \theta (L)=1+\sum _{i=1}^{q}\theta _{i}L^{i}.\,}$

最後に、結合ARMA( p , q )モデルは次のように表される。

${\displaystyle \left(1-\sum _{i=1}^{p}\varphi _{i}L^{i}\right)X_{t}=\left(1+\sum _{i=1}^{q}\theta _{i}L^{i}\right)\varepsilon _{t}\,,}$

あるいはもっと簡潔に言うと、

${\displaystyle \varphi (L)X_{t}=\theta (L)\varepsilon _{t}\,}$

または

${\displaystyle {\frac {\varphi (L)}{\theta (L)}}X_{t}=\varepsilon _{t}\,.}$

これは、 Box、Jenkins、Reinselで使用されている形式です。 ^{[ 6 ]}

さらに、 ${\displaystyle i=0}$設定$\displaystyle \phi _{0}=-1}$そして$\displaystyle \theta _{0}=1}$すると、さらに洗練された定式化が得られます。${\displaystyle -\sum _{i=0}^{p}\phi _{i}L^{i}\;X_{t}=\sum _{i=0}^{q}\theta _{i}L^{i}\;\varepsilon _{t}\,.}$

ARMA( p , q ) モデルにおけるpの適切な値は、偏自己相関関数をプロットすることによって見つけることができます。同様に、q は自己相関関数を使用して推定できます。pとqは、拡張自己相関関数 (EACF) を使用して同時に決定できます。^{[ 9 ]} pとqの初期選択で適合させたモデルの残差について同じ関数を考慮することで、さらに詳しい情報を得ることができます。

Brockwell & Davis は、pとqを見つけるために赤池情報量規準(AIC)を使用することを推奨しています。^{[ 10 ]}別の選択肢として、ベイズ情報量規準(BIC) があります。

pとqを選択した後、最小二乗回帰を用いてARMAモデルを当てはめ、誤差項を最小化するパラメータ値を求めることができます。データに許容できる適合度が得られるpとqの最小値を求めるのが良い方法です。純粋なARモデルの場合は、ユール・ウォーカー方程式を用いて適合度を求めることができます。

ARMAの出力は主に予測（予測）に使用され、OLSや2SLSなどの他の計量経済学や回帰分析手法のように因果関係を推論するために使用されるものではありません。

• Rでは、標準パッケージには、 ARIMA Modelling of Time Seriesで説明されているstats関数があります。パッケージには、ARMA モデル (季節性および非季節性) を適合させ、これらのモデルからデータをシミュレートするための改良されたスクリプトがあります。拡張パッケージには、関連する拡張機能が含まれています。パッケージには、 「Fit ARMA Models to Time Series」で説明されている関数が含まれています。パッケージには、分数階積分 ARMA プロセス用の関数が含まれています。パッケージには、p、qの簡潔なセットを選択するための関数が含まれています。CRAN のTime Seriesタスク ビューには、これらのほとんどへのリンクがあります。arimaastsasarimasarima.simtseriesarma()fracdifffracdiff()forecastauto.arima
• MathematicaにはARMAを含む時系列関数の完全なライブラリがあります。^{[ 11 ]}
• MATLABにarmaは、自己回帰モデル、外生自己回帰モデル、ARMAXモデルを推定するための関数などが含まれていますar。arx詳細は、システム識別ツールボックスおよび計量経済学ツールボックスを参照してください。
• Juliaには、ARMAモデルを用いたフィッティングを実装するコミュニティ主導のパッケージがありますarma.jl。
• Pythonには、ARMAモデルをはじめとする時系列分析のための多くのモデルと関数を含むstatsmodelsSパッケージがあります。以前はscikit-learnライブラリの一部でしたが、現在はスタンドアロンとなり、Pandasとの連携も良好です。
• PyFluxは、ベイズARIMAXモデルを含む、ARIMAXモデルのPythonベースの実装を提供します。
• IMSL数値ライブラリは、C、Java、C# .NET、Fortranなどの標準的なプログラミング言語で実装されたARMAおよびARIMA手順を含む数値解析機能のライブラリです。
• gretlはARMAモデルを推定できます（ここに記載されているとおり）。
• GNU Octaveの追加パッケージはoctave-forgeARモデルをサポートしています。
• Stataにarimaは、ARMAおよびARIMAモデル用の関数が含まれています。
• SuanShuは、単変量/多変量のARMA、ARIMA、ARMAXなどのモデルを実装する数値計算手法のJavaライブラリであり、「SuanShu、Java数値統計ライブラリ」にドキュメントがあります。
• SASにはARIMAモデルを推定する計量経済学パッケージETSがあります。詳細は以下をご覧ください。

ARMAX( p , q , b )という表記は、p個の自己回帰項、q個の移動平均項、およびb個の外生入力項を持つモデルを表します。最後の項は、既知の外部時系列の最後のb個の項の線形結合です。${\displaystyle d_{t}}$。それは次のように与えられます。

${\displaystyle X_{t}=\varepsilon _{t}+\sum _{i=1}^{p}\varphi _{i}X_{t-i}+\sum _{i=1}^{q}\theta _{i}\varepsilon _{t-i}+\sum _{i=1}^{b}\eta _{i}d_{t-i}.\,}$

どこ${\displaystyle \eta _{1},\ldots ,\eta _{b}}$これらは外生入力のパラメータである。${\displaystyle d_{t}}$。

外生変数を含むモデルの非線形バリアントがいくつか定義されています。たとえば、非線形自己回帰外生モデルを参照してください。

統計パッケージは、「外生」（つまり独立）変数を使用してARMAXモデルを実装します。これらのパッケージの出力を解釈する際には注意が必要です。推定されたパラメータは通常（たとえば、R ^{[ 15 ]}およびgretlでは）、回帰を参照しているからです。

${\displaystyle X_{t}-m_{t}=\varepsilon _{t}+\sum _{i=1}^{p}\varphi _{i}(X_{t-i}-m_{t-i})+\sum _{i=1}^{q}\theta _{i}\varepsilon _{t-i}.\,}$

どこ${\displaystyle m_{t}}$すべての外生変数（または独立変数）を組み込んでいます。

${\displaystyle m_{t}=c+\sum _{i=0}^{b}\eta _{i}d_{t-i}.\,}$