時系列

統計学、計量経済学、定量金融、地震学、気象学、地球物理学の分野では、時系列分析の主な目的は予測です。信号処理、制御工学、通信工学の分野では、信号検出に使用されます。その他の応用分野としては、データマイニング、パターン認識、機械学習があり、^時系列分析はクラスタリング[ ^{2 ] [ 3 ] [ 4 ]}、分類^{[ 5 ]}、コンテンツによるクエリ^{[ 6 ]} 、異常検出、予測^{[ 7 ]}などに使用できます。

規則的な時系列を調べる簡単な方法は、折れ線グラフを使って手動で調べることです。このデータグラフは、米国の結核による死亡者数^{[ 8 ]}と、年ごとの変化率、前年比の変化率を示しています。総死亡者数は1980年代半ばまで毎年減少していましたが、その後は時折増加し、多くの場合、絶対値ではなく比例的にかなり大きくなりました。

企業データアナリストを対象とした調査では、探索的時系列分析における2つの課題が明らかになった。それは、興味深いパターンの形状を発見することと、これらのパターンの説明を見つけることである。^{[ 9 ]}時系列データをヒートマップ行列として表現する視覚ツールは、これらの課題を克服するのに役立つ。

この手法は、フーリエ変換を用いた周波数領域における信号の調和解析とフィルタリング、およびスペクトル密度推定に基づいている。その開発は、第二次世界大戦中に数学者のノルベルト・ウィーナー、電気技師のルドルフ・E・カルマン、デニス・ガボールらによって、ノイズから信号をフィルタリングし、特定の時点での信号値を予測するために大きく加速された。

同様の効果は、カルマンフィルターのように時間領域でも実現できます。その他の手法については、「フィルタリングと平滑化」を参照してください。

その他の関連技術には以下が含まれます。

• 自己相関分析による系列依存性の検討
• 季節性とは関係のない周期的な挙動を調べるためのスペクトル分析。例えば、太陽黒点活動は11年周期で変動する。^{[ 10 ] [ 11 ]}その他の一般的な例としては、天体現象、気象パターン、神経活動、商品価格、経済活動などがある。
• トレンド、季節性、緩やかな変動と急速な変動、および周期的な不規則性を表す成分への分離：トレンド推定と時系列の分解を参照

曲線フィッティング^{[ 12 ] [ 13 ]は、制約条件[ 15 ] [ 16 ]}の対象となる場合もあり、一連のデータポイントに最もよく適合する曲線、または数学関数を構築するプロセスです^{[ 14 ]} 。曲線フィッティングには、データに正確に適合する必要がある場合の補間[17][18]、またはデータに近似的に適合する「滑らかな」関数を構築する平滑化[19][20]のいずれかが含まれます。関連^{するトピックとして回帰分析[ 21} ] [ 22 ^{]があり、ランダム誤差}を伴う^{観測データに適合した}曲線にどの程度の不確実性があるかなど、統計的推論の問題に重点を置いています。適合した曲線は、データの視覚化^[ 23 ] ^{[ 24 ] 、データが}ない場合の関数の値の推定^{[ 25 ]}、および2つ以上の変数間の関係の要約の補助として使用できます。^{[ 26 ]}外挿とは、観測データの範囲を超えて適合曲線を使用することを指し、 ^{[ 27 ]}観測データを反映するのと同様に、曲線の構築に使用された方法を反映している可能性があるため、ある程度の不確実性を伴う^{[ 28 ] 。}

一般的に規模が拡大すると予想されるプロセスについては、グラフ中の曲線（およびその他多くの曲線）の1つを、そのパラメータを推定することによって近似することができる。

経済時系列の構築には、過去と現在の日付の値（「ベンチマーク」）間の補間によって、特定の日付のいくつかの要素を推定することが含まれます。補間とは、既知の2つの量（履歴データ）間の未知の量を推定すること、または利用可能な情報から欠落した情報について結論を導き出すこと（「行間を読む」）です。^{[ 29 ]}補間は、欠落したデータ周辺のデータが利用可能で、その傾向、季節性、および長期サイクルがわかっている場合に有用です。これは多くの場合、関連するすべての日付について既知の関連系列を使用することによって行われます。^{[ 30 ]}あるいは、多項式補間またはスプライン補間が使用され、区分的多項式関数が滑らかに繋がるように時間間隔で適合されます。補間と密接に関連する別の問題は、複雑な関数を単純な関数で近似すること（回帰とも呼ばれる）です。回帰と補間の主な違いは、多項式回帰ではデータセット全体をモデル化する単一の多項式が得られることです。しかし、スプライン補間では、データセットをモデル化するために、多数の多項式から構成される区分的に連続な関数が得られます。

外挿とは、ある変数と別の変数との関係に基づいて、元の観測範囲を超えた範囲の変数の値を推定するプロセスです。これは、既知の観測値間の推定値を算出する内挿と似ていますが、外挿はより大きな不確実性を伴い、無意味な結果を生み出すリスクが高くなります。

一般的に、関数近似問題では、タスク固有の方法で目標関数によく一致する（「近似する」）関数を、明確に定義されたクラスの中から選択することが求められます。関数近似問題には、大きく分けて 2 つのクラスがあります。まず、既知の目標関数の場合、近似理論 は、特定の既知の関数（例えば、特殊関数）を、望ましい特性（計算コストが低い、連続性、積分値と極限値など）を持つ特定の関数クラス（例えば、多項式や有理関数）でどのように近似できるかを調査する数値解析の分野です。

第二に、目的関数gは未知である可能性があります。明示的な式の代わりに、( x , g ( x )) の形式の点の集合 (時系列) のみが提供されます。gの定義域と値域の構造に応じて、g を近似するためのいくつかの手法が適用可能です。たとえば、g が実数に対する演算である場合、補間、外挿、回帰分析、曲線フィッティングの手法を使用できます。g の値域 (範囲またはターゲット集合) が有限集合である場合、代わりに分類問題を扱います。オンライン時系列近似^{[ 31 ]}に関連する問題は、データを 1 回のパスで要約し、最悪ケースのエラーの境界でさまざまな時系列クエリをサポートできる近似表現を構築することです。

ある程度、統計的学習理論では、さまざまな問題（回帰、分類、適合度近似）が統一的に扱われており、教師あり学習問題として捉えられている。

統計学において、予測は統計的推論の一部です。このような推論の特定の手法の一つは予測推論として知られていますが、予測は統計的推論の様々な手法のいずれにおいても行うことができます。実際、統計学の説明の一つとして、母集団の標本に関する知識を母集団全体、そして他の関連する母集団に伝達する手段を提供するというものがあります。これは必ずしも時間経過に伴う予測と同じではありません。情報が時間を超えて、多くの場合特定の時点に伝達される場合、そのプロセスは予測として知られています。

• 確率シミュレーションを目的とした完全な統計モデル。これにより、将来の特定の期間にわたって何が起こる可能性があるかを表す、時系列の代替バージョンを生成する。
• 直近の結果に関する知識に基づいて、時系列データの近い将来の可能性のある結果を記述するための、単純な、または完全に構成された統計モデル（予測）。
• 時系列データの予測は通常、 Julia、Python、R、SAS、SPSSなどの自動化された統計ソフトウェアパッケージやプログラミング言語を使用して行われます。
• 大規模データの予測は、サードパーティパッケージである Spark-TS ライブラリを使用してApache Sparkで行うことができます。 ^{[ 32 ]}

時系列パターンを特定のカテゴリに割り当てる。例えば、手話の一連の手の動きに基づいて単語を識別する。

時系列データをセグメントのシーケンスに分割します。時系列データは、それぞれ固有の特性を持つ個々のセグメントのシーケンスとして表現できる場合がよくあります。たとえば、電話会議の音声信号は、各参加者が話していた時間に対応する部分に分割できます。時系列データの分割では、時系列データ内のセグメント境界点を特定し、各セグメントに関連付けられた動的特性を特徴付けることが目的です。この問題は、変化点検出を用いるか、マルコフジャンプ線形システムのようなより高度なシステムとして時系列データをモデル化することで解決できます。

時系列データはクラスタリングされる可能性があるが、サブシーケンスクラスタリングを検討する際には特別な注意が必要である。^{[ 33 ] [ 34 ]} 時系列クラスタリングは以下のように分割できる。

• 時系列全体のクラスタリング（クラスタを見つけるための複数の時系列）^{[ 35 ]}

• 部分系列時系列クラスタリング（単一の時系列をスライディングウィンドウを使用してチャンクに分割）

• タイムポイントクラスタリング

時系列データのモデルはさまざまな形式を持ち、さまざまな確率過程を表すことができます。プロセスのレベルの変動をモデル化する場合、実用上重要な3つの大きなクラスは、自己回帰（AR）モデル、積分（I）モデル、および移動平均（MA）モデルです。これら3つのクラスは、以前のデータポイントに線形に依存します。 ^{[ 37 ]}これらのアイデアの組み合わせにより、自己回帰移動平均（ARMA）モデルと自己回帰積分移動平均（ARIMA）モデルが生成されます。自己回帰分数積分移動平均（ARFIMA）モデルは、前述の3つを一般化したものです。もう1つの重要な一般化は、時間変動自己回帰（TVAR）モデルです。このモデルでは、AR係数が時間とともに変化することが許容され、モデルが進化または非定常的なダイナミクスを捉えることができます。ベクトル値データを扱うためのこれらのクラスの拡張は、多変量時系列モデルという見出しの下で利用可能であり、場合によっては、ベクトル自己回帰を表す VAR のように、上記の頭字語に「ベクトル」を表す「V」が最初に付加されます。これらのモデルの追加の拡張セットは、観測された時系列が何らかの「強制」時系列（観測された時系列に因果的影響を与えない場合もある）によって駆動される場合に使用できます。多変量の場合との違いは、強制時系列が決定論的であるか、実験者の制御下にある可能性がある点です。これらのモデルの場合、頭字語には「外生的」を表す「X」が最後に付加されます。

時変自己回帰（TVAR）モデルは、時系列の変動がトレンドや季節パターンといった古典的な変動形式に限らず、複雑な形で時間とともに変化する非定常時系列の分析に特に有効です。固定パラメータを持つ古典的なARモデルとは異なり、TVARモデルでは自己回帰係数を時間の関数として変化させることができ、通常はユーザーが形式と複雑さを決定する基底関数展開によって表現されます。これにより、時変挙動を非常に柔軟にモデル化することが可能になり、データが示す特定の非定常パターンを捉えることができます。この柔軟性により、TVARモデルは、システムの挙動における構造変化、体制転換、または緩やかな変化をモデル化するのに最適です。 TVAR 時系列モデルは、信号処理^{[ 38 ] [ 39 ]}経済学^{[ 40 ]}金融^{[ 41 ]}信頼性および状態監視[ ^{42 ] [ 43 ] [ 44} ]電気通信[ ^{45 ] [ 46 ]}神経科学^{[ 47 ]}気候科学^{[ 48 ]}および水文学^{[ 49 ]などの分野で広く応用されており、これらの分野では、時系列は従来の線形モデルでは適切に表現できない動態を示すことがよくあります。TVAR モデルの推定には、通常、カーネル平滑化 [ 50 ] 再帰的最小二乗法 [ 51 ]またはカルマンフィルタリング}[ ^{52 ]など}の^{手法が含ま}れ^ます。

時系列のレベルが過去のデータポイントに非線形に依存することは、カオス的な時系列を生成する可能性があるため、興味深い。しかし、より重要なことに、経験的調査では、非線形自己回帰外生モデルのように、線形モデルからの予測よりも非線形モデルからの予測を使用する利点を示すことができる。非線形時系列分析に関するその他の参考文献: (Kantz and Schreiber) ^{[ 53 ]}および (Abarbanel) ^{[ 54 ] 。}

非線形時系列モデルには、時間の経過に伴う分散の変化（異分散性）を表すモデルがあります。これらのモデルは自己回帰条件付き異分散性（ARCH）を表し、その種類は多岐にわたります（GARCH 、TARCH、EGARCH、FIGARCH、CGARCHなど）。ここでは、変動性の変化は、観測された系列の直近の過去の値に関連付けられるか、または予測されます。これは、変動性が二重確率モデルのように、別の時間変動プロセスによって引き起こされるものとしてモデル化される可能性のある、局所的に変動する変動性の他の表現とは対照的です。

最近の「モデルフリー」解析（パラメトリックな数式で時間の経過に伴うプロセスの変化をモデル化することに依存しない解析を指す用語）に関する研究では、ウェーブレット変換に基づく手法（例えば、局所的に定常なウェーブレットやウェーブレット分解ニューラルネットワーク）が好まれている。^{[ 55 ]}マルチスケール（マルチレゾリューションと呼ばれることが多い）手法は、与えられた時系列を分解し、複数のスケールでの時間依存性を明らかにしようとする。変動性の進化をモデル化するためのマルコフスイッチングマルチフラクタル（MSMF）手法も参照のこと。

隠れマルコフモデル（HMM）は、モデル化対象のシステムが観測不能な（隠れた）状態を持つマルコフ過程であると仮定する統計的マルコフモデルです。HMMは、最も単純な動的ベイジアンネットワークと考えることができます。HMMモデルは、音声認識において、時系列の音声単語をテキストに変換するために広く使用されています。

これらのモデルの多くは、Pythonパッケージsktimeにまとめられています。

この理論の多くは、以下の2つの条件に基づいて構築されている。

• 定常過程
• エルゴード過程

エルゴード性は定常性を意味しますが、その逆は必ずしも当てはまりません。定常性は通常、厳密な定常性と広義の定常性（または二次定常性）に分類されます。モデルとアプリケーションはどちらの条件の下でも開発できますが、後者の場合のモデルは部分的にしか規定されていないとみなされる可能性があります。

さらに、時系列分析は、時系列が季節的に定常である場合にも非定常である場合にも適用できます。周波数成分の振幅が時間とともに変化する状況は、時系列または信号の時間周波数表現を利用する時間周波数分析で処理できます。^{[ 56 ]}

時系列データを調査するためのツールには、以下のようなものがあります。

• 自己相関関数およびスペクトル密度関数（相互相関関数および相互スペクトル密度関数も含む）の検討
• 遅い成分の影響を取り除くために、スケーリングされた相互相関関数と自己相関関数^{[ 57 ]}
• 周波数領域における系列を調べるためにフーリエ変換を実行する
• クラスタリング分析を実行する^{[ 58 ]}
• 時系列が（一般化された）調和信号を含むかどうかに応じて、時系列のスペクトルは離散的、連続的、または混合的となる。
• 不要なノイズを除去するためのフィルターの使用
• 主成分分析（または経験的直交関数分析）
• 特異スペクトル分析
• 「構造」モデル：
  • 一般状態空間モデル
  • 観測不能成分モデル
• 機械学習
  • 人工ニューラルネットワーク
  • サポートベクターマシン
  • ファジーロジック
  • ガウス過程
  • 遺伝的プログラミング
  • 遺伝子発現プログラミング
  • 隠れマルコフモデル
  • 多式プログラミング
• 待ち行列理論の分析
• 管理図
  • シューハート個体管理図
  • CUSUMチャート
  • EWMAチャート
• デトレンド変動解析
• 非線形混合効果モデリング
• 動的時間伸縮法^{[ 59 ]}
• 動的ベイジアンネットワーク
• 時間周波数解析手法：
  • 高速フーリエ変換
  • 連続ウェーブレット変換
  • 短時間フーリエ変換
  • チャープレット変換
  • 分数フーリエ変換
• カオス解析
  • 相関次元
  • 再帰プロット
  • 再発定量分析
  • リャプノフ指数
  • エントロピーエンコーディング

時系列分類や回帰分析に使用できる時系列指標または特徴量：^{[ 60 ]}

• 単変量線形尺度
  • モーメント（数学）
  • スペクトル帯域パワー
  • スペクトルエッジ周波数
  • 蓄積エネルギー（信号処理）
  • 自己相関関数の特性
  • ヒョルトパラメータ
  • FFTパラメータ
  • 自己回帰モデルのパラメータ
  • マン・ケンドール検定
• 単変量非線形尺度
  • 相関係数の合計に基づく指標
  • 相関次元
  • 相関積分
  • 相関密度
  • 相関エントロピー
  • 近似エントロピー^{[ 61 ]}
  • サンプルエントロピー
  • フーリエエントロピー
  • ウェーブレットエントロピー
  • 分散エントロピー
  • 変動分散エントロピー
  • レニーエントロピー
  • 高次手法
  • 限界予測可能性
  • 動的類似性指標
  • 状態空間の類似度尺度
  • リャプノフ指数
  • 順列法
  • 局所的な流れ
• その他の単変量指標
  • アルゴリズムの複雑性
  • コルモゴロフ複雑性推定
  • 隠れマルコフモデルの状態
  • 大まかな経路シグネチャ^{[ 62 ]}
  • 代理時系列と代理補正
  • 再発性の喪失（非定常性の度合い）
• 二変量線形尺度
  • 最大線形相互相関
  • 線形コヒーレンス（信号処理）
• 二変量非線形尺度
  • 非線形相互依存性
  • 動的同調現象（物理学）
  • 位相同期のための対策
  • 位相同期のための対策
• 類似度尺度：^{[ 63 ]}
  • 相互相関
  • 動的時間伸縮法^{[ 59 ]}
  • 隠れマルコフモデル
  • 編集距離
  • 総相関
  • ニューイ・ウェスト推定量
  • プレイズ・ウィンステン変換
  • 距離空間におけるベクトルとしてのデータ
    • ミンコフスキー距離
    • マハラノビス距離
  • エンベロープ付き時系列データ
    • グローバル標準偏差
    • 局所標準偏差
    • ウィンドウ処理された標準偏差
  • 確率系列として解釈されるデータ
    • ピアソン積率相関係数
    • スピアマンの順位相関係数
  • 確率分布関数 として解釈されるデータ
    • コルモゴロフ・スミルノフ検定
    • クラメール・フォン・ミーゼス基準

• 編み込みグラフ
• 折れ線グラフ
• 傾きグラフ
• ギャップチャート

• ホライズングラフ
• 縮小版折れ線グラフ（スモールマルチプル）
• シルエットグラフ
• 円形シルエットグラフ