線形傾向推定

線形傾向推定は、データパターンを分析するために使用される統計手法です。データパターン、つまり傾向は、収集された情報が時間の経過とともに増加または減少する傾向がある場合、または外部要因の変化の影響を受ける場合に発生します。線形傾向推定は、基本的に、データのグラフ上に、データが向かう一般的な方向をモデル化する直線を作成します。

データセットが与えられた場合、データに適合させるために選択できるさまざまな関数があります。最も単純な関数は、従属変数 (通常は測定データ) が垂直軸にあり、独立変数 (多くの場合時間) が水平軸にある直線 です。

最小二乗法は、データに直線を当てはめる一般的な方法です。この方法は、データ系列の二乗誤差の合計を最小化します。一連の時点とそれらの時点で観測されたデータ値が与えられた場合、二乗誤差の合計を最小化するように との値が選択されます。${\displaystyle y}$${\displaystyle t}$${\displaystyle y_{t}}$${\displaystyle {\hat {a}}}$${\displaystyle {\hat {b}}}$

${\displaystyle \sum _{t}\left[y_{t}-\left({\hat {a}}t+{\hat {b}}\right)\right]^{2}}$。

この式は、まず観測データと推定値の差を計算し、各データ ポイントの差を二乗して合計し、誤差の「二乗和」測定値を算出します。データから導出されたおよびの値は、単純な線形推定量をパラメータ化します。「傾向」という用語は、最小二乗推定量の 傾きを指します。${\displaystyle y_{t}}$${\displaystyle ({\hat {a}}t+{\hat {b}})}$${\displaystyle {\hat {a}}}$${\displaystyle {\hat {b}}}$${\displaystyle {\hat {y}}={\hat {a}}x+{\hat {b}}}$${\displaystyle {\hat {a}}}$

データの（時系列）を分析するには、トレンドとノイズの組み合わせとして表現できると想定できます。

${\displaystyle y_{t}=at+b+e_{t}\,}$

ここで、 と は未知の定数で、はランダムに分布する誤差です。誤差が非定常であるという帰無仮説を棄却できる場合、非定常系列は傾向定常と呼ばれます。最小二乗法では、誤差が正規分布で独立に分布していると仮定します。そうでない場合、未知のパラメータとについての仮説検定は不正確になる可能性があります。 がすべて同じ分布になっているのが最も簡単ですが、そうでない場合（一部の分散がより高い場合、つまりそれらのデータポイントの確実性が低い場合）、各ポイントをそのポイントの分散の逆数で重み付けすることで、最小二乗フィッティング中にこれを考慮に入れることができます。 ${\displaystyle a}$${\displaystyle b}$${\displaystyle e}$${\displaystyle \{y_{t}\}}$${\displaystyle a}$${\displaystyle b}$${\displaystyle e}$

通常、分析対象となる時系列が1つだけの場合、の分散は、推定パラメータ値を得るためにトレンドを当てはめることで推定され、予測値は ${\displaystyle e}$${\displaystyle {\hat {a}}}$${\displaystyle {\hat {b}},}$

${\displaystyle {\hat {y}}={\hat {a}}t+{\hat {b}}}$

をデータから減算し（これによりデータのトレンドが除去され）、残差をトレンドが除去されたデータとして残し、残差から の分散を推定します。これは、 の分散を推定する唯一の方法であることがよくあります。 ${\displaystyle y_{t}}$ ${\displaystyle {\hat {e}}_{t}}$${\displaystyle e_{t}}$${\displaystyle e_{t}}$

系列の「ノイズ」がわかれば、トレンド が0 と異ならないという帰無仮説を立てることで、トレンドの有意性を評価できます。分散がわかっているランダム データのトレンドに関する上記の議論から、計算されたトレンドの分布は、ランダム (トレンドのない) データから予測されるものです。推定されたトレンド が、特定の有意水準の臨界値よりも大きい場合、推定されたトレンドはその有意水準でゼロと有意に異なるとみなされ、ゼロの基底トレンドという帰無仮説は却下されます。 ${\displaystyle a}$${\displaystyle {\hat {a}}}$

線形トレンド ラインの使用は批判の対象となっており、モデル推定での使用を避けるための代替アプローチが模索されています。代替アプローチの 1 つに、計量経済学研究における単位根検定と共和分法があります。

時間などの線形傾向変数に関連付けられた推定係数は、1 単位の時間にわたって従属変数に及ぼす多数の未知または既知だが測定不可能な要因の影響の尺度として解釈されます。厳密に言えば、この解釈は推定時間枠にのみ適用されます。この時間枠外では、これらの測定不可能な要因が定性的および定量的にどのように動作するかを判断することはできません。

これらの疑問に対する回答として、数学者、統計学者、計量経済学者、経済学者による研究結果が発表されている。例えば、回帰モデルにおける線形時間トレンドの意味に関する詳細な注釈は、Cameron (2005) に記載されている。^[1] Granger、Engle、および他の多くの計量経済学者は、定常性、単位根検定、共和分、および関連する問題について執筆している（この分野の研究の一部の概要は、スウェーデン王立科学アカデミー (2003) の情報ペーパー^{[2]に記載されている）。また、Ho-Trieu & Tucker (1990) は対数時間トレンドについて執筆しており、線形時間トレンドは}サイクルの特殊なケースであることを示す結果が出ている。

ノイズの多い時系列では、傾向を把握することがより困難になります。たとえば、真の系列が 0、1、2、3 で、すべてに標準偏差Eの独立した正規分布の「ノイズ」 eが加わり、長さ 50 のサンプル系列が与えられた場合、E = 0.1であれば傾向は明らかになります。E = 100 であれば、傾向はおそらく目に見えるでしょう。しかし、E = 10000 であれば、傾向はノイズに埋もれてしまいます。        

具体的な例として、IPCCが発表した過去 140 年間の世界の表面温度記録を考えてみましょう。^[3]年々の変動は約 0.2 °C で、傾向は140 年間で約 0.6 °C、95% 信頼限界は 0.2 °C です (偶然にも、年々の変動とほぼ同じ値です)。したがって、傾向は統計的に 0 とは異なります。ただし、他の箇所で指摘されているように、^[4]この時系列は、最小二乗法が有効になるために必要な仮定に準拠していません。    

最小二乗法によるフィッティング処理では、残差の分散と従属変数の分散の比率から 1 を引いた値、 r 二乗( r ^{2 ) が生成されます。これは、フィッティングされた傾向線によって説明されるデータの分散の割合を示します。これは傾向線の}統計的有意性とは関係ありません(グラフを参照)。傾向の統計的有意性は、t 統計量によって決定されます。多くの場合、系列をフィルタリングするとr ^{2 が}増加しますが、フィッティングされた傾向にはほとんど影響しません。

これまで、データはトレンドとノイズから成り、各データ ポイントのノイズは独立しており、正規分布で同一に分布するランダム変数であると想定されてきました。実際のデータ (気候データなど) は、これらの基準を満たさない場合があります。これは重要なことです。なぜなら、データ シリーズから最大限の情報を引き出すために統計を分析する際の容易さに非常に大きな違いが生じるからです。独立変数と相関関係にある他の非線形効果(周期的影響など) がある場合、トレンドの最小二乗推定の使用は有効ではありません。また、変動が結果として得られる直線トレンドよりも大幅に大きい場合、開始点と終了点の選択によって結果が大幅に変わる可能性があります。つまり、モデルは数学的に誤って指定されています。統計的推論 (トレンドの存在のテスト、トレンドの信頼区間など) は、次のように標準的な仮定からの逸脱が適切に考慮されない限り無効です。

• 依存性: 自己相関時系列は、自己回帰移動平均モデルを使用してモデル化される可能性があります。
• 非定数分散: 最も単純なケースでは、加重最小二乗法が使用される場合があります。
• エラーの非正規分布: 最も単純なケースでは、一般化線形モデルが適用できる可能性があります。
• 単位根：データの1次（または場合によっては2次）差分をとり、差分のレベルはさまざまな単位根検定を通じて特定されます。^[4]

Rでは、「forecast」パッケージの「tslm」関数を使用して、データの線形傾向を推定できます。

医学研究や生物医学研究では、多くの場合、3 つの異なる疾患の臨床的または科学的測定基準など、データ セット間のリンクを特定しようとします。ただし、データは時間的にもリンクされている場合があります (ベースラインから 1 か月目、2 か月目への薬剤の効果の変化など)。また、研究者や被験者によって決定される場合と決定されない場合がある外部要因によってもリンクされている場合があります (痛みなし、軽い痛み、中等度の痛み、激しい痛みなど)。これらの場合、効果の発現に伴って、効果検定統計量 (スタチンのコレステロール値への影響、鎮痛剤の痛みの程度への影響、またはさまざまな強度の薬剤の用量増加が測定可能な指標に与える影響、つまり用量反応効果) が同順に変化することが予想されます。スタチン処方前後のコレステロールの平均値が、ベースラインの 5.6 mmol/Lから 1 か月後に 3.4 mmol/L、2 か月後に 3.7 mmol/L に低下したとします。十分な検出力があれば、分散分析（ANOVA）で1か月と2か月で有意な低下が見つかる可能性は高いが、低下は直線的ではない。さらに、事後検定が必要になるかもしれない。データの性質に応じて、代替検定として反復測定（2元配置）分散分析またはフリードマン検定が用いられるかもしれない。しかし、グループが順序付けられているため、標準的な分散分析は不適切である。コレステロールが5.4から4.1、そして3.7へと低下した場合、明らかな直線的傾向がある。同じ原理が対立遺伝子/遺伝子型頻度の効果にも当てはまり、ヌクレオチドXX、XY、YYの一塩基多型は、実際にはYが0、Yが1つ、そしてYが2つという傾向にあると主張できるかもしれない。^[3]

線形傾向推定の数学は、標準 ANOVA の変形であり、異なる情報を提供します。研究者が検定統計量に傾向効果があると仮定する場合、最も適切な検定となります。1 つの例は、年齢 10 年 (10～19 歳から 60～69 歳まで) 順に並べられた 6 つの被験者グループの血清トリプシンレベルです。トリプシン レベル (ng/mL) は、128、152、194、207、215、218 の直線傾向で上昇します (Altman のデータ)。当然のことながら、「標準」ANOVA ではp  < 0.0001 になりますが、線形傾向推定ではp  = 0.00006 になります。ちなみに、年齢は自然な連続可変指標であるため、10 年ごとに分類すべきではなく、年齢と血清トリプシンの効果は相関関係によって求められる (生のデータが利用可能であると仮定) と合理的に主張できます。さらに別の例として、異なるグループで 4 つの時点で測定された物質があります。

これは明らかな傾向です。 全体的な分散が平均を超えているため、 ANOVA ではp = 0.091 となりますが、線形傾向推定ではp  = 0.012 となります。ただし、同じ個人で 4 つの時点でデータが収集された場合、線形傾向推定は不適切となり、2 元配置 (反復測定) ANOVA が適用されます。

• 推定
• 外挿
• 予測
• 最小二乗法
• 最小二乗スペクトル解析
• ラインフィッティング
• 予測区間
• 回帰分析

• Bianchi, M.; Boyle, M.; Hollingsworth, D. (1999). 「傾向推定のための方法の比較」.応用経済学レター. 6 (2): 103–109. doi :10.1080/135048599353726.
• Cameron, S. (2005) 「回帰分析をより便利にする II」計量経済学メイデンヘッド: McGraw Hill Higher Education pp. 171–198 ISBN 0077104285。
• Chatfield, C. (1993). 「区間予測の計算」.ビジネスおよび経済統計ジャーナル. 11 (2): 121–135. doi :10.1080/07350015.1993.10509938.
• Ho-Trieu, NL; Tucker, J. (1990). 「対数時間トレンドの使用に関するもう一つのメモ」.マーケティングと農業経済のレビュー. 58 (1): 89–90. doi :10.22004/ag.econ.12288.
• Kungl. Vetenskapsakademien (2003)。「時系列計量経済学: 共和分と自己回帰条件付き異分散性」。アルフレッド・ノーベル記念スウェーデン銀行経済学賞に関する詳細情報。スウェーデン王立科学アカデミー。
• Arianos, S.; Carbone, A.; Turk, C. (2011). 「高次移動平均の自己相似性」. Physical Review E. 84 ( 4): 046113. Bibcode :2011PhRvE..84d6113A. doi :10.1103/physreve.84.046113. PMID  22181233.
• アルトマン、DG (1991)。『医学研究のための実践統計学』ロンドン：チャップマン＆ホール。pp. 212–220。ISBN 041227630-5。