統計モデルの仕様

統計学において、モデルの仕様は統計モデル構築プロセスの一部です。仕様とは、モデルに適した関数形式を選択し、どの変数を含めるかを選択することです。例えば、個人の所得が与えられた場合、${\displaystyle y}$長年の教育と併せて${\displaystyle s}$実務経験${\displaystyle x}$関数関係を指定するかもしれない${\displaystyle y=f(s,x)}$以下のとおりです。^{[ 1 ]}

${\displaystyle \ln y=\ln y_{0}+\rho s+\beta _{1}x+\beta _{2}x^{2}+\varepsilon }$

どこ${\displaystyle \varepsilon }$は、独立同分布のガウス変数から構成されると想定される、説明のつかない誤差項です。

統計学者のサー・デイビッド・コックスは、「主題の問題から統計モデルへの変換がどのように行われるかは、分析において最も重要な部分であることが多い」と述べている。^{[ 2 ]}

仕様誤差は、関数形式や独立変数の選択が、真のデータ生成過程の関連側面を適切に表現していない場合に発生します。特に、バイアス（推定パラメータと真の基礎値との差の期待値）は、独立変数が基礎過程に内在する誤差と相関している場合に発生します。仕様誤差にはいくつかの異なる原因が考えられます。以下にその一部を示します。

• 不適切な関数形式が用いられる可能性がある。
• モデルから省略された変数は、従属変数と1つ以上の独立変数の両方と関係を持つ可能性がある（省略変数バイアスを引き起こす）。^{[ 3 ]}
• 無関係な変数がモデルに含まれている場合がある（これはバイアスを生み出すわけではないが、過学習を引き起こし、予測性能の低下につながる可能性がある）。
• 従属変数は、連立方程式の一部である可能性があり（同時性バイアスが生じる）、

さらに、測定誤差は独立変数に影響を与える可能性があります。これは仕様上の誤差ではありませんが、統計的な偏りを生じさせる可能性があります。

すべてのモデルには何らかの仕様エラーがあることに注意してください。実際、統計学には「すべてのモデルは間違っている」 という格言があります。バーナムとアンダーソンの言葉を借りれば、

「モデリングは科学であると同時に芸術でもあり、統計的推論の基礎となる良い近似モデルを見つけることを目指している。」^{[ 4 ]}

モデルを構築するには、データを生成するプロセスを表す一連の関係性を見つける必要があります。そのためには、上述したような誤った仕様の原因をすべて回避しなければなりません。

一つのアプローチは、データ生成過程の理論的理解に基づいた一般形式のモデルから始めることです。次に、そのモデルをデータに適合させ、統計モデル検証と呼ばれる作業において、様々な誤指定の原因を検証します。そして、理論的理解に基づいてモデルを修正することで、理論的妥当性を維持しつつ誤指定の原因を取り除くことができます。しかし、データに適合する理論的に許容可能な仕様を見つけることが不可能であることが判明した場合、その理論モデルは却下され、別のモデルに置き換えられる必要があるかもしれません。

ここでカール・ポパーの次の言葉が適切である。「ある理論が唯一可能な理論であるように思えるときはいつでも、それはあなたがその理論も、それが解決しようとした問題も理解していないという兆候だと考えなさい。」^{[ 6 ]}

モデル構築のもう一つのアプローチは、複数の異なるモデルを候補として指定し、それらの候補モデルを相互に比較することです。比較の目的は、どの候補モデルが統計的推論に最も適しているかを判断することです。モデルを比較するための一般的な基準には、R²、ベイズ^因子、尤度比検定とその一般化相対尤度などがあります。このトピックの詳細については、「統計モデルの選択」を参照してください。

• 赤池博嗣（1994）「統計科学の発展における情報論的観点の意義」、H. Bozdogan編『統計モデリングの最前線に関する第1回日米会議議事録：情報論的アプローチ―第3巻』、Kluwer Academic Publishers、pp. 27–38 。
• アステリウ、ディミトリオス、ホール、スティーブン G. (2011). 「誤った仕様：間違った回帰変数、測定誤差、間違った関数形式」。応用計量経済学（第 2 版）。パルグレイブ マクミラン。pp. 172–197。 
• Colegrave, N.; Ruxton, GD (2017). "統計モデルの仕様と検出力: 実験データの分析における検定適格プーリングの使用に関する推奨事項" . Proceedings of the Royal Society B. 284 ( 1851) 20161850. doi : 10.1098/rspb.2016.1850 . PMC 5378071. PMID 28330912 .  
• Gujarati, Damodar N. ; Porter, Dawn C. (2009). "計量経済学モデリング：モデル仕様と診断テスト".基礎計量経済学（第5 版）. McGraw-Hill/Irwin . pp. 467–522 . ISBN  978-0-07-337577-9。
• ハレル、フランク（2001）、『回帰モデリング戦略』、スプリンガー。
• クメンタ、ヤン（ 1986）。計量経済学の基礎（第2 版）。ニューヨーク：マクミラン出版。442-455頁。ISBN  0-02-365070-2。
• Lehmann, EL (1990). "モデル仕様: フィッシャーとネイマンの見解、およびその後の発展" . Statistical Science . 5 (2): 160– 168. doi : 10.1214/ss/1177012164 .
• MacKinnon, James G. (1992). 「モデル仕様検定と人工回帰」. Journal of Economic Literature . 30 (1): 102–146 . JSTOR 2727880 . 
• Maddala, GS ; Lahiri, Kajal (2009). 「診断チェック、モデル選択、仕様検定」『計量経済学入門』 （第4 版）. Wiley . pp. 401–449 . ISBN  978-0-470-01512-4。
• Sapra, Sunil (2005). "一般化線形モデルのための回帰誤差仕様検定（RESET）" (PDF) . Economics Bulletin . 3 (1): 1– 6.