回帰検証

統計学において、回帰検証とは、回帰分析から得られた変数間の仮説関係を定量化する数値結果が、データの説明として受け入れられるかどうかを判断するプロセスです。検証プロセスには、回帰の適合度の分析、回帰残差がランダムであるかどうかの分析、モデル推定に使用されなかったデータに適用した場合にモデルの予測性能が大幅に低下するかどうかの確認が含まれます。

適合度を測る 1 つの指標は決定係数で、R ²と表記されることが多い。切片のある通常の最小二乗法では、この範囲は 0 から 1 の間である。ただし、 R ^{2 が}1 に近いからといって、モデルがデータに適合していることが保証されるわけではない。たとえば、モデルの関数形式がデータと一致しない場合、モデルの適合度が低いにもかかわらずR ²が高くなることがある。Anscombe のカルテットは、R ²値が同様に高い 4 つのデータ セットの例から構成されるが、そのデータは明らかに回帰直線に適合しないことがある。代わりに、データ セットには外れ値、てこ比の高いポイント、または非線形性が含まれる。

モデルの妥当性の尺度としてのR ²の問題の 1 つは、モデルに変数を追加することで R 2 が常に増加する可能性があることです。ただし、追加した変数が、使用されているデータ サンプル内の従属変数とまったく相関していないというまれなケースを除きます。この問題は、R ²の増加の統計的有意性のF テストを実行するか、代わりに調整されたR 2 を使用することで回避できます。

適合モデルの残差は、説明変数の値の各組み合わせで観測された応答と、回帰関数を使用して計算された対応する応答の予測との間の差である。数学的には、データセットのi^番目の観測値に対する残差の定義は次のように記述される。

${\displaystyle e_{i}=y_{i}-f(x_{i};{\hat {\beta }}),}$

ここで、y _{i は}データ セット内のi^番目の応答を表し、 x _{i は}説明変数のベクトルで、各変数はデータ セット内の i^{番目の観測値で見つかった対応する値に設定されます。}

データへのモデルの適合が正しければ、残差は、説明変数と応答変数の関係を統計的関係にするランダム誤差に近似することになります。したがって、残差がランダムに動作しているように見える場合、モデルがデータによく適合していることを示します。一方、残差に非ランダムな構造が見られる場合、それはモデルがデータにうまく適合していないことを明確に示しています。次のセクションでは、モデルのさまざまな側面をテストするために使用するプロットの種類について詳しく説明し、各プロットの種類で観察される可能性のあるさまざまな結果の正しい解釈を示します。

モデルが不適切になる問題をチェックする基本的な方法は、定量的に正確ではありませんが、残差 (モデルの定量化に使用されるデータの予測ミス) を視覚的に検査して、ランダム性からの明らかな逸脱を探すことです。視覚的な検査で、たとえば、異分散性(モデル エラーの分散と独立変数の観測値のサイズの関係) が存在する可能性があることが示唆された場合、統計テストを実行してこの推測を確認または拒否できます。確認された場合は、異なるモデリング手順が必要になります。

適合モデルの残差のさまざまな種類のプロットは、モデルのさまざまな側面の妥当性に関する情報を提供します。

1. モデルの機能部分の十分性：残差と予測変数の散布図
2. データ全体にわたる非一定変動:残差と予測変数の散布図。時間の経過とともに収集されたデータの場合は、残差と時間のプロットも表示されます。
3. エラーのドリフト（時間の経過と共に収集されたデータ）：応答とエラーの時間経過に対する実行チャート
4. 誤差の独立性:ラグプロット
5. 誤差の正規性:ヒストグラムと正規確率プロット

グラフィカルな手法は、モデルとデータの関係のさまざまな複雑な側面を容易に図示できるため、モデル検証においては数値的な手法よりも優れています。

数値的手法もモデル検証において重要な役割を果たします。たとえば、モデルの機能部分の正確さを評価するための不適合性検定は、境界残差プロットの解釈に役立ちます。数値的検証手法がグラフィカル手法よりも優先される一般的な状況の 1 つは、推定されるパラメータの数がデータ セットのサイズに比較的近い場合です。このような状況では、未知のパラメータの推定によって課される残差の制約により、残差プロットの解釈が困難になることがよくあります。これが典型的に発生する領域の 1 つは、計画実験を使用する最適化アプリケーションです。バイナリ データを使用したロジスティック回帰は、グラフィカル残差分析が困難なもう 1 つの領域です。

残差の連続相関はモデルの誤指定を示す可能性があり、ダービン・ワトソン統計量で確認できます。不均一分散の問題は、いくつかの方法で確認できます。

クロス検証は、統計分析の結果が独立したデータ セットにどのように一般化されるかを評価するプロセスです。モデルが利用可能なデータの一部 (すべてではない) に対して推定されている場合、推定されたパラメータを使用するモデルを使用して、保留されたデータを予測できます。たとえば、サンプル外平均二乗誤差(平均二乗予測誤差とも呼ばれます) がサンプル内平均二乗誤差よりも大幅に高い場合、これはモデルに欠陥があることを示しています。

医療統計学の発展は、メタ分析におけるサンプル外クロスバリデーション技術の使用である。これは、メタ分析の要約推定値の統計的妥当性をテストするために使用される検証統計量 Vnの基礎となる。本質的には、これは正規化された予測誤差の一種を測定し、その分布は次数 1 のχ ²変数の線形結合である。^[1]

• すべてのモデルは間違っている
• モデルの選択
• 予測エラー
• 予測区間
• 再サンプリング（統計）
• 統計的結論の妥当性
• 統計モデルの仕様
• 統計モデルの検証
• 妥当性（統計）
• 決定係数
• 不適合平方和
• 縮小カイ二乗

• Arboretti Giancristofaro, R.; Salmaso , L. (2003)、「ロジスティック回帰におけるモデルパフォーマンス分析とモデル検証」、Statistica、63 : 375–396
• クメンタ、ヤン（1986）、計量経済学の要素（第2版）、マクミラン、  pp.593-600; 1997年にミシガン大学出版局から再出版

• モデルがデータに適合するかどうかはどうすればわかりますか? (NIST)
• NIST/SEMATECH 統計手法の電子ハンドブック
• モデル診断 (エバリー科学大学)

 この記事には、国立標準技術研究所の パブリックドメイン資料が組み込まれています。