回帰希釈

回帰希釈は回帰減衰とも呼ばれ、独立変数の誤差によって引き起こされる、線形回帰の傾きのゼロへの偏り（絶対値の過小評価）です。

結果変数yと予測変数xの関係に直線を当てはめ、その直線の傾きを推定することを検討してください。y変数の統計的変動、測定誤差、またはランダム ノイズは、推定された傾きに不確実性をもたらしますが、バイアスは生じません。平均的には、この手順では正しい傾きが計算されます。ただし、x変数の変動、測定誤差、またはランダム ノイズは、推定された傾きにバイアス (および不正確さ) をもたらします。x測定の変動が大きいほど、推定された傾きは真の値ではなくゼロに近づく必要があります。

予測変数xのノイズはバイアスを誘発するが、結果変数yのノイズはバイアスを誘発しないというのは直感に反するように思えるかもしれない。線形回帰は対称ではないことを思い出してほしい。つまり、xからy を予測するための最適な直線 (通常の線形回帰) は、 yからx を予測するための最適な直線と同じではない。^[1]

回帰傾きおよびその他の回帰係数は、次のように減衰させることができます。

xが固定されているがノイズを伴って測定される場合は、機能モデルまたは機能関係として知られています。^[2]これは、総最小二乗法^[3]と一般的な変数誤差モデル を使用して修正できます。

x変数がランダムに発生するケースは、構造モデルまたは構造関係として知られています。たとえば、医学研究では、患者が母集団からサンプルとして募集され、血圧などの特性はランダムサンプルから発生したものと見なすことができます。

特定の仮定（通常は正規分布の仮定）の下では、真の傾きと予想される推定傾きの間には既知の比率があります。Frost と Thompson (2000) は、この比率を推定し、推定傾きを修正するためのいくつかの方法をレビューしています。 ^[4]回帰希釈率 という用語は、すべての著者によってまったく同じ方法で定義されているわけではありませんが、この一般的なアプローチに対して使用されています。このアプローチでは、通常の線形回帰が当てはめられ、次に修正が適用されます。Longford (2001) による Frost と Thompson への返答では、回帰モデルを拡張して x 変数の変動性を認識し、バイアスが生じないようにする他の方法を読者に紹介しています。^[5] Fuller (1987) は、回帰希釈の評価と修正に関する標準的な参考文献の 1 つです。^[6]

ヒューズ（1993）は、回帰希釈比法が生存モデルに近似的に適用されることを示している。 ^[7] ロスナー（1992）は、比率法がロジスティック回帰モデルに近似的に適用されることを示している。^{[8]キャロルら（1995）は、非線形モデルにおける回帰希釈についてより詳細に説明し、回帰希釈比法を、追加の共変量を組み込むこともできる}回帰較正法 の最も単純なケースとして提示している。^[9]

一般的に、構造モデルの手法では、x 変数の変動性についてある程度の推定が必要です。これには、メイン データ セットのサブ スタディまたは別のデータ セットで、同じ個人における x 変数の繰り返し測定が必要になります。この情報がなければ、修正を行うことはできません。

変動性のある複数の予測変数（おそらく相関関係にある）のケースは、線型回帰や一部の非線型回帰モデルで十分に研究されてきた。 ^{[6] [9]}生存分析のための比例ハザードモデル などの他の非線型モデルは、変動性のある単一の予測変数のみで検討されてきた。^[7]

チャールズ・スピアマンは1904年に回帰希釈の相関を修正する手順を開発しました^{[10]。つまり、「}相関係数から測定誤差の弱めの影響を取り除く」手順です^{[11] 。}

計測と統計学では、この手順は相関の減衰または相関の減衰とも呼ばれます。^[12] この補正により、 2つの変数セット間のデータ単位（たとえば、人）間のピアソン相関係数が、それらの変数の測定に含まれる誤差を考慮した方法で推定されることが保証されます。^[13]

とをある人物または統計単位の2つの属性の真の値とします。これらの値は、母集団内の異なる統計単位ごとに異なるという仮定により変数となります。とを、誤差を含む観測によって直接、またはRaschモデルなどの測定モデルの適用によって得られた、およびの推定値 とします。また、とします。 ${\displaystyle \beta}$${\displaystyle \theta}$${\displaystyle {\hat {\beta }}}$${\displaystyle {\hat {\theta }}}$${\displaystyle \beta}$${\displaystyle \theta}$

${\displaystyle {\hat {\beta }}=\beta +\epsilon _{\beta },\quad \quad {\hat {\theta }}=\theta +\epsilon _{\theta },}$

ここで、 および は推定値およびに関連する測定誤差です。 ${\displaystyle \epsilon _{\beta }}$${\displaystyle \epsilon _{\theta }}$${\displaystyle {\hat {\beta }}}$${\displaystyle {\hat {\theta }}}$

2つの推定値間の相関関係は

${\displaystyle \operatorname {corr} ({\hat {\beta }},{\hat {\theta }})={\frac {\operatorname {cov} ({\hat {\beta }},{\hat {\theta }})}{{\sqrt {\operatorname {var} [{\hat {\beta }}]\operatorname {var} [{\hat {\シータ }}}}]}}}$

${\displaystyle ={\frac {\operatorname {cov} (\beta +\epsilon _{\beta },\theta +\epsilon _{\theta })}{\sqrt {\operatorname {var} [\beta + \epsilon _{\beta }]\operatorname {var} [\theta +\epsilon _{\theta }]}}},}$

これは、誤差が互いに無相関であり、真の属性値とも無相関であると仮定すると、

${\displaystyle \operatorname {corr} ({\hat {\beta }},{\hat {\theta }})={\frac {\operatorname {cov} (\beta ,\theta )}{\sqrt {(\operatorname {var} [\beta ]+\operatorname {var} [\epsilon _{\beta }])(\operatorname {var} [\theta ]+\operatorname {var} [\epsilon _{\theta }])}}}}$

${\displaystyle ={\frac {\operatorname {cov} (\beta ,\theta )}{\sqrt {(\operatorname {var} [\beta ]\operatorname {var} [\theta ])}}}.{\frac {\sqrt {\operatorname {var} [\beta ]\operatorname {var} [\theta ]}}{\sqrt {(\operatorname {var} [\beta ]+\operatorname {var} [\epsilon _{\beta }])(\operatorname {var} [\theta ]+\operatorname {var} [\epsilon _{\theta }])}}}}$

${\displaystyle =\rho {\sqrt {R_{\beta }R_{\theta }}},}$

ここで、 はの推定値の集合の分離指数であり、これはクロンバックのアルファに類似しています。つまり、古典的な検定理論では、は信頼性係数に類似しています。具体的には、分離指数は次のように与えられます。 ${\displaystyle R_{\beta }}$${\displaystyle \beta }$${\displaystyle R_{\beta }}$

${\displaystyle R_{\beta }={\frac {\operatorname {var} [\beta ]}{\operatorname {var} [\beta ]+\operatorname {var} [\epsilon _{\beta }]}}={\frac {\operatorname {var} [{\hat {\beta }}]-\operatorname {var} [\epsilon _{\beta }]}{\operatorname {var} [{\hat {\beta }}]}},}$

ここで、人の平均二乗標準誤差推定値は、誤差の分散の推定値を与えます。標準誤差は通常、推定プロセスの副産物として生成されます（Raschモデル推定を参照）。 ${\displaystyle \epsilon _{\beta }}$

したがって、2つのパラメータ推定値間の相関の減衰推定値は、

${\displaystyle \rho ={\frac {{\mbox{corr}}({\hat {\beta }},{\hat {\theta }})}{\sqrt {R_{\beta }R_{\theta }}}}.}$

つまり、減衰相関推定値は、推定値間の相関を2 つの推定値セットの分離指標の幾何平均で割ることによって得られます。古典的なテスト理論で表現すると、相関は 2 つのテストの信頼性係数の幾何平均で割られます。

2つのランダム変数 とが、それぞれ測定された相関と既知の信頼性、およびで測定されると、減衰補正されたと の間の推定相関は次のようになる。${\displaystyle X^{\prime }}$${\displaystyle Y^{\prime }}$${\displaystyle X}$${\displaystyle Y}$ ${\displaystyle r_{xy}}$${\displaystyle r_{xx}}$${\displaystyle r_{yy}}$${\displaystyle X^{\prime }}$${\displaystyle Y^{\prime }}$

${\displaystyle r_{x'y'}={\frac {r_{xy}}{\sqrt {r_{xx}r_{yy}}}}}$。

変数がどれだけ正確に測定されるかは、XとYの相関に影響します。減衰の補正は、X′とY′ を完全な信頼性で測定できる場合に予想される推定相関を示します。

したがって、 および が、独立した誤差を伴う基礎変数の不完全な測定値であるとみなされる場合、 はとの間の真の相関を推定します。 ${\displaystyle X}$${\displaystyle Y}$${\displaystyle X'}$${\displaystyle Y'}$${\displaystyle r_{x'y'}}$${\displaystyle X'}$${\displaystyle Y'}$

回帰係数に基づく統計的推論では、回帰希釈の補正が必要です。ただし、予測モデリングアプリケーションでは、補正は不要であり、適切でもありません。変化検出では、補正が必要です。

これを理解するには、測定誤差を次のように考えます。yを結果変数、x を真の予測変数、w をxのおおよその観測値とします。Frost と Thompson は、たとえばx は患者の真の長期血圧、w は特定の診療所訪問時に観測された血圧である可能性があると示唆しています。^{[4]回帰希釈は、} yとx の関係に関心があるが、 yとwの関係を推定する場合に発生します。w は変動性を持って測定されるため、 yのwに対する回帰線の傾きは、yのxに対する回帰線よりも小さくなります。標準的な方法では、 y の w に対する回帰をバイアスなしで当てはめることができます。バイアスが存在するのは、 y の w に対する回帰を y の x に対する回帰の近似値として使用する場合のみです。この例では、血圧測定値が将来の患者でも同様に変動すると仮定すると、 y の w (観測された血圧) に対する回帰線はバイアスのない予測値を与えます。

修正が望まれる状況の一例として、変化の予測が挙げられます。ある新しい状況下でのxの変化がわかっているとします。結果変数yの起こりうる変化を推定するには、 yのwに対する回帰の傾きではなく、 yのxに対する回帰の傾きが必要です。これは疫学で発生します。 x が血圧を表す例を続けると、大規模な臨床試験で、新しい治療下での血圧の変化の推定値が得られている可能性があります。その場合、新しい治療下でのyへの可能性のある影響は、 yのxに対する回帰の傾きから推定する必要があります。

もう一つの状況は、将来の観測値も変動するが、（上記のフレーズで言うところの）「同様に変動する」わけではない予測モデリングである。例えば、現在のデータセットに、臨床現場で一般的に行われているよりも高い精度で測定された血圧値が含まれている場合である。この具体的な例の 1 つは、臨床現場で血圧値が通常 1 回の測定で済むのに、臨床試験に基づいて回帰方程式を開発する際に生じた。この回帰方程式では、血圧値は 6 回の測定の平均であった。^[14]

これらすべての結果は、正規分布を前提とした単純な線形回帰の場合、数学的に表すことができます(Frost & Thompson のフレームワーク)。

回帰希釈の補正が適切に行われなかった場合、特に基礎となる仮定を確認せずに行われた場合、補正を行わない場合よりも推定値に大きな損害を与える可能性があることが議論されている。^[15]

回帰希釈法は、スピアマン（1904）によって減衰という名前で初めて言及されました。 ^[16] 読みやすい数学的説明を求める人は、フロストとトンプソン（2000）から始めるとよいでしょう。^[4]

• 変数エラーモデル
• 量子化（信号処理） - 説明変数または独立変数における一般的なエラーの原因