スパイク・アンド・スラブ回帰

スパイク・アンド・スラブ回帰はベイズ線形回帰の一種で、回帰係数の特定の階層的事前分布が選択され、可能な回帰変数のサブセットのみが保持される。この手法は、可能な予測変数の数が観測数よりも多い場合に特に有用である。^[1]スパイク・アンド・スラブモデルのアイデアは、Mitchell & Beauchamp (1988) によって最初に提案された。^{[2]このアプローチは、Madigan & Raftery (1994) [3]}および George & McCulloch (1997)によってさらに大幅に発展した。 ^[4]この文献への最近の重要な貢献は、Ishwaran & Rao (2005) である。^[5]

あるモデルにP個の予測変数があるとします。ベクトルγの長さはPで、0 と 1 で構成されます。このベクトルは、特定の変数が回帰分析に含まれているかどうかを示します。特定の変数の初期包含確率に関する事前情報がない場合は、ベルヌーイ事前分布が一般的なデフォルトの選択肢です。^[6]予測変数が回帰分析に含まれていることを条件として、その変数 ( β )に対応するモデル係数の事前分布を特定します。このステップでよく選択されるのは、平均が 0 で、( はモデルの説明変数の設計行列) に基づいて計算された大きな分散を持つ正規事前分布を使用することです。 ^[7]${\displaystyle (X^{T}X)^{-1}}$${\displaystyle X}$

事前分布からのγの抽出は、回帰に含まれる変数のリストです。この選択された変数のセットを条件として、回帰係数の事前分布から抽出します（γ _i = 1 の場合はβ _i ≠ 0 で、γ _i = 0の場合はβ _i = 0 です）。βγ は、 γ _i = 1となるβのサブセットを表します。次のステップでは、標準的な統計手順を適用して、包含と係数の両方の事後確率を計算します。 ^[8]説明したアルゴリズムのすべてのステップは、マルコフ連鎖モンテカルロ（MCMC）手法を使用して何千回も繰り返されます。その結果、γ（モデルへの変数の包含）、β （回帰係数値）および対応するyの予測の事後分布が得られます。

このモデルは、2 つの事前分布の形状から、スパイクとスラブという名前が付けられました。「スパイク」は、モデル内の特定の係数がゼロになる確率です。「スラブ」は、回帰係数値の事前分布です。

ベイズ変数選択法の利点は、モデルに関する事前知識を利用できることです。そのような知識がない場合、いくつかの妥当なデフォルト値を使用できます。スコットとバリアン (2013) を引用すると、「妥当な仮定を犠牲にして単純さを好む分析者にとって、有用な事前情報は、予想されるモデル サイズ、予想されるR ^{2 、および}R ²での推測に与えられる重みを決定するサンプル サイズνにまで削減できます。」^[6]一部の研究者は、次のデフォルト値を提案しています。R 2 = 0.5、ν = 0.01、およびπ = 0.5 (事前ベルヌーイ分布のパラメーター)。^[6]

• ベイズモデルの平均化
• ベイズ構造時系列
• 投げ縄

• Congdon, Peter D. (2020)。「階層的事前分布を用いた回帰分析手法」。ベイジアン階層モデル（第2版）。ボカラトン：CRC Press。253～315ページ。ISBN 978-1-03-217715-1。