一般線形モデル

一般線形モデルまたは一般多変量回帰モデルは、複数の重回帰モデルを同時に記述する簡潔な方法です。その意味では、独立した統計的線形モデルではありません。さまざまな重回帰モデルは、 ^{[ 1 ]}のように簡潔に記述できます。

${\displaystyle \mathbf {Y} =\mathbf {X} \mathbf {B} +\mathbf {U} ,}$

ここで、Yは多変量測定値の系列を含む行列(各列は従属変数の 1 つに関する測定値のセット)、Xは独立変数に関する観測値の行列(設計行列である可能性がある) (各列は独立変数の 1 つに関する観測値のセット)、Bは通常推定されるパラメータを含む行列、Uは誤差(ノイズ)を含む行列です。誤差は通常、測定値間で無相関であり、多変量正規分布に従うと仮定されます。誤差が多変量正規分布に従わない場合は、一般化線形モデルを使用してYとUに関する仮定を緩和することができます。

一般線形モデル（GLM）は、 ANOVA、ANCOVA、MANOVA、MANCOVA、および通常の線形回帰など、いくつかの統計モデルを包含します。この枠組み内では、t検定とF検定の両方を適用できます。一般線形モデルは、従属変数が複数ある場合の多重線形回帰の一般化です。Y 、B 、およびUが列ベクトルである場合、上記の行列方程式は多重線形回帰を表します。

一般線形モデルを用いた仮説検定は、多変量検定と複数の独立した単変量検定の2つの方法で行うことができます。多変量検定ではYの列がまとめて検定されますが、単変量検定ではYの列が独立して検定されます。つまり、同じ設計行列を用いた複数の単変量検定として行われます。

重回帰分析は、独立変数が複数ある場合の単純回帰分析の一般化であり、従属変数が1つに限定された一般線形モデルの特殊なケースです。重回帰分析の基本モデルは次のとおりです。

${\displaystyle Y_{i}=\beta _{0}+\beta _{1}X_{i1}+\beta _{2}X_{i2}+\ldots +\beta _{p}X_{ip}+\epsilon _{i}}$またはより簡潔に${\displaystyle Y_{i}=\beta _{0}+\sum \limits _{k=1}^{p}{\beta _{k}X_{ik}}+\epsilon _{i}}$

各観測値i = 1, ... , nについて。

上記の式では、 1つの従属変数のn個の観測値とp個の独立変数を考慮します。したがって、Y _iは従属変数のi^{番目の観測値、} X _ikはk^{番目の独立変数の}i^番目の観測値であり、k = 1, 2, ..., pです。βkの値は推定されるパラメータを表し、ε _iはi^番目の独立同分布正規誤差です。

より一般的な多変量線形回帰では、同じ説明変数セットを共有し、したがって互いに同時に推定されるm > 1個の従属変数それぞれに対して、上記のような形式の式が1つ存在します。

${\displaystyle Y_{ij}=\beta _{0j}+\beta _{1j}X_{i1}+\beta _{2j}X_{i2}+\ldots +\beta _{pj}X_{ip}+\epsilon _{ij}}$またはより簡潔に${\displaystyle Y_{ij}=\beta _{0j}+\sum \limits _{k=1}^{p}{\beta _{kj}X_{ik}}+\epsilon _{ij}}$

i = 1, ..., nとインデックス付けされたすべての観測値と、 j = 1 , ... , mとインデックス付けされたすべての従属変数について。

なお、各従属変数にはそれぞれ適合させるべき回帰パラメータのセットがあるため、計算上の観点から見ると、一般的な多変量回帰は、同じ説明変数を用いた一連の標準的な重回帰分析に過ぎません。

一般線形モデルと一般化線形モデル（GLM）^{[ 2 ] [ 3 ]}は、連続的および/またはカテゴリカルな予測変数の数を単一の結果変数に関連付けるために一般的に使用される2つの統計的手法です。

2 つのアプローチの主な違いは、一般線形モデルでは残差が条件付き正規分布に従うことを厳密に仮定しているのに対し^{[ 4 ]}、GLM ではこの仮定を緩めて、残差に対して指数族からのさまざまな他の分布を許容している点です^{[ 2 ]} 。一般線形モデルは、残差の分布が条件付き正規分布に従う GLM の特殊なケースです。

残差の分布は、結果変数の種類と分布に大きく依存します。結果変数の種類が異なると、GLMファミリー内のモデルも多様になります。GLMファミリーで一般的に使用されるモデルには、二値または二分法の結果に対する二項ロジスティック回帰^{[ 5 ]} 、カウント結果に対するポアソン回帰^{[ 6 ]} 、連続的で正規分布する結果に対する線形回帰などがあります。つまり、GLMは統計モデルの一般的なファミリーとして、あるいは特定の結果タイプに対する特定のモデルとして捉えることができます。

一般線形モデルの応用例として、科学実験における複数の脳スキャンの解析が挙げられます。この場合、 Yには脳スキャナーからのデータ、Xには実験計画変数と交絡因子が含まれます。通常、単変量法（この設定では一般的にマス単変量法と呼ばれる）で検定され、統計的パラメトリックマッピングと呼ばれることがよくあります。^{[ 12 ]}

• ベイズ多変量線形回帰
• F検定
• t検定

• クリステンセン、ロナルド（2020）。複雑な問題への平面的な解答：線形モデルの理論（第5 版）。ニューヨーク：スプリンガー。ISBN 978-3-030-32096-6。
• ウィチュラ、マイケル・J. (2006).線形モデルへの座標フリーアプローチ. ケンブリッジ統計・確率数学シリーズ. ケンブリッジ：ケンブリッジ大学出版局.  xiv+199頁. ISBN 978-0-521-86842-6MR 2283455 .​ 
• ローリングス、ジョン・O.、パントゥラ、サストリー・G.、ディッキー、デイビッド・A. 編 (1998).応用回帰分析. Springer Texts in Statistics. doi : 10.1007/b98890 . ISBN 0-387-98454-2。

• 一般線形モデル：データ駆動型意思決定のための実践ガイド