設計マトリックス

算術平均の設計行列は、 1 の列 ベクトルです。

このセクションでは、7 つの観測値を用いた単純線形回帰（つまり、単一の説明変数のみを用いた回帰）の例を示します。7 つのデータポイントは { y _i , x _i } で、i  =  1,  2, …, 7 です。単純線形回帰モデルは次のとおりです。

${\displaystyle y_{i}=\beta _{0}+\beta _{1}x_{i}+\varepsilon _{i},\,}$

どこ$\displaystyle \beta _{0}}$はy切片であり、$\displaystyle \beta _{1}}$は回帰直線の傾きです。このモデルは行列形式で次のように表すことができます。

${\displaystyle {\begin{bmatrix}y_{1}\\y_{2}\\y_{3}\\y_{4}\\y_{5}\\y_{6}\\y_{7}\end{bmatrix}}={\begin{bmatrix}1&x_{1}\\1&x_{2}\\1&x_{3}\\1&x_{4}\\1&x_{5}\\1&x_{6}\\1&x_{7}\end{bmatrix}}{\begin{bmatrix}\beta _{0}\\\beta _{1}\end{bmatrix}}+{\begin{bmatrix}\varepsilon _{1}\\\varepsilon _{2}\\\varepsilon _{3}\\\varepsilon _{4}\\\varepsilon _{5}\\\varepsilon _{6}\\\varepsilon _{7}\end{bmatrix}}}$

設計行列の最初の列（すべて1）はy切片の推定値を示し、2番目の列には対応するy値に関連付けられたx値が含まれます。この例では、列が1とxで構成される行列が設計行列です。

このセクションでは、2 つの共変量 (説明変数) wとxを使用した重回帰の例を示します。ここでも、データは 7 つの観測値から構成され、予測される各観測値 (${\displaystyle y_{i}}$）2つの共変量の値w _iとx _iも観測される。検討するモデルは

${\displaystyle y_{i}=\beta _{0}+\beta _{1}w_{i}+\beta _{2}x_{i}+\varepsilon _{i}}$

このモデルは行列の形で次のように表すことができます。

${\displaystyle {\begin{bmatrix}y_{1}\\y_{2}\\y_{3}\\y_{4}\\y_{5}\\y_{6}\\y_{7}\end{bmatrix}}={\begin{bmatrix}1&w_{1}&x_{1}\\1&w_{2}&x_{2}\\1&w_{3}&x_{3}\\1&w_{4}&x_{4}\\1&w_{5}&x_{5}\\1&w_{6}&x_{6}\\1&w_{7}&x_{7}\end{bmatrix}}{\begin{bmatrix}\beta _{0}\\\beta _{1}\\\beta _{2}\end{bmatrix}}+{\begin{bmatrix}\varepsilon _{1}\\\varepsilon _{2}\\\varepsilon _{3}\\\varepsilon _{4}\\\varepsilon _{5}\\\varepsilon _{6}\\\varepsilon _{7}\end{bmatrix}}}$

ここで右側の7×3行列が設計行列です。

このセクションでは、3つのグループと7つの観測値を持つ一元配置分散分析（ANOVA）の例を示します。与えられたデータセットでは、最初の3つの観測値が第1グループに属し、次の2つの観測値が第2グループに属し、最後の2つの観測値が第3グループに属しています。適合させるモデルが各グループの平均である場合、モデルは次のようになります。

${\displaystyle y_{ij}=\mu _{i}+\varepsilon _{ij}}$

これは次のように書くことができる

${\displaystyle {\begin{bmatrix}y_{1}\\y_{2}\\y_{3}\\y_{4}\\y_{5}\\y_{6}\\y_{7}\end{bmatrix}}={\begin{bmatrix}1&0&0\\1&0&0\\1&0&0\\0&1&0\\0&1&0\\0&0&1\\0&0&1\end{bmatrix}}{\begin{bmatrix}\mu _{1}\\\mu _{2}\\\mu _{3}\end{bmatrix}}+{\begin{bmatrix}\varepsilon _{1}\\\varepsilon _{2}\\\varepsilon _{3}\\\varepsilon _{4}\\\varepsilon _{5}\\\varepsilon _{6}\\\varepsilon _{7}\end{bmatrix}}}$

このモデルでは${\displaystyle \mu _{i}}$は、${\displaystyle i}$第 1 グループ。

ANOVAモデルは、各グループパラメータとして同様に記述できます。${\displaystyle \tau _{i}}$全体的な基準からのオフセットです。通常、この基準点は検討対象のグループの1つとされます。これは、複数の治療グループを対照グループと比較する場合に理にかなっており、対照グループは「基準」とみなされます。この例では、グループ1が基準グループとして選択されました。したがって、適合させるモデルは次のようになります。

${\displaystyle y_{ij}=\mu +\tau _{i}+\varepsilon _{ij}}$

制約条件として${\displaystyle \tau _{1}}$ゼロです。

${\displaystyle {\begin{bmatrix}y_{1}\\y_{2}\\y_{3}\\y_{4}\\y_{5}\\y_{6}\\y_{7}\end{bmatrix}}={\begin{bmatrix}1&0&0\\1&0&0\\1&0&0\\1&1&0\\1&1&0\\1&0&1\\1&0&1\end{bmatrix}}{\begin{bmatrix}\mu \\\tau _{2}\\\tau _{3}\end{bmatrix}}+{\begin{bmatrix}\varepsilon _{1}\\\varepsilon _{2}\\\varepsilon _{3}\\\varepsilon _{4}\\\varepsilon _{5}\\\varepsilon _{6}\\\varepsilon _{7}\end{bmatrix}}}$

このモデルでは${\displaystyle \mu }$は参照グループの平均値であり、${\displaystyle \tau _{i}}$グループとの違いは${\displaystyle i}$参照グループへ。${\displaystyle \tau _{1}}$参照グループ（自身）との差が必然的にゼロであるため、マトリックスには含まれません。