デザインマトリックス

統計学、特に回帰分析において、計画行列（モデル行列または回帰行列とも呼ばれ、多くの場合Xで示される）は、一連のオブジェクトの説明変数の値の行列である。各行は個々のオブジェクトを表し、後続の列は変数とそのオブジェクトの特定の値に対応する。計画行列は、一般線型モデルなどの特定の統計モデルで使用されます。^{[1] [2] [3]計画行列には、}分散分析（ANOVA ）のグループメンバーシップを示す指標変数（1と0）を含めたり、連続変数の値を含めたりすることができます。

計画行列には、応答変数（従属変数と呼ばれることが多い）の観測データを説明することを目的とした統計モデルにおける独立変数（説明変数とも呼ばれる）のデータが含まれる。このようなモデルに関連する理論では、計画行列を何らかの線形代数への入力として使用する 。たとえば、線形回帰を参照。計画行列の概念の注目すべき特徴は、分散分析、共分散分析、線形回帰など、さまざまな実験計画や統計モデルを表現できることである。^[要出典]

設計行列は、(の i 番目の行の j 番目の列)^がi番目^のオブジェクト^に関連付けられたj^番目の変数の値を表す行列として定義されます。 ${\displaystyle X}$${\displaystyle X_{ij}}$${\displaystyle X}$

回帰モデルは行列乗算によって次のように表される。

${\displaystyle y=X\beta +e,}$

ここで、Xは設計行列、はモデルの係数のベクトル (変数ごとに 1 つ)、は平均が 0 のランダム誤差のベクトル、y は各オブジェクトの予測出力のベクトルです。 ${\displaystyle \beta}$${\displaystyle e}$

設計行列はn行p列の次元を持ち、nは観測されたサンプルの数、pは全てのサンプルで測定された変数（特徴）の数である。^{[4] [5]}

この表現では、通常、異なる行は実験の異なる繰り返しを表し、列は異なるタイプのデータ (特定のプローブからの結果など) を表します。たとえば、10 人の人々を路上で集めて 4 つの質問をする実験を実行するとします。データ マトリックスM は10×4 マトリックス (つまり、10 行 4 列) になります。このマトリックスの行iと列jのデータは、j^番目の質問に対するi ^番目の人の回答になります。

算術平均の設計行列は1 の列 ベクトルです。

このセクションでは、7つの観測値を持つ単回帰（説明変数が1つだけの回帰）の例を示します。7つのデータポイントは{ y _i , x _i }（i  = 1, 2, …, 7）です。単回帰モデルは

${\displaystyle y_{i}=\beta _{0}+\beta _{1}x_{i}+\varepsilon _{i},\,}$

ここではy切片、 は回帰直線の傾きです。このモデルは行列形式で次のように表すことができます。 ${\displaystyle \beta _{0}}$${\displaystyle \beta _{1}}$

${\displaystyle {\begin{bmatrix}y_{1}\\y_{2}\\y_{3}\\y_{4}\\y_{5}\\y_{6}\\y_{7}\end{bmatrix}}={\begin{bmatrix}1&x_{1}\\1&x_{2}\\1&x_{3}\\1&x_{4}\\1&x_{5}\\1&x_{6}\\1&x_{7}\end{bmatrix}}{\begin{bmatrix}\beta _{0}\\\beta _{1}\end{bmatrix}}+{\begin{bmatrix}\varepsilon _{1}\\\varepsilon _{2}\\\varepsilon _{3}\\\varepsilon _{4}\\\varepsilon _{5}\\\varepsilon _{6}\\\varepsilon _{7}\end{bmatrix}}}$

ここで、計画行列の最初の列の 1 はy切片の推定を可能にし、2 番目の列には対応するy値に関連付けられたx値が含まれます。この例で列が 1 とxである行列が計画行列です。

このセクションでは、2つの共変量（説明変数）wとxを使用した多重回帰の例を示します。ここでも、データは7つの観測値で構成され、予測される各観測値（）に対して、2つの共変量の値w _iとx _iも観測されると仮定します。検討するモデルは ${\displaystyle y_{i}}$

${\displaystyle y_{i}=\beta _{0}+\beta _{1}w_{i}+\beta _{2}x_{i}+\varepsilon _{i}}$

このモデルは行列で次のように表すことができます。

${\displaystyle {\begin{bmatrix}y_{1}\\y_{2}\\y_{3}\\y_{4}\\y_{5}\\y_{6}\\y_{7}\end{bmatrix }}={\begin{bmatrix}1&w_{1}&x_{1}\\1&w_{2} &x_{2}\\1&w_{3}&x_{3}\\1&w_{4}&x_{4}\\1&w_{5}&x_{5}\\1&w_{6}&x_{6}\\1&w_{7} &x_{7}\end{bmatrix}}{\begin{bmatrix}\beta _{0}\\\beta _{1}\\\beta _{2}\end{bmatrix}}+{\begin{bmatrix}\varepsilon _{1}\\\バレプシロン _{2}\\\バレプシロン _{3}\\\バレプシロン _{4}\\\バレプシロン _{5}\\\バレプシロン _{6}\\\バレプシロン _{ 7}\end{bmatrix}}}$

ここで、右側の 7×3 マトリックスが設計マトリックスです。

このセクションでは、3つのグループと7つの観測値を持つ一元配置分散分析（ANOVA）の例を示します。与えられたデータセットには、最初の3つの観測値が第1グループに属し、次の2つの観測値が第2グループに属し、最後の2つの観測値が第3グループに属しています。適合するモデルが各グループの平均だけである場合、モデルは

${\displaystyle y_{ij}=\mu _{i}+\varepsilon _{ij}}$

次のように書くことができる

${\displaystyle {\begin{bmatrix}y_{1}\\y_{2}\\y_{3}\\y_{4}\\y_{5}\\y_{6}\\y_{7}\end{bmatrix }}={\begin{b行列}1&0&0\\1&0&0\\1&0&0\\0&1&0\\0&1&0\\0&0&1\\0&0&1\end{bmatrix}}{\begin{bmatrix}\mu _{1}\\\mu _{2}\\\mu _{3}\end{bmatrix}}+{\begin{bmatrix}\varepsilon _{1}\\\varepsilon _{2}\\\バレプシロン _{3}\\\バレプシロン _{4}\\\バレプシロン_{5}\\\varepsilon _{6}\\\varepsilon _{7}\end{bmatrix}}}$

このモデルでは番目のグループの平均を表します。 ${\displaystyle \mu_{i}}$${\displaystyle i}$

ANOVA モデルは、各グループ パラメータが全体的な基準からのオフセットであると同等に記述できます。通常、この基準点は、検討中のグループの 1 つとみなされます。これは、複数の治療グループをコントロール グループと比較するコンテキストでは意味があり、コントロール グループが「基準」と見なされます。この例では、グループ 1 が基準グループとして選択されました。したがって、適合するモデルは次のようになります。 ${\displaystyle \tau_{i}}$

${\displaystyle y_{ij}=\mu +\tau _{i}+\varepsilon _{ij}}$

制約はゼロです。 ${\displaystyle \tau_{1}}$

${\displaystyle {\begin{bmatrix}y_{1}\\y_{2}\\y_{3}\\y_{4}\\y_{5}\\y_{6}\\y_{7}\end{bmatrix}}={\begin{bmatrix}1&0&0\\1&0&0\\1&0&0\\1&1&0\\1&1&0\\1&0&1\\1&0&1\end{bmatrix}}{\begin{bmatrix}\mu \\\tau _{2}\\\tau _{3}\end{bmatrix}}+{\begin{bmatrix}\varepsilon _{1}\\\varepsilon _{2}\\\varepsilon _{3}\\\varepsilon _{4}\\\varepsilon _{5}\\\varepsilon _{6}\\\varepsilon _{7}\end{bmatrix}}}$

このモデルでは、 は参照グループの平均であり、はグループ間の参照グループ間の差です。は、参照グループ（自体）との差が必然的にゼロであるため、マトリックスには含まれません 。${\displaystyle \mu }$${\displaystyle \tau _{i}}$${\displaystyle i}$${\displaystyle \tau _{1}}$

• モーメント行列
• 投影行列
• ヤコビ行列と行列式
• 散布図マトリックス
• グラム行列
• ヴァンデルモンド行列

• Verbeek, Albert (1984)。「回帰におけるモデル選択の幾何学」。Dijkstra, Theo K. (編) 。Misspecification Analysis。ニューヨーク: Springer。pp.  20– 36。ISBN 0-387-13893-5。