分散分析(ANOVA )は、分散を分析することによって2つ以上のグループの平均値を比較するために使用される統計的手法のファミリーです。具体的には、ANOVAはグループ平均間の変動量と各グループ内の変動量を比較します。グループ間の変動がグループ内の変動よりも大幅に大きい場合、グループ平均が異なる可能性が高いことを示唆します。この比較はF検定を使用して行われます。ANOVAの基本的な原理は、データセット内の総分散はさまざまな原因に起因する成分に分解できるという総分散の法則に基づいています。ANOVAの場合、これらの原因はグループ間の変動とグループ内の変動です。
ANOVAは統計学者のロナルド・フィッシャーによって開発された。最も単純な形では、2つ以上の母平均が等しいかどうかを統計的に検定するものであり、したがってt検定を2つ以上の平均値に拡張したものである。
分散分析は 20 世紀に完成しましたが、その前身はスティグラーによれば何世紀も前に遡ります。[ 1 ]これらには仮説検定、平方和の分割、実験技術、加法モデルが含まれます。ラプラスは1770 年代に仮説検定を行っていました。[ 2 ] 1800 年頃、ラプラスとガウスは観測を組み合わせるための最小二乗法を開発し、これは当時天文学や測地学で使用されていた方法を改良しました。また、平方和への寄与に関する多くの研究も開始しました。ラプラスは、残差平方和 (総平方和ではなく) から分散を推定する方法を知っていました。[ 3 ] 1827 年までに、ラプラスは最小二乗法を使用して大気潮汐の測定に関する ANOVA の問題に取り組んでいました。[ 4 ] 1800 年以前には、天文学者は反応時間 (「個人方程式」)に起因する観測誤差を分離し、誤差を減らす方法を開発していました。[ 5 ]個人方程式の研究で使用された実験方法は、後に新興の心理学の分野で受け入れられました[ 6 ] 。心理学では、強力な(完全要因)実験方法が開発され、すぐにランダム化と盲検化が追加されました。[ 7 ]加法効果モデルの雄弁な非数学的説明は 1885 年に利用可能でした。[ 8 ]
ロナルド・フィッシャーは、1918年の理論集団遺伝学に関する論文「メンデル遺伝の仮定に基づく親族間の相関」で分散という用語を導入し、その正式な分析を提案した。[ 9 ]彼が分散分析をデータ分析に初めて適用したのは、1921年に出版された「作物変動の研究 I 」である。[ 10 ]これは、時系列の変動を、年間原因と緩やかな劣化を表す成分に分割した。フィッシャーの次の論文「作物変動の研究 II」は、ウィニフレッド・マッケンジーと共著で、1923年に出版され、異なる品種を播種し、異なる肥料処理を施した区画間の収量の変動を研究した。[ 11 ]分散分析は、フィッシャーの1925年の著書「研究者のための統計的方法」 に収録された後、広く知られるようになった。
ランダム化モデルは複数の研究者によって開発されました。最初のものは1923年にイェジー・ネイマンによってポーランド語で発表されました。 [ 12 ]



分散分析は、変数間の複雑な関係を記述するために使用できます。ドッグショーはその一例です。ドッグショーは犬種の無作為抽出ではありません。通常、成犬で純血種で模範的な犬に限定されます。ショーの犬の体重のヒストグラムは、図に示されている黄色とオレンジ色の分布のように、かなり複雑になる可能性が高いです。各犬の特定の特性に基づいて犬の体重を予測したいとします。その方法の1つは、犬の集団をそれらの特性に基づいてグループに分割することで体重の分布を説明することです。グループ分けが成功すると、犬は次のように分割されます。(a) 各グループの犬の体重の分散が低い(つまり、グループが比較的均質である)こと、(b) 各グループの平均が異なる(2つのグループの平均が同じ場合、グループが実際には意味のある方法で分離していると結論付けるのは合理的ではない)。
右側の図では、グループはX 1、X 2などと表記されています。最初の図では、犬は若い犬と高齢の犬、短毛と長毛の犬という 2 つの二項グループの積 (相互作用) に従って分けられています (例: グループ 1 は若くて短毛の犬、グループ 2 は若くて長毛の犬など)。各グループ内の犬の体重の分布 (青色で表示) は分散が比較的大きく、平均値はグループ間で非常に似ているため、これらの特性で犬をグループ分けしても、犬の体重の変動を効果的に説明することはできません。犬がどのグループに属しているかを知っても、単に犬がドッグショーに出場していることを知っている場合と比べて、体重をより正確に予測することはできません。したがって、このグループ分けでは、全体の分布 (黄色からオレンジ色) の変動を説明できません。
犬をペット犬と作業犬、運動能力の低い犬と高い犬に分類して体重分布を説明しようとすると、おそらく多少はうまくいくでしょう(適度な適合)。最も体重の重いショー犬は、大きくて力強い作業犬である可能性が高く、ペットとして飼われている犬種は小さく、したがって体重も軽い傾向があります。2 番目の図に示すように、分布の分散は最初のケースよりもかなり小さく、平均値はより区別しやすくなっています。しかし、分布の重なりが大きいということは、たとえばX 1とX 2を確実に区別できないことを意味します。コイン投げで犬をグループ分けすると、似たような分布が得られるかもしれません。
犬種別に体重を説明しようとすると、非常に良い結果が得られる可能性が高い。チワワはすべて軽く、セントバーナードはすべて重い。セッターとポインターの体重の違いは、別々の犬種として分類する根拠にはならない。分散分析は、こうした直感的な判断を正当化するための正式なツールを提供する。この方法は、実験データの分析やモデルの開発によく用いられる。相関分析に比べて、この方法にはいくつかの利点がある。すべてのデータが数値である必要はなく、説明関係の信頼性に関する判断も得られる。
分散分析で使用されるモデルには3つの種類があり、ここではそれらを概説する。
分散分析の固定効果モデル(クラスI)は、実験者が被験者に1つ以上の処置を施し、応答変数の値が変化するかどうかを確認する状況に適用されます。これにより、実験者は、処置が母集団全体で生成する応答変数の値の範囲を推定することができます。

ランダム効果モデル(クラスII)は、処置が固定されていない場合に使用されます。これは、さまざまな因子レベルがより大きな母集団からサンプリングされる場合に発生します。レベル自体がランダム変数であるため、いくつかの仮定と処置を比較する方法(単純な差の多変数一般化)は、固定効果モデルとは異なります。[ 13 ]
混合効果モデル(クラスIII)は、固定効果とランダム効果の両方の実験因子を含み、それぞれのタイプに対して適切な異なる解釈と分析が行われます。
大学や専門学校では、優れた入門教科書を見つけるために教育実験を実施することができ、各教科書は実験対象とみなされます。固定効果モデルでは、候補となる教科書のリストを比較します。ランダム効果モデルでは、ランダムに選択された教科書のリスト間に重要な違いが存在するかどうかを判断します。混合効果モデルでは、(固定された)既存の教科書とランダムに選択された代替教科書を比較します。
固定効果とランダム効果の定義は、複数の競合する定義が存在するため、困難であることが証明されている。[ 14 ]
分散分析は様々なアプローチで研究されてきましたが、最も一般的なのは、応答と処理およびブロックを関連付ける線形モデルを用いる方法です。このモデルはパラメータに関しては線形ですが、因子レベル間では非線形になる場合があることに注意してください。データが因子間でバランスが取れている場合は解釈は容易ですが、バランスが取れていないデータの場合は、より深い理解が必要となります。
分散分析は、応答の確率分布について次の仮定を置く線形モデルの観点から表現できます。 [ 15 ] [ 16 ] [ 17 ] [ 18 ]
教科書モデルの個別の仮定は、固定効果モデルの場合、誤差が独立かつ同一かつ正規分布していることを意味します。つまり、誤差は()は独立しており、
ランダム化比較実験では、実験プロトコルに従って、実験単位に処理がランダムに割り当てられます。このランダム化は客観的であり、実験の実施前に宣言されます。客観的なランダム割り当ては、C.S. パースとロナルド・フィッシャーの考えに従って、帰無仮説の有意性を検定するために使用されます。この設計に基づく分析は、ロザムステッド実験ステーションのフランシス・J・アンスコムとアイオワ州立大学のオスカー・ケンプソーンによって議論され、開発されました。[ 19 ]ケンプソーンと彼の学生は、単位処理の加法性を仮定しており、これはケンプソーンとデビッド・R・コックスの著書で議論されています。[ 20 ] [ 21 ]
最も単純な形では、単位処理加算性の仮定[ nb 1 ]は、観察された反応が実験ユニットから治療を受ける際ユニットの応答の合計として記述できる治療効果つまり[ 22 ] [ 23 ] [ 24 ] 単位処理の加法性の仮定は、すべての処理について、、この治療法は全く同じ効果をもたらしますすべての実験ユニットにおいて。
コックスとケンプソーンによれば、単位処理加法性の仮定は通常、直接反証することはできない。しかし、処理単位加法性の多くの帰結は反証可能である。ランダム化実験の場合、単位処理加法性の仮定は、すべての処理において分散が一定であることを意味する。したがって、対偶により、単位処理加法性の必要条件は分散が一定であることである。
単位処理の加法性とランダム化の使用は、有限母集団調査サンプリングで標準的に用いられる設計に基づく推論と類似している。
ケンプソーンは、ランダム化分布と単位処理加法性の仮定を用いて、先に述べた教科書のモデルと非常によく似た派生線形モデルを作成した。 [ 25 ]この派生線形モデルの検定統計量は、近似定理とシミュレーション研究によれば、適切な正規線形モデルの検定統計量によって近似される。[ 26 ]しかし、違いもある。例えば、ランダム化に基づく分析では、観測値間に小さいが(厳密には)負の相関が生じる。[ 27 ] [ 28 ]ランダム化に基づく分析では、正規分布の仮定はなく、独立性の仮定ももちろんない。それどころか、観測値は依存している。
ランダム化に基づく分析には、説明に煩雑な代数計算と膨大な時間を要するという欠点がある。ランダム化に基づく分析は複雑であり、正規線形モデルを用いたアプローチで近似できるため、ほとんどの教師は正規線形モデルを用いたアプローチを推奨している。バランスのとれたランダム化実験のモデルに基づく分析に反対する統計学者はほとんどいない。
しかし、モデルベースの分析は、非ランダム化実験や観察研究のデータに適用する場合、ランダム化の正当性を欠く。 [ 29 ]観察データの場合、信頼区間の導出には主観的モデルを使用する必要があり、これはロナルド・フィッシャーとその追随者たちによって強調されている。実際には、観察研究からの治療効果の推定値は、一般的にしばしば一貫性がない。実際には、「統計モデル」と観察データは、一般の人々が非常に慎重に扱うべき仮説を示唆するのに役立つ。[ 30 ]
正規モデルに基づくANOVA分析では、残差の分散が独立、正規性、均一であると仮定します。一方、ランダム化に基づく分析では、残差の分散が均一であること(単位処理の加法性の結果として)のみを仮定し、実験のランダム化手順を用います。これらの分析はいずれも、正規モデル分析では仮定として、ランダム化に基づく分析ではランダム化と加法性の結果として、等分散性を必要とします。
しかし、平均ではなく分散を変化させるプロセス(分散効果と呼ばれる)の研究は、ANOVAを使用して成功裏に実施されてきました。[ 31 ] ANOVAの完全な一般性には必要な仮定はありませんが、ANOVAの仮説検定に使用されるF検定には、継続的な関心を集める仮定と実際的な制限があります。
ANOVA の仮定を満たさない問題は、仮定を満たすように変換できる場合が多い。単位処理加法性の性質は「スケールの変更」の下で不変ではないため、統計学者は単位処理加法性を実現するために変換をよく使用する。応答変数がパラメトリックな確率分布族に従うと予想される場合、統計学者は (実験または観察研究のプロトコルで) 分散を安定させるために応答を変換するように指定することがある。[ 32 ]また、統計学者は、乗法モデルに従うと考えられる応答に対数変換を適用するように指定することがある。[ 23 ] [ 33 ]コーシーの関数方程式定理 によれば、対数は実数上の乗算演算と加算演算を関連付ける唯一の連続変換である。[ 34 ] [ 35 ] [ 36 ]
ANOVAは、結果の差のみが関心のある比較実験の分析に使用されます。実験の統計的有意性は、2つの分散の比率によって決定されます。この比率は、実験観察に対するいくつかの変更とは無関係です。すべての観察に定数を追加しても、有意性は変わりません。すべての観察に定数を掛けても、有意性は変わりません。したがって、ANOVAの統計的有意性の結果は、定数バイアスやスケーリングエラー、および観察を表現するために使用される単位とは無関係です。機械計算の時代には、データ入力を簡素化するために、すべての観察から定数を減算することが一般的でした(先頭の桁を削除することと同等の場合)。[ 37 ] [ 38 ]これはデータコーディングの例です。
ANOVAの計算は、複数の平均値と分散を計算し、2つの分散を割り、その比率をハンドブックの値と比較して統計的有意性を判断するという特徴があります。したがって、処理効果の計算は簡単です。「任意の処理の効果は、処理を受けた観測値の平均と全体平均との差を取ることによって推定されます」。[ 39 ]

ANOVAは伝統的な標準化された用語を使用します。標本分散の定義式は次のとおりです。ここで、除数は自由度 (DF) と呼ばれ、総和は平方和 (SS) と呼ばれ、結果は平均平方 (MS) と呼ばれ、二乗項は標本平均からの偏差です。 ANOVA は 3 つの標本分散を推定します。 全体平均からのすべての観測偏差に基づく総分散、適切な処理平均からのすべての観測偏差に基づく誤差分散、および処理分散です。処理分散は、全体平均からの処理平均の偏差に基づいており、その結果は、観測の分散と平均の分散の差を考慮するために、各処理の観測数で乗算されます。
基本的な手法は、総平方和SSをモデルで使用される効果に関連する成分に分割することです。例えば、異なる水準で1種類の処理を行う簡略化されたANOVAのモデルなどが挙げられます。
自由度DF も同様の方法で分割できます。これらの構成要素の 1 つ (誤差に関するもの) は、関連する平方和を記述するカイ二乗分布を指定します。治療効果がない場合は、「治療」についても同様です。

F検定は、総偏差の要因を比較するために使用されます。たとえば、一元配置分散分析(または単一要因分散分析)では、F検定統計量を比較することによって統計的有意性が検定されます。
ここでMSは平均二乗、は治療の数であり、F分布のケースの総数は、分子の自由度であり、分母の自由度。検定統計量は、それぞれがスケーリングされたカイ二乗分布に従う2つのスケーリングされた平方和の比であるため、F分布を使用することは自然な候補です。
Fの期待値は(どこFは治療サンプルサイズであり、治療効果がない場合は1となる。Fの値が1を超えると、証拠は帰無仮説とますます矛盾するようになる。Fを増加させる明らかな実験的方法は、サンプルサイズを増やすことと、厳密な実験制御によって誤差分散を減らすことである。
ANOVA仮説検定の結論を出す方法は2つあり、どちらも同じ結果が得られます。
ANOVA F検定は、一定の偽陽性率で偽陰性エラーを最小化する(つまり、一定の有意水準で検出力を最大化する)という意味で、ほぼ最適であることが知られています。たとえば、さまざまな医療処置がまったく同じ効果を持つという仮説を検定する場合、F検定のp値は順列検定のp値に非常に近い値になります。特に、設計がバランスが取れている場合は、近似値が非常に近くなります。[ 26 ] [ 40 ]このような順列検定は、ローゼンバウムが指摘したように、すべての代替仮説に対して最大の検出力を持つ検定を特徴づけます。[ nb 2 ] ANOVA F検定(すべての処置がまったく同じ効果を持つという帰無仮説)は、多くの代替分布に対して頑健であるため、実用的な検定として推奨されています。[ 41 ] [ nb 3 ]
ANOVAは分離可能な部分から構成されており、分散源の分割と仮説検定は個別に使用できます。ANOVAは他の統計ツールをサポートするために使用されます。まず回帰を使用してより複雑なモデルをデータに適合させ、次にANOVAを使用してモデルを比較し、データを適切に説明するより単純なモデルを選択することを目的としています。「このようなモデルはANOVAを参照せずに適合させることができますが、適合したモデルの意味を理解し、係数のバッチに関する仮説をテストするためにANOVAツールを使用できます。」[ 42 ]「私たちは分散分析を、回帰の代替としてではなく、複雑な高次元の推論を要約するためのツールとして、多レベルモデルを理解し構造化する方法として考えています ...」[ 42 ]
ANOVA分析に適した最も単純な実験は、単一因子による完全無作為化実験です。単一因子によるより複雑な実験では、無作為化に制約が設けられ、完全無作為化ブロックやラテン方格(およびその変形:グレコ・ラテン方格など)が含まれます。より複雑な実験は、多因子実験と同様の複雑さを多く抱えています。
従来の1要因分散分析にはいくつかの代替手段があり、例えば、ウェルチの異分散F検定、トリミング平均とウィンザー化分散を用いたウェルチの異分散F検定、ブラウン・フォーサイス検定、アレクサンダー・ガヴァーン検定、ジェームズ2次検定、クラスカル・ウォリス検定などがonewaytests Rで利用可能です。
各データポイントを、統計モデルと呼ばれる以下の形式で表現すると便利です。 どこ
つまり、我々は、すべてのデータポイントは3つの量を合計することで表せるという加法モデルを想定している。その3つの量とは、調査対象となるすべての因子レベルにわたって平均化された真の平均値、特定の列(因子レベル)に関連付けられた増分成分、そしてその特定のデータ値に影響を与えるその他すべてのものに関連付けられた最終成分である。
ANOVAは、複数の要因の影響を研究するために一般化されます。実験に各要因のすべてのレベルの組み合わせでの観測が含まれる場合、それは要因実験と呼ばれます。要因実験は、一連の単一要因実験よりも効率的であり、要因の数が増えるにつれて効率が向上します。[ 43 ]そのため、要因計画は広く使用されています。
複数の要因の影響を調べるために ANOVA を使用すると、複雑な問題が生じます。要因 x、y、z の 3 要因 ANOVA では、ANOVA モデルには主効果 (x、y、z) の項と交互作用(xy、xz、yz、xyz) の項が含まれます。すべての項に対して仮説検定が必要です。交互作用項が増えると、仮説検定で偶然に偽陽性が出るリスクが高まります。幸いなことに、経験上、高次の交互作用はまれです。[ 44 ] 交互作用を検出できることは、多要因 ANOVA の大きな利点です。一度に 1 つの要因をテストすると交互作用が隠されますが、一見矛盾した実験結果が生じます。[ 43 ]
相互作用に遭遇した場合は注意が必要です。まず相互作用項をテストし、相互作用が見つかった場合は分析を ANOVA を超えて拡張します。相互作用に遭遇した後の ANOVA 手順の継続に関する推奨事項は、テキストによって異なります。相互作用は実験データの解釈を複雑にします。有意性の計算も推定された処理効果も額面通りに受け取ることはできません。「有意な相互作用は、主効果の有意性を覆い隠すことがよくあります。」[ 45 ]理解を深めるために、グラフ法が推奨されます。回帰はしばしば有用です。相互作用に関する詳細な議論は Cox (1958) にあります。[ 46 ]一部の相互作用は (変換によって) 除去できますが、除去できないものもあります。
多因子ANOVAでは、費用を削減するためにさまざまな手法が用いられます。要因計画で使用される手法の1つは、反復を最小限に抑えること(分析上のトリックで反復をなくすことも可能)と、効果が統計的に(または実質的に)有意でないと判明した場合にグループを統合することです。有意でない要因が多数ある実験は、多数の反復によって裏付けられた少数の要因を持つ1つの実験に集約される可能性があります。[ 47 ]
実験計画を裏付けるための分析が必要となる場合もあれば、要因の変更によって応答に統計的に有意な変化が生じることが正式に確認された後に実施される分析もある。実験は反復的なプロセスであるため、ある実験の結果によって次の実験の計画が変更される。
実験計画においては、実験の目的を達成するために実験単位の数が計画される。実験は多くの場合、連続的に行われる。
初期の実験は、多くの場合、治療効果と実験誤差の平均値に偏りのない推定値を得ることを目的として設計されます。後期の実験は、治療効果が重要な大きさであるという仮説を検証することを目的として設計されることが多く、この場合、実験単位の数は、実験が予算内に収まり、十分な検出力を持つように選択されます。
心理学では、サンプルサイズ分析の報告が一般的に求められます。「サンプルサイズと、サンプルサイズ決定に至ったプロセスに関する情報を提供してください。」[ 48 ]実験実施前に実験プロトコルに記載される分析は、助成金申請書や行政審査委員会で審査されます。
検出力分析の他に、実験単位数を選択するための非公式な方法もある。これらには、偽陰性エラーの確率を制限することに基づく図解法、期待される変動の増加(残差を超える)に基づく図解法、および望ましい信頼区間を達成することに基づく方法が含まれる。[ 49 ]
検出力分析は、特定の ANOVA デザイン、母集団における効果量、サンプル サイズ、および有意水準を仮定した場合に、帰無仮説を棄却できる確率を評価するために、ANOVA の文脈でよく適用されます。検出力分析は、対立仮説が真である場合に帰無仮説を棄却する妥当な可能性を得るために必要なサンプル サイズを決定することで、研究デザインに役立ちます。[ 50 ] [ 51 ] [ 52 ] [ 53 ]

ANOVAでは、予測変数と従属変数との関連性の強さ、または完全なモデルの全体的な標準化された差を要約するために、いくつかの標準化された効果の尺度が提案されています。標準化された効果量の推定値は、研究や分野を超えて結果を比較することを容易にします。しかし、標準化された効果量は専門文献の多くで一般的に使用されていますが、報告の目的には、すぐに「意味のある」単位を持つ非標準化された効果量の尺度の方が好ましい場合があります。[ 54 ]
分散分析の前提条件が破られているかどうかを判断するために、テストが行われることがあります。残差は、等分散性と大まかな正規性を確認するために検査または分析されます。[ 55 ]残差は、時間やモデル化されたデータ値など、あらゆるものの関数としてプロットすると、(平均ゼロの正規分布)ノイズのように見えるはずです。傾向は、因子間または観測値間の相互作用を示唆します。
ANOVAで統計的に有意な効果が認められた場合、多くの場合、追加の検定が行われます。これは、どのグループが他のどのグループと異なるかを評価したり、さまざまな特定の仮説を検証したりするために行われます。追跡検定は、「計画的」(事前)か「事後」かによって区別されることがよくあります。計画的検定はデータを見る前に決定され、事後検定はデータを見た後にのみ考案されます(ただし、「事後」という用語は一貫して使用されるとは限りません)。
追跡検定は、各グループの平均を単純にペアワイズ比較する場合もあれば、複合的な比較(例えば、グループA、B、Cの平均をグループDの平均と比較するなど)を行う場合もあります。独立変数が順序尺度である場合は、線形関係や二次関係などの傾向検定を行うこともできます。多くの場合、追跡検定には多重比較の問題を調整する方法が組み込まれています。
統計的に異なる平均値を持つ特定のグループ、変数、または要因を特定するための追跡検定には、テューキーの範囲検定やダンカンの新しい多重範囲検定などがあります。これらの検定の後には、統計学の専門家ではない読者にも結果をより分かりやすくするために、コンパクトレターディスプレイ(CLD)法が用いられることがよくあります。
ANOVAにはいくつかの種類があります。多くの統計学者は、実験計画、特に被験者への処置のランダム割り当てを規定するプロトコルに基づいてANOVAを実施します[ 56 ]。プロトコルの割り当てメカニズムの説明には、処置の構造とブロック化の指定を含める必要があります。また、適切な統計モデルを使用して、観察データにANOVAを適用することも一般的です[ 57 ] 。
よく用いられるデザインの中には、以下のような種類のANOVAを使用するものがあります。
バランスのとれた実験(各処理のサンプルサイズが等しいもの)は解釈が比較的容易ですが、バランスのとれていない実験はより複雑です。一元配置分散分析(一元配置ANOVA)の場合、バランスのとれていないデータの調整は容易ですが、バランスのとれていない分析は頑健性と検出力の両方に欠けます。[ 60 ]より複雑な設計の場合、バランスの欠如はさらなる複雑さを招きます。「バランスのとれたデータに存在する主効果と交互作用の直交性は、バランスのとれていないケースには引き継がれません。これは、通常の分散分析手法が適用されないことを意味します。したがって、バランスのとれていない要因計画の分析は、バランスのとれた設計の分析よりもはるかに困難です。」[ 61 ]一般的なケースでは、「分散分析はバランスのとれていないデータにも適用できますが、その場合、平方和、平均平方、およびF比は、変動要因を考慮する順序に依存します。」[ 42 ]
ANOVAは(部分的に)統計的有意性の検定です。アメリカ心理学会(および他の多くの組織)は、単に統計的有意性を報告するだけでは不十分であり、信頼区間を報告することが望ましいという見解を持っています。[ 54 ]
ANOVAは線形回帰の特殊なケースと考えられており[ 62 ] [ 63 ] 、線形回帰は一般線形モデルの特殊なケースである[ 64 ]。いずれも観測値を最小化すべきモデル(適合)と残差(誤差)の合計とみなしている。
クラスカル・ウォリス検定とフリードマン検定は、正規性の仮定に依存しないノンパラメトリック検定である。 [ 65 ] [ 66 ]
以下では、多変量分散分析と線形回帰の関係を明確に説明します。
データを線形に並べ替えて、第 1 番目の観測は応答に関連付けられていますおよび要因どこさまざまな要因を示し、は因子の総数です。一元配置分散分析ではそして二元配置分散分析ではさらに、我々は第 1 番目の因子はレベル、すなわち.これで、因子をワンホットエンコーディングして次元ベクトル。
ワンホットエンコーディング関数は次のように定義される。の 番目のエントリは ベクトルこれは、すべてのベクトルの連結です。。 したがって、完全に一般的なものを得るために-way相互作用ANOVAでは、ベクトル内のすべての追加相互作用項を連結する必要があります。そして切片項を加える。そのベクトルを。
この表記法を用いることで、線形回帰との正確な関連性が得られます。応答を回帰させるだけです。ベクトルに反してしかし、識別可能性に関する懸念があります。このような問題を克服するために、各相互作用セット内のパラメータの合計がゼロであると仮定します。ここから、F統計量やその他の方法を使用して、個々の要因の関連性を判断できます。
ここでは、2要因交互作用の例を考えてみましょう。この場合、第1の要因は2つの水準を持ち、第2の要因は3つの水準を持つと仮定します。
定義するもしそしてもしつまり最初の因子のワンホットエンコーディングであり、これは、2番目の因子のワンホットエンコーディングです。
それと、 ここで最後の項は切片項です。より具体的な例として、 それから、
{{cite book}}: CS1メンテナンス: 場所の発行元が見つかりません (リンク)