分散分析

分散分析( ANOVA ) は、統計モデルとそれに関連する推定手順 (グループ間およびグループ間の「変動」など)の集合であり、グループ間の差異を分析するために使用されます。グループ間の変動を比較し、グループ内の要素間の変動で割ることでノイズ (グループの想定される正規分布) を考慮する F テストを使用します。ANOVA は、統計学者 Ronald Fisherによって開発されました。ANOVA は、全分散の法則に基づいています。全分散の法則では、特定の変数で観測された変動が、さまざまな変動源に起因するコンポーネントに分割されます。最も単純な形式では、ANOVA は、2 つ以上の母平均が等しいかどうかを統計的にテストし、tテストを2 つの平均を超えて一般化します。言い換えると、ANOVA は、2 つ以上の平均の差異をテストするために使用されます。

分散分析は20世紀に成果をあげたが、スティグラーによれば、その先駆者は数世紀前に遡る。^[1]これらには、仮説検定、平方和の分割、実験技術、加法モデルが含まれる。ラプラスは1770年代に仮説検定を行っていた。^[2] 1800年頃、ラプラスとガウスは観測を組み合わせるための最小二乗法を開発した。これは当時天文学と測地学で使用されていた方法を改善したものだった。また、平方和への寄与に関する研究も盛んに行われるようになった。ラプラスは、残差平方和（総和ではなく）から分散を推定する方法を知っていた。^[3] 1827年までに、ラプラスは最小二乗法を使用して、大気の潮汐測定に関する分散分析の問題に取り組んでいた。^[4] 1800年より前に、天文学者は反応時間（「個人方程式」）に起因する観測誤差を分離し、誤差を減らす方法を開発していた。^[5]個人方程式の研究で使用された実験方法は、後に心理学という新興分​​野に受け入れられ、^[6]強力な（完全因子）実験方法が開発され、すぐにランダム化と盲検化が追加されました。^[7]加法効果モデルの雄弁な非数学的説明は1885年に利用可能でした。^[8]

ロナルド・フィッシャーは、1918年に理論的集団遺伝学に関する論文「メンデル遺伝の仮定に基づく親族間の相関関係」で分散という用語を導入し、その正式な分析法を提案した。^[9]彼が初めて分散分析をデータ分析に応用したのは、1921年の「作物変異の研究 I 」である。^[10]これは、時系列の変動を年次原因と緩やかな劣化を表す要素に分割した。フィッシャーの次の論文「作物変異の研究 II 」は、ウィニフレッド・マッケンジーと共著で1923年に出版され、異なる品種を播種し、異なる肥料処理を施した区画間の収穫量の変動を研究した。^{[11]分散分析は、フィッシャーの1925年の著書}「研究者のための統計的手法」 に収録されてから広く知られるようになった。

ランダム化モデルは複数の研究者によって開発されました。最初のモデルは1923年にポーランドのJerzy Neymanによって出版されました^。[12]

分散分析は、変数間の複雑な関係を説明するために使用できます。ドッグ ショーがその一例です。ドッグ ショーは犬種の無作為抽出ではありません。通常、成犬で純血種の模範的な犬に限定されます。ショーの犬の体重のヒストグラムは、図に示されている黄色がかったオレンジ色の分布のように、かなり複雑になる可能性があります。各犬の特定の特性に基づいて犬の体重を予測するとします。そのための 1 つの方法は、犬の集団を特性に基づいてグループに分割することにより、体重の分布を説明することです。グループ化が成功すると、(a) 各グループの犬の体重の分散が低くなり (つまり、グループが比較的均質になる)、(b) 各グループの平均が明確になります (2 つのグループの平均が同じである場合、グループが実際に意味のある方法で分離していると結論付けるのは合理的ではありません)。

右の図では、グループはX ₁、X ₂などとして識別されます。最初の図では、犬は、若い犬と年老いた犬、短毛犬と長毛犬という 2 つのバイナリ グループの積 (相互作用) に従って分割されています (例: グループ 1 は若い短毛犬、グループ 2 は若い長毛犬、など)。各グループ内の犬の体重の分布 (青で表示) は比較的大きな分散があり、グループ間で平均が非常に似ているため、これらの特性で犬をグループ化しても、犬の体重の変動を効果的に説明することはできません。犬がどのグループに属しているかを知っても、犬がドッグ ショーに参加していることを知ることよりも、はるかに正確に体重を予測することはできません。したがって、このグループ化では、全体的な分布 (黄色がかったオレンジ) の変動を説明できません。

犬をペット用と作業犬用、運動能力の低い犬と高い犬にグループ分けして体重の分布を説明する試みは、おそらくより成功するでしょう (適度な適合度)。最も重いショー用犬は大きくて力強い作業犬である可能性が高く、一方、ペットとして飼われている犬はより小さく、したがってより軽い傾向があります。2 番目の図に示すように、分布の分散は最初のケースよりもかなり小さく、平均はより区別しやすくなっています。ただし、たとえば分布の大幅な重複は、X ₁とX _{2 を}確実に区別できないことを意味します。コイン投げに従って犬をグループ分けすると、似たような分布が生成される場合があります。

犬種ごとに体重を説明しようとすると、非常に良い結果が生まれる可能性が高いです。チワワはすべて軽く、セントバーナードはすべて重いです。セッターとポインターの体重の違いは、犬種を区別する理由にはなりません。分散分析は、これらの直感的な判断を正当化するための正式なツールを提供します。この方法は、実験データの分析やモデルの開発によく使用されます。この方法は相関よりも優れています。すべてのデータが数値である必要はなく、この方法の結果の 1 つは説明関係の信頼性の判断です。

分散分析で使用されるモデルには 3 つのクラスがあり、ここでそれらについて概説します。

分散分析の固定効果モデル (クラス I) は、実験者が 1 つ以上の処理を実験の対象に適用して、応答変数の値が変化するかどうかを確認する状況に適用されます。これにより、実験者は、処理によって母集団全体で生成される応答変数の値の範囲を推定できます。

ランダム効果モデル（クラスII）は、治療が固定されていない場合に使用されます。これは、さまざまな因子レベルがより大きな母集団からサンプリングされる場合に発生します。レベル自体はランダム変数であるため、いくつかの仮定と治療を対比する方法（単純な差の多変数一般化）は固定効果モデルとは異なります。^[13]

混合効果モデル (クラス III) には、固定効果タイプとランダム効果タイプの両方の実験因子が含まれており、2 つのタイプに対してそれぞれ異なる解釈と分析が行われます。

大学学部では、良い入門書を見つけるために教育実験を実施できます。各テキストは、1 つの処理と見なされます。固定効果モデルでは、候補テキストのリストを比較します。ランダム効果モデルでは、ランダムに選択されたテキストのリストに重要な違いがあるかどうかを判断します。混合効果モデルでは、(固定された) 現行テキストをランダムに選択された代替テキストと比較します。

固定効果とランダム効果の定義は、複数の競合する定義があり、とらえどころのないものであることが判明しています。^[14]

分散分析はいくつかのアプローチから研究されてきましたが、最も一般的なアプローチは、反応を処理とブロックに関連付ける線形モデルを使用するものです。モデルはパラメータでは線形ですが、因子レベルでは非線形になる可能性があることに注意してください。データが因子間でバランスが取れている場合は解釈は簡単ですが、バランスが取れていないデータの場合はより深い理解が必要です。

分散分析は線形モデルの観点から表すことができ、応答の確率分布について以下の仮定を立てる： ^{[15] [16] [17] [18]}

• 観測の独立性- これは統計分析を簡素化するモデルの仮定です。
• 正規性–残差の分布は正規分布です。
• 分散の等価性（または「均一性」）は等分散性と呼ばれ、グループ内のデータの分散は同じである必要があります。

教科書モデルの個別の仮定は、固定効果モデルでは誤差が独立して同一かつ正規分布していることを意味し、つまり誤差（）は独立しており、 ${\displaystyle \epsilon }$$${\displaystyle \varepsilon \thicksim N(0,\sigma ^{2}).}$$

ランダム化比較実験では、実験プロトコルに従って、実験単位に処理がランダムに割り当てられます。このランダム化は客観的であり、実験を実行する前に宣言されます。客観的ランダム割り当ては、 CS PeirceとRonald Fisherのアイデアに従って、帰無仮説の有意性を検定するために使用されます。この設計ベースの分析は、Rothamsted Experimental StationのFrancis J. Anscombeとアイオワ州立大学のOscar Kempthorneによって議論され、開発されました。^{[19] Kempthorneと彼の学生は、Kempthorneと}David R. Coxの書籍で議論されている単位処理加法性の仮定を立てています。^{[20] [21]}

最も単純な形では、単位-処理加法性の仮定^{[注 1]}は、実験単位が処理を受けたときに観測される応答は、単位の応答と処理効果の合計として表すことができる、つまり^{[22] [23] [24]}と表すことができます。 単位-処理加法性の仮定は、あらゆる処理について、番目の処理があらゆる実験単位に対して まったく同じ効果を持つことを意味します。${\displaystyle y_{i,j}}$${\displaystyle i}$${\displaystyle j}$${\displaystyle y_{i}}$${\displaystyle t_{j}}$ $${\displaystyle y_{i,j}=y_{i}+t_{j}.}$$${\displaystyle j}$${\displaystyle j}$${\displaystyle t_{j}}$

Cox と Kempthorne によれば、単位処理の加法性の仮定は、通常、直接反証することはできません。ただし、処理単位の加法性の多くの結果は反証できます。ランダム化実験の場合、単位処理の加法性の仮定は、分散がすべての処理に対して一定であることを意味します。したがって、対置により、単位処理の加法性の必要条件は、分散が一定であることです。

単位処理の加法性とランダム化の使用は、有限母集団の調査サンプリングで標準となっている設計に基づく推論に似ています。

Kempthorneはランダム化分布と単位処理加法性の仮定を使用して、前述の教科書モデルに非常によく似た導出線型モデルを作成しました。 ^[25]この導出線型モデルの検定統計量は、近似定理とシミュレーション研究によると、適切な正規線型モデルの検定統計量によって近似されています。^[26]ただし、違いもあります。たとえば、ランダム化に基づく分析では、観測値間に小さいながらも（厳密には）負の相関が生じます。^{[27] [28]}ランダム化に基づく分析では、正規分布の仮定はなく、独立性の仮定はまったくありません。逆に、観測値は従属しています。

ランダム化に基づく分析には、その説明に面倒な代数と膨大な時間がかかるという欠点があります。ランダム化に基づく分析は複雑であり、正規線形モデルを使用したアプローチによって近似されるため、ほとんどの教師は正規線形モデル アプローチを強調します。バランスの取れたランダム化実験のモデルに基づく分析に反対する統計学者はほとんどいません。

しかし、モデルベースの分析を非ランダム化実験や観察研究のデータに適用すると、ランダム化の根拠が失われます。 ^[29]観察データの場合、信頼区間の導出には、ロナルド・フィッシャーとその追随者が強調したように、主観的なモデルを使用する必要があります。実際には、観察研究からの治療効果の推定値は、一般的に一貫性がないことがよくあります。実際には、「統計モデル」と観察データは、一般の人々が非常に慎重に扱うべき仮説を示唆するのに役立ちます。^[30]

正規モデルに基づく分散分析では、残差の分散の独立性、正規性、および均一性が前提となります。ランダム化に基づく分析では、残差の分散の均一性のみ（単位処理の加法性の結果として）を前提とし、実験のランダム化手順を使用します。これらの分析は両方とも、正規モデル分析の前提として、またランダム化に基づく分析のランダム化と加法性の結果として、等分散性を必要とします。

しかし、平均ではなく分散を変化させるプロセス（分散効果と呼ばれる）の研究は、ANOVAを使用してうまく実施されてきました。^[31] ANOVAの完全な一般性には必要な仮定はありませんが、ANOVA仮説検定に使用されるF検定には、継続的な関心の対象となっている仮定と実際的な制限があります。

ANOVA の仮定を満たさない問題は、仮定を満たすように変換できることが多い。単位処理の加法性という特性は「スケールの変更」に対して不変ではないため、統計学者は単位処理の加法性を達成するために変換を使用することが多い。応答変数が確率分布のパラメトリック ファミリに従うと予想される場合、統計学者は (実験または観察研究のプロトコルで) 応答を変換して分散を安定させるように指定することがある。^[32]また、統計学者は、乗法モデルに従うと考えられる応答に対数変換を適用するように指定することがある。^{[23] [33]コーシーの}関数方程式定理 によれば、対数は実数の乗算を加算に変換する唯一の連続変換である。^[要出典]

ANOVAは比較実験の分析に使用され、結果の差のみが重要です。実験の統計的有意性は、2つの分散の比率によって決定されます。この比率は、実験観察に対するいくつかの可能な変更とは無関係です。すべての観察に定数を追加しても、有意性は変わりません。すべての観察に定数を掛けても、有意性は変わりません。したがって、ANOVAの統計的有意性の結果は、定数バイアスやスケーリングエラー、および観察を表すために使用される単位とは無関係です。機械計算の時代には、データ入力を簡素化するために、すべての観察から定数を減算することが一般的でした（先頭の数字を削除することに相当する場合）。^{[34] [35]これはデータ}コーディングの例です。

ANOVA の計算は、平均と分散の数を計算し、2 つの分散を割り、その比率をハンドブックの値と比較して統計的有意性を判断するという特徴があります。治療効果の計算は簡単です。「治療の効果は、治療を受けた観察の平均と一般平均の差を取ることによって推定されます」。^[36]

ANOVA では、従来の標準化された用語が使用されます。サンプル分散の定義式は で、除数は自由度 (DF)、合計は二乗和 (SS)、結果は平均二乗 (MS)、二乗項はサンプル平均からの偏差です。ANOVA では、3 つのサンプル分散 (総平均からのすべての観測偏差に基づく合計分散、適切な処理平均からのすべての観測偏差に基づく誤差分散、および処理分散) を推定します。処理分散は、総平均からの処理平均の偏差に基づいており、その結果に各処理の観測数を掛けて、観測の分散と平均の分散の差を算出します。 ${\textstyle s^{2}={\frac {1}{n-1}}\sum _{i}(y_{i}-{\bar {y}})^{2}}$

基本的な手法は、総二乗和 SS をモデルで使用される効果に関連するコンポーネントに分割することです。たとえば、異なるレベルで 1 種類の処理を使用する簡略化された ANOVA のモデルです。

$${\displaystyle SS_{\text{合計}}=SS_{\text{誤差}}+SS_{\text{処理}}}$$

自由度 DFも同様の方法で分割できます。これらのコンポーネントの 1 つ (エラー用) は、関連する平方和を表すカイ 2 乗分布を指定しますが、処理効果がない場合、「処理」についても同じことが当てはまります。

$${\displaystyle DF_{\text{合計}}=DF_{\text{誤差}}+DF_{\text{処理}}}$$

F検定は、総偏差の因子を比較するために使用されます。たとえば、一元配置分散分析では、F検定統計量を比較することで統計的有意性を検定します。

$${\displaystyle F={\frac {\text{治療間の分散}}{\text{治療内の分散}}}}$$ $${\displaystyle F={\frac {MS_{\text{治療}}}{MS_{\text{誤差}}}}={{SS_{\text{治療}}/(I-1)} \over {SS_{\text{誤差}}/(n_{T}-I)}}}$$

ここで、MSは平均二乗、は治療回数、は症例総数である。 ${\displaystyle I}$${\displaystyle n_{T}}$

をF分布に適用します。ここで、は分子の自由度、 は分母の自由度です。検定統計量は、それぞれがスケールされたカイ 2 乗分布に従う 2 つのスケールされた平方和の比であるため、 F分布を使用するのが自然な候補です。 ${\displaystyle I-1}$${\displaystyle n_{T}-I}$

F の期待値は(ここで、は治療サンプル サイズ) であり、治療効果がない場合には 1 になります。F の値が 1 を超えると、証拠は帰無仮説とますます矛盾するようになります。F を増やす 2 つの明らかな実験方法は、サンプル サイズを増やすことと、厳密な実験制御によって誤差分散を減らすことです。 ${\displaystyle 1+{n\sigma _{\text{処理}}^{2}}/{\sigma _{\text{誤差}}^{2}}}$${\displaystyle n}$

ANOVA 仮説検定を結論付ける方法は 2 つあり、どちらも同じ結果が生成されます。

• 教科書的な方法は、F の観測値を表から決定された F の臨界値と比較することです。F の臨界値は、分子と分母の自由度と有意水準 ( α ) の関数です。F ≥ F _Criticalの場合、帰無仮説は棄却されます。
• コンピュータ法では、F 値が観測値以上となる確率 (p 値) を計算します。この確率が有意水準 ( α )以下の場合、帰無仮説は棄却されます。

ANOVA F検定は、偽陽性誤差の固定率に対して偽陰性誤差を最小化する（すなわち、固定有意水準に対して検出力を最大化する）という意味で、ほぼ最適であることが知られている。例えば、さまざまな医療処置がまったく同じ効果を持つという仮説を検定する場合、F検定のp値は順列検定のp 値に非常に近似する。近似値は、特に設計が均衡しているときに近くなる。^{[26] [37]}このような順列検定は、Rosenbaumが観察したように、すべての対立仮説に対して最大の検出力を持つ検定を特徴付ける。^{[nb 2]} ANOVA F検定（すべての処置がまったく同じ効果を持つという帰無仮説の検定）は、多くの代替分布に対して堅牢であるため、実用的な検定として推奨されている。^{[38] [nb 3]}

ANOVA は分離可能な部分から成り、分散の要因の分割と仮説検定は個別に使用できます。ANOVA は他の統計ツールをサポートするために使用されます。回帰は最初にデータに複雑なモデルを当てはめるために使用され、次に ANOVA はデータを適切に説明するより単純なモデルを選択する目的でモデルを比較するために使用されます。「このようなモデルは ANOVA を参照せずに当てはめることができますが、ANOVA ツールは当てはめられたモデルの意味を理解し、係数のバッチに関する仮説を検定するために使用できます。」 [ ^39]「分散分析は、多段階モデル​​を理解して構造化する方法として考えます。回帰の代替としてではなく、複雑な高次元の推論を要約するためのツールです...」^[39]

ANOVA 分析に適した最も単純な実験は、単一因子による完全ランダム化実験です。単一因子によるより複雑な実験では、ランダム化に制約があり、完全ランダム化ブロックやラテン方陣(およびその変種:グレコラテン方陣など) が含まれます。より複雑な実験では、複数の因子の複雑さの多くを共有します。

従来の一元配置分散分析の代替法としては、ウェルチの異分散F検定、トリム平均とウィンザー化分散によるウェルチの異分散F検定、ブラウン・フォーサイス検定、アレクサンダー・ガバン検定、ジェームズ2次検定、クラスカル・ワリス検定などがあり、これらはonewaytests Rで利用可能である。

各データポイントを統計モデルと呼ばれる次の形式で表現すると便利です。 ここで $${\displaystyle Y_{ij}=\mu +\tau _{j}+\varepsilon _{ij}}$$

• i = 1, 2, 3, ..., R
• j = 1, 2, 3, ..., C
• μ = 全体の平均（平均値）
• τ _j = Xのjレベルに関連する差分効果（応答） ;
  これは、 τ _jの値が全体としてゼロになることを前提としています（つまり、）${\textstyle \sum _{j=1}^{C}\tau _{j}=0}$
• ε _ij = 特定のijデータ値に関連するノイズまたはエラー

つまり、私たちは、すべてのデータ ポイントが、調査対象のすべての因子レベルにわたって平均された真の平均、特定の列 (因子レベル) に関連付けられた増分コンポーネント、および特定のデータ値に影響を与えるその他すべてに関連付けられた最終コンポーネントという 3 つの量を合計することによって表されるという加法モデルを想定しています。

ANOVAは、複数の要因の影響の研究に一般化されます。実験に各要因のレベルのすべての組み合わせでの観察が含まれる場合、それは要因と呼ばれます。要因実験は、一連の単一要因実験よりも効率的であり、要因の数が増えるにつれて効率が高まります。^[40]そのため、要因設計は頻繁に使用されます。

多因子の影響を調べるために分散分析を使用すると、複雑な問題が生じる。因子 x、y、z の 3 元配置分散分析では、分散分析モデルに主効果 (x、y、z) の項と交互作用(xy、xz、yz、xyz) の項が含まれる。すべての項で仮説検定が必要となる。交互作用項が急増すると、仮説検定で偶然に偽陽性の結果が出るリスクが増大する。幸い、経験上、高次の交互作用はまれである。^{[41] [検証が必要]} 交互作用を検出できることは、多因子分散分析の大きな利点である。一度に 1 つの因子を検定すると交互作用は隠れるが、明らかに一貫性のない実験結果が生成される。^[40]

交互作用に遭遇した場合は注意が必要です。まず交互作用項をテストし、交互作用が見つかった場合は ANOVA を超えて分析を拡張します。交互作用に遭遇した後の ANOVA 手順の継続に関する推奨事項は、テキストによって異なります。交互作用は実験データの解釈を複雑にします。有意性の計算も、推定された治療効果も、額面通りに受け取ることはできません。「有意な交互作用は、主効果の有意性を覆い隠すことがよくあります。」^[42]理解を深めるために、グラフィカルな方法が推奨されます。回帰は多くの場合役立ちます。交互作用に関する長い議論は、Cox (1958) で参照できます。^[43]一部の交互作用は (変換によって) 削除できますが、他の交互作用は削除できません。

多因子分散分析では、費用を削減するためにさまざまな手法が用いられます。因子設計で使用される手法の1つは、複製を最小限に抑えること（分析トリックを利用して複製をゼロにすること）と、効果が統計的に（または実質的に）重要でないと判明した場合にグループを結合することです。多くの重要でない因子を持つ実験は、多くの複製によって裏付けられた少数の因子を持つ実験に崩壊する可能性があります。^[44]

一部の分析は実験の設計をサポートするために必要ですが、他の分析は、要因の変更が応答に統計的に有意な変化をもたらすことが正式に判明した後に実行されます。実験は反復的であるため、1 つの実験の結果によって、次の実験の計画が変更されます。

実験の設計では、実験の目的を満たすために実験単位の数を計画します。実験は多くの場合、連続して行われます。

初期の実験は、多くの場合、治療効果と実験誤差の平均不偏推定値を提供するように設計されます。後期の実験は、治療効果が重要な大きさを持っているという仮説をテストするように設計されることが多く、この場合、実験ユニットの数は、他の目標の中でも、実験が予算内に収まり、十分な検出力を持つように選択されます。

心理学では、サンプルサイズの分析を報告することが一般的に求められています。「サンプルサイズとサンプルサイズの決定に至ったプロセスに関する情報を提供してください。」^[45]実験を実施する前に実験プロトコルに記載される分析は、助成金申請や行政審査委員会で審査されます。

検出力分析の他に、実験単位数を選択するためのより形式的でない方法があります。これには、偽陰性エラーの確率を制限することに基づくグラフィカルな方法、予想される変動の増加（残差の上）に基づくグラフィカルな方法、および望ましい信頼区間を達成することに基づく方法が含まれます。^[46]

検出力分析は、特定の分散分析設計、母集団における効果サイズ、サンプルサイズ、有意水準を仮定した場合に帰無仮説を棄却できる確率を評価するために、分散分析の文脈でよく適用されます。検出力分析は、対立仮説が正しい場合に帰無仮説を棄却できる合理的な確率を得るために必要なサンプルサイズを決定することで、研究設計に役立ちます。^{[47] [48] [49] [50]}

ANOVA では、予測変数と従属変数の関連性の強さや、完全なモデルの全体的な標準化された差異を要約するために、いくつかの標準化された効果測定法が提案されています。標準化された効果サイズの推定値は、研究や分野間での調査結果の比較を容易にします。しかし、標準化された効果サイズは多くの専門文献で一般的に使用されていますが、報告目的では、すぐに「意味のある」単位を持つ非標準化された効果サイズの測定法が望ましい場合があります。^[51]

分散分析の仮定が破られているかどうかを判断するために、テストが行​​われることもあります。残差は、等分散性と全体的な正規性を確認するために検査または分析されます。^[52]残差は、時間やモデル化されたデータ値などの関数としてプロットすると、ノイズ（平均ゼロの正規分布）のように見えるはずです。傾向は、因子間または観測値間の相互作用を示唆しています。

ANOVA で統計的に有意な効果が得られた場合、その後に追加テストが行​​われることがよくあります。これは、どのグループが他のどのグループと異なるかを評価したり、さまざまな他の焦点を絞った仮説をテストしたりするために実行できます。フォローアップ テストは、多くの場合、「計画された」(事前) か「事後」かという点で区別されます。計画されたテストはデータを見る前に決定され、事後テストはデータを見た後でのみ考案されます (ただし、「事後」という用語は一貫して使用されていません)。

フォローアップ テストは、個々のグループの平均の「単純な」一対比較である場合もあれば、「複合」比較 (グループ A、B、C の平均をグループ D の平均と比較するなど) である場合もあります。独立変数に順序付けられたレベルが含まれる場合、比較では、線形関係や二次関係などの傾向検定も調べることができます。フォローアップ テストには、多重比較の問題を調整する方法が組み込まれていることがよくあります。

統計的に異なる平均値を持つ特定のグループ、変数、または要因を識別するためのフォローアップ テストには、 Tukey の範囲テストやDuncan の新しい多重範囲テストなどがあります。また、これらのテストの後に、統計学者以外の対象者に対して前述のテストの出力をよりわかりやすくするために、Compact Letter Display (CLD)手法が続くことがよくあります。

ANOVAにはいくつかの種類があります。多くの統計学者は、実験計画、^{特に被験者への治療の}ランダム割り当てを規定するプロトコルに基づいてANOVAを決定します。プロトコルの割り当てメカニズムの記述には、治療の構造とブロッキングの規定が含まれている必要があります。適切な統計モデルを使用して、観察データにANOVAを適用することも一般的です。^[54]

一般的な設計では、次のタイプの ANOVA が使用されます。

• 一元配置分散分析は、 2つ以上の独立したグループ（平均値）間の差異を検定するために使用されます。たとえば、作物への尿素施用の異なるレベル、いくつかの異なる細菌種に対する抗生物質の作用の異なるレベル、^[55]、または患者グループに対するある薬の効果の異なるレベルなどです。ただし、これらのグループが独立しておらず、グループに順序がある場合（軽症、中等症、重症など）、または同じ患者グループに投与された薬の投与量（5 mg/mL、10 mg/mL、20 mg/mLなど）に順序がある場合は、線形傾向推定を使用する必要があります。ただし、通常、一元配置分散分析は、2グループのケースはt検定でカバーできるため、少なくとも3つのグループ間の差異を検定するために使用されます。^[56]比較する平均値が2つしかない場合は、t検定と分散分析のF検定は同等です。分散分析とtの関係は、F = t ²で表されます。
• 要因分散分析は、複数の要因がある場合に使用されます。
• 反復測定分散分析は、各要因に同じ被験者が使用される場合（例：縦断的研究）に使用されます。
• 多変量分散分析(MANOVA) は、応答変数が複数ある場合に使用されます。

バランスのとれた実験（各処理のサンプルサイズが等しい実験）は比較的簡単に解釈できますが、アンバランスな実験はより複雑です。単一因子（一元配置）分散分析では、アンバランスなデータの調整は簡単ですが、アンバランスな分析は堅牢性と検出力の両方に欠けています。^[57]より複雑な設計では、バランスの欠如がさらに複雑化します。「バランスのとれたデータに存在する主効果と相互作用の直交性は、アンバランスなケースには引き継がれません。つまり、通常の分散分析手法は適用されません。その結果、アンバランスな要因分析は、バランスのとれた設計よりもはるかに困難になります。」^[58]一般的なケースでは、「分散分析はアンバランスなデータにも適用できますが、その場合、平方和、平均平方、およびF比は、変動の原因が考慮される順序によって異なります。」^[39]

ANOVAは（部分的には）統計的有意性の検定である。アメリカ心理学会（および他の多くの組織）は、単に統計的有意性を報告するだけでは不十分であり、信頼限界を報告することが望ましいという見解を持っている。^[51]

ANOVAは線形回帰の特殊なケースであると考えられています^{[59] [60]}。線形回帰は一般線型モデルの特殊なケースです^[61] 。観測値はモデル（適合度）と残差（誤差）の合計であり、最小化されるべきものであると考えられています。

クラスカル・ワリス検定とフリードマン検定は正規性の仮定に依存しないノンパラメトリック検定である。 ^{[62] [63]}

以下では、多元配置分散分析と線形回帰の関係を明らかにします。

データを線形に並べ替えて、- 番目の観測値が応答および因子に関連付けられるようにします。ここで、 は異なる因子を表し、 は因子の総数です。一元配置分散分析では、二元配置分散分析ではです。さらに、 - 番目の因子にはレベル、つまり があると仮定します。これで、因子を次元ベクトルにワンホットエンコードできます。 ${\displaystyle k}$${\displaystyle y_{k}}$${\displaystyle Z_{k,b}}$${\displaystyle b\in \{1,2,\ldots ,B\}}$${\displaystyle B}$${\displaystyle B=1}$${\displaystyle B=2}$${\displaystyle b}$${\displaystyle I_{b}}$${\displaystyle \{1,2,\ldots ,I_{b}\}}$${\textstyle \sum _{b=1}^{B}I_{b}}$${\displaystyle v_{k}}$

ワンホット エンコーディング関数は、 の 番目のエントリ が となるように定義されます。 ベクトルは、すべての について上記のすべてのベクトルを連結したものです。したがって、となります。完全に一般的な 元配置交互作用分散分析を取得するには、ベクトル内のすべての追加交互作用項を連結し、切片項を追加する必要があります。そのベクトルを とします。 ${\displaystyle g_{b}:\{1,2,\ldots ,I_{b}\}\mapsto \{0,1\}^{I_{b}}}$${\displaystyle i}$${\displaystyle g_{b}(Z_{k,b})}$$${\displaystyle g_{b}(Z_{k,b})_{i}={\begin{cases}1&{\text{if }}i=Z_{k,b}\\0&{\text{otherwise}}\end{cases}}}$$${\displaystyle v_{k}}$${\displaystyle b}$${\displaystyle v_{k}=[g_{1}(Z_{k,1}),g_{2}(Z_{k,2}),\ldots ,g_{B}(Z_{k,B})]}$${\displaystyle B}$${\displaystyle v_{k}}$${\displaystyle X_{k}}$

この表記法が確立されると、線形回帰との正確な関係が確立されます。応答をベクトルに対して回帰するだけです。ただし、識別可能性に関する懸念があります。このような問題を克服するために、各相互作用セット内のパラメータの合計がゼロであると仮定します。ここから、F統計量またはその他の方法を使用して、個々の要因の関連性を判断できます。 ${\displaystyle y_{k}}$${\displaystyle X_{k}}$

最初の要因に 2 つのレベルがあり、2 番目の要因に 3 つのレベルがあると仮定した 2 方向の相互作用の例を考えてみましょう。

およびの場合、つまり が最初の因子のワンホットエンコーディングであり、が 2 番目の因子のワンホットエンコーディングである場合 を定義します。${\displaystyle a_{i}=1}$${\displaystyle Z_{k,1}=i}$${\displaystyle b_{i}=1}$${\displaystyle Z_{k,2}=i}$${\displaystyle a}$${\displaystyle b}$

ここで、 最後の項は切片項です。より具体的な例として、 次のように仮定します。$${\displaystyle X_{k}=[a_{1},a_{2},b_{1},b_{2},b_{3},a_{1}\times b_{1},a_{1}\times b_{2},a_{1}\times b_{3},a_{2}\times b_{1},a_{2}\times b_{2},a_{2}\times b_{3},1]}$$$${\displaystyle {\begin{aligned}Z_{k,1}&=2\\Z_{k,2}&=1\end{aligned}}}$$$${\displaystyle X_{k}=[0,1,1,0,0,0,0,0,0,1,0,0,1]}$$

• Anscombe, FJ (1948). 「比較実験の妥当性」.英国王立統計学会誌. シリーズ A (一般) . 111 (3): 181– 211. doi :10.2307/2984159. JSTOR  2984159. MR  0030181.
• ベイリー、RA（2008）。比較実験のデザイン。ケンブリッジ大学出版局。ISBN 978-0-521-68357-9。出版前の章はオンラインでご覧いただけます。
• ベル、ジェラルド・ヴァン (2008)。統計的経験則(第 2 版)。ニュージャージー州ホーボーケン：ワイリー。ISBN 978-0-470-14448-0。
• コクラン、ウィリアム G. ;コックス、ガートルード M. (1992)。実験デザイン(第 2 版)。ニューヨーク: Wiley。ISBN 978-0-471-54567-5。
• コーエン、ジェイコブ（1988年）。行動科学のための統計的検出力分析（第2版）。Routledge ISBN 978-0-8058-0283-2 
• コーエン、ジェイコブ（ 1992 ）。「統計学 ：パワー入門」心理学速報。112 （1）：155-159。doi ： 10.1037 /0033-2909.112.1.155。PMID 19565683。S2CID 14411587  。
• コックス、デビッド R. (1958)。実験の計画。ISBN 978-0-471-57429-3として再版 
• Cox, David R. (2006).統計的推論の原理ケンブリッジ ニューヨーク: ケンブリッジ大学出版局. ISBN 978-0-521-68567-2。
• フリードマン、デイビッド A. ( 2005)。統計モデル:理論と実践、ケンブリッジ大学出版局。ISBN 978-0-521-67105-7 
• ゲルマン、アンドリュー(2005)。「分散分析? なぜこれまで以上に重要なのか」。統計年報。33 : 1-53。arXiv : math / 0504499。doi : 10.1214/009053604000001048。S2CID 13529149  。
• ゲルマン、アンドリュー (2008)。「分散の分析」。新パルグレイブ経済学辞典(第 2 版)。ニューヨーク州ハンプシャー州ベイジングストーク: パルグレイブ マクミラン。ISBN 978-0-333-78676-5。
• Hinkelmann, Klaus & Kempthorne, Oscar (2008)。実験の設計と分析。第 I 巻および第 II 巻 (第 2 版) 。Wiley。ISBN 978-0-470-38551-7。
• ハウエル、デイビッド C. (2002)。心理学のための統計的方法(第 5 版)。パシフィック グローブ、カリフォルニア州: ダックスベリー/トムソン ラーニング。ISBN 978-0-534-37770-0。
• ケンプソーン、オスカー(1979)。実験の設計と分析((1952) Wiley ed. の訂正再版)。ロバート E. クリーガー。ISBN 978-0-88275-105-4。
• Lehmann, EL (1959) 統計的仮説のテスト。John Wiley & Sons。
• モンゴメリー、ダグラス C. (2001)。実験の設計と分析(第 5 版)。ニューヨーク: Wiley。ISBN 978-0-471-31649-7。
• ムーア、デビッド・S. & マッケイブ、ジョージ・P. (2003)。統計実践入門（第4版）。WHフリーマン＆カンパニー。ISBN 0-7167-9657-0 
• ローゼンバウム、ポール R. ( 2002)。観察研究(第 2 版)。ニューヨーク: Springer-Verlag。ISBN 978-0-387-98967-9 
• シェッフェ、ヘンリー（1959年）分散分析ニューヨーク：ワイリー。
• スティグラー、スティーブン・M（1986年）。統計の歴史：1900年以前の不確実性の測定。マサチューセッツ州ケンブリッジ：ハーバード大学出版局ベルナップ・プレス。ISBN 978-0-674-40340-6。
• ウィルキンソン、レランド（ 1999）。「心理学ジャーナルにおける統計的手法；ガイドラインと説明」アメリカ心理学会誌。5 （ 8）：594-604。CiteSeerX 10.1.1.120.4818。doi：10.1037 /0003-066X.54.8.594。S2CID  428023 。 

• フリードマン、デビッド A. ; ピサーニ、ロバート; パーブス、ロジャー (2007)。統計学(第 4 版)。WW ノートン & カンパニー。ISBN 978-0-393-92972-0。
• Tabachnick, Barbara G.; Fidell, Linda S. (2006).多変量統計の使用. ピアソン国際版 (第 5 版). Needham, MA: Allyn & Bacon, Inc. ISBN 978-0-205-45938-4。

• Wichura, Michael J. (2006).線形モデルへの座標フリーアプローチ。統計および確率数学のケンブリッジシリーズ。ケンブリッジ大学出版局。pp. xiv+ 199。ISBN 978-0-521-86842-6. MR  2283455。{{cite book}}: CS1 maint: location missing publisher (link)
• クリステンセン、ロナルド（2002）。複雑な質問に対する平面的な答え：線形モデルの理論（第3版）。ニューヨーク：シュプリンガー。ISBN 978-0-387-95361-8。
• Caliński, Tadeusz; Kageyama, Sanpei (2000).ブロック設計: ランダム化アプローチ、第 1 巻: 分析。統計学講義ノート。第 150 巻。ニューヨーク: Springer-Verlag。ISBN 978-0-387-98578-7。
• コックス、デビッドR.；リード、ナンシーM.（2000）。実験計画法の理論チャップマン＆ホール/CRC。ISBN 978-1-58488-195-7。
• Hettmansperger, TP; McKean, JW (1998)。ロバストなノンパラメトリック統計手法。Kendall's Library of Statistics。第 5 巻 (第 1 版)。ニューヨーク: A Hodder Arnold Publication。pp. xiv+ 467。ISBN 978-0-340-54937-7. MR  1604954。
• レントナー、マービン、ビショップ、トーマス (1993)。実験計画と分析(第 2 版)。バージニア州ブラックスバーグ: バレー ブック カンパニー。ISBN 978-0-9616255-2-8。
• Phadke, Madhav S. (1989)。ロバスト設計による品質エンジニアリング。ニュージャージー州: Prentice Hall PTR。ISBN 978-0-13-745167-8。
• Box, GEP (1954). 「分散分析問題の研究に応用される二次形式に関するいくつかの定理、II. 2元分類における分散の不等性と誤差間の相関の影響」。数理統計年報。25 (3): 484. doi : 10.1214/aoms/1177728717。
• Box, GEP (1954). 「分散分析問題の研究に応用される二次形式に関するいくつかの定理、I. 一元配置分類における分散の不等性の影響」。数理統計年報。25 (2): 290。doi : 10.1214/ aoms /1177728786。

• Box, GEP (1953). 「非正規性と分散の検定」. Biometrika . 40 (3/4): 318– 335. doi :10.1093/biomet/40.3-4.318. JSTOR  2333350.
• フィッシャー、ロナルド (1918)。「作物変異の研究。I. ブロードバルクのドレッシング穀物の収量の調査」(PDF)。農業科学ジャーナル。11 (2): 107– 135。doi : 10.1017 /S0021859600003750。hdl : 2440/15170。S2CID 86029217。2023年6月22日時点のオリジナルから アーカイブ(PDF)。2024年2月5日閲覧。

• SOCR : ANOVAアクティビティ
• ランダム化ブロック、分割プロット、反復測定、ラテン方格など、最大 3 つの処理因子を含むすべての ANOVA および ANCOVA モデルの例と、R でのそれらの分析 (サウサンプトン大学)
• NIST/SEMATECH 統計手法の電子ハンドブック、セクション 7.4.3:「平均は等しいか?」
• 分散分析：はじめに