頻度主義的推論

頻度主義的推論は、頻度主義的確率に基づく統計的推論の一種であり、「確率」を「頻度」と同義として扱い、データ内の発見の頻度または割合を強調することによってサンプルデータから結論を導き出します。頻度主義的推論は、統計的仮説検定と信頼区間の確立された方法論が基礎となっている頻度主義統計の基礎となっています。

頻度主義の基本的な定式化は、統計が確率的な頻度であると認識できるという推定に由来しています。この見解は、主にロナルド フィッシャーとイェジー ネイマンおよびエゴン ピアソンのチームによって発展しました。ロナルド フィッシャーは、統計の測定値の有意性を仮説と比較した研究である「有意性検定」という頻度主義の概念を開発することで、頻度主義統計に貢献しました。ネイマン ピアソンは、2 つの仮説の差を最大化する場合の仮説の確率の比率が、所定の p 値を超える最大化につながると推測することで、フィッシャーの考えを複数の仮説に拡張し、タイプ Iおよびタイプ II のエラーの基礎も提供します。詳細については、統計の基礎のページを参照してください。

統計的推論では、推論したい統計量は であり、ランダムベクトルは未知のパラメータ の関数です。パラメータはさらに ( ) に分割され、 は関心のあるパラメータ、は擬似パラメータです。具体的には、は母平均 、擬似パラメータは母平均の標準偏差 です。[ ^1]${\displaystyle y\in Y}$${\displaystyle Y}$${\displaystyle \theta }$${\displaystyle \theta }$${\displaystyle \psi ,\lambda }$${\displaystyle \psi }$${\displaystyle \lambda }$${\displaystyle \psi }$${\displaystyle \mu }$${\displaystyle \lambda }$${\displaystyle \sigma }$

したがって、 統計的推論はランダムベクトルの期待値に関係します。${\displaystyle Y}$${\displaystyle E(Y)=E(Y;\theta )=\int yf_{Y}(y;\theta )dy}$

頻度主義的推論で不確実性領域を構築するには、不確実性を推定するための区間を提供するために使用できる の周りの領域を定義するピボットが使用されます。ピボットは、 に対して、 となる確率です。 は関数で、 で厳密に増加します( はランダムベクトル)。これにより、0 < < 1 の場合にを定義できます。これは、ピボット関数が明確に定義された値よりも小さくなる確率です。これは、 を意味します ( はの上限です) 。 は 、 の片側限界を定義する結果の範囲であり、 は の両側限界であることに注意してください。これは、 が発生する可能性がある結果の範囲を推定する場合です。これは、統計的推論を行うことができる結果の範囲である 信頼区間を厳密に定義します。${\displaystyle \psi }$${\displaystyle p}$${\displaystyle p(t,\psi )}$${\displaystyle \psi }$${\displaystyle t\in T}$${\displaystyle c}$${\displaystyle P\{p(T,\psi )\leq p_{c}^{*}\}}$${\displaystyle P\{\psi \leq q(T,c)\}=1-c}$${\displaystyle q(t,c)}$${\displaystyle 1-c}$ ${\displaystyle \psi }$${\displaystyle 1-c}$${\displaystyle \psi }$${\displaystyle 1-2c}$${\displaystyle \psi }$${\displaystyle \psi }$

頻度主義的推論における 2 つの相補的な概念は、フィッシャーの縮小とネイマン-ピアソンの操作基準です。これらの概念を組み合わせると、 の限界を定義する頻度主義的区間を構築する方法が示されます。フィッシャーの縮小は、 の真の値が存在する可能性のある区間を決定する方法であり、ネイマン-ピアソンの操作基準は、事前確率の仮定を行う決定ルールです。 ${\displaystyle \psi }$${\displaystyle \psi }$

フィッシャーの縮小は次のように定義されます。

• 尤度関数を決定します（通常はデータの収集のみです）。
• と同じ次元の十分な統計量 に縮小します。${\displaystyle S}$${\displaystyle \theta }$
• のみに依存する分布を持つの関数を見つけます。${\displaystyle S}$${\displaystyle \psi }$
• その分布を反転して（累積分布関数または CDF を生成）、任意の確率レベルのセットでの の制限を取得します。${\displaystyle \psi }$
• 公式または非公式に与えられたデータの条件付き分布を使用して、定式化の妥当性を評価します。^[2]${\displaystyle S=s}$

本質的に、フィッシャーの縮小は、のすべての潜在的な値を定義する確率分布上で発生する可能性のある結果の範囲を決定するために十分な統計量を使用できる場所を見つけるように設計されています。これは、長期的に発生する可能性のある 結果の範囲を見つけることができる信頼区間を定式化するために必要です。${\displaystyle \psi }$${\displaystyle \psi }$${\displaystyle \psi }$

ネイマン-ピアソン操作基準は、関連する統計量が長期的に発生すると言える結果の範囲をさらに具体的に理解するものです。ネイマン-ピアソン操作基準は、その範囲が実際に適切である可能性、または範囲が不十分である可能性を定義します。ネイマン-ピアソン基準は、この範囲内に存在する場合でも真の母集団統計量を下回る確率分布の範囲を定義します。たとえば、フィッシャー縮小による分布が、事前にありそうにないと考えるしきい値を超える場合、その分布に対するネイマン-ピアソン縮小の評価を使用して、フィッシャー縮小の分布だけを見ると不正確な結果が得られる可能性がある場所を推測できます。したがって、ネイマン-ピアソン縮小は、タイプ Iおよびタイプ II のエラーの確率を見つけるために使用されます。^{[3]参照点として、ベイズ統計では、これを補完するのが}最小ベイズリスク基準です。 ${\displaystyle \psi }$${\displaystyle \psi }$

ネイマン・ピアソン基準は、発生する可能性のある結果の範囲を見つける能力に依存しているため、ネイマン・ピアソンアプローチはフィッシャーの削減が達成できる場合にのみ可能です。^[4]${\displaystyle \psi }$

頻度主義的推論は、頻度主義的確率を実験設計と解釈に適用することと関連しており、具体的には、任意の実験は、同じ実験の無限の可能な繰り返しの1つと見なすことができ、それぞれが統計的に独立した結果を生み出すことができるという見解に関連しています。^[5]この見解では、データから結論を導き出す頻度主義的推論アプローチは、この概念的な繰り返しセットの中で、所定の（高い）確率で正しい結論を導き出すことを要求することになります。

しかし、まったく同じ手順を、微妙に異なる定式化で開発することもできます。これは、実験前の観点が採用されるものです。実験の設計には、実験を開始する前に、まだ取得されていないデータから結論に到達するために正確にどのような手順を実行するかについての決定を含める必要があると主張することができます。科学者は、これらの手順を指定して、正しい決定に到達する可能性を高くすることができます。この場合、確率は、まだ発生していない一連のランダム イベントに関連し、したがって確率の頻度の解釈に依存しません。この定式化は、Neyman氏ら^[6]によって議論されています。頻度主義テストの重要性はモデル選択によって変化する可能性があり、尤度原理に違反するため、これは特に適切です。

頻度主義とは、ある期間にわたって、または繰り返しサンプリングすることで、結果が一定の頻度で発生するという仮定に基づく確率の研究です。したがって、頻度主義分析は、頻度主義が分析しようとする問題の仮定を考慮して策定する必要があります。これには、手元の問題が統計の多様性を理解することに関係しているのか、統計の真の値を見つけることに関係しているのかを調べる必要があります。これらの仮定の違いは、仮説検定を解釈する上で重要です。次の段落でこれについて詳しく説明します。

統計的推論には、大きく分けて認識論的アプローチと疫学的アプローチの2つの陣営がある。認識論的アプローチは変動性の研究であり、つまり、統計が何らかの観測値から逸脱することがどのくらいの頻度で予想されるかである。疫学的アプローチは不確実性の研究に関係しており、このアプローチでは、統計の値は固定されているが、その統計に対する私たちの理解は不完全である。^[7]具体的には、株式市場の相場を測定しようとするのと資産の価格を評価するのとを想像してみてほしい。株式市場は変動が激しいため、株価がどうなるかを正確に見つけようとしても役に立たない。株式市場は、その気まぐれな動きを定量化できる認識論的アプローチを使用したほうがよく理解できる。逆に、資産の価格は日々それほど変わらないかもしれない。価格の範囲を見つけるよりも資産の真の価値を見つける方がよいため、疫学的アプローチの方がよい。これらのアプローチの違いは、推論の目的においては重要ではありません。

認識論的アプローチでは、仮説に確率を帰属させたいかのように問題を定式化します。これはベイズ統計でのみ実行できます。ベイズ統計はサンプル空間全体を条件とするため、確率の解釈は簡単です。一方、頻度主義検定は実験設計全体に関係します。頻度主義統計は、データだけでなく実験設計にも条件とされます。^[8]頻度主義統計では、頻度発生を理解するためのカットオフは、実験設計で使用されるファミリー分布から導き出されます。たとえば、二項分布と負の二項分布を使用してまったく同じデータを分析できますが、それらの末尾が異なるため、頻度主義分析では、異なる確率分布を仮定する同じデータに対して異なるレベルの統計的有意性が実現されます。この違いはベイズ推論では発生しません。詳細については、頻度主義統計が本質的に違反する尤度原理を参照してください。^[9]

疫学的アプローチについては、頻度主義統計学の中心的な考え方について議論する必要がある。頻度主義統計学は、長期的には統計の頻度を理解し、長期的には統計の真の平均の範囲を推測できるように設計されています。これは、上で説明したフィッシャーの縮小とネイマン-ピアソンの操作基準につながります。これらの著者によると、任意の統計に対してフィッシャーの縮小とネイマン-ピアソンの操作基準を定義するときは、サンプリング方法を複数回繰り返した場合に、統計の真の値が所定の結果範囲内で発生する可能性を評価していることになります。^[8]これにより、長期的には、複数の頻度主義推論を組み合わせた結果が、95%信頼区間は文字通り真の平均が95%の時間で信頼区間内にあることを意味するが、平均が95%の確実性で特定の信頼区間内にあることを意味するわけではないと定義できる推論が可能になります。これはよくある誤解です。

認識論的見解と疫学的見解は相互に変換可能であるとよく考えられています。これは明らかに誤りです。まず、認識論的見解は、単一の実験で帰無仮説 に反する帰納的証拠を提供するように設計されたフィッシャー有意性検定を中心にしており、フィッシャーの p 値によって定義されます。逆に、ネイマン-ピアソン仮説検定を用いて実施される疫学的見解は、長期的に機能する誤差最小化を提供することで、長期的にタイプ II の誤った受け入れ誤差を最小化するように設計されています。この 2 つの違いは重要です。なぜなら、認識論的見解では、1 つの値が統計的に有意であると判断される条件を強調するのに対し、疫学的見解では、長期的な結果が有効な結果となる条件を定義するからです。これらは極めて異なる推論です。なぜなら、1 回限りの認識論的結論は長期的な誤差を通知せず、長期的な誤差は 1 回限りの実験が意味を成すかどうかを証明するために使用できないからです。一度限りの実験が長期的な出来事につながると仮定するのは誤った帰属であり、長期的な傾向が個々の実験につながると仮定するのは生態学的誤謬の一例である。^[10]${\displaystyle H_{0}}$

頻度主義的推論は、ベイズ推論や信頼度推論などの他の種類の統計的推論とは対照的です。「ベイズ推論」には最適な決定につながる推論のアプローチが含まれると考えられる場合もありますが、ここでは簡潔にするために、より限定された見方をします。

ベイズ推論はベイズ確率に基づいており、ベイズ確率では「確率」を「確実性」と同等に扱うため、頻度主義推論とベイズ推論の本質的な違いは、「確率」の意味についての 2 つの解釈の違いと同じです。ただし、適切な場合には、頻度確率を採用する人はベイズ推論 (この場合はベイズの定理の応用) を使用します。

頻度主義とベイズ主義の推論アプローチには、確率の解釈に関する上記の考察には含まれていない 2 つの大きな違いがあります。

1. 頻度主義的推論アプローチでは、未知のパラメータは通常、ランダム変数ではなく固定されていると見なされます。対照的に、ベイズ的アプローチでは、未知のパラメータに確率を関連付けることができます。これらの確率は、ベイズ的解釈だけでなく、頻度確率の解釈を持つこともあります。ベイズ的アプローチでは、これらの確率は、パラメータの特定の値が真であるという科学者の信念を表すものとして解釈できます（ベイズ確率 - 個人確率と事前確率を構築するための客観的な方法を参照）。
2. ベイズ的アプローチの結果は、実験または研究の結果が与えられた場合のパラメータに関する既知の確率分布になります。頻度主義的アプローチの結果は、有意性検定または信頼区間からの決定のいずれかになります。

• 直感的な統計
• ドイツの戦車問題