予測区間

統計的推論、特に予測推論において、予測区間とは、すでに観測された内容を前提として、将来の観測が一定の確率で入る区間の推定値です。予測区間は、回帰分析でよく使用されます。

簡単な例として、1 から 6 までの面の値を持つ 6 面サイコロが挙げられます。面の値の推定期待値の信頼区間は約 3.5 で、サンプル サイズが大きくなるにつれて狭くなります。ただし、次のサイコロの予測区間は、これまでに確認されたサンプルの数に関係なく、およそ 1 から 6 の範囲になります。

予測区間は、頻度主義統計とベイズ統計の両方で使用されます。予測区間は、頻度主義信頼区間またはベイズ信頼区間が観測不可能な母集団パラメータに対して持つ関係と同じ関係を将来の観測に対して持ちます。つまり、予測区間は個々の将来のポイントの分布を予測しますが、パラメータの信頼区間と信頼区間は、真の母集団平均または観測不可能なその他の関心量の推定値の分布を予測します。

基礎となる分布が正規分布であり、サンプルセット { X ₁、...、  X _n }を持つというパラメトリック仮定を行う場合、信頼区間と信用区間を使用して基礎となる母集団の母平均μと母標準偏差σ を推定できます。一方、予測区間を使用して次のサンプル変数X _{n +1}の値を推定できます。

あるいは、ベイズの用語では、予測区間は、変数の分布のパラメータではなく、変数自体の信頼区間として記述できます。

予測区間の概念は、単一の将来のサンプル値についての推論に限定される必要はなく、より複雑なケースにまで拡張できます。たとえば、分析が年間の最大流量の年間値に基づいて行われることが多い河川の洪水のコンテキストでは、今後 50 年以内に発生する可能性のある最大の洪水について推論を行うことに関心があるかもしれません。

予測区間は観測不可能な母集団パラメータではなく、過去と未来の観測値のみに関係するため、ブルーノ・デ・フィネッティによる観測可能値への焦点に従い、シーモア・ガイサー^[要出典]などの統計学者は信頼区間よりも優れた方法として予測区間を提唱している。^[要出典]

パラメータが不明な正規分布のサンプルが与えられた場合、頻度主義的な意味での予測区間、つまり、繰り返し実験を行ったときにX _{n +1が}望ましい割合で区間内に入るようなサンプルの統計に基づく区間[ a ,  b ]を与えることが可能である。これを「予測信頼区間」と呼ぶこともある。^[1]

頻度主義的予測区間の一般的な手法は、観測量X ₁、...、  X _n、  X _{n +1の}重要量（確率分布がパラメータに依存しない観測量とパラメータの関数）を見つけて計算することです。これを逆転させることで、これまでの観測値に基づいて計算されたある区間に将来の観測値X _{n +1が含まれる確率が得られます。観測量のみに依存するこのような重要量は}補助統計量と呼ばれます。^[2]重要量を構築する通常の方法は、場所に依存する 2 つの変数の差を取って場所が相殺されるようにし、次にスケールに依存する 2 つの変数の比を取ってスケールが相殺されるようにすることです。最もよく知られている重要量はスチューデントの t 統計量で、この方法で導出でき、後述で使用します。 ${\displaystyle X_{1},\dots ,X_{n}.}$

平均と分散がわかっている正規分布N ( μ , σ2 )における将来の観測値Xの予測区間[ ℓ , u ]は^、次のように計算できる。

${\displaystyle \gamma =P(\ell <X<u)=P\left({\frac {\ell -\mu }{\sigma }}}<{\frac {X-\mu }{\sigma }}}<{\frac {u-\mu }{\sigma }}\right)=P\left({\frac {\ell -\mu }{\sigma }}}Z<{\frac {u-\mu }{\sigma }}\right),}$

ここで、Xの標準得点は標準正規分布に従って分布します。 ${\displaystyle Z={\frac {X-\mu }{\sigma }}}$

したがって

${\displaystyle {\frac {\ell -\mu }{\sigma }}=-z,\quad {\frac {u-\mu }{\sigma }}=z,}$

または

${\displaystyle \ell =\mu -z\sigma ,\quad u=\mu +z\sigma ,}$

zは標準正規分布における 分位数であり、

${\displaystyle \gamma =P(-z<Z<z).}$

または同等。

${\displaystyle {\tfrac {1}{2}}(1-\gamma )=P(Z>z).}$

予測区間は通常次のように表されます。

${\displaystyle \left[\mu -z\sigma ,\ \mu +z\sigma \right].}$

たとえば、平均 ( μ ) が 5、標準偏差 ( σ ) が 1 の正規分布の 95% 予測区間を計算する場合、z は約 2 になります。したがって、予測区間の下限は約 5 ‒ (2⋅1) = 3 で、上限は約 5 + (2⋅1) = 7 となり、予測区間は約 3 から 7 になります。

未知のパラメータを持つ分布の場合、予測への直接的なアプローチは、パラメータを推定し、関連する分位関数を使用することです。たとえば、標本平均をμの推定値として使用し、標本分散s ^{2 を}σ ²の推定値として使用できます。ここでのs ²には 2 つの自然な選択肢があります。で割ると不偏推定値が得られ、nで割ると最大尤度推定値が得られるため、どちらを使用してもかまいません。次に、これらの推定パラメータを使用して分位関数を使用し、予測区間を求めます。 ${\displaystyle {\overline {X}}}$ ${\displaystyle (n-1)}$${\displaystyle \Phi _{{\overline {X}},s^{2}}^{-1}}$

このアプローチは使用可能ですが、結果として得られる区間には反復サンプリングの解釈がありません^[4]。つまり、予測信頼区間ではありません。

続編では、サンプル平均を使用します。

${\displaystyle {\overline {X}}=(X_{1}+\cdots +X_{n})/n}$

そして（偏りのない）標本分散：

${\displaystyle s^{2}={1 \over n-1}\sum _{i=1}^{n}(X_{i}-{\overline {X}})^{2}}$

^[5]平均μが不明だが分散が既知の正規分布を考えると、観測値の標本平均は分布を持ち、将来の観測値は分布を持つ。これらの差を取るとμがキャンセルされ、分散の正規分布が得られる。 ${\displaystyle \sigma ^{2}}$${\displaystyle {\overline {X}}}$${\displaystyle X_{1},\dots ,X_{n}}$${\displaystyle N(\mu ,\sigma ^{2}/n),}$${\displaystyle X_{n+1}}$${\displaystyle N(\mu ,\sigma ^{2}).}$${\displaystyle \sigma ^{2}+(\sigma ^{2}/n),}$

${\displaystyle {\frac {X_{n+1}-{\overline {X}}}{\sqrt {\sigma ^{2}+(\sigma ^{2}/n)}}}\sim N(0,1).}$

を解くと、前と同じように区間を計算できる予測分布が得られます。これは、100 p % の分位範囲を使用する場合、この計算を繰り返し適用すると、将来の観測値が100 p % の確率で 予測区間内に収まるという意味で、予測信頼区間です。${\displaystyle X_{n+1}}$${\displaystyle N({\overline {X}},\sigma ^{2}+(\sigma ^{2}/n)),}$${\displaystyle X_{n+1}}$

この予測分布は、複合分散を使用するため、推定平均と既知の分散を使用するよりも保守的であり、わずかに広い間隔が得られることに注意してください。これは、目的の信頼区間プロパティを保持するために必要です。 ${\displaystyle {\overline {X}}}$${\displaystyle \sigma ^{2}}$${\displaystyle \sigma ^{2}+(\sigma ^{2}/n)}$

逆に、平均μが分かっていて分散が分からない正規分布が与えられた場合、観測値の標本分散はスケールに応じて分布になります。より正確には、 ${\displaystyle \sigma ^{2}}$${\displaystyle s^{2}}$${\displaystyle X_{1},\dots ,X_{n}}$${\displaystyle \chi _{n-1}^{2}}$

${\displaystyle {\frac {(n-1)s^{2}}{\sigma ^{2}}}\sim \chi _{n-1}^{2}.}$

一方、将来の観測値は分布を持ちます。 将来の観測値の残差と標本標準偏差s の比を取ると σ がキャンセルされ、自由度がn  – 1のスチューデントの t 分布が得られます(導出を参照)。 ${\displaystyle X_{n+1}}$${\displaystyle N(\mu ,\sigma ^{2}).}$${\displaystyle X_{n+1}-\mu }$

${\displaystyle {\frac {X_{n+1}-\mu }{s}}\sim T^{n-1}.}$

を解くと予測分布が得られ、そこから前と同じように間隔を計算できます。 ${\displaystyle X_{n+1}}$${\displaystyle \mu \pm sT^{n-1},}$

この予測分布は、正規分布の代わりに t 分布を使用するため、推定標準偏差と既知の平均μを持つ正規分布を使用するよりも保守的であり、したがってより広い間隔が得られることに注意してください。これは、目的の信頼区間プロパティを保持するために必要です。 ${\displaystyle s}$

μとσ2^が未知の正規分布について上記を組み合わせると、次の補助統計量が得られる: ^[6]${\displaystyle N(\mu ,\sigma ^{2})}$

${\displaystyle {\frac {X_{n+1}-{\overline {X}}}{s{\sqrt {1+1/n}}}}\sim T^{n-1}}$

この単純な組み合わせは、正規分布の標本平均と標本分散が独立した統計であるため可能です。これは正規分布にのみ当てはまり、実際に正規分布の特徴となります。

を解くと予測分布が得られる。 ${\displaystyle X_{n+1}}$

${\displaystyle {\overline {X}}+s{\sqrt {1+1/n}}\cdot T^{n-1}}$

特定の間隔内に落ちる 確率は次のようになります。${\displaystyle X_{n+1}}$

${\displaystyle \Pr \left({\overline {X}}-T_{a}s{\sqrt {1+(1/n)}}\leq X_{n+1}\leq {\overline {X}}+T_{a}s{\sqrt {1+(1/n)}}\,\right)=p}$

ここで、T _{a は}自由度n − 1のスチューデントt分布の100((1 −  p )/2)^番目 のパーセンタイルである 。したがって、数値は

${\displaystyle {\overline {X}}\pm T_{a}s{\sqrt {1+(1/n)}}}$

は100(1 − p )%予測区間の終点である 。 ${\displaystyle X_{n+1}}$

母集団に関する仮定を一切せずに、つまり非パラメトリックな方法で予測区間を計算することができます。

残差ブートストラップ法は、ノンパラメトリック予測区間の構築に使用できます。

一般に、等角予測法の方が一般的です。最小値と最大値を予測区間の境界として使用する特殊なケースを見てみましょう。同一のランダム変数のサンプル { X ₁、...、  X _n } がある場合、すべての観測値が最大値になる確率は等しいため、次の観測値X _{n +1が最大になる確率は 1/(} n  + 1) です。同様に、X _{n +1 が}最小になる確率も 1/( n + 1) です。 もう 1 つの ( n  − 1)/( n  + 1) の場合、X _{n +1 は}サンプル { X ₁、...、  X _n } のサンプル最大値とサンプル最小値の間にあります。したがって、サンプル最大値と最小値をMとm で表すと、 ( n  − 1)/( n  + 1) 予測区間は [ m、  M ] になります。

これは将来の観測値が範囲内に入る確率を示しますが、セグメント内のどこに入るかについては推定値を与えないことに注意してください。特に、観測値の範囲外に入る場合は、範囲から大きく外れている可能性があります。詳細については、極値理論を参照してください。正式には、これは母集団からのサンプリングだけでなく、必ずしも独立または同一に分布している必要のない、交換可能なランダム変数のシーケンスに適用されます。

予測信頼区間の式では、母集団の平均と標準偏差の観測不可能なパラメータμとσについては言及されていません。観測されたサンプル統計とサンプルの平均と標準偏差が使用され、推定されるのは将来のサンプルの結果です。 ${\displaystyle {\overline {X}}_{n}}$${\displaystyle S_{n}}$

予測区間を検討する場合、標本統計を母集団パラメータの推定値として使用し、これらの推定値に信頼区間を適用するのではなく、「次の標本」自体を統計と見なし、その標本分布を計算します。 ${\displaystyle X_{n+1}}$

パラメータ信頼区間では、母集団パラメータを推定します。これを次のサンプルの予測として解釈したい場合は、(推定された)母集団分布を使用して、この推定母集団から抽出した「次のサンプル」をモデル化します。対照的に、予測信頼区間では、そのような母集団からのnまたはn + 1 の観測値のサンプルの標本分布 ( の統計) を使用します。母集団分布は直接使用されませんが、標本分布の形式に関する仮定 (パラメータの値ではない) は標本分布の計算に使用されます。

予測区間の一般的な応用は回帰分析です。データが直線 (単回帰) でモデル化されていると仮定します。

${\displaystyle y_{i}=\alpha +\beta x_{i}+\varepsilon _{i}\,}$

ここで、 は応答変数、は説明変数、ε _iはランダム誤差項、および はパラメータです。 ${\displaystyle y_{i}}$${\displaystyle x_{i}}$${\displaystyle \alpha }$${\displaystyle \beta }$

通常の最小二乗法などからパラメータの推定値とが与えられると、与えられた説明値x _dに対する予測応答値y _dは ${\displaystyle {\hat {\alpha }}}$${\displaystyle {\hat {\beta }}}$

${\displaystyle {\hat {y}}_{d}={\hat {\alpha }}+{\hat {\beta }}x_{d},}$

（回帰直線上の点）ですが、実際の応答は

${\displaystyle y_{d}=\alpha +\beta x_{d}+\varepsilon _{d}.\,}$

点推定値は 平均応答と呼ばれ、y _dの期待値の推定値である。${\displaystyle {\hat {y}}_{d}}$${\displaystyle E(y\mid x_{d}).}$

予測区間は、代わりにy _{d が}含まれると予想される区間を示します。実際のパラメータαとβ が（誤差項ε _iとともに）わかっている場合、これは必要ありませんが、サンプルから推定する場合は、切片と傾き（および）の推定値の標準誤差とそれらの相関を使用して予測区間を計算できます。 ${\displaystyle {\hat {\alpha }}}$${\displaystyle {\hat {\beta }}}$

回帰分析では、Faraway (2002、p. 39) は、平均応答の予測の区間と観測応答の予測の区間を区別しています。これは、基本的に、上記の拡張係数の平方根内に単位項を含めるかどうかに影響します。詳細については、Faraway (2002) を参照してください。

予測推論の提唱者であるシーモア・ガイサーは、ベイズ統計の予測的応用について述べています。^[7]

ベイズ統計では、ランダム変数の事後確率から信頼区間として（ベイズ）予測区間を計算できます。理論的な作業では、信頼区間は将来のイベントの予測ではなく、パラメータの推論（つまり、変数自体の結果ではなくパラメータの信頼区間）のために計算されることがほとんどです。ただし、特にアプリケーションがまだ観察されていないケースの可能性のある極端な値に関係する場合、そのような値の信頼区間は実用上重要になることがあります。

予測区間は、血液検査が正常かどうかを判断するための血液検査の基準範囲などの基準範囲の定義としてよく使用されます。この目的で最も一般的に使用される予測区間は 95% 予測区間であり、それに基づいた基準範囲は標準基準範囲と呼ぶことができます。

• Faraway, Julian J. (2002)、R を使用した実用的な回帰分析と分散分析(PDF)
• ガイサー、シーモア（1993）、予測推論、CRCプレス
• スターン、ジョナサン; カークウッド、ベティ R. (2003)、エッセンシャル メディカル スタティスティックス、ブラックウェル サイエンス、ISBN 0-86542-871-9

• Chatfield, C. (1993). 「区間予測の計算」. Journal of Business & Economic Statistics . 11 (2): 121– 135. doi :10.2307/1391361. JSTOR  1391361.
• Lawless, JF; Fredette, M. (2005). 「頻度主義予測区間と予測分布」Biometrika . 92 (3): 529– 542. doi : 10.1093/biomet/92.3.529 .
• Meade, N.; Islam, T. (1995). 「成長曲線予測の予測間隔」Journal of Forecasting . 14 (5): 413– 430. doi :10.1002/for.3980140502.
• ISO 16269-8 データの標準解釈、パート 8、予測区間の決定