ベッセルの補正

統計学において、ベッセル補正とは、標本分散と標本標準偏差の式でnの 代わりにn − 1を使用することです^[1]。ここで、nは標本内の観測値の数です。この方法は、母分散の推定値の偏りを補正します。また、母標準偏差の推定値の偏りを部分的に補正します。ただし、この補正により、これらの推定値の平均二乗誤差が増加することがよくあります。この手法は、フリードリヒ・ベッセルにちなんで名付けられました。

母平均が不明な場合に標本から母分散を推定する場合、補正されていない標本分散は標本平均値からの標本値の偏差の二乗の平均です（つまり、乗法係数1/ nを使用）。この場合、標本分散は母分散の偏りのある推定値です。補正されていない標本分散に係数を乗じると、

${\displaystyle {\frac {n}{n-1}}}$

母分散の不偏推定値を与える。文献によっては^{[2] [3]、}上記の係数はベッセル補正と呼ばれている。

ベッセル補正は、残差ベクトル（母平均が不明であるため、誤差ではなく残差） の自由度として理解できます。

${\displaystyle (x_{1}-{\overline {x}},\,\dots ,\,x_{n}-{\overline {x}}),}$

ここで、 は標本平均です。標本にはn 個の独立した観測値がありますが、その合計は 0 となるため、独立した残差はn  − 1 個しかありません。ベッセル補正の必要性に関するより直感的な説明については、§ バイアスの原因を参照してください。 ${\displaystyle {\overline {x}}}$

一般的に、ベッセル補正は有限サンプルサイズによるバイアスを減らすアプローチです。このような有限サンプルバイアス補正は、歪度や尖度などの他の推定にも必要ですが、これらの推定では不正確さがかなり大きくなることがよくあります。このようなバイアスを完全に除去するには、より複雑なマルチパラメータ推定を行う必要があります。たとえば、標準偏差の正しい補正は尖度（正規化された中心 4 次モーメント）に依存しますが、これにも有限サンプルバイアスがあり、標準偏差に依存するため、両方の推定をマージする必要があります。

ベッセルの補正に関して考慮すべき 注意点が3 つあります。

1. 標準偏差の不偏推定値は得られません。
2. 修正された推定値は、修正されていない推定値よりも平均二乗誤差（MSE）が大きくなることがよくあります。 ^[4]さらに、MSEを最小化するために常に異なるスケール係数を選択できるため、最小のMSEを持つ人口分布は存在しません。
3. これは、母平均が不明な場合（および標本平均として推定される場合）にのみ必要です。実際には、これは一般的に発生します。

まず、標本分散（ベッセル補正を使用）は母分散の不偏推定値ですが、その平方根、すなわち標本標準偏差は、母標準偏差の偏りのある推定値です。平方根は凹関数なので、ジェンセンの不等式により、偏りは下向きになります。母標準偏差の不偏推定値の一般的な公式はありませんが、正規分布などの特定の分布には補正係数があります。詳細については、標準偏差の不偏推定を参照してください。正規分布の正確な補正係数の近似値は、式でn − 1.5を使用することで得られます 。偏りは、（補正されていない形式やベッセルの補正された形式のように線形ではなく）二次関数的に減少します。

第二に、不偏推定量は平均二乗誤差 (MSE) を最小化せず、一般に未補正推定量よりも MSE が悪くなります (これは過剰尖度によって異なります)。MSE は別の係数を使用することで最小化できます。平均二乗誤差: 分散で説明したように、最適値は過剰尖度によって異なります。正規分布の場合、これはn + 1 ( n  − 1 またはn ではなく)で割ることで最適化されます。

第三に、ベッセルの補正は、母平均が未知であり、標本平均を使用して母平均を推定し、特定の標本から母平均と母分散の両方を推定する場合にのみ必要です。その場合、 n点の標本にはnの自由度があり、平均と分散を同時に推定するということは、1 つの自由度が標本平均に、残りのn  − 1 の自由度 (残差) が標本分散に渡ることを意味します。ただし、母平均がわかっている場合は、観測値の母平均からの偏差にはnの自由度があり (平均は推定されていないため、偏差は残差ではなく誤差)、ベッセルの補正は適用できません。

最も簡単に言えば、修正が必要な偏りを理解するために、極端なケースを考えてみましょう。母集団が (0,0,0,1,2,9) で、母集団平均が 2、母集団分散が であるとします。n = 1の標本を抽出し、次のようになります。母集団平均の最良推定値は 次のようになります。しかし、この式を使用して分散を推定するとどうなるでしょうか。分散の推定値は 0 になります。また、n = 1 のどの母集団およびどの標本に対しても推定値は 0 になります。問題は、標本平均を推定する際に、そのプロセスによって平均の推定値が既に標本抽出した値 ( n = 1の場合と同一) に近くなっていることです。n = 1の場合、標本にばらつきがないため、分散を推定することはできません。 ${\displaystyle 31/3}$${\displaystyle x_{1}=0.}$${\displaystyle {\bar {x}}=x_{1}/n=0/1=0.}$${\displaystyle (x_{1}-{\bar {x}})^{2}/n=(0-0)/1=0}$

しかし、n = 2 の場合を考えてみましょう。サンプルが (0, 2) であると仮定します。すると、およびになりますが、ベッセル補正により、これは不偏推定値です ( n = 2 のすべての可能なサンプルを採取してこの方法を使用すると、平均推定値は 12.4 になり、ベッセル補正によるサンプル分散と同じになります)。 ${\displaystyle {\bar {x}}=1}$${\displaystyle \left[(x_{1}-{\bar {x}})^{2}+(x_{2}-{\bar {x}})^{2}\right]/n=(1+1)/2=1}$${\displaystyle \left[(x_{1}-{\bar {x}})^{2}+(x_{2}-{\bar {x}})^{2}\right]/(n-1)=(1+1)/1=2}$

これをさらに詳しく見るには、次の例を考えてみましょう。人口全体の平均は 2050 ですが、統計学者はそれを知らず、人口からランダムに選択したこの小さなサンプルに基づいて平均を推定しなければならないとします。

${\displaystyle 2051,\quad 2053,\quad 2055,\quad 2050,\quad 2051}$

サンプル平均を計算するには次のようにします。

${\displaystyle {\frac {1}{5}}\left(2051+2053+2055+2050+2051\right)=2052}$

これは、観測不可能な人口平均である 2050 年の観測可能な推定値として役立つ可能性があります。ここで、人口分散を推定する問題に直面します。これは、2050 年からの偏差の 2 乗の平均です。人口平均が 2050 年であることがわかっていれば、次のように進めることができます。

${\displaystyle {\begin{aligned}{}&{\frac {1}{5}}\left[(2051-2050)^{2}+(2053-2050)^{2}+(2055-2050)^{2}+(2050-2050)^{2}+(2051-2050)^{2}\right]\\[6pt]={}&{\frac {36}{5}}=7.2\end{aligned}}}$

しかし、母集団平均の推定値は標本平均 2052 です。実際の平均 2050 は不明です。したがって、標本平均 2052 を使用する必要があります。

${\displaystyle {\begin{aligned}{}&{\frac {1}{5}}\left[(2051-2052)^{2}+(2053-2052)^{2}+(2055-2052)^{2}+(2050-2052)^{2}+(2051-2052)^{2}\right]\\[6pt]={}&{\frac {16}{5}}=3.2\end{aligned}}}$

分散は小さくなりましたが、これは (ほぼ) 常に小さくなります。唯一の例外は、標本平均と母集団平均が同じ場合です。理由を理解するには、分散が点からの距離を測定し、特定の標本内では平均はまさに距離を最小化する点であると考えてください。他の平均値を使用して分散を計算すると、より大きな結果が生成されます。

これを代数的に見るために、単純な恒等式を使います:

${\displaystyle (a+b)^{2}=a^{2}+2ab+b^{2}}$

は、個々のサンプルのサンプル平均からの偏差を表し、 は、サンプル平均の母平均からの偏差を表します。個々のサンプルの実際の偏差を、(未知の)母平均から単純に 2 つの要素に分解したことに注意してください。1 つは、計算可能な単一サンプルのサンプル平均からの偏差、もう 1 つは計算不可能な、母平均からのサンプル平均の追加偏差です。次に、この恒等式を母平均からの偏差の 2 乗に適用します。 ${\displaystyle a}$${\displaystyle b}$

${\displaystyle {\begin{aligned}{[}\,\underbrace {2053-2050} _{\begin{smallmatrix}{\text{Deviation from}}\\{\text{the population}}\\{\text{mean}}\end{smallmatrix}}\,]^{2}&=[\,\overbrace {(\,\underbrace {2053-2052} _{\begin{smallmatrix}{\text{Deviation from}}\\{\text{the sample mean}}\end{smallmatrix}}\,)} ^{{\text{This is }}a.}+\overbrace {(2052-2050)} ^{{\text{This is }}b.}\,]^{2}\\&=\overbrace {(2053-2052)^{2}} ^{{\text{This is }}a^{2}.}+\overbrace {2(2053-2052)(2052-2050)} ^{{\text{This is }}2ab.}+\overbrace {(2052-2050)^{2}} ^{{\text{This is }}b^{2}.}\end{aligned}}}$

これを 5 つの観察すべてに適用し、特定のパターンを観察します。

${\displaystyle {\begin{alignedat}{2}\overbrace {(2051-2052)^{2}} ^{{\text{This is }}a^{2}.}\ &+\ \overbrace {2(2051-2052)(2052-2050)} ^{{\text{This is }}2ab.}\ &&+\ \overbrace {(2052-2050)^{2}} ^{{\text{This is }}b^{2}.}\\(2053-2052)^{2}\ &+\ 2(2053-2052)(2052-2050)\ &&+\ (2052-2050)^{2}\\(2055-2052)^{2}\ &+\ 2(2055-2052)(2052-2050)\ &&+\ (2052-2050)^{2}\\(2050-2052)^{2}\ &+\ 2(2050-2052)(2052-2050)\ &&+\ (2052-2050)^{2}\\(2051-2052)^{2}\ &+\ \underbrace {2(2051-2052)(2052-2050)} _{\begin{smallmatrix}{\text{The sum of the entries in this}}\\{\text{middle column must be 0.}}\end{smallmatrix}}\ &&+\ (2052-2050)^{2}\end{alignedat}}}$

中央の列のエントリの合計は 0 でなければなりません。なぜなら、項a は5 行すべてに追加され、それ自体は 0 になる必要があるからです。これは、aには 5 つの個別のサンプル (括弧内の左側) が含まれており、これらを加算すると、当然、それらの 5 つの数値のサンプル平均 (2052) を 5 回加算したのと同じ合計になるからです。つまり、これら 2 つの合計を減算すると 0 になる必要があります。中央の列の係数 2 と項 b はすべての行で等しいため、中央の列のすべての行の相対差は同じままであり、したがって無視できます。次の文は、残りの列の意味を説明します。

• 最初の列（ a ² ）のエントリの合計は、サンプルからサンプル平均までの距離の二乗の合計です。
• 最後の列（ b ² ）のエントリの合計は、測定されたサンプル平均と正しい母集団平均の間の距離の二乗の合計です。
• 各行は、a ² (サンプル平均が使用されるため偏りがある) とb ² (「実際の」母集団平均と不正確なサンプル平均の差を考慮するため偏りの修正) のペアで構成されます。したがって、最初の列と最後の列のすべてのエントリの合計が正しい分散を表すようになり、サンプルと母集団平均の間の距離の二乗の合計が使用されることになります。
• b ²列内のすべてのエントリが正であるため、 a ²列と b ²列の合計は、 a ²列のエントリ内の合計よりも大きくなければなりません (ただし、母平均が標本平均と同じ場合は、最後の列のすべての数値が 0 になります)。

したがって：

• 標本から母集団の平均までの距離の二乗和は、標本の平均までの距離の二乗和よりも常に大きくなります。ただし、標本の平均が母集団の平均と同じである場合は、両者は等しくなります。

そのため、標本平均からの偏差の二乗の合計は小さすぎて、それらの二乗の平均を求めても母分散の不偏推定値を得ることができません。標本サイズが小さいほど、標本分散と母分散の差は大きくなります。

この補正は非常に一般的であるため、「サンプル分散」および「サンプル標準偏差」という用語は、n  − 1 を使用して補正された推定値 (偏りのないサンプル分散、偏りの少ないサンプル標準偏差) を意味するために頻繁に使用されます。ただし、注意が必要です。一部の計算機およびソフトウェア パッケージでは、両方またはより珍しい定式のみが提供されている場合があります。この記事では、次の記号と定義を使用します。

• μは母平均である
• ${\displaystyle {\overline {x}}}$標本平均は
• σ ²は母分散である
• s _n ^{2 は}、偏りのある標本分散（つまり、ベッセル補正なし）である。
• s ^{2 は}不偏標本分散（すなわちベッセル補正あり）である。

標準偏差は、それぞれの分散の平方根になります。平方根はバイアスを導入するため、標準偏差推定値には「未補正」および「補正済み」という用語が適しています。

• s _nは補正されていない標本標準偏差（つまり、ベッセル補正なし）
• sは補正された標本標準偏差（つまりベッセル補正）であり、偏りは少ないが、それでも偏りがある。

標本平均は次のように与えられる。 $${\displaystyle {\overline {x}}={\frac {1}{n}}\sum _{i=1}^{n}x_{i}.}$$

偏りのある標本分散は次のように表されます。 $${\displaystyle s_{n}^{2}={\frac {1}{n}}\sum _{i=1}^{n}\left(x_{i}-{\overline {x}}\right)^{2}={\frac {\sum _{i=1}^{n}x_{i}^{2}}{n}}-{\frac {\left(\sum _{i=1}^{n}x_{i}\right)^{2}}{n^{2}}}}$$

不偏標本分散は次のように表されます。 $${\displaystyle s^{2}={\frac {1}{n-1}}\sum _{i=1}^{n}\left(x_{i}-{\overline {x}}\right)^{2}={\frac {\sum _{i=1}^{n}x_{i}^{2}}{n-1}}-{\frac {\left(\sum _{i=1}^{n}x_{i}\right)^{2}}{(n-1)n}}=\left({\frac {n}{n-1}}\right)\,s_{n}^{2}.}$$

したがって、 は期待値と分散 を持つ独立かつ同一に分布するランダム変数であると仮定します。 ${\displaystyle X_{1},\ldots ,X_{n}}$${\displaystyle \mu }$${\displaystyle \sigma ^{2}}$

基礎となる標本空間の結果におけるの値がわかっているので、未知である分散 の適切な推定値を取得したいと考えています。このために、 を含む数式を構築し、この式の期待値が正確に になるようにします。これは、平均すると、この式が正しい答えを生成するはずであることを意味します。 ${\displaystyle X_{1},\ldots ,X_{n}}$${\displaystyle \omega \in \Omega }$${\displaystyle \sigma ^{2}}$${\displaystyle X_{1},\ldots ,X_{n}}$${\displaystyle \sigma ^{2}}$

このような式を推測する賢明だが素朴な方法は、

${\displaystyle {\frac {1}{n}}\sum _{k=1}^{n}(x_{k}-{\overline {x}})^{2}}$、

ここで、これは、離散確率空間上に、で値を持つ離散ランダム変数がある場合の分散になります。しかし、この式の期待値を計算してみましょう。 ${\displaystyle x_{k}=X_{k}(\omega )}$${\displaystyle \{1,\ldots ,n\}}$${\displaystyle x_{k}}$${\displaystyle k}$

${\displaystyle {\begin{aligned}\mathbb {E} \left[{\frac {1}{n}}\sum _{k=1}^{n}(x_{k}-{\overline {x}})^{2}\right]&=\mathbb {E} \left[{\frac {1}{n}}\sum _{k=1}^{n}\left(x_{k}-{\frac {1}{n}}\sum _{j=1}^{n}x_{j}\right)^{2}\right]\\&=\mathbb {E} \left[{\frac {1}{n}}\sum _{k=1}^{n}\left({\frac {1}{n}}\sum _{j=1}^{n}(x_{k}-x_{j})\right)^{2}\right];\end{aligned}}}$

ここでは（独立性、対称的なキャンセル、同一の分布により）

${\displaystyle {\begin{aligned}\mathbb {E} \left[\left(\sum _{j=1}^{n}(x_{k}-x_{j})\right)^{2}\right]&=\mathbb {E} \left[\sum _{j=1}^{n}\sum _{l=1}^{n}(x_{k}-x_{j})(x_{k}-x_{l})\right]\\&=n(n-1)\mathbb {E} [X_{1}^{2}]-n(n-1)\mathbb {E} [X_{1}]^{2},\end{aligned}}}$

そしてそれゆえ

${\displaystyle \mathbb {E} \left[{\frac {1}{n}}\sum _{k=1}^{n}(x_{k}-{\overline {x}})^{2}\right]={\frac {n-1}{n}}\left(\mathbb {E} [X_{1}^{2}]-\mathbb {E} [X_{1}]^{2}\right)}$。

対照的に、

${\displaystyle \operatorname {Var} (X_{1})=\mathbb {E} [X_{1}^{2}]-\mathbb {E} [X_{1}]^{2}}$。

したがって、当初の推測は、

${\displaystyle {\frac {n-1}{n}}}$、

そしてこれはまさにベッセルの修正です。

• コクランの定理
• 推定値のバイアス
• 標準偏差
• 標準偏差の偏りのない推定
• ジェンセンの不等式

• ワイスタイン、エリック W.「ベッセルの矯正」。マスワールド。
• カーンアカデミーでの修正を示すアニメーション実験