標準誤差

統計量（通常はパラメータの推定値）の標準誤差（SE）^[1]は、その標本分布^[2]の標準偏差、またはその標準偏差の推定値です。統計量が標本平均の場合、平均の標準誤差（SEM ）と呼ばれます。^{[1]標準誤差は}信頼区間を作成するための重要な要素です。^[3]

平均値の標本分布は、同じ母集団から繰り返し標本抽出を行い、得られた標本平均値を記録することによって生成されます。これにより、異なる平均値の分布が形成され、この分布には独自の平均値と分散があります。数学的には、得られた標本平均値分布の分散は、母集団の分散を標本サイズで割った値に等しくなります。これは、標本サイズが大きくなるにつれて、標本平均値が母集団平均値の周囲に密集するようになるためです。

したがって、平均の標準誤差と標準偏差の関係は、与えられたサンプルサイズに対して、平均の標準誤差は標準偏差をサンプルサイズの平方根で割ったものに等しくなります。 ^[1]言い換えれば、平均の標準誤差は、母集団平均の周りのサンプル平均の分散の尺度です。

回帰分析では、「標準誤差」という用語は、縮小されたカイ二乗統計量の平方根、または特定の回帰係数の標準誤差（たとえば、信頼区間で使用される）のいずれかを指します。

標準偏差の統計的母集団から統計的に独立した観測値の標本を採取したとします。標本から計算された平均値 には、平均 の標準誤差が伴い、次のように表されます。^[1]${\displaystyle n}$${\displaystyle x_{1},x_{2},\ldots ,x_{n}}$${\displaystyle \sigma}$${\displaystyle {\bar {x}}}$${\displaystyle {\sigma }_{\bar {x}}}$ $${\displaystyle {\sigma }_{\bar {x}}={\frac {\sigma }{\sqrt {n}}}.}$$

実際には、これは、母集団の平均値を推定しようとすると、係数 により、推定値の誤差を 2 倍に減らすにはサンプル内で 4 倍の観測値を取得する必要があり、10 倍に減らすには 100 倍の観測値が必要になることを示しています。 ${\displaystyle 1/{\sqrt {n}}}$

サンプルの母集団の標準偏差がわかっていることはほとんどありません。したがって、平均の標準誤差は通常、サンプルの標準偏差に置き換えることによって推定されます。 ${\displaystyle \sigma}$${\displaystyle \sigma}$ ${\displaystyle \sigma_{x}}$$${\displaystyle {\sigma }_{\bar {x}}\ \approx {\frac {\sigma _{x}}{\sqrt {n}}}.}$$

これは真の「標準誤差」の推定値にすぎないため、次のような他の表記が使用されるのが一般的です。 $${\displaystyle {\widehat {\sigma }}_{\bar {x}}:={\frac {\sigma _{x}}{\sqrt {n}}}\qquad {\text{ または }}\qquad {s}_{\bar {x}}\ :={\frac {s}{\sqrt {n}}}.}$$

混乱の原因としてよくあるのは、以下の点を明確に区別できない場合です。

• 母集団の標準偏差（）、${\displaystyle \sigma}$
• 標本の標準偏差（）、${\displaystyle \sigma_{x}}$
• 平均値自体の標準偏差（これは標準誤差です）、および${\displaystyle \sigma _{\bar {x}}}$
• 平均値の標準偏差の推定値（これは最も頻繁に計算される量であり、口語的には標準誤差と呼ばれることも多い）。${\displaystyle {\widehat {\sigma }}_{\bar {x}}}$

サンプルサイズが小さい場合、母集団の真の標準偏差の代わりにサンプルの標準偏差を使用すると、母集団の標準偏差が系統的に過小評価される傾向があり、したがって標準誤差も過小評価される傾向があります。n = 2 の場合、過小評価は約 25% ですが、n = 6 の場合は過小評価はわずか 5% です。Gurland と Tripathi (1971) は、この影響に対する補正と式を示しています。^{[4] Sokal と Rohlf (1981) は、} n < 20の小さなサンプルに対する補正係数の式を示しています。 ^[5]詳細については、 標準偏差の不偏推定を参照してください。

平均の標準誤差は、分散の定義とそのいくつかの特性が与えられれば、独立したランダム変数の合計の分散から導き出すことができます^[6]。 が平均と標準偏差 を持つ母集団からの独立した観測値のサンプルである場合、ビエネメの公式 により、分散 を持つ 合計を定義できます。ここで、 測定値自体の標準偏差、つまり不確実性は、母集団の標準偏差の最良の値で近似されます。これらの測定値の平均は次のように与えられます 。${\displaystyle x_{1},x_{2},\ldots ,x_{n}}$${\displaystyle n}$${\displaystyle {\bar {x}}}$${\displaystyle \sigma}$$${\displaystyle T=(x_{1}+x_{2}+\cdots +x_{n})}$$$${\displaystyle \operatorname {Var} (T)={\big (}\operatorname {Var} (x_{1})+\operatorname {Var} (x_{2})+\cdots +\operatorname {Var} (x_{n}){\big )}=n\sigma ^{2}.}$$${\displaystyle {\bar {x}}}$$${\displaystyle {\bar {x}}=T/n.}$$

平均の分散は $${\displaystyle \operatorname {Var} ({\bar {x}})=\operatorname {Var} \left({\frac {T}{n}}\right)={\frac {1}{n^{2}}}\operatorname {Var} (T)={\frac {1}{n^{2}}}n\sigma ^{2}={\frac {\sigma ^{2}}{n}}.}$$

標準誤差は、定義により、分散の平方根 である標準偏差です。${\displaystyle {\bar {x}}}$$${\displaystyle \sigma _{\bar {x}}={\sqrt {\frac {\sigma ^{2}}{n}}}={\frac {\sigma }{\sqrt {n}}}.}$$

相関のあるランダム変数の場合、サンプル分散はマルコフ連鎖の中心極限定理に従って計算する必要があります。

事前に、ある基準に従ってどのくらいの観測値が許容されるかを知らずにサンプルを採取する場合があります。そのような場合、サンプルサイズはランダム変数であり、その変動は変動に加算されるため、^[7]総分散の法則 に従います。 ${\displaystyle N}$${\displaystyle X}$$${\displaystyle \operatorname {Var} (T)=\operatorname {E} (N)\operatorname {Var} (X)+\operatorname {Var} (N){\big (}\operatorname {E} (X){\big )}^{2}}$$

がポアソン分布である場合、推定値は となります。したがって の推定値は となり、標準誤差の式は次のようになります。 (標準偏差は分散の平方根であるため)。 ${\displaystyle N}$${\displaystyle \operatorname {E} (N)=\operatorname {Var} (N)}$${\displaystyle n=N}$${\displaystyle \operatorname {Var} (T)}$${\displaystyle nS_{X}^{2}+n{\bar {X}}^{2}}$$${\displaystyle \operatorname {Standard~Error} ({\bar {X}})={\sqrt {\frac {S_{X}^{2}+{\bar {X}}^{2}}{n}}}}$$

多くの実際のアプリケーションでは、 σの真の値は不明です。その結果、考えられるσの広がりを考慮した分布を使用する必要があります。真の基底分布がガウス分布であることがわかっていても、σ が不明な場合、結果として得られる推定分布はスチューデント t 分布に従います。標準誤差は、スチューデント t 分布の標準偏差です。t 分布はガウス分布とは少し異なり、サンプルのサイズによって異なります。小さなサンプルでは、​​母集団の標準偏差を過小評価する可能性がやや高く、平均が真の母集団の平均と異なります。スチューデント t 分布は、ガウス分布と比較してやや重い裾でこれらのイベントの確率を説明します。スチューデント t 分布の標準誤差を推定するには、σ の代わりにサンプル標準偏差 "s" を使用するだけで十分であり、この値を使用して信頼区間を計算できます。

注:サンプル サイズが 100 を超える場合、スチューデントの確率分布はガウス分布でよく近似されます。このようなサンプルには、はるかに単純な後者の分布を使用できます。また、母集団の「真の」分布が不明であっても、サンプル サイズが妥当で、特定のサンプリング条件の下では、サンプリング分布の正規性を仮定することが理にかなっています。CLT を参照してください。これらの条件が満たされない場合、ブートストラップ分布を使用して標準誤差を推定することは、多くの場合、適切な回避策ですが、計算量が多くなる可能性があります。

の使用方法の一例としては、未知の母平均の信頼区間を作成する場合が挙げられます。標本分布が正規分布している場合、標本平均、標準誤差、および正規分布の変位値を使用して、真の母平均の信頼区間を計算できます。次の式を使用して、95% 信頼限界の上限と下限を計算できます。ここで、 は標本平均、は標本平均の標準誤差、1.96 は正規分布の97.5パーセンタイル点のおおよその値です。 ${\displaystyle \operatorname {SE} }$${\displaystyle {\bar {x}}}$${\displaystyle \operatorname {SE} }$

特に、標本統計量（標本平均など）の標準誤差は、標本平均が生成された過程における標本平均の実際または推定の標準偏差です。言い換えれば、標本統計量の標本分布の実際または推定の標準偏差です。標準誤差の表記法は、SE、SEM（測定または平均の標準誤差）、またはS _Eのいずれかです。

標準誤差は値の不確実性を示す単純な尺度であり、次のような理由でよく使用されます。

• 多くの場合、いくつかの個々の量の標準誤差がわかっていれば、量の何らかの関数の標準誤差は簡単に計算できます。
• 値の確率分布がわかっている場合は、それを使用して正確な信頼区間を計算できます。
• 確率分布が不明な場合は、チェビシェフの不等式またはヴィソチャンスキー・ペチュニンの不等式を使用して保守的な信頼区間を計算することができます。
• サンプルサイズが無限大に近づくにつれて、中心極限定理により、平均の標本分布が漸近的に正規分布になることが保証されます。

科学技術文献では、実験データはサンプルデータの平均と標準偏差、または平均と標準誤差のいずれかを使用して要約されることが多い。これにより、それらの互換性について混乱が生じることが多い。しかし、平均と標準偏差は記述統計であり、平均の標準誤差はランダムサンプリングプロセスを説明するものである。サンプルデータの標準偏差は測定値の変動を説明するものであり、平均の標準誤差は中心極限定理に照らして、サンプルサイズが母平均の推定値のより良い境界を提供する確率的記述である。^[8]

簡単に言えば、標本平均の標準誤差は標本平均が母集団平均からどのくらい離れているかの推定値であり、標本の標準偏差は標本内の個体が標本平均からどの程度異なるかの度合いです。^[9]母集団標準偏差が有限である場合、標本平均の標準誤差は標本サイズが大きくなるにつれてゼロに近づく傾向があります。これは、標本サイズが大きくなるにつれて、母集団平均の推定値が向上する一方で、標本の標準偏差は母集団標準偏差に近づく傾向があるためです。

標準誤差に関する上記の式は、母集団が無限であることを前提としています。それでも、既存の有限母集団を作成したプロセスを測定することに関心がある場合、有限母集団に対してこの式がよく使用されます (これは分析調査と呼ばれます)。上記の式は母集団が有限の場合に正確には当てはまりませんが、標本抽出率が小さい場合 (たとえば、有限母集団の小さな割合を調査する場合)、有限母集団バージョンと無限母集団バージョンの違いは小さくなります。この場合、有限母集団を補正せず、基本的に「ほぼ無限」の母集団として扱うことがよくあります。

時間の経過とともに変化しない既存の有限母集団を測定することに関心がある場合、母集団のサイズを調整する必要があります（列挙調査と呼ばれます）。列挙調査でサンプリング率（多くの場合fと呼ばれる）が大きい場合（約5％以上） 、標準誤差の推定値は「有限母集団補正」（別名： FPC）で乗じて補正する必要があります。 ^{[10] [11]} これは、Nが大きい場合： 母集団のより大きな割合に近いサンプリングによって得られる追加の精度を考慮に入れます。FPCの効果は、サンプルサイズnが母集団サイズNに等しい ときに誤差がゼロになることです。 $${\displaystyle \operatorname {FPC} ={\sqrt {\frac {N-n}{N-1}}}}$$$${\displaystyle \operatorname {FPC} \approx {\sqrt {1-{\frac {n}{N}}}}={\sqrt {1-f}}}$$

これは、調査方法論において、非置換サンプリングを行う場合に発生します。置換サンプリングを行う場合、FPC は適用されません。

測定された量Aの値が統計的に独立ではなく、パラメータ空間 x内の既知の位置から取得された場合、計算されたサンプルの標準誤差に係数 f を掛けることで、平均の真の標準誤差の不偏推定値（実際には標準偏差部分の補正）を取得できます 。ここで、 サンプルバイアス係数 ρ は、すべてのサンプルポイントペアの自己相関係数（-1 から +1 の間の量）の広く使用されているPrais–Winsten 推定値です。この近似式は、中規模から大規模のサンプルサイズ向けです。参考文献には、任意のサンプルサイズに対する正確な式が記載されており、ウォール街の株価のような自己相関の強い時系列に適用できます。さらに、この式は、ρ が正の場合も負の場合も同様に機能します。^{[12]詳細については}、標準偏差の不偏推定も参照してください。 $${\displaystyle f={\sqrt {\frac {1+\rho }{1-\rho }}},}$$

• 中心極限定理の図解
• 誤差の範囲
• 可能性のあるエラー
• 加重平均の標準誤差
• 標本平均と標本共分散
• 中央値の標準誤差
• 分散
• 平均と予測応答の分散