加重算術平均

加重算術平均は、各データ ポイントが最終平均に等しく寄与するのではなく、一部のデータ ポイントが他のデータ ポイントよりも大きく寄与することを除いて、通常の算術平均(最も一般的な平均の種類) に似ています。加重平均の概念は記述統計で役割を果たしており、数学の他のいくつかの分野でもより一般的な形で使用されています。

すべての重みが等しい場合、加重平均は算術平均と同じになります。加重平均は一般に算術平均と同様に動作しますが、シンプソンのパラドックスに見られるように、直感に反する特性がいくつかあります。

2 つの学校のクラス (  1 つは生徒数 20 人、もう 1 つは生徒数30 人 )があり 、各クラスのテストの成績は次のようになります。

午前クラス = {62、67、71、74、76、77、78、79、79、80、80、81、81、82、83、84、86、89、93、98}

午後のクラス = {81、82、83、84、85、86、87、87、88、88、89、89、89、90、90、90、90、90、91、91、91、92、92、93、93、94、95、96、97、98、99}

午前クラスの平均は 80 で、午後クラスの平均は 90 です。2 つの平均の加重平均は 85 です。ただし、これは各クラスの生徒数の違い (20 対 30) を考慮していないため、85 という値は生徒の平均成績 (クラスとは無関係) を反映していません。生徒の平均成績は、クラスに関係なくすべての成績を平均することで得られます (すべての成績を合計し、生徒の総数で割ります)。 $${\displaystyle {\bar {x}}={\frac {4300}{50}}=86.}$$

あるいは、各クラスの生徒数に応じてクラス平均に重み付けすることでも実現できます。クラスの人数が多いほど「重み」が大きくなります。

${\displaystyle {\bar {x}}={\frac {(20\times 80)+(30\times 90)}{20+30}}=86.}$

したがって、加重平均を使用すると、各生徒のスコアを知らなくても、生徒の平均成績を見つけることができます。必要なのは、クラスの平均と各クラスの生徒数だけです。

相対的な重みのみが関係するため、任意の加重平均は合計が 1 になる係数を使用して表現できます。このような線形結合は凸結合と呼ばれます。

前の例を使用すると、次の重みが得られます。

${\displaystyle {\frac {20}{20+30}}=0.4}$

${\displaystyle {\frac {30}{20+30}}=0.6}$

次に、次のように重みを適用します。

${\displaystyle {\bar {x}}=(0.4\times 80)+(0.6\times 90)=86.}$

正式には、対応する非負の重みを持つ、空でない有限のデータの組の加重平均は、 ${\displaystyle \left(x_{1},x_{2},\dots ,x_{n}\right)}$ ${\displaystyle \left(w_{1},w_{2},\dots ,w_{n}\right)}$

${\displaystyle {\bar {x}}={\frac {\sum \limits _{i=1}^{n}w_{i}x_{i}}{\sum \limits _{i=1}^{n}w_{i}}},}$

これは次のように展開されます。

${\displaystyle {\bar {x}}={\frac {w_{1}x_{1}+w_{2}x_{2}+\cdots +w_{n}x_{n}}{w_{1}+w_{2}+\cdots +w_{n}}}.}$

したがって、重みの高いデータ要素は、重みの低いデータ要素よりも加重平均に大きく寄与します。方程式が機能するためには、重みが負であってはなりません^[a]。一部はゼロになる場合がありますが、すべてがゼロになるわけではありません (ゼロによる除算は許可されていないため)。

重みを正規化して合計が 1 になるようにすると、式は簡略化されます。このように正規化された重みの場合、加重平均は次の式と同等になります。 ${\textstyle \sum \limits _{i=1}^{n}{w_{i}'}=1}$

${\displaystyle {\bar {x}}=\sum \limits _{i=1}^{n}{w_{i}'x_{i}}}$。

元の重みに対して次の変換を行うことで、常に重みを正規化できます。

${\displaystyle w_{i}'={\frac {w_{i}}{\sum \limits _{j=1}^{n}{w_{j}}}}}$。

通常平均は 、すべてのデータの重みが等しい加重平均の特殊なケースです。 ${\textstyle {\frac {1}{n}}\sum \limits _{i=1}^{n}{x_{i}}}$

データ要素が独立しており、分散 を持つ同一に分布するランダム変数である場合、加重平均 の標準誤差 は、不確実性伝播によって次のように示されます。 ${\displaystyle \sigma ^{2}}$${\displaystyle \sigma _{\bar {x}}}$

${\textstyle \sigma _{\bar {x}}=\sigma {\sqrt {\sum \limits _{i=1}^{n}w_{i}'^{2}}}}$

各要素が既知の分散を持つ異なる確率分布から来ている可能性があり、すべて同じ平均を持つデータのリストの加重平均の場合、重みの可能な選択肢の 1 つは分散の逆数です。 ${\displaystyle x_{i}}$ ${\displaystyle \sigma _{i}^{2}}$

${\displaystyle w_{i}={\frac {1}{\sigma _{i}^{2}}}.}$

この場合の加重平均は次のようになります。

${\displaystyle {\bar {x}}={\frac {\sum _{i=1}^{n}\left({\dfrac {x_{i}}{\sigma _{i}^{2}}}\right)}{\sum _{i=1}^{n}{\dfrac {1}{\sigma _{i}^{2}}}}}={\frac {\sum _{i=1}^{n}\left(x_{i}\cdot w_{i}\right)}{\sum _{i=1}^{n}w_{i}}},}$

加重平均（逆分散加重）の標準誤差は次のようになります。

${\displaystyle \sigma _{\bar {x}}={\sqrt {\frac {1}{\sum _{i=1}^{n}\sigma _{i}^{-2}}}}={\sqrt {\frac {1}{\sum _{i=1}^{n}w_{i}}}},}$

これは、すべての場合、 となることに注意してください。これは、前のセクションの一般的な公式の特別なケースです。 ${\displaystyle \sigma _{\bar {x}}^{2}=\sigma _{0}^{2}/n}$${\displaystyle \sigma _{i}=\sigma _{0}}$

${\displaystyle \sigma _{\bar {x}}^{2}=\sum _{i=1}^{n}{w_{i}'^{2}\sigma _{i}^{2}}={\frac {\sum _{i=1}^{n}{\sigma _{i}^{-4}\sigma _{i}^{2}}}{\left(\sum _{i=1}^{n}\sigma _{i}^{-2}\right)^{2}}}.}$

上記の式を組み合わせると次の式が得られます。

${\displaystyle {\bar {x}}=\sigma _{\bar {x}}^{2}\sum _{i=1}^{n}{\frac {x_{i}}{\sigma _{i}^{2}}}.}$

この選択の重要性は、この加重平均が、確率分布が独立しており、同じ平均で 正規分布しているという仮定の下で、確率分布の平均の最大尤度推定値であるということです。

加重サンプル平均 は、それ自体がランダム変数です。その期待値と標準偏差は、観測値の期待値と標準偏差と次のように関連しています。簡単にするために、正規化された重み（重みの合計が 1 になる）を想定します。 ${\displaystyle {\bar {x}}}$

観測値が期待値を持つ場合 、加重標本平均の期待値は となる。 特に、平均が等しい場合、加重標本平均の期待値はその値となる。 $${\displaystyle E(x_{i})={\mu _{i}},}$$$${\displaystyle E({\bar {x}})=\sum _{i=1}^{n}{w_{i}'\mu _{i}}.}$$${\displaystyle \mu _{i}=\mu }$$${\displaystyle E({\bar {x}})=\mu .}$$

重みを定数として扱い、相関のないランダム変数からのn個の観測値のサンプルがあり、それらはすべて同じ分散と期待値を持つ場合（ iidランダム変数の場合のように）、加重平均の分散は、加重されていない分散とキッシュの設計効果の乗算として推定できます（証明を参照）。

${\displaystyle \operatorname {Var} ({\bar {y}}_{w})={\hat {\sigma }}_{y}^{2}{\frac {\overline {w^{2}}}{{\bar {w}}^{2}}}}$

、、および​${\displaystyle {\hat {\sigma }}_{y}^{2}={\frac {\sum _{i=1}^{n}(y_{i}-{\bar {y}})^{2}}{n-1}}}$${\displaystyle {\bar {w}}={\frac {\sum _{i=1}^{n}w_{i}}{n}}}$${\displaystyle {\overline {w^{2}}}={\frac {\sum _{i=1}^{n}w_{i}^{2}}{n}}}$

しかし、この推定は、 y観測値に関する強い仮定のため、かなり制限されています。このため、代わりとなる、より一般的な推定値が開発されました。

モデルベースの視点から、異なる値がIIDランダム変数ではない場合の加重平均の分散を推定することに関心があります。この問題に対する別の視点は、不等確率（置換あり）で単位が選択されるデータの任意のサンプリング設計です。 ^{[1] : 306}${\displaystyle y_{i}}$

調査方法論では、関心のある何らかの量yの母平均は、母集団内のすべての要素 ( Yまたは場合によってはT ) におけるyの合計の推定値を取り、それを既知 ( ) または推定 ( ) の母集団サイズで割ることによって計算されます。このコンテキストでは、yの各値は定数とみなされ、変動性は選択手順から生じます。これは、ランダム性が y 値で説明されることが多い「モデル ベース」のアプローチとは対照的です。調査のサンプリング手順では、一連のベルヌーイ指標値 ( ) が生成されます。これらの値は、ある観測値iがサンプル内にある場合は 1、選択されなかった場合は 0 になります。これは、固定サンプル サイズ、または可変サンプル サイズのサンプリング (例:ポアソン サンプリング) で発生する可能性があります。サンプルが与えられた場合、ある要素が選択される確率は と表され、1 回の選択確率は( N が非常に大きく、各 が非常に小さい場合) です。以下の導出では、各要素を選択する確率がこれらの確率によって完全に表されると仮定します。^{[2] : 42, 43, 51}すなわち、ある要素を選択しても、別の要素が抽出される確率には影響しません（これはクラスターサンプリング設計などには適用されません）。 ${\displaystyle N}$${\displaystyle {\hat {N}}}$${\displaystyle I_{i}}$${\displaystyle P(I_{i}=1\mid {\text{Some sample of size }}n)=\pi _{i}}$${\displaystyle P(I_{i}=1|{\text{one sample draw}})=p_{i}\approx {\frac {\pi _{i}}{n}}}$${\displaystyle p_{i}}$

各要素 ( ) は固定されており、ランダム性はサンプルに含まれているかどうか ( ) によって決まるため、この 2 つの乗算、つまりランダム変数についてよく話します。次のセクションでの混乱を避けるために、この用語を と呼びます。期待値は、分散は です。 ${\displaystyle y_{i}}$${\displaystyle I_{i}}$${\displaystyle y'_{i}=y_{i}I_{i}}$${\displaystyle E[y'_{i}]=y_{i}E[I_{i}]=y_{i}\pi _{i}}$${\displaystyle V[y'_{i}]=y_{i}^{2}V[I_{i}]=y_{i}^{2}\pi _{i}(1-\pi _{i})}$

サンプルの各要素がその選択確率の逆数で膨張すると、それは-展開されたy値と呼ばれます。つまり、 。関連する量は-展開されたy値です。[ ^{2] : 42、43、51、52}​​上記のように、指標関数を乗算するとチェックマークを追加できます。つまり、${\displaystyle \pi }$${\displaystyle {\check {y}}_{i}={\frac {y_{i}}{\pi _{i}}}}$${\displaystyle p}$${\displaystyle {\frac {y_{i}}{p_{i}}}=n{\check {y}}_{i}}$${\displaystyle {\check {y}}'_{i}=I_{i}{\check {y}}_{i}={\frac {I_{i}y_{i}}{\pi _{i}}}}$

この設計に基づく観点では、加重平均の分子に使用される重みは、選択確率の逆数（つまり、インフレ係数）を取ることで得られます。つまり、。 ${\displaystyle w_{i}={\frac {1}{\pi _{i}}}\approx {\frac {1}{n\times p_{i}}}}$

母集団のサイズNがわかっている場合は、 を使用して母集団の平均を推定できます。 ${\displaystyle {\hat {\bar {Y}}}_{{\text{known }}N}={\frac {{\hat {Y}}_{pwr}}{N}}\approx {\frac {\sum _{i=1}^{n}w_{i}y'_{i}}{N}}}$

サンプリング設計によってサンプルサイズnが固定される場合( pps サンプリングなど)、この推定値の分散は次のようになります。

${\displaystyle \operatorname {Var} \left({\hat {\bar {Y}}}_{{\text{known }}N}\right)={\frac {1}{N^{2}}}{\frac {n}{n-1}}\sum _{i=1}^{n}\left(w_{i}y_{i}-{\overline {wy}}\right)^{2}}$

ランダムなサンプルサイズ（ポアソンサンプリングなど）のサンプリングの場合の代替用語は、Sarndal et al.（1992）で次のように示されています。^{[2] ：182}

$${\displaystyle \operatorname {Var} ({\hat {\bar {Y}}}_{{\text{pwr (known }}N{\text{)}}})={\frac {1}{N^{2}}}\sum _{i=1}^{n}\sum _{j=1}^{n}\left({\check {\Delta }}_{ij}{\check {y}}_{i}{\check {y}}_{j}\right)}$$

ここで、はiとjの両方を選択する確率です。^{[2] : 36}そして、 であり、i=jの場合: です。^{[2] : 43}${\displaystyle {\check {y}}_{i}={\frac {y_{i}}{\pi _{i}}}}$${\displaystyle C(I_{i},I_{j})=\pi _{ij}-\pi _{i}\pi _{j}=\Delta _{ij}}$${\displaystyle \pi _{ij}}$${\displaystyle {\check {\Delta }}_{ij}=1-{\frac {\pi _{i}\pi _{j}}{\pi _{ij}}}}$${\displaystyle {\check {\Delta }}_{ii}=1-{\frac {\pi _{i}\pi _{i}}{\pi _{i}}}=1-\pi _{i}}$

選択確率が無相関（つまり、）であり、各要素の確率が非常に小さいと仮定すると、次のようになります。 ${\displaystyle \forall i\neq j:C(I_{i},I_{j})=0}$

${\displaystyle \operatorname {Var} ({\hat {\bar {Y}}}_{{\text{pwr (known }}N{\text{)}}})={\frac {1}{N^{2}}}\sum _{i=1}^{n}\left(w_{i}y_{i}\right)^{2}}$

前のセクションでは、推定された母集団合計 ( ) と既知の母集団サイズ ( )の比として母集団平均を推定し、そのコンテキストで分散を推定しました。もう 1 つの一般的なケースは、母集団サイズ自体 ( ) が不明で、サンプルを使用して推定される場合です (つまり、)。 の推定は、重みの合計として記述できます。したがって、を取得するとします。上記の表記法では、関心のあるパラメーターは、s、および 1の合計の比です。つまり、 です。サンプルを使用して次のように推定できます。 N の使用から n の使用に移行したため、実際にはすべての指標変数が 1 になることがわかっているため、次のように簡単に記述できます。これは、y と w の特定の値に対する推定値になりますが、統計的特性は指標変数 を含めるときに得られます。^{[2] : 162, 163, 176}${\displaystyle {\hat {Y}}}$${\displaystyle N}$${\displaystyle N}$${\displaystyle {\hat {N}}}$${\displaystyle N}$${\displaystyle w_{i}={\frac {1}{\pi _{i}}}}$${\displaystyle {\hat {N}}=\sum _{i=1}^{n}w_{i}I_{i}=\sum _{i=1}^{n}{\frac {I_{i}}{\pi _{i}}}=\sum _{i=1}^{n}{\check {1}}'_{i}}$${\displaystyle y_{i}}$${\displaystyle R={\bar {Y}}={\frac {\sum _{i=1}^{N}{\frac {y_{i}}{\pi _{i}}}}{\sum _{i=1}^{N}{\frac {1}{\pi _{i}}}}}={\frac {\sum _{i=1}^{N}{\check {y}}_{i}}{\sum _{i=1}^{N}{\check {1}}_{i}}}={\frac {\sum _{i=1}^{N}w_{i}y_{i}}{\sum _{i=1}^{N}w_{i}}}}$${\displaystyle {\hat {R}}={\hat {\bar {Y}}}={\frac {\sum _{i=1}^{N}I_{i}{\frac {y_{i}}{\pi _{i}}}}{\sum _{i=1}^{N}I_{i}{\frac {1}{\pi _{i}}}}}={\frac {\sum _{i=1}^{N}{\check {y}}'_{i}}{\sum _{i=1}^{N}{\check {1}}'_{i}}}={\frac {\sum _{i=1}^{N}w_{i}y'_{i}}{\sum _{i=1}^{N}w_{i}1'_{i}}}={\frac {\sum _{i=1}^{n}w_{i}y'_{i}}{\sum _{i=1}^{n}w_{i}1'_{i}}}={\bar {y}}_{w}}$${\displaystyle {\bar {y}}_{w}={\frac {\sum _{i=1}^{n}w_{i}y_{i}}{\sum _{i=1}^{n}w_{i}}}}$${\displaystyle {\bar {y}}_{w}={\frac {\sum _{i=1}^{n}w_{i}y'_{i}}{\sum _{i=1}^{n}w_{i}1'_{i}}}}$

これは比率推定量と呼ばれ、 Rに対してほぼ不偏である。^{[2] : 182}

この場合、比率の変動性は分子と分母の両方のランダム変数の変動性、およびそれらの相関に依存します。この分散を計算するための閉じた解析形式がないため、近似推定にはさまざまな方法が使用されます。主に、テイラー級数一次線形化、漸近解析、およびブートストラップ/ジャックナイフです。^{[2] : 172}テイラー線形化法では、一般にサンプルサイズが小さい場合に分散が過小評価される可能性がありますが、これは統計の複雑さに依存します。加重平均の場合、近似分散は中程度のサンプルサイズでも比較的正確であると考えられます。^{[2] : 176}サンプリングがランダムなサンプルサイズの場合（ポアソンサンプリングの場合など）、次のようになります。^{[2] : 182}

${\displaystyle {\widehat {V({\bar {y}}_{w})}}={\frac {1}{(\sum _{i=1}^{n}w_{i})^{2}}}\sum _{i=1}^{n}w_{i}^{2}(y_{i}-{\bar {y}}_{w})^{2}}$。

の場合、またはのどちらを使用しても同じ推定値が得られます。これは、何らかの係数を掛けると、同じ推定値が得られるからです。また、重みの合計を、事前にわかっている母集団のサイズNと等しくなるようにスケールすると、分散の計算は同じになることを意味します。すべての重みが互いに等しい場合、この式は標準の不偏分散推定値に簡略化されます。 ${\displaystyle \pi _{i}\approx p_{i}n}$${\displaystyle w_{i}={\frac {1}{\pi _{i}}}}$${\displaystyle w_{i}={\frac {1}{p_{i}}}}$${\displaystyle w_{i}}$

加重平均の分散には、（少なくとも）2つのバージョンがあります。1つは既知の母集団サイズの推定値を使用したバージョン、もう1つは未知の母集団サイズの推定値を使用したバージョンです。一様に優れたアプローチはありませんが、文献では、母集団サイズが既知の場合でも、母集団推定バージョンを使用する方が良いとする議論がいくつか示されています。 ^{[2] : 188}たとえば、すべてのy値が一定の場合、母集団サイズが未知の推定値は正しい結果をもたらしますが、母集団サイズが既知の推定値にはいくらかの変動があります。また、サンプルサイズ自体がランダムである場合（例：ポアソンサンプリングの場合）、母集団平均が未知のバージョンの方が安定していると見なされます。最後に、サンプリングの割合が値と負の相関がある場合（つまり、大きな観測値をサンプリングする可能性が低い場合）、母集団サイズが未知のバージョンはそれをわずかに補正します。

すべての重みが 1 に等しい単純なケースでは、上記の式は平均の分散の通常の式とまったく同じです (ただし、不偏分散ではなく分散の最大尤度推定値を使用していることに注意してください。つまり、(n-1) ではなく n で割ります)。

ガッツら（1995）は、ブートストラップ法と比較して、テイラー級数線形化を用いた比平均の分散推定が、平均の標準誤差の二乗の妥当な推定値であることを示した（化学成分の測定の文脈で使用される場合）：^{[4] ：1186}

${\displaystyle {\widehat {\sigma _{{\bar {x}}_{w}}^{2}}}={\frac {n}{(n-1)(n{\bar {w}})^{2}}}\left[\sum (w_{i}x_{i}-{\bar {w}}{\bar {x}}_{w})^{2}-2{\bar {x}}_{w}\sum (w_{i}-{\bar {w}})(w_{i}x_{i}-{\bar {w}}{\bar {x}}_{w})+{\bar {x}}_{w}^{2}\sum (w_{i}-{\bar {w}})^{2}\right]}$

ここで、さらに単純化すると、 ${\displaystyle {\bar {w}}={\frac {\sum w_{i}}{n}}}$

${\displaystyle {\widehat {\sigma _{\bar {x}}^{2}}}={\frac {n}{(n-1)(n{\bar {w}})^{2}}}\sum w_{i}^{2}(x_{i}-{\bar {x}}_{w})^{2}}$

Gatzらは、上記の定式化はEndlichら(1988)が、加重平均を加重合計推定値と母集団サイズの推定値との組合せとして扱う際に、Cochran(1977)が比平均の近似値として発表した定式化に基づいていると述べています^[5]。しかし、Endlichらは、この導出を論文で発表していないようで(使用したとは述べていますが)、Cochranの本には若干異なる定式化が含まれています。^{[1] :155}それでも、前のセクションで説明した定式化とほぼ同じです。

加重平均の分散に対する閉じた解析形式が存在しないため、文献ではジャックナイフ法やブートストラッピング法などの複製法に頼ることが提案されている。^{[1] ：321}

分散のある無相関の観測値の場合、加重サンプル平均の分散は^[要出典]${\displaystyle \sigma _{i}^{2}}$

${\displaystyle \sigma _{\bar {x}}^{2}=\sum _{i=1}^{n}{w_{i}'^{2}\sigma _{i}^{2}}}$

その平方根は加重平均の標準誤差と呼ぶことができる（一般的な場合） 。^[要出典]${\displaystyle \sigma _{\bar {x}}}$

その結果、すべての観測値が等しい分散を持つ場合、加重サンプル平均は分散を持つことになる。 ${\displaystyle \sigma _{i}^{2}=\sigma _{0}^{2}}$

${\displaystyle \sigma _{\bar {x}}^{2}=\sigma _{0}^{2}\sum _{i=1}^{n}{w_{i}'^{2}},}$

ここで、分散は、1つを除くすべての重みがゼロのときに最大値 に達します。分散の最小値は、すべての重みが等しいとき（つまり、重み付けされていない平均）に見つかります。その場合、分散は、平均の標準誤差の2乗に縮退します。 ${\textstyle 1/n\leq \sum _{i=1}^{n}{w_{i}'^{2}}\leq 1}$${\displaystyle \sigma _{0}^{2}}$${\textstyle \sigma _{\bar {x}}=\sigma _{0}/{\sqrt {n}}}$

正規化されていない重みはいつでも正規化された重みに変換できるため、このセクションのすべての式は、すべてを置き換えることによって正規化されていない重みに適応できます。 ${\displaystyle w_{i}'={\frac {w_{i}}{\sum _{i=1}^{n}{w_{i}}}}}$

通常、平均を計算するときは、その平均の分散と標準偏差を知ることが重要です。加重平均を使用する場合、加重サンプルの分散は加重されていないサンプルの分散とは異なります。 ${\displaystyle \mu ^{*}}$

バイアス付き加重サンプル分散は、 正規バイアス付きサンプル分散と同様に定義されます。 ${\displaystyle {\hat {\sigma }}_{\mathrm {w} }^{2}}$${\displaystyle {\hat {\sigma }}^{2}}$

${\displaystyle {\begin{aligned}{\hat {\sigma }}^{2}\ &={\frac {\sum \limits _{i=1}^{N}\left(x_{i}-\mu \right)^{2}}{N}}\\{\hat {\sigma }}_{\mathrm {w} }^{2}&={\frac {\sum \limits _{i=1}^{N}w_{i}\left(x_{i}-\mu ^{*}\right)^{2}}{\sum _{i=1}^{N}w_{i}}}\end{aligned}}}$

ここで、正規化された重みです。重みが頻度重み（つまりランダム変数）である場合、iidガウス観測値の最大尤度推定値であること が示されます^[要出典]。 ${\displaystyle \sum _{i=1}^{N}w_{i}=1}$${\displaystyle {\hat {\sigma }}_{\mathrm {w} }^{2}}$${\displaystyle \sigma ^{2}}$

小規模なサンプルの場合、母分散の不偏推定量を使用するのが一般的です。通常の重み付けされていないサンプルでは、​​分母のN (サンプル サイズに対応) はN  − 1 に変更されます (ベッセルの補正を参照)。重み付けされた設定では、実際には 2 つの異なる不偏推定量があり、1 つは頻度の重みの場合、もう 1 つは信頼性の重みの場合です。

重みが頻度重み（重みは発生回数に等しい）である場合、不偏推定値は次のようになります。

${\displaystyle s^{2}\ ={\frac {\sum \limits _{i=1}^{N}w_{i}\left(x_{i}-\mu ^{*}\right)^{2}}{\sum _{i=1}^{N}w_{i}-1}}}$

これにより、周波数重みに対してベッセル補正が効果的に適用されます。

たとえば、値が同じ分布から抽出された場合、このセットを重み付けされていないサンプルとして扱うことも、対応する重みを持つ重み付けされたサンプルとして扱うこともでき、どちらの方法でも同じ結果が得られます。 ${\displaystyle \{2,2,4,5,5,5\}}$${\displaystyle \{2,4,5\}}$${\displaystyle \{2,1,3\}}$

周波数重みが1に正規化されている場合、ベッセル補正後の正しい式は次のようになります。 ${\displaystyle \{w_{i}\}}$

${\displaystyle s^{2}\ ={\frac {\sum _{i=1}^{N}w_{i}}{\sum _{i=1}^{N}w_{i}-1}}\sum _{i=1}^{N}w_{i}\left(x_{i}-\mu ^{*}\right)^{2}}$

ここで、サンプルの総数は（ではない）です。いずれにしても、サンプルの総数に関する情報は、周波数重み以外の意味を持つ 場合でも、偏りのない補正を得るために必要です。${\displaystyle \sum _{i=1}^{N}w_{i}}$${\displaystyle N}$${\displaystyle w_{i}}$

推定量が偏りのない値になるには、重みが標準化も正規化もされていない必要があります。これらのプロセスにより、データの平均と分散が変わり、ベース レート(ベッセル補正の要件である母集団数) が失われます。

重みがランダムでない場合（信頼性重み^{[定義が必要]}）、補正係数を決定して偏りのない推定値を得ることができます。各ランダム変数が平均と実際の分散を持つ同じ分布からサンプリングされていると仮定すると、期待値は次のようになります。 ${\displaystyle \mu }$${\displaystyle \sigma _{\text{actual}}^{2}}$

${\displaystyle {\begin{aligned}\operatorname {E} [{\hat {\sigma }}^{2}]&={\frac {\sum \limits _{i=1}^{N}\operatorname {E} [(x_{i}-\mu )^{2}]}{N}}\\&=\operatorname {E} [(X-\operatorname {E} [X])^{2}]-{\frac {1}{N}}\operatorname {E} [(X-\operatorname {E} [X])^{2}]\\&=\left({\frac {N-1}{N}}\right)\sigma _{\text{actual}}^{2}\\\operatorname {E} [{\hat {\sigma }}_{\mathrm {w} }^{2}]&={\frac {\sum \limits _{i=1}^{N}w_{i}\operatorname {E} [(x_{i}-\mu ^{*})^{2}]}{V_{1}}}\\&=\operatorname {E} [(X-\operatorname {E} [X])^{2}]-{\frac {V_{2}}{V_{1}^{2}}}\operatorname {E} [(X-\operatorname {E} [X])^{2}]\\&=\left(1-{\frac {V_{2}}{V_{1}^{2}}}\right)\sigma _{\text{actual}}^{2}\end{aligned}}}$

ここで、およびです。したがって、推定値のバイアスは であり、重み付けされていない推定値のバイアスと類似しています（ は有効なサンプル サイズであることにも注意してください）。つまり、推定値のバイアスをなくすには、 で事前に除算して、推定された分散の期待値がサンプル分布の実際の分散と等しくなるようにする必要があります。 ${\displaystyle V_{1}=\sum _{i=1}^{N}w_{i}}$${\displaystyle V_{2}=\sum _{i=1}^{N}w_{i}^{2}}$${\displaystyle \left(1-{\frac {V_{2}}{V_{1}^{2}}}\right)}$${\displaystyle \left({\frac {N-1}{N}}\right)}$${\displaystyle \ V_{1}^{2}/V_{2}=N_{eff}}$${\displaystyle 1-\left(V_{2}/V_{1}^{2}\right)}$

最終的なサンプル分散の不偏推定値は次のとおりです。

${\displaystyle {\begin{aligned}s_{\mathrm {w} }^{2}\ &={\frac {{\hat {\sigma }}_{\mathrm {w} }^{2}}{1-(V_{2}/V_{1}^{2})}}\\[4pt]&={\frac {\sum \limits _{i=1}^{N}w_{i}(x_{i}-\mu ^{*})^{2}}{V_{1}-(V_{2}/V_{1})}},\end{aligned}}}$^[6]

どこ。 ${\displaystyle \operatorname {E} [s_{\mathrm {w} }^{2}]=\sigma _{\text{actual}}^{2}}$

加重された不偏サンプル分散の自由度は、N  − 1 から 0 まで変化します。

標準偏差は単純に上記の分散の平方根です。

ちなみに、加重サンプル分散を計算するための他のアプローチも説明されている。^[7]

重み付きサンプルでは、​​各行ベクトル（ K 個のランダム変数のそれぞれに対する単一の観測値の各セット）に重みが割り当てられます。 ${\displaystyle \mathbf {x} _{i}}$${\displaystyle w_{i}\geq 0}$

すると加重平均ベクトルは次のように与えられる。 ${\displaystyle \mathbf {\mu ^{*}} }$

${\displaystyle \mathbf {\mu ^{*}} ={\frac {\sum _{i=1}^{N}w_{i}\mathbf {x} _{i}}{\sum _{i=1}^{N}w_{i}}}.}$

加重共分散行列は次のように与えられる: ^[8]

${\displaystyle \mathbf {C} ={\frac {\sum _{i=1}^{N}w_{i}\left(\mathbf {x} _{i}-\mu ^{*}\right)^{T}\left(\mathbf {x} _{i}-\mu ^{*}\right)}{V_{1}}}.}$

加重サンプル分散と同様に、重みの種類に応じて 2 つの異なる不偏推定量が存在します。

重みが頻度重みである場合、ベッセル補正を加えた共分散行列の不偏重み推定値は次のように与えられる: ^[8]${\displaystyle \textstyle \mathbf {C} }$

${\displaystyle \mathbf {C} ={\frac {\sum _{i=1}^{N}w_{i}\left(\mathbf {x} _{i}-\mu ^{*}\right)^{T}\left(\mathbf {x} _{i}-\mu ^{*}\right)}{V_{1}-1}}.}$

この推定量は、重みが標準化も正規化もされていない場合にのみ偏りがなく、これらのプロセスによってデータの平均と分散が変わり、ベースレート（ベッセル補正の要件である母数）が失われることになります。

信頼性重みの場合、重みは正規化されます。

${\displaystyle V_{1}=\sum _{i=1}^{N}w_{i}=1.}$

（そうでない場合は、計算する前に重みを合計で割って正規化します。 ${\displaystyle V_{1}}$

${\displaystyle w_{i}'={\frac {w_{i}}{\sum _{i=1}^{N}w_{i}}}}$

すると、加重平均ベクトルは次のように簡略化される。 ${\displaystyle \mathbf {\mu ^{*}} }$

${\displaystyle \mathbf {\mu ^{*}} =\sum _{i=1}^{N}w_{i}\mathbf {x} _{i}.}$

そして共分散行列の不偏加重推定値は次のようになる：^[9]${\displaystyle \mathbf {C} }$

${\displaystyle {\begin{aligned}\mathbf {C} &={\frac {\sum _{i=1}^{N}w_{i}}{\left(\sum _{i=1}^{N}w_{i}\right)^{2}-\sum _{i=1}^{N}w_{i}^{2}}}\sum _{i=1}^{N}w_{i}\left(\mathbf {x} _{i}-\mu ^{*}\right)^{T}\left(\mathbf {x} _{i}-\mu ^{*}\right)\\&={\frac {\sum _{i=1}^{N}w_{i}\left(\mathbf {x} _{i}-\mu ^{*}\right)^{T}\left(\mathbf {x} _{i}-\mu ^{*}\right)}{V_{1}-(V_{2}/V_{1})}}.\end{aligned}}}$

ここでの推論は前のセクションと同じです。

重みが正規化されていると仮定すると、これは次のように簡略化されます。 ${\displaystyle V_{1}=1}$

${\displaystyle \mathbf {C} ={\frac {\sum _{i=1}^{N}w_{i}\left(\mathbf {x} _{i}-\mu ^{*}\right)^{T}\left(\mathbf {x} _{i}-\mu ^{*}\right)}{1-V_{2}}}.}$

すべての重みが同じ場合、つまり の場合、加重平均と共分散は、上記の加重されていないサンプル平均と共分散に減少します。 ${\displaystyle w_{i}/V_{1}=1/N}$

上記は、ベクトル値の推定値の平均を取る場合に簡単に一般化できます。たとえば、平面上の位置の推定値は、ある方向では他の方向よりも確実性が低い場合があります。スカラーの場合と同様に、複数の推定値の加重平均は、最大尤度推定値を提供できます。分散を共分散行列に、算術逆行列を逆行列に置き換えるだけです（どちらも上付き文字で同じように表記されます）。重み行列は次のようになります。^[10]${\displaystyle \sigma ^{2}}$ ${\displaystyle \mathbf {C} }$

$${\displaystyle \mathbf {W} _{i}=\mathbf {C} _{i}^{-1}.}$$

この場合の加重平均は、 （行列とベクトル の積の順序は可換ではない）加重平均の共分散で表すと次のようになる。 $${\displaystyle {\bar {\mathbf {x} }}=\mathbf {C} _{\bar {\mathbf {x} }}\left(\sum _{i=1}^{n}\mathbf {W} _{i}\mathbf {x} _{i}\right),}$$$${\displaystyle \mathbf {C} _{\bar {\mathbf {x} }}=\left(\sum _{i=1}^{n}\mathbf {W} _{i}\right)^{-1},}$$

例えば、第2成分の分散が大きい点[1 0]と第1成分の分散が大きい点[0 1]の加重平均を考えてみましょう。

${\displaystyle \mathbf {x} _{1}:={\begin{bmatrix}1&0\end{bmatrix}}^{\top },\qquad \mathbf {C} _{1}:={\begin{bmatrix}1&0\\0&100\end{bmatrix}}}$

${\displaystyle \mathbf {x} _{2}:={\begin{bmatrix}0&1\end{bmatrix}}^{\top },\qquad \mathbf {C} _{2}:={\begin{bmatrix}100&0\\0&1\end{bmatrix}}}$

加重平均は次のようになります。

${\displaystyle {\begin{aligned}{\bar {\mathbf {x} }}&=\left(\mathbf {C} _{1}^{-1}+\mathbf {C} _{2}^{-1}\right)^{-1}\left(\mathbf {C} _{1}^{-1}\mathbf {x} _{1}+\mathbf {C} _{2}^{-1}\mathbf {x} _{2}\right)\\[5pt]&={\begin{bmatrix}0.9901&0\\0&0.9901\end{bmatrix}}{\begin{bmatrix}1\\1\end{bmatrix}}={\begin{bmatrix}0.9901\\0.9901\end{bmatrix}}\end{aligned}}}$

これは理にかなっています。[1 0]推定値は2番目のコンポーネントで「準拠」しており、[0 1]推定値は最初のコンポーネントで準拠しているため、加重平均はほぼ[1 1]になります。

一般的なケースでは、は量に関連する共分散行列、は推定される共通平均、 は1 のベクトル（長さ）に等しい計画行列であるとします。ガウス・マルコフの定理によれば、最小分散を持つ平均の推定値は次のように与えられます。 ${\displaystyle \mathbf {X} =[x_{1},\dots ,x_{n}]^{T}}$${\displaystyle \mathbf {C} }$${\displaystyle x_{i}}$${\displaystyle {\bar {x}}}$${\displaystyle \mathbf {J} }$ ${\displaystyle [1,\dots ,1]^{T}}$${\displaystyle n}$

${\displaystyle \sigma _{\bar {x}}^{2}=(\mathbf {J} ^{T}\mathbf {W} \mathbf {J} )^{-1},}$

そして

${\displaystyle {\bar {x}}=\sigma _{\bar {x}}^{2}(\mathbf {J} ^{T}\mathbf {W} \mathbf {X} ),}$

どこ：

${\displaystyle \mathbf {W} =\mathbf {C} ^{-1}.}$

離散時間 でサンプリングされた観測値を持つ、独立変数と従属変数の時系列を考えてみましょう。多くの一般的な状況では、時間 におけるの値は だけでなく、その過去の値にも依存します。通常、この依存性の強さは、時間における観測値の分離が長くなるにつれて弱くなります。この状況をモデル化するには、独立変数 をウィンドウ サイズ のスライディング平均 に置き換えます。 ${\displaystyle x}$${\displaystyle y}$${\displaystyle n}$${\displaystyle t_{i}}$${\displaystyle y}$${\displaystyle t_{i}}$${\displaystyle x_{i}}$${\displaystyle z}$${\displaystyle m}$

${\displaystyle z_{k}=\sum _{i=1}^{m}w_{i}x_{k+1-i}.}$

前のセクションで説明したシナリオでは、相互作用の強さの減少は、ほとんどの場合、負の指数法則に従います。観測が等間隔でサンプリングされている場合、指数関数的な減少は、各時間ステップで一定の割合で減少することと同等です。設定により、正規化された重みを次のように 定義できます。${\displaystyle 0<\Delta <1}$${\displaystyle w=1-\Delta }$${\displaystyle m}$

${\displaystyle w_{i}={\frac {w^{i-1}}{V_{1}}},}$

ここで、は正規化されていない重みの合計です。この場合、単純に ${\displaystyle V_{1}}$${\displaystyle V_{1}}$

${\displaystyle V_{1}=\sum _{i=1}^{m}{w^{i-1}}={\frac {1-w^{m}}{1-w}},}$

の大きな値に対して近づきます。 ${\displaystyle V_{1}=1/(1-w)}$${\displaystyle m}$

減衰定数は、相互作用の強さの実際の減少に対応している必要があります。これを理論的な考察から決定できない場合は、指数関数的に減少する重みの次の特性が適切な選択を行うのに役立ちます。ステップ では、重みは にほぼ等しく、テール領域は値、ヘッド領域です。ステップ でのテール領域はです。主に最も近い観測値が重要であり、残りの観測値の影響を無視しても問題ない場合は、テール領域が十分に小さくなるように を選択します。 ${\displaystyle w}$${\displaystyle (1-w)^{-1}}$${\displaystyle {e^{-1}}(1-w)=0.39(1-w)}$${\displaystyle e^{-1}}$${\displaystyle {1-e^{-1}}=0.61}$${\displaystyle n}$${\displaystyle \leq {e^{-n(1-w)}}}$${\displaystyle n}$${\displaystyle w}$

加重平均の概念は関数にも拡張できる。^[11]関数の加重平均は加重微分積分学のシステムにおいて重要な役割を果たしている。^[12]

加重平均は、理論的に生成されたデータではなく、履歴データの加重平均を求めるのに通常使用されます。この場合、各データ ポイントの分散に多少の誤差が生じます。通常、実験者が各データ ポイントの分散を計算する際にすべての誤差源を考慮していないため、実験誤差が過小評価されることがあります。この場合、加重平均の分散は、大きすぎるという事実を考慮して修正する必要があります。修正する必要があるのは次の点です 。${\displaystyle \chi ^{2}}$

${\displaystyle {\hat {\sigma }}_{\bar {x}}^{2}=\sigma _{\bar {x}}^{2}\chi _{\nu }^{2}}$

ここで、縮小カイ二乗は次のようになります。 ${\displaystyle \chi _{\nu }^{2}}$

${\displaystyle \chi _{\nu }^{2}={\frac {1}{(n-1)}}\sum _{i=1}^{n}{\frac {(x_{i}-{\bar {x}})^{2}}{\sigma _{i}^{2}}};}$

平方根は、加重平均（分散重み、スケール補正済み）の標準誤差と呼ぶことができます。 ${\displaystyle {\hat {\sigma }}_{\bar {x}}}$

すべてのデータ分散が等しい場合、それらは加重平均分散で相殺され、これは再び平均の標準誤差（二乗）に減少し、サンプル標準偏差（二乗）で定式化されます。 ${\displaystyle \sigma _{i}=\sigma _{0}}$${\displaystyle \sigma _{\bar {x}}^{2}}$${\displaystyle \sigma _{\bar {x}}^{2}=\sigma ^{2}/n}$

${\displaystyle \sigma ^{2}={\frac {\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}}{n-1}}.}$

• ベヴィントン、フィリップ R (1969)。物理科学のためのデータ削減と誤差分析。ニューヨーク、NY: McGraw-Hill。OCLC 300283069  。
• Strutz, T. (2010).データフィッティングと不確実性（加重最小二乗法とその先への実践的な入門） . Vieweg+Teubner. ISBN 978-3-8348-1022-9。

• David Terr. 「加重平均」。MathWorld。
• 加重平均を計算するツール