逆分散重み付け

統計学において、逆分散重み付けとは、2つ以上の確率変数を集約して、加重平均の分散を最小化する手法である。各確率変数は、その分散に反比例して（つまり、その精度に比例して）重み付けされる。

分散がσ _i ²である独立した観測値のシーケンスy _iが与えられた場合、逆分散加重平均は^{[ 1 ]で与えられます。}

${\displaystyle {\hat {y}}={\frac {\sum _{i}y_{i}/\sigma _{i}^{2}}{\sum _{i}1/\sigma _{i}^{2}}}.}$

逆分散加重平均は、すべての加重平均の中で分散が最も小さく、次のように計算できます。

${\displaystyle Var({\hat {y}})={\frac {1}{\sum _{i}1/\sigma _{i}^{2}}}.}$

この分散は信頼区間をパラメータ化するために使用できます。

測定値の分散がすべて等しい場合、逆分散加重平均は単純平均になります。

逆分散重み付けは、独立した測定結果を組み合わせるために、統計的メタ分析やセンサーフュージョンで一般的に使用されます。

ある実験者が、地球の重力加速度などの量の値を測定したいとします。その真の値は、${\displaystyle \mu }$慎重な実験者は複数の測​​定を行い、それを で表します。${\displaystyle n}$確率変数${\displaystyle X_{1},X_{2},...,X_{n}}$それら全てにノイズはあるもののバイアスがなく、つまり測定装置が真の値を系統的に過大評価または過小評価せず、誤差が対称的に散らばっている場合、期待値は${\displaystyle E[X_{i}]=\mu }$${\displaystyle \forall i}$測定値のばらつきは、確率変数の分散によって特徴付けられる。${\displaystyle Var(X_{i}):=\sigma _{i}^{2}}$、そして測定が同一のシナリオで行われる場合、$\displaystyle \sigma _{i}}$これらは同じであり、以下で言及する。${\displaystyle \sigma }$。 与えられた${\displaystyle n}$測定値、典型的な推定器${\displaystyle \mu }$と表記される${\displaystyle {\hat {\mu }}}$は単純平均で与えられる${\displaystyle {\overline {X}}={\frac {1}{n}}\sum _{i}X_{i}}$なお、この経験平均も確率変数であり、その期待値は${\displaystyle E[{\overline {X}}]}$は${\displaystyle \mu }$しかし、ばらつきもあります。個々の測定値が無相関である場合、推定値の誤差の二乗は次のように表されます。 ${\displaystyle Var({\overline {X}})={\frac {1}{n^{2}}}\sum _{i}\sigma _{i}^{2}=\left({\frac {\sigma }{\sqrt {n}}}\right)^{2}}$したがって、すべての${\displaystyle \sigma _{i}}$が等しい場合、推定値の誤差は の増加とともに減少します。${\displaystyle n}$として${\displaystyle 1/{\sqrt {n}}}$そのため、より多くの観察結果が望ましい。

の代わりに${\displaystyle n}$実験者が 1 つの機器で繰り返し測定を行う場合、${\displaystyle n}$同量の${\displaystyle n}$測定の質が異なるさまざまな機器を使用する場合、異なる結果を期待する理由はありません。${\displaystyle \sigma _{i}}$同じである。一部の計測器は他の計測器よりもノイズが多い可能性がある。重力加速度を測定する例では、異なる「計測器」が測定している可能性がある。${\displaystyle g}$単純振り子から、投射運動の解析などから。単純平均はもはや最適な推定値ではありません。なぜなら、${\displaystyle {\overline {X}}}$異なる測定値の誤差が大きく異なる場合、最もノイズの少ない測定値の誤差を実際に超える可能性があります。最終的な誤差を増加させるノイズの多い測定値を破棄する代わりに、実験者はすべての測定値を適切な重みで組み合わせ、ノイズの少ない測定値に重要性を与え、その逆も行うことができます。${\displaystyle \sigma _{1}^{2},\sigma _{2}^{2},...,\sigma _{n}^{2}}$測定に最適な推定器${\displaystyle \mu }$測定値の加重平均${\displaystyle {\hat {\mu }}={\frac {\sum _{i}w_{i}X_{i}}{\sum _{i}w_{i}}}}$重みの特定の選択について${\displaystyle w_{i}=1/\sigma _{i}^{2}}$推定量の分散${\displaystyle Var({\hat {\mu }})={\frac {\sum _{i}w_{i}^{2}\sigma _{i}^{2}}{\left(\sum _{i}w_{i}\right)^{2}}}}$重みの最適な選択では、${\displaystyle Var({\hat {\mu }}_{\text{opt}})=\left(\sum _{i}\sigma _{i}^{-2}\right)^{-1}.}$

注意してください。${\displaystyle Var({\hat {\mu }}_{\text{opt}})<\min _{j}\sigma _{j}^{2}}$推定量のばらつきは、個々の測定値のばらつきよりも小さい。さらに、${\displaystyle {\hat {\mu }}_{\text{opt}}}$測定値の数を増やすと減少するが、その測定値のノイズがいかに大きくても同様である。

相関関係のある可能性のある多変量分布の場合、同様の議論により、共分散行列に基づいた最適な重み付けが得られます。${\displaystyle \mathbf {C} _{i}}$個々のベクトル値推定値の${\displaystyle \mathbf {x} _{i}}$:

${\displaystyle \mathbf {\hat {x}} =\mathbf {\hat {C}} \sum _{i}\mathbf {C} _{i}^{-1}\mathbf {x} _{i}}$

${\displaystyle \mathbf {\hat {C}} =\left(\sum _{i}\mathbf {C} _{i}^{-1}\right)^{-1}}$

多変量分布の場合、「精度加重平均」という用語がより一般的に用いられる。

カルマンフィルタのゲインは、推定平均の事後共分散（すなわち一般化分散）の決定係数を最小化します。 ^{[ 2 ]}したがって、カルマンフィルタのこのステップでは、逆分散重み付けが採用され、カルマンフィルタの更新ステップでは、より正確な（すなわち分散の低い）情報源に重みが付けられます。

• 重み付き最小二乗法
• ポートフォリオ理論
• クラメール・ラオの境界