統計的ノイズ
統計学において、回帰タスクの文脈における説明不能な分散の割合(FVU )は、説明変数Xによって説明できない、つまり正しく予測されない、回帰変数(従属変数)Yの分散の割合です。
各説明変数のi番目の観測値のベクトルである推定値を生成する回帰関数が与えられていると仮定する。 [1] : 181 説明不能分散率(FVU)を次のように定義する。




![{\displaystyle {\begin{aligned}{\text{FVU}}&={{\text{VAR}}_{\text{err}} \over {\text{VAR}}_{\text{tot}}}={{\text{SS}}_{\text{err}}/N \over {\text{SS}}_{\text{tot}}/N}={{\text{SS}}_{\text{err}} \over {\text{SS}}_{\text{tot}}}\left(=1-{{\text{SS}}_{\text{reg}} \over {\text{SS}}_{\text{tot}}},{\text{ 線形回帰などの一部のケースでのみ当てはまります}}\right)\\[6pt]&=1-R^{2}\end{aligned}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/90744ba969cd2127053b91478acccf1dcaac7ac4)
ここで、R 2は決定係数、VAR errとVAR tot は残差の分散と従属変数の標本分散です。SS err (予測誤差の二乗和、つまり残差二乗和)、SS tot (総二乗和)、およびSS reg (回帰の二乗和、つまり説明二乗和)は次のように表されます。

あるいは、説明できない分散の割合は次のように定義できます。
![{\displaystyle {\text{FVU}}={\frac {\operatorname {MSE} (f)}{\operatorname {var} [Y]}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/1323990d5b0dae13bfcaf05d4917f09581e60cbb)
ここでMSE( f )は回帰関数 ƒの平均二乗誤差である。
説明
FVU を理解するには、2 番目の定義を検討すると便利です。 Y を予測する場合、考えられる最も単純な回帰関数は、Yの平均を予測する定数関数、つまりです。したがって、この関数の MSE はYの分散に等しくなります。つまり、SS err = SS tot、およびSS reg = 0 です。この場合、Yの変動は考慮されず、FVU は最大値の 1 になります。

より一般的には、説明変数X がYについて何も語らず、 Yの予測値がYと共変しない場合、 FVU は 1 になります。しかし、予測が向上し、 MSE を削減できると、 FVU は低下します。すべてのiに対してMSE が 0、SS err = 0、SS reg = SS totとなる完全な予測の場合、 FVU は 0 になります。

参照
参考文献
- ^ アチェン、CH(1990)。「「説明可能な差異」は何を説明するのか?:返答」。政治分析。2(1):173-184。doi :10.1093/pan/2.1.173。