確率論において、確率変数の条件付き期待値、条件付き期待平均とは、条件付き確率分布に関して評価された期待値のことです。確率変数が有限個の値しかとれない場合、「条件」とは、その変数がそれらの値のサブセットしかとれないということです。より厳密に言えば、確率変数が離散確率空間上で定義されている場合、「条件」とは、この確率空間の分割のことです。
文脈によっては、条件付き期待値は確率変数または関数のいずれかになります。確率変数は次のように表されます。条件付き確率と同様に。関数形式は次のように表されます。または、次のような別の関数記号意味を持って導入される。
公平なサイコロを振った場合を考え、出た目が偶数(2、4、6)の場合はA =1、それ以外の場合はA =0とする。さらに、出た目が素数(2、3、5)の場合はB =1、それ以外の場合はB =0とする。
Aの無条件期待値はしかし、 B = 1 を条件とするA の期待値(つまり、サイコロの目が 2、3、または 5 である場合) は、そしてB = 0(つまり、サイコロの目が1、4、または6である場合)を条件としたAの期待値は同様に、A = 1 を条件とした B の期待値は次のとおりです。、 A = 0を条件としたBの期待値は。
1990年1月1日から1999年12月31日までの10年間(3652日間)の毎日、気象観測所によって収集された日降水量データ(1日あたりの降水量(mm))があるとします。特定されていない日の降水量の無条件期待値は、その3652日間の降水量の平均値です。 3月であることが分かっている(条件付きで)特定されていない日の降水量の条件付き期待値は、10年間のうち3月に該当する310日間の日降水量の平均値です。同様に、3月2日を条件とした降水量の条件付き期待値は、その特定の日付の10日間の降水量の平均値です。
条件付き確率の関連概念は、条件付き分布を計算したラプラスにまで遡ります。1933年にラドン・ニコディムの定理を用いてそれを形式化したのはアンドレイ・コルモゴロフでした。[ 1 ] 1953年のポール・ハルモス[ 2 ]とジョセフ・L・ドゥーブ[ 3 ] の研究では、条件付き期待値は部分σ代数を用いて現代の定義に一般化されました。[ 4 ]
Aがイベントである場合非ゼロの確率で、X は離散確率変数であり、 Aが与えられたときのXの条件付き期待値は
ここで、和はXのすべての可能な結果について取られます。
もしゼロ除算のため、条件付き期待値は定義されません。
XとYが離散確率変数である場合、 Yが与えられたときのXの条件付き期待値は次のようになる。
どここれは、 XとYの同時確率質量関数です。総和は、Xのすべての可能な結果について取られます。
上記のように、式が未定義となるのは、。
離散確率変数に基づく条件付けは、対応する事象に基づく条件付けと同じです。
ここでAは集合である。
させてそして連続確率変数で、結合密度関数を 持つ。の密度 条件付き密度のこの出来事を考えると 条件付き期待値与えられたは
分母がゼロの場合、式は定義されません。
連続確率変数による条件付けは、イベントによる条件付けとは異なります。離散的な場合と同様です。詳細については、「確率ゼロの事象による条件付け」を参照してください。この区別を尊重しないと、ボレル・コルモゴロフのパラドックスに見られるように、矛盾した結論に至る可能性があります。
このセクションのすべての確率変数はつまり、二乗可積分である。一般性においては、条件付き期待値はこの仮定なしに展開される。以下の「部分σ代数に関する条件付き期待値」を参照のこと。しかし、理論はより直感的であると考えられており[ 5 ]、重要な一般化を許容する。確率変数、条件付き期待値は回帰とも呼ばれます。
以下では確率空間であり、で 平均および分散期待平均二乗誤差を最小化する:
Xの条件付き期待値は、単一の数値の代わりに、同様に定義される。 結果は関数になります。 させてランダムベクトルである。条件付き期待値は測定可能な関数であり、
注意:条件付き期待値一般的に一意ではない。平均二乗誤差を最小化する解は複数存在する可能性がある。
例 1 : Yが常に 1 である定数確率変数である場合を考えます。この場合、平均二乗誤差は、次の形式の任意の関数によって最小化されます。
例2 : Yが2次元ランダムベクトルである場合を考える。すると明らかに
しかし、関数の観点からは次のように表現できます。またはあるいは、他にも無数の方法が存在する。線形回帰の文脈では、この一意性の欠如は多重共線性と呼ばれる。
条件付き期待値は、測度ゼロの集合を除いて一意である。使用される尺度は、Yによって誘導されるプッシュフォワード尺度です。
最初の例では、プッシュフォワード尺度は1におけるディラック分布です。2番目の例では、「対角線」に集中しています。そのため、それと交わらない任意の集合の測度は0になります。
最小化器の存在は自明ではない。以下が示せる。
はヒルベルト空間の閉部分空間である。[ 6 ]ヒルベルト射影定理 により、必要十分条件は 最小化者であるということは、すべてのMでは、
言葉で言うと、この方程式は残差がYのすべての関数の空間Mと直交する。この直交条件は、指示関数に適用される。以下では、 XとYが必ずしもではない場合に条件付き期待を拡張するために、 が使用されます。。
条件付き期待値は、解析的に計算するのが難しいため、また補間のために、応用数学や統計学では近似されることが多い。 [ 7 ]
ヒルベルト部分空間
上記で定義された関数は、任意の測定可能な関数を許容するのではなく、 gの関数形式を制限することによって、その部分集合に置き換えられます。その例としては、g が単純な関数である必要がある場合の決定木回帰、g がアフィン関数である必要がある場合の線形回帰などがあります。
条件付き期待値のこれらの一般化は、その多くの性質がもはや成り立たなくなるという代償を伴います。たとえば、M をY のすべての線形関数の空間とし、この一般化された条件付き期待値を表す。投影。もし定数関数、タワープロパティは含まれていません 持ちこたえられないだろう。
重要な特殊ケースとして、XとYが同時に正規分布に従う場合が挙げられる。この場合、条件付き期待値は線形回帰と等価であることが示される。
係数について多変量正規分布#条件付き分布で説明されています。

次の点を考慮してください。
以来サブ-代数の関数通常はそうではない測定可能、したがって次の形式の積分が存在する、 どこそして制限はに一般的には言えません。しかし、局所的な平均値は回復可能条件付き期待値の助けを借りて。
A conditional expectation of X given , denoted as , is any -measurable function which satisfies:
for each .[8]
As noted in the discussion, this condition is equivalent to saying that the residual is orthogonal to the indicator functions :
The existence of can be established by noting that for is a finite measure on that is absolutely continuous with respect to . If is the natural injection from to , then is the restriction of to and is the restriction of to . Furthermore, is absolutely continuous with respect to , because the condition
implies
Thus, we have
where the derivatives are Radon–Nikodym derivatives of measures.
Consider, in addition to the above,
The conditional expectation of X given Y is defined by applying the above construction on the σ-algebra generated byY:
By the Doob–Dynkin lemma, there exists a measurable function such that
ボレル部分集合Bに対してランダム変数の集合を考えることができる
それらはマルコフ核を形成することが示されており、すなわちほとんどすべての、 は確率尺度である。[ 9 ]
無意識の統計学者の法則は
これは、条件付き期待値が、無条件期待値と同様に、条件付き尺度に対する積分であることを示している。
一般的に言えば、以下を考慮してください。
条件付き期待値与えられた最大で-nullセットはユニークで統合可能値測定可能な確率変数満足
この設定では、条件付き期待値は演算子表記で次のように表されることもあります。。
以下のすべての公式は、ほぼ確実な意味で理解されるべきである。
させて。 それから独立しているだから、私たちは
したがって、定数確率変数は条件付き期待値の定義を満たす。ご希望に応じて。
各我々は持っていますまたは同等に
これはそれぞれに当てはまるので、そして両方ともそしては-測定可能(前者の性質は定義により成り立つ。後者の性質がここでは重要)これから、
そしてこれは、ほぼどこでも。
ここでのすべての確率変数は、一般性を失うことなく非負であると仮定します。一般の場合については、次のように扱うことができます。。
修理そしてすると、任意の
したがってほぼどこでも。
任意の単純関数は、指示関数の有限線形結合である。線形性により、上記の性質は単純関数に対して成り立つ。単純な関数である場合。
さあなれ測定可能である。すると、一連の単純な関数が存在する。単調に収束する(ここでは、)そしてポイントごとにしたがって、シーケンス単調かつ点ごとに収束し、。
また、シーケンス単調かつ点ごとに収束し、
単純関数について証明された特殊なケース、条件付き期待値の定義、および単調収束定理の適用を組み合わせると、次のようになります。
これはすべての人に当てはまりますそこからほぼどこでも。
{{cite book}}ISBN /日付の不一致(ヘルプ){{cite book}}ISBN /日付の不一致(ヘルプ){{cite book}}: CS1メンテナンス: 場所の発行元が見つかりません (リンク){{cite book}}: CS1メンテナンス: 場所の発行元が見つかりません (リンク)