確率論の概念
確率論 では 、 条件付き独立性は 、仮説の確実性を評価する際に観測が無関係または冗長である状況を表します。条件付き独立性は通常、 条件付き確率 、つまり、無意味な観測を与えられた仮説の確率が、無意味な観測がない場合の確率に等しい特別なケースとして定式化されます。が仮説で、 と が観測である 場合 、条件付き独立性は等式として表すことができます。
A
{\displaystyle A}
B
{\displaystyle B}
C
{\displaystyle C}
P
(
A
∣
B
,
C
)
=
P
(
A
∣
C
)
{\displaystyle P(A\mid B,C)=P(A\mid C)}
ここで、 は 、 と の 両方が与えられた場合 の の確率です。 が与えられた場合 の の確率は 、 と の両方が与えられた場合 の の確率と同じであるため 、この等式は、 が の確実性に何も寄与しないことを表し ます 。 この場合、が与えられた場合、 と は 条件付きで独立している とされ 、記号で次のように表記されます 。 因果等式表記法の言語では、 共通の変数に依存する2 つの関数 と は、 表記法 を用いて条件付きで独立していると記述されます。 これは、表記法 と同等です 。
P
(
A
∣
B
,
C
)
{\displaystyle P(A\mid B,C)}
A
{\displaystyle A}
B
{\displaystyle B}
C
{\displaystyle C}
A
{\displaystyle A}
C
{\displaystyle C}
A
{\displaystyle A}
B
{\displaystyle B}
C
{\displaystyle C}
B
{\displaystyle B}
A
{\displaystyle A}
A
{\displaystyle A}
B
{\displaystyle B}
C
{\displaystyle C}
(
A
⊥
⊥
B
∣
C
)
{\displaystyle (A\perp \!\!\!\perp B\mid C)}
f
(
y
)
{\displaystyle f(y)}
g
(
y
)
{\displaystyle g(y)}
y
{\displaystyle y}
f
(
y
)
=
↶↷
g
(
y
)
{\displaystyle f\left(y\right)~{\overset {\curvearrowleft \curvearrowright }{=}}~g\left(y\right)}
P
(
f
∣
g
,
y
)
=
P
(
f
∣
y
)
{\displaystyle P(f\mid g,y)=P(f\mid y)}
条件付き独立性の概念は、条件文の集合とグラフィド の間に数学的な関係を確立するため、グラフベースの統計的推論理論にとって不可欠です 。
事象の条件付き独立性 、、 を イベント とし ます 。 および が 条件付きで独立で あるとは、次の場合 に 限ります 。
A
{\displaystyle A}
B
{\displaystyle B}
C
{\displaystyle C}
A
{\displaystyle A}
B
{\displaystyle B}
C
{\displaystyle C}
P
(
C
)
>
0
{\displaystyle P(C)>0}
P
(
A
∣
B
,
C
)
=
P
(
A
∣
C
)
{\displaystyle P(A\mid B,C)=P(A\mid C)}
このプロパティは と記述されることが多いですが 、 と読み替える必要があります 。
(
A
⊥
⊥
B
∣
C
)
{\displaystyle (A\perp \!\!\!\perp B\mid C)}
(
(
A
⊥
⊥
B
)
|
C
)
{\displaystyle ((A\perp \!\!\!\perp B)\vert C)}
同様に、条件付き独立性は次のように表すことができます。
P
(
A
,
B
|
C
)
=
P
(
A
|
C
)
P
(
B
|
C
)
{\displaystyle P(A,B|C)=P(A|C)P(B|C)}
ここで、 は と の 結合確率 であり、 が 与えられています 。 この別の定式化では、が与えられた場合 、 と は 独立したイベント であると 述べられています 。
P
(
A
,
B
|
C
)
{\displaystyle P(A,B|C)}
A
{\displaystyle A}
B
{\displaystyle B}
C
{\displaystyle C}
A
{\displaystyle A}
B
{\displaystyle B}
C
{\displaystyle C}
が と同等である ことを示します 。
(
A
⊥
⊥
B
∣
C
)
{\displaystyle (A\perp \!\!\!\perp B\mid C)}
(
B
⊥
⊥
A
∣
C
)
{\displaystyle (B\perp \!\!\!\perp A\mid C)}
同等の定義の証明
P
(
A
,
B
∣
C
)
=
P
(
A
∣
C
)
P
(
B
∣
C
)
{\displaystyle P(A,B\mid C)=P(A\mid C)P(B\mid C)}
iff ( 条件付き確率 の定義 )
P
(
A
,
B
,
C
)
P
(
C
)
=
(
P
(
A
,
C
)
P
(
C
)
)
(
P
(
B
,
C
)
P
(
C
)
)
{\displaystyle {\frac {P(A,B,C)}{P(C)}}=\left({\frac {P(A,C)}{P(C)}}\right)\left({\frac {P(B,C)}{P(C)}}\right)}
（ 両辺に を掛ける ）
P
(
A
,
B
,
C
)
=
P
(
A
,
C
)
P
(
B
,
C
)
P
(
C
)
{\displaystyle P(A,B,C)={\frac {P(A,C)P(B,C)}{P(C)}}}
P
(
C
)
{\displaystyle P(C)}
（ 両辺を で割る ）
P
(
A
,
B
,
C
)
P
(
B
,
C
)
=
P
(
A
,
C
)
P
(
C
)
{\displaystyle {\frac {P(A,B,C)}{P(B,C)}}={\frac {P(A,C)}{P(C)}}}
P
(
B
,
C
)
{\displaystyle P(B,C)}
iff (条件付き確率の定義)
P
(
A
∣
B
,
C
)
=
P
(
A
∣
C
)
{\displaystyle P(A\mid B,C)=P(A\mid C)}
∴
{\displaystyle \therefore }
例
色付きボックス 各セルは起こり得る結果を表します。イベント 、 は、それぞれ 赤 、 青 、 黄色 の領域で表されます 。イベント と の重なりは 紫色 で 表示されます 。
R
{\displaystyle \color {red}R}
B
{\displaystyle \color {blue}B}
Y
{\displaystyle \color {gold}Y}
R
{\displaystyle \color {red}R}
B
{\displaystyle \color {blue}B}
これらのイベントの確率は、総面積に対する網掛け部分です。どちらの例でも 、 と は 条件付きで独立しています 。その理由は次のとおりです。
R
{\displaystyle \color {red}R}
B
{\displaystyle \color {blue}B}
Y
{\displaystyle \color {gold}Y}
Pr
(
R
,
B
∣
Y
)
=
Pr
(
R
∣
Y
)
Pr
(
B
∣
Y
)
{\displaystyle \Pr({\color {red}R},{\color {blue}B}\mid {\color {gold}Y})=\Pr({\color {red}R}\mid {\color {gold}Y})\Pr({\color {blue}B}\mid {\color {gold}Y})}
[1] ただし、次の 理由により条件付きで独立ではありません:
[
not
Y
]
{\displaystyle \left[{\text{not }}{\color {gold}Y}\right]}
Pr
(
R
,
B
∣
not
Y
)
≠
Pr
(
R
∣
not
Y
)
Pr
(
B
∣
not
Y
)
{\displaystyle \Pr({\color {red}R},{\color {blue}B}\mid {\text{not }}{\color {gold}Y})\not =\Pr({\color {red}R}\mid {\text{not }}{\color {gold}Y})\Pr({\color {blue}B}\mid {\text{not }}{\color {gold}Y})}
近接性と遅延 イベント A と B を、世界中からランダムに抽出された人物 A と人物 B が夕食に間に合うように帰宅する確率として定義します。イベント A と B は独立していると仮定できます。つまり、A が遅れているという知識は、B が遅れる確率にほとんどまたはまったく影響を与えません。ただし、3 番目のイベントが導入され、人物 A と人物 B が同じ地域に住んでいる場合、2 つのイベントは条件付きで独立していないと見なされます。人物 A を遅らせる可能性のある交通状況や天候関連のイベントは、人物 B も遅らせる可能性があります。3 番目のイベントと人物 A が遅れたという知識を考慮すると、人物 B が遅刻する確率は有意に変化します。 [2]
サイコロを振る 条件付き独立性は、3 番目のイベントの性質に依存します。サイコロを 2 つ振った場合、2 つのサイコロは互いに独立して動作すると想定できます。1 つのサイコロの結果を見ても、2 番目のサイコロの結果はわかりません (つまり、2 つのサイコロは独立しています)。ただし、1 番目のサイコロの結果が 3 で、3 番目のイベントについて誰かが 2 つの結果の合計が偶数であると伝えた場合、この追加の情報単位によって、2 番目の結果の選択肢が奇数に制限されます。言い換えると、2 つのイベントは独立している可能性がありますが、条件付きで独立しているわけではありません。 [2]
身長と語彙力 身長と語彙力は相互に依存しています。なぜなら、非常に背の低い人は子供である傾向があり、より基本的な語彙力で知られているからです。しかし、2 人の人が 19 歳 (つまり、年齢を条件とする) であることがわかっているので、一方が背が高いと言われても、その人の語彙力の方が大きいと考える理由はありません。
確率変数の条件付き独立性 2 つの離散 ランダム変数 およびが 3 番目の離散ランダム変数を与えられたときに条件付きで独立であるためには、 が与えられたときに条件付き確率分布においてそれらが独立している必要 が あり ます 。 つまり 、 の任意の値を与えられたときに の確率分布が のすべての値に対して同じであり 、 の確率分布がのすべての値に対して同じである 場合に限り、 および は 条件付きで独立し ています 。正式には、
X
{\displaystyle X}
Y
{\displaystyle Y}
Z
{\displaystyle Z}
Z
{\displaystyle Z}
X
{\displaystyle X}
Y
{\displaystyle Y}
Z
{\displaystyle Z}
Z
{\displaystyle Z}
X
{\displaystyle X}
Y
{\displaystyle Y}
Y
{\displaystyle Y}
X
{\displaystyle X}
ここで、 は の条件付き 累積分布関数 であり 、 が与えられています 。
F
X
,
Y
∣
Z
=
z
(
x
,
y
)
=
Pr
(
X
≤
x
,
Y
≤
y
∣
Z
=
z
)
{\displaystyle F_{X,Y\,\mid \,Z\,=\,z}(x,y)=\Pr(X\leq x,Y\leq y\mid Z=z)}
X
{\displaystyle X}
Y
{\displaystyle Y}
Z
{\displaystyle Z}
2つの事象 とが σ代数 のもとで条件付き独立である とき、
R
{\displaystyle R}
B
{\displaystyle B}
Σ
{\displaystyle \Sigma }
Pr
(
R
,
B
∣
Σ
)
=
Pr
(
R
∣
Σ
)
Pr
(
B
∣
Σ
)
a.s.
{\displaystyle \Pr(R,B\mid \Sigma )=\Pr(R\mid \Sigma )\Pr(B\mid \Sigma ){\text{ a.s.}}}
ここで、 は シグマ代数 が与えられたときの イベント の 指標 関数 の 条件付き期待値 を表します 。つまり、
Pr
(
A
∣
Σ
)
{\displaystyle \Pr(A\mid \Sigma )}
A
{\displaystyle A}
χ
A
{\displaystyle \chi _{A}}
Σ
{\displaystyle \Sigma }
Pr
(
A
∣
Σ
)
:=
E
[
χ
A
∣
Σ
]
.
{\displaystyle \Pr(A\mid \Sigma ):=\operatorname {E} [\chi _{A}\mid \Sigma ].}
2 つのランダム変数 およびは、 上式が および のすべての に対して成り立つ場合、 σ 代数 が 与えられたときに条件付きで独立です 。
X
{\displaystyle X}
Y
{\displaystyle Y}
Σ
{\displaystyle \Sigma }
R
{\displaystyle R}
σ
(
X
)
{\displaystyle \sigma (X)}
B
{\displaystyle B}
σ
(
Y
)
{\displaystyle \sigma (Y)}
2 つのランダム変数 とが ランダム変数 σ ( W ) に対して独立である場合、それらは条件付きで独立です 。これは、によって生成される σ 代数です 。これは通常、次のように記述されます。
X
{\displaystyle X}
Y
{\displaystyle Y}
W
{\displaystyle W}
W
{\displaystyle W}
X
⊥
⊥
Y
∣
W
{\displaystyle X\perp \!\!\!\perp Y\mid W}
または
X
⊥
Y
∣
W
{\displaystyle X\perp Y\mid W}
これは「 は から独立している 、 与えられた 」と書かれています。条件付けは文全体に適用されます：「( は から独立している ) 与えられた 」。
X
{\displaystyle X}
Y
{\displaystyle Y}
W
{\displaystyle W}
X
{\displaystyle X}
Y
{\displaystyle Y}
W
{\displaystyle W}
(
X
⊥
⊥
Y
)
∣
W
{\displaystyle (X\perp \!\!\!\perp Y)\mid W}
この表記は、 「 は から 独立している 」に拡張されます 。
X
⊥
⊥
Y
{\displaystyle X\perp \!\!\!\perp Y}
X
{\displaystyle X}
Y
{\displaystyle Y}
が可算な値の集合を仮定する 場合、これは 形式のイベントに対する X と Y の条件付き独立性と同等です。2 つ以上のイベント、または 3 つ以上のランダム変数の条件付き独立性も同様に定義されます。
W
{\displaystyle W}
[
W
=
w
]
{\displaystyle [W=w]}
次の 2 つの例は、 が を意味しないこと、また が によって を意味しないこと を示しています。
X
⊥
⊥
Y
{\displaystyle X\perp \!\!\!\perp Y}
(
X
⊥
⊥
Y
)
∣
W
{\displaystyle (X\perp \!\!\!\perp Y)\mid W}
まず、が 確率 0.5 で 0、それ以外で 1 であるとします。W = 0 のとき、とが独立しているとみなさ れ 、 それぞれが確率 0.99 で値 0、それ以外で値 1 を持ちます。のとき 、 および は再び独立していますが、今回は確率 0.99 で値 1 を取ります。すると になります 。しかし、 Pr( X = 0) < Pr( X = 0| Y = 0) であるため、と は 従属しています 。これは、Pr( X = 0) = 0.5 であるからですが、 Y = 0 の場合は W = 0 である可能性が高く、したがって X = 0 でもあるため、Pr( X = 0| Y = 0) > 0.5 となります。
W
{\displaystyle W}
X
{\displaystyle X}
Y
{\displaystyle Y}
W
=
1
{\displaystyle W=1}
X
{\displaystyle X}
Y
{\displaystyle Y}
(
X
⊥
⊥
Y
)
∣
W
{\displaystyle (X\perp \!\!\!\perp Y)\mid W}
X
{\displaystyle X}
Y
{\displaystyle Y}
2 番目の例では、 がそれぞれ 0 と 1 の値を確率 0.5 で取ると仮定します。 を積 とします 。 のとき 、Pr( X = 0) = 2/3 ですが、Pr( X = 0| Y = 0) = 1/2 なので、 は 偽です。これも Explaining Away の例です。Kevin Murphy のチュートリアル [3] を参照してください。ここで 、 と は 値「brainy」と「sporty」を取ります。
X
⊥
⊥
Y
{\displaystyle X\perp \!\!\!\perp Y}
W
{\displaystyle W}
X
⋅
Y
{\displaystyle X\cdot Y}
W
=
0
{\displaystyle W=0}
(
X
⊥
⊥
Y
)
∣
W
{\displaystyle (X\perp \!\!\!\perp Y)\mid W}
X
{\displaystyle X}
Y
{\displaystyle Y}
ランダムベクトルの条件付き独立性 2 つの ランダム ベクトル とが 3 番目のランダム ベクトルを与えられたときに条件付きで独立である のは、それらが与えられた条件付き累積分布で独立している場合に限ります 。正式には次のようになります。
X
=
(
X
1
,
…
,
X
l
)
T
{\displaystyle \mathbf {X} =(X_{1},\ldots ,X_{l})^{\mathrm {T} }}
Y
=
(
Y
1
,
…
,
Y
m
)
T
{\displaystyle \mathbf {Y} =(Y_{1},\ldots ,Y_{m})^{\mathrm {T} }}
Z
=
(
Z
1
,
…
,
Z
n
)
T
{\displaystyle \mathbf {Z} =(Z_{1},\ldots ,Z_{n})^{\mathrm {T} }}
Z
{\displaystyle \mathbf {Z} }
ここで 、、 および 条件付き累積分布は次のように定義されます。
x
=
(
x
1
,
…
,
x
l
)
T
{\displaystyle \mathbf {x} =(x_{1},\ldots ,x_{l})^{\mathrm {T} }}
y
=
(
y
1
,
…
,
y
m
)
T
{\displaystyle \mathbf {y} =(y_{1},\ldots ,y_{m})^{\mathrm {T} }}
z
=
(
z
1
,
…
,
z
n
)
T
{\displaystyle \mathbf {z} =(z_{1},\ldots ,z_{n})^{\mathrm {T} }}
F
X
,
Y
∣
Z
=
z
(
x
,
y
)
=
Pr
(
X
1
≤
x
1
,
…
,
X
l
≤
x
l
,
Y
1
≤
y
1
,
…
,
Y
m
≤
y
m
∣
Z
1
=
z
1
,
…
,
Z
n
=
z
n
)
F
X
∣
Z
=
z
(
x
)
=
Pr
(
X
1
≤
x
1
,
…
,
X
l
≤
x
l
∣
Z
1
=
z
1
,
…
,
Z
n
=
z
n
)
F
Y
∣
Z
=
z
(
y
)
=
Pr
(
Y
1
≤
y
1
,
…
,
Y
m
≤
y
m
∣
Z
1
=
z
1
,
…
,
Z
n
=
z
n
)
{\displaystyle {\begin{aligned}F_{\mathbf {X} ,\mathbf {Y} \,\mid \,\mathbf {Z} \,=\,\mathbf {z} }(\mathbf {x} ,\mathbf {y} )&=\Pr(X_{1}\leq x_{1},\ldots ,X_{l}\leq x_{l},Y_{1}\leq y_{1},\ldots ,Y_{m}\leq y_{m}\mid Z_{1}=z_{1},\ldots ,Z_{n}=z_{n})\\[6pt]F_{\mathbf {X} \,\mid \,\mathbf {Z} \,=\,\mathbf {z} }(\mathbf {x} )&=\Pr(X_{1}\leq x_{1},\ldots ,X_{l}\leq x_{l}\mid Z_{1}=z_{1},\ldots ,Z_{n}=z_{n})\\[6pt]F_{\mathbf {Y} \,\mid \,\mathbf {Z} \,=\,\mathbf {z} }(\mathbf {y} )&=\Pr(Y_{1}\leq y_{1},\ldots ,Y_{m}\leq y_{m}\mid Z_{1}=z_{1},\ldots ,Z_{n}=z_{n})\end{aligned}}}
ベイズ推論での使用 今後の国民投票 で「賛成」票を投じる有権者の割合を p とします。 世論調査 では 、 人口から n 人 の有権者をランダムに選びます。i = 1, ..., n の場合、 X i = 1 または0とし、それぞれ i 番目に選ばれた有権者が「賛成」票を投じるか どうかに対応します 。
統計的推論 に対する 頻度主義的 アプローチでは 、確率分布を pに帰属させることはなく (確率が何らかのイベントの発生の相対頻度または何らかの母集団の割合として解釈できる場合を除く)、 X 1 、...、 X n は 独立した ランダム変数
である と言うでしょう。
対照的に、 統計的推論に対する ベイズ的 アプローチでは、そのような「頻度」解釈が存在しないにもかかわらず、 p に 確率分布を割り当て、確率を、確率が割り当てられている任意の間隔に p があるという確信の度合いとして解釈します。そのモデルでは、ランダム変数 X 1 、...、 X n は 独立ではありません が 、 p の値が与えられた場合、 条件付きで独立してい ます。特に、多数の X が 1 に等しいと観測された場合、 その観測値を考えると、 pが 1 に近いという 条件付き確率が 高くなり、したがって、 その観測値を考えると、 次に観測される X が 1 に等しい
という 条件付き確率が高くなることを意味します。
条件付き独立のルール 条件付き独立性の記述を規定する一連の規則は、基本的な定義から導き出されている。 [4] [5]
これらの規則は、グラフにおいて成り立つため、パールとパスによって「 グラフィド 公理」 と名付けられました。 [6]ここで、は「 Xから A へのすべてのパスは 、集合 B によって遮断される」という意味であると解釈されます 。 [7]
X
⊥
⊥
A
∣
B
{\displaystyle X\perp \!\!\!\perp A\mid B}
対称
X
⊥
⊥
Y
⇒
Y
⊥
⊥
X
{\displaystyle X\perp \!\!\!\perp Y\quad \Rightarrow \quad Y\perp \!\!\!\perp X}
証拠：
の 場合、 を証明する必要があることに注意してください 。 の場合 、 を示すことができることに注意してください 。したがって、 が要求されているとおりです。
P
(
X
|
Y
)
=
P
(
X
)
{\displaystyle P(X|Y)=P(X)}
P
(
Y
|
X
)
=
P
(
Y
)
{\displaystyle P(Y|X)=P(Y)}
P
(
X
|
Y
)
=
P
(
X
)
{\displaystyle P(X|Y)=P(X)}
P
(
X
,
Y
)
=
P
(
X
)
P
(
Y
)
{\displaystyle P(X,Y)=P(X)P(Y)}
P
(
Y
|
X
)
=
P
(
X
,
Y
)
/
P
(
X
)
=
P
(
X
)
P
(
Y
)
/
P
(
X
)
=
P
(
Y
)
{\displaystyle P(Y|X)=P(X,Y)/P(X)=P(X)P(Y)/P(X)=P(Y)}
分解
X
⊥
⊥
A
,
B
⇒
and
{
X
⊥
⊥
A
X
⊥
⊥
B
{\displaystyle X\perp \!\!\!\perp A,B\quad \Rightarrow \quad {\text{ and }}{\begin{cases}X\perp \!\!\!\perp A\\X\perp \!\!\!\perp B\end{cases}}}
証拠
p
X
,
A
,
B
(
x
,
a
,
b
)
=
p
X
(
x
)
p
A
,
B
(
a
,
b
)
{\displaystyle p_{X,A,B}(x,a,b)=p_{X}(x)p_{A,B}(a,b)}
（の意味 ）
X
⊥
⊥
A
,
B
{\displaystyle X\perp \!\!\!\perp A,B}
∫
B
p
X
,
A
,
B
(
x
,
a
,
b
)
d
b
=
∫
B
p
X
(
x
)
p
A
,
B
(
a
,
b
)
d
b
{\displaystyle \int _{B}p_{X,A,B}(x,a,b)\,db=\int _{B}p_{X}(x)p_{A,B}(a,b)\,db}
（変数 Bを 積分して無視する）
p
X
,
A
(
x
,
a
)
=
p
X
(
x
)
p
A
(
a
)
{\displaystyle p_{X,A}(x,a)=p_{X}(x)p_{A}(a)}
同様の証明により、 X と B の独立性が示されます。
弱い連合
X
⊥
⊥
A
,
B
⇒
and
{
X
⊥
⊥
A
∣
B
X
⊥
⊥
B
∣
A
{\displaystyle X\perp \!\!\!\perp A,B\quad \Rightarrow \quad {\text{ and }}{\begin{cases}X\perp \!\!\!\perp A\mid B\\X\perp \!\!\!\perp B\mid A\end{cases}}}
証拠
仮定により、 .
Pr
(
X
)
=
Pr
(
X
∣
A
,
B
)
{\displaystyle \Pr(X)=\Pr(X\mid A,B)}
分解の性質により 、 .
X
⊥
⊥
B
{\displaystyle X\perp \!\!\!\perp B}
Pr
(
X
)
=
Pr
(
X
∣
B
)
{\displaystyle \Pr(X)=\Pr(X\mid B)}
上記の 2 つの等式を組み合わせると となり 、 が成立します 。
Pr
(
X
∣
B
)
=
Pr
(
X
∣
A
,
B
)
{\displaystyle \Pr(X\mid B)=\Pr(X\mid A,B)}
X
⊥
⊥
A
∣
B
{\displaystyle X\perp \!\!\!\perp A\mid B}
2 番目の条件も同様に証明できます。
収縮
X
⊥
⊥
A
∣
B
X
⊥
⊥
B
}
and
⇒
X
⊥
⊥
A
,
B
{\displaystyle \left.{\begin{aligned}X\perp \!\!\!\perp A\mid B\\X\perp \!\!\!\perp B\end{aligned}}\right\}{\text{ and }}\quad \Rightarrow \quad X\perp \!\!\!\perp A,B}
証拠
この特性は に注目することで証明できます。 のそれぞれの等式は、それぞれ および によって主張され ます 。
Pr
(
X
∣
A
,
B
)
=
Pr
(
X
∣
B
)
=
Pr
(
X
)
{\displaystyle \Pr(X\mid A,B)=\Pr(X\mid B)=\Pr(X)}
X
⊥
⊥
A
∣
B
{\displaystyle X\perp \!\!\!\perp A\mid B}
X
⊥
⊥
B
{\displaystyle X\perp \!\!\!\perp B}
交差点 厳密に正の確率分布の場合、 [5] も以下が成り立ちます。
X
⊥
⊥
Y
∣
Z
,
W
X
⊥
⊥
W
∣
Z
,
Y
}
and
⇒
X
⊥
⊥
W
,
Y
∣
Z
{\displaystyle \left.{\begin{aligned}X\perp \!\!\!\perp Y\mid Z,W\\X\perp \!\!\!\perp W\mid Z,Y\end{aligned}}\right\}{\text{ and }}\quad \Rightarrow \quad X\perp \!\!\!\perp W,Y\mid Z}
証拠
仮定により：
P
(
X
|
Z
,
W
,
Y
)
=
P
(
X
|
Z
,
W
)
∧
P
(
X
|
Z
,
W
,
Y
)
=
P
(
X
|
Z
,
Y
)
⟹
P
(
X
|
Z
,
Y
)
=
P
(
X
|
Z
,
W
)
{\displaystyle P(X|Z,W,Y)=P(X|Z,W)\land P(X|Z,W,Y)=P(X|Z,Y)\implies P(X|Z,Y)=P(X|Z,W)}
この等式と 全確率の法則 を合わせて使用すると、次のようになります 。
P
(
X
|
Z
)
{\displaystyle P(X|Z)}
P
(
X
|
Z
)
=
∑
w
∈
W
P
(
X
|
Z
,
W
=
w
)
P
(
W
=
w
|
Z
)
=
∑
w
∈
W
P
(
X
|
Y
,
Z
)
P
(
W
=
w
|
Z
)
=
P
(
X
|
Z
,
Y
)
∑
w
∈
W
P
(
W
=
w
|
Z
)
=
P
(
X
|
Z
,
Y
)
{\displaystyle {\begin{aligned}P(X|Z)&=\sum _{w\in W}P(X|Z,W=w)P(W=w|Z)\\[4pt]&=\sum _{w\in W}P(X|Y,Z)P(W=w|Z)\\[4pt]&=P(X|Z,Y)\sum _{w\in W}P(W=w|Z)\\[4pt]&=P(X|Z,Y)\end{aligned}}}
および なので 、 となります 。
P
(
X
|
Z
,
W
,
Y
)
=
P
(
X
|
Z
,
Y
)
{\displaystyle P(X|Z,W,Y)=P(X|Z,Y)}
P
(
X
|
Z
,
Y
)
=
P
(
X
|
Z
)
{\displaystyle P(X|Z,Y)=P(X|Z)}
P
(
X
|
Z
,
W
,
Y
)
=
P
(
X
|
Z
)
⟺
X
⊥
⊥
Y
,
W
|
Z
{\displaystyle P(X|Z,W,Y)=P(X|Z)\iff X\perp \!\!\!\perp Y,W|Z}
技術的注記: これらの意味は任意の確率空間に当てはまるため、すべてを別の変数、たとえばK に条件付けてサブユニバースを検討した場合でも、依然として当てはまります 。たとえば、 は を意味します 。
X
⊥
⊥
Y
⇒
Y
⊥
⊥
X
{\displaystyle X\perp \!\!\!\perp Y\Rightarrow Y\perp \!\!\!\perp X}
X
⊥
⊥
Y
∣
K
⇒
Y
⊥
⊥
X
∣
K
{\displaystyle X\perp \!\!\!\perp Y\mid K\Rightarrow Y\perp \!\!\!\perp X\mid K}
参照
参考文献
^ これが事実であることを確認するには、Pr( R ∩ B | Y ) が Y領域内で R と B (紫色の網掛け部分) が重なる確率であることを理解する必要があります 。左の図では、 Y領域内に R と B が 重なる正方形が 2 つあり 、 Y 領域には 12 個の正方形があるため、Pr( R ∩ B | Y ) = 2 / 12 = 1 / 6 同様に、Pr( R | Y ) = 4 / 12 = 1 / 3 そして Pr( B | Y ) = 6 / 12 = 1 / 2 . ^ ab 誰か条件付き独立性を説明してくれませんか? ^ 「グラフィカルモデル」。 ^ Dawid, AP (1979). 「統計理論における条件付き独立性」. 王立統計学会誌、シリーズB. 41 ( 1): 1–31. JSTOR 2984718. MR 0535541. ^ ab J Pearl、因果関係：モデル、推論、推論、2000年、ケンブリッジ大学出版局 ^ Pearl, Judea ; Paz, Azaria (1986)。「グラフィド: 関連性関係についての推論のためのグラフベース ロジック、または、z がすでにわかっている場合に x が y についてさらに詳しく教えてくれるのはいつでしょうか?」。du Boulay, Benedict、Hogg, David C.、Steels, Luc (編)。Advances in Artificial Intelligence II、第 7 回ヨーロッパ人工知能会議、ECAI 1986、ブライトン、イギリス、1986 年 7 月 20 ～ 25 日、議事録 (PDF) 。North-Holland。pp. 357 ～ 363。 ^ パール、ジュデア（1988）。 「インテリジェントシステムにおける確率的推論：もっともらしい推論のネットワーク 」モルガン・カウフマン 。ISBN 9780934613736 。
外部リンク ウィキメディア・コモンズの条件付き独立に関連するメディア 
![{\displaystyle \left[{\text{not }}{\color {gold}Y}\right]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/a0eb1bae763ed41724514977c2f1f04cc4f94b47)
![{\displaystyle \Pr(A\mid \Sigma ):=\operatorname {E} [\chi _{A}\mid \Sigma ].}](https://wikimedia.org/api/rest_v1/media/math/render/svg/db4e749c3a141448b439396447227211c11aa216)
![{\displaystyle [W=w]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/e55acd7d0b952abbf759bed1372bd3b9956f3021)
![{\displaystyle {\begin{aligned}F_{\mathbf {X} ,\mathbf {Y} \,\mid \,\mathbf {Z} \,=\,\mathbf {z} }(\mathbf {x} ,\mathbf {y} )&=\Pr(X_{1}\leq x_{1},\ldots ,X_{l}\leq x_{l},Y_{1}\leq y_{1},\ldots ,Y_{m}\leq y_{m}\mid Z_{1}=z_{1},\ldots ,Z_{n}=z_ {n})\\[6pt]F_{\mathbf {X} \,\mid \,\mathbf {Z} \,=\,\mathbf {z} }(\mathbf {x} )&=\Pr(X_{1}\leq x_{1},\ldots ,X_{l}\leq x_{l}\mid Z_{1}=z_{1},\ ldots ,Z_{n}=z_{n})\\[6pt]F_{\mathbf {Y} \,\mid \,\mathbf {Z} \,=\,\mathbf {z} }(\mathbf {y} )&=\Pr(Y_{1}\leq y_{1},\ldots ,Y_{m}\leq y_{m}\mid Z_ {1}=z_{1},\ldots ,Z_{n}=z_{n})\end{整列}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/0e15a5820cfde986cae5d47cd4c1670c962f6072)
![{\displaystyle {\begin{aligned}P(X|Z)&=\sum _{w\in W}P(X|Z,W=w)P(W=w|Z)\\[4pt]&=\sum _{w\in W}P(X|Y,Z)P(W=w|Z)\\[4pt]&=P(X|Z,Y)\sum _{w\in W}P(W=w|Z)\\[4pt]&=P(X|Z,Y)\end{aligned}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/cdad58c7362d46ef35cfb708ff4bb237add0c8f3)
ウィキメディア・コモンズの条件付き独立に関連するメディア