ベイズの定理

ある医師が患者に特定の疾患の有無を検査しているとします。患者は疾患にかかっているかかかっていないかのどちらかであり、検査結果は陽性か陰性かのどちらかです。患者が疾患にかかっていないのに検査結果が陽性だった場合、それは偽陽性です。患者が疾患にかかっていて検査結果が陽性だった場合、それは真陽性です。ベイズの定理は、集団における疾患の蔓延度と検査の精度を示す量を用いて、検査結果が陽性であった場合に患者が疾患にかかっている確率を計算する手段を提供します。${\displaystyle E}$患者がその病気にかかっているという出来事。${\displaystyle P(E)}$は患者がその病気にかかっている確率です。${\displaystyle F}$患者が検査で陽性となる事象を とする。検査で陽性となった場合に患者が病気である確率は、次のように表される。${\displaystyle P(E|F)}$ベイズの定理は次のように述べている。$${\displaystyle P(E|F)={\frac {P(F|E)P(E)}{P(F|E)P(E)+P(F|\neg E)P(\neg E)}}.}$$ここ、${\displaystyle P(E)}$は疾病の罹患率であり、${\displaystyle P(F|E)}$真陽性率または検査感度である。^{[ 21 ]： 44-45}

例えば、膵臓がん患者全員が特定の症状を示すとしても、その症状を示す人が必ずしも膵臓がんであるとは限りません。膵臓がんの発症率が10万人に1人であると仮定し、健康な人の99,999人に10人がその症状を示すとすると、その症状を示す人が膵臓がんである確率は9.1%となります。

発生率に基づき、以下の表は人口10万人あたりの対応する数値を示しています。

これらの数値は、症状のある患者が癌である確率を計算するために使用できます。

${\displaystyle {\begin{aligned}P({\text{Cancer}}|{\text{Symptoms}})&={\frac {P({\text{Symptoms}}|{\text{Cancer}})P({\text{Cancer}})}{P({\text{Symptoms}})}}\\&={\frac {P({\text{Symptoms}}|{\text{Cancer}})P({\text{Cancer}})}{P({\text{Symptoms}}|{\text{Cancer}})P({\text{Cancer}})+P({\text{Symptoms}}|{\text{Non-Cancer}})P({\text{Non-Cancer}})}}\\[8pt]&={\frac {1\times 0.00001}{1\times 0.00001+(10/99999)\times 0.99999}}={\frac {1}{11}}\approx 9.1\%.\end{aligned}}}$

ある人が薬物（例えば、物質D）を使用しているかどうかを判定する特定の検査の感度が99% 、つまり真陽性率（TPR）が0.99であるとします。この検査は、薬物使用者に対して99%の真陽性結果（薬物使用の正しい識別）をもたらします。また、この検査の特異度も99% 、つまり真陰性率（TNR）が0.99です。したがって、この検査は非使用者に対して99%の非使用を正しく識別しますが、同時に1%の偽陽性、つまり偽陽性率（FPR）=0.01も生じます。0.3%の人が薬物を使用していると仮定すると、ベイズの定理によれば、検査で陽性となったランダムな人が薬物使用者である確率は次のようになります。$${\displaystyle {\begin{aligned}P({\text{User}}\vert {\text{Positive}})&={\frac {P({\text{Positive}}\vert {\text{User}})P({\text{User}})}{P({\text{Positive}})}}\\&={\frac {P({\text{Positive}}\vert {\text{User}})P({\text{User}})}{P({\text{Positive}}\vert {\text{User}})P({\text{User}})+P({\text{Positive}}\vert {\text{Non-user}})P({\text{Non-user}})}}\\[8pt]&={\frac {0.99\times 0.003}{0.99\times 0.003+0.01\times 0.997}}\approx 23\%.\end{aligned}}}$$したがって、薬物検査は「99％正確」であるにもかかわらず、陽性結果のほとんどは偽陽性となる。^{[ 22 ]}

壺の中に、A、B、Cの3種類のコインが入っています。Aタイプのコインは公平で、投げると0.5の確率で表が出ます。Bタイプのコインは偏りがあり、0.6の確率で表が出ます。Cタイプのコインは0.9の確率で表が出ます。壺にはAタイプのコインが2枚、Bタイプのコインが2枚、Cタイプのコインが1枚入っています。壺からコインを1枚無作為に取り出し、投げます。ベイズの定理は、表が出たという条件の下で、そのコインが特定の種類のコインである確率を示します。$${\displaystyle P(A|H)={\frac {P(H|A)P(A)}{P(H)}},}$$そして同様に${\displaystyle P(B|H)}$そして${\displaystyle P(C|H)}$分母は全確率の法則を用いて求めることができる。$${\displaystyle P(H)=P(H|A)P(A)+P(H|B)P(B)+P(H|C)P(C).}$$コインが壺から無作為に取り出されると仮定すると、${\displaystyle P(A)=2/5}$、${\displaystyle P(B)=2/5}$、 そして${\displaystyle P(C)=1/5}$したがって、${\displaystyle P(H)=0.62}$、そして^{[ 23 ]}$${\displaystyle P(A|H)=0.2/0.62\approx 32\%.}$$

ベイズ的（または認識論的）解釈では、確率は合理的な「信念の度合い」を測る尺度である。^{[ 24 ] [ 25 ]}ベイズの定理は、証拠を合理的に考慮する前と後の命題に対する信念の度合いを結びつける。例えば、医療検査のシナリオでは、患者が病気の検査で陽性反応を示した場合、医師は患者がその病気にかかっている可能性がより高いと考えるだろう。^{[ 21 ]： 43-45}

Aが命題を表し、Bが証拠または背景Bを表す場合、^{[ 26 ]}

• ${\displaystyle P(A)}$は事前確率、つまりAに対する初期の信念の度合いです。
• ${\displaystyle P(\neg A)}$は、 Aが偽であるという対応する初期信念度であり、${\displaystyle P(\neg A)=1-P(A)}$。
• ${\displaystyle P(B|A)}$は条件付き確率または可能性であり、 Aが真であるという条件の下でBを信じる度合いを表します。
• ${\displaystyle P(B|\neg A)}$は条件付き確率または可能性であり、 Aが偽であるという条件の下でBを信じる度合いである。
• ${\displaystyle P(A|B)}$は事後確率であり、 Bを考慮に入れた後のAの確率です。

ベイズの定理のベイズ的解釈に基づく適用に関する詳細は、「ベイズ推論」を参照してください。

頻度主義的解釈では、確率は「結果の割合」を測定する。^{[ 27 ]}例えば、実験を何度も実行したと仮定する。P ( A )は特性Aを持つ結果の割合（事前確率）であり、P ( B )は特性Bを持つ結果の割合である。P ( B | A )は特性Aを持つ結果のうち特性Bを持つ結果の割合であり、P ( A | B )は特性Bを持つ結果のうち特性Aを持つ結果の割合（事後確率）である。

事象AおよびBについて、 P ( B ) ≠ 0の場合、

${\displaystyle P(A|B)={\frac {P(B|A)P(A)}{P(B)}}.}$

多くの応用例、例えばベイズ推論では、事象Bは議論の中で固定されており、事象 B が観測されたことが、様々な可能性のある事象Aに対する私たちの信念に及ぼす影響を検討したい。このような状況では、最後の式の分母、すなわち与えられた証拠Bの確率は固定されている。私たちが変化させたいのはAである。ベイズの定理によれば、事後確率は分子に比例するため、最後の式は次のようになる。 ^{[ 20 ] : 8}

${\displaystyle P(A|B)\propto P(A)\cdot P(B|A).}$

言い換えれば、事後確率は事前確率と尤度の積に比例する。^{[ 20 ]： 37}

2つの連続確率変数XとYについて、ベイズの定理は条件付き密度の定義から同様に導出できる。

${\displaystyle f_{X\vert Y=y}(x)={\frac {f_{X,Y}(x,y)}{f_{Y}(y)}}}$

${\displaystyle f_{Y\vert X=x}(y)={\frac {f_{X,Y}(x,y)}{f_{X}(x)}}}$

ベイズの定理は次のように述べている。^{[ 20 ]： 20-21}

${\displaystyle f_{X\vert Y=y}(x)={\frac {f_{Y\vert X=x}(y)f_{X}(x)}{f_{Y}(y)}}.}$

これは値に対して成り立つ${\displaystyle x}$そして${\displaystyle y}$XとYのサポートの範囲内で、${\displaystyle f_{X}(x)>0}$そして${\displaystyle f_{Y}(y)>0}$。

確率はオッズで表されることがあります。任意の命題について${\displaystyle A}$確率の比率${\displaystyle A}$確率に忠実である${\displaystyle A}$偽りである、オッズオンと呼ばれる${\displaystyle A}$^{[ 32 ] : 90}ベイズの定理は、オッズを用いて次のように記述できます。まず、ベイズの定理を次の確率に適用します。${\displaystyle A}$他の命題が与えられた場合、それは真である${\displaystyle B}$:$${\displaystyle P(A|B)=P(A){\frac {P(B|A)}{P(B)}}.}$$同様に、ベイズの定理は、次の確率にも成り立つ。${\displaystyle A}$偽です:$${\displaystyle P(\neg A|B)=P(\neg A){\frac {P(B|\neg A)}{P(B)}}.}$$これら2つの式を割ると、確率は${\displaystyle P(B)}$脱落する:$${\displaystyle {\frac {P(A|B)}{P(\neg A|B)}}={\frac {P(A)}{P(\neg A)}}{\frac {P(B|A)}{P(B|\neg A)}}.}$$したがって、${\displaystyle A}$与えられた${\displaystyle B}$確率は${\displaystyle A}$比率を掛ける${\displaystyle P(B|A)/P(B|\neg A)}$ベイズ因子または尤度比と呼ばれる量。記号で表すと次のようになる。$${\displaystyle O(A|B)=O(A){\frac {P(B|A)}{P(B|\neg A)}}.}$$これはしばしば、事後オッズは事前オッズに尤度を掛けたものであると要約される。^{[ 32 ] : 90 [ 21 ] : 49}

例えば、ある病気の罹患率が1%、つまり無作為に選ばれた人が感染している確率が0.01だとします。また、その病気の検査で正しい結果が出る確率が99%だとします。感染する事前オッズは次のようになります。$${\displaystyle O({\text{infected}})={\frac {P({\text{infected}})}{P({\text{not infected}})}}={\frac {0.01}{1-0.01}}={\frac {1}{99}}.}$$

感染している場合、検査結果が陽性となる確率は99%です。$${\displaystyle P({\text{positive}}|{\text{infected}})=0.99.}$$感染がない場合、検査結果が陰性となる確率も99%なので、$${\displaystyle P({\text{positive}}|{\text{not infected}})=1-P({\text{negative}}|{\text{not infected}})=1-0.99=0.01.}$$ベイズ因子は比率です$${\displaystyle {\frac {P({\text{positive}}|{\text{infected}})}{P({\text{positive}}|{\text{not infected}})}}={\frac {0.99}{0.01}}={\frac {99}{1}}.}$$したがって、検査結果が陽性であった場合の感染の事後オッズは次のようになる。$${\displaystyle {\frac {1}{99}}\times {\frac {99}{1}}={\frac {1}{1}};}$$言い換えれば、感染の事後オッズは1対1であり、感染の事後確率は50%である。^{[ 33 ]}

3つの事象に対するベイズの定理のバージョン^{[ 34 ]}は、3つ目の事象を追加することによって得られる。${\displaystyle C}$、 と${\displaystyle P(C)>0,}$すべての確率が条件付けられる条件：

${\displaystyle P(A\vert B\cap C)={\frac {P(B\vert A\cap C)\,P(A\vert C)}{P(B\vert C)}}}$

これは次のように推論できます。連鎖律を用いると

${\displaystyle P(A\cap B\cap C)=P(A\vert B\cap C)\,P(B\vert C)\,P(C)}$

そして、その一方で

${\displaystyle P(A\cap B\cap C)=P(B\cap A\cap C)=P(B\vert A\cap C)\,P(A\vert C)\,P(C)}$

両方の式を特定し、解くことで目的の結果が得られます。${\displaystyle P(A\vert B\cap C)}$。

確率論の主観的解釈では、事象の確率は、事象が発生するという行為者の信念とみなされます。ベイズの定理は、行為者が新しい情報を受け取った後に信念をどのように更新または修正すべきかを正当化するために広く用いられています。行為者が確率を割り当てる場合${\displaystyle P(A)}$イベントへ${\displaystyle A}$、${\displaystyle P(B)}$イベントへ${\displaystyle B}$、 そして${\displaystyle P(B|A)}$イベントへ${\displaystyle B}$想定して起こる${\displaystyle A}$すでに起こった」ベイズの定理は、${\displaystyle P(A|B)}$エージェントがこれらの確率割り当てを行った後、イベント${\displaystyle B}$事象が発生する。ベイズ更新（条件付き更新とも呼ばれる）に従うエージェントは、事象の確率を変更する。${\displaystyle A}$古い値から${\displaystyle P(A)}$新しい価値へ${\displaystyle P'(A)=P(A|B)}$条件付けは、合理的と考えられる唯一の更新ルールではありません。^{[ 35 ] [ 36 ] [ 37 ]}更新ルールを制約するためにどの仮定を用いることができるかという問題は、依然として多少議論の余地があります。^{[ 38 ] [ 39 ]}

量子力学では、確率分布は密度行列に一般化され、量子システムの準備状態を表す複素数の配列となります。量子ベイズ規則は、システムに関する新しい実験データが得られるにつれて密度行列がどのように更新されるかを表すように定式化できます。^{[ 40 ] [ 41 ]}

ベイズ統計学では、対象またはシステムは、1 つ以上の数値パラメータを含む数学モデルによって表現されます。システムに関する利用可能な情報を使用して、これらのパラメータの可能な値に対する確率分布を作成し、どの値が他の値よりも妥当であるかを示します。その後、新しい証拠が得られると、ベイズの定理を使用してその確率分布を更新します。^{[ 42 ]}

ベイズの定理と条件付き確率の計算は、3人の囚人問題^{[ 43 ]}、モンティ・ホール問題^{[ 44} ] 、少年少女のパラドックス^{[ 45 ]}、2つの封筒問題^{[ 46 ]}など、多くの有名なパズルを解決^{する方法を提供}する。

アラン・チューリングとブレッチリー・パークの協力者たちは、第二次世界大戦中に暗号解読にベイズの定理を用いることを先駆的に行った。1941年、チューリングは、ヴィジュネル暗号の解読など、彼のチームの主な焦点であるエニグマ暗号機で暗号化されたメッセージの解読よりも単純な問題にベイズ法を適用することで、暗号解読のベイズ的手法を紹介する一連の教育ノートを書いた。ベイズの定理は、日本の海軍暗号JN 25の解読にも適用された。^{[ 47 ] [ 48 ] [ 49 ]}

遺伝学では、ベイズの定理を用いて、ある人が特定の遺伝子型を持つ確率を推定することができます。多くの人が、遺伝性疾患にかかる可能性や、関心のある劣性遺伝子の保因者になる可能性を評価しようとします。家族歴や遺伝子検査に基づいてベイズ分析を行うことで、ある人が病気を発症するか、あるいは子供に病気を遺伝させるかを予測することができます。^{[ 50 ]}（遺伝子検査と予測は、子供を持つことを計画しているものの、夫婦ともに病気の保因者である可能性を懸念しているカップルの間で一般的であり、特に遺伝的多様性の低いコミュニティではその傾向が顕著です。^{[ 51 ]}）

ベイズの定理は進化生物学において、利用可能なデータを最もよく説明する種間の関係の系統樹を推論するために用いられる。このアプローチはマルコフ連鎖モンテカルロ法を用いることで実用的になった。^{[ 52 ] [ 53 ]}