確率論における問題解決に向けたエッセイ

「確率論の問題解決に向けた試論」は、トーマス・ベイズによる確率の数学理論に関する著作で、著者の死後2年後の1763年に出版され、友人リチャード・プライスによる多数の修正と追加が含まれている^{[ 1 ]} 。タイトルは、アブラハム・ド・モアブルの著書のタイトルを通じて紹介された確率論を意味する当時の「確率論」という語句に由来する。このエッセイの当時の再版には、より具体的で重要なタイトル「帰納に基づくすべての結論の正確な確率を計算する方法」が付いている^{[ 2 ]}。

この論文には、現在ベイズの定理と呼ばれるものの基礎となる条件付き確率の定理が含まれており、事前確率を設定する問題の詳細な解説も含まれている。

ベイズは、それぞれが成功または失敗のいずれかの結果をもたらす一連の独立した実験を想定し、成功の確率は0から1の間の何らかの数値p であるとしました。しかし、彼はpを不確定な量とみなし、pが0から1の間の任意の区間にある確率はその区間の長さであるとしました。現代の用語で言えば、pは0から1の 間で一様分布する確率変数 とみなされます。pの値が条件付きであれば、成功または失敗をもたらす試行は独立ですが、無条件（または「周辺的」）では独立ではありません。これは、成功が多数観察された場合、pが大きくなる可能性が高くなり、次の試行で成功する確率が高くなるためです。ベイズが取り組んだ問題は、これまでに観察された成功と失敗の数が与えられた場合のpの条件付き確率分布は何か、ということでした。答えは、その確率密度関数は 

${\displaystyle f(p)={\frac {(n+1)!}{k!(n-k)!}}p^{k}(1-p)^{n-k}{\text{ for }}0\leq p\leq 1}$

( p < 0 またはp > 1 の場合はƒ ( p )  =  0 ) ここでkはこれまでに観測された成功回数、nはこれまでに観測された試行回数です。これは今日ではパラメータk + 1 とn − k + 1 を持つベータ分布と呼ばれています。          

ベイズの条件付き確率に関する予備的結果（特に命題3、4、5）は、彼にちなんで名付けられた定理の正しさを示唆している。彼は次のように述べている。「2つの連続する事象があり、2番目の事象の確率がb/N、両方の事象が同時に起こる確率がP/Nである場合、2番目の事象も起こったことが最初に判明したとき、そこから最初の事象も起こったと推測すると、私の推測が正しい確率はP/bである。」。記号的に、これは次のことを意味する（スティグラー1982を参照）。

${\displaystyle P(B\mid A)={\frac {P(A\cap B)}{P(A)}},{\text{ if }}P(A)\neq 0,}$

これは条件付き確率に関するベイズの定理につながる。

${\displaystyle \Rightarrow P(A\mid B)={\frac {P(B\mid A)\,P(A)}{P(B)}},{\text{ if }}P(B)\neq 0.}$

しかし、ベイズはこの発見を強調したり、重点を置いたりしたようには見えない。むしろ、彼はより広範な推論問題の解決策を見つけることに注力した。

「未知の事象が発生して失敗した回数が与えられた場合、単一の試行でその事象が発生する確率が、名前を付けられるような任意の2つの確率の間にある確率を求めよ。」^{[ 1 ]}

このエッセイには、宝くじで「白紙」と「賞品」の比率を推測しようとする男性の例が含まれています。男性はこれまでに宝くじで白紙が10枚、賞品が1枚出るのを見てきました。これらのデータに基づいて、ベイズは白紙と賞品の比率が9:1から11:1の間である確率を計算する方法を詳細に示しました（確率は低く、約7.7%です）。彼はさらに、男性が宝くじで白紙が20枚、賞品が2枚、白紙が40枚、賞品が4枚、といったように計算していく様子を説明しました。最終的に、白紙が10,000枚、賞品が1,000枚出ると、確率は約97%に達します。^{[ 1 ]}

ベイズの主な結果（命題9）は、現代的な言葉で言えば次のようになる。

二項パラメータの事前分布が一様分布であると仮定する${\displaystyle p}$観察後${\displaystyle m}$成功と${\displaystyle n}$失敗、

${\displaystyle P(a<p<b\mid m;n)={\dfrac {\displaystyle \int _{a}^{b}{n+m \choose m}p^{m}(1-p)^{n}\,dp}{\displaystyle \int _{0}^{1}{n+m \choose m}p^{m}(1-p)^{n}\,dp}}\;.}$

ベイズが現代的な意味での「ベイズ主義者」であったかどうかは不明である。つまり、彼がベイズ推論に関心を持っていたのか、それとも単に確率に関心を持っていたのかは定かではない。命題9は、パラメータに関する確率として提示されている点で「ベイズ的」であるように思われる。${\displaystyle p}$しかし、ベイズは頻度主義的な視点を示唆するような形で質問を述べた。彼は、正方形のテーブルにボールがランダムに投げられると仮定し（このテーブルはしばしばビリヤード台、ボールはビリヤードボールと誤解されるが、ベイズ自身はそれらをそのように表現したことはない）、最初のボールの左または右に落ちる他のボールを確率で考慮した。${\displaystyle p}$そして${\displaystyle 1-p}$どちらの視点から見ても、代数的な関係は当然同じである。

• インターネットアーカイブにある「確率論における問題解決に向けたエッセイ」
• UCLA統計学部における確率論の問題解決に向けたエッセイ