ベイズ統計

ベイズ統計（/ ˈ b eɪ z i ə n / BAY -zee-ənまたは/ ˈ b eɪ ʒ ən / BAY -zhən）^[1]は、ベイズ的確率解釈に基づく統計分野の理論であり、確率は事象に対する確信の度合いを表します。確信の度合いは、以前の実験の結果など、事象に関する事前知識に基づく場合もあれば、事象に関する個人的な信念に基づく場合もあります。これは、確率を多数の試行後の事象の相対頻度の限界と見なす頻度主義的解釈など、他の多くの確率の解釈とは異なります。^{[2]より具体的には、ベイズ法による分析では、事前知識を}事前分布の形で体系化します。

ベイズ統計手法では、ベイズの定理を使用して、新しいデータを取得した後、確率を計算および更新します。ベイズの定理は、データだけでなく、イベントまたはイベントに関連する条件に関する事前情報や信念に基づいて、イベントの条件付き確率を説明します。 ^{[3] [4]}たとえば、ベイズ推論では、ベイズの定理を使用して、確率分布または統計モデルのパラメータを推定できます。ベイズ統計では確率を信念の度合いとして扱うため、ベイズの定理は、信念を定量化する確率分布をパラメータまたはパラメータセットに直接割り当てることができます。^{[2] [3]}

ベイズ統計は、1763年に発表された論文でベイズの定理の特定のケースを定式化したトーマス・ベイズにちなんで名付けられました。18世紀後半から19世紀初頭にかけてのいくつかの論文で、ピエール・シモン・ラプラスはベイズ確率の解釈を展開しました。 ^[5]ラプラスは、現在ではベイズ的であると考えられる方法を使用して、多くの統計的問題を解決しました。多くのベイズ的手法は後の著者によって開発されましたが、1950年代まで、そのような手法を説明するのにこの用語が一般的に使用されることはありませんでした。20世紀のほとんどの間、ベイズ的手法は、哲学的および実用的な考慮により、多くの統計学者から好意的に見られていませんでした。多くのベイズ的手法は、完了するために多くの計算を必要とし、19世紀に広く使用されたほとんどの方法は、頻度主義的解釈に基づいていました。しかし、強力なコンピュータとマルコフ連鎖モンテカルロなどの新しいアルゴリズムの出現により、ベイズ的手法は21世紀の統計学においてますます使用されるようになりました。^{[2] [6]}

ベイズの定理はベイズ法において、新しいデータを得た後に信念の度合いである確率を更新するために用いられる。2つの事象とが与えられたとき、が真である場合の条件付き確率は次のように表される：^[7]${\displaystyle A}$${\displaystyle B}$${\displaystyle A}$${\displaystyle B}$

$${\displaystyle P(A\mid B)={\frac {P(B\mid A)P(A)}{P(B)}}}$$

ここで である。ベイズの定理は確率論の基本的な結果であるが、ベイズ統計学では特定の解釈がなされている。上記の式において、 は通常命題（コインが50パーセントの確率で表になるという陳述など）を表し、 は証拠、つまり考慮に入れるべき新しいデータ（コインを何度も投げた結果など）を表す。は の事前確率であり、証拠が考慮に入れられる前の についての信念を表す。事前確率は についての事前の知識や情報を定量化することもある。は尤度関数であり、が真である確率として解釈できる。尤度は証拠が命題 を支持する程度を定量化する。は事後確率であり、証拠を考慮した後の命題 の確率である。本質的に、ベイズの定理は新しい証拠 を考慮した後に事前の信念を更新する。^[2]${\displaystyle P(B)\neq 0}$${\displaystyle A}$${\displaystyle B}$${\displaystyle P(A)}$${\displaystyle A}$${\displaystyle A}$${\displaystyle A}$${\displaystyle P(B\mid A)}$${\displaystyle B}$${\displaystyle A}$${\displaystyle B}$${\displaystyle A}$${\displaystyle P(A\mid B)}$${\displaystyle A}$${\displaystyle B}$${\displaystyle P(A)}$${\displaystyle B}$

証拠の確率は全確率の法則を使って計算できる。が実験のすべての結果の集合である標本空間の分割である場合、 ^{[2] [7]}${\displaystyle P(B)}$${\displaystyle \{A_{1},A_{2},\dots ,A_{n}\}}$

$${\displaystyle P(B)=P(B\mid A_{1})P(A_{1})+P(B\mid A_{2})P(A_{2})+\dots +P(B\mid A_{n})P(A_{n})=\sum _{i}P(B\mid A_{i})P(A_{i})}$$

結果が無限にある場合、全確率の法則を使って計算するには、すべての結果を積分する必要があります。多くの場合、計算には評価に時間のかかる合計や積分が含まれるため計算が困難です。そのため、同じ分析では証拠が変わらないため、事前確率と尤度の積のみが考慮されます。事後確率はこの積に比例します。^[2]${\displaystyle P(B)}$${\displaystyle P(B)}$

$${\displaystyle P(A\mid B)\propto P(B\mid A)P(A)}$$

事後分布のモードであり、ベイズ統計では数学的最適化手法を使用して計算されることが多い最大事後分布は、同じままです。マルコフ連鎖モンテカルロ法や変分ベイズ法などの方法を使用すると、事後分布の正確な値を計算しなくても、事後分布を近似することができます。^[2]${\displaystyle P(B)}$

一般的な統計手法のセットはいくつかのアクティビティに分けることができ、その多くには特別なベイズバージョンがあります。

ベイズ推論とは、推論の不確実性を確率を用いて定量化する統計的推論を指す。 ^[8]古典的な頻度主義的推論では、モデルパラメータと仮説は固定されているとみなされる。頻度主義的推論では、パラメータや仮説に確率は割り当てられない。例えば、公平なコインを次に投げたときの結果のように、一度しか起こり得ないイベントに確率を直接割り当てることは頻度主義的推論では意味をなさない。しかし、コインを投げる回数が増えるにつれて表が出る確率が半分に近づくと述べることは意味をなす。 ^[9]

統計モデルは、サンプルデータがどのように生成されるかを表す一連の統計的仮定とプロセスを指定します。統計モデルには、変更可能なパラメータがいくつかあります。たとえば、コインは、 2 つの可能な結果を​​モデル化するベルヌーイ分布からのサンプルとして表すことができます。ベルヌーイ分布には、1 つの結果の確率に等しい単一のパラメータがあり、ほとんどの場合、それは表が出る確率です。データに適したモデルを考案することは、ベイズ推論の中心です。ほとんどの場合、モデルは真のプロセスを近似するだけで、データに影響を与える特定の要因を考慮に入れない場合があります。 [ ^{2]ベイズ推論では、確率をモデルパラメータに割り当てることができます。パラメータは}ランダム変数として表すことができます。ベイズ推論では、ベイズの定理を使用して、より多くの証拠が得られたか判明した後に確率を更新します。^{[2] [10]}

ベイズ統計を用いた統計モデルの定式化には、未知のパラメータの事前分布の指定を必要とするという特徴があります。実際、事前分布のパラメータ自体が事前分布を持つ場合があり、ベイズ階層モデリング（マルチレベルモデリングとも呼ばれます） ^{[11] [12] [13]}につながります。特殊なケースとしてベイジアンネットワークがあります。

ベイズ統計分析を実施するためのベストプラクティスはvan de Schootらによって議論されている^{[14] 。}

ベイズ統計解析の結果を報告するためのベイズ解析報告ガイドライン（BARG）が、ジョン・K・クルシュケによるオープンアクセス論文で提供されている。^[15]

ベイズ実験計画法には、 「事前の信念の影響」という概念が含まれています。このアプローチでは、逐次分析手法を使用して、以前の実験の結果を次の実験計画に含めます。これは、事前分布と事後分布を使用して「信念」を更新することによって実現されます。これにより、実験計画であらゆる種類のリソースを有効に活用できます。この例として、多腕バンディット問題が挙げられます。

ベイズモデルの探索的分析は、ベイズモデリングのニーズと特殊性に合わせて探索的データ分析アプローチを適応または拡張したものである。ペルシ・ディアコニスの言葉を借りれば：^[16]

探索的データ分析は、データの構造や簡単な説明を明らかにすることを目的としています。数値やグラフを見てパターンを見つけようとします。背景情報、想像力、認識されたパターン、他のデータ分析の経験から示唆される手がかりを追求します。

推論プロセスは事後分布を生成します。事後分布は、事後予測分布や事前予測分布などの他の分布とともに、ベイズ統計において中心的な役割を果たします。これらの分布を正しく視覚化し、分析し、解釈することが、推論プロセスの動機となる質問に適切に答えるための鍵となります。^[17]

ベイズモデルを使用する場合、推論自体のほかに対処する必要がある一連の関連タスクがあります。

• 推論の質の診断。マルコフ連鎖モンテカルロ法などの数値手法を使用する場合に必要となる。
• モデル批評、モデルの仮定とモデルの予測の両方の評価を含む
• モデルの選択やモデルの平均化を含むモデルの比較
• 特定の対象者に向けた結果の準備

これらのタスクはすべてベイズモデルの探索的分析アプローチの一部であり、それらをうまく実行することが反復的かつインタラクティブなモデリングプロセスの中心となる。これらのタスクには数値的要約と視覚的要約の両方が必要である。^{[18] [19] [20]}

• ベイズ認識論
• この記事で使用されている数学的論理表記法の一覧については
  • 確率と統計の表記
  • 論理記号のリスト

• ベルナルド、ホセ・M.、スミス、エイドリアンFM（2000）。ベイズ理論。ニューヨーク：ワイリー。ISBN 0-471-92416-4。
• ボルスタッド、ウィリアムM.; カラン、ジェームズ M. (2016)。ベイズ統計入門（第 3 版）。Wiley。ISBN 978-1-118-09156-2。
• Downey, Allen B. (2021). Think Bayes: Python によるベイズ統計 (第 2 版). O'Reilly. ISBN 978-1-4920-8946-9。
• ホフ、ピーター D. (2009)。ベイズ統計手法入門（第 2 版）。ニューヨーク: シュプリンガー。ISBN 978-1-4419-2828-3。
• Lee, Peter M. (2012).ベイズ統計学入門（第4版）. Wiley. ISBN 978-1-118-33257-3。
• ロバート、クリスチャン P. (2007)。ベイズ選択: 意思決定理論の基礎から計算実装まで(第 2 版)。ニューヨーク: シュプリンガー。ISBN 978-0-387-71598-8。
• ジョンソン、アリシア A.; オット、マイルズ Q.; ドグク、マイン。(2022)ベイズのルール! 応用ベイズモデリング入門。チャップマン アンド ホール ISBN 9780367255398

Wikiversityにはベイズ統計に関する学習リソースがあります

• Theo Kypraios. 「ベイズ統計のやさしいチュートリアル」(PDF) 。2013 年 11 月 3 日閲覧。
• Jordi Vallverdu。ベイズ主義者対頻度主義者 統計的推論に関する哲学的議論。
• ベイズ統計David Spiegelhalter、 Kenneth Rice Scholarpedia 4(8):5230. doi:10.4249/scholarpedia.5230
• ベイズモデリングの本と例をダウンロードできます。
• Rens van de Schoot. 「ベイズ分析へのやさしい入門」(PDF)。
• ベイジアン A/B テスト計算機 ダイナミック イールド