哲学において、パスカルの強盗事件は、期待効用最大化における問題点を示す思考実験である。合理的な主体は、結果が確率で重み付けされたときに効用が高くなるような行動を選択すべきである。しかし、非常に起こりそうもない結果でも非常に大きな効用が得られる場合があり、その効用は確率の減少よりも速く増加する可能性がある。したがって、主体は、あり得ないほど高い報酬が得られる極めて起こりそうもないケースに重点を置くべきである。これはまず直感に反する選択につながり、あらゆる選択の効用が際限なく増大するにつれて、最終的には矛盾へと至る。
その名称はパスカルの賭けに由来するが、賭けとは異なり、無限の報酬を必要としない。これにより、無限の性質に基づくパスカルの賭けのジレンマに対する多くの反論を回避できる。
問題提起
この問題を指す「パスカルの強盗」という用語は、元々はLessWrongフォーラムでEliezer Yudkowskyによって造語された。後に哲学者Nick Bostromが架空の対話の形でこの思考実験を詳しく解説した。その後、他の著者が最初の対話の出来事の続編を出版し、同じ文学スタイルを採用した。
ボストロムの説明によると、ブレーズ・パスカルは武器を忘れた強盗に襲われます。しかし、強盗は取引を持ちかけます。哲学者が財布を渡す代わりに、強盗は明日その2倍の金額を返すというものです。パスカルは、その取引が守られる可能性は低いと指摘して断ります。すると強盗はさらに高額の報酬を提示し、たとえ1000分の1の確率でしか誠実でなくても、パスカルが2000倍の金額を返す取引に応じるのは理にかなっていると指摘します。パスカルは、その高額の金額を返す確率は1000分の1よりもさらに低いと答えます。強盗は、多額のお金（または純粋な効用）を返済できる確率が低いが厳密に0より大きい場合、賭けに応じるのが合理的となる有限の金額が存在すると反論します。ある例では、強盗はパスカルに1000京日もの幸せな人生を約束することで成功する。その言葉に納得したパスカルは、強盗に財布を渡してしまう。
ユドコウスキーの例の一つでは、強盗は「5ドルくれ、さもないとマトリックスの外から魔法の力を使ってチューリングマシンを動かしてシミュレーションして殺すぞ」と言って成功する。
人々」。ここで、その数はクヌースの上向き矢印表記法を使用する。この数を10進数で書き出すには、既知の宇宙に存在する原子の数よりもはるかに多くの筆記材料が必要になるだろう。
この矛盾は、2つの相反する見解から生じる。一方では、期待効用計算を乗じることで、5ドルの損失を
生命の喪失は、
強盗が真実を語っている確率は
解決策は、以下の場合に限りお金を与えることです。
と仮定するとより高い限りより高い
これは正しいと仮定されるため、[注1 ]強盗に金を払うことは合理的だと考えられる。一方、強盗に金を払うことは、搾取される可能性があるため直感的に非合理的である。強盗に遭う人がこの論理に同意すると、金銭を全て搾取され、ダッチブックと呼ばれる状態になり、これは通常非合理的だと考えられる。これらの議論のうちどちらが論理的に正しいかについては意見が分かれる。
さらに、一見合理的に見える多くの意思決定システムでは、パスカルの強盗事件によって、あらゆる行動の期待効用が収束しなくなる。これは、パスカルの強盗事件と同様の、次々と起こる悲惨なシナリオの無限の連鎖を考慮に入れる必要があるためである。[ 7 ] [ 8 ]
このパラドックスに関する議論の中には、期待効用最大化理論だけでなく、帰結主義倫理学などの他の理論体系にも当てはまるものがある。[注2 ]
結果と対策
哲学者ニック・ボストロムは、パスカルの強盗事件は、パスカルの賭けと同様に、超知能人工知能に欠陥のある意思決定理論を与えることは破滅的な結果を招く可能性があることを示唆していると主張している。[ 10 ]パスカルの強盗事件は、存在リスクや成功確率は低いが報酬が非常に高い慈善活動など、発生確率は低いがリスクの高い事象を検討する際にも関連性があるかもしれない。常識的に考えて、起こりそうもないシナリオに労力を費やすのは非合理的であるように思われる。
推奨される解決策の1つは、限定された効用関数のみを使用することです。つまり、報酬は任意に大きくすることはできません。[ 7 ] [ 11 ]別のアプローチは、素朴に期待値を計算するのではなく、ベイズ推論を使用して証拠と確率推定値の質を（定性的に）判断することです。 [ 6 ]他のアプローチとしては、対称的に影響を与えることができない多数の人々に影響を与える驚くほどユニークな立場にあると主張する仮説の事前確率にペナルティを課すこと、[注3 ]最初に報酬の確率を提供することを拒否すること、[ 15 ]または極めて大きなリスクが存在する場合に定量的意思決定手順を放棄することなどがあります。[ 8 ]
注記
- ↑確率は非常に直感的に思えるかもしれませんが小さくすることはできません
しかし、これは必ずしも真実ではありません。注目すべき例として、この問題のベイズモデルではこれは誤りです。[ 6 ]そこでは、強盗の主張が正しい事前確率は、その主張の異常性とともに減少します。もし彼の主張がこの場合のように異常であれば、ベイズモデルではその確率も異常に小さくなります。さらに、頻度主義者は、そのような異常な脅威が実現した例がこれまで観察されていないため、強盗の脅威が実現する確率を0と推定するかもしれません。 - ↑パスカルの強盗事件の「帰結主義的バージョン」は、ブラッドリー・モントンによって次のように提案されました。見知らぬ人があなたに赤ちゃんを渡し、拷問するように頼みます。その拷問によって、遠い銀河にいる多数の知覚を持つ生物の重大な不当な苦しみを防ぐことができると言います。赤ちゃんを拷問することで苦しみを防ぐ確率は非常に低いですが、見知らぬ人が主張する遠い銀河の生物の数を十分に高く設定している限り、銀河の数が増えても拷問によって苦しみを防ぐ確率が低下しない確率モデルを備えた帰結主義によれば（特にベイズモデルでは、事前確率が必然的に一定の数の銀河に集中するため、銀河の数が増えるにつれて確率は低下します）、赤ちゃんを拷問すべきです。 [ 9 ]
- ↑この「レバレッジペナルティ」は、ロビン・ハンソンがユドコウスキーのこの問題に関する最初の記述に対するコメントで最初に提案したものです。 [ 12 ] [ 13 ]ユドコウスキーは、これは、理論に対する圧倒的な観察証拠があるように見える場合でも、私たちが非常に多くの人々に影響を与えることができることを示唆する理論を信じることを拒否することを意味すると指摘しました。 [ 14 ]
参考文献
- 1 2カルノフスキー、ホールデン (2016 年 7 月 25 日) [2011 年 8 月 18 日]。「期待値の推定値を文字通りに受け取ることができない理由 (たとえそれが偏りのない推定値であっても)」。The GiveWell Blog。2025年12 月 7 日取得。
- 1 2 De Blanc, Peter. アルゴリズムによる確率分布を用いた期待効用の収束 (2007), arXiv : 0712.4318
- 1 2 Kieran Marray、「実存的リスクの倫理的計算における不確実性への対処」、経済社会研究評議会気候倫理・気候経済学ワークショップシリーズ：ワークショップ5 - リスクと科学文化、2016年5月発表http://www.nottingham.ac.uk/climateethicseconomics/documents/papers-workshop-5/marray.pdf
- ↑ Monton, Bradley (2019). "How to Avoid Maximizing Expected Utility" . Philosophers' Imprint . 19 (18): 1– 25. hdl : 2027/spo.3521354.0019.018 .
- ↑ボストロム、ニック（2014）。「選択の基準の選択」。『超知能：道筋、危険、戦略』。オックスフォード：オックスフォード大学出版局。ISBN 978-0199678112。「意思決定理論」のセクション。
- ↑ Cowen, Tyler; High, Jack (1988). "時間、限定効用、およびサンクトペテルブルクのパラドックス". Theory and Decision . 25 (3): 219– 223. doi : 10.1007/BF00133163 . S2CID 120584258 .
- ↑ロビン・ハンソン（2007年10月21日）、 LessWrongに掲載されたエリザー・ユドコウスキーの「パスカルの強盗：莫大な効用の小さな確率」へのコメント：「多くの人が被害を受けた状態は（事前）確率が低いと仮定することについて議論されてきました。多くの人が被害を受けた状態は、任意の人が実現できると主張することとの相関が低いと仮定する方が、より有望かもしれません
- ↑ Tomasik, Brian (2016年6月) 「シミュレーション論証が未来への熱狂を抑制する方法」(PDF) . Center on Long-Term Risk . pp. 3–4 . 2021年11月23日にオリジナルからアーカイブされた(PDF) 。
- ↑ユドコウスキー、エリザー (2013-05-08)。「パスカルのマグル：無限小の事前確率と強い証拠」。LessWrong。2016-06-27のオリジナルからアーカイブ済み。
- ↑ Baumann, Peter (2009). "Counting on numbers" (PDF) . Analysis . 69 (3): 446– 448. doi : 10.1093/analys/anp061 . JSTOR 40607656 . 2019年11月21日にオリジナルからアーカイブ(PDF) 。
情報源
- ディラン・バルフォア（2021）。「パスカルの強盗再び」。ユーティリティ。33 (1): 118–124 .土井: 10.1017/s0953820820000357。S2CID 229475903。
- ボストロム、ニック（2009）。 「パスカルの強盗」（PDF）。アナリシス（ジャーナル）。69 （ 3）：443–445。doi：10.1093 / analys / anp062。JSTOR 40607655。
- ヘグストロム、オッレ（2016）。『ここにドラゴンがいる：科学、技術、そして人類の未来』オックスフォード大学出版局。doi: 10.1093 / acprof : oso /9780198723547.001.0001。ISBN 978-0-19-872354-7。
- Russell, Jeffrey Sanford (2022年12月). 「パスカルの強盗計画」(PDF) . PhilPapers .
- ユドコウスキー、エリザー（2007年10月19日）。「パスカルの強盗：膨大な効用の小さな確率」。LessWrong 。
