因果決定理論

因果的意思決定理論(CDT) は意思決定理論の一派で、合理的な主体が一連の可能な行動に直面した場合、期待される最善の結果をもたらす行動を選択すべきであると主張している。CDT は証拠的意思決定理論(EDT)とは対照的である。証拠的意思決定理論は、行動が取られたという「知らせ」を受け取った場合に最善の結果をもたらす行動を推奨する。^[1]言い換えれば、EDT は「自分が行うことを最も知りたいと思うことをする」ことを推奨している。^{[2] : 7}

非公式には、因果決定理論は、エージェントが最善の期待因果結果で決定を下すことを推奨します。たとえば、リンゴを食べると幸せになり、オレンジを食べると悲しくなる場合は、リンゴを食べるのが合理的です。1 つの複雑な点は、期待因果結果の概念です。良いリンゴを食べると幸せになり、悪いリンゴを食べると悲しくなるが、そのリンゴが良いか悪いかはわからないと想像してください。この場合、リンゴを食べることの因果結果はわかりません。代わりに、期待因果結果から作業しますが、これは次の 3 つのことに依存します。(1) リンゴが良いと思う可能性と悪いと思う可能性、(2) 良いリンゴを食べるとどれだけ幸せになるか、(3) 悪いリンゴを食べるとどれだけ悲しくなるか。非公式には、因果決定理論は、エージェントが最善の期待因果結果で決定を下すことを推奨します。

1981年の論文で、アラン・ギバードとウィリアム・ハーパーは因果決定理論を「反事実の確率から計算された」行動の期待効用を最大化するものとして説明した。^[3]${\displaystyle U}$${\displaystyle A}$

${\displaystyle U(A)=\sum \limits _{j}P(A>O_{j})D(O_{j}),}$

ここで、は結果の望ましさであり、が実行された場合に が成立する反事実的確率です。 ${\displaystyle D(O_{j})}$${\displaystyle O_{j}}$${\displaystyle P(A>O_{j})}$${\displaystyle A}$${\displaystyle O_{j}}$

デイヴィッド・ルイスは^[4]、条件文の確率が必ずしも条件付き確率と等しくないことを証明した。^[5]（ルイスの自明性の結果も参照）もしそうなら、因果決定理論は条件付き確率を使用する証拠決定理論と同等になるだろう。 ${\displaystyle P(A>O_{j})}$${\displaystyle P(O_{j}|A)}$

^{ギバードとハーパーは、もし2つの公理（1つは条件付き排中律[6]}という物議を醸す原理に関連するもの）を受け入れるなら、とが統計的に独立していることは、を保証するのに十分であることを示した。しかし、動作と条件文が独立していない場合もある。ギバードとハーパーは、ダビデ王がバテシバを欲しがっているが、彼女を召喚すると反乱が引き起こされるのではないかと恐れている例を挙げている。 ${\displaystyle A}$${\displaystyle A>O_{j}}$${\displaystyle P(A>O_{j})=P(O_{j}|A)}$

さらに、デイビッドは心理学と政治学の著作を研究し、次のことを学んだ。王にはカリスマ性と非カリスマ性の 2 つの性格タイプがある。王のカリスマ性は遺伝的構成と幼少期の経験によって決まり、成人しても変えることはできない。カリスマ性のある王は正義にふるまい、非カリスマ性のある王は不正義にふるまう傾向がある。カリスマ性のある王に対する反乱が成功することはまれであるが、非カリスマ性のある王に対する反乱は頻繁に起こる。しかし、不正義な行為自体が反乱の成功につながるわけではない。非カリスマ性のある王が反乱を成功させやすいのは、彼らが卑劣で下品な態度をとるからである。デイビッドは自分がカリスマ性があるかどうかは知らないが、他人の妻を呼ぶのは不正義であることは知っている。(p. 164)

この場合、証拠に基づく決定理論はダビデにバテシバを遠慮するよう勧めますが、因果に基づく決定理論は、ダビデがカリスマ的であるかそうでないかは変えられないことに留意し、彼女を呼び寄せるよう勧めます。

因果的意思決定理論と証拠的意思決定理論のどちらかを選択する必要がある場合、哲学者は通常、因果的意思決定理論を好む。^[7]

さまざまな意思決定理論は、さまざまな思考実験における行動の推奨において検討されることが多い。

ニューカムのパラドックスでは、予測者、プレイヤー、そしてAとBと名付けられた2つの箱があります。予測者はプレイヤーの選択を確実に予測することができます。たとえば、99%の精度で予測できます。プレイヤーは箱Bだけを取るか、箱AとBの両方を取るかを選択できます。プレイヤーは次のことを知っています。^[8]

• ボックス A は透明で、常に 1,000 ドルが見える状態で入っています。
• ボックス B は不透明で、その内容は予測子によってすでに設定されています。
  • 予測者がプレイヤーがボックス A とボックス B の両方を取ると予測した場合、ボックス B には何も入りません。
  • 予測者がプレイヤーがボックス B のみを取ると予測した場合、ボックス B には 1,000,000 ドルが入っています。

プレイヤーは、選択を行う際に、予測者が何を予測したか、またはボックス B に何が含まれているかは知りません。プレイヤーは両方のボックスを取るべきでしょうか、それともボックス B だけを取るべきでしょうか?

因果決定理論では、このシナリオでは両方のボックスを取ることを推奨しています。これは、プレーヤーが決定を下す必要がある瞬間に、予測者がすでに予測を行っているためです (したがって、プレーヤーのアクションは結果に影響を与えません)。

逆に、証拠決定理論（EDT）では、プレイヤーがボックスBのみを取ることを推奨する。なぜなら、ボックスBのみを取ることは、予測者がプレイヤーがボックスBのみを取ると予想していたことの強力な証拠であり、したがってボックスBには1,000,000ドルが入っている可能性が高いからである。逆に、両方のボックスを取ることを選択することは、予測者がプレイヤーが両方のボックスを取ることを知っていたことの強力な証拠であり、したがってボックスBには何も入っていないと予想すべきである。^{[9] : 22}

因果決定理論（CDT）自体は、反事実的確率を計算するためにどのアルゴリズムを使用するかを指定していません。^[6] 1つの提案は、ルイスによって提案された「イメージング」手法です。^[10]を評価するには、が可能であるとして、各可能世界から最も近い可能世界まで確率質量を移動します。ただし、この手順では、が確実である場合に何を信じるかを知っている必要があります。これは、1未満の確率を割り当てる可能性のある条件であり、回帰につながります。^[6]${\displaystyle P(A>O_{j})}$${\displaystyle w}$${\displaystyle w_{A}}$${\displaystyle A}$${\displaystyle A}$${\displaystyle A}$

CDT を単純に適用しても、正当に「健全な」決定を導き出せないという「反例」は無数にあります。哲学者のアンディ・イーガンは、これは「最善の結果をもたらすと予想されることをする」という直感的な合理的ルールと、「世界のありそうな因果構造に関する当初の見解を固定したまま、最善の結果が期待されるものなら何でもする」という CDT のアルゴリズムとの間に根本的な断絶があるためだと主張しています。この見解では、非合理的な決定につながるのは、「依存仮説に対するエージェントの無条件の信念を固定する」という CDT の要件です。^[11]

初期の反例としては、ニューカムの問題が挙げられます。^[要出典] 1 箱または 2 箱の選択は予測者の推測に因果的に影響を与えることができないため、因果決定理論では 2 箱戦略を推奨しています。^[3]しかし、この戦略では 1,000 ドルしか得られず、1,000,000 ドルしか得られません。哲学者の間では、1 箱戦略と 2 箱戦略のどちらが「合理的」な戦略であるかは意見が分かれています。^[12]囚人のジレンマのような一見単​​純な問題でも、同様の懸念が生じる可能性があります。^[13]特に、協力するか裏切るかの選択が自分の選択と強く相関しているが、自分の選択が原因ではない「双子」と対戦する場合に懸念が生じます。^[14]

「ダマスカスの死」のシナリオでは、擬人化された「死」があなたが明日どこにいるかを予測し、そこであなたを待ちます。ニューカムの問題と同様に、死は信頼できる予測子であると仮定します。CDTエージェントは相関関係を処理できず、結果として非合理的な決定を下す可能性があります。^{[11] [15] [16]}

最近、ダマスカスの死のいくつかのバリエーションが提案されており、CDT の推奨に従うと、自発的にお金を失うか、または関連して、保証された見返りを放棄する。^{[17] [18] [19]}一例として、敵対的オファーがある: ^[18]「2 つのボックスが提供されています。買い手は、ボックスの 1 つを購入するか、どちらも購入できませんが、両方を購入することはできません。2 つのボックスの価格はそれぞれ 1 ドルです。昨日、売り手は、買い手が購入しないと予測した各ボックスに 3 ドルを入れました。売り手と買い手は両方とも、売り手の予測が 0.75 の確率で正確であると信じています。」買い手の視点を採用すると、CDT は、少なくとも 1 つのボックスに 3 ドルが含まれていると推論します。したがって、平均的なボックスには、少なくとも 1.5​​0 ドルの因果期待値が含まれており、これはコストを上回っています。したがって、CDT では、2 つのボックスのうち 1 つを購入する必要があります。ただし、これは売り手にとって利益になります。

もう一つの最近の反例としては「サイコパスボタン」がある: ^{[11] [20]}

ポールは「サイコパスを全員殺す」ボタンを押すかどうかで悩んでいます。サイコパスのいない世界で暮らすほうがずっといいと彼は考えています。残念ながら、ポールはサイコパスだけがそのようなボタンを押すだろうと確信しています。ポールは死ぬよりはサイコパスのいる世界で暮らすことを強く望んでいます。ポールはボタンを押すべきでしょうか?

イーガンによれば、「ほぼ全員」がポールがボタンを押すべきではないことに同意しているが、CDTはボタンを押すことを支持している。^[11]

哲学者ジム・ジョイスは、おそらくCDTの最も著名な現代の擁護者であり、^[21] CDTは当然「人が何をする傾向があるか、または何をする可能性があるかに関する情報」を証拠として考慮することができると主張している。^{[22] [23]}

学者の中には、新しい意思決定理論をゼロから構築する必要があると考える者もいる。哲学者クリストファー・ミーチャムは「凝集期待効用最大化」を提唱している。エージェントは「凝集期待効用を最大化する包括的戦略によって選択された行為を実行するべきである」。ミーチャムはまた、これを「グローバル凝集期待効用最大化」に拡張して、エージェント間の超合理性スタイルの協力を可能にすることを提案している。 ^{[24] [25]} AIの文脈では、ビットコインの先駆者であるウェイ・ダイは「更新なしの意思決定理論」を提唱している。これは、グローバル凝集メカニズムに、脅迫されることを避けるために「論理的反事実」という確かに難しい概念を追加したものである。^[24]

反事実的脅迫に応じて支払いをするエージェントを考えてみましょう。脅迫者はこれを予測し、エージェントを脅迫するでしょう。では、代わりに、反事実的脅迫に応じて支払いを拒否するエージェントを考えてみましょう... 脅迫者もこれを予測するため、エージェントを脅迫することはありません。したがって、反事実的脅迫に遭遇する可能性のあるエージェントを構築する場合、このように脅迫されたときに支払いを拒否するエージェントを構築する方が、全体的に優れたポリシーです。

これは機能的意思決定理論として部分的に形式化されている。^[26] 論理的反事実の満足のいく形式化が存在するかどうかは未解決の問題である。^{[27] [28]}

• スタンフォード哲学百科事典における因果決定理論
• スタンフォード哲学百科事典の条件文の論理