トロッコ問題

トロッコ問題とは、倫理、心理学、人工知能における一連の思考実験であり、1 人の犠牲を払ってより多数の人を救うべきかどうかという、定型化された倫理的ジレンマを扱っている。この一連の思考実験は通常、暴走した路面電車、トロッコ、または列車が線路の先で多数 (伝統的には 5 人) の人と衝突して死亡するが、運転手または傍観者が介入して車両を別の線路に逸らし、1 人だけ死亡させることができるというシナリオから始まる。次に、暴走車両の他のバリエーションと、類似の生死に関わるジレンマ (医療、司法など) が提示され、それぞれに、何もしない (その場合は数人が死亡する) か、介入して当初「安全」だった 1 人を犠牲にして他の人を救うかという選択肢が含まれている。

それぞれのシナリオの倫理に関する意見は、抽象的なジレンマには関係ないように見える物語の詳細に敏感であることが判明した。物語のさまざまなバリエーションで生じるさまざまな判断を説明できる一般原則を定式化するという問題は、1967年にイギリスの哲学者フィリッパ・フットによる中絶と二重効果の理論に関する議論の分析の一環として提起された。^[1]後にジュディス・ジャービス・トムソン が1976年に発表した論文で「トロッコ問題」と名付け、膨大な文献のきっかけとなったこの主題は、特定の状況でなぜ異なる判断が下されるのかというメタ問題を指す。

哲学者のジュディス・トムソン^{[2] [3]、} フランシス・カム^[4]、ピーター・アンガーもこのジレンマを広範囲に分析している。^[5]トムソンの1976年の論文は、トロッコ問題を独立した主題として扱う文献の始まりとなった。この文献の特徴は、犠牲となる人物がトロッコを止めるために線路に突き落とされたり、移植患者を救うために臓器が摘出されたり、因果関係と責任の連鎖を複雑にするより間接的な方法で殺されたりする、多彩でますます不条理な代替シナリオである。

個別のトロッコシナリオの初期の形は、フットの出版に先立っていた。フランク・チャップマン・シャープは、 1905年にウィスコンシン大学の学部生に与えられた道徳的質問票にそのバージョンを含めた。このバリエーションでは、鉄道の転轍手が転轍機を制御し、犠牲になる（またはならない）唯一の個人は転轍手の子供であった。^{[6] [7]} ドイツの法哲学者カール・エンギッシュは、1930年の資格取得論文で同様のジレンマについて論じ、ドイツの法学者ハンス・ヴェルツェルは1951年の著作で同様のジレンマを論じた。 ^{[8] [9]}アヴロホム・イェシャヤ・カレリッツは、1953年に死去するはるか前に出版したタルムードの注釈で、大群衆からの発射物を小群衆の方へ逸らすことが倫理的かどうかという問題を考察した。^[10]同様に、1954年6月7日に米国で放送されたテレビドラマ「ザ・ストライク」では、朝鮮戦争の指揮官は、20人の巡回部隊を犠牲にして迫り来る敵軍に空爆を命じるか、それとも空爆を中止して500人の主力軍の命を危険にさらすかを選択しなければならない。^[11]

2001年以降、トロッコ問題とその変種は道徳心理学の実証研究に利用され、一般書籍のテーマにもなっています。^[12]トロッコ問題のシナリオは、衝突が避けられない場合に誰に衝突するか、または何に衝突するかを選択するプログラミングが必要になる可能性がある、自律走行車の設計の倫理を議論する際にも登場します。^[13]

現在「トロリー運転手」として知られているフットの思考実験は、次の通りである。

裁判官や治安判事が、暴徒たちに直面し、ある犯罪の犯人を見つけろと要求し、さもなければコミュニティの特定の層に血なまぐさい復讐をすると脅迫しているとしよう。真犯人が不明であるため、裁判官は、無実の人物に罪を着せて処刑することによってのみ流血を防ぐことができると考える。この例の横に、墜落寸前の飛行機のパイロットが、人口の多い地域から人口の少ない地域へ操縦するかどうかを決めているという別の例がある。できるだけ類似点を近づけるために、パイロットは暴走する路面電車の運転手であると想定してもよい。運転手は、狭い線路から別の線路へ操縦することしかできない。5人の男性が1つの線路で作業し、もう1人の男性がもう1つの線路で作業している。運転手が線路に入った人は、必ず殺される。暴動の場合、暴徒は5人の人質を抱えているため、どちらの例でも、1人の命と5人の命の交換となる。^[1]

功利主義的な見解では、人が一人いる線路に向かって車を運転することが義務であると主張する。古典的功利主義によれば、そのような決定は許容されるだけでなく、道徳的に言えばより良い選択肢である（他の選択肢はまったく行動しない）。^[14]この事実により、トロッコの進路変更は義務的となる。別の見方では、道徳的過ちがすでに状況に存在するため、別の線路に移動することは道徳的過ちへの参加を構成し、そうでなければ誰も責任を負わないのに、死に対して部分的に責任を負うことになるという。行動に反対する人は、人間の命の不均衡を指摘するかもしれない。道徳的義務のいくつかの解釈によれば、単にこの状況に存在し、その結果に影響を与えることができるということは、参加する義務を構成する。これが事実であるならば、何もしないことは不道徳な行為と見なされるであろう。

2001 年、ジョシュア・グリーンとその同僚は、トロッコ問題に対する人々の反応に関する最初の重要な実証的調査の結果を発表しました。^{[15]彼らは}機能的磁気共鳴画像法を使用して、「個人的な」ジレンマ (歩道橋から人を突き落とすなど) は感情に関連する脳領域を優先的に使用し、「非個人的な」ジレンマ (スイッチを入れてトロッコの方向を変えるなど) は制御された推論に関連する領域を優先的に使用することを実証しました。これらの根拠から、彼らは道徳的意思決定の二重プロセスの説明を主張しています。それ以来、他の多くの研究がトロッコ問題を使用して道徳的判断を研究し、ストレスの役割と影響、^[16]感情状態、^[17]印象管理、^[18]匿名性のレベル、^[19]さまざまな種類の脳損傷、 [ ^20]生理的覚醒、^[21]さまざまな神経伝達物質、^[22]遺伝的要因^[23]などのトピックがトロッコ問題への反応に及ぼす影響を調査しています。

トロッコ問題は功利主義の尺度として使われてきたが、そのような目的に対するその有用性は広く批判されてきた。^{[24] [25] [26]}

2017年、マイケル・スティーブンス率いるグループが、初めての現実的なトロッコ問題実験を行った。被験者は、列車の切り替え駅だと思っている場所に一人で配置され、線路を走る列車の映像（実際には録画されていたが、本物だと思っていた）を見せられた。その映像では、5人の作業員がメイン線路にいて、1人が副線路にいた。参加者は、レバーを引いて列車を副線路に向ける選択肢があった。7人の参加者のうち5人はレバーを引かなかった。^{[27] [より良い情報源が必要]}

トロッコ問題は多くの調査の対象となっており、回答者の約90％が1人を殺して5人を救うことを選択しています。^[28] 5人のために犠牲になる人が親戚や恋人である場合、回答者が1人の命を犠牲にする可能性は大幅に低くなります。^[29]

デイヴィッド・ブルジェとデイヴィッド・チ​​ャーマーズによる2009年の調査では、トロッコ問題の場合、プロの哲学者の68%が意見を変える（5人の命を救うために1人を犠牲にする）と答え、8%は意見を変えず、残りの24%は別の見解を持っているか、答えられないと答えた。^[30]

2014年に社会・人格心理学コンパス誌に掲載された論文^[24]では、研究者らはトロッコ問題の使用を批判し、とりわけ、この研究で提示されたシナリオは極端すぎ、現実の道徳的状況とは無関係であるため、有用でも教育的でもないと主張した^{[31] 。}

ナシム・ジャファリナイミ^[32]は2017年の論文で、倫理的問題を枠組みに組み込む際のトロッコ問題の還元主義的性質を明らかにし、それが貧弱な功利主義を支持する役割を果たしている。彼女は、トロッコ問題がアルゴリズム的道徳のテンプレートとして役立つという一般的な議論は、根本的に誤った前提に基づいており、最も権力のある人々に有利に働き、都市の将来に悲惨な結果をもたらす可能性があると主張している。^[33]

2017年、ロジャー・スクルートンは著書『人間の本性について』の中で、トロッコ問題のような倫理的ジレンマの使用法や、デレク・パーフィットやピーター・シンガーなどの哲学者が倫理的見解を示す方法としてそれらを使用することを批判している。スクルートンは、「これらの『ジレンマ』は、状況からほぼすべての道徳的に関連する関係を排除し、問題を算数だけの問題に還元するという有用な特徴を持っている」と書いている。スクルートンは、列車が5人ではなく1人に衝突するように線路を変更することを選択したからといって、必ずしもその人が帰結主義者であるわけではないと信じている。倫理的問題に対する帰結主義者の対応の欠陥を示す方法として、スクルートンは功利主義や同様の信念に対する信念の逆説的な要素を指摘している。彼は、ノージックの経験マシンの思考実験が快楽主義を決定的に反証すると考えている。^[34]森岡正博は2017年の論文『トロッコ問題と原爆投下』の中で、原爆投下をトロッコ問題の例として取り上げ、「トロッコ問題」には1)希少性、2)必然性、3)安全地帯、4)被害者になる可能性、5)選択の自由を奪われた犠牲者の視点の欠如、という5つの問題があると指摘している。^[35]

2018年にPsychological Reviewに掲載された論文で、研究者らは、功利主義的決定の尺度として、トロッコ問題のような犠牲のジレンマは、原始功利主義的傾向の一側面、すなわち道具的危害に対する寛容な態度のみを測定し、大義に対する公平な配慮を無視していると指摘した。そのため、著者らはトロッコ問題は功利主義の部分的な尺度しか提供しないと主張した。^[25]

トロッコ問題の基本的なスイッチ形式は、他の関連するジレンマとの比較もサポートします。

前回同様、トロッコが線路を猛スピードで下って 5 人の人に向かっています。あなたはトロッコが通る橋の上にいます。トロッコの前に何か非常に重いものを置くことでトロッコを止めることができます。偶然にも、あなたの隣に太った男がいます。トロッコを止める唯一の方法は、彼を橋から線路に突き落とし、5 人を救うために彼を殺さなければなりません。あなたは先に進みますか?

この行動方針に対する抵抗は強いようである。尋ねられれば、大多数の人々は、4人の命を救うためにスイッチを引くことには賛成するが、4人の命を救うために太った男を押すことには反対するだろう。^[36]このことから、2つのケースの間に適切な道徳的違いを見つけようとする試みがなされている。

一つの可能​​な区別は、最初のケースでは、誰かに危害を加える意図はなく、1人を傷つけることは、 5人から離れた場所にトロッコを停めることの副作用にすぎない、というものである。しかし、2番目のケースでは、1人を傷つけることは、5人を救う計画の不可欠な部分である。この解決法は、本質的には二重結果の原則の応用であり、悪い副作用のある行動をとることはあっても、故意に危害を加える意図を持つことは（正当な理由であっても）間違っている、というものである。したがって、たとえ無実の人への危害が予見できたとしても、意図していない限り、その行動は許容される。これは、シェリー・ケーガンが最初の著書『道徳の限界』で考察し（そして最終的に却下した）議論である。^[37]

このバリエーションは『ファットマン』に似ていますが、押される可能性のある太った男は、この状況全体の責任者である悪人であるという主張が追加されています。太った男は、5人を線路に縛り付け、彼らを殺す目的で彼らの方向にトロッコを送った人物です。このバリエーションでは、大多数の人々が太った男を押そうとしています。^[38]

前のシナリオとは異なり、太った悪者を押してトロッコを止めさせることは、報復的正義または自己防衛の一形態として見られるかもしれません。

トロリー運転手のジレンマの派生形は、自動運転車を制御するソフトウェアの設計で発生します。^[13]致命的な衝突が避けられないように見える状況が予想されますが、車のソフトウェアによる選択、たとえば誰に衝突するか、何に衝突するかによって、致命的な結果の詳細が左右される可能性があります。たとえば、ソフトウェアは車内の乗員の安全を、車外の潜在的な犠牲者の安全よりも重視するべきでしょうか、それとも軽視するべきでしょうか。^{[39] [40] [41] [42]}

MITメディアラボは、モラルマシン^[43]と呼ばれるプラットフォームを作成し、トロッコ問題のパラダイムを使用するシナリオで自動運転車がどのような決定を下すべきかについて一般の人々が意見を表明できるようにしました。モラルマシンを通じて収集されたデータの分析では、国によって相対的な好みに大きな違いがあることがわかりました。^[44]他のアプローチでは、実験設定で人間の行動を評価するために仮想現実を利用しています。^{[45] [46] [47] [48]しかし、トロッコ型のケースには重大な実用上の制限があるため、トロッコ型のケースの調査は自動運転車の倫理的問題に対処するために必要ないと主張する人もいます。}人工知能における緊急事態に対処する現在のアプローチに適合させるためには、トップダウンの計画が必要になるでしょう。^[49]

また、すべての自動運転車が従わなければならない倫理基準を法律で定めるべきか、それとも、自動運転車の所有者や運転者が、所有者や所有者の家族の安全を他人の安全よりも優先するなど、車の倫理的価値を決定すべきかという疑問も残る。^[13]ほとんどの人は、生死のジレンマで自分自身を犠牲にする可能性のある自動運転車を使いたがらないだろうが、一部の人^{[誰? ]}は、義務的な倫理的価値を使用することがそれでもなお彼らの最善の利益になるという、やや直​​感に反する主張を信じている。ゴーゴルとミュラーによると、「理由は、簡単に言えば、[パーソナライズされた倫理設定]は、囚人のジレンマにつながる可能性が高いからです。」^[50]

2016年、ドイツ政府は自動運転の倫理的影響を研究する委員会を任命した。^{[51] [52]}委員会は、自動運転車が行う倫理的選択を規定する法律に導入される20の規則を採択した。^{[52] : 10–13}トロッコのジレンマに関連するのは次の規則である。

8. 一人の人間の命と他の人間の命のどちらを選ぶかという決定のような、真にジレンマ的な決定は、影響を受ける当事者の「予測不可能な」行動を組み込んだ実際の特定の状況に依存する。したがって、それらは明確に標準化することはできず、倫理的に疑問の余地がないようにプログラムすることもできない。技術システムは事故を回避するように設計されなければならない。しかし、正しい判断を下す道徳的能力を備えた責任あるドライバーの決定を置き換えたり予測したりできるような方法で、事故の影響の複雑または直感的な評価に標準化することはできない。人間のドライバーが、緊急事態で他の人の命を救うために人を殺した場合、違法行為となるのは事実だが、必ずしも有罪行為になるわけではない。後から特別な状況を考慮に入れて下されたそのような法的判断は、抽象的/一般的な事前評価に簡単に変換することはできず、したがって対応するプログラミング活動にも変換できない。… ^{[52] : 11}

Wikiquote にはトロッコ問題に関連する引用があります。

この記事を聞く（18分）

この音声ファイルは、2012 年 4 月 30 日付のこの記事の改訂版から作成されたもので、その後の編集は反映されていません。 ( 2012-04-30 )

(音声ヘルプ ·その他の音声記事)

• 修正トロリージレンマ状況における強制選択意思決定：仮想現実と視線追跡研究