Loading article…
世界的な大惨事リスクまたは終末シナリオとは、世界規模で人類の幸福を損なう可能性のある仮説上の出来事であり、[ 2 ]現代文明を危険にさらしたり、破壊したりする可能性がある。[ 3 ]実存的リスクは、人類の完全な絶滅を引き起こしたり、人類の存在または可能性を永久に大幅に制限したりする可能性のある出来事に限定される関連用語である。[ 4 ]
21世紀に入り、地球規模の壊滅的リスクや存亡に関わるリスクを研究し、潜在的な緩和策を策定し、それらの対策を提唱または実施するために、多くの学術機関や非営利団体が設立された。
グローバルな壊滅的リスクという用語は「明確な定義がなく」、一般的には（大まかに）「世界規模で人間の幸福に深刻な損害を与える可能性のあるリスク」を指します。[ 6 ]
人類はこれまでにも大きな災害を経験してきた。これらの災害の中には深刻な被害をもたらしたが、その範囲は局地的なものにとどまったものもあった。例えば、黒死病ではヨーロッパの人口の3分の1が死亡したと推定されている[ 7 ]。当時の世界人口の10 %に相当する[ 8 ] 。世界規模の災害もあったが、それほど深刻ではなかった。例えば、1918年のインフルエンザパンデミックでは、世界人口の3～6%が死亡したと推定されている[ 9 ] 。ほとんどの世界規模の壊滅的なリスクは、地球上の生命の大部分を死に至らしめるほど深刻なものではないだろうが、たとえそうなったとしても、生態系と人類は最終的には回復するだろう（存亡の危機とは対照的に）。
同様に、リチャード・ポズナーは『カタストロフィ：リスクと対応』の中で、「地域的」ではなく「完全な転覆または破滅」をもたらす出来事を取り上げ、まとめて扱っている。ポズナーは、そのような出来事は人類全体の生存を直接的または間接的に危うくする可能性があるため、費用対効果の観点から特に注目に値すると強調している。 [ 10 ]
存在リスクは「人類の長期的な可能性を破壊する恐れのあるリスク」と定義される。[ 11 ]存在リスク（存在的大惨事[ 12 ]）が発生すると、人類は完全に絶滅するか、あるいは取り返しのつかないほど劣悪な状態に陥る。[ 5 ] [ 13 ]存在リスクは、地球規模の大惨事リスクのサブクラスであり、被害は地球規模であるだけでなく、終末的かつ永続的であり、回復を妨げ、現在および将来のすべての世代に影響を与える。[ 5 ]
人類の長期的な可能性が破壊される最も明白な方法は絶滅だが、回復不能な崩壊や回復不能なディストピアなど、他にもある。[ 14 ]人類文明の永久的かつ不可逆的な崩壊を引き起こすほど深刻な災害は、絶滅には至らなくても、存在論的大惨事となるだろう。[ 14 ]同様に、人類が全体主義体制に陥り、回復の見込みがない場合、そのようなディストピアもまた存在論的大惨事となるだろう。[ 15 ]ブライアン・カプランは、「おそらく、永遠の全体主義は絶滅よりも悪いだろう」と書いている。[ 15 ]（ジョージ・オーウェルの小説『1984年』は、その一例を示している。 [ 16 ] [ 17 ]） ディストピア的シナリオは、絶滅と文明の回復不能な崩壊の主要な特徴を共有している。大惨事の前には、人類は選択できる明るい未来の広範な範囲に直面していた。大惨事の後、人類は永遠に恐ろしい状態に閉じ込められてしまう。[ 14 ]
潜在的な地球規模の大惨事リスクは、従来、人為的または非人為的な災害に分類されます。非人為的リスクの例としては、小惑星や彗星の衝突、超巨大火山噴火、自然発生的なパンデミック、致死的なガンマ線バースト、コロナ質量放出による地磁気嵐による電子機器の破壊、自然な長期的な気候変動、敵対的な地球外生命体、あるいは数十億年後に太陽が赤色巨星に変化して地球を飲み込むことなどが挙げられます。[ 18 ]
人為的リスクとは、人間が引き起こすリスクであり、技術、ガバナンス、環境に関連するものが含まれます。技術的リスクには、人間の目標と合致しない人工知能、バイオテクノロジー、ナノテクノロジーの創造が含まれます。不十分または悪質なグローバルガバナンスは、世界大戦や核戦争[ 19 ] 、遺伝子組み換え生物を使用した生物兵器やバイオテロ、電力網などの重要インフラを破壊するサイバー戦争やサイバーテロ、大型コバルト爆弾などの兵器を使用した放射線兵器など、社会および政治領域でリスクを生み出します。環境に関するその他の世界的な壊滅的リスクには、人為的な気候変動、環境劣化、生態系の崩壊、飢饉、水不足、化石燃料の枯渇などの重要資源の枯渇、人口過剰または人口不足が含まれます。[ 20 ]専門家は、連鎖的なリスク、バイオエンジニアリングや核兵器システムへのAIの使用、その他さまざまな脅威についてもますます懸念している。[ 21 ]
地球規模の壊滅的リスクと存亡の危機の性質と軽減に関する研究は、特有の課題に直面しており、その結果、通常の科学的厳密性の基準に容易に適合することができません。[ 14 ]例えば、これらのリスクを実験的に研究することは、実行可能でも倫理的にも不可能です。カール・セーガンは核戦争に関して、「核戦争の長期的な影響を理解することは、実験的検証に適した問題ではない」と述べています。[ 22 ]さらに、多くの壊滅的リスクは、技術の進歩や地政学的状況などの背景条件の変化に伴い、急速に変化します。もう1つの課題は、特に複雑な人間の政治、経済、社会システムに依存する人為的リスクに関して、長期にわたる将来を正確に予測することが一般的に困難であることです。[ 14 ]既知の具体的なリスクに加えて、予測不可能なブラックスワン絶滅事象が発生する可能性があり、これが方法論上の問題をさらに引き起こします。[ 14 ] [ 23 ]
人類はこれまで存在を脅かす大惨事を経験したことがなく、もしそのような事態が起こったとしても、それは必然的に前例のないものとなるだろう。[ 14 ]したがって、存在リスクは、観測選択効果のために、他の長期的な出来事以上に予測に特有の課題をもたらす。[ 24 ]ほとんどの出来事とは異なり、過去に完全な絶滅事象が発生しなかったことは、将来その可能性を否定する証拠にはならない。なぜなら、そのような絶滅事象を経験したすべての世界は、人類によって観測されていないからである。文明崩壊事象の頻度に関わらず、どの文明もその歴史の中で存在リスクを観測したことはない。 [ 24 ]これらの人為的な問題は、月面の小惑星衝突クレーターなど、そのような選択効果のない証拠を調べたり、新しい技術の起こりうる影響を直接評価したりすることで、部分的に回避できるかもしれない。[ 5 ]
前例のない、回復不能な世界規模の文明崩壊（一種の存在リスク）のダイナミクスを理解するには、人類の歴史を通じて起こったさまざまな地域的な文明崩壊を研究することが有益かもしれない。 [ 25 ]例えば、ローマ帝国のような文明は、中央集権的な統治の喪失と、文明全体にわたるインフラと高度な技術の大きな喪失で終焉を迎えた。しかし、これらの例は、社会が大惨事に対してかなり回復力があることを示している。例えば、中世ヨーロッパは人口の25～50パーセントを失ったにもかかわらず、文明崩壊に似たような被害を受けることなく黒死病を生き延びた。 [ 26 ]
世界的な大災害リスクの軽減にほとんど努力が注がれていない理由には、経済的な理由があります。第一に、それは投機的であり、決して実現しない可能性があるため、多くの人々は他のより差し迫った問題に焦点を当てています。また、それは世界的な公共財であるため、市場からの供給が不足することが予想されます。[ 5 ]たとえ大国がリスク軽減策に投資したとしても、その国が享受できる利益はごくわずかです。さらに、世界的な大災害リスクの軽減は、世代を超えた世界的な公共財と考えることができます。軽減による想定される利益のほとんどは将来の世代が享受することになり、将来の世代はリスク軽減のために多額の費用を支払う意思があるかもしれませんが、そのような取引のメカニズムは存在しません。[ 5 ]
範囲の不感性、双曲割引、利用可能性ヒューリスティック、連言錯誤、感情ヒューリスティック、過信効果など、数多くの認知バイアスが、人々の実存的リスクの重要性に関する判断に影響を与える可能性がある。[ 27 ]
範囲の不感性は、人類の絶滅をどれほど深刻な問題と考えるかに影響します。例えば、人々が利他的な目的のために寄付をしようとする場合、寄付する金額は問題の規模に比例して直線的に増加するわけではありません。人々は、20万羽の鳥の死を防ぐ場合も、2,000羽の鳥の死を防ぐ場合も、ほぼ同じくらいの金額を寄付する意思があります。[ 28 ]同様に、人々は多くの場合、より大きな集団に対する脅威よりも、個人に対する脅威の方をより心配します。[ 27 ]
エリエザー・ユドコウスキーは、範囲の無視が実存的リスクに対する一般の認識に影響を与えていると理論づけている。 [ 5 ] [ 29 ]
5億人といったはるかに大きな数字、特に人類全体の絶滅といった質的に異なるシナリオは、異なる思考様式を引き起こすようだ。子供を傷つけることなど夢にも思わないような人々でさえ、存亡の危機について聞くと、「もしかしたら人類は生き残るに値しないのかもしれない」と言うのだ。
人類絶滅に関する過去の予測はすべて誤りであることが証明されている。そのため、将来の警告の信憑性は低下しているように思われる。ニック・ボストロムは、生存者バイアスやその他の人為的影響により、過去に人類絶滅がなかったことは、将来人類絶滅がないという弱い証拠に過ぎないと主張している。[ 30 ]
社会生物学者のE・O・ウィルソンは次のように主張した。「進化生物学者たちは、この近視眼的な霧の理由は、ホモ属の200万年の歴史のうち、最後の数千年を除いて、実際には有利だったからだと主張している。近未来と早期の生殖に細心の注意が払われ、それ以外はほとんど顧みられなかった。数世紀に一度しか起こらないような規模の災害は忘れ去られるか、神話へと変容した。」[ 31 ]
多層防御は、リスク軽減策を3つの防御層に分類するための有用なフレームワークです。[ 32 ]
人類の絶滅は、3つの防御策すべてが弱体化しているとき、つまり「防ぐことが難しく、うまく対応することが難しく、回復力が弱いリスク」によって最も起こりやすい。[ 32 ]
人類は過去の出来事の記録から学ぶことができないため、前例のない存在リスクの性質は、リスク軽減策の設計において特別な課題となる。[ 14 ]
一部の研究者は、実存的リスクに関する研究やその他の取り組みは資金不足であると主張している。ニック・ボストロムは、実存的リスクに関する研究よりも、スタートレック、スノーボード、フンコロガシに関する研究の方が多く行われていると述べている。ボストロムの比較は「高圧的」だと批判されている。[ 34 ] [ 35 ] 2020年現在、生物兵器禁止条約機構の年間予算は140万米ドルである 。[ 36 ]
一部の学者は、地球上に自給自足型の遠隔地にある恒久的に居住する集落を1つ以上設立することを提案している。これは、地球規模の災害を生き延びることを目的に特別に作られたものである。[ 37 ] [ 38 ] [ 39 ]経済学者のロビン・ハンソンは、100人程度の人々が恒久的に居住する避難所があれば、さまざまな地球規模の災害の際に人類が生き残る可能性が大幅に高まると主張している。[ 37 ] [ 40 ]
食料備蓄は世界中で提案されているが、費用が高額になるだろう。さらに、栄養失調による年間数百万人の死亡に拍車をかける可能性もある。[ 41 ] 2022年、デビッド・デンケンバーガー率いるチームは、汎用人工知能（AGI）の安全性に対する耐災害性食品の費用対効果をモデル化し、耐災害性食品に関する研究の限界効果が高いことを「約98～99％の確信度」で発見した。[ 42 ]一部のサバイバリストは、複数年分の食料を備蓄してサバイバル用の避難所に保管している。
スバールバル世界種子貯蔵庫は、北極の島にある山の地下400フィート（120メートル）に埋設されています。世界の作物を保存するための予防措置として、100カ国以上から集められた25億個の種子を保管するように設計されています。周囲の岩盤は-6 ℃（21 °F）（2015年時点）ですが、貯蔵庫は地元産の石炭で動く冷蔵庫によって-18 ℃（0 °F）に保たれています。[ 43 ] [ 44 ]
さらに推測的な話だが、社会が機能し続け、生物圏が居住可能な状態を維持すれば、十分な事前計画があれば、日照が長期間途絶えた場合でも、現在の人類のカロリー需要は理論的には満たされる可能性がある。考えられる解決策としては、大災害の後に残された枯死した植物バイオマスでキノコを栽培したり、セルロースを糖に変換したり、天然ガスをメタン分解細菌に供給したりすることなどが挙げられる。[ 45 ] [ 46 ]
グローバルガバナンスの不備は社会および政治領域にリスクを生み出しますが、ガバナンスメカニズムは技術的および社会的な変化よりもゆっくりと発展します。政府、民間部門、および一般市民は、リスクに効率的に対処し、多様で相反する利害の間で交渉および裁定を行うガバナンスメカニズムの欠如について懸念を抱いています。これは、グローバルなシステムリスクの相互関連性の理解によってさらに強調されます。[ 47 ]グローバルガバナンスがない場合、またはグローバルガバナンスが想定される場合、各国政府は個別に行動して、グローバルな大惨事をよりよく理解し、軽減し、備えることができます。[ 48 ]
2018年、ローマクラブは気候変動対策の強化を呼びかけ、地球の平均気温上昇を1.5℃に抑えるための10項目の行動計画を提案する気候非常事態計画を発表した。[ 49 ]さらに、2019年には、より包括的な地球非常事態計画を発表した。[ 50 ]
気候変動の文脈における人類の脆弱性を考察する際に生じる感情的な経験に集団的に取り組むことで、これらの経験が適応的なものになることを示唆する証拠がある。感情的な経験に集団的に取り組むことや処理することが支援的である場合、これは回復力、心理的柔軟性、感情的な経験への寛容性、およびコミュニティへの関与の成長につながる可能性がある。[ 51 ]
宇宙植民地化は、絶滅シナリオでの生存確率を高めるための代替案として提案されている。[ 52 ]このような規模の解決策には、メガスケールのエンジニアリングが必要になる可能性がある。
天体物理学者のスティーブン・ホーキングは、地球規模の熱核戦争などの惑星規模の出来事から人類が生き残る可能性を高めるために、技術が十分に進歩したら太陽系内の他の惑星を植民地化することを提唱した。 [ 53 ] [ 54 ]
原子力科学者会報（1945年設立）は、第二次世界大戦後、核戦争の可能性に人々が不安を抱いた後に設立された、最も古い世界的なリスク組織の1つです。核戦争とエネルギーに関連するリスクを研究しており、1947年に設立された終末時計を維持していることで有名です。フォアサイト研究所（1986年設立）は、ナノテクノロジーのリスクとその利点を検証しています。無害な技術が世界規模で暴走した場合の意図しない結果を研究した最初期の組織の1つです。「グレイ・グー」を提唱したK・エリック・ドレクスラーによって設立されました。[ 55 ] [ 56 ]
2000年以降、科学者、哲学者、テクノロジー業界の億万長者の間で、学術界の内外でグローバルリスクの研究に専念する組織が次々と設立された。[ 57 ]
独立した非政府組織（NGO）には、人工知能によって引き起こされる大惨事のリスクを軽減することを目的とする機械知能研究所（2000年設立） [ 58 ]があり、寄付者にはピーター・ティールやジェド・マッケイレブなどがいる[ 59 ]。核脅威イニシアチブ（2001年設立）は、核、生物、化学兵器による世界的な脅威を軽減し、事件後の被害を封じ込めることを目指している[ 60 ] 。核物質セキュリティ指数を維持している[ 61 ] 。ライフボート財団（2009年設立）は、技術的大惨事を防ぐための研究に資金を提供している[ 62 ]。研究資金のほとんどは大学のプロジェクトに資金提供されている[ 63 ] 。グローバル大惨事リスク研究所（2011年設立）は、セス・バウムとトニー・バレットによって設立された、米国を拠点とする非営利、非党派のシンクタンクである。 GCRI は、人工知能、核戦争、気候変動、小惑星衝突など、さまざまなリスクに関する研究と政策活動を行っています。[ 64 ]ストックホルムに拠点を置き、ラースロー・ソンバトファルヴィによって設立された グローバルチャレンジ財団(2012 年設立) は、世界の危険の現状に関する年次報告書を発表しています。[ 65 ] [ 66 ]フューチャーオブ ライフ研究所(2014 年設立) は、助成金交付、米国、欧州連合、国連での政策提言、教育普及活動を通じて、変革をもたらす技術による極端で大規模なリスクを軽減し、これらの技術の開発と使用をすべての生命に利益をもたらすように導く活動を行っています。[ 67 ]イーロン マスク、ヴィタリック ブテリン、ヤーン タリンは、同研究所の最大の寄付者の一部です。[ 68 ]
大学を拠点とする組織としては、人類の長期的な未来、特に存在リスクに関する問題を研究する人類の未来研究所（2005年設立）がある。 [ 69 ]これはニック・ボストロムによって設立され、オックスフォード大学に拠点を置いていた。[ 69 ]存在リスク研究センター（2012年設立）はケンブリッジ大学を拠点とする組織で、人工知能、バイオテクノロジー、地球温暖化、戦争という4つの主要な技術的リスクを研究している。[ 70 ]ヒュー・プライスがAFP通信に説明したように、これらはすべて人為的なリスクであり、「今世紀か次の世紀のいつか、知能が生物学の制約から逃れるだろうという予測は妥当と思われる」。彼は、そうなると「私たちはもはや最も賢い存在ではなくなり」、「悪意はないが、私たちの利益を含まない機械」のなすがままになるリスクがあると付け加えた。[ 71 ]スティーブン・ホーキングは顧問を務めていた。ミレニアム人類と生物圏同盟は、スタンフォード大学を拠点とする組織で、人文科学分野の学者たちを集め、地球規模の大惨事に関連する多くの問題に焦点を当てています。[ 72 ] [ 73 ]ポール・エーリックらが設立しました。[ 74 ]スタンフォード大学には、地球規模の大惨事リスクを軽減するための政治協力に焦点を当てた国際安全保障協力センターもあります。[ 75 ]安全保障と新興技術センターは、 2019年1月にジョージタウン大学ウォルシュ外交大学院に設立され、当初は人工知能に重点を置き、新興技術の政策研究に焦点を当てます。[ 76 ]オープン・フィランソロピーの提案により、グッド・ベンチャーズから5500万米ドルの助成金を受けました。[ 76 ]
その他のリスク評価グループは、政府機関に拠点を置いているか、政府機関の一部となっています。世界保健機関（WHO）には、世界的な伝染病危機を監視し、対応するグローバルアラートおよび対応（GAR）と呼ばれる部門があります。[ 77 ] GARは、加盟国が伝染病への対応の訓練と調整を行うのを支援します。[ 78 ]米国国際開発庁（USAID）には、自然発生したパンデミックを発生源で予防および封じ込めることを目的とした新興パンデミック脅威プログラムがあります。 [ 79 ]ローレンス・リバモア国立研究所には、バイオセキュリティやテロ対策などの政府問題に関する研究を行うグローバルセキュリティ主任局と呼ばれる部門があります。[ 80 ]
これは、ニック・ボストロム
の定義と同等だが、より簡潔な表現である。
「存在リスクとは、地球起源の知的生命体の早期絶滅、あるいは望ましい将来の発展の可能性の永久的かつ劇的な破壊を脅かすリスクのことである。」出典：Bostrom, Nick (2013). "Existential Risk Prevention as Global Priority". Global Policy. 4:15-31.
ウィンストンの生みの親であるジョージ・オーウェルは、『1984年』で描かれた真実を歪める全体主義は最終的に自由によって打ち負かされると信じていた。
ヨーロッパは黒死病で人口の25～50パーセントを失ったものの、文明をしっかりと維持し、生き延びた。
生物兵器の継続的な禁止を担う国際機関（生物兵器禁止条約）の年間予算は140
万ドルで、平均的なマクドナルドの店舗の予算よりも少ない。
機械知能研究所は、そのような事態が最終的に発生した場合の壊滅的リスクを軽減することを目指しています。
あなたが癌の治療法を探している場合でも、学術的または芸術的なキャリアを追求している場合でも、より公正な制度を確立することに取り組んでいる場合でも、人類の未来への脅威は、あなたがしていることの意義への脅威でもあります。