人類の未来研究所

人類の未来研究所（FHI ）は、オックスフォード大学にある学際的な研究センターで、人類とその将来に関する大きな問題を研究していました。2005年に哲学部とオックスフォード・マーティン・スクールの一部として設立されました。^{[ 1 ]}所長は哲学者のニック・ボストロムで、研究スタッフには未来学者のアンダース・サンドバーグやGiving What We Canの創設者トビー・オードなどがいました。^{[ 2 ]}

効果的利他主義センターとオフィスを共有し、緊密に連携しながら、研究所の掲げる目標は、長期的に人類に最大のプラスの影響を与えることができる分野に研究を集中させることであった。^{[ 3 ] [ 4 ]}研究所は、学術活動とアウトリーチ活動を組み合わせ、政府、企業、大学、その他の組織において、情報に基づいた議論と一般市民の参加を促進しようと努めた。センターの主な研究資金提供者には、アムリン、イーロン・マスク、欧州研究会議、フューチャー・オブ・ライフ・インスティテュート、レバーヒューム・トラストなどがあった。^{[ 5 ]}

2024年4月16日、オックスフォード大学は研究所を閉鎖した。同大学は「哲学部内で管理上の逆風が強まっていた」と述べている。^{[ 6 ] [ 7 ]}

ニック・ボストロムは、2005年11月にオックスフォード・マーティン・スクール（当時はジェームズ・マーティン21世紀スクール）の一部としてこの研究所を設立しました。^{[ 1 ]} 2008年から2010年の間に、FHIはグローバル・カタストロフィック・リスク会議を主催し、22の学術誌記事を執筆し、学術書に34の章を出版しました。FHIの研究者は、世界経済フォーラム、民間および非営利セクター（マッカーサー財団や世界保健機関など）、スウェーデン、シンガポール、ベルギー、英国、米国の政府機関に対して政策提言を行ってきました。

ボストロムと生命倫理学者のジュリアン・サヴレスクは、 2009年3月に『 Human Enhancement』という本も出版した。^{[ 8 ]} 最近では、FHIは高度な人工知能（AI）の危険性に焦点を当てている。2014年には、FHIの研究者たちは、スチュアート・アームストロングの『Smarter Than Us』やボストロムの『Superintelligence: Paths, Dangers, Strategies 』など、AIのリスクに関するいくつかの本を出版した。^{[ 9 ] [ 10 ]}

2018年、オープン・フィランソロピーはFHIに対し、3年間で最大約1340万ポンドの助成金を勧告したが、その大部分は採用の成功を条件としていた。^{[ 11 ]}

FHIが時間をかけて研究してきた最大のテーマは、地球規模の壊滅的リスク、特に存在リスクです。2002年の論文で、ボストロムは「存在リスク」を「地球起源の知的生命を滅亡させるか、あるいはその潜在能力を永久に大幅に制限するような不利な結果」と定義しました。^{[ 12 ]}これには、人類が直接被害を受けないシナリオも含まれますが、ボストロムの2003年の論文「天文学的浪費：技術開発の遅延による機会費用」で議論されているように、宇宙を植民地化せず、観測可能な宇宙の利用可能な資源を人間にとって価値のあるプロジェクトに利用できないシナリオも含まれます。^{[ 13 ]}

ボストロムとミラン・チルコヴィッチの2008年の著書『地球規模の壊滅的リスク』は、自然災害と人為災害の両方を含む、さまざまなそのようなリスクに関するエッセイを集めたものである。自然災害による壊滅的リスクとしては、超巨大火山噴火、衝突事象、ガンマ線バースト、宇宙線、太陽フレア、超新星爆発などの高エネルギー天文現象が挙げられる。これらの危険は、比較的規模が小さく、比較的よく理解されていると特徴づけられているが、パンデミックはより一般的であり、技術動向と密接に関連しているため、例外となる可能性がある。^{[ 14 ] [ 4 ]}

FHIは、兵器化された生物剤による人工パンデミックに特に注目している。同研究所が特に関心を寄せている技術的成果には、人為的な気候変動、核戦争と核テロ、分子ナノテクノロジー、汎用人工知能などがある。最大の危険は将来の技術、特に高度な人工知能から生じると予想しており、FHIは、実存的リスク研究センターや機械知能研究所などの他の実存的リスク軽減組織と意見が一致している。^{[ 15 ] [ 16 ]} FHIの研究者は、全体主義、自動化による失業、情報ハザードなどの社会的および制度的リスクに対する技術進歩の影響も研究している。 ^{[ 17 ]}

2020年、FHIの上級研究員であるトビー・オードは著書『断崖絶壁：存在リスクと人類の未来』を出版し、その中で人類の未来を守ることは現代における最も重要な道徳的問題の一つであると主張している。^{[ 18 ] [ 19 ]}

FHIは、他の組織があまり研究してこなかった特異な脅威や、実存的リスクの軽減と予測に役立つ方法論的考察に多くの注意を払っている。特に、同研究所は、認識論全般に影響を及ぼす未開拓分野である人間原理的推論を研究において重視している。

FHIが研究した人間原理に基づく議論には、人類史の極めて初期の時点を観察している可能性は低いので、人類は間もなく絶滅する可能性が高いという終末論的議論がある。むしろ、現在の人類は、将来生き残る人類の分布の中央付近に位置する可能性が高い。^{[ 14 ]}ボストロムはシミュレーション論も広めた。

FHIの研究における繰り返し登場するテーマの一つが、フェルミのパラドックス、すなわち観測可能な地球外文明が驚くほど存在しないという現象である。ロビン・ハンソンは、このパラドックスを説明するには、宇宙植民地化を阻む「グレートフィルター」が存在するに違いないと主張している。そのフィルターは、知性が現在の生物学が予測するよりもはるかに稀少であるならば、過去に存在するかもしれない。あるいは、存亡の危機が現在認識されているよりもさらに大きいならば、未来に存在するかもしれない。

FHI のリスク評価、天文学的廃棄物、未来技術の危険性に関する研究と密接に関連しているのが、人間の能力強化の可能性とリスクに関する研究です。問題となっている変更は、生物学的、デジタル的、または社会学的である可能性があり、最も可能性の高い短期的なイノベーションではなく、最も根本的な仮説上の変化に重点が置かれています。FHI の生命倫理研究は、遺伝子治療、寿命延長、脳インプラントと脳コンピューターインターフェース、およびマインドアップロードの潜在的な結果に焦点を当てています。^{[ 20 ]}

FHIは、技術的および社会的進歩の速度と方向性を形作る方法として、人間の知能と合理性を評価し、向上させる方法に焦点を当ててきました。認知ヒューリスティクスやバイアスに代表される人間の非合理性に関するFHIの取り組みには、モデリングにおけるバイアスから生じるシステムリスクを研究するためのAmlinとの継続的な協力も含まれています。^{[ 21 ] [ 22 ]}

• トビー・オード著『断崖絶壁：人類の存亡の危機と未来』（2020年）。ISBN 1526600218
• ニック・ボストロム著：『超知能：道筋、危険性、戦略』、2014年。ISBN 0-415-93858-9
• ニック・ボストロムとミラン・チルコヴィッチ:世界的な壊滅的リスク、2011 年。ISBN 978-0-19-857050-9
• ニック・ボストロムとジュリアン・サヴレスク：『人間強化』（2011年）。ISBN 0-19-929972-2
• ニック・ボストロム著『人間原理的バイアス：科学と哲学における観察選択効果』（2010年）。ISBN 0-415-93858-9
• ニック・ボストロムとアンダース・サンドバーグ：脳エミュレーション・ロードマップ、2008年。

• アンソニー、アンドリュー（2024年4月28日）。「ステロイド漬けの優生学」：オックスフォード大学人類未来研究所の有害で議論の的となっている遺産。オブザーバー紙。

• FHI公式サイト