Loading article…
ニック・ボストロム（/ ˈbɒstrəm / BOST - rəm 、スウェーデン語: Niklas Boström [ ˈnɪ̌kːlas ˈbûːstrœm ]、1973年3月10日生まれ）[ 4 ]は、実存的リスク、人間原理、人間強化倫理、全脳エミュレーション、超知能リスク、反転テストに関する研究で知られる哲学者です。彼は、後に解散したオックスフォード大学の人類の未来研究所の創設所長であり[ 5 ]、現在はマクロ戦略研究イニシアチブの主任研究員です[ 6 ] 。
ボストロムは、『人間原理的バイアス：科学と哲学における観察選択効果』（2002年）、『超知能：道筋、危険性、戦略』（2014年）、『深遠なるユートピア：解決された世界における人生と意味』（2024年）の著者である。
ボストロムは、人工知能（AI）の進歩が超知能につながる可能性があると考えており、超知能を「事実上あらゆる関心領域において人間の認知能力をはるかに超える知能」と定義している。彼はこれを大きな機会と存亡の危機をもたらすものと捉えている。[ 5 ] [ 7 ]
1973年にスウェーデンのヘルシンボリでニクラス・ボストロムとして生まれた[ 8 ]彼は、幼い頃から学校が嫌いで、高校最後の年は自宅学習で過ごした。彼は人類学、芸術、文学、科学など、幅広い学問分野に興味を持っていた[ 1 ] 。
彼は1994年にヨーテボリ大学で学士号を取得しました。 [ 9 ]その後、 1996年にストックホルム大学で哲学と物理学の修士号、キングス・カレッジ・ロンドンで計算神経科学の理学修士号を取得しました。ストックホルム大学在学中は、分析哲学者WVクワインの研究を通して、言語と現実の関係について研究しました。[ 1 ]また、ロンドンのスタンドアップコメディの舞台にも何度か出演しました。[ 8 ]
2000年、彼はコリン・ハウソンとクレイグ・カレンダーの指導の下、ロンドン・スクール・オブ・エコノミクスから哲学の博士号を授与された。[ 2 ]彼の博士論文のタイトルは「観察選択効果と確率」であった。[ 2 ]彼は2000年から2002年までイェール大学で教職を務め、 2002年から2005年までオックスフォード大学で英国学士院の博士研究員を務めた。 [ 10 ]
ボストロムの研究は、人類の未来と長期的な結果に関するものである。[ 5 ] [ 11 ]彼は存在リスクについて論じており、[ 1 ]彼はそれを「地球起源の知的生命を絶滅させるか、あるいはその潜在能力を永久に大幅に制限するような不利な結果」と定義している。ボストロムは主に人為的リスク、つまり人間の活動、特に高度な人工知能、分子ナノテクノロジー、合成生物学などの新技術から生じるリスクに関心を寄せている。[ 12 ]
2005年、ボストロムは人類の未来研究所を設立し、[ 1 ] 2024年に閉鎖されるまで人類文明の遠い未来を研究した。 [ 13 ] [ 14 ]彼はまた、実存的リスク研究センターの顧問でもある。[ 11 ]
2008年のエッセイ集『Global Catastrophic Risks』では、編集者のボストロムとミラン・M・チルコヴィッチが、実存的リスクとより広範なグローバルな破局的リスクとの関係を特徴づけ、実存的リスクを観察者選択効果[ 15 ]とフェルミのパラドックス[ 16 ]に結びつけている。
「脆弱な世界仮説」[ 17 ]という論文の中で、ボストロムは、発見されると必然的に人類文明を破壊する技術が存在する可能性があると示唆している[ a ]。ボストロムは、これらの脆弱性を分類し対処するための枠組みを提案している。また、核兵器の開発がもっと容易であったり、大気を燃え上がらせたりした場合（エドワード・テラーが恐れていたように）など、歴史的にそのような脆弱性がどのように発生した可能性があるかについての反事実的な思考実験も示している[ 19 ]。
ボストロムは、意識は人間の脳のような「炭素ベースの生物学的神経ネットワーク」だけでなく、さまざまなタイプの物理的基質上でも出現しうるという、基質独立原理を支持している。[ 20 ]彼は「知覚は程度の問題である」[ 21 ]と考えており、デジタルマインドは理論的には、より少ないリソースで、人間よりもはるかに高い頻度と強度の主観的経験を持つように設計できると考えている。彼が「スーパー受益者」と呼ぶ、このような高度に知覚力のある機械は、幸福を達成する上で非常に効率的であるだろう。彼は、「デジタルマインドと生物学的マインドが、これらのさまざまな形態すべてが繁栄し、発展できるような相互に有益な方法で共存できる道」を見つけることを推奨している。[ 22 ]
ボストロムは人間原理に関する多数の論文を発表しており、著書『人間原理バイアス：科学と哲学における観察選択効果』も出版している。同書の中で、彼はブランドン・カーター、ジョン・レスリー、ジョン・バロウ、フランク・ティプラーらのこれまでの人間原理の定式化を批判している。[ 23 ]
ボストロムは、指標情報の扱いの誤りは、多くの研究分野（宇宙論、哲学、進化論、ゲーム理論、量子物理学など）に共通する欠陥であると考えている。彼は、これらに対処するには人間原理に基づく理論が必要だと主張する。彼は自己サンプリング仮定（SSA）を導入し、自己指示仮定（SIA）を分析し、多くのケースでこれらが異なる結論に至ることを示し、特定の思考実験において、それぞれがパラドックスや直感に反する含意によってどのように影響を受けるかを明らかにする。彼はSIAに反対し、SSAを「観測者」を「観測者モーメント」に置き換える強力な自己サンプリング仮定（SSSA）に改良することを提案している。[ 24 ]
後年の研究では、彼はミラン・M・チルコヴィッチとアンダース・サンドバーグと共に、人間活動の影という現象を提唱した。これは、観察者が最近の地質学的および進化的過去における特定の種類の災害を観察することを妨げる観察選択効果である。彼らは、統計的補正が行われない限り、人間活動の影にある出来事は過小評価される可能性が高いと示唆している。[ 25 ] [ 26 ]
ボストロムのシミュレーション論証は、以下の記述のうち少なくとも1つが非常に高い確率で真であると仮定している。[ 27 ] [ 28 ]
ボストロムは「人間強化」、つまり「科学の倫理的な応用による自己改善と人間の完全性」に好意的であり、生物保守主義の見解を批判している。[ 29 ]
1998年、ボストロムは（デビッド・ピアースと共に）世界トランスヒューマニスト協会[ 29 ]を共同設立した（その後、Humanity+に名称変更）。2004年には、（ジェームズ・ヒューズと共に）倫理と新興技術研究所[ 30 ]を共同設立したが、現在はどちらの組織にも関わっていない。
2005年、ボストロムは『医学倫理ジャーナル』に短編小説「竜の暴君の寓話」を発表した。より短いバージョンは2012年に『フィロソフィー・ナウ』に掲載された。[ 31 ]この寓話では、死は毎日何千人もの人々を貢物として要求する竜として擬人化されている。この物語は、現状維持バイアスと学習性無力感が、老化を克服するための手段が手元にあるにもかかわらず、人々が行動を起こすことを妨げる仕組みを探求している。YouTuberのCGP Greyはこの物語のアニメーション版を作成した。[ 32 ]
彼は哲学者トビー・オードと共に、2006年に逆転テストを提唱した。人間の非合理的な現状維持バイアスを考えると、人間の特性に対する提案された変更に対する正当な批判と、単に変化への抵抗によって動機づけられた批判をどのように区別できるだろうか？逆転テストは、その特性が反対方向に変化したら良いことかどうかを問うことで、これを試みる。[ 33 ]
ボストロムの研究は、人間の集団における潜在的な劣性遺伝の影響も考慮しているが、彼は遺伝子工学が解決策を提供できると考えており、「いずれにせよ、人間の自然な遺伝的進化の時間スケールは、他の発展によってこの問題が無意味になる前に、そのような発展が重大な影響を与えるにはあまりにも長すぎるように思われる」と述べている。[ 34 ]
ボストロムは、存亡の危機を軽減することを目的とした技術政策は、様々な技術的能力が達成される順序に影響を与えるべきであり、差別的技術開発の原則を提唱すべきだと示唆した。この原則は、危険な技術、特に存亡の危機を高める技術の開発を遅らせ、有益な技術、特に自然や他の技術によってもたらされる存亡の危機から身を守る技術の開発を加速すべきだと述べている。[ 34 ]
2011年、ボストロムは未来技術の影響に関するオックスフォード・マーティン・プログラムを設立した。[ 35 ]
ボストロムの「一方主義者の呪い」理論は、科学界が病原体の蘇生などの物議を醸す危険な研究を避ける理由として挙げられている。[ 36 ]
2014年、ボストロムは『超知能：道、危険、戦略』を出版し、ニューヨーク・タイムズのベストセラーとなった。[ 37 ] この本は、超知能は可能であると主張し、さまざまな種類の超知能、その認知、関連するリスクを探求している。また、それを安全にするための技術的および戦略的な考察も提示している。
ボストロムは、全脳エミュレーションや人間の知能強化など、超知能への複数の可能性のある道筋を探求しているが、人工汎用知能に焦点を当て、電子機器は生物学的脳よりも多くの利点があると説明している。[ 38 ]
ボストロムは、最終目標と手段目標を区別している。最終目標とは、エージェントが自身の内在的価値のために達成しようとするものである。手段目標は、最終目標への単なる中間段階である。ボストロムは、手段目標は一般的にあらゆる目的（例えば、エージェント自身の存在や現在の目標の維持、資源の獲得、認知能力の向上など）を達成するのに役立つため、ほとんどの十分な知能を持つエージェントが共有するだろうと主張している。これが手段的収束の概念である。一方、彼は、理論上は事実上あらゆるレベルの知能が事実上あらゆる最終目標（例えば、ペーパークリップを作るという不条理な最終目標でさえ）と組み合わせることができると述べており、これを直交性テーゼと呼んでいる。[ 39 ]
彼は、自己改善能力を持つAIが知能爆発を引き起こし、結果として（おそらく急速に）超知能が生まれる可能性があると主張している。[ 40 ]このような超知能は、特に戦略立案、社会的操作、ハッキング、経済生産性において、はるかに優れた能力を持つ可能性がある。このような能力を持つ超知能は、人間を出し抜いて世界を支配し、シングルトン（「世界レベルで単一の意思決定機関が存在する世界秩序」[ b ]）を確立し、最終目標に従って世界を最適化する可能性がある。[ 38 ]
ボストロムは、超知能に単純な最終目標を与えることは破滅的な結果を招く可能性があると主張する。
人工知能に人間を笑顔にするという目標を与えたとしましょう。人工知能が弱い段階では、ユーザーを笑顔にするような、役に立つ、あるいは面白い行動を実行します。人工知能が超知能になると、この目標を達成するためのより効果的な方法があることに気づきます。それは、世界を支配し、人間の顔の筋肉に電極を貼り付けて、常に満面の笑みを浮かべさせることです。[ 34 ]
ボストロムは、AIによる存在リスクを軽減するためのいくつかの方法を探求している。彼は、特にAIの底辺への競争や軍拡競争のダイナミクスを軽減するために、国際協力の重要性を強調している。彼は、封じ込め、AIの能力や知識の抑制、動作コンテキストの狭小化（例えば質問応答）、または「トリップワイヤー」（シャットダウンにつながる可能性のある診断メカニズム）など、AIを制御するのに役立つ潜在的な技術を提案している。[ 38 ]しかし、ボストロムは、「超知能の精霊を永遠に瓶の中に閉じ込めておくことができると自信を持ってはいけない。遅かれ早かれ、それは出てくるだろう」と主張している。したがって、人類にとって安全であるためには、超知能は道徳や人間の価値観と一致していなければならず、「根本的に我々の味方」でなければならないと彼は示唆している。[ 41 ] AIの規範性の潜在的な枠組みには、ユドコウスキーの首尾一貫した外挿的意志（外挿によって改善された人間の価値観）、道徳的正しさ（道徳的に正しいことを行うこと）、および道徳的許容性（道徳的に許容できない場合を除いて、人類の首尾一貫した外挿的意志に従うこと）が含まれる。[ 38 ]
ボストロムは、人間が破壊的な目的でAIを悪用したり、人間がデジタルな精神の潜在的な道徳的地位を考慮に入れなかったりすることによっても、存在の破局が起こり得ると警告している。こうしたリスクにもかかわらず、彼は機械の超知能は「真に素晴らしい未来へのあらゆる可能性のある道筋」のどこかの時点で関わっているようだと述べている。[ 7 ]
この本はニューヨーク・タイムズのベストセラーとなり、スティーブン・ホーキング、ビル・ゲイツ、イーロン・マスク、ピーター・シンガー、デレク・パーフィットといった著名人から好意的な評価を受けた。この本は、これまで軽視されてきた重要なテーマについて、明快で説得力のある議論を展開しているとして称賛された。一方で、AIの可能性に対する悲観論を広めている、あるいは長期的な投機的リスクに焦点を当てているとして批判されることもあった。[ 42 ]ダニエル・デネットやオレン・エツィオーニといった懐疑論者の中には、超知能はまだ遠い未来の話であり、リスクはそれほど大きくないと主張する者もいた。[ 43 ] [ 44 ]ヤン・ルカンは、超知能AIには自己保存の欲求はなく[ 45 ]、専門家が安全に運用できると信頼しているため、実存的リスクはないと考えている。[ 46 ]
ラフィ・ハチャドゥリアンは、ボストロムの超知能に関する著書は「独創性に富んだ論文として意図されたものではなく、ボストロムの貢献は、学術的思考の周縁で生まれた雑多なアイデア群に分析哲学の厳密さを課すことにある」と書いている。[ 42 ]
ボストロムは、2024年の著書『ディープ・ユートピア：解決された世界における人生と意味』の中で、人類が超知能後の世界へうまく移行した場合の理想的な人生の概念を探求している。ボストロムは、「未来を見るのがどれほど面白いかではなく、そこに住むのがどれほど良いか」が問題だと指摘している。彼は、認知能力の向上、老化の逆転、任意の感覚入力（味覚、聴覚など）、あるいは動機、気分、幸福感、人格の精密な制御など、理論的には物理的に可能で技術的に成熟すれば利用可能になると考えられるいくつかの技術について概説している。彼によれば、機械は人間よりも仕事が優れているだけでなく、多くの余暇活動の目的を損ない、極度の幸福感を提供する一方で、意味の探求に挑戦することになるという。[ 47 ] [ 48 ]
ボストロムは、多くの政府や組織に政策助言やコンサルティングを提供してきた。彼は上院のデジタルスキルに関する特別委員会で証言を行った。[ 49 ]彼は機械知能研究所[ 50 ] 、生命の未来研究所[ 51 ]の諮問委員会のメンバーであり、ケンブリッジ実存リスク研究センターの外部アドバイザーでもある。[ 52 ]
2023年1月、ボストロムは、大学院生時代に送った1996年のメーリングリストメール[ 54 ]について謝罪した[ 53 ]。そのメールの中で彼は「黒人は白人より愚かだ」と述べ、また、この発言が他人にどのように受け止められるかを説明する際に「ニガー」という言葉も使用していた[ 55 ] [ 56 ]。彼のウェブサイトに掲載された謝罪文[ 53 ]では、「人種差別的な中傷を口にしたのは忌まわしい」とし、「この不快なメールを完全に否定する」と述べている[ 55 ] 。
このメールは複数のニュースソースで「人種差別的」と評されている。[ 57 ] [ 58 ] [ 59 ] [ 55 ]ガーディアン紙のアンドリュー・アンソニーによれば、「謝罪はボストロムの批判者をなだめるにはほとんど役に立たなかった。特に、人種と知能に関する彼の中心的な主張を撤回せず、優生学を部分的に擁護しているように見えたためだ。」[ 60 ]
その後まもなく、オックスフォード大学はメールで使用された言葉遣いを非難し、調査を開始した。[ 55 ] [ 58 ]調査は2023年8月10日に終了し、「私たちはあなたが人種差別主義者である、あるいは人種差別的な見解を持っているとは考えておらず、2023年1月に投稿された謝罪は誠実なものであると考えています。」[ 61 ] [ 60 ]
ボストロムは2002年に妻のスーザンと出会った。2015年現在、彼女はモントリオールに、ボストロムはオックスフォードに住んでいる。彼らには息子が一人いる。[ 1 ]
ニック・ボストロム氏は自身のウェブサイトに、ひどく人種差別的なメーリングリストメールについて謝罪するメモを掲載した。
ボストロム氏のセンターの閉鎖は、同氏が数十年にわたり擁護してきた実効的利他主義と長期主義運動にとってさらなる打撃であり、近年、人種差別、セクシャルハラスメント、金融詐欺に関連するスキャンダルに巻き込まれている。ボストロム氏自身も昨年、数十年前のメールが明るみに出て、「黒人は白人より愚かだ」と主張し、Nワードを使用していたことが発覚し、謝罪した。
倫理、未来、テクノロジー（実存的リスク、人工知能、シミュレーション）に関連する哲学的問題に関する研究で知られる影響力のあるオックスフォードの哲学者ニック・ボストロムは、26年前にメーリングリストに送信した露骨な人種差別的なメールについて謝罪した。
ボストロムは、90年代半ばに送った人種差別的なメールについて謝罪した。そのメールの中で、ボストロムは「黒人は白人より愚かだ」と述べ、「私はこの文章が好きで、真実だと思う」と付け加え、人種差別的な言葉を使った。
謝罪はボストロムの批判者をなだめるにはほとんど役に立たなかった。特に、人種と知能に関する彼の中心的な主張を撤回せず、優生学を部分的に擁護しているように見えたことが大きな理由だった。調査の結果、オックスフォード大学はボストロムが人種差別主義者ではないことを認めたものの、この一件は研究所の評判に汚点を残した。
私たちは、あなたが人種差別主義者であるとか、人種差別的な見解を持っているとは考えていませんし、あなたが 2023 年 1 月に投稿した謝罪は誠実なものだと考えています。…私たちは、あなたの謝罪、あなたの行動が引き起こした苦痛の認識、そしてこのプロセスに皆が費やしてくれた配慮と時間への感謝は、真摯で誠実なものだと信じています。また、あなたがこのプロセスから学びや自己教育を探求することを含む、深く有意義な反省の旅に既に着手していることに勇気づけられました。