Loading article…
差別的技術開発とは、新技術の開発順序に影響を与えることで、新技術によるリスクを軽減することを目的とした技術ガバナンスの戦略である。この戦略では、社会は有害な技術とその応用の開発を遅らせ、有害な技術に対する保護を提供する有益な技術の開発を加速するよう努める。[1] [2]
アイデアの歴史
差別的技術開発は、哲学者ニック・ボストロムによって2002年に最初に提唱され[1] 、彼は2014年の著書「スーパーインテリジェンス：道、危険、戦略」で人工知能のガバナンスにこの考えを適用しました。[3]この戦略は、哲学者トビー・オルドによって2020年の著書「The Precipice：実存的リスクと人類の未来」でも支持されており、「危険な技術の開発を防ぐことは困難すぎるかもしれませんが、危険な技術に比べて保護技術の開発を加速することで、実存的リスクを軽減できる可能性があります」と書いています。[2] [4]
非公式な議論
ポール・クリスティアーノは、技術進歩の加速は今後数十年間に人類の福祉を向上させる最善の方法の1つであるように思われるが、成長は物理的限界により最終的に飽和するため、より速い成長率は遠い将来には同等に重要ではないと考えている。したがって、遠い将来の観点からは、差別化された技術開発がより重要であると思われる。[5]
ボストロムの提案に触発されて、ルーク・ミュールハウザーとアンナ・サラモンは、社会が技術力よりも速く知恵、哲学的洗練、リスクの理解を進歩させるという「差別的知的進歩」というより一般的なプロジェクトを提案した。[6] [7]ブライアン・トマシクはこの概念を拡張した。[8]
参照
参考文献
- ^ ab ボストロム、ニック（2002年）。「実存的リスク：人類絶滅シナリオの分析」
{{cite journal}}:ジャーナルを引用するには|journal=(ヘルプ) 9 Journal of Evolution and Technology Jetpress Oxford Research Archive が必要です - ^ ab Ord, Toby (2020). The Precipice: Existential Risk and the Future of Humanityイギリス: Bloomsbury Publishing 200ページISBN 978-1526600219。
- ^ ボストロム、ニック（2014）。『スーパーインテリジェンス：道、危険、戦略』オックスフォード：オックスフォード大学出版局。229～237頁。ISBN 978-0199678112。
- ^ Purtill, Corinne (2020年11月21日). 「人類は危機にどれだけ近づいているのか?」. The New Yorker . 2020年11月27日閲覧。
- ^ クリスティアーノ、ポール（2014年10月15日）。「進歩と繁栄について」。効果的利他主義フォーラム。 2014年10月21日閲覧。
- ^ Muehlhauser, Luke; Anna Salamon (2012). 「Intelligence Explosion: Evidence and Import」（PDF） pp. 18–19。 2014年10月26日時点のオリジナル（PDF）からアーカイブ。 2013年11月29日閲覧。
- ^ Muehlhauser, Luke (2013). 「Facing the Intelligence Explosion」. 機械知能研究所. 2013年11月29日閲覧。
- ^ ブライアン・トマシク（2013年10月23日）「ポジティブサムプロジェクトとしての差異的知的進歩」。ファウンデーション・リサーチ・インスティテュート。2016年2月18日閲覧。