未来生命研究所

北緯42度22分25秒 西経71度06分35秒 / 北緯42.3736158度 西経71.1097335度 / 42.3736158; -71.1097335

未来生命研究所

略語	フライ
形成	2014年3月; 10年前 ( 2014-03 )
創設者	ヤーン・タリン マックス・テグマーク ヴィクトリア・クラコフナ アンソニー・アギーレ メイア・チタ・テグマーク
タイプ	非営利研究機関
目的	特に高度な人工知能による実存的リスクの軽減
位置	グローバル ブリュッセル、ベルギー キャンベル、カリフォルニア州、アメリカ合衆国
社長	マックス・テグマーク
Webサイト	未来の人生

フューチャー・オブ・ライフ研究所( FLI ) は、革新的なテクノロジーを生命に役立て、大規模なリスクから遠ざけることを目的とした非営利団体で、高度な人工知能 (AI) による実存的リスクに重点を置いています。FLI の活動には、助成金の提供、教育支援、国連、米国政府、欧州連合機関内での支援活動などが含まれます。

研究所の創設者には、MITの 宇宙学者 マックス・テグマーク、UCSCの宇宙学者アンソニー・アギーレ、Skypeの共同設立者ヤーン・タリンなどがおり、研究所の顧問には起業家のイーロン・マスクもいる。

FLIの公言する使命は、変革的技術を生命に利益をもたらす方向に導き、大規模なリスクから遠ざけることです。^{[1] FLIの理念は、人間レベルまたは}超知能の 汎用人工知能（AGI）の開発による人類への潜在的なリスクに焦点を当てていますが、バイオテクノロジー、核兵器、地球温暖化によるリスクを軽減するためにも取り組んでいます。^[2]

FLIは、 MITの宇宙学者マックス・テグマーク、Skypeの共同設立者ヤーン・タリン、DeepMindの研究科学者ヴィクトリア・クラコフナ、タフツ大学の博士研究員メイア・チタ・テグマーク、UCSCの物理学者アンソニー・アギーレによって2014年3月に設立されました。研究所の顧問には、コンピューター科学者のスチュアート・J・ラッセルとフランチェスカ・ロッシ、生物学者のジョージ・チャーチ、宇宙学者のソール・パールマッター、天体物理学者のサンドラ・フェイバー、理論物理学者のフランク・ウィルチェク、起業家のイーロン・マスク、俳優で科学コミュニケーターのアラン・アルダとモーガン・フリーマン（そして2018年に亡くなる前の宇宙学者スティーブン・ホーキング）が含まれています。 ^{[3] [4] [5]}

FLIは2017年から毎年「生命の未来賞」を授与しており、最初の受賞者はヴァシリー・アルヒポフである。同年、FLIは軍備管理を訴える短編映画『スローターボッツ』を公開した。FLIは2021年に続編を公開した。^[6]

2018年、FLIは「致死性自律型兵器に対する法律」を求める書簡を起草した。署名者にはイーロン・マスク、デミス・ハサビス、シェーン・レッグ、ムスタファ・スレイマンなどが含まれていた。^[7]

2023年1月、スウェーデンの雑誌Expoは、FLIがスウェーデンの極右オンライン新聞Nya Dagbladetが設立した財団に10万ドルの助成金を提供したと報じた。^{[8] [9]}これに対してテグマーク氏は、FLIは助成金の提供が最初に行われた数か月後のデューデリジェンスプロセスで初めてNya Dagbladetの立場を知り、助成金は直ちに取り消されたと述べた。^[9]

2023年3月、FLIは「巨大AI実験の一時停止：公開書簡」と題した書簡を発表した。これは、主要なAI開発者に対し、「 GPT-4よりも強力な」システムの検証可能な6か月の一時停止に同意し、その時間を利用して安全を確保するための枠組みを確立するか、それができない場合は政府が介入して一時停止するよう求めた。書簡には、「ここ数か月、AIラボは、誰も（作成者でさえ）理解、予測、または確実に制御できない、これまで以上に強力なデジタルマインドを開発および展開するための制御不能な競争に巻き込まれている」と書かれていた。 ^[10]この書簡は、「地球上の生命の歴史に大きな変化」が起こる可能性、およびAIによって生成されたプロパガンダ、雇用の喪失、人間の陳腐化、社会全体の制御の喪失の潜在的なリスクについて言及していた。 ^{[11] [12]}

この書簡の著名な署名者には、イーロン・マスク、スティーブ・ウォズニアック、エヴァン・シャープ、クリス・ラーセン、ゲイリー・マーカス、AIラボのCEOであるコナー・リーヒとエマド・モスタク、政治家のアンドリュー・ヤン、ディープラーニング研究者のヨシュア・ベンジオ、ユヴァル・ノア・ハラリなどがいる。^[13]マーカスは「書簡は完璧ではないが、精神は正しい」と述べた。モスタクは「6か月の休止が最善のアイデアだとは思わないし、すべてに同意するわけではないが、この書簡にはいくつか興味深い点がある」と述べた。対照的に、ベンジオは記者会見で6か月の休止を明確に支持した。^{[14] [15]}マスクは「主要なAGI開発者はこの警告に耳を傾けないだろうが、少なくともそう言われた」と予測した。^[16]マスクを含む一部の署名者は、人工汎用知能による実存的リスクへの恐怖が動機であると述べた。^[17]マーカス氏のような他の署名者の中には、AIが生成したプロパガンダなどのリスクを懸念して署名したと述べた者もいる。^[18]

FLIの書簡で引用されている論文の一つ「確率的オウムの危険性について：言語モデルは大きすぎるか？」^[19]の著者であるエミリー・M・ベンダー、ティムニット・ゲブル、マーガレット・ミッチェルらは、この書簡を批判した。^[20]ミッチェルは「多くの疑わしいアイデアを当然のこととして扱うことで、この書簡はFLIの支持者に利益をもたらすAIに関する一連の優先事項と物語を主張している。現在起こっている害を無視することは、私たちの一部が持っていない特権だ」と述べた。^[20]

FLIはAIに関する政策立案に積極的に貢献しています。例えば、2023年10月、米国上院多数党院内総務のチャック・シューマー氏は、選ばれた上院議員とAI規制に関する見解を共有するようFLIに招待しました。^{[21]欧州では、FLIは}GPT-4などのより一般的なAIシステムをEUの人工知能法に含めるよう提唱し、成功しました。^[22]

軍事政策においては、FLIは核兵器禁止条約に対する科学界の支持を調整した。^[23]国連やその他の場では、FLIは自律型兵器に関する条約の制定も提唱している。^{[24] [25]}

FLIの研究プログラムは、2015年にイーロン・マスク氏からの最初の1000万ドルの寄付で始まりました。^{[26] [27] [28]}この最初のラウンドでは、37の研究プロジェクトに合計700万ドルが授与されました。^{[29] 2021年7月、FLIはロシア系カナダ人プログラマーの}ヴィタリック・ブテリン氏の資金提供を受けて、新たに2500万ドルの助成金プログラムを開始すると発表しました。^[30]

2014年、フューチャー・オブ・ライフ研究所はMITでオープニングイベントを開催し、アラン・アルダが司会を務めた「テクノロジーの未来：利点とリスク」と題したパネルディスカッションが行われた。^{[31] [32]}パネリストは合成生物学者のジョージ・チャーチ、遺伝学者のティン・ウー、経済学者のアンドリュー・マカフィー、物理学者でノーベル賞受賞者のフランク・ウィルチェク、Skypeの共同設立者であるヤーン・タリンであった。^{[33] [34]}

FLI は 2015 年以来、学界と産業界の AI 研究者を集めることを目的として、2 年に 1 回の会議を開催しています。2023 年 4 月現在^{[アップデート]}、以下の会議が開催されています。

• プエルトリコで開催された「AIの未来：機会と課題」会議（2015年）。目標は、AIの将来のメリットを最大化するために役立つ有望な研究方向を特定することでした。^[35]この会議で、FLIはAIの安全性に関する公開書簡を配布し、その後、スティーブン・ホーキング、イーロン・マスク、および多くの人工知能研究者が署名しました。^[36]
• カリフォルニア州アシロマで開催されたベネフィシャルAIカンファレンス（ 2017年） ^[37]は、ニューヨークタイムズが「AIの重鎮」と呼んだ人々（ヤン・ルカン、イーロン・マスク、ニック・ボストロムなど）の非公開の集まりでした。 ^[38]同研究所は、カンファレンスでの議論から生まれた責任あるAI開発の原則を発表し、ヨシュア・ベンジオ、ヤン・ルカン、その他多くのAI研究者が署名しました。^{[39]これらの原則は}、人工知能の規制や、 OECDの人工知能原則などのその後の取り組みに影響を与えた可能性があります。^[40]
• プエルトリコで開催された有益なAGI会議（2019年）。^[41]この会議の焦点は、人工汎用知能が人類にとって有益であることを確実にすることを目標に、長期的な疑問に答えることであった。^[42]

• Wiredの「AI が『高リスク』であるかどうかを判断するための戦い」
• IEEE Spectrum 誌の「致死性の自律型兵器が存在する。これらは禁止されなければならない」
• ニューヨーク・タイムズ紙の「米国と同盟国、核兵器禁止をめぐる国連協議に抗議」
• 「人工知能は脅威か？」は、 The Chronicle of Higher Educationに掲載されており、FLI 創設者のMax Tegmark氏、Jaan Tallinn 氏、Viktoriya Krakovna 氏へのインタビューも含まれています。
• 「しかし、人類の終焉は私にとって何を意味するのか？」、 The Atlantic 誌でマックス・テグマーク氏がFLI の背景にあるアイデアについて語ったインタビュー。

• 人類の未来研究所
• 実存的リスク研究センター
• 世界的な壊滅的リスク
• レバーハルム未来知能センター
• 機械知能研究所
• 断崖：存在のリスクと人類の未来

• 公式サイト