人工知能に関する公開書簡

2015年1月、スティーブン・ホーキング、イーロン・マスク、そして数十人の人工知能専門家^{[ 1 ]が、}人工知能に関する公開書簡^{[ 2 ]}に署名し、AIの社会への影響に関する研究を求めた。この書簡は、社会は人工知能から大きな潜在的利益を得られる可能性があると断言しつつも、特定の潜在的な「落とし穴」を防ぐ方法について具体的な研究を求めた。人工知能は病気や貧困を根絶する可能性を秘めているが、研究者は安全でない、あるいは制御不能なものを作ってはならない。^{[ 1 ]} 「堅牢で有益な人工知能のための研究優先事項：公開書簡」と題された4段落の書簡には、詳細な研究優先事項が12ページの文書にまとめられている。^{[ 3 ]}

2014年までに、物理学者のスティーブン・ホーキングと実業家のイーロン・マスクは、超人的な人工知能は計り知れない恩恵をもたらす可能性がある一方で、不用意に導入すれば人類を滅亡させる可能性もあるという意見を公に表明した。当時、ホーキングとマスクはともに、人類が直面する存亡の危機を軽減するために活動している組織であるフューチャー・オブ・ライフ・インスティテュートの科学諮問委員会に所属していた。同研究所は、より広範なAI研究コミュニティに向けた公開書簡を作成し^{[ 4 ]}、2015年の最初の週末にプエルトリコで開催された最初の会議の参加者に配布した^{[ 5 ]。}この書簡は1月12日に公開された^{[ 6 ]。}

この書簡は、人工知能のプラス面とマイナス面の両方を強調している。^{[ 7 ]}ブルームバーグ・ビジネスによると、MITのマックス・テグマーク教授は、超知能AIを重大な存亡の危機とみなす署名者と、 AI分野がメディアの一方的なリスク報道によって「中傷されている」と考えるオレン・エツィオーニ教授などの署名者との間で共通点を見出すために、この書簡を回覧したという。 ^{[ 6 ]}この書簡は次のように主張している。

（AIの）潜在的なメリットは計り知れない。なぜなら、文明が提供するあらゆるものは人間の知能の産物だからである。AIが提供するツールによってこの知能が増幅されたときに何が達成できるかは予測できないが、病気や貧困の根絶は不可能ではない。AIの大きな可能性ゆえに、潜在的な落とし穴を避けつつ、その恩恵を享受する方法を研究することが重要である。^{[ 8 ]}

署名者の1人であるコーネル大学のバート・セルマン教授は、その目的はAI研究者や開発者にAIの安全性にもっと注意を払ってもらうことだと述べた。さらに、政策立案者や一般の人々にとって、この書簡は情報提供を目的としたものであり、不安を煽るものではない。^{[ 4 ]}もう一人の署名者であるフランチェスカ・ロッシ教授は、「AI研究者がこれらの懸念や倫理的問題について真剣に考えていることを皆が知ることは非常に重要だと思う」と述べた。^{[ 9 ]}

署名者たちは、エンジニアは社会に有益で堅牢なAIシステムをどのように構築できるのかと問いかけている。人間はAIの制御を維持する必要があり、AIシステムは「我々が望むことを実行」しなければならない。^{[ 1 ]}必要な研究は学際的であり、経済学や法律から、コンピュータセキュリティや形式検証などのコンピュータサイエンスのさまざまな分野まで、幅広い領域から引き出されている。発生する課題は、検証（「システムを正しく構築したか？」）、妥当性（「正しいシステムを構築したか？」）、セキュリティ、および制御（「システムを間違って構築してしまったが、修正できるか？」）に分類される。^{[ 10 ]}

署名者には、物理​​学者のスティーブン・ホーキング、実業家のイーロン・マスク、 DeepMindとVicariousの創業者、Googleの研究ディレクターであるピーター・ノーヴィグ^{[ 1 ]}、カリフォルニア大学バークレー校のスチュアート・J・ラッセル教授^{[ 11 ]}、その他のAI専門家、ロボットメーカー、プログラマー、倫理学者^{[ 12 ]}などが含まれる。当初の署名者数は150人以上で^{[ 13 ]}、ケンブリッジ大学、オックスフォード大学、スタンフォード大学、ハーバード大学、MITの学者も含まれていた^{[ 14 ] 。}

• 堅牢で有益な人工知能のための研究優先事項：公開書簡