Loading article…
2023年5月30日、数百人の人工知能専門家やその他の著名人が、AIリスクに関する 以下の短い声明に署名しました。[ 1 ] [ 2 ] [ 3 ]
AIによる絶滅リスクを軽減することは、パンデミックや核戦争といった他の社会規模のリスクと同様に、世界的な優先事項として取り組むべきである。
声明発表当時、署名者には、最も引用数の多いコンピュータ科学者でチューリング賞受賞者のジェフリー・ヒントンとヨシュア・ベンジオを含む100人以上のAI教授、 OpenAI、Google DeepMind、Anthropicなどの複数の主要AI企業の科学および経営幹部、パンデミック、気候変動、核軍縮、哲学、社会科学、その他の分野の専門家が含まれていた。[ 4 ]メディア報道では、複数のテクノロジーリーダーの署名が強調されたが、その後、他の新聞では、声明が広報活動や規制当局の支配を目的としたものである可能性への懸念が報じられた。[ 5 ]この声明は、AI実験の一時停止を求める公開書簡の直後に発表された。[ 6 ] [ 7 ]
この声明は、AIの研究と擁護を行う非営利団体であるAI安全センターのウェブサイトに掲載されている。このような一文の声明のアイデアは、当時ケンブリッジ大学の教授であったAI研究者のデイビッド・クルーガーによって最初に提案された。[ 8 ] この声明は、AIの極めて高いリスクについて声を上げることは依然として困難であり、この声明はこの障害を克服することを目的としているという付随テキストとともに公開された。センターのCEOであるダン・ヘンドリックスは、「体系的な偏見、誤情報、悪意のある使用、サイバー攻撃、兵器化」はすべて「AIによる重要かつ緊急のリスク…絶滅のリスクだけではない」例であると述べ、「社会は複数のリスクを同時に管理できる。それは『どちらか一方』ではなく『イエス・アンド』である」と付け加えた。[ 9 ]
声明に署名した著名人の中には、サム・アルトマン、ビル・ゲイツ、ダリオ・アモデイ、ピーター・シンガー、ダニエル・デネット、サム・ハリス、グライムス、スチュアート・J・ラッセル、ヤーン・タリン、ヴィタリック・ブテリン、デイヴィッド・チャルマーズ、レイ・カーツワイル、マックス・テグマーク、レックス・フリッドマン、マーティン・リース、デミス・ハサビス、ドーン・ソング、テッド・リュー、イリヤ・スツケバー、マーティン・ヘルマン、ビル・マッキベン、アンジェラ・ケイン、オードリー・タン、デイヴィッド・シルバー、アンドリュー・バート、ミラ・ムラティ、パティ・マエス、エリック・ホーヴィッツ、ピーター・ノーヴィグ、ジョセフ・シファキス、エリック・ブリニョルフソン、イアン・グッドフェロー、バブラム・バッタライ、ケルスティ・カルジュライド、ラスティ・シュヴァイカート、ニコラス・フェアファックス、デビッド・ハウスラー、ピーター・レイルトン、バート・セルマン、ダスティン・モスコヴィッツ、スコット・アーロンソン、ブルース・シュナイアー、マーサ・ミノウ、アンドリュー・レブキン、ロブ・パイク、ジェイコブ・ツィメルマン、ラミー・ユセフ、ジェームズ・ペネベイカー、ロナルド・C・アーキン。[ 10 ]
当時の英国首相リシ・スナク氏は、この声明をリツイートし、「政府はこの件を非常に慎重に検討している」と書き込んだ。[ 11 ]この声明について尋ねられたホワイトハウス報道官カリーヌ・ジャン＝ピエール氏は、AIは「現在我々が目にしている最も強力な技術の1つである。しかし、それがもたらす機会をつかむためには、まずそのリスクを軽減しなければならない」とコメントした。[ 12 ]
この書簡に懐疑的な人々は、AIが自動運転車に関する予測など、特定のマイルストーンに到達していないことを指摘している。また、懐疑的な人々は、書簡の署名者がAI研究への資金提供を継続していると主張している。企業は、AIアルゴリズムが現在可能なものよりもはるかに高度であるという世間の認識から利益を得るだろう。ヒューマン・ライツ・ウォッチを含む懐疑論者たちは、科学者は将来の憶測リスクで気を散らすのではなく、AIの既知のリスクに焦点を当てるべきだと主張している。[ 13 ]ティムニット・ゲブルは、特に「これらの企業に数十億ドルを注ぎ込んだ同じ人々」によるAIエージェンシーのリスクの増大を批判している。[ 13 ]エミール・P・トーレスとゲブルは共にこの声明に反対し、 TESCREALのイデオロギーに動機づけられている可能性があると示唆している。[ 14 ]