Loading article…
コナー・リーヒはドイツ系アメリカ人[1]の 人工知能研究者であり起業家で、EleutherAI [2] [3]の共同設立者であり、 AI安全性研究会社Conjecture[ 4]のCEOを務めていることで知られています。 [5 ] [6]彼は汎用人工知能の存在リスクについて警告し、コンピューティングの上限を定めることで実施される「最先端のAI実行の一時停止」などの規制を求めています。[7]
キャリア
2019年、リーヒ氏は自宅の寝室でGPT-2をリバースエンジニアリングし、後にEleutherAIを共同設立してGPT-3の複製を試みた。[2]
リーヒは、アラインメント問題の解決策として、人間のフィードバックによる強化学習に懐疑的である。「これらのシステムは、より強力になっても、異質性は薄れていません。むしろ、私たちは笑顔のついた小さな素敵なマスクをそれらにかぶせているのです。あまり押し込まなければ、笑顔はそのままです。しかし、その後、予期せぬきっかけを与えると、突然、狂気、奇妙な思考プロセス、明らかに人間ではない理解の巨大な裏側が見えてきます。」[8]
彼は、 Future of Life Instituteが2023年に出した公開書簡の署名者の一人であり、「すべてのAIラボはGPT-4よりも強力なAIシステムのトレーニングを少なくとも6か月間直ちに停止する」よう求めている。[9] [10]
2023年11月、リーヒー氏は初のAI安全サミットで講演するよう招かれた。同氏はサミットがAIアライメント問題に起因する「神のようなAI」のリスクに対処できないのではないかと懸念し、「操作、ビジネス、政治、科学、その他あらゆる面で人間よりも優れたシステムを構築し、それを制御できなければ、未来は私たちのものではなく、そのシステムのものになる」と主張した。同氏はキャンペーングループControlAIを共同設立し、政府に汎用人工知能の開発一時停止を訴えている。[4]リーヒー氏は人工知能の規制を気候変動の規制に例え、「気候変動を解決するのは石油会社の責任ではない」と主張し、両問題の解決には政府が介入しなければならないと主張している。[3]
参考文献
- ^ 「ミームはテクノロジー業界の秘密戦争の物語を語る。冗談じゃない」ABCニュース。2024年2月17日。 2024年7月1日閲覧。
- ^ ab ティム・スミス（2023年3月29日）。「『私たちは超、超ヤバい』：AIの終末を阻止しようとしている男に会う」。
- ^ ab プリングル、エレノア。「ビッグテックにAIの監視を依頼するのは、『気候変動の解決を石油会社に依頼する』ようなものだとAI研究者は言う」フォーチュン。 2024年8月6日閲覧。
- ^ ab Stacey, Kiran; Milmo, Dan (2023-10-20). 「SunakのグローバルAI安全サミットは、ほとんど何も達成できないリスクがあるとテック界のボスが警告」The Guardian . ISSN 0261-3077 . 2024-07-01閲覧。
- ^ 「超知能AI：トランスヒューマニズムなど」フィナンシャルタイムズ。2023年12月5日。 2024年8月6日閲覧。
- ^ ワーナー、ジョン。「我々はUbertechnologyに対処できるか？ヤン・ルカンとその他がAIの制御について語る」フォーブス。 2024年8月6日閲覧。
- ^ ペリゴ、ビリー（2024年1月19日）。「研究者：AIによる私たち殺害を止めるには、まずディープフェイクを規制すべき」。TIME 。2024年7月1日閲覧。
- ^ Perrigo, Billy (2023-02-17). 「BingのAIがユーザーを脅かす。それは笑い事ではない」。TIME 。2024年7月20日閲覧。
- ^ エヴァンス、グレッグ (2023-03-29). 「イーロン・マスクとスティーブ・ウォズニアックが、一部の先進的AIシステムの一時停止を求める公開書簡に署名」。デッドライン。 2024年7月1日閲覧。
- ^ 「巨大AI実験の一時停止：公開書簡」Future of Life Institute . 2024年7月1日閲覧。