ジェフリー・ヒントン

ジェフリー・ヒントン CC FRS FRSC
2024年にストックホルムで開催されるノーベル賞講演会で講演するヒントン氏
生まれる	ジェフリー・エベレスト・ヒントン ( 1947-12-06 )1947年12月6日（77歳）[8] ウィンブルドン、ロンドン、イギリス
教育	クリフトンカレッジ ケンブリッジ大学（BA） エディンバラ大学（博士号）
知られている	バックプロパゲーションの応用 ボルツマンマシン ディープラーニング カプセルニューラルネットワーク
配偶者たち）	ジョアン ロザリンド・ザリン ​ （1994年死去） ジャクリーン・フォード ​ ​ （ 1997年生まれ 、2018年死去）
子供たち	2
父親	HEヒントン
親族	コリン・クラーク（叔父）
受賞歴	AAAIフェロー（1990） ルメルハート賞(2001) IJCAI 研究優秀賞(2005) IEEE フランク・ローゼンブラット賞(2014) ジェームズ・クラーク・マクスウェル賞(2016) BBVA財団フロンティア・オブ・ナレッジ賞（2016年） チューリング賞（2018） ディクソン賞（2021） アストゥリアス王女賞（2022年） ノーベル物理学賞（2024年） VinFuture賞（2024年）
科学者としてのキャリア
フィールド	機械学習 心理学 人工知能 認知科学 コンピュータサイエンス[1]
機関	トロント大学 グーグル カーネギーメロン大学 ユニバーシティ・カレッジ・ロンドン カリフォルニア大学サンディエゴ校
論文	リラクゼーションと視覚におけるその役割 (1977)
博士課程の指導教員	クリストファー・ロンゲット・ヒギンズ
博士課程の学生	リチャード・ゼメル[2] ブレンダン・フレイ[3] ラドフォード・M・ニール[4] イェ・ワイ・テ[5] ルスラン・サラクディノフ[6] イリヤ・スツケヴェル[7]
その他の著名な学生	ヤン・ルカン（ポスドク） ピーター・ダヤン（ポスドク） マックス・ウェリング（ポスドク） ズービン・ガフラマニ(ポスドク) アレックス・グレイブス(ポスドク)
Webサイト	カナダ

ジェフリー・エベレスト・ヒントン（1947年12月6日生まれ）は、イギリス系カナダ人のコンピューター科学者、認知科学者、認知心理学者であり、人工ニューラルネットワークに関する研究で知られ、「AIのゴッドファーザー」という称号を得ています。

ヒントン氏はトロント大学の名誉教授である。2013年から2023年まで、グーグル（グーグル・ブレイン）とトロント大学で勤務し、2023年5月に人工知能（AI）技術の多くのリスクを懸念してグーグルを退職することを公表した。 ^{[9] [10] 2017年にはトロントの}ベクター研究所を共同設立し、主任科学顧問に就任した。^{[11] [12]}

ヒントンは、デイビッド・ルメルハート、ロナルド・J・ウィリアムズとともに、1986年に発表された、多層ニューラルネットワークのトレーニングのためのバックプロパゲーションアルゴリズムを普及させた、引用数の多い論文の共著者である。 ^[13]ただし、このアプローチを最初に提案したのは彼らではなかった。^{[14]ヒントンは、}ディープラーニングコミュニティの第一人者とみなされている。^{[20]学生の}アレックス・クリジェフスキー^[21]とイリヤ・スツケバーと共同でImageNetチャレンジ2012 ^[22]のために設計したAlexNetの画像認識のマイルストーンは、コンピュータービジョンの分野における画期的な進歩であった。^[23]

ヒントンは、ディープラーニングに関する研究で、ヨシュア・ベンジオ、ヤン・ルカンとともに、しばしば「コンピューティングのノーベル賞」と呼ばれる2018年のチューリング賞を受賞した。 ^[24]彼らは「ディープラーニングのゴッドファーザー」と呼ばれることもあり、^{[25] [26]}一緒に公開講演を続けている。^{[27] [28]}彼はまた、人工ニューラルネットワークによる機械学習を可能にする基礎的な発見と発明により、ジョン・ホップフィールドとともに2024年のノーベル物理学賞を受賞した。^{[29] [30]}

2023年5月、ヒントン氏は「AIのリスクについて自由に発言できる」ようにGoogleを辞任すると発表した。 ^[31]悪意のある行為者による意図的な悪用、技術的失業、汎用人工知能による実存的リスクについて懸念を表明している。^[32]安全ガイドラインを確立するには、最悪の結果を避けるためにAIの使用で競合する者同士の協力が必要になると指摘した。^[33]ノーベル賞を受賞した後、彼は人間よりも賢いAIシステムを制御する方法を見つけるためにAIの安全性に関する緊急の研究を呼びかけました。 ^{[34] [35] [36]}

ヒントンはブリストルのクリフトン・カレッジ^[37]とケンブリッジ大学キングス・カレッジの学部生として教育を受けた。自然科学、美術史、哲学などさまざまな科目を繰り返し専攻を変えた後、 1970年に実験心理学の学士号を取得して卒業した。^[8]エディンバラ大学で研究を続け、1978年にクリストファー・ロンゲット・ヒギンズの指導の下で人工知能の博士号を取得した。^{[38] [39]}

ヒントンは博士号取得後、サセックス大学とMRC応用心理学ユニットで働いた。英国で資金獲得に苦労した後、^[40]米国のカリフォルニア大学サンディエゴ校とカーネギーメロン大学で働いた。^[8]彼はロンドン大学ユニバーシティカレッジのギャツビー慈善財団計算神経科学ユニットの創設ディレクターだった。^[8]彼は現在^[41] 1987年より所属しているトロント大学のコンピューターサイエンス学部の名誉教授である。 ^{[42][アップデート]}

カナダに到着すると、ジェフリー・ヒントンは1987年にカナダ高等研究機構（CIFAR）のCIFAR初の研究プログラムである「人工知能、ロボット工学、社会」のフェローに任命されました。 ^[43] 2004年、ヒントンと共同研究者はCIFARでの新しいプログラム「ニューラル・コンピューティングと適応知覚」^[44]（またはNCAP、現在は「機械と脳の学習」と名付けられています）の立ち上げを提案し、成功しました。ヒントンはその後10年間NCAPを率いました。^[45]このプログラムのメンバーにはヨシュア・ベンジオとヤン・ルカンがおり、ヒントンは2018年に彼らとともにACM AMチューリング賞を受賞しました。 ^[46] 3人のチューリング賞受賞者は全員、CIFARの「機械と脳の学習」プログラムのメンバーであり続けています。^[47]

ヒントンは2012年に教育プラットフォームCourseraでニューラルネットワークに関する無料オンラインコースを教えた^。[48]彼は2013年3月に彼の会社DNNresearch Inc.が買収されたときにGoogleに入社し、当時は「大学の研究とGoogleでの仕事の間で時間を分ける」ことを計画していた。^[49]彼はトロント大学コンピューターサイエンス学部の2人の大学院生、アレックス・クリジェフスキーとイリヤ・スツケヴァーと共にDNNresearch Inc.を共同設立した。^[50]

ヒントン氏の研究は、機械学習、記憶、知覚、記号処理にニューラルネットワークを使用する方法に関するもので、査読付きの論文を200本以上執筆または共著している。^{[1] [51]}

ヒントンがカリフォルニア大学サンディエゴ校で博士研究員をしていたとき、デビッド・E・ルメルハートとヒントンとロナルド・J・ウィリアムズはバックプロパゲーションアルゴリズムを多層ニューラルネットワークに適用した。彼らの実験は、そのようなネットワークがデータの有用な内部表現を学習できることを示した。 ^[13] 2018年のインタビューで、^{[52]ヒントンは「}デビッド・E・ルメルハートがバックプロパゲーションの基本的なアイデアを思いついたので、これは彼の発明だ」と述べた。この研究はバックプロパゲーションの普及に重要であったが、このアプローチを提案した最初のものではなかった。 ^[14]バックプロパゲーションが特別なケースである逆モード自動微分は、1970年にセッポ・リンネンマーによって提案され、 1974年にポール・ワーボスがニューラルネットワークのトレーニングにそれを使用することを提案した。^[14]

1985年、ヒントンはデビッド・アクリーとテリー・セジュスキーとともにボルツマンマシンを共同発明した。^[53]ニューラルネットワーク研究への彼のその他の貢献には、分散表現、時間遅延ニューラルネットワーク、専門家の混合、ヘルムホルツマシン、専門家の積などがある。^[54]ジェフリー・ヒントンの研究のわかりやすい紹介は、1992年9月と1993年10月のScientific American^{の記事で見つけることができる。 [55]} 2007年、ヒントンは「画像変換の教師なし学習」と題した教師なし学習論文を共著した。^[56] 2008年、彼はローレンス・ファン・デル・マーテンとともに可視化手法t-SNEを開発した。 ^{[57] [58]}

2017年10月と11月に、ヒントンはカプセルニューラルネットワークをテーマにした2つのオープンアクセス研究論文を発表しました。^{[59] [60]}ヒントンによれば、これは「ようやくうまく機能するもの」だそうです。^[61]

2022年のニューラル情報処理システム会議（NeurIPS）で、彼はニューラルネットワークの新しい学習アルゴリズムを紹介し、これを「フォワードフォワード」アルゴリズムと呼んでいます。この新しいアルゴリズムのアイデアは、従来のバックプロパゲーションのフォワードバックワードパスを、2つのフォワードパスに置き換えるというものです。1つは正（つまり実際の）データで、もう1つはネットワークによってのみ生成できる負のデータです。^{[62] [63]}

2023年5月、ヒントンはグーグルを辞任することを公表した。彼は「AIのリスクについて自由に発言したい」と述べて辞任の理由を説明し、自分の人生の仕事に後悔の念を抱いていると付け加えた。^{[9] [31]}

彼のグループ出身の著名な元博士課程の学生やポスドク研究者には、ピーター・ダヤン、^[64]サム・ロウイス、^[64] マックス・ウェリング、^[64] リチャード・ゼメル、^{[38] [2]} ブレンダン・フレイ、^[3] ラドフォード・M・ニール、^[4] イェー・ワイ・テ、^[5] ルスラン・サラクディノフ、^[6] イリヤ・スツケヴァー、^[7] ヤン・ルカン、^[65] アレックス・グレイブス、^[64] ズービン・ガフラマニ、^[64]ピーター・フィッツヒュー・ブラウン^[66]などがいます。

ヒントンは1998年に王立協会会員（FRS）に 選出された。^[67]彼は2001年にルメルハート賞の初代受賞者となった。^[68]彼の王立協会選出証明書には次のように記されている。

ジェフリー・E・ヒントンは、人工ニューラルネットに関する研究、特に人間の教師の助けを借りずに学習するように設計する方法の研究で世界的に知られています。彼は、脳損傷の影響とそのようなネットの喪失の影響を比較し、名前の認識や分類の喪失など、人間の障害との驚くべき類似点を発見しました。彼の研究には、心的イメージの研究や、独創性と創造的知性をテストするためのパズルの考案が含まれます。それは概念的で、数学的に洗練されており、実験的です。彼はこれらのスキルを驚くべき効果で組み合わせて、非常に興味深い重要な研究を生み出しています。^[69]

2001年、ヒントンはエディンバラ大学から名誉博士号を授与された。^[70] 2005年にはIJCAI研究優秀賞生涯功労賞を受賞した。^{[71] 2011年には}ハーツバーグカナダ科学技術金メダルを受賞した。^[72] 2012年にはカナダ評議会キラム工学賞を受賞した。2013年にはシャーブルック大学から名誉博士号を授与された。^[73]

2016年、彼は「人工ニューラルネットワークの理論と実践、および音声認識とコンピュータービジョンへの応用への貢献」により、米国工学アカデミーの外国人会員に選出されました。 ^[74]彼は2016 IEEE/RSEウルフソン・ジェームズ・クラーク・マクスウェル賞を受賞しました。^[75]

彼は機械に学習能力を与えるという「先駆的で非常に影響力のある仕事」により、情報通信技術部門でBBVA財団フロンティア・オブ・ナレッジ賞（2016年）を受賞した。 ^[76]

ヒントンは、ヤン・ルカン、ヨシュア・ベンジオとともに、ディープニューラルネットワークをコンピューティングの重要な要素にした概念的および工学的なブレークスルーにより、2018年のチューリング賞を受賞した。 ^{[77] [78] [79]}

2018年、カナダ勲章受勲者となった。^[80] 2021年、カーネギーメロン大学よりディクソン科学賞を受賞^[81]、2022年にはヤン・ルカン、ヨシュア・ベンジオ、デミス・ハサビスとともに科学研究部門のアストゥリアス王女賞を受賞した。^[82] 2023年、ACMフェローに選出された。^[83] 2023年、生涯および過去5年間の功績によりScholarGPSの高ランク学者に選出された。^[84]

2024年、彼はジョン・ホップフィールドと共同で「人工ニューラルネットワークによる機械学習を可能にする基礎的な発見と発明」によりノーベル物理学賞を受賞した。引用文には、ボルツマンマシンの開発が明示的に記載されている。 ^{[29] [85]}ニューヨークタイムズの記者ケイド・メッツがヒントンに、ボルツマンマシンがバックプロパゲーションネットワークを「事前トレーニング」できる仕組みをもっと簡単に説明するよう求めたところ、ヒントンはリチャード・ファインマンが「いいか、数分で説明できたらノーベル賞の価値はない」と言ったと冗談を言った。 ^[86]同年、彼はヨシュア・ベンジオ、ヤン・ルカン、ジェン・スン・フアン、フェイ・フェイ・リーとともに、ニューラルネットワークとディープラーニングアルゴリズムへの画期的な貢献により、ヴィンフューチャー賞の大賞を受賞した。^[87]

外部ビデオ
ジェフリー・ヒントンがAIの利点と危険性について語る、60 Minutes YouTubeビデオ

2023年、ヒントン氏はAIの急速な進歩について懸念を表明した。^{[32] [31]}彼は以前、人工汎用知能（AGI）は「30年から50年、あるいはそれ以上先」だと信じていた。^{[31]しかし、2023年3月の}CBSとのインタビューでは、「汎用AI」は20年も経たないうちに実現し、「産業革命や電気に匹敵する規模の」変化をもたらす可能性があると述べた。^[32]

2023年5月1日に公開されたニューヨークタイムズのインタビューで、^[31]ヒントンは「AIがGoogleにどのような影響を与えるかを考えずにAIの危険性について話す」ためにGoogleを辞任すると発表した。^[88]彼は「自分の人生の仕事に後悔している部分がある」と述べた。^{[31] [10]}

2023年5月初旬、ヒントン氏はBBCのインタビューで、AIが間もなく人間の脳の情報容量を超える可能性があると述べた。彼は、これらのチャットボットがもたらすリスクのいくつかを「かなり恐ろしい」と表現した。ヒントン氏は、チャットボットは独立して学習し、知識を共有する能力を持っているため、1つのコピーが新しい情報を取得するたびに、それが自動的にグループ全体に配信され、AIチャットボットは個人の能力をはるかに超える知識を蓄積する能力を持つことができると説明した。^[89]

ヒントンはAIによる支配の可能性について懸念を表明しており、AIが「人類を絶滅させる」ことは「考えられないことではない」と述べている。^[32]ヒントンは2023年に、知的な行為が可能なAIシステムは軍事目的や経済目的に役立つだろうと述べた。^[90]彼は、一般的に知的なAIシステムが、プログラマーの利益と一致しない「サブ目標を作成」する可能性があることを懸念している。 ^[91]彼は、AIシステムが権力を求めたり、シャットダウンされないようにしたりする可能性があるが、それはプログラマーが意図したからではなく、それらのサブ目標が後の目標を達成するために役立つからだと述べている。^{[89]特に、ヒントンは、}自己改善が可能なAIシステムを「どのように制御するかについて真剣に考えなければならない」と述べている。^[92]

ヒントンは、悪意のある行為者によるAIの故意の悪用について懸念を報告し、「悪意のある行為者が[AI]を悪用するのをどうやって防ぐことができるのかは分からない」と述べた。^{[31] 2017年、ヒントンは}致死性の自律型兵器の国際的な禁止を呼びかけた。^[93]

ヒントンは以前、AIの経済的影響について楽観的であり、2018年に「『人工汎用知能』という言葉には、この種の単一のロボットが突然あなたよりも賢くなるという含意がある。私はそうはならないと思う。私たちが行う日常的な作業のますます多くがAIシステムに置き換えられるだろうと思う」と述べている。^[94]ヒントンは、AGIによって人間が不要になることはないとも主張していた。「[将来のAIは]あなたがおそらく何をしたいのかについて多くのことを知るようになるだろう...しかし、それはあなたに取って代わることはないだろう」^[94]

しかし、2023年、ヒントンは「AI技術がやがて雇用市場をひっくり返し」、単なる「単純労働」以上のものを奪うのではないかと心配するようになった。[31] 彼は2024年に、英国政府はAIが不平等に与える影響に対処するために、ユニバーサル・ベーシック・インカムを確立^する必要があると述べた。[ ^95]ヒントンの見解では、AIは生産性を高め、より多くの富を生み出すだろう。しかし、政府が介入しない限り、AIは富裕層をさらに豊かにし、職を失う可能性のある人々を苦しめるだけだ。「それは社会にとって非常に悪いことになるだろう」と彼は言った。^[96]

2024年のクリスマスには、彼はやや悲観的になり、今後30年以内にAIが人類絶滅の原因となる可能性は「10～20％」あると述べた（以前は10％の可能性を示唆していたが、期限は明示していなかった）。^[97]彼はAIの進歩の速さに驚きを表明し、ほとんどの専門家はAIがおそらく今後20年以内に「人間よりも賢くなる」と予想していると述べた。「恐ろしい考えだ。…だから、大企業の利益追求に任せるだけでは、安全に開発されることを保証できないだろう。大企業に安全性の研究を強制できるのは、政府の規制だけだ」。^[97]もう一人の「AIのゴッドファーザー」であるヤン・ルカンはこれに反対し、AIは「実際に人類を絶滅から救うことができる」と述べた。^[97]

ヒントンは、ロナルド・レーガン時代の政治に対する幻滅と人工知能への軍事資金提供に対する反対から、米国からカナダに移住した。 ^[40]

2024年8月、ヒントンはヨシュア・ベンジオ、スチュアート・ラッセル、ローレンス・レッシグと共同で、カリフォルニア州のAI安全法案SB1047を支持する書簡を執筆した。この法案は、1億ドル以上の費用がかかるモデルのトレーニングを行う企業に、導入前にリスク評価を行うことを義務付けるものだ。彼らは、この法律は「この技術を効果的に規制するための最低限の要件」だと述べた。^{[98] [99]}

ヒントンの2番目の妻ロザリンド・ザリンは1994年に卵巣癌で亡くなり、3番目の妻ジャクリーン・「ジャッキー」・フォードは2018年に膵臓癌で亡くなった。 ^{[100] [101]}

ヒントンは、数学者で教育者のメアリー・エベレスト・ブールと、その夫で論理学者のジョージ・ブールの玄孫である。^[102]ジョージ・ブールの研究は、やがて現代のコンピュータサイエンスの基礎の一つとなった。彼のもう一人の高祖父は外科医で作家のジェームズ・ヒントンであり、^{[103]数学者}チャールズ・ハワード・ヒントンの父である。

ヒントンの父親は昆虫学者の ハワード・ヒントンである。^{[8] [104]}彼のミドルネームは別の親戚であるインドの測量総監ジョージ・エベレストに由来しており、エベレスト山の名前の由来となっている。^{[40]彼は経済学者の}コリン・クラークの甥である。^[105]

Wikiquote にジェフリー・ヒントンに関する引用があります。

Scholia にはGeoffrey Hintonの著者プロフィールがあります。

• ロスマン、ジョシュア、「変身：AIのゴッドファーザーはAIが実は知能を持っていると思っているが、それが彼を怖がらせている」、ニューヨーカー、2023年11月20日、29～39ページ。