Loading article…
Never-Ending Language Learning ( NELL ) システムは、意味論的機械学習システムであり、2010 年時点でカーネギーメロン大学の研究チームによって開発され、DARPA、Google、NSF、CNPqからの助成金によって支援されており、システムの一部はYahoo!が提供するスーパーコンピューティングクラスター上で稼働している。[ 1 ]
NELLは、開発者によって、都市、企業、感情、スポーツチームなど、あらかじめ定義された数百のデータカテゴリ間の基本的な意味関係を識別できるようにプログラムされました。2010年初頭から、カーネギーメロン大学の研究チームはNELLを24時間体制で稼働させ、何億ものウェブページを精査し、すでに知っている情報と検索プロセスを通じて見つけた情報との間のつながりを探し出し、人間が新しい情報を学習する方法を模倣するように新しいつながりを作っています。[ 2 ]例えば、「Pikes Peak」という単語のペアに遭遇すると、NELLは両方の単語が大文字で始まっていることに気づき、2番目の単語からそれが山の名前であると推測し、その2つの単語の周りの単語の関係に基づいて他のつながりを推測します。[ 1 ]
NELLやIBMのWatsonシステムなどの他の意味学習システムの目標は、人間が介入することなく、自然言語でユーザーが提起する質問に答える手段を開発することです。 [ 3 ]ワシントン大学のOren Etzioni氏は、NELLが人間の助けをほとんど必要とせずに自ら好奇心を発揮しているかのように、このシステムの「継続的な学習」を称賛しました。[ 1 ]
2010 年 10 月までに、NELL は知識ベースで利用可能な関係の数を 2 倍に増やし、44 万の新しい事実を学習し、精度は 87% に達しました。[ 4 ] [ 1 ]チーム リーダーのTom M. Mitchell氏（カーネギー メロン大学機械学習部門長）は、NELL が「より多くの情報を得て、より多くのことを学習すると、自己修正する」と説明しましたが、時折、誤った結論に達することもあります。インターネット クッキーが焼き菓子の一種であるという推論など、蓄積されたエラーにより、NELL は「インターネット クッキーを削除しました」と「ファイルを削除しました」というフレーズから、「コンピュータ ファイル」も焼き菓子のカテゴリに属すると推論しました。[ 5 ]このような明らかなエラーは、数週間ごとに研究チームのメンバーによって修正され、システムは学習プロセスを継続することができます。[ 1 ] 2018年までに、NELLは「1億2000万の多様で信頼度加重された信念（例： servedWith(tea,biscuits) ）を持つ知識ベースを獲得し、同時に、時間の経過とともに読解能力を継続的に向上させる数千の相互に関連する機能を学習した」。[ 6 ]
2023年9月現在、このプロジェクトが最近収集した事実は、2019年2月（Twitterフィードによる）[ 7 ]または2018年9月（ホームページによる）[ 8 ]のものである。
スチュアート・ラッセルは、 2019年の著書「Human Compatible」の中で、「残念ながら、NELLは信念のわずか3パーセントにしか自信を持っておらず、定期的に誤った信念や無意味な信念を取り除くために人間の専門家に頼っている。例えば、「ネパールはアメリカ合衆国としても知られる国である」や「価値は通常ベースに切り分けられる農産物である」といった信念などだ」と述べている。 [ 9 ] 2023年の論文では、「終わりのない部分は正しいアプローチのように思えるが、NELLには依然として、焦点がオブジェクト言語の説明に偏りすぎており、唯一の情報源としてウェブページに依存しているという欠点があり、それが分析される文法、記号、スラングなどの種類に大きな影響を与えている」と述べている。[ 10 ]
年初以来、カーネギーメロン大学の研究者チームは、国防高等研究計画局とGoogleからの助成金を受け、Yahooが提供する研究用スーパーコンピューティングクラスターを活用し、人間のように学習することで意味論を習得しようとするコンピュータシステムの微調整を行ってきた。