漸進的学習

コンピュータサイエンスにおいて、増分学習は、入力データを継続的に使用して既存のモデルの知識を拡張する、つまりモデルをさらにトレーニングする機械学習の方法です。これは、トレーニングデータが時間の経過とともに徐々に利用可能になったとき、またはそのサイズがシステムメモリの制限を超えたときに適用できる、教師あり学習と教師なし学習の動的な手法を表します。増分学習を促進できるアルゴリズムは、増分機械学習アルゴリズムとして知られています。

従来の機械学習アルゴリズムの多くは、本質的に増分学習をサポートしています。他のアルゴリズムを適応させて増分学習を容易にすることもできます。増分アルゴリズムの例には、決定木（IDE4、^[1] ID5R ^[2]およびgaenari）、決定ルール、^[3] 人工ニューラルネットワーク（RBFネットワーク、^[4] Learn++、^[5] Fuzzy ARTMAP、^[6] TopoART、^[7]およびIGNG ^[8]）、または増分SVM ^[9]などがあります。

増分学習の目的は、学習モデルが既存の知識を忘れずに新しいデータに適応することです。一部の増分学習者には、古いデータの関連性を制御するパラメーターや仮定が組み込まれていますが、安定した増分機械学習アルゴリズムと呼ばれる他のアルゴリズムは、時間の経過とともに部分的にも忘れられないトレーニングデータの表現を学習します。Fuzzy ART ^[10]とTopoART ^[7]は、この2番目のアプローチの2つの例です。

増分アルゴリズムは、データストリームやビッグデータに頻繁に適用され、それぞれデータの可用性とリソース不足の問題に対処します。株価動向予測やユーザープロファイリングは、新しいデータが継続的に利用可能になるデータストリームの例です。増分学習をビッグデータに適用すると、分類や予測の時間を短縮できます。

参照

トランスダクション（機械学習）

参考文献

^ Schlimmer, JC, & Fisher, D. 漸進的概念誘導のケーススタディ。第 5 回人工知能全国会議、496-501 ページ。フィラデルフィア、1986 年
^ Utgoff, PE, 決定木の増分誘導。機械学習、4(2): 161-186、1989
^ Ferrer-Troyano、Francisco、Jesus S. Aguilar-Ruiz、Jose C. Riquelme。数値データストリームからの例の近さに基づく増分ルール学習。2005 ACM 応用コンピューティングシンポジウムの議事録。ACM、2005
^ Bruzzone, Lorenzo、D. Fernàndez Prieto。リモートセンシング画像の分類のための増分学習ニューラルネットワーク。パターン認識レター: 1241-1248、1999
^ R. Polikar、L. Udpa、S. Udpa、V. Honavar。Learn++: 教師ありニューラルネットワークの増分学習アルゴリズム。IEEE Transactions on Systems, Man, and Cybernetics。Rowan University USA、2001 年。
^ G. Carpenter、S. Grossberg、N. Markuzon、J. Reynolds、D. Rosen。ファジー ARTMAP: アナログ多次元マップの増分教師あり学習のためのニューラルネットワークアーキテクチャ。IEEE トランザクションニューラルネットワーク、1992 年
^ ab Marko Tscherepanow、Marco Kortkamp、Marc Kammer。ノイズの多いデータから位相構造と関連性を安定的に増分学習する階層型 ART ネットワーク。Wayback Machineに 2017-08-10 にアーカイブ。ニューラルネットワーク、24(8): 906-916、2011
^ Jean-Charles Lamirel、Zied Boulila、Maha Ghribi、および Pascal Cuxac。クラスタラベリング最大化に基づく新しい増分成長ニューラルガスアルゴリズム: 異種テキストデータのクラスタリングへの応用。IEA/AIE 2010: 応用インテリジェントシステムの動向、139-148、2010 年
^ Diehl, Christopher P.、および Gert Cauwenberghs。SVM 増分学習、適応、最適化。Wayback Machineに 2017-12-15 にアーカイブ。ニューラルネットワーク、2003。国際合同会議の議事録。第 4 巻。IEEE、2003。
^ カーペンター、GA、グロスバーグ、S.、ローゼン、DB、ファジーART：適応共鳴システムによるアナログパターンの高速安定学習と分類、ニューラルネットワーク、4（6）：759-771、1991

外部リンク

charleslparker (2013 年 3 月 12 日)。「ストリーミングデータと増分アルゴリズムの簡単な紹介」。BigML ブログ。
Gepperth, Alexander; Hammer, Barbara (2016). 増分学習アルゴリズムとアプリケーション(PDF) . ESANN. pp. 357–368.
LibTopoART: 漸進的学習タスクのためのソフトウェアライブラリ
「Creme: 増分学習用ライブラリ」。2019 年 8 月 3 日にオリジナルからアーカイブされました。
gaenari: C++ 増分決定木アルゴリズム
YouTube検索結果インクリメンタルラーニング

[1] Schlimmer, JC, & Fisher, D. 漸進的概念誘導のケーススタディ。第 5 回人工知能全国会議、496-501 ページ。フィラデルフィア、1986 年

[2] Utgoff, PE, 決定木の増分誘導。機械学習、4(2): 161-186、1989

[3] Ferrer-Troyano、Francisco、Jesus S. Aguilar-Ruiz、Jose C. Riquelme。数値データストリームからの例の近さに基づく増分ルール学習。2005 ACM 応用コンピューティングシンポジウムの議事録。ACM、2005

[4] Bruzzone, Lorenzo、D. Fernàndez Prieto。リモートセンシング画像の分類のための増分学習ニューラルネットワーク。パターン認識レター: 1241-1248、1999

[5] R. Polikar、L. Udpa、S. Udpa、V. Honavar。Learn++: 教師ありニューラルネットワークの増分学習アルゴリズム。IEEE Transactions on Systems, Man, and Cybernetics。Rowan University USA、2001 年。

[6] G. Carpenter、S. Grossberg、N. Markuzon、J. Reynolds、D. Rosen。ファジー ARTMAP: アナログ多次元マップの増分教師あり学習のためのニューラルネットワークアーキテクチャ。IEEE トランザクションニューラルネットワーク、1992 年

[TopoART-7] Marko Tscherepanow、Marco Kortkamp、Marc Kammer。ノイズの多いデータから位相構造と関連性を安定的に増分学習する階層型 ART ネットワーク。Wayback Machineに 2017-08-10 にアーカイブ。ニューラルネットワーク、24(8): 906-916、2011

[8] Jean-Charles Lamirel、Zied Boulila、Maha Ghribi、および Pascal Cuxac。クラスタラベリング最大化に基づく新しい増分成長ニューラルガスアルゴリズム: 異種テキストデータのクラスタリングへの応用。IEA/AIE 2010: 応用インテリジェントシステムの動向、139-148、2010 年

[9] Diehl, Christopher P.、および Gert Cauwenberghs。SVM 増分学習、適応、最適化。Wayback Machineに 2017-12-15 にアーカイブ。ニューラルネットワーク、2003。国際合同会議の議事録。第 4 巻。IEEE、2003。

[Fuzzy_ART-10] カーペンター、GA、グロスバーグ、S.、ローゼン、DB、ファジーART：適応共鳴システムによるアナログパターンの高速安定学習と分類、ニューラルネットワーク、4（6）：759-771、1991