Loading article…
カリキュラム学習は機械学習の手法であり、モデルを難易度が増す例でトレーニングする。ここで「難易度」の定義は外部から提供されるか、トレーニングプロセスの一部として自動的に発見される。これは、より迅速に優れたパフォーマンスを達成するか、グローバル最適値が見つからない場合に、より優れたローカル最適値に収束することを目的としています。[1] [2]
アプローチ
最も一般的には、カリキュラム学習は、モデルに提示されるトレーニング セット内の例の難易度を、複数のトレーニング反復にわたって段階的に高めていく手法です。これは、状況によっては、モデルを完全なトレーニング セットにすぐにさらすよりも良い結果を生み出すことができます。最も典型的なのは、モデルがより簡単な例から一般的な原則を学習し、その後、エッジ ケースなどのより難しい例が導入されるにつれて、より複雑で微妙な情報を徐々に取り入れることができる場合です。これは、多くの領域で機能することが示されており、おそらくは正規化の一形態です。[3]
この技術の適用方法にはいくつかの大きなバリエーションがあります。
- 「難易度」の概念を定義する必要があります。これは、人間による注釈[4] [5]または外部ヒューリスティックから得られる可能性があります。たとえば、言語モデルでは、短い文は長い文よりも簡単であると分類される可能性があります。[6]別のアプローチは、別のモデルのパフォーマンスを使用することです。そのモデルによって正確に予測された例は、より簡単であると分類されます（ブースティングとの関連を提供します）。
- 難易度は着実に増加させることも[7]、一定の期間ごとに増加させることも[8]、決定論的なスケジュールで増加させることも、確率分布に従って増加させることもできます。また、より簡単な例が互いに不釣り合いに類似している可能性が高い場合には、各段階での多様性の要件によって難易度が緩和されることもあります。[9]
- アプリケーションは、難易度を上げるスケジュールも決定する必要があります。単純なアプローチでは、利用可能な反復の半分で簡単な例でトレーニングし、残りの半分ですべての例でトレーニングするなど、固定スケジュールを使用できます。[3]他のアプローチでは、現在のセットでのモデルのパフォーマンスに比例して難易度を上げるために、自己ペース学習を使用します。 [10]
カリキュラム学習はトレーニングデータの選択と順序付けのみに関係するため、機械学習の他の多くの手法と組み合わせることができます。この手法の成功は、問題のより簡単なバージョン用にトレーニングされたモデルがより難しいバージョンに一般化できることを前提としているため、転移学習の一形態と見なすことができます。一部の著者は、カリキュラム学習には、モデルパラメータの数を増やすなど、複雑さが徐々に増加する他の形式も含まれると考えています。[11]カリキュラム学習は、ゲームの簡略化されたバージョンを最初に学習するなど、強化学習と組み合わせられることがよくあります。 [12]
いくつかの分野では反カリキュラム学習、つまり最も難しい例を最初に訓練することで成功しています。一例としては、音声認識のためのACCAN法があり、信号対雑音比が最も低い例を最初に訓練します。[13]
歴史
「カリキュラム学習」という用語は、2009年にヨシュア・ベンジオらによって導入されました[14]。動物の心理的シェイピング技術と人間の構造化教育、つまり最も単純な概念から始めて、それを基に構築していくことを指しています。著者らはまた、機械学習におけるこの技術の応用は、ジェフリー・エルマンの1993年の論文「ニューラルネットワークにおける学習と発達：小さく始めることの重要性」などのニューラルネットワークの初期の調査にそのルーツがあることを指摘しています。[15]ベンジオらは、徐々に複雑になる形状の識別などの画像分類の問題や、徐々に拡大する語彙を使ったトレーニングなどの言語モデリングの問題で良好な結果を示しました。彼らは、カリキュラム戦略については「その有益な効果はテストセットで最も顕著である」と結論付けており、一般化が良好であることを示唆しています。
この技術はその後、他の多くの分野にも応用されてきました。
参考文献
- ^ 郭、盛;ファン、ウェイリン。張浩志。チアン、チェンファン。ドン、デンケ。スコット、マシュー R.黄、定龍（2018）。 「CurriculumNet: 大規模な Web 画像からの弱教師あり学習」。arXiv : 1808.01097 [cs.CV]。
- ^ 「ニューラル機械翻訳のための能力ベースのカリキュラム学習」。2024年3月29日閲覧。
- ^ ab Bengio , Yoshua; Louradour, Jérôme; Collobert, Ronan; Weston, Jason (2009). 「カリキュラム学習」。機械学習に関する第 26 回国際会議の議事録。pp. 41– 48。doi :10.1145/ 1553374.1553380。ISBN 978-1-60558-516-1. 2024年3月24日閲覧。
- ^ 「複数のタスクのカリキュラム学習」。2024年3月29日閲覧。
- ^ Ionescu, Radu Tudor; Alexe, Bogdan; Leordeanu, Marius; Popescu, Marius; Papadopoulos, Dim P.; Ferrari, Vittorio (2016). 「どれほど難しいことか? 画像内の視覚検索の難しさの推定」 2016 IEEE コンピュータビジョンとパターン認識に関する会議 (CVPR) ( PDF)。pp. 2157– 2166。doi :10.1109/ CVPR.2016.237。ISBN 978-1-4673-8851-1. 2024年3月29日閲覧。
- ^ 「Baby Steps: 教師なし依存関係解析における「Less is More」の仕組み」(PDF) 。 2024年3月29日閲覧。
- ^ 「潜在変数モデルのための自己ペース学習」。2010年12月6日。pp.1189–1197 。2024年3月29日閲覧。
- ^ Tang, Ye; Yang, Yu-Bin; Gao, Yang (2012). 「画像分類のための自己ペース辞書学習」。第20回ACM国際マルチメディア会議の議事録。pp. 833– 836。doi : 10.1145 / 2393347.2396324。ISBN 978-1-4503-1089-5. 2024年3月29日閲覧。
- ^ 「教師ありコンピュータービジョンタスクのための多様性のあるカリキュラム学習」 。 2024年3月29日閲覧。
- ^ 「Self-paced Curriculum Learning」。2024年3月29日閲覧。
- ^ ソヴィアニー、ペトル;ラドゥ・チュードル・イヨネスク。ロタ、パオロ。セベ、ニク（2021）。 「カリキュラム学習: 調査」。arXiv : 2101.10382 [cs.LG]。
- ^ Narvekar, Sanmit; Peng, Bei; Leonetti, Matteo; Sinapov, Jivko; Taylor, Matthew E.; Stone, Peter (2020年1月). 「強化学習ドメインのカリキュラム学習：フレームワークと調査」. The Journal of Machine Learning Research . 21 (1): 181:7382–181:7431. arXiv : 2003.04960 . 2024年3月29日閲覧。
- ^ 「自動音声認識におけるノイズ耐性を向上させるカリキュラム学習法」。2024年3月29日閲覧。
- ^ Bengio , Yoshua; Louradour, Jérôme; Collobert, Ronan; Weston, Jason (2009). 「カリキュラム学習」。機械学習に関する第 26 回国際会議の議事録。pp. 41– 48。doi :10.1145/ 1553374.1553380。ISBN 978-1-60558-516-1. 2024年3月24日閲覧。
- ^ Elman, JL (1993). 「ニューラルネットワークの学習と発達：小さなことから始めることの重要性」.認知. 48 (1): 71– 99. doi :10.1016/0010-0277(93)90058-4. PMID 8403835. 2024年3月29日閲覧。
- ^ 「タスク固有の単語表現学習のためのベイズ最適化によるカリキュラムの学習」。2024年3月29日閲覧。
- ^ ゴン、ヤンタオ;劉、曹。袁、佳鎮。ヤン、ファン。蔡迅亮。ワン、グアンルー。チェン、ジャンソン。丹生、瑞堯。王侯峰（2021）。 「意図検出のための密度ベースの動的カリキュラム学習」。情報と知識管理に関する第 30 回 ACM 国際会議の議事録。pp . 3034–3037。arXiv : 2108.10674。土井：10.1145/3459637.3482082。ISBN 978-1-4503-8446-9. 2024年3月29日閲覧。
- ^ 「長期短期記憶ネットワークのカリキュラム学習の視覚化と理解」。2024年3月29日閲覧。
- ^ 「ニューラル機械翻訳のためのカリキュラム学習の実証的調査」。2024年3月29日閲覧。
- ^ 「ニューラル機械翻訳のための強化学習ベースのカリキュラム最適化」。2024年3月29日閲覧。
- ^ 「自動音声認識におけるノイズ耐性を向上させるカリキュラム学習法」。2024年3月29日閲覧。
- ^ 黄、弓削;ワン、ユハン。タイ、イン。劉暁明。沈、彭城。リー、シャオシン。李、吉林省。ファン、フェイユエ（2020）。 「CurricularFace: 深い顔認識のための適応カリキュラム学習損失」。コンピュータ ビジョンとパターン認識 (CVPR) に関する 2020 IEEE/CVF カンファレンス。ページ 5900–5909。arXiv : 2004.00288 。土井：10.1109/CVPR42600.2020.00594。ISBN 978-1-7281-7168-5. 2024年3月29日閲覧。
- ^ 「クロスドメインオブジェクト検出のためのカリキュラム自己ペース学習」。2024年3月29日閲覧。
- ^ 「強化学習エージェントのためのカリキュラムグラフ の自動生成」。2017年2月4日。pp.2590–2596 。2024年3月29日閲覧。
- ^ Gong, Chen; Yang, Jian; Tao, Dacheng (2019). 「グラフ上のマルチモーダルカリキュラム学習」ACM Transactions on Intelligent Systems and Technology . 10 (4): 1– 25. doi :10.1145/3322122 . 2024年3月29日閲覧。
- ^ Qu, Meng; Tang, Jian; Han, Jiawei (2018). 深層強化学習による異種スターネットワーク埋め込みのカリキュラム学習。pp. 468– 476. doi :10.1145/3159652.3159711. hdl :2142/101634. ISBN 978-1-4503-5581-0. 2024年3月29日閲覧。
- ^ 行列分解のための自己ペース学習。MIT Press。2015年1月25日。pp . 3196– 3202。ISBN 978-0-262-51129-2. 2024年3月29日閲覧。
さらに読む
- カリキュラム学習：調査
- カリキュラム学習に関する調査
- 強化学習ドメインのカリキュラム学習：フレームワークと調査
- IEEE Xplore でのカリキュラム学習