自動機械学習

自動機械学習（AutoML ）とは、機械学習を現実世界の問題に適用するタスクを自動化するプロセスです。これは自動化と機械学習の組み合わせです。^[¹^]

AutoML は、生のデータセットから始めて、展開準備のできた機械学習モデルを構築するまでのすべての段階を包含する可能性があります。AutoML は、機械学習の適用という増大する課題に対する人工知能ベースのソリューションとして提案されました。 ^{[ 2 ]}^{[ 3 ]} AutoML の高度な自動化は、機械学習の専門家になる必要なく、非専門家が機械学習モデルと技術を利用できるようにすることを目的としています。機械学習の適用プロセスをエンドツーエンドで自動化することで、よりシンプルなソリューションの作成、ソリューションの作成の迅速化、そして多くの場合、手作業で設計されたモデルよりも優れたパフォーマンスを発揮するモデルの作成といった利点も得られます。^{[ 4 ]}

AutoMLで一般的に使用される手法には、ハイパーパラメータ最適化、メタ学習、ニューラルアーキテクチャ探索などがあります。

標準的なアプローチとの比較

一般的な機械学習アプリケーションでは、実務者はトレーニングに使用する入力データポイントのセットを持っています。生データは、すべてのアルゴリズムを適用できる形式ではない場合があります。データを機械学習に適した形式にするには、専門家が適切なデータ前処理、特徴量エンジニアリング、特徴量抽出、および特徴量選択の手法を適用する必要があります。これらの手順の後、実務者はモデルの予測性能を最大化するために、アルゴリズムの選択とハイパーパラメータの最適化を行う必要があります。ディープラーニングを使用する場合は、ニューラルネットワークのアーキテクチャも機械学習の専門家が手動で選択する必要があります。

これらの各ステップはそれぞれ難易度が高く、機械学習の利用において大きな障壁となる可能性があります。AutoMLは、これらのステップを非専門家向けに簡素化し、機械学習技術を正しく効果的に利用しやすくすることを目指しています。

AutoMLは、データエンジニアリング、データ探索、モデルの解釈と予測などの困難なタスクも含む、データサイエンスの自動化というより広範なアプローチの中で重要な役割を果たしています。 ^{[ 5 ]}

自動化の対象

自動化された機械学習は、機械学習プロセスのさまざまな段階を対象とすることができます。^{[ 3 ]} 自動化の手順は次のとおりです。

データ準備とデータ取り込み（生データおよび各種フォーマットから）
- 列タイプの検出（例：ブール値、離散数値、連続数値、テキスト）
- 列の意図検出。例：ターゲット/ラベル、層別化フィールド、数値特徴量、カテゴリテキスト特徴量、または自由記述テキスト特徴量
- タスク検出（例：二値分類、回帰、クラスタリング、ランキング）
特徴量エンジニアリング
- 機能選択
- 特徴抽出
- メタ学習と転移学習
- 偏ったデータや欠損値の検出と処理
モデル選択- どの機械学習アルゴリズムを使用するかを選択すること。多くの場合、複数の競合するソフトウェア実装が含まれる。
アンサンブルとは、複数のモデルを使用することで、単一のモデルよりも優れた結果が得られることが多い合意形成の一形態である^{[ 6 ]。}
学習アルゴリズムのハイパーパラメータ最適化と特徴抽出
- ニューラルアーキテクチャ探索
時間、メモリ、および複雑性の制約下でのパイプライン選択
評価指標の選択と検証手順
問題チェック
- 漏水検知
- 設定ミスの検出
得られた結果の分析
ユーザーインターフェースとビジュアライゼーションの作成

課題と限界

自動化された機械学習には、多くの重要な課題が取り組まれています。この分野を取り巻く大きな問題の一つに、「家内工業としての開発」と呼ばれるものがあります。^{[ 7 ]}このフレーズは、機械学習において、開発が専門家の手動による決定や偏見に依存しているという問題を指します。これは、データの使用と分析から自ら学習し改善できるシステムを作成するという機械学習の目標とは対照的です。基本的には、専門家がシステムの学習にどれだけ関与すべきか、そして機械にどれだけの自由を与えるべきかという葛藤です。しかし、専門家や開発者は、これらの機械が自ら学習できるように準備するために、機械の作成と指導を支援しなければなりません。このシステムを作成するには、機械学習アルゴリズムとシステム設計の知識を用いた、労働集約的な作業が必要です。^{[ 8 ]}

さらに、メタ学習^{[ 9 ]}や計算リソースの割り当てといった課題もある。

参考文献

↑スピアーズ、テイラー、ボンド・ハンセン、クリスティアン (2023年12月18日)、「金融市場における機械学習の利用と可能性」、オックスフォード機械学習社会学ハンドブック、オックスフォード大学出版局、doi : 10.1093/oxfordhb/9780197653609.013.6、ISBN 978-0-19-765360-92024年6月10日取得
↑ Thornton C、Hutter F、Hoos HH、Leyton-Brown K (2013)。Auto -WEKA: 分類アルゴリズムの選択とハイパーパラメータ最適化の組み合わせ。KDD '13 第 19 回 ACM SIGKDD 国際知識発見およびデータマイニング会議議事録。pp. 847–855。
1 2 Hutter F、Caruana R、Bardenet R、Bilenko M、Guyon I、Kegl B、およびLarochelle H。「AutoML 2014 @ ICML」。AutoML 2014 Workshop @ ICML 。 2018年3月28日取得。
↑ Olson, RS、Urbanowicz, RJ、Andrews, PC、Lavender, NA、Kidd, LC、Moore, JH (2016). ツリーベースのパイプライン最適化によるバイオメディカルデータサイエンスの自動化。In: Squillero, G.、Burelli, P. (eds) 進化計算の応用。EvoApplications 2016。Lecture Notes in Computer Science()、vol 9597。Springer、Cham。doi : 10.1007 /978-3-319-31204-0_9
↑デ・ビー、ティル。デ・レート、リュック；ヘルナンデス・オラロ、ホセ。ホース、ホルガー H.スミス、パドライ語。ウィリアムズ、クリストファー・KI（2022年3月）。「データサイエンスの自動化」。ACM の通信。65 (3): 76–87 .土井: 10.1145/3495256。hdl : 10251/199907。
↑ Erickson, Nick; Mueller, Jonas; Shirkov, Alexander; Zhang, Hang; Larroy, Pedro; Li, Mu; Smola, Alexander (2020-03-13). "AutoGluon-Tabular: 構造化データのための堅牢で正確な AutoML". arXiv : 2003.06505 [ stat.ML ].
↑ Hutter, Frank; Kotthoff, Lars; Vanschoren, Joaquin 編 (2019).自動機械学習: 手法、システム、課題. Springer Series on Challenges in Machine Learning. Springer Nature. doi : 10.1007/978-3-030-05318-5 . hdl : 20.500.12657/23012 . ISBN 978-3-030-05317-8。
↑ Glover, Ellen (2018). "Machine Learning with Python: Clustering" . Built in . doi : 10.4135/9781526466426 .
↑ 「メタ学習の課題」 . metalearning.chalearn.org . 2023年12月3日取得。

さらに読む

「オープンソースのAutoMLツール：AutoGluon、TransmogrifAI、Auto-sklearn、およびNNI」。Bizety 。2020年6月16日。
Ferreira, Luís 他「機械学習、深層学習、XGBoost のための AutoML ツールの比較」2021 年国際ニューラルネットワーク合同会議 (IJCNN)。IEEE、2021 年。https ://repositorium.sdum.uminho.pt/bitstream/1822/74125/1/automl_ijcnn.pdf
Feurer, M.、Klein, A.、Eggensperger, K.、Springenberg, J.、Blum, M.、Hutter, F. (2015). 効率的かつ堅牢な自動機械学習。Advances in neural information processing systems、28。https : //proceedings.neurips.cc/paper_files/paper/2015/file/11d0e6287202fced83f79975ec59a3a6-Paper.pdf

[1] スピアーズ、テイラー、ボンド・ハンセン、クリスティアン (2023年12月18日)、「金融市場における機械学習の利用と可能性」、オックスフォード機械学習社会学ハンドブック、オックスフォード大学出版局、doi : 10.1093/oxfordhb/9780197653609.013.6、ISBN 978-0-19-765360-92024年6月10日取得

[autoweka1-2] Thornton C、Hutter F、Hoos HH、Leyton-Brown K (2013)。Auto -WEKA: 分類アルゴリズムの選択とハイパーパラメータ最適化の組み合わせ。KDD '13 第 19 回 ACM SIGKDD 国際知識発見およびデータマイニング会議議事録。pp. 847–855。

[AutoML2014ICML-3] 1 2 Hutter F、Caruana R、Bardenet R、Bilenko M、Guyon I、Kegl B、およびLarochelle H。「AutoML 2014 @ ICML」。AutoML 2014 Workshop @ ICML 。 2018年3月28日取得。

[4] Olson, RS、Urbanowicz, RJ、Andrews, PC、Lavender, NA、Kidd, LC、Moore, JH (2016). ツリーベースのパイプライン最適化によるバイオメディカルデータサイエンスの自動化。In: Squillero, G.、Burelli, P. (eds) 進化計算の応用。EvoApplications 2016。Lecture Notes in Computer Science()、vol 9597。Springer、Cham。doi : 10.1007 /978-3-319-31204-0_9

[5] デ・ビー、ティル。デ・レート、リュック；ヘルナンデス・オラロ、ホセ。ホース、ホルガー H.スミス、パドライ語。ウィリアムズ、クリストファー・KI（2022年3月）。「データサイエンスの自動化」。ACM の通信。65 (3): 76–87 .土井: 10.1145/3495256。hdl : 10251/199907。

[6] Erickson, Nick; Mueller, Jonas; Shirkov, Alexander; Zhang, Hang; Larroy, Pedro; Li, Mu; Smola, Alexander (2020-03-13). "AutoGluon-Tabular: 構造化データのための堅牢で正確な AutoML". arXiv : 2003.06505 [ stat.ML ].

[7] Hutter, Frank; Kotthoff, Lars; Vanschoren, Joaquin 編 (2019).自動機械学習: 手法、システム、課題. Springer Series on Challenges in Machine Learning. Springer Nature. doi : 10.1007/978-3-030-05318-5 . hdl : 20.500.12657/23012 . ISBN 978-3-030-05317-8。

[8] Glover, Ellen (2018). "Machine Learning with Python: Clustering" . Built in . doi : 10.4135/9781526466426 .

[9] 「メタ学習の課題」 . metalearning.chalearn.org . 2023年12月3日取得。

[

[ 2 ]

[ 3 ]

[ 4 ]

[ 5 ]

[ 6 ]。

[ 7 ]

[ 8 ]

[ 9 ]

自動機械学習

標準的なアプローチとの比較

自動化の対象

課題と限界

関連項目

参考文献

さらに読む

関連するトピック

機械学習

自動化する

人工知能ベースのソリューションとして提案されました。

ハイパーパラメータ最適化