自己教師学習

自己教師あり学習( SSL ) は機械学習のパラダイムであり、外部から提供されるラベルに頼るのではなく、データ自体を使用して教師信号を生成するタスクでモデルをトレーニングします。ニューラルネットワークのコンテキストでは、自己教師あり学習は、入力データ内の固有の構造または関係性を活用して、意味のあるトレーニング信号を作成することを目的としています。SSL タスクは、解決するためにデータ内の重要な機能または関係性をキャプチャする必要があるように設計されています。入力データは通常、関連するサンプルのペアを作成する方法で拡張または変換され、1 つのサンプルが入力として機能し、もう 1 つのサンプルが教師信号を作成するために使用されます。この拡張には、ノイズの導入、トリミング、回転、またはその他の変換が含まれる場合があります。自己教師あり学習は、人間がオブジェクトを分類する方法をより厳密に模倣します。^[1]

SSLでは、モデルは2段階で学習します。まず、モデルパラメータの初期化に役立つ疑似ラベルを使用した補助分類タスクまたは口実分類タスクに基づいてタスクが解決されます。^{[2] [3]次に、}教師あり学習または教師なし学習を使用して実際のタスクが実行されます。^{[4] [5] [6]}

自己教師学習は近年有望な成果を生み出しており、音声処理などの分野で実用的な応用が見出されており、Facebookなどの音声認識にも使用されています。^[7]

自己連想的自己教師学習は、ニューラルネットワークが自身の入力データを再現または再構築するように訓練される自己教師学習の特定のカテゴリです。^[8]言い換えれば、モデルは、データの本質的な特徴や構造を捉えたデータの表現を学習し、元の入力を再生する役割を担っています。

「自動連想」という用語は、モデルが本質的に入力データをそれ自体と関連付けるという事実に由来しています。これは、表現学習に使用されるニューラル ネットワーク アーキテクチャの一種であるオートエンコーダを使用して実現されることがよくあります。オートエンコーダは、入力データを低次元表現 (潜在空間) にマッピングするエンコーダネットワークと、この表現から入力を再構築する デコーダネットワークで構成されます。

トレーニング プロセスでは、モデルに入力データを提示し、できるだけ同じデータを再構築するように要求します。トレーニング中に使用される損失関数は、通常、元の入力と再構築された出力の差 (平均二乗誤差など) にペナルティを課します。この再構築誤差を最小限に抑えることで、オートエンコーダは潜在空間内のデータの意味のある表現を学習します。

バイナリ分類タスクの場合、トレーニングデータは正例と負例に分けられます。正例はターゲットに一致するものです。たとえば、鳥を識別する分類器をトレーニングする場合、正のトレーニングデータには鳥を含む画像が含まれます。負例は鳥を含まない画像です。^[9]対照的自己教師学習では、正例と負例の両方を使用します。対照学習の損失関数は、正のサンプルペア間の距離を最小化し、負のサンプルペア間の距離を最大化するために使用されます。^[9]

初期の例では、1次元畳み込みニューラルネットワークのペアを使用して、一対の画像を処理し、それらの一致を最大化します。^[10]

対照言語画像事前トレーニング(CLIP) では、テキスト エンコーダーと画像エンコーダーの共同事前トレーニングが可能になり、一致する画像とテキストのペアは、小さな角度にまたがる画像エンコーディング ベクトルとテキスト エンコーディング ベクトル (大きなコサイン類似度を持つ) を持つようになります。

InfoNCE（ノイズ対照推定）^{[11]は、ノイズ対照推定（NCE） [12]}に基づいて2つのモデルを共同で最適化する方法です。提案分布からの1つの正のサンプルと負のサンプルを含むランダムサンプルのセットが与えられた場合、次の損失関数を最小化します。 ${\displaystyle X=\left\{x_{1},\ldots x_{N}\right\}}$${\displaystyle N}$${\displaystyle p\left(x_{t+k}\mid c_{t}\right)}$${\displaystyle N-1}$${\displaystyle p\left(x_{t+k}\right)}$

$${\displaystyle {\mathcal {L}}_{\mathrm {N} }=-\mathbb {E} _{X}\left[\log {\frac {f_{k}\left(x_{t+k},c_{t}\right)}{\sum _{x_{j}\in X}f_{k}\left(x_{j},c_{t}\right)}}\right]}$$

非対照的自己教師学習（NCSSL）は、肯定的な例のみを使用します。直感に反して、NCSSLは、損失ゼロで自明な解決策に到達するのではなく、有用な局所最小値に収束します。バイナリ分類の例では、各例を肯定的として分類することを自明に学習します。効果的なNCSSLには、ターゲット側で逆伝播しないオンライン側の追加予測子が必要です。 ^[9]

SSL は、入力から分類された出力を生成することを目標としている点で、教師あり学習法に属します。ただし、ラベル付けされた入力と出力のペアを明示的に使用する必要はありません。代わりに、相関関係、データに埋め込まれたメタデータ、または入力に存在するドメイン知識が、暗黙的かつ自律的にデータから抽出されます。データから生成されたこれらの監視信号は、トレーニングに使用できます。^[1]

SSL は、サンプル データにラベルを必要としない点で教師なし学習に似ています。ただし、教師なし学習とは異なり、学習は固有のデータ構造を使用して行われません。

半教師あり学習は教師あり学習と教師なし学習を組み合わせたもので、学習データのごく一部にのみラベルを付ける必要がある。^[3]

転移学習では、あるタスク用に設計されたモデルが別のタスクで再利用されます。^[13]

オートエンコーダのトレーニングは、出力パターンが入力パターン自体の最適な再構成になる必要があるため、本質的に自己教師ありのプロセスです。しかし、現在の専門用語では、「自己教師あり」という用語は、プレテキストタスクトレーニング設定に基づく分類タスクに関連付けられています。これは、完全に自己完結型のオートエンコーダトレーニングの場合とは異なり、そのようなプレテキストタスクの（人間の）設計を伴います。^[8]

強化学習では、損失の組み合わせからの自己教師学習により、状態に関する最も重要な情報のみが圧縮された形で保持される抽象的な表現を作成することができます。^[14]

自己教師学習は音声認識に特に適しています。例えば、Facebookは、互いに構築された2つの深層畳み込みニューラルネットワークを使用して音声認識を実行する自己教師アルゴリズムであるwav2vecを開発しました。 ^[7]

GoogleのBERT（ Bidirectional Encoder Representations from Transformers）モデルは、検索クエリのコンテキストをよりよく理解するために使用されます。^[15]

OpenAIのGPT-3は言語処理に使用できる自己回帰言語モデルです。テキストの翻訳や質問への回答などに使用できます。^[16]

Bootstrap Your Own Latent (BYOL)は、 ImageNetや転送ベンチマーク、半教師ありベンチマークで優れた結果を出したNCSSLです。 ^[17]

Yarowsky アルゴリズムは、自然言語処理における自己教師あり学習の一例です。少数のラベル付き例から、テキスト内の特定の時点で 多義語のどの語義が使用されているかを予測することを学習します。

DirectPredは、典型的な勾配降下法で学習するのではなく、予測子の重みを直接設定するNCSSLです。^[9]

Self-GenomeNetはゲノミクスにおける自己教師学習の一例である。^[18]

• バレストリエロ、ランドール。イブラヒム、マーク。ソバル、ヴラド。モルコス、アリ。シェカール、シャシャンク。ゴールドスタイン、トム。ボルデス、フロリアン。バーデス、エイドリアン。ミアロン、グレゴワール。天、元東。シュワルツシルト、アヴィ。ウィルソン、アンドリュー・ゴードン。ガイピン、ジョナス。ガリード、クエンティン。フェルナンデス、ピエール（2023年4月24日）。 「自己教師あり学習のクックブック」。arXiv : 2304.12210 [cs.LG]。

• Doersch , Carl; Zisserman, Andrew (2017 年 10 月)。「マルチタスク自己教師あり視覚学習」。2017 IEEE国際コンピュータビジョン会議 (ICCV)。pp. 2070–2079。arXiv : 1708.07860。doi : 10.1109 / ICCV.2017.226。ISBN 978-1-5386-1032-9. S2CID  473729。
• カール・ドーシュ。グプタ、アビナフ。エフロス、アレクセイ A. (2015 年 12 月)。 「文脈予測による教師なし視覚表現学習」。2015 IEEE コンピュータ ビジョン国際会議 (ICCV)。 1422–1430ページ。arXiv : 1505.05192。土井：10.1109/ICCV.2015.167。ISBN 978-1-4673-8391-2. S2CID  9062671。
• Zheng, Xin; Wang, Yong; Wang, Guoyou; Liu , Jianguo (2018 年 4 月 1 日)。「自己教師学習による白血球画像の高速かつ堅牢なセグメンテーション」。Micron。107 : 55–71。doi : 10.1016 /j.micron.2018.01.010。ISSN 0968-4328。PMID 29425969。S2CID  3796689  。
• Yarowsky, David (1995). 「教師なしの語義曖昧性解消は教師あり手法に匹敵する」。第33回計算言語学会年次会議議事録。マサチューセッツ州ケンブリッジ：計算言語学会：189–196。doi ：10.3115/981658.981684 。 2022年11月1日閲覧。