1クラス分類

機械学習において、単クラス分類( OCC ) は単項分類やクラスモデリングとも呼ばれ、すべてのオブジェクトの中から特定のクラスのオブジェクトを識別しようとします。これは主に、そのクラスのオブジェクトのみを含むトレーニング セットから学習することによって行われますが、 ^[1]反例を使用して分類境界をさらに絞り込む単クラス分類器のバリエーションも存在します。これは、すべてのクラスのオブジェクトを含むトレーニング セットを使用して 2 つ以上のクラスを区別しようとする従来の分類問題とは異なり、より困難です。例としては、ヘリコプターのギアボックスの監視、^{[2] [3] [4]}モーターの故障予測、^[5]原子力発電所の運用状態を「正常」と見なすことなどが挙げられます。^[6]このシナリオでは、壊滅的なシステム状態の例はほとんどなく、正常な動作の統計のみがわかっています。

上記のアプローチの多くは、少数の外れ値や異常値を除去するケースに焦点を当てていますが、情報ボトルネックアプローチを使用して、単一のクラスがデータの小さな一貫したサブセットをカバーするという極端なケースも学習できます。^[7]

1クラス分類（OCC）という用語は、Moya & Hush（1996）^{[8]によって造られ、}外れ値検出、異常検出、新規性検出など、科学文献で多くの応用が見受けられます。OCCの特徴は、割り当てられたクラスのサンプルポイントのみを使用するため、非ターゲットクラスに対しては代表サンプリングが厳密に必要ないことです。^[9]

SVMベースの1クラス分類（OCC）は、すべてのデータポイントで構成される最小の超球（半径r、中心c）を識別することに依存しています。^[10]この方法は、サポートベクターデータ記述（SVDD）と呼ばれます。正式には、問題は次の制約付き最適化形式で定義できます。

$${\displaystyle \min _{r,c}r^{2}{\text{ subject to, }}||\Phi (x_{i})-c||^{2}\leq r^{2}\;\;\forall i=1,2,...,n}$$

しかし、上記の定式化は非常に制限的であり、外れ値の存在に敏感です。したがって、外れ値の存在を許容する柔軟な定式化は以下のように定式化されます。

${\displaystyle \min _{r,c,\zeta }r^{2}+{\frac {1}{\nu n}}\sum _{i=1}^{n}\zeta _{i} }$

${\displaystyle {\text{subject to, }}||\Phi (x_{i})-c||^{2}\leq r^{2}+\zeta _{i}\;\;\forall i=1,2,...,n}$

最適性に関する カルシュ・クーン・タッカー条件から、

${\displaystyle c=\sum _{i=1}^{n}\alpha _{i}\Phi (x_{i}),}$

ここで、は次の最適化問題の解です。 ${\displaystyle \alpha_{i}}$

${\displaystyle \max_{\alpha}\sum_{i=1}^{n}\alpha_{i}\kappa (x_{i},x_{i})-\sum_{i,j=1}^{n}\alpha_{i}\alpha_{j}\kappa (x_{i},x_{j})}$

以下に従う、${\displaystyle \sum _{i=1}^{n}\alpha _{i}=1{\text{ かつ }}0\leq \alpha _{i}\leq {\frac {1}{\nu n}}{\text{すべての }}i=1,2,...,n に対して。}$

カーネル関数の導入により、ワンクラスSVM（OSVM）アルゴリズムにさらなる柔軟性がもたらされる。^[11]

同様の問題としてPU学習があり、これは正のラベルのないサンプル点のみから半教師あり学習によってバイナリ分類器を構築するものである。^[12]

PU学習では、訓練に利用できる例の2つのセット、すなわち正のセットと、正と負の両方のサンプルを含むが、そのようにラベル付けされていない混合セットが想定される。これは、ラベル付けされていないサンプルに加えて、両方のクラスの例を含むラベル付きセットが利用可能であると想定される他の形式の半教師あり学習とは対照的である。EMアルゴリズムのバリエーションを含む、教師あり分類器をPU学習設定に適応させるさまざまな手法が存在する。PU学習は、テキスト、^{[13] [14] [15]}時系列、^[16]バイオインフォマティクスタスク、^{[17] [18]}およびリモートセンシングデータにうまく適用されている。^[19]${\displaystyle P}$ ${\displaystyle U}$

1クラス分類（OCC）を解決するためにいくつかのアプローチが提案されている。これらのアプローチは、密度推定法、境界法、再構成法の3つの主要なカテゴリに分類できる。^[6]

密度推定法は、データ ポイントの密度を推定し、しきい値を設定することに依存します。これらの方法は、ガウス分布やポアソン分布などの分布を仮定することに依存します。その後、不一致テストを使用して新しいオブジェクトをテストできます。これらの方法は、スケールの変動に対して堅牢です。

ガウスモデル^[20]は、1クラス分類器を作成する最も簡単な方法の1つです。中心極限定理（CLT）^[21]により、これらの方法は、多数のサンプルが存在し、小さな独立したエラー値によって摂動されている場合に最も効果的です。d次元オブジェクトの確率分布は次のように表されます。

${\displaystyle p_{\mathcal {N}}(x;\mu ;\Sigma )={\frac {1}{(2\pi )^{\frac {d}{2}}|\Sigma |^{\frac {1}{2}}}}\exp\{-{\frac {1}{2}}(z-\mu )^{T}\Sigma ^{-1}(z-\mu )\}}$

ここで、は平均、は共分散行列です。共分散行列の逆行列（）を計算するのが最もコストのかかる操作であり、データが適切にスケーリングされていない場合やデータが特異な方向を持つ場合には、擬似逆行列を使用して逆行列を近似し、次のように計算されます。^[22]${\displaystyle \mu }$${\displaystyle \Sigma }$${\displaystyle \Sigma ^{-1}}$${\displaystyle \Sigma ^{+}}$${\displaystyle \Sigma ^{T}(\Sigma \Sigma ^{T})^{-1}}$

境界法は、ターゲット ポイントと呼ばれるいくつかのポイント セットの周囲に境界を設定することに重点を置いています。これらの方法では、ボリュームを最適化しようとします。境界法は距離に依存するため、スケールの変動に対して堅牢ではありません。K 中心法、NN-d、SVDD などがその主な例です。

Kセンター

K中心アルゴリズム^[23] では、半径が等しい小さなボールを配置して、訓練対象と中心の間の最小距離の最大距離を最小化する。正式には、次の誤差が最小化される。 ${\displaystyle k}$

${\displaystyle \varepsilon _{k-center}=\max _{i}(\min _{k}||x_{i}-\mu _{k}||^{2})}$

このアルゴリズムは、ランダム初期化による順方向探索法を使用し、半径は任意のボールが捕獲するオブジェクトの最大距離によって決定されます。中心が決定された後、任意のテストオブジェクトについて、距離は次のように計算できます。 ${\displaystyle z}$

${\displaystyle d_{k-centr}(z)=\min _{k}||z-\mu _{k}||^{2}}$

再構成法では、事前の知識と生成プロセスを使用して、データに最適な生成モデルを構築します。新しいオブジェクトは、生成モデルの状態の観点から説明できます。OCC の再構成法の例として、k-means クラスタリング、学習ベクトル量子化、自己組織化マップなどがあります。

基本的なサポート ベクター マシン (SVM) パラダイムは、正の例と負の例の両方を使用してトレーニングされますが、研究では、正の例のみを使用する正当な理由が多数あることが示されています。SVM アルゴリズムが正の例のみを使用するように変更されると、プロセスは 1 クラス分類と見なされます。このタイプの分類が SVM パラダイムに役立つ可能性がある状況の 1 つは、ユーザーの閲覧履歴のみに基づいて Web ブラウザーの興味のあるサイトを識別する場合です。

1 クラス分類は、他のクラスのデータを入手するのが困難または不可能なことが多い生物医学研究で特に役立ちます。生物医学データの研究では、2 クラス分類を実行するために必要な 2 番目のクラスからラベル付きデータのセットを入手するのが困難で、費用がかかる場合があります。The Scientific World Journal の研究では、典型性アプローチがあらゆる種類のデータセット (連続、離散、名目) に適用できるため、生物医学データの分析に最も役立つことがわかりました。^[24]典型性アプローチは、データを調べて新しいクラスターまたは既存のクラスターに配置することによるデータのクラスタリングに基づいています。^[25]生物医学研究の 1 クラス分類に典型性を適用するには、新しい観測値 をそれぞれターゲット クラス と比較し、外れ値またはターゲット クラスのメンバーとして識別します。^[24]${\displaystyle y_{0}}$${\displaystyle C}$

1 クラス分類は、教師なしの概念ドリフト検出と類似点があり、どちらも、未知のデータが初期データと同様の特性を共有しているかどうかを識別することを目的としています。概念とは、データが抽出される固定確率分布を指します。教師なしの概念ドリフト検出では、クラス ラベルを使用せずにデータ分布が変化するかどうかを検出することが目標です。1 クラス分類では、データの流れは重要ではありません。未知のデータは、その特性、つまり初期コンセプトからのものであるかどうかに応じて、標準または外れ値として分類されます。ただし、教師なしドリフト検出では、データの流れを監視し、大幅な変化や異常がある場合はドリフトを通知します。教師なしの概念ドリフト検出は、1 クラス分類の連続形式として識別できます。^[26] 1 クラス分類器は、概念ドリフトを検出するために使用されます。^[27]

• 多クラス分類
• 異常検出
• 教師あり学習