機械学習 において、単一クラス分類 (OCC )は、 単項分類 またはクラスモデリング とも呼ばれ、 2 つのクラスのうちの 1 つの例のみを使用してバイナリ分類器 をトレーニングするアプローチです。 [ 1 ]
例としては、ヘリコプターのギアボックスの監視[ 2 ] [ 3 ] [ 4 ] 、モーターの故障予測[ 5 ] 、原子力発電所の運転状態を「正常」と評価すること[ 6 ] などが挙げられる。このようなシナリオでは、第2のクラスを構成する壊滅的なシステム状態(まれな外れ値)の例はほとんど、あるいは全くない。あるいは、焦点を当てているクラスは、データの小さく一貫性のあるサブセットをカバーし、トレーニングは情報ボトルネック アプローチに依存する可能性がある。[ 7 ]
実際には、第2クラスの反例は、アルゴリズムをさらに改良するために、後のトレーニングラウンドで使用される場合がある。
導入 対象データを含む超球は、中心c、半径rを持つ。境界上のオブジェクトはサポートベクトルであり、2つのオブジェクトは境界外に位置し、スラックが0より大きい。 SVMベースのワンクラス分類(OCC)は、すべてのデータポイントから構成される最小の超球(半径r、中心c)を特定することに基づいています。[ 10 ] この方法はサポートベクターデータ記述(SVDD)と呼ばれます。形式的には、この問題は次の制約付き最適化 形式で定義できます。
ミニ r 、 c r 2 条件付き、 | | Φ ( x 私 ) − c | | 2 ≤ r 2 ∀ 私 = 1 、 2 、 。 。 。 、 n {\displaystyle \min _{r,c}r^{2}{\text{ ただし、}}||\Phi (x_{i})-c||^{2}\leq r^{2}\;\;\forall i=1,2,...,n}
しかしながら、上記の定式化は非常に制約が多く、外れ値の存在に敏感である。そこで、外れ値の存在を許容する柔軟な定式化を以下のように定式化する。
ミニ r 、 c 、 ζ r 2 + 1 ν n ∑ 私 = 1 n ζ 私 {\displaystyle \min _{r,c,\zeta }r^{2}+{\frac {1}{\nu n}}\sum _{i=1}^{n}\zeta _{i}}
条件付き、 | | Φ ( x 私 ) − c | | 2 ≤ r 2 + ζ 私 ∀ 私 = 1 、 2 、 。 。 。 、 n {\displaystyle {\text{ただし、}}||\Phi (x_{i})-c||^{2}\leq r^{2}+\zeta _{i}\;\;\forall i=1,2,...,n}
最適性に関するカルシュ・クーン・タッカー条件 から、
c = ∑ 私 = 1 n α 私 Φ ( x 私 ) 、 {\displaystyle c=\sum _{i=1}^{n}\alpha _{i}\Phi (x_{i}),}
どこでα 私 \displaystyle \alpha _{i}} は、以下の最適化問題の解です。
最大 α ∑ 私 = 1 n α 私 κ ( x 私 、 x 私 ) − ∑ 私 、 j = 1 n α 私 α j κ ( x 私 、 x j ) {\displaystyle \max _{\alpha }\sum _{i=1}^{n}\alpha _{i}\kappa (x_{i},x_{i})-\sum _{i,j=1}^{n}\alpha _{i}\alpha _{j}\kappa (x_{i},x_{j})}
条件付き、∑ 私 = 1 n α 私 = 1 そして 0 ≤ α 私 ≤ 1 ν n すべての人々のために 私 = 1 、 2 、 。 。 。 、 n 。 \displaystyle \sum _{i=1}^{n}\alpha _{i}=1{\text{ かつ }}0\leq \alpha _{i}\leq {\frac {1}{\nu n}}{\text{すべての }}i=1,2,...,n について。}
カーネル関数の導入により、One-class SVM (OSVM) アルゴリズムにさらなる柔軟性がもたらされる。[ 11 ]
アプローチ 単一クラス分類(OCC)を解決するために、いくつかの手法が提案されている。これらの手法は、密度推定 、境界法 、再構成法の 3つの主要なカテゴリに分類できる。[ 6 ]
密度推定方法 密度推定 法は、データ点の密度を推定し、閾値を設定することに基づいています。これらの方法は、ガウス分布やポアソン分布 などの分布を仮定することに基づいています。その後、不一致検定を使用して新しいオブジェクトをテストできます。これらの方法は、スケールの変動に対して頑健です。
ガウスモデル [ 20 ] は、単一クラス分類器を作成する最も単純な方法の1つです。中心極限定理 (CLT)[ 21 ] により、これらの方法はサンプル数が多く、小さな独立した誤差値によって摂動される場合に最も効果的に機能します。d次元オブジェクトの確率分布は次のように与えられます。
p N ( z ; μ ; Σ ) = 1 ( 2 π ) d 2 | Σ | 1 2 exp { − 1 2 ( z − μ ) T Σ − 1 ( z − μ ) } {\displaystyle p_{\mathcal {N}}(z;\mu ;\Sigma )={\frac {1}{(2\pi )^{\frac {d}{2}}|\Sigma |^{\frac {1}{2}}}}\exp \left\{-{\frac {1}{2}}(z-\mu )^{T}\Sigma ^{-1}(z-\mu )\right\}}
どこ、μ {\displaystyle \mu } は平均であり、Σ {\displaystyle \Sigma } は共分散行列 です。共分散行列の逆行列を計算する(Σ − 1 \displaystyle \Sigma ^{-1}} )は最もコストのかかる操作であり、データが適切にスケーリングされていない場合、またはデータに特異な方向がある場合、擬似逆行列Σ + \displaystyle \Sigma ^{+}} は逆数を近似するために使用され、次のように計算されます。Σ T ( Σ Σ T ) − 1 \displaystyle \Sigma ^{T}(\Sigma \Sigma ^{T})^{-1}} [ 22 ]
境界法 境界法は、ターゲットポイントと呼ばれる少数の点群の周囲に境界を設定することに焦点を当てています。これらの方法は、体積の最適化を試みます。境界法は距離に依存するため、スケールの変動に対して頑健ではありません。K中心法、NN-d、SVDDなどが代表的な例です。
Kセンター
K中心アルゴリズムでは、[ 23 ] k {\displaystyle k} 半径が等しい小さなボールを配置して、トレーニングオブジェクトと中心間の最小距離の最大距離を最小化します。正式には、次の誤差が最小化されます。
ε k − c e n t e r = 最大 私 ( ミニ k | | x 私 − μ k | | 2 ) {\displaystyle \varepsilon _{k-center}=\max _{i}(\min _{k}||x_{i}-\mu _{k}||^{2})}
このアルゴリズムは、ランダム初期化による前方探索法を使用し、半径は対象物の最大距離によって決定され、任意のボールが捕捉する必要があります。中心が決定された後、任意のテスト対象物に対してz {\displaystyle z} 距離は次のように計算できます。
d k − c e n t r ( z ) = ミニ k | | z − μ k | | 2 {\displaystyle d_{k-centr}(z)=\min _{k}||z-\mu _{k}||^{2}}
再構成方法 再構成手法は、事前知識と生成プロセスを利用して、データに最適な生成モデルを構築します。新しいオブジェクトは、生成モデルの状態に基づいて記述できます。OCCの再構成手法の例としては、k平均クラスタリング 、学習ベクトル量子化、自己組織化マップなどがあります。
アプリケーション
文書分類 基本的なサポートベクターマシン(SVM)のパラダイムは、正例と負例の両方を使用して学習されますが、研究によると、正例のみ を使用することには多くの正当な理由があることが示されています。SVMアルゴリズムを正例のみを使用するように変更すると、そのプロセスは単一クラス分類とみなされます。この種の分類がSVMパラダイムにとって有用であることが証明される可能性のある状況の1つは、ユーザーの閲覧履歴のみに基づいてWebブラウザの関心のあるサイトを特定しようとする場合です。
生物医学研究 単一クラス分類は、他のクラスのデータを取得することが困難または不可能な場合が多い生物医学研究において特に有用です。生物医学データを研究する場合、2クラス分類を実行するために必要な第2クラスのラベル付きデータセットを取得することは困難または高価になる場合があります。The Scientific World Journal の研究では、典型性アプローチは、あらゆる種類のデータセット (連続、離散、または名義) に適用できるため、生物医学データの分析に最も有用であることがわかりました。[ 24 ] 典型性アプローチは、データを調べて新しいまたは既存のクラスターに配置することによってデータをクラスタリングすることに基づいています。[ 25 ] 生物医学研究の単一クラス分類に典型性を適用するには、新しい観測ごとに、y 0 \displaystyle y_0}} 、ターゲットクラスと比較されます。C {\displaystyle C} 外れ値または対象クラスのメンバーとして識別される。[ 24 ]
教師なし概念ドリフト検出 1クラス分類は、教師なし概念ドリフト検出と類似点があり、どちらも未知のデータが初期データと同様の特性を共有しているかどうかを識別することを目的としています。概念は、データが抽出される固定確率分布と呼ばれます。教師なし概念ドリフト検出では、クラスラベルを使用せずにデータ分布が変化するかどうかを検出することが目標です。1クラス分類では、データの流れは重要ではありません。未知のデータは、初期概念からのものであるかどうかにかかわらず、その特性に応じて、典型的または外れ値として分類されます。しかし、教師なしドリフト検出はデータの流れを監視し、大きな変化や異常がある場合はドリフトを知らせます。教師なし概念ドリフト検出は、1クラス分類の連続形式として識別できます。[ 26 ] 1クラス分類器は、概念ドリフトを検出するために使用されます。[ 27 ]
参考文献 ↑ Oliveri P (2017年8月)「食品分析化学におけるクラスモデリング:開発、サンプリング、最適化、検証の問題 - チュートリアル」Analytica Chimica Acta . 982 : 9–19 . Bibcode : 2017AcAC..982....9O . doi : 10.1016/j.aca.2017.05.013 . hdl : 11567/881059 . PMID 28734370 . ↑ Japkowicz N 、Myers C 、Gluck M (1995)。「分類への新規性検出アプローチ」。pp. 518–523。CiteSeerX 10.1.1.40.3663 。 ↑ Japkowicz N (1999). Concept-Learning in the Absence of Counter-Examples: An Autoassociation-Based Approach to Classification (Thesis). Rutgers University. ↑ Japkowicz N (2001). "フィードフォワードニューラルネットワークによる教師ありバイナリ学習と教師なしバイナリ学習の比較" (PDF) . Machine Learning . 42 : 97– 122. doi : 10.1023/A:1007660820062 . S2CID 7298189 . ↑ Petsche T、Marcantonio A、Darken C、Hanson S、Kuhn G、Santoso I (1996)。 「誘導電動機の故障予測のためのニューラルネットワーク自動連想器」 (PDF) 。NIPS。 1 2 Tax D (2001). 1クラス分類:反例がない場合の概念学習 (PDF) (博士論文)。オランダ:デルフト工科大学。 ↑ クレイマー、コビー (2004)。 「干し草 の 山の中の針」 。 第 21回国際機械学習会議 - ICML '04 。p. 26。doi : 10.1145/1015330.1015399。ISBN 978-1-58113-838-2 . S2CID 8736254 . ↑ Moya, M.; Hush, D. (1996). "Network constraints and multi- objective optimization for one-class classification". Neural Networks . 9 (3): 463– 474. doi : 10.1016/0893-6080(95)00120-4 . ↑ Rodionova OY、Oliveri P 、 Pomerantsev AL ( 2016-12-15)。「1クラス分類への厳密かつ準拠したアプローチ」。Chemometrics and Intelligent Laboratory Systems。159 : 89–96。doi : 10.1016 / j.chemolab.2016.10.002。hdl : 11567/864539 。 ↑ Zineb, Noumir; Honeine, Paul; Richard, Cedue (2012). 「単純な単一クラス分類手法について」. IEEE International Symposium on Information Theory Proceedings . IEEE, 2012. ↑ Khan, Shehroz S.; Madden, Michael G. (2010). "A Survey of Recent Trends in One Class Classification". In Coyle, Lorcan; Freyne, Jill (eds.). Artificial Intelligence and Cognitive Science . Lecture Notes in Computer Science. Vol. 6206. Springer Berlin Heidelberg. pp. 188–197 . doi : 10.1007/978-3-642-17080-5_21 . hdl : 10379/1472 . ISBN 978-3-642-17080-5 . S2CID 36784649 . ↑ Liu, Bing (2007). Web Data Mining . Springer. pp. 165–178 . ↑ Bing Liu; Wee Sun Lee; Philip S. Yu & Xiao-Li Li (2002). テキスト文書の部分的教師あり分類 . ICML. pp. 8–12 . ↑ Hwanjo Yu; Jiawei Han; Kevin Chen-Chuan Chang (2002). PEBL: SVM を使用した Web ページ分類のためのポジティブ例に基づく学習 。ACM SIGKDD。 ↑ Xiao-Li Li & Bing Liu (2003). ポジティブデータとラベルなしデータを用いたテキスト分類の学習 . IJCAI. ↑ Minh Nhut Nguyen; Xiao-Li Li & See-Kiong Ng (2011). Positive Unlabeled Learning for Time Series Classification . IJCAI. ↑ 彭楊;シャオリー・リー;メイ・ジャンピン。 Chee-Keong Kwoh と See-Kiong Ng (2012)。 疾患遺伝子同定のためのポジティブ非標識学習 。バイオインフォマティクス、第 28 巻(20)。 ↑ Bugnon, LA; Yones, C.; Milone, DH & Stegmayer, G. (2020). "ゲノムワイドなpre-miRNAの発見:機械学習に基づく最近のアプローチの比較". Oxford Bioinformatics . 22 (3). doi : 10.1093/bib/bbaa184 . PMID 32814347 . ↑ Li, W.; Guo, Q.; Elkan, C. (2011年2月). "リモートセンシングデータの1クラス分類のための正値およびラベルなし学習アルゴリズム". IEEE Transactions on Geoscience and Remote Sensing . 49 (2): 717–725 . Bibcode : 2011ITGRS..49..717L . doi : 10.1109/TGRS.2010.2058578 . ISSN 0196-2892 . S2CID 267120 . ↑ クリストファー・M・ビショップ、ニューラルコンピューティング教授 クリストファー・M(1995年11月23日)。 パターン認識のためのニューラルネットワーク 。クラレンドン・プレス 。ISBN 978-0-19-853864-6 。↑ Ullman, Neil R (2017-01-01). 初等統計学 。 ↑ 「応用数学入門」 。SIAM Bookstore 。 2019年4月29日 取得 。 ↑ イプマ、アレクサンダー。ロバート・PW・デュイン(1998年)。 「ドメイン近似のためのオブジェクトをサポート」。ニクラッソン、ラースでは。ボーデン、ミカエル。トム・ジームケ(編)。 アイカン98 。ニューラル コンピューティングの展望。スプリンガーロンドン。 pp. 719–724 。 土井 : 10.1007/978-1-4471-1599-1_110 。 ISBN 978-1-4471-1599-1 。1 2 Irigoien I 、Sierra B、Arenas C (2014)。 「医療 データ への 単一クラス分類手法の適用に向けて」 。TheScientificWorldJournal。2014 730712。doi : 10.1155 / 2014 / 730712。PMC 3980920。PMID 24778600 。 ↑ Irigoien I 、Arenas C (2008年7月)。「INCA:クラスター数の推定と非定型単位の識別のための新しい統計量」 。Statistics in Medicine。27 ( 15 ) : 2948–73。doi : 10.1002 / sim.3143。PMID 18050154。S2CID 24791212 。 ↑ Gözüaçık, Ömer; Can, Fazli (2020年11月). 「進化するデータストリームにおける暗黙のドリフト検出のためのワンクラス分類器を用いた概念学習」. Artificial Intelligence Review . 54 (5): 3725–3747 . doi : 10.1007/s10462-020-09939-x . hdl : 11693/77042 . S2CID 229506136 . ↑ Krawczyk, Bartosz; Woźniak, Michał (2015). "概念ドリフトのあるデータストリームのための増分学習と忘却を備えたワンクラス分類器" . Soft Computing . 19 (12): 3387– 3400. doi : 10.1007/s00500-014-1492-5 . S2CID 207011971 .