データ拡張は、不完全なデータから 最尤推定を 可能にする統計的手法です。[ 1 ] [ 2 ] データ拡張はベイズ分析 において重要な応用があり、[ 3 ] 機械学習モデルをトレーニングする際の過学習を 減らすために機械学習 で広く使用されています。 [ 4 ] これは、既存データのわずかに変更された複数のコピーでモデルをトレーニングすることによって実現されます。
従来の機械学習のための合成オーバーサンプリング技術 合成少数派オーバーサンプリング技術(SMOTE)は、機械学習における不均衡なデータセット に対処するために使用される手法です。このようなデータセットでは、異なるクラスのサンプル数が大きく異なり、モデルのパフォーマンスに偏りが生じます。たとえば、健康な個人を表すサンプルが 90 個、特定の疾患を持つ個人を表すサンプルが 10 個しかない医療診断データセットでは、従来のアルゴリズムでは少数派クラスを正確に分類することが困難になる可能性があります。SMOTE は、少数派クラスの合成サンプルを生成することでデータセットのバランスを再調整します。たとえば、多数派クラスに 100 個のサンプルがあり、少数派クラスに 10 個のサンプルがある場合、SMOTE は、少数派クラスのサンプルとその最近傍をランダムに選択し、これらの近傍を結ぶ線分に沿って新しいサンプルを生成することで合成サンプルを作成できます。このプロセスにより、少数派クラスの表現が増加し、モデルのパフォーマンスが向上します。[ 5 ]
画像分類のためのデータ拡張 1990年代半ばに畳み込みニューラルネットワークが 大規模化すると、特に全体のデータセットの一部を後々のテストのために残しておく必要があることを考慮すると、使用するデータが不足しました。既存のデータをアフィン変換 で摂動させて同じラベルの新しい例を作成する方法が提案され、[ 6 ] 2003年にいわゆる弾性歪みが補完され、[ 7 ] 2010年代にはこの技術が広く使用されるようになりました。[ 8 ] データ拡張はCNNのパフォーマンスを向上させ、CNNプロファイリング攻撃に対する対策として機能します。[ 9 ]
データ拡張は画像分類において基本的なものとなり、トレーニングデータセットの 多様性を高めてモデルの汎化性能とパフォーマンスを向上させています。この手法の進化により、幾何学的変換、色空間調整、ノイズ注入など、幅広い技術が導入されてきました。[ 10 ]
幾何学的変換は、画像の空間特性を変化させて、さまざまな視点、向き、スケールをシミュレートします。一般的な手法には以下のようなものがあります。
アフィン変換 回転 :モデルがさまざまな角度から物体を認識できるように、画像を特定の角度で回転させます。反射 :画像を水平方向または垂直方向に反転させることで、向きに変化を与える。翻訳 :モデルに位置不変性を教えるために、画像をさまざまな方向に移動させる。スケーリング せん断マッピング トリミング :画像の一部を削除して、特定の特徴に焦点を当てたり、より近くから見たような効果をシミュレートしたりすること。弾性歪み [ 7 ] 同一クラス内での モーフィング :同一クラスに属する2つの画像間でモーフィング技術を適用して新しいサンプルを生成し、それによってクラス内の多様性を高める。[ 11 ]
色空間変換は、照明、彩度 、コントラストの変動に対応して、画像の色特性を変更します。その手法には以下が含まれます。
明るさ調整 :画像の明るさを変化させることで、さまざまな照明条件をシミュレートします。コントラスト調整 :コントラストを変更することで、モデルがさまざまな鮮明度レベルの物体を認識できるようにします。彩度調整 :彩度を変更して、色の濃淡が異なる画像に対応できるようにモデルを準備します。カラージッター :明るさ、コントラスト、彩度、色相を ランダムに調整することで、色のばらつきを生み出します。
ノイズ注入 画像にノイズを注入することで、現実世界の不完全さをシミュレートし、モデルに無関係な変動を無視するように学習させることができます。その手法には以下が含まれます。
ガウスノイズ :ガウスノイズ を加えることで、センサーノイズや粒状感を再現できます。ソルト&ペッパーノイズ :黒または白のピクセル をランダムに導入することで、センサーのほこりやデッドピクセルを シミュレートします。
参考文献 ↑ Dempster, AP; Laird, NM; Rubin, DB (1977). "不完全データからの最尤推定法(EMアルゴリズムによる)" . Journal of the Royal Statistical Society. Series B (Methodological) . 39 (1): 1– 22. doi : 10.1111/j.2517-6161.1977.tb01600.x . 2022年10月10日のオリジナルからアーカイブ。 2024年8月28日 取得 。 ↑ ルービン、ドナルド (1987)。 「コメント:データ拡張による事後分布の計算」 。 米国統計学会誌 。82 (398)。doi : 10.2307 /2289460。JSTOR 2289460。 2024年8 月 7 日にオリジナルから アーカイブ 。 2024年8月28日 に取得 。 ↑ ジャックマン、サイモン (2009). ベイズ分析(社会科学向け ). ジョン・ワイリー・アンド・サンズ. p. 236. ISBN 978-0-470-01154-6 。↑ Shorten, Connor; Khoshgoftaar, Taghi M. (2019). "A survey on Image Data Augmentation for Deep Learning" . Mathematics and Computers in Simulation . 6 60. springer. doi : 10.1186/s40537-019-0197-0 . ↑ Wang, Shujuan; Dai, Yuntao; Shen, Jihong; Xuan, Jingxue (2021-12-15). "SMOTEアルゴリズムに基づく不均衡データの拡張と分類に関する研究" . Scientific Reports . 11 (1): 24039. Bibcode : 2021NatSR..1124039W . doi : 10.1038/s41598-021-03430-5 . ISSN 2045-2322 . PMC 8674253 . PMID 34912009 . ↑ Yann Lecun 他 ( 1995). 分類のための学習アルゴリズム: 手書き数字認識の比較 (会議論文) . World Scientific. pp. 261–276 . 2023 年 5 月 14 日 取得 . 1 2 Simard, PY; Steinkraus, D.; Platt, JC (2003). "視覚文書解析に適用される畳み込みニューラルネットワークのベストプラクティス".第 7 回国際文書 解析認識会議、2003年。議事録 。第1巻 。pp . 958–963。doi : 10.1109 /ICDAR.2003.1227801。ISBN 0-7695-1960-1 . S2CID 4659176 . ↑ Hinton, Geoffrey E.; Srivastava, Nitish; Krizhevsky, Alex; Sutskever, Ilya; Salakhutdinov, Ruslan R. (2012). "特徴検出器の共適応を防ぐことによるニューラルネットワークの改善". arXiv : 1207.0580 [ cs.NE ]. ↑ Cagli, Eleonora; Dumas, Cécile; Prouff, Emmanuel (2017). "Convolutional Neural Networks with Data Augmentation Against Jitter-Based Countermeasures: Profiling Attacks Without Pre-processing" . In Fischer, Wieland; Homma, Naofumi (eds.). Cryptographic Hardware and Embedded Systems – CHES 2017. Lecture Notes in Computer Science. Vol. 10529. Cham: Springer International Publishing. pp. 45–68 . doi : 10.1007/978-3-319-66787-4_3 . ISBN 978-3-319-66787-4 . S2CID 54088207 . ↑ Shorten, Connor; Khoshgoftaar, Taghi M. (2019-07-06). "A survey on Image Data Augmentation for Deep Learning" . Journal of Big Data . 6 (1): 60. doi : 10.1186/s40537-019-0197-0 . ISSN 2196-1115 . ↑ Ghorbel, Emna; Ghorbel, Faouzi (2024-06-01). "データ拡張:低サイズデータセットのための形状空間探索に基づく2D形状分類への応用" . Neural Computing and Applications . 36 (17): 10031– 10054. doi : 10.1007/s00521-024-09798-5 . ISSN 1433-3058 . ↑ Anicet Zanini, Rafael; Luna Colombini, Esther (2020). "パーキンソン病EMGデータ拡張とDCGANおよびスタイル転送によるシミュレーション" . Sensors . 20 (9): 2605. Bibcode : 2020Senso..20.2605A . doi : 10.3390/s20092605 . ISSN 1424-8220 . PMC 7248755 . PMID 32375217 . ↑ Wang, Fang; Zhong, Sheng-hua; Peng, Jianfeng; Jiang, Jianmin; Liu, Yan (2018). "深層畳み込みニューラルネットワークを用いた脳波に基づく感情認識のためのデータ拡張". MultiMedia Modeling . Lecture Notes in Computer Science. Vol. 10705. pp. 82–93 . doi : 10.1007/978-3-319-73600-6_8 . ISBN 978-3-319-73599-3 ISSN 0302-9743 ↑ Lotte, Fabien (2015). "振動活動に基づく脳コンピュータインターフェースにおける較正時間を最小化または抑制するための信号処理アプローチ" (PDF) . Proceedings of the IEEE . 103 (6): 871– 890. doi : 10.1109/JPROC.2015.2404941 . ISSN 0018-9219 . S2CID 22472204 . 2023-04-03 のオリジナルから アーカイブ (PDF) . 2022-11-05 に取得 . ↑ Freer, Daniel; Yang, Guang-Zhong (2020). "C-LSTM を用いた自己ペース運動イメージ分類のためのデータ拡張". Journal of Neural Engineering . 17 (1): 016041. Bibcode : 2020JNEng..17a6041F . doi : 10.1088/1741-2552/ab57c0 . hdl : 10044/1/75376 . ISSN 1741-2552 . PMID 31726440 . S2CID 208034533 . ↑ Tsinganos, Panagiotis; Cornelis, Bruno; Cornelis, Jan; Jansen, Bart; Skodras, Athanassios (2020). "手のジェスチャー認識のための表面筋電図のデータ拡張" . Sensors . 20 (17): 4892. Bibcode : 2020Senso..20.4892T . doi : 10.3390/s20174892 . ISSN 1424-8220 . PMC 7506981 . PMID 32872508 . ↑ Luo, Yun; Lu, Bao-Liang (2018). "条件付きWasserstein GANを用いた感情認識のためのEEGデータ拡張". 2018年IEEE医用生体工学会第40回年次国際会議(EMBC) . Vol. 2018. pp. 2535–2538 . doi : 10.1109/EMBC.2018.8512865 . ISBN 978-1-5386-3646-6 . PMID 30440924 . S2CID 53105445 . 1 2 Yang, Yang (2022). "相関ネットワークの剪定と拡張による風速予測:2段階の深層学習法". Renewable Energy . 198 (1): 267–282 . arXiv : 2306.01986 . Bibcode : 2022REne..198..267Y . doi : 10.1016/j.renene.2022.07.125 . ISSN 0960-1481 . S2CID 251511199 .