畳み込み層

人工ニューラルネットワークにおいて、畳み込み層は入力に畳み込み演算を適用するネットワーク層の一種です。畳み込み層は畳み込みニューラルネットワーク（CNN）の主要な構成要素の1つです。CNNは画像、ビデオ、オーディオ、および一様並進対称性の特性を持つその他のデータに最も一般的に適用されるニューラルネットワークのクラスです。^[1]

畳み込み層における畳み込み演算では、小さなウィンドウ（カーネルまたはフィルターと呼ばれる）を入力データ全体にスライドさせ、カーネル内の値と各位置の入力との間のドット積を計算します。このプロセスにより、入力で検出された特徴を表す特徴マップが作成されます。 ^[2]

カーネルはフィルターとも呼ばれ、トレーニング プロセス中に学習される重みの小さな行列です。各カーネルは入力データ内の特定の特徴を検出する役割を担います。カーネルのサイズは、ネットワークの動作に影響を与えるハイパーパラメータです。

2D 入力と 2D カーネルの場合、2D 畳み込み演算は次のように表すことができます。ここで、およびはそれぞれカーネルの高さと幅です。 ${\displaystyle x}$${\displaystyle w}$$${\displaystyle y[i,j]=\sum _{m=0}^{k_{h}-1}\sum _{n=0}^{k_{w}-1}x[i+m,j+n]\cdot w[m,n]}$$${\displaystyle k_{h}}$${\displaystyle k_{w}}$

これは、nD 畳み込みにすぐに一般化されます。一般的に使用される畳み込みは、1D (オーディオとテキスト用)、2D (画像用)、および 3D (空間オブジェクトおよびビデオ用) です。

ストライドは、カーネルが入力データ上をどのように移動するかを決定します。ストライドが 1 の場合、カーネルは一度に 1 ピクセルずつシフトしますが、ストライドが大きい場合 (2 または 3 など)、畳み込み間の重複が少なくなり、生成される出力特徴マップが小さくなります。

パディングでは、入力データの端の周囲に余分なピクセルを追加します。パディングには、主に次の 2 つの目的があります。

• 空間次元の保持: パディングがない場合、各畳み込みによって特徴マップのサイズが縮小されます。
• 境界ピクセルの処理: パディングにより、畳み込みプロセスで境界ピクセルに同等の重要性が与えられるようになります。

一般的なパディング戦略は次のとおりです。

• パディングなし/有効なパディング。この戦略により、通常、出力が縮小されます。
• 同じパディング: 出力サイズが入力サイズと同じであることを保証する方法は、同じパディング戦略です。
• フルパディング: 各入力エントリが同じ回数だけ畳み込まれることを保証する方法は、フルパディング戦略です。

一般的なパディング アルゴリズムには次のものがあります。

• ゼロパディング: 入力の境界にゼロエントリを追加します。
• ミラー/反射/対称パディング: 入力配列を境界に反射します。
• 円形パディング: トーラスのように、入力配列を反対側の境界まで循環させます。

畳み込みで使用される正確な数値は複雑なので、詳細については(Dumoulin and Visin, 2018) ^[3]を参照してください。

上で説明した畳み込みの基本形式で、各カーネルが入力ボリューム全体に適用されます。

深さ方向分離可能畳み込みは、標準的な畳み込みを深さ方向畳み込みと点方向畳み込みの2つのステップに分けます。深さ方向分離可能畳み込みは、1つの標準的な畳み込みを2つの畳み込みに分解します。1つは各入力チャネルを個別にフィルタリングする深さ方向畳み込み、もう1つは深さ方向畳み込みの出力を結合する点方向畳み込み（畳み込み）です。この因数分解により、計算コストが大幅に削減されます。^[4]${\displaystyle 1\times 1}$

これは、2013年にGoogle Brainでのインターンシップ中に、収束速度とモデルサイズを改善するためにAlexNetのアーキテクチャバリエーションとしてローラン・シフレによって最初に開発されました。 ^[4]

膨張畳み込み、またはアトラス畳み込みはカーネル要素間にギャップを導入し、カーネルサイズを増やすことなくネットワークがより大きな受容野を捉えることを可能にする。^{[5] [6]}

転置畳み込みは、逆畳み込みまたは分数ストライド畳み込みとも呼ばれ、出力テンソルが入力テンソルよりも大きい畳み込みです。アップサンプリング用のエンコーダー/デコーダー アーキテクチャでよく使用されます。

ニューラルネットワークにおける畳み込みの概念は、生物の脳の視覚皮質からヒントを得たものである。1960年代にヒューベルとヴィーゼルが猫の視覚システムについて行った初期の研究は、人工畳み込みネットワークの基礎を築いた。^[7]

初期の畳み込みニューラルネットワークは、1969年に福島邦彦によって開発されました。哺乳類の視覚における畳み込みにヒントを得て、主に手作業で設計されたカーネルを持っていました。 ^[8] 1979年に彼はそれを改良してネオコグニトロンを開発しました。ネオコグニトロンは、教師なし学習（彼の用語では、「教師なしで学習する」ことによる自己組織化）によってすべての畳み込みカーネルを学習します。 ^{[9] [10]}

1998年にYann LeCunらはMNISTデータセットでトレーニングされた手書き数字認識のための初期の影響力のあるCNNアーキテクチャであるLeNet-5を発表しました。^[11]

（オルシャウゼン＆フィールド、1996）^{[12]は、哺乳類の}一次視覚皮質の単純な細胞が局所的で方向性のある帯域通過受容野を実装していることを発見しました。これは、自然シーンにスパース線形コードを当てはめることによって再現できます。これは後に、訓練されたCNNの最も低レベルのカーネルでも発生することがわかりました。^{[13] ：図3}

この分野は、より深いアーキテクチャの開発と大規模なデータセットおよび強力なGPUの利用可能性により、2010年代に復活しました。 2012年にAlex Krizhevskyらによって開発されたAlexNetは、現代のディープラーニングにおける触媒的な出来事でした。^[13]

• 畳み込みニューラルネットワーク
• プーリング層
• 機能学習
• ディープラーニング
• コンピュータービジョン