プーリング層

最大プーリング（MaxPool）は、特徴マップの空間次元を削減するために、CNNで一般的に使用されます。

定義する$${\displaystyle \mathrm {MaxPool} (x|f,s)_{0,0,0}=\max(x_{0:f-1,0:f-1,0})}$$どこ${\displaystyle 0:f-1}$範囲を意味する${\displaystyle 0,1,\dots ,f-1}$オフバイワンエラーを避ける必要があることに注意してください。次の入力は$${\displaystyle \mathrm {MaxPool} (x|f,s)_{1,0,0}=\max(x_{s:s+f-1,0:f-1,0})}$$などなど。受容野は${\displaystyle y_{i,j,c}}$は${\displaystyle x_{is+f-1,js+f-1,c}}$つまり一般的には、$${\displaystyle \mathrm {MaxPool} (x|f,s)_{i,j,c}=\mathrm {max} (x_{is:is+f-1,js:js+f-1,c})}$$水平フィルタと垂直フィルタのサイズとストライドが異なる場合、一般的に、$${\displaystyle \mathrm {MaxPool} (x|f,s)_{i,j,c}=\mathrm {max} (x_{is_{H}:is_{H}+f_{H}-1,js_{W}:js_{W}+f_{W}-1,c})}$$より簡潔に言うと、${\displaystyle y_{k}=\max(\{x_{k'}|k'{\text{ in the receptive field of }}k\})}$。

もし${\displaystyle H}$表現できない${\displaystyle ks+f}$どこ${\displaystyle k}$が整数の場合、出力テンソルの境界上のエントリを計算するために、最大プーリングはテンソルから変数を入力として取り込もうとします。この場合、存在しない変数の処理方法は、右図に示すパディング条件によって異なります。

グローバル最大プーリング（GMP）は、出力テンソルの形状が特定の種類の最大プーリングです。${\displaystyle \mathbb {R} ^{C}}$そして受容野は${\displaystyle y_{c}}$すべて${\displaystyle x_{0:H,0:W,c}}$つまり、各チャネル全体における最大値を取るということです。これは、CNNの分類ヘッドにおける最終の全結合層の直前でよく使用されます。

平均プーリング（AvgPool）も同様に定義される。$${\displaystyle \mathrm {AvgPool} (x|f,s)_{i,j,c}=\mathrm {average} (x_{is:is+f-1,js:js+f-1,c})={\frac {1}{f^{2}}}\sum _{k\in is:is+f-1}\sum _{l\in js:js+f-1}x_{k,l,c}}$$グローバル平均プーリング（GAP）は、GMPと同様に定義されます。これは、Network-in-Networkで最初に提案されました。^{[ 2 ]} GMPと同様に、CNN分類ヘッドの最終全結合層の直前によく使用されます。

最大プーリングと平均プーリングには、いくつかの補間法が存在する。

混合プーリングは、最大プーリングと平均プーリングの線形和です。^{[ 3 ]}つまり、$${\displaystyle \mathrm {MixedPool} (x|f,s,w)=w\mathrm {MaxPool} (x|f,s)+(1-w)\mathrm {AvgPool} (x|f,s)}$$どこ${\displaystyle w\in [0,1]}$これは、ハイパーパラメータ、学習可能なパラメータ、または毎回新たにランダムにサンプリングされるパラメータのいずれかです。

Lpプーリングは平均プーリングに似ていますが、平均の代わりにLpノルム平均を使用します。$${\displaystyle y_{k}=\left({\frac {1}{N}}\sum _{k'{\text{ in the receptive field of }}k}|x_{k'}|^{p}\right)^{1/p}}$$どこ${\displaystyle N}$は受容野の大きさであり、${\displaystyle p\geq 1}$はハイパーパラメータです。すべての活性化が非負の場合、平均プーリングは次のケースになります。${\displaystyle p=1}$、最大プーリングは、${\displaystyle p\to \infty }$平方根プーリングは、${\displaystyle p=2}$[ ^{4 ]​}

確率的プーリングはランダムな活性化をサンプリングする${\displaystyle x_{k'}}$受容野から確率で${\displaystyle {\frac {x_{k'}}{\sum _{k''}x_{k''}}}}$期待値の平均プーリングと同じです。^{[ 5 ]}

ソフトマックスプーリングはマックスプーリングに似ていますが、ソフトマックスを使用します。${\displaystyle {\frac {\sum _{k'}e^{\beta x_{k'}}x_{k'}}{\sum _{k''}e^{\beta x_{k''}}}}}$どこ${\displaystyle \beta >0}$平均プーリングは、${\displaystyle \beta \downarrow 0}$、最大プーリングは、${\displaystyle \beta \uparrow \infty }$^{[ 4 ]}

ローカル重要度に基づくプーリングは、ソフトマックスプーリングを一般化して、${\displaystyle {\frac {\sum _{k'}e^{g(x_{k'})}x_{k'}}{\sum _{k''}e^{g(x_{k''})}}}}$どこ${\displaystyle g}$は学習可能な関数である。^{[ 6 ]}

空間ピラミッドプーリングは、ピラミッド構造で最大プーリング（またはその他の形式のプーリング）を適用します。つまり、グローバル最大プーリングを適用し、次に画像を4等分し、次に16等分するなどして最大プーリングを適用します。その後、結果を連結します。これはグローバルプーリングの階層形式であり、グローバルプーリングと同様に、分類ヘッドの直前によく使用されます。^{[ 7 ]}

関心領域プーリング（RoIプーリングとも呼ばれる）は、物体検出のためのR-CNNで使用される最大プーリングの変種である。 ^{[ 8 ]}任意のサイズの入力行列を受け取り、固定サイズの出力行列を出力するように設計されている。

共分散プーリングはベクトルの共分散行列を計算します$${\displaystyle \{x_{k,l,0:C-1}\}_{k\in is:is+f-1,l\in js:js+f-1}}$$そして平らにされ${\displaystyle C^{2}}$次元ベクトル${\displaystyle y_{i,j,0:C^{2}-1}}$グローバル共分散プーリングは、グローバル最大プーリングと同様に使用されます。平均プーリングは、1次統計量である平均を計算し、共分散は2次統計量であるため、共分散プーリングは「2次プーリング」とも呼ばれます。これは、より高次のプーリングに一般化できます。^{[ 9 ] [ 10 ]}

ブラープーリングとは、ダウンサンプリングの前にブラーリング手法を適用することを意味します。たとえば、Rect-2 ブラープーリングとは、平均プーリングを次の値で適用することを意味します。${\displaystyle f=2,s=1}$次に、2 ピクセルごとに (同一性) を取得します。${\displaystyle s=2}$[ ^{11 ]​}

まず最初に設定しました

${\displaystyle \mathbf {y} ={\frac {\mathbf {X} \mathbf {p} }{\Vert \mathbf {p} \Vert }}}$

どこ${\displaystyle \mathbf {p} }$は学習可能な射影ベクトルです。${\displaystyle \mathbf {p} }$各グラフノードに対してスカラー射影値を計算します。

トップkプーリング層^{[ 17 ]}は、次のように定式化できる。

${\displaystyle \mathbf {X} '=(\mathbf {X} \odot {\text{sigmoid}}(\mathbf {y} ))_{\mathbf {i} }}$

${\displaystyle \mathbf {A} '=\mathbf {A} _{\mathbf {i} ,\mathbf {i} }}$

どこ${\displaystyle \mathbf {i} ={\text{top}}_{k}(\mathbf {y} )}$は、射影スコアが上位 k 個のノードのサブセットです。${\displaystyle \odot }$は要素ごとの行列乗算を表し、${\displaystyle {\text{sigmoid}}(\cdot )}$はシグモイド関数です。言い換えれば、射影スコアが上位 k 個のノードが新しい隣接行列に保持されます。${\displaystyle \mathbf {A} '}$.${\displaystyle {\text{sigmoid}}(\cdot )}$演算により投影ベクトルが作成される${\displaystyle \mathbf {p} }$バックプロパゲーションによって学習可能であり、そうでなければ離散的な出力を生成する。^{[ 17 ]}

まず最初に設定しました

${\displaystyle \mathbf {y} ={\text{GNN}}(\mathbf {X} ,\mathbf {A} )}$

どこ${\displaystyle {\text{GNN}}}$は、汎用的な順列同変GNN層（例：GCN、GAT、MPNN）です。

自己注意プーリング層^{[ 18 ]}は、次のように定式化できる。

${\displaystyle \mathbf {X} '=(\mathbf {X} \odot \mathbf {y} )_{\mathbf {i} }}$

${\displaystyle \mathbf {A} '=\mathbf {A} _{\mathbf {i} ,\mathbf {i} }}$

どこ${\displaystyle \mathbf {i} ={\text{top}}_{k}(\mathbf {y} )}$は、射影スコアが上位 k 個のノードのサブセットです。${\displaystyle \odot }$は要素ごとの行列乗算を表します。

自己注意プーリング層は、トップkプーリング層の拡張と見なすことができます。トップkプーリングとは異なり、自己注意プーリングで計算される自己注意スコアは、グラフの特徴とグラフのトポロジーの両方を考慮します。