LeNet とAlexNetの 畳み込み、プーリング、および全結合層の比較(AlexNetの画像サイズは224×224×3ではなく227×227×3であるべきで、そうすれば計算が正しくなります。元の論文では異なる数値が示されていましたが、Teslaの元コンピュータビジョン責任者であるAndrej Karpathy氏は、227×227×3であるべきだと述べています(Alexが224×224×3にした理由を説明していないとのことです)。次の畳み込みは、ストライド4の11×11であるべきです。つまり、55×55×96(54×54×96ではなく)です。例えば、次のように計算されます。[(入力幅227 - カーネル幅11) / ストライド4] + 1 = [(227 - 11) / 4] + 1 = 55。カーネル出力は幅と同じ長さなので、その面積は55×55です。)深層学習 モデルにおけるレイヤーと は、モデルのアーキテクチャにおける構造またはネットワークトポロジーのことで、前のレイヤーから情報を受け取り、それを次のレイヤーに渡す役割を担います。
レイヤーの種類 最初のタイプの層は、全結合層 と も呼ばれる密 結合層[ 1 ] [ 2 ] [ 3 ] で、入力データの抽象的な表現に使用されます。この層では、ニューロンは前の層のすべてのニューロンに接続されます。多層パーセプトロン ネットワークでは、これらの層が積み重ねられます。
畳み込み層 [ 4 ]は 、一般的に画像解析タスクに使用されます。この層では、ネットワークがエッジ、テクスチャ、パターンを検出します。この層からの出力は、さらに処理するために全結合層に入力されます。参照:CNN モデル。
プーリング層 [ 5 ]は 、データ入力のサイズを縮小するために使用されます。
リカレント層は 、メモリ機能を備えたテキスト処理に使用されます。畳み込み層と同様に、リカレント層の出力は通常、さらなる処理のために全結合層に入力されます。参照: RNN モデル。[ 6 ] [ 7 ] [ 8 ]
正規化層は、 前の層からの出力データを調整して、均一な分布を実現します。これにより、スケーラビリティとモデル学習の効率が向上します。
隠れ層 とは、ニューラルネットワーク において入力層または出力層以外のすべての層のことです。
参考文献 ↑ "CS231n 視覚認識のための畳み込みニューラルネットワーク" . CS231n 視覚認識のための畳み込みニューラルネットワーク . 2016 年 5 月 10 日. 2021 年 4 月 27 日 取得 .全結合層: 全結合層のニューロンは、通常のニューラルネットワークに見られるように、前の層のすべての活性化と完全に接続されています。 ↑ 「全結合層」 . MATLAB . 2021年3月1日. 2021年 4月27日 取得 . 全結合層は、入力に重み行列を乗算し、バイアスベクトルを加算します。 ↑ Géron, Aurélien (2019). Hands-on machine learning with Scikit-Learn, Keras, and TensorFlow: concepts, tools, and techniques to build intelligent systems . Sebastopol, CA: O'Reilly Media, Inc. pp. 322–323 . ISBN 978-1-4920-3264-9 . OCLC 1124925244 . ↑ Habibi, Aghdam, Hamed (2017-05-30). 畳み込みニューラルネットワークの手引き:交通標識の検出と分類への実践的応用 。Heravi, Elnaz Jahani。スイス、チャム 。ISBN 978-3-319-57549-0 OCLC 987790957。 {{cite book}}: CS1 maint: 発行元が見つかりません (リンク) CS1 maint: 複数の名前: 著者リスト (リンク)↑ Zhang, Aston; Lipton, Zachary; Li, Mu; Smola, Alexander J. (2024). "7.5. プーリング" . ディープラーニング入門 . ケンブリッジ、ニューヨーク、ポートメルボルン、ニューデリー、シンガポール: ケンブリッジ大学出版局. ISBN 978-1-009-38943-3 。↑ Dupond, Samuel (2019). 「ニューラルネットワーク構造の最新の進歩に関する徹底的なレビュー」 . Annual Reviews in Control . 14 : 200–230 . ↑ アビオドゥン、オルデア・アイザック。ジャンタン、アマン。オモララ、アビオドゥン・エステル。ダダ、ケミ・ヴィクトリア。モハメド、ナチャート・アブデラティフ。アルシャド、フマイラ (2018-11-01)。 「人工ニューラル ネットワーク アプリケーションの最先端: 調査」 。 ヘリヨン 。 4 (11) e00938。 Bibcode : 2018Heliy...400938A 。 土井 : 10.1016/j.heliyon.2018.e00938 。 ISSN 2405-8440 。 PMC 6260436 。 PMID 30519653 。 ↑ Tealab, Ahmed (2018-12-01). "人工ニューラルネットワーク手法を用いた時系列予測:体系的レビュー" . Future Computing and Informatics Journal . 3 (2): 334– 340. doi : 10.1016/j.fcij.2018.10.003 . ISSN 2314-7288 .