Loading article…
モジュラーニューラルネットワークは、コホモロジー理論のコホモロジー構造などの何らかの中間器によって調整される一連の独立したニューラルネットワークによって特徴付けられる人工ニューラルネットワークです。各独立したニューラルネットワークはモジュールとして機能し、ネットワークが実行しようとするタスクのサブタスクを達成するために個別の入力に対して動作します。 [ 1 ]中間器は各モジュールの出力を受け取り、それらを処理してネットワーク全体の出力を生成します。中間器はモジュールの出力のみを受け取り、モジュールに応答したり、その他の方法でシグナルを送ったりすることはありません。また、モジュール同士も相互作用しません。
人工ニューラルネットワークの研究が進むにつれて、人工ニューラルネットワークが生物学的着想に基づき、脳に見られるセグメンテーションとモジュール化を模倣し続けることは適切である。たとえば、脳は視覚知覚という複雑なタスクを多くのサブタスクに分割する。[ 2 ]視床と呼ばれる脳の一部には外側膝状体（LGN）があり、これは色とコントラストという視覚の主要な2つの要素を別々に処理する層に分かれている。[ 3 ] LGNは各要素を並列処理した後、結果を別の領域に渡して結果をまとめる。
視覚など、脳が処理する一部のタスクは、階層的なサブネットワークを利用している。しかし、これらの個別のプロセスを何らかの中間的な要素が結びつけているかどうかは明らかではない。むしろ、タスクがより抽象的になるにつれて、モジュール間の通信が行われるようになり、これはモジュール型ニューラルネットワークモデルとは異なる。
単一の大きなネットワークは任意のタスクを割り当てることができますが、モジュール型ネットワークでは、各モジュールに特定のタスクを割り当て、設計者によって特定の方法で他のモジュールに接続する必要があります。視覚の例では、脳は（学習ではなく）進化して外側膝状体（LGN）を形成しました。場合によっては、設計者は生物学的モデルに従うことを選択するかもしれません。また、他のモデルの方が優れている場合もあります。結果の質は、設計の質に左右されます。
モジュール型ニューラルネットワークは、単一の大きくて扱いにくいニューラルネットワークを、より小さく、管理しやすい可能性のあるコンポーネントに分割します。[ 1 ]一部のタスクは、単一のニューラルネットワークでは処理できないほど大規模です。モジュール型ニューラルネットワークの利点は次のとおりです。
ネットワークにノードが追加されるにつれて、ニューロン（ノード）間の接続数は2乗に比例して増加します。計算時間はノード数とその接続数に依存し、ノード数が増加すると処理時間に大きな影響が出ます。個々のモジュールに特定のサブタスクを割り当てることで、必要な接続数を減らすことができます。
複数のパラメータをモデル化しようとする大規模なニューラルネットワークは、新しいデータが既存の接続を変更したり、単に混乱を招いたりする可能性があるため、干渉の影響を受けやすい。各モジュールは独立して学習させることができ、より単純なタスクをより正確に習得できる。つまり、学習アルゴリズムと学習データをより迅速に実装できるということだ。
大規模なニューラルネットワークは、生物学的なものか人工的なものかにかかわらず、そのノードのいずれかにおける干渉や障害に対して非常に脆弱である。サブタスクを分割することで、障害や干渉の診断がはるかに容易になり、各サブネットワークが互いに独立しているため、他のサブネットワークへの影響も排除される。