融合適応共鳴理論

融合適応共鳴理論（融合ART）^{[1] [2]}は、複数のパターンチャネルにわたる認識カテゴリを学習するための、元の適応共鳴理論^[3]モデルとして知られる自己組織化ニューラルネットワークの一般化です。融合ARTMAPに関する別の研究ストリーム^{[4] [5]}があり、これは、ART間マップフィールドによって接続された2つのファジーARTモジュールで構成されるファジーARTMAPを、複数のARTモジュールで構成される拡張アーキテクチャに拡張します。

Fusion ARTは、多数のニューラルモデル設計を統合し、無数の学習パラダイム、特に教師なし学習、教師あり学習、強化学習、マルチモーダル学習、シーケンス学習をサポートしています。さらに、ドメイン知識の統合、^[6]メモリ表現、^{[7] [8]}および高レベル認知のモデリングのためのさまざまな拡張機能が開発されています。

フュージョンARTは、スティーブン・グロスバーグとゲイル・A・カーペンターが開発した適応共鳴理論（ART）^{[3] [9]}モデルを、単一のパターンフィールドから複数のパターンチャネルへと自然に拡張したものです。オリジナルのARTモデルは、入力パターンに応じて認識ノードの教師なし学習を実行しますが、フュージョンARTは、マルチモーダルパターンチャネル間で同時にマルチチャネルマッピングをオンラインかつ増分的に学習します。

Fusion ARTは、双方向の条件付き経路を介して固定数（K）のパターンチャネルまたは入力フィールドに接続されたカテゴリフィールドで構成されるマルチチャネルアーキテクチャ（以下を参照）を採用しています。このモデルは、適応共鳴理論（ART）、適応共鳴連想マップ（ARAM） ^[10]、学習と認知のための融合アーキテクチャ（FALCON）^[11]など、過去数十年にわたって幅広い機能とアプリケーション向けに開発された多数のネットワーク設計を統合しています。 ${\displaystyle F_{2}}$${\displaystyle F_{1}^{c1},\dots ,F_{1}^{cK}}$

それぞれがパターン チャネルで提示される一連のマルチモーダル パターンが与えられた場合、融合 ART パターン エンコーディング サイクルは、以下に説明するように、コード アクティベーション、コード競合、アクティビティ読み出し、テンプレート マッチング、テンプレート学習という 5 つの主要な段階で構成されます。

• コードのアクティベーション:入力フィールドごとに 1 つの入力アクティビティ ベクトルが与えられ、入力パターンと対応する重みベクトル間の全体的な類似性の組み合わせに基づいて各ノードjの選択関数が計算されます。${\displaystyle {\vec {I}}^{ck}}$${\displaystyle くそったれ$${\displaystyle T_{j}}$${\displaystyle F_{2}}$ ${\displaystyle {\vec {w}}_{j}^{ck}}$
• コード競争:コード競争プロセスが続き、選択関数の値が最高のノードが特定されます。勝者は、すべてのノードの中で最大値であるJでインデックス付けされます。これは、勝者総取り戦略を示しています。${\displaystyle F_{2}}$${\displaystyle T_{j}}$${\displaystyle F_{2}}$
• アクティビティの読み出し:メモリの呼び出し中に、選択されたノードJ は入力フィールドへの重みベクトルの読み出しを実行します。${\displaystyle F_{2}}$${\displaystyle くそったれ$
• テンプレート マッチング:アクティビティの読み取りが安定し、ノードJ を学習に使用できるようになる前に、テンプレート マッチング プロセスによって、ノードJの重みテンプレートがそれぞれの入力パターンに十分近いかどうかがチェックされます。具体的には、各チャネルkについて、選択されたノードJの一致関数がその警戒基準を満たす場合に共鳴が発生します。警戒制約のいずれかに違反すると、ミスマッチ リセットが発生し、入力プレゼンテーションの期間中、選択関数の値が0 に設定されます。一致追跡プロセスを使用すると、各入力プレゼンテーションの開始時に、各チャネルckの警戒パラメーターがベースライン警戒に等しくなります。ミスマッチ リセットが発生すると、すべてのパターン チャネルの警戒が同時に増加し、そのうちの 1 つが対応する一致関数よりもわずかに大きくなり、リセットが発生します。次に、検索プロセスによって、共鳴が達成されるまで、修正された警戒基準に基づいて別のノードJ を選択します。 ${\displaystyle T_{J}}$${\displaystyle F_{2}}$
• テンプレート学習:共鳴が発生すると、各チャネルckの重みベクトルが学習ルールに従って変更され、入力パターンに近づきます。学習用にコミットされていないノードが選択されると、コミットされ、新しいコミットされていないノードがフィールドに追加されます。このように、Fusion ART は入力パターンに応じてネットワーク アーキテクチャを動的に拡張します。${\displaystyle {\vec {w}}_{J}^{ck}}$${\displaystyle F_{2}}$

上で説明したネットワーク ダイナミクスは、さまざまな学習操作をサポートするために使用できます。以降のセクションでは、従来は別個だったさまざまな学習タスクに融合 ART を使用する方法を示します。

単一のパターン チャネルを使用すると、融合 ART アーキテクチャは元の ART モデルに縮小されます。選択された警戒値 ρ を使用して、ART モデルは、入力パターンの受信ストリームに応答して、認識ノードのセットを継続的に学習します。フィールド内の各認識ノードは、パターン セットの主要な特性を表すテンプレート パターンをエンコードすることを学習します。ART は、パターンのグループ化を発見するための教師なし学習のコンテキストで広く使用されています。 ${\displaystyle F_{2}}$

複数のパターン チャネル間でパターン コーディングを同期することにより、融合 ART は、異なるパターン空間間で連想マッピングをエンコードすることを学習します。2 つのパターン チャネルを持つ融合 ART の特定のインスタンスは、適応共鳴連想マップ (ARAM) と呼ばれ、1 つのパターン空間から別のパターン空間への多次元の教師ありマッピングを学習します。ARAM システムは、入力フィールド、出力フィールド、およびカテゴリ フィールドで構成されます。 に提示される特徴ベクトルのセットと、に提示される対応するクラス ベクトルが与えられると、ARAM は、主要な特徴の組み合わせをそれぞれのクラスに関連付ける予測モデル ( の認識ノードによってエンコードされる) を学習します。 ${\displaystyle F_{1}^{a}}$${\displaystyle F_{1}^{b}}$${\displaystyle F_{2}}$${\displaystyle F_{1}^{a}}$${\displaystyle F_{1}^{b}}$${\displaystyle F_{2}}$

ファジーART演算に基づくファジーARAMは、個人プロファイリング、^[12]、文書分類、^[13]、パーソナライズされたコンテンツ管理、^[14]、DNA遺伝子発現解析^{[15]など、数多くの機械学習タスクにうまく適用されてきました。多くのベンチマーク実験で、ARAMは、C4.5、バックプロパゲーションニューラルネットワーク、} K近傍法、サポートベクターマシンなど、多くの最先端の機械学習システムよりも優れた予測性能を実証しています。

学習中、融合 ART は複数のチャネルにわたる入力パターンの認識カテゴリを作成します。学習中に融合 ART が発見する知識は、記号ルールベースの表現と互換性があります。具体的には、カテゴリ ノードによって学習された認識カテゴリは、1 つのパターン チャネルの入力属性 (前提) のセットを別のチャネルの出力属性 (結果) の互いに素なセットにマッピングする IF-THEN ルールのクラスと互換性があります。この互換性により、増分学習プロセスのどの時点でも、IF-THEN ルールの形式の指示を融合 ART システムの認識カテゴリに簡単に変換できます。ルールは、 IF 句と THEN 句の属性がAND関係にあるという意味で結合的です。明示的な指示を通じてドメイン知識で融合 ART ネットワークを拡張すると、学習効率と予測精度が向上します。 ${\displaystyle F_{2}}$

融合ARTルール挿入戦略は、ドメイン知識の挿入、改良、抽出を実行するARTMAPの一般化であるCascade ARTMAPで使用される戦略に似ています。^[16]直接的な知識挿入の場合、各命令（ルール）のIF句とTHEN句は、それぞれベクトルAとBのペアに変換されます。派生したベクトルペアは、融合ARTネットワークに挿入するためのトレーニングパターンとして使用されます。ルール挿入中、警戒パラメータは1に設定され、各個別のルールが1つのカテゴリノードによってエンコードされるようにします。

強化学習は、自律システムが環境から受信した強化信号に基づいて動作を調整することを学習するパラダイムです。FALCON (学習と認知のための融合アーキテクチャ) として知られる融合 ART のインスタンスは、状態、アクション、報酬を含むマルチモーダル入力パターン全体のマッピングを、オンラインかつ増分的に同時に学習します。他の ART ベースの強化学習システムと比較すると、FALCON は、個別の強化学習モジュールやQ 値テーブルが実装されていないという意味で、真に統合されたソリューションを提供します。競合コーディングを計算の基本原理として使用することで、ネットワーク ダイナミクスは、教師なし学習、教師あり学習、強化学習など、いくつかの学習パラダイムを網羅します。

FALCONは3チャネルアーキテクチャを採用しており、カテゴリフィールドと3つのパターンフィールド（現在の状態を表す感覚フィールド、行動を表す運動フィールド、報酬値を表すフィードバックフィールド）で構成されています。TD-FALCONとして知られるFALCONネットワークのクラス^[11]は、時間差分（TD）法を組み込んで、特定の状態sで特定の行動aを取ることの良し悪しを示す価値関数Q(s,a)を推定し学習します。 ${\displaystyle F_{2}}$${\displaystyle F_{1}^{c1}}$${\displaystyle F_{1}^{c2}}$${\displaystyle F_{1}^{c3}}$

TD-FALCON の一般的な感知・行動・学習アルゴリズムをまとめます。現在の状態sが与えられると、FALCON ネットワークは、対応する状態ベクトルと行動ベクトルに基づいて、行動セット A 内の各利用可能な行動aを実行する価値を予測するために使用されます。次に、価値関数は行動選択戦略 (ポリシーとも呼ばれる) によって処理され、行動が選択されます。行動を実行した後に環境からフィードバック (ある場合) を受信すると、TD 式を使用して、現在の状態で選択された行動を実行するための Q 値の新しい推定値が計算されます。次に、新しい Q 値は、FALCON が現在の状態と選択された行動と推定値との関連を学習するためのティーチング信号 (報酬ベクトル R として表される) として使用されます。 ${\displaystyle {\vec {s}}}$${\displaystyle {\vec {a}}}$