Loading article…
ニューラル トポロジーの進化的獲得( EANT / EANT2 ) は、人工ニューラル ネットワークのトポロジーと重みの両方を進化させる進化的 強化学習法です。これは、Angeline ら[1]および Stanley と Miikkulainen [2]の研究と密接に関連しています。Angeline らの研究と同様に、この方法では、進化戦略と進化プログラミング(現在 EANT2 では進化戦略の最も高度な形式であるCMA-ESを使用)に由来する一種のパラメトリック突然変異を使用し、そこでは適応ステップ サイズを使用してニューラル ネットワークの重みを最適化します。Stanley ( NEAT )の研究と同様に、この方法は進化のパスに沿って複雑性を増す最小限の構造から開始します。
EANT の神経進化への貢献
これら 2 つの特性を共有しているにもかかわらず、この方法には、神経進化に関する以前の研究とは異なる次の重要な特徴があります。
これは、同じ理論的枠組み内でニューラル ネットワークの直接エンコーディングと間接エンコーディングの両方を処理する共通遺伝的エンコーディング (CGE)と呼ばれる遺伝的エンコーディングを導入します。このエンコーディングには、進化するニューラル ネットワークに適した重要な特性があります。
- あらゆるタイプの有効な表現型ネットワークを表現できるという点で完全です。
- これは閉じています。つまり、すべての有効な遺伝子型は有効な表現型を表します。(同様に、エンコーディングは、構造突然変異や交差などの遺伝的演算子の下で閉じています。)
これらの特性は正式に証明されている。[3]
ニューラル ネットワークの構造と重みを進化させるために、構造の探索がより長い時間スケールで実行され (構造探索)、既存の構造の利用がより短い時間スケールで実行される (構造利用) 進化プロセスが使用されます。構造探索フェーズでは、開始点として使用される最初は最小限のネットワークに新しい構造を徐々に追加することにより、新しいニューラル構造が開発されます。構造利用フェーズでは、進化戦略を使用して、現在利用可能な構造の重みが最適化されます。
パフォーマンス
EANTは、二極バランス問題[4]やロボカップキープアウェイベンチマーク[5]などのベンチマーク問題でテストされています。すべてのテストで、EANTは非常に優れたパフォーマンスを発揮することがわかりました。さらに、EANTの新しいバージョンであるEANT2は、視覚サーボタスクでテストされ、NEATや従来の反復ガウス・ニュートン法よりも優れていることがわかりました。[6] さらに、分類問題での結果も含まれています[7]
参考文献
- ^ Peter J Angeline、Gregory M Saunders、Jordan B Pollack。リカレントニューラルネットワークを構築する進化的アルゴリズム。IEEE Transactions on Neural Networks、5:54–65、1994年。[1]
- ^ スタンレーとミックライネン著「拡張トポロジーの神経進化（NEAT）」2005年 [2]
- ^ ヨハネス・カッサフン、マーク・エッジントン、ヤン・ヘンドリック・メッツェン、ジェラルド・ソマー、フランク・キルヒナー。ネットワークの直接および間接エンコーディングの両方に共通する遺伝的エンコーディング。遺伝的および進化的計算カンファレンス（GECCO 2007）の議事録、ロンドン、英国、1029–1036、2007年。[3]
- ^ Yohannes Kassahun および Gerald Sommer。ニューラル トポロジーの進化的獲得による効率的な強化学習。Proceedings of the 13th European Symposium on Artificial Neural Networks (ESANN 2005)、259 ～ 266 ページ、ベルギー、ブルージュ、2005 年 4 月。「アーカイブ コピー」(PDF)。2007 年 6 月 13 日にオリジナル(PDF)からアーカイブ。2008年 2 月 11 日に取得。
{{cite web}}: CS1 maint: アーカイブされたコピーをタイトルとして (リンク) - ^ Jan Hendrik Metzen、Mark Edgington、Yohannes Kassahun、Frank Kirchner。RoboCup KeepawayベンチマークにおけるEANTのパフォーマンス評価。第6回国際機械学習・応用会議(ICMLA 2007)の議事録、342～347ページ、米国、2007年[4]
- ^ Nils T SiebelとGerald Sommer。人工ニューラルネットワークの進化的強化学習。国際ハイブリッドインテリジェントシステムジャーナル4(3):171–183、2007年10月。[5]
- ^ Nils T SiebelとGerald Sommer。弱くラベル付けされたトレーニングデータを使用したニューロ進化による視覚検査画像の欠陥分類器の学習。IEEE進化計算会議(CEC 2008)の議事録、3926-3932ページ、香港、中国、2008年6月。[6]。
外部リンク
- BEACON ブログ: 神経進化とは何ですか?