生成地形図

生成トポグラフィック マップ( GTM ) は、自己組織化マップ(SOM)の確率版である機械学習手法であり、おそらく収束し、縮小する近傍や減少するステップ サイズを必要としません。これは生成モデルであり、データは、まず低次元空間で確率的にポイントを選択し、そのポイントを観測された高次元入力空間にマッピングし (滑らかな関数を使用)、次にその空間にノイズを追加することで発生するものと想定されます。低次元確率分布、滑らかなマップ、ノイズのパラメーターはすべて、期待値最大化 (EM) アルゴリズムを使用してトレーニング データから学習されます。GTM は、1996 年にChristopher Bishop、Markus Svensen、および Christopher KI Williams の論文で発表されました。

このアプローチは、重要度サンプリングと多層パーセプトロンを使用して非線形潜在変数モデルを形成する密度ネットワークと密接に関連しています。GTM では、潜在空間はデータ空間に非線形に投影されると想定される点の離散グリッドです。次に、データ空間でガウスノイズの仮定が行われ、モデルはガウスの制約された混合になります。次に、モデルの尤度を EM によって最大化できます。

理論的には、任意の非線形パラメトリック変形を使用できます。最適なパラメータは、勾配降下法などによって見つけることができます。

非線形マッピングの提案されたアプローチは、ラジアル基底関数ネットワーク(RBF) を使用して、潜在空間とデータ空間の間に非線形マッピングを作成することです。RBF ネットワークのノードは特徴空間を形成し、非線形マッピングはこの特徴空間の線形変換として取得できます。このアプローチは、提案された密度ネットワーク アプローチよりも、分析的に最適化できるという利点があります。

データ分析において、GTM は主成分分析の非線形バージョンのようなもので、低次元の潜在空間のソースにガウスノイズを追加した結果として高次元データをモデル化できます。たとえば、高次元の時系列形状に基づいて、プロット可能な 2D 空間で株式を配置します。混合モデルなど、他のアプリケーションでは、データ ポイントよりもソースの数が少ない場合があります。

生成的変形モデリングでは、潜在空間とデータ空間は同じ次元を持ちます。たとえば、2D 画像または 1 つのオーディオ音波です。追加の「空の」次元がソースに追加されます (この形式のモデリングでは「テンプレート」と呼ばれます)。たとえば、1D 音波を 2D 空間に配置します。その後、元の次元を組み合わせることで生成されるさらなる非線形次元が追加されます。拡大された潜在空間は、1D データ空間に投影されます。与えられた投影の確率は、以前と同様に、ガウス ノイズ モデルでのデータの尤度と変形パラメーターの事前確率の積によって与えられます。従来のスプリング ベースの変形モデリングとは異なり、これには解析的に最適化できるという利点があります。欠点は、これが「データ マイニング」アプローチであることです。つまり、変形事前確率の形状は、非常に高度で人工的かつ任意に構築された非線形潜在空間に基づいているため、起こり得る変形の説明として意味をなさない可能性があります。このため、事前確率は、スプリングベースのモデルの場合のように人間の専門家によって作成されるのではなく、データから学習されます。

自己組織化マップ (SOM)のノードは自由に動き回ることができますが、GTM ノードは許容される変換とその確率によって制約されます。変形が適切に行われると、潜在空間のトポロジーは保持されます。

SOM はニューロンの生物学的モデルとして作成され、ヒューリスティック アルゴリズムです。対照的に、GTM は神経科学や認知とは何の関係もなく、確率論的原理に基づくモデルです。そのため、SOM に比べて次のような利点があります。

• データに対して密度モデルを明示的に定式化します。
• マップがどの程度トレーニングされているかを定量化するコスト関数を使用します。
• 健全な最適化手順（EMアルゴリズム）を使用します。

GTM は、1997 年に Bishop、Svensen、Williams によって技術レポート (技術レポート NCRG/96/015、英国アストン大学) で導入され、後に Neural Computation で公開されました。また、 Markus Svensen の博士論文 (アストン、1998) でも説明されています。

• 自己組織化マップ (SOM)
• ニューラル ネットワーク (機械学習)、別名人工ニューラル ネットワーク (ANN)
• コネクショニズム
• データマイニング
• 機械学習
• 非線形次元削減
• ニューラルネットワークソフトウェア
• パターン認識

• ビショップ、スヴェンセン、ウィリアムズ生成地形マッピング論文
• アストン大学 (英国) のニューラル コンピューティング研究グループで開発された生成トポグラフィック マッピング。 ( Matlab ツールボックス )