制限付きボルツマンマシン

制限付きボルツマンマシン（RBM）（外部場付き制限付きシェリントン・カークパトリックモデルまたは制限付き確率的イジング・レンツ・リトルモデルとも呼ばれる）は、入力セットの確率分布を学習できる生成型確率的人工ニューラルネットワークである。^{[ 1 ]}

RBMは、1986年にポール・スモレンスキーによってハーモニウムという名前で最初に提案され、 ^{[ 2 ]} 2000年代半ばにジェフリー・ヒントンとその共同研究者が高速学習アルゴリズムを使用したことで注目を集めるようになりました。RBMは、次元削減、^{[ 3 ]}分類、^{[ 4 ]}協調フィルタリング、^{[ 5 ]}特徴学習、^{[ 6 ]}トピックモデリング、^{[ 7 ]}免疫学、^{[ 8 ]}さらには多体量子力学^{[ 9 ] [ 10 ] [ 11 ]}にも応用されています。

訓練方法は、作業内容に応じて、監督下での訓練と監督なしでの訓練のどちらでも可能です。

その名前が示すように、RBMはボルツマンマシンの一種であり、ニューロンが二部グラフを形成する必要があるという制約がある。

• 2つのユニット群（一般にそれぞれ「可視ユニット」と「隠蔽ユニット」と呼ばれる）のそれぞれから一対のノードが対称的な接続を持つ場合がある。
• グループ内のノード間には接続がありません。

対照的に、「制約のない」ボルツマンマシンは隠れユニット間に接続を持つことができる。この制約により、一般的なボルツマンマシンのクラスで利用可能なものよりも効率的なトレーニングアルゴリズム、特に勾配ベースのコントラスティブダイバージェンスアルゴリズムが可能になる。^{[ 12 ]}

制限付きボルツマンマシンは、ディープラーニングネットワークでも使用できます。特に、 RBMを「積み重ね」、勾配降下法とバックプロパゲーションで結果のディープネットワークを必要に応じて微調整することで、ディープビリーフネットワークを形成できます。^{[ 13 ]}

標準的なRBMは、バイナリ値（ブール値）の隠れユニットと可視ユニットを持ち、重み行列で構成されます。${\displaystyle W}$サイズの${\displaystyle m\times n}$各重量要素${\displaystyle (w_{i,j})}$行列の は、可視（入力）ユニット間の接続に関連付けられています${\displaystyle v_{i}}$そして隠しユニット${\displaystyle h_{j}}$さらに、バイアスウェイト（オフセット）も存在します。${\displaystyle a_{i}}$のために${\displaystyle v_{i}}$そして${\displaystyle b_{j}}$のために${\displaystyle h_{j}}$重みとバイアスが与えられた場合、構成（ブールベクトルのペア）（v、h）のエネルギーは次のように定義されます。

${\displaystyle E(v,h)=-\sum _{i}a_{i}v_{i}-\sum _{j}b_{j}h_{j}-\sum _{i}\sum _{j}v_{i}w_{i,j}h_{j}}$

または、行列表記では、

${\displaystyle E(v,h)=-a^{\mathrm {T} }vb^{\mathrm {T} }hv^{\mathrm {T} }Wh.}$

このエネルギー関数はホップフィールドネットワークのものと類似している。一般的なボルツマンマシンと同様に、可視ベクトルと隠れベクトルの同時確率分布は、エネルギー関数に関して次のように定義される。^{[ 14 ]}

${\displaystyle P(v,h)={\frac {1}{Z}}e^{-E(v,h)}}$

どこ${\displaystyle Z}$は、以下の合計として定義される分割関数です。${\displaystyle e^{-E(v,h)}}$すべての可能な構成にわたって、これは確率の合計が 1 になるように正規化定数として解釈できます。可視ベクトルの周辺確率は、${\displaystyle P(v,h)}$すべての可能な隠れ層構成において、^{[ 14 ]}

${\displaystyle P(v)={\frac {1}{Z}}\sum _{\{h\}}e^{-E(v,h)}}$、

そしてその逆もまた然りです。RBMの基となるグラフ構造は二部グラフ（層内接続がないことを意味する）であるため、可視ユニットの活性化が与えられた場合、隠れユニットの活性化は互いに独立しています。逆に、隠れユニットの活性化が与えられた場合、可視ユニットの活性化は互いに独立しています。^{[ 12 ]}つまり、m個の可視ユニットとn個の隠れユニットの場合、隠れユニットhの構成が与えられたときの可視ユニットvの構成の条件付き確率は、次のようになります。

${\displaystyle P(v|h)=\prod _{i=1}^{m}P(v_{i}|h)}$。

逆に、 vが与えられたときのhの条件付き確率は

${\displaystyle P(h|v)=\prod _{j=1}^{n}P(h_{j}|v)}$。

個々の活性化確率は次のように与えられる。

${\displaystyle P(h_{j}=1|v)=\sigma \left(b_{j}+\sum _{i=1}^{m}w_{i,j}v_{i}\right)}$そして${\displaystyle \,P(v_{i}=1|h)=\sigma \left(a_{i}+\sum _{j=1}^{n}w_{i,j}h_{j}\right)}$

どこ${\displaystyle \sigma }$ロジスティックシグモイドを表します。

制限付きボルツマンマシンの可視ユニットは多項分布に従うが、隠れユニットはベルヌーイ分布に従う。この場合、可視ユニットのロジスティック関数はソフトマックス関数に置き換えられる。

${\displaystyle P(v_{i}^{k}=1|h)={\frac {\exp(a_{i}^{k}+\Sigma _{j}W_{ij}^{k}h_{j})}{\Sigma _{k'=1}^{K}\exp(a_{i}^{k'}+\Sigma _{j}W_{ij}^{k'}h_{j})}}}$

ここで、Kは可視値が持つ離散値の数です。これらはトピックモデリング^{[ 7 ]}や推薦システム^{[ 5 ]}で使用されます。

制限付きボルツマンマシンは、あるトレーニングセットに割り当てられた確率の積を最大化するように訓練されます。${\displaystyle V}$（各行が可視ベクトルとして扱われる行列）${\displaystyle v}$)

${\displaystyle \arg \max _{W}\prod _{v\in V}P(v)}$

あるいは同等に、訓練サンプルの期待対数確率を最大化する${\displaystyle v}$ランダムに選択された${\displaystyle V}$: ^{[ 15 ] [ 16 ]}

${\displaystyle \arg \max _{W}\mathbb {E} \left[\log P(v)\right]}$

RBMの学習に最もよく用いられるアルゴリズム、すなわち重み行列を最適化するアルゴリズム${\displaystyle W}$は、 Hintonによるコントラスティブ ダイバージェンス (CD) アルゴリズムで、元々は PoE (専門家の製品) モデルのトレーニング用に開発されました。^{[ 18 ] [ 19 ]} このアルゴリズムはギブス サンプリングを実行し、勾配降下手順内で(フィードフォワード ニューラル ネットワークのトレーニング時にバックプロパゲーションが使用されるのと同様) 重み更新を計算するために使用されます。

単一サンプルに対する基本的な一段階対照発散（CD-1）手順は、以下のように要約できます。

1. トレーニングサンプルvを取得し、隠れユニットの確率を計算し、この確率分布から隠れ活性化ベクトルhをサンプリングします。
2. vとhの外積を計算し、これを正の勾配と呼ぶ。
3. hから可視ユニットの再構成v'をサンプリングし、次にこのv'から隠れユニットの活性化h'を再サンプリングする。（ギブスサンプリングステップ）
4. v'とh'の外積を計算し、これを負の勾配と呼ぶ。
5. 重み行列の更新${\displaystyle W}$正の勾配から負の勾配を引いたものに、ある学習率を掛けたものとする。${\displaystyle \Delta W=\epsilon (vh^{\mathsf {T}}-v'h'^{\mathsf {T}})}$。
6. バイアスaとbも同様に更新する。${\displaystyle \Delta a=\epsilon (vv')}$、${\displaystyle \Delta b=\epsilon (hh')}$。

ヒントンが執筆したRBMトレーニングの実践ガイドは、彼のホームページで見つけることができます。^{[ 14 ]}

• スタック型制限ボルツマンマシンとRBMの違いは、RBMでは層内の横方向の接続が禁止されているため、解析が容易になる点です。一方、スタック型ボルツマンマシンは、対称的な重みを持つ教師なし3層ネットワークと、3つのクラスを認識するための教師ありファインチューニングされた最上層を組み合わせたものです。
• スタックドボルツマンは、自然言語の理解、文書の検索、画像の生成、および分類に使用されます。これらの機能は、教師なし事前学習および/または教師ありファインチューニングによって学習されます。RBM では、双方向の非対称接続層を持つ無向対称トップ層とは異なります。制限付きボルツマンの接続は、非対称重みを持つ 3 層で構成され、2 つのネットワークが 1 つに結合されます。
• スタックドボルツマンはRBMと類似点があり、スタックドボルツマンのニューロンは確率的バイナリホップフィールドニューロンであり、これは制限付きボルツマンマシンと同じです。制限付きボルツマンとRBMの両方からのエネルギーは、ギブスの確率測度によって与えられます。${\displaystyle E=-{\frac {1}{2}}\sum _{i,j}{w_{ij}{s_{i}}{s_{j}}}+\sum _{i}{\theta _{i}}{s_{i}}}$制限付きボルツマンの学習プロセスはRBMと似ています。制限付きボルツマンは一度に1層ずつ学習し、バックプロパゲーションを実行せずに3セグメントパスで平衡状態を近似します。制限付きボルツマンは、分類と認識の事前学習に、異なるRBMで教師あり学習と教師なし学習の両方を使用します。学習には、ギブスサンプリングを使用したコントラスティブダイバージェンスを使用します: Δw _ij = e*(p _ij - p' _ij )
• 制限付きボルツマン法の強みは、非線形変換を実行するため拡張が容易であり、階層的な特徴層を与えることができる点です。弱点は、整数値および実数値ニューロンの計算が複雑であることです。どの関数の勾配にも従わないため、コントラスティブダイバージェンスの最大尤度への近似は即席で行われます。^{[ 14 ]}

• Fischer, Asja; Igel, Christian (2012)、「制限付きボルツマンマシン入門」、Progress in Pattern Recognition, Image Analysis, Computer Vision, and Applications、Lecture Notes in Computer Science、vol.  7441、ベルリン、ハイデルベルク：Springer Berlin Heidelberg、pp. 14–36、doi：10.1007/978-3-642-33275-3_2、ISBN  978-3-642-33274-6

• オートエンコーダー
• ヘルムホルツ振動装置

• Chen, Edwin (2011-07-18). 「制限付きボルツマンマシン入門」 . Edwin Chen のブログ.
• Nicholson, Chris; Gibson, Adam. "制限付きボルツマンマシンの初心者向けチュートリアル" . Deeplearning4jドキュメント. 2017-02-11 のオリジナルからアーカイブ済み. 2018-11-15に取得.{{cite web}}: CS1 maint: bot: 元の URL の状態が不明です (リンク)
• Nicholson, Chris; Gibson, Adam. "Understanding RBMs" . Deeplearning4j Documentation . 2016-09-20 のオリジナルからアーカイブ済み. 2014-12-29に取得.

• Python によるベルヌーイRBMの実装とチュートリアル
• SimpleRBMは、RBMがどのように学習し、動作するのかを学ぶのに役立つ、非常に小さなRBMコード（24kB）です。
• 制限付きボルツマンマシンのJulia実装： https://github.com/cossio/RestrictedBoltzmannMachines.jl