制限付きボルツマンマシン

制限付きボルツマンマシン（RBM ）（外部場を伴う制限付きシェリントン・カークパトリックモデルまたは制限付き確率的イジング・レンツ・リトルモデルとも呼ばれる）は、入力セットに対して確率分布を学習できる生成 確率的 人工ニューラルネットワークです。^[1]

RBMは、1986年にポール・スモレンスキーによってハーモニウムという名前で最初に提案され、 ^[2] 2000年代半ばにジェフリー・ヒントンと共同研究者がRBMの高速学習アルゴリズムを使用したことで注目を集めました。RBMは、次元削減、^[3]分類、^[4]協調フィルタリング、^[5]特徴学習、^[6]トピックモデリング、^[7]免疫学、^[8]さらには多体量子力学にも応用されています。^{[9] [10] [11]}

タスクに応じて、監督付きまたは監督なしの方法 でトレーニングできます。 ^{[引用が必要]}

名前が示すように、RBM はボルツマン マシンの変種ですが、ニューロンが二部グラフを形成する必要があるという制限があります。

• 2 つのユニット グループのそれぞれからの 1 組のノード (通常、それぞれ「可視」ユニットと「非表示」ユニットと呼ばれます) は、それらの間で対称的な接続を持つ場合があります。
• グループ内のノード間には接続がありません。

対照的に、「制限のない」ボルツマンマシンは隠れユニット間の接続を持つ場合があります。この制限により、一般的なボルツマンマシンのクラスで利用可能なものよりも効率的なトレーニングアルゴリズム、特に勾配ベースの コントラストダイバージェンスアルゴリズムが可能になります。^[12]

制限付きボルツマンマシンはディープラーニングネットワークにも使用できます。特に、ディープビリーフネットワークは、RBMを「積み重ね」、必要に応じて勾配降下法とバックプロパゲーションを使用して結果として得られるディープネットワークを微調整することで形成できます。^[13]

標準タイプの RBM には、バイナリ値 (ブール) の隠れユニットと可視ユニットがあり、サイズ の重みの行列で構成されています。行列の各重み要素は、可視 (入力) ユニットと隠れユニットの間の接続に関連付けられています。さらに、およびのバイアス重み (オフセット) があります。重みとバイアスが与えられた場合、構成 (ブールベクトルのペア) ( v、h )のエネルギーは次のように定義されます 。${\displaystyle W}$${\displaystyle m\times n}$${\displaystyle (w_{i,j})}$${\displaystyle v_{i}}$${\displaystyle h_{j}}$${\displaystyle a_{i}}$${\displaystyle v_{i}}$${\displaystyle b_{j}}$${\displaystyle h_{j}}$

${\displaystyle E(v,h)=-\sum _{i}a_{i}v_{i}-\sum _{j}b_{j}h_{j}-\sum _{i}\sum _{j}v_{i}w_{i,j}h_{j}}$

あるいは行列表記では、

${\displaystyle E(v,h)=-a^{\mathrm {T} }v-b^{\mathrm {T} }h-v^{\mathrm {T} }Wh.}$

このエネルギー関数はホップフィールドネットワークのそれに類似している。一般的なボルツマンマシンと同様に、可視ベクトルと隠れベクトルの結合確率分布は、エネルギー関数によって次のように定義される。^[14]

${\displaystyle P(v,h)={\frac {1}{Z}}e^{-E(v,h)}}$

ここで、はすべての可能な構成の合計として定義される分割関数であり、確率の合計が1になることを保証する正規化定数として解釈できます。可視ベクトルの周辺確率は、すべての可能な隠れ層構成の合計です。^[14]${\displaystyle Z}$${\displaystyle e^{-E(v,h)}}$${\displaystyle P(v,h)}$

${\displaystyle P(v)={\frac {1}{Z}}\sum _{\{h\}}e^{-E(v,h)}}$、

逆もまた同様である。RBMのグラフ構造は二部構造（層内接続がないことを意味する）であるため、隠れユニットの活性化は可視ユニットの活性化が与えられた場合、相互に独立している。逆に、可視ユニットの活性化は隠れユニットの活性化が与えられた場合、相互に独立している。[ ^12]つまり、m個の可視ユニットとn個の隠れユニットの場合、隠れユニットの構成hが与えられた場合の可視ユニットの構成vの条件付き確率は、

${\displaystyle P(v|h)=\prod _{i=1}^{m}P(v_{i}|h)}$。

逆に、 vが与えられた場合のhの条件付き確率は

${\displaystyle P(h|v)=\prod _{j=1}^{n}P(h_{j}|v)}$。

個々の活性化確率は次のように与えられる。

${\displaystyle P(h_{j}=1|v)=\sigma \left(b_{j}+\sum _{i=1}^{m}w_{i,j}v_{i}\right)}$そして${\displaystyle \,P(v_{i}=1|h)=\sigma \left(a_{i}+\sum _{j=1}^{n}w_{i,j}h_{j}\right)}$

ここで はロジスティックシグモイドを表します。 ${\displaystyle \sigma }$

制限付きボルツマンマシンの可視ユニットは多項式であるが、隠れユニットはベルヌーイである。^{[説明が必要]}この場合、可視ユニットのロジスティック関数はソフトマックス関数に置き換えられる。

${\displaystyle P(v_{i}^{k}=1|h)={\frac {\exp(a_{i}^{k}+\Sigma _{j}W_{ij}^{k}h_{j})}{\Sigma _{k'=1}^{K}\exp(a_{i}^{k'}+\Sigma _{j}W_{ij}^{k'}h_{j})}}}$

ここでKは可視値が持つ離散値の数である。これらはトピックモデリング^[7]やレコメンデーションシステム^[5]に応用されている。

制限付きボルツマンマシンはボルツマンマシンとマルコフ確率場の特殊なケースである。^{[15] [16]}

RBMのグラフィカルモデルは因子分析のグラフィカルモデルに対応している。^[17]

制限付きボルツマンマシンは、ある訓練セット（各行が可視ベクトルとして扱われる行列）に割り当てられた確率の積を最大化するように訓練される。 ${\displaystyle V}$${\displaystyle v}$

${\displaystyle \arg \max _{W}\prod _{v\in V}P(v)}$

または、以下からランダムに選択された訓練サンプルの期待 対数確率を最大化することである：^{[15] [16]}${\displaystyle v}$${\displaystyle V}$

${\displaystyle \arg \max _{W}\mathbb {E} \left[\log P(v)\right]}$

RBMを訓練するために、つまり重み行列を最適化するために最もよく使われるアルゴリズムは、ヒントンによるコントラストダイバージェンス（CD）アルゴリズムであり、もともとはPoE（専門家の積）モデルの訓練のために開発されました。^{[18] [19]} このアルゴリズムはギブスサンプリングを実行し、勾配降下法（フィードフォワードニューラルネットを訓練するときにバックプロパゲーションが使用されるのと同様）内で重みの更新を計算するために使用されます。 ${\displaystyle W}$

単一サンプルに対する基本的なシングルステップのコントラストダイバージェンス (CD-1) 手順は、次のように要約できます。

1. トレーニングサンプルvを取り、隠れユニットの確率を計算し、この確率分布から隠れ活性化ベクトルhをサンプリングします。
2. vとhの外積を計算し、これを正の勾配と呼びます。
3. hから、可視ユニットの再構成v' をサンプリングし、これから隠れたアクティベーションh' を再サンプリングします。(ギブスサンプリングステップ)
4. v'とh'の外積を計算し、これを負の勾配と呼びます。
5. 重み行列の更新を、正の勾配から負の勾配を引いたものに、ある学習率を掛けたものとします。${\displaystyle W}$${\displaystyle \Delta W=\epsilon (vh^{\mathsf {T}}-v'h'^{\mathsf {T}})}$
6. バイアスaとb を同様に更新します: 、。${\displaystyle \Delta a=\epsilon (v-v')}$${\displaystyle \Delta b=\epsilon (h-h')}$

Hintonが書いたRBMトレーニングの実践ガイドは彼のホームページで見ることができます。^[14]

• スタックされた制限付きボルツマン マシンと RBM の違いは、RBM では、分析を扱いやすくするために層内に横方向の接続が禁止されていることです。一方、スタックされたボルツマンは、対称的な重みを持つ教師なしの 3 層ネットワークと、3 つのクラスを認識するための教師ありの微調整された最上層の組み合わせで構成されます。
• スタック ボルツマンは、自然言語の理解、ドキュメントの検索、画像生成、分類に使用されます。これらの機能は、教師なしの事前トレーニングや教師ありの微調整によってトレーニングされます。無向対称トップ レイヤーとは異なり、RBM の接続には双方向非対称レイヤーがあります。制限付きボルツマンの接続は、非対称の重みを持つ 3 レイヤーで、2 つのネットワークが 1 つに結合されます。
• スタックド ボルツマンは RBM と類似点があります。スタックド ボルツマンのニューロンは確率的バイナリ ホップフィールド ニューロンで、これは制限付きボルツマン マシンと同じです。制限付きボルツマンと RBM の両方からのエネルギーは、ギブスの確率測度によって与えられます: 。制限付きボルツマンのトレーニング プロセスは RBM に似ています。制限付きボルツマンは、一度に 1 つのレイヤーをトレーニングし、バックプロパゲーションを実行せずに 3 セグメント パスで平衡状態を近似します。制限付きボルツマンは、分類と認識の事前トレーニングに、異なる RBM で教師ありと教師なしの両方を使用します。トレーニングでは、ギブス サンプリングによる対照的発散を使用します: Δw _ij = e*(p _ij - p' _ij )${\displaystyle E=-{\frac {1}{2}}\sum _{i,j}{w_{ij}{s_{i}}{s_{j}}}+\sum _{i}{\theta _{i}}{s_{i}}}$
• 制限ボルツマンの長所は、非線形変換を実行するため拡張が容易で、階層的な特徴層を与えることができることです。短所は、整数値と実数値のニューロンの計算が複雑であることです。これは、どの関数の勾配にも従わないため、コントラストダイバージェンスの最大尤度への近似は即興です。^[14]

• Fischer, Asja; Igel, Christian (2012)、「制限付きボルツマンマシン入門」、Progress in Pattern Recognition, Image Analysis, Computer Vision, and Applications、Lecture Notes in Computer Science、vol. 7441、ベルリン、ハイデルベルク: Springer Berlin Heidelberg、pp. 14–36、doi : 10.1007/978-3-642-33275-3_2、ISBN 978-3-642-33274-6

• オートエンコーダ
• ヘルムホルツマシン

• Chen, Edwin (2011-07-18)。「制限付きボルツマンマシン入門」。Edwin Chen のブログ。
• Nicholson, Chris; Gibson, Adam. 「制限付きボルツマンマシンの初心者向けチュートリアル」。Deeplearning4jドキュメント。2017 年 2 月 11 日にオリジナルからアーカイブ。2018 年11月 15 日に取得。{{cite web}}: CS1 maint: bot: original URL status unknown (link)
• Nicholson, Chris; Gibson, Adam. 「RBM を理解する」。Deeplearning4jドキュメント。2016 年 9 月 20 日にオリジナルからアーカイブ。2014年 12 月 29 日に取得。

• ベルヌーイ RBM のPython実装とチュートリアル
• SimpleRBM は、RBM がどのように学習し、動作するかを学ぶのに役立つ非常に小さな RBM コード (24kB) です。
• 制限付きボルツマン マシンのJulia実装: https://github.com/cossio/RestrictedBoltzmannMachines.jl