ヘッブ理論

ヘッブ理論は、シナプス前細胞がシナプス後細胞を繰り返し持続的に刺激することでシナプス効率が増加するという神経心理学的理論です。これは、学習過程におけるニューロンの適応であるシナプス可塑性を説明しようとする試みです。ヘッブ理論は、ドナルド・ヘッブが1949年の著書『行動の組織化』で提唱しました。^{[ 1 ]}この理論は、ヘッブの法則、ヘッブの法則、ヘッブの仮説、細胞集合理論とも呼ばれます。ヘッブは次のように述べています。

反響活動（または「痕跡」）の持続または反復は、その安定性を高める持続的な細胞変化を誘発する傾向があると仮定しましょう。...細胞Aの軸索が細胞Bを興奮させるのに十分近く、繰り返しまたは持続的に発火に関与すると、AとBの両方の細胞で何らかの成長プロセスまたは代謝変化が起こり、AはBを発火する細胞の一つとして、の効率が向上する。^{[ 1 ]： 62}

この理論はしばしば「一緒に発火するニューロンは一緒に結合する」と要約される。^{[ 2 ]}しかし、ヘッブは細胞Aが細胞Bの「発火に参加する」必要があり、そのような因果関係は細胞Aが細胞Bと同時にではなく、直前に発火した場合にのみ発生することを強調した。ヘッブの研究におけるこの因果関係の側面は、時間的先行性を必要とするスパイクタイミング依存性可塑性について現在知られていることを予見していた。^{[ 3 ]}

ヘッブ理論は、細胞の同時活性化によってそれらの細胞間のシナプス結合力が著しく増加する、連合学習またはヘッブ学習を説明しようとするものです。また、教育や記憶リハビリテーションのためのエラーレス学習方法の生物学的基盤も提供します。認知機能における神経ネットワークの研究においては、教師なし学習の神経基盤としてしばしば考えられています。^{[ 4 ]}

ヘッブ理論は、ニューロンがどのように接続してエングラムになるか、そしてそれが重複する細胞集合体、つまり特定の情報を符号化するニューロンのグループに保存される可能性があるかを説明する。^{[ 5 ]}当初は皮質ニューロンの特定のグループにおける反復活動を説明する方法として考案されたヘッブの細胞集合体の形態と機能に関する理論は、以下のように理解できる。^{[ 1 ]： 70}

基本的な考え方は古くからあるもので、2つの細胞または細胞系が同時に繰り返し活動すると、「関連」する傾向があり、一方の活動が他方の活動を促進するというものである。

ヘッブはまた次のように書いた。^{[ 1 ]}

ある細胞が別の細胞の発火を繰り返し補助すると、最初の細胞の軸索は、2番目の細胞の細胞体と接触する部分にシナプス小胞を発達させる（あるいは、既に存在する場合はそれを拡大させる）。

D. アラン・オールポートは、細胞集合理論と記憶痕跡の形成におけるその役割に関して、自己連想の概念、つまり部分的な手がかりに基づいて脳が情報を取り出す能力を用いて、次のような追加の考えを提唱している。

システムへの入力によって同じ活動パターンが繰り返し発生する場合、そのパターンを構成するアクティブ要素の集合は、ますます強く相互に関連付けられるようになります。つまり、各要素は他のすべての要素をオンにし、（負の重みで）パターンの一部を形成しない要素をオフにする傾向があります。言い換えれば、パターン全体が「自己関連付け」されるようになります。学習された（自己関連付けされた）パターンをエングラムと呼ぶことができます。^{[ 6 ]}

ノーベル賞受賞者エリック・カンデルの研究室で行われた研究は、海洋腹足類アメフラシ（Aplysia californica）のシナプスにおけるヘッブ型学習メカニズムの役割を裏付ける証拠を提供した。^{[ 7 ]}海洋無脊椎動物の末梢神経系のシナプスは実験で制御しやすいため、カンデルの研究は、ヘッブ型長期増強と活動依存性シナプス前促進の両方がアメフラシのシナプス可塑性と古典的条件付けに必要であることを発見した。^{[ 8 ]}

無脊椎動物の研究によって学習と記憶の基本的なメカニズムが確立されている一方で、脊椎動物のニューロン間の長期的なシナプス変化に関する研究の多くは、脳細胞への非生理的な実験的刺激の使用を伴います。しかし、脊椎動物の脳で研究されてきた生理学的に関連するシナプス修飾メカニズムの中には、ヘッブ型プロセスの例であると思われるものもあります。そのようなレビューの1つは、生理学的に関連するシナプス活動によって、ヘッブ型および非ヘッブ型の両方のメカニズムを使用して、シナプス強度の長期的な変化を誘発できることを示唆しています。^{[ 9 ]}

人工ニューロンおよび人工ニューラルネットワークにおいて、ヘッブの原理は、モデルニューロン間の重みをどのように変更するかを決定する方法として説明できます。2つのニューロンが同時に活性化すると、その間の重みは増加し、別々に活性化すると減少します。同時に両方とも正または両方とも負になる傾向のあるノードは強い正の重みを持ち、反対になる傾向のあるノードは強い負の重みを持ちます。

以下はヘッブ型学習の定型的な説明である（他にも多くの説明が可能である）。

${\displaystyle \,w_{ij}=x_{i}x_{j},}$

どこ${\displaystyle w_{ij}}$ニューロンからの接続の重み${\displaystyle j}$ニューロンへ${\displaystyle i}$、 そして${\displaystyle x_{i}}$ニューロンへの入力は${\displaystyle i}$これはパターン学習の一例で、トレーニング例ごとに重みが更新されます。ホップフィールドネットワークでは、接続${\displaystyle w_{ij}}$ゼロに設定されるのは${\displaystyle i=j}$（反射的な接続は許可されていません）。バイナリニューロン（活性化が0または1）の場合、接続されたニューロンがパターンに対して同じ活性化を持つ場合、接続は1に設定されます。

複数のトレーニングパターンを使用する場合、その式は個々のパターンの平均値になります。

${\displaystyle w_{ij}={\frac {1}{p}}\sum _{k=1}^{p}x_{i}^{k}x_{j}^{k},}$

どこ${\displaystyle w_{ij}}$ニューロンからの接続の重み${\displaystyle j}$ニューロンへ${\displaystyle i}$、${\displaystyle p}$はトレーニングパターンの数であり、${\displaystyle x_{i}^{k}}$の${\displaystyle k}$ニューロンへの 番目の入力${\displaystyle i}$これはエポックごとの学習であり、すべてのトレーニング例が提示された後に重みが更新され、最後の項は離散的および連続的なトレーニングセットの両方に適用できます。繰り返しますが、ホップフィールドネットワークでは、接続は${\displaystyle w_{ij}}$ゼロに設定されるのは${\displaystyle i=j}$（反射的なつながりはありません）。

ブロッキング現象やその他のニューラル学習現象を考慮に入れたヘッブ学習の変種として、ハリー・クロップの数学モデルがある。クロップのモデルは、単純な適応メカニズムを持つシステムの一部が、ニューラルネットワークのような、より高度な適応動作を持つより複雑なシステムの基礎となり得ると仮定している。^{[ 10 ]}

ヘッブ型学習は、シナプス前活動とシナプス後活動の一致のみに基づくという単純な性質を持つため、この可塑性がなぜ有意義な学習につながるのかは直感的には分かりにくいかもしれません。しかし、ヘッブ型可塑性は、入力の統計的特性を捉え、教師なし学習に分類できるような形で学習することが示されています。

これは、簡略化された例で数学的に示すことができます。ここでは、レートベースのニューロンが1つだけであるという簡略化された仮定の下で考えてみましょう。${\displaystyle y(t)}$入力にレートがある${\displaystyle x_{1}(t)...x_{N}(t)}$ニューロンの反応${\displaystyle y(t)}$通常は入力の線形結合として説明され、$\displaystyle \sum _{i}w_{i}x_{i}}$続いて応答関数${\displaystyle f}$:

${\displaystyle y=f\left(\sum _{i=1}^{N}w_{i}x_{i}\right).}$

前述のセクションで定義したように、ヘッブ型可塑性とは、シナプス結合強度の時間的変化を記述するものである。${\displaystyle w}$:

${\displaystyle {\frac {dw_{i}}{dt}}=\eta x_{i}y.}$

簡略化のため、恒等応答関数を仮定する${\displaystyle f(a)=a}$書くことができる

${\displaystyle {\frac {dw_{i}}{dt}}=\eta x_{i}\sum _{j=1}^{N}w_{j}x_{j}}$

または行列形式で表すと次のようになります。

${\displaystyle {\frac {d\mathbf {w} }{dt}}=\eta \mathbf {x} \mathbf {x} ^{T}\mathbf {w} .}$

前章と同様に、エポックごとのトレーニングが平均的に行われる場合${\displaystyle \langle \dots \rangle }$離散的または連続的な（時間）トレーニングセット${\displaystyle \mathbf {x} }$可能です：$${\displaystyle {\frac {d\mathbf {w} }{dt}}=\langle \eta \mathbf {x} \mathbf {x} ^{T}\mathbf {w} \rangle =\eta \langle \mathbf {x} \mathbf {x} ^{T}\rangle \mathbf {w} =\eta C\mathbf {w} .}$$どこ${\displaystyle C=\langle \,\mathbf {x} \mathbf {x} ^{T}\rangle }$は、以下の追加仮定の下での入力の相関行列である。${\displaystyle \langle \mathbf {x} \rangle =0}$（つまり、入力の平均はゼロです）。これは、${\displaystyle N}$連立線形微分方程式。${\displaystyle C}$対称行列であり、対角化可能で、固有ベクトル基底で計算すると、解は次の形式になることがわかります。

${\displaystyle \mathbf {w} (t)=k_{1}e^{\eta \alpha _{1}t}\mathbf {c} _{1}+k_{2}e^{\eta \alpha _{2}t}\mathbf {c} _{2}+...+k_{N}e^{\eta \alpha _{N}t}\mathbf {c} _{N}}$

どこ${\displaystyle k_{i}}$は任意の定数であり、${\displaystyle \mathbf {c} _{i}}$は、${\displaystyle C}$そして${\displaystyle \alpha _{i}}$対応する固有値。相関行列は常に正定値行列であるため、固有値はすべて正であり、上記の解が時間とともに常に指数関数的に発散することが容易にわかります。これは、このバージョンのヘッブの法則が不安定であることに起因する本質的な問題です。支配的な信号を持つネットワークでは、シナプス結合の重みが指数関数的に増加または減少します。直感的には、これは前シナプスニューロンが後シナプスニューロンを興奮させるたびに、それらの間の重みが強化され、将来さらに強い興奮を引き起こし、自己強化的に繰り返されるためです。解決策として、非線形飽和応答関数を追加して後シナプスニューロンの発火率を制限することが考えられます。${\displaystyle f}$しかし実際には、どのニューロンモデルにおいてもヘッブの法則は不安定であることが示されています。^{[ 11 ]}したがって、ニューロンのネットワークモデルは通常、 BCM理論、オジャの法則^{[ 12 ]}、または一般化ヘッブアルゴリズムなどの他の学習理論を採用します。

いずれにせよ、上記の不安定な解であっても、十分な時間が経過すると、いずれかの項が他の項よりも優勢になり、

${\displaystyle \mathbf {w} (t)\approx e^{\eta \alpha ^{*}t}\mathbf {c} ^{*}}$

どこ${\displaystyle \alpha ^{*}}$は、​${\displaystyle C}$この時点で、シナプス後ニューロンは以下の操作を実行します。

${\displaystyle y\approx e^{\eta \alpha ^{*}t}\mathbf {c} ^{*}\mathbf {x} }$

なぜなら、繰り返しますが、${\displaystyle \mathbf {c} ^{*}}$は、相関行列の最大固有値に対応する固有ベクトルです。${\displaystyle x_{i}}$これは、入力の第一主成分を計算することと完全に一致します。

このメカニズムは、シナプス後ニューロンをさらに追加することで、入力の完全な主成分分析（PCA）を実行するように拡張できます。ただし、シナプス後ニューロンがすべて同じ主成分を拾わないようにする必要があります。たとえば、シナプス後層に側方抑制を追加するなどです。このようにして、ネットワークが入力の有用な統計的側面を拾い上げ、それを抽出した形で出力に「記述」できるという意味で、教師なし学習の基本的な形式であるPCAにヘッブ学習を関連付けました。^{[ 13 ]}

ヘッブ学習とスパイクタイミング依存性可塑性は、ミラーニューロンがどのように出現するかについての影響力のある理論で使用されています。^{[ 14 ] [ 15 ]}ミラーニューロンは、個人が行動を実行するときと、個人が他の人が同様の行動を実行するのを見たり聞いたりするときに発火するニューロンです。^{[ 16 ] [ 17 ]}これらのニューロンの発見は、個人が他人の行動をどのように理解するかを説明する上で非常に影響力がありました。なぜなら、人が他人の行動を認識すると、同様の行動を実行するために使用する脳内の運動プログラムが活性化され、それが知覚に情報を追加し、知覚者自身の運動プログラムに基づいてその人が次に何をするかを予測するのに役立つからです。ミラーニューロン機能のこの考え方の限界の1つは、個人が行動を実行しているときと、他の人が同様の行動を実行するのを聞いたり見たりするときに反応するニューロンをどのように発達させるかを説明することです。

神経科学者のクリスチャン・キーザーズと心理学者のデイビッド・ペレットは、ある人が行動するのを見たり聞いたりすると、まるで自分がその行動をしているかのように脳の領域が活性化すると提唱した。^{[ 15 ] [ 18 ]}これらの再求心性感覚信号は、行動の視覚、聴覚、触覚に反応するニューロンの活動を引き起こす。これらの感覚ニューロンの活動は、行動を引き起こした運動ニューロンの活動と常に時間的に重なるため、ヘッブ学習は、行動の視覚、聴覚、触覚に反応するニューロンと行動を引き起こすニューロンを接続するシナプスが強化されると予測する。鏡で自分の姿を見たり、自分の喃語を聞いたり、他人に真似されたりする場合も同様である。この再求心性が繰り返し起こると、行動の感覚表現と運動表現を接続するシナプスが非常に強くなり、運動ニューロンが行動の音や視覚に反応して発火し始め、ミラーニューロンが形成される。^{[ 19 ]}

数多くの実験が、ヘッブ学習がミラーニューロンの形成に不可欠であるという考えを裏付けている。証拠によれば、運動プログラムは、刺激と運動プログラムの実行が繰り返しペアリングされた後、新しい聴覚または視覚刺激によってトリガーされる可能性がある。^{[ 20 ]}例えば、ピアノを弾いたことのない人は、ピアノ音楽を聴いてもピアノ演奏に関わる脳領域を活性化しない。参加者が鍵盤を押すたびにピアノの音にさらされる5時間のピアノレッスンは、後でピアノ音楽を聴いたときに脳の運動領域の活動をトリガーするのに十分であることが証明されている。^{[ 20 ]}スパイクタイミング依存性可塑性は、シナプス前ニューロンの発火がシナプス後ニューロンの発火を予測する場合にのみ発生するという事実と一致して、^{[ 21 ]}感覚刺激と運動プログラムの間のリンクも、刺激が運動プログラムに依存している場合にのみ強化されるようだ。

ヘッブ学習は、意思決定や社会的学習などの認知プロセスと関連しています。認知神経科学の分野では、ヘッブ理論と、線条体や前頭前皮質などの報酬処理や社会的認知を担う脳領域との交わりを探求し始めています。^{[ 22 ] [ 23 ]}特に、ヘッブモデルに曝露された線条体投射は、生体内で長期増強と長期抑制を示します。^{[ 24 ]}さらに、刺激に対する前頭前皮質のモデル（「混合選択性」）は、ランダムな接続性では完全には説明できませんが、ヘッブパラダイムを組み込むと、モデル内の混合選択性のレベルに達します。^{[ 25 ]}これらの領域におけるヘッブ可塑性が、習慣形成、強化学習、さらには社会的絆の発達などの行動の根底にある可能性があると仮説が立てられています（例えば、ピーター・パットナムとロバート・W・フラーによる）。^{[ 26 ] [ 27 ]}

長期増強にはヘッブモデルがよく用いられるが、ヘッブ理論は長期シナプス可塑性のすべての形態を網羅しているわけではない。ヘッブは抑制性シナプスに関する規則や反因果的スパイクシーケンス（シナプス前ニューロンがシナプス後ニューロンの後に発火する場合）の予測を提唱しなかった。シナプス修飾は活性化されたニューロンAとBの間だけでなく、隣接するシナプスでも起こる可能性がある。^{[ 28 ]}したがって、すべての形態の異シナプス可塑性および恒常性可塑性は非ヘッブ的であると考えられている。その一例として、シナプス前終末への逆行性シグナル伝達が挙げられる。^{[ 29 ]}逆行性伝達物質として最もよく知られている化合物は一酸化窒素であり、その高い溶解度と拡散性のため、しばしば近傍のニューロンに影響を与える。^{[ 30 ]}ボリューム学習として知られるこの種の拡散性シナプス修飾は、従来のヘッブモデルには含まれていない。^{[ 31 ]}

現代の研究はヘッブのオリジナルのアイデアを拡張している。例えば、スパイクタイミング依存性可塑性（STDP）は、ニューロンのスパイクの正確なタイミングをヘッブ理論に組み込むことで、ヘッブ原理を洗練させている。実験の進歩により、ヘッブ学習は意思決定や感情調節などの複雑な行動にも関連付けられている。 ^{[ 13 ]}人工知能（AI）と量子コンピューティングの現在の研究では、適応アルゴリズムの開発や機械学習モデルの改善のために、引き続きヘッブの概念を活用している。^{[ 32 ]}

AI では、ヘッブ学習は従来のニューラルネットワーク以外にも応用されています。重要な進歩の 1 つは強化学習アルゴリズムで、トレーニングフェーズ中の刺激のタイミングと強度に基づいて重みを更新するためにヘッブ型学習が使用されます。一部の研究者は、人工システムでの学習のためのより生物学的に妥当なモデルを開発するためにヘッブ原理を応用しており、AI アプリケーションでのモデルの効率と収束性を向上させる可能性があります。^{[ 33 ] [ 34 ]}

量子コンピューティングにおけるヘッブ学習の応用は、ますます注目を集めている分野です。古典的なニューラルネットワークはヘッブ理論の主な応用分野ですが、最近の研究では量子に着想を得たアルゴリズムの可能性を探り始めています。これらのアルゴリズムは、量子重ね合わせと量子もつれの原理を利用して、量子システムにおける学習プロセスを強化します。^{[ 35 ]}現在の研究では、ヘッブ原理がより効率的な量子機械学習モデルの開発にどのように役立つかを探っています。^{[ 3 ]}

ヘッブ学習を洗練または拡張する新しい計算モデルが登場しました。たとえば、一部のモデルは神経スパイクの正確なタイミング（スパイクタイミング依存性可塑性など）を考慮しており、他のモデルは神経調節の側面を統合して、ドーパミンなどの神経伝達物質がシナプス結合の強度にどのように影響するかを説明しています。これらの高度なモデルは、脳内でヘッブ学習がどのように機能するかについてのより微妙な理解を提供し、より現実的な計算モデルの開発に貢献しています。^{[ 36 ] [ 37 ]}

ヘッブ学習に関する最近の研究は、従来のヘッブモデルでは見落とされがちな抑制性ニューロンの役割に焦点を当てています。古典的なヘッブ理論は主に興奮性ニューロンに焦点を当てていますが、神経学習のより包括的なモデルでは、興奮性シナプスと抑制性シナプスのバランスのとれた相互作用を考慮しています。研究によると、抑制性ニューロンは神経回路の安定性を維持するために重要な調節を提供し、ヘッブ学習における暴走する正のフィードバックを防ぐことができる可能性があります。^{[ 38 ] [ 39 ]}

2017年、ジェフ・マギーらは、海馬CA1ニューロンにおける学習の一形態である行動時間スケールシナプス可塑性（BTSP）を特定した。これは、樹状突起プラトー電位の数秒前または数秒後に活性化するシナプス入力が、同時発生のシナプス後スパイクがなくても強化されるというものである。 ^{[ 40 ]}このメカニズムは、従来のヘッブ型またはスパイクタイミング依存性可塑性よりもはるかに長い時間スケールで機能し、行動中に時間的に分離されたイベントをリンクする手段を提供する。^{[ 40 ]} BTSPは、行動時間スケールでヘッブ型のような連合プロセスがどのように発生するかを理解するための現代的な枠組みとして提案されており、シナプス修飾のタイミングウィンドウは、古典的なヘッブ型学習で説明されているミリ秒の範囲をはるかに超える可能性があることを示唆している。^{[ 41 ]}

• Hebb, DO (1961). 「高等動物における学習の特異性」。JF Delafresnaye (編)『脳のメカニズムと学習』所収。ロンドン：オックスフォード大学出版局。
• Hebb, DO (1940). 「前頭葉の広範囲な両側切除後の人間の行動」. Archives of Neurology and Psychiatry . 44 (2): 421–438 . doi : 10.1001/archneurpsyc.1940.02280080181011 .
• ビショップ、CM（1995）。パターン認識のためのニューラルネットワーク。オックスフォード：オックスフォード大学出版局。ISBN 978-0-19-853849-3。
• Paulsen, O.; Sejnowski, TJ (2000). "自然な活動パターンと長期シナプス可塑性" . Current Opinion in Neurobiology . 10 (2): 172– 179. doi : 10.1016/S0959-4388(00)00076-3 . PMC 2900254 . PMID 10753798 .  

• 概要（ 2017年5月2日にWayback Machineにアーカイブ済み）
• ヘッブ学習チュートリアル（パート1：新規性フィルタリング、パート2：PCA）