シナプスの重み

神経科学とコンピュータサイエンスにおいて、シナプス重みとは2つのノード間の接続の強さまたは振幅を指し、生物学においては1つのニューロンの発火が他のニューロンに与える影響の大きさに相当します。この用語は人工および生物学的ニューラルネットワークの研究でよく使用されます。^[1]

計算ニューラルネットワークでは、入力と出力のベクトルまたはセット、またはそれぞれシナプス前ニューロンとシナプス後ニューロンが、行列で表されるシナプス重みで相互接続されます。ここで、線形ニューロンの場合 ${\displaystyle {\textbf {x}}}$${\displaystyle {\textbf {y}}}$${\displaystyle w}$

${\displaystyle y_{j}=\sum _{i}w_{ij}x_{i}~~{\textrm {or}}~~{\textbf {y}}=w{\textbf {x}}}$。

ここで、シナプス行列の行は、によってインデックス付けされた出力のシナプス重みのベクトルを表します。 ${\displaystyle j}$

シナプスの重みは学習則によって変化しますが、最も基本的なのはヘブの法則で、生物学用語では通常次のように表現されます。

一緒に発火するニューロンは一緒に配線されます。

計算的に言えば、これは、入力ニューロンの 1 つからの大きな信号が出力ニューロンの 1 つからの大きな信号につながる場合、これら 2 つのニューロン間のシナプスの重みが増加することを意味します。ただし、この規則は不安定であり、通常はOja の規則、ラジアル基底関数、バックプロパゲーションアルゴリズムなどのバリエーションを使用して修正されます。

生物学的ネットワークの場合、シナプス重みの効果は線形ニューロンやヘブビアン学習ほど単純ではありません。しかし、BCM理論などの生物物理学的モデルは、これらのネットワークを数学的に記述することにある程度成功しています。

哺乳類の中枢神経系では、信号伝達は神経細胞、つまりニューロンの相互接続ネットワークによって行われます。基本的な錐体ニューロンの場合、入力信号は軸索によって運ばれ、そこからシナプスに神経伝達物質が放出され、次のニューロンの樹状突起によってそれが拾われ、計算上の出力信号に類似した活動電位が生成されます。

このプロセスにおけるシナプスの重みは、いくつかの可変要因によって決まります。

• 入力信号が軸索をどれだけうまく伝わるか（髄鞘形成を参照）、
• シナプスに放出される神経伝達物質の量と、次の細胞に吸収される量（細胞膜上のAMPA受容体とNMDA受容体の数と細胞内のカルシウムやその他のイオンの量によって決まる）、
• 軸索から樹状突起への接続の数は、
• 信号がシナプス後細胞内でどれだけうまく伝播し統合されるか。

シナプスの重みの変化はシナプス可塑性として知られており、長期的な変化（長期増強と抑制）の背後にあるプロセスはまだ十分に理解されていません。ヘブの元の学習規則はもともと生物系に適用されていましたが、多くの理論的および実験的問題が明らかになったため、多くの修正が必要になりました。

• ニューラルネットワーク
• シナプス可塑性
• ヘブビアン理論