神経系ネットワークモデル

高レベルで表現すると、ニューロンは他のニューロンと接続されてニューラルネットワークを形成すると見なすことができ、その方法は 3 つあります。特定のネットワークは、生理学的（または解剖学的）に接続されたネットワークとして表現され、そのようにモデル化できます。これにはいくつかのアプローチがあります（Ascoli, GA (2002) ^{[ 1 ]} Sporns, O. (2007), ^{[ 6 ]} Connectionism、Rumelhart, JL、McClelland, JL、および PDP Research Group (1986) ^{[ 4 ]} Arbib, MA (2007) ^{[ 7 ]}を参照）。または、特定の機能を果たす機能的ネットワークを形成し、それに応じてモデル化することもできます（Honey, CJ、Kotter, R.、Breakspear, R.、および Sporns, O. (2007) ^{[ 8 ]} Arbib, MA (2007) ^{[ 7 ]}）。 3つ目の方法は、神経系の生物学的構成要素の機能に関する理論を、一連の数式という形で数学モデルによって仮説立てることです。この数式の変数は、樹状突起の寸法やニューロンの軸索に沿った活動電位の刺激率など、モデル化される実体の神経生物学的特性の一部または全部です。数式は計算技術を用いて解かれ、結果はシミュレーションまたは実験プロセスによって検証されます。このモデリング手法は計算神経科学と呼ばれます。この方法論は、脳のイオンレベルからシステムレベルまでの構成要素をモデル化するために使用されます。この方法は、中間活性ニューロンを介して情報信号をあるニューロンから別のニューロンに伝達する生物学的構成要素の統合システムをモデル化するのに応用できます。中間活性ニューロンは信号を伝達したり、新しい信号や追加の信号を生成したりできます。計算神経科学のアプローチは広く用いられており、2つの一般的なモデルに基づいている。1つは細胞膜電位のゴールドマン（1943）^{[ 9 ]}とホジキンとカッツ（1949）^{[ 10 ]}のモデル、もう1つは活動電位（情報信号）のホジキン・ハクスリーモデルに基づくモデルである。^{[ 11 ] [ 12 ] [ 13 ] [ 14 ]}

Sterratt, D.、Graham, B.、Gillies, A.、Willshaw, D. (2011) ^{[ 2 ] は}、サイズと機能に基づいて、神経科学の生物学的モデルをイオンチャネルから神経系レベルまでの 9 つのレベルに分類しています。表 1 は、ニューロン ネットワークについてこれに基づいています。

Sporns, O. (2007) ^{[ 6 ]}は、脳の接続性に関する論文で、構造的および機能的なタイプに基づくモデリングについて述べています。ニューロンとシナプスレベルで接続するネットワークはミクロスケールに分類されます。ニューロンが列とミニ列の集団にグループ化されている場合、そのレベルはメソスケールと定義されます。マクロスケール表現では、ネットワークは領域間経路で接続された脳の領域として考えられます。

Arbib, MA (2007) ^{[ 7 ]}は、モジュールモデルにおいて、システムをモジュールとサブモジュールに階層的に定式化することを検討している。

神経信号は、振幅約100ミリボルト、持続時間約1～2ミリ秒の短い電気パルスの列から構成される（Gerstner, W., & Kistler, W. (2002) ^{[ 3 ]}第1章）。個々のパルスは活動電位またはスパイクと呼ばれ、パルスの連鎖はスパイク列と呼ばれる。活動電位自体には情報は含まれていない。スパイク列の開始タイミング、スパイクの発生率または頻度、およびスパイク列内のスパイクの数とパターンの組み合わせによって、情報内容または信号メッセージの符号化が決定される。

神経細胞は、 図1に示すように、樹状突起、細胞体、軸索の3つの構成要素からなります。樹状突起は、枝分かれした樹木のような形をしており、シナプスを介して他の神経細胞からメッセージを受け取ります。各樹状突起がシナプスから受け取る活動電位は、シナプス後電位と呼ばれます。シナプス後電位の累積和は細胞体に伝達されます。細胞内外の体液のイオン成分は、細胞膜を約65ミリボルトの静止電位に維持します。累積シナプス後電位が静止電位を超えると、細胞体（ソマ）で活動電位が発生し、軸索に沿って伝播します。軸索には1つ以上の末端があり、これらの末端は神経伝達物質を神経細胞が接続されているシナプスに伝達します。樹状突起が受け取る刺激に応じて、細胞体は1つまたは複数の明確に分離された活動電位、すなわちスパイク列を発生させます。刺激によって膜電位が正の方向に変化する場合、それは興奮性ニューロンであり、静止電位をさらに負の方向に変化させる場合は、それは抑制性ニューロンである。

活動電位の発生は「発火」と呼ばれます。上記で説明した発火ニューロンはスパイクニューロンと呼ばれます。ニューロンの電気回路はセクション3.6でモデル化します。スパイクニューロンには2種類あります。刺激が閾値レベルを超えて出力がスパイク列である場合、それは積分発火（IF）ニューロンモデルと呼ばれます。出力が回路のインパルス応答に依存するようにモデル化されている場合、それはスパイク応答モデル（SRM）と呼ばれます（Gestner, W. (1995) ^{[ 15 ]}）。

スパイクニューロンモデルでは、スパイク列の周波数（スパイクが発生する頻度の逆数）は0から始まり、刺激電流とともに増加すると仮定しています。発火が閾値で発生すると定式化する別の仮説モデルがありますが、スパイクニューロンモデルのように周波数が滑らかに上昇するのではなく、周波数に量子ジャンプが発生します。このモデルはレートモデルと呼ばれます。スパイクニューロンモデルとレートニューロンモデルの詳細な解説については、Gerstner, W., & Kistler, W. (2002), ^{[ 3 ]}および Sterratt, D., Graham, B., Gillies, A., & Willshaw, D. (2011) ^{[ 2 ]}が参考になります。

人工ニューラルネットワーク（ANN）の概念は、生物学的ニューロンの挙動に基づくモデルとして、 McCulloch, WS & Pitts, W. (1943) ^{[ 16 ]}によって導入されました。Norbert Wiener (1961) ^{[ 17 ]}はこの新しい分野にサイバネティクスという通称を与え、その原理は工学、生物学、制御システム、脳機能、コンピュータ科学の間の学際的な関係です。コンピュータ科学分野の進歩に伴い、フォン・ノイマン型コンピュータが神経科学研究の初期に導入されました。しかし、生物学的ニューラルネットワークの応用に必要な記号処理、非決定論的計算、動的実行、並列分散処理、および大規模な知識ベースの管理には適していなかったため、心のような機械の開発方向は学習機械へと変化しました。その後、コンピューティング技術は大きく進歩し、計算神経科学は現在、生物学的ニューラルネットワーク用に開発された数学モデルを扱うことができるようになりました。人工ニューラルネットワークと生物学的ニューラルネットワークの両方で研究開発が進められており、両者を融合する取り組みも行われています。

「脳の三位一体説」マクリーン、P. (2003) ^{[ 18 ]}は、脳の組織構造を理論化するために使用されるいくつかのモデルの 1 つです。脳の最も古い神経構造は、脳幹または「トカゲ脳」です。第 2 段階は、辺縁系または古哺乳類脳であり、動物の生存に必要な 4 つの機能 (闘争、摂食、逃走、交尾) を実行します。第 3 段階は、新皮質または新哺乳類脳です。人間を他の動物と区別する高次の認知機能は、主に皮質にあります。爬虫類脳は、筋肉、バランス、および呼吸や心拍などの自律機能を制御します。脳のこの部分は、深い睡眠中でも活動しています。辺縁系には、視床下部、海馬、扁桃体が含まれます。新皮質には、皮質と大脳が含まれます。これは霊長類、特に人間の脳に相当します。 3つの脳はそれぞれ神経によって他の2つの脳と繋がっているが、それぞれが独自の能力を持つ独立した脳システムとして機能しているように見える。（「三位一体脳」の図を参照。）

コネクショニストモデルは、並列分散処理フレームワークから発展したもので、特定のアプリケーション向けに特定のモデルを生成できるメタ理論を構築します。PDPアプローチ（Rumelhart, JL、McClelland, JL、およびPDP研究グループ（1986）^{[ 4 ]}）は、人間の神経系で起こっていることとやや似た、相互に関連する多数の操作の分散並列処理です。個々のエンティティはユニットとして定義され、ユニットはネットワークを形成するように接続されます。したがって、神経系への応用では、ユニットがニューロンであり、リンクがシナプスであるような表現が考えられます。

脳の接続性モデルには、ネットワークの 3 つのタイプがあります (Sporns, O. (2007) ^{[ 6 ]} )。「解剖学的 (または構造的) 接続性」は、接続された「ユニット」間の特定の関係を持つ解剖学的リンクを持つネットワークを記述します。依存特性が確率的である場合、それは「機能的接続性」と定義されます。「有効接続性」は、システム内の異なるユニット間の因果的相互作用を持ちます。前述のように、脳の接続性は 3 つのレベルで記述できます。ミクロレベルでは、電気的または化学的シナプスを介してニューロンを接続します。ニューロンの列はメソレベルのユニットとみなすことができ、多数のニューロンとニューロン集団を含む脳の領域はマクロレベルのユニットとみなすことができます。後者の場合のリンクは、大規模な接続性を形成する領域間経路です。

図 2 は 3 種類の接続性を示しています。分析は有向グラフを使用して行われます (Sporns, O. (2007) ^{[ 6 ]}および Hilgetag, CC (2002) ^{[ 19 ]}を参照)。構造的脳接続性タイプでは、接続性は疎で有向のグラフです。機能的脳接続性には双方向のグラフがあります。有効脳接続性は双方向で、相互作用する原因と結果の関係があります。接続性の別の表現は、行列表現によるものです (Sporns, O. (2007) ^{[ 6 ]}を参照)。Hilgetag, CC (2002) ^{[ 19 ]}は、脳接続性の計算分析について説明しています。

Arbib, MA (2007) ^{[ 7 ]}は、モジュールモデルを次のように説明しています。「脳のモジュールモデルは、複雑なシステムを構造モジュール（脳領域、層、列など）または機能モジュール（スキーマ）に分解し、全体的な機能を生み出す競合と協力のパターンを探求することで、システムの理解を助けます。」この定義は、機能的接続性で定義されているものとは異なります。モジュールアプローチは認知モデルを構築することを目的としており、複雑さの点では、解剖学的に定義された脳領域（脳接続性ではマクロレベルとして定義される）とニューロンレベルの計算モデルの中間に位置します。

モデリング用モジュールには 3 つの見方があります。それらは (1) 脳構造用モジュール、(2) スキーマとしてのモジュール、(3) インターフェースとしてのモジュールです。図 3 は、サッケードの反射制御モデルのモジュール設計を示しています (Arbib, MA (2007) ^{[ 7 ]} )。これは、上丘 (SC) 用と脳幹用の 2 つの主要モジュールで構成されています。これらのそれぞれはサブモジュールに分解され、各サブモジュールは生理学的に定義されたニューロンの配列を定義します。図 3(b) では、図 3(a) のモデルが、大脳皮質のさまざまな領域 (Pre-LIP Vis、Ctx.、LIP、PFC、FEF モジュールで表される)、視床、基底核を含むはるかに大きなモデルに組み込まれています。モデルは確かにこの最上位のモジュール分解レベルで分析できますが、基底核内の直接経路と間接経路を異なる方法で調節する（SNc から伸びる 2 つの矢印で示されている）ドーパミンの役割を解明するには、図 3(c) に示すように基底核 BG をさらに分解する必要があります (Crowley, M. (1997) ^{[ 20 ]} )。大規模な汎用ニューラル ネットワークのシミュレーション システムを提供するために、ニューラル シミュレーション ランゲージ (NSL) が開発されました。これは、脳モデリングへのオブジェクト指向アプローチを開発するための環境を提供します。NSL は、同様の特性と接続パターンを持つニューラル レイヤーを基本データ構造とするニューラル モデルをサポートします。NSL を使用して開発されたモデルは、階層的に整理されたモジュールとして Brain Operation Database (BODB) に文書化され、より低いレベルに分解できます。

セクション2.4で述べたように、人工ニューラルネットワーク（ANN）、あるいは現在ではニューラルネットワークと呼ばれるものの開発は、生物学的ニューロンネットワークのシミュレーションとして始まり、最終的には人工ニューロンを用いるに至りました。主な開発作業は、学習プロセスを伴う産業応用へと向けられています。複雑な問題は、仮定を単純化することで解決されました。経験からの学習など、神経学に関連する性能を実現するためのアルゴリズムが開発されました。背景と概要については他の内部参照で既に説明されているため、ここではモデルの種類に絞って説明します。モデルはシステムレベルまたはネットワークレベルです。

ANN の主な 4 つの特徴は、トポロジー、データ フロー、入力値のタイプ、および活性化の形式です (Meireles、MRG (2003)、^{[ 21 ]} Munakata、T. (1998) ^{[ 22 ]} )。トポロジーは、多層、単層、または再帰的になります。データ フローは、フィードバック付き再帰的、またはフィードフォワード モデル付き非再帰的になります。入力は、バイナリ、バイポーラ、または連続です。活性化は、線形、ステップ、またはシグモイドです。多層パーセプトロン (MLP) は、すべてのタイプの中で最も人気があり、一般的に誤差逆伝播アルゴリズムでトレーニングされます。各ニューロンの出力は、カスケード接続された後続層のすべてのニューロンに接続され、同じ層のニューロン間には接続がありません。図4は、ほとんどの人がよく知っている基本的なMLPトポロジー（Meireles、MRG（2003）^{[ 21 ]}）と基本的な電気通信ネットワーク（Subramanian、M.（2010）^{[ 23 ]}）を示しています。電気通信ネットワークのノードにあるルーターをMLP技術のニューロンに、リンクをシナプスに例えることができます。

計算神経科学は、工学、生物学、制御システム、脳機能、物理科学、コンピュータ科学を組み合わせた学際的な分野です。イオン、ニューロン、シナプスの低レベルでの基礎的な開発モデル、およびニューロン間の情報伝達があります。これらのモデルは、より高レベルのモデルを開発するための基盤技術を確立しました。これらは、電気的等価回路が生成されるニューロン内の化学的および電気的活動に基づいています。細胞内にカリウムイオンが大部分を占め、細胞外にナトリウムイオンがあるニューロンの単純なモデルは、平衡状態、つまり外部活動がない状態で膜上に電位を確立します。これは静止膜電位と呼ばれ、ネルンストの式（Nernst, W. (1888) ^{[ 24 ]}）によって決定できます。図5に、例えば軸索や樹状突起といった膜の断片に対応する等価電気回路を示す。E _KとE _Naはそれぞれカリウムチャネルとナトリウムチャネルに関連する電位であり、R _KとR _Naはそれらに関連する抵抗である。Cは膜の静電容量であり、Iは電流源であり、試験源または信号源（活動電位）である。ニューロンにおけるカリウム・ナトリウムチャネルの静止電位は約-65ミリボルトである。

膜モデルは細胞膜の小さな部分を表すもので、より大きな部分については、コンパートメントと呼ばれる同様の部分を追加することで拡張できます。コンパートメントのパラメータ値は同じでも異なっていても構いません。コンパートメントは、軸方向抵抗と呼ばれる抵抗によってカスケード接続されています。図6は、膜モデルに基づいて構築されたニューロンのコンパートメントモデルを示しています。樹状突起は、他のニューロンからの入力を受け取るシナプス後受容体であり、1つ以上の軸索終末を持つ軸索は、神経伝達物質を他のニューロンに伝達します。

2つ目の構成要素は、活動電位のホジキン・ハクスリー（HH）モデルです。樹状突起の膜電位が静止膜電位を超えると、神経細胞によってパルスが発生し、軸索に沿って伝播します。このパルスは活動電位と呼ばれ、HHモデルは、モデルの設計とパラメータ値の選択によって実験データに適合するように作られた一連の方程式です。

他の種類のイオンを含むより複雑なニューロンのモデルは、等価回路に各イオンチャネルに対応する追加の電池と抵抗のペアを追加することで導出できます。イオンチャネルは、電圧によってゲート制御される場合やリガンドによって制御される場合など、受動型または能動型になり得ます。拡張HHモデルは、能動型チャネルの場合に対応するために開発されました。

生理学的に互いに接続されているニューロンも存在するが、シナプスのほとんどでは、情報はシナプス間隙を介した化学プロセスによって伝達される。シナプスは計算機的にモデル化もされている。次のレベルの複雑さは、生成される活動電位の流れであり、そのパターンには伝達される信号の符号化情報が含まれている。生成される活動電位、またはスパイクと呼ばれるものには基本的に2種類ある。1つは「積分発火型」（これまで扱ってきたもの）であり、もう1つはレートベースである。後者はレートが変化する流れである。シナプスを横切る信号は、アプリケーションに基づいて決定論的プロセスまたは確率的プロセスとしてモデル化できる（セクション3.7を参照）。もう1つの解剖学的複雑さは、視覚系におけるニューロンの列など、ニューロンの集団を扱う必要がある場合である。これは、集団の集団行動を考慮することによって行われます（Kotter, R., Nielson, P., Dyhrfjeld-Johnson, J., Sommer, FT, & Northoff, G. (2002) ^{[ 25 ]}）。

活動電位、すなわちスパイク自体は情報を伝達しません。スパイク列と呼ばれるスパイクの連続が、スパイクの数、パターン、およびタイミングによって情報を伝達します。シナプス後電位は、正（興奮性シナプス）または負（抑制性シナプス）のいずれかになります。モデリングでは、シナプス後ニューロンの樹状突起が受け取るシナプス後電位が積分され、積分された電位が静止電位を超えると、ニューロンは軸索に沿って活動電位を発火します。このモデルは、セクション2.3で述べた積分発火（IF）モデルです。IFモデルと密接に関連しているのが、入力刺激信号と畳み込まれたインパルス関数応答に依存するスパイク応答モデル（SRM）（Gerstner, W. (1995) ^{[ 15 ]} Pages 738-758）と呼ばれるモデルです。これは、スパイクニューラルネットワーク用に開発された多数のモデルの基礎となっています。

スパイク列のIFモデルとSRモデルはI型ニューロンで発生し、刺激電流の増加に伴い、スパイク発生率（スパイク頻度）がゼロから滑らかに増加します。スパイク列発生のもう一つの現象はII型ニューロンで発生し、静止電位閾値で発火しますが、ゼロ以外の周波数に量子ジャンプします。スパイク列の発生率（周波数）を利用したモデルが開発されており、これらはレートベースモデルと呼ばれています。

神経系の機能を理解する上で重要なのは、ニューロンの活動電位によってメッセージがどのように符号化され、伝達されるかを理解することである。スパイクに伝達される信号がどのように符号化されるかについては、パルス符号かレート符号かという2つの理論がある。パルス符号では、シナプス後受容体から見た刺激から最初のスパイクまでの時間遅延が符号化を決定する。レート符号では、スパイクの平均レートが符号化に影響を与える。どちらの場合も、実際の生理現象がどちらであるかは定かではない。しかし、どちらの場合も計算機上でモデル化し、パラメータを変化させて実験結果に一致させることができる。パルスモードのモデリングはより複雑であり、多数の詳細なニューロンモデルと集団モデルが、GerstnerとKistlerによってGerstner, W., & Kistler, W. (2002) ^{[ 3 ]}のパートIとII 、およびSterratt, D., Graham, B., Gillies, A., & Willshaw, D. (2011) ^{[ 2 ]}の第8章で説明されている。SRモデルに関連するもう1つの重要な特徴は、スパイク時間依存性可塑性である。これは、シナプスの可塑性に関するHebbの仮説に基づいており、「一緒に発火するニューロンは一緒に結合する」と述べている。これにより、シナプスは長期増強（LTP）または長期抑制（LTD）となる。前者は、シナプス後スパイクがシナプス前スパイクの直後に時間的に続く場合に、2つのニューロン間のシナプスが強化されることを意味する。後者は、逆の場合、つまりシナプス前スパイクがシナプス後スパイクの後に発生する場合に該当します。Gerstner, W. & Kistler, W. (2002) ^{[ 3 ]}の第 10 章と Sterratt, D., Graham, B., Gillies, A., & Willshaw, D. (2011) ^{[ 2 ]}の第 7 章では、可塑性と符号化に関するヘッブモデルに関連するさまざまなモデルについて議論しています。

小規模、中規模、大規模ネットワークのモデルを開発する際の課題は、妥当な単純化仮定を行い、ホジキン・ハクスリー神経モデルを適切に拡張してこれらのモデルを設計することで複雑さを軽減することです（Sterratt, D., Graham, B., Gillies, A., & Willshaw, D. (2011) ^{[ 2 ]}、Kotter, R., Nielson, P., Dyhrfjeld-Johnson, J., Sommer, FT, & Northoff, G. (2002) ^{[ 25 ]} 、および Gerstner, W., & Kistler, W. (2002) ^{[ 3 ]}の第 9 章を参照）。ネットワークモデルは、皮質の異なるレベルを伝播するニューロンのネットワーク、または多レベルニューロンとして相互接続されたニューロン集団のいずれかに分類できます。ニューロンの空間的配置は 1 次元、2 次元、または 3 次元である可能性があります。後者は局所領域に関連しているため、スモールワールドネットワークと呼ばれます。ニューロンは興奮性または抑制性のいずれかであり、両方ではありません。モデル設計は、それが人工ニューロンか生物学的ニューロンかニューロンモデルかによって異なります。発火モードについては、タイプIまたはタイプIIを選択する必要があります。ニューロンのシグナル伝達は、レートベースニューロン、スパイク応答ニューロン、または深部脳刺激のいずれかです。ネットワークは、フィードフォワード型またはリカレント型として設計できます。ネットワークは、計算リソースの能力に合わせてスケーリングする必要があります。大規模な視床皮質システムは、ブルーブレインプロジェクト（Markam, H. (2006) ^{[ 26 ]}）の方法で処理されます。

HHモデルに基づく神経ネットワークの挙動と同様に、解剖生理学および形態学の発達をモデル化するための一般的なモデリング概念は存在しません。Shankle, WR、Hara, J.、Fallon, JH、およびLanding, BH (2002) ^{[ 27 ]}は、発達中のヒト大脳皮質の神経解剖学的データを計算モデルに適用することについて説明します。Sterratt, D.、Graham, B.、Gillies, A.、およびWillshaw, D. (2011) ^{[ 2 ]は}、神経細胞の形態、細胞生理学、細胞パターン、眼優位性のパターン、神経細胞と筋肉間の接続、および網膜局所マップの発達における計算モデリングの神経系の側面について議論します。Carreira-Perpinan, MAおよびGoodhill, GJ (2002) ^{[ 28 ]}は、視覚皮質のコンピュータモデルの最適化を扱います。

膨大な数のモデルが作成されてきたため、情報の普及のためのツールやモデル開発のためのプラットフォームが開発されてきました。GENESIS、NEURON、XPP、NEOSIMなどの汎用ツールがいくつか利用可能であり、Hucka, M. (2002) によって議論されています。^{[ 29 ]}