人工ニューロン

人工ニューロンは、ニューラルネットワークにおける生物学的ニューロンのモデルとして考案された数学的関数である。人工ニューロンは、人工ニューラルネットワークの基本単位である。^[¹^]

人工ニューロンの設計は、生物学的神経回路にヒントを得たものである。その入力は、神経樹状突起における興奮性シナプス後電位および抑制性シナプス後電位に類似している。活性化。その重みはシナプス重みに類似しており、その出力は軸索に沿って伝達されるニューロンの活動電位に類似している。

通常、各入力は個別に重み付けされ、その合計は、非線形関数である活性化関数を通過する前に、バイアス（おおよそ閾値電位に対応）と呼ばれる項に加算されることが多い。タスクによっては、これらの関数はシグモイド形状（例えば、二値分類の場合）になることもあるが、他の非線形関数、区分的線形関数、または階段関数の形をとることもある。また、多くの場合、単調増加、連続、微分可能、有界である。多くのタスクでシグモイド関数や ReLUのような活性化関数よりも優れた性能を発揮する、非単調、非有界、振動する多重零点を持つ活性化関数も最近研究されている。閾値関数は、閾値論理と呼ばれる論理ゲートの構築にインスピレーションを与えており、脳の処理に似た論理回路の構築に適用できる。例えば、メモリスタなどの新しいデバイスが、このような論理の開発に広く用いられている。^[²^]

人工ニューロンの活性化関数は、線形システムの伝達関数と混同してはならない。

人工ニューロンは、使用される構造に応じて、半線形ユニット、Nvニューロン、バイナリニューロン、線形閾値関数、またはマカロック・ピッツ（MCP）ニューロンと呼ばれることがある。

マカロック・ピッツモデルのような単純な人工ニューロンは、現実性にとらわれずに一つ以上の神経生理学的観察を反映することを目的としているため、「カリカチュアモデル」と呼ばれることがあります。^{[ 3 ]}人工ニューロンは、ニューロモルフィックエンジニアリングにおいて、自然の物理的ニューロンに似た人工細胞を指す場合もあります。

基本構造

特定の人工ニューロンの場合 $k$ あれ $m+1$ 信号による入力 $x_{0}$ を通して $x_{m}$ そして重さ $w_{k0}$ を通して $w_{km}$ 通常、入力は $x_{0}$ には+1の値が割り当てられ、バイアス入力になります。 $w_{k0}=b_{k}$ 残りは $m$ ニューロンへの実際の入力： $x_{1}$ に $x_{m}$ 。

出力 $k$ 第 1 番目のニューロンは:

y_{k}=\varphi \left(\sum _{j=0}^{m}w_{kj}x_{j}\right)

、

どこ $\varphi$ （ファイ）は活性化関数です。

出力は生物学的ニューロンの軸索に相当し、その値はシナプスを介して次の層の入力に伝播する。また、出力ベクトルの一部としてシステムから出力される場合もある。

学習プロセスは特に存在しない。活性化関数の重みは計算され、閾値はあらかじめ決められている。

マカロック・ピッツ（MCP）ニューロン

MCPニューロンは、離散的な時間ステップで動作する制限付き人工ニューロンの一種です。それぞれが0個以上の入力を持ち、次のように記述されます。 $x_{1},...,x_{n}$ 出力は1つで、以下のように記述されます。 $y$ 各入力は興奮性または抑制性のいずれかである。出力は静止状態または発火状態のいずれかである。MCPニューロンには閾値も存在する。 $b\in \{0,1,2,...\}$ 。

MCPニューラルネットワークでは、すべてのニューロンが同期した離散的な時間ステップで動作します。 $t=0,1,2,3,...$ その時 $t+1$ ニューロンの出力は $y(t+1)=1$ 興奮性入力の発火数が閾値以上であり、かつ抑制性入力が発火していない場合。 $y(t+1)=0$ さもないと。

これは、線形分離可能なブール関数（例えば、AND、OR、NOR）を表すために使用できますが、例えば、XORを表すためには使用できません。^{[ 4 ]}

各出力は、自身を含め、任意の数のニューロンへの入力となり得る（つまり、自己ループが可能）。ただし、出力は単一のニューロンに複数回接続することはできない。ネットワークは同期した離散的な時間ステップで動作するため、自己ループが発生しても矛盾は生じない。

簡単な例として、閾値が0の単一のニューロンと、単一の抑制性自己ループを考えてみましょう。その出力は、ステップごとに0と1の間で振動し、「時計」のように機能します。

有限状態機械は、MCPニューラルネットワークによってシミュレートできます。^{[ 5 ]}無限テープを備えたMCPニューラルネットワークは、任意のチューリングマシンをシミュレートできます。^{[ 6 ]}

生物学的モデル

人工ニューロンは、生物学的ニューロンの特徴を模倣するように設計されています。しかし、生物学的ニューラルネットワークと人工ニューラルネットワークの間には、性能面で大きなギャップが存在します。特に、人間の脳には、XOR関数を学習できる振動活性化関数を持つ単一の生物学的ニューロンが発見されています。^{[ 7 ]}

樹状突起― 生物学的ニューロンにおいて、樹状突起は入力ベクトルとして機能します。これらの樹状突起により、細胞は多数の（1000を超える）近隣ニューロンからの信号を受け取ることができます。上記の数学的処理と同様に、各樹状突起は、その樹状突起の「重み値」による「乗算」を行うことができます。この乗算は、シナプス神経伝達物質に応答して樹状突起に導入される信号化学物質に対するシナプス神経伝達物質の比率を増減させることによって実現されます。シナプス神経伝達物質の受容に応答して、信号阻害物質（すなわち反対の電荷を持つイオン）を樹状突起に沿って伝達することで、負の乗算効果を得ることができます。
細胞体― 生物学的ニューロンにおいて、細胞体は上記の数式で示されているように、加算機能として機能します。樹状突起から細胞体に正の信号（興奮性）と負の信号（抑制性）が到達すると、細胞体内の溶液中で正イオンと負イオンが混合されるという単純な原理により、これらのイオンが効果的に加算されます。
軸索― 軸索は、細胞体内部で起こる加算挙動から信号を受け取ります。軸索の開口部は、細胞体内部の溶液の電位をサンプリングします。細胞体が一定の電位に達すると、軸索はその全長に沿って全入力信号パルスを伝達します。この点において、軸索は、人工ニューロンを他の人工ニューロンに接続する機能として機能します。

しかし、ほとんどの人工ニューロンとは異なり、生物学的ニューロンは離散的なパルスで発火します。細胞体内部の電位が一定の閾値に達するたびに、軸索に沿ってパルスが伝達されます。このパルスは連続値に変換できます。軸索が発火する速度（1秒あたりの活性化回数など）は、隣接する細胞に信号イオンが導入される速度に直接変換されます。生物学的ニューロンの発火が速いほど、近くのニューロンは電位をより速く蓄積します（または、発火したニューロンに接続する樹状突起の「重み」に応じて電位を失います）。この変換によって、コンピュータ科学者や数学者は、異なる値（多くの場合-1から1）を出力できる人工ニューロンを使用して、生物学的ニューラルネットワークをシミュレートすることが可能になります。

エンコーディング

研究によると、鳥の歌の生成を担う神経回路では単項符号化が使用されていることが示されている。^[⁸^]^[⁹^]生物学的ネットワークにおける単項符号化の使用は、おそらくその符号化の単純さによるものと考えられる。もう一つの要因として、単項符号化が一定程度の誤り訂正を提供するということが挙げられる。^[¹⁰^]

物理的人工細胞

有機および無機の物理的な人工ニューロンに関する研究開発が行われている。

例えば、一部の人工ニューロンはドーパミン（電気信号ではなく化学信号）を受信して放出することができ^、^ラットの筋肉や脳の細胞と通信することができ、^BCI /^義肢への応用^の^可能性を秘めている。^[¹¹^{] [12]}^[^{13][ 14}^]

低消費電力の生体適合性メモリスタは、生物学的活動電位の電圧で機能する人工ニューロンの構築を可能にし、生体感知信号を直接処理したり、ニューロモルフィックコンピューティングや生物学的ニューロンとの直接通信に使用できる可能性がある。^{[ 15 ]}^{[ 16 ]}^{[ 17 ]}

ポリマーから作られた有機ニューロモルフィック回路は、イオン豊富なゲルでコーティングされ、材料が実際のニューロンのように電荷を運ぶことができるようにして、ロボットに組み込まれており、シミュレーションや仮想空間ではなく、現実世界で感覚運動的に学習することを可能にしている。^{[ 18 ]}^{[ 19 ]}さらに、軟質物質（ポリマー）で作られた人工スパイクニューロンは、生物学的に関連する環境で動作し、人工領域と生物学的領域間の相乗的なコミュニケーションを可能にすることができる。^{[ 20 ]}^{[ 21 ]}

歴史

人工ニューロンは、ウォーレン・マカロックとウォルター・ピッツが1943年の論文「神経活動に内在する観念の論理計算」で初めて提案した。これは閾値論理ユニットまたは線形閾値ユニットと呼ばれた。^{[ 22 ]}このモデルは、脳内の「神経網」の計算モデルとして特に意図されていた。^{[ 23 ]}活性化関数として、ヘヴィサイド階段関数を使用することに相当する閾値が用いられた。当初は、バイナリ入力と出力、可能な重みに対するいくつかの制限、およびより柔軟な閾値を持つ単純なモデルのみが検討された。最初から、このようなデバイスのネットワークによって任意のブール関数を実装できることがすでに注目されており、AND関数とOR関数を実装し、それらを選言または連言の標準形で使用できるという事実から容易にわかる。研究者たちは、ニューロンを介したフィードバックを持つ循環ネットワークが、記憶を持つ動的システムを定義できることにもすぐに気づいたが、研究のほとんどは（そして現在も）厳密なフィードフォワードネットワークに集中している。それは、フィードフォワードネットワークの方が難易度が低いからである。

線形閾値関数を用いた重要な先駆的人工ニューラルネットワークの一つに、フランク・ローゼンブラットが開発したパーセプトロンがある。このモデルは既にニューロンの重み値をより柔軟に設定できる設計となっており、適応能力を持つ機械に用いられていた。閾値をバイアス項として表現する方法は、 1960年にバーナード・ウィドローによって導入された（ ADALINEを参照）。

さらに発展したのは、ドナルド・O・ヘッブによって提唱されたヘッブ学習規則であり、これはニューラルネットワークの重みを調整するための基本的な規則を提供しました。^[²⁴^]ヘッブ学習の原理は、2つのニューロンが同時に活性化すると、それらの間の接続が強化され、別々に活性化すると、弱まることを前提としています。^[²⁴^]スパイクタイミング依存性可塑性として知られるヘッブ学習の改良版は、ニューロンのスパイクの正確なタイミングを考慮するために開発されました。^[²⁴^]この学習形式は、スパイクニューラルネットワークに実装されており、スパイクニューラルネットワークは、従来のANNよりもエネルギー効率が高く^[²⁴^]、連続計算ではなくイベントの発生に基づいてデータを処理するため、伝送に必要なエネルギーが少なくて済みます。^[²⁴^]

1980年代後半、ニューラルネットワークの研究が勢いを増すと、より連続的な形状のニューロンが検討されるようになった。活性化関数を微分できるようになったことで、勾配降下法やその他の最適化アルゴリズムを直接使用して重みを調整できるようになった。ニューラルネットワークは、一般的な関数近似モデルとしても使用されるようになった。バックプロパゲーションと呼ばれる最もよく知られた学習アルゴリズムは何度も再発見されているが、その最初の開発はポール・ヴェルボスの研究に遡る。^{[ 25 ]}^{[ 26 ]}

活性化関数の種類

ニューロンの活性化関数は、そのニューロンを含むネットワークを強化または簡素化する様々な特性を持つように選択されます。重要な点として、例えば、線形活性化関数を使用する多層パーセプトロンは、同等の単層ネットワークを持つため、多層ネットワークの利点を得るには非線形関数が必要となります。

下に、 $u$ は、すべての場合において、ニューロンへのすべての入力の加重和を指します。 $n$ 入力、

u=\sum _{i=1}^{n}w_{i}x_{i}

どこ $w$ はシナプス重みのベクトルであり、 $x$ これは入力のベクトルです。

ステップ関数

出力 $y$ この活性化関数は、入力が指定された閾値を満たすかどうかに応じてバイナリです。 $\theta$ （シータ）。活性化が閾値に達するか超えると、「信号」が送信され、出力が1に設定されます。

y={\begin{cases}1&{\text{if }}u\geq \theta \\0&{\text{if }}u<\theta \end{cases}}

この関数はパーセプトロンで使用され、他の多くのモデルにも登場します。入力空間を超平面で分割する処理を行います。特にネットワークの最終層で有用であり、例えば入力の二値分類を行う際に役立ちます。

線形結合

この場合、出力ユニットは入力の重み付き和にバイアス項を加えたものになります。このような線形ニューロンを複数組み合わせることで、入力ベクトルの線形変換が行われます。これは通常、ネットワークの初期層でより有効です。調和解析など、線形モデルに基づいた解析ツールは数多く存在し、これらはすべてこの線形ニューロンを用いたニューラルネットワークで使用できます。バイアス項を用いることで、データに対してアフィン変換を行うことができます。

シグモイド

ロジスティック関数などの比較的単純な非線形関数であるシグモイド関数は、導関数も容易に計算でき、ネットワークの重み更新を計算する際に重要となる場合があります。そのため、ネットワークを数学的に扱いやすくすることができ、シミュレーションの計算負荷を最小限に抑える必要があった初期のコンピュータ科学者にとって魅力的なものでした。以前は多層パーセプトロンでよく見られました。しかし、最近の研究では、シグモイドニューロンは整流線形ニューロンよりも効果が低いことが示されています。その理由は、バックプロパゲーションアルゴリズムによって計算される勾配が、活性化がシグモイドニューロンの層を伝播するにつれてゼロに近づく傾向があるため、複数の層のシグモイドニューロンを使用してニューラルネットワークを最適化することが困難になるためです。

整流器

人工ニューラルネットワークの文脈では、整流器または整流線形ユニットは、引数の正の部分として定義される活性化関数である。

f(x)=x^{+}=\max(0,x),

どこ $x$ これはニューロンへの入力です。これはランプ関数とも呼ばれ、電気工学における半波整流に類似しています。この活性化関数は、生物学的動機と数学的正当性が強く、 2000 年に Hahnloser らがNature 誌に発表した論文^{[ 27 ]で初めて動的ネットワークに導入されました。}^[²⁸^] 2011 年に初めて、2011 年以前に広く使用されていた活性化関数、すなわちロジスティックシグモイド(確率論に触発されたもの。ロジスティック回帰を参照) とそのより実用的な^[³⁰^]対応物である双曲線正接と比較して、より深いネットワークのトレーニングを改善できることが実証されました。^[²⁹^]

整流線形ユニットの活性化関数の一般的な変種として、リーキー整流線形ユニットがあり、これはユニットが非アクティブなときに小さな正の勾配を許容する。

$f(x)={\begin{cases}x&{\text{if }}x>0,\\ax&{\text{otherwise}}.\end{cases}}$

どこ $x$ ニューロンへの入力であり、 $a$ は小さな正の定数です（元の論文では0.01に設定されています）。^{[ 31 ]}

擬似コードアルゴリズム

以下は、ブール値（真または偽）を入力として受け取り、アクティブ化されると単一のブール値を出力する単一の閾値論理ユニットの単純な擬似コード実装です。オブジェクト指向モデルを使用しています。トレーニング方法は複数存在するため、ここでは定義していません。純粋関数型モデルを使用する場合は、以下のクラス Threshold Logic Unit を、入力パラメータ threshold、weights、およびブール値を返す入力を持つ関数 Threshold Logic Unit に置き換えます。

クラスThreshold Logic Unit は次のように定義されます:データメンバthreshold :数値 データメンバweights :サイズXの数値のリスト関数メンバーfire(inputs :サイズ X のブール値のリスト) :ブール値定義:変数T :数値 T ← 0 1からXまでの各iについて、 inputs(i)がtrueの場合、 T ← T + weights(i) を実行する。各iについて、 T > thresholdの場合、 true を返す。それ以外の場合はfalse を返す。関数終了クラス終了

参考文献

↑ Rami A. Alzahrani; Alice C. Parker. 「神経変調による神経信号情報の向上を実現するニューロモルフィック回路」。 2020年国際ニューロモルフィックシステム会議議事録。論文 19。ニューヨーク：Association for Computing Machinery。doi ：10.1145/ 3407197.3407204。ISBN 978-1-4503-8851-1. S2CID 220794387 .
↑ Maan, AK; Jayadevi, DA; James, AP (2016年1月1日). "メモリスティブ閾値論理回路の概観". IEEE Transactions on Neural Networks and Learning Systems . PP (99): 1734–1746 . arXiv : 1604.07121 . Bibcode : 2016arXiv160407121M . doi : 10.1109/TNNLS.2016.2547842 . ISSN 2162-237X . PMID 27164608. S2CID 1798273 .
↑ FC Hoppensteadt および EM Izhikevich (1997). Weakly connected neural networks . Springer. p. 4. ISBN 978-0-387-94948-2。
↑ "CS7015 (ディープラーニング) : 講義 2 : マカロック・ピッツニューロン、閾値処理ロジック、パーセプトロン、パーセプトロン学習アルゴリズムと収束、多層パーセプトロン (MLP)、MLP の表現力" (PDF) . Cse.iitm.ac.in . 2026-06-25に取得.
↑ミンスキー、マービン・リー (1967年1月1日)。『計算：有限機械と無限機械』。プレンティス・ホール。ISBN 978-0-13-165563-8。
↑ McCulloch, Warren S.; Pitts, Walter (1943-12-01). "神経活動に内在する観念の論理的計算". The Bulletin of Mathematical Biophysics . 5 (4): 115– 133. doi : 10.1007/BF02478259 . ISSN 1522-9602 .
↑ギドン、アルバート;ゾルニク、ティモシー・アダム。フィジンスキー、パヴェル。ボルドゥアン、フェリックス。パプーシ、アタナシア。Poirazi, パナヨタ州;ホルトカンプ、マーティン。ヴィダ、イムレ。ラーカム、マシュー・エヴァン (2020-01-03)。「ヒト第 2/3 層皮質ニューロンにおける樹状突起の活動電位と計算」。科学。367 (6473): 83–87。Bibcode : 2020Sci...367...83G。土井：10.1126/science.aax6239。PMID 31896716。S2CID 209676937。
↑ Squire, L.; Albright, T.; Bloom, F.; Gage, F.; Spitzer, N. 編 (2007 年 10 月).鳥の鳴き声の生成、学習、符号化のニューラルネットワークモデル(PDF) . New Encyclopedia of Neuroscience: Elservier. 2015 年 4 月 12 日にオリジナル(PDF)からアーカイブ済み。2015年4 月 12 日に取得。
↑ Moore, JM; et al. (2011). "Motor pathway convergence predicts syllable repertoire size in oscine birds" . Proc. Natl. Acad. Sci. USA . 108 ( 39): 16440– 16445. Bibcode : 2011PNAS..10816440M . doi : 10.1073/pnas.1102077108 . PMC 3182746. PMID 21918109 .
↑ Potluri, Pushpa Sree (2014年11月26日). "単項符号化の誤り訂正能力". arXiv : 1411.7406 [ cs.IT ].
↑クライナー、クルト（2022年8月25日）。「コンピューターチップを脳細胞のように機能させる」。Knowable Magazine。doi：10.1146 /knowable-082422-1 。 2022年9月23日取得。
↑キーン、スコット T.;ルブラノ、クラウディア。カゼムザデ、セタレ。メリナス、アルマンタス。タッチマン、ヤーコフ。ポリーノ、ジュゼッピーナ。パオラ・スコニャミーリオ;シナ、ルシオ。サレオ、アルベルト。ファン・デ・ブルクト、ヨエリ。サントロ、フランチェスカ（2020年9月）。「神経伝達物質を介した可塑性を備えたバイオハイブリッドシナプス」。自然素材。19 (9): 969–973。Bibcode : 2020NatMa..19..969K。土井：10.1038/s41563-020-0703-y。ISSN 1476-4660。PMID 32541935。S2CID 219691307。
- 大学のプレスリリース：「研究者らが生細胞と連携する人工シナプスを開発」。スタンフォード大学（medicalxpress.com経由）。 2022年9月23日取得。
↑ 「人工ニューロンが本物のようにラットの脳細胞とドーパミンを交換する」。ニューサイエンティスト。 2022年9月16日取得。
↑ワン、ティン;王、明。王建武。ヤン、レ。レン、シュエヤン。ソン、ギャング。チェン・シーシェン;袁、岳輝。劉瑞清。パン、リャン。李、鄭。レオ、ワン・ルー。ルオ、イーフェイ。ジー、シャオボ。キュイ、ゼクン。彼、ケ。張、飛龍。 Lv、フェンティン;ティアン、ユアンユアン。カイ、カイユ。ヤン、ボーウェン。ニウ、ジンイー。ゾウ、ハオチェン。劉松瑞。徐国梁。ファン、シン。胡本輝。ああ、シアン・ジュン。王蓮輝。陳暁東（2022年8月8日）。「化学媒介人工ニューロン」。ネイチャーエレクトロニクス。5 (9): 586–595 . doi : 10.1038/s41928-022-00803-0 . hdl : 10356/163240 . ISSN 2520-1131 . S2CID 251464760 .
↑ 「科学者たちが人間の脳のように機能する超小型デバイスを開発」。インディペンデント紙。2020年4月20日。2020年4月24日のオリジナルからアーカイブ。 2020年5月17日取得。
↑ 「研究者らが効率的な学習において人間の脳を模倣する電子機器を発表」 . phys.org . 2020年5月28日のオリジナルからアーカイブ。2020年5月17日取得。
↑フー、ティアンダ。劉暁夢。ガオ、ホンヤン。ウォード、ジョイ E.劉暁龍。イン、ビン。王忠瑞。卓、葉。ウォーカー、デビッド・JF。ジョシュア・ヤン、J.チェン、ジャンハン。デレク・R・ラヴリー;ヤオ・ジュン（2020年4月20日）。「生体からインスピレーションを得た生体電圧メモリスタ」。ネイチャーコミュニケーションズ。11 (1): 1861。Bibcode : 2020NatCo..11.1861F。土井：10.1038/s41467-020-15759-y。PMC 7171104。PMID 32313096。
↑ Bolakhe, Saugat. 「有機的な『脳』を持つレゴロボットが迷路をナビゲートすることを学習する」 . Scientific American . 2022年2月1日取得。
↑クラウハウゼン、イムケ。コウツラス、ディミトリオス A.メリナス、アルマンタス。キーン、スコット T.リーベルト、カタリーナ。レダンスール、ハドリアン。シーラマンチュラ、ラジェンダール。ジョバンニッティ、アレクサンダー。トリチェッリ、ファブリツィオ。マカロック、イアン。ブロム、ポールWM。サレオ、アルベルト。ブルクト、ヨエリ・ヴァン・デ。グコウピデニス、パスカリス（2021年12月）。「ロボット工学における感覚運動統合と学習のための有機神経形態エレクトロニクス」。科学の進歩。7 (50) eabl5068。Bibcode : 2021SciA....7.5068K。土井：10.1126/sciadv.abl5068。hdl : 10754/673986 . PMC 8664264 . PMID 34890232 . S2CID 245046482 .
↑サルカール、タンモイ。リーベルト、カタリーナ。パヴルー、アリステア。フランク、トーマス。マイレンダー、フォルカー。マカロック、イアン。ブロム、ポールWM。トッリッチェリ、ファブリツィオ。パシャリス州グクピデニス（2022年11月7日）。「その場での神経形態センシングとバイオインターフェイスのための有機人工スパイクニューロン」。ネイチャーエレクトロニクス。5 (11): 774–783 .土井: 10.1038/s41928-022-00859-y。hdl : 10754/686016。ISSN 2520-1131。S2CID 253413801。
↑ 「人工ニューロンは生物学的対応物を模倣して相乗的な動作を可能にする」 . Nature Electronics . 5 (11): 721–722 . 2022年11月10日. doi : 10.1038/s41928-022-00862-3 . ISSN 2520-1131 . S2CID 253469402 .
↑ Martin Anthony (2001年1月). Discrete Mathematics of Neural Networks: Selected Topics . SIAM. pp. 3–. ISBN 978-0-89871-480-7。
↑ Charu C. Aggarwal (2014年7月25日).データ分類：アルゴリズムと応用. CRC Press. pp. 209–. ISBN 978-1-4665-8674-1。
1 2 3 4 5モメニ、アリ。ラフマニ、ババク。セリエ、ベンジャミン。ライト、ローガン G.マクマホン、ピーター L.ワンジュラ、クララ C.リー、ユハン。スカッリ、アナス。バーロフ、ナタリア G.小野寺達弘；オグズ、イルカー。モリケッティ、フランチェスコ。デル・ホーニュ、フィリップ。ル・ガロ、マヌエル。アブ、セバスチャン（2025年9月）。「物理ニューラルネットワークのトレーニング」。自然。645 (8079 ) : 53–61.arXiv : 2406.03372 。Bibcode : 2025Natur.645...53M。doi : 10.1038/s41586-025-09384-2 . ISSN 1476-4687 . PMID 40903603 .
↑ポール・ワーボス、「回帰分析を超えて：行動科学における予測と分析のための新しいツール」、ハーバード大学博士論文、1974年
↑ Werbos, PJ (1990). "Backpropagation through time: what it does and how to do it" . Proceedings of the IEEE . 78 (10): 1550–1560 . Bibcode : 1990IEEEP..78.1550W . doi : 10.1109/5.58337 . ISSN 0018-9219 . S2CID 18470994 .
↑ Hahnloser, Richard HR; Sarpeshkar, Rahul; Mahowald, Misha A.; Douglas, Rodney J.; Seung, H. Sebastian (2000). "Digital selection and analogue amplification coexist in a cortex-inspired silicon circuit". Nature . 405 (6789): 947– 951. Bibcode : 2000Natur.405..947H . doi : 10.1038/35016072 . ISSN 0028-0836 . PMID 10879535 . S2CID 4399014 .
↑ R Hahnloser; HS Seung (2001).対称閾値線形ネットワークにおける許可セットと禁止セット. NIPS 2001.
↑ Glorot, Xavier; Bordes, Antoine; Bengio, Yoshua (2011). Deep sparse rectifier neural networks (PDF) . Proceedings of the 14th International Conference on Artificial Intelligence and Statistic. Archived from the original (PDF) on 2015-07-24.
↑ Yann LeCun ; Leon Bottou ; Genevieve B. Orr; Klaus-Robert Müller (1998). "Efficient BackProp" (PDF) . In G. Orr; K. Müller (eds.). Neural Networks: Tricks of the Trade . Springer.
↑ Andrew L. Maas、Awni Y. Hannun、Andrew Y. Ng (2014)。整流器の非線形性がニューラルネットワーク音響モデルを改善する、 Ai.stanford.edu

さらに読む

McCulloch, Warren S. ; Pitts, Walter (1943). 「神経活動に内在する観念の論理的計算」. Bulletin of Mathematical Biophysics . 5 (4): 115– 133. doi : 10.1007/bf02478259 .
Samardak, A.; Nogaret, A.; Janson, NB; Balanov, AG; Farrer, I.; Ritchie, DA (2009-06-05). "マルチスレッド半導体ニューロンにおけるノイズ制御信号伝送" . Physical Review Letters . 102 (22) 226802. Bibcode : 2009PhRvL.102v6802S . doi : 10.1103/physrevlett.102.226802 . PMID 19658886 . S2CID 11211062 .

外部リンク

人工ニューロンはヒト細胞の機能を模倣する
マカロック・ピッツニューロン（概要）

[1] Rami A. Alzahrani; Alice C. Parker. 「神経変調による神経信号情報の向上を実現するニューロモルフィック回路」。 2020年国際ニューロモルフィックシステム会議議事録。論文 19。ニューヨーク：Association for Computing Machinery。doi ：10.1145/ 3407197.3407204。ISBN 978-1-4503-8851-1. S2CID 220794387 .

[2] Maan, AK; Jayadevi, DA; James, AP (2016年1月1日). "メモリスティブ閾値論理回路の概観". IEEE Transactions on Neural Networks and Learning Systems . PP (99): 1734–1746 . arXiv : 1604.07121 . Bibcode : 2016arXiv160407121M . doi : 10.1109/TNNLS.2016.2547842 . ISSN 2162-237X . PMID 27164608. S2CID 1798273 .

[3] FC Hoppensteadt および EM Izhikevich (1997). Weakly connected neural networks . Springer. p. 4. ISBN 978-0-387-94948-2。

[4] "CS7015 (ディープラーニング) : 講義 2 : マカロック・ピッツニューロン、閾値処理ロジック、パーセプトロン、パーセプトロン学習アルゴリズムと収束、多層パーセプトロン (MLP)、MLP の表現力" (PDF) . Cse.iitm.ac.in . 2026-06-25に取得.

[:0-5] ミンスキー、マービン・リー (1967年1月1日)。『計算：有限機械と無限機械』。プレンティス・ホール。ISBN 978-0-13-165563-8。

[6] McCulloch, Warren S.; Pitts, Walter (1943-12-01). "神経活動に内在する観念の論理的計算". The Bulletin of Mathematical Biophysics . 5 (4): 115– 133. doi : 10.1007/BF02478259 . ISSN 1522-9602 .

[7] ギドン、アルバート;ゾルニク、ティモシー・アダム。フィジンスキー、パヴェル。ボルドゥアン、フェリックス。パプーシ、アタナシア。Poirazi, パナヨタ州;ホルトカンプ、マーティン。ヴィダ、イムレ。ラーカム、マシュー・エヴァン (2020-01-03)。「ヒト第 2/3 層皮質ニューロンにおける樹状突起の活動電位と計算」。科学。367 (6473): 83–87。Bibcode : 2020Sci...367...83G。土井：10.1126/science.aax6239。PMID 31896716。S2CID 209676937。

[8] Squire, L.; Albright, T.; Bloom, F.; Gage, F.; Spitzer, N. 編 (2007 年 10 月).鳥の鳴き声の生成、学習、符号化のニューラルネットワークモデル(PDF) . New Encyclopedia of Neuroscience: Elservier. 2015 年 4 月 12 日にオリジナル(PDF)からアーカイブ済み。2015年4 月 12 日に取得。

[9] Moore, JM; et al. (2011). "Motor pathway convergence predicts syllable repertoire size in oscine birds" . Proc. Natl. Acad. Sci. USA . 108 ( 39): 16440– 16445. Bibcode : 2011PNAS..10816440M . doi : 10.1073/pnas.1102077108 . PMC 3182746. PMID 21918109 .

[10] Potluri, Pushpa Sree (2014年11月26日). "単項符号化の誤り訂正能力". arXiv : 1411.7406 [ cs.IT ].

[knowablemagazineorganic-11] クライナー、クルト（2022年8月25日）。「コンピューターチップを脳細胞のように機能させる」。Knowable Magazine。doi：10.1146 /knowable-082422-1 。 2022年9月23日取得。

[12] キーン、スコット T.;ルブラノ、クラウディア。カゼムザデ、セタレ。メリナス、アルマンタス。タッチマン、ヤーコフ。ポリーノ、ジュゼッピーナ。パオラ・スコニャミーリオ;シナ、ルシオ。サレオ、アルベルト。ファン・デ・ブルクト、ヨエリ。サントロ、フランチェスカ（2020年9月）。「神経伝達物質を介した可塑性を備えたバイオハイブリッドシナプス」。自然素材。19 (9): 969–973。Bibcode : 2020NatMa..19..969K。土井：10.1038/s41563-020-0703-y。ISSN 1476-4660。PMID 32541935。S2CID 219691307。
大学のプレスリリース：「研究者らが生細胞と連携する人工シナプスを開発」。スタンフォード大学（medicalxpress.com経由）。 2022年9月23日取得。

[mwAnU] 大学のプレスリリース：「研究者らが生細胞と連携する人工シナプスを開発」。スタンフォード大学（medicalxpress.com経由）。 2022年9月23日取得。

[13] 「人工ニューロンが本物のようにラットの脳細胞とドーパミンを交換する」。ニューサイエンティスト。 2022年9月16日取得。

[14] ワン、ティン;王、明。王建武。ヤン、レ。レン、シュエヤン。ソン、ギャング。チェン・シーシェン;袁、岳輝。劉瑞清。パン、リャン。李、鄭。レオ、ワン・ルー。ルオ、イーフェイ。ジー、シャオボ。キュイ、ゼクン。彼、ケ。張、飛龍。 Lv、フェンティン;ティアン、ユアンユアン。カイ、カイユ。ヤン、ボーウェン。ニウ、ジンイー。ゾウ、ハオチェン。劉松瑞。徐国梁。ファン、シン。胡本輝。ああ、シアン・ジュン。王蓮輝。陳暁東（2022年8月8日）。「化学媒介人工ニューロン」。ネイチャーエレクトロニクス。5 (9): 586–595 . doi : 10.1038/s41928-022-00803-0 . hdl : 10356/163240 . ISSN 2520-1131 . S2CID 251464760 .

[15] 「科学者たちが人間の脳のように機能する超小型デバイスを開発」。インディペンデント紙。2020年4月20日。2020年4月24日のオリジナルからアーカイブ。 2020年5月17日取得。

[16] 「研究者らが効率的な学習において人間の脳を模倣する電子機器を発表」 . phys.org . 2020年5月28日のオリジナルからアーカイブ。2020年5月17日取得。

[17] フー、ティアンダ。劉暁夢。ガオ、ホンヤン。ウォード、ジョイ E.劉暁龍。イン、ビン。王忠瑞。卓、葉。ウォーカー、デビッド・JF。ジョシュア・ヤン、J.チェン、ジャンハン。デレク・R・ラヴリー;ヤオ・ジュン（2020年4月20日）。「生体からインスピレーションを得た生体電圧メモリスタ」。ネイチャーコミュニケーションズ。11 (1): 1861。Bibcode : 2020NatCo..11.1861F。土井：10.1038/s41467-020-15759-y。PMC 7171104。PMID 32313096。

[sciame-18] Bolakhe, Saugat. 「有機的な『脳』を持つレゴロボットが迷路をナビゲートすることを学習する」 . Scientific American . 2022年2月1日取得。

[19] クラウハウゼン、イムケ。コウツラス、ディミトリオス A.メリナス、アルマンタス。キーン、スコット T.リーベルト、カタリーナ。レダンスール、ハドリアン。シーラマンチュラ、ラジェンダール。ジョバンニッティ、アレクサンダー。トリチェッリ、ファブリツィオ。マカロック、イアン。ブロム、ポールWM。サレオ、アルベルト。ブルクト、ヨエリ・ヴァン・デ。グコウピデニス、パスカリス（2021年12月）。「ロボット工学における感覚運動統合と学習のための有機神経形態エレクトロニクス」。科学の進歩。7 (50) eabl5068。Bibcode : 2021SciA....7.5068K。土井：10.1126/sciadv.abl5068。hdl : 10754/673986 . PMC 8664264 . PMID 34890232 . S2CID 245046482 .

[20] サルカール、タンモイ。リーベルト、カタリーナ。パヴルー、アリステア。フランク、トーマス。マイレンダー、フォルカー。マカロック、イアン。ブロム、ポールWM。トッリッチェリ、ファブリツィオ。パシャリス州グクピデニス（2022年11月7日）。「その場での神経形態センシングとバイオインターフェイスのための有機人工スパイクニューロン」。ネイチャーエレクトロニクス。5 (11): 774–783 .土井: 10.1038/s41928-022-00859-y。hdl : 10754/686016。ISSN 2520-1131。S2CID 253413801。

[21] 「人工ニューロンは生物学的対応物を模倣して相乗的な動作を可能にする」 . Nature Electronics . 5 (11): 721–722 . 2022年11月10日. doi : 10.1038/s41928-022-00862-3 . ISSN 2520-1131 . S2CID 253469402 .

[Anthony2001-22] Martin Anthony (2001年1月). Discrete Mathematics of Neural Networks: Selected Topics . SIAM. pp. 3–. ISBN 978-0-89871-480-7。

[Aggarwal2014-23] Charu C. Aggarwal (2014年7月25日).データ分類：アルゴリズムと応用. CRC Press. pp. 209–. ISBN 978-1-4665-8674-1。

[:1-24] 1 2 3 4 5モメニ、アリ。ラフマニ、ババク。セリエ、ベンジャミン。ライト、ローガン G.マクマホン、ピーター L.ワンジュラ、クララ C.リー、ユハン。スカッリ、アナス。バーロフ、ナタリア G.小野寺達弘；オグズ、イルカー。モリケッティ、フランチェスコ。デル・ホーニュ、フィリップ。ル・ガロ、マヌエル。アブ、セバスチャン（2025年9月）。「物理ニューラルネットワークのトレーニング」。自然。645 (8079 ) : 53–61.arXiv : 2406.03372 。Bibcode : 2025Natur.645...53M。doi : 10.1038/s41586-025-09384-2 . ISSN 1476-4687 . PMID 40903603 .

[25] ポール・ワーボス、「回帰分析を超えて：行動科学における予測と分析のための新しいツール」、ハーバード大学博士論文、1974年

[26] Werbos, PJ (1990). "Backpropagation through time: what it does and how to do it" . Proceedings of the IEEE . 78 (10): 1550–1560 . Bibcode : 1990IEEEP..78.1550W . doi : 10.1109/5.58337 . ISSN 0018-9219 . S2CID 18470994 .

[Hahnloser2000-27] Hahnloser, Richard HR; Sarpeshkar, Rahul; Mahowald, Misha A.; Douglas, Rodney J.; Seung, H. Sebastian (2000). "Digital selection and analogue amplification coexist in a cortex-inspired silicon circuit". Nature . 405 (6789): 947– 951. Bibcode : 2000Natur.405..947H . doi : 10.1038/35016072 . ISSN 0028-0836 . PMID 10879535 . S2CID 4399014 .

[Hahnloser2001-28] R Hahnloser; HS Seung (2001).対称閾値線形ネットワークにおける許可セットと禁止セット. NIPS 2001.

[glorot2011-29] Glorot, Xavier; Bordes, Antoine; Bengio, Yoshua (2011). Deep sparse rectifier neural networks (PDF) . Proceedings of the 14th International Conference on Artificial Intelligence and Statistic. Archived from the original (PDF) on 2015-07-24.

[30] Yann LeCun ; Leon Bottou ; Genevieve B. Orr; Klaus-Robert Müller (1998). "Efficient BackProp" (PDF) . In G. Orr; K. Müller (eds.). Neural Networks: Tricks of the Trade . Springer.

[maas2014-31] Andrew L. Maas、Awni Y. Hannun、Andrew Y. Ng (2014)。整流器の非線形性がニューラルネットワーク音響モデルを改善する、 Ai.stanford.edu

[

[

[ 3 ]

[ 4 ]

[ 6 ]

[ 7 ]

[

[

[

、

ラット

[

[

[ 15 ]

[ 16 ]

[ 17 ]

[ 18 ]

[ 19 ]

[ 20 ]

[ 21 ]

[ 22 ]

[ 23 ]

[ 25 ]

[ 26 ]

[ 27 ]で初めて動的ネットワークに導入されました。

[

[

[

[ 31 ]