物理的ニューラルネットワーク

物理ニューラル ネットワークは、電気的に調整可能な材料を使用してニューラル シナプスまたは高次 (樹状) ニューロン モデルの機能をエミュレートする人工ニューラル ネットワークの一種です。 ^{[1] 「物理」ニューラル ネットワークは、ソフトウェア ベースのアプローチではなく、}ニューロンをエミュレートするために使用される物理的なハードウェアへの依存を強調するために使用されます。より一般的には、この用語は、メモリスタまたはその他の電気的に調整可能な抵抗材料を使用してニューラル シナプスをエミュレートする他の人工ニューラル ネットワークにも適用されます。^{[2] [3]}

1960年代にバーナード・ウィドローとテッド・ホフは、人工ニューロンのシナプスをエミュレートするために、メミスタ（メモリ抵抗器）と呼ばれる電気化学セルを使用するADALINE （Adaptive Linear Neuron）を開発しました。 ^[4]メミスタは、銅の可逆電気メッキに基づいて動作する3端子デバイスとして実装され、2つの端子間の抵抗は3番目の端子を介して適用される電流の積分によって制御されます。 ADALINE回路は、1960年代にメミスタ社によって短期間商品化され、パターン認識のいくつかのアプリケーションを可能にしました。しかし、メミスタは集積回路製造技術を使用して製造されていなかったため、この技術は拡張可能ではなく、最終的にはソリッドステートエレクトロニクスが成熟するにつれて放棄されました。^[5]

1989年にカーバー・ミードは著書『アナログVLSIとニューラルシステム』^[6]を出版し、おそらく最も一般的なアナログニューラルネットワークの変種を生み出した。物理的な実現はアナログVLSIで実装されている。これは多くの場合、低反転の電界効果トランジスタとして実装されている。このようなデバイスは、トランスリニア回路としてモデル化できる。これは、 1970年代中頃のバリー・ギルバートによるいくつかの論文、特に1981年の『トランスリニア回路』^{[7]で説明された手法である。[8]}この方法を使用すると、回路を定常状態で明確に定義された一連の関数として分析し、そのような回路を複雑なネットワークに組み立てることができる。

アレックス・ニュージェントは、物理的ニューラルネットワークを、信号を合計するために使用される1つ以上の非線形ニューロンのようなノードと、ノードに入力される信号強度を決定するナノ粒子、ナノワイヤ、またはナノチューブから形成されたナノ接続であると説明しています。^[9]ナノ接続の配置または自己組織化は、神経シナプスに類似した機能を実行する印加電界の履歴によって決定されます。このような物理的ニューラルネットワークには、さまざまな用途^[10]が考えられます。たとえば、時間的合計デバイス^[11]は、入力と出力を持つ1つ以上のナノ接続で構成でき、入力に提供される入力信号により、時間の経過とともに1つ以上のナノ接続の接続強度が増加します。物理的ニューラルネットワークの別の例は、2006^年5月2日に米国特許商標庁からアレックス・ニュージェントに発行された「ニューラルネットワーク、ソリューション、および接続ギャップを使用したナノテクノロジー装置の利用」と題された米国特許第7,039,619号[12]に示されています。 ^[13]

物理的ニューラルネットワークのさらなる応用は、2008年8月12日に発行された「ナノテクノロジーベースの物理的ニューラルネットワークへのヘブビアンおよび反ヘブビアン学習の応用」と題された米国特許第7,412,428号に示されている。^[14]

ニュージェントとモルターは、AHaH可塑性則を応用した単純なメモリスタ回路から得られる演算によって、ユニバーサルコンピューティングと汎用機械学習が可能になることを示した。^[15] 最近では、純粋なメモリスタ回路の複雑なネットワークもニューラルネットワークとして機能できると主張されている。 ^{[16] [17]}

2002年、スタンフォード・オブシンスキーは、相変化材料が複数の入力信号に累積的に応答する能力を持つアナログニューラルコンピューティング媒体について説明しました。 ^[18]相変化材料の抵抗の電気的変化は、入力信号の重みを制御するために使用されます。

HP研究所のグレッグ・スナイダーは、メモリスタナノデバイスを用いた皮質コンピューティングのシステムについて説明しています。^[19]メモリスタ（メモリ抵抗器）は薄膜材料で実装されており、薄膜内のイオンまたは酸素空孔の移動によって抵抗が電気的に調整されます。DARPAのSyNAPSEプロジェクトは、 IBMリサーチとHP研究所に資金を提供し、ボストン大学認知神経システム学部（CNS）と協力して、メモリスタシステムに基づく可能性のあるニューロモルフィックアーキテクチャを開発しています。^[20]

2022年、研究者らは、イオン陽子（H⁺
）は「アナログディープラーニング」の略称である。^{[21] [22]}

• AIアクセラレータ
• 脳シミュレーション
• ニューロモルフィックエンジニアリング
• 光ニューラルネットワーク
• 量子ニューラルネットワーク

• DARPA の SyNAPSE プロジェクト 2009 に関する情報