リザーバーコンピューティング

リザーバーコンピューティングは、リカレントニューラルネットワーク理論から派生した計算フレームワークであり、リザーバーと呼ばれる固定された非線形システムのダイナミクスを通じて入力信号をより高次元の計算空間にマッピングします。^{[ 1 ]}入力信号が「ブラックボックス」として扱われるリザーバーに入力された後、単純な読み出しメカニズムがトレーニングされ、リザーバーの状態を読み取り、それを目的の出力にマッピングします。^{[ 1 ]}このフレームワークの最初の重要な利点は、リザーバーのダイナミクスが固定されているため、トレーニングは読み出し段階でのみ実行されることです。^{[ 1 ]} 2つ目は、古典力学と量子力学の両方の自然界に存在するシステムの計算能力を使用して、実効計算コストを削減できることです。^{[ 2 ]}

リザーバーニューラルネットワークの最初の例では、ランダムに接続されたリカレントニューラルネットワークが感覚運動シーケンス学習^{[ 3 ]}や単純な形式の間隔および音声弁別^{[ 4 ] [ 5 ]}に使用できることが実証されました。これらの初期モデル^{[ 4 ] [ 5 ]}では、ネットワーク内のメモリは短期シナプス可塑性とリカレント接続によって媒介される活動の両方の形をとりました。他の初期のリザーバーニューラルネットワークモデルでは、最近の刺激履歴のメモリはリカレント活動のみによって提供されました。^{[ 3 ] [ 6 ] [ 7 ]}全体として、リザーバーコンピューティングの一般的な概念は、ニューラルネットワーク内の再帰接続を使用して複雑な動的システムを作成することに由来します。^{[ 8 ]}これは、リカレントニューラルネットワーク、リキッドステートマシン、エコーステートネットワークなどの以前のニューラルネットワークアーキテクチャの一般化です。リザーバーコンピューティングは、古典的な意味でのネットワークではなく、空間や時間において連続的なシステムである物理システムにも拡張されます。たとえば、文字通りの「水の入ったバケツ」は、表面の摂動として与えられた入力に対して計算を実行するリザーバーとして機能します。^{[ 9 ]}このようなリカレントニューラルネットワークの結果として生じる複雑さは、言語処理や動的システムモデリングなど、さまざまな問題を解決するのに役立つことがわかりました。^{[ 8 ]}しかし、リカレントニューラルネットワークのトレーニングは困難で、計算コストがかかります。^{[ 8 ]}リザーバーコンピューティングは、リザーバーのダイナミクスを固定し、線形出力層のみをトレーニングすることで、トレーニングに関連するこれらの課題を軽減します。^{[ 8 ]}

多種多様な非線形力学系は、計算を実行するためのリザーバーとして利用できる。近年、半導体レーザーは、電気部品に比べて高速かつエネルギー効率の高い計算が可能であることから、大きな注目を集めている。

AIと量子情報理論の両方における最近の進歩により、量子ニューラルネットワークの概念が生まれました。^{[ 10 ]}これらは、古典的なネットワークでは困難である量子情報処理において有望ですが、古典的な問題の解決にも応用できます。^{[ 10 ] [ 11 ]} 2018年には、分子固体内の核スピンの形で量子リザーバーコンピューティングアーキテクチャの物理的実現が実証されました。^{[ 11 ]しかし、 [ 11 ]}の核スピン実験は、シーケンシャルデータの処理を伴わなかったため、量子リザーバーコンピューティングそのものを実証したものではありません。むしろ、データはベクトル入力であり、これはより正確にはランダムキッチンシンク^{[ 12 ]}アルゴリズム（一部のコミュニティではエクストリームラーニングマシンとも呼ばれる）の量子実装の実証です。2019年には、2次元フェルミオン格子の形で量子リザーバープロセッサの別の実装が提案されました。^{[ 11 ]} 2020年には、ゲートベースの量子コンピュータ上でのリザーバーコンピューティングの実現が提案され、クラウドベースのIBM超伝導近期量子コンピュータ上で実証された。^{[ 13 ]}

リザーバーコンピュータは時系列解析の目的で使用されてきました。特に、その用途には、カオス時系列予測^{[ 14 ] [ 15 ]} 、カオス信号の分離^{[ 16 ]} 、ネットワークのダイナミクスからのリンク推論^{[ 17 ]}などがあります。

量子リザーバーコンピューティングは、量子力学的相互作用やプロセスの非線形性を利用して特徴的な非線形リザーバーを形成する可能性があるが^{[ 10 ] [ 11 ] [ 28 ] [ 13 ]}、入力の注入によって非線形性が生じる場合は線形リザーバーでも実行できる。^{[ 29 ]}機械学習と量子デバイスの融合により、量子ニューロモルフィックコンピューティングが新たな研究分野として出現している。 ^{[ 30 ]}

• ディープラーニング
• 極限学習マシン
• 非従来型コンピューティング

• 遅延システムを用いたリザーバーコンピューティング、Nature Communications 2011
• 光電子リザーバーコンピューティング、サイエンティフィック・リポーツ、2012年2月
• 光電子リザーバーコンピューティング、Optics Express 2012
• 全光リザーバーコンピューティング、Nature Communications 2013
• 機械学習のためのメモリス​​タモデル、ニューラル計算2014 arxiv
• 中島耕平、インゴ・フィッシャー編：リザーバーコンピューティング：理論、物理的実装、および応用、Springer、ISBN 978-981-13-1686-9（2021）。