記憶予測フレームワーク

記憶予測フレームワークは、ジェフ・ホーキンスが考案し、2004 年の著書「On Intelligence」で説明されている脳機能の理論です。この理論は、感覚入力を保存された記憶パターンと一致させる際の哺乳類の大脳新皮質と海馬および視床との関連性、およびこのプロセスがどのようにして将来起こることの予測につながるかに関するものです。

この理論は、哺乳類の幅広い行動に使われる脳構造（特に新皮質組織）の類似性が観察されたことに端を発しています。この理論では、皮質組織の驚くほど均一な物理的配置は、すべての皮質情報処理の根底にある単一の原理またはアルゴリズムを反映していると考えられています。基本的な処理原理は、皮質と皮質外（特に視床と海馬）の両方の関与を伴うフィードバック/リコールループであると仮定されています。

記憶予測フレームワークの中心となる概念は、ボトムアップの入力が認識の階層でマッチングされ、増強としてエンコードされた一連のトップダウンの期待を呼び起こすというものです。これらの期待はボトムアップ信号と相互作用して、それらの入力を分析し、後続の期待される入力の予測を生成します。各階層レベルは、頻繁に観察される入力パターンの時系列シーケンスを記憶し、これらのシーケンスのラベルまたは「名前」を生成します。入力シーケンスが階層の特定のレベルで記憶されたシーケンスと一致すると、ラベルまたは「名前」が階層の上方に伝播します。これにより、上位レベルの詳細が排除され、より高次のシーケンスを学習できるようになります。このプロセスにより、上位レベルでの不変性が高まります。上位レベルでは、部分的なシーケンスをマッチングし、その期待を下位レベルに投影することで、将来の入力を予測します。ただし、入力と記憶/予測されたシーケンスの間に不一致が発生すると、より完全な表現が上方に伝播します。これにより、上位レベルで代替の「解釈」がアクティブ化され、下位レベルで他の予測が生成されます。

たとえば、視覚のプロセスについて考えてみましょう。ボトムアップ情報は、低レベルの網膜信号（単純な視覚要素とコントラストの存在を示す）から始まります。階層の上位レベルでは、線、領域、動きなどの存在に関する意味のある情報が抽​​出されます。さらに上位の階層では、アクティビティは特定のオブジェクトの存在に対応し、次にこれらのオブジェクトの動作に対応します。トップダウン情報は、認識されたオブジェクトの詳細と、時間の経過に伴うそれらの予想される動作についての詳細を補完します。

感覚の階層は、さまざまなレベル間で多くの違いを引き起こします。階層が上がるにつれて、表現は増加します。

• 範囲 – たとえば、視野のより広い領域、またはより広い触覚領域など。
• 時間的安定性 - 低レベルのエンティティは急速に変化しますが、高レベルの知覚はより安定する傾向があります。
• 抽象化- 不変の特徴を連続的に抽出するプロセスを通じて、ますます抽象的なエンティティが認識されます。

感覚と運動処理の関係は、基本理論の重要な側面です。皮質の運動領域は、感覚階層に似た行動階層で構成され、最下層は筋肉への明示的な運動コマンドで構成され、最上層は抽象的な指示（「ブラウザのサイズを変更する」など）に対応すると提案されています。感覚階層と運動階層は密接に結びついており、行動は感覚の期待を生み、感覚知覚は運動プロセスを駆動します。

最後に、皮質階層の記憶はすべて学習する必要があることに注意することが重要です。この情報は脳内に事前に配線されていません。したがって、入力と行動の流れからこの表現を抽出するプロセスは、認知中に継続的に発生するプロセスとして理論化されています。

ホーキンスは電気技師として幅広い訓練を受けている。この理論を説明する別の方法は（彼の著書で示唆されている）、フィードフォワード確率的状態マシンの学習 階層である。この見方では、脳は、未来を予測する誤り訂正符号とあまり変わらない符号化問題として分析される。階層は抽象化の階層であり、上位レベルのマシンの状態はより抽象的な条件またはイベントを表し、これらの状態は下位レベルのマシンが特定の遷移を実行するようにする。下位レベルのマシンは、限られた経験領域をモデル化するか、センサーまたはエフェクターを制御または解釈する。システム全体が実際に生物の行動を制御する。状態マシンは「フィードフォワード」であるため、生物は過去のデータから予測される将来のイベントに応答する。階層的であるため、システムは行動の柔軟性を示し、新しい感覚データに応じて新しい行動シーケンスを簡単に生成する。システムは学習するため、新しい行動は変化する状況に適応する。

つまり、脳の進化上の目的は、確かに限られた方法ではあるものの、未来を予測し、それを変えることです。

上で説明した階層は、主に哺乳類の大脳新皮質に見られると理論化されています。特に、大脳新皮質は多数の列で構成されていると考えられています (解剖学と理論的な考察からVernon Benjamin Mountcastleも推測しています)。各列は、階層内の特定のレベルの特定の機能に調整されています。下位レベルからはボトムアップの入力を、上位レベルからはトップダウンの入力を受け取ります (同じレベルの他の列も特定の列に入力し、主に活性化排他的表現を抑制する役割を果たします)。入力が認識されると (つまり、ボトムアップとトップダウンのソース間で許容可能な合意が得られると)、列は出力を生成し、それが下位レベルと上位レベルの両方に伝播します。

これらのプロセスは、哺乳類の皮質内の特定の層にうまくマッピングされます。(皮質層を処理階層の異なるレベルと混同しないでください。単一の列内のすべての層は、単一​​の階層レベルの 1 つの要素として参加します)。ボトムアップ入力は層 4 (L4) に到達し、そこから L2 と L3 に伝播して不変コンテンツの認識が行われます。トップダウン活性化は L1 (主に軸索層で、活性化を列全体に局所的に分散します) を介して L2 と L3 に到達します。L2 と L3 はボトムアップ情報とトップダウン情報を比較し、十分な一致が達成された場合は不変の「名前」を、それが失敗した場合はより可変的な信号を生成します。これらの信号は、階層の上方 (L5 経由) と階層の下方 (L6 と L1 経由) に伝播されます。

パターンのシーケンスの保存と認識を説明するために、2 つのプロセスの組み合わせが提案されています。非特異的な視床は「遅延線」として機能します。つまり、L5 がこの脳領域をアクティブにし、わずかな遅延の後に L1 を再アクティブ化します。したがって、1 つの列の出力によって L1 アクティビティが生成され、これはシーケンス内で時間的に後続する列への入力と一致します。この時間順序付けは、時間的に変化しないシーケンスの高レベル識別と連動して機能します。したがって、シーケンス表現のアクティブ化により、低レベルのコンポーネントが次々に予測されます。(このシーケンスの役割に加えて、視床は感覚中継点としても機能します。これらの役割には、この解剖学的に不均一な構造の異なる領域が関係しているようです。)

階層的認知において重要な役割を果たすと仮説されている、解剖学的に多様な別の脳構造は海馬である。両方の海馬が損傷すると長期の陳述記憶の形成が損なわれることはよく知られている。このような損傷を持つ人は、以前の記憶を問題なく思い出したり、新しいスキルを習得したりすることはできるが、エピソード的な性質の新しい記憶を形成することはできない。現在の理論では、海馬は皮質階層の最上位レベルであると考えられており、最上位まで伝播する出来事の記憶を保持するように特化している。このような出来事は予測可能なパターンに適合するため、階層の下位レベルでも記憶可能になる。（ちなみに、記憶が階層を下っていくこのような動きは、理論の一般的な予測である。）したがって、海馬は「予期しない」出来事（つまり、下位レベルでは予測されない出来事）を継続的に記憶しており、海馬が損傷すると、階層を通じた記憶のプロセス全体が損なわれる。

2016年にホーキンスは、皮質柱は感覚を捉えるだけでなく、その感覚の相対的な位置も、2次元ではなく3次元で、周囲のものと関連して捉える（状況依存的捉え）という仮説を立てました。 ^[1]「脳が世界のモデルを構築するとき、すべてのものは他のすべてのものに対して相対的な位置を持ちます」^[1] —ジェフ・ホーキンス。

記憶予測の枠組みは、認知の心理学的に顕著な側面を数多く説明します。たとえば、あらゆる分野の専門家が自分の分野内の複雑な問題を難なく分析し、記憶する能力は、彼らがますます洗練された概念階層を形成したことの自然な結果です。また、「知覚」から「理解」への流れは、トップダウンとボトムアップの期待が一致した結果であるため、容易に理解できます。対照的に、不一致は、予期しない知覚や状況を検出する生物学的認知の優れた能力を生み出します。（この点での欠陥は、現在の人工知能へのアプローチに共通する特徴です。）

これらの主観的に満足のいく説明に加えて、このフレームワークは、検証可能な予測もいくつか行います。たとえば、感覚階層全体で予測が果たす重要な役割は、感覚皮質全体の特定の細胞における予測的な神経活動を必要とします。さらに、特定の不変量を「命名」する細胞は、基礎となる入力が変わっても、それらの不変量が存在する間は活動し続けるはずです。予測されるボトムアップおよびトップダウン活動のパターンは、前者は期待が満たされない場合により複雑になりますが、たとえば機能的磁気共鳴画像法 ( fMRI ) によって検出できる可能性があります。

これらの予測は提案された理論に特有なものではありませんが、その中心となる教義の検証または拒否を可能にするには十分に明確です。 予測と調査結果の詳細については、 「On Intelligence」を参照してください。

現在の理論は、意図的に、多数の神経生物学者の研究に基づいており、これらのアイデアのほとんどは、グロスバーグやマウントキャッスルなどの研究者によってすでに提案されていると主張することもできます。一方、概念的なメカニズム（双方向処理と不変認識）を生物学的詳細（神経層、神経柱、神経構造）から分離するという斬新な方法は、幅広い認知プロセスに関する抽象的な思考の基盤となります。

この理論の最も重大な限界は、現時点では^{[いつ? ]}詳細が欠如していることです。たとえば、不変性の概念は重要な役割を果たします。ホーキンスは、これらの不変量の少なくとも一部について「名前細胞」を想定しています。(この種の機能を実行する祖母ニューロンについては、神経集団#エンコーディング、体性感覚システムの観点については、ミラーニューロンも参照してください。) しかし、ホーキンスが提示した領域全体にわたって必要な概念的負荷を担う数学的に厳密な定義をどのように開発するかは、まったく明らかではありません。同様に、完全な理論には、皮質層が宣伝どおりに動作できるようにする短期的なダイナミクスと学習プロセスの両方に関する信頼できる詳細が必要です。

IBM はホーキンスのモデルを実装しています。^{[引用が必要]}

記憶予測理論は、大脳新皮質のすべての領域で共通のアルゴリズムが採用されていると主張しています。この理論により、階層的な記憶構造を使用してこの共通アルゴリズムをシミュレートすることを目的としたソフトウェア モデルが数多く生まれました。以下のリストの年は、モデルが最後に更新された年を示しています。

次のモデルは、単一接続ベイジア​​ン ネットワークで信念伝播または信念修正を使用します。

• 階層的時間メモリ(HTM)、Numenta, Inc. (2008) によるモデル、関連開発プラットフォーム、およびソース コード。
• HtmLib ^{[リンク切れ‍ ]}、Greg Kochaniak による HTM アルゴリズムの代替実装で、認識精度と速度を向上させるためにいくつかの変更が加えられています (2008)。
• Project Neocortex、メモリ予測フレームワークをモデル化するオープン ソース プロジェクト (2008)。
  • Saulius Garalevicus の研究ページ、Neocortex プロジェクト (2007) の基礎となる記憶予測フレームワークのモデルを使用した実験結果を示す研究論文とプログラム。
• George, Dileep (2005)。「視覚皮質における不変パターン認識の階層的ベイズモデル」(文書)。IEEE。pp.  1812– 1817。Numenta の共同設立者による、HTM 以前のベイジアン モデルについて説明した論文。これは、ベイジアン ネットワークを使用するメモリ予測フレームワークの最初のモデルであり、上記のすべてのモデルは、これらの初期のアイデアに基づいています。このモデルの Matlab ソース コードは、何年も前から無料でダウンロードできます。

• MPF の実装。Saulius Garalevicius による論文で、時間シーケンスを保存し、教師なし学習を採用するモデルでの分類および予測の方法について説明しています (2005)。
• M5 は、パターン シーケンスを保存し、現在の環境に関連するパターンを呼び出す Palm OS 用のパターン マシンです (2007)。
• BrainGame は、パターンを学習し、他の予測子にリンクできるオープン ソースの予測子クラスです (2005)。

• 適応共鳴理論は、スティーブン・グロスバーグによって開発されたニューラル ネットワーク アーキテクチャです。
• 計算神経科学
• 神経ダーウィニズム
• 予測コーディング
• 予測学習
• スパース分散メモリ

• ジェフ・ホーキンス（2004）『On Intelligence』、ニューヨーク：ヘンリー・ホルト。書誌、索引、251ページ。ISBN 0-8050-7456-2 

• 階層的ビジョンアルゴリズムのソースコードとデータ
  - メモリ予測フレームワークに類似 (MIT 生物学および計算学習センターより)
• 神経科学と AI に関する記事のグループ
  – Jeff の MPF 理論を裏付ける記事と論文のグループ。
• MIT テクノロジーレビュー 2007 年 2 月 12 日月曜日: シリコンで Cortex を構築する