階層的時間記憶

階層的時間記憶( HTM ) は、Numentaが開発した生物学的制約のある機械知能技術です。2004 年にJeff HawkinsとSandra Blakesleeが共著したOn Intelligenceで最初に説明されたHTM は、現在では主にストリーミング データの異常検出に使用されています。この技術は、神経科学と、哺乳類(特に人間) の脳の大脳新皮質にある錐体ニューロンの生理学と相互作用に基づいています。

HTM の中核となるのは、高次のシーケンスを保存、学習、推論、および呼び出すことができる学習アルゴリズムです。他のほとんどの機械学習方法とは異なり、HTM はラベルなしデータの時間ベースのパターンを（教師なしプロセ​​スで）継続的に学習します。HTM はノイズに対して堅牢で、高い容量を備えています（複数のパターンを同時に学習できます）。コンピューターに適用すると、HTM は予測、^[1]異常検出、^[2]分類、そして最終的には感覚運動アプリケーションに適しています。^[3]

HTM は、Numenta のサンプル アプリケーションと Numenta のパートナーのいくつかの商用アプリケーションを通じてソフトウェアでテストおよび実装されています^{[説明が必要]}。

典型的な HTM ネットワークは、ツリー型の階層構造になっています (以下で説明する大脳新皮質の「層」と混同しないでください)。これらのレベルは、領域(またはノード) と呼ばれる小さな要素で構成されています。階層内の 1 つのレベルには、複数の領域が含まれる場合があります。上位の階層レベルには、通常、領域が少なくなります。上位の階層レベルでは、下位レベルで学習したパターンを組み合わせて再利用し、より複雑なパターンを記憶できます。

各 HTM 領域には、同じ基本機能があります。学習モードと推論モードでは、感覚データ (たとえば、目からのデータ) が最下位の領域に入力されます。生成モードでは、最下位の領域は、特定のカテゴリの生成パターンを出力します。最上位には通常、最も一般的で最も永続的なカテゴリ (概念) を格納する単一の領域があります。これらのカテゴリは、より低いレベルのより小さな概念 (時間と空間がより制限されている概念) を決定するか、またはそれらの概念によって決定されます^{[明確化が必要]}。推論モードに設定されている場合、領域 (各レベル) は、その「子」領域から上がってくる情報を、メモリにあるカテゴリの確率として解釈します。

各 HTM 領域は、空間パターン (同時に発生することが多い入力ビットの組み合わせ) を識別して記憶することで学習します。次に、次々に発生する可能性のある空間パターンの時間的シーケンスを識別します。

HTM は、ジェフ・ホーキンスの千脳知能理論のアルゴリズム要素です。そのため、大脳新皮質に関する新しい発見は HTM モデルに徐々に取り入れられ、HTM モデルはそれに応じて時間とともに変化します。新しい発見は必ずしもモデルの以前の部分を無効にするものではなく、ある世代のアイデアが必ずしも次の世代で排除されるわけではありません。理論の進化の性質上、HTM アルゴリズムにはいくつかの世代があり、^[4]以下で簡単に説明します。

HTM アルゴリズムの第 1 世代は、ゼータ 1と呼ばれることもあります。

トレーニング中、ノード (または領域) は空間パターンの時間的シーケンスを入力として受け取ります。学習プロセスは 2 つの段階で構成されます。

1. 空間プーリングは、（入力内で）頻繁に観察されるパターンを識別し、それらを「偶然の一致」として記憶します。互いに著しく類似するパターンは、同じ偶然の一致として扱われます。多数の可能性のある入力パターンは、管理可能な数の既知の偶然の一致に削減されます。
2. 時間プーリングは、トレーニング シーケンス内で連続して発生する可能性のある一致を時間グループに分割します。パターンの各グループは、入力パターンの「原因」(または『On Intelligence 』の「名前」 ) を表します。

空間プーリングと時間プーリングの概念は、現在の HTM アルゴリズムでも依然として非常に重要です。時間プーリングはまだ十分に理解されておらず、その意味は時間の経過とともに変化しています (HTM アルゴリズムの進化に伴って)。

推論中、ノードは、パターンが各既知の一致に属する確率のセットを計算します。次に、入力が各時間グループを表す確率を計算します。グループに割り当てられた確率のセットは、入力パターンに関するノードの「確信」と呼ばれます。(簡略化された実装では、ノードの確信は 1 つの勝利グループのみで構成されます)。この確信は、階層の次の上位レベルにある 1 つ以上の「親」ノードに渡される推論の結果です。

ノードに対する「予期しない」パターンは、いずれかの一時的グループに属する優位な確率を持ちませんが、複数のグループに属する確率はほぼ等しくなります。パターンのシーケンスがトレーニング シーケンスに類似している場合、グループに割り当てられた確率は、パターンが受信される頻度ほど頻繁には変わりません。ノードの出力はそれほど変化せず、時間的な解像度^{[明確化が必要]}は失われます。

より一般的なスキームでは、ノードの信念は任意のレベルの任意のノードの入力に送信できますが、ノード間の接続は固定されたままです。上位レベルのノードは、この出力を他の子ノードからの出力と組み合わせて、独自の入力パターンを形成します。

前述のように、各ノードでは空間と時間の解像度が失われるため、上位レベルのノードによって形成された信念は、さらに広い範囲の空間と時間を表します。これは、人間の脳によって認識される物理世界の組織を反映することを意味します。より大きな概念 (原因、行動、オブジェクトなど) は、よりゆっくりと変化すると認識され、より速く変化するより小さな概念で構成されています。ジェフ・ホーキンスは、脳がこの種の階層を進化させて、外界の組織と一致し、予測し、影響を与えると仮定しています。

Zeta 1 HTMの機能の詳細については、Numentaの古いドキュメントを参照してください。^[5]

HTM学習アルゴリズムの第2世代は、皮質学習アルゴリズム（CLA ）とも呼ばれ、ゼータ1とは大きく異なっていました。このアルゴリズムは、スパース分散表現と呼ばれるデータ構造（要素が1または0のバイナリで、1ビットの数が0ビットの数に比べて少ないデータ構造）に依存して、脳の活動と、より生物学的に現実的なニューロンモデル（HTMの文脈ではセルとも呼ばれる）を表現します。 ^[6]このHTM世代には、スパース分散表現（SDR）を出力する空間プーリングアルゴリズム^[7]と、複雑なシーケンスを表現し予測することを学習するシーケンスメモリアルゴリズム^[8]という2つのコアコンポーネントがあります。

この新世代では、大脳皮質の層とミニカラムが対象となり、部分的にモデル化されています。各 HTM 層 (前述の HTM 階層の HTM レベルと混同しないでください) は、高度に相互接続された多数のミニカラムで構成されています。HTM 層は入力からスパース分散表現を作成するため、ミニカラムの一定割合が常にアクティブになります^{[説明が必要] 。ミニカラムは、同じ}受容野を持つセルのグループとして理解されています。各ミニカラムには、以前の状態を複数回記憶できるセルが多数あります。セルは、アクティブ、非アクティブ、予測の3 つの状態のいずれかになります。

各ミニカラムの受容野は、はるかに多数のノード入力からランダムに選択された固定数の入力です。(特定の) 入力パターンに基づいて、一部のミニカラムはアクティブな入力値と多かれ少なかれ関連付けられます。空間プーリングは、最もアクティブなミニカラムの比較的一定数を選択し、アクティブなミニカラムの近くにある他のミニカラムを非アクティブ化 (抑制) します。同様の入力パターンは、安定したミニカラムのセットをアクティブにする傾向があります。各レイヤーで使用されるメモリの量を増やすと、より複雑な空間パターンを学習でき、減らすと、より単純なパターンを学習できます。

前述のように、ミニカラムのセル (またはニューロン) は、どの時点でも、アクティブ、非アクティブ、または予測状態になります。最初は、セルは非アクティブです。

アクティブ ミニカラム内の 1 つ以上のセルが予測状態 (下記参照) にある場合、それらのセルのみが現在のタイム ステップでアクティブになります。アクティブ ミニカラム内のどのセルも予測状態にない場合 (初期タイム ステップ中またはこのミニカラムのアクティブ化が予期されていなかった場合に発生)、すべてのセルがアクティブになります。

セルがアクティブになると、以前のいくつかのタイム ステップでアクティブになる傾向のある近くのセルとの接続が徐々に形成されます。このように、セルは接続されたセルがアクティブかどうかをチェックすることで、既知のシーケンスを認識することを学習します。接続されたセルが多数アクティブである場合、このセルはシーケンスの次の入力の 1 つを予測して予測状態に切り替わります。

レイヤーの出力には、アクティブ状態と予測状態の両方のミニカラムが含まれます。したがって、ミニカラムは長期間にわたってアクティブであり、親レイヤーで見られる時間的安定性が向上します。

皮質学習アルゴリズムは、新しい入力パターンから継続的に学習できるため、別の推論モードは必要ありません。推論中、HTM は入力ストリームを以前に学習したシーケンスの断片と一致させようとします。これにより、各 HTM レイヤーは、認識されたシーケンスの可能性のある継続を常に予測できます。予測されたシーケンスのインデックスは、レイヤーの出力です。予測は入力パターンよりも頻繁に変更されない傾向があるため、これにより、上位階層レベルでの出力の時間的安定性が向上します。予測は、シーケンス内の欠落したパターンを埋め、予測したものを推論するようにシステムをバイアスすることで、あいまいなデータを解釈するのにも役立ちます。

皮質学習アルゴリズムは現在、Numentaによって商用SaaSとして提供されています（Grok ^[9]など）。

2011 年 9 月、ジェフ ホーキンスに皮質学習アルゴリズムに関する次のような質問が投げかけられました。「モデルに加えている変更が適切かどうか、どうやって判断するのですか?」これに対するジェフの回答は、「答えには 2 つのカテゴリがあります。1 つは神経科学を調べること、もう 1 つは機械知能の手法です。神経科学の領域では、予測できるものが多くあり、それらをテストすることができます。私たちの理論が神経科学の観察の膨大な範囲を説明できれば、正しい方向に進んでいるということになります。機械学習の世界では、そんなことは気にしません。実際の問題でどれだけうまく機能するかだけが問題です。私たちの場合、それはまだわかりません。これまで誰も解決できなかった問題を解決できるほど、人々は注目するでしょう。」でした。^[10]

第3世代は第2世代を基盤とし、大脳新皮質における感覚運動推論の理論を追加している。^{[11] [12]}この理論は、階層のあらゆるレベルの皮質柱が時間の経過とともに物体の完全なモデルを学習でき、物体の特定の場所で特徴が学習されると提唱している。この理論は2018年に拡張され、千脳理論と呼ばれている。^[13]

HTM は、大脳新皮質内の階層的に関連する皮質領域のグループに特徴的な機能を実装しようとします。大脳新皮質の領域はHTM 階層の1 つ以上のレベルに対応し、海馬はHTM の最上位レベルとわずかに類似しています。単一の HTM ノードは、特定の領域内の 皮質列のグループを表す場合があります。

これは主に機能モデルですが、HTMのアルゴリズムを大脳新皮質の層における神経接続の構造と関連付ける試みがいくつか行われてきました。^{[14] [15]}大脳新皮質は、6つの水平層の垂直列で構成されています。大脳新皮質の6つの細胞層をHTM階層のレベルと混同しないでください。

HTM ノードは、列あたり約 20 個の HTM「セル」を使用して皮質列の一部 (80 から 100 個のニューロン) をモデル化しようとします。HTM は、空間「プーリング」用にレイヤー 2 の列あたり 1 個のセルを使用し、時間プーリング用にレイヤー 3 の列あたり 1 から 2 ダースを使用して、入力の空間的および時間的特徴を検出するためにレイヤー 2 と 3 のみをモデル化します。HTM と皮質の鍵となるのは、入力のノイズと変動を処理する能力です。これは、任意の時点でアクティブになる列が約 2% のみである「スパース分散表現」を使用することによって実現されます。

HTMは、上で述べたように皮質の学習と可塑性の一部をモデル化しようとする。HTMとニューロンの違いは以下の通りである。^[16]

• 厳密にバイナリ信号とシナプス
• シナプスや樹状突起の直接的な抑制はない（ただし間接的にシミュレートされる）
• 現在はレイヤー2/3と4のみをモデル化しています（5と6はありません）
• 「モーター」制御なし（レイヤー 5）
• 領域間のフィードバックなし（高のレイヤー6から低のレイヤー1へ）

メモリコンポーネントをニューラルネットワークと統合する研究は、分散表現^{[17] [18]}や自己組織化マップの初期の研究にまで遡る長い歴史があります。たとえば、スパース分散メモリ（SDM）では、ニューラルネットワークによってエンコードされたパターンがコンテンツアドレスメモリのメモリアドレスとして使用され、「ニューロン」は基本的にアドレスエンコーダとデコーダとして機能します。^{[19] [20]}

コンピュータは、32ビットワードなどの密な表現で情報を保存します。この表現では、1と0のすべての組み合わせが可能です。対照的に、脳はスパース分散表現（SDR）を使用します。^[21]人間の大脳新皮質には約160億のニューロンがありますが、特定の時点でアクティブなのはそのうちのわずかなパーセントだけです。ニューロンの活動はコンピュータのビットのようなもので、表現はスパースです。80年代にNASAによって開発されたSDM ^[19]や潜在意味解析で使用されるベクトル空間モデルと同様に、HTMはスパース分散表現を使用します。^[22]

HTM で使用される SDR は、多数のビットで構成されるデータのバイナリ表現で、そのうちのわずかな割合のビットがアクティブ (1) です。一般的な実装では、2048 列と 64K の人工ニューロンがあり、そのうち 40 個が同時にアクティブになることがあります。任意の表現で大部分のビットが「未使用」になるのは効率が悪いように思えるかもしれませんが、SDR には従来の高密度表現に比べて 2 つの大きな利点があります。まず、SDR は、表現の意味がわずかな割合 (スパース) のアクティブ ビットで共有 (分散) されるため、破損やあいまいさに対して耐性があります。高密度表現では、1 つのビットを反転すると意味が完全に変わりますが、SDR では 1 つのビットが全体の意味にあまり影響しない場合があります。これが SDR の 2 番目の利点につながります。表現の意味はすべてのアクティブ ビットに分散されるため、2 つの表現の類似性は、それらが表すオブジェクトの意味の類似性の尺度として使用できます。つまり、SDR内の2つのベクトルが同じ位置に1を持っている場合、それらはその属性において意味的に類似している。SDRのビットには意味があり、その意味はビット全体に分散されている。^[22]

意味的折り畳み理論^[23]は、これらのSDR特性に基づいて、単語が単語SDRにエンコードされ、用語、文、テキスト間の類似性を単純な距離測定で計算できる言語意味論の新しいモデルを提案しています。

ベイジアン ネットワークに例えられるHTM は、ツリー型の階層に配置されたノードの集合で構成されています。階層内の各ノードは、受信した入力パターンと時間的シーケンスからさまざまな原因を検出します。ベイジアン信念修正アルゴリズムは、フィードフォワード信念とフィードバック信念を子ノードから親ノードへ、およびその逆に伝播するために使用されます。ただし、ベイジアン ネットワークとの類似性は限られています。HTM は自己トレーニングが可能 (各ノードが明確な家族関係を持つように) であり、時間に敏感なデータに対処でき、隠れた注意のメカニズムを付与できるためです。

ベイズ信念伝播に基づく階層的皮質計算の理論は、以前にタイ・シン・リーとデイビッド・マンフォードによって提案されました。^[24] HTMはこれらのアイデアとほぼ一致していますが、視覚皮質における不変表現の取り扱いについての詳細が追加されています。^[25]

新皮質の詳細をモデル化するあらゆるシステムと同様に、HTM は人工ニューラル ネットワークと見なすことができます。HTM で一般的に使用されるツリー型の階層は、従来のニューラル ネットワークの通常のトポロジに似ています。HTM は、皮質の列 (80 ～ 100 個のニューロン) と、より少ない HTM「ニューロン」との相互作用をモデル化しようとします。現在の HTM の目標は、一般的なコンピューターの能力の範囲内で、画像処理などのすぐに役立つ領域で、ニューロンとネットワークの機能 (現在理解されているもの) をできるだけ多く取り込むことです。たとえば、高レベルからのフィードバックや運動制御は、それらを組み込む方法がまだわかっていないため試みられず、可変シナプスではなくバイナリ シナプスが使用されるのは、現在の HTM 機能で十分であると判断されたためです。

スティーブン・グロスバーグが研究したLAMINARTや類似のニューラルネットワークは、神経生理学的および心理物理学的データを説明するために、皮質のインフラストラクチャとニューロンの行動の両方を時間的枠組みでモデル化しようと試みている。しかし、これらのネットワークは、現時点では、現実的な応用には複雑すぎる。^[26]

HTMは、HMAXとして知られる視覚皮質の腹側ストリームをモデル化するアプローチを含む、トマソ・ポッジョの研究にも関連しています。HTMとさまざまなAIのアイデアの類似性は、2005年12月号の人工知能ジャーナルで説明されています。^[27]

ネオコグニトロンは、1987年に福島邦彦教授によって提案された階層型多層ニューラルネットワークであり、最初の深層学習ニューラルネットワークモデルの一つである。 ^[28]

• 人工意識
• 汎用人工知能
• 信念の修正
• 認知アーキテクチャ
• 畳み込みニューラルネットワーク
• 人工知能プロジェクトの一覧
• 記憶予測フレームワーク
• 多重トレース理論
• ニューラル履歴コンプレッサー
• ニューラルチューリングマシン

• 階層的隠れマルコフモデル

• Ahmad, Subutai; Hawkins, Jeff (2015 年 3 月 25 日)。「スパース分散表現の特性と階層的時間メモリへの応用」。arXiv : 1503.07469 [ q-bio.NC ]。
• Hawkins, Jeff (2007 年 4 月)。「人間のように学ぶ」IEEE Spectrum。
• Maltoni, Davide (2011 年 4 月 13 日)。「階層的時間記憶によるパターン認識」(PDF)。DEIS 技術レポート。イタリア: ボローニャ大学。
• ラトリフ、エヴァン (2007 年 3 月)。「考えるマシン」。Wired。

• Numentaの HTM
• Rahul (Numenta) による HTM の基礎、 YouTubeで HTM モデルで使用される皮質学習アルゴリズム (CLA) について語る