バスのスヌーピング

バススヌーピングまたはバススニッフィングは、キャッシュ(スヌーピーキャッシュ)内のコヒーレンシコントローラ (スヌーパー) がバストランザクションを監視またはスヌープする方式であり、その目的は分散共有メモリシステムでキャッシュのコヒーレンシを維持することです。この方式は、1983 年に Ravishankar と Goodman によって「ライトワンス」キャッシュコヒーレンシという名前で導入されました。^[1]コヒーレンシコントローラ (スヌーパー) を含むキャッシュは、スヌーピーキャッシュと呼ばれます。

仕組み

特定のデータが複数のキャッシュで共有され、プロセッサが共有データの値を変更すると、その変更はデータのコピーを持つ他のすべてのキャッシュに伝播される必要があります。この変更の伝播により、システムがキャッシュの一貫性を侵害することが防止されます。データ変更の通知はバススヌーピングによって行うことができます。すべてのスヌーパーはバス上のすべてのトランザクションを監視します。共有キャッシュブロックを変更するトランザクションがバス上に出現すると、すべてのスヌーパーは、自分のキャッシュに共有ブロックの同じコピーがあるかどうかを確認します。キャッシュに共有ブロックのコピーがある場合、対応するスヌーパーはキャッシュの一貫性を確保するためのアクションを実行します。アクションは、キャッシュブロックのフラッシュまたは無効化です。また、キャッシュ一貫性プロトコルに応じて、キャッシュブロックの状態の変更も含まれます。^[2]

スヌーピングプロトコルの種類

書き込み操作のローカルコピーを管理する方法に応じて、2 種類のスヌーピングプロトコルがあります。

書き込み無効化

プロセッサが共有キャッシュブロックに書き込むと、他のキャッシュ内のすべての共有コピーがバススヌーピングによって無効化されます。 ^{[3]この方法により、プロセッサはデータのコピーを 1 つだけ}排他的に読み書きできるようになります。他のキャッシュ内の他のすべてのコピーは無効化されます。これは最も一般的に使用されるスヌーピングプロトコルです。MSI 、MESI、MOSI、MOESI、およびMESIFプロトコルがこのカテゴリに属します。

書き込み更新

プロセッサが共有キャッシュブロックに書き込むと、他のキャッシュの共有コピーがすべてバススヌーピングによって更新されます。この方法では、書き込みデータをバス全体のすべてのキャッシュにブロードキャストします。書き込み無効化プロトコルよりも大きなバストラフィックが発生します。そのため、この方法は一般的ではありません。ドラゴンプロトコルとファイアフライプロトコルはこのカテゴリに属します。^[4]^[5]

実装

可能な実装の 1 つは次のとおりです。

キャッシュには 3 つの追加ビットがあります。

V – 有効
D – ダーティビット。キャッシュ内のデータがメモリ内のデータと同じではないことを示します。
S – 共有

各キャッシュラインは、「ダーティ」(ローカルプロセッサによって更新済み)、「有効」、「無効」、または「共有」のいずれかの状態になります。キャッシュラインには値が含まれており、読み取りまたは書き込みが可能です。キャッシュラインに書き込むと、値が変わります。各値は、メインメモリ (アクセスが非常に遅い) または 1 つ以上のローカルキャッシュ (高速) にあります。ブロックが最初にキャッシュにロードされると、「有効」としてマークされます。

ローカルキャッシュへの読み取りミスが発生すると、読み取り要求がバス上でブロードキャストされます。すべてのキャッシュコントローラがバスを監視します。そのアドレスがキャッシュされていて、その状態が「ダーティ」である場合、その状態を「有効」に変更し、要求ノードにコピーを送信します。「有効」状態は、キャッシュラインが最新であることを意味します。ローカル書き込みミス (その値を書き込もうとしたが、キャッシュ内に存在しない) が発生すると、バススヌーピングによって、他のキャッシュ内のコピーがすべて「無効」に設定されます。「無効」とは、コピーがキャッシュ内に存在していたが、現在は最新ではないことを意味します。

たとえば、初期状態は次のようになります。

タグ | ID | V | D | S
---------------------
1111 | 00 | 1 | 0 | 0
0000 | 01 | 0 | 0 | 0
0000 | 10 | 1 | 0 | 1
0000 | 11 | 0 | 0 | 0

アドレス 1111 00 に書き込むと、次のように変わります。

タグ | ID | V | D | S
---------------------
1111 | 00 | 1 | 1 | 0
0000 | 01 | 0 | 0 | 0
0000 | 10 | 1 | 0 | 1
0000 | 11 | 0 | 0 | 0

キャッシュロジックはバスを監視し、キャッシュされたメモリが要求されているかどうかを検出します。キャッシュがダーティで共有されており、そのメモリに対するバス上の要求がある場合、ダーティスヌーピング要素が要求者にデータを提供します。その時点で、要求者がデータの責任を引き受けるか (データをダーティとしてマークする)、メモリがコピーを取得するか (メモリがデータを「スナーフ」したと言われる)、2 つの要素が共有状態になります。^[6]

ダーティとしてマークされたアドレスを無効にする場合（つまり、1 つのキャッシュにダーティアドレスがあり、他のキャッシュが書き込み中の場合）、キャッシュはその要求を無視します。新しいキャッシュはダーティ、有効、排他としてマークされ、そのキャッシュがアドレスの責任を負います。^[1]

利点

バススヌーピングを使用する利点は、ディレクトリベースの一貫性メカニズムよりも高速であることです。共有されるデータは、ディレクトリベースのシステム内のキャッシュ間の一貫性を維持する共通ディレクトリに配置されます。すべてのトランザクションはすべてのプロセッサによって認識される要求/応答であるため、十分な帯域幅があれば、バススヌーピングは通常より高速です。^[2]

欠点

バススヌーピングの欠点は、スケーラビリティが限られていることです。キャッシュを頻繁にスヌーピングすると、プロセッサからのアクセスとの競合が発生し、キャッシュのアクセス時間と消費電力が増加する可能性があります。各要求は、システム内のすべてのノードにブロードキャストする必要があります。つまり、システムが大きくなるにつれて、（物理または論理）バスのサイズとそれが提供する帯域幅を増やす必要があります。^[2]バススヌーピングは拡張性が低いため、大規模なキャッシュコヒーレントNUMA （ccNUMA）システムでは、ディレクトリベースのコヒーレンスプロトコルが使用される傾向があります。

スヌープフィルター

特定のキャッシュブロックに対してバストランザクションが発生すると、すべてのスヌーパーがバストランザクションをスヌープする必要があります。次に、スヌーパーは対応するキャッシュタグを検索して、同じキャッシュブロックがあるかどうかを確認します。多くの場合、最適化された並列プログラムはスレッド間で多くのデータを共有しないため、キャッシュにはキャッシュブロックがありません。したがって、スヌーパーによるキャッシュタグの検索は、キャッシュブロックを持たないキャッシュにとっては不要な作業です。ただし、タグの検索はプロセッサによるキャッシュアクセスを妨げ、追加の電力消費を引き起こします。

不要なスヌーピングを減らす方法の 1 つは、スヌープフィルタを使用することです。スヌープフィルタは、スヌーパーがキャッシュタグをチェックする必要があるかどうかを決定します。スヌープフィルタはディレクトリベースの構造で、キャッシュブロックのコヒーレンス状態を追跡するためにすべてのコヒーレントトラフィックを監視します。つまり、スヌープフィルタはキャッシュブロックのコピーを持つキャッシュを認識します。したがって、キャッシュブロックのコピーを持たないキャッシュが不要なスヌーピングを行うのを防ぐことができます。スヌープフィルタの場所によって、3 種類のフィルタがあります。1 つは、キャッシュ側に配置され、コヒーレンストラフィックが共有バスに到達する前にフィルタリングを実行するソースフィルタです。もう 1 つは、受信側キャッシュに配置され、受信側コアでの不要なキャッシュタグ検索を防ぐ宛先フィルタですが、このタイプのフィルタリングでは、ソースからの最初のコヒーレンスメッセージを防ぐことはできません。最後に、ネットワーク内フィルタは、共有バス内でコヒーレンストラフィックを動的に除去します。^[7]スヌープフィルタは、包括的と排他的に分類することもできます。包括的スヌープフィルタは、キャッシュ内のキャッシュブロックの存在を追跡します。一方、排他的スヌープフィルタは、キャッシュ内のキャッシュブロックの不在を監視します。言い換えれば、包括的スヌープフィルタのヒットは、対応するキャッシュブロックがキャッシュによって保持されていることを意味します。一方、排他的スヌープフィルタのヒットは、要求されたキャッシュブロックがキャッシュに存在しないことを意味します。^[8]

参考文献

^ ab Ravishankar, Chinya; Goodman, James (1983 年 2 月 28 日)。複数のマイクロプロセッサのキャッシュ実装(PDF)。pp. 346–350。
^ abc ヤン・ソーリヒン (2016).並列コンピュータアーキテクチャの基礎。 239–246ページ。
^ Eggers, SJ; Katz, RH (1989)。「4 つのスヌーピングキャッシュコヒーレンスプロトコルのパフォーマンス評価」。第16 回コンピュータアーキテクチャ国際シンポジウム - ISCA '89 の議事録。ACM プレス。pp. 2–15。doi : 10.1145/74925.74927。ISBN 978-0-89791-319-5。
^ ヘネシー、ジョン L; パターソン、デビッド A. (2011)。コンピュータアーキテクチャ：定量的アプローチ。エルゼビア。ISBN 978-0123838728。
^ パターソン、デビッド A.、ヘネシー、ジョン L. (1990)。コンピュータアーキテクチャ定量的アプローチ。Morgan Kaufmann Publishers。pp. 469–471。ISBN 1-55860-069-8。
^ Siratt, Adrem. 「キャッシュコヒーレンスとは何か?」 EasyTechJunkie . 2021年12月1日閲覧。
^ Agarwal, N.; Peh, L.; Jha, NK (2009 年 12 月)。「ネットワーク内コヒーレンスフィルタリング」。第42 回 IEEE/ ACM国際マイクロアーキテクチャシンポジウムの議事録。pp. 232–243。doi :10.1145/1669112.1669143。hdl : 1721.1 / 58870。ISBN 9781605587981. S2CID 6626465。
^ Ulfsnes, Rasmus (2013 年 6 月)。Snoopベースのキャッシュ一貫性プロトコル用の Snoop フィルターの設計。ノルウェー科学技術大学。{{cite book}}: CS1 maint: location missing publisher (link)

外部リンク

Jim Plusquellic。集中型共有メモリアーキテクチャ。
スヌープフィルター。
キャッシュコントローラ
http://www.icsa.inf.ed.ac.uk/research/groups/hase/models/coherence/index.html
http://techpubs.sgi.com/library/tpl/cgi-bin/getdoc.cgi/0650/bks/SGI_Developer/books/T_IRIX_Prog/sgi_html/ch01.html

[:1-1] Ravishankar, Chinya; Goodman, James (1983 年 2 月 28 日)。複数のマイクロプロセッサのキャッシュ実装(PDF)。pp. 346–350。

[:0-2] ヤン・ソーリヒン (2016).並列コンピュータアーキテクチャの基礎。 239–246ページ。

[3] Eggers, SJ; Katz, RH (1989)。「4 つのスヌーピングキャッシュコヒーレンスプロトコルのパフォーマンス評価」。第16 回コンピュータアーキテクチャ国際シンポジウム - ISCA '89 の議事録。ACM プレス。pp. 2–15。doi : 10.1145/74925.74927。ISBN 978-0-89791-319-5。

[4] ヘネシー、ジョン L; パターソン、デビッド A. (2011)。コンピュータアーキテクチャ：定量的アプローチ。エルゼビア。ISBN 978-0123838728。

[5] パターソン、デビッド A.、ヘネシー、ジョン L. (1990)。コンピュータアーキテクチャ定量的アプローチ。Morgan Kaufmann Publishers。pp. 469–471。ISBN 1-55860-069-8。

[ETJ-6] Siratt, Adrem. 「キャッシュコヒーレンスとは何か?」 EasyTechJunkie . 2021年12月1日閲覧。

[7] Agarwal, N.; Peh, L.; Jha, NK (2009 年 12 月)。「ネットワーク内コヒーレンスフィルタリング」。第42 回 IEEE/ ACM国際マイクロアーキテクチャシンポジウムの議事録。pp. 232–243。doi :10.1145/1669112.1669143。hdl : 1721.1 / 58870。ISBN 9781605587981. S2CID 6626465。

[8] Ulfsnes, Rasmus (2013 年 6 月)。Snoopベースのキャッシュ一貫性プロトコル用の Snoop フィルターの設計。ノルウェー科学技術大学。{{cite book}}: CS1 maint: location missing publisher (link)