ユースケース
バーストバッファは、スーパーコンピュータ上での科学データの移動を高速化します。たとえば、科学アプリケーションのライフサイクルは通常、計算フェーズとI/Oフェーズが交互に繰り返されます。[ 1 ]つまり、各計算ラウンド(計算フェーズ)の後、すべての計算プロセスが同時に中間データをバックエンドストレージシステムに書き込み(I/Oフェーズ)、その後、別の計算ラウンドとデータ移動操作が続きます。バーストバッファを導入すると、プロセスは、低速なハードディスクベースのストレージシステムに書き込む代わりに、1ラウンドの計算後にデータをバーストバッファにすばやく書き込み、データがバックエンドストレージシステムに移動されるのを待たずに、すぐに次の計算ラウンドに進むことができます。[ 2 ] [ 3 ]その後、データは、次の計算ラウンド中にバーストバッファからストレージシステムに非同期的にフラッシュされます。このようにして、データをストレージシステムに移動するために費やされる長いI/O時間は、計算時間の背後に隠されます。さらに、バーストバッファにデータをバッファリングすることで、アプリケーションはバックエンドストレージシステムへのデータトラフィックを再構成し、ストレージシステムの帯域幅を効率的に利用する機会を多く得ることができます。[ 4 ] [ 5 ]また、別の一般的なユースケースとして、科学アプリケーションは、低速なストレージシステムとやり取りすることなく、中間データをバーストバッファに出入りさせることができます。ストレージシステムをバイパスすることで、アプリケーションはバーストバッファからのパフォーマンス上のメリットを最大限に享受できます。[ 6 ]
代表的なバーストバッファアーキテクチャ
高性能コンピューティング環境には、ノードローカルバーストバッファとリモート共有バーストバッファという 2 つの代表的なバーストバッファアーキテクチャがあります。ノードローカルバーストバッファアーキテクチャでは、バーストバッファストレージは個々の計算ノードに配置されるため、バーストバッファの総帯域幅は計算ノード数に比例して増加します。このスケーラビリティの利点は、最近の文献で十分に文書化されています。[ 7 ] [ 8 ] [ 9 ] [ 10 ]また、すべてのバーストバッファに分散されたデータのグローバルネームスペースを維持するためのスケーラブルなメタデータ管理戦略も必要になります。[ 11 ] [ 12 ]リモート共有バーストバッファアーキテクチャでは、バーストバッファストレージは、計算ノードとバックエンドストレージシステムの間に配置された少数の I/O ノードにあります。計算ノードとバーストバッファ間のデータ移動はネットワークを経由する必要があります。バーストバッファを I/O ノードに配置することで、バーストバッファサービスの独立した開発、展開、および保守が容易になります。そのため、DataWarpやInfinite Memory Engineなど、このタイプのバーストバッファを管理するために、いくつかの有名な商用ソフトウェア製品が開発されています。スーパーコンピュータは、計算ノード上のNVRAMや専用I/Oノード上のSSDなど、複数の異種バーストバッファ層で展開されるため、複数のストレージ層間でデータを透過的に移動する必要があります。[ 13 ] [ 14 ] [ 15 ]
参考文献
- ↑ Liu, Zhuo; Lofstead, Jay; Wang, Teng; Yu, Weikuan (2013年9月)「科学アプリケーション向けシステムワイド電力管理の事例」2013 IEEE International Conference on Cluster Computing (CLUSTER) . IEEE. pp. 1–8 . doi : 10.1109/CLUSTER.2013.6702681 . ISBN 978-1-4799-0898-1. S2CID 6156410 .
- ↑ Wang, Teng; Oral, Sarp; Wang, Yandong; Settlemyer, Brad; Atchley, Scott; Yu, Weikuan (2014年10月). "BurstMem: 科学アプリケーション向け高性能バーストバッファシステム". 2014 IEEE International Conference on Big Data (Big Data) . IEEE. pp. 71–79 . doi : 10.1109/BigData.2014.7004215 . ISBN 978-1-4799-5666-1。OSTI 1150929。S2CID 16764901。
- ↑ Liu, Ning; Cope, Jason; Carns, Philip; Carothers, Christopher; Ross, Robert; Grider, Gary; Crume, Adam; Maltzahn, Carlos (2012年4月)「リーダーシップクラスストレージシステムにおけるバーストバッファの役割について」。IEEE第28回大容量ストレージシステムおよび技術シンポジウム(MSST)。IEEE。pp. 1–11。doi : 10.1109 / MSST.2012.6232369。ISBN 978-1-4673-1747-4. S2CID 9676920 .
- ↑ Wang, Teng; Oral, Sarp; Pritchard, Michael; Wang, Bin; Yu, Weikuan (2015年9月). "TRIO: バーストバッファベースのI/Oオーケストレーション". 2015 IEEE International Conference on Cluster Computing . IEEE. pp. 194–203 . doi : 10.1109/CLUSTER.2015.38 . ISBN 978-1-4673-6598-7。OSTI 1265517。S2CID 12482308。
- ↑ Kougkas, Anthony; Dorier, Matthieu; Latham, Rob; Ross, Rob; Sun, Xian-He (2017年3月)「I/O干渉を防ぐためのバーストバッファ協調の活用」2016 IEEE 12th International Conference on e-Science (E-Science) . IEEE. pp. 371–380 . doi : 10.1109/eScience.2016.7870922 . ISBN 978-1-5090-4273-9。OSTI 1366308。S2CID 14514395。
- ↑ Wang, Teng; Mohror, Kathryn; Moody, Adam; Sato, Kento; Yu, Weikuan (2016年11月). 「科学アプリケーション向け一時バーストバッファファイルシステム」. SC16: 高性能コンピューティング、ネットワーキング、ストレージ、分析に関する国際会議. IEEE. pp. 807–818 . doi : 10.1109/SC.2016.68 . ISBN 978-1-4673-8815-3. S2CID 260667 .
- ↑ 「BurstFS: 科学アプリケーション向け分散バーストバッファファイルシステム」(PDF) 2015年11月。
- ↑ Moody, Adam; Bronevetsky, Greg; Mohror, Kathryn; Supinski, Bronis R. de (2010年11月)「スケーラブルなマルチレベルチェックポイントシステムの設計、モデリング、および評価」2010 ACM /IEEE 国際高性能コンピューティング、ネットワーキング、ストレージおよび分析会議。ACM。pp . 1–11。doi : 10.1109/ SC.2010.18。ISBN 978-1-4244-7557-5. S2CID 7352923 .
- ↑ Rajachandrasekar, Raghunath; Moody, Adam; Mohror, Kathryn; Panda, Dhabaleswar K. (DK) (2013年6月). "300万のMPIタスクをチェックポイントするための1 PB/sファイルシステム" (PDF) .第22回高性能並列分散コンピューティング国際シンポジウム - HPDC '13 議事録. ACM. p. 143. doi : 10.1145/2493123.2462908 . ISBN 9781450319102。
- ↑ Zhao, Dongfang; Zhang, Zhao; Zhou, Xiaobing; Li, Tonglin; Wang, Ke; Kimpe, Dries; Carns, Philip; Ross, Robert; Raicu, Ioan (2014年10月)「FusionFS: 超大規模高性能コンピューティングシステムにおけるデータ集約型科学アプリケーションのサポートに向けて」2014 IEEE International Conference on Big Data (Big Data) . IEEE. pp. 61–70 . doi : 10.1109/BigData.2014.7004214 . ISBN 978-1-4799-5666-1. S2CID 5288472 .
- ↑ Wang, Teng; Moody, Adam; Zhu, Yue; Mohror, Kathryn; Sato, Kento; Islam, Tanzima; Yu, Weikuan (2017年5月). "MetaKV: 分散バーストバッファのメタデータ管理のためのキーバリューストア". 2017 IEEE International Parallel and Distributed Processing Symposium (IPDPS) . IEEE. pp. 1174–1183 . doi : 10.1109/IPDPS.2017.39 . ISBN 978-1-5386-3914-6. S2CID 8148699 .
- ↑ Li, Tonglin; Zhou, Xiaobing; Brandstatter, Kevin; Zhao, Dongfang; Wang, Ke; Rajendran, Anupam; Zhang, Zhao; Raicu, Ioan (2013年5月). "ZHT: 軽量で信頼性の高い永続的な動的スケーラブルなゼロホップ分散ハッシュテーブル". 2013 IEEE 27th International Symposium on Parallel and Distributed Processing . IEEE. pp. 775–787 . CiteSeerX 10.1.1.365.7329 . doi : 10.1109/IPDPS.2013.110 . ISBN 978-1-4673-6066-1. S2CID 16614868 .
- ↑ Wang, Teng; Byna, Suren; Dong, Bin; Tang, Houjun (2018年9月). 「UniviStor: HPC向け統合型階層分散ストレージ」. 2018 IEEE International Conference on Cluster Computing (CLUSTER) . IEEE. pp. 134–144 . doi : 10.1109/CLUSTER.2018.00025 . ISBN 978-1-5386-8319-4. S2CID 53235423 .
- ↑「Hermes: 異種環境対応の多層分散I/Oバッファリングシステム」。ACM。2018年6月。doi : 10.1145 /3208040.3208059。S2CID 47019714。
- ↑ Tang, Houjun; Byna, Suren; Tessier, Francois; Wang, Teng; Dong, Bin; Mu, Jingqing; Koziol, Quincey; Soumagne, Jerome; Vishwanath, Venkatram; Liu, Jialin; Warren, Richard (2018年5月)「HPC向けスケーラブルで非同期なオブジェクト中心データ管理に向けて」2018年第18回IEEE/ACM国際クラスター・クラウド・グリッドコンピューティングシンポジウム(CCGRID) . IEEE. pp. 113–122 . doi : 10.1109/CCGRID.2018.00026 . ISBN 978-1-5386-5815-4. S2CID 13811397 .
- ↑ He, Jiahua; Jagatheesan, Arun; Gupta, Sandeep; Bennett, Jeffrey; Snavely, Allan (2010年11月). "DASH: フラッシュベースのデータ集約型スーパーコンピュータのレシピ" (PDF) . 2010 ACM/IEEE 国際高性能コンピューティング、ネットワーキング、ストレージおよび分析会議. ACM. pp. 1–11 . doi : 10.1109/SC.2010.16 . ISBN 978-1-4244-7557-5. S2CID 7349294 .
外部リンク
- Cray DataWarpは 、Crayが開発したプロダクションバーストバッファシステムで、 2017年5月13日にWayback Machineにアーカイブされました。
- Infinite Memory Engineは、 Data Direct Networkによって開発された、本番環境向けのバーストバッファシステムで、 2017年2月16日にWayback Machineにアーカイブされました。
- シータ・スーパーコンピュータは、アルゴンヌ国立研究所に設置されているスーパーコンピュータである。
- サミット・スーパーコンピュータは、オークリッジ国立研究所に設置されているスーパーコンピュータである。
- シエラ・スーパーコンピュータは、ローレンス国立研究所に設置されているスーパーコンピュータである。
- トリニティ・スーパーコンピュータは、ロスアラモス国立研究所に設置されているスーパーコンピュータである。
- Coriスーパーコンピュータは、 ローレンス・バークレー国立研究所に設置されたスーパーコンピュータで、 2017年5月26日にWayback Machineにアーカイブされました。