GPFS

GPFS ( General Parallel File System、ブランド名はIBM Storage Scale、以前はIBM Spectrum Scale ) ^{[ 1 ]}は、 IBMが開発した高性能クラスタファイルシステムソフトウェアです。共有ディスクまたは共有なしの分散並列モード、あるいはこれらの組み合わせで展開できます。世界最大規模の商用企業の多くや、Top 500 リストに掲載されているスーパーコンピュータの一部で使用されています。^{[ 2 ]} 例えば、オークリッジ国立研究所 のSummit ^{[ 3 ]}のファイルシステムは GPFS です。Summit は、 2019 年 11 月の Top 500 リストで世界最速のスーパーコンピュータ第 1 位でした。^{[ 4 ]} Summit は、 9,000 個以上のPOWER9プロセッサと 27,000 個の NVIDIA Volta GPUで構成された200ペタフロップスのシステムです。ストレージファイルシステムは Alpine と呼ばれています。^{[ 5 ]}

一般的なクラスタファイルシステムと同様に、GPFSはクラスタの複数のノードで実行されているアプリケーションに同時高速ファイルアクセスを提供します。AIXクラスタ、Linuxクラスタ^{[ 6 ]} 、 Microsoft Windows Server 、またはx86、Power、IBM Zプロセッサアーキテクチャで実行されるAIX、Linux、Windowsノードの異種クラスタで使用できます。

GPFSは、1993年にIBMのアルマデン研究所で行われた研究プロジェクトであるTiger Sharkファイルシステムとして始まりました。Tiger Sharkは当初、高スループットのマルチメディアアプリケーションをサポートするように設計されていました。この設計は科学計算に非常に適していることが判明しました。^{[ 7 ]}

もう1つの祖先は、1992年から1995年にかけてIBMのトーマス・J・ワトソン研究センターで研究プロジェクトとして開発されたIBMのVestaファイルシステムです。 ^{[ 8 ]} Vestaは、並列I/Oサブシステムを備えた高性能マルチコンピュータ上で実行される並列アプリケーションのニーズに対応するために、ファイルパーティショニングの概念を導入しました。パーティショニングでは、ファイルはバイト列ではなく、並列にアクセスできる複数の互いに素なシーケンスです。パーティショニングは、ファイルシステムをホストするI/Oノードの数とタイプを抽象化し、I/Oノード内のデータの物理的な分布に関係なく、ファイルのさまざまな論理的に分割されたビューを可能にします。互いに素なシーケンスは、並列アプリケーションの個々のプロセスに対応するように配置され、スケーラビリティが向上します。^{[ 9 ] [ 10 ]}

Vestaは1994年頃にPIOFSファイルシステムとして商用化され^{[ 11 ]}、1998年頃にGPFSに取って代わられました^{[ 12 ] [ 13 ]。}旧ファイルシステムと新ファイルシステムの主な違いは、GPFSがVesta/PIOFSが提供していた専用インターフェースを標準のUnix APIに置き換えたことです。高性能並列I/Oをサポートするすべての機能はユーザーから隠蔽され、内部で実装されました^{[ 7 ] [ 13 ] 。GPFSは関連製品であるIBM Multi} -Media ServerおよびIBM Video Chargerと多くのコンポーネントを共有していたため、多くのGPFSユーティリティは接頭辞mm（マルチメディア）で始まります^{[ 14 ]。}

2010年、IBMはGPFS-SNCと呼ばれる機能を含むGPFSのバージョンをプレビューしました。SNCはShared Nothing Clusterの略です。これは2012年12月にGPFS 3.5で正式にリリースされ、現在はFPO ^{[ 15 ]}（File Placement Optimizer）として知られています。

これはクラスタ型ファイルシステムです。ファイルを、それぞれ1メガバイト未満の設定されたサイズのブロックに分割し、複数のクラスタノードに分散させます。

このシステムは、標準的なブロックストレージボリュームにデータを保存しますが、内部にRAIDレイヤーを備えており、RAIDブロックストレージシステムと同様に、これらのボリュームを仮想化して冗長性と並列アクセスを実現できます。また、上位ファイルレベルでボリューム間のレプリケーションも可能です。

建築の特徴としては、

• ディレクトリツリーを含むメタデータは分散型です。ファイルシステムを管理する単一の「ディレクトリコントローラ」や「インデックスサーバー」は存在しません。
• 非常に大きなディレクトリのエントリを効率的にインデックス化する。
• 分散ロック。これにより、排他的ファイルアクセス用のロックを含む、 POSIXファイルシステムの完全なセマンティクスが実現されます。
• パーティション対応。ネットワーク障害が発生すると、ファイルシステムが2つ以上のノードグループに分割され、各グループは自身のグループ内のノードしか認識できなくなります。これはハートビートプロトコルによって検出され、パーティションが発生した場合、形成された最大のパーティションに対してファイルシステムは動作し続けます。これにより、ファイルシステムの段階的な劣化が実現され、一部のマシンは引き続き動作します。
• ファイルシステムのメンテナンスはオンラインで実行できます。ファイルシステムのメンテナンス作業のほとんど（新しいディスクの追加、ディスク間のデータ再配分など）は、ファイルシステムが稼働中でも実行可能です。これにより、ファイルシステムの可用性が最大化され、ひいてはスーパーコンピュータクラスタ自体の可用性も向上します。

その他の機能としては、高可用性、異種クラスタでの使用可能性、災害復旧、セキュリティ、DMAPI、HSM、ILMなどがあります。

ストレージプールを使用すると、ファイルシステム内のディスクをグループ化できます。管理者は、パフォーマンス、場所、信頼性などの特性に基づいてディスクをグループ化することで、ストレージの階層を作成できます。たとえば、1つのプールは高性能なファイバーチャネルディスクで構成し、別のプールはより経済的なSATAストレージで構成するといったことが可能です。

ファイルセットはファイルシステム名前空間のサブツリーであり、名前空間をより小さく管理しやすい単位に分割する方法を提供します。ファイルセットは、クォータを設定したり、初期データ配置やデータ移行を制御するためのポリシーで指定したりできる管理上の境界を提供します。単一のファイルセット内のデータは、1つまたは複数のストレージプールに存在できます。ファイルデータの配置場所と移行方法は、ユーザー定義ポリシーのルールセットに基づいています。

ユーザー定義ポリシーには、ファイル配置ポリシーとファイル管理ポリシーの2種類があります。ファイル配置ポリシーは、ファイルが作成されると、ファイルデータを適切なストレージプールに振り分けます。ファイル配置ルールは、ファイル名、ユーザー名、ファイルセットなどの属性に基づいて選択されます。ファイル管理ポリシーを使用すると、ファイルのデータを移動または複製したり、ファイルを削除したりできます。ファイル管理ポリシーを使用すると、ディレクトリ構造内のファイルの場所を変更せずに、データをあるプールから別のプールに移動できます。ファイル管理ポリシーは、最終アクセス時刻、パス名、ファイルサイズなどのファイル属性に基づいて決定されます。

ポリシー処理エンジンは拡張性に優れており、複数のノードで同時に実行できます。これにより、数十億個のファイルを含む単一のファイルシステムに管理ポリシーを適用し、数時間で処理を完了することが可能になります。