GPFS

GPFS（General Parallel File System、ブランド名はIBM Storage Scale、旧称IBM Spectrum Scale）^[1]は、 IBMが開発した高性能なクラスター化ファイルシステムソフトウェアです。共有ディスクまたは共有なしの分散並列モード、またはこれらの組み合わせで導入できます。世界最大の商業企業の多くや、Top 500 List ^[2]に掲載されているスーパーコンピュータの一部で使用されています。 たとえば、2019年11月のTop 500 Listで世界最速のスーパーコンピュータに選ばれたオークリッジ国立研究所 のSummit ^{[3]のファイルシステムです。[ 4]} Summitは、 9,000を超えるPOWER9プロセッサと27,000のNVIDIA Volta GPUで構成された200ペタフロップスのシステムです。ストレージファイルシステムはAlpineと呼ばれています。^[5]

一般的なクラスターファイルシステムと同様に、GPFSはクラスターの複数のノードで実行されるアプリケーションへの同時高速ファイルアクセスを提供します。AIXクラスター、Linuxクラスター、^[6] Microsoft Windows Server 、またはx86、Power、IBM Zプロセッサアーキテクチャ で実行されるAIX、Linux、Windowsノードの異機種クラスターで使用できます。

GPFSは、1993年にIBMのアルマデン研究センターで行われた研究プロジェクトであるTiger Sharkファイルシステムとして始まりました。Tiger Sharkは当初、高スループットのマルチメディアアプリケーションをサポートするために設計されました。この設計は科学計算に適していることが判明しました。^[7]

もう 1 つの祖先は、IBM のVestaファイルシステムです。これは、 1992 年から 1995 年にかけてIBM のトーマス J. ワトソン研究所で研究プロジェクトとして開発されました。 ^{[8] Vesta は}、並列 I/Oサブシステムを備えた高性能マルチコンピュータで実行される並列アプリケーションのニーズに対応するために、ファイル パーティショニングの概念を導入しました。パーティショニングでは、ファイルはバイトのシーケンスではなく、並列でアクセスできる複数の分離したシーケンスになります。パーティショニングは、ファイルシステムをホストする I/O ノードの数とタイプを抽象化し、I/O ノード内のデータの物理的な分布に関係なく、ファイルのさまざまな論理的にパーティション化されたビューを可能にします。分離したシーケンスは、並列アプリケーションの個々のプロセスに対応するように配置され、スケーラビリティが向上します。^{[9] [10]}

Vesta は 1994 年頃に PIOFS ファイルシステムとして商品化され、^[11] 1998 年頃に GPFS に引き継がれました。^{[12] [13]}古いファイルシステムと新しいファイルシステムの主な違いは、GPFS が Vesta/PIOFS によって提供されていた特殊なインターフェイスを標準のUnix APIに置き換えたことです。高性能な並列 I/O をサポートするすべての機能はユーザーから隠され、裏で実装されていました。^{[7] [13]} GPFS は関連製品の IBM Multi-Media Server や IBM Video Charger と多くのコンポーネントを共有していたため、多くの GPFS ユーティリティはmm (マルチメディア) という接頭辞で始まります。^{[14] : xi}

2010年にIBMはGPFSのバージョンをプレビューしましたが、これにはGPFS-SNCと呼ばれる機能が含まれていました。SNCはShared Nothing Clusterの略です。これは2012年12月にGPFS 3.5で正式にリリースされ、現在はFPO ^[15] (File Placement Optimizer)として知られています。

これはクラスター化されたファイル システムです。ファイルを、それぞれ 1 メガバイト未満の構成されたサイズのブロックに分割し、複数のクラスター ノードに分散します。

このシステムは、標準のブロック ストレージ ボリュームにデータを保存しますが、RAID ブロック ストレージ システムと同様に、冗長性と並列アクセスのためにそれらのボリュームを仮想化できる内部 RAID レイヤーが含まれています。また、より高いファイル レベルでボリューム間で複製する機能もあります。

アーキテクチャの特徴は次のとおりです。

• ディレクトリ ツリーを含む分散メタデータ。ファイル システムを管理する単一の「ディレクトリ コントローラ」または「インデックス サーバー」は存在しません。
• 非常に大きなディレクトリのディレクトリ エントリの効率的なインデックス作成。
• 分散ロック。これにより、排他的ファイル アクセスのロックを含む完全なPOSIXファイルシステム セマンティクスが可能になります。
• パーティション対応。ネットワーク障害により、ファイルシステムが 2 つ以上のノード グループに分割され、各ノード グループ内のノードしか認識できなくなります。これはハートビート プロトコルによって検出され、分割が発生した場合、ファイルシステムは形成された最大のパーティションに対しては存続します。これにより、ファイルシステムの段階的な縮退が実現され、一部のマシンは動作を継続します。
• ファイルシステムのメンテナンスはオンラインで実行できます。ファイルシステムのメンテナンス作業のほとんど (新しいディスクの追加、ディスク間のデータの再バランス調整) は、ファイルシステムが稼働している間に実行できます。これにより、ファイルシステムの可用性が最大化され、スーパーコンピュータ クラスター自体の可用性も最大化されます。

その他の機能には、高可用性、異機種クラスタでの使用機能、災害復旧、セキュリティ、DMAPI、HSM、ILMなどがあります。

Hadoopの HDFS ファイルシステムは、RAIDディスクやストレージ エリア ネットワーク(SAN) のないデータセンターなどのコモディティ ハードウェアに、同等以上の量のデータを保存するように設計されています。

• HDFS はファイルをブロックに分割し、異なるファイルシステム ノードに保存します。
• GPFS は完全な Posix ファイルシステム セマンティクスを備えています。
• GPFS は、ディレクトリ インデックスとその他のメタデータをファイル システム全体に分散します。対照的に、Hadoop はこれをプライマリおよびセカンダリ ネームノード (すべてのインデックス情報を RAM 内に保存する必要がある大規模なサーバー) 上に保持します。
• GPFS はファイルを小さなブロックに分割します。Hadoop HDFS では、 Namenode のストレージ要件が軽減されるため、 64 MB以上のブロックが適しています。小さなブロックや小さなファイルが多数あると、ファイルシステムのインデックスがすぐにいっぱいになるため、ファイルシステムのサイズを制限してください。

ストレージ プールを使用すると、ファイル システム内のディスクをグループ化できます。管理者は、パフォーマンス、場所、信頼性の特性に基づいてディスクをグループ化することで、ストレージの階層を作成できます。たとえば、1 つのプールを高性能のファイバー チャネルディスクにし、もう 1 つのプールをより経済的な SATA ストレージにすることができます。

ファイルセットは、ファイル システムの名前空間のサブツリーであり、名前空間をより小さく管理しやすい単位に分割する方法を提供します。ファイルセットは、クォータの設定に使用できる管理境界を提供し、ポリシーで指定して初期データ配置またはデータ移行を制御することができます。1 つのファイルセット内のデータは、1 つ以上のストレージ プールに存在できます。ファイル データの保存場所と移行方法は、ユーザー定義のポリシーの一連のルールに基づきます。

ユーザー定義ポリシーには、ファイル配置とファイル管理の 2 種類があります。ファイル配置ポリシーは、ファイルが作成されると、ファイル データを適切なストレージ プールに送信します。ファイル配置ルールは、ファイル名、ユーザー名、ファイルセットなどの属性によって選択されます。ファイル管理ポリシーを使用すると、ファイルのデータを移動または複製したり、ファイルを削除したりできます。ファイル管理ポリシーを使用すると、ディレクトリ構造内のファイルの場所を変更せずに、あるプールから別のプールにデータを移動できます。ファイル管理ポリシーは、ファイルの最終アクセス時間、パス名、サイズなどのファイル属性によって決定されます。

ポリシー処理エンジンはスケーラブルで、一度に多くのノードで実行できます。これにより、数十億のファイルを含む単一のファイル システムに管理ポリシーを適用し、数時間で完了できます。^{[引用が必要]}