rCUDA

rCUDA

開発者	バレンシア工科大学
安定リリース	20.07 / 2020年7月26日; 4年前 ( 2020-07-26 )
オペレーティング·システム	リナックス
タイプ	GPGPU
Webサイト	翻訳元

rCUDAはRemote CUDAの略で、リモートGPU仮想化用のミドルウェアソフトウェア フレームワークの一種です。CUDAアプリケーション プログラミング インターフェイス ( API ) と完全に互換性があり、1 つ以上のCUDA対応 GPU を単一のアプリケーションに割り当てることができます。各 GPU はクラスターの一部にすることも、仮想マシン内で実行することもできます。このアプローチは、十分に活用されていない GPU クラスターのパフォーマンスを向上させることを目的としています。GPU 仮想化により、クラスターに必要な GPU の数が減り、結果として構成コストが削減され、エネルギー、取得、保守が削減されます。

推奨される分散アクセラレーション アーキテクチャは、GPU がクラスター ノードのごく一部に接続された高性能コンピューティングクラスターです。ローカルGPUのないノードがGPU リソースを必要とするアプリケーションを実行する場合、カーネルのリモート実行は、ローカルシステム メモリとリモート GPU メモリ間のデータおよびコード転送によってサポートされます。rCUDA は、このクライアント サーバーアーキテクチャに対応するように設計されています。一方の端では、クライアントが高レベル CUDA ランタイム API へのラッパーのライブラリを使用し、もう一方の端では、TCP ポートで要求を受信するネットワーク リスニング サービスがあります。異なる GPU アクセラレーション アプリケーションを実行する複数のノードは、クラスターにインストールされているアクセラレータのセット全体を同時に利用できます。クライアントは、要求をサーバーの 1 つに転送します。サーバーはそのコンピューターにインストールされている GPU にアクセスし、その中で要求を実行します。GPU の時間多重化、つまり共有は、リモート GPU 実行要求ごとに異なるサーバー プロセスを生成することによって実現されます。^{[1] [2] [3] [4] [5] [6]}

rCUDA ミドルウェアを使用すると、CUDA 互換デバイスをリモートで同時に使用できるようになります。

rCUDA は、クライアントとサーバー間の通信に InfiniBand ネットワークまたはソケット API を使用します。rCUDA は、次の 3 つの異なる環境で役立ちます。

• クラスター。高性能クラスターにインストールされる GPU の数を減らします。これにより、エネルギーが節約されるだけでなく、取得コスト、メンテナンス、スペース、冷却などのその他の関連するコストも節約できます。
• 学術界。コモディティ ネットワークで、多数の学生に少数の高性能 GPU への同時アクセスを提供します。
• 仮想マシン。物理マシン上の CUDA 機能へのアクセスを有効にします。

rCUDA の現在のバージョン (v20.07) は、グラフィックス相互運用性を除いて、CUDA バージョン 9.0 をサポートしています。rCUDA v20.07 は、クライアント側とサーバー側の両方で Linux OS (64 ビット アーキテクチャ用) を対象としています。

CUDA アプリケーションを rCUDA で実行するためにソース コードを変更する必要はありません。

• Nvidia CUDA 公式サイト