異種コンピューティング

異種コンピューティングとは、複数の種類のプロセッサまたはコアを使用するシステムのことです。これらのシステムは、同じ種類のプロセッサを追加するだけでなく、通常は特定のタスクを処理するための特殊な処理機能を組み込んだ異なるコプロセッサを追加することによって、パフォーマンスやエネルギー効率を向上させます。 ^{[ 1 ]}

コンピューティングの文脈における異種性は、通常、異なる命令セットアーキテクチャ（ISA）を指します。メインプロセッサは1つのISAを持ち、他のプロセッサは別の（通常は非常に異なる）アーキテクチャ（場合によっては複数）を持ちます。単に異なるマイクロアーキテクチャを持つだけではありません（浮動小数点数処理はこの特殊なケースであり、通常は異種性とは呼ばれません）。

現代のコンピューティングシステムにおける異質性のレベルは、製造技術のさらなる微細化によって、かつては個別の部品であったものがシステムオンチップ（SoC）の統合部品となることが可能になったことで、徐々に高まっています。例えば、多くの新しいプロセッサには、他のデバイス（SATA、PCI、イーサネット、USB、RFID、無線、UART、メモリコントローラなど）とのインターフェースのための組み込みロジックに加え、プログラム可能な機能ユニットやハードウェアアクセラレータ（GPU、暗号化コプロセッサ、プログラム可能なネットワークプロセッサ、A/Vエンコーダ/デコーダなど）が搭載されています。

最近の調査結果によると、複数のISAが提供する多様性を活用する異種ISAチップマルチプロセッサは、最高の同一ISAホモジニアスアーキテクチャを最大21%上回り、エネルギーを23%節約し、エネルギー遅延積（EDP）を32%削減できることが示されています。^{[ 2 ]} AMDが2014年に発表した、コードネームProject Skybridgeと呼ばれるピン互換のARMおよびx86 SoC ^{[ 3 ]} は、異種ISA（ARM+x86）チップマルチプロセッサの開発を示唆していました。

異種コンピューティングシステムは、典型的な同種システムには見られない新たな課題を提示します。^{[ 7 ]}複数の処理要素の存在は、同種並列処理システムに関連するすべての問題を引き起こしますが、システムの異質性のレベルは、システム開発、プログラミング手法、およびシステム全体の機能に不均一性をもたらす可能性があります。異質性の領域には、次のものが含まれます。^{[ 8 ]}

ISA（命令セットアーキテクチャ）

演算要素は異なる命令セットアーキテクチャを持つ場合があり、その結果、バイナリ互換性の問題が生じる。

ABI（アプリケーションバイナリインターフェース）

計算要素は、メモリを異なる方法で解釈する場合があります。^{[ 9 ]}これには、エンディアン、呼び出し規約、メモリレイアウトの両方が含まれる可能性があり、使用されているアーキテクチャとコンパイラの両方に依存します。

API（アプリケーションプログラミングインターフェース）

ライブラリおよびOSサービスは、すべての計算要素で均一に利用できるとは限りません。^{[ 10 ]}

言語機能の低レベル実装

関数やスレッドといった言語機能は、多くの場合、関数ポインタを用いて実装されますが、この仕組みは異種環境で使用する場合、追加の変換や抽象化が必要となります。

メモリインターフェースと階層構造

演算要素は、異なるキャッシュ構造、キャッシュコヒーレンシプロトコルを持つ場合があり、メモリアクセスは均一メモリアクセスまたは非均一メモリアクセス（NUMA）である場合があります。一部のプロセッサ/ユニットはバイト、ワード、またはバーストアクセスしか実行できないため、任意のデータ長を読み取る能力にも違いが見られます。^{[ 11 ]}

相互接続

演算要素は、基本的なメモリ／バスインターフェース以外にも、さまざまな種類の相互接続を備えている場合があります。これには、専用ネットワークインターフェース、ダイレクトメモリアクセス（DMA）デバイス、メールボックス、FIFO、スクラッチパッドメモリなどが含まれます。さらに、異種混在システムの一部の領域はキャッシュコヒーレンシを備えている一方、他の領域では一貫性とコヒーレンシを維持するために明示的なソフトウェアの関与が必要となる場合があります。

パフォーマンス

異種混在システムでは、アーキテクチャ上は同一のCPUであっても、マイクロアーキテクチャ上の違いによって性能や消費電力にばらつきが生じる場合があります。こうした機能の非対称性に加え、プログラミングモデルやオペレーティングシステムの抽象化が不透明な場合、特に混合ワークロードにおいては、性能予測に問題が生じる可能性があります。

開発ツール

異なる種類のプロセッサでは、通常、ソフトウェア開発者にとって異なるツール（エディタ、コンパイラなど）が必要となり、アプリケーションをそれらの間で分割する際に複雑さが生じます。^{[ 12 ]}

データ分割

同種のプラットフォーム上でのデータ分割は多くの場合自明ですが、一般的な異種の場合、この問題はNP完全であることが示されています。^{[ 13 ]}分割数が少ない場合、負荷を完全にバランスさせ、通信量を最小化する最適な分割が存在することが示されています。^{[ 14 ]}

異種混在型のコンピューティングハードウェアは、ハイエンドサーバーや高性能コンピューティングマシンから、携帯電話やタブレットなどの低消費電力組み込みデバイスに至るまで、あらゆるコンピューティング分野で見られる。

• 高性能コンピューティング
  • Cydra-5（数値コプロセッサ）
  • Cray XD1 (FPGA)
  • SRCコンピュータ社製SRC-6およびSRC-7（FPGA）
• 組み込みシステム（DSPおよびモバイルプラットフォーム）
  • テキサス・インスツルメンツOMAP（メディアコプロセッサ）
  • アナログ・デバイセズBlackfin（DSPおよびメディアコプロセッサ）
  • クアルコムSnapdragon（GPU、DSP、画像処理、場合によってはAIコプロセッサ、モデム、センサー）
  • Nvidia Tegra（GPU、モデム、センサー）
  • Samsung Exynos（GPU、モデム、センサー）
  • Apple 「A」シリーズ（CPU、GPU、モデム）
  • Movidius Myriad Vision処理ユニットは、複数の対称型プロセッサと、固定機能ユニット、および一対のSPARCベースのコントローラで構成されています。
  • HiSilicon Kirin SoC（GPU、モデム、センサー）
  • MediaTek製SoC（GPU、モデム、センサー）
  • ケイデンス・デザイン・システムズ社のテンシリカDSP
• 再構成可能なコンピューティング
  • ザイリンクスのフィールドプログラマブルゲートアレイ（FPGA、例：Virtex-II Pro、Virtex 4 FX、Virtex 5 FXT）およびZynqとVersalプラットフォーム
  • インテル「ステラートン」（Atom + Altera FPGA）
• ネットワーキング
  • インテルIXPネットワークプロセッサー
• 汎用コンピューティング、ゲーム、エンターテイメント機器
  • Intel Sandy Bridge、Ivy Bridge、およびHaswell CPU（統合GPU、Ivy Bridge以降はOpenCL対応、Alder Lake以降はハイブリッドCPU対応）
  • AMD ExcavatorおよびRyzen APU（統合GPU、OpenCL対応、Zen 4およびZen 4c以降はハイブリッドCPU対応）
  • IBM Cell、PlayStation 3（ベクトルコプロセッサ）に搭載されている^{[ 15 ]}
    • SpursEngineは、IBM Cellプロセッサの派生版である。
  • PlayStation 2に搭載されているEmotion Engine（ベクターおよびメディアコプロセッサ）
  • ARM big.LITTLE/DynamIQ CPUアーキテクチャ（異種トポロジー）
    • ARMベンダーのほぼすべてがヘテロジニアスソリューションを提供しています。ARM、Qualcomm、Nvidia、Apple、Samsung、HiSilicon、MediaTekなどです。

• big.LITTLE/DynamIQ
• GPGPU
• MPSoC
• ロゼッタラング
• 同時かつ異種マルチスレッド