データキューブ

コンピュータプログラミングにおいて、データキューブ(またはデータキューブ)とは、値の多次元配列のことです。一般的に、「データキューブ」という用語は、これらの配列がホストコンピュータのメインメモリよりもはるかに大きい場合に適用されます。例としては、数テラバイト/ペタバイト規模のデータウェアハウス時系列画像データなどが挙げられます。キューブと呼ばれていますが、データキューブは一般的に多次元の概念であり、1次元、2次元、3次元、またはそれ以上の次元を持つことができます。

データキューブは、関心のあるいくつかの次元に沿ってデータ事実と呼ばれることもあります)を表現するために使用されます。衛星画像時系列では、次元は緯度と経度の座標および時間になります。事実(測定値と呼ばれることもあります)は、衛星によって撮影された特定の場所と時間のピクセルになります。たとえば、オンライン分析処理( OLAP)では、企業に関するOLAPキューブの次元は、企業の子会社、企業の製品、および時間になります。この設定では、事実は、特定の製品が特定の子会社で特定の時間に販売された販売イベントになります。

いずれにせよ、各次元はデータをセルのグループに分割し、キューブ内の各セルは関心のある単一の尺度を表します。キューブには少数の値しか含まれず、残りは空、つまり未定義の場合もあれば、ほとんどまたはすべてのキューブ座標にセル値が含まれる場合もあります。前者の場合、このようなデータはスパースと呼ばれ、後者の場合、デンスと呼ばれますが、両者の間に明確な区別はありません。

データキューブは、配列データベース管理システム(DBMS)の一部として、データベース管理システム(DBMS)に格納されることがあります。 時空間データベース地理空間データベースも、カバレッジデータとして表現されることがあります。

歴史

多次元配列は、プログラミング言語において古くから馴染み深いものです。Fortran、任意インデックスの1次元配列と配列の配列を提供しており、最大15次元までの高次元配列を構築できます。APLは、豊富な演算セットを備えたn次元配列をサポートしています。これらの共通点は、配列がメインメモリに収まる必要があり、それらを管理する特定のプログラム(画像処理ソフトウェアなど)が実行されている間のみ利用可能であるということです。

一連のデータ交換フォーマットは、データキューブのようなデータの保存と送信をサポートしており、多くの場合、特定のアプリケーション領域に合わせてカスタマイズされています。例としては、統計データ(特にビジネスデータ)用のMDX 、一般的な科学データ用のZarrおよび階層型データフォーマット、画像用のTIFFなどがあります。

1992年、ピーター・バウマンは、高レベルのユーザー機能と効率的なソフトウェアアーキテクチャを組み合わせた大規模データキューブの管理を導入しました。[ 1 ]データキューブの操作には、サブセットの抽出、処理、融合、そして一般的にはSQLのようなデータ操作言語の精神に基づくクエリが含まれます。

数年後、ジム・グレイら[ 2 ]ベンキー・ハリナラヤンアナンド・ラジャラマンジェフ・ウルマン[ 3 ]によって、データキューブの概念が時間とともに変化するビジネスデータをデータキューブとして記述するために適用されました。

その頃、多次元データベースに関する作業グループ (「Arbeitskreis Multi-Dimensionale Datenbanken」) がドイツのGesellschaft für Informatikに設立されました。[ 4 ] [ 5 ]

Datacube Inc.は1996年にPC市場向けにハードウェアソフトウェアアプリケーションを販売していた画像処理会社でしたが、データキューブという概念自体には取り組んでいませんでした。

EarthServerイニシアチブは、地理データキューブサービスの要件を確立しました。[ 6 ]

標準化

2018年に、ISO SQLデータベース言語は「SQL – パート15:多次元配列(SQL/MDA)」としてデータキューブ機能で拡張されました。[ 7 ]

Web Coverage Processing Serviceは、2008年にOpen Geospatial Consortiumによって発行された地理データキューブ分析言語です。この言語は、一般的なデータキューブ操作に加えて、空間と時間のセマンティクスを理解しており、カバレッジデータの概念に基づいて、規則的なグリッドデータキューブと不規則なグリッドデータキューブの両方をサポートしています。

ビジネスデータキューブをクエリするための業界標準は、元々はマイクロソフトによって開発された多次元式(MultiDimensional eXpressions)です。

実装

多くの高級プログラミング言語は、データキューブやその他の大規模配列を、その内容とは区別された単一のエンティティとして扱います。Fortran 、APL、IDLNumPyPDLS - Langなどその例で、これらの言語では、プログラマーは線形代数ベクトル演算から派生した単純な式を用いて、映画クリップ全体やその他のデータを一括して操作できます。PDLなどの一部の言語は画像のリストとデータキューブを区別しますが、IDLなどの多くの言語は区別しません。

配列DBMS(データベース管理システム)は、n次元データキューブの定義、管理、検索、操作を汎用的にサポートするデータモデルを提供します。このデータベースカテゴリは、1994年以来、rasdamanシステムによって開拓されてきました。 [ 8 ]

アプリケーション

多次元配列は、空間的・時間的なセンサーデータ、画像データ、シミュレーションデータだけでなく、次元の意味が必ずしも空間的または時間的な性質を持たない統計データも意味のある形で表現できます。一般的に、あらゆる種類の軸を他の軸と組み合わせてデータキューブを作成できます。

数学

数学において、1次元配列はベクトルに対応し、2次元配列は行列に類似する。より一般的には、テンソルはn次元データキューブとして表現できる。

科学と工学

カラー画像の時系列の場合、配列は一般的に4次元であり、次元は画像のX座標とY座標、時間、およびRGB(またはその他のカラースペース)カラープレーンを表します。たとえば、EarthServerイニシアチブ[ 9 ]は、異なる大陸のデータセンターを統合し、 Open Geospatial Consortium WCPSジオデータキューブクエリ言語標準を介して取得およびサーバー側処理するための3次元x/y/t衛星画像時系列と4次元x/y/z/t気象データを提供します。

データキューブは、スペクトル分解された画像が3次元ボリュームとして表現されるため、イメージング分光法の分野でも使用されます。地球観測データキューブは、Landsat 8Sentinel-2などの衛星画像と地理情報システム分析を組み合わせたものです。[ 10 ]

ビジネスインテリジェンス

オンライン分析処理(OLAP)において、データキューブは、スライシング、ダイシング、ピボット、集計などの操作を通じて、さまざまな視点から分析するのに適したビジネスデータの一般的な構成です。

関連項目

参考文献

  1. Baumann, Peter (1992 年 4 月)「データベースにおけるラスター画像操作のための言語サポート」。Graphics Modeling and Visualization in Science and Technology。Graphics Modeling, Visualization in Science & Technologyに関する国際ワークショップ。ドイツ、ダルムシュタット: Springer (1993 年発行)。pp. 236–45。doi : 10.1007 /978-3-642-77811-7_19。 
  2. Gray, Jim; Chaudhuri, Surajit; Bosworth, Adam; Layman, Andrew; Reichart, Don; Venkatrao, Murali; Pellow, Frank; Pirahesh, Hamid (1997 年 1 月)。「データ キューブ: グループ化、クロス集計、および小計を一般化する関係集計演算子」。データマイニングと知識発見。1 ( 1 ): 29–53。doi : 10.1023 / A :1009726021843。S2CID 12502175 
  3. Harinarayan, Venky; Rajaraman, Anand; Ullman, Jeffrey D. (1996). "Implementing data cubes efficient". Proceedings of the 1996 ACM SIGMOD international conference on Management of data – SIGMOD '96 . Vol. 25. ACM SIGMOD . pp. 205–16 . CiteSeerX 10.1.1.41.1205 . doi : 10.1145 /233269.233333 . ISBN    978-0897917940. S2CID 3104453 . 
  4. 「Datenbank Rundbrief、Ausgabe 19、Mai 1997」dblp。 DE: ウニ・トリーア。
  5. 「Datenbank Rundbrief、Ausgabe 23、Mai 1999」dblp。 DE: ウニ・トリーア。
  6. 「データベースマニフェスト」地球サーバー。EU 。 2017年9月21日取得
  7. 「第15部:多次元配列(SQL/MDA)」DIS 9075-15 情報技術 - データベース言語 - SQL。ISO /IEC 。 2018年5月27日取得
  8. 「多次元離散データの管理」(PDF)。VLDB2017年9月21日取得
  9. 「EarthServer - 指先ひとつでビッグデータキューブ分析が可能」。Earth server。EU2017年3月31日取得
  10. Kopp, Steve; Becker, Peter; Doshi, Abhijit; Wright, Dawn J.; Zhang, Kaixi; Xu, Hong (2019). "地球観測データキューブの完全なビジョンの実現" . Data . 4 (3): 94. doi : 10.3390/data4030094 .
データキューブ | japedia.wiki