コンピュータサイエンスでは、データ ストリーム クラスタリングは、電話記録、マルチメディア データ、金融取引などの継続的に到着するデータのクラスタリングとして定義されます。データ ストリーム クラスタリングは通常、ストリーミング アルゴリズムとして研究され、その目的は、一連のポイントが与えられた場合に、少量のメモリと時間を使用して、ストリームの適切なクラスタリングを構築することです。
歴史
データストリームクラスタリングは、大量のストリーミングデータを扱う新しいアプリケーションとして最近注目を集めています。クラスタリングでは、 k-means が広く使用されているヒューリスティックですが、k-medoids、CURE、人気の[要出典] BIRCHなどの代替アルゴリズムも開発されています。データストリームの場合、最初の結果の 1 つは 1980 年に登場しましたが[1] 、モデルが正式に定義されたのは 1998 年です。[2]
意味
データ ストリーム クラスタリングの問題は次のように定義されます。
入力:メトリック空間内のn個のポイントのシーケンスと整数k。
出力: データ ポイントから最も近いクラスター センターまでの距離の合計を最小化する、
n個のポイントのセット内のk 個の中心。
これは k-median 問題のストリーミング バージョンです。
アルゴリズム
ストリーム
STREAMは、Guha、Mishra、Motwani、O'Callaghan [3]によって説明されたデータストリームをクラスタリングするためのアルゴリズムであり、k-Median問題の定数係数近似を1回のパスで小さなスペースを使用して実現します。
定理 — STREAM は、データ ストリーム上のk中央値問題を、時間O ( n 1+ e ) と空間θ ( n ε ) を最大 2 倍の係数O(1/ e )で、単一のパスで解決できます( n はポイントの数、 )。
STREAM を理解するための最初のステップは、クラスタリングが小さなスペースで実行できることを示すことです (パスの数は考慮しません)。Small-Space は、データSをいくつかの部分に分割し、それぞれをクラスタリングし ( k平均法を使用)、得られた中心をクラスタリングする 分割統治アルゴリズムです。

アルゴリズム Small-Space(S)
- S を互いに素な部分に分割します。
- 各iについて、X iの中心を見つけます。 X iの各点を最も近い中心に割り当てます。
- X'を(2)で得られた中心とし、各中心cはそれに割り当てられた点の数によって重み付けされる。
- X' をクラスター化してk 個の中心を見つけます。
ここで、ステップ 2 で、コストが最大で最適な k-Median ソリューションのb倍である最大でak 個のメディアンを出力する2基準 近似アルゴリズムを実行し、ステップ 4 でc近似アルゴリズムを実行する場合、Small-Space() アルゴリズムの近似係数は です。また、Small-Space を一般化して、重み付けされた中心の連続的に小さいセットに対してi回再帰的に呼び出し、 k -Median 問題に対する定数係数近似を達成することもできます。
Small-Space の問題は、 Xの中間中央値をメモリに格納する必要があるため、 S を分割するサブセットの数が限られていることです。したがって、メモリのサイズが M の場合、各サブセットがメモリに収まるように、 ( )、重み付けされた中心もメモリに収まるように、 S をサブセットに分割する必要があります。ただし、このような が常に存在するとは限りません。
STREAMアルゴリズムは中間中央値を保存する問題を解決し、実行時間とスペース要件を改善します。アルゴリズムは次のように機能します。[3]
- 最初のm点を入力し、 [3]で提示されたランダム化アルゴリズムを使用して、これらを(たとえば2k )点 に削減します。
- 元のデータポイントのm 2 /(2 k )が表示されるまで上記を繰り返します。これでm 個の中間中央値が得られます。
- ローカル検索アルゴリズムを使用して、これらのm 個の第 1 レベルの中央値を 2 k 個の第 2 レベルの中央値にクラスター化し、続行します。
- 一般に、最大でm個のレベルiの中央値を維持し、m を確認すると、2 k個のレベルi + 1 の中央値を生成します。新しい中央値の重みは、それに割り当てられた中間中央値の重みの合計になります。
- 元のデータポイントをすべて確認したら、プライマルデュアルアルゴリズムを使用して、すべての中間中央値をk個の最終中央値にクラスタ化します。 [4]
その他のアルゴリズム
データ ストリーム クラスタリングに使用されるその他のよく知られたアルゴリズムは次のとおりです。
- BIRCH : [5]は 、利用可能なメモリを使用して、必要なI/Oの量を最小限に抑えながら、入力ポイントを段階的にクラスタリングするための階層型データ構造を構築します。1回のパスで十分なクラスタリングが得られるため、アルゴリズムの複雑さは です(ただし、複数のパスを許可することで結果を改善できます)。
- COBWEB : [6] [7]は、階層型クラスタリングモデルを分類ツリーの形で保持する増分クラスタリング手法です。新しいポイントごとに、COBWEBはツリーを下り、途中でノードを更新し、ポイントを配置するのに最適なノードを探します(カテゴリユーティリティ関数を使用)。
- C2ICM: [8] は、いくつかのオブジェクトをクラスターシード/イニシエーターとして選択することでフラットパーティショニングクラスタリング構造を構築し、最高のカバレッジを提供するシードに非シードが割り当てられ、新しいオブジェクトが追加されると新しいシードが導入され、既存の古いシードの一部が偽造される可能性があります。増分クラスタリング中に、新しいオブジェクトと偽造されたクラスターのメンバーが既存の新しい/古いシードの1つに割り当てられます。
- CluStream: [9]は、 BIRCH [5]のクラスター特徴ベクトルの時間的拡張であるマイクロクラスターを使用して、現在のマイクロクラスターのデータポイントとタイムスタンプの二乗和と線形和の分析に基づいて、マイクロクラスターを新しく作成するか、マージするか、忘れるかを決定し、その後、任意の時点で、K-Meansなどのオフラインクラスタリングアルゴリズムを使用してこれらのマイクロクラスタリングをクラスタリングすることにより、マクロクラスターを生成し、最終的なクラスタリング結果を生成できます。
参考文献
- ^ Munro, J.; Paterson, M. (1980). 「限られた記憶域での選択とソート」理論計算機科学. 12 (3): 315–323. doi : 10.1016/0304-3975(80)90061-4 .
- ^ Henzinger, M.; Raghavan, P.; Rajagopalan, S. (1998 年 8 月). 「データ ストリームでのコンピューティング」. Digital Equipment Corporation . TR-1998-011. CiteSeerX 10.1.1.19.9554 .
- ^ abc Guha, S.; Mishra, N.; Motwani, R.; O'Callaghan, L. (2000). 「データストリームのクラスタリング」。Proceedings 41st Annual Symposium on Foundations of Computer Science . pp. 359–366. CiteSeerX 10.1.1.32.1927 . doi :10.1109/SFCS.2000.892124. ISBN 0-7695-0850-2. S2CID 2767180。
- ^ Jain, K.; Vazirani, V. (1999). メトリック施設配置およびk-メディアン問題のためのプライマル-デュアル近似アルゴリズム。Focs '99。pp. 2– 。ISBN 9780769504094。
{{cite book}}:|journal=無視されました (ヘルプ) - ^ ab Zhang, T.; Ramakrishnan, R.; Linvy, M. (1996). 「BIRCH: 大規模データベース向けの効率的なデータクラスタリング手法」ACM SIGMOD Record . 25 (2): 103–114. doi : 10.1145/235968.233324 .
- ^ Fisher, DH (1987). 「増分概念クラスタリングによる知識獲得」.機械学習. 2 (2): 139–172. doi : 10.1023/A:1022852608280 .
- ^ Fisher, DH (1996). 「階層的クラスタリングの反復 最適化と簡素化」. Journal of AI Research . 4. arXiv : cs/9604103 . Bibcode :1996cs......4103F. CiteSeerX 10.1.1.6.9914 .
- ^ Can, F. (1993). 「動的情報処理のための増分クラスタリング」ACM Transactions on Information Systems . 11 (2): 143–164. doi : 10.1145/130226.134466 . S2CID 1691726.
- ^ Aggarwal, Charu C.; Yu, Philip S.; Han, Jiawei; Wang, Jianyong (2003). 「進化するデータ ストリームをクラスタリングするためのフレームワーク」(PDF)。2003 VLDB カンファレンスの議事録: 81–92。doi :10.1016/B978-012722442-8/ 50016-1。ISBN 9780127224428. S2CID 2354576。
