確率的ブロックモデルは、ランダムグラフの生成モデルです。このモデルは、特定のエッジ密度で互いに接続されることを特徴とするノードのサブセットであるコミュニティを含むグラフを生成する傾向があります。たとえば、エッジはコミュニティ間よりもコミュニティ内でより一般的である可能性があります。その数学的定式化は、1983 年にPaul W. Hollandらによってソーシャルネットワーク分析の分野で初めて導入されました。[1]確率的ブロックモデルは、統計、機械学習、ネットワーク科学において重要であり、グラフデータ内のコミュニティ構造を復元するタスクの有用なベンチマークとして機能します。
意味
確率的ブロック モデルは次のパラメータを取ります。
- 頂点の数。
- 頂点集合をコミュニティと呼ばれる互いに素な部分集合に分割すること。
- エッジ確率の対称行列。
次に、エッジ セットが次のようにランダムにサンプリングされます。任意の 2 つの頂点とが、確率 でエッジによって接続されます。問題の例: 頂点を持つグラフがあり 、エッジが説明どおりにサンプリングされている場合、グループ を復元します 。
特別なケース

確率行列が定数である場合、つまりすべての に対してである場合、結果はエルデシュ・レーニモデルになります。このケースは退化しており、コミュニティへの分割は無関係になりますが、エルデシュ・レーニモデルとの密接な関係を示しています。
植え付けられた分割モデルは、確率行列の値が対角線上で定数であり、対角線外でも別の定数である特殊なケースです。したがって、同じコミュニティ内の 2 つの頂点は確率 でエッジを共有し、異なるコミュニティ内の 2 つの頂点は確率 でエッジを共有します。この制限されたモデルは、確率ブロック モデルと呼ばれることがあります。 の場合は同類モデルと呼ばれ、 の場合は非同類モデルと呼ばれます。
一般確率ブロックモデルに戻ると、すべての対角エントリがすべての非対角エントリを支配する場合、モデルは強く同類であると呼ばれます。各対角エントリが自身の行と列の残りを支配するだけでよい場合、モデルは弱く同類であると呼ばれます。 [2]この用語の不等式をすべて逆にすると、非同類形式になります。一部のアルゴリズムでは、この形式の同類条件または非同類条件を持つブロックモデルの方が回復が容易になる場合があります。[2]
典型的な統計タスク
アルゴリズムによるコミュニティ検出に関する文献の多くは、検出、部分的な回復、正確な回復という 3 つの統計タスクを扱っています。
検出
検出アルゴリズムの目的は、サンプルされたグラフが与えられた場合に、そのグラフに潜在的なコミュニティ構造があるかどうかを判断することです。より正確には、グラフは、既知の事前確率で、既知の確率的ブロックモデルから生成される場合もあれば、類似のエルデシュ・レニモデルから生成される場合もあります。アルゴリズムのタスクは、グラフを生成したこれら2つの基礎モデルのどちらが正しく識別されるかです。[3]
部分的な回復
部分回復では、ランダムな推測よりも有意に真のパーティションと相関するパーティションを見つけるという意味で、コミュニティへの潜在的なパーティションを近似的に決定することが目標です。[4]
正確な回復
正確な回復では、潜在的なコミュニティへの分割を正確に回復することが目標です。コミュニティのサイズと確率行列は既知である場合も未知である場合もあります[5 ] 。[6]
統計的下限値と閾値動作
確率的ブロックモデルは、パーコレーション閾値を彷彿とさせる鋭い閾値効果を示します。[7] [3] [8]コミュニティのサイズを固定比率に保ちながら、グラフのサイズを大きくするとします。確率行列が固定されている場合、部分的回復や完全回復などのタスクは、すべての非退化パラメータ設定で実行可能になります。ただし、が増加するにつれて適切な速度で確率行列を縮小すると、鋭い位相遷移が観察されます。つまり、パラメータの特定の設定では、確率が 1 に近づくにつれて回復を達成できるようになりますが、パラメータ閾値の反対側では、どのアルゴリズムを使用しても回復の確率は 0 に近づきます。
部分回復の場合、適切なスケーリングは を固定して をとることであり、その結果、平均次数が一定のグラフになります。 2 つの等しいサイズのコミュニティの場合、確率行列を持つ同類植栽分割モデルでは、 の場合は確率で部分回復 が実行可能です[4] 。一方、の場合は確率で部分回復が失敗します[3]。
正確な回復のためには、適切なスケーリングは を取ることであり、その結果、対数平均次数のグラフが得られる。ここでも同様の閾値が存在する。等しいサイズのコミュニティを持つアソートメント・プラント・パーティション・モデルの場合、閾値は である。実際、正確な回復閾値は、完全に一般的な確率的ブロック・モデルで知られている。[5]
アルゴリズム
原理的には、最大尤度法を使用して、その実行可能な範囲で正確な回復を解くことができますが、これは、典型的にはNP 完全である最小二分法などの制約付きまたは正規化されたカット問題を解くことに相当します。したがって、最悪の場合の最大尤度推定値を正しく計算する効率的なアルゴリズムは知られていません。
しかし、平均的なケースではさまざまなアルゴリズムが良好なパフォーマンスを示し、部分回復と完全回復の両方の設定において、多くの高確率パフォーマンス保証がアルゴリズムに対して実証されています。成功したアルゴリズムには、頂点のスペクトルクラスタリング、 [9] [4] [5] [10] 半正定値計画法、[2] [8]信念伝播の形式、[7] [11]コミュニティ検出[12]などがあります。
バリエーション
このモデルにはいくつかのバリエーションが存在する。1つの小さな変更点は、固定されたパーティションではなく、カテゴリ分布に従って、頂点をランダムにコミュニティに割り当てることである。 [5]より重要なバリエーションには、次数補正確率ブロックモデル、[13]階層的確率ブロックモデル、[14]幾何ブロックモデル、[15]検閲ブロックモデル、混合メンバーシップブロックモデルなどがある。[16]
トピックモデル
確率的ブロックモデルは、二部ネットワーク上のトピックモデルとして認識されています。[17]文書と単語のネットワークでは、確率的ブロックモデルはトピック(同様の意味を持つ単語のグループ)を識別できます。
符号付きグラフの拡張
符号付きグラフは、好ましい関係と悪い関係の両方を許容し、相関クラスタリングなどのさまざまなデータ分析アプリケーションで一般的なモデルの選択肢として機能します。確率ブロックモデルは、正と負の両方のエッジ重みを割り当てるか、または同等に2つの確率ブロックモデルの隣接行列の差を使用することで、符号付きグラフに簡単に拡張できます。 [18]
DARPA/MIT/AWS グラフチャレンジ: ストリーミング確率的ブロック分割
GraphChallenge [19]は、ソーシャルメディア、センサーフィード、科学データから得られたグラフやスパースデータを分析するための新しいソリューションを開発するコミュニティアプローチを奨励し、現場で展開されるイベント間の関係を発見できるようにします。ストリーミング確率ブロック分割は、2017年からの課題の1つです。 [20] スペクトルクラスタリングは、元のベースアルゴリズムやさらに改良された[21]ベースアルゴリズムと比較して優れたパフォーマンスを示し 、クラスターの品質に匹敵しながら、数桁高速化しています。[22] [23]
参照
- ブロックモデリング
- ガーバン・ニューマンアルゴリズム – コミュニティ検出アルゴリズム
- Lancichinetti–Fortunato–Radicchi ベンチマーク –コミュニティを持つベンチマーク ネットワークを生成するアルゴリズム
参考文献
- ^ Holland, Paul W; Laskey, Kathryn Blackmond; Leinhardt, Samuel (1983). 「確率的ブロックモデル:第一歩」.ソーシャルネットワーク. 5 (2): 109–137. doi :10.1016/0378-8733(83)90021-7. ISSN 0378-8733. S2CID 34098453. 2023-02-04にオリジナルからアーカイブ。2021-06-16に取得。
- ^ abc Amini, Arash A.; Levina, Elizaveta (2014年6月). 「ブロックモデルの半定値緩和について」. arXiv : 1406.5647 [cs.LG].
- ^ abc Mossel, Elchanan; Neeman, Joe; Sly, Allan (2012年2月). 「確率的ブロックモデルと再構築」. arXiv : 1202.1499 [math.PR].
- ^ abc Massoulie, Laurent (2013年11月). 「コミュニティ検出閾値と弱いラマヌジャン特性」. arXiv : 1311.3085 [cs.SI].
- ^ abcd Abbe, Emmanuel; Sandon, Colin (2015年3月). 「一般確率ブロックモデルにおけるコミュニティ検出:基本的限界と効率的な回復アルゴリズム」. arXiv : 1503.00609 [math.PR].
- ^ Abbe, Emmanuel; Sandon, Colin (2015年6月). 「パラメータを知らなくても一般確率ブロックモデルでコミュニティを回復する」. arXiv : 1506.03729 [math.PR].
- ^ ab Decelle, Aurelien; Krzakala, Florent; Moore, Cristopher; Zdeborová, Lenka (2011 年 9 月). 「モジュラー ネットワークの確率的ブロック モデルの漸近解析とそのアルゴリズムへの応用」. Physical Review E. 84 ( 6): 066106. arXiv : 1109.3041 . Bibcode :2011PhRvE..84f6106D. doi :10.1103/PhysRevE.84.066106. PMID 22304154. S2CID 15788070.
- ^ ab Abbe, Emmanuel; Bandeira, Afonso S.; Hall, Georgina (2014年5月). 「確率ブロックモデルにおける正確な回復」. arXiv : 1405.3267 [cs.SI].
- ^ Krzakala, Florent; Moore, Cristopher; Mossel, Elchanan; Neeman, Joe; Sly, Allan; Lenka, Lenka; Zhang, Pan (2013 年 10 月). 「スパースネットワークのクラスタリングにおけるスペクトルの償還」. Proceedings of the National Academy of Sciences . 110 (52): 20935–20940. arXiv : 1306.5550 . Bibcode :2013PNAS..11020935K. doi : 10.1073/pnas.1312486110 . PMC 3876200. PMID 24277835 .
- ^ Lei, Jing; Rinaldo, Alessandro (2015年2月). 「確率的ブロックモデルにおけるスペクトルクラスタリングの一貫性」. The Annals of Statistics . 43 (1): 215–237. arXiv : 1312.2050 . doi :10.1214/14-AOS1274. ISSN 0090-5364. S2CID 88519551.
- ^ Mossel, Elchanan; Neeman, Joe; Sly, Allan (2013 年 9 月). 「Belief Propagation, Robust Reconstruction, and Optimal Recovery of Block Models」. The Annals of Applied Probability . 26 (4): 2211–2256. arXiv : 1309.1380 . Bibcode :2013arXiv1309.1380M. doi :10.1214/15-AAP1145. S2CID 184446.
- ^ Fathi, Reza (2019年4月). 「確率的ブロックモデルにおける効率的な分散コミュニティ検出」. arXiv : 1904.07494 [cs.DC].
- ^ Karrer, Brian; Newman, Mark EJ (2011). 「ネットワークにおける確率的ブロックモデルとコミュニティ構造」. Physical Review E . 83 (1): 016107. arXiv : 1008.3926 . Bibcode :2011PhRvE..83a6107K. doi :10.1103/PhysRevE.83.016107. PMID 21405744. S2CID 9068097. 2023-02-04にオリジナルからアーカイブ。2021-06-16に取得。
- ^ Peixoto, Tiago (2014). 「大規模ネットワークにおける階層的ブロック構造と高解像度モデル選択」. Physical Review X . 4 (1): 011047. arXiv : 1310.4377 . Bibcode :2014PhRvX...4a1047P. doi :10.1103/PhysRevX.4.011047. S2CID 5841379. 2021-06-24にオリジナルからアーカイブ。2021-06-16に取得。
- ^ ガルホトラ、サイニャム;アリア、マズムダル。パル、ソウミャブラタ。サハ、バーナ(2018年2月)。 「幾何学ブロックモデル」。ああああ。32.arXiv : 1709.05510。土井:10.1609/aaai.v32i1.11905。S2CID 19152144。
- ^ Airoldi, Edoardo ; Blei, David; Feinberg, Stephen; Xing, Eric (2007 年 5 月). 「Mixed Membership stochastic blockmodels」. Journal of Machine Learning Research . 9 : 1981–2014. arXiv : 0705.4485 . Bibcode :2007arXiv0705.4485A. PMC 3119541. PMID 21701698 .
- ^ Martin Gerlach、Tiago Peixoto、Eduardo Altmann (2018)。「トピックモデルへのネットワークアプローチ」。Science Advances。4 ( 7): eaaq1360。arXiv : 1708.01677。Bibcode : 2018SciA .... 4.1360G。doi : 10.1126 / sciadv.aaq1360。PMC 6051742。PMID 30035215。
- ^ Alyson Fox、Geoffrey Sanders、Andrew Knyazev (2018)。「符号付きグラフ行列表現のスペクトルクラスタリングに関する調査」。2018 IEEE ハイパフォーマンスエクストリームコンピューティングカンファレンス (HPEC)。pp. 1–7。doi : 10.1109 / HPEC.2018.8547575。ISBN 978-1-5386-5989-2。OSTI 1476177。S2CID 54443034 。
- ^ [1] 2023年2月4日にWayback MachineにアーカイブされたDARPA/MIT/AWSグラフチャレンジ
- ^ [2] 2023-02-04にWayback MachineにアーカイブDARPA/MIT/AWS Graph Challenge Champions
- ^ AJ Uppal; J. Choi; TB Rolinger; H. Howie Huang (2021). 「積極的な初期マージ、圧縮表現、並列処理制御を使用した高速確率ブロック分割」2021 IEEE ハイパフォーマンスエクストリームコンピューティングカンファレンス (HPEC)。pp. 1–7。doi : 10.1109/HPEC49654.2021.9622836。ISBN 978-1-6654-2369-4.S2CID 244780210 。
- ^ David Zhuzhunashvili、Andrew Knyazev (2017)。「確率的ブロックパーティションストリーミンググラフチャレンジのための事前調整スペクトルクラスタリング(arXivでの予備バージョン)」。2017 IEEEハイパフォーマンスエクストリームコンピューティングカンファレンス(HPEC)。pp . 1–6。arXiv :1708.07481。doi:10.1109/ HPEC.2017.8091045。ISBN 978-1-5386-3472-1. S2CID 19781504。
- ^ Lisa Durbeck、Peter Athanas (2020)。「増分ストリーミンググラフパーティショニング」。2020 IEEE ハイパフォーマンスエクストリームコンピューティングカンファレンス (HPEC)。pp. 1–8。doi : 10.1109 / HPEC43674.2020.9286181。ISBN 978-1-7281-9219-2. S2CID 229376193。
