Loading article…
言語学において、ヒープの法則（ヘルダンの法則とも呼ばれる）は、文書（または文書セット）内の異なる単語の数を文書の長さの関数として記述する経験法則である（いわゆるタイプトークン関係）。次のように定式化できる。
ここで、V R はサイズnのインスタンス テキスト内の異なる単語の数です。Kと β は経験的に決定される自由パラメーターです。英語のテキスト コーパスの場合、通常、Kは10から 100 の間、β は 0.4 から 0.6 の間です。
この法則はハロルド・スタンレー・ヒープスの法則とされることが多いが、もともとはグスタフ・ヘルダン（1960年）によって発見された。[1]軽度の仮定の下では、ヘルダン・ヒープスの法則は、テキスト内の個々の単語の出現頻度に関するジップの法則と漸近的に等価である。 [2]これは、均質なテキストのタイプとトークンの関係（一般に）は、そのタイプの分布から導き出せるという事実の結果である。[3]
経験的に、ヒープの法則は文書がランダムにシャッフルされた場合でも維持されます。[4]つまり、ヒープの法則は単語の順序には依存せず、単語の頻度のみに依存します。[5]これは、ジップの法則からヒープの法則を導き出す証拠として使用されます。[4]
ヒープの法則とは、インスタンステキストが収集されるほど、個別の用語が抽出される完全な語彙の発見という点では収穫逓減が起こることを意味します。
英語のテキストコーパスで典型的に観察されるヒープの法則からの逸脱は、大規模言語モデルで生成されたコーパスでも確認されている。[6]
ヒープの法則は、「語彙」がオブジェクトの集合の属性である一連の異なるタイプにすぎない状況にも適用されます。たとえば、オブジェクトは人であり、タイプはその人の出身国である可能性があります。人がランダムに選択される場合 (つまり、出身国に基づいて選択しない場合)、ヒープの法則によれば、ほとんどの国の代表がすぐに (人口に比例して) 得られますが、このサンプリング方法を続けると、国全体を網羅することがますます困難になります。ヒープの法則は、遺伝子を「語彙」内の異なるオブジェクトと見なす単一細胞トランスクリプトーム[7]でも観察されています。
参照
- ジップの法則 – 確率分布
- 簡潔性の法則 – 言語学の法則
- メンツェラートの法則 – 言語法則
- ブラッドフォードの法則 – 科学雑誌における引用のパターン
- ベンフォードの法則 – 多くの現実のデータセットでは、先頭の数字が小さくなる傾向があるという観察
- パレート分布 – 確率分布
- 最小努力の原則 - エージェントは最も簡単なことを好むという考え
- ランク別サイズ分布 – ランク別のサイズ分布
参考文献
引用
- ^ Egghe (2007):「言語学におけるヘルダンの法則と情報検索におけるヒープの法則は、同じ現象の異なる表現である」。
- ^ コルナイ (1999);バエザ・イェーツ & ナバロ (2000);ファン・ライエンホルストとファン・デル・ヴァイデ (2005)。
- ^ ミリチカ（2009）
- ^ ab 佐野 幸恵; 高安 秀樹; 高安 美佐子 (2012). 「ジップの法則とヒープの法則は潜在的な単語のサイズを予測できる」.理論物理学の進歩補足. 194 : 202–209. Bibcode :2012PThPS.194..202S. doi : 10.1143/PTPS.194.202 . ISSN 0375-9687.
- ^ Najafi, Elham; Darooneh, Amir H. (2015-06-19). Esteban, Francisco J. (ed.). 「テキスト内の単語のフラクタルパターン: 自動キーワード抽出法」. PLOS ONE . 10 (6): e0130617. Bibcode :2015PLoSO..1030617N. doi : 10.1371/journal.pone.0130617 . ISSN 1932-6203. PMC 4474631 . PMID 26091207.
- ^ Lai, Uyen; Randhawa, Gurjit; Sheridan, Paul (2023-12-12). 「GPT-Neo 大規模言語モデルエミュレートコーパスにおけるヒープの法則」。NTCIR -17 カンファレンスのサテライトワークショップである第 10 回情報アクセス評価国際ワークショップ (EVIA 2023) の議事録。東京、日本。pp. 20–23。doi : 10.20736/0002001352。
- ^ ラザーディ、シルビア;ヴァッレ、フィリッポ。マッツォリーニ、アンドレア。スカルドーネ、アントニオ。カゼル、ミケーレ。オゼッラ、マッテオ（2021-06-17）。 「単細胞トランスクリプトームデータにおける緊急統計法則」。bioRxiv : 2021–06.16.448706。土井：10.1101/2021.06.16.448706。S2CID 235482777 。2021年6月18日閲覧。
出典
- Baeza-Yates, Ricardo; Navarro, Gonzalo (2000)、「近似テキスト検索のためのブロック アドレス指定インデックス」、Journal of the American Society for Information Science、51 (1): 69–82、CiteSeerX 10.1.1.31.4832、doi :10.1002/(sici)1097-4571(2000)51:1<69::aid-asi10>3.0.co;2-c。
- Egghe, L. (2007)、「ヘルダンの法則とヒープの法則の解明：数学的および情報計測的議論」、アメリカ情報科学技術学会誌、58 (5): 702–709、doi :10.1002/asi.20524。
- ヒープス、ハロルド・スタンレー（1978）、情報検索：計算と理論の側面、アカデミック・プレスヒープの法則は第7.5節（206～208ページ）で提案されています。
- ヘルダン、グスタフ（1960）、タイプトークン数学、ハーグ：ムートン。
- Kornai, Andras (1999)、「中間範囲外の Zipf の法則」、Rogers, James (編)、第 6 回言語数学会議議事録、セントラルフロリダ大学、pp. 347–356。
- Milička, Jiří (2009)、「タイプ-トークンとハパックス-トークンの関係: 組み合わせモデル」、Glottotheory。国際理論言語学ジャーナル、1 (2): 99–110、doi :10.1515/glot-2009-0009、S2CID 124490442。
- ファン・ライエンホルスト、D.C.ファン・デル・ヴァイデ、Th. P. (2005)、「ヒープの法則の正式な導出」、情報科学、170 (2–4): 263–272、doi :10.1016/j.ins.2004.03.006。
- この記事には、Creative Commons Attribution-Share-Alike Licenseに基づいてライセンスされているPlanetMathの Heaps の法則の資料が組み込まれています。
外部リンク
ウィキメディア・コモンズにおけるヒープの法則に関連するメディア