連続特徴の離散化

統計学と機械学習において、離散化とは、連続属性、特徴、または変数を離散化された、または名目上の属性/特徴/変数/間隔に変換または分割するプロセスを指します。これは、確率質量関数 (正式には密度推定)を作成するときに役立ちます。これは一般に離散化の形式であり、ヒストグラムを作成する場合のようなビニングの形式でもあります。連続データを離散化するときは常に、ある程度の離散化エラーが常に存在します。目標は、手元のモデリング目的で無視できるレベルまでその量を減らすことです。

通常、データはK個の等しい長さ/幅（等間隔）または全データのK%（等頻度）のパーティションに分割されます。 ^[1]

連続データを離散化するメカニズムとしては、相互情報量を用いて最適なビンを再帰的に定義するFayyad & IraniのMDL法^[2]、CAIM、CACC、Amevaなどがある^[3]。

多くの機械学習アルゴリズムは、連続属性を離散化することでより良いモデルを生成することが知られています。^[4]

ソフトウェア

これは、MDL アルゴリズムを実装するソフトウェアの一部です。

^ Clarke, EJ; Barton, BA (2000). 「ベイジアン信念ネットワークにおける連続変数のエントロピーと MDL 離散化」(PDF) . International Journal of Intelligent Systems . 15 : 61–92. doi :10.1002/(SICI)1098-111X(200001)15:1<61::AID-INT4>3.0.CO;2-O . 2008-07-10に取得。
^ Fayyad, Usama M.; Irani, Keki B. (1993) 「分類学習のための連続値属性のマルチ区間離散化」(PDF)。2023年7月29日。HDL : 2014/35171。、第13回人工知能国際合同会議論文集（Q334.I571 1993）、pp.1022-1027
^ Dougherty, J.; Kohavi, R.; Sahami, M. (1995). 「連続特徴の教師ありおよび教師なし離散化」 A. Prieditis および SJ Russell 編著作品. Morgan Kaufmann、pp. 194-202
^ Kotsiantis, S.; Kanellopoulos, D (2006). 「離散化技術: 最近の調査」. GESTS International Transactions on Computer Science and Engineering . 32 (1): 47–58. CiteSeerX 10.1.1.109.3084 .