Loading article…
決定木は、1レベルの決定木で構成される機械学習モデルです。[1]つまり、1つの内部ノード（ルート）が直接終端ノード（その葉）に接続された決定木です。決定木は、単一の入力特徴の値に基づいて予測を行います。1ルールと呼ばれることもあります。[2]
入力特徴の種類に応じて、いくつかのバリエーションが可能である。名目特徴の場合、各特徴値に対応する葉を含む切り株を構築するか[3] [4]、2つの葉を持つ切り株を構築し、そのうちの1つは選択されたカテゴリに対応し、もう1つの葉は他のすべてのカテゴリに対応する。[5] バイナリ特徴の場合、これら2つのスキームは同一である。欠損値は、さらに別のカテゴリとして扱われる可能性がある。[5]
連続的な特徴の場合、通常は何らかのしきい値特徴値が選択され、切り株にはしきい値以下の値としきい値を超える値の 2 つの葉が含まれます。ただし、まれに複数のしきい値が選択され、切り株に 3 つ以上の葉が含まれる場合があります。
決定木は、バギングやブースティングなどの機械学習アンサンブル技術のコンポーネント（「弱学習器」または「基本学習器」と呼ばれる）としてよく使用されます[6]。たとえば、Viola-Jones顔検出アルゴリズムでは、決定木を弱学習器としてAdaBoostを採用しています[7] 。
「意思決定の切り株」という用語は、1992年にウェイン・アイバとパット・ラングレーがICMLの論文で作った造語である。[1] [8]
参照
参考文献
- ^ ab Iba, Wayne; Langley, Pat (1992). 「1 レベル決定木の誘導」(PDF) . ML92: 第 9 回国際機械学習会議議事録、スコットランド、アバディーン、1992 年 7 月 1 ～ 3 日. Morgan Kaufmann. pp. 233 ～ 240. doi :10.1016/B978-1-55860-247-2.50035-8. ISBN 978-1-55860-247-2。
- ^ Holte, Robert C. ( 1993). 「非常に単純な分類ルールは、最も一般的に使用されるデータセットで優れたパフォーマンスを発揮します」(PDF)。機械学習。11 (1): 63–90。doi : 10.1023 /A:1022631118932。S2CID 6596 。
- ^ Loper, Edward L.; Bird, Steven; Klein, Ewan (2009). Python による自然言語処理。セバストポル、カリフォルニア州: O'Reilly。ISBN 978-0-596-51649-9. 2010年6月18日時点のオリジナルよりアーカイブ。2010年6月10日閲覧。
- ^ この分類器は、Weka
OneRでは(「1 ルール」の略) という名前で実装されています。 - ^ abこれは Wekaの分類器に実装されているものです。
DecisionStump - ^ Reyzin, Lev; Schapire, Robert E. (2006). 「マージンを高めると分類器の複雑さも高まる」(PDF) . ICML′06: 機械学習に関する第 23 回国際会議の議事録. pp. 753–760. doi :10.1145/1143844.1143939. ISBN 978-1-59593-383-6. S2CID 2483269。
- ^ Viola, Paul; Jones, Michael J. (2004). 「堅牢なリアルタイム顔検出」(PDF) . International Journal of Computer Vision . 57 (2): 137–154. doi :10.1023/B:VISI.0000013087.49260.fb. S2CID 2796017.
- ^ Oliver, Jonathan J.; Hand, David (1994). 「Averaging Over Decision Stumps」。機械学習: ECML-94、ヨーロッパ機械学習会議、イタリア、カターニア、1994 年 4 月 6 ～ 8 日、議事録。コンピュータ サイエンスの講義ノート。第 784 巻。Springer。pp. 231 ～ 241。doi : 10.1007 /3-540-57868-4_61。ISBN 3-540-57868-4
これらの単純なルールは、実質的に厳しく剪定された決定木であり、決定スタンプ
と呼ばれています。Iba
＆Langley 1992