確率的分類

機械学習において、確率的分類器とは、入力の観測値に基づいて、その観測値が属する最も可能性の高いクラスを出力するだけでなく、クラスの集合にわたる確率分布を予測できる分類器のことである。確率的分類器は、それ自体で有用な分類器を提供する^{[1]か、分類器を}アンサンブルに組み合わせるときに有用な分類器を提供する。

正式には、「通常の」分類器は、サンプルxにクラスラベルŷを割り当てる何らかの規則または関数です。

${\displaystyle {\hat {y}}=f(x)}$

サンプルは何らかのセットX (たとえば、すべてのドキュメントのセット、またはすべての画像のセット) から取得されますが、クラス ラベルはトレーニング前に定義された 有限セットYを形成します。

確率的分類器は、この分類器の概念を一般化したものです。関数の代わりに、条件付き分布であり、与えられた に対して、すべてに確率を割り当てます（そして、これらの確率の合計は1になります）。「ハード」分類は、最適な決定ルール^[2]を使用して実行できます^。39–40${\displaystyle \Pr(Y\vert X)}$${\displaystyle x\in X}$${\displaystyle y\in Y}$

${\displaystyle {\hat {y}}=\operatorname {\arg \max } _{y}\Pr(Y=y\vert X)}$

または、英語では、予測クラスは最も高い確率を持つクラスです。

バイナリ確率分類器は、統計学ではバイナリ回帰モデルとも呼ばれます。計量経済学では、確率分類は一般に離散選択と呼ばれます。

ナイーブベイズ、ロジスティック回帰、多層パーセプトロン（適切な損失関数でトレーニングした場合）などの一部の分類モデルは、本来確率的です。サポートベクターマシンなどの他のモデルはそうではありませんが、それらを確率的分類器に変換する方法が存在します。

ロジスティック回帰などの一部のモデルは条件付きで訓練されます。つまり、訓練セット上で直接条件付き確率を最適化します（経験的リスク最小化を参照）。ナイーブベイズなどの他の分類器は生成的に訓練されます。訓練時にクラス条件付き分布とクラス事前分布が見つかり、ベイズの規則を使用して条件付き分布が導出されます。^{[2] : 43}${\displaystyle \Pr(Y\vert X)}$${\displaystyle \Pr(X\vert Y)}$ ${\displaystyle \Pr(Y)}$${\displaystyle \Pr(Y\vert X)}$

すべての分類モデルが本来確率的であるとは限らず、ナイーブベイズ分類器、決定木、ブースティング法など一部のモデルは歪んだクラス確率分布を生成します。^[3] 決定木の場合、Pr( y | x )はラベルyを持つトレーニングサンプルのうちxが最終的に到達する葉の割合ですが、これらの歪みはC4.5やCARTなどの学習アルゴリズムが明示的に均質な葉（確率が0または1に近く、したがってバイアスが高い）を生成することを目指している一方で、関連する割合（分散が高い）を推定するために少数のサンプルを使用するために発生します。^[4]

較正は、較正プロット（信頼性図とも呼ばれる）を使用して評価できます。^{[3] [5]} 較正プロットは、予測される確率またはスコアのバンド（歪んだ確率分布やサポートベクターマシンの「超平面への符号付き距離」など）の各クラスの項目の割合を示します。恒等関数からの偏差は、予測される確率またはスコアを確率として使用できない、較正が不十分な分類器を示しています。この場合、これらのスコアを適切に較正されたクラスメンバーシップ確率に変換する方法を使用できます。

バイナリの場合、一般的なアプローチは、スコアのロジスティック回帰モデルを学習するプラットスケーリングを適用することです。 ^{[6]十分なトレーニングデータが利用できる場合、}等位回帰^[7] を使用する代替方法は、通常、プラットの方法よりも優れています。^[3]

多クラスの場合、バイナリタスクへの削減を使用し、続いて上記のようなアルゴリズムで単変量キャリブレーションを行い、さらにHastieとTibshiraniによるペアワイズカップリングアルゴリズムを適用することができる。^[8]

予測確率と観測結果を比較する一般的な評価指標には、対数損失、ブライアースコア、さまざまな較正誤差などがあります。前者は、ロジスティックモデルのトレーニングにおける損失関数としても使用されます。

較正誤差の測定基準は、確率分類器の出力がどの程度適切に較正されているかを定量化することを目的としています。フィリップ・ダウィッドは、「例えば、確率を 30 パーセントと割り当てたイベントのうち、実際に発生する長期的な割合が 30 パーセントであることが判明した場合、予測器は適切に較正されている」と述べています。^[9]較正誤差の測定分野における基礎研究は、期待較正誤差 (ECE) 測定基準です。^[10]最近の研究では、分類器のスコアが [0,1] の狭いサブセットに集中した場合に生じる可能性のある ECE 測定基準の限界に対処する ECE の変種が提案されており、適応較正誤差 (ACE) ^[11]やテストベースの較正誤差 (TCE) などがあります。^[12]

異なる予測方法を比較できるように、予測される確率と実際の個別の結果のペアにスコアを割り当てるために使用される方法は、スコアリングルールと呼ばれます。

• MoRPE ^[13]は、確率較正に等方回帰を使用する訓練可能な確率分類器である。これは、バイナリタスクへの還元によってマルチクラスのケースを解決します。これは、不均質多項式カーネルを使用するカーネルマシンの一種です。