P 4メトリック [1] [2] (FSまたは対称F [3]とも呼ばれる)は、バイナリ分類器のパフォーマンス評価を可能にします。これは、精度、再現率、特異度、NPV(陰性予測値)から計算されます。P 4は、 F 1メトリックと同様に設計されていますが、 F 1に対する批判に対処しています。P 4 は、F 1 の拡張として認識される可能性があります。
他の既知のメトリックと同様に、P 4 はTP (真陽性)、TN (真陰性)、FP (偽陽性)、FN (偽陰性)の関数です。
正当化
P 4の重要な概念は、次の 4 つの重要な条件付き確率を活用することです。
- - 分類器の結果が陽性の場合、サンプルが陽性である確率。
- - サンプルが陽性の場合、分類器の結果が陽性になる確率。
- - サンプルが陰性の場合、分類器の結果が陰性になる確率。
- - 分類器の結果が陰性であった場合、サンプルが陰性である確率。
このメトリックの背後にある主な前提は、適切に設計されたバイナリ分類器は、上記のすべての確率が 1 に近い結果を出すはずであるということです。P 4は、すべての確率が 1 に等しくなるように設計されています。これらの確率のいずれかがゼロになると、P 4 もゼロになります。
意味
P 4は、4 つの主要な条件付き確率の 調和平均として定義されます。
TP、TN、FP、FN に関しては、次のように計算できます。
バイナリ分類器の性能評価
バイナリ分類器のパフォーマンスを評価することは、多分野にわたる概念です。医療検査、精神医学検査の評価から、さまざまな分野の機械学習分類器まで多岐にわたります。したがって、使用されている多くのメトリックは、複数の名前で存在しています。それらのいくつかは、独立して定義されています。
- ^ データ内の実際の陽性症例数
- ^ 状態または特性の存在を正しく示す検査結果
- ^ タイプIIエラー: 特定の条件または属性が欠如していると誤って示すテスト結果
- ^ データ内の実際の陰性症例数
- ^ 症状や特徴が存在しないことを正しく示す検査結果
- ^ タイプIエラー: 特定の条件または属性が存在すると誤って示すテスト結果
Pの特性4メトリック
- 対称性 - F 1メトリックとは対照的に、P 4 は対称的です。つまり、データセットのラベル付けが変更されても値は変化せず、正の値は負の値に、負の値は正の値に名前が付けられます。
- 範囲:
- これを達成するには、主要な 4 つの条件付き確率がすべて 1 に近づく必要があります。
- 重要な 4 つの条件付き確率のうち1 つが 0 に近ければ十分です。
他の指標との比較例
選択したメトリックの依存関係テーブル (「true」は依存、「false」は依存しないことを意味します):
特定の確率に依存しないメトリックは、確率が 0 に近づくと誤って表現される傾向があります。
例1: 希少疾患検出検査
ある種の希少疾患の検出を目的とした医療検査を考えてみましょう。人口は 100,000 人で、感染者は人口の 0.05% です。検査の成績: 陽性者の 95% が正しく分類され ( TPR =0.95)、陰性者の 95% が正しく分類されます ( TNR =0.95)。このような場合、人口の不均衡が大きいため、検査精度(0.95)が高いにもかかわらず、陽性と分類された個人が実際に陽性である確率は非常に低くなります。
そして、この低い確率がいくつかの指標にどのように反映されているかを見ることができます。
- (情報量/ユーデン指数)
- (顕著性)
例 2: 画像認識 - 猫と犬
ニューラル ネットワーク ベースの画像分類器をトレーニングしています。犬を含む画像 (ラベル 0) と猫を含む画像 (ラベル 1) の 2 種類の画像のみを検討しています。したがって、目標は猫と犬を区別することです。分類器は猫 (「陽性」サンプル) を優先して予測します。猫の 99.99% が正しく分類され、犬は 1% のみが正しく分類されます。画像データセットは 100000 枚の画像で構成され、そのうち 90% は猫の写真、10% は犬の写真です。このような状況では、犬を含む写真が正しく分類される確率はかなり低くなります。
すべての指標がこの低い確率に気づいているわけではありません。
- (情報量/ユーデン指数)
- (顕著性)
参照
参考文献
- ^ Sitarz, Mikolaj (2023). 「 F1メトリックの拡張、確率的アプローチ」。人工知能と機械学習の進歩。03 ( 2 ) : 1025–1038。arXiv : 2210.11997。doi :10.54364 / AAIML.2023.1161。
- ^ 「P4 メトリック、バイナリ分類子を評価する新しい方法」。
- ^ Hand, David J.; Christen, Peter; Ziyad, Sumayya (2024). 「分類パフォーマンス指標の選択: 問題に合わせた指標のマッチング」. arXiv : 2409.12391 [cs.LG].
- ^ Fawcett, Tom (2006). 「ROC分析入門」(PDF) .パターン認識レター. 27 (8): 861–874. doi :10.1016/j.patrec.2005.10.010. S2CID 2027090.
- ^ Provost, Foster、Tom Fawcett (2013-08-01)。「ビジネスのためのデータサイエンス: データマイニングとデータ分析的思考について知っておくべきこと」。O'Reilly Media, Inc.
- ^ Powers, David MW (2011). 「評価: 精度、再現率、F 値から ROC、情報量、注目度、相関まで」。機械学習テクノロジージャーナル。2 (1): 37–63。
- ^ Ting, Kai Ming (2011). Sammut, Claude; Webb, Geoffrey I. (編).機械学習百科事典. Springer. doi :10.1007/978-0-387-30164-8. ISBN 978-0-387-30164-8。
- ^ Brooks, Harold; Brown, Barb; Ebert, Beth; Ferro, Chris; Jolliffe, Ian; Koh, Tieh-Yong; Roebber, Paul; Stephenson, David (2015-01-26). 「WWRP/WGNE Joint Working Group on Forecast Verification Research」.オーストラリア気象気候研究のためのコラボレーション。世界気象機関。2019-07-17閲覧。
- ^ Chicco D、Jurman G (2020年1月)。「バイナリ分類評価におけるF1スコアと 精度に対するMatthews相関係数(MCC )の利点」。BMC Genomics。21 ( 1 ) :6-1–6-13。doi : 10.1186 / s12864-019-6413-7。PMC 6941312。PMID 31898477。
- ^ Chicco D、Toetsch N、Jurman G (2021年2月)。「マシューズ相関係数(MCC)は、2クラス混同行列評価において、バランスのとれた正確性、ブックメーカーの情報、マーク度よりも信頼性が高い」。BioData Mining。14 ( 13 ):13。doi :10.1186 /s13040-021-00244 - z。PMC 7863449。PMID 33541410。
- ^ Tharwat A. (2018年8月). 「分類評価方法」.応用コンピューティングと情報科学. 17 :168–192. doi : 10.1016/j.aci.2018.08.003 .
