Loading article…
機械学習とパターン認識において、特徴とは、現象の個々の測定可能な特性または特徴である。[1]有益で識別力があり独立した特徴を選択することは、パターン認識、分類、回帰タスクに効果的なアルゴリズムを作成するために重要である。特徴は通常数値であるが、ワンホットエンコーディングなどの前処理ステップの後に、文字列やグラフなどの他のタイプが構文パターン認識で使用される。「特徴」の概念は、線形回帰などの統計手法で使用される説明変数の概念に関連している。
機能の種類
特徴エンジニアリングでは、数値とカテゴリの 2 種類の特徴が一般的に使用されます。
数値的特徴は、スケールで測定できる連続値です。数値的特徴の例には、年齢、身長、体重、収入などがあります。数値的特徴は、機械学習アルゴリズムで直接使用できます。[引用が必要]
カテゴリ特徴は、カテゴリにグループ化できる離散値です。カテゴリ特徴の例には、性別、色、郵便番号などがあります。カテゴリ特徴は通常、機械学習アルゴリズムで使用する前に数値特徴に変換する必要があります。これは、ワンホットエンコーディング、ラベルエンコーディング、順序エンコーディングなどのさまざまな手法を使用して行うことができます。
特徴エンジニアリングで使用される特徴のタイプは、使用されている特定の機械学習アルゴリズムによって異なります。決定木などの一部の機械学習アルゴリズムは、数値的特徴とカテゴリ的特徴の両方を処理できます。線形回帰などの他の機械学習アルゴリズムは、数値的特徴のみを処理できます。
分類
数値特徴は、特徴ベクトルで簡単に記述できます。バイナリ分類を実現する 1 つの方法は、特徴ベクトルを入力として線形予測関数(パーセプトロンに関連)を使用することです。この方法は、特徴ベクトルと重みベクトルの間のスカラー積を計算し、結果がしきい値を超える観測値を選別することから構成されます。
特徴ベクトルからの分類アルゴリズムには、最近傍分類、ニューラル ネットワーク、ベイズ アプローチなどの統計的手法が含まれます。
例
文字認識では、水平方向と垂直方向に沿った黒ピクセルの数をカウントするヒストグラム、内部の穴の数、ストロークの検出など、さまざまな 機能が含まれます。
音声認識では、音素を認識するための機能には、ノイズ比、音の長さ、相対的なパワー、フィルターの一致などが含まれます。
スパム検出アルゴリズムの特徴には、特定の電子メール ヘッダーの有無、電子メールの構造、言語、特定の用語の頻度、テキストの文法の正確さなどが含まれる場合があります。
コンピューター ビジョンでは、エッジやオブジェクトなど、 多数の特徴が考えられます。
特徴ベクトル
パターン認識と機械学習において、特徴ベクトルは、あるオブジェクトを表す数値特徴のn 次元ベクトルです。機械学習の多くのアルゴリズムでは、処理と統計分析を容易にするため、オブジェクトの数値表現が必要です。画像を表す場合、特徴値は画像のピクセルに対応する可能性があり、テキストを表す場合、特徴はテキスト用語の出現頻度である可能性があります。特徴ベクトルは、線形回帰などの統計手順で使用される説明変数のベクトルに相当します。特徴ベクトルは、予測を行うためのスコアを決定するために使用される線形予測関数を構築するために、ドット積を使用して重みと組み合わせられることがよくあります。
これらのベクトルに関連付けられたベクトル空間は、特徴空間と呼ばれることがよくあります。特徴空間の次元を削減するために、さまざまな次元削減手法を採用できます。
より高レベルの特徴は、すでに利用可能な特徴から取得され、特徴ベクトルに追加されます。たとえば、病気の研究では、特徴「年齢」が役立ち、年齢 = 「死亡年」マイナス「誕生年」として定義されます。このプロセスは、特徴構築と呼ばれます。[2] [3]特徴構築は、一連の構成演算子を既存の特徴セットに適用して、新しい特徴を構築することです。このような構成演算子の例には、等式条件のチェック {=、≠}、算術演算子 {+、−、×、 }}、配列演算子 {max(S)、min(S)、average(S)} のほか、count(S,C) [4]などのより高度な演算子があります。count(S,C)は、特徴ベクトル S 内のある条件 C を満たす特徴の数、またはたとえば、何らかの受け入れデバイスによって一般化された他の認識クラスとの距離を数えます。特徴構築は、特に高次元の問題において、精度と構造の理解の両方を向上させる強力なツールであると長い間考えられてきました。[5]応用分野としては、病気の研究や音声からの感情認識などがある。 [6]
選択と抽出
生の特徴の初期セットは冗長で大きすぎるため、推定や最適化が困難になったり、効果がなくなったりすることがあります。そのため、機械学習やパターン認識の多くのアプリケーションでは、学習を容易にし、一般化と解釈可能性を向上させるために、特徴のサブセットを選択するか、新しい縮小された特徴セットを構築するという準備ステップがあります。 [7]
特徴の抽出や選択は芸術と科学の組み合わせであり、そのためのシステムの開発は特徴エンジニアリングとして知られています。複数の可能性を実験し、自動化された技術とドメイン専門家の直感や知識を組み合わせる必要があります。このプロセスを自動化するのが特徴学習であり、機械は学習に特徴を使用するだけでなく、特徴自体を学習します。
参照
参考文献
- ^ ビショップ、クリストファー（2006）。パターン認識と機械学習。ベルリン：シュプリンガー。ISBN 0-387-31073-8。
- ^ Liu, H., Motoda H. (1998)知識発見とデータマイニングのための特徴選択。Kluwer Academic Publishers。ノーウェル、マサチューセッツ州、米国。1998年。
- ^ Piramuthu, S.、Sikora RT 帰納的学習アルゴリズムを改善するための反復的な特徴構築。Journal of Expert Systems with Applications。第 36 巻、第 2 号 (2009 年 3 月)、pp. 3401-3406、2009 年
- ^ Bloedorn, E., Michalski, R. データ駆動型構成的帰納法: 方法論とその応用。IEEE Intelligent Systems、機能変換とサブセット選択に関する特別号、pp. 30-37、1998 年 3 月/4 月
- ^ Breiman, L. Friedman, T., Olshen, R., Stone, C. (1984)分類と回帰木、Wadsworth
- ^ Sidorova, J.、Badia T. ESEDA.1 の構文学習、音声感情検出および分析強化ツール。インターネット技術およびセキュア トランザクション カンファレンス 2009 (ICITST-2009)、ロンドン、11 月 9 ～ 12 日。IEEE
- ^ ハスティー、トレバー、ティブシラニ、ロバート、フリードマン、ジェローム H. (2009)。統計学習の要素: データマイニング、推論、予測。シュプリンガー。ISBN 978-0-387-84884-6。