多因子次元削減

多因子次元削減（MDR ）は、機械学習の自動アプローチでも使用される統計的アプローチであり、 ^[1]従属変数またはクラス変数に影響を与えるために相互作用する属性または独立変数の組み合わせを検出して特徴付けるために使用されます。 ^{[2] [3] [4] [5] [6] [7] [8] MDRは、}バイナリ結果に影響を与える離散変数間の非加法的な相互作用を識別するために特別に設計されており、ロジスティック回帰などの従来の統計手法に代わるノンパラメトリックでモデルフリーの代替手段と見なされています。

MDR法の基礎は、2つ以上の変数または属性を1つの属性に変換する構成的帰納法または特徴エンジニアリングアルゴリズムです。 ^[9]この新しい属性を構築するプロセスにより、データの表現空間が変更されます。^{[10]最終目標は、属性間の}非線形または非加法的な相互作用の検出を容易にし、クラス変数の予測がデータの元の表現よりも改善されるような表現を作成または発見することです。

排他的論理和(XOR) 関数を使用した次の簡単な例を考えてみましょう。XOR は、線形に分離できない関数の例として、データ マイニングや機械学習でよく使用される論理演算子です。次の表は、属性 (X1 と X2) とクラス変数 (Y) の関係が XOR 関数によって定義され、Y = X1 XOR X2 となる簡単なデータセットを表しています。

表1

機械学習アルゴリズムは、X1 と X2 に関する情報を使用して Y を正確に予測するために、XOR 関数を発見または近似する必要があります。別の戦略としては、まず構成的帰納法を使用してデータの表現を変更し、予測モデリングを容易にする方法があります。MDR アルゴリズムは、データ (X1 と X2) の表現を次の方法で変更します。MDR は、2 つの属性を選択することから始まります。この単純な例では、X1 と X2 が選択されています。X1 と X2 の値の各組み合わせが調べられ、Y=1 および/または Y=0 の回数がカウントされます。この単純な例では、X1=0 と X2=0 の組み合わせに対して、Y=1 は 0 回発生し、Y=0 は 1 回発生します。MDR では、これらのカウントの比率が計算され、固定しきい値と比較されます。ここで、カウントの比率は 0/1 であり、これは固定しきい値 1 より小さくなります。0/1 < 1 なので、新しい属性 (Z) を 0 としてエンコードします。比率が 1 より大きい場合、Z を 1 としてエンコードします。このプロセスは、X1 と X2 の値のすべての一意の組み合わせに対して繰り返されます。表 2 は、データの新しい変換を示しています。

表2

機械学習アルゴリズムは、優れた予測関数を見つけるために行う作業が大幅に減りました。実際、この非常に単純な例では、関数 Y = Z の分類精度は 1 です。MDR などの構成的帰納法の優れた機能は、任意のデータマイニングまたは機械学習手法を使用してデータの新しい表現を分析できることです。 決定木、ニューラルネットワーク、またはナイーブベイズ分類器は、バランス精度^{[11] [12]や相互情報量[13]}などのモデル品質の尺度と組み合わせて使用​​できます。

上で説明したように、MDR の基本的な構成的帰納アルゴリズムは非常に単純です。ただし、実際のデータからパターンをマイニングするための実装は、計算上複雑になる可能性があります。他の機械学習アルゴリズムと同様に、過剰適合に関する懸念が常にあります。つまり、機械学習アルゴリズムは、完全にランダムなデータからパターンを見つけるのが得意です。報告されたパターンが重要なシグナルなのか、単なる偶然なのかを判断することは、多くの場合困難です。1 つの方法は、クロス検証などの方法を使用して、独立したデータセットへのモデルの一般化可能性を推定することです。^{[14] [15] [16] [17]}ランダム データを記述するモデルは通常、一般化されません。別の方法は、データのランダムな順列を多数生成し、過剰適合する機会が与えられた場合にデータ マイニング アルゴリズムが何を見つけるかを確認することです。 順列テストにより、結果の経験的なp 値を生成することができます。 ^{[18] [19] [20] [21]}独立したデータでの複製も MDR モデルの証拠を提供する可能性がありますが、データセットの違いの影響を受けやすい場合があります。^{[22] [23]}これらのアプローチはすべて、MDRモデルの選択と評価に有用であることが示されています。機械学習の演習における重要なステップは解釈です。エントロピー分析^{[9] [24]}やパスウェイ分析[25]など、MDRではいくつかのアプローチが使用されてきました。^{[26] MDR}を使用して遺伝子間相互作用をモデル化するためのヒントとアプローチがレビューされています。^{[7] [27]}

MDRには数多くの拡張が導入されている。これには、家族ベースの方法、^{[28] [29] [30]}ファジー法、^[31]共変量調整、^[32] オッズ比、 [33 ^]リスクスコア、^[34]生存法、^{[35] [36]}ロバスト法、^[37]量的形質のための方法、^{[38] [39]}などが含まれる。

MDRは主に、心房細動^{[40] [41]}自閉症^[42]膀胱癌[ ^{43] [44] [ 45]}乳癌[ ⁴⁶ ] 心血管疾患^[14]高血圧^[47] [ ^{48] [49]}肥満[ 50 ^{] [51] 膵臓癌[52]}前立腺癌^[53] [ ^{54] [ 55]}結核[56] などの一般的なヒト疾患の遺伝学的研究において、遺伝子間相互作用またはエピスタシスを^検出するために適用されてきました。また、薬理学的結果の遺伝子分析など、他の生物医学的問題にも適用されています。^{[57] [58] [59]中心的な課題は、}ゲノムワイド関連研究（ GWAS）などのビッグデータにMDRを拡張することです。 ^[60]いくつかのアプローチが使用されています。 1つのアプローチは、MDR分析の前に機能をフィルタリングすることです。^[61]これは、BioFilterなどのツールを通じて生物学的知識を使用して行うことができます。^[62]また、ReliefFなどの計算ツールを使用して行うこともできます。^{[63]別のアプローチは、}遺伝的プログラミングなどの確率的探索アルゴリズムを使用して、特徴の組み合わせの探索空間を探索することです。 ^{[64]さらに別のアプローチは、}高性能コンピューティングを使用したブルートフォース検索です。^{[65] [66] [67]}

• www.epistasis.org は、オープンソースで無料で利用できる MDR ソフトウェア パッケージを提供しています。
• MDR用のRパッケージ。^[68]
• sklearn 互換の Python 実装。
• モデルベースMDR用のRパッケージ。^[69]
• ウェカのMDR。
• 一般化されたMDR。

• データマイニング
• 次元削減
• エピスタシス
• 機能エンジニアリング
• 機械学習
• 多重線形部分空間学習

• Michalski, RS、「知識誘導型コンピュータ誘導としてのパターン認識」、コンピュータサイエンス学部レポート、第 927 号、イリノイ大学アーバナ校、1978 年 6 月。