専門家の製品

エキスパート積（PoE）は機械学習の手法です。いくつかのより単純な分布からの出力を組み合わせることで確率分布をモデル化します。これは、そのようなシステムのパラメータをトレーニングするためのアルゴリズムとともに 、1999年にジェフリー・ヒントンによって提案されました^{[1] 。}

中心となる考え方は、複数の確率分布 (「エキスパート」) の密度関数を乗算して組み合わせることです。これにより、PoE 分類は「and」演算に似たものになります。これにより、各エキスパートは、問題の全次元をカバーすることなく、いくつかの次元に基づいて決定を下すことができます。 ${\displaystyle P(y|\{x_{k}\})={\frac {1}{Z}}\prod _{j=1}^{M}f_{j}(y|\{x_{ k}\})}$

ここで、は正規化されていないエキスパート密度であり、は正規化定数です（パーティション関数（統計力学）を参照）。 ${\displaystyle f_{j}}$${\displaystyle Z=\int {\mbox{d}}y\prod _{j=1}^{M}f_{j}(y|\{x_{k}\})}$

これは、複数の確率分布を「または」演算で組み合わせた 混合モデルと関連していますが、これは密度関数の重み付き和 です。${\displaystyle p_{j}(y|\{x_{j}\})}$${\displaystyle P(y|\{x_{k}\})=\sum _{j=1}^{M}\alpha _{j}p_{j}(y|\{x_{k}\} )、}$${\displaystyle \sum _{j}\alpha _{j}=1.}$

専門家はそれぞれ、高次元空間における制約を強制する責任があると理解できます。データ ポイントは、どの専門家もそのポイントが制約に違反していると言わない場合に限り、可能性が高いと見なされます。

これを最適化するため、彼は対照的発散最小化アルゴリズムを提案した。^{[2]このアルゴリズムは、}制限付きボルツマンマシンの学習に最もよく使用される。

• 専門家の混合
• ボルツマンマシン

• Scholarpediaの専門家による記事
• ジェフリー・ヒントンの PoE に関する記事