二項独立モデル

コンピューティングと情報科学において、バイナリ独立モデル（BIM）^{[ 1 ] [ 2 ]} は確率的情報検索技術である。このモデルは、文書/クエリの類似性の推定を確率的かつ実現可能にするために、いくつかの単純な仮定を置いている。

二項独立性の仮定は、文書が二項ベクトルであることを示しています。つまり、文書に用語が存在するか存在しないかのみが記録されます。用語は、関連する文書のセット内で独立して分布し、無関係な文書のセット内でも独立して分布します。表現は、ブール変数の順序付きセットです。つまり、文書またはクエリの表現は、検討対象の各用語に対して 1 つのブール要素を持つベクトルです。より具体的には、文書はベクトルd = ( x ₁ , ..., x _m )で表され、用語t が文書dに存在する場合はx _t =1 、存在しない場合はx _t =0となります。この簡略化により、多くの文書が同じベクトル表現を持つことができます。クエリも同様の方法で表現されます。「独立性」とは、文書内の用語が互いに独立して考慮され、用語間の関連性はモデル化されないことを意味します。この仮定は非常に制限的ですが、多くの状況で十分な結果が得られることが示されています。この独立性は、ナイーブベイズ分類器の「素朴な」仮定であり、互いに意味をなす特性であっても、簡略化のために独立したものとして扱われます。この仮定により、各項を他の項に使用される次元と直交する次元に沿った0または1の値として扱うことで、表現をベクトル空間モデルのインスタンスとして扱うことができます。

確率${\displaystyle P(R|d,q)}$文書が関連性があるかどうかは、その文書の用語ベクトルの関連性の確率から導き出される。${\displaystyle P(R|x,q)}$ベイズの定理を用いると、次のようになります。

${\displaystyle P(R|x,q)={\frac {P(x|R,q)*P(R|q)}{P(x|q)}}}$

どこ${\displaystyle P(x|R=1,q)}$そして${\displaystyle P(x|R=0,q)}$はそれぞれ、関連文書または非関連文書を取得する確率です。該当する場合、その文書の表現はxとなります。正確な確率は事前に知ることはできないため、文書コレクションに関する統計情報から推定値を使用する必要があります。

${\displaystyle P(R=1|q)}$そして${\displaystyle P(R=0|q)}$クエリqに対して、それぞれ関連文書または非関連文書を取得する以前の確率を示します。たとえば、コレクション内の関連文書の割合がわかっている場合、それを使用してこれらの確率を推定できます。文書はクエリに対して関連しているか非関連であるかのどちらかであるため、次のようになります。

${\displaystyle P(R=1|x,q)+P(R=0|x,q)=1}$

• 単語の袋モデル

• クリストファー・D・マニング;プラバーカール・ラガヴァン。 Hinrich Schütze (2008)、「情報検索入門」、ケンブリッジ大学出版局
• ステファン・ビュッチャー、チャールズ・L・A・クラーク、ゴードン・V・コーマック（2010）『情報検索：検索エンジンの実装と評価』 MIT Press