協調フィルタリング

協調フィルタリング（CF）は、コンテンツベースフィルタリングに加えて、レコメンデーションシステムで使用される2つの主要な技術の1つです。^[1]協調フィルタリングには、狭義の意味とより一般的な意味の2つの意味があります。^[2]

より新しい、より狭義の意味で、協調フィルタリングは、多くのユーザー（協調）から収集された嗜好や趣味の情報を利用して、ユーザーの興味について自動的に予測（フィルタリング）する方法です。このアプローチは、人物Aと人物 B がある問題について同様の意見を共有している場合、 Aと別の人物をランダムに組み合わせた場合と比較して、他の問題でも意見が一致する可能性が高いことを前提としています。たとえば、テレビ番組の協調フィルタリング システムは、ユーザーの趣味（好き嫌い）の限定されたリストに基づいて、ユーザーが楽しめる番組を予測できます。^{[3]これらの予測はユーザーに固有ですが、多くのユーザーから収集された情報を使用します。これは、たとえば}投票数に基づいて、興味のある各項目の平均（非固有）スコアを与えるより単純なアプローチとは異なります。

より一般的な意味では、協調フィルタリングとは、複数のエージェント、視点、データソースなどの間のコラボレーションを伴う技術を使用して情報またはパターンをフィルタリングするプロセスです。 ^[2]協調フィルタリングのアプリケーションでは、通常、非常に大きなデータセットが関係します。協調フィルタリング手法は、鉱物探査、広い領域または複数のセンサーでの環境センシングなどのセンシングおよびモニタリングデータ、多くの金融ソースを統合する金融サービス機関などの金融データ、電子商取引およびWebアプリケーションからのユーザーデータなど、さまざまな種類のデータに適用されています。

この記事では、ユーザー データの協調フィルタリングに焦点を当てていますが、一部の方法は他の主要なアプリケーションにも適用されます。

インターネットの普及により、オンラインで入手可能なすべての情報から有用な情報を効果的に抽出することが非常に困難になりました。 ^{[誰によると? ]}膨大な量のデータには、効率的な情報フィルタリングのメカニズムが必要です。^{[誰によると? ]}協調フィルタリングは、この問題に対処するために使用される手法の 1 つです。

協調フィルタリングの動機は、人々は自分と似た趣味を持つ人から最良の推奨を得ることが多いという考えから来ています。^[要出典]協調フィルタリングには、似た趣味を持つ人々をマッチングさせ、これに基づいて 推奨を行う技術が含まれます。

協調フィルタリングアルゴリズムでは、多くの場合、(1) ユーザーの積極的な参加、(2) ユーザーの興味を表す簡単な方法、(3) 同様の興味を持つ人々をマッチングできるアルゴリズムが必要になります。

通常、協調フィルタリング システムのワークフローは次のようになります。

1. ユーザーは、システムのアイテム（書籍、映画、音楽録音など）を評価することで自分の好みを表現します。これらの評価は、対応するドメインに対するユーザーの関心のおおよその表現として見ることができます。
2. システムは、このユーザーの評価を他のユーザーの評価と照合し、最も「類似した」趣味を持つ人を見つけます。
3. 類似ユーザーの場合、システムは類似ユーザーが高く評価しているが、このユーザーによってまだ評価されていないアイテムを推奨します（評価がないことは、アイテムがあまり知られていないこととみなされることが多いと思われます）。

協調フィルタリングの重要な問題は、ユーザーの近隣ユーザーの好みをどのように組み合わせて重み付けするかです。場合によっては、ユーザーは推奨アイテムをすぐに評価できます。その結果、システムは時間の経過とともにユーザーの好みをより正確に表現できるようになります。

協調フィルタリング システムにはさまざまな形式がありますが、一般的なシステムの多くは次の 2 つのステップに簡略化できます。

1. アクティブ ユーザー (予測の対象となるユーザー) と同じ評価パターンを共有するユーザーを探します。
2. ステップ1で見つかった類似ユーザーの評価を使用して、アクティブユーザーの予測を計算します。

これは、ユーザーベースの協調フィルタリングのカテゴリに分類されます。この具体的な応用例は、ユーザーベースの最近傍アルゴリズムです。

あるいは、アイテムベースの協調フィルタリング（x を購入したユーザーは y も購入した）は、アイテム中心の方法で進行します。

1. アイテムのペア間の関係を決定するアイテム-アイテムマトリックスを構築する
2. マトリックスを調べてそのユーザーのデータを照合することで、現在のユーザーの嗜好を推測します。

たとえば、Slope Oneのアイテムベースの協調フィルタリング ファミリを参照してください。

協調フィルタリングの別の形式は、通常のユーザー行動の暗黙的な観察に基づくことができます (評価タスクによって課される人工的な行動とは対照的です)。これらのシステムは、ユーザーが行ったこととすべてのユーザーが行ったこと (聴いた音楽、購入したアイテム) を一緒に観察し、そのデータを使用してユーザーの将来の行動を予測したり、ユーザーが機会があればどのように行動したいかを予測したりします。これらの予測は、ビジネス ロジックによってフィルタリングされ、ビジネス システムの動作にどのように影響するかを判断する必要があります。たとえば、特定の音楽アルバムを所有していることがすでに証明されている人に、そのアルバムの販売を提案しても役に立ちません。

すべてのユーザーを平均化したスコアリングや評価システムに依存すると、ユーザーの特定の要求が無視され、特に興味のばらつきが大きいタスク（音楽の推奨など）には不向きです。ただし、Web検索やデータ クラスタリングなど、情報爆発に対抗する方法は他にもあります。

メモリベースのアプローチでは、ユーザー評価データを使用して、ユーザーまたはアイテム間の類似性を計算します。このアプローチの典型的な例としては、近隣ベースの CF とアイテムベース/ユーザーベースのトップ N 推奨があります。たとえば、ユーザーベースのアプローチでは、ユーザーu がアイテムiに与える評価の値は、いくつかの類似したユーザーによるアイテムの評価の集約として計算されます。

${\displaystyle r_{u,i}=\operatorname {aggr} _{u^{\prime }\in U}r_{u^{\prime },i}}$

ここで、U はアイテムi を評価したユーザーuに最も類似する上位N人のユーザーの集合を表します。集計関数の例には次のものがあります。

${\displaystyle r_{u,i}={\frac {1}{N}}\sum \limits _{u^{\prime }\in U}r_{u^{\prime },i}}$

${\displaystyle r_{u,i}=k\sum \limits _{u^{\prime }\in U}\operatorname {simil} (u,u^{\prime })r_{u^{\prime },i}}$

ここでkは正規化係数であり、次 のように定義される。${\displaystyle k=1/\sum _{u^{\prime }\in U}|\operatorname {simil} (u,u^{\prime })|}$

${\displaystyle r_{u,i}={\bar {r_{u}}}+k\sum \limits _{u^{\prime }\in U}\operatorname {simil} (u,u^{\prime })(r_{u^{\prime },i}-{\bar {r_{u^{\prime }}}})}$

ここで、uが評価したすべてのアイテムに対するユーザーuの平均評価です。 ${\displaystyle {\bar {r_{u}}}}$

近隣ベースのアルゴリズムは、2 人のユーザーまたはアイテム間の類似性を計算し、すべての評価の加重平均を取ることでユーザーの予測を生成します。アイテムまたはユーザー間の類似性の計算は、このアプローチの重要な部分です。これには、ピアソン相関やベクトル コサインベースの類似性など、複数の尺度が使用されます。

2人のユーザーx、yのピアソン相関類似度は次のように定義される。

${\displaystyle \operatorname {simil} (x,y)={\frac {\sum \limits _{i\in I_{xy}}(r_{x,i}-{\bar {r_{x}}})(r_{y,i}-{\bar {r_{y}}})}{{\sqrt {\sum \limits _{i\in I_{xy}}(r_{x,i}-{\bar {r_{x}}})^{2}}}{\sqrt {\sum \limits _{i\in I_{xy}}(r_{y,i}-{\bar {r_{y}}})^{2}}}}}}$

ここで、I _{xy はユーザー}xとユーザーy の両方によって評価されたアイテムのセットです。

コサインベースのアプローチでは、2人のユーザーxとyの間のコサイン類似度を次のように定義します。^[4]

${\displaystyle \operatorname {simil} (x,y)=\cos({\vec {x}},{\vec {y}})={\frac {{\vec {x}}\cdot {\vec {y}}}{||{\vec {x}}||\times ||{\vec {y}}||}}={\frac {\sum \limits _{i\in I_{xy}}r_{x,i}r_{y,i}}{{\sqrt {\sum \limits _{i\in I_{x}}r_{x,i}^{2}}}{\sqrt {\sum \limits _{i\in I_{y}}r_{y,i}^{2}}}}}}$

ユーザーベースのトップ N 推奨アルゴリズムは、類似性ベースのベクトル モデルを使用して、アクティブ ユーザーに最も類似するk 人のユーザーを識別します。最も類似するk 人のユーザーが見つかった後、対応するユーザー アイテム マトリックスが集約され、推奨されるアイテムのセットが識別されます。類似ユーザーを見つけるための一般的な方法は、線形時間で 最近傍メカニズムを実装する局所性に敏感なハッシュです。

このアプローチの利点には、推奨システムの重要な側面である結果の説明可能性、作成と使用の容易さ、新しいデータの容易な促進、推奨されるアイテムのコンテンツ独立性、相関評価されたアイテムとの良好なスケーリングなどがあります。

このアプローチには、いくつかの欠点もあります。Web関連のアイテムではよくあることですが、データがまばらな場合、パフォーマンスが低下します。これにより、このアプローチのスケーラビリティが妨げられ、大規模なデータセットで問題が発生します。データ構造に依存しているため、新しいユーザーを効率的に処理できますが、その表現は通常、特定のベクトル空間に依存しているため、新しいアイテムの追加は複雑になります。新しいアイテムを追加するには、新しいアイテムを含め、構造内のすべての要素を再挿入する必要があります。

記憶ベースの方法の代替案は、評価されていないアイテムに対するユーザーの評価を予測するモデルを学習することです。モデルベースのCFアルゴリズムには、ベイジアンネットワーク、クラスタリングモデル、特異値分解などの潜在的意味モデル、確率的潜在的意味解析、多重乗法因子、潜在的ディリクレ配分、マルコフ決定過程ベースのモデルなどがあります。^[5]

このアプローチでは、次元削減法は主にメモリベースの方法の堅牢性と精度を向上させるために使用されます。具体的には、特異値分解、主成分分析などの潜在因子モデルと呼ばれる方法は、ユーザーアイテム行列を潜在因子の観点から低次元表現に圧縮します。これにより、多くの欠損値を含む大きな行列がはるかに小さな行列に変換されます。圧縮された行列は、前のセクションに従って、ユーザーまたはアイテムの近傍を見つけるために使用できます。圧縮には、大規模でスパースなデータでの2つの利点があります。それは、より正確で、より拡張性が高いことです。^[6]

多くのアプリケーションでは、メモリベースとモデルベースのCFアルゴリズムを組み合わせています。これらはネイティブCFアプローチの限界を克服し、予測性能を向上させます。重要なのは、スパース性や情報損失などのCFの問題を克服していることです。ただし、複雑さが増し、実装にコストがかかります。^[7]通常、ほとんどの商用レコメンデーションシステムはハイブリッドであり、たとえばGoogleニュースレコメンデーションシステムです。^[8]

近年、協調フィルタリングのためのニューラルネットワークやディープラーニングの技術が数多く提案されている。従来の行列分解アルゴリズムを非線形ニューラルアーキテクチャを介して一般化するものや、^[9]変分オートエンコーダのような新しいモデルタイプを活用するものもある。^[10] ディープラーニングは多くのシナリオ（コンテキスト認識、シーケンス認識、ソーシャルタグ付けなど）に適用されている。

しかし、ディープラーニングの協調的推奨の有効性は疑問視されている。トップカンファレンス（SIGIR、KDD、WWW、RecSys）で発表された、トップk推奨問題に対するディープラーニングまたはニューラル手法を用いた出版物の体系的な分析では、平均して論文の40％未満が再現可能であり、一部のカンファレンスではわずか14％であることが判明した。全体として、この研究では18の論文が特定されており、そのうち7つだけが再現可能であり、6つはより古く、より単純な、適切に調整されたベースラインよりも優れている可能性がある。この記事は、今日の研究奨学金の潜在的な問題を強調し、科学的実践の改善を求めている。^[11]同様の問題は、他の研究者によっても発見されており^[12]、シーケンス認識型推奨システムでも発見されている。^[13]

多くのレコメンデーションシステムは、アイテムの推奨を行う際に、ユーザーの評価と並んで存在する他のコンテキスト情報を単純に無視します。^[14]しかし、時間、場所、ソーシャル情報、ユーザーが使用しているデバイスの種類などのコンテキスト情報が広く利用可能になったことで、コンテキストに応じた推奨を提供することが、成功するレコメンデーションシステムにとってこれまで以上に重要になっています。Charu Aggrawal によると、「コンテキストに応じたレコメンデーションシステムは、推奨が行われる特定の状況を定義する追加情報に合わせて推奨を調整します。この追加情報はコンテキストと呼ばれます。」^[6]

コンテキスト情報を考慮すると、既存のユーザーアイテム評価マトリックスに追加の次元が追加されます。例として、時間帯に応じて異なる推奨を提供する音楽レコメンデーションシステムを想定します。この場合、ユーザーは時間帯によって音楽の好みが異なる可能性があります。したがって、ユーザーアイテムマトリックスを使用する代わりに、コンテキストに敏感なユーザーの好みを表すために、3次テンソル（他のコンテキストを考慮する場合はそれ以上）を使用できます。^{[15] [16] [17]}

協調フィルタリング、特に近隣ベースの方法を活用するために、2次元の評価行列から高次のテンソルへとアプローチを拡張することができます^[要出典]。この目的のために、このアプローチは、対象ユーザーに最も類似した/志を同じくするユーザーを見つけることです。各ユーザーに対応するスライス（例：アイテム時間行列）を抽出して類似度を計算します。2つの評価ベクトルの類似度が計算されるコンテキストに依存しないケースとは異なり、コンテキストを認識するアプローチでは、各ユーザーに対応する評価行列の類似度はピアソン係数を使用して計算されます^[6]。最も志を同じくするユーザーが見つかった後、対応する評価が集約され、対象ユーザーに推奨されるアイテムのセットが識別されます。

コンテキストを推奨モデルに取り入れることの最も重要な欠点は、ユーザーアイテム評価マトリックスと比較して、はるかに多くの欠損値を含む大規模なデータセットを処理できることです^{[引用が必要]}。したがって、行列分解法と同様に、テンソル分解技術を使用して、近傍ベースの方法を使用する前に元のデータの次元を削減できます^{[引用が必要]}。

ガイドラインを設定する編集者が少数いる従来の主流メディアのモデルとは異なり、協調フィルタリングされたソーシャルメディアには非常に多くの編集者がいて、参加者が増えるにつれてコンテンツが向上します。Reddit 、YouTube、Last.fmなどのサービスは、協調フィルタリングに基づくメディアの典型的な例です。^[18]

協調フィルタリング アプリケーションの 1 つのシナリオは、コミュニティの判断に基づいて興味深い情報や人気のある情報を推奨することです。典型的な例として、コミュニティによって「投票」(肯定的な評価) されたストーリーはRedditのトップページに表示されます。コミュニティが大きくなり、多様化するにつれて、推奨されたストーリーはコミュニティ メンバーの平均的な関心をよりよく反映できるようになります。

Wikipediaは協調フィルタリングのもう一つの応用例です。ボランティアが事実と虚偽をフィルタリングすることで百科事典に貢献しています。^[19]

協調フィルタリング システムのもう 1 つの側面は、特定のユーザーの過去のアクティビティの情報や、特定のユーザーと嗜好が似ていると判断される他のユーザーの履歴を分析して、よりパーソナライズされた推奨を生成する機能です。これらのリソースはユーザー プロファイリングとして使用され、サイトがユーザーごとにコンテンツを推奨するのに役立ちます。特定のユーザーがシステムを利用するほど、システムはそのユーザーのモデルを改善するためのデータを取得するため、推奨の質が向上します。

協調フィルタリング システムは、必ずしもコンテンツとユーザーの好みを自動的に一致させることに成功するわけではありません。プラットフォームが並外れて優れた意見の多様性と独立性を実現しない限り、特定のコミュニティでは常に 1 つの視点が他の視点を圧倒することになります。パーソナライズされた推奨シナリオと同様に、新しいユーザーまたは新しいアイテムの導入により、協調フィルタリングが正確に機能するためのデータが不足するため、コールド スタート問題が発生する可能性があります。新しいユーザーに適切な推奨を行うには、システムはまず過去の投票または評価アクティビティを分析してユーザーの好みを学習する必要があります。協調フィルタリング システムでは、新しいアイテムを推奨する前に、相当数のユーザーがそのアイテムを評価する必要があります。

実際には、多くの商用レコメンデーション システムは大規模なデータセットに基づいています。その結果、協調フィルタリングに使用されるユーザー アイテム マトリックスは非常に大きく、疎になる可能性があり、レコメンデーションのパフォーマンスに課題が生じます。

データのスパース性によって生じる典型的な問題の 1 つに、コールド スタート問題があります。協調フィルタリング方式では、ユーザーの過去の好みに基づいてアイテムが推奨されるため、システムがユーザーの好みを正確に把握し、信頼性の高い推奨を提供できるように、新しいユーザーは十分な数のアイテムを評価する必要があります。

同様に、新しいアイテムにも同じ問題があります。新しいアイテムがシステムに追加されると、評価したユーザーと似た嗜好を持つユーザーに推奨される前に、相当数のユーザーによって評価される必要があります。新しいアイテムの問題は、コンテンツベースの推奨には影響しません。アイテムの推奨は、評価ではなく、そのアイテムの個別の記述品質に基づいているためです。

ユーザーとアイテムの数が増えると、従来のCFアルゴリズムは深刻なスケーラビリティの問題に悩まされることになる^[要出典]。たとえば、数千万の顧客と数百万のアイテムがある場合、複雑度が のCFアルゴリズムはすでに大きすぎる。また、多くのシステムでは、オンライン要件に即座に反応し、数百万のユーザーに関係なくすべてのユーザーに対して推奨事項を作成する必要があり、ほとんどの計算は非常に大きなメモリを持つマシンで行われる。^[20]${\displaystyle O(M)}$${\displaystyle O(N)}$${\displaystyle n}$

同義語とは、同じまたは非常に類似したアイテムが複数存在し、異なる名前やエントリを持つ傾向を指します。ほとんどの推奨システムでは、この潜在的な関連性を発見できないため、これらの製品を別々に扱います。

たとえば、「子供向け映画」と「子供向け映画」は一見異なる項目のように見えますが、実際には同じ項目を指しています。実際、説明用語の使用における変動の度合いは、一般に考えられているよりも大きいのです。^{[引用が必要]}同義語の普及により、CF システムの推奨パフォーマンスが低下します。トピック モデリング (潜在的ディリクレ配分法など) は、同じトピックに属する異なる単語をグループ化することで、この問題を解決できます。^{[引用が必要]}

灰色の羊とは、意見が一貫してどのグループの人々とも一致しない、または一致しないユーザーを指し、そのため協調フィルタリングの恩恵を受けません。黒い羊とは、特異な嗜好のために推薦がほぼ不可能なグループです。これは推薦システムの失敗ですが、非電子推薦システムもこのような場合には大きな問題を抱えているため、黒い羊がいることは許容できる失敗です。^{[議論中–議論]}

誰もが評価できる推奨システムでは、自分の商品には肯定的な評価を多く与え、競合他社の商品には否定的な評価を与える人が多数いる可能性があります。協調フィルタリング システムでは、このような操作を防止するための予防措置を導入することがしばしば必要になります。

協調フィルタは、新製品の発見に役立つため、多様性を高めることが期待されています。しかし、一部のアルゴリズムは、意図せずに逆の効果をもたらす可能性があります。協調フィルタは過去の売上や評価に基づいて製品を推奨するため、通常、履歴データが限られている製品を推奨することはできません。これにより、人気のある製品に対して、正のフィードバックに似た、金持ちがさらに金持ちになる効果が生じる可能性があります。この人気への偏りは、本来であればより良い消費者製品のマッチングを妨げる可能性があります。ウォートンの研究では、この現象と、多様性と「ロングテール」を促進する可能性のあるいくつかのアイデアについて詳しく説明しています。 [ ²¹ ]いくつかの協調フィルタリングアルゴリズムは、斬新な^[23]予期しない^[24]偶然のアイテムを推奨することで、多様性と「ロングテール」^[22]を促進するために開発されました。^[25]

• Netflix 賞の結果として、CF 用の新しいアルゴリズムが開発されました。
• クロスシステム協調フィルタリングでは、複数のレコメンデーションシステムのユーザープロファイルをマルチタスク方式で組み合わせ、モデル間での好みのパターンの共有を実現します。^[26]
• 堅牢な協調フィルタリングでは、操作の試みに対して推奨が安定しています。この研究分野はまだ活発で、完全に解決されていません。^[27]

ユーザーアイテムマトリックスは、従来の協調フィルタリング技術の基本的な基盤ですが、データのスパース性の問題（つまり、コールドスタート）に悩まされています。その結果、ユーザーアイテムマトリックスを除いて、研究者は、推奨パフォーマンスの向上とパーソナライズされた推奨システムの開発に役立つ補助情報をさらに収集しようとしています。^[28]一般的に、補助情報には、属性情報とインタラクション情報の2つがあります。属性情報は、ユーザーまたはアイテムの特性について説明します。たとえば、ユーザー属性には、一般的なプロフィール（性別や年齢など）やソーシャルコンタクト（ソーシャルネットワークのフォロワーや友達など）が含まれます。アイテム属性は、カテゴリ、ブランド、コンテンツなどの特性を意味します。さらに、インタラクション情報は、ユーザーがアイテムとどのようにやりとりするかを示す暗黙のデータを指します。広く使用されているインタラクション情報には、タグ、コメントやレビュー、閲覧履歴などが含まれます。補助情報は、さまざまな面で重要な役割を果たします。明示的なソーシャルリンクは、信頼や友情の信頼できる表現として、対象ユーザーと興味を共有する類似人物を見つけるための類似度計算で常に使用されます。^{[29] [30]}インタラクション関連情報（タグ）は、高度な協調フィルタリングにおいて、ユーザーとアイテムに加えて第3の次元として扱われ、推奨の探索のための3次元テンソル構造を構築します。^[31]

• 推薦システムを超えて: 人々が互いに助け合うことを支援する、12 ページ、2001 年
• レコメンデーション システム。Prem Melville と Vikas Sindhwani。機械学習百科事典、Claude Sammut と Geoffrey Webb (編)、Springer、2010 年。
• 産業分野におけるレコメンデーションシステム - 多くの共同レコメンデーションシステムの包括的な概要を含む博士論文（2012年）
• 次世代の推奨システムに向けて: 最新技術と拡張の可能性の調査。Adomavicius, G. および Tuzhilin, A. IEEE Transactions on Knowledge and Data Engineering 06.2005
• 協調フィルタリング推奨システムの評価 (DOI: 10.1145/963770.963772)
• GroupLens の研究論文。
• コンテンツブースト協調フィルタリングによる推奨の改善。Prem Melville、Raymond J. Mooney、Ramadass Nagarajan。第 18 回全国人工知能会議 (AAAI-2002) の議事録、pp. 187–192、エドモントン、カナダ、2002 年 7 月。
• MIT メディアラボの過去および現在の「情報フィルタリング」プロジェクト (協調フィルタリングを含む) のコレクション
• Eigentaste: 定数時間協調フィルタリングアルゴリズム。Ken Goldberg、Theresa Roeder、Dhruv Gupta、Chris Perkins。情報検索、4(2)、133–151。2001年7月。
• 協調フィルタリング技術の調査 Su, Xiaoyuan および Khoshgortaar, Taghi. M
• Google ニュースのパーソナライゼーション: スケーラブルなオンライン協調フィルタリング Abhinandan Das、Mayur Datar、Ashutosh Garg、Shyam Rajaram。国際ワールド ワイド ウェブ会議、第 16 回ワールド ワイド ウェブ国際会議の議事録
• 近隣要因の考慮: スケーラブルで正確な協調フィルタリング Yehuda Koren、データからの知識発見に関するトランザクション (TKDD) (2009)
• 協調フィルタリングを使用した評価予測
• レコメンデーションシステム 2013年2月11日アーカイブWayback Machine
• バークレー協調フィルタリング