アルゴリズムの過激化

アルゴリズムによる過激化とは、 YouTubeやFacebookなどの人気ソーシャルメディアサイトの推奨アルゴリズムが、時間の経過とともにユーザーを次第に過激なコンテンツに誘導し、過激な政治的見解を抱くようになるという概念です。アルゴリズムは、いいね/嫌いから投稿に費やした時間まで、ユーザーのインタラクションを記録し、ユーザーの関心を維持することを目的とした無限のメディアを生成します。エコーチェンバーチャネルを通じて、消費者はメディアの好みや自己確認を通じて、より二極化するように駆り立てられます。 ^{[1] [2] [3] [4]}

アルゴリズムによる過激化は、ソーシャルメディア企業にとってエコーチェンバーチャンネルを削除することが必ずしも最善の利益にならないため、依然として議論の余地のある現象です。^{[5] [6]}推奨アルゴリズムが実際に過激化にどの程度関与しているかについては議論が続いており、研究ではアルゴリズムが過激なコンテンツを宣伝したかどうかについて矛盾する結果が示されています。

ソーシャルメディアプラットフォームは、ユーザーの興味や好みを学習して、フィードでの体験を変更し、ユーザーが関心を持ちスクロールし続けるようにします。これはフィルターバブルとして知られています。 ^[7]エコーチェンバーは、ユーザーが自分の考えを拡大または強化する信念に遭遇し、閉鎖的なシステムで志を同じくするユーザーのグループを形成するときに形成されます。^[8]エコーチェンバーは反対の信念なしに情報を広め、確証バイアスにつながる可能性があります。グループ分極化理論によると、エコーチェンバーはユーザーとグループをより極端に過激な立場に導く可能性があります。^[9]国立医学図書館によると、「オンラインのユーザーは、自分の世界観に固執する情報を好み、反対の情報を無視し、共有された物語の周りに分極化したグループを形成する傾向があります。さらに、分極化が進むと、誤情報が急速に増殖します。」^[10]

2022年5月14日、18歳のペイトン・S・ジェンドロンがニューヨーク州バッファローで銃乱射事件を起こした。犯人は声明文の中で、自身の過激な信念の源はインターネットにあると述べている。「私が直接会った人々から私の個人的な信念に影響を受けたことはほとんどない」^[11]

2024年3月19日頃、ニューヨーク州の裁判官は、銃乱射事件に関連して、 RedditとYouTubeが銃撃犯の過激化に関与したとの容疑で訴訟を起こさなければならないと判決を下した。^[12]

Facebookのアルゴリズムは、ユーザーが交流したくなるようなコンテンツを推奨することに重点を置いています。Facebook は、友人による人気の投稿、バイラル コンテンツ、時には分裂的なコンテンツを優先してコンテンツをランク付けします。各フィードはユーザーの特定の関心に合わせてパーソナライズされており、ユーザーを厄介なコンテンツのエコー チェンバーに導くことがあります。^[13]ユーザーは、「広告設定」ページに移動することで、アルゴリズムが使用する関心のリストを見つけることができます。Pew Research の調査によると、Facebook ユーザーの 74% は、調査でそのページに誘導されるまで、そのリストの存在を知りませんでした。^[14] Facebook がユーザーに政治的なラベルを付けることも比較的一般的です。近年、^{[いつ? ]} Facebook は、ユーザーがフィードで見るコンテンツや、ユーザーに推奨されるものを変更するために人工知能を使用し始めました。Facebook Filesと呼ばれる文書は、同社の AI システムがユーザー エンゲージメントを他のすべてよりも優先していることを明らかにしました。Facebook Files は、AI システムを制御することが難しいことも示しました。^[15]

2021年に漏洩した2019年8月の内部メモで、Facebookは「当社のプラットフォームの仕組みは中立的ではない」と認めている^{[16] [17]}。最大の利益を上げるためには、エンゲージメントの最適化が必要であると結論付けている。エンゲージメントを高めるために、アルゴリズムは憎悪、誤情報、政治がアプリのアクティビティに役立つことを発見した。^[18]メモで言及されているように、「素材が扇動的であればあるほど、ユーザーのエンゲージメントが高まり、アルゴリズムによってブーストされる」。^[16] 2018年の調査によると、「偽の噂は真の情報よりも速く広く広まります...彼らは、偽の噂が真実よりもTwitterでリツイートされる可能性が70％高く、最初の1,500人に6倍速く届くことを発見しました。この効果は、他のカテゴリよりも政治ニュースで顕著です。」^[19]

YouTubeは2005年から存在し、月間ユーザー数は25億人を超えています。YouTubeのコンテンツ発見システムは、ユーザーの個人的なアクティビティ（視聴、お気に入り、いいね）に焦点を当てて、ユーザーを推奨コンテンツに誘導します。YouTubeのアルゴリズムは、ユーザーの推奨動画の約70％と、人々が特定のコンテンツを視聴するきっかけとなっています。^[20] Mozilla Foundationの2022年の調査によると、ユーザーには、推奨コンテンツから不要な動画を排除する力がほとんどありません。これには、ヘイトスピーチやライブストリームなどの動画が含まれます。^{[21] [20]}

YouTubeは過激なコンテンツを拡散する影響力のあるプラットフォームとして特定されている。アルカイダや同様の過激派グループは、 YouTubeを勧誘動画の投稿や国際メディアとの交流に利用しているとされている。American Behavioral Scientist Journalに掲載された研究論文では、「YouTubeアルゴリズムの意思決定プロセスの一部を説明するのに役立つ可能性のある一連の属性を特定できるかどうか」が調査された。^[22]研究結果によると、YouTubeのアルゴリズムによる過激コンテンツ推奨は、動画のタイトルに過激なキーワードが含まれているかどうかが考慮されている。2023年2月、Gonzalez対Googleの訴訟では、YouTubeの親会社であるGoogleが、サイトのアルゴリズムがテロリストにISIS動画を推奨するのを手助けしたと主張する訴訟から保護されるかどうかが問題となっている。セクション230は、一般的にオンラインプラットフォームを、ユーザーが投稿したコンテンツに対する民事責任から保護することが知られている。^[23]

複数の研究では、YouTubeのアルゴリズムが、極右コンテンツに興味を持っていない人々の注意をそのコンテンツに向けさせていることを示す証拠はほとんど、あるいは全く見つかっていない。^{[24] [25] [26]}

TikTokは、ユーザーの「For You Page」（FYP）に動画を推奨するアプリで、ユーザーごとに異なるページが表示されます。アプリのアルゴリズムの性質上、TikTokのFYPは、ユーザーのアプリ上での過去のインタラクションに基づいて、時間の経過とともにより露骨で過激な動画を表示することに関連付けられています。^[27] TikTokの発売以来、このアプリは誤報やヘイトスピーチについて精査されてきました。これらの形式のメディアは通常、アルゴリズムに対してより多くのインタラクションを生成するためです。^[28]

ジハード主義組織を含むさまざまな過激派グループが、プロパガンダを広め、フォロワーを募集し、暴力を扇動するためにTikTokを利用している。ユーザーの関与に基づいてコンテンツを推奨するこのプラットフォームのアルゴリズムは、ユーザーの興味や交流に一致する過激派コンテンツにユーザーをさらす可能性がある。^[29]

2022年現在、TikTokの米国セキュリティ責任者は、ヘイトスピーチ、嫌がらせ、誤報を削減するために「4月から6月の間​​に、コミュニティガイドラインまたは利用規約に違反したとして世界中で81,518,334本の動画が削除された」という声明を出している。^[30]

研究では、TikTokで出会ったコンテンツを通じて個人が過激化した例が指摘されている。例えば、2023年初頭、オーストリア当局は、TikTokのジハードコンテンツに触発された10代の若者2人と20歳の若者が関与したLGBTQ+プライドパレードに対する陰謀を阻止した。最年少の14歳の容疑者は、イスラム主義のインフルエンサーがジハードを称賛する動画に触れていた。これらの動画がきっかけで、同様のコンテンツにさらに関与するようになり、最終的には攻撃計画に関与することになった。^[29]

もう一つの事件は、2024年にオーストリアのウィーンでテイラー・スウィフトのコンサートでテロ攻撃を計画していた数人の若者が逮捕された事件である。捜査の結果、容疑者の中にはオンラインで過激化した者もおり、TikTokは彼らの信念や行動に影響を与える過激なコンテンツを広めるために使われたプラットフォームの一つであったことが明らかになった。^[29]

米国司法省は「ローンウルフ」（自称）テロリズムを「政府やテロ組織の支援や奨励を受けずに単独でテロ攻撃を行う者」と定義している。^[31]インターネット上のソーシャルメディアを通じて、「ローンウルフ」テロリズムが増加しており、アルゴリズムによる過激化と関連している。^[32]インターネット上のエコーチェンバーを通じて、通常は過激と見なされる見解が他の過激派に受け入れられ、すぐに取り入れられた。^[33]これらの見解は、フォーラム、グループチャット、ソーシャルメディアによって奨励され、彼らの信念を強化している。^[34]

『ソーシャル・ジレンマ』は、ソーシャルメディアのアルゴリズムがどのように依存症を助長し、人々の意見、感情、行動を操作して陰謀論や偽情報を広める能力を持っているかを描いた2020年のドキュメンタリードラマです。この映画では、「エコーチェンバー」や「フェイクニュース」などの流行語を繰り返し使用して、ソーシャルメディアでの心理的操作、ひいては政治的操作につながることを証明しています。映画の中で、アルゴリズムが彼のソーシャルメディアページの長期エンゲージメントの確率を62.3％と判断すると、ベンはソーシャルメディア依存症にさらに深く陥ります。これにより、ベンのおすすめフィードに動画が増え、最終的に彼はプロパガンダや陰謀論にますます浸り、動画ごとに二極化していきます。

通信品位法第230条は、「双方向コンピュータサービスのプロバイダーまたはユーザーは、他の情報コンテンツプロバイダーが提供する情報の発行者または発言者として扱われてはならない」と規定している。^[35]第230条は、ユーザーによる違法行為など、第三者のコンテンツに対する責任や訴訟からメディアを保護する。^[35]しかし、批評家は、このアプローチは企業が有害なコンテンツや誤情報を削除する動機を減らし、この抜け穴によりソーシャルメディア企業が法的リスクなしに過激なコンテンツをプッシュすることで利益を最大化することを可能にしていると主張している。^[36]この主張自体は、第230条の支持者から批判されている。なぜなら、この条項が可決される前に、裁判所はStratton Oakmont, Inc. v. Prodigy Services Co.で、いかなる立場でのモデレーションも、彼らが残すことを選択したコンテンツの「発行者」としてコンテンツプロバイダーに責任をもたらすという判決を下していたからである。^[37]

議員らは、アルゴリズムコンテンツに対する第230条の保護を弱めるか削除する法案を起草した。下院民主党の アンナ・エスホー、フランク・パローネ・ジュニア、マイク・ドイル、ジャン・シャコウスキーは、2021年10月にHR5596として「悪質なアルゴリズムに対する正義法」を提出した。この法案は委員会で廃案となったが^{[38] 、ユーザーにコンテンツを提示するパーソナライズされた}推奨アルゴリズムが故意にまたは無謀に身体的または深刻な精神的傷害につながるコンテンツを配信した場合、サービスプロバイダーに対する第230条の保護を削除するものであった。^[39]