コンテンツモデレーション

ユーザーがコンテンツを作成できるウェブサイトでは、コンテンツモデレーションとは、有用または有益な投稿とは対照的に、無関係、わいせつ、違法、有害、または侮辱的な投稿を検出するプロセスであり、多くの場合、検閲や反対意見の抑制を目的としています。コンテンツモデレーションの目的は、問題のあるコンテンツを削除または警告ラベルを適用すること、またはユーザーが自分でコンテンツをブロックおよびフィルタリングできるようにすることです。^[1]

さまざまな種類のインターネット サイトでは、投稿、コメント、動画などのユーザー生成コンテンツが許可されています。これには、インターネット フォーラム、ブログ、 phpBB、Wiki、PHP-Nukeなどのスクリプトで動作するニュース サイトが含まれます。サイトのコンテンツと対象ユーザーに応じて、サイトの管理者はどのような種類のユーザー コメントが適切かを決定し、コメントをふるいにかける責任をより低いレベルのモデレーターに委任します。ほとんどの場合、モデレーターは荒らし、スパム、炎上を排除しようとしますが、これはサイトによって大きく異なります。

主要プラットフォームは、アルゴリズムツール、ユーザーレポート、人間によるレビューを組み合わせて使用​​しています。^[1] ソーシャルメディアサイトは、ヘイトスピーチやその他の不快なコンテンツとしてフラグが付けられたコンテンツを手動でフラグ付けまたは削除するためにコンテンツモデレーターを雇うこともあります。その他のコンテンツの問題には、リベンジポルノ、グラフィックコンテンツ、児童虐待コンテンツ、プロパガンダなどがあります。^[1]一部のウェブサイトでは、コンテンツを広告に適したものにする必要があります。^[1]

米国では、コンテンツ モデレーションは通信品位法第230 条によって規制されており、この問題に関するいくつかの訴訟が米国最高裁判所に持ち込まれており、現在のMoody v. NetChoice, LLC がその例です。

一方的モデレーションとも呼ばれるこの種のモデレーションシステムは、インターネットフォーラムでよく見られる。サイトの管理者（通常は長期）によって選ばれた一団の人々が代表として行動し、コミュニティのルールを管理者に代わって施行する。これらのモデレーターには、他の人の投稿を削除または編集したり、電子メールアドレスやIPアドレスに基づいて人を除外したりする特別な権限が与えられており、一般的にコミュニティ全体から否定的な投稿を排除しようとする。^[2]

商業コンテンツモデレーションは、サラ・T・ロバーツが作った造語で、「あらゆる種類のソーシャルメディアプラットフォームのユーザー生成コンテンツ（UGC）を監視および審査し、コンテンツが法律や規制の要件、サイト/コミュニティガイドライン、ユーザー契約に準拠していること、およびそのサイトとその文化的文脈の嗜好と許容範囲の基準に収まっていることを確認する」という実践を表します。^[3]

コンテンツモデレーション業界の価値は90億ドルと推定されている。公式の数字は発表されていないが、2022年時点でTikTokには1万人、Facebookには1万5000人、 Twitterには1500人のコンテンツモデレーターがいると推定されている。 ^[4]

コンテンツモデレーションのグローバルバリューチェーンには、通常、ソーシャルメディアプラットフォーム、大手MNE企業、コンテンツモデレーションサプライヤーが含まれます。ソーシャルメディアプラットフォーム（Facebook、Googleなど）は、主に米国、ヨーロッパ、中国に拠点を置いています。MNE（Accenture、Foiweなど）は通常、グローバル北部またはインドに本社を置いていますが、コンテンツモデレーションのサプライヤーは主にインドやフィリピンなどのグローバル南部の国に拠点を置いています。^{[5] ：79–81}

かつてはオンラインコミュニティ内のボランティアがこの作業を行っていたが、商業ウェブサイトでは主にインドやフィリピンなどの低賃金地域の専門企業に業務をアウトソーシングすることで実現されている。コンテンツモデレーション業務のアウトソーシングはソーシャルメディアブームの結果として増加した。ユーザーとUGCの圧倒的な増加により、企業はコンテンツをモデレートするためにより多くの従業員を必要とした。1980年代後半から1990年代初頭にかけて、ハイテク企業は教育を受けた労働力を持ち、安価で働くことをいとわない外国に業務をアウトソーシングし始めた。^[6]

従業員は不快なコンテンツを閲覧、評価、削除する業務を行っています。^[7] Wiredは2014年に、従業員が精神的ダメージを受ける可能性があると報じました^{[8] [9] [10] [2] [11]} 2017年には、GuardianがPTSDに似た症状を伴う二次トラウマが発生する可能性があると報じました。^[12] Facebookなどの大企業の中には、心理的サポートを提供しているところもあり^[12]、最も露骨で不適切なコンテンツを選別するために人工知能の使用にますます依存していますが、批評家はそれが不十分であると主張しています。^[13] 2019年、NPRはそれを職務上の危険と呼びました。^{[14]コンテンツモデレーターを雇う場合、}秘密保持契約が標準です。これにより、モデレーターは労働条件について発言したり、組織化したりすることをためらうようになります。^[4]

ストレスや心的外傷後ストレス障害などの心理的危険と、アルゴリズム管理の不安定さや低賃金が相まって、コンテンツのモデレーションは極めて困難になっています。 ^{[15] ：123}著作権侵害のコンテンツのラベル付け、ヘイトスピーチを含む投稿の削除、グラフィックコンテンツのレビューなど、完了したタスクの数は、パフォーマンスと品質保証のために定量化されます。^[4]

2019年2月、 The Vergeによる調査レポートで、アリゾナ州フェニックスにあるコグニザントのオフィスの劣悪な労働条件が報告された。^[16] Facebookのコンテンツモデレーションを担当するコグニザントの従業員は、評価を指示された動画で生々しい暴力、ヘイトスピーチ、陰謀論にさらされた結果、心的外傷後ストレス障害などの精神衛生上の問題を発症した。 ^{[16] [17]}フェニックスオフィスのモデレーターは、職場での薬物乱用、アルコール乱用、性交を報告し、解雇された従業員から危害を加えると脅されて報復を受けることを恐れた。^{[16] [18]}これに対して、コグニザントの代表者は、同社がレポートの問題を調査すると述べた。^[16]

ザ・ヴァージは2019年6月にコグニザントのフロリダ州タンパ事務所の追跡調査を公開した。^{[19] [20]}タンパ事務所の従業員はフェニックス事務所よりも労働条件が悪いと述べた。^{[19] [21] [22]}

モデレーターは仕事を得るためにコグニザントとの秘密保持契約に署名する必要があったが、3人の元従業員が契約を破ってThe Vergeに情報を提供した。^{[19] [23]}タンパオフィスでは、従業員はメンタルヘルスのリソースが不十分であると報告した。^{[19] [24]生々しい暴力、}動物虐待、児童性的虐待を描いたビデオにさらされた結果、一部の従業員は精神的トラウマや心的外傷後ストレス障害を発症した。^{[19] [25]}コンテンツモデレーション契約に関する否定的な報道を受けて、Facebookのディレクターは、Facebookが請負業者を支援する「グローバルレジリエンスチーム」を開発中であることを示唆した。^[19]

Facebookは、法的要件やその他の論争により、2017年にコンテンツモデレーターの数を4,500人から7,500人に増やしました。ドイツでは、Facebookはヘイトスピーチが投稿されてから24時間以内に削除する責任がありました。^[26] 2018年後半、Facebookはどのコンテンツを残し、どのコンテンツを削除するかを決定するための監督委員会または社内の「最高裁判所」を設置しました。^[14]

フランシス・ホーゲンによると、2021年時点でコンテンツモデレーションを担当するFacebook従業員の数ははるかに少なかったという。^[27]

ソーシャルメディアサイトTwitterにはアカウント停止ポリシーがある。2015年8月から2017年12月の間に、イスラム国に関連するフォロワー数とコンテンツの量を減らすために、テロリストのコンテンツを理由に120万以上のアカウントを停止した。^[28] 2022年10月にイーロン・マスクがTwitterを買収した後、言論の自由を優先する試みとして、プラットフォーム全体でコンテンツルールが緩和された。^[29]しかし、このキャンペーンの効果は疑問視されている。^{[30] [31]}

ユーザーモデレーションにより、どのユーザーも他のユーザーの投稿をモデレートすることができます。現在、何十億もの人々が、毎日何を共有、転送、または公開するかを決定しています。^[32] アクティブ人口が十分に多い大規模なサイトでは、比較的少数のトラブルメーカーがコミュニティの残りの人々の投票によって排除されるため、これは通常うまく機能します。

ユーザーによるモデレーションは、リアクティブ・モデレーションとも呼ばれます。このタイプのモデレーションは、プラットフォームやサイトのユーザーが不適切でコミュニティの基準に違反するコンテンツを報告することで成り立っています。このプロセスでは、ユーザーは不適切と思われる画像や動画に遭遇した場合、報告ボタンをクリックできます。苦情は提出され、モデレーターが確認できるようキューに入れられます。^[33]

Meta、ByteDance、OpenAIと契約している150人のコンテンツモデレーターがケニアのナイロビに集まり、2023年5月1日に初のアフリカコンテンツモデレーター組合を設立した。この組合は、ダニエル・モタウンがFacebookと契約しているSamaで組合を組織したために解雇され報復されてから4年後に設立された。^[34]

• いいねボタン
• メタモデレーションシステム
• ムーディー対ネットチョイスLLC
• レコメンデーションシステム
• 信頼指標
• この投稿を削除しなければなりませんでした

• サラ・T・ロバーツ（2019年）。『スクリーンの裏側：ソーシャルメディアの影に潜むコンテンツモデレーション』イェール大学出版局。ISBN 978-0300235883。

• Alhoori, Hamed; Alvarez, Omar; Furuta, Richard; Muñiz, Miguel; Urbina, Eduardo (2009)、「オンライン評判に基づくソーシャルコラボレーションによるコミュニティによる学術書誌の作成支援」、Research and Advanced Technology for Digital Libraries、vol. 5714、ベルリン、ハイデルベルク: Springer、pp. 180–191、doi :10.1007/978-3-642-04346-8_19、ISBN 978-3-642-04345-1、2024-07-24取得

ウィキメディア・コモンズには、コンテンツ・モデレーションに関連するメディアがあります。

• データ ワーカーズ インクワイアリーは、ヴァイゼンバウム研究所、ベルリン工科大学、DAIRの共同研究です。
• Cliff Lampe および Paul Resnick: スラッシュ (ドット) アンド バーン: 大規模なオンライン会話スペースでの分散モデレーション、コンピューティング システムにおける人間工学に関する SIGCHI 会議の議事録、目次、オーストリア、ウィーン、2005 年、543 ～ 550 ページ。