オンライン上のヘイトスピーチ

ヘイトスピーチは、さまざまな形式で複数のプラットフォームに長期間残り、繰り返しリンクされる可能性があります。オンラインヘイト防止研究所のCEOであるアンドレ・オボラー氏が指摘しているように、「コンテンツが利用可能である期間が長ければ長いほど、被害者に与えるダメージは大きくなり、加害者を力づけることになります。コンテンツを早期に削除すれば、露出を制限できます。これはゴミを掃除するのと同じで、ゴミを捨てる人を止めることはできませんが、問題に対処しなければ、ゴミは積み重なり、さらに悪化するだけです。」^{[ 8 ]}トレンドトピックを中心に構成されたTwitterの会話は、憎悪に満ちたメッセージの迅速かつ広範囲な拡散を促進する可能性がありますが、^{[ 9 ]}影響力のある発言者がメッセージを避け、暴力を扇動する人気のあるスレッドを終了させる機会も提供します。一方、 Facebookは、複数のスレッドが並行して継続され、気づかれないままになることを許容する可能性があり、特定の個人やグループを侮辱、差別、嘲笑するより長く続く空間を作り出します。^{[ 3 ]}

オンライン上のヘイトスピーチは、拡散する可能性があります。コンテンツが削除されても、別のプラットフォームで別の名前で、あるいは別のオンライン空間で表現される可能性があります。ウェブサイトが閉鎖されても、規制の緩いウェブホスティングサービスを利用したり、ヘイトスピーチに対する法律の基準が高い国に拠点を移したりすることで、すぐに再開できます。ヘイトスピーチの拡散性は、過去には公に表現され支持されることがなかった不適切な考えや、影響下にある行動が、今では大勢の人々の目に触れる可能性のある空間に現れる可能性があることを意味します。^{[ 3 ]}

匿名性は、オンラインのヘイトスピーチへの対処においても課題となる可能性がある。インターネット上の議論は匿名または偽名で行われることがあり、人々は意見を表明する際に安心感を覚えるかもしれないが、破壊的な行動を加速させる可能性も十分にある。^{[ 10 ]} The Sentinel Projectの運営責任者である Drew Boyd 氏が述べているように、「インターネットは、人々が発見されないと考えるため、恐ろしいことを言う能力を個人に与えている。これがオンラインのヘイトスピーチを非常に特殊なものにしている。なぜなら、人々は現実世界で発言の結果に対処しなければならない場合と比べて、憎悪を口にする方がはるかに安心できるからだ。」^{[ 11 ]}中国と韓国は、ソーシャルメディアで実名ポリシーを施行している。Facebook 、LinkedIn、Quora は、オンラインのヘイトスピーチをより厳しく管理するために実名システムを有効化しようとしてきた。こうした措置は、プライバシーの権利と表現の自由との交わりを侵害するものと見なされているため、激しい議論を呼んでいる。

オンライン上のヘイトスピーチの多くは、インターネットの「トロール」によって投稿されています。トロールとは、通常、匿名のユーザーであり、衝撃的で下品で、全体的に真実ではないコンテンツを投稿し、明らかに否定的な反応を引き起こすことを意図していますが、同じ意見を持つ読者に影響を与えたり、自分の信念に勧誘したりすることも意図している場合があります。^{[ 12 ]}ソーシャルメディアはまた、過激派や極端主義の政治団体や宗教団体が結成、ネットワーク化、協力して反体制や反政治的正しさのメッセージを広め、人種差別的、反フェミニズム的、同性愛嫌悪的、トランスフォビア的などの信念やイデオロギーを促進するためのプラットフォームを提供してきました。 ^{[ 13 ]}完全に匿名のオンラインコミュニケーションはまれであり、ユーザーが容易に特定されないようにするために高度な技術的手段を用いる必要があります。^{[ 3 ]}

さらに複雑なのは、インターネットの国境を越えた普及であり、ヘイトスピーチ対策の法的メカニズムに関して、管轄区域をまたいだ協力の問題が生じている。ヨーロッパ、アジア、北米には相互法的支援条約が存在するが、その運用は概して遅い。多くの民間インターネット仲介業者の国境を越えた普及は、場合によっては問題解決のためのより効果的な手段となる可能性があるが、これらの機関もまた、管轄区域をまたいだデータ要求（特定のコンテンツの作成者の身元を明らかにするなど）の影響を受けることが多い。^{[ 3 ]}また、管轄区域によってヘイトスピーチの定義が異なるため、より緩やかな管轄区域に逃亡する可能性のある加害者を訴追することが困難になっている。^{[ 14 ]}

従来の経路を通じたヘイトスピーチの拡散とは異なり、オンラインのヘイトスピーチの被害者は、誰に助けを求めればよいのか分からず困難に直面する可能性がある。プラットフォーム、地元の法執行機関、ヘイトスピーチを使用している人物の地元の法執行機関は、ヘイトスピーチに関する方針や法律が整備されている場合でも、この問題が自分たちの管轄外であると感じる可能性があるからである。非政府組織やロビー団体は、意識を高め、さまざまな関係者に行動を起こすよう促している。^{[ 3 ]}

Facebookなどの一部のテクノロジー企業は、人工知能（AI）システムを使用してヘイトスピーチを監視しています。^{[ 15 ]}しかし、AIは人間の持つ判断能力が欠けているため、ヘイトスピーチを監視する効果的な方法とは限らない場合があります。^{[ 16 ]}例えば、ユーザーがヘイトスピーチに分類されるものやコミュニティガイドラインに違反するものを投稿またはコメントしたとしても、対象の単語のスペルが間違っていたり、一部の文字が記号に置き換えられていたりすると、AIシステムはそれを認識しません。この弱点により、COVID-19の流行中にワクチン接種に躊躇する人々が「vaccines」の代わりに「vachscenes」を使用するなど、意図的なスペルミスを使用して検閲アルゴリズムを回避しようとする試みが蔓延しています。^{[ 17 ]}そのため、人間は依然としてヘイトスピーチを監視するAIシステムを監視する必要があります。これは、AI技術における一般的な問題であり、「自動化のラストマイル」と呼ばれています。^{[ 16 ]}つまり、仕事の最後の10%または1%を完了するのが最も難しいということです。

1969年に発効したあらゆる形態の人種差別の撤廃に関する国際条約（ ICERD）もまた、ヘイトスピーチの概念化に影響を与えている。ICERDは、ICCPRとは3つの点で異なっている。 ^{[ 3 ]}ヘイトスピーチの概念化は、人種や民族に言及する発言に特に限定されている。第4条(a)項では、締約国は、

「人種的優越性または憎悪に基づく思想の流布、人種差別の扇動、およびあらゆる人種または肌の色や民族的出自の集団に対するあらゆる暴力行為またはそのような行為の扇動、ならびに人種差別的活動へのあらゆる援助（資金提供を含む）を、法律で処罰される犯罪として宣言する。ICERDが締約国に課すこの義務は、必ずしも差別、敵意または暴力の扇動を伴わない人種差別的思想の犯罪化を規定するICCPR第20条の場合よりも厳格である。」

重要な違いは、意図の問題にある。ICCPRで導入された「憎悪の扇動」という概念は、ICERDで記述されている差別的言論よりも具体的である。なぜなら、表現そのものだけでなく、発言者の意図を考慮する必要があると解釈されているからである。これは、ICCPRでは「扇動」が憎悪を煽る意図を必要とするものと解釈されているためである。^{[ 31 ]}人種差別撤廃委員会は、一般勧告29においてヘイトスピーチに積極的に取り組んでおり、同委員会は締約国に対し以下のことを勧告している。

「（r）カーストの優劣に関する思想の流布、または出自に基づくコミュニティに対する暴力、憎悪、差別を正当化しようとする行為に対して措置を講じること。（s）インターネットを含むあらゆる手段による、コミュニティに対する差別や暴力の扇動に対して厳格な措置を講じること。（t）メディア関係者の間で出自に基づく差別の性質と発生状況についての認識を高めるための措置を講じること。」^{[ 32 ]}

これらの点は、ICERDが表現の普及に言及していることを反映しており、インターネットにとって重要な意味を持つ。一部のオンライン環境での思想の表現は、直ちにその思想の拡散につながる可能性がある。これは、多くのソーシャルネットワーキングプラットフォームの場合のように、公共的な役割を担い始めた私的な空間にとって特に重要である。^{[ 3 ]}

ICERDと同様に、ジェノサイド条約は人種、国籍、民族によって定義される集団を保護することを目的としているが、その規定は宗教集団にも及んでいる。ヘイトスピーチに関しては、ジェノサイド条約は、平和時か戦時かを問わず、 「国民的、民族的、人種的、宗教的集団を全体的または部分的に破壊する意図をもって行われた行為」として認識される、公然とジェノサイドを扇動する行為のみに限定されている。^{[ 3 ]}特にジェンダーに基づくヘイトスピーチ（差別行為とは区別される）は、国際法では詳細に扱われていない。^{[ 3 ]}

1981年に発効した女子差別撤廃条約（ CEDAW）は、各国に対し、女性に対する差別を非難し^{[ 33 ]}、ジェンダーに基づく暴力行為を「防止、調査、訴追、処罰する」義務を課している^{[ 34 ] 。}

米州人権条約は、第19条(3)において、市民的及び政治的権利に関する国際規約と同様の方法で表現の自由に対する制限について規定している。米州機構もまた、表現の自由の原則に関する別の宣言を採択しており、その中には「真実性、適時性、公平性などの表現に対する事前条件付けは、国際文書で認められている表現の自由の権利と両立しない」という特定の条項が含まれている。^{[ 35 ]}米州裁判所は、「情報自由の濫用は、予防措置によって制御することはできず、濫用を行った者に対する制裁を事後的に課すことによってのみ制御できる」と勧告している。^{[ 36 ]}裁判所はまた、表現の自由に対する制限を制定しようとする国家に対しても、以下の要件を遵守する必要があるというテストを課している。「a) 既に確立された責任の根拠の存在、b) これらの根拠の法律による明示的かつ正確な定義、c) 達成しようとする目的の正当性、d) これらの責任の根拠が前述の目的を『確保するために必要』であることを示すこと」。^{[ 37 ]}米州人権システムには表現の自由に関する特別報告者がおり、ヘイトスピーチに関する包括的な調査を実施した。同報告者は、米州人権システムは国連や欧州のアプローチとは重要な点で異なっていると結論付けた。米州人権システムは実際に暴力につながるヘイトスピーチを対象として制限しており、そのようなスピーチのみが制限される可能性がある。^{[ 37 ]}

アフリカ人権憲章は第9条(2)で異なるアプローチを取り、「法律の範囲内」であれば権利の制限を認めている。この概念は批判されており、いわゆる「クローバック」条項とその解釈に関する膨大な量の法学研究が存在する。[ ^{38 ]批判}の主な対象は、各国が自国の法律を操作して表現の自由の権利の本質を弱めることができるという点である。アフリカにおける表現の自由に関する原則宣言は、表現の自由の制限についてより高い基準を詳述している。この宣言は、「正当な利益に危害が及ぶ現実的な危険があり、かつ危害の危険と表現との間に密接な因果関係がある場合を除き、公共の秩序または国家安全保障上の理由で権利を制限してはならない」と宣言している。^{[ 39 ]}

1990年、イスラム協力機構（後にイスラム協力機構、OICに改称）は、イスラムにおける人権に関するカイロ宣言（CDHRI）を採択し、差し迫った暴力の事例にとどまらず、「明白な不寛容と憎悪を示す行為や発言」を含む言論の犯罪化を求めた。^{[ 40 ]}

2004年にアラブ連盟理事会で採​​択されたアラブ人権憲章の第32条には、オンライン通信にも関連する規定が含まれており、「地理的境界に関係なく、あらゆる媒体を通じて意見と表現の自由、情報と思想を求め、受け取り、伝える権利」を保障している。^{[ 41 ]}また、第2項では「このような権利と自由は、社会の基本的価値観に従って行使されなければならない」と広く制限を認めている。^{[ 42 ]}

ASEAN人権宣言は、第23条で表現の自由の権利を規定している。同宣言の第7条は一般的な制限を規定しており、「人権の実現は、異なる政治的、経済的、法的、社会的、文化的、歴史的、宗教的背景を念頭に置き、地域的および国家的文脈で考慮されなければならない」と述べている。^{[ 43 ]}

表現の自由の権利を第11条で宣言している欧州連合基本権憲章には、権利の濫用を禁止する条項がある。同条項は、憲章は「憲章に規定されている以上の制限」を意味するものと解釈されてはならないと主張している。 ^{[ 44 ]}必要性と比例性の厳格なテストを意味する制限の例として、欧州人権条約の表現の自由に関する規定がある。同条約は、表現の自由の行使には義務と責任が伴うことを強調している。表現の自由は、「法律で定められ、民主主義社会において必要であり、国家安全保障、領土保全または公共の安全の利益のため、無秩序または犯罪の防止のため、健康または道徳の保護のため、他者の名誉または権利の保護のため、秘密裏に受け取った情報の開示を防止するため、または司法の権威と公平性を維持するために必要な形式、条件、制限または罰則の対象となる場合がある」。^{[ 45 ]}

欧州人権裁判所は、ヘイトスピーチと、たとえ他者が不快感を抱いたとしても、個人が自由に意見を表明する権利とを慎重に区別している。^{[ 46 ]}オンラインのヘイトスピーチに特に関連する地域的な事例がある。欧州評議会（CoE）は2000年に、インターネットを介した人種差別的、外国人嫌悪的、反ユダヤ主義的な資料の拡散に対処するための一般政策勧告を発表した。 ^{[ 47 ]} 2001年に作成されたCoEサイバー犯罪条約は、捜査権限に関する相互支援を規定しており、署名国は、オンライン上の国境を越えたヘイトスピーチを含むコンピュータデータに対処するためのメカニズムを得ている。^{[ 48 ]} 2003年、CoEは、オンライン上の人種差別と外国人嫌悪の表現に対処するサイバー犯罪条約の追加議定書を発表した。この条約とその議定書は、ヨーロッパ以外の国々の署名と批准のために開放され、カナダや南アフリカなどの国々は既にこの条約に参加している。この議定書は、加盟国に対し、オンライン上で「(i)人種、肌の色、出自、国籍または民族的出自、あるいは宗教によって区別される集団に属しているという理由で個人を侮辱する行為、または(ii)これらの特徴のいずれかによって区別される集団を侮辱する行為」を犯罪とする義務を課している。^{[ 49 ]}

ピュー・リサーチ・センターは、 2020年7月に1万人以上の成人を対象に、ソーシャルメディアが政治や社会正義活動に与える影響について調査した。回答者のうち、ソーシャルメディアを利用している成人の23%が、ソーシャルメディアのコンテンツによって、政治的または社会正義の問題に対する意見が肯定的にも否定的にも変化したと回答した。^{[ 52 ]}これらの回答者のうち35%は、ブラック・ライブズ・マター運動、警察改革、および/または人種関係を挙げた。^{[ 52 ]}回答者の18%は、政党、イデオロギー、政治家、および/またはドナルド・トランプ大統領に対する意見の変化を報告した。^{[ 52 ]}回答者の9%は、 LGBTQIA+の権利、フェミニズム、移民などの社会正義の問題を挙げた。^{[ 52 ]}回答者の8%はCOVID-19パンデミックに対する意見の変化を挙げ、10%はその他の意見を挙げた。^{[ 52 ]}これらの結果に基づくと、ソーシャルメディアは世論に影響を与える上で重要な役割を果たしている。

アリス・マーウィックとレベッカ・ルイスの研究者による研究では、メディア操作を観察し、オルタナ右翼が物議を醸す信念を広めるためにどのようにマーケティング、ネットワーク構築、協力したかを調査し、それが2016年の大統領選挙におけるトランプ大統領の勝利に影響を与えた可能性があるとしました。主流メディアとは異なり、オルタナ右翼は影響力を行使する際にいかなる規則にも従う必要がなく、ネットワークの視聴率、視聴者のレビュー、センセーショナリズムを心配する必要もありません。^{[ 53 ]}オルタナ右翼グループは、あらゆるプラットフォームで、望む限り率直かつ大胆に物議を醸す信念を共有し、他者を説得することができ、それが2016年の選挙で役割を果たした可能性があります。この研究では、選挙に具体的にどのような影響があったかを結論付けることはできませんでしたが、メディア操作とトローリングの特徴に関する広範な研究を提供しました。^{[ 53 ]}

教授でありゲーマーでもあるキショナ・グレイは、オンラインゲームコミュニティにおける交差的抑圧を研究し、マイクロソフトとゲーム開発者に対し、「オンラインコミュニティにおける非伝統的なゲーマーの経験を批判的に評価し、多様性を認識し、デフォルトのゲーム人口が、その空間内の非白人および/または非男性のユーザーに不利益をもたらす形で、覇権的な白人性と男性性を展開している」ことを求めた。 ^{[ 54 ]}グレイは、オンラインゲームコミュニティにおける性差別と人種差別を調査した。ゲーマーは、他のプレイヤーが見えないときに、言語的プロファイリングを通じて、チームメイトや対戦相手の性別、性的指向、民族的背景を特定しようとする。 ^{[ 54 ]}仮想ゲーム空間の緊迫した雰囲気と、見られたり、位置を特定されたり、物理的に対峙されたりしないことができないため、ゲーマーは、公共の場ではおそらく言わないであろうことを仮想ゲームで言う傾向がある。社会的に疎外されたコミュニティのゲーマーの多くは、ゲーム中の差別を避けるために、グローバルなゲームネットワークから離脱し、同じ性別、性的指向、および/または民族的アイデンティティを持つゲーマーのみで構成される「クラン」に参加しています。ある調査によると、オンラインゲーマー全体の78%が「クラン」に似た小規模なプレイヤーグループである「ギルド」でプレイしています。^{[ 55 ]}最も注目すべき「クラン」の1つであるPuerto Reekan Killazは、LGBTQIA+コミュニティの黒人女性とラテン系女性が人種差別、排外主義、同性愛嫌悪、性差別、性的嫌がらせの危険なしにプレイできるオンラインゲーム空間を作成しました。^{[ 54 ]}

ヘイトスピーチに加えて、教授でありゲーマーでもあるリサ・ナカムラは、多くのゲーマーがアイデンティティ・ツーリズム（個人またはグループが別のグループのメンバーになりすましてプレイすること）を経験していることを発見した。ナカムラは、白人男性ゲーマーが日本の「芸者」女性としてプレイしているのを観察した。^{[ 56 ]}アイデンティティ・ツーリズムは、ステレオタイプ化、差別、文化の盗用につながることが多い。^{[ 56 ]}ナカムラは、オンラインゲームコミュニティに対し、サイバータイピング（「インターネットが人種や人種差別のイメージを広め、拡散し、商品化する方法」）を認識するよう呼びかけた。^{[ 57 ]}

Stop AAPI (Asian-American/Pacific Islander) Hateによると、2020 年 8 月現在、2,500 人以上のアジア系アメリカ人がCOVID-19をきっかけとした人種差別を経験したと報告しており、そのうち 30.5% のケースには反中国的な言説が含まれている。これらの事件で使用された言葉は、激しい敵意、中国へのスケープゴート、反移民排外主義、中国人に対する人種差別的な特徴付け、人種差別的な中傷の 5 つのカテゴリーに分けられる。報告されたこれらの事件の 60.4% は激しい敵意のカテゴリーに当てはまり、「中国人のケツを私から遠ざけろ！」などのフレーズが含まれる^{[ 58 ]}

宗教的および民族的少数派、女性、その他の社会的に疎外されたグループに対するオンライン上のヘイトスピーチとサイバーいじめは、パキスタン・イスラム共和国では長らく軽視または無視されてきた問題である。^{[ 59 ] [ 60 ] [ 61 ] [ 62 ]}

オンライン^{[ 63 ]}と現実世界^{[ 64 ]}の両方でアフマディー派に対するヘイトスピーチが、大規模な迫害につながっている^{[ 65 ]}。

南アジアのイニシアチブであり、APCのメンバープロジェクトであるBytesForAllは、2014年6月7日にパキスタンにおけるオンライン上のヘイトスピーチに関する調査結果を発表した。^{[ 66 ] [ 67 ]}

この研究は2つの独立した段階で構成された。

報告書によると：

インターネットは前例のない速度で成長しました。ミャンマーはより大きな開放性とアクセスへと移行しており、ヘイトスピーチや暴力の呼びかけなどのソーシャルメディアの負の側面につながっています。^{[ 68 ]} 2014年、国連人権理事会少数民族問題特別報告者は、メディアやインターネット上で、特に少数民族コミュニティを標的とした誤情報、ヘイトスピーチ、暴力の扇動、差別、敵意の拡散について懸念を表明しました。 ^{[ 5 ]}オンライン上の緊張の高まりは、数百人が死亡し、数千人が避難を余儀なくされた実際の暴力事件と並行しています。^{[ 69 ]}この過程における課題の1つは、民族的および宗教的少数民族に関するものです。2013年には、同国西部のラカイン州での紛争後に発生した衝突により43人が死亡しました。 ^{[ 69 ]}その1年前には、レイプ事件の疑い後に発生した民族的暴力により、200人以上が死亡し、数千人が避難を余儀なくされました。^{[ 70 ]}このような背景のもと、人口のごく一部ではあるものの、新たなオンライン空間が急速に出現したことは、こうした根深い緊張関係を新たな形で反映している。^{[ 3 ]}

オンライン上の不寛容やヘイトスピーチへの対処は、新たな課題となっています。Facebookは、オンラインに初めて足を踏み入れる市民にとって、急速に選ばれるプラットフォームとなっています。このような環境下では、特に正義感や国益を守るために行動しているという主張によって守られていると感じている個人やグループが、このメディアをより積極的に利用することを提唱してきました。政治家も特定の目的のためにオンラインメディアを利用してきました。ソーシャルメディアでは、少数派に関して侮辱的な用語が使用されています。^{[ 71 ]}この複雑な状況において、さまざまな関係者が、さらなる暴力を回避できる対応策を提供しようと動き始めています。Facebookは、ミャンマーにおけるソーシャルネットワークプラットフォームの利用状況を監視するために、より積極的な役割を担おうとしており、地元の組織とパートナーシップを構築し、ビルマ語で問題報告に関するガイドラインを提供しています。^{[ 72 ] [ 3 ]}

地元の市民社会は、オンラインでのヘイトスピーチの拡散を公然と非難する強い声を上げてきたが、同時に検閲に代わる手段を求めてきた。最も革新的な対応の一つが、ビルマ語で「花の言葉」を意味するPanzagarで、ブロガーで活動家のNay Phone Lattがヘイトスピーチに公然と反対するために立ち上げたキャンペーンである。このイニシアチブの目標は、人々がオンラインとオフラインの両方でどのように交流できるかを示す楽しい例を提供することであった。^{[ 73 ]}地元の活動家は、これらの問題に関してグローバルな市民社会を動員しようとするのではなく、地元の解決策に焦点を当ててきた。これは、比較的無視されてきた問題に世界の注目を集めることができた他のいくつかのオンラインキャンペーンとは対照的である。スーダンの内戦のためにSave Darfur Coalitionが推進したイニシアチブや、LRAによる残虐行為を非難したKony2012キャンペーンを行ったInvisible Childrenなどのイニシアチブは、よく知られた例である。これらのキャンペーンに関する論評が指摘しているように、このような世界的な対応は、地域的な解決策を見出す能力に悪影響を及ぼす可能性がある。^{[ 74 ]}

2019年～2020年

エチオピアにおけるオロモ族とアムハラ族の長年にわたる民族対立は、 Facebook上で戦場を見出し、ヘイトスピーチ、脅迫、偽情報、そして死者を出した。Facebookには、エチオピアで話されている主要言語のどちらにも精通したファクトチェッカーはおらず、コミュニティガイドラインの翻訳も提供していないため、Facebook上のヘイトスピーチはエチオピアではほとんど監視されていない。その代わりに、Facebookは活動家が潜在的なヘイトスピーチや偽情報を報告することに頼っているが、多くの疲弊した活動家は不当な扱いを受けていると感じている。^{[ 75 ]}

2019年10月、エチオピアの活動家ジャワル・モハメドは、宗教的および民族的緊張を理由に警察が自分を拘束するとFacebook上で虚偽の発表をした。これを受けて、コミュニティは彼の拘束疑惑と人種的および民族的緊張に抗議し、70人以上が死亡した。^{[ 76 ]}

フェイスブック上で、オロモ族出身の人気エチオピア人歌手、ハチャル・フンデッサを標的とした偽情報キャンペーンが始まった。投稿では、フンデッサが物議を醸しているアビィ・アハメド首相を支持していると非難しており、オロモ民族主義者たちは、アビィ首相が他の民族グループに迎合しているとして彼を非難していた。フンデッサは、フェイスブック上の憎悪に満ちた投稿の後、2020年6月に暗殺され、国民の怒りを招いた。フェイスブックのユーザーは、長い憎悪に満ちた投稿の中で、何の証拠もなく、フンデッサの暗殺は^アムハラ人のせいだと非難した。[75] ヘイトスピーチ反対ネットワークによると、フェイスブックの多くの投稿は「民族^{グループや}宗教、あるいはその両方に対するジェノサイド攻撃」を呼びかけ、「民間人の財産を焼き払い、残忍に殺害し、追放するよう人々に命じる」ものだった。^{[ 75 ]}街頭やフェイスブック上での暴力はエスカレートし、エチオピア政府は3週間インターネットを遮断するに至った。しかし、近隣諸国は依然としてこの件に関する憎悪に満ちたコンテンツを投稿したりアクセスしたりすることができ、ボランティアの活動家はインターネットにアクセスしてヘイトスピーチを報告することができませんでした。そのため、ハムライン大学のエンダルク・チャラ教授によると、「ディアスポラコミュニティから送られてきた何時間ものビデオがあり、過激な内容で、この民族集団を絶滅させる必要があると言っている」とのことです。^{[ 75 ]}

Facebookの幹部らは調査のためエチオピアへ赴いたが、調査結果は公表しなかった。Facebookはエチオピアでアムハラ語やその他の言語を話せるモデレーターを雇用すると発表したが、詳細な情報は明らかにしなかった。^{[ 75 ]}

2020年後半～2021年

2020年11月に始まったティグレ戦争では、軍事衝突やあらゆる側による戦争犯罪（人道に対する罪に相当する可能性もある）が発生し、オンライン上でヘイトスピーチが行われた。 ^{[ 77 ]} 2021年11月のオンラインソーシャルメディア上のヘイトスピーチでは、ジャーナリスト、政治家、連邦政府支持派の活動家がティグレ人を「裏切り者」と呼び、近隣住民にティグレ人を「除草」するよう呼びかけ、当局にティグレ人を「強制収容所」に拘束するよう求めた。2021年のエチオピア非常事態宣言を連邦法の正当化として、ティグレ人の大量拘束が行われた。^{[ 78 ]}

Yahoo!の利用規約では、「違法、有害、脅迫的、虐待的、嫌がらせ、不法行為、名誉毀損、下品、わいせつ、中傷的、他人のプライバシーを侵害する、憎悪的、または人種的、民族的、その他好ましくないコンテンツ」の投稿を禁止しています。^{[ 79 ]}

2017 年 12 月、Twitter はヘイトスピーチに対する新しいポリシーの適用を開始し、複数のアカウントを禁止するとともに、プラットフォーム上で許可される内容に関する新しいガイドラインを設定しました。^{[ 80 ]} Twitter ヘルプ センターには、ヘイト行為に関するポリシーと適用手順を説明する専用のページがあります。^{[ 81 ]}このページの冒頭には、「人々が発言することを恐れて声が封じ込められるのであれば、表現の自由はほとんど意味がありません。私たちは、嫌がらせ、脅迫、または恐怖を利用して他人の声を封じ込める行為を容認しません。Twitter 上でこれらのルールに違反するものを見かけた場合は、私たちに報告してください。」と書かれています。Twitter のヘイトスピーチの定義は、「暴力的な脅迫」や「個人または集団の身体的危害、死、または病気を願う」から、「繰り返される、または同意のない中傷、蔑称、人種差別的および性差別的な比喩、または誰かを貶めるその他のコンテンツ」まで多岐にわたります。

違反に対する罰則は、攻撃的/憎悪的な投稿を削除するまでユーザーのツイート機能を停止することから、アカウントを完全に削除することまで多岐にわたります。新しいポリシーの実施後、Twitterは声明で「より積極的な対応を目指す中で、いくつかの間違いを犯す可能性があり、強力な異議申し立てプロセスに取り組んでいます」と述べています。「今後数日から数週間かけてこれらの変更を評価し、改善を重ね、進捗状況を随時お知らせします」。^{[ 82 ]}これらの変更は、世界中でヘイトスピーチを防止するための措置が講じられている時期に行われており、ヨーロッパでは、ヘイトスピーチの報告に24時間以内に対応できないサイトに罰金を科す新しい法律が制定されています。^{[ 83 ]}

YouTube は、テクノロジー企業Googleの子会社であるオンライン動画プラットフォームであり、あらゆるコンテンツ作成者が簡単にコンテンツを配信およびアクセスできるため、視聴者は主流メディアで一般的な中道イデオロギーから右または左にシフトしたコンテンツにアクセスする機会を得られます。^{[ 84 ]} YouTube は人気コンテンツ作成者にインセンティブを提供し、一部の作成者はYouTuberエクスペリエンスを最適化し、過激で憎悪に満ちた考えを助長する可能性のある衝撃的なコンテンツを投稿するように促しています。^{[ 84 ][85] YouTube のコンテンツの多様性と収益化は、幅広い視聴者を過激派による潜在的に有害なコンテンツに誘導します。[84] [ 85 ]} YouTubeは作成^{者が個人的にブランド}化することを可能にし、若い登録者が彼らと擬似社会的な関係を築き、「常連」顧客として行動することを容易にします。 ^{[ 85 ]} 2019 年に YouTube は政治的なアカウントの収益化を停止しましたが、^{[ 86 ]}過激なコンテンツ作成者は依然としてチャンネルと登録者を持っており、文化的関連性を維持し、経済的に生き残っています。^{[ 85 ]}

YouTube は、ウェブサイト上の他のいくつかのユーザー ポリシーの中で明確な「ヘイト スピーチ ポリシー」を定めています。^{[ 87 ]}このポリシーは次のように書かれています。「私たちは言論の自由を奨励し、不人気な意見を表明する権利を守ろうと努めていますが、ヘイト スピーチは許可していません。ヘイト スピーチとは、人種や民族、宗教、障害、性別、年齢、退役軍人としての地位、性的指向/性自認などの特定の属性に基づいて、個人またはグループに対する暴力を助長したり、憎悪を煽ることを主な目的とするコンテンツを指します」。YouTube は、ヘイト スピーチの増加傾向に対抗するために、ユーザー報告システムを組み込んでいます。^{[ 88 ]}ヘイト スピーチに対する最も一般的な抑止策の 1 つは、ユーザーが不適切と思われるコンテンツについて他のユーザーを匿名で報告できることです。その後、コンテンツは YouTube のポリシーと年齢制限に照らしてレビューされ、削除されるかそのままにされます。

Facebookの規約では、有害、脅迫的、または憎悪を煽り暴力を扇動する可能性のあるコンテンツを禁止しています。Facebookはコミュニティ基準で、「Facebookはヘイトスピーチを削除します。ヘイトスピーチには、人種、民族、国籍、宗教、性的指向、性別、ジェンダーまたはジェンダーアイデンティティ、重度の障害または病気に基づいて人々を直接攻撃するコンテンツが含まれます。」^{[ 89 ]}さらに、「これらのトピックに関連するユーモア、風刺、または社会的なコメントは許可しており、人々が自身の本名を使用する場合、このようなコメントを共有する際の責任がより重くなると考えています。そのため、たとえそのコンテンツが当社のポリシーに違反していなくても、不適切なコンテンツにはページ所有者の名前とFacebookプロフィールを関連付けるよう求めています。いつものように、このようなコンテンツを共有する際には、視聴者を意識するよう強く勧めています。」^{[ 89 ]}

Facebookが所有する写真・動画共有プラットフォームであるInstagramは、 Facebookと同様のヘイトスピーチに関するガイドラインを設けているが、階層分けはしていない。Instagramのコミュニティガイドラインでは、誤情報、ヌード、自傷行為の美化、著作権で保護されたコンテンツの無許可投稿も禁止されている。^{[ 90 ]}

Facebookのヘイトスピーチに関するポリシーは、7,500人のコンテンツレビュー担当者と多数の人工知能モニターによって執行されています。これには難しい意思決定が必要となるため、ポリシーの執行に関してコンテンツレビュー担当者の間で論争が生じています。一部のユーザーは、執行が一貫していないと感じているようです。適切な過去の例としては、特定の宗教の信者の死を願う、別々ではあるものの同様に露骨な2つの投稿があります。どちらの投稿もユーザーによってフラグが立てられ、Facebookのスタッフによってレビューされました。しかし、ほぼ同じ感情が込められていたにもかかわらず、削除されたのは1つだけでした。^{[ 91 ]} Facebookのグローバルオペレーション担当副社長であるジャスティン・オソフキー氏は、プラットフォーム上のヘイトスピーチに関する発言の中で、「我々が犯した過ちについて申し訳なく思っています。それは、我々が構築したいと考えているコミュニティを反映していません…我々はもっと改善しなければなりません」と述べています。^{[ 91 ]}

Facebookのヘイトスピーチに関するポリシーの具体性により、さらなる論争が巻き起こっている。多くの場面で、ユーザーが無神経で憎悪を煽ると感じるステータス更新やコメントが報告されている。しかし、これらの投稿は、Facebookの保護対象リストに基づいて他者を攻撃する発言ではないため、技術的にはFacebookのポリシーに違反していない。例えば、「女性スポーツ記者はホッケーパックで頭を殴られるべきだ」という発言は、Facebookのプラットフォームではヘイトスピーチとはみなされず、削除されない。^{[ 92 ]}同社は性別に基づく憎悪から保護しているが、職業に基づく憎悪からは保護していない。

Facebookは、ヘイトスピーチを取り締まる際に偏りがあると非難されており、ヘイトや誤情報を助長する可能性のある政治キャンペーン広告がプラットフォームに影響を与えたと指摘されている。^{[ 15 ]} Facebookは反発や非難を受け、大手企業がヘイトスピーチや誤情報に対するプラットフォームの緩い対応に抗議して広告をプラットフォームから引き上げた後、ポリシーを調整した。^{[ 15 ]} 2020年現在、政治キャンペーン広告には、コンテンツがニュース価値があるが、コミュニティガイドラインに違反する可能性があることを示す「フラグ」機能がある。^{[ 15 ]}

Facebook は、他のヘイトスピーチ コンテンツを批判する意図で宣伝するユーザーにも対応しようとしています。このような場合、ユーザーは、他者を教育する意図があることを明確にする必要があります。この意図が不明確な場合、Facebook はコンテンツを検閲する権利を留保します。^{[ 93 ]} Facebook は、ヘイトスピーチが含まれている可能性のあるコンテンツを最初にフラグ付けすると、コンテンツの深刻度に基づいて、それをティア 1、2、および 3 のスケールに指定します。ティア 1 が最も深刻で、ティア 3 が最も深刻ではありません。ティア 1 には、「暴力的な発言または死/病気/危害への支持」を伝えるものすべてが含まれます。^{[ 94 ]}ティア 2 は、他のユーザーのイメージを精神的、肉体的、または道徳的に中傷するコンテンツとして分類されます。^{[ 95 ]}ティア 3 には、他者を排除または差別する可能性のあるもの、または保護対象グループに対する中傷を使用するものすべてが含まれますが、移民を制限する議論や既存の移民政策への批判には必ずしも適用されません。^{[ 95 ]}

2019年3月、Facebookは白人ナショナリズムと白人分離主義を支持するコンテンツを禁止し、以前から禁止していた白人至上主義コンテンツの禁止を拡大した。^{[ 96 ]} 2019年5月、Facebookはヘイトスピーチ禁止規定に違反したとして、アレックス・ジョーンズ、ルイス・ファラカン、マイロ・ヤノプルス、ローラ・ルーマー、ポール・ネーレンなど数名の著名人を追放すると発表した。^{[ 97 ]}

2020年、Facebookはティア1に、ブラックフェイス、動物との人種比較、人種的または宗教的なステレオタイプ、歴史的出来事の否定、女性とLGBTQIA+コミュニティの客体化を禁止するガイドラインを追加しました。^{[ 98 ]}

FacebookとInstagramにおけるヘイトスピーチは2020年に4倍に増加し、2020年第2四半期だけでFacebookでは2250万件、Instagramでは330万件の投稿が削除された。^{[ 15 ]}

2022年10月、Media Mattersは、FacebookとInstagramがLGBTの人々に対する蔑称「グルーマー」を使用した広告で依然として利益を得ているというレポートを発表した。^{[ 99 ]}記事によると、Metaは以前、LGBTコミュニティに対してこの言葉を使用することはヘイトスピーチポリシーに違反すると確認していた。^{[ 99 ]}この話はその後、 New York Daily News、PinkNews、LGBTQ Nationなどの他のニュースメディアにも取り上げられた。^{[ 100 ] [ 101 ] [ 102 ]}

マイクロソフトは、さまざまなアプリケーションに関してヘイトスピーチに関する具体的なルールを設けています。モバイルフォン向けのポリシーでは、「人種、民族、国籍、言語、性別、年齢、障害、宗教、性的指向、退役軍人としての地位、またはその他の社会集団への所属を理由とする差別、憎悪、暴力を助長するコンテンツを含む」アプリケーションを禁止しています。^{[ 103 ]}また、同社はオンラインゲームに関するルールも設けており、「ヘイトスピーチ、物議を醸す宗教的話題、デリケートな現在または過去の出来事」を示すコミュニケーションを禁止しています。^{[ 104 ]}

TikTokは、明確なガイドラインやヘイトスピーチに対する規制が欠如しているとして批判されており、いじめ、嫌がらせ、プロパガンダ、ヘイトスピーチがTikTok上に現れることを許している。子供は世間知らずで他人やメッセージに簡単に影響されるため、見せられたり言われたりしたことを聞き、繰り返す可能性が高いと主張できる。^{[ 105 ]}

子供や親はしばしば^{[ 105 ]}、下品なコンテンツを投稿した人物だけでなく、ソーシャルメディアプラットフォーム自体にも責任を負わせます。そのため、TikTokはプラットフォーム上でのヘイトスピーチへの対応について批判されています。TikTokは利用規約でいじめ、嫌がらせ、あらゆる下品または憎悪に満ちた発言を禁止していますが、 TikTokは「有害な」コンテンツを監視する効果的な方法を開発していないとして批判されています。^{[ 106 ]} Instagram、Twitter、Facebookなどの他のソーシャルメディアプラットフォームは、オンラインのヘイトスピーチや下品なコンテンツと戦う方法を知るのに十分な期間活動していますが^{[ 106 ]}、これらのプラットフォームのユーザーは、自分たちが拡散するメッセージに責任を持つのに十分な年齢です。^{[ 105 ]}

そのため、 TikTokは若い視聴者に配信されるコンテンツに対して一定の責任を負うべきだと主張する人もいる。 ^{[ 106 ]} TikTokの利用者は13歳以上であることが義務付けられているが、この要件は簡単に回避できる。研究者のロバート・マーク・シンプソンは、若者をターゲットにしたメディアでのヘイトスピーチ対策は「ホロコースト否定の禁止よりも、成人向けエンターテイメントを規制する規則に似ているかもしれない」と主張した。^{[ 105 ]}