2021年 Facebook情報漏洩

ニューヨーク・タイムズ紙は、従業員がフェイスブックが2020年の米国大統領選挙の1年以上前からQアノン陰謀論に関するコンテンツを拡散していることに懸念を表明した社内議論を指摘した。選挙後、あるデータサイエンティストは社内メモで、米国の政治コンテンツ閲覧の10％が選挙が不正であると主張する投稿だったと述べている。^{[ 21 ]}ハウゲンに代わってホイッスルブロワー・エイドがSECに提出した10件の匿名の内部告発のうち、1件はフェイスブックが2020年の選挙と1月6日の米国議会議事堂襲撃事件を引き起こした政治的過激主義に関連する誤情報の拡散における同社の役割について、投資家と一般大衆を欺いたと主張している。^{[ 1 ] [ 4 ]}ハウゲンは、2019年6月から2021年5月までFacebookに勤務し、同社の市民インテグリティチームに所属していました。このチームは、プラットフォーム上での世界の選挙問題や、プラットフォームが政治的な偽情報や誤情報の拡散、暴力の扇動、悪意のある政府による悪用にどのように使用されるかを調査し、対処することに重点を置いていましたが、同社は2020年12月にこのチームを解散しました。^{[ 22 ] [ 23 ]}

2020年の米国大統領選挙後数週間で、Facebookは、社内追跡データでプラットフォーム上のポリシー違反コンテンツの増加が示されていたにもかかわらず、選挙中に実施していた多くのコンテンツポリシー執行措置を撤回し始めました。一方、ドナルド・トランプのFacebookアカウントは、同社のXCheckプログラムでホワイトリストに登録されていました。 ^{[ 23 ] [ 24 ]}ハウゲンがSECに提出した別の内部告発では、XCheckプログラムによるホワイトリスト登録により、同社が利用規約の執行に関して投資家や一般の人々を誤解させたと主張していました。 ^{[ 1 ] [ 4 ]}ハウゲンは、 2021年11月に1月6日委員会からビデオ会議で、Facebookでの在任期間、議会に提出した会社の文書、会社の企業構造、前月の議会での証言についてインタビューを受けましたが、彼女が委員会に提供した情報はどれも最終報告書には含まれていませんでした。^{[ 25 ] [ 26 ]}

ファイルには、Facebook（現在のMeta）が2018年からInstagramが若いユーザーにどのような影響を与えているかについて社内調査を行っていたことが示されています。調査結果は、Instagramが若いユーザーの大部分に有害であることを示しており、10代の少女が最も被害を受けているグループの一つでした。社内の研究者は、「10代の少女の3人に1人の体型に関する問題を悪化させている」と報告しました。さらに、社内調査では、10代の少年も否定的な社会的比較の影響を受けており、2019年には米国の少年の14%が影響を受けていることが明らかになりました。 ^{[ 27 ]} Instagramは、10代の若者間の社会的比較など、アプリの使用に特有の問題に寄与していると結論付けられました。^{[ 28 ]} Facebookは2021年9月29日に社内調査の一部を公開し、これらの報告は調査の目的と結果を誤って伝えていると述べました。^{[ 29 ]}

ファイルには、Facebook がプレティーンを研究するチームを結成し、この年齢層向けの製品をさらに作成するという 3 年間の目標を設定し、プレティーンの年齢層を引き付ける長期的なビジネスの見通しに関する戦略文書を委託したことが示されています。Facebook が行った研究には、プレティーンのソーシャルメディア アプリの使用と親の反応に関する調査が含まれます。児童オンラインプライバシー保護法(COPPA) を含む連邦プライバシー法は、13 歳未満の子供のデータ収集を制限しています。2021 年 4 月の内部文書には、6 歳から 17 歳の子供を対象としたアプリを作成する計画が示されていましたが、9 月までに Instagram の責任者は、これらのアプリの開発を中止すると発表しました。^{[ 30 ]} Facebook の 2020 年の文書には、「なぜプレティーンを気にする必要があるのか​​？」と書かれており、その質問に対して「彼らは価値はあるものの、まだ開拓されていないオーディエンスである」と答えています。^{[ 31 ]}

ワシントン・ポストが入手した内部メモによると、Facebookは2019年にイスラム教徒やカシミール人などのグループに対するヘイトスピーチや暴力の呼びかけを認識しており、インドのプラットフォーム上でカシミール人の死体の山の写真に賛美のキャプションを付けて投稿していたことも明らかになった。それでも、それらの投稿者はブロックされなかった。^{[ 32 ]}文書によると、Facebookはこれらの事件に対し、ポリシーに違反する投稿を削除することで対応したが、違反の再発を防ぐための実質的な努力はしていない。^{[ 32 ]}現在、Facebookの月間ユーザーの90%が米国とカナダ以外にいるため、Facebookは言語の壁が広範な改革を妨げている障害の1つであると主張した（2019年～2021年頃）。

2015年、Facebookは投稿の「いいね！」ボタンに加えて、愛、笑、やったー、すごい、悲しい、怒りといった他の感情反応オプションを導入しました。^{[ 33 ]}ワシントン・ポスト紙は、Facebookのアルゴリズムが3年間、ユーザーから新しい反応（「怒り」反応を含む）を受けた投稿を優先し、従来の「いいね！」の5倍のスコアを与えていたと報じました。数年後、Facebookの研究者は、「怒り」反応のある投稿は、有害、二極化、偽物、または低品質である可能性がはるかに高いことを指摘しました。社内からの頻繁な要請を無視して、同社は2019年9月まで「怒り」反応を他の反応と区別せず、その価値をゼロに引き下げました（ユーザーが自分の投稿に「怒り」反応が寄せられることに不満を抱いていることに気付いた後になってようやく）。Facebookが、有害または過激なコンテンツを助長することになるにもかかわらず、宣伝したい新機能を優先した事例は他にもあります。^{[ 34 ]}

2018年、Facebookはニュースフィードのアルゴリズムを刷新し、「意味のある社会的交流」（MSI）を優先する新しいアルゴリズムを導入しました。この新しいアルゴリズムは、再共有されたコンテンツの重みを増し、「コメントの減少を逆転させ、より多くのオリジナル投稿を促す」ことを目的としていました。アルゴリズムは一定の成果を上げましたが、フィードの質の低下やサイト上での怒りの増加といったユーザーからの報告など、様々な影響が見られました。流出した文書によると、従業員はアルゴリズムの問​​題点を修正するためにいくつかの変更案を提示していました。しかし、文書によれば、マーク・ザッカーバーグは、これらの変更によってFacebookを利用するユーザーが減る可能性があるという懸念から、提案された変更を却下したとされています。また、文書では、Facebookが2019年に実施した別の調査についても言及されています。この調査では、インドを拠点とする偽アカウントが作成され、どのようなコンテンツが表示され、どのようなやり取りが行われたかが調査されました。社内レポートによると、調査の結果、偽アカウントのニュースフィードには3週間以内にポルノが表示され、「分断を招く露骨なコンテンツ、ヘイトスピーチ、誤情報で溢れていた」ことが明らかになりました。^{[ 35 ]}

Politicoは、 Facebookの複数の従業員が、プラットフォームによって引き起こされた損害への対応に対する同社の意欲と能力について懸念を表明していると報じている。2020年の投稿には、「『サイトを安全にする』チームの大勢の人が『実は世界を悪化させている』と言って辞めるのは普通ではない。この問題が提起されるたびに『人はしょっちゅう転職するものだ』と一蹴されるが、これは普通ではない」とある。2019年の別の投稿には、「特定のランキング変更が整合性を損なう可能性が高い時期を判断できる妥当な指標は持っている。精度と再現率が低くても、ローンチがヘイトスピーチや誤情報、その他の害を増大させているかどうかをある程度把握できる。しかし、このコンテンツを効果的にターゲットを絞って降格させる方法はない…たとえあったとしても、ポリシー上の懸念からローンチできないことが多い」とある。^{[ 36 ]}

2019年、FacebookとInstagramが中東でメイドの売買に利用されているという懸念を受け、AppleはiOSアプリをApp Storeから削除すると脅迫した。Facebookはその後、より厳格な規制を施行すると約束したが、後にその施行が不十分であると述べた。^{[ 37 ]} 2年後、Facebookでメイドを検索すると、依然として労働者の結果が表示される。これらのメイドは、飢餓、売買、自宅への監禁、身体的暴行を受けたと報告している。^{[ 38 ]}

文書には、Facebookが「著名人」とみなされるユーザーの投稿をホワイトリストに登録するために採用している「XCheck」または「クロスチェック」と呼ばれる非公開プログラムが示されています。このシステムは品質管理措置として始まりましたが、その後「何百万ものVIPユーザーを同社の通常の執行プロセスから保護する」までに拡大しました。XCheckにより、有名人やその他の公人は、平均的なFacebookユーザーがポリシー違反で受ける罰則を免除されるようになりました。2019年には、サッカー選手のネイマールが、レイプで告発した女性のヌード写真を投稿しましたが、1日以上放置されました。ウォール・ストリート・ジャーナルによると、Facebookの内部文書によれば、「XCheckは2020年には少なくとも580万人のユーザーを含むまでに拡大した」とのことです。^{[ 39 ]} XCheckの目的は、「あなたに危害を加えるほど影響力のある人物と公に争うことは決してない」ことでした。^{[ 40 ]}

2020年、ベトナムの共産党政府は、Facebookが東南アジア最大の市場であるベトナム国内での政治的コンテンツの検閲に協力しなければ、Facebookを閉鎖すると脅迫した。^{[ 41 ]}従うという決定は、マーク・ザッカーバーグが個人的に承認した。^{[ 42 ] [ 43 ]} 2020年末までに、Facebookは前回の報告と比較して検閲を983%増加したと報告した。^{[ 44 ]}

2021年、Facebookはサイト上の有害コンテンツに対処するための新しい戦略を策定し、憎悪とみなされる運動の拡散を抑制・阻止するための措置を実施した。Facebookの上級セキュリティ担当者によると、同社は「現実世界の暴力やその他の危害に関与し、Facebookのルールに違反することを決意している緊密なユーザーグループによるものであるという説得力のある証拠がある場合にのみ、プラットフォーム上の運動を阻止しようとする」とのことだ。最近調整された取り組みの一環として、これにはユーザーのニュースフィード内での運動の投稿の宣伝を減らすことや、これらのページからの新しい投稿をユーザーに通知しないことも含まれていた。Facebookの社会的危害対策ポリシーの影響を受けていると指摘されている特定のグループには、以前に国会議事堂襲撃事件と関連付けられたパトリオット党や、繰り返し「暴力と警察官の負傷」を引き起こした抗議活動を組織した後にドイツの情報機関の監視下に置かれた、クエルデンケンとして知られる新しいドイツの陰謀グループなどがある。 ^{[ 45 ]}

ウォール・ストリート・ジャーナルによると、文書には、2019年にFacebookがヘイトスピーチの苦情に対する人間の審査員の作業時間を削減し、この問題の規制に人工知能システムへの依存度を高めたことが示されている。しかし、従業員の内部文書によると、AIは大部分が失敗しており、車の衝突や闘鶏の動画の検出、外国語でのヘイトスピーチの理解に問題が生じているという。^{[ 46 ]} Facebook内部のエンジニアや研究者は、AIが「暴力や扇動に対するFacebookのポリシーに違反するすべてのコンテンツ」の0.6%しか検出して削除できていないと推定している。^{[ 46 ]}

ウォール・ストリート・ジャーナルは、フェイスブックの幹部が、フェイスブック社員からの批判にもかかわらず、ドナルド・トランプや共和党議員の怒りを買うことを避けるため、フェイスブックのニュース タブ機能から極右ウェブサイトのブライトバート ニュースを削除することに抵抗したと報じた。 ^{[ 47 ] [ 48 ]} 2019年8月にフェイスブックが行った社内調査では、ブライトバート ニュースは米国と英国で調査した情報源の中で最も信頼されていないニュースソースであり、品質も低いと評価されていた。^{[ 47 ]}

2021年12月、ウォール・ストリート・ジャーナル紙は、メタ社が米国の議員を分裂させ、議会で「混乱」させ、2021年の内部告発による情報漏洩後の規制を妨害するためにロビー活動を行っていたことを報じた。^{[ 59 ]}ウォール・ストリート・ジャーナル紙によると、ワシントンのフェイスブックのロビー活動チームは共和党議員に対し、内部告発者は「民主党を助けようとしていた」と示唆した一方、民主党のスタッフには、共和党は「カイル・リッテンハウスへの支持表明を禁止するという同社の決定に注目していた」と伝えられた。記事によると、同社の目的は、議会でフェイスブック（現メタ社）に対する「混乱を招き、議員を党派に沿って分裂させ、超党派の同盟を阻止する」ことだった。^{[ 60 ]}

2021年10月、ニック・クレッグは、ハウゲンが証言し、Facebookの有害な慣行を暴露したことを受けて、Facebookの立場を伝えるために記者会見ツアーを行った。ニック・クレッグは2025年までFacebookの幹部であり、イギリスの副首相も務めた。^{[ 61 ]} Facebookがプラットフォーム上で政治的な宣伝や嘘を容認することで1月6日の攻撃に加担したかどうかを問われたとき、クレッグは「何千ものアルゴリズムがあり、何百万人もの人がそれを使用していることを考えると、各人が使用する個別のパーソナライズされたフィードについて、イエスかノーで答えることはできません」と答えた。クレッグはまた、Facebookはユーザーがアルゴリズムを上書きしてより多くの制御を行うことができると主張した。^{[ 62 ]}

Facebookは、メディアやFacebook Papersに対する世間の反応によって引き起こされたダメージを修復するために、会社の幹部を数回のプレスツアーに派遣した。Facebookはまた、従業員の間でのダメージコントロールと反応の把握のために、社内プレスツアーも数回実施した。^{[ 63 ]}これには、副社長が従業員と、二極化やそれに対する会社の考え、幹部がプラットフォームの安全性をどのように維持しているかといった特定のトピックについて会議を行うことが含まれていた。Facebookはまた、従業員がこの出来事に対して公にどのように反応すべきかのガイドラインとしてメモを送付した。送付されたメモには、Facebookが安全性よりも利益を優先しないという声明も含まれていた。^{[ 63 ]}

ハウゲンの証言を受けて、Facebookの従業員の間では意見が分かれた。ハウゲンの専門知識に疑問を呈し、「彼女は基本的なスタックの仕組みも知らない」と主張する者もいれば、ハウゲンの行動要請に賛同し、「ここにいる多くの人が何年も前から言っていることを彼女は言っている」と支持する者もいた。^{[ 62 ]} Facebook従業員の大多数に共通していたのは怒りだった。「私たちはFacebookであって、世間知らずのスタートアップではない。前例のないリソースを持っているのだから、もっとうまくやれるはずだ」。多くの従業員にとって、この出来事は以前から予見されていたことは明らかだった。2020年、あるFacebook従業員は最後の投稿で、「事態が深刻な状態にまで悪化してからようやく行動を起こす気になった」と書いている。^{[ 64 ]}

ハウゲンの証言による波紋を受け、Facebookはいくつかの変更を行うことを決定した。最初にして最大の公的な動きは、社名をFacebookからMetaに変更することだった。^{[ 65 ]}また、象徴的な青いFacebookのロゴから無限大の記号へと変更した新しいロゴも発表した。これはマーク・ザッカーバーグによるビデオで発表された。彼は続けて、Metaの未来への取り組みと、現在取り組んでいるいくつかのプロジェクトについて説明した。^{[ 66 ]}

Facebook は、プラットフォームが子供に与える影響をめぐる反発を受け、Instagram For Kids 機能の制作を中止した。^{[ 67 ]} Instagram の責任者であるアダム・モッセリは、この機能は引き続き拡大していく予定だが、現時点ではベータテストに着手する前に、より多くの専門家と協議したいと説明する声明を発表した。モッセリは、子供向けのプラットフォームが必要だと主張した。Facebook は Instagram For Kids の作業を再開する方法を検討し続けており、親の監視機能を拡大すると発表した。^{[ 68 ] [ 69 ]}