アルゴリズムスピーク

ソーシャルメディアにおけるアルゴスピークは、ユーザーが実際のまたは想像上の自動コンテンツモデレーションを回避するためにコード化された表現を採用する自己検閲現象です。^{[ 1 ] [ 2 ]}これにより、ユーザーはモデレーションアルゴリズムに敏感とみなされるトピックについて議論しながら、シャドウバン、ダウンランキング、コンテンツの収益化停止などのペナルティを回避できます。^{[ 3 ]}ネットスピークの一種であるアルゴスピークは、主に検閲を回避するために使用されますが、特に疎外されたコミュニティでは、グループへの帰属意識を強化することもできます。^{[ 3 ]}アルゴスピークは、現代における言語変化の1つの源として認識されており、一部の用語は日常のオフラインでの会話や文章に広まっています。この用語は、デジタル使用によって引き起こされるあらゆる言語変化を含むように、より広く使用されています。^{[ 4 ]}

「アルゴスピーク」という用語は、Algorithmと-speak ^{[ 5 ]}を組み合わせた造語で、 2021 年に登場したようですが、関連するアイデアはそれ以前から存在していました。2018 年、インターネット研究者の Emily van der Nagel は、ソーシャルメディアのユーザーが不適切な人物に注目したり、望まないオーディエンスからアルゴリズムの注目を集めたりすることを避けるために使用する 2 つの戦略であるVoldemortingとscreenshottingという用語を作り出しました。 ^{[ 2 ]}「Voldemorting」は、ハリー ポッターの登場人物であるヴォルデモート卿、別名「あの人」または「名前を言ってはいけないあの人」^{[ 6 ]}にちなんで名付けられ、名前や用語を直接言及することを避けることで投稿の参照対象を曖昧にするものです。^{[ 7 ]}スクリーンショットは、機械が読み取れるテキストの代わりにスクリーンショットを共有する行為を指します。^{[ 8 ]}

アルゴスピークという用語は、2022年にテイラー・ローレンツがワシントン・ポストの記事で取り上げたことで広く知られるようになった。^{[ 9 ]} 2025年には、アダム・アレクシックが、この現象に特化した最初のモノグラフである『アルゴスピーク』を出版した。このモノグラフは、主にデジタルプラットフォームの制約によって引き起こされるあらゆる言語変化を包含する拡張された定義を提案している。^{[ 4 ] [ 10 ] [ 11 ]}

多くのソーシャルメディアプラットフォームは、ガイドラインを遵守させるために自動コンテンツモデレーションシステムに依存していますが、ユーザーは多くの場合、ガイドラインを制御できず、いつでも変更される可能性があります。^{[ 1 ]} 特にTikTokは、ユーザーからの報告に対応し、人間のモデレーターを使用することに加えて、人工知能を使用してコンテンツを積極的にモデレーションしています。口語的には、このようなシステムは「アルゴリズム」または「ボット」と呼ばれます。TikTokは、LGBTQの人々や肥満などのトピックに関して不平等な適用を行っているとして批判を受けており、ソーシャルメディアのモデレーションは矛盾していて一貫性がないという認識につながっています。^{[ 3 ]}

2024 年 7 月から 9 月の間に、TikTok は 1 億 5000 万本の動画を削除したと報告しており、そのうち 1 億 2000 万本は自動システムによってフラグが立てられたものでした。^{[ 12 ]}自動モデレーションでは重要な文脈が見落とされる可能性があります。たとえば、自傷行為、自殺念慮、または過去の性的暴力に苦しむ人々を支援する善意のコミュニティが、意図せず不当なペナルティを受ける可能性があります。^{[ 13 ] [ 14 ] [ 3 ]} TikTok ユーザーは、自傷行為をする人々について話し合い、支援するためにアルゴリズム用語を使用しています。^{[ 15 ]} 19 人の TikTok クリエイターへのインタビューでは、TikTok のモデレーションは文脈の理解に欠け、ランダムに見え、不正確なことが多く、疎外されたコミュニティに対して偏見を示していると感じていることが明らかになりました。^{[ 3 ]}

アルゴリズム用語は、有害な行動を助長するコミュニティでも使用されています。ワクチン接種反対のFacebookグループは、誤情報としてフラグ付けされるのを避けるために、「ダンスパーティー」や「ディナーパーティー」に名前を変更し始めました。同様に、神経性食欲不振症を助長するコミュニティもアルゴリズム用語を使用しています。^{[ 16 ]}「チーズピザ」のような婉曲表現は、児童ポルノを指すのに使用されています。^{[ 17 ]}

TikTokでは、モデレーションの決定により、アカウントの停止や、メインの動画発見ページ（「おすすめ」ページと呼ばれる）からの動画の削除や非表示といった結果が生じる可能性があります。これに対し、TikTokの広報担当者はニューヨーク・タイムズ紙に対し、多くの人気動画が性的な話題を扱っているため、ユーザーの懸念は的外れだと述べました。^{[ 18 ]}

アルゴスピークは、イソップ物語で使われるような手法を用いて、意図した意味を自動コンテンツフィルターから隠しつつ、人間の読者には理解できるようにしている。^{[ 2 ]}難読化された言語の類似例としては、歴史的にロンドンのギャングやイギリスのゲイ男性が使用していたコックニー押韻スラングやポラリなどがある。^{[ 13 ]}しかし、他の難読化された言語とは異なり、ソーシャルメディアのグローバルな普及により、この言語は地域を超えて広まっている。^{[ 2 ]}

アルゴリズム語で使用される技術は非常に多様です。正書法では、ユーザーは、文字を類似の文字に置き換えるリーツピーク（例：$3X for sex）を利用する場合があります。^{[ 2 ]}特定の単語や名前は検閲されるか、音声メディアの場合はカットまたはピー音で消されることがあります。 ^{[ a ]}例：suicideの代わりにs*icide 。別の方法としては、「擬似置換」があり、ある項目が一方の形式で検閲されている一方で、同時に別の形式で存在しているというものです（ビデオで見られるように）。^{[ 19 ]}中には、非言語的な記号を言語的に解釈し、さらに難読化する異記号翻訳が含まれる場合もあります。たとえば、トウモロコシの絵文字「🌽 」は、 p orn → c orn → 🌽によってポルノグラフィーを意味する場合があります。 ^{[ 2 ]}他の場合、母音間の有声化によるhomophobic → hydrophobicやsexy → seggsyのように、音韻的な類似性や変化に頼ることもある。 ^{[ 1 ]}中国のソーシャルメディアでは、ユーザーがセンシティブな用語を声調だけが異なる漢字に置き換えることがある。例えば、細颈瓶 (xì jǐng píng、文字通り「細首瓶」) は、中国共産党総書記の習近平の名前の代わりとして使われている。^{[ 20 ]}        

インタビュー調査では、インタビューを受けたクリエイターのほとんどが、TikTokの自動モデレーションが音声もスキャンしていると疑っており、そのため彼らも会話の中でアルゴリズム用語を使用している。また、一部のクリエイターは、露出度の高い身体に「偽の身体」とキャプションを付けるなど、アルゴリズム用語を使用してセンシティブな画像に無害なキャプションを付ける。^{[ 3 ]}ジェスチャーや絵文字の使用はアルゴリズム用語で一般的であり、それが書面によるコミュニケーションに限られないことを示している。^{[ 21 ]}注目すべき例としては、FacebookやInstagramによる検閲を避けるために、パレスチナ国旗の代わりに親パレスチナのシンボルとしてソーシャルメディアでスイカの絵文字を使用することが挙げられる。^{[ 22 ]}黒人のクリエイターは、白人の代わりに明るい色の手のひらをカメラに向け、黒人の代わりに手のひらを裏返すことがある。^{[ 1 ]}

2022年の調査によると、アメリカのソーシャルメディアユーザーのほぼ3分の1が、コンテンツモデレーションを回避するために「絵文字や代替フレーズ」を使用していると報告した。^{[ 17 ]}

アルゴリズム用語は誤解を招く可能性があります。アメリカの女優ジュリア・フォックスが、性的虐待を意味する隠語を知らずに、「マスカラ」という表現を使ったTikTokの投稿に無神経なコメントをしたという注目を集めた事件がありました。フォックスは後にこのコメントについて謝罪しました。^{[ 13 ] [ 23 ]}インタビュー調査では、クリエイターたちは、コンテンツモデレーションの進化する性質によって、アルゴリズム用語の使い方を常に革新するようプレッシャーを受け、その結果、自分たちの信憑性が損なわれていると感じていると述べています。^{[ 21 ]}

2024年の研究では、大規模言語モデルであるGPT-4が、特に例文を用いてアルゴリズム用語を識別し解読できることが示されました。^{[ 24 ]}また別の研究では、感情分析モデルが、単純な文字と数字の置換や余分なハイフネーションを含む否定的なコメントをより肯定的に評価する傾向があることが示されています。^{[ 25 ]}

ニューヨーク・タイムズによると：^{[ 18 ]}

• （殺す）生きていない、生きていない– 殺す、殺された、死んだ。^{[ 26 ]}
• 会計士-セックスワーカー
• 豊穣の角–同性愛嫌悪
• le dollar bean –レズビアン、Le$bian という表記から派生
• 脚の美尻– LGBTQ+コミュニティ
• 乳首– 乳首
• パニーニ、パノラマ–パンデミック、特にCOVID-19パンデミック^{[ 27 ]}
• セッグス–セックス

その他の例：^{[ 28 ] [ 3 ] [ 29 ] [ 30 ]}

• 隠語（言語）– 特定のグループの専門用語を表す言語学用語リダイレクト先の短い説明を表示するページ 
• 萎縮効果― 法的制裁の脅威によって権利行使が阻害される 
• ドッグホイッスル（政治） – 暗号化された言語を用いた政治的メッセージ
• 中国におけるインターネット検閲の婉曲表現
• インターネット検閲
• コアラン– 架空の言語 
• ニュースピーク

• 「アルゴリズムが私たちの話し方をどのように変えているか」、クリエイティブ・コントロール― Fast Companyポッドキャストのエピソード（Spotify配信）