ソーシャルボット

ソーシャルボットは、ソーシャル AIまたはソーシャルアルゴリズムとも呼ばれ、ソーシャルメディア上で自律的に通信するソフトウェアエージェントです。ソーシャルボットが配信するメッセージ (ツイートなど) は単純なもので、アルゴリズムを介して部分的に人間が制御 (ハイブリッド) しながらグループやさまざまな構成で動作します。ソーシャルボットは、人工知能と機械学習を使用して、より自然な人間の対話でメッセージを表現することもできます。

ソーシャル ボットの用途には次のようなものがあります。

• 人々を説得するため。例えば、商品を宣伝したり、政治運動を支援したり、ソーシャルメディアのエンゲージメントを高めたりするためです。^{[1]同様の内容のメッセージは}、流行やトレンドに影響を与える可能性があります。^[2]
• Discordなどのソーシャル メディア プラットフォームでよくある質問に対して、手頃な価格のカスタマー サービス エージェントや自動応答を提供します。

• 偽のフォロワーを持つことで本当の成功をシミュレートする。
• スパムや広告行為。
• パスワードやその他の個人データをフィッシング する。

もう 1 つの例としては、ボットがアルゴリズムによるキュレーション、アルゴリズムによる過激化、および/またはインフルエンス・フォー・ハイヤー (ソーシャル メディア プラットフォームでのアカウントの販売を指す用語) に使用される可能性があることが挙げられます。

ボットはコンピュータ技術の誕生以来、共存してきました。そのため、ソーシャルボットはソーシャルメディアの台頭と同時に人気が高まっています。ソーシャルボットは、メッセージを自律的に（再）生成または再利用できることに加え、大規模なユーザーグループに侵入する傾向に関して、スパムボットと多くの共通点があります。 ^[3]人工ソーシャルネットワーキングインテリジェンス（ASNI）は、ソーシャルネットワーキングサービスおよびソーシャルメディアプラットフォーム内での人工知能の応用を指します。ASNIは急速に進化すると予想されています。

Twitterbotはすでによく知られた例ですが、Facebookなどでも同様の自律エージェントが観測されています。ソーシャルボットの使用は、TwitterやInstagramなど多くのプラットフォームの利用規約に違反しますが、 RedditやDiscordなどではある程度許可されています。ソーシャルボットを制限しているソーシャルメディアプラットフォームでも、ソーシャルメディアAPIを公開することで、ある程度の自動化が図られています。ソーシャルメディアプラットフォームは、ボットからのメッセージをフィルタリングするための独自の自動化ツールも開発していますが、すべてのボットメッセージを検出できるわけではありません。^[4]

ソーシャルボットを認識し、ソーシャルメディアAPIを介した「適格な」自動化から分離することが難しいため、法的規制をどのように施行できるかは不明です。ソーシャルボットは、自律的に絶え間ない影響力者として行動することで、将来的に世論形成に役割を果たすことが期待されています。一部のソーシャルボットは、世論（特に政治的な意味で）を操作したり、株式市場を操作したり、広告を宣伝したり、スピアフィッシング攻撃による悪意のある恐喝を行ったりしています。^[5]

第一世代のボットは、メッセージを投稿する能力が超人的であることから、実際のユーザーと区別できることもありました。その後の開発では、エージェントに「人間」の活動や行動パターンをより多く刻み込むことに成功しました。十分な数のボットがあれば、人工的な社会的証明を達成することも可能かもしれません。ソーシャルボットをその正体として明確に検出するには、パターン検出技術を使用してさまざまな基準^[6]を適用する必要があります。その一部を以下に示します。^[7]

• ユーザー画像としての漫画のキャラクター
• 時にはランダムに実際のユーザーの写真が撮影されることもあります（身元詐欺）
• 再投稿率
• 時間的パターン^[8]
• 感情表現
• フォロワーと友達の比率^[9]
• ユーザー名の長さ
• （再）投稿されたメッセージの変動性
• エンゲージメント率（いいね数/フォロワー数）
• ソーシャルメディア投稿の時系列分析^[10]

ソーシャルボットは、検出と理解がますます困難になっています。ボットの人間のような行動、ボットの絶え間ない変化、そしてあらゆるプラットフォームをカバーするボットの膨大な量が、ボットの除去を困難にしている要因である可能性があります。^[11] Twitterなどのソーシャルメディアサイトは最も影響を受けており、CNBCは2017年に3億1900万人のユーザーのうち最大4800万人（約15％）がボットだったと報告しています。^[12]

Botometer ^[13]（旧称BotOrNot）は、Twitterアカウントのアクティビティをチェックし、アカウントがボットである可能性に基づいてスコアを付けるパブリックWebサービスです。このシステムは、1000を超える機能を活用しています。 ^{[14] [15]}初期のスパムボットを検出するための積極的な方法は、ボットによって再投稿（リツイート）される可能性のある無意味なコンテンツを投稿するハニーポットアカウントを設定することでした。 ^[16]ただし、ボットは急速に進化するため、検出方法は常に更新する必要があります。そうしないと、数年後に役に立たなくなる可能性があります。^[17] 1つの方法は、ベンフォードの法則を使用して、重要な上位桁の頻度分布を予測し、オンラインで悪意のあるボットを検出することです。この研究は、2020年にプレトリア大学で初めて導入されました。^[18]別の方法は、人工知能主導の検出です。このタイプの検出のサブカテゴリには、アクティブラーニングループフロー、特徴エンジニアリング、教師なし学習、教師あり学習、相関関係の発見などがあります。^[11]

ボットの一部のオペレーションは同期して動作します。例えば、ISISはTwitterを使用してイスラムのコンテンツを多数の組織化されたアカウントで増幅し、さらにホットリストニュースにアイテムを押し上げました。^[19]これにより、選択されたニュースがより多くの視聴者にさらに増幅されました。^{[20]この同期されたボットアカウントのモードは、}プロパガンダや株式市場操作のツールとして使用できます。 ^[21]

Instagramは2018年6月に月間アクティブユーザー数が10億人に到達したが^[22] 、その10億人のアクティブユーザーのうち、最大10%が自動化されたソーシャルボットによって運営されていると推定されている。悪質なプロパガンダ投稿ボットは依然として人気があるが、多くの個人ユーザーはエンゲージメントボットを使用して偽のバイラル性を高め、アプリ上でより人気があるように見せかけている。これらのエンゲージメントボットは、ユーザーの投稿にいいね、視聴、フォロー、コメントをすることができる。^[23]

同じ頃、プラットフォームの月間ユーザー数は10億人を超えた。InstagramとWhatsAppの親会社であるFacebookは、プラットフォームのセキュリティを強化するために1万人を雇用する計画を立てており、これにはプラットフォーム上で増加するボットや悪意のある投稿への対策も含まれる。 ^[24]プラットフォームのセキュリティ強化とInstagramが使用する検出方法により、Instagramが過去と現在のアプリ使用状況に基づいてインタラクション制限のしきい値を課し、多くの支払いおよびメールプラットフォームがボット企業のサービスへのアクセスを拒否し、潜在的な顧客がサービスを購入できないようにしているため、一部のボット企業はサービスに問題があると報告している。^[25]

Twitterのボット問題は、ボットの作成と維持の容易さによって引き起こされています。アカウントの作成が容易で、アカウントの完全な自動化を可能にする多くのAPIがあるため、過剰な数の組織や個人がこれらのツールを使用して独自のニーズを推進しています。^{[12] [26]} CNBCは、2017年のTwitterユーザー3億1900万人のうち約15％がボットであると主張しました。正確な数は4800万人です。^[12] 2022年7月7日現在、Twitterは毎日100万のスパムボットをプラットフォームから削除していると主張しています。^[27]

一部のボットは、スケジュールされたツイートの自動化、動画のダウンロード、リマインダーの設定、自然災害の警告の送信に使用されています。^[28]これらはボットアカウントの例ですが、TwitterのAPIでは、実際のアカウント（個人または組織）がアカウントで一定レベルのボット自動化を使用することができ、ユーザーエクスペリエンスとインタラクションを向上させるためにそれらの使用を奨励しています。^[29]

• アストロターフィング - 偽の草の根運動を利用した広報戦略
• チャットボット – 会話をシミュレートするプログラム
• デッドインターネット理論 - オンラインボット活動に関する陰謀論
• Devumi  – 元ソーシャルメディア会社
• フェイクニュースウェブサイト - 故意にデマや偽情報を発信するウェブサイト
• ゴーストフォロワー – ソーシャルメディアプラットフォーム上で活動していないユーザー
• インターネットボット – インターネット上で自動タスクを実行するソフトウェア
• ソーシャル スパム – ソーシャル ネットワーキング サービス上のスパム
• シビル攻撃 – 複数の偽のIDで実行されるネットワークサービス攻撃
• Twitter爆弾 - 同じハッシュタグで多数のツイートを投稿する
• ささやきキャンペーン – 説得の方法

• 計算プロパガンダ研究プロジェクト オックスフォード大学
• ソーシャル メディア ボットとは? | ソーシャル メディア ボットの定義 Cloudflare