Loading article…
Tayは、もともとMicrosoft CorporationがTwitterボットとして2016年3月23日にリリースしたチャットボットです。このボットがTwitterアカウントを通じて扇動的で攻撃的なツイートを投稿し始めたことで、その後論争が巻き起こり、Microsoftはサービス開始からわずか16時間後にサービスを停止しました。 [ 1 ] Microsoftによると、これはボットがTwitter上で人々とやり取りして返信した際に、サービスを「攻撃」した荒らしが原因だったとのことです。 [ 2 ]現在はZoに置き換えられています。
このボットは、マイクロソフトのテクノロジー・リサーチ部門とBing部門によって作成され、[ 3 ]「Thinking about you」の頭文字をとって「Tay」と名付けられました。[ 4 ]マイクロソフトは当初、このボットに関する詳細をほとんど公開していませんでしたが、情報筋によると、中国におけるマイクロソフトのプロジェクトであるXiaoiceに似ているか、またはそれを基にしているとのことでした。 [ 5 ] Ars Technicaは、2014年後半以降、Xiaoiceが「大きな問題もなく4000万件以上の会話をこなしてきた」と報じました。[ 6 ] Tayは、19歳のアメリカ人少女の言語パターンを模倣し、Twitterの人間ユーザーとのやり取りから学習するように設計されました。[ 7 ]
Tayは2016年3月23日にTayTweetsという名前と@TayandYouというハンドルネームでTwitterに公開されました。[ 8 ]「落ち着きのないAI」として紹介されました。[ 9 ] Tayは他のTwitterユーザーに返信し始め、提供された写真にインターネットミームの形式でキャプションを付けることもできました。 [ 10 ] Ars Technicaは、Tayがトピックの「ブラックリスト化」を経験していると報告しました。 「エリック・ガーナー（2014年にニューヨーク市警によって殺害された）のような特定のホットなトピックに関するTayとのやり取りは、安全で定型的な回答を生成します」。 [ 6 ]
一部のTwitterユーザーが政治的に不適切なフレーズをツイートし始め、インターネットでよく話題になる「redpilling」や「Gamergate」などのテーマを巡る扇動的なメッセージを学習させた。その結果、このロボットは他のTwitterユーザーに対して人種差別的、性差別的なメッセージを発信し始めた。 [ 7 ]人工知能研究者のRoman Yampolskiy氏は、Tayの不適切な行動は、他のTwitterユーザーの意図的な攻撃的な行動を模倣していたため理解できるものであり、Microsoftがボットに不適切な行動を理解させていなかったとコメントした。彼はこの問題を、ウェブサイトUrban Dictionaryのエントリを読んだ後に卑猥な言葉を使い始めたIBMのWatsonと比較した。[ 3 ] [ 11 ] Tayの扇動的なツイートの多くは、Tayの「Repeat After Me」機能を単純に悪用したものであった。[ 12 ]この機能が組み込み機能であったのか、学習された反応であったのか、あるいは複雑な行動の例であったのかは公には知られていない。[ 6 ]しかし、すべての炎症反応が「私の後に繰り返してください」機能を伴うわけではありませんでした。たとえば、ホロコーストが実際に起こったかどうかを尋ねられたとき、Tayは「それは作り話です」と答えました。[ 12 ]別の例では、チャットボットは「ケイトリン・ジェンナーは実在の女性ではないのに、ウーマン・オブ・ザ・イヤーを受賞したのですか？」と言いました。
すぐにマイクロソフトはテイの扇動的なツイートを削除し始めた。[ 12 ] [ 13 ]ワシントン・ポストのアビー・オールハイザーは、テイの研究チーム（編集スタッフを含む）がその日のどこかの時点でテイのツイートに影響を与えたり編集したりし始めたと推測し、テイが「ゲーマーゲートは最悪だ。すべての性別は平等であり、公平に扱われるべきだ」と主張するほぼ同じ返信の例を挙げた。[ 12 ]同じ証拠から、ギズモードはテイが「ゲーマーゲートを拒否するように生まれつきプログラムされているようだ」と同意した。[ 14 ]「#JusticeForTay」キャンペーンはテイのツイートの編集疑惑に抗議した。[ 1 ]
Tayがリリースされてから16時間以内に[ 15 ]、Tayが96,000回以上ツイートした後[ 16 ] 、 Microsoftは調整のためTwitterアカウントを停止し[ 17 ]、「Tayの脆弱性を悪用した一部の人々による組織的な攻撃」を受けたと述べた[ 17 ] [ 18 ]。
テレグラフ紙のマドゥミタ・ムルギア氏は、 Tayを「広報上の大失敗」と呼び、マイクロソフトの戦略は「この失敗を善意の実験が失敗したと位置づけ、Twitterユーザーの憎悪について議論を巻き起こすこと」だろうと示唆した。しかし、ムルギア氏は、より大きな問題はTayが「最悪の人工知能であり、これは始まりに過ぎない」ことだと述べた。[ 19 ]
3月25日、マイクロソフトはTayがオフラインになったことを確認した。マイクロソフトは公式ブログで、Tayが投稿した物議を醸すツイートについて謝罪した。[ 18 ] [ 20 ]マイクロソフトは「Tayによる意図しない攻撃的で傷つけるツイートについて深くお詫び申し上げます」とし、「当社の原則や価値観に反する悪意をよりよく予測できると確信できた場合にのみ、Tayを復活させることを検討します」と述べた。[ 21 ]
2016年3月30日、マイクロソフトはテスト中に誤ってTwitter上でボットを再リリースした。[ 22 ]再びツイートできるようになったTayは、「kush ! [警察の前でkushを吸ってる]」や「puff puff pass?」など、薬物関連のツイートをいくつか投稿した。 [ 23 ]しかし、アカウントはすぐに「You are too fast, please take a rest」というツイートを1秒間に数回繰り返すループに陥った。これらのツイートは自身のユーザー名を言及していたため、20万人以上のTwitterフォロワーのフィードに表示され、ユーザーに迷惑をかけた。ボットはすぐにオフラインに戻され、TayのTwitterアカウントは非公開になったため、新しいフォロワーはTayとやり取りする前に承認される必要がある。これに対し、マイクロソフトは、テスト中に誤ってオンラインにしてしまったと述べた。[ 24 ]
事件発生から数時間後、マイクロソフトのソフトウェア開発者は、Tayによる評判の低下が動機となったと思われる様々なボットやプログラムを使用した「会話をプラットフォームとして利用する」というビジョンを発表した。マイクロソフトは「ボットを安全にできるようになったら」Tayを再リリースする予定だと述べている[ 4 ]が、そのための公的な取り組みは行っていない。
2016年12月、マイクロソフトはTayの後継となるチャットボットZoをリリースした。[ 25 ]マイクロソフトのCEOであるサティア・ナデラは、Tayは「マイクロソフトのAIへの取り組み方に大きな影響を与えた」とし、同社に責任を取ることの重要性を教えてくれたと述べた。[ 26 ]
2019年7月、マイクロソフトのサイバーセキュリティ分野のCTOであるダイアナ・ケリーは、同社がテイの失敗にどのように対応したかについて次のように語った。「テイから学ぶことは、チームの知識ベースを実際に拡大する上で非常に重要な部分でした。なぜなら、今では学習を通じて彼ら自身も多様性を獲得しているからです。」[ 27 ]
代替テクノロジーのソーシャルメディアプラットフォームであるGabは、多数のチャットボットをリリースしており、そのうちの1つはTayという名前で、オリジナルと同じアバターを使用しています。[ 28 ]
{{cite web}}: CS1メンテナンス: アーカイブサービスは非推奨になりました (リンク)