Loading article…
.png/500px-Scunthorpe_problem_(cropped).png)
スカンソープ問題とは、テキストにわいせつな意味や不適切な意味を持つと思われる文字列（または部分文字列）が含まれているために、スパム フィルターや検索エンジンによってオンライン コンテンツが意図せずブロックされてしまうことです。この問題の影響を受けるものとして最もよく挙げられるのは、名前、略語、技術用語です。
問題が発生するのは、コンピューターは文書内の文字列を簡単に識別できますが、この種の単語を解釈するには、さまざまな文化にまたがる可能性のある幅広いコンテキストを解釈する相当の能力が必要であり、これは非常に困難な作業です。その結果、広範なブロック ルールによって、多くの無害なフレーズ に誤検知が影響する可能性があります。
語源と由来
この問題は、1996年4月に起きた事件にちなんで名付けられた。当時、AOLの不敬語フィルターにより、イギリスのスカンソープという町の住民は、町の名前に「cunt」という文字列が含まれているため、AOLアカウントを作成できなかった。 [1] 2000年代初頭、Googleのオプトインセーフサーチでも同じエラーが発生し、町の名前やURLにこの町が含まれているローカルサービスや企業が、誤って検索結果から隠されていた。[2]
回避策
スカンソープ問題は、文脈の中で単語を理解できるフィルターを作成することが難しいため、完全に解決するのは困難です。[3] [4]
解決策の1つは、既知の誤検知のホワイトリストを作成することです。ホワイトリストに表示された単語は、本来は許可されないテキストが含まれていても、フィルターによって無視されます。[5]
その他の例
わいせつフィルターによる誤った判断には次のようなものがあります:
ウェブドメイン名とアカウント登録の拒否
- 1998年4月、ジェフ・ゴールドはshitakemushrooms.comというドメイン名を登録しようとしたが、部分文字列shitが原因で、 「7つの汚い言葉」を禁止するInterNICフィルターによってブロックされた。[6] (シイタケは、一般的にはshitakeと綴られ、食用菌類Lentinula edodesの日本語名である。)
- 2000年に、ウェブフィルタリングソフトウェアに関するカナダのテレビニュースで、モントリオール都市共同体（フランス語ではCommunauté Urbaine de Montréal ）のウェブサイトが、ドメイン名がフランス語の頭字語CUM（www.cum.qc.ca）であったために完全にブロックされていたことが判明しました。 [7]「cum」（他の意味もありますが）は、英語の俗語で精液を意味します。
- 2004年2月、スコットランドでクレイグ・コックバーンは、自分の姓（発音は「コバーン」、IPA : / ˈkoʊbərn /）をHotmailで使用できないと報告した。これは、姓にペニスの俗語であるcockという文字列が含まれているためである。また、職場のメールでは、ソフトウェア スペシャリストという職名に、スパムメールでよく言及される勃起不全治療薬であるCialis という文字列が含まれていたため、問題があった。当初、Hotmail は彼に、名前を C0ckburn （文字「o」の代わりにゼロを使用）と綴るように指示したが、後に禁止を撤回した。 [8] 2010年、彼は BBC の Web サイトに登録する際にも同様の問題を抱え、ここでも姓の最初の 4 文字がコンテンツ フィルターの問題を引き起こした。[9]
- 2006年2月、リンダ・キャラハンは当初、名前に「アッラー」という文字列が含まれていたため、 Yahoo!に電子メールアドレスとして登録することを禁止された。Yahoo!は後に禁止を解除した。[10]
- 2008年7月、ハーマン・I・リブシッツは、姓に「shit」という文字列が含まれていたため、自分の名前を含む電子メールアドレスをベライゾンに登録することができず、ベライゾンは当初、例外の要求を拒否した。その後の声明で、ベライゾンの広報担当者は、希望した電子メールアドレスを承認しなかったことを謝罪した。[11]
ブロックされたウェブ検索
- 1996年1月までの数か月間、スーパーボウルXXXのウェブ検索の一部はフィルタリングされていました。これは、この試合を表すローマ数字がポルノを識別するためにも使用されているためです。[12]
- RomansInSussex.co.ukのウェブデザイナー、Gareth Roelofse 氏は2004 年に次のように述べています。「多くの図書館のネットステーション、学校のネットワーク、インターネットカフェでは、ドメイン名に「セックス」という単語が含まれるサイトがブロックされていることがわかりました。これは RomansInSussex.co.uk にとって課題でした。なぜなら、このサイトの対象読者は学童だからです。」[2]
- 2008年、ニュージーランドのファカタネという町の無料無線サービスのフィルターが、町の名前を含む検索をブロックした。これは、フィルターの音声分析により「whak」が「fuck」に似ていると判断されたためである。町の名前はマオリ語で、 「wh」はマオリ語で一般的には/ f /と発音される。その後、町は町の名前をフィルターのホワイトリストに追加した。[13]
- 2011年7月、中国共産党の江沢民前総書記が死去したとの主張が微博で報じられた後、中国国内で江という名前で検索すると検索ブロックが行われた。江は「川」を意味するため、長江を含む河川に関する検索では「関連法規および政策により、この検索結果は表示できません」というメッセージが表示される。[14]
- 2018年2月、Googleのショッピングプラットフォームでのウェブ検索で、グルーガン、ガンズ・アンド・ローゼズ、ブルゴーニュワインなどのアイテムがブロックされた。これは、Googleが定めたポリシーに違反する武器やアクセサリーの検索結果を表示したことを受けて、Googleが急いで検索システムにパッチを当てたためである。[15]
ブロックされたメール
- 2001 年、Yahoo! メールは、HTML メールでのクロスサイト スクリプティングの可能性を防ぐため、JavaScript関連の文字列を代替バージョンに自動的に置き換えるメール フィルターを導入しました。このフィルターは、「JavaScript」、「 JScript」、「VBScript」、「LiveScript」という用語をハイフンでつないで、「 eval」、「mocha」、「expression」を、それぞれ類似しているが完全に同義ではない用語「review」、「espresso」、「statement」に置き換えます。フィルターの作成には仮定が関わっていました。つまり、これらの文字列の置き換えをスクリプトのセクションと属性に限定したり、単語の境界を尊重したりする試みは行われませんでした。そうしないと、抜け穴が残ってしまうからです。その結果、 medireview がmedievalに置き換えられるなどのエラーが発生していました。[16] [17] [18]
- 2003年2月、英国下院の議員らは、当時議論されていた性犯罪法案に関する言及を含む電子メールや、自由民主党の検閲に関する諮問文書に関連する一部のメッセージを、新しいスパムフィルターがブロックしていることを発見した。 [19]また、ウェールズ語で送信された電子メールも、その言語を認識しなかったためブロックされた。 [20]
- 2004年10月、ロンドンのホーニマン博物館が、フィルターによって博物館名が「horny man」という単語の変形として誤って処理されたために、一部の電子メールを受信できなかったと報告されました。[21]
複数の意味を持つ単語はブロックされます
- 2004年10月、イギリスの学校に送られたパントマイム 「ディック・ウィッティントン」の宣伝メールは、ペニスの俗語として使われることもある「ディック」という名前が使われていたため、学校のコンピューターによってブロックされた。[22]
- 2006年5月、英国マンチェスターの男性が、計画申請について苦情を申し立てるために地方議会に送った電子メールが、構造物を指す際に「建設」という言葉が含まれていたためにブロックされていたことに気付いた。[23]
- ウィニペグを拠点とする雑誌「ザ・ビーバー」に関する電子メールやウェブ検索がブロックされたため、 2010年に出版社は89年間の出版を経て社名を「カナダの歴史」に変更した。 [24] [25]発行人のデボラ・モリソンは次のようにコメントしている。「1920年当時、ザ・ビーバーは完全に適切な名前でした。そして、その別の意味[陰部]は目新しいものではありませんが、その曖昧さはインターネットの進歩とともに全く新しい課題を引き起こし始めました。その名前は私たちの成長の障害となりました」。[26]
- 2010年6月、Twitterはルクセンブルクのユーザーがアカウントを開設し、最初のツイートを投稿してから29分後にそのユーザーをブロックした。ツイートの内容は「ついに！シジュウカラ（Parus major）のつがいが私の巣箱に引っ越してきた！」というものだった。ツイートが鳥に関するものであることを示すためにラテン語名も含まれていたにもかかわらず、アカウントのブロックを解除する試みはすべて無駄になった。[27]
- 2011年、ダドリー市議会議員は、ブラック・カントリー料理「ファゴット」 （ミートボールの一種だが、ゲイの男性に対する蔑称でもある）について言及したメールが、市議会のセキュリティソフトウェアによって冒涜的であるとフラグ付けされていることを発見した。[28]
- サウスヨークシャーのペニストーンの住民は、町の名前に「ペニス」という部分文字列が含まれているため、電子メールをブロックされている。[29]
- クリザロー（イングランド、ランカシャー州）の住民は、町の名前に「クリトリス」の略である「クリット」という部分文字列が含まれているため、繰り返し不便を感じてきた。[ 30 ]
- 履歴書にラテン語の優等で卒業した旨を記載した「cum laude」「magna cum laude」「summa cum laude」などの単語が含まれているため、スパムフィルターによってブロックされてきました。この単語はラテン語で「with 」（この場合「 〜とともに」）を意味しますが、英語では精液や射精を意味する俗語として使われることもあります。 [31]
ニュース記事
- 2008年6月、反LGBTロビー団体アメリカ家族協会が運営するニュースサイトが、AP通信の短距離走者タイソン・ゲイに関する記事をフィルタリングし、「ゲイ」を「同性愛者」に置き換え、彼の名前を「タイソン・ホモセクシャル」と表示した。[32] [33]同じ機能により、以前にもバスケットボール選手ルディ・ゲイの名前が「ルディ・ホモセクシャル」に変更されていた。[34]
- 「ass」という単語または文字列は「butt」に置き換えられる可能性があり、「classic」は「clbuttic」、「assignment」は「buttignment」、「assassinate」は「buttbuttinate」となる。[35]何かが「clbuttic mistakes」だったと言うこと、つまり「classic mistakes」の「ass」のフィルターブロックは、スカンソープ問題が起こっている例をユーモラスに指摘するためにオンラインで使用されている。[36] [37]
ビデオゲーム
- 2008年、マイクロソフトは、性的指向に関連する言葉の使用を禁止するポリシーにより、リチャード・ゲイウッドの名前が不快とみなされ、彼の「ゲーマータグ」や経歴の「本名」欄に使用できないことを確認した。[38]
- 2011年に発売されたポケットモンスター ブラック・ホワイトでは、コファグリガスが登場したが、その種族名にfag という文字列が含まれていたため、ニックネームなしでは他のプレイヤーとオンラインでトレードすることができなかった。その後、システムが更新され、ニックネームなしでもトレードできるようになった。ノズパス、プロボパス、フロムラスでも、 assという文字列が含まれていたため、同じ問題が発生した。[39]
- 2014年1月、オンラインゲーム「リーグ・オブ・レジェンド」で使用されているファイルが、サブ文字列sex を含む「VarusExpirationTimer .luaobj」と「XerathMageChainsExtended.luaobj」という名前が原因で、一部の英国ISPフィルターによってブロックされたと報告された。これは後に修正された。[40]
他の
- 2013年、スウェーデンの都市法輪にちなんで名付けられたファイル転送により、中国に拠点を置く企業DiakritでWeb接続が停止した。Diakritはファイル名を変更することでこの問題を解決した。DiakritのFredrik Bergmanは、ファイル名が、中国で設立された禁止された宗教運動である法輪功に関する議論をブロックするために使用されているグレートファイアウォールの検閲をトリガーしたと考えている。 [41]
- 2013年11月、フェイスブックは、同名の伝統料理に関連して「faggot」という言葉を使用したとして、英国のユーザーを一時的にブロックした。[42]
- 2018年5月、食料品店パブリックスのウェブサイトでは、ラテン語のフレーズ「 summa cum laude」を含むケーキの注文が禁止された。顧客は特別な指示を記載することで問題を修正しようとしたが、結局「Summa --- Laude」と書かれたケーキが届いた。[43] [44]
- 2020年5月、メディアによる徹底的な調査にもかかわらず、英国の政治顧問ドミニク・カミングス氏を直接指すハッシュタグの一部は、サブストリング「cum」がポルノ防止フィルターをトリガーしたため、 Twitterでトレンドに入らなかった。[45]
- 2020年10月、古生物学会議のバーチャル会議プラットフォームでは、「骨」「陰部」「小川」などさまざまな単語がブロックされました。[46]
- 2021年1月、Facebookはデヴォンのランドマークであるプリマス・ホーを女性蔑視的であると誤ってフラグ付けした後、ユーザーのミュートと禁止措置を取ったことを謝罪した。[47]
- 2021年4月、フランスのコミューンであるビッチュの公式Facebookページが削除された。これを受けて、コミューン当局は郵便番号Mairie 57230を参照する新しいページを作成した。Facebookは後に謝罪し、元のページを復元した。予防措置として、ローバッハ＝レ＝ビッチュの当局はFacebookページの名前をVille de Rohrbachに変更した。[48] [49]
参照
- Googleによる検閲
- クパチーノ効果 – スペルチェッカーのソフトウェアバグ
- 誤検知 – データ報告におけるエラーの種類
- 予測テキスト – 携帯電話のキーパッドの入力技術
- 再括弧付け – 歴史言語学におけるプロセス
- スパム検出 – メールスパムを防ぐ方法
- Wordfilter – インターネット上の単語やフレーズを検閲するために使用されるスクリプト
参考文献
- ^ Clive Feather (1996年4月25日). Peter G. Neumann (編). 「AOLが英国の町名を検閲！」. The Risks Digest . 18 (7).
- ^ ab McCullagh, Declan (2004年4月23日). 「Googleの貞操帯はきつすぎる」. CNET . 2011年6月16日時点のオリジナルよりアーカイブ。
- ^ Oberhaus, Daniel (2018年8月29日). 「姓が『Butts』だとインターネットでの生活は大変」Vice . 2022年7月31日閲覧。
- ^ Gellis, Cathy (2018年8月31日). 「スカンソープ問題、そしてなぜAIはプラットフォームコンテンツの大規模なモデレートに万能薬ではないのか」。Techdirt 。 2022年7月31日閲覧。
- ^ ヴィール、トニー（2021）。あなたのウィットは私の命令です：ユーモアのセンスのあるAIの構築。MITプレス。p。231。ISBN 978-0-262-04599-5. OCLC 1221016857.
- ^ Festa, Paul (1998年4月27日). 「食品ドメインが「わいせつ」と判断」News.com . 2020年5月10日時点のオリジナルよりアーカイブ。
- ^ “Foire aux questions”. radio-canada.ca. 2012年10月21日時点のオリジナルよりアーカイブ。 2011年2月24日閲覧。
- ^ Barker, Garry (2004年2月26日). 「How Mr C0ckburn fighting spam」.シドニー・モーニング・ヘラルド. 2009年9月3日時点のオリジナルよりアーカイブ。
- ^ コックバーン、クレイグ（2010年3月9日）。「BBCの失敗 – 私の正しい名前は許可されていません」。blog.siliconglen.com。2020年9月30日時点のオリジナルよりアーカイブ。
- ^ 「Yahooはアッラーを禁止しているのか？」Kallahar's Place。2016年1月14日時点のオリジナルよりアーカイブ。 2011年2月24日閲覧。
- ^ ダニエル・ルービン。「あなたの名前があなたに背を向けたとき」フィラデルフィアインクワイアラー。2008年8月5日時点のオリジナルよりアーカイブ。 2008年8月3日閲覧。
- ^ 「E-Rate とフィルタリング: 児童インターネット保護法の見直し」。議会公聴会。一般。エネルギー・商務省、電気通信およびインターネット小委員会。2001 年 4 月 4 日。
- ^ 「F-Word Town's Name Gets Censored By Internet Filter」。2008年12月1日時点のオリジナルよりアーカイブ。2011年7月27日閲覧。
{{cite news}}: CS1 maint: bot: 元の URL ステータス不明 (リンク) - ^ Chin, Josh (2011年7月6日). 「江沢民死亡の噂に続き、中国の河川が消失」。ウォール・ストリート・ジャーナル。2011年8月13日時点のオリジナルよりアーカイブ。
- ^ Molloy, Mark (2018年2月27日). 「インターネット大手が「銃」検索を厳しく取り締まる中、ワイン愛好家はGoogleでブルゴーニュの酒を購入できない」The Telegraph。 2018年3月2日時点のオリジナルよりアーカイブ。2018年2月27日閲覧。
- ^ “Yahoo、電子メールの改ざんを認める”. BBCニュース. 2002年7月19日. 2021年1月26日時点のオリジナルよりアーカイブ。2013年6月21日閲覧。
- ^ 「ハードニュース」。Need To Know 2002-07-12。2002年7月12日。 2013年6月21日閲覧。
- ^ Knight, Will (2002年7月15日). 「電子メールセキュリティフィルターが新しい単語を生み出す」. New Scientist . 2020年9月24日時点のオリジナルよりアーカイブ。2013年6月21日閲覧。
- ^ 「電子メール審査が議員の性別論争を阻止」BBCニュース、2003年2月4日。2021年2月4日時点のオリジナルよりアーカイブ。
- ^ 「ソフトウェアがウェールズ議員の電子メールをブロック」BBCニュース、2003年2月5日。2021年2月4日時点のオリジナルよりアーカイブ。
- ^ クウィントナー、エイドリアン（2004年10月5日）。「美術館の名前がポルノと混同されている」。ニュースショッパー。
- ^ ジョーンズ、サム（2004年10月13日）。「パントメールが汚物フィルターに引っかかる」ガーディアン。2021年2月4日時点のオリジナルよりアーカイブ。
- ^ 「電子メールフィルターが『勃起』をブロック」。2006年5月30日。2021年2月4日時点のオリジナルよりアーカイブ。
- ^ “The Beaver mag renamed to end porn mix-up”.シドニー・モーニング・ヘラルド. Agence France-Presse . 2010年1月13日. 2020年11月9日時点のオリジナルよりアーカイブ。 2021年2月24日閲覧。
- ^ Austen, Ian (2010年1月24日). 「Web Filters Cause Name Change for a Magazine」. The New York Times . 2020年11月9日時点のオリジナルよりアーカイブ。 2021年2月24日閲覧。
- ^ Sheerin, Jude (2010年3月29日). 「スパムフィルターがカナダの雑誌の運命を決定づけた経緯」BBCニュース。2021年1月16日時点のオリジナルよりアーカイブ。
- ^ “Luxemburger Twitter-Neubenutzer nach 29 Minuten blockiert” [ルクセンブルクの新しい Twitter ユーザーは 29 分後にブロックされた].ターゲブラット（ドイツ語）。 2010 年 6 月 22 日。2010 年6 月 12 日に取得。[リンク切れ ]
- ^ 「ブラックカントリーの評議員がホモ野郎の茶番劇に巻き込まれる」バーミンガム・メール、2011年2月24日。
- ^ トム・チャットフィールド (2013年4月17日). 「インターネットが英語に与えた最高の単語10選」.ガーディアン紙.
- ^ キーズ、ラルフ (2010)。Unmentionables: 家族の宝石からフレンドリーファイアまで - 私たちが言うことではなく、私たちが何を意味しているか。ジョン・マレー。ISBN 978-1-84854-456-7。
- ^ Maher, Kris. 「スパムフィルターに履歴書を奪われないようにしましょう」。キャリアジャーナル。2006年10月23日時点のオリジナルよりアーカイブ。2008年2月11日閲覧。
- ^ Frauenfelder, Mark (2008年6月30日). 「同性愛嫌悪のニュースサイトがアスリートのタイソン・ゲイをタイソン・ホモセクシャルに変更」Boing Boing . 2021年2月4日時点のオリジナルよりアーカイブ。
- ^ Arthur, Charles (2008年6月30日). 「コンピューターが姓「ゲイ」を…いや、ご想像通りのものに自動修正」。ガーディアン。2020年11月13日時点のオリジナルよりアーカイブ。
- ^ Mantyla, Kyle (2008年6月30日). 「自動置換の危険性」Right Wing Watch . People for the American Way . 2020年10月25日時点のオリジナルよりアーカイブ。 2021年2月24日閲覧。
- ^ ムーア、マシュー（2008年9月2日）。「The Clbuttic Mistake: When obscenity filters go wrong」。The Telegraph。2020年2月23日時点のオリジナルよりアーカイブ。
- ^ 「Clbutticの過ち：過去のもの？」。モデレーションAPI。2023年7月19日。 2024年11月25日閲覧。
- ^ コリンズ辞書。「Clbuttic」 。 2024年11月25日閲覧。
- ^ 「マイクロソフトが「ゲイウッド」は不快な姓であると確認、ゲイウッド氏が反論」2008年5月。2012年11月9日時点のオリジナルよりアーカイブ。
- ^ Keating, Lauren (2016年2月17日). 「これらは任天堂が3DSでの表示を禁止する言葉です」. Tech Times . 2023年11月14日閲覧。
- ^ ギブス、サミュエル（2014年1月21日）。「英国のポルノフィルターが『セックス』を含むゲームのアップデートをブロック」。ガーディアン。ロンドン。2020年11月11日時点のオリジナルよりアーカイブ。
- ^ Mozur, Paul; Tejada, Carlos (2013年2月13日). 「中国の『壁』がビジネスに打撃を与える」.ウォール・ストリート・ジャーナル. 2013年9月10日時点のオリジナルよりアーカイブ。 2013年5月25日閲覧。
- ^ 「ファゴットとエンドウ豆がFacebookの検閲に引っかかる」Express & Star 2013年11月。2020年5月10日時点のオリジナルよりアーカイブ。
- ^ Ferguson, Amber (2018年5月22日). 「誇り高き母親がオンラインで『Summa Cum Laude』ケーキを注文。Publixがそれを検閲: Summa … Laude」。ワシントンポスト。2018年5月22日時点のオリジナルよりアーカイブ。 2018年5月22日閲覧。
{{cite news}}: CS1 maint: bot: 元の URL ステータス不明 (リンク) - ^ Amatulli, Jenna (2018年5月22日). 「Publix Censors Teen's 'Summa Cum Laude' Graduation Cake」ハフィントン・ポスト。2018年9月5日時点のオリジナルよりアーカイブ。
- ^ Hern, Alex (2020年5月27日). 「アンチポルノフィルターがドミニク・カミングスのTwitterでのトレンド入りを阻止」。ガーディアン。2021年2月20日時点のオリジナルよりアーカイブ。
- ^ Ferreira, Becky (2020年10月15日). 「古生物学会議で「骨」という言葉の使用を禁止する不適切な表現フィルター」.マザーボード. 2021年2月23日時点のオリジナルよりアーカイブ。
- ^ モリス、スティーブン（2021年1月27日）。「FacebookがPlymouth Hoeを不快な言葉としてフラグ付けしたことを謝罪」ガーディアン。2021年1月29日時点のオリジナルよりアーカイブ。
- ^ ケンプ、セドリック (2021 年 4 月 12 日)。 「無礼者：フェイスブックに対する愚痴を非難する」。ラジオメロディー（フランス語）。
- ^ Darmanin, Jules (2021年4月13日). 「Facebookがフランスの町ビッチェの公式ページを削除」. POLITICO . 2021年7月3日閲覧。
