Loading article…
PhotoDNAは、オンラインサービスプロバイダーによって広く使用されている独自の画像識別およびコンテンツフィルタリング技術です[1]。[2] [3]
歴史
PhotoDNAは、 2009年にマイクロソフトリサーチとダートマス大学のハニー・ファリド教授によって開発されました。既知の画像と動画ファイルのデータベースから、各画像を表す一意のハッシュを作成し、それを使用してそれらの画像の他のインスタンスを識別します。[4]
ハッシュ法は当初、画像を白黒形式に変換し、それを正方形に分割し、正方形の陰影を定量化するという方法に依存していましたが、[5]顔認識技術は使用されておらず、画像内の人物や物体を識別することもできませんでした。[要出典]この方法は、サイズ変更や軽微な色の変更など、画像の変更に対する耐性を求めていました。[4] 2015年以降、[6]同様の方法がビデオファイル内の個々のビデオフレームに使用されています。[7]
マイクロソフトは、国際行方不明・被搾取児童センター（ICMEC）が管理・支援し、個々の写真を一意に識別できる「指紋」を保存することでデジタルフォレンジック活動の一部として使用されるプロジェクトVICにPhotoDNA技術を寄贈しました[検証失敗]。 [8] [9 ] [10]データベースには、数百万のアイテムのハッシュが含まれています。[11]
2014年12月、マイクロソフトはAzure Marketplaceを通じて、資格のある組織にPhotoDNAをサービスとしてのソフトウェアモデルで無料で提供しました。[12]
2010年代から2020年代にかけて、PhotoDNAは、コンテンツのモデレーションやインターネット検閲に関する政策提案[13]に関連して提唱された。これには、米国上院公聴会（2019年の「デジタル責任」に関するもの[2]、2022年のEARN IT法[14]）や、市民社会から「アップロードフィルター」と呼ばれている欧州委員会のさまざまな提案[15] [16]、いわゆる自主規範（2015年の事件後の2016年[17]ヘイトスピーチに関するもの[18]、2018年[19]と2022年[20]偽情報に関するもの）、著作権法（主に2014年[21]から2021年[22]にかけて議論された2019年著作権指令）、テロ関連規制（TERREG）[23]、インターネット盗聴規制（2021年の「チャット制御」）など）。[24]
2016年、ハニー・ファリドは、この技術の使用をテロ関連コンテンツにまで拡大することを提案した。[25] 2016年12月、Facebook、Twitter、Google、Microsoftは、テロリスト募集ビデオや暴力的なテロリストの画像などの過激なコンテンツを削除するためにPhotoDNAを使用する計画を発表した。[26] 2018年、Facebookは、アルカイダのビデオを自動的に削除するためにPhotoDNAが使用されていると述べた。[13]
2019年までに、マイクロソフト、フェイスブック、グーグルなどの大手テクノロジー企業は、2017年以来、自動的に検閲されるコンテンツの共有データベースとしてGIFCTを運用していると公表した。 [2] 2021年現在、アップルは同様の目的でNeuralHashを使用していると考えられている。[27]
2022年、ニューヨークタイムズは、医療目的で子供の写真を撮影し、自動的にGoogleのサーバーにアップロードされたためにGoogleアカウントを閉鎖された2人の父親の話を報じた。[28]記事では、既知のハッシュのデータベースを必要とするPhotoDNAと、これまでに見たことのない搾取的な画像を認識できるGoogleのAIベースの技術を比較している。[29] [30]
使用法
マイクロソフトはもともと、BingやOneDriveなどの自社サービスでPhotoDNAを使用していました。[31] 2022年現在、PhotoDNAは、GoogleのGmail、Twitter、[34] Facebook 、 [ 35] Adob e Systems、[36] Reddit、[37] Discordなど、オンラインサービスプロバイダーによるコンテンツモデレーションの取り組みに広く使用されています。[38]
英国インターネットウォッチ財団は、フォトDNAシグネチャの参照データベースを作成しており、児童性的搾取に関する既知の資料のハッシュを30万件以上保有していると報告されている。[要出典] このデータベースのもう一つの情報源は、国立行方不明・搾取児童センター（NCMEC）である。[39] [40]
PhotoDNAは、コンテンツの削除、 [2]、アカウントの無効化、人物の報告に広く使用されています。 [7]
反転
2021年、アニッシュ・アサリーはニューラルネットワークを使ってPhotoDNAハッシュを部分的に反転させることに成功し、PhotoDNAハッシュの可逆性に関する懸念が浮上した。[41]
参照
参考文献
- ^ Douze, Matthijs; Tolias, Giorgos; Pizzi, Ed; Papakipos, Zoë; Chanussot, Lowik; Radenovic, Filip; Jenicek, Tomas; Maximov, Maxim; Leal-Taixé, Laura; Elezi, Ismail; Chum, Ondřej; Ferrer, Cristian Canton (2022年2月21日)。「2021年画像類似性データセットとチャレンジ」。arXiv : 2106.09672 [cs.CV] 。MicrosoftのPhotoDNAなどの画像指紋は、児童の搾取や虐待を描写した画像を識別するため
に業界全体で使用されています。
- ^ abcd 「コンテンツカルテルの台頭」knightcolumbia.org 2020年2月11日。 2022年8月21日閲覧。
- ^ ヒル、カシミール（2022年8月21日）。「父親が医者のために幼児の裸の写真を撮った。グーグルが彼を犯罪者としてフラグ付け」ニューヨークタイムズ。ISSN 0362-4331 。 2022年8 月21日閲覧。
- ^ ab 「新技術、PhotoDNAを追跡して児童ポルノと戦う」Microsoft Corporation、2009年12月15日。 2016年9月9日閲覧。
- ^ 「Photo DNA: Step by step」。Microsoft。2013年9月21日時点のオリジナルよりアーカイブ。2014年2月11日閲覧。
- ^ 「ビデオ用PhotoDNAがオンライン児童搾取と戦うためにどのように使用されているか」2018年9月12日。
- ^ ab 「PhotoDNA for Video がオンライン児童搾取と戦うためにどのように使用されているか」news.microsoft.com。2018 年 9 月 12 日。
- ^ ジャクソン、ウィリアム（2014年8月27日）。「改良された画像分析ツールが搾取された子供の事件をスピードアップ」GCN。
- ^ ab Clark, Liat (2014年4月30日). 「児童虐待追跡技術が世界に寄贈」. Wired UK .
- ^ ab 「欧州委員会の子どもの権利に関するコミュニケーション（2011～2014年）に関する協議に対するマイクロソフトの回答」（PDF） 。 2017年10月24日時点のオリジナル（PDF）よりアーカイブ。、欧州委員会
- ^ Ward, Mark (2014年3月23日)。「児童虐待者の逮捕に役立つクラウドベースのアーカイブツール」BBCニュース。
- ^ 「PhotoDNA クラウド サービス」。Microsoft.com。Microsoft Corporation。2015年2 月 19 日閲覧。
- ^ リチャード・アラン（2018年6月18日）。「11時14分の公聴会」。「DSMにおける違法コンテンツ削除に関する EU の水平的規制枠組み」
- ^ 木曜、Szoka、2022年2月10日午後3時30分 - Berin、Cohn、Ari（2022年2月10日）。「今日のEARN ITマークアップ中に上院議員が犯したトップ10の間違い」。Techdirt 。 2022年8月21日閲覧。
{{cite web}}: CS1 maint: 数値名: 著者リスト (リンク) - ^ シュモン、クリストフ（2021年6月3日）。「EU委員会がフィルター廃止を拒否」。電子フロンティア財団。2022年8月21日閲覧。
- ^ 「アップロードフィルター：無料インターネットコンテンツへの危険？」IONOS Digitalguide 2019年3月28日2022年8月21日閲覧。
- ^ 「違法なオンラインヘイトスピーチとの戦い：新しい行動規範の最初の評価」ec.europa.eu 2016年12月6日2022年8月21日閲覧。
- ^ 「オンライン上の違法ヘイトスピーチに対抗するためのEU行動規範 | 欧州委員会」 Ec.europa.eu 。 2022年8月29日閲覧。
- ^ 「偽情報に関する行動規範 | ヨーロッパのデジタル未来を形作る」2018年9月26日。
- ^ 「2022年版偽情報に関する行動規範 | ヨーロッパのデジタル未来を形作る」2023年3月24日。
- ^ 「手続きファイル: 2014/2256(INI) | 立法監視機関 | 欧州議会」。
- ^ 欧州委員会から欧州議会および理事会への通信 デジタル単一市場における著作権に関する指令2019/790の第17条に関するガイダンス
- ^ 「オンライン上のテロリストコンテンツ」。
- ^ Reuter, Markus; Rudl, Tomas; Rau, Franziska; Hildebr, Holly. 「チャットコントロールがなぜ危険なのか」。欧州デジタル著作権 (EDRi) 。 2022年8月21日閲覧。
- ^ Waddell, Kaveh (2016年6月22日)。「斬首動画がオンラインに公開される前に削除するツール」The Atlantic 。 2016年9月10日閲覧。
- ^ 「オンライン上のテロリストコンテンツの拡散防止に向けた提携 | Facebook Newsroom」2016年12月6日閲覧。
- ^ Abelson, Hal; Anderson, Ross; Bellovin, Steven M.; Benaloh, Josh; Blaze, Matt; Callas, Jon; Diffie, Whitfield; Landau, Susan; Neumann, Peter G.; Rivest, Ronald L.; Schiller, Jeffrey I.; Schneier, Bruce; Teague, Vanessa; Troncoso, Carmela (2024). 「ポケットの中のバグ: クライアント側スキャンのリスク」. Journal of Cybersecurity . 10. arXiv : 2110.07450 . doi :10.1093/cybsec/tyad020.
- ^ ヒル、カシミール（2022年8月21日）。「父親が医者のために幼児の裸の写真を撮った。グーグルは彼を犯罪者としてフラグ付けした」ニューヨークタイムズ。ISSN 0362-4331 。2022年8月21日閲覧。ほぼ10年後の2018年、 グーグル
がこれまでに見たことのない子供の搾取的な画像を認識できる人工知能ツールを開発し、より大きな進歩がもたらされた。[...] マークとカシオの写真が彼らの携帯電話からグーグルのサーバーに自動的にアップロードされると、この技術が彼らにフラグを付けた。
- ^ 「Google、病気の子どもを撮影した親の写真を性的虐待と判定」Gizmodo 2022年8月22日2022年8月28日閲覧。Google
によると、これらの事件報告は自動化されたPhotoDNAツールに限らず、複数のソースから来ているという。
- ^ Roth, Emma (2022年8月21日). 「Google AI、病気の子供のヌード写真で虐待の可能性がある親のアカウントにフラグを立てる」The Verge . 2022年8月28日閲覧。
Googleは、アップロードされた画像をスキャンして既知のCSAMとの一致を検出するために、MicrosoftのPhotoDNAとのハッシュマッチングを使用している。 [...] 2018年に、Googleは「これまでに見たことのないCSAM画像を積極的に識別して確認し、CSAMであることが確認された場合はできるだけ早く削除して報告できる」Content Safety API AIツールキットのリリースを発表した。同社はこのツールを自社のサービスに使用しており、YouTubeのエンジニアが開発した動画を対象としたCSAI Matchハッシュマッチングソリューションとともに、他の人にも使用できるように提供している。
- ^ 「児童ポルノとインターネットに関する残念な真実[特集]」 2012年12月7日。
- ^ エーハー、ラインハルト; クレイグ、リーム A.; マイナー、マイケル H.; フェフリン、フリーデマン (2011)。性犯罪者の評価と処遇に関する国際的視点:理論、実践、研究。ジョン ワイリー アンド サンズ。p. 514。ISBN 978-1119996200。
- ^ ラタンツィ・リヒト、マーシャ、ドカ、ケネス（2004年）。悲しみとともに生きる：公的な悲劇への対処。ラウトレッジ。317ページ。ISBN 1135941513。
- ^ Arthur, Charles (2013年7月22日). 「Twitter、児童虐待画像をブロックするPhotoDNAシステムを導入へ」. The Guardian . 2013年7月22日閲覧。
- ^ スミス、キャサリン（2011年5月2日）。「Facebook、児童ポルノの削除にMicrosoft PhotoDNAを採用」ハフィントンポスト。 2013年7月22日閲覧。
- ^ 「Adobe & PhotoDNA」www.adobe.com . 2021年8月27日閲覧。
- ^ 「Redditが児童ポルノ防止にPhotoDNAを使用」2020年3月19日。
- ^ 「Discord 透明性レポート: 2020 年 7 月 - 12 月」。Discordブログ。2021 年 4 月 2 日。2022年5 月 8 日閲覧。
- ^ 「マイクロソフトの情報により、警察は児童虐待画像を所持していた男を逮捕」ガーディアン紙、2014年8月7日。
- ^ Salcito, Anthony (2009 年 12 月 17 日)。「Microsoft が PhotoDNA テクノロジを寄贈し、インターネットを子供にとってより安全に」 。2013年7 月 22 日閲覧。
- ^ Athalye, Anish (2021年12月20日). 「Inverting PhotoDNA」.
外部リンク
- 公式サイト