Loading article…
Fawkesは、シカゴ大学のSAND（Security, Algorithms, Networking and Data）研究所が開発した顔画像隠蔽ソフトウェアです。 [ 1 ]これはスタンドアロン実行ファイルとして利用できる無料ツールです。 [ 2 ]このソフトウェアは、人工知能を使用して画像に小さな変更を加え、顔認識ソフトウェアによる認識や照合から画像を保護します。 [ 3 ] Fawkesプログラムの目標は、個人が大規模なデータ収集から自身のプライバシーを保護できるようにすることです。2022年5月現在、Fawkes v1.0は84万回以上ダウンロードされています。[ 4 ]最終的には、SAND研究所は、不当な顔認識ソフトウェアに対抗するために、このソフトウェアをより大規模に実装したいと考えています。 [ 5 ]
Fawkes プログラムは、映画やコミックのV フォー・ヴェンデッタの架空の主人公にちなんで名付けられ、歴史上の人物ガイ・フォークスからインスピレーションを得ています。[ 6 ] Fawkes の提案は、2020 年 8 月にUSENIX Securityカンファレンスで最初に発表され、承認を得て、その後すぐにリリースされました。ダウンロード可能な最新バージョンである Fawkes v1.0 は、2021 年 4 月にリリースされ、2022 年も更新が続けられています。[ 4 ]創設チームは、シカゴ大学の博士課程学生である Emily Wenger と Shawn Shan が率いています。教員アドバイザーの Ben Zhao と Heather Zheng の Jiayun Zhang と Huiying Li からの追加サポートが、ソフトウェアの作成に貢献しました。[ 7 ]チームは、特にClearwater AIなどの企業が行っている非同意のデータ収集が、Fawkes 作成の主なインスピレーションであると述べています。[ 8 ]
Fawkes が使用する手法は、敵対的機械学習に似ていると特定できます。この手法では、既に改変された画像を使用して顔認識ソフトウェアをトレーニングします。その結果、ソフトウェアは改変された画像を実際の画像と照合することができず、同じ画像として認識しません。Fawkes はまた、特定の深層学習モデルのトレーニングに使用されるデータセットを変更するデータ ポイズニング攻撃も使用します。Fawkes は、クリーン ラベル攻撃とモデル破損攻撃の 2 種類のデータ ポイズニング技術を利用します。Fawkes の開発者は、シビル画像を使用することで、認識ソフトウェア製品に対するソフトウェアの有効性を高めることができると認識しています。シビル画像とは、それが帰属する人物と一致しない画像のことです。これにより、顔認識ソフトウェアが混乱し、誤認につながり、画像クローキングの有効性も高まります。プライバシー保護機械学習は、Fawkes ソフトウェアと同様の技術を使用しますが、差分プライバシー モデルトレーニングを選択し、データセット内の情報をプライベートに保つのに役立ちます。[ 3 ]
顔認識ソフトウェアが利用できる隠蔽された画像と隠蔽されていない画像が存在する場合、ソフトウェアの有効性は低下します。画像隠蔽ソフトウェアは顔認識ソフトウェアでテストされ、さまざまな結果が出ています。[ 3 ] Fawkes と同様の顔隠蔽ソフトウェアはLowKeyと呼ばれ、視覚レベルで画像を変更しますが、これらの変更は Fawkes ソフトウェアと比較してはるかに目立ちます。[ 2 ]