アルゴリズム・ジャスティス・リーグ

アルゴリズム・ジャスティス・リーグ

略語	AJL
形成	2016
創設者	ジョイ・ブオラムウィニ
目的	AI活動
位置	マサチューセッツ州ケンブリッジ
Webサイト	詳しくはこちら

アルゴリズミック・ジャスティス・リーグ（AJL ）は、マサチューセッツ州ケンブリッジに拠点を置くデジタル擁護の非営利団体です。2016年にコンピューター科学者のジョイ・ブオラムウィニによって設立されたAJLは、研究、アートワーク、政策提唱を通じて、社会における人工知能（AI）の使用と、AIが社会にもたらす可能性のある害と偏見に関する社会的認識を高めています。^[1] AJLは、AIシステムの偏見に関する情報を伝え、偏見のあるAIシステムの作成と展開を軽減するための業界と政府の行動を促進するために、さまざまな公開オンラインセミナー、メディア出演、技術擁護イニシアチブに取り組んでいます。2021年、Fast CompanyはAJLを世界で最も革新的なAI企業10社の1つに選びました。^{[2] [3]}

ブオラムウィニは2016年にMITメディアラボの大学院生としてアルゴリズム・ジャスティス・リーグを設立した。研究で顔検出ソフトウェアの実験をしていたとき、彼女は白いマスクを着用するまでソフトウェアが彼女の「非常にメラニンの多い」顔を検出できないことを発見した。^[4]この事件の後、ブオラムウィニは人工知能における偏見の存在とそれが公民権に及ぼす脅威に世間の注目を集めるためにAJLを設立することを思いついた。^[4]初期のAJLキャンペーンは主に顔認識ソフトウェアの偏見に焦点を当てていたが、最近のキャンペーンはアルゴリズムの偏見、アルゴリズムの意思決定、アルゴリズムのガバナンス、アルゴリズムの監査など、AIにおける公平性と説明責任の問題をより広く扱っている。

さらに、Data and Society、 Data for Black Lives、Distributed Artificial Intelligence Research Institute（DAIR）、Fight for the Futureなど、同様の目標に向けて活動している他の組織のコミュニティもあります。^{[5] [6] [7]}

AJL創設者のブオラムウィニはAI倫理学者のティムニット・ゲブルと共同で、マイクロソフト、IBM、Face++の商用システムで使用されている顔認識アルゴリズムの人種的および性別による偏見に関する2018年の研究を発表した。「ジェンダー・シェード」と題された彼らの研究では、IBMとマイクロソフトがリリースした機械学習モデルは、肌の色が濃い女性的な顔を分析する際の精度が、肌の色が薄い男性的な顔の分析に比べて低いことが判明した。^{[8] [9] [10] 「ジェンダー・シェード」の論文は、}ジョージタウン大学プライバシー＆テクノロジーセンターと共同で設計された、テクノロジー組織や政府に顔認識テクノロジーの致死的な使用を禁止するよう求める取り組みであるセーフフェイス・プレッジの立ち上げを伴っていた。^[11] AJLや同様の団体が行ったジェンダー・シェード・プロジェクトとその後の活動により、アマゾンやIBMを含む複数のテクノロジー企業がアルゴリズム開発における偏見に対処し、2020年には警​​察による自社製品の使用を一時的に禁止した。^{[12] [13]}

ブオラムウィニとAJLは、2020年のNetflixドキュメンタリー『Coded Bias』に出演し、サンダンス映画祭で初公開された。^{[2] [14] [15]}このドキュメンタリーは、顔認識システムにおけるアルゴリズムの偏見に対する認識を広めるためのAJLの研究と擁護活動に焦点を当てていた。^{[4] [15]}

AJLが関与する研究協力は、2020年5月に白書を発表し、顔認識技術の開発と展開を規制するための新たな米国連邦政府機関の設立を求めた。^[16]白書では、この分野のための新たな連邦政府機関を設立することで、顔認識技術が脆弱な集団にもたらす大量監視や偏見のリスクを軽減できると提案した。^[17]

AJLは、性別や人種の異なる人々を対象に、音声言語モデリングのためのAIシステムのパフォーマンスにおけるアルゴリズムの偏りや不平等について、一般の認識を高める取り組みを行っています。この分野におけるAJLの活動は、商用の音声認識および自然言語処理システムのパフォーマンスにおける性別と人種の格差を強調することに重点を置いています。これらのシステムは、人種的マイノリティに対してパフォーマンスが低く、性別の固定観念が強化されていることが示されています。^{[18] [19] [20]}

2020年3月、AJLは「Voicing Erasure」と題したスポークンワードの芸術作品を発表し、自動音声認識（ASR）システムにおける人種差別への世間の認識を高めた。^{[21] [22]この作品は、}ルハ・ベンジャミン、サーシャ・コスタンザ・チョック、サフィヤ・ノーブル、キンバリー・クレンショーなど、この分野の多くの女性およびノンバイナリー研究者によって演じられた。^{[22] [21]} AJLは「Voicing Erasure」の開発を、5つの商用ASRシステムのパフォーマンスにおける人種差を特定した「自動音声認識における人種差」と題された2020年のPNAS論文に基づいて行った。^[20]

2019年、ブオラムウィニはAJLを代表して米国下院科学宇宙技術委員会の議会公聴会に出席し、顔認識技術の商業的および政府における応用について議論した。^{[23] [24]}ブオラムウィニは公聴会で証人として出席し、肌の色が濃く女性的な特徴を持つ人々を識別する際の顔認識技術の性能不足について話し、AJLプロジェクト「ジェンダーシェード」の研究で自身の立場を裏付けた。^{[24] [25] [26]}

2022年1月、AJLはFight for the Futureおよび電子プライバシー情報センターと協力してDumpID.meと呼ばれるオンライン請願書を発表し、IRSに対し、ログイン時にユーザーに対して使用していた顔認識技術であるID.meの使用を停止するよう求めた。 ^[7] AJLと他の組織は議員に手紙を送り、IRSにプログラムを停止するよう促すよう要請した。2022年2月、IRSはプログラムを停止し、顔認識技術の使用を停止することに同意した。^[27] AJLは現在、他の政府機関に顔認識技術の使用をやめるよう説得する取り組みに移行しており、2022年3月現在、DumpID.me請願書はすべての政府機関でのID.meの使用を停止することに方向転換している。^[28]

2021年9月、オーレイ社はAJLおよびオニール・リスク・コンサルティング＆アルゴリズム監査（ORCAA）と協力して、Olay Skin Advisor（OSA）システムに有色人種の女性に対する偏見が含まれていないかを調査する監査を含む「偏見を解読する」キャンペーンを実施した。^[29] AJLがオーレイ社と協力することを選んだのは、この監査で使用するセルフィーと肌のデータについて顧客の同意を得るというオーレイ社の約束があったためである。^[30] AJLとORCAAの監査により、OSAシステムのパフォーマンスには、参加者の肌の色と年齢にわたって偏りがあることが明らかになった。^{[30] OSAシステムは、}フィッツパトリックの肌タイプと個人の類型角の肌分類スケールに従って、肌の色が明るい参加者に対してより高い精度を示した。OSAシステムは、30～39歳の参加者に対してもより高い精度を示した。^[31]オーレイ社はそれ以来、OSAシステムの偏見を内部監査し、軽減するための措置を講じてきた。 [ ^30]オレイ社はまた、アフリカ系アメリカ人の少女たちがSTEM関連の職業に就くことを奨励するために、ブラック・ガールズ・コード・キャンプに参加するための資金を1,000人提供した。 ^[30]

2020年7月、アルゴリズムシステムの害悪に関するコミュニティ報告（CRASH）プロジェクトがAJLによって開始されました。^[32]このプロジェクトは、2019年にブオラムウィニとデジタルセキュリティ研究者のカミーユ・フランソワがロックフェラー財団が主催するベラージオセンターレジデンシープログラムで出会ったことから始まりました。それ以来、このプロジェクトはMIT教授でAJL研究ディレクターのサーシャ・コスタンツァ・チョックも共同で主導しています。CRASHプロジェクトは、AI技術におけるアルゴリズムの偏りの事例を発見して報告するよう個人にインセンティブを与えるバグ報奨金プログラム（BBP）開発のフレームワークの作成に重点を置いていました。 ^{[32] [33]} AJLの研究者は、BBP参加者へのインタビューとTwitterのBBPプログラムのケーススタディを実施した後、^[34] AIシステムにおける偏りの存在を見つけて開示するよう個人に報酬を与え奨励するBBPプログラムを設計するための概念フレームワークを開発し、提案しました。^[35] AJLは、CRASHフレームワークによって、個人がアルゴリズムによる損害を報告し、企業が導入するAI技術の変化を促すことを目指しており、特に従来はAI技術の設計から排除されてきた個人を対象としている[20、DataSocietyレポート]。^{[36] [37]}

AJLの取り組みは、フォード財団、マッカーサー財団、アルフレッド・P・スローン財団、ロックフェラー財団、モジラ財団、個人の寄付者から資金提供を受けています。 ^{[36] [38]} Fast Companyは、 AJLを2021年の最も革新的なAI企業10社の1つとして認定しました。^{[2]さらに、}タイム誌、ニューヨークタイムズ、NPR、CNNなどのメディアは、ブオラムウィニのAJLでの取り組みをいくつかのインタビューや記事で取り上げています。^{[7] [24] [39]}

• アルゴリズムの規制
• アルゴリズムの透明性
• デジタル著作権
• アルゴリズムの偏り
• 人工知能の倫理
• 公平性（機械学習）
• デボラ・ラジ
• エミリー・M・ベンダー
• ジョイ・ブオラムウィニ
• サーシャ・コスタンツァ・チョック
• ティムニット・ゲブル
• マーガレット・ミッチェル（科学者）
• AIに抵抗する

• アルゴリズム・ジャスティス・リーグ