ジョイ・ブオラムウィニ

ジョイ・ブオラムウィニ
ウィキマニア 2018の Buolamwini
生まれる	ジョイ・アドワー・ブオラムウィニ ( 1990-01-23 )1990年1月23日（34歳） エドモントン、アルバータ州、カナダ
教育	コルドバ高等学校
母校	ジョージア工科大学( BS ) ジーザス・カレッジ・オックスフォード( MS ) マサチューセッツ工科大学( MS、PhD )
知られている	アルゴリズム・ジャスティス・リーグ
科学者としてのキャリア
フィールド	メディア芸術と科学 コンピュータサイエンス アルゴリズムバイアス
機関	MITメディアラボ
論文	ジェンダーシェード：顔データセットとジェンダー分類器の交差表現型と人口統計学的評価 （2017） 喚起的監査とアルゴリズム監査によるコード化された視線への対処 (2022)
博士課程の指導教員	イーサン・ザッカーマン[1]
ブオラムウィニの声 2018年7月収録
Webサイト	当サイトについて

ジョイ・アドワー・ブオラムウィニは、かつてMITメディアラボに所属していたカナダ系アメリカ人のコンピュータ科学者、デジタル活動家です。^[2]彼女は、人工知能（AI）の社会的影響と害を強調するために芸術、擁護、研究を用いて、意思決定ソフトウェアの偏見に挑戦する組織、アルゴリズム・ジャスティス・リーグ（AJL）を設立しました。^[3]

ブオラムウィニはアルバータ州エドモントンで生まれ、ミシシッピ州で育ち、テネシー州コルドバのコルドバ高校に通った。 ^{[4] 9歳のとき、} MITのロボットであるKismetに触発され、独学でXHTML、JavaScript、PHPを学んだ。^{[5] [6]}学生アスリートとして、彼女は棒高跳びの競技選手であり^[7]、バスケットボールもプレーした。ブレネ・ブラウンの番組「Dare to Lead」で彼女が録音したポッドキャストのエピソードでは、バスケットボールの休憩時間にAP物理学の宿題を終えたことを思い出している。^[8]

学部生として、ブオラムウィニはジョージア工科大学でコンピュータサイエンスを学び、そこで健康情報学を研究しました。^[9]ブオラムウィニは2012年にジョージア工科大学からスタンプス学長奨学生^{[10]として卒業し、 [11]} 2009年にはジョージア工科大学インベンチャー賞の最年少ファイナリストとなりました。^[12]

ブオラムウィニはローズ奨学生、フルブライト研究員、スタンプス奨学生、宇宙飛行士奨学生、アニタ・ボーグ研究所奨学生である。^[13]ローズ奨学生として、彼女はオックスフォード大学で学習とテクノロジーを学び、オックスフォード大学ジーザス・カレッジを拠点とする学生であった。^{[14] [15]}奨学金受給中、彼女は最初の正式な奉仕年に参加し、コミュニティに焦点を当てたプロジェクトに取り組んだ。^{[15] [16]} 彼女は2017年にイーサン・ザッカーマンの指導の下で研究を行い、MITからメディア芸術と科学の修士号を授与された。^[1]彼女は2022年にMITメディアラボからメディア芸術と科学の博士号を授与され、論文は「Facing the Coded Gaze with Evocative Audits and Algorithmic Audits」である。^[17]

2011年、ブオラムウィニはカーターセンターのトラコーマプログラムと協力し、エチオピアで使用するためのAndroidベースの評価システムを開発しました。^{[18] [5]}

フルブライト研究員として、2013年にザンビアの地元のコンピュータ科学者と協力して、ザンビアの若者がテクノロジークリエイターになれるよう支援した。^[19] 2016年9月14日、ブオラムウィニはホワイトハウスの「すべての人のためのコンピュータサイエンス」サミットに出席した。^[20]

ブオラムウィニはMITメディアラボの研究者で、アルゴリズムの偏りを特定し、設計時の説明責任を果たすための実践を開発していました。^[21]ラボでは、ブオラムウィニはイーサン・ザッカーマンのシビックメディアセンターグループのメンバーでした。^{[22] [23]}研究中、ブオラムウィニは顔認識システムに1,000人の顔を見せ、顔が女性か男性かを識別するようにシステムに要求したところ、ソフトウェアは肌の色の濃い女性を識別するのが難しいことがわかりました。^[24]彼女のプロジェクトであるジェンダーシェードは、MITでの学位論文の一部となりました。^{[1] [25]}彼女の2018年の論文「ジェンダーシェード：商業的な性別分類における交差的な精度の不均衡」^{[26] は、}IBMとMicrosoftからアルゴリズムの精度を改善するための是正措置を講じるという対応を促し、彼女の業界への影響力を示すように両社のソフトウェアを迅速に改善しました。^{[27] [28]}彼女はまた、ユーザーがインスピレーションに基づいて自分自身を映し出すデバイスであるAspire Mirrorを作成した。^[29]彼女のプログラムであるAlgorithmic Justice Leagueは、過小評価されたグループに対する差別につながる可能性のあるコードの偏見に焦点を当てている。^{[30]彼女は}Code4RightsとAlgorithmic Justice League：Unmasking Biasの2つの映画を制作した。^{[31] [32]}現在もディレクターを務めるCode4rightsは、テクノロジーを使用して人権意識を広めることを目的として2012年に設立された擁護団体です。^[33]彼女はヘアケアテクノロジー企業Techturized Inc.の最高技術責任者（CTO）を務めた。 ^[9]

ブオラムウィニの研究は、2020年にグーグルとマイクロソフトが製品やプロセスにおける性別や人種の偏見に対処する上で影響を与えたとして引用された。 ^[34]

彼女はまた、2023年10月30日に発表されたバイデン政権の大統領令14110号に先立ち、大統領の顧問を務めた。この命令は、人工知能の安全でセキュリティが高く、信頼できる開発と使用に関する大統領令（「人工知能に関する大統領令」と呼ばれることもある）としても知られている。^{[35] [36]}

2023年に彼女は自身の研究を記録した初の著書『AIのマスクを剥ぐ：機械の世界で人間らしさを守る私の使命』を出版した。^[37]

ジョイ・ブオラムウィニ博士のAIバイアスに関する研究は、エンジニアリングとテクノロジーにおける男女平等の推進に極めて重要な役割を果たしてきました。彼女の研究によると、AI搭載の顔認識システムは、肌の色が濃い女性を識別する際にエラー率が高く、肌の色が薄い男性の場合は0.8%であるのに対し、肌の色が濃い女性では34.7%に達しました。これらの差異は、アルゴリズム設計に潜在的なバイアスがあることを示しており、偏ったトレーニングデータと不完全な評価プロセスにより、性別と肌の色の両方に基づいて不平等な技術的成果がもたらされました。^[38]

ブオラムウィニは、AIのパフォーマンス限界に関する個人的な経験から、アルゴリズムの偏りについて研究するようになった。MITメディアラボで顔認識ベースのアートプロジェクトに取り組んでいるときに、彼女は、市販のAIシステムが彼女の肌の色が濃いため、一貫して彼女の顔を検出できないことに気づいた。このフラストレーションが、IBM、Microsoft、Face++の顔分析システムを厳密に評価した画期的な研究プロジェクト「ジェンダー・シェード」のきっかけとなった。彼女の研究では、これらのシステムは肌の色が薄い男性に対して最も正確で、エラー率は1%と低かったが、肌の色が濃い女性に対しては精度が急落し、誤分類率が47%にも達することが明らかになった。^[39]

これらの失敗はデータの不均衡に起因することを認識したブオラムウィニは、典型的なAIトレーニングセットの75％以上が男性で80％が肌の色が薄い顔で構成されていたため、その表現の欠如に対処するために設計された多様なデータセットであるパイロットパーラメントベンチマークを導入しました。この新しいベンチマークは、より公平なテスト基準を確保することでAIのパフォーマンスを評価および改善するための重要な先例を打ち立てました。^[39]

彼女の研究結果は、テクノロジー業界に大きな変化をもたらしました。彼女の研究が発表された後、IBMやマイクロソフトなどの企業はアルゴリズムの改善に取り組み、偏見を減らし、精度を高めました。しかし、ブオラムウィニは、技術的な精度の向上だけでは、人種プロファイリング、監視、採用決定などの分野での潜在的な悪用リスクを排除することはできないと指摘しています。^[39]

これらの懸念に対処するため、ブオラムウィニはセーフフェイス誓約を共同設立し、テクノロジー企業に倫理的なAI実践を採用するよう奨励している。誓約は顔認識の武器化を禁止し、警察による無法な使用を禁じ、政府の監視アプリケーションの透明性を要求する。彼女の主張は、AI開発における公平性の実現には、規制枠組みや共同作業を含む多面的なアプローチが必要であることを強調している。^[39]

ブオラムウィニは、公平で説明責任のある人工知能（AI）を推進するために、2016年にアルゴリズム・ジャスティス・リーグ（AJL）を設立しました。 ^[40] AJL組織は、芸術と研究を統合して社会的影響を調査し、AI関連の危害を軽減します。同社は、偏見の緩和に関する研究を進めながら、AIの影響に関する一般の認識を高めるために取り組んでいます。また、公平性とテクノロジーが交差する問題にも取り組んでおり、より包括的でアクセスしやすいエンジニアリングシステムを推進しています。AJLは、インタラクティブなキャンペーン、展示会、教育イニシアチブを通じて一般の関与を促進し、偏見のあるアルゴリズムがジェンダー平等に与える影響について幅広い聴衆に情報を提供しています。

AJL は、その活動範囲を広げるために、Black Girls Code などの組織と提携し、アフリカ系アメリカ人の少女がSTEM分野のキャリアを追求することを奨励し、テクノロジー業界における多様性を促進しています。AJL は、AI の偏見について一般の人々やテクノロジー コミュニティを教育することを目的としたワークショップを開催し、リソースを提供しています。特に、少数派の性別が AI システムに関与し、異議を唱えられるようにすることに重点を置いています。

AJLの成功は、チームの共同努力の成果です。アルゴリズミック・ジャスティス・リーグの主要メンバーには、組織開発と公平で説明責任のあるAIを推進するためのつながりの構築に注力するチーフ・オブ・スタッフのレイチェル・フェイゲンがいます。オーラム・リンはAI危害アナリストとして、人工知能の悪影響を特定し、軽減することに専念しています。アルゴリズミック・ジャスティス・リーグは、COREの資金提供者、諮問委員会、研究協力者など、さまざまなグループと協力してAIシステムの透明性と説明責任を強化し、その擁護活動が影響力があり包括的なものとなるように努めています。^[41]

AJLのウェブサイトでは、情報やライブブログを提供しています。^[42]サイトには、ユーザーがストーリーを共有したり、寄付したり、米国議会議員に手紙を書いたりできるセクションがいくつかあります。ブオラムウィニは、AIアプリケーションにおける性差別に対処するための政策議論に影響を与え、AIを活用した意思決定システムの公平性を確保する規制を提唱しています。2019年には、米国下院監視・改革委員会で顔認識技術のリスクについて証言しました。^[43]彼女の証言は、顔認識技術の導入、特にこれらのシステムがジェンダーの不平等を悪化させる可能性がある分野での説明責任の必要性を強調しました。

彼女は、この大統領令は、少数派コミュニティを傷つけるAIシステムに対する救済や結果という点で不十分だと信じていた。^[44]彼女の努力は、特に雇用、住宅、刑事司法などの分野でAIアプリケーションにおける差別に対処するための措置を盛り込むことを支持した。バイデンの大統領令は「長く進行中のプロセス」であり、業界にそうするインセンティブがないため起こっていると彼女は述べた。^[45]

ジョイ・ブオラムウィニは、アルゴリズミック・ジャスティス・リーグ（AJL）を通じて、テクノロジー分野における女性、トランスジェンダー、ノンバイナリーの人々の参加と支援を推進してきました。彼女の取り組みは、これらの過小評価されたグループに不釣り合いな影響を与える人工知能（AI）の偏見を明らかにし、緩和することに重点を置いています。

ブオラムウィニ氏はAIとテクノロジーにおける男女平等を目標としたキャンペーンを主導してきた。2021年には、有色人種の女性に影響を与える美容アルゴリズムの偏見を調査する「偏見を解読する」キャンペーンでオーレイ社と協力した。この取り組みでは、あらゆる肌の色に公平な扱いが受けられるようにオーレイ社のスキンアドバイザーシステムを評価した。^[46]

これらの取り組みを基に、AJLはアルゴリズムシステムの危害に関するコミュニティ報告（CRASH）を立ち上げました。これは主要な利害関係者を結集し、説明責任のある公平なAIシステムの構築に幅広い参加を可能にするツールを開発し、過小評価されている性別に影響を与える問題に直接対処するものです。^[47]

AJLウェブサイトのVoicing Erasureセクションでは、音声システムの偏見について、Buolamwini、Allison Koenecke、Safiya Noble、Ruha Benjamin、Kimberlé Crenshaw、Megan Smith、Sasha Costanza-Chockによる講演が掲載されています。[ 48 ] [ 49 ] BuolamwiniとKoeneckeは、音声システム^の偏見を明らかにするために取り組んでいるウェブサイトの主任研究者です。彼らは、音声認識システムはアフリカ系アメリカ人の俗語英語話者に最も問題を抱えており、これらのシステムは密かにユーザーの会話を聞いていると書いています。^{[50]彼らはまた、} Siri、Amazon Alexa、Microsoft Cortanaの音声認識システムによって永続化されていると彼らが考える有害な性別ステレオタイプについても書いています。^[51]

彼女の方法論と結果はアマゾンのような業界から批判を受けているが、彼女はTEDトークの中で、「社会的影響、テクノロジー、インクルージョン」の交差点を無視していることを強調することで、「コード化された視線」に対処したと説明した。^[52]

彼女のVoicing Erasureプロジェクトは、音声認識システム、特に女性やノンバイナリーの人の音声を正確に処理できないことが多いシステムの偏見を明らかにすることで、男女平等に焦点を当てています。このプロジェクトは、これらの限界に対する認識を高めることで、より包括的なAI開発を提唱しています。^[53]

「コード化された視線」は、2016年にボストン美術館で初公開され、現在はYouTubeで視聴できるミニドキュメンタリーである。ブオラムウィニは、このミニドキュメンタリーを使って、人工知能の機能にあると彼女が考える偏見について語っている。このミニドキュメンタリーと彼女の研究のインスピレーションは、彼女がMITにいた時に生まれた。彼女は、顔認識を使用して、ユーザーにインスピレーションを与える別の人物をそのユーザーの顔に映すアート「Aspire Mirror」を制作していた。^[54]ブオラムウィニは、別の肌の色黒の女性であるセリーナ・ウィリアムズが自分の顔に映ることを期待していた。しかし、その技術は彼女の顔を認識しなかった。ブオラムウィニの研究では、なぜそうなったのかを調査し、その結果、彼女に似た人々が排除されたのは、彼女が「コード化された視線」と呼ぶ慣行の結果であるとブオラムウィニは結論付けた。^[55]彼女は、この概念についてミニドキュメンタリー「コード化された視線」でさらに議論している。このドキュメンタリーは、AIがそれを開発する人々の見解や文化的背景を反映した人種的および性別による偏見の影響を受ける可能性があることを探求しています。^[56]

『コード化されたバイアス』は、シャリーニ・カンタヤ監督のドキュメンタリー映画で、顔認識技術と自動評価ソフトウェアにおけるAIの不正確さに関するブオラムウィニの研究を特集している。^{[57] [42]この映画は、} IBM、マイクロソフト、アマゾンが販売する顔認識ツールの規制の欠如と映画の制作者がみなし、人種や性別の偏見を助長していると述べているものに焦点を当てている。この映画は、顔認識を使用して建物への入場を制御しようとしたブルックリンの入居者とビル管理会社との間の紛争を描いている。映画には、 『Weapons of Math Destruction』の著者キャシー・オニールと、シルキー・カルロを含むロンドンのビッグ・ブラザー・ウォッチのメンバーが出演した。2021年4月5日、ドキュメンタリーはNetflixでストリーミング配信された。^[58]

アルゴリズミック・ジャスティス・リーグが実施したプロジェクトは、英国ロンドンのバービカン・センターやオーストリア・リンツのアルス・エレクトロニカなどの美術館で展示されている。 ^[59]

• クリミナルタイプ（2019）展覧会APEXART、ニューヨーク、アメリカ^[60]
• AIを理解する（2019）オーストリア・リンツのアルスエレクトロニカセンターでの展覧会^[61]
• AI:人間を超えたもの（2019年）バービカンセンター（ロンドン、英国）での展覧会^[62]
• ナイン・モーメンツ・フォー・ナウ（2018年）ハーバード大学ハッチンズセンターでの展覧会、マサチューセッツ州ケンブリッジ、米国^[63]
• ビッグバンデータ（2018）展示会、米国マサチューセッツ州ケンブリッジのMIT博物館にて^[64]

2017年、ブオラムウィニは、2016年12月に公開された映画「 Hidden Figures」に関連した「 Search for Hidden Figures 」コンテストのプロフェッショナル部門で最優秀賞を受賞した。 ^[65]ペプシコと21世紀フォックスがスポンサーとなったこのコンテストは、「科学、技術、工学、数学の分野で次世代の女性リーダーを発掘する」ことを目的としており、^[66] 全米の若い女性から7,300件の応募があった。^[11]

ブオラムウィニはビーコンストリートで「アルゴリズムの偏見とどう戦っているか」と題したTEDxトークを行った。^{[67] [68] [69]} 2018年にはTEDラジオアワーに出演した。^[70] 2018年にはエイミー・ポーラーのスマートガールズに登場した。 ^[4]ファストカンパニー誌は彼女を「オンラインで民主主義を守るデザインヒーロー4人」の1人として挙げた。^[71]彼女は2018年にBBCの100人の女性の1人に選ばれた。^[72]

2019年、ブオラムウィニはフォーチュン誌の2019年版「世界で最も偉大なリーダー50人」に選ばれ、同誌は彼女を「AI革命の良心」と評した。^[73]また、2019年にはタイム誌の初の100 Nextリストにも選ばれた。^{[74] 2020年、ブオラムウィニは}国際女性デーに衣料品会社リーバイスが実施した女性のエンパワーメントキャンペーンに登場した。^{[75]彼女はドキュメンタリー映画}『Coded Bias』にも登場した。^{[76] 2020年、}ニューヨークのカーネギー財団が選ぶグレート・イミグラント賞受賞者。^[77]

2022年、ブオラムウィニはASQハッチェンズメダリストに選ばれました。^[78] 2023年には、タイム100 AIに掲載されました。^[79]

2024年6月9日、ブオラムウィニはAIシステムの偏見を明らかにし、AIによる危害を防ぐ活動により、ダートマス大学から名誉理学博士号を授与された。彼女はまた、ダートマス大学の2024年社会正義賞の基調講演者として招待された。^[80]

ブオラムウィニはガーナ、スペインのバルセロナ、イギリスのオックスフォード、そしてアメリカのテネシー州メンフィスとジョージア州アトランタに住んでいた。^[12] 彼女は自分自身を「科学と芸術の娘」と表現しており、^[8]彼女の父親は学者であり、母親は芸術家であり、コードの詩人でもあった。^[8]