Loading article…
イニオルワ デボラ ラジ | |
|---|---|
 | |
| 生まれる | 1995/1996年（28～29歳） |
| 国籍 | カナダ人 |
| 母校 | トロント大学 |
| 知られている | アルゴリズムの偏り 公平性（機械学習） アルゴリズムの監査と評価 |
| 科学者としてのキャリア | |
| フィールド | コンピュータサイエンス |
| 機関 | Mozilla Foundation AIに関するパートナーシップ AI Now Institute MIT Media Lab |
イニオルワ・デボラ・ラジ（1995年生まれ/1996年生まれ[1]）は、ナイジェリア系カナダ人のコンピュータ科学者、活動家であり、アルゴリズムの偏り、AIの説明責任、アルゴリズムの監査に取り組んでいます。ラジは以前、ジョイ・ブオラムウィニ、ティムニット・ゲブル、アルゴリズム・ジャスティス・リーグと共同で、顔認識技術における性別や人種の偏りを研究していました。[2]また、Googleの倫理的AIチームで働いたことがあり、ニューヨーク大学のPartnership on AIとAI Now Instituteの研究員として、機械学習エンジニアリングの実践における倫理的配慮をどのように運用化するかに取り組んでいました。[3]現在Mozillaフェローである彼女は、 MITテクノロジーレビューとフォーブスによって世界トップクラスの若手イノベーターの一人として認められています。[4] [5]
幼少期と教育
ラジはナイジェリアのポートハーコートで生まれ、4歳のときにカナダのオンタリオ州ミシサガに移住しました。最終的に家族はオタワに移住しました。[ 4 ]彼女はトロント大学で工学を学び、2019年に卒業しました。 [6] [7] 2015年に、トロント大都市圏の低所得者や移民のコミュニティの学生が工学教育、メンターシップ、リソースにアクセスできるようにする非営利団体、Project Includeを設立しました。[8]彼女は2021年8月にカリフォルニア大学バークレー校でコンピューターサイエンスの博士号を取得しました[9]。
キャリアと研究
ラジ氏は、 MITメディアラボとアルゴリズム・ジャスティス・リーグでジョイ・ブオラムウィニ氏とともに働き、マイクロソフト、アマゾン、IBM、Face++、カイロスなどの商用顔認識技術を監査した。[10]彼らは、これらの技術は白人男性に比べて肌の色の濃い女性に対しては精度が著しく低いことを発見した。[6] [11]他のトップAI研究者の支援や世論の圧力と運動の高まりにより、彼らの研究の結果、IBMとアマゾンは顔認識規制を支持することに同意し、後に少なくとも1年間は警察への製品の販売を停止した。[5] [12] [13] [14]ラジ氏は機械学習のスタートアップ企業Clarifaiでもインターンをし、画像にフラグを立てるコンピュータービジョンモデルの開発に取り組んだ。[1]
彼女はGoogleの研究指導プログラムに参加し、同社の倫理的AIチームと協力して、機械学習モデルのレポートをより透明化するための文書化フレームワークであるモデルカードを作成しました。また、Googleでの内部監査業務の開発を共同で主導しました。[1] Googleでの彼女の貢献は、 AAAIカンファレンスとACMカンファレンス（公平性、説明責任、透明性に関する会議）で個別に発表され、出版されました。[15] [16] [17]
2019年、ラジはAIパートナーシップの夏季研究員として、業界の機械学習の透明性基準とベンチマーク基準の設定に取り組みました。[18] [19]ラジはAI Now Instituteの技術フェローとして、アルゴリズムとAIの監査に取り組みました。現在は、 Mozilla Foundationのフェローとして、アルゴリズムの監査と評価を研究しています。[3]
ラジ氏の顔認識システムにおける偏見に関する研究は、シャリーニ・カンタヤ監督の2020年のドキュメンタリー『Coded Bias』で取り上げられている。[20]
受賞歴
- 2019年ベンチャービートAIイノベーションアワードAI for Good部門受賞（ジョイ・ブオラムウィニ、ティムニット・ゲブルと共著）[21]
- 2020 MITテクノロジーレビュー35アンダー35イノベーター賞[4]
- 2020 EFFパイオニア賞（ブオラムウィニ、ゲブルと共同受賞）[22]
- 2021年フォーブス30アンダー30賞エンタープライズテクノロジー部門[5]
- 2021年AI倫理の殿堂入り100人の優秀な女性[23]
- 2023年タイム誌AI分野で最も影響力のある100人[24]
参考文献
- ^ abc Hao, Karen (2020-06-17). 「Inioluwa Deborah Raji」. MIT Technology Review . 2021-02-27閲覧。
- ^ Schwab, Katharine (2021-02-26). 「『これはティムニットだけの問題ではない』：グーグルがいかにして批評家を黙らせようとし、運動に火をつけたか」Fast Company。2021-02-26時点のオリジナルよりアーカイブ。
- ^ ab 「Mozilla が信頼できる AI 分野の新しいフェロー 2 名を歓迎」Mozilla Foundation 2020 年 10 月 16 日2021 年 2 月 27 日閲覧。
- ^ abc 「Inioluwa Deborah Raji | Innovators Under 35」。www.innovatorsunder35.com 。 2021年2月26日閲覧。
- ^ abc 「Inioluwa Deborah Raji - Forbes 30 Under 30」。Forbes。2020年12月1日時点のオリジナルよりアーカイブ。2021年2月27日閲覧。
- ^ ab 「彼女は、偏ったAI顔認識技術について企業に責任を負わせている」トロント大学工学ニュース2019年2月11日。 2021年2月26日閲覧。
- ^ 「トロント大学工学部の卒業生、イニオルワ・デボラ・ラジ氏がMITテクノロジーレビューの35歳未満のトップイノベーターに選出」トロント大学工学ニュース。2020年6月23日。 2021年2月27日閲覧。
- ^ 「MozillaのDeborah Raji氏がForbesの30歳未満の30人、AIのメンターシップなどについて語る」RE•WORKブログ - AIとディープラーニングのニュース。2021年2月3日。 2021年2月27日閲覧。
- ^ デボラ・ラジ。LinkedIn [自費出版ソース]
- ^ 「実用的な監査：商用AI製品の偏ったパフォーマンス結果を公表することの影響の調査」（PDF）。2019年AAAI/ACM AI、倫理、社会会議議事録：429–435。2019年1月27日。
- ^ Singer, Natasha (2019-01-25). 「Amazon は、偏見がある可能 性があると調査で指摘されている顔認識技術を推進している (2019 年発行)」。ニューヨーク タイムズ。ISSN 0362-4331。2021年 2 月 27 日閲覧。
- ^ Heilweil, Rebecca (2020-06-10). 「IBMが顔認識ビジネスから撤退することがなぜ重要なのか」Vox . 2021-02-27閲覧。
- ^ 「IBMは顔認識から撤退。AmazonとMicrosoftはどうなるのか？」VentureBeat。2020年6月10日。 2021年2月27日閲覧。
- ^ 「アマゾンが警察に顔認識技術を販売するのを阻止するための2年間の戦い」MITテクノロジーレビュー。2021年2月27日閲覧。
- ^ Raji, Inioluwa Deborah; Gebru, Timnit; Mitchell, Margaret; Buolamwini, Joy; Lee, Joonseok; Denton, Emily (2020-01-03). 「Saving Face: 顔認識監査の倫理的懸念の調査」. arXiv : 2001.00964 [cs.CY].
- ^ Raji, Inioluwa Deborah; Smart, Andrew; White, Rebecca N.; Mitchell, Margaret; Gebru, Timnit; Hutchinson, Ben; Smith-Loud, Jamila; Theron, Daniel; Barnes, Parker (2020-01-03). 「AIの説明責任ギャップの解消: 内部アルゴリズム監査のためのエンドツーエンドのフレームワークの定義」. arXiv : 2001.00973 [cs.CY].
- ^ ミッチェル、マーガレット; ウー、シモーネ; ザルディバー、アンドリュー; バーンズ、パーカー; ヴァッサーマン、ルーシー; ハッチンソン、ベン; スピッツァー、エレナ; ラジ、イニオルワ デボラ; ゲブル、ティムニット (2019-01-29)。「モデル報告のためのモデルカード」。公平性、説明責任、透明性に関する会議議事録。pp. 220–229。arXiv : 1810.03993。doi : 10.1145 /3287560.3287596。ISBN 9781450361255. S2CID 52946140。
- ^ Xiang, Alice; Raji, Inioluwa Deborah (2019-11-25). 「公平性の定義の法的適合性について」. arXiv : 1912.00761 [cs.CY].
- ^ 「About Face: 顔認識評価の調査」DeepAI 2021-02-01 . 2021-02-26閲覧。
- ^ 「コード化されたバイアス：シャリーニ・カンタヤ監督、顔認識の深刻な欠陥の解決について語る」スタンフォード大学人工知能研究所。2020年9月14日。 2021年3月15日閲覧。
- ^ 「サンフランシスコでAIイノベーションの受賞者が発表」。イノベーションマトリックス。2019年7月12日。2020年12月9日時点のオリジナルよりアーカイブ。2021年2月27日閲覧。
- ^ 「パイオニア賞授賞式 2020」。電子フロンティア財団。2020年8月24日。 2021年2月27日閲覧。
- ^ 「殿堂」。AI倫理における100人の優秀な女性™ 。2021年2月27日閲覧。
- ^ Shaw, Simmone (2023年9月7日). 「Inioluwa Deborah Raji」. Time . 2023年10月3日閲覧。