ティムニット・ゲブル

ティムニット・ゲブル
2018年のゲブル
生まれる	1982年または1983年（40～41歳）[1] アディスアベバ、エチオピア[1] [2]
母校	スタンフォード大学
知られている	アルゴリズムの偏り 機械学習における公平性
科学者としてのキャリア
フィールド	コンピュータサイエンス
機関	マイクロソフトリサーチ グーグル りんご
博士課程の指導教員	フェイフェイ・リー

ティムニット・ゲブル（アムハラ語・ティグリニャ語：ትምኒት ገብሩ、1982年/1983年）は、エリトリア系エチオピア生まれのコンピュータ科学者で、人工知能（AI）、アルゴリズムの偏り、データマイニングの分野で活動しています。^[3]彼女は、AIの開発と研究における黒人の役割を増やすよう働きかけている擁護団体、Black in AIの共同設立者です。 ^[3]彼女は、分散型人工知能研究所（DAIR）の創設者です。

2020年12月、ゲブルがGoogleの倫理的人工知能チームの技術共同リーダーを務めていた同社を退職した状況をめぐって世間の論争が巻き起こった。ゲブルは、大規模言語モデル（LLM）が確率的オウムのように機能するリスクに関する論文を共同執筆し、出版のために提出していた。ジェフ・ディーンによると、この論文はGoogleの社内レビューを待たずに提出され、その後、関連する研究をあまりにも無視していると結論付けられた。Googleの経営陣は、論文を撤回するか、Googleに雇用されているすべての著者の名前を削除するようゲブルに要求した。ゲブルは、すべての査読者の身元とフィードバックを要求し、Googleが拒否した場合は「最終日」について上司と話し合うと述べた。Googleは、辞職を受け入れると述べて、直ちに彼女の雇用を解除した。ゲブルは、辞職を正式に申し出たわけではなく、辞職すると脅しただけだと主張した。^[4]

ゲブル氏は人工知能の倫理に関する専門知識で広く認められている。フォーチュン誌の「世界で最も偉大なリーダー50人」の一人に選ばれ、ネイチャー誌の「2021年に科学を形作った10人」の一人、そしてタイム誌の「2022年に最も影響力のある人物」の一人に選ばれた。

ゲブルはエチオピアのアディスアベバで育った。^{[5]電気技師で}哲学博士号を持つ父親は彼女が5歳の時に亡くなり、経済学者の母親に育てられた。^{[6] [7]}両親はともにエリトリア出身。ゲブルが15歳の時、エリトリア・エチオピア戦争中に、家族の一部がエリトリアに強制送還され、戦争に参加させられたため、彼女はエチオピアから逃げた。当初は米国のビザを拒否され、アイルランドに短期間住んでいたが、最終的に米国で政治亡命を認められた。 ^{[7] [8]}彼女によると、その経験は「悲惨」だったという。ゲブルはマサチューセッツ州サマービルに定住し、高校に通ったが、そこですぐに人種差別を経験し始めたという。成績優秀だったにもかかわらず、一部の教師が特定のアドバンストプレースメントコースの受講を拒否したという。 ^{[9] [7]}

高校卒業後、警察との遭遇をきっかけに、ゲブルはテクノロジーの倫理に焦点を当てるようになった。友人の黒人女性がバーで暴行を受け、ゲブルは警察に通報した。彼女によると、暴行の報告書を提出する代わりに、友人は逮捕され、留置所に拘留されたという。ゲブルはこれを重要な瞬間であり、「組織的人種差別の露骨な例」と呼んだ。^[9]

2001年、ゲブルはスタンフォード大学に入学した。^{[2] [7]}そこで彼女は電気工学の理学士号と理学修士号を取得し^[10] 、 2017年にはコンピュータービジョンの博士号を取得した^{[11] 。 [12]}ゲブルは博士課程の間、フェイフェイ・リーの指導を受けた。^[12]

2008年のアメリカ合衆国大統領選挙の際、ゲブルはバラク・オバマを支持する運動を行った。^[7]

ゲブルは、コンピュータービジョンの科学者が業界やベンチャーキャピタリストに研究成果を発表する2017年のLDVキャピタルビジョンサミットコンペティションで博士研究を発表しました。ゲブルはコンペティションで優勝し、他の起業家や投資家との一連のコラボレーションを開始しました。^{[13] [14]}

2016 年の博士課程プログラム期間中と 2018 年の両方で、ゲブルさんはジェラニ ネルソンのプログラミング キャンペーン AddisCoder に参加してエチオピアに戻りました。^{[15] [16]}

博士号取得に取り組んでいる間、ゲブルはAIの将来に対する懸念について、公表されることのなかった論文を執筆した。彼女は、警察との経験と、機械学習に人間の偏見が投影されていることが明らかになった予測型警察活動に関するプロパブリカの調査を中心に、AI分野における多様性の欠如の危険性について書いた。^[9]この論文で、彼女は「ボーイズクラブ文化」を痛烈に批判し、会議の集まりで酔った男性参加者から性的嫌がらせを受けた経験を振り返り、AI分野の有名人の英雄崇拝を批判した。^[7]

ゲブルはスタンフォード大学在学中にアップルにインターンとして入社し、ハードウェア部門でオーディオ部品の回路を製作し、翌年正社員として採用された。オーディオエンジニアとしての彼女の仕事について、彼女のマネージャーはWired誌に「彼女は恐れ知らずで」、同僚からも好かれていたと語った。アップル在職中、ゲブルはソフトウェア、特に人間の姿を検出できるコンピュータービジョンの構築に関心を持つようになった。 ^{[7]その後、彼女は初代}iPadの信号処理アルゴリズムを開発した。^[17]当時、彼女は監視用途の可能性は考えていなかったと言い、「ただ技術的に興味深いと思った」と語った。^[7]

同社を去ってからかなり経った2021年夏の#AppleToo運動で、この運動はゲブル氏に相談していたアップルのエンジニア、シェール・スカーレット氏が主導したもので、 ^{[18] [19] [20]}ゲブル氏は「あまりにもひどいことをたくさん経験した」こと、「どうやって彼らが注目を逃れてきたのか、いつも不思議に思っていた」と明かした。^[21]ゲブル氏は、アップルの説明責任はずっと遅れていると述べ、これ以上レーダーの下を潜り抜け続けることはできないと警告した。^[22]ゲブル氏はまた、メディアがアップルや他のハイテク大手を報道する方法を批判し、報道機関がそのような企業を世間の監視から守るのに役立っていると述べた。^[20]

2013年、ゲブルはスタンフォード大学のフェイフェイ・リーの研究室に加わった。彼女は公開されている画像のデータマイニングを使用した。 ^[12]彼女は、政府機関や非政府組織がコミュニティについての情報収集に費やした金額に興味を持っていた。^[23]代替案を調査するために、ゲブルはディープラーニングとGoogleストリートビューを組み合わせて米国の近隣地域の人口統計を推定し、投票パターン、収入、人種、教育などの社会経済的属性が車の観察から推測できることを示した。^[10]ピックアップトラックの数がセダンの数を上回っている場合、そのコミュニティは共和党に投票する可能性が高くなります。^[24]彼らは、米国の人口上位200都市の1500万枚以上の画像を分析した。^{[25] [26] [27] [28]}

2015年、ゲブルはカナダのモントリオールで開催されたこの分野の最高峰の会議、神経情報処理システム（NIPS）に出席した。3,700人の参加者の中で、彼女は数少ない黒人研究者の一人だったと彼女は述べた。^[29]翌年再び出席した際、彼女は出席者を数え、8,500人の代表者の中で黒人男性は5人しかおらず、黒人女性は彼女だけだったことを指摘した。^[7]同僚のレディエト・アベベとともに、ゲブルは人工知能に取り組んでいる黒人研究者のコミュニティであるBlack in AIを設立した。 ^[30]

2017年の夏、ゲブルはマイクロソフトに入社し、AIにおける公平性、説明責任、透明性、倫理（FATE）ラボのポスドク研究員となった。^{[7] [25] [31]} 2017年、ゲブルは公平性と透明性に関するカンファレンスで講演し、MITテクノロジーレビューのインタビューでAIシステムに存在する偏見と、AIチームに多様性を加えることでその問題を解決できる方法について語った。ジャッキー・スノーとのインタビューで、スノーはゲブルに「多様性の欠如は人工知能、特にコンピュータービジョンをどのように歪めるのか」と尋ね、ゲブルはソフトウェア開発者に偏見が存在すると指摘した。^{[32]マイクロソフト在籍中、ゲブルは}「ジェンダー・シェード」という研究論文の共著者であり、^[9]これは共著者のジョイ・ブオラムウィニが率いるマサチューセッツ工科大学のより広範なプロジェクトの名称となった。 2人は顔認識ソフトウェアを調査し、ある特定の実装では黒人女性が認識される可能性が白人男性よりも35％低いことを発見した。^[33]

ゲブルは2018年にグーグルに入社し、マーガレット・ミッチェルとともに人工知能の倫理に関するチームを共同で率いた。彼女は人工知能の影響を研究し、テクノロジーが社会に貢献する能力を向上させることを目指した。^[34]

2019年、ゲブル氏と他の人工知能研究者は「アマゾンに対し、女性や有色人種に対して偏見があるため、法執行機関への顔認識技術の販売をやめるよう求める書簡に署名した」と述べ、マサチューセッツ工科大学の研究者らが実施した、アマゾンの顔認識システムは他のテクノロジー企業の顔認識ソフトウェアよりも肌の色が濃い女性の識別に苦労していることを示す研究を引用した。^[35]ニューヨークタイムズのインタビューでゲブル氏はさらに、顔認識は現時点では法執行やセキュリティ目的で使用するには危険すぎると考えていることを表明した。^[36]

2020年にゲブルと5人の共著者は「確率的オウムの危険性について：言語モデルは大きすぎる可能性があるか？」と題した論文を執筆した。この論文では、環境への影響、経済的コスト、大規模モデルの不可解さ、LLMが特定のグループに対して偏見を示す可能性、LLMが処理する言語を理解できないこと、LLMを使用して偽情報を広めることなど、非常に大規模な言語モデルのリスクを検討した。^[37]

2020年12月、Googleの経営陣が彼女に、出版前に論文を撤回するか、論文からGoogleの従業員全員の名前を削除するよう求めた後、彼女のGoogleでの雇用は終了した。^[1] 6人の著者のうち、エミリー・M・ベンダーだけが当時Googleに雇用されていなかった。^[37]社内の共同作業リストに送信された6ページのメールの中で、ゲブルは、突然会議に呼び出され、論文を撤回するように求められ、その決定を下した全員の名前と理由、およびGoogleの好みに合わせて論文を修正する方法についてアドバイスを求めたと述べている。彼女は、その情報が提供されない場合は、適切な期間の後に雇用終了日についてGoogleと協力すると述べた。^{[1] [9] [7]} Googleは彼女の要求に応えず、彼女の辞職を受け入れたと宣言し、直ちに雇用を終了した。^{[38]グーグルのAI研究責任者} ジェフ・ディーンは電子メールで、論文では環境への影響やモデルの偏りなど、論文で述べられている問題のいくつかを軽減する方法に関する最近の関連研究があまりにも無視されているため、この決定を下したと述べた。^{[39] [9]}

ディーンはその後、ゲブルの退職に関する社内メールとこの件に関する自身の考えを公開し、グーグルの研究論文作成プロセスを「野心的な問題に取り組むが、責任を持って行う」ものだと擁護した。ゲブルらは、この最初の公開と、その後のディーンの沈黙が、彼の対応の直後に続いた嫌がらせのきっかけとなり、それを可能にしたとゲブルは述べている。ゲブルは、Twitter上で多数の操り人形アカウントやネット荒らしから、人種差別的かつ卑猥なコメントを繰り返し受け、繰り返し嫌がらせを受けていた。ゲブルと彼女の支持者たちは、嫌がらせの一部は機械学習研究者のペドロ・ドミンゴスと実業家のマイケル・リサックによるものだと主張し、2人はゲブルの研究は「科学を装った擁護」だと言っていた。^{[40] [41]}リサックは、ミッチェルとベンダー、そしてゲブルの元チームの他の同僚にも嫌がらせをしたとされている。 Twitterは2021年2月1日にリサック氏のアカウントへのアクセスを一時的に停止した。^[42]

ゲブル氏は自分が解雇されたと繰り返し主張しており、2,700人近いグーグル社員と4,300人以上の学者や市民社会の支持者が、ゲブル氏の解雇を非難する書簡に署名した。^{[43] [44] 9}人の議員がグーグルに書簡を送り、ティムニット・ゲブル氏の退職をめぐる状況を明らかにするよう求めた。^[45]ゲブル氏の元チームは、副社長のメーガン・カチョリア氏をチームの経営系統から外すよう要求した。[46]カチョリア氏はゲブル氏の直属の上司であるサミー・ベンジオ氏に事前に通知することなくゲブル氏を解雇したとされ、^[47]ゲブル氏の元チームはカチョリア氏とディーン氏にゲブル氏の扱いについて謝罪するよう要求した。^[48]ミッチェル氏はツイッターで、ゲブル氏の解雇疑惑を含め、AIにおける偏見や有害性を排除するために働く社員に対するグーグルの扱いを批判した。^{[49] [50]}

彼女の退職の状況に関する否定的な報道を受けて、グーグルの親会社であるアルファベットのCEOであるサンダー・ピチャイは、ゲブルが解雇されたのか辞任したのか明らかにすることなくツイッターで公に謝罪し、 ^[51]数ヶ月にわたる事件の調査を開始した。^{[49] [52]}調査の結論を受けて、ディーンはグーグルが「特定の従業員の退職の取り扱いに関するアプローチ」を変更すると発表したが、ゲブルのグーグル退職が自発的なものであったかどうかは依然として明らかにしなかった。^[49]さらに、ディーンは、「センシティブな」トピックの研究論文の審査方法が変更され、多様性、公平性、包括性の目標が四半期ごとにアルファベットの取締役会に報告されると述べた。ゲブルはツイッターで、グーグルには「それ以上のことは期待していなかった」と書き、変更は彼女が解雇されたとされる要求によるものであり、誰もその責任を問われなかったと指摘した。^[53]その後、グーグルの従業員2人が同社を辞職した。^[54]

彼女の退職後、グーグルは社内での人種差別の経験を議論するフォーラムを開催したが、その半分はゲブルの信用を傷つけることに費やされ、会社が彼女の発言を見せしめにしていると従業員がNBCニュースに報告した。フォーラムの後には、資格を持ったセラピストによるグーグルの黒人従業員向けのグループ心理療法セッションが行われたが、従業員によると、ゲブルの解雇が引き起こしたとされる被害を軽視するものだったという。^[55]

2021年11月、ネイサン・カミングス財団は、オープンMICと提携し、カラー・オブ・チェンジの支持を得て、^{[56]アルファベットの「黒人、先住民、}有色人種（BIPOC）コミュニティへの悪影響」を分析するための「人種的平等監査」を求める株主提案を提出した。提案ではまた、差別の懸念を表明した少数派の従業員に対してグーグルが報復したかどうかの調査も求めており、^[57]ゲブル氏の解雇、彼女が以前にグーグルにもっとBIPOCを雇うよう促したこと、グーグルの技術における人種に基づく偏見に関する彼女の研究を挙げている。^{[58] [59]この提案は、その年の初めに}コーリー・ブッカー氏が率いる上院民主党議員団のグループから出された非公式な要請を受けて出されたもので、ゲブル氏が会社とその仕事から離脱したことも挙げている。^[60]

2021年12月、ロイター通信は、現職および元従業員から多数の差別や​​嫌がらせの正式な苦情が寄せられた後、グーグルが黒人女性の扱いについてカリフォルニア州公正雇用住宅局（DFEH）の調査を受けていると報じた。[61 ^{] [59] [62]この調査は、ゲブル氏と他のBIPOC従業員が、人種差別や性差別の経験を}人事部に持ち込んだところ、会社の従業員支援プログラム（EAP）を通じて病気休暇とセラピーを受けるよう勧められたと報告したことを受けて行われた。 ^[55]ゲブル氏と他の人々は、彼女の解雇は報復的であり、グーグルが組織的に人種差別的である証拠であると考えている。^[63]グーグルは、「引き続きこの重要な仕事に注力し、懸念事項を徹底的に調査して、[グーグルが]代表的で公平であることを確認していきます」と述べた。^[61]

2021年6月、ゲブル氏は「グーグルの倫理的AIチームでの活動とBlack in AIでの経験をモデルにした独立した研究機関を設立する」ために資金を調達していると発表した。^[7]

2021年12月2日、彼女は分散型人工知能研究所（DAIR）を設立しました。この研究所は、アフリカと米国のアフリカ系移民に焦点を当て、疎外されたグループに対する人工知能の影響を記録することが期待されています。^{[64] [65]}この組織の最初のプロジェクトの1つは、南アフリカのタウンシップの衛星画像をAIで分析し、アパルトヘイトの遺産をより深く理解する計画です。^[9]

ゲブルとエミール・P・トーレスは、 TESCREALという頭字語を作り出し、彼らが重なり合う未来主義哲学のグループとみなすものを批判した。それは、トランスヒューマニズム、エクストロピアニズム、シンギュラリティアニズム、コスミズム、合理主義、効果的利他主義、長期主義である。ゲブルはこれらをビッグテックの右派の影響とみなし、その支持者を「人類に利益をもたらす」と描写する有害なプロジェクトを生み出す「20世紀の優生学者」になぞらえている。 ^{[66] [67]ゲブルは、}人工汎用知能（AGI）の研究は優生学に根ざしていると批判している。ゲブルは、焦点はAGIから移されるべきであり、AGIを構築しようとすることは本質的に危険な行為であると主張している。^[68]

ゲブル、ブオラムウィニ、イニオルワ・デボラ・ラジは、顔認識におけるアルゴリズムの偏りという重大な問題を浮き彫りにした研究により、ベンチャービートの2019年AIイノベーション賞のAI for Good部門を受賞した。 ^{[69] [70]}ゲブルは、 2021年にフォーチュン誌によって世界で最も偉大なリーダー50人の一人に選ばれた。 ^{[71]ゲブルは、科学雑誌}ネイチャーがまとめた、2021年に科学の発展に重要な役割を果たした10人の科学者のリストに含まれていた。^[72]

ゲブル氏はタイム誌の2022年最も影響力のある人物の一人に選ばれた。^[73]

2023年、ゲブルはニューヨークのカーネギー財団から「偉大な移民賞」の受賞者に選ばれた。^[74]

2023年11月、彼女は世界で最も刺激的で影響力のある女性の一人としてBBCの「100人の女性」リストに選出された。 ^[75]

• Gebru, Timnit (2017 年 8 月 1 日). 視覚計算社会学: コンピューター ビジョンの方法と課題(PDF) (論文).
• Gebru, Timnit; Krause, Jonathan; Wang, Yilun; Chen, Duyun; Deng, Jia; Aiden, Erez Lieberman; Fei-Fei, Li (2017 年 12 月 12 日)。「ディープラーニングと Google ストリートビューを使用して、米国全土の近隣地域の人口構成を推定する」。 米国科学アカデミー紀要。114 ( 50): 13108–13113。Bibcode : 2017PNAS..11413108G。doi : 10.1073 / pnas.1700035114。ISSN 0027-8424。PMC  5740675。PMID 29183967。 
• Buolamwini, Joy; Gebru, Timnit (2018)。「ジェンダーシェード: 商業的なジェンダー分類における交差的精度格差」。機械学習研究の議事録。81 : 1–15。ISSN 1938-7288  。
• ゲブル、ティムニット（2020年7月9日）。「人種とジェンダー」。ダバー、マルクス・D、パスクアーレ、フランク、ダス、スニット（編）『オックスフォードAI倫理ハンドブック』。オックスフォード大学出版局。pp. 251–269。doi :10.1093/oxfordhb/ 9780190067397.013.16。ISBN 978-0-19-006739-7。
• ゲブル、ティムニット;トーレス、エミール P. (2024 年 4 月 1 日)。「TESCREAL バンドル: 優生学と汎用人工知能によるユートピアの約束」。ファースト マンデー。29 (4) 。doi : 10.5210 /fm.v29i4.13636。

• コード化されたバイアス
• クレア・ステープルトン
• メレディス・ウィテカー
• ソフィー・チャン

Scholia には Timnit Gebru (Q59753117) のプロフィールがあります。

• スタンフォード大学のプロフィール
• Mastodonの Timnit Gebru
• ウィキメディア・コモンズのティムニット・ゲブルに関連するメディア