アルゴリズムの偏り

アルゴリズムのバイアスとは、アルゴリズムの意図された機能とは異なる方法で、あるカテゴリを他のカテゴリよりも「優先する」など、「不公平な」結果を生み出す、コンピュータシステムにおける体系的かつ反復的なエラーを指します。

バイアスは、アルゴリズムの設計、またはアルゴリズムをトレーニングするためのデータのコード化、収集、選択、または使用方法に関する意図しないまたは予期しない使用または決定を含むがこれらに限定されない、多くの要因から発生する可能性があります。たとえば、アルゴリズムのバイアスは、検索エンジンの結果やソーシャルメディアプラットフォームで確認されています。このバイアスは、不注意なプライバシー侵害から、人種、性別、セクシュアリティ、民族に関する社会的バイアスの強化まで、さまざまな影響を及ぼす可能性があります。アルゴリズムのバイアスの研究は、「組織的かつ不当な」差別を反映するアルゴリズムに最も関係しています。^{[2]このバイアスは、欧州連合の}一般データ保護規則（2018年提案）や人工知能法（2021年提案、2024年承認）などの法的枠組みで最近になってようやく対処されました。

アルゴリズムが社会、政治、制度、行動を組織化する能力を拡大するにつれ、社会学者は予期せぬ出力やデータ操作が物理世界にどのような影響を与えるかについて懸念するようになった。アルゴリズムは中立で偏りがないと考えられることが多いため、人間の専門知識よりも大きな権威を不正確に投影する可能性があり（自動化バイアスという心理現象が一因）、場合によっては、アルゴリズムへの依存が結果に対する人間の責任を転嫁する可能性がある。アルゴリズムシステムにバイアスが入り込むのは、既存の文化的、社会的、または制度的な期待の結果として、機能やラベルの選択方法によって、設計上の技術的制限によって、または予期しないコンテキストで使用されたり、ソフトウェアの初期設計で考慮されていなかったユーザーによって使用されたりすることによってである。^[3]

アルゴリズムによる偏見は、選挙結果からオンラインでのヘイトスピーチの拡散まで、さまざまなケースで引用されています。また、刑事司法、医療、雇用の分野でも発生しており、既存の人種、社会経済的、性別による偏見を悪化させています。顔認識技術が肌の色の濃い顔を正確に識別できないことが、黒人男性の不当逮捕につながっていますが、これはデータセットの不均衡に起因する問題です。アルゴリズムの独占的性質のため、アルゴリズムによる偏見の理解、調査、発見には依然として問題が残っています。アルゴリズムは通常、企業秘密として扱われます。完全な透明性が確保されている場合でも、特定のアルゴリズムの複雑さにより、その機能の理解が妨げられます。さらに、アルゴリズムは変化したり、予測できない方法で、または分析のために簡単に再現できない方法で入力や出力に反応したりすることがあります。多くの場合、単一の Web サイトまたはアプリケーション内であっても、調査すべき単一の「アルゴリズム」はなく、同じサービスのユーザー間でも、多くの相互に関連するプログラムとデータ入力のネットワークがあります。

定義

アルゴリズムは定義が難しいが^{[4] 、一般的にはプログラムが}データを読み取り、収集し、処理し、分析して出力を生成する方法を決定する命令のリストとして理解される。 ^[5]^{: 13}厳密な技術的入門については、「アルゴリズム」を参照。コンピュータハードウェアの進歩により、データの処理、保存、転送能力が向上しました。これにより、機械学習や人工知能などの技術の設計と採用が促進されました。^[6]^{: 14–15}アルゴリズムは、データを分析および処理することで、検索エンジン、^[7]ソーシャルメディアWebサイト、^[8]レコメンデーションエンジン、^[9]オンライン小売、^[10]オンライン広告、^[11]などのバックボーンとなっています。^[12]

現代の社会科学者は、ハードウェアやソフトウェアのアプリケーションに組み込まれたアルゴリズムのプロセスを、その政治的、社会的影響のために懸念しており、アルゴリズムの中立性という根本的な前提に疑問を抱いている。^[13]^{: 2}^[14]^{: 563}^[15]^{: 294}^[16]アルゴリズムの偏りという用語は、任意の 1 つのユーザーグループを他のユーザーグループよりも優遇するなど、不公平な結果を生み出す体系的かつ反復的なエラーを表します。たとえば、クレジットスコアアルゴリズムは、関連する財務基準を一貫して重視している場合、不公平になることなくローンを拒否する場合があります。アルゴリズムがあるユーザーグループにローンを推奨する一方で、関連のない基準に基づいてほぼ同一の別のユーザーグループへのローンを拒否し、この動作が複数回繰り返される場合、アルゴリズムは偏りがあると言えます。^[17]^{: 332}この偏りは意図的なものでも意図的でないものでもかまいません (たとえば、アルゴリズムがこれから行う仕事を以前に行っていた労働者から取得した偏ったデータから生じる可能性があります)。

方法

アルゴリズムにバイアスがもたらされる方法はいくつかあります。データセットの組み立て中に、人間が設計したカタログ基準に従って、データが収集、デジタル化、適応され、データベースに入力されることがあります。 ^[18]^{: 3}次に、プログラマーは、プログラムがそのデータを評価し、並べ替える方法の優先順位、つまり階層を割り当てます。これには、データをどのように分類するか、どのデータを含めるか、または破棄するかについての人間の決定が必要です。 ^[18]^{: 4}一部のアルゴリズムは、人間が選択した基準に基づいて独自のデータを収集しますが、これも人間の設計者のバイアスを反映する場合があります。^[18]^{: 8}他のアルゴリズムは、人間のユーザーにとって「関連のある」データを処理して表示する際に、たとえば、同様のユーザーまたはユーザーグループの以前の選択に基づいて情報を選択することによって、ステレオタイプと好みを強化する場合があります。^[18]^{: 6}

データの収集と処理以外にも、設計の結果としてバイアスが生じることがあります。^[19]たとえば、リソースの割り当てや精査を決定するアルゴリズム (学校の配置の決定など) は、類似のユーザーに基づいてリスクを決定する際に (クレジットスコアなど)、意図せずにカテゴリを差別する可能性があります。^[20]^{: 36}一方、ユーザーを類似のユーザーと関連付けることによって機能する推奨エンジン、または推定されたマーケティング特性を利用する推奨エンジンは、広範な民族、性別、社会経済的、または人種的ステレオタイプを反映する不正確な関連付けに依存する可能性があります。別の例としては、結果に何を含めて何を除外するかの基準を決定することが挙げられます。これらの基準により、スポンサー航空会社の飛行経路に従わないフライトを除外するフライト推奨ソフトウェアなど、検索結果に予期しない結果がもたらされる可能性があります。^{[19]アルゴリズムは}不確実性バイアスを示す場合もあり、大規模なデータセットが利用できる場合はより信頼性の高い評価を提供します。これにより、アルゴリズムのプロセスが、より大きなサンプルに一致する結果に偏り、代表性の低い集団のデータが無視される可能性がある。^[21]^{: 4}

歴史

初期の批評

最も初期のコンピュータプログラムは人間の推論や推論を模倣するように設計されており、人間の論理を首尾一貫して再現できたときに機能しているとみなされました。人工知能の先駆者であるジョセフ・ワイゼンバウムは、1976年の著書「コンピュータパワーと人間の推論」で、バイアスはプログラムで使用されるデータだけでなく、プログラムのコーディング方法からも発生する可能性があると示唆しました。^[22]^{: 149}

ワイゼンバウムは、プログラムとは、人間がコンピュータが従うために作った一連の規則であると書いている。それらの規則に一貫して従うことで、そのようなプログラムは「法則を体現する」^[22]^{: 40}つまり、問題を解決する特定の方法を実施する。コンピュータが従う規則は、これらの問題がどのように解決されるかについてのコンピュータプログラマーの想定に基づいている。つまり、コードには、偏見や期待を含め、世界がどのように機能するかについてのプログラマーの想像力が組み込まれる可能性がある。^[22]^{: 109}コンピュータプログラムはこのように偏見を組み込むことができるが、ワイゼンバウムは、機械に供給されるデータは、データが選択される際に「人間の意思決定プロセス」をさらに反映するとも指摘した。^[22]^{: 70, 105}

最後に、彼は、ユーザーが結果の解釈方法が不明瞭な場合、機械は意図しない結果を伴う良い情報も伝達する可能性があると指摘した。 ^[22]^{: 65}ワイゼンバウムは、ユーザーが理解できないコンピュータプログラムの決定を信頼することに対して警告し、そのような信頼を、コイントスで左か右に曲がることだけでホテルの部屋にたどり着くことができる観光客に例えた。重要なのは、観光客は目的地に到着した方法や理由を理解する根拠がなく、到着に成功したからといって、そのプロセスが正確で信頼できるとは限らないということである。^[22]^{: 226}

アルゴリズムによる偏見の初期の例としては、1982年から1986年にかけて、毎年60人もの女性と少数民族がセントジョージ病院医学部への入学を拒否されたという事例がある。これは、過去の入学傾向に基づいて「外国風の名前」を持つ女性と男性の入学を拒否する新しいコンピュータガイダンス評価システムの導入によるものだった。^[24]当時、多くの学校が選抜プロセスで同様の偏見を採用していたが、セントジョージはアルゴリズムの使用を通じてその偏見を自動化し、より広範囲で人々の注目を集めたことで最も有名だった。

近年、より多くのアルゴリズムが現実世界のデータに対して機械学習の手法を使用するようになり、データ内に存在するバイアスによりアルゴリズムのバイアスがより頻繁に見つかるようになりました。

現代の批評と反応

よく設計されたアルゴリズムは、人間の決定と同等（またはそれ以上）の公平な結果を決定することが多いが、それでもバイアスが発生するケースは発生し、予測や分析は困難である。^[25]アルゴリズムのバイアス分析の複雑さは、プログラムとその設計の複雑さとともに増大している。1 人の設計者または設計者チームによる決定は、1 つのプログラム用に作成された多数のコードに埋もれてしまう可能性がある。時間が経つにつれて、これらの決定とプログラムの出力に対するそれらの総合的な影響は忘れ去られる可能性がある。^[26]^{: 115}理論的には、これらのバイアスは、コードが社会の他の要素と相互作用するにつれて、特定のテクノロジーとの関係で新しい行動パターン、つまり「スクリプト」を作成する可能性がある。 ^{[27]バイアスは、アルゴリズムが必要とする}データポイントを中心に社会がどのように形成されるかにも影響を与える可能性がある。たとえば、データが特定の地域での逮捕件数が多いことを示している場合、アルゴリズムはその地域に警察のパトロールをより多く割り当てる可能性があり、それが逮捕件数の増加につながる可能性がある。^[28]^{: 180}

アルゴリズムプログラムの決定は、それが支援する人間の決定よりも権威があると見なされることがある。^[29]^{: 15}作家のクレイ・シャーキーは、このプロセスを「アルゴリズムの権威」と表現している。^[30]シャーキーはこの用語を、「多様で信頼できない情報源から価値を引き出す管理されていないプロセスを権威あるものと見なす決定」、たとえば検索結果を説明するために使用している。^[30]この中立性は、結果を一般に公開する際に専門家やメディアが使用する言葉によっても誤って表現される可能性がある。たとえば、「トレンド」または「人気」として選択され提示されるニュース項目のリストは、単に人気があるという基準よりもかなり広い基準に基づいて作成される可能性がある。^[18]^{: 14}

アルゴリズムは、その利便性と権威から、人間から責任を委譲する手段として理論化されている。^[29]^{: 16}^[31]^{: 6}これは、代替オプション、妥協、柔軟性を低下させる効果をもたらす可能性がある。^[29]^{: 16}社会学者スコット・ラッシュは、アルゴリズムが実際の目的を生み出す仮想的な手段であるという点で、アルゴリズムを新しい形の「生成力」であると批判している。以前は人間の行動が収集および研究されるデータを生成していたが、強力なアルゴリズムはますます人間の行動を形成し定義できるようになっている。^[32]^{: 71}

アルゴリズムが社会に与える影響に対する懸念から、 GoogleやMicrosoftなどの組織では、機械学習における公平性、説明責任、透明性というワーキンググループが共同で設立された。^[33]^{: 115} Googleのアイデアには、アルゴリズムの結果をパトロールし、否定的な結果をもたらすと判断した出力を制御または制限するために投票するコミュニティグループが含まれている。^[33]^{: 117}近年、アルゴリズムの公平性、説明責任、透明性（FAT）の研究は、FAccTと呼ばれる年次会議を伴う独自の学際的な研究領域として浮上している。 [34]批評家は、研究対象のシステムを構築している企業から資金提供を受けているものが多いため、FATイニシアチブは独立した監視機関として効果的に機能できないと示唆している。 [ ³⁵^]

種類

既存の

アルゴリズムに元々存在するバイアスは、根底にある社会的、制度的イデオロギーの結果である。そのような考えは、個々の設計者やプログラマーの個人的なバイアスに影響を与えたり、バイアスを生み出したりする可能性がある。そのような偏見は、明示的かつ意識的なものもあれば、暗黙的かつ無意識的なものもある。^[17]^{: 334}^[15]^{: 294}不適切に選択された入力データ、または単に偏ったソースからのデータは、機械によって作成される結果に影響を与える。^[23]^{: 17}既存のバイアスをソフトウェアにエンコードすると、社会的および制度的バイアスが保持される可能性があり、修正しないと、そのアルゴリズムの将来のすべての使用で複製される可能性があります。^[26]^{: 116}^[31]^{: 8}

こうした偏見の一例としては、1981年の英国国籍法の施行後に新たに英国市民となった人の評価を自動化するために設計された英国国籍法プログラムがある。^[17]^{: 341}このプログラムは、法律の教義を正確に反映しており、「男性は嫡出子の父親のみであり、女性は嫡出子か否かにかかわらずすべての子供の母親である」としている。^[17]^{: 341}^[36]^{: 375} BNAPは、特定のロジックをアルゴリズムのプロセスに移行しようとして、英国国籍法のロジックをアルゴリズムに書き込んだため、たとえ同法が最終的に廃止されたとしても、そのロジックは存続することになる。^[17]^{: 342}

「ラベル選択バイアス」と呼ばれるもう 1 つのバイアスの原因^[37]は、特定のグループに対するバイアスを組み込んだ代理測定がアルゴリズムのトレーニングに使用された場合に発生します。たとえば、広く使用されているアルゴリズムは、医療費を医療ニーズの代理として予測し、その予測を使用して複雑な医療ニーズを持つ患者を支援するためのリソースを割り当てました。黒人患者は白人患者と同じくらい不健康であるにもかかわらず、コストが低いため、バイアスが生じました^[38]「ラベル選択バイアス」の解決策は、実際のターゲット (アルゴリズムが予測するもの) を理想的なターゲット (研究者がアルゴリズムに予測させたいもの) に近づけることを目指しています。したがって、前の例では、研究者はコストを予測する代わりに、より重要な医療ニーズの変数に焦点を当てます。ターゲットを調整した結果、プログラムに選択される黒人患者の数はほぼ 2 倍になりました^[37]

機械学習のバイアス

機械学習バイアスとは、機械学習アルゴリズムの出力における体系的かつ不公平な差異を指します。これらのバイアスはさまざまな形で現れる可能性があり、多くの場合、これらのアルゴリズムのトレーニングに使用されるデータが反映されています。主な側面は次のとおりです。

言語バイアス

言語バイアスとは、クエリの言語に結びついた統計的サンプリングバイアスの一種で、「サンプリング情報の体系的な偏差により、リポジトリで利用可能なトピックや見解の真の範囲を正確に表すことができなくなる」ことを指します。^[39] Luo らの研究^[39]によると、現在の大規模言語モデルは主に英語のデータでトレーニングされているため、英語圏の見解を真実として提示する一方で、英語圏以外の見解を無関係、誤り、またはノイズとして体系的に軽視することが多いことが示されています。「リベラリズムとは何か?」などの政治的イデオロギーでクエリを実行すると、英語中心のデータでトレーニングされた ChatGPT は、英語圏の視点からリベラリズムを説明し、人権と平等の側面を強調しますが、支配的なベトナムの視点からの「個人および経済生活への国家の介入に反対する」や、一般的な中国の視点からの「政府権力の制限」などの同様に有効な側面は欠けています。^[39]

ジェンダーバイアス

ジェンダーバイアスとは、これらのモデルが、ある性別に対して不当に偏見を持った出力を生成する傾向を指します。このバイアスは通常、これらのモデルがトレーニングされるデータから生じます。たとえば、大規模な言語モデルは、伝統的なジェンダー規範に基づいて役割や特性を割り当てることが多く、看護師や秘書は主に女性に、エンジニアやCEOは男性に関連付けられる可能性があります。^[40]^[41]

ステレオタイプ化

これらのモデルは、性別や人種を超えて、年齢、国籍、宗教、職業に基づくものなど、幅広いステレオタイプを強化する可能性があります。これにより、不当に一般化されたり、特定の集団を風刺したりする結果が生まれ、時には有害または軽蔑的な方法で表現される可能性があります。^[42]

最近の研究では、言語の文法的特性と現実世界の偏見との複雑な相互作用に焦点が当てられており、この偏見はAIシステムに埋め込まれ、有害な固定観念や思い込みを永続させる可能性がある。文法的に性別がはっきりしているアイスランド語で訓練された言語モデルの性別偏見に関する研究では、職業用語を参照する際に、女性が主流の職業であっても、モデルが男性的な文法的性別に大きく偏っていることが明らかになった。^[43]これは、モデルが訓練データに存在する社会的性別偏見を増幅させたことを示唆している。

政治的偏見

政治的バイアスとは、アルゴリズムが特定の政治的見解、イデオロギー、または結果を他のものよりも体系的に優先する傾向を指します。言語モデルも政治的バイアスを示す場合があります。トレーニングデータには幅広い政治的意見と報道が含まれているため、モデルはデータ内のそれらの見解の普及度に応じて、特定の政治的イデオロギーや見解に傾いた応答を生成する可能性があります。^[44]

テクニカル

技術的な偏りは、プログラム、計算能力、その設計、またはシステムに対するその他の制約の制限によって生じます。^[17]^{: 332}このような偏りは設計上の制約である可能性もあります。たとえば、1 画面につき 3 つの結果を表示する検索エンジンは、航空会社の料金表示のように、上位 3 つの結果を次の 3 つの結果よりもわずかに優先していると理解できます。^[17]^{: 336}もう 1 つのケースは、結果を公平に分配するためにランダム性に依存するソフトウェアです。乱数生成メカニズムが真にランダムでない場合、たとえば、リストの最後または最初の項目に選択を偏らせることによって、偏りが生じる可能性があります。^[17]^{: 332}

文脈から切り離されたアルゴリズムは、関連のない情報を使って結果を並び替えます。例えば、結果をアルファベット順に並び替える航空券の価格設定アルゴリズムは、アメリカン航空をユナイテッド航空よりも有利にする偏りがあるでしょう。^[17]^{: 332}反対の場合も当てはまり、結果が収集された文脈とは異なる文脈で評価されることがあります。データは重要な外部文脈なしに収集される可能性があります。例えば、顔認識ソフトウェアが監視カメラで使用され、別の国や地域の遠隔地のスタッフによって評価された場合や、カメラの視野の外で何が起こっているかを認識していない非人間的なアルゴリズムによって評価された場合などです。これにより、犯罪現場の不完全な理解が生じ、例えば、傍観者を犯罪者と間違える可能性があります。^[14]^{: 574}

最後に、技術的な偏見は、人間の行動も同じように機能するという仮定のもとで、決定を具体的な手順に形式化しようとすることで生み出される可能性がある。例えば、ソフトウェアは、被告が司法取引を受け入れるべきかどうかを判断するためにデータポイントを重み付けするが、陪審員に対する感情の影響は無視している。^[17]^：332この種の偏見によるもう1つの意図しない結果は、盗作検出ソフトウェアTurnitinで発見された。これは、生徒が書いた文章をオンラインで見つかった情報と比較し、生徒の作品がコピーされた可能性のスコアを返す。このソフトウェアは長い文字列を比較するため、英語を母国語としない人よりも英語を母国語とする人を特定する可能性が高くなります。これは、英語を母国語とする人の方が、個々の単語を変えたり、盗用された文字列を分割したり、同義語を使ってコピーされた文章をわかりにくくしたりすることが得意な場合があるためです。ソフトウェアの技術的制約により、ネイティブスピーカーは検出を逃れやすいため、Turnitinは英語を話す外国人を盗作と特定する一方で、より多くのネイティブスピーカーが検出を逃れるというシナリオが生まれます。^[29]^{: 21–22}

出現

新たなバイアスは、新しいまたは予期せぬ状況でアルゴリズムを使用したり、アルゴリズムに依存したりすることで生じます。^[17]^{: 334}アルゴリズムは、新薬や医学の進歩、新しい法律、ビジネスモデル、変化する文化的規範などの新しい形式の知識を考慮するように調整されていない可能性があります。^[17]^{: 334, 336}これにより、誰がその排除の責任者であるかを理解するための明確な概要が提供されないまま、テクノロジーを通じてグループが排除される可能性があります。^[28]^{: 179}^[15]^{: 294}同様に、トレーニングデータ（特定の結論をモデル化するために機械に「入力」されるサンプル）が、アルゴリズムが現実世界で遭遇する状況と一致しない場合にも、問題が発生する可能性があります。^[45]

1990 年、米国の医学生をレジデンシーに配置するために使用されたソフトウェア、全米レジデンシーマッチプログラム (NRMP) で、新たなバイアスの例が特定されました。^[17]^{: 338}このアルゴリズムは、夫婦でレジデンシーを一緒に求めるカップルがほとんどいなかった時代に設計されました。医学部に入学する女性が増えるにつれて、パートナーと一緒にレジデンシーを希望する学生も増える傾向がありました。このプロセスでは、各申請者が米国全土での配置の希望リストを提出し、病院と申請者の両者がマッチングに合意したときに、そのリストが並べ替えられて割り当てられました。夫婦で両方ともレジデンシーを希望する場合、アルゴリズムは最初に評価の高いパートナーの場所の選択を重視しました。その結果、配置の希望の妥協点を探して並べ替えるのではなく、最初のパートナーに非常に希望の高い学校が、2 番目のパートナーにあまり希望の低い学校が割り当てられることが多くなりました。^[17]^{: 338}^[46]

追加の新たなバイアスには次のものがあります。

相関関係

大規模なデータセットを互いに比較すると、予測できない相関関係が現れることがあります。たとえば、ウェブ閲覧パターンについて収集されたデータは、機密データ（人種や性的指向など）を示す信号と一致する可能性があります。特定の行動や閲覧パターンに従って選択することで、最終的な効果は、人種や性的指向のデータを直接使用して差別することとほぼ同じになります。^[21]^{: 6}他のケースでは、アルゴリズムは相関関係を理解できないまま、相関関係から結論を導き出します。たとえば、あるトリアージプログラムでは、肺炎を患っている喘息患者を、肺炎を患っていない喘息患者よりも優先順位を低くしました。プログラムのアルゴリズムがこのようにしたのは、生存率を比較しただけだったからです。肺炎を患っている喘息患者は最もリスクが高いのです。歴史的に、同じ理由で、病院は通常、そのような喘息患者に最善かつ最も迅速な治療を提供します。^[47]^{[説明が必要]}

予期せぬ用途

アルゴリズムが予期せぬユーザーによって使用されると、新たな偏見が生じる可能性があります。たとえば、マシンは、ユーザーが数字を読んだり、書いたり、理解したりできることを要求したり、ユーザーが理解できない比喩を使ってインターフェースに関連付けたりすることがあります。^[17]^{: 334}偏見のある、または排他的なテクノロジーが社会に深く統合されるにつれて、これらの排除は複雑になる可能性があります。^[28]^{: 179}

排除とは別に、エンドユーザーが自身の知識ではなくソフトウェアに頼ることから、予期せぬ使用法が生まれることもある。一例では、英国国籍適格性を評価するためにコンピューター科学者と移民弁護士が概念実証として英国国民法プログラムを作成したとき、予期せぬユーザーグループが英国でアルゴリズムの偏りを招いた。設計者は、ソフトウェアと移民法の両方に対する理解がおそらく未熟だったであろう移民局のエンドユーザー以外の法律の専門知識にアクセスできた。質問を管理するエージェントは、市民権への代替経路を除外するソフトウェアに完全に依存し、新しい判例法と法的解釈によってアルゴリズムが時代遅れになった後もソフトウェアを使用していた。移民法に精通していると想定されるユーザー向けにアルゴリズムを設計した結果、ソフトウェアのアルゴリズムは、より広範な英国移民法の基準ではなく、アルゴリズムによって設定された非常に狭い一連の法的基準に適合する申請者に有利な偏りを間接的にもたらした。^[17]^{: 342}

フィードバックループ

アルゴリズム用に収集されたデータが現実世界の反応を生み、それがアルゴリズムにフィードバックされる場合、創発的なバイアスはフィードバックループ、つまり再帰を生み出すこともある。 ^[48]^[49]例えば、カリフォルニア州オークランドで導入された予測型警察ソフトウェア（PredPol）のシミュレーションでは、一般市民が報告した犯罪データに基づき、黒人居住地域での警察の存在が増加することが示唆された。^[50]シミュレーションでは、警察の行動に関係なく、一般市民はパトカーの目撃情報に基づいて犯罪を報告したことが示された。シミュレーションでは、犯罪予測をモデル化する際にパトカーの目撃情報を解釈し、その結果、それらの地域での警察の存在がさらに増加すると割り当てられる。^[48]^[51]^{[52]シミュレーションを実施した}人権データ分析グループは、人種差別が逮捕の要因となっている場所では、このようなフィードバックループが警察における人種差別を強化し、永続させる可能性があると警告した。^[49]このような動作を示すアルゴリズムのもう一つの有名な例は、個人が犯罪者になる可能性を判定するソフトウェアCOMPASです。このソフトウェアは、黒人を他の人よりも犯罪者として分類する可能性が高いとしばしば批判されており、個人が犯罪者として登録された場合にそのデータをソフトウェアにフィードバックすることで、アルゴリズムが作用するデータセットによって作成されたバイアスをさらに強化しています。

オンライン動画やニュース記事を推薦するために使用されるような推薦システムは、フィードバックループを生み出す可能性があります。^[53]ユーザーがアルゴリズムによって提案されたコンテンツをクリックすると、次の提案セットに影響を与えます。^{[54]時間が経つにつれて、ユーザーは}フィルターバブルに入り、重要なコンテンツや有用なコンテンツに気付かなくなる可能性があります。 ^[55]^[56]

インパクト

商業的影響

企業のアルゴリズムは、ユーザーにはわからないまま、企業間の金銭的な取り決めや合意を目に見えない形で有利にするように歪められる可能性があり、ユーザーはアルゴリズムが公平であると誤解する可能性がある。たとえば、アメリカン航空は1980年代にフライト検索アルゴリズムを作成した。このソフトウェアは、さまざまな航空会社のフライトを顧客に提示したが、価格や利便性に関係なく、自社のフライトを優遇する要因を重視した。米国議会での証言で、この航空会社の社長は、このシステムは優遇措置によって競争上の優位性を得る目的で作成されたと明言した。^[57]^{: 2}^[17]^{: 331}

1998年にGoogleについて記述した論文の中で、同社の創設者は有料掲載に関して検索結果の透明性の方針を採用し、「広告で運営される検索エンジンは本質的に広告主に偏り、消費者のニーズから遠ざかる」と主張した。^[58]この偏りはユーザーに対する「目に見えない」操作となるだろう。^[57]^{: 3}

投票行動

米国とインドの未決定有権者に関する一連の調査では、検索エンジンの結果が投票結果を約 20% 変える可能性があることがわかった。研究者は、アルゴリズムが意図の有無にかかわらず、ライバル候補のページリストを優先した場合、候補者は「競争する手段がない」と結論付けた。^[59]投票に関連するメッセージを見た Facebook ユーザーは投票する可能性が高かった。2010 年にFacebook ユーザーを対象にランダム化試験を実施したところ、投票を促すメッセージや投票した友人の画像を見たユーザーの投票率が 20% 増加 (34 万票) した。^[60]法学者のジョナサンジットレインは、意図的に操作された場合、これが選挙で「デジタルゲリマンダー」効果、つまり「仲介者がユーザーの利益のためではなく、自らの目的を達成するために情報を選択的に提示すること」を生み出す可能性があると警告している。^[61]^{: 335}

性差別

2016年、プロフェッショナルネットワーキングサイトLinkedInが検索クエリに応えて女性の名前の男性版を推奨していたことが発覚した。同サイトは男性の名前の検索では同様の推奨を行わなかった。例えば、「Andrea」と検索すると「Andrew」を検索したのか尋ねるプロンプトが表示されるが、「Andrew」を検索したとしても「Andrea」を検索したのか尋ねるプロンプトは表示されない。同社は、これはサイト上でのユーザーのやりとりを分析した結果であると述べた。^[62]

2012年、百貨店フランチャイズのターゲットは、女性顧客が妊娠したことを公表していなくても、妊娠した時期を推測するためのデータポイントを収集し、その情報をマーケティングパートナーと共有したとして告発されました。^[63]^{: 94}^[64]データは直接観察または報告されたものではなく予測されたものであったため、同社にはそれらの顧客のプライバシーを保護する法的義務はありませんでした。^[63]^{: 98}

ウェブ検索アルゴリズムも偏向していると非難されている。Google の結果では、たとえば「レズビアン」などのセクシャリティに関連する検索語でポルノコンテンツが優先されることがある。この偏向は、検索エンジンが中立的な検索で人気があるが性的コンテンツを表示することにまで及ぶ。たとえば、「女性アスリート」の検索で最初のページに表示される「最もセクシーな女性アスリートトップ 25」の記事などである。^[65]^{: 31} 2017 年、Google はこれらの結果と、ヘイトグループ、人種差別的な見解、児童虐待やポルノ、その他の不快で不快なコンテンツを表示する他の結果を調整した。^[66]その他の例としては、求人検索サイトで男性の応募者に高給の仕事が表示されることが挙げられる。^[67]研究者らはまた、機械翻訳が男性のデフォルトに強い傾向を示すことを明らかにした。^{[68]特に、これは}STEM職種を含む不均衡な性別分布に関連する分野で観察される。 ^[69]実際、現在の機械翻訳システムは、女性労働者の現実世界の分布を再現できていない。^[70]

2015年、Amazon.comは、求人応募書類を審査するために開発したAIシステムが女性に対して偏見を持っていることに気づき、システムを停止した。^[71]この採用ツールは、女子大学出身の応募者や、「女性」という単語を含む履歴書を除外した。^[72]同様の問題が音楽ストリーミングサービスでも発生し、2019年には、Spotifyが使用するレコメンデーションシステムのアルゴリズムが女性アーティストに対して偏見を持っていることが発覚した。^[73] Spotifyの曲の推薦では、女性アーティストよりも男性アーティストが多く提案された。

人種差別と民族差別

アルゴリズムは、意思決定において人種的偏見を曖昧にする方法として批判されてきた。^[74]^[75]^[76]^{: 158}特定の人種や民族が過去にどのように扱われたかにより、データには隠れた偏見が含まれることが多い。^[77]たとえば、黒人は同じ犯罪を犯した白人よりも長い刑期を受ける可能性が高い。^[78]^[79]これは、システムがデータ内の元々の偏見を増幅する可能性があることを意味する可能性がある。

2015年、グーグルは、数人の黒人ユーザーが、同社のフォトアプリの画像識別アルゴリズムが自分たちをゴリラと認識したと苦情を申し立てた際に謝罪した。^[80]²⁰¹⁰年には、ニコンのカメラが、画像認識アルゴリズムがアジア人ユーザーにまばたきをしているかを一貫して尋ねたとして批判された。 [81] このような例は、生体認証データセットの偏りの産物である。 ^[80]生体認証データは、観察または推測された人種的特徴を含む身体の側面から抽出され、その後、データポイントに変換される。^[76]^{: 154}音声認識技術は、ユーザーのアクセントに応じて精度が異なる場合がある。これは、そのアクセントの話者に対するトレーニングデータが不足していることが原因と考えられる。^[82]

人種に関する生体認証データも、観察されるのではなく推測される可能性がある。例えば、2012年の研究では、黒人によく関連付けられる名前は、その人の名前の警察記録があるかどうかに関係なく、逮捕歴を示唆する検索結果をもたらす可能性が高いことが示された。^[83] 2015年の研究では、人種や職業上の曝露データが予測アルゴリズムの肺機能モデルに組み込まれていないため、黒人とアジア人の肺機能は劣っていると想定されていることも判明した。^[84]^[85]

2019年の研究調査で、オプタムが販売したヘルスケアアルゴリズムが、病状の重い黒人患者よりも白人患者を優遇していることが明らかになった。このアルゴリズムは、患者が将来的に医療制度にどれだけの費用がかかるかを予測する。しかし、費用は人種中立ではなく、黒人患者は、同じ数の慢性疾患を抱える白人患者よりも年間約1,800ドル少ない医療費を負担しており、このためアルゴリズムは、白人患者を、はるかに多くの疾患を患っている黒人患者と同等に将来の健康問題のリスクがあると評価した。^[86]

2019年11月にカリフォルニア大学バークレー校の研究者らが実施した調査では、住宅ローンのアルゴリズムがラテン系やアフリカ系アメリカ人に対して差別的であり、個人がローンを受けるに値するかどうかを判断するために貸し手が身元確認の手段を使用することを認める米国の公正貸付法に根ざした「信用度」に基づいて少数民族を差別していることが明らかになった。これらの特定のアルゴリズムはフィンテック企業に存在し、少数民族を差別していることが示された。^[87]^{[非一次情報源が必要]}

法執行と法的手続き

アルゴリズムは、すでに法制度において数多くの応用例がある。その一例がCOMPASである。これは、米国の裁判所で被告の再犯の可能性を評価するために広く使用されている商用プログラムである。ProPublicaは、黒人被告の再犯リスクのCOMPASによる平均レベルは、白人被告の再犯リスクのCOMPASによる平均レベルよりも大幅に高く、黒人被告が誤って「高リスク」というラベルを貼られる可能性は白人被告の2倍であると主張している。^[88]^[89]

一例として、米国における刑事判決や仮釈放審問におけるリスク評価の使用が挙げられる。裁判官には、囚人が再犯するリスクを反映することを目的としたアルゴリズムで生成されたスコアが提示された。^[90] 1920年から1970年までの期間、犯罪者の父親の国籍は、これらのリスク評価スコアで考慮された。^[91]^:4現在、これらのスコアは、アリゾナ州、コロラド州、デラウェア州、ケンタッキー州、ルイジアナ州、オクラホマ州、バージニア州、ワシントン州、ウィスコンシン州の裁判官と共有されている。ProPublicaによる独自の調査では、スコアは80％の確率で不正確であり、黒人が再犯のリスクにさらされていると示唆する方向に不釣り合いに偏っており、白人よりも77％多くなっていることが判明した。^[90]

「リスク、人種、再犯：予測バイアスと不均衡な影響」を調査することを目的としたある研究では、2年間の観察期間中に客観的に再犯の記録がないにもかかわらず、黒人被告が白人被告よりも高いリスクを負っていると誤分類される可能性が2倍（45パーセント対23パーセント）高いと主張している。^[92]

裁判前拘留の文脈では、法律評論記事は、アルゴリズムによるリスク評価は、表面的に差別的であり、不平等な扱いをもたらし、厳密に調整されていないと主張されているため、人種に基づく第14修正条項の平等保護の権利を侵害していると主張している。 ^[93]

オンラインでのヘイトスピーチ

フェイスブックの内部文書によると、2017年にオンラインヘイトスピーチを削除するために設計されたフェイスブックのアルゴリズムは、好ましくないコンテンツを評価する際に、黒人の子供よりも白人男性を有利にしていたことが判明した。 ^[94]コンピュータープログラムと人間のコンテンツレビュー担当者を組み合わせたこのアルゴリズムは、特定のカテゴリのサブセットではなく、幅広いカテゴリを保護するために作成された。たとえば、「イスラム教徒」を非難する投稿はブロックされるが、「過激なイスラム教徒」を非難する投稿は許可される。このアルゴリズムの予期せぬ結果は、黒人の子供に対するヘイトスピーチを許可することだ。なぜなら、彼らは「すべての黒人」ではなく、黒人の「子供」サブセットを非難しているからだ。一方、「すべての白人男性」は、白人と男性はサブセットとは見なされないため、ブロックされる。 ^[94]フェイスブックは、広告購入者がユーザーのカテゴリとして「ユダヤ人嫌い」をターゲットにすることを許可していることも判明したが、これは同社によると、データの評価と分類に使用されたアルゴリズムの意図しない結果だったという。同社の設計により、広告購入者はアフリカ系アメリカ人が住宅広告を見るのをブロックすることもできた。^[95]

ヘイトスピーチを追跡しブロックするためにアルゴリズムが使用されているが、黒人ユーザーが投稿した情報は1.5倍、アフリカ系アメリカ人英語で書かれた情報はヘイトスピーチとしてフラグが付けられる可能性が2.2倍高いことがわかった。^[96]文脈が不明な中傷や蔑称は、それらを再利用したコミュニティによって使用された場合でもフラグが付けられた。^[97]

監視

監視カメラのソフトウェアは、正常な行動と異常な行動を区別し、特定の時間に特定の場所に誰が属しているかを判断するアルゴリズムを必要とするため、本質的に政治的であると考えられる。^[14]^{: 572}人種スペクトル全体にわたって顔を認識するそのようなアルゴリズムの能力は、トレーニングデータベース内の画像の人種的多様性によって制限されることが示されている。写真の大部分が1つの人種または性別に属している場合、ソフトウェアはその人種または性別の他の人を認識する方が優れている。^[98]しかし、これらの画像認識システムの監査でさえ倫理的に問題があり、一部の学者は、テクノロジーのコンテキストは、行動が過剰に監視されているコミュニティに常に不均衡な影響を及ぼすと示唆している。^{[99]たとえば、2002年に行われた}CCTV画像内の個人を識別するために使用されるソフトウェアの分析では、犯罪データベースに対して実行した場合にバイアスの例がいくつか見つかった。このソフトウェアは、男性を女性よりも、高齢者を若者よりも、アジア人、アフリカ系アメリカ人、その他の人種を白人よりも頻繁に識別すると評価されました。^[28]^{: 190} 2018年の研究では、顔認識ソフトウェアは肌の色が薄い（通常はヨーロッパ人）男性を最も正確に識別したが、肌の色が薄い女性の場合は精度がわずかに低かったことがわかりました。肌の色が濃い男性と女性は、顔認識ソフトウェアによって正確に識別される可能性が著しく低かったです。これらの不一致は、このソフトウェアの開発に使用されたデータセットに肌の色が濃い参加者が十分に含まれていないことに起因しています。^[100]^[101]

LGBTQコミュニティに対する差別

2011年、ゲイ向け出会い系アプリ「Grindr」のユーザーから、 Androidストアの推奨アルゴリズムがGrindrを性犯罪者を見つけるためのアプリにリンクしているとの報告があった。批評家は、同性愛と小児性愛を不正確に関連付けていると指摘した。ライターのマイク・アナニーは、この関連付けをアトランティック誌で批判し、このような関連付けはゲイ男性への汚名をさらにつけると主張した。^[102] 2009年、オンライン小売業者のアマゾンは、アルゴリズムの変更により「アダルトコンテンツ」のブラックリストが拡張され、批評家から絶賛された小説「ブロークバック・マウンテン」など、セクシュアリティやゲイをテーマにした本が含まれるようになった後、57,000冊の書籍をリストから削除した。^[103]^[18]^{: 5}^[104]

2019年、Facebookで「女性の友達の写真」を検索すると、「ビキニ姿」や「ビーチで」などの候補が表示されることが判明した。対照的に、「男性の友達の写真」を検索しても結果は出なかった。^[105]

顔認識技術は、トランスジェンダーの人々に問題を引き起こすと見られている。2018年には、トランスジェンダーまたは性転換中のUberドライバーが、Uberが組み込みのセキュリティ対策として実装している顔認識ソフトウェアで問題を抱えているという報告があった。この結果、トランスジェンダーのUberドライバーの一部のアカウントが停止され、運賃が支払われなくなったり、仕事を失ったりする可能性もあったが、これはすべて、性転換中のトランスジェンダードライバーの顔を認識するのに顔認識ソフトウェアが問題を抱えていたためである。^[106]この問題の解決策は、機械学習モデルのトレーニングセットにトランスジェンダーの人々を含めることであるように思われるが、トレーニングデータとして使用するために収集されたトランスジェンダーのYouTube動画の例は、動画に含まれていたトランスジェンダーの人々から同意を得ておらず、プライバシー侵害の問題を引き起こした。^[107]

2017年にスタンフォード大学で行われた研究では、顔画像に基づいて個人の性的指向を検出できるとされる機械学習システムのアルゴリズムをテストしました。^[108]この研究のモデルは、ゲイとストレートの男性を81％の確率で正しく区別し、ゲイとストレートの女性を74％の確率で正しく区別すると予測しました。この研究はLGBTQIAコミュニティからの反発を招きました。彼らは、このAIシステムがLGBTQIAコミュニティの個人に悪影響を及ぼす可能性があることを恐れ、個人の意志に反して「暴露」されるリスクを負わせました。^[109]

障害者差別

アルゴリズムの公平性の様相は、性別、人種、社会経済的地位など、さまざまな偏見の側面に基づいて判断されてきたが、障害はリストから除外されることが多い。^[110]^[111]障害者が現在社会で直面している疎外は、AIシステムやアルゴリズムに反映され、さらなる排除を生み出している。^[112]^[113]

障害の移り変わりやすい性質とその主観的な特徴付けは、計算による対処をより困難にしている。障害の定義、障害の発生率と有病率のアンケートによる収集、および認識の確立における歴史的深みの欠如は、障害の定量化と計算における論争と曖昧さを増大させている。障害の定義は長い間議論されてきたが、最近では医学モデルから障害の社会モデルに移行しており、障害は機能障害と健康状態ではなく、人々の相互作用と環境の障壁との不一致の結果であると確立されている。障害はまた、状況的または一時的なものであり、^[114]常に流動的であると考えられている。障害は非常に多様であり、^[115]広い範囲に含まれ、各個人に固有のものである可能性がある。人々のアイデンティティは、経験する障害の特定のタイプ、支援技術の使用方法、およびサポートする相手に基づいて異なる場合があります。人々の経験にわたる高いレベルの変動性は、障害がどのように現れるかを大きく個人に委ねます。重複するアイデンティティや交差する経験^[116]は統計やデータセットから除外されているため^[117] 、トレーニングデータには十分に表現されておらず、存在しません。 ^[118]そのため、機械学習モデルは不公平にトレーニングされ、人工知能システムはより多くのアルゴリズムの偏りを永続させます。^[119]たとえば、発話障害のある人が音声制御機能やスマートAIアシスタントのトレーニングに含まれていない場合、彼らはその機能を使用できないか、Google HomeやAlexaからの応答が非常に貧弱になります。

障害をめぐる固定観念や偏見が依然として存在するため、こうした識別特性を明らかにすることはデリケートな性質であり、プライバシーの面で大きな課題も伴う。障害情報を開示することはタブーとなり、この集団に対するさらなる差別を招く可能性があるため、アルゴリズムシステムがやり取りできる明確な障害データが不足している。障害者は、障害状態を明らかにすると、社会的支援、健康保険の費用、職場での差別、その他の基本的な必需品に関して、さらなる危害やリスクに直面する。アルゴリズムは、社会システムや構造にすでに存在する偏見を再現することで、このギャップをさらに悪化させている。^[120]^[121]

Google検索

ユーザーが「完了」する結果を自動的に生成する一方で、Google は性差別的および人種差別的な自動補完テキストを削除できていない。たとえば、抑圧のアルゴリズム: 検索エンジンが人種差別を強化する方法Safiya Noble は、「黒人の女の子」の検索でポルノ画像が表示されるという例を指摘している。Google は、違法とみなされない限り、それらのページを削除することはできないと主張した。^[122]

研究の障害

大規模なアルゴリズムバイアスの研究にはいくつかの問題があり、学術的に厳密な研究の応用や一般の理解を妨げている。^[13]^{: 5} ^[123]^[124]

公平性の定義

アルゴリズムの偏りに関する文献は、公平性の是正に焦点を当ててきましたが、公平性の定義は、しばしば互いに矛盾し、機械学習の最適化の現実とも矛盾しています。^[125]^[126]たとえば、公平性を「結果の平等」と定義することは、単にすべての人に同じ結果をもたらすシステムを指すかもしれませんが、「扱いの平等」と定義される公平性は、個人間の違いを明示的に考慮する可能性があります。^[127]^{: 2}その結果、公平性はモデルの精度と矛盾していると説明されることがあり、社会福祉の優先順位とこれらのシステムを設計するベンダーの優先順位の間に本質的な緊張があることを示唆しています。^[128]^{: 2}この緊張に対応して、研究者は、特定のアプリケーションとコンテキストに対して「公平性」を定義し、潜在的に偏りのあるアルゴリズムを利用するシステムの設計と使用にもっと注意を払うことを提案しています。^[129]

複雑

アルゴリズムのプロセスは複雑で、それを使用する人々の理解を超えていることが多々あります。^[13]^{: 2}^[130]^{: 7}大規模な操作は、作成に関わった人々でさえ理解できない場合があります。^[131]現代のプログラムの方法とプロセスは、コードの入力や出力のすべての順列を知ることができないために、しばしば不明瞭になっています。^[28]^{: 183}社会科学者のブルーノ・ラトゥールは、このプロセスをブラックボックス化と名付けました。これは、「科学的および技術的な作業が、それ自身の成功によって見えなくなる。機械が効率的に動作し、事実が解決されると、その入力と出力だけに焦点を当てればよく、内部の複雑さには焦点を当てる必要はありません。したがって、逆説的ですが、科学技術が成功すればするほど、それらは不透明でわかりにくくなる」というプロセスです。^[132]ブラックボックスの比喩を批判する人もいます。現在のアルゴリズムは1つのブラックボックスではなく、相互接続されたネットワークであると示唆しています。^[133]^{: 92}

この複雑さの一例は、フィードバックをカスタマイズする際の入力の範囲に見ることができます。ソーシャルメディアサイトFacebookは、2013年にユーザーのソーシャルメディアフィードのレイアウトを決定するために少なくとも10万のデータポイントを考慮しました。^[134]さらに、大規模なプログラマーチームは互いに比較的孤立して作業し、接続された精巧なアルゴリズム内の小さな決定の累積的な影響を認識していない可能性があります。^[26]^{: 118}すべてのコードがオリジナルではなく、他のライブラリから借用されている場合があり、データ処理システムとデータ入力システムの間に複雑な関係が生まれます。^[6]^{: 22}

さらなる複雑さは、機械学習と、クリック、サイトで過ごした時間、その他の指標などのユーザーインタラクションに基づくアルゴリズムのパーソナライゼーションによって発生します。これらの個人的な調整は、アルゴリズムを理解しようとする一般的な試みを混乱させる可能性があります。^[135]^{: 367}^[130]^{: 7}ある未確認のストリーミングラジオサービスは、ユーザーの行動に基づいて選択した5つの独自の音楽選択アルゴリズムを使用していると報告しました。これにより、同じストリーミングサービスでもユーザーごとに異なるエクスペリエンスが生成され、これらのアルゴリズムの動作を理解するのが難しくなります。^[13]^{: 5} 企業はまた、ユーザーの反応に基づいてアルゴリズムを微調整するために、頻繁にA/Bテストを実行します。たとえば、検索エンジンのBingは、1日に最大1,000万の微妙なサービスのバリエーションを実行できるため、使用やユーザーごとにサービスの異なるエクスペリエンスが生まれます。^[13]^{: 5}

透明性の欠如

商用アルゴリズムは所有権が認められており、企業秘密として扱われる場合がある。^[13]^{: 2}^[130]^{: 7}^[28]^{: 183}アルゴリズムを企業秘密として扱うことで、検索エンジンなどの企業が保護される。透明性のあるアルゴリズムであれば、検索ランキングを操作する戦術が明らかになる可能性があるからである。^[135]^{: 366}これにより、研究者がインタビューや分析を行ってアルゴリズムの機能を発見することが困難になる。^[6]^{: 20}批評家は、このような秘密主義によって、アルゴリズムの出力を生成または処理する際に使用される可能性のある非倫理的な方法が不明瞭になる可能性もあると指摘する。^[135]^{: 369}弁護士で活動家の Katarzyna Szymielewicz などの他の批評家は、透明性の欠如はアルゴリズムの複雑さの結果として偽装されることが多く、企業が独自のアルゴリズムプロセスを開示または調査することを妨げていると指摘している。^[136]

センシティブなカテゴリに関するデータの不足

偏見への取り組みを実際に理解する上で大きな障壁となっているのは、データの収集や処理の際に、差別禁止法で保護されている個人の人口統計などのカテゴリーが明示的に考慮されないことが多いということである。 ^[137]デバイスフィンガープリンティング、ユビキタスコンピューティング、モノのインターネットなど、場合によっては、このデータを明示的に収集する機会がほとんどない。また、データ管理者が、評判上の理由や、責任やセキュリティ上のリスクが高まることから、そのようなデータの収集を望まない場合もある。少なくとも欧州連合の一般データ保護規則に関しては、そのようなデータは「特別なカテゴリー」規定（第9条）に該当し、そのため、潜在的な収集や処理にさらなる制限が課せられる場合もある。

一部の専門家は、名前から民族性を推測するシステムを構築するなど、バイアスを軽減するために、これらの欠落しているセンシティブな分類を推定し、補完しようと試みてきました。 ^[138]しかし、これは慎重に行わなければ、他の形のバイアスを導入する可能性があります。^{[139]機械学習の研究者は、}安全なマルチパーティコンピューティングなどの暗号化プライバシー強化技術を利用して、これらのデータがモデル作成者に平文で提供されることなく、アルゴリズムのバイアスを評価または軽減する方法を提案しています。^[140]

アルゴリズムの偏りは保護されたカテゴリーだけでなく、政治的見解など、観察やコード化が容易でない特性にも関係する可能性がある。これらの場合、簡単にアクセスでき、議論の余地のない真実が存在することはめったになく、そのようなシステムから偏りを取り除くことはより困難である。^[141]さらに、保護されたカテゴリーの理解不足から、誤った偶発的な相関関係が生じる可能性がある。たとえば、過去の自動車事故データに基づく保険料率は、厳密には偶然だが、少数民族の居住地と重なる可能性がある。^[142]

ソリューション

倫理的AIに関する84の政策ガイドラインを調査したところ、公平性と「望ましくない偏見の緩和」が共通の懸念事項であり、技術的な解決策、透明性と監視、救済の権利と監視の強化、多様性と包摂の取り組みを組み合わせて対処していることが判明しました。^[143]

テクニカル

アルゴリズム内のバイアスを検出および観察できる方法とツールを作成する試みがいくつかありました。これらの新しい分野は、アルゴリズムの内部プロセスではなく、プログラムで使用される（トレーニング）データに通常適用されるツールに焦点を当てています。これらの方法は、プログラムの出力とその有用性を分析する可能性があり、したがって、その混同行列（または混同表）の分析が含まれる場合があります。^[144]^[145]^[146]^[147]^[148]^[149]^[150]^[151]^[152]アルゴリズムのバイアスを検出するための説明可能なAIは、アルゴリズムまたは学習モデル内のバイアスの存在を検出するために提案されている方法です。^[153]機械学習を使用してバイアスを検出することを「AI監査の実施」と呼びます。ここで、「監査人」は、バイアスを識別するためにAIモデルとトレーニングデータを調べるアルゴリズムです。^[154] 分類器などのAIツールにバイアスがないことを保証することは、入力信号から機密情報を削除するだけよりも困難です。これは、通常、他の信号に暗黙的に含まれているためです。例えば、求職者の趣味、スポーツ、通っている学校は、分析から除外されていても、ソフトウェアに性別を明らかにする可能性があります。この問題の解決策は、知的エージェントが、対象者に関する保護された機密情報を再構築するために使用できる情報を一切持たないようにすることです。これは、^{[155]で初めて実証されました。[155]}では、ディープラーニングネットワークが同時にタスクを学習するようにトレーニングされ、同時に保護された特徴について完全に不可知でした。単語埋め込みのコンテキストでは、より簡単な方法が提案されており、保護された特徴と相関する情報を削除します。^[156]

現在、アルゴリズムの作成者が偏見の問題を排除し、アルゴリズムの機能と可能性のある影響について（当局やエンドユーザーに対して）透明性を明確にするのに役立つ方法論を指定することを目的とした新しいIEEE標準が起草されています。このプロジェクトは2017年2月に承認され、 IEEEコンピューター協会によって設立された委員会であるソフトウェアおよびシステムエンジニアリング標準委員会によって後援されています。標準の草案は2019年6月に投票に提出される予定です。^[157]^[158]

透明性と監視

AIに関する倫理ガイドラインは説明責任の必要性を指摘し、結果の解釈可能性を向上させるための措置を講じることを推奨している。^[159]このような解決策には、機械学習アルゴリズムにおける「理解する権利」を考慮し、決定を説明または検討できない状況では機械学習を導入しないようにすることが含まれる。^[160]この目的に向けて、偏見の是正を超えた理由から、DARPAなどの組織内で「説明可能なAI 」を求める動きがすでに始まっている。 ^{[161]たとえば、}プライスウォーターハウスクーパースは、出力を監視することは、システムの個々のコンポーネントが結果を歪める場合にそれらを分離してシャットダウンできるようにシステムを設計することを意味するとも示唆している。^[162]

透明性に向けた最初のアプローチには、アルゴリズムのオープンソース化が含まれていました。^[163]ソースコードホスティング施設を通じてソフトウェアコードを調べ、改善を提案することができます。ただし、このアプローチは必ずしも意図した効果を生み出すわけではありません。企業や組織は可能な限りすべてのドキュメントとコードを共有できますが、提供された情報が聴衆に理解されなければ透明性は確立されません。したがって、透明性に関連して、関心のある批判的な聴衆の役割を調査する価値があります。批判的な聴衆がいなければ、アルゴリズムに説明責任を負わせることはできません。^[164]

救済を受ける権利

規制の観点から、トロント宣言はアルゴリズムの偏りによって引き起こされる被害に人権の枠組みを適用するよう求めている。^[165]これには、アルゴリズムの設計者に代わってデューデリジェンスを期待することを立法化することや、民間主体が公共の利益を保護できなかった場合に説明責任を課すことが含まれるが、複雑に絡み合ったプロセスの網の中で責任を決定する複雑さによって、そのような権利が不明瞭になる可能性があることに留意している。^[166]明確な賠償責任保険のメカニズムの必要性を提案する人もいる。^[167]

多様性と包摂

AIシステムの設計は主に白人男性エンジニアの領域であるという懸念がある中、^[168]多くの学者は、AIシステムを設計する人々の階級に包摂性を広げることでアルゴリズムの偏りを最小限に抑えることができると示唆している。 ^[160]^[143]たとえば、機械学習エンジニアのうち女性はわずか12%で、^[169]黒人のAIリーダーたちはこの分野の「多様性の危機」を指摘している。^[170]Black in AIやQueer in AIなどのグループは、AIコミュニティにもっと包括的な空間を作り、AI研究の軌道をコントロールする企業のしばしば有害な欲求に対抗しようとしている。^[171]単純な包摂の取り組みに対する批判は、多様性プログラムでは重複する不平等の形態に対処できないことを示唆しており、アルゴリズムの設計にもっと意図的な交差性のレンズを適用するよう求めている。 ^[172]^[173]^{: 4}ケンブリッジ大学の研究者は、人種的多様性への取り組みはAI文化の「白人中心主義」によって妨げられていると主張している。^[174]

学際性とコラボレーション

AIシステムの開発において学際性とコラボレーションを統合することは、アルゴリズムの偏りに対処する上で重要な役割を果たすことができます。コンピュータサイエンス以外の分野からの洞察、専門知識、視点を統合することで、データ駆動型ソリューションが社会に与える影響をより深く理解することができます。AI研究におけるこの例としては、PACT（コミュニティで能力を発揮するための参加型アプローチ）があります。これは、社会的影響に関係するAI駆動型ソリューションを開発する際にコラボレーションを促進するための提案フレームワークです。 ^[175]このフレームワークは、AI for Social Good（AI4SG）プロジェクトに取り組む際に、利害関係者の参加に関する指針となる原則を特定します。PACTは、人間中心のAIソリューションの設計において、脱植民地化と権力移行の取り組みの重要性を具体化しようとしています。この点に関する学術的な取り組みとして、スタンフォード大学の人間中心の人工知能研究所があり、学際的なコラボレーションを促進することを目指しています。この研究所の使命は、人工知能（AI）の研究、教育、政策、実践を推進し、人間の状態を改善することです。^[176]

外部の専門家やさまざまな利害関係者との連携により、倫理的、包括的、かつ説明責任のあるインテリジェントシステムの開発が促進されます。倫理的配慮を組み込み、社会的・文化的背景を理解し、人間中心設計を推進し、技術的専門知識を活用し、政策的および法的考慮事項に対処します。^[177] AIシステムにおける偏見を効果的に緩和し、AI技術が公正で透明性があり、説明責任を果たすためには、分野を超えた連携が不可欠です。

規制

ヨーロッパ

2018年に施行された欧州連合の改訂データ保護制度である一般データ保護規則（GDPR）は、第22条で「プロファイリングを含む自動化された個人の意思決定」を扱っている。これらの規則は、同意、契約、または加盟国の法律によって明示的に許可されていない限り、個人に「重大な」または「法的」影響を与える「完全な」自動化された意思決定を禁止している。自動化された意思決定が許可される場合でも、人間が関与する権利や、決定の説明を求める拘束力のない権利などの安全策を講じなければならない。これらの規則は一般的に新しいと考えられているが、1995年以来、ヨーロッパ全体でほぼ同一の規定がデータ保護指令の第15条に存在している。元の自動化された意思決定の規則と安全策は、1970年代後半からフランスの法律に見られる。^[178]

GDPRは、プロファイリングシステムにおけるアルゴリズムの偏りと、それを除去するために可能な統計的アプローチについて、序文71で直接言及しており、 ^[179]

管理者は、プロファイリングに適切な数学的または統計的手順を使用し、適切な技術的および組織的措置を実施する必要があります...とりわけ、人種や民族的起源、政治的意見、宗教や信念、労働組合への加入、遺伝的状態や健康状態、性的指向に基づいて自然人に対する差別的影響を防止する、またはそのような影響をもたらす措置につながる必要があります。

序文71の拘束力のない説明を求める権利と同様に、序文の拘束力がないことが問題である。^[180]これは、データ保護法の実施について助言した第29条作業部会によって要件として扱われてきたが、 ^[179]その実際的な側面は不明瞭である。高リスクデータプロファイリングに関するデータ保護影響評価（データ保護内の他の予防的措置と並んで）は、消費者に苦情を申し立てたり変更を要求したりすることを要求するよりも、アルゴリズムを導入する者の行動を制限するため、アルゴリズムによる差別の問題に取り組むより良い方法である可能性があると主張されてきた。^[181]

アメリカ合衆国

米国にはアルゴリズムの偏りを規制する一般的な法律はなく、業界、セクター、アルゴリズムの使用方法によって異なる可能性のあるさまざまな州法および連邦法を通じて問題に取り組んでいます。^{[182]多くのポリシーは、}連邦取引委員会によって自主的に施行または管理されています。^[182] 2016年、オバマ政権は国家人工知能研究開発戦略計画を発表しました。^[183] これは、政策立案者がアルゴリズムを批判的に評価できるようにするためのものでした。この計画では、研究者に「これらのシステムを設計して、その行動と意思決定が透明で人間によって簡単に解釈できるようにし、これらの偏りを学習して繰り返すだけでなく、偏りがないか調べられるようにする」ことを推奨しました。この報告書はガイダンスのみを目的としており、法的先例を作成することはありませんでした。^[184]^{: 26}

2017年、ニューヨーク市は米国で最初のアルゴリズムの説明責任法案を可決した。 ^[185] 2018年1月1日に発効したこの法案は、「政府機関の自動意思決定システムに関する情報を一般市民と共有する方法、および政府機関の自動意思決定システムによって人々が被害を受けた事例に政府機関がどのように対処するかについて勧告を行うタスクフォースの設置」を義務付けている。^[186]タスクフォースは、2019年にさらなる規制措置に関する調査結果と勧告を提示する必要がある。 ^[187]

インド

2018年7月31日、個人データ法案の草案が提出された。^[188]この草案は、データの保存、処理、送信の基準を提案している。アルゴリズムという用語は使用されていないが、「受託者によって行われるあらゆる処理またはあらゆる種類の処理から生じる損害」に対する規定を設けている。この草案は、「データ主体に関する評価決定の結果として生じるサービス、利益、または商品の拒否または撤回」または「あらゆる差別的扱い」を、データの不適切な使用から生じる可能性のある損害の原因として定義している。また、「インターセックスの状態」の人々に対する特別な規定も設けている。^[189]

参照

参考文献

^ Jacobi, Jennifer (2001年9月13日). 「Patent #US2001021914」. Espacenet . 2018年7月4日閲覧。
^ Marabelli, Marco (2024). AI、倫理、ビジネスにおける差別。Palgrave Studies in Equity, Diversity, Inclusion, and Indigenization in Business. Springer. doi :10.1007/978-3-031-53919-0. ISBN 978-3-031-53918-3。
^ Suresh, Harini; Guttag, John (2021 年 11 月 4 日)。「機械学習ライフサイクル全体を通じて危害の原因を理解するためのフレームワーク」。アルゴリズム、メカニズム、最適化における公平性とアクセス。EAAMO '21。ニューヨーク、ニューヨーク州、米国: Association for Computing Machinery。pp. 1–9。doi : 10.1145 / 3465416.3483305。ISBN 978-1-4503-8553-4. S2CID 235436386。
^ Striphas, Ted (2012年2月). 「What is an Algorithm? – Culture Digitally」. culturedigitally.org . 2017年11月20日閲覧。
^ コーメン、トーマス H.チャールズ・E・ライザーソン;ロナルド・L・リベスト、スタイン、クリフォード (2009)。アルゴリズム入門(第 3 版)。マサチューセッツ州ケンブリッジ：MIT Press。 p. 5.ISBN 978-0-262-03384-8。
^ abc Kitchin, Rob (2016年2月25日). 「アルゴリズムについての批判的思考と研究」(PDF) .情報・コミュニケーション・社会. 20 (1): 14–29. doi :10.1080/1369118X.2016.1154087. S2CID 13798875.
^ 「Google 検索の仕組み」。2017年11 月 19 日閲覧。
^ Luckerson, Victor. 「Facebook ニュースフィードの実際の仕組み」Time。2017 年11 月 19 日閲覧。
^ ヴァンダービルト、トム（2013年8月7日）。「Netflixが次に何を見るかを決定するアルゴリズムの背後にある科学」Wired 。 2017年11月19日閲覧。
^ Angwin, Julia ; Mattu, Surya (2016年9月20日). 「Amazonは顧客を第一に考えているが、価格設定アルゴリズムはそうではない — ProPublica」. ProPublica . 2017年11月19日閲覧。
^ Livingstone, Rob (2017年3月13日). 「オンライン広告の未来はビッグデータとアルゴリズム」The Conversation . 2017年11月19日閲覧。
^ ヒックマン、レオ（2013年7月1日）。「アルゴリズムが世界を支配する方法」ガーディアン。 2017年11月19日閲覧。
^ abcdef Seaver, Nick. 「アルゴリズムを知る」(PDF) 。Media in Transition 8、マサチューセッツ州ケンブリッジ、2013年4月。 2017年12月1日時点のオリジナル(PDF)からアーカイブ。 2017年11月18日閲覧。
^ abc Graham, Stephen DN (2016年7月). 「ソフトウェアで分類された地理」(PDF) . Progress in Human Geography (提出原稿). 29 (5): 562–580. doi :10.1191/0309132505ph568oa. S2CID 19119278.
^ abc Tewell, Eamon (2016年4月4日). 「情報の抵抗的な読み方に向けて：Google、抵抗的な傍観者、批判的情報リテラシー」. Portal: Libraries and the Academy . 16 (2): 289–310. doi :10.1353/pla.2016.0017. ISSN 1530-7131. S2CID 55749077. 2017年11月19日閲覧。
^ クロフォード、ケイト（2013年4月1日）。「ビッグデータに潜むバイアス」ハーバード・ビジネス・レビュー。
^ abcdefghijklmnopq Friedman, Batya; Nissenbaum, Helen (1996年7月). 「コンピュータシステムにおけるバイアス」(PDF) . ACM Transactions on Information Systems . 14 (3): 330–347. doi :10.1145/230538.230561. S2CID 207195759. 2019年3月10日閲覧。
^ abcdef ギレスピー、タールトン、ボツコウスキー、パブロ、フット、クリスティン (2014)。メディアテクノロジー。ケンブリッジ: MIT プレス。pp. 1–30。ISBN 9780262525374。
^ ab ディアコポロス、ニコラス。「アルゴリズムの説明責任：ブラックボックスの調査について」。towcenter.org 。 2017年11月19日閲覧。
^リパティート、ケネス（2011年1月6 日）。『物語とアルゴリズム：19世紀から今日までの信用報告のジャンル』（ PDF ）（提出原稿）。doi :10.2139/SSRN.1736283。S2CID 166742927。SSRN 1736283。
^ グッドマン、ブライス、フラックスマン、セス（2017）。「アルゴリズムによる意思決定に関するEU規制と「説明の権利」「. AI マガジン. 38 (3): 50. arXiv : 1606.08813 . doi :10.1609/aimag.v38i3.2741. S2CID 7373959.
^ abcdefg ワイゼンバウム、ジョセフ（1976）。コンピュータパワーと人間の理性：判断から計算へ。サンフランシスコ：WHフリーマン。ISBN 978-0-7167-0464-5。
^ ab Goffrey, Andrew (2008). 「アルゴリズム」。Fuller, Matthew (ed.) 著。ソフトウェア研究: 用語集。マサチューセッツ州ケンブリッジ: MIT 出版。pp. 15–20。ISBN 978-1-4356-4787-9。
^ Lowry, Stella; Macpherson, Gordon (1988年3月5日). 「A Blot on the Profession」. British Medical Journal . 296 (6623): 657–8. doi :10.1136/bmj.296.6623.657. PMC 2545288. PMID 3128356. 2017年11月17日閲覧。
^ Miller, Alex P. (2018 年 7 月 26 日)。「偏りの少ない決定を望むなら、アルゴリズムを使用する」。Harvard Business Review。2018年7 月 31 日閲覧。
^ abc Introna, Lucas D. (2011年12月2日). 「コードの枠組み」.理論、文化、社会. 28 (6): 113–141. doi :10.1177/0263276411418131. S2CID 145190381.
^ イアン・ボゴスト（2015年1月15日）「The Cathedral of Computation」アトランティック誌。 2017年11月19日閲覧。
^ abcdefg Introna, Lucas; Wood, David (2004). 「アルゴリズム監視の描写: 顔認識システムの政治学」Surveillance & Society 2 : 177–198 . 2017年11月19日閲覧。
^ abcd Introna, Lucas D. (2006年12月21日). 「折り畳みの可逆性の維持: 情報技術の倫理 (政治) を可視化する」.倫理と情報技術. 9 (1): 11–25. CiteSeerX 10.1.1.154.1313 . doi :10.1007/s10676-006-9133-z. S2CID 17355392.
^ ab クレイ・シャーキー。「アルゴリズム的権威という概念に関する思索的な投稿クレイ・シャーキー」。www.shirky.com。2012年3月15日時点のオリジナルよりアーカイブ。2017年11月20日閲覧。
^ ab Ziewitz, Malte (2016年1月1日). 「アルゴリズムの管理：神話、混乱、そして方法」.科学、技術、人間の価値. 41 (1): 3–16. doi : 10.1177/0162243915608948 . ISSN 0162-2439. S2CID 148023125.
^ ラッシュ、スコット（2016年6月30日）。「覇権後の権力」。理論、文化、社会。24 （3）：55–78。doi ：10.1177/0263276407075956。S2CID 145639801 。
^ abガルシア、メガン（2016年1月1 日）。 「機械の中の人種差別主義者」。ワールドポリシージャーナル。33 （4）：111–117。doi ： 10.1215 /07402775-3813015。S2CID 151595343。
^ 「ACM FAccT 2021 登録」。fatconference.org . 2021年11月14日閲覧。
^ Ochigame, Rodrigo (2019年12月20日). 「『倫理的AI』の発明：大手テック企業が規制を回避するために学術界を操作する方法」The Intercept . 2020年2月11日閲覧。
^ Sergot, MJ; Sadri, F; Kowalski, RA; Kriwaczek, F; Hammond, P; Cory, HT (1986年5月). 「論理プログラムとしての英国国籍法」(PDF) . Communications of the ACM . 29 (5): 370–386. doi :10.1145/5689.5920. S2CID 5665107. 2017年11月18日閲覧。
^ ab 「アルゴリズムによる偏見を止めるには、まずそれを定義する必要がある」。ブルッキングス研究所。 2023年6月27日閲覧。
^エヴァンス、メラニー、マシューズ、アンナ ・ワイルド（2019年10月24日）。「研究者らが病院のアルゴリズムに人種的偏見を発見」ウォール・ストリート・ジャーナル。ISSN 0099-9660 。2023年6月27日閲覧。
^ abc Luo, Queenie; Puett, Michael J.; Smith, Michael D. (2023年5月23日) 「象の視点の鏡：Google、ChatGPT、Wikipedia、YouTubeにおける言語バイアスの調査」arXiv : 2303.16281
^ Busker, Tony; Choenni, Sunil; Shoae Bargh, Mortaza (2023年11月20日)。「ChatGPTのステレオタイプ：実証的研究」。電子ガバナンスの理論と実践に関する第16回国際会議の議事録。ICEGOV '23。ニューヨーク、ニューヨーク、米国：計算機協会。pp. 24–32。doi ： 10.1145 / 3614321.3614325。ISBN 979-8-4007-0742-1。
^ Kotek, Hadas; Dockum, Rikker; Sun, David (2023年11月5日)。「大規模言語モデルにおけるジェンダーバイアスとステレオタイプ」。ACM Collective Intelligence Conference Proceedings。CI '23。ニューヨーク、ニューヨーク州、米国：Association for Computing Machinery。pp. 12–24。doi :10.1145/3582269.3615599。ISBN 979-8-4007-0113-9。
^ チェン、マイラ; ダーマス、エシン; ジュラフスキー、ダン (2023 年 5 月 29 日)、マークされたペルソナ: 自然言語プロンプトを使用して言語モデルにおけるステレオタイプを測定する、arXiv : 2305.18189
^ Friðriksdóttir、Steinnn Rut;アイナルソン、ハフスタイン (2024)、「ジェンダー化された文法または根深いバイアス? アイスランド言語モデルにおけるジェンダーバイアスの探求」、Lrec-Coling 2024 : 7596–7610
^ Feng, Shangbin; Park, Chan Young; Liu, Yuhan; Tsvetkov, Yulia (2023年7月). Rogers, Anna; Boyd-Graber, Jordan; Okazaki, Naoaki (編). 「事前トレーニングデータから言語モデル、下流タスクまで: 不公平なNLPモデルにつながる政治的偏見の軌跡を追跡する」.計算言語学会第61回年次会議議事録 (第1巻: 長文論文) . トロント、カナダ: 計算言語学会: 11737–11762. arXiv : 2305.08283 . doi : 10.18653/v1/2023.acl-long.656 .
^ Gillespie, Tarleton (2014年6月25日). 「アルゴリズム [ドラフト] [#digitalkeywords] – Culture Digitally」. culturedigitally.org . 2017年11月20日閲覧。
^ Roth, AE 1524–1528. (1990年12月14日). 「新しい医師：市場組織における自然な実験」. Science . 250 (4987): 1524–1528. Bibcode :1990Sci...250.1524R. doi :10.1126/science.2274783. PMID 2274783. S2CID 23259274. 2017年11月18日閲覧。{{cite journal}}: CS1 maint: numeric names: authors list (link)
^ Kuang, Cliff (2017年11月21日). 「AIに自己説明を教えることはできるか?」.ニューヨークタイムズマガジン. 2017年11月26日閲覧。
^ ab Jouvenal, Justin (2016年11月17日). 「警察は犯罪を予測するためにソフトウェアを使用しています。それは「聖杯」なのか、それとも少数派に対する偏見なのか?」ワシントンポスト。2017年11月25日閲覧。
^ ab Chamma, Maurice (2016年2月3日). 「Policing the Future」. The Marshall Project . 2017年11月25日閲覧。
^ラム、クリスチャン; アイザック、 ウィリアム(2016年10月)。「予測して奉仕するか?」意義。13 (5): 14–19。doi : 10.1111 /j.1740-9713.2016.00960.x。
^ スミス、ジャック（2016年10月9日）。「研究によると、予測型警察活動は人種的偏見を増幅させるだけ」。Mic 。2017年11月25日閲覧。
^ Lum, Kristian; Isaac, William (2016年10月1日)。「予測型警察活動と偏見に関するFAQ」HRDAG 。 2017年11月25日閲覧。
^ Sun, Wenlong; Nasraoui, Olfa; Shafto, Patrick (2018). 「情報フィルタリングのインタラクティブ機械学習プロセスにおける反復アルゴリズムバイアス」。知識発見、知識工学、知識管理に関する第10回国際合同会議議事録。スペイン、セビリア： SCITEPRESS -科学技術出版。pp. 110–118。doi ：10.5220/0006938301100118。ISBN 9789897583308。
^ Sinha, Ayan; Gleich, David F.; Ramani, Karthik (2018年8月9日). 「ネットワークのガウスの法則はコミュニティの境界を直接明らかにする」. Scientific Reports . 8 (1): 11909. Bibcode :2018NatSR...811909S. doi :10.1038/s41598-018-30401-0. ISSN 2045-2322. PMC 6085300. PMID 30093660 .
^ Hao, Karen (2018年2月)。「Googleはついにフィルターバブルの問題があることを認めた」Quartz 。2019年2月26日閲覧。
^ 「Facebookは『フィルターバブル』と戦うためにこの新機能をテストしています」。Fortune 。 2019年2月26日閲覧。
^ ab Sandvig, Christian; Hamilton, Kevin; Karahalios, Karrie ; Langbort, Cedric (2014年5月22日). 「監査アルゴリズム: インターネットプラットフォームにおける差別を検出するための調査方法」(PDF)。第64回国際コミュニケーション協会年次会議。 2017年11月18日閲覧。
^ Brin, Sergey; Page, Lawrence. 「検索エンジンの構造」www7.scu.edu.au。2019年7月2日時点のオリジナルよりアーカイブ。2017年11月18日閲覧。
^ Epstein, Robert; Robertson, Ronald E. (2015年8月18日). 「検索エンジン操作効果 (SEME) と選挙結果へのその影響の可能性」. Proceedings of the National Academy of Sciences . 112 (33): E4512–E4521. Bibcode :2015PNAS..112E4512E. doi : 10.1073/pnas.1419828112 . PMC 4547273 . PMID 26243876.
^ Bond, Robert M.; Fariss, Christopher J.; Jones, Jason J.; Kramer, Adam DI; Marlow, Cameron; Settle, Jaime E.; Fowler, James H. (2012 年 9 月 13 日)。「社会的影響と政治的動員に関する 6100 万人の実験」。Nature。489 ( 7415 ) : 295–8。Bibcode : 2012Natur.489..295B。doi : 10.1038/ nature114 21。ISSN 0028-0836。PMC 3834737。PMID 22972300。
^ Zittrain, Jonathan (2014). 「Engineering an Election」（PDF） . Harvard Law Review Forum . 127 :335–341. 2021年3月4日時点のオリジナル（PDF）よりアーカイブ。2017年11月19日閲覧。
^ デイ、マット（2016年8月31日）。「LinkedInの検索エンジンは性別による偏見を反映している可能性がある」シアトルタイムズ。 2017年11月25日閲覧。
^ abクロフォード、ケイト、シュルツ、ジェイソン（2014年）。「ビッグデータと適正手続き：予測的プライバシー侵害を是正するための枠組みに向けて」ボストンカレッジローレビュー。55 （1）：93–128 。 2017年11月18日閲覧。
^ デュヒッグ、チャールズ（2012年2月16日）。「企業はいかにしてあなたの秘密を知るのか」ニューヨークタイムズマガジン。 2017年11月18日閲覧。
^ ノーブル、サフィヤ（ 2012年）。「ミスド・コネクション：検索エンジンが女性について語ること」（PDF）。ビッチ。12 （4）：37–41。
^ Guynn, Jessica (2017年3月16日). 「Google、検索結果で不快なコンテンツにフラグを立て始める」USA TODAY . USA Today . 2017年11月19日閲覧。
^ Simonite, Tom. 「研究はGoogleの広告ターゲティングシステムが差別的である可能性を示唆」。MITテクノロジーレビュー。マサチューセッツ工科大学。 2017年11月17日閲覧。
^ Prates, Marcelo OR; Avelar, Pedro HC; Lamb, Luis (2018). 「機械翻訳におけるジェンダーバイアスの評価 - Google Translate のケーススタディ」. arXiv : 1809.02208 [cs.CY].
^ Prates, Marcelo OR; Avelar, Pedro H.; Lamb, Luís C. (2019). 「機械翻訳におけるジェンダーバイアスの評価: Google Translate のケーススタディ」.ニューラルコンピューティングとアプリケーション. 32 (10): 6363–6381. arXiv : 1809.02208 . doi :10.1007/s00521-019-04144-6. S2CID 52179151.
^ Claburn, Thomas (2018年9月10日). 「Boffins bash Google Translate for sexism」. The Register . 2022年4月28日閲覧。
^ ダスティン、ジェフリー（2018年10月9日）。「アマゾン、女性に対する偏見を示した秘密のAI採用ツールを廃止」ロイター。
^ ヴィンセント、ジェームズ（2018年10月10日）。「アマゾン、女性に対して偏見があった社内AI採用ツールを廃止と報道」The Verge。
^ 「Spotify のレコメンデーションシステムを振り返る – SongData」 2019 年 10 月. 2020 年8 月 7 日閲覧。
^ Buolamwini, Joy; Gebru, Timnit (2018年1月21日). 「ジェンダーシェード：商業的なジェンダー分類における交差的精度格差」。機械学習研究の議事録。81 (2018): 77–91 。 2020年9月27日閲覧。
^ ノーブル、サフィヤ・ウモジャ（2018年2月20日）。抑圧のアルゴリズム：検索エンジンはいかに人種差別を強化するか。ニューヨーク：NYU出版。ISBN 978-1479837243。
^ ab ナカムラ、リサ（2009）。マグネット、ショシャナ、ゲイツ、ケリー（編）。監視の新しいメディア。ロンドン：ラウトレッジ。pp. 149–162。ISBN 978-0-415-56812-8。
^ Marco Marabelli、Sue Newell 、 Valerie Handunge (2021)。「アルゴリズムによる意思決定システムのライフサイクル：組織の選択と倫理的課題」。戦略情報システムジャーナル。30 (3): 1–15。doi : 10.1016 /j.jsis.2021.101683。
^アレクサンダー、 ルドルフ、ジャクリーン・ギャメラ（1997年9月）。「麻薬所持者に対するアフリカ系アメリカ人と白人の差別的処罰：正当な政策か、それとも過去の継続か？」。Journal of Black Studies。28（1）：97–111。doi ： 10.1177 /002193479702800106。ISSN 0021-9347。S2CID 152043501 。
^ Petersilia, Joan (1985年1月). 「刑事司法制度における人種的格差：概要」. Crime & Delinquency . 31 (1): 15–34. doi :10.1177/0011128785031001002. ISSN 0011-1287. S2CID 146588630.
^ ab Guynn, Jessica (2015年7月1日). 「Google Photos が黒人を「ゴリラ」と分類」. USA TODAY . USA Today . 2017年11月18日閲覧。
^ ローズ、アダム（2010年1月22日）。「顔検出カメラは人種差別的か？」タイム誌。 2017年11月18日閲覧。
^ 「Alexaはあなたのアクセントを理解しません」。ワシントンポスト。
^ Sweeney, Latanya (2013年1月28日). 「オンライン広告配信における差別」. arXiv : 1301.6822 [cs.IR].
^ Braun, Lundy (2015). 「人種、民族、肺機能：簡単な歴史」. Canadian Journal of Respiratory Therapy . 51 (4): 99–101. ISSN 1205-9838. PMC 4631137. PMID 26566381 .
^ Robinson, Whitney R; Renson, Audrey; Naimi, Ashley I (2020年4月1日). 「構造的人種差別について学ぶことで機械学習が向上する」. Biostatistics . 21 (2): 339–344. doi : 10.1093/biostatistics/kxz040 . ISSN 1465-4644. PMC 7868043. PMID 31742353 .
^ ジョンソン、キャロリンY.（2019年10月24日）。「医療アルゴリズムにおける人種的偏見は、より重症の黒人患者よりも白人患者を優遇する」ワシントンポスト。 2019年10月28日閲覧。
^バートレット、ロバート、モース、アデア、 スタントン、リチャード、ウォレス、ナンシー（2019年6月）。「フィンテック時代の消費者融資差別」。NBERワーキングペーパーNo.25943。ワーキングペーパーシリーズ。doi ： 10.3386/w25943。S2CID 242410791。
^ Jeff Larson、Julia Angwin（2016年5月23日）。「COMPAS再犯アルゴリズムの分析方法」。ProPublica 。 2019年4月29日時点のオリジナルよりアーカイブ。 2020年6月19日閲覧。
^ 「論評：悪いニュース。人工知能は偏っている」CNA 2019年1月12日。2019年1月12日時点のオリジナルよりアーカイブ。2020年6月19日閲覧。
^ ab Angwin, Julia; Larson, Jeff; Mattu, Surya; Kirchner, Lauren (2016年5月23日). 「Machine Bias — ProPublica」. ProPublica . 2017年11月18日閲覧。
^ハーコート、バーナード（2010 年9月16日）。「人種の代理としてのリスク」連邦量刑報告者。27 （4）：237。doi ：10.1525/ fsr.2015.27.4.237。S2CID 53611813。SSRN 1677654 。
^ Skeem J、Lowenkamp C、「リスク、人種、再犯：予測バイアスと不均衡な影響」（2016 年 6 月 14 日）。SSRN 2687339
^ Thomas, C.; Nunez , A. (2022). 「司法裁量の自動化：公判前審判におけるアルゴリズムによるリスク評価が人種に基づく平等保護権をどのように侵害するか」。法律と不平等。40 (2): 371–407。doi : 10.24926/25730037.649。
^ ab Angwin, Julia; Grassegger, Hannes (2017年6月28日). 「Facebookの秘密の検閲ルールは白人男性をヘイトスピーチから保護するが、黒人の子供たちは保護しない - ProPublica」。ProPublica 。 2017年11月20日閲覧。
^ ジュリア・アンウィン、マドレーヌ・ヴァーナー、アリアナ・トービン（2017年9月14日）。「Facebook により広告主は「ユダヤ人嫌い」にリーチできるようになった — ProPublica」。ProPublica 。2017年11月20日閲覧。
^ Sap, Maarten; Card, Dallas; Gabriel, Saadia; Choi, Yejin; Smith, Noah A. (2019年7月28日～8月2日). 「ヘイトスピーチ検出における人種的偏見のリスク」(PDF)。第57回計算言語学会年次会議議事録。イタリア、フィレンツェ：計算言語学会。pp. 1668–1678。 2019年8月14日時点のオリジナルよりアーカイブ(PDF) 。
^ Ghaffary, Shirin (2019年8月15日). 「オンラインでヘイトスピーチを検出するアルゴリズムは黒人に対して偏見を持っている」Vox . 2020年2月19日閲覧。
^ Furl, N (2002年12月). 「顔認識アルゴリズムと異人種間効果: 発達的接触仮説の計算メカニズム」.認知科学. 26 (6): 797–815. doi : 10.1207/s15516709cog2606_4 .
^ Raji, Inioluwa Deborah; Gebru, Timnit; Mitchell, Margaret; Buolamwini, Joy; Lee, Joonseok; Denton, Emily (2020年2月7日)。「Saving Face」。AAAI /ACM AI、倫理、社会に関する会議議事録。計算機協会。pp. 145–151。arXiv : 2001.00964。doi : 10.1145 / 3375627.3375820。ISBN 9781450371100. S2CID 209862419。
^ 「白人男性の場合、顔認識は正確です」。ニューヨークタイムズ。2018年2月9日。 2023年8月24日閲覧。
^ Buolamwini, Joy; Gebru, Timnit (2018). 「ジェンダーシェード：商業的な性別分類における交差的精度格差」（PDF）。機械学習研究の議事録。81 ： 1 – MLR Press経由。
^ アナニー、マイク（2011年4月14日）。「ゲイ男性向けアプリと性犯罪者の奇妙なつながり」アトランティック誌。 2017年11月18日閲覧。
^ カフカ、ピーター。「今週末、アマゾンは本当に失敗したのか？ツイッターでは「はい」と答え、オンライン小売業者は「不具合」と答えた。」AllThingsD 。 2017年11月22日閲覧。
^ カフカ、ピーター。「Amazon が『不注意なカタログ作成エラー』について謝罪」。AllThingsD。2017年11月 22 日閲覧。
^ マツサキス、ルイーズ（2019年2月22日）。「『性差別的な』検索バグはFacebookよりも私たちについて多くを語る」 Wired。ISSN 1059-1028 。2019年2月26日閲覧。
^ 「一部のAIは存在すべきではない」2019年4月19日。
^ サミュエル・シガル（2019年4月19日）。「一部のAIは存在すべきではない」。Vox 。 2019年12月12日閲覧。
^ Wang, Yilun; Kosinski, Michal (2017年2月15日). 「ディープニューラルネットワークは、顔画像から性的指向を検出する点で人間よりも正確です」. OSF . doi :10.17605/OSF.IO/ZN79K.
^レビン、サム（2017年9月9日）。「LGBT団体、顔を使ってセクシャリティを推測する『危険な』AI を非難」ガーディアン。ISSN 0261-3077 。 2019年12月12日閲覧。
^ Pal, GC (2011年9月16日). 「障害、インターセクショナリティ、剥奪：排除された課題」.心理学と発展途上社会. 23(2), 159–176. doi :10.1177/097133361102300202. S2CID 147322669 – Sagepub経由.
^ Brinkman, Aurora H.; Rea-Sandin, Gianna; Lund, Emily M.; Fitzpatrick, Olivia M.; Gusman, Michaela S.; Boness, Cassandra L.; Scholars for Elevating Equity and Diversity (SEED) (2022年10月20日). 「障害に関する言説の転換：包括的かつ交差的な焦点への移行」. American Journal of Orthopsychiatry . 93 (1): 50–62. doi :10.1037/ort0000653. ISSN 1939-0025. PMC 9951269. PMID 36265035 .
^ Whittaker, Meredith (2019年11月). 「障害、偏見、AI」(PDF) 。 2023年3月27日時点のオリジナル(PDF)よりアーカイブ。 2022年12月2日閲覧。
^ 「ミッション - 障害は多様性 - 親愛なるエンターテインメント業界の皆様、障害なくして多様性、公平性、包摂性はありません」。障害は多様性です。2022年12月2日閲覧。
^ 「Microsoft Design」www.microsoft.com . 2022年12月2日閲覧。
^ Pulrang, Andrew. 「障害者コミュニティの多様性を理解する4つの方法」Forbes . 2022年12月2日閲覧。
^ウォーターマイヤー、ブライアン、スワーツ、レスリー（2022年10月12日）。「障害と 怠惰なインターセクショナリティの問題」。障害と社会。38 （2）：362–366。doi ： 10.1080 / 09687599.2022.2130177。ISSN 0968-7599。S2CID 252959399 。
^ 「障害データレポート2021」。障害データイニシアチブ。 2022年12月2日閲覧。
^ White, Jason JG (2020 年 3 月 2 日)。「障がい者に対する AI の公平性: 問題分析と学際的コラボレーション」。ACM SIGACCESS Accessibility and Computing (125): 3:1。doi : 10.1145 /3386296.3386299。ISSN 1558-2337。S2CID 211723415 。
^ 「AI言語モデルは障害者に対して偏見を示している、と研究で判明 | ペンシルベニア州立大学」www.psu.edu 。 2022年12月2日閲覧。
^ ギブンズ、アレクサンドラ・リーブ（2020年2月6日）。「アルゴリズムによる偏見が障害者に与える影響」スレート誌。 2022年12月2日閲覧。
^ Morris, Meredith Ringel (2020年5月22日). 「AIとアクセシビリティ」. Communications of the ACM . 63 (6): 35–37. arXiv : 1908.08939 . doi :10.1145/3356727. ISSN 0001-0782. S2CID 201645229.
^ ノーブル、サフィヤ・ウモジャ（2018年2月20日）。抑圧のアルゴリズム：検索エンジンはいかに人種差別を強化するか。ニューヨーク。ISBN 9781479837243. OCLC 987591529.{{cite book}}: CS1 maint: location missing publisher (link)
^ Castelnovo, Alessandro; Inverardi, Nicole; Nanino, Gabriele; Penco, Ilaria; Regoli, Daniele (2023). 「これで十分か？「公平な」アルゴリズムを実現するための要件に対する現在の限界のマップ」. arXiv : 2311.12435 [cs.AI].
^ Ruggieri, Salvatore; Alvarez, Jose M; Pugnana, Andrea; Turini, Franco (2023). 「Fair-AIは信頼できるか?」. AAAI人工知能会議議事録. 37 (13): 5421–15430. doi : 10.1609/aaai.v37i13.26798 . hdl : 11384/136444 . S2CID 259678387.
^ サミュエル・シガル（2022年4月19日）。「AIを公平かつ偏りのないものにするのはなぜこんなに難しいのか」Vox 。 2024年7月23日閲覧。
^ フィオレット、フェルディナンド（2024年3月19日）。「AIに公平性を組み込むことは重要だが、正しく行うのは難しい」。The Conversation 。 2024年7月23日閲覧。
^ フリードラー、ソレル A.;シャイデッガー、カルロス。ヴェンカタスブラマニアン、スレシュ (2016)。「公平性の（不可能）可能性について」。arXiv : 1609.07236 [cs.CY]。
^ Hu, Lily; Chen, Yiling (2018). 「公正な分類の福祉と分配への影響」arXiv : 1807.01134 [cs.LG].
^ ドワーク、シンシア;ハルト、モーリッツ。ピタッシ、トニアン。ラインゴールド、オメル;ゼメル、リッチ（2011年11月28日）。「意識による公平性」。arXiv : 1104.3913 [cs.CC]。
^ abc Sandvig, Christian; Hamilton, Kevin; Karahalios, Karrie; Langbort, Cedric (2014). Gangadharan, Seeta Pena; Eubanks, Virginia; Barocas, Solon (eds.). 「アルゴリズム監査」(PDF) .データと差別: エッセイ集.
^ LaFrance, Adrienne (2015年9月18日). 「Webを動かすアルゴリズムはますます謎に満ちている」.アトランティック誌. 2017年11月19日閲覧。
^ ブルーノ・ラトゥール (1999)。『パンドラの希望：科学研究の現実に関するエッセイ』マサチューセッツ州ケンブリッジ：ハーバード大学出版局。
^ クビチコ、セバスチャン、カウン、アン（2016）。メディアとコミュニケーション研究における革新的な方法。シュプリンガー。ISBN 978-3-319-40700-5. 2017年11月19日閲覧。
^ McGee, Matt (2013 年 8 月 16 日)。「EdgeRank は終了: Facebook のニュースフィードアルゴリズムの重み付け係数は 10 万個近くに」。Marketing Land。2017年11 月 18 日閲覧。
^ abc Granka, Laura A. (2010年9月27日). 「検索の政治学：10年間の回顧」(PDF) .情報社会. 26 (5): 364–374. doi :10.1080/01972243.2010.511560. S2CID 16306443. 2017年11月18日閲覧。
^ Szymielewicz, Katarzyna (2020年1月20日). 「Black-Boxed Politics」. Medium . 2020年2月11日閲覧。
^ Veale, Michael; Binns, Reuben (2017). 「現実世界におけるより公平な機械学習: 機密データを収集せずに差別を軽減する」. Big Data & Society . 4 (2): 205395171774353. doi : 10.1177/2053951717743530 . SSRN 3060763.
^ Elliott, Marc N.; Morrison, Peter A.; Fremont, Allen; McCaffrey, Daniel F.; Pantoja, Philip; Lurie, Nicole (2009 年 6 月)。「国勢調査局の姓名リストを使用して人種/民族および関連する格差の推定値を向上させる」。保健サービスおよび結果研究方法論。9 (2): 69–83。doi : 10.1007 / s10742-009-0047-1。ISSN 1387-3741。S2CID 43293144 。
^ チェン・ジアハオ、カルラス・ネイサン、マオ・シャオジエ、スヴァチャ・ジェフリー、ウデル・マドレーヌ（2019）。「無意識下の公平性」。公平性、説明責任、透明性に関する会議議事録。アトランタ、ジョージア州、米国：ACM プレス。pp. 339–348。arXiv ：1811.11154。doi ： 10.1145 /3287560.3287594。ISBN 9781450361255. S2CID 58006233。
^ Kilbertus, Niki; Gascon, Adria; Kusner, Matt; Veale, Michael; Gummadi, Krishna; Weller, Adrian (2018). 「Blind Justice: Fairness with Encrypted Sensitive Attributes」.国際機械学習会議: 2630–2639. arXiv : 1806.03281 . Bibcode :2018arXiv180603281K.
^ Binns, Reuben; Veale, Michael; Kleek, Max Van; Shadbolt, Nigel (2017 年 9 月 13 日)。「トレーナーはボットと同じ? アルゴリズムによるコンテンツモデレーションにおけるバイアスの継承」。社会情報学。コンピュータサイエンスの講義ノート。第 10540 巻。pp. 405–415。arXiv : 1707.01477。doi : 10.1007/978-3-319-67256-4_32。ISBN 978-3-319-67255-7.S2CID 2814848 。
^ Claburn, Thomas (2016年7月18日). 「EUデータ保護法により、未知のアルゴリズムが終焉する可能性 – InformationWeek」. InformationWeek . 2017年11月25日閲覧。
^ ab ジョビン、アンナ;イエンカ、マルチェッロ。ヴァイエナ、エフィー（2019年9月2日）。「AI倫理ガイドラインの世界的な状況」。ネイチャー・マシン・インテリジェンス。1 (9): 389–399。arXiv : 1906.11668。土井：10.1038/s42256-019-0088-2。S2CID 201827642。
^ https://research.google.com/bigpicture/attacking-discrimination-in-ml/ よりスマートな機械学習で差別を撲滅
^ Hardt, Moritz; Price, Eric; Srebro, Nathan (2016). 「教師あり学習における機会の平等」. arXiv : 1610.02413 [cs.LG].
^ https://venturebeat.com/2018/05/25/microsoft-is-developing-a-tool-to-help-engineers-catch-bias-in-algorithms/ マイクロソフトは、エンジニアがアルゴリズムのバイアスを検知するのを支援するツールを開発している。
^ 「Facebookは人工知能の偏りを検出するツールを持っていると述べている」Quartz 2018年5月3日。2023年3月5日時点のオリジナルよりアーカイブ。
^ オープンソース Pymetrics 監査 AI
^ https://venturebeat-com.cdn.ampproject.org/c/s/venturebeat.com/2018/05/31/pymetrics-open-sources-audit-ai-an-algorithm-bias-detection-tool/amp/ Pymetrics がアルゴリズムバイアス検出ツール Audit AI をオープンソース化
^ https://github.com/dssg/aequitas オープンソース Aequitas: バイアスと公平性監査ツールキット
^ https://dsapp.uchicago.edu/aequitas/ オープンソース監査 AI、シカゴ大学の Aequitas
^ https://www.ibm.com/blogs/research/2018/02/mitigating-bias-ai-models/ AI モデルにおけるバイアスの軽減
^ S. Sen、D. Dasgupta、KD Gupta、「アルゴリズムのバイアスに関する実証的研究」、2020 IEEE 44th Annual Computers, Software, and Applications Conference (COMPSAC)、マドリード、スペイン、2020年、pp. 1189-1194、doi :10.1109/COMPSAC48688.2020.00-95。
^ Zou, James; Schiebinger, Londa (2018年7月). 「AIは性差別や人種差別を起こす可能性がある — 今こそ公平にすべき時だ」. Nature . 559 (7714): 324–326. Bibcode :2018Natur.559..324Z. doi : 10.1038/d41586-018-05707-8 . PMID 30018439.
^ Jia, Sen; Welfare, Thomas; Cristianini, Nello (2018).正しい理由のための正しいこと: 不可知論的ネットワークのトレーニング。インテリジェントデータ分析に関する国際シンポジウム。Springer。
^ サットン、アダム; ウェルフェア、トーマス; クリスティアーニニ、ネロ (2018)。野生データからのバイアス埋め込み: 測定、理解、および除去。インテリジェントデータ分析に関する国際シンポジウム。シュプリンガー。
^ Koene, Ansgar (2017年6月). 「アルゴリズムのバイアス: 増大する懸念への対応 [Leading Edge]」(PDF) . IEEE Technology and Society Magazine . 36 (2): 31–32. doi :10.1109/mts.2017.2697080. ISSN 0278-0097. 2018年7月19日時点のオリジナル(PDF)からアーカイブ。 2019年8月1日閲覧。
^ 「P7003 - アルゴリズムのバイアスに関する考慮事項」。IEEE。2018年12月3日時点のオリジナルよりアーカイブ。 2018年12月3日閲覧。
^ インターネット協会 (2017年4月18日)。「人工知能と機械学習：政策文書」。インターネット協会。 2020年2月11日閲覧。
^ ab 「ホワイトペーパー：機械学習における差別的結果を防ぐ方法」。世界経済フォーラム。2018年3月12日。 2020年2月11日閲覧。
^ 「説明可能な人工知能」www.darpa.mil . 2020年2月11日閲覧。
^ プライスウォーターハウスクーパース。「責任あるAIフレームワーク」。PwC 。 2020年2月11日閲覧。
^ ヒールド、デイビッド（2006年9月7日）。透明性：より良いガバナンスへの鍵？英国アカデミー。doi ： 10.5871/bacad/9780197263839.003.0002。ISBN 978-0-19-726383-9。
^ Kemper, Jakko; Kolkman, Daan (2019年12月6日). 「誰に対して透明性があるか？批判的な聴衆なしにアルゴリズムの説明責任はない」.情報、コミュニケーション、社会. 22 (14): 2081–2096. doi : 10.1080/1369118X.2018.1477967 . hdl : 11245.1/75cb1256-5fe5-4724-9a63-03ef66032d8e . ISSN 1369-118X.
^ 「トロント宣言：機械学習システムにおける平等と差別禁止の権利の保護」ヒューマン・ライツ・ウォッチ。2018年7月3日。 2020年2月11日閲覧。
^ トロント宣言：機械学習システムにおける平等と差別禁止の権利の保護（PDF）。ヒューマン・ライツ・ウォッチ。2018年、15ページ。
^ フロリディ州、ルチアーノ;カウルズ、ジョシュ。ベルトラメッティ、モニカ。チャティラ、ラジャ;チェゼランド、パトリス。バージニア州ディグナム。ルエッゲ、クリストフ。ロバート・マデリン。パガロ、ウーゴ。ロッシ、フランチェスカ。ブルクハルト、シェーファー（2018年12月1日）。「AI4People — 優れた AI 社会のための倫理的枠組み: 機会、リスク、原則、および推奨事項」。心と機械。28 (4): 703.土井:10.1007/s11023-018-9482-5。ISSN 1572-8641。PMC 6404626。PMID 30930541。
^クロフォード、 ケイト（2016年6月25日）。「オピニオン|人工知能の白人男性問題」ニューヨークタイムズ。ISSN 0362-4331 。2020年2月11日閲覧。
^ 「AIは未来だ――でも女性はどこにいるのか？」Wired . ISSN 1059-1028 . 2020年2月11日閲覧。
^ スノー、ジャッキー。「私たちは多様性の危機に瀕している」：Black in AIの共同創設者が私たちの生活に悪影響を及ぼしているアルゴリズムについて語る。MITテクノロジーレビュー。 2020年2月11日閲覧。
^ ハオ、カレン（2021年6月14日）。「ビッグテックの支配からAIを取り戻す戦いの内側」MITテクノロジーレビュー。 2021年6月21日閲覧。
^ Ciston, Sarah (2019年12月29日). 「インターセクショナルAIは必須」. Journal of Science and Technology of the Arts . 11 (2): 3–8. doi : 10.7559/citarj.v11i2.665 . ISSN 2183-0088.
^ ディニャツィオ、カトリーヌ;クライン、ローレン F. (2020)。データフェミニズム。 MITプレス。ISBN 978-0262044004。
^ケイブ、スティーブン、ディハル、カンタ（2020年 8月6日）。「AIの白さ」。哲学とテクノロジー。33 （4）：685–703。doi ：10.1007 / s13347-020-00415-6。ISSN 2210-5441。
^ ボンディ、エリザベス; 徐、リリー; アコスタ・ナバス、ダイアナ; キリアン、ジャクソン A. (2021)。「コミュニティの構想: 社会貢献のための AI に向けた参加型アプローチ」。2021 AAAI/ACM AI、倫理、社会に関する会議の議事録。pp. 425–436。arXiv : 2105.01774。doi : 10.1145 / 3461702.3462612。ISBN 9781450384735. S2CID 233740121 . 2023年4月6日閲覧– ezpa.library.ualberta.ca経由。
^ スタンフォード大学（2019年3月18日）。「スタンフォード大学が人間中心の人工知能研究所を開設」スタンフォードニュース。 2023年4月6日閲覧。
^ ボンディ、エリザベス; 徐、リリー; アコスタ・ナバス、ダイアナ; キリアン、ジャクソン A. (2021 年 7 月 21 日)。「コミュニティの構想: 社会貢献のための AI に向けた参加型アプローチ」。2021年AAAI /ACM AI、倫理、社会に関する会議の議事録。pp . 425–436。arXiv : 2105.01774。doi : 10.1145 /3461702.3462612。ISBN 9781450384735. S2CID 233740121。
^ Bygrave, Lee A (2001). 「自動プロファイリング」.コンピュータ法とセキュリティレビュー. 17 (1): 17–24. doi :10.1016/s0267-3649(01)00104-2.
^ ab Veale, Michael; Edwards, Lilian (2018). 「自動意思決定およびプロファイリングに関する第29条作業部会草案ガイダンスにおける明確性、驚き、およびさらなる疑問」( PDF)。コンピュータ法とセキュリティレビュー。34 (2): 398–404。doi :10.1016/ j.clsr.2017.12.002。S2CID 4797884。SSRN 3071679 。
^ Wachter, Sandra; Mittelstadt, Brent; Floridi, Luciano (2017年5月1日). 「なぜ自動意思決定の説明を受ける権利が一般データ保護規則に存在しないのか」.国際データプライバシー法. 7 (2): 76–99. doi : 10.1093/idpl/ipx005 . ISSN 2044-3994.
^ エドワーズ、リリアン、ヴィール、マイケル（2017年5月23日）。「アルゴリズムの奴隷？説明を受ける権利は、おそらくあなたが求めている救済策ではない理由」デューク法学・技術評論。16 ：18-84。SSRN 2972 855。
^ ab シンガー、ナターシャ（2013年2月2日）。「消費者データ保護法、隔絶した世界」ニューヨークタイムズ。 2017年11月26日閲覧。
^ オバマ、バラク（2016年10月12日）。「人工知能の将来に関する政権の報告書」。whitehouse.gov 。国立公文書館。2017年11月26日閲覧。
^ および技術評議会、国立科学 (2016)。国家人工知能研究開発戦略計画(PDF)。米国政府。2017年11月26日閲覧。
^ キルヒナー、ローレン（2017年12月18日）。「ニューヨーク市、アルゴリズムの説明責任の確立に動く — ProPublica」。ProPublica 。2018年7月28日閲覧。
^ 「ニューヨーク市議会 - ファイル番号: Int 1696-2017」。legistar.council.nyc.gov。ニューヨーク市議会。 2018年7月28日閲覧。
^ ジュリア・パウルズ「ニューヨーク市、アルゴリズムに説明責任を持たせようとする大胆かつ欠陥のある試み」ニューヨーカー誌。 2018年7月28日閲覧。
^ 「インド、EUのGDPRに似た包括的なデータプライバシー法案を検討中」Insurance Journal 2018年7月31日。 2019年2月26日閲覧。
^ 「2018年個人データ保護法案」（PDF）。インド政府電子情報技術省。2018年。 2022年4月29日閲覧。

さらに読む

Baer, Tobias (2019)。アルゴリズムのバイアスの理解、管理、防止: ビジネスユーザーとデータサイエンティストのためのガイド。ニューヨーク: Apress。ISBN 9781484248843。
ノーブル、サフィヤ・ウモジャ（2018年）。抑圧のアルゴリズム：検索エンジンはいかに人種差別を強化するか。ニューヨーク：ニューヨーク大学出版局。ISBN 9781479837243。

[1] Jacobi, Jennifer (2001年9月13日). 「Patent #US2001021914」. Espacenet . 2018年7月4日閲覧。

[2] Marabelli, Marco (2024). AI、倫理、ビジネスにおける差別。Palgrave Studies in Equity, Diversity, Inclusion, and Indigenization in Business. Springer. doi :10.1007/978-3-031-53919-0. ISBN 978-3-031-53918-3。

[3] Suresh, Harini; Guttag, John (2021 年 11 月 4 日)。「機械学習ライフサイクル全体を通じて危害の原因を理解するためのフレームワーク」。アルゴリズム、メカニズム、最適化における公平性とアクセス。EAAMO '21。ニューヨーク、ニューヨーク州、米国: Association for Computing Machinery。pp. 1–9。doi : 10.1145 / 3465416.3483305。ISBN 978-1-4503-8553-4. S2CID 235436386。

[Striphas-4] Striphas, Ted (2012年2月). 「What is an Algorithm? – Culture Digitally」. culturedigitally.org . 2017年11月20日閲覧。

[Cormen-5] コーメン、トーマス H.チャールズ・E・ライザーソン;ロナルド・L・リベスト、スタイン、クリフォード (2009)。アルゴリズム入門(第 3 版)。マサチューセッツ州ケンブリッジ：MIT Press。 p. 5.ISBN 978-0-262-03384-8。

[Kitchin-6] Kitchin, Rob (2016年2月25日). 「アルゴリズムについての批判的思考と研究」(PDF) .情報・コミュニケーション・社会. 20 (1): 14–29. doi :10.1080/1369118X.2016.1154087. S2CID 13798875.

[GoogleAlgorithms-7] 「Google 検索の仕組み」。2017年11 月 19 日閲覧。

[Luckerson-8] Luckerson, Victor. 「Facebook ニュースフィードの実際の仕組み」Time。2017 年11 月 19 日閲覧。

[Vanderbilt-9] ヴァンダービルト、トム（2013年8月7日）。「Netflixが次に何を見るかを決定するアルゴリズムの背後にある科学」Wired 。 2017年11月19日閲覧。

[AngwinMattu-10] Angwin, Julia ; Mattu, Surya (2016年9月20日). 「Amazonは顧客を第一に考えているが、価格設定アルゴリズムはそうではない — ProPublica」. ProPublica . 2017年11月19日閲覧。

[Livingstone-11] Livingstone, Rob (2017年3月13日). 「オンライン広告の未来はビッグデータとアルゴリズム」The Conversation . 2017年11月19日閲覧。

[Hickman-12] ヒックマン、レオ（2013年7月1日）。「アルゴリズムが世界を支配する方法」ガーディアン。 2017年11月19日閲覧。

[Seaver-13] Seaver, Nick. 「アルゴリズムを知る」(PDF) 。Media in Transition 8、マサチューセッツ州ケンブリッジ、2013年4月。 2017年12月1日時点のオリジナル(PDF)からアーカイブ。 2017年11月18日閲覧。

[Graham-14] Graham, Stephen DN (2016年7月). 「ソフトウェアで分類された地理」(PDF) . Progress in Human Geography (提出原稿). 29 (5): 562–580. doi :10.1191/0309132505ph568oa. S2CID 19119278.

[Tewell-15] Tewell, Eamon (2016年4月4日). 「情報の抵抗的な読み方に向けて：Google、抵抗的な傍観者、批判的情報リテラシー」. Portal: Libraries and the Academy . 16 (2): 289–310. doi :10.1353/pla.2016.0017. ISSN 1530-7131. S2CID 55749077. 2017年11月19日閲覧。

[16] クロフォード、ケイト（2013年4月1日）。「ビッグデータに潜むバイアス」ハーバード・ビジネス・レビュー。

[FriedmanNissenbaum-17] q Friedman, Batya; Nissenbaum, Helen (1996年7月). 「コンピュータシステムにおけるバイアス」(PDF) . ACM Transactions on Information Systems . 14 (3): 330–347. doi :10.1145/230538.230561. S2CID 207195759. 2019年3月10日閲覧。

[Gillespie_et_al-18] ギレスピー、タールトン、ボツコウスキー、パブロ、フット、クリスティン (2014)。メディアテクノロジー。ケンブリッジ: MIT プレス。pp. 1–30。ISBN 9780262525374。

[TowCenter-19] ディアコポロス、ニコラス。「アルゴリズムの説明責任：ブラックボックスの調査について」。towcenter.org 。 2017年11月19日閲覧。

[Lipartito-20] ^リパティート、ケネス（2011年1月6 日）。『物語とアルゴリズム：19世紀から今日までの信用報告のジャンル』（ PDF ）（提出原稿）。doi :10.2139/SSRN.1736283。S2CID 166742927。SSRN 1736283。

[GoodmanFlaxman2016-21] グッドマン、ブライス、フラックスマン、セス（2017）。「アルゴリズムによる意思決定に関するEU規制と「説明の権利」「. AI マガジン. 38 (3): 50. arXiv : 1606.08813 . doi :10.1609/aimag.v38i3.2741. S2CID 7373959.

[Weizenbaum1976-22] ワイゼンバウム、ジョセフ（1976）。コンピュータパワーと人間の理性：判断から計算へ。サンフランシスコ：WHフリーマン。ISBN 978-0-7167-0464-5。

[Goffrey-23] Goffrey, Andrew (2008). 「アルゴリズム」。Fuller, Matthew (ed.) 著。ソフトウェア研究: 用語集。マサチューセッツ州ケンブリッジ: MIT 出版。pp. 15–20。ISBN 978-1-4356-4787-9。

[LowryMacpherson-24] Lowry, Stella; Macpherson, Gordon (1988年3月5日). 「A Blot on the Profession」. British Medical Journal . 296 (6623): 657–8. doi :10.1136/bmj.296.6623.657. PMC 2545288. PMID 3128356. 2017年11月17日閲覧。

[Miller-25] Miller, Alex P. (2018 年 7 月 26 日)。「偏りの少ない決定を望むなら、アルゴリズムを使用する」。Harvard Business Review。2018年7 月 31 日閲覧。

[Introna1-26] Introna, Lucas D. (2011年12月2日). 「コードの枠組み」.理論、文化、社会. 28 (6): 113–141. doi :10.1177/0263276411418131. S2CID 145190381.

[Bogost-27] イアン・ボゴスト（2015年1月15日）「The Cathedral of Computation」アトランティック誌。 2017年11月19日閲覧。

[IntronaWood-28] Introna, Lucas; Wood, David (2004). 「アルゴリズム監視の描写: 顔認識システムの政治学」Surveillance & Society 2 : 177–198 . 2017年11月19日閲覧。

[Introna2-29] Introna, Lucas D. (2006年12月21日). 「折り畳みの可逆性の維持: 情報技術の倫理 (政治) を可視化する」.倫理と情報技術. 9 (1): 11–25. CiteSeerX 10.1.1.154.1313 . doi :10.1007/s10676-006-9133-z. S2CID 17355392.

[ShirkyAuthority-30] クレイ・シャーキー。「アルゴリズム的権威という概念に関する思索的な投稿クレイ・シャーキー」。www.shirky.com。2012年3月15日時点のオリジナルよりアーカイブ。2017年11月20日閲覧。

[Ziewitz1-31] Ziewitz, Malte (2016年1月1日). 「アルゴリズムの管理：神話、混乱、そして方法」.科学、技術、人間の価値. 41 (1): 3–16. doi : 10.1177/0162243915608948 . ISSN 0162-2439. S2CID 148023125.

[Lash-32] ラッシュ、スコット（2016年6月30日）。「覇権後の権力」。理論、文化、社会。24 （3）：55–78。doi ：10.1177/0263276407075956。S2CID 145639801 。

[Garcia-33] ガルシア、メガン（2016年1月1 日）。 「機械の中の人種差別主義者」。ワールドポリシージャーナル。33 （4）：111–117。doi ： 10.1215 /07402775-3813015。S2CID 151595343。

[34] 「ACM FAccT 2021 登録」。fatconference.org . 2021年11月14日閲覧。

[Ochigame-35] Ochigame, Rodrigo (2019年12月20日). 「『倫理的AI』の発明：大手テック企業が規制を回避するために学術界を操作する方法」The Intercept . 2020年2月11日閲覧。

[SergotEtAl-36] Sergot, MJ; Sadri, F; Kowalski, RA; Kriwaczek, F; Hammond, P; Cory, HT (1986年5月). 「論理プログラムとしての英国国籍法」(PDF) . Communications of the ACM . 29 (5): 370–386. doi :10.1145/5689.5920. S2CID 5665107. 2017年11月18日閲覧。

[brookings.edu-37] 「アルゴリズムによる偏見を止めるには、まずそれを定義する必要がある」。ブルッキングス研究所。 2023年6月27日閲覧。

[38] ^エヴァンス、メラニー、マシューズ、アンナ ・ワイルド（2019年10月24日）。「研究者らが病院のアルゴリズムに人種的偏見を発見」ウォール・ストリート・ジャーナル。ISSN 0099-9660 。2023年6月27日閲覧。

[:3-39] Luo, Queenie; Puett, Michael J.; Smith, Michael D. (2023年5月23日) 「象の視点の鏡：Google、ChatGPT、Wikipedia、YouTubeにおける言語バイアスの調査」arXiv : 2303.16281

[40] Busker, Tony; Choenni, Sunil; Shoae Bargh, Mortaza (2023年11月20日)。「ChatGPTのステレオタイプ：実証的研究」。電子ガバナンスの理論と実践に関する第16回国際会議の議事録。ICEGOV '23。ニューヨーク、ニューヨーク、米国：計算機協会。pp. 24–32。doi ： 10.1145 / 3614321.3614325。ISBN 979-8-4007-0742-1。

[41] Kotek, Hadas; Dockum, Rikker; Sun, David (2023年11月5日)。「大規模言語モデルにおけるジェンダーバイアスとステレオタイプ」。ACM Collective Intelligence Conference Proceedings。CI '23。ニューヨーク、ニューヨーク州、米国：Association for Computing Machinery。pp. 12–24。doi :10.1145/3582269.3615599。ISBN 979-8-4007-0113-9。

[42] チェン、マイラ; ダーマス、エシン; ジュラフスキー、ダン (2023 年 5 月 29 日)、マークされたペルソナ: 自然言語プロンプトを使用して言語モデルにおけるステレオタイプを測定する、arXiv : 2305.18189

[43] Friðriksdóttir、Steinnn Rut;アイナルソン、ハフスタイン (2024)、「ジェンダー化された文法または根深いバイアス? アイスランド言語モデルにおけるジェンダーバイアスの探求」、Lrec-Coling 2024 : 7596–7610

[44] Feng, Shangbin; Park, Chan Young; Liu, Yuhan; Tsvetkov, Yulia (2023年7月). Rogers, Anna; Boyd-Graber, Jordan; Okazaki, Naoaki (編). 「事前トレーニングデータから言語モデル、下流タスクまで: 不公平なNLPモデルにつながる政治的偏見の軌跡を追跡する」.計算言語学会第61回年次会議議事録 (第1巻: 長文論文) . トロント、カナダ: 計算言語学会: 11737–11762. arXiv : 2305.08283 . doi : 10.18653/v1/2023.acl-long.656 .

[Gillespie-45] Gillespie, Tarleton (2014年6月25日). 「アルゴリズム [ドラフト] [#digitalkeywords] – Culture Digitally」. culturedigitally.org . 2017年11月20日閲覧。

[Roth-46] Roth, AE 1524–1528. (1990年12月14日). 「新しい医師：市場組織における自然な実験」. Science . 250 (4987): 1524–1528. Bibcode :1990Sci...250.1524R. doi :10.1126/science.2274783. PMID 2274783. S2CID 23259274. 2017年11月18日閲覧。{{cite journal}}: CS1 maint: numeric names: authors list (link)

[Kuang-47] Kuang, Cliff (2017年11月21日). 「AIに自己説明を教えることはできるか?」.ニューヨークタイムズマガジン. 2017年11月26日閲覧。

[JouvenalPredPol-48] Jouvenal, Justin (2016年11月17日). 「警察は犯罪を予測するためにソフトウェアを使用しています。それは「聖杯」なのか、それとも少数派に対する偏見なのか?」ワシントンポスト。2017年11月25日閲覧。

[Chamma-49] Chamma, Maurice (2016年2月3日). 「Policing the Future」. The Marshall Project . 2017年11月25日閲覧。

[LumIsaac-50] ^ラム、クリスチャン; アイザック、 ウィリアム(2016年10月)。「予測して奉仕するか?」意義。13 (5): 14–19。doi : 10.1111 /j.1740-9713.2016.00960.x。

[SmithPredPol-51] スミス、ジャック（2016年10月9日）。「研究によると、予測型警察活動は人種的偏見を増幅させるだけ」。Mic 。2017年11月25日閲覧。

[LumIsaacFAQ-52] Lum, Kristian; Isaac, William (2016年10月1日)。「予測型警察活動と偏見に関するFAQ」HRDAG 。 2017年11月25日閲覧。

[53] Sun, Wenlong; Nasraoui, Olfa; Shafto, Patrick (2018). 「情報フィルタリングのインタラクティブ機械学習プロセスにおける反復アルゴリズムバイアス」。知識発見、知識工学、知識管理に関する第10回国際合同会議議事録。スペイン、セビリア： SCITEPRESS -科学技術出版。pp. 110–118。doi ：10.5220/0006938301100118。ISBN 9789897583308。

[54] Sinha, Ayan; Gleich, David F.; Ramani, Karthik (2018年8月9日). 「ネットワークのガウスの法則はコミュニティの境界を直接明らかにする」. Scientific Reports . 8 (1): 11909. Bibcode :2018NatSR...811909S. doi :10.1038/s41598-018-30401-0. ISSN 2045-2322. PMC 6085300. PMID 30093660 .

[55] Hao, Karen (2018年2月)。「Googleはついにフィルターバブルの問題があることを認めた」Quartz 。2019年2月26日閲覧。

[56] 「Facebookは『フィルターバブル』と戦うためにこの新機能をテストしています」。Fortune 。 2019年2月26日閲覧。

[Sandvig1-57] Sandvig, Christian; Hamilton, Kevin; Karahalios, Karrie ; Langbort, Cedric (2014年5月22日). 「監査アルゴリズム: インターネットプラットフォームにおける差別を検出するための調査方法」(PDF)。第64回国際コミュニケーション協会年次会議。 2017年11月18日閲覧。

[BrinPage98-58] Brin, Sergey; Page, Lawrence. 「検索エンジンの構造」www7.scu.edu.au。2019年7月2日時点のオリジナルよりアーカイブ。2017年11月18日閲覧。

[Epstein-59] Epstein, Robert; Robertson, Ronald E. (2015年8月18日). 「検索エンジン操作効果 (SEME) と選挙結果へのその影響の可能性」. Proceedings of the National Academy of Sciences . 112 (33): E4512–E4521. Bibcode :2015PNAS..112E4512E. doi : 10.1073/pnas.1419828112 . PMC 4547273 . PMID 26243876.

[Bond-etal-60] Bond, Robert M.; Fariss, Christopher J.; Jones, Jason J.; Kramer, Adam DI; Marlow, Cameron; Settle, Jaime E.; Fowler, James H. (2012 年 9 月 13 日)。「社会的影響と政治的動員に関する 6100 万人の実験」。Nature。489 ( 7415 ) : 295–8。Bibcode : 2012Natur.489..295B。doi : 10.1038/ nature114 21。ISSN 0028-0836。PMC 3834737。PMID 22972300。

[Zittrain-61] Zittrain, Jonathan (2014). 「Engineering an Election」（PDF） . Harvard Law Review Forum . 127 :335–341. 2021年3月4日時点のオリジナル（PDF）よりアーカイブ。2017年11月19日閲覧。

[Day-62] デイ、マット（2016年8月31日）。「LinkedInの検索エンジンは性別による偏見を反映している可能性がある」シアトルタイムズ。 2017年11月25日閲覧。

[CrawfordSchultz-63] クロフォード、ケイト、シュルツ、ジェイソン（2014年）。「ビッグデータと適正手続き：予測的プライバシー侵害を是正するための枠組みに向けて」ボストンカレッジローレビュー。55 （1）：93–128 。 2017年11月18日閲覧。

[Duhigg-64] デュヒッグ、チャールズ（2012年2月16日）。「企業はいかにしてあなたの秘密を知るのか」ニューヨークタイムズマガジン。 2017年11月18日閲覧。

[Noble-65] ノーブル、サフィヤ（ 2012年）。「ミスド・コネクション：検索エンジンが女性について語ること」（PDF）。ビッチ。12 （4）：37–41。

[Guynn2-66] Guynn, Jessica (2017年3月16日). 「Google、検索結果で不快なコンテンツにフラグを立て始める」USA TODAY . USA Today . 2017年11月19日閲覧。

[SimoniteMIT-67] Simonite, Tom. 「研究はGoogleの広告ターゲティングシステムが差別的である可能性を示唆」。MITテクノロジーレビュー。マサチューセッツ工科大学。 2017年11月17日閲覧。

[68] Prates, Marcelo OR; Avelar, Pedro HC; Lamb, Luis (2018). 「機械翻訳におけるジェンダーバイアスの評価 - Google Translate のケーススタディ」. arXiv : 1809.02208 [cs.CY].

[69] Prates, Marcelo OR; Avelar, Pedro H.; Lamb, Luís C. (2019). 「機械翻訳におけるジェンダーバイアスの評価: Google Translate のケーススタディ」.ニューラルコンピューティングとアプリケーション. 32 (10): 6363–6381. arXiv : 1809.02208 . doi :10.1007/s00521-019-04144-6. S2CID 52179151.

[70] Claburn, Thomas (2018年9月10日). 「Boffins bash Google Translate for sexism」. The Register . 2022年4月28日閲覧。

[71] ダスティン、ジェフリー（2018年10月9日）。「アマゾン、女性に対する偏見を示した秘密のAI採用ツールを廃止」ロイター。

[72] ヴィンセント、ジェームズ（2018年10月10日）。「アマゾン、女性に対して偏見があった社内AI採用ツールを廃止と報道」The Verge。

[73] 「Spotify のレコメンデーションシステムを振り返る – SongData」 2019 年 10 月. 2020 年8 月 7 日閲覧。

[Buolamwini-Gebru-74] Buolamwini, Joy; Gebru, Timnit (2018年1月21日). 「ジェンダーシェード：商業的なジェンダー分類における交差的精度格差」。機械学習研究の議事録。81 (2018): 77–91 。 2020年9月27日閲覧。

[Noble2-75] ノーブル、サフィヤ・ウモジャ（2018年2月20日）。抑圧のアルゴリズム：検索エンジンはいかに人種差別を強化するか。ニューヨーク：NYU出版。ISBN 978-1479837243。

[Nakamura1-76] ナカムラ、リサ（2009）。マグネット、ショシャナ、ゲイツ、ケリー（編）。監視の新しいメディア。ロンドン：ラウトレッジ。pp. 149–162。ISBN 978-0-415-56812-8。

[77] ^ Marco Marabelli、Sue Newell 、 Valerie Handunge (2021)。「アルゴリズムによる意思決定システムのライフサイクル：組織の選択と倫理的課題」。戦略情報システムジャーナル。30 (3): 1–15。doi : 10.1016 /j.jsis.2021.101683。

[78] ^アレクサンダー、 ルドルフ、ジャクリーン・ギャメラ（1997年9月）。「麻薬所持者に対するアフリカ系アメリカ人と白人の差別的処罰：正当な政策か、それとも過去の継続か？」。Journal of Black Studies。28（1）：97–111。doi ： 10.1177 /002193479702800106。ISSN 0021-9347。S2CID 152043501 。

[79] Petersilia, Joan (1985年1月). 「刑事司法制度における人種的格差：概要」. Crime & Delinquency . 31 (1): 15–34. doi :10.1177/0011128785031001002. ISSN 0011-1287. S2CID 146588630.

[Guynn-80] Guynn, Jessica (2015年7月1日). 「Google Photos が黒人を「ゴリラ」と分類」. USA TODAY . USA Today . 2017年11月18日閲覧。

[Rose-81] ローズ、アダム（2010年1月22日）。「顔検出カメラは人種差別的か？」タイム誌。 2017年11月18日閲覧。

[82] 「Alexaはあなたのアクセントを理解しません」。ワシントンポスト。

[Sweeney-83] Sweeney, Latanya (2013年1月28日). 「オンライン広告配信における差別」. arXiv : 1301.6822 [cs.IR].

[84] Braun, Lundy (2015). 「人種、民族、肺機能：簡単な歴史」. Canadian Journal of Respiratory Therapy . 51 (4): 99–101. ISSN 1205-9838. PMC 4631137. PMID 26566381 .

[85] Robinson, Whitney R; Renson, Audrey; Naimi, Ashley I (2020年4月1日). 「構造的人種差別について学ぶことで機械学習が向上する」. Biostatistics . 21 (2): 339–344. doi : 10.1093/biostatistics/kxz040 . ISSN 1465-4644. PMC 7868043. PMID 31742353 .

[86] ジョンソン、キャロリンY.（2019年10月24日）。「医療アルゴリズムにおける人種的偏見は、より重症の黒人患者よりも白人患者を優遇する」ワシントンポスト。 2019年10月28日閲覧。

[87] ^バートレット、ロバート、モース、アデア、 スタントン、リチャード、ウォレス、ナンシー（2019年6月）。「フィンテック時代の消費者融資差別」。NBERワーキングペーパーNo.25943。ワーキングペーパーシリーズ。doi ： 10.3386/w25943。S2CID 242410791。

[88] Jeff Larson、Julia Angwin（2016年5月23日）。「COMPAS再犯アルゴリズムの分析方法」。ProPublica 。 2019年4月29日時点のオリジナルよりアーカイブ。 2020年6月19日閲覧。

[89] 「論評：悪いニュース。人工知能は偏っている」CNA 2019年1月12日。2019年1月12日時点のオリジナルよりアーカイブ。2020年6月19日閲覧。

[ProPublica-90] Angwin, Julia; Larson, Jeff; Mattu, Surya; Kirchner, Lauren (2016年5月23日). 「Machine Bias — ProPublica」. ProPublica . 2017年11月18日閲覧。

[Harcourt-91] ^ハーコート、バーナード（2010 年9月16日）。「人種の代理としてのリスク」連邦量刑報告者。27 （4）：237。doi ：10.1525/ fsr.2015.27.4.237。S2CID 53611813。SSRN 1677654 。

[92] Skeem J、Lowenkamp C、「リスク、人種、再犯：予測バイアスと不均衡な影響」（2016 年 6 月 14 日）。SSRN 2687339

[93] ^ Thomas, C.; Nunez , A. (2022). 「司法裁量の自動化：公判前審判におけるアルゴリズムによるリスク評価が人種に基づく平等保護権をどのように侵害するか」。法律と不平等。40 (2): 371–407。doi : 10.24926/25730037.649。

[AngwinGrassegger-94] Angwin, Julia; Grassegger, Hannes (2017年6月28日). 「Facebookの秘密の検閲ルールは白人男性をヘイトスピーチから保護するが、黒人の子供たちは保護しない - ProPublica」。ProPublica 。 2017年11月20日閲覧。

[AngwinVarnerTobin-95] ジュリア・アンウィン、マドレーヌ・ヴァーナー、アリアナ・トービン（2017年9月14日）。「Facebook により広告主は「ユダヤ人嫌い」にリーチできるようになった — ProPublica」。ProPublica 。2017年11月20日閲覧。

[96] Sap, Maarten; Card, Dallas; Gabriel, Saadia; Choi, Yejin; Smith, Noah A. (2019年7月28日～8月2日). 「ヘイトスピーチ検出における人種的偏見のリスク」(PDF)。第57回計算言語学会年次会議議事録。イタリア、フィレンツェ：計算言語学会。pp. 1668–1678。 2019年8月14日時点のオリジナルよりアーカイブ(PDF) 。

[97] Ghaffary, Shirin (2019年8月15日). 「オンラインでヘイトスピーチを検出するアルゴリズムは黒人に対して偏見を持っている」Vox . 2020年2月19日閲覧。

[Furl2002-98] Furl, N (2002年12月). 「顔認識アルゴリズムと異人種間効果: 発達的接触仮説の計算メカニズム」.認知科学. 26 (6): 797–815. doi : 10.1207/s15516709cog2606_4 .

[Raji-Gebru-Mitchell-2020-99] Raji, Inioluwa Deborah; Gebru, Timnit; Mitchell, Margaret; Buolamwini, Joy; Lee, Joonseok; Denton, Emily (2020年2月7日)。「Saving Face」。AAAI /ACM AI、倫理、社会に関する会議議事録。計算機協会。pp. 145–151。arXiv : 2001.00964。doi : 10.1145 / 3375627.3375820。ISBN 9781450371100. S2CID 209862419。

[The_New_York_Times_2018_l903-100] 「白人男性の場合、顔認識は正確です」。ニューヨークタイムズ。2018年2月9日。 2023年8月24日閲覧。

[101] Buolamwini, Joy; Gebru, Timnit (2018). 「ジェンダーシェード：商業的な性別分類における交差的精度格差」（PDF）。機械学習研究の議事録。81 ： 1 – MLR Press経由。

[Ananny-102] アナニー、マイク（2011年4月14日）。「ゲイ男性向けアプリと性犯罪者の奇妙なつながり」アトランティック誌。 2017年11月18日閲覧。

[Kafka2-103] カフカ、ピーター。「今週末、アマゾンは本当に失敗したのか？ツイッターでは「はい」と答え、オンライン小売業者は「不具合」と答えた。」AllThingsD 。 2017年11月22日閲覧。

[Kafka-104] カフカ、ピーター。「Amazon が『不注意なカタログ作成エラー』について謝罪」。AllThingsD。2017年11月 22 日閲覧。

[105] マツサキス、ルイーズ（2019年2月22日）。「『性差別的な』検索バグはFacebookよりも私たちについて多くを語る」 Wired。ISSN 1059-1028 。2019年2月26日閲覧。

[106] 「一部のAIは存在すべきではない」2019年4月19日。

[107] サミュエル・シガル（2019年4月19日）。「一部のAIは存在すべきではない」。Vox 。 2019年12月12日閲覧。

[108] Wang, Yilun; Kosinski, Michal (2017年2月15日). 「ディープニューラルネットワークは、顔画像から性的指向を検出する点で人間よりも正確です」. OSF . doi :10.17605/OSF.IO/ZN79K.

[109] ^レビン、サム（2017年9月9日）。「LGBT団体、顔を使ってセクシャリティを推測する『危険な』AI を非難」ガーディアン。ISSN 0261-3077 。 2019年12月12日閲覧。

[110] Pal, GC (2011年9月16日). 「障害、インターセクショナリティ、剥奪：排除された課題」.心理学と発展途上社会. 23(2), 159–176. doi :10.1177/097133361102300202. S2CID 147322669 – Sagepub経由.

[111] Brinkman, Aurora H.; Rea-Sandin, Gianna; Lund, Emily M.; Fitzpatrick, Olivia M.; Gusman, Michaela S.; Boness, Cassandra L.; Scholars for Elevating Equity and Diversity (SEED) (2022年10月20日). 「障害に関する言説の転換：包括的かつ交差的な焦点への移行」. American Journal of Orthopsychiatry . 93 (1): 50–62. doi :10.1037/ort0000653. ISSN 1939-0025. PMC 9951269. PMID 36265035 .

[112] Whittaker, Meredith (2019年11月). 「障害、偏見、AI」(PDF) 。 2023年3月27日時点のオリジナル(PDF)よりアーカイブ。 2022年12月2日閲覧。

[113] 「ミッション - 障害は多様性 - 親愛なるエンターテインメント業界の皆様、障害なくして多様性、公平性、包摂性はありません」。障害は多様性です。2022年12月2日閲覧。

[114] 「Microsoft Design」www.microsoft.com . 2022年12月2日閲覧。

[115] Pulrang, Andrew. 「障害者コミュニティの多様性を理解する4つの方法」Forbes . 2022年12月2日閲覧。

[116] ^ウォーターマイヤー、ブライアン、スワーツ、レスリー（2022年10月12日）。「障害と 怠惰なインターセクショナリティの問題」。障害と社会。38 （2）：362–366。doi ： 10.1080 / 09687599.2022.2130177。ISSN 0968-7599。S2CID 252959399 。

[117] 「障害データレポート2021」。障害データイニシアチブ。 2022年12月2日閲覧。

[118] White, Jason JG (2020 年 3 月 2 日)。「障がい者に対する AI の公平性: 問題分析と学際的コラボレーション」。ACM SIGACCESS Accessibility and Computing (125): 3:1。doi : 10.1145 /3386296.3386299。ISSN 1558-2337。S2CID 211723415 。

[119] 「AI言語モデルは障害者に対して偏見を示している、と研究で判明 | ペンシルベニア州立大学」www.psu.edu 。 2022年12月2日閲覧。

[120] ギブンズ、アレクサンドラ・リーブ（2020年2月6日）。「アルゴリズムによる偏見が障害者に与える影響」スレート誌。 2022年12月2日閲覧。

[121] Morris, Meredith Ringel (2020年5月22日). 「AIとアクセシビリティ」. Communications of the ACM . 63 (6): 35–37. arXiv : 1908.08939 . doi :10.1145/3356727. ISSN 0001-0782. S2CID 201645229.

[122] ノーブル、サフィヤ・ウモジャ（2018年2月20日）。抑圧のアルゴリズム：検索エンジンはいかに人種差別を強化するか。ニューヨーク。ISBN 9781479837243. OCLC 987591529.{{cite book}}: CS1 maint: location missing publisher (link)

[123] Castelnovo, Alessandro; Inverardi, Nicole; Nanino, Gabriele; Penco, Ilaria; Regoli, Daniele (2023). 「これで十分か？「公平な」アルゴリズムを実現するための要件に対する現在の限界のマップ」. arXiv : 2311.12435 [cs.AI].

[124] Ruggieri, Salvatore; Alvarez, Jose M; Pugnana, Andrea; Turini, Franco (2023). 「Fair-AIは信頼できるか?」. AAAI人工知能会議議事録. 37 (13): 5421–15430. doi : 10.1609/aaai.v37i13.26798 . hdl : 11384/136444 . S2CID 259678387.

[125] サミュエル・シガル（2022年4月19日）。「AIを公平かつ偏りのないものにするのはなぜこんなに難しいのか」Vox 。 2024年7月23日閲覧。

[126] フィオレット、フェルディナンド（2024年3月19日）。「AIに公平性を組み込むことは重要だが、正しく行うのは難しい」。The Conversation 。 2024年7月23日閲覧。

[Friedler-127] フリードラー、ソレル A.;シャイデッガー、カルロス。ヴェンカタスブラマニアン、スレシュ (2016)。「公平性の（不可能）可能性について」。arXiv : 1609.07236 [cs.CY]。

[Hu-128] Hu, Lily; Chen, Yiling (2018). 「公正な分類の福祉と分配への影響」arXiv : 1807.01134 [cs.LG].

[Dwork-129] ドワーク、シンシア;ハルト、モーリッツ。ピタッシ、トニアン。ラインゴールド、オメル;ゼメル、リッチ（2011年11月28日）。「意識による公平性」。arXiv : 1104.3913 [cs.CC]。

[Sandvig2-130] Sandvig, Christian; Hamilton, Kevin; Karahalios, Karrie; Langbort, Cedric (2014). Gangadharan, Seeta Pena; Eubanks, Virginia; Barocas, Solon (eds.). 「アルゴリズム監査」(PDF) .データと差別: エッセイ集.

[LaFrance-131] LaFrance, Adrienne (2015年9月18日). 「Webを動かすアルゴリズムはますます謎に満ちている」.アトランティック誌. 2017年11月19日閲覧。

[132] ブルーノ・ラトゥール (1999)。『パンドラの希望：科学研究の現実に関するエッセイ』マサチューセッツ州ケンブリッジ：ハーバード大学出版局。

[KubitschkoKaun-133] クビチコ、セバスチャン、カウン、アン（2016）。メディアとコミュニケーション研究における革新的な方法。シュプリンガー。ISBN 978-3-319-40700-5. 2017年11月19日閲覧。

[McGee-134] McGee, Matt (2013 年 8 月 16 日)。「EdgeRank は終了: Facebook のニュースフィードアルゴリズムの重み付け係数は 10 万個近くに」。Marketing Land。2017年11 月 18 日閲覧。

[Granka-135] Granka, Laura A. (2010年9月27日). 「検索の政治学：10年間の回顧」(PDF) .情報社会. 26 (5): 364–374. doi :10.1080/01972243.2010.511560. S2CID 16306443. 2017年11月18日閲覧。

[136] Szymielewicz, Katarzyna (2020年1月20日). 「Black-Boxed Politics」. Medium . 2020年2月11日閲覧。

[137] Veale, Michael; Binns, Reuben (2017). 「現実世界におけるより公平な機械学習: 機密データを収集せずに差別を軽減する」. Big Data & Society . 4 (2): 205395171774353. doi : 10.1177/2053951717743530 . SSRN 3060763.

[138] Elliott, Marc N.; Morrison, Peter A.; Fremont, Allen; McCaffrey, Daniel F.; Pantoja, Philip; Lurie, Nicole (2009 年 6 月)。「国勢調査局の姓名リストを使用して人種/民族および関連する格差の推定値を向上させる」。保健サービスおよび結果研究方法論。9 (2): 69–83。doi : 10.1007 / s10742-009-0047-1。ISSN 1387-3741。S2CID 43293144 。

[139] チェン・ジアハオ、カルラス・ネイサン、マオ・シャオジエ、スヴァチャ・ジェフリー、ウデル・マドレーヌ（2019）。「無意識下の公平性」。公平性、説明責任、透明性に関する会議議事録。アトランタ、ジョージア州、米国：ACM プレス。pp. 339–348。arXiv ：1811.11154。doi ： 10.1145 /3287560.3287594。ISBN 9781450361255. S2CID 58006233。

[140] Kilbertus, Niki; Gascon, Adria; Kusner, Matt; Veale, Michael; Gummadi, Krishna; Weller, Adrian (2018). 「Blind Justice: Fairness with Encrypted Sensitive Attributes」.国際機械学習会議: 2630–2639. arXiv : 1806.03281 . Bibcode :2018arXiv180603281K.

[141] Binns, Reuben; Veale, Michael; Kleek, Max Van; Shadbolt, Nigel (2017 年 9 月 13 日)。「トレーナーはボットと同じ? アルゴリズムによるコンテンツモデレーションにおけるバイアスの継承」。社会情報学。コンピュータサイエンスの講義ノート。第 10540 巻。pp. 405–415。arXiv : 1707.01477。doi : 10.1007/978-3-319-67256-4_32。ISBN 978-3-319-67255-7.S2CID 2814848 。

[Claburn-142] Claburn, Thomas (2016年7月18日). 「EUデータ保護法により、未知のアルゴリズムが終焉する可能性 – InformationWeek」. InformationWeek . 2017年11月25日閲覧。

[:0-143] ジョビン、アンナ;イエンカ、マルチェッロ。ヴァイエナ、エフィー（2019年9月2日）。「AI倫理ガイドラインの世界的な状況」。ネイチャー・マシン・インテリジェンス。1 (9): 389–399。arXiv : 1906.11668。土井：10.1038/s42256-019-0088-2。S2CID 201827642。

[144] ttps://research.google.com/bigpicture/attacking-discrimination-in-ml/ よりスマートな機械学習で差別を撲滅

[145] Hardt, Moritz; Price, Eric; Srebro, Nathan (2016). 「教師あり学習における機会の平等」. arXiv : 1610.02413 [cs.LG].

[146] ttps://venturebeat.com/2018/05/25/microsoft-is-developing-a-tool-to-help-engineers-catch-bias-in-algorithms/ マイクロソフトは、エンジニアがアルゴリズムのバイアスを検知するのを支援するツールを開発している。

[147] 「Facebookは人工知能の偏りを検出するツールを持っていると述べている」Quartz 2018年5月3日。2023年3月5日時点のオリジナルよりアーカイブ。

[148] オープンソース Pymetrics 監査 AI

[149] ttps://venturebeat-com.cdn.ampproject.org/c/s/venturebeat.com/2018/05/31/pymetrics-open-sources-audit-ai-an-algorithm-bias-detection-tool/amp/ Pymetrics がアルゴリズムバイアス検出ツール Audit AI をオープンソース化

[150] ttps://github.com/dssg/aequitas オープンソース Aequitas: バイアスと公平性監査ツールキット

[151] ttps://dsapp.uchicago.edu/aequitas/ オープンソース監査 AI、シカゴ大学の Aequitas

[152] ttps://www.ibm.com/blogs/research/2018/02/mitigating-bias-ai-models/ AI モデルにおけるバイアスの軽減

[153] S. Sen、D. Dasgupta、KD Gupta、「アルゴリズムのバイアスに関する実証的研究」、2020 IEEE 44th Annual Computers, Software, and Applications Conference (COMPSAC)、マドリード、スペイン、2020年、pp. 1189-1194、doi :10.1109/COMPSAC48688.2020.00-95。

[154] Zou, James; Schiebinger, Londa (2018年7月). 「AIは性差別や人種差別を起こす可能性がある — 今こそ公平にすべき時だ」. Nature . 559 (7714): 324–326. Bibcode :2018Natur.559..324Z. doi : 10.1038/d41586-018-05707-8 . PMID 30018439.

[155] Jia, Sen; Welfare, Thomas; Cristianini, Nello (2018).正しい理由のための正しいこと: 不可知論的ネットワークのトレーニング。インテリジェントデータ分析に関する国際シンポジウム。Springer。

[Sutton-156] サットン、アダム; ウェルフェア、トーマス; クリスティアーニニ、ネロ (2018)。野生データからのバイアス埋め込み: 測定、理解、および除去。インテリジェントデータ分析に関する国際シンポジウム。シュプリンガー。

[157] Koene, Ansgar (2017年6月). 「アルゴリズムのバイアス: 増大する懸念への対応 [Leading Edge]」(PDF) . IEEE Technology and Society Magazine . 36 (2): 31–32. doi :10.1109/mts.2017.2697080. ISSN 0278-0097. 2018年7月19日時点のオリジナル(PDF)からアーカイブ。 2019年8月1日閲覧。

[158] 「P7003 - アルゴリズムのバイアスに関する考慮事項」。IEEE。2018年12月3日時点のオリジナルよりアーカイブ。 2018年12月3日閲覧。

[159] インターネット協会 (2017年4月18日)。「人工知能と機械学習：政策文書」。インターネット協会。 2020年2月11日閲覧。

[:2-160] 「ホワイトペーパー：機械学習における差別的結果を防ぐ方法」。世界経済フォーラム。2018年3月12日。 2020年2月11日閲覧。

[161] 「説明可能な人工知能」www.darpa.mil . 2020年2月11日閲覧。

[162] プライスウォーターハウスクーパース。「責任あるAIフレームワーク」。PwC 。 2020年2月11日閲覧。

[163] ヒールド、デイビッド（2006年9月7日）。透明性：より良いガバナンスへの鍵？英国アカデミー。doi ： 10.5871/bacad/9780197263839.003.0002。ISBN 978-0-19-726383-9。

[164] Kemper, Jakko; Kolkman, Daan (2019年12月6日). 「誰に対して透明性があるか？批判的な聴衆なしにアルゴリズムの説明責任はない」.情報、コミュニケーション、社会. 22 (14): 2081–2096. doi : 10.1080/1369118X.2018.1477967 . hdl : 11245.1/75cb1256-5fe5-4724-9a63-03ef66032d8e . ISSN 1369-118X.

[165] 「トロント宣言：機械学習システムにおける平等と差別禁止の権利の保護」ヒューマン・ライツ・ウォッチ。2018年7月3日。 2020年2月11日閲覧。

[166] トロント宣言：機械学習システムにおける平等と差別禁止の権利の保護（PDF）。ヒューマン・ライツ・ウォッチ。2018年、15ページ。

[167] フロリディ州、ルチアーノ;カウルズ、ジョシュ。ベルトラメッティ、モニカ。チャティラ、ラジャ;チェゼランド、パトリス。バージニア州ディグナム。ルエッゲ、クリストフ。ロバート・マデリン。パガロ、ウーゴ。ロッシ、フランチェスカ。ブルクハルト、シェーファー（2018年12月1日）。「AI4People — 優れた AI 社会のための倫理的枠組み: 機会、リスク、原則、および推奨事項」。心と機械。28 (4): 703.土井:10.1007/s11023-018-9482-5。ISSN 1572-8641。PMC 6404626。PMID 30930541。

[168] ^クロフォード、 ケイト（2016年6月25日）。「オピニオン|人工知能の白人男性問題」ニューヨークタイムズ。ISSN 0362-4331 。2020年2月11日閲覧。

[169] 「AIは未来だ――でも女性はどこにいるのか？」Wired . ISSN 1059-1028 . 2020年2月11日閲覧。

[170] スノー、ジャッキー。「私たちは多様性の危機に瀕している」：Black in AIの共同創設者が私たちの生活に悪影響を及ぼしているアルゴリズムについて語る。MITテクノロジーレビュー。 2020年2月11日閲覧。

[171] ハオ、カレン（2021年6月14日）。「ビッグテックの支配からAIを取り戻す戦いの内側」MITテクノロジーレビュー。 2021年6月21日閲覧。

[172] Ciston, Sarah (2019年12月29日). 「インターセクショナルAIは必須」. Journal of Science and Technology of the Arts . 11 (2): 3–8. doi : 10.7559/citarj.v11i2.665 . ISSN 2183-0088.

[DataFeminism-173] ディニャツィオ、カトリーヌ;クライン、ローレン F. (2020)。データフェミニズム。 MITプレス。ISBN 978-0262044004。

[174] ^ケイブ、スティーブン、ディハル、カンタ（2020年 8月6日）。「AIの白さ」。哲学とテクノロジー。33 （4）：685–703。doi ：10.1007 / s13347-020-00415-6。ISSN 2210-5441。

[175] ボンディ、エリザベス; 徐、リリー; アコスタ・ナバス、ダイアナ; キリアン、ジャクソン A. (2021)。「コミュニティの構想: 社会貢献のための AI に向けた参加型アプローチ」。2021 AAAI/ACM AI、倫理、社会に関する会議の議事録。pp. 425–436。arXiv : 2105.01774。doi : 10.1145 / 3461702.3462612。ISBN 9781450384735. S2CID 233740121 . 2023年4月6日閲覧– ezpa.library.ualberta.ca経由。

[176] スタンフォード大学（2019年3月18日）。「スタンフォード大学が人間中心の人工知能研究所を開設」スタンフォードニュース。 2023年4月6日閲覧。

[177] ボンディ、エリザベス; 徐、リリー; アコスタ・ナバス、ダイアナ; キリアン、ジャクソン A. (2021 年 7 月 21 日)。「コミュニティの構想: 社会貢献のための AI に向けた参加型アプローチ」。2021年AAAI /ACM AI、倫理、社会に関する会議の議事録。pp . 425–436。arXiv : 2105.01774。doi : 10.1145 /3461702.3462612。ISBN 9781450384735. S2CID 233740121。

[178] Bygrave, Lee A (2001). 「自動プロファイリング」.コンピュータ法とセキュリティレビュー. 17 (1): 17–24. doi :10.1016/s0267-3649(01)00104-2.

[:1-179] Veale, Michael; Edwards, Lilian (2018). 「自動意思決定およびプロファイリングに関する第29条作業部会草案ガイダンスにおける明確性、驚き、およびさらなる疑問」( PDF)。コンピュータ法とセキュリティレビュー。34 (2): 398–404。doi :10.1016/ j.clsr.2017.12.002。S2CID 4797884。SSRN 3071679 。

[180] Wachter, Sandra; Mittelstadt, Brent; Floridi, Luciano (2017年5月1日). 「なぜ自動意思決定の説明を受ける権利が一般データ保護規則に存在しないのか」.国際データプライバシー法. 7 (2): 76–99. doi : 10.1093/idpl/ipx005 . ISSN 2044-3994.

[Edwards-181] エドワーズ、リリアン、ヴィール、マイケル（2017年5月23日）。「アルゴリズムの奴隷？説明を受ける権利は、おそらくあなたが求めている救済策ではない理由」デューク法学・技術評論。16 ：18-84。SSRN 2972 855。

[Singer-182] シンガー、ナターシャ（2013年2月2日）。「消費者データ保護法、隔絶した世界」ニューヨークタイムズ。 2017年11月26日閲覧。

[ObamaAdmin-183] オバマ、バラク（2016年10月12日）。「人工知能の将来に関する政権の報告書」。whitehouse.gov 。国立公文書館。2017年11月26日閲覧。

[NSTC-184] および技術評議会、国立科学 (2016)。国家人工知能研究開発戦略計画(PDF)。米国政府。2017年11月26日閲覧。

[Kirchner-185] キルヒナー、ローレン（2017年12月18日）。「ニューヨーク市、アルゴリズムの説明責任の確立に動く — ProPublica」。ProPublica 。2018年7月28日閲覧。

[NYC-186] 「ニューヨーク市議会 - ファイル番号: Int 1696-2017」。legistar.council.nyc.gov。ニューヨーク市議会。 2018年7月28日閲覧。

[Powles-187] ジュリア・パウルズ「ニューヨーク市、アルゴリズムに説明責任を持たせようとする大胆かつ欠陥のある試み」ニューヨーカー誌。 2018年7月28日閲覧。

[188] 「インド、EUのGDPRに似た包括的なデータプライバシー法案を検討中」Insurance Journal 2018年7月31日。 2019年2月26日閲覧。

[189] 「2018年個人データ保護法案」（PDF）。インド政府電子情報技術省。2018年。 2022年4月29日閲覧。

定義

方法

歴史

初期の批評

現代の批評と反応

種類

既存の

機械学習のバイアス

言語バイアス

ジェンダーバイアス

ステレオタイプ化

政治的偏見

テクニカル

出現

相関関係

予期せぬ用途

フィードバックループ

インパクト

商業的影響

投票行動

性差別

人種差別と民族差別

法執行と法的手続き

オンラインでのヘイトスピーチ

監視

LGBTQコミュニティに対する差別

障害者差別

Google検索

研究の障害

公平性の定義

複雑

透明性の欠如

センシティブなカテゴリに関するデータの不足

ソリューション

テクニカル

透明性と監視

救済を受ける権利

多様性と包摂

学際性とコラボレーション

規制

ヨーロッパ

アメリカ合衆国

インド

参照

参考文献

さらに読む

関連するトピック

推奨エンジン

人工知能

汎用人工知能

インテリジェントエージェント