道徳的アウトソーシング

モラルアウトソーシングとは、倫理的意思決定の責任を外部の主体、多くの場合はアルゴリズムに委ねることを指します。この用語は、コンピュータサイエンスとアルゴリズムの公平性に関する議論でよく使用されますが、^[1]外部の主体に訴えて自分の行動に対する責任を免れるあらゆる状況に当てはまります。この文脈では、モラルアウトソーシングは、テクノロジーが引き起こす可能性のあるあらゆる危害について、その作成者やユーザーではなく、テクノロジーを非難する社会の傾向を特に指します。^[2]

「モラル・アウトソーシング」という用語は、人工知能と社会問題の重なりに関心を持つデータ科学者のルマン・チョウドリー博士によって初めて造られました。 ^[1]チョウドリー博士はこの用語を、人工知能の台頭に伴う いわゆる「第四次産業革命」の迫り来る恐怖を表現するために使用しました。

道徳的アウトソーシングは、不快な製品を作ることへの自分の役割から逃げるために、技術者によってしばしば利用されます。チョウドリーはTEDトークの中で、クリエイターが単に仕事をしていただけだと言って自分の仕事を言い訳する例を挙げています。^[1]これは道徳的アウトソーシングの例であり、創造の結果に対する責任を負わない例です。

AIに関して言えば、道徳的アウトソーシングにより、作成者は機械が人間であるときとコンピューターであるときを決定できるようになり、道徳的苦境の非難と責任が技術者からテクノロジーに移される。AIと偏見とその影響に関する議論には、変化をもたらすための説明責任が必要である。作成者が道徳的アウトソーシングを利用して問題に対する責任を回避する場合、これらの偏ったシステムに対処することは困難である。^[2]

道徳的アウトソーシングの一例としては、企業がその技術を導入してそもそも雇用を危険にさらしているとしてではなく、機械が「人間の仕事を奪っている」として機械に向けられる怒りが挙げられます。^[1]

「モラルアウトソーシング」という用語は、アウトソーシング、つまり外部の事業に別の組織のために特定の作業を完了させるという概念を指します。モラルアウトソーシングの場合、道徳的ジレンマを解決したり、倫理規範に従って選択を行う作業は、別の組織によって行われることになっています。^[3]

医療分野では、どの患者を治療するか、どのように治療するかという意思決定プロセスにAIがますます関与するようになっています。^[4]患者にとって何が最善かについて十分な情報に基づいた決定を下す医師の責任は、アルゴリズムにアウトソーシングされています。共感も医療行為の重要な部分であると指摘されていますが、明らかに人工知能にはその側面が欠けています。^[5]この形の道徳的アウトソーシングは、医療界における大きな懸念事項です。

道徳的アウトソーシングが頻繁に取り上げられるもう 1 つの技術分野は、自動運転車です。^[6] カリフォルニア工科大学教授の Keith Abney 氏は、次のようなシナリオを提案しました。「[問題を起こす] 10 代の若者が自動運転車を見て、真っ直ぐに突っ込んでいくとします。彼らは、自動運転車が道路から逸れて崖から落ちることを知っていますが、そうすべきでしょうか?」^[6]自動運転車 (および車内の乗客) を犠牲にするか、それとも自動運転車に向かってくる車両を犠牲にするかの決定は、車の挙動を定義するアルゴリズムに書き込まれます。道徳的アウトソーシングの場合、事故によって生じた損害の責任は、車両が何をするかを「決定」するために使用するプロトコルを書いた作成者ではなく、自動運転車自体に帰せられる可能性があります。^[1]

モラルアウトソーシングは、予測型警察アルゴリズムの結果を、作成者や警察ではなくテクノロジーに委ねるためにも使用されます。予測型警察は、低所得者や少数派コミュニティへの過剰な警察活動につながるため、多くの倫理的懸念があります。 ^[7]モラルアウトソーシングの文脈では、少数派コミュニティに不釣り合いな警察部隊を派遣するという正のフィードバックループは、予測型警察テクノロジーのユーザーや作成者ではなく、アルゴリズムとこのシステムに入力されるデータに起因しています。

道徳的アウトソーシングは、差別や危害を正当化するために宗教に訴える際にもよく見られる。社会学者フィル・ザッカーマンは著書『道徳的であることの意味』の中で、道徳は神から来るという一般的な宗教観に反論している。宗教は、宗教的信念と個人の立場との間に具体的な関係がないにもかかわらず、道徳的立場の基盤としてしばしば引用される。^[8]このような場合、宗教的な個人は、自分の個人的な信念や意見が宗教的アイデンティティの結果であると主張して「アウトソーシング」する。これは、宗教が政治的信念の要因として、^[9]医学的信念として、^[10]極端な場合には暴力の言い訳として引用されるときに見られる。^[11]

道徳的アウトソーシングは、商品の製造や環境責任の回避という点で、ビジネスの世界でも見られる。米国企業の中には、米国に存在する汚染法を回避するために、環境規制がより緩い海外に生産工程を移すところもある。ハーバード・ビジネス・レビューの調査によると、「環境規制が厳しい国では、企業の国内排出量は平均で29％低い。一方、規制が厳しくなると、海外での排出量は43％増加する」という。^[12]汚染率の上昇は、厳しい汚染政策を回避するために意図的にこれらの地域に進出した企業自身のせいではなく、これらの国の規制が緩いせいだとされている。

チョウドリー氏は、倫理とAIの交差点に関する議論において著名な発言力を持っています。彼女のアイデアは、The Atlantic、^[13]、 Forbes、^[3]、 MIT Technology Review、^[14]、Harvard Business Reviewに掲載されています。^[15]