説明を受ける権利

アルゴリズム、特に人工知能とそのサブフィールドである機械学習の規制において、説明を受ける権利（または説明を受ける権利）とは、アルゴリズムの出力について説明を受ける権利のことである。このような権利は主に、特に法律的または財政的に個人に重大な影響を与える決定について説明を受ける個人の権利を指す。たとえば、ローンを申請して却下された人は、「信用調査会社Xの報告によると、あなたは昨年破産したとのことです。これが債務不履行になる可能性が高いと判断する主な要因であるため、申請したローンは貸し出しません」というような説明を求めることができる。

こうした法的権利の一部はすでに存在しているが、一般的な「説明の権利」の範囲については議論が続いている。情報社会の機関がデジタル技術、人工知能、機械学習を使用する必要があるため、「説明の社会的権利」は情報社会にとって重要な基盤であるという議論がなされてきた。^[1]言い換えれば、説明可能性を使用する関連する自動意思決定システムは、より信頼性が高く、透明性が増すということである。法的に、また専門的基準を通じて確立できるこの権利がなければ、一般大衆は自動システムの決定に異議を唱える手段をほとんど持たないことになる。

平等信用機会法（連邦規則集のB規則）第12編第10章第1002部第1002.9条に基づき、債権者は信用を拒否された申請者に、その詳細を具体的な理由とともに通知することが義務付けられている。第1002.9条(b)(2)に詳述されているとおり：^[2]

(2) 具体的な理由の陳述。本条の(a)(2)(i)項で要求される不利な措置の理由の陳述は、具体的で、不利な措置の主な理由を示さなければならない。不利な措置が債権者の内部基準または方針に基づくものである、または申請者、共同申請者、または同様の当事者が債権者の信用スコアリングシステムで適格スコアを達成できなかったという陳述は不十分である。

このセクションの公式解釈では、どのような種類の声明が受け入れられるかが詳細に説明されています。債権者は、数字で構成された理由のリスト（規則の解釈により、通常は最大4つ）を提供することでこの規則に従います。理由コード（識別子）とそれに関連する説明で、信用スコアに影響を与える主な要因を特定します。^[3]例は次のようになります。^[4]

32: 銀行カードまたはリボルビング口座の残高が信用限度額に比べて高すぎる

欧州連合一般データ保護規則（2016 年制定、2018 年発効）は、1995 年データ保護指令の自動意思決定の権利を拡張し、法的に争われている説明を求める権利を規定しています。これは、前文 71 で次のように規定されています。「[データ主体は] 下した決定について説明を受ける権利を有するべきである」。全文は次のとおりです。

データ主体は、オンラインクレジット申請の自動拒否や、人間の介入なしの電子リクルート活動など、自動処理のみに基づいて本人に関する法的効果を生じさせたり、同様に本人に重大な影響を与えたりする、本人に関する個人的な側面を評価する決定（措置を含む場合がある）の対象にならない権利を持つ必要があります。

...

いずれの場合も、このような処理は適切な保護措置の対象となるべきであり、これにはデータ主体に対する具体的な情報、人間による介入を受ける権利、自身の見解を表明する権利、評価後に下された決定についての説明を受ける権利、および決定に異議を申し立てる権利が含まれるべきである。

しかし、規制自体が「説明を受ける権利」をどの程度規定しているかについては、激しい議論が交わされている。^{[5] [6] [7]}批判には主に2つの流れがある。第22条に規定されている権利には重大な法的問題がある。序文は拘束力がなく、説明を受ける権利は、立法過程において削除されたため、拘束力のある条文には記載されていない。^{[6]さらに、対象となる}自動化された決定の種類には重大な制限があり、自動化された処理に「完全」に基づいていること、および法的または同様の重大な効果を及ぼすことが求められることから、この権利が適用される自動化されたシステムおよび決定の範囲が大幅に制限される。^[6]特に、メディアで取り上げられたアルゴリズム論争の多くのケースでは、この権利が適用されない可能性が高い。^[8]

こうした権利の 2 つ目の潜在的な根拠は、第 15 条の「データ主体によるアクセス権」に示されています。これは、1995 年のデータ保護指令の同様の規定を再度述べたもので、データ主体が、第 22 条に規定されているのと同じ、完全に自動化された重要な意思決定における「関連するロジックに関する意味のある情報」にアクセスできるようにしています。しかし、これもまた、この権利を行使できるタイミングに関する問題や、公共の関心事の多くで拘束力を持たない可能性があることを意味する実際上の問題を抱えています。^[6]

EUの他の立法文書には説明権が含まれている。欧州連合の人工知能法は、第86条で、個人の健康、安全、または基本的権利に重大な悪影響を及ぼす特定の高リスクシステムについて「個人の意思決定についての説明を受ける権利」を規定している。^[9]この権利は、「意思決定プロセスにおけるAIシステムの役割と、下された決定の主な要素について、明確かつ有意義な説明」を規定しているが、他の法律がそのような権利を規定していない場合にのみ適用される。第27条のデジタルサービス法と、第5条のプラットフォームからビジネスへの規制^{[10]には、どちらも特定の}推奨システムの主なパラメータを明確にする権利が含まれているが、これらの規定は、そのようなシステムの機能方法と一致していないと批判されている。^[11]データ保護法の延長としてギグエコノミー労働の自動化の規制を規定するプラットフォーム労働指令は、第11条にさらに説明規定を含んでおり、 ^[12] GDPRの場合のように序文ではなく拘束力のある条項で「説明」という特定の言葉を使用している。学者は、これらの規定が実際に十分にカスタマイズされた説明を意味するかどうかについては不確実性が残っており、裁判所が解決する必要があると指摘している。^[13]

フランスでは、2016年のデジタル共和国法（ loi pour une République numérique）が行政法典を改正し、公的機関が個人に関して下した決定の説明に関する新しい規定を導入した。^[14]この法律では、「アルゴリズム処理に基づいて下された決定」がある場合、その処理を定義する規則とその「主要な特徴」は、例外（国家安全保障や防衛など）がない限り、要求に応じて国民に伝えられなければならないとされている。これには以下の内容が含まれるべきである。

1. アルゴリズム処理が意思決定に貢献する程度と方法。
2. 処理されるデータとそのソース。
3. 当該者の状況に適用される治療パラメータ、および適切な場合にはその重み付け。
4. 治療によって実行される操作。

学者たちは、この権利は行政上の決定に限定されているものの、GDPRの権利を超えて、自動化された処理のみに基づく決定ではなく意思決定支援に明示的に適用され、特定の決定を説明するための枠組みも提供すると指摘している。^[14]実際、「説明を受ける権利」が求められている場所の1つである欧州連合におけるGDPRの自動化された意思決定の権利は、1970年代後半のフランス法に起源がある。^[15]

「説明を受ける権利」はせいぜい不必要であり、最悪の場合有害であり、イノベーションを阻害する恐れがあると主張する人もいる。具体的な批判としては、機械の決定よりも人間の決定を優先すること、既存の法律と重複すること、結果よりもプロセスに焦点を当てることなどが挙げられる。^[16]

「アルゴリズムの奴隷？なぜ「説明を受ける権利」はおそらくあなたが求めている救済策ではないのか」という研究の著者であるリリアン・エドワーズとマイケル・ヴィールは、説明を受ける権利はアルゴリズムによる決定によって利害関係者にもたらされる損害に対する解決策ではないと主張している。また、GDPRにおける説明を受ける権利は狭く定義されており、現代の機械学習技術の開発方法とは相容れないとも述べている。これらの制限があるため、アルゴリズムの説明責任の文脈で透明性を定義することは依然として問題である。たとえば、アルゴリズムのソースコードを提供するだけでは不十分であり、プライバシーの開示や技術システムのゲーム化に関して他の問題を引き起こす可能性がある。この問題を軽減するために、エドワーズとヴィールは、監査人が外部シェルから意思決定プロセスの入力と出力を確認できるように、言い換えれば「ブラックボックスを開けずに説明」できる監査システムの方が効果的であると主張している。^[8]

同様に、オックスフォード大学の学者ブライス・グッドマンとセス・フラックスマンは、GDPRは「説明を受ける権利」を生み出すと主張しているが、現在のGDPRの限界を述べて、それ以上のことは詳しく述べていない。この議論に関して、学者アンドリュー・D・セルブストとジュリア・パウルズは、議論は「説明を受ける権利」というフレーズを使用するかどうかの議論に方向転換すべきであり、GDPRの明示的な要件とそれが背景にある目標とどのように関連しているかにもっと注意を払う必要があり、立法文書が実際に何を意味するのかを判断するためにもっと考慮する必要があると述べている。^[17]

より根本的には、機械学習で使用されるアルゴリズムの多くは簡単に説明できない。例えば、ディープニューラルネットワークの出力は、複雑に接続された多くの層の計算に依存しており、1つの入力や計算が支配的な要因になることはない。説明可能なAIの分野では、既存のアルゴリズムからより良い説明や、より簡単に説明できるアルゴリズムを提供することを目指しているが、これは若く活発な分野である。^{[18] [19]}

他の人々は、説明可能性の難しさは、問題を「説明の社会的権利」によって提起されるより広範な問題に結び付けるのではなく、技術的な解決策に過度に狭い焦点を当てていることに起因すると主張している。^[1]

エドワーズとヴィールは、説明の権利は特定の決定についての説明の根拠を提供するものだと考えている。彼らは、モデル中心の説明と主体中心の説明（SCE）という2種類のアルゴリズムの説明について議論しており、これらはシステムや決定についての説明と大まかに一致している。^[8]

SCE は、データが複雑すぎる場合には厳しい制約があるものの、何らかの救済策を提供するための最良の方法と見なされています。彼らの提案は、完全なモデルを分解し、特定のクエリ (「実際のクエリ、架空のクエリ、または探索的なクエリ」) に対する教育的な説明を通じて特定の問題に焦点を当てることです。これらの説明では、複雑さを軽減するために、必然的に正確さとのトレードオフが伴います。

ヒューマン・コンピュータ・インタラクション・デザインの分野における技術的意思決定システムの説明への関心が高まるにつれ、研究者やデザイナーは、認知科学や人々の実際のニーズから離れた数学的に解釈可能なモデルの観点からブラックボックスを開く努力を続けています。代替アプローチとしては、インタラクティブな説明を通じてユーザーがシステムの動作を自由に探索できるようにすることが挙げられます。

エドワーズとヴィールの提案の 1 つは、説明責任と救済に向けた重要なステップとして透明性を部分的に排除することです。彼らは、データ保護の問題に取り組もうとする人々は、説明ではなく行動を望んでいると主張しています。説明の実際の価値は、受けた感情的または経済的損害を軽減または救済することではなく、なぜ何かが起こったのかを理解し、間違いが二度と起こらないようにすることです。^[8]

より広い視点で見ると、展開における説明可能な機械学習の研究において、著者らは、利害関係者を特定し、利害関係者と関わり、説明の目的を理解することで、要件を明確に確立する説明可能なフレームワークを構築することを推奨している。それと同時に、因果関係、プライバシー、パフォーマンス向上などの説明可能性に関する懸念事項もシステムに考慮する必要がある。^[20]

• アルゴリズムの透明性
• 自動化された意思決定
• 説明可能な人工知能
• アルゴリズムの規制