Loading article…
アルゴリズムの説明責任とは、意思決定プロセスで使用されるアルゴリズムによって影響を受ける現実世界の行動の結果に対する責任の割り当てを指します。 [ 1 ]
理想的には、アルゴリズムは意思決定の結果からバイアスを排除するように設計されるべきである。つまり、入力データの関連する特性のみを評価し、法的判断における個人の民族性など、社会的な文脈では一般的に不適切な属性に基づく区別を避けるべきである。しかし、この原則への準拠は常に保証されているわけではなく、アルゴリズムの決定によって個人が悪影響を受ける場合がある。機械の決定によって生じた損害に対する責任は、アルゴリズム自体、またはそれを設計した個人にある可能性があり、特にその決定がアルゴリズムの設計に内在するバイアスや欠陥のあるデータ分析から生じた場合はなおさらである。 [ 2 ]
アルゴリズムは、制御システムに計算技術を組み込んでいる社会のさまざまな分野で広く利用されています。これらのアプリケーションは、医療、輸送、決済サービスなど、数多くの産業に及んでいます。[ 3 ]これらの文脈において、アルゴリズムは次のような機能を実行します。[ 4 ]
しかし、これらのアルゴリズムの実装は複雑で不透明な場合があります。一般的に、アルゴリズムは「ブラックボックス」として機能し、入力が実行中に受ける具体的なプロセスは多くの場合不透明であり、ユーザーは通常、結果として得られる出力のみを見ることになります。[ 5 ]この透明性の欠如は、意思決定に影響を与えるパラメータが十分に理解されていない可能性があるため、アルゴリズム内の潜在的なバイアスに関する懸念を引き起こします。生成された出力は、特に同様の状況にある個人が異なる結果を受け取る場合、バイアスの認識につながる可能性があります。ニコラス・ディアコプロスによれば、
しかし、これらのアルゴリズムは間違いを犯す可能性があり、偏りも持ち合わせています。にもかかわらず、それらは不透明なブラックボックスの中に存在し、その内部構造や「思考」は幾重にも重なった複雑な層に隠されています。私たちはそのブラックボックスの中に入り込み、それらが私たちにどのような影響力を及ぼしているのか、そしてどこで不当な間違いを犯しているのかを理解する必要があります。
アルゴリズムはさまざまな分野で広く普及しており、一般の人々に影響を与える決定に大きな影響を与えています。その根底にある構造やパラメータは、結果の影響を受ける人々には知られていないことがよくあります。この問題を示す注目すべき事例として、刑事司法で使用される「リスク評価」アルゴリズムに関するウィスコンシン州最高裁判所の最近の判決があります。[ 3 ]裁判所は、個人の複数のパラメータを分析するこのようなアルゴリズムによって生成されたスコアは、被疑者を逮捕するための決定要因として使用すべきではないと判断しました。さらに、裁判所は、裁判官に提出されるすべての報告書には、これらのスコアを計算するために使用されたアルゴリズムの正確性に関する情報を含めることを義務付けました。
この判決は、重大な決定を下すソフトウェアを社会がどのように管理すべきかという点において注目すべき進展とみなされており、特に法制度のような複雑な環境における信頼性の重要性を強調している。こうした状況でアルゴリズムを使用するには、入力データの処理において高度な公平性が求められる。しかし、専門家は、アルゴリズムの結果の正確性を確保するためには、まだ多くの課題が残されていると指摘している。データ処理の透明性に関する疑問は依然として提起されており、アルゴリズムの妥当性や設計者の意図に関する問題が浮上している。
潜在的なアルゴリズムバイアスの顕著な例は、配車サービスUberに関するワシントン・ポストの記事[ 6 ]で取り上げられています。収集されたデータの分析によると、ユーザーの推定待ち時間は居住地域によって異なっていました。これらの差異に影響を与える主な要因には、その地域の主な民族構成と平均所得が含まれていました。
具体的には、白人人口が多数を占め、経済状況が高い地域では待ち時間が短い傾向があり、民族構成が多様で平均所得が低い地域では待ち時間が長くなる傾向が見られました。ただし、これはデータから明らかになった相関関係であり、明確な因果関係を示すものではないことを明確にしておく必要があります。これらの事例におけるUberアプリの動作について、いかなる価値判断も下されていません。
TechCrunchウェブサイトで、Hemant Taneja氏は次のように書いています。[ 7 ]
私たちの生活を支配する「ブラックボックス」アルゴリズムへの懸念が広がっている。ニューヨーク大学の情報法研究所は、アルゴリズムの説明責任に関する会議を開催し、「学者、利害関係者、政策立案者は、アルゴリズムによる意思決定を規制する既存のメカニズムの妥当性に疑問を呈し、透明性、公平性、平等な扱いという点で、アルゴリズムの力の増大によってもたらされる新たな課題に取り組んでいる」と指摘した。イェール大学ロースクールの情報社会プロジェクトもこの問題を研究している。「アルゴリズムによるモデリングは偏っていたり、限界があったりする可能性があり、多くの重要な分野ではアルゴリズムの使用が依然として不透明である」と、同グループは結論付けた。
専門家の間では、しばしば「ブラックボックス」と呼ばれるアルゴリズムの動作を理解するための有効な解決策が模索されてきた。一般的には、これらのアルゴリズムの開発と実装を担当する企業は、システムの内部プロセスを開示することで、その信頼性を確保すべきであると提唱されている。
TechCrunchに寄稿したHemant Taneja氏は、Google、Amazon、Uberなどの大手テクノロジー企業は、アルゴリズムの説明責任を積極的に業務に組み込む必要があると強調している。同氏は、これらの企業は厳しい規制措置を避けるために、自社のシステムを透明性をもって監視すべきだと提言している。[ 7 ]
一つの解決策として、テクノロジー分野における規制を導入し、アルゴリズム処理の監視を強化することが考えられます。しかし、こうした規制はソフトウェア開発者や業界全体に大きな影響を与える可能性があります。企業がアルゴリズムの詳細や意思決定パラメータを自主的に開示する方が、ソリューションの信頼性を高める上でより有益かもしれません。
議論されたもう一つの道は、これらのアルゴリズムを作成する企業による自主規制の可能性であり、これにより企業は自社の業務における説明責任と透明性を確保するために積極的な措置を講じることができる。[ 7 ]
TechCrunch ウェブサイトで、Hemant Taneja 氏は次のように書いています。[ 7 ]
ソフトウェア定義型規制には、もう一つ、おそらく非常に大きな利点があります。それは、より効率的な政府への道筋を示すものとなるでしょう。世界の法的論理と規制はソフトウェアにコード化でき、スマートセンサーは空気や水質、交通の流れ、運転免許センターの行列など、あらゆるものをリアルタイムで監視できます。規制当局がルールを定義し、技術者がそれを実装するためのソフトウェアを作成し、その後、AIと機械学習が今後の政策の反復的な改善を支援します。これにより、地方、国、そして世界レベルで、より効率的で効果的な政府が実現するはずです。