自動化された意思決定

自動意思決定（ADM ）は、データ、機械、アルゴリズムを使用して、行政、ビジネス、健康、教育、法律、雇用、輸送、メディア、エンターテイメントなど、さまざまな状況で意思決定を行うもので、人間の監視や介入の程度はさまざまです。ADMには、データベース、テキスト、ソーシャルメディア、センサー、画像、音声など、さまざまなソースからの大規模なデータが含まれており、コンピューターソフトウェア、アルゴリズム、機械学習、自然言語処理、人工知能、拡張知能、ロボット工学などのさまざまなテクノロジーを使用して処理されます。さまざまな状況での自動意思決定システム（ADMS）の使用が増えていることは、技術的、法的、倫理的、社会的、教育的、経済的、健康的影響を考慮する必要がある、人間社会に多くの利点と課題をもたらしています。^{[1] [2] [3]}

ADMには、自動化のレベルに応じてさまざまな定義があります。一部の定義では、ADMには人間の介入なしに純粋に技術的な手段で下される決定が含まれると示唆しています（ ^[4] EUの一般データ保護規則（第22条）など）。ただし、ADMの技術とアプリケーションは、人間の意思決定者が行動するための推奨事項を作成する意思決定支援システム（拡張知能^[5]または「共有意思決定」^[2]と呼ばれることもあります）から、人間の関与なしに個人または組織に代わって意思決定を行う完全に自動化された意思決定プロセスまで、さまざまな形式をとることができます。^{[6]自動意思決定システムで使用されるモデルは、チェックリストや}決定木のような単純なものから、人工知能やディープニューラルネットワーク（DNN） まであります。

1950 年代以降、コンピューターは基本的な処理能力から、画像や音声の認識、ゲームプレイ、複数のデータ ソースにわたる科学的および医学的分析や推論など、複雑で曖昧で高度なスキルを要するタスクを実行できる能力へと進化しました。現在、ADM は、社会のあらゆる分野、およびエンターテイメントから輸送まで、さまざまな分野で導入が進んでいます。

ADM システム (ADMS) には、複数の意思決定ポイント、データ セット、テクノロジ (ADMT) が含まれる場合があり、刑事司法システムやビジネス プロセスなどの大規模な管理システムまたは技術システム内に存在する場合があります。

自動化された意思決定には、プロセス、モデル、アルゴリズム内で分析される入力として、または新しいモデルの学習と生成のためにデータを使用することが含まれます。^[7] ADMシステムは、システムの目標とコンテキストに応じて、さまざまなデータタイプとソースを使用および接続する場合があります。たとえば、自動運転車やロボットのセンサーデータ、セキュリティシステムのIDデータ、行政の人口統計データと財務データ、医療の医療記録、法律の犯罪記録などです。これには、膨大な量のデータと計算能力が必要になる場合があります。

利用可能なデータの品質と ADM システムで使用できるかどうかは、結果にとって重要です。多くの理由から、これはしばしば大きな問題となります。データセットは多くの場合、非常に多様です。企業や政府が大規模なデータを管理している場合、プライバシーやセキュリティ上の理由で制限されている場合、不完全、偏りがある場合、時間や範囲が限られている場合、用語の測定や説明がさまざまな方法である場合、その他多くの問題があります。

機械がデータから学習するには、多くの場合、大規模なコーパスが必要であり、その入手や計算は困難な場合があります。しかし、利用可能な場合には、胸部X線診断などにおいて大きな進歩がもたらされています。^[8]

自動意思決定技術（ADMT）は、入力データから出力データへの変換を自動化し、自動意思決定システムの機能に貢献するソフトウェアコード化されたデジタルツールです。^[7] ADMアプリケーションとシステム全体で幅広い技術が使用されています。

基本的な計算操作を伴うADMT

• 検索（1-2-1、1-2-many、データのマッチング/マージを含む）
• マッチング（2つの異なるもの）
• 数学的計算（数式）

評価とグループ化のためのADMT:

• ユーザープロファイリング
• レコメンデーションシステム
• クラスタリング
• 分類
• 機能学習
• 予測分析（予測を含む）

空間と流れに関連する ADMT:

• ソーシャルネットワーク分析（リンク予測を含む）
• マッピング
• ルーティング

複雑なデータ形式の処理のためのADMT

• 画像処理
• オーディオ処理
• 自然言語処理 (NLP)

その他のADMT

• ビジネスルール管理システム
• 時系列分析
• 異常検出
• モデリング/シミュレーション

機械学習（ML）は、大規模なデータセットや例にさらすことでコンピュータプログラムを訓練し、経験から学び問題を解決します。^[2]機械学習は、データの生成と分析、アルゴリズム計算に使用でき、画像や音声の認識、翻訳、テキスト、データ、シミュレーションに応用されています。機械学習は以前から存在していましたが、ディープニューラルネットワーク（DNN）のトレーニングにおける最近のブレークスルー、GPUコプロセッサとクラウドコンピューティングによるデータストレージ容量と計算能力の劇的な向上により、ますます強力になっています。^[2]

基礎モデルに基づく機械学習システムは、ディープニューラルネットワーク上で実行され、パターンマッチングを使用して、テキストや画像などの大量の一般データに対して単一の巨大なシステムをトレーニングします。初期のモデルは、新しい問題ごとにゼロから開始する傾向がありましたが、2020年代初頭以降、多くのモデルが新しい問題に適応できるようになりました。^{[9]これらのテクノロジーの例には、} Open AIの DALL-E（画像作成プログラム）とさまざまなGPT言語モデル、GoogleのPaLM言語モデルプログラム などがあります。

ADMは、一貫性の向上、効率性の改善、コストの削減、複雑な問題に対する新たな解決策の実現など、さまざまな理由から、公共部門と民間部門の両方の組織で人間の意思決定を置き換えたり、強化したりするために使用されています。^[10]

議論の質を評価したり^{[11] [12] [13]、}議論文を評価したり^{[14] [15]}、討論を審査したりするための技術の利用に関する研究開発が進行中である。^{[16] [17] [18] [19]}これらの議論技術の潜在的な応用分野は、教育と社会に広がっている。この点で検討すべきシナリオには、会話的、数学的、科学的、解釈的、法的、政治的な議論や討論 の評価や判定を含むものが含まれる。

世界中の法制度では、リスク評価ツール（RAI）などのアルゴリズムツールが、多くの状況で裁判官、公務員、警察官の人間による判断を補完または代替するために使用されています。 ^[20]米国では、RAIは、裁判前の拘留と判決の決定における再犯リスクを予測するためのスコアを生成するために使用され、^[21]囚人の仮釈放を評価し、将来の犯罪の「ホットスポット」を予測するために使用されています。[ ^{22] [23] [24]これらのスコアは自動的な効果をもたらす場合もあれば、司法制度内の職員による決定を通知するために使用される場合もあります。[ 20]}カナダでは、2014年からADMが移民当局による特定の活動を自動化し、一部の移民および訪問者の申請の評価をサポートするために使用されています。^[25]

自動意思決定システムは、特定のコンピュータ プログラムで使用され、特定の金融取引に関連する売買注文を作成し、国際市場で注文を自動的に送信します。コンピュータ プログラムは、テクニカル分析、高度な統計および数学的計算、またはその他の電子ソースからの入力に基づく取引戦略を使用して、事前に定義された一連のルールに基づいて注文を自動的に生成できます。

継続的監査では、高度な分析ツールを使用して監査プロセスを自動化します。民間部門では企業が、公共部門では政府機関や自治体が活用できます。^[26]人工知能と機械学習が進歩するにつれて、会計士や監査人は、何が異常であるかを判断する、従業員に通知するかどうか、従業員に割り当てられたタスクをどのように優先順位付けするかなどの決定を行う、ますます洗練されたアルゴリズムを活用できるようになります。

デジタルメディア、エンターテインメントプラットフォーム、情報サービスでは、人口統計情報、過去の選択、協調フィルタリング、コンテンツベースのフィルタリングに基づいた自動レコメンデーションシステムを介して、視聴者にコンテンツを提供することが増えています。 ^[27]これには、音楽やビデオのプラットフォーム、出版、健康情報、製品データベース、検索エンジンが含まれます。多くのレコメンデーションシステムは、ユーザーに推奨事項を受け入れる権限を与え、システムユーザーの行動に基づいたデータ駆動型アルゴリズムのフィードバックループを組み込んでいます。^[6]

2020年代にOpenAIやGoogleなどの企業によって開発されている大規模な機械学習言語モデルや画像作成プログラムはアクセスが制限されていますが、広告、コピーライティング、ストックイメージ、グラフィックデザインなどの分野だけでなく、ジャーナリズムや法律などの他の分野でも広く応用される可能性があります。^[9]

オンライン広告は、多くのデジタルメディアプラットフォーム、ウェブサイト、検索エンジンと密接に統合されており、さまざまな形式でのディスプレイ広告の自動配信を伴うことが多い。「プログラマティック」オンライン広告では、ウェブサイトやプラットフォームでのデジタル広告の販売と配信を、人間の直接的な意思決定ではなく、ソフトウェアを介して自動化する。^[27]これは、ウォーターフォールモデルと呼ばれることもあり、パブリッシャーとデータ管理プラットフォーム、ユーザーデータ、広告サーバーとその配信データ、在庫管理システム、広告トレーダー、広告取引所など、さまざまなシステムとプレーヤーにわたる一連の手順を伴う。 ^[27]このシステムには、広告主に対する透明性の欠如、検証不可能な指標、広告会場に対する制御の欠如、視聴者の追跡、プライバシーの懸念など、さまざまな問題がある。^{[27]広告を嫌うインターネットユーザーは、ユーザーがウェブサイトや一部のインターネットアプリケーションから不要な広告を自動的にフィルタリングできる}広告ブロック技術などの対策を採用している。2017年には、オーストラリアのインターネットユーザーの24％が広告ブロッカーを使用していた。^[28]

ディープラーニング AI 画像モデルは、X 線写真を検査し、眼疾患である黄斑変性を検出するために使用されています。

政府は2000年代初頭から、より効率的な行政や社会サービスを提供するためにデジタル技術を導入しており、これはしばしば電子政府と呼ばれる。世界中の多くの政府が現在、自動化されたアルゴリズムシステムを使用して、リスクに基づくアルゴリズム警察活動、空港でのスクリーニングなどの人々の監視分類、児童保護におけるリスクプロファイルに基づくサービスの提供、雇用サービスの提供、失業者管理などの政策やサービスのプロファイリングとターゲティングを行っている。^{[29]社会サービスにおけるADMの重要な応用は、}予測分析の使用に関連している。たとえば、児童保護における虐待/ネグレクトによる子供へのリスクの予測、警察と刑事司法における再犯または犯罪の予測、コンプライアンスシステムにおける福祉/脱税の予測、雇用サービスにおける長期失業の予測などである。歴史的にこれらのシステムは標準的な統計分析に基づいていたが、2000年代初頭から機械学習がますます開発され、導入されている。社会福祉におけるADMの使用に関する主な問題には、偏見、公平性、説明責任、説明可能性（決定の理由に関する透明性と、機械が決定を下した根拠を説明する能力を指す）などがある。 ^{[29]例えば、オーストラリアの連邦社会保障提供機関であるセンターリンクは、借金を検出して回収するための自動化プロセスを開発し、実装したが、これは}ロボデット・スキームとして知られるようになった不正な借金回収の多くの事例につながった。^[30]

コネクテッド自動運転モビリティ（CAM）には、自動運転車などの自律走行車や、自動意思決定システムを使用して人間による車両制御のさまざまな側面を置き換える他の輸送手段が含まれます。^[31]これは、レベル0（完全な人間による運転）からレベル5（完全な自動運転）までの範囲になります。^[2]レベル5では、機械はデータモデル、地理空間マッピング、リアルタイムセンサー、環境の処理に基づいて、車両を制御する決定を下すことができます。レベル1から3の車は、2021年にすでに市場に出回っています。 2016年にドイツ政府は「自動運転とコネクテッド運転に関する倫理委員会」を設立し、システムが人間の運転手よりも事故が少ない（リスクのプラスバランス）場合は、コネクテッド自動運転車両（CAV）の開発を推奨しました。また、自動運転とコネクテッド運転の採用に関する20の倫理ルールも示しました。^[32] 2020年に欧州委員会はCAMに関する戦略を発表し、交通事故による死亡者数を減らし、排出量を削減するためにCAMを欧州で導入することを推奨したが、自動運転車は事故発生時の責任や倫理的意思決定、プライバシーの問題など、多くの政策、セキュリティ、法的問題も引き起こす。^[31]自動運転車に対する信頼の問題とその安全性に関するコミュニティの懸念は、AVが広く導入されるためには解決すべき重要な要素である。^[33]

センサー、カメラ、オンライン取引、ソーシャルメディアを介した自動デジタルデータ収集により、政府および商業部門における監視の実践と制度の範囲、規模、目標が大幅に拡大しました。 ^[34]その結果、容疑者をターゲットにした監視から全人口を監視する能力へと大きく変化しました。^[35]自動データ収集の結果として現在可能になっている監視のレベルは、デジタルメディアがあらゆるやり取りのデータを大規模に追跡および蓄積する方法を示すために、 監視資本主義または監視経済と呼ばれています。

自動化された意思決定システムには、社会的、倫理的、法的影響が数多くあります。懸念される点としては、意思決定の透明性と議論の余地の欠如、プライバシーと監視の侵害、データとアルゴリズムの偏りによる体系的な偏りと不平等の悪化、知的財産権、メディアプラットフォームを介した誤情報の拡散、行政上の差別、リスクと責任、失業などがあります。^{[36] [37]} ADMがより普及するにつれて、情報社会における良好なガバナンスを確保するための倫理的課題に対処する必要性が高まっています。^[38]

ADMシステムは、機械学習やアルゴリズムに基づいていることが多く、簡単には表示や分析ができないため、透明性や説明責任のない「ブラックボックス」システムであるという懸念が生じています。^[2]

カナダのシチズンラボの報告書は、自動化された意思決定の使用が平等と無差別の権利、移動、表現、宗教、結社の自由、プライバシーの権利、および個人の生命、自由、安全の権利を含む権利の侵害につながらないようにするために、さまざまな分野でのADMの適用に関する批判的な人権分析を主張している。^[25]

ADM に対する立法上の対応には次のものがあります。

• 2016年に導入された欧州一般データ保護規則（GDPR）は、欧州連合（EU）におけるデータ保護とプライバシーに関するEU法の規則である。第22条（1）は、データ主体が、自動的な個人の意思決定のみに基づく、法的またはその他の重大な効果を持つ決定の対象とされない権利を定めている。^{[39] [40] GDPRに}は説明を受ける権利に関する規則もいくつか含まれているが、これらの正確な範囲と性質は現在、欧州連合司法裁判所による審査を待っている。^[41]これらの規定はGDPRで初めて導入されたのではなく、 1995年のデータ保護指令や1978年のフランス法、loi informatique et libertés  [fr]以来、ヨーロッパ全土で同様の形で存在している。^[42]ウガンダ、モロッコ、米国バージニア州など、世界中の多くの他の法域のデータ保護法にも、同様の範囲と文言で、さまざまな権利と義務が付随する規定が存在している。^[43]
• フランス共和国法に基づく「アルゴリズム処理」を形成する公共部門の自動決定について説明する権利。^[42]

ADM には、以下から生じる アルゴリズムの偏りが組み込まれる場合があります。

• データソース、データ入力の収集または選択に偏りがある^[37]
• アルゴリズムの技術的設計、例えば、人がどのように行動するかについての仮定が立てられている場合^[44]
• 予期せぬ状況でADMを適用することで偏った結果が生じる「創発的バイアス」^[44]

偏った、または不正確なデータやアルゴリズムに関する疑問、および一部の ADM がブラック ボックス テクノロジであり、人間による精査や調査が不可能であるという懸念から、説明可能性の問題、つまり自動化された決定と AI の説明を受ける権利の問題が生じています。これは、説明可能な AI (XAI) または解釈可能な AIとも呼ばれ、ソリューションの結果を人間が分析して理解できるものです。XAI アルゴリズムは、透明性、解釈可能性、説明可能性という 3 つの原則に従うと考えられています。

自動化された意思決定は、システムにデータを供給する個人と、そのデータから情報を推測できるプラットフォームおよび意思決定システムとの間の情報の非対称性を高める可能性がある。一方、金融取引では、2つの人工知能エージェント間の情報の非対称性は、2人の人間エージェント間または人間と機械エージェント間の情報の非対称性よりもはるかに小さい可能性があることが観察されている。^[45]ある研究では、金融における人間の専門家によるノイズの多い意思決定に関するダニエル・カーネマンの理論が検証された。^[46]この研究では、人間の判断には本質的に矛盾があり、それが結果的にAI意思決定支援システムによる自動化された意思決定の結果に影響を与えることが実証されている。

ビジネス、コンピュータサイエンス、ヒューマンコンピュータインタラクション（HCI）、法律、行政、メディアとコミュニケーションなど、多くの学問分野と分野がADMの開発、応用、影響にますます注目しています。検索システムとプラットフォームを介したメディアコンテンツの自動化とアルゴリズム駆動型ニュース、ビデオ、その他のコンテンツは、メディア研究における主要な学術研究の焦点です。^[27]

ACM公平性、説明責任、透明性に関する会議 (ACM FAccT) は、ADM や AI を含む多くの社会技術システムのコンテキストにおける透明性と説明可能性を研究するために 2018 年に設立されました。

ADM を研究している主要な研究センターは次のとおりです。

• アルゴリズムウォッチ、ドイツ
• ARC 自動意思決定と社会に関する卓越センター、オーストラリア
• シチズン・ラボ、カナダ
• インフォマティクスヨーロッパ

• 自動意思決定サポート
• アルゴリズムの偏り
• 意思決定ソフトウェア
• 意思決定管理
• 人工知能の倫理
• アルゴリズムによる政府
• 機械学習
• レコメンデーションシステム