自動意思決定

利用可能なデータの質と、それがADMシステムで使用できるかどうかは、成果を左右する重要な要素です。しかし、多くの理由から、データ品質はしばしば大きな問題となります。データセットはしばしば非常に多様であり、企業や政府が大規模なデータを管理している場合、プライバシーやセキュリティ上の理由で制限されている場合、データが不完全であったり、偏っていたり、時間的または網羅的な範囲が限られていたり、用語の測定方法や記述方法が異なる場合など、様々な問題が存在します。

機械がデータから学習するには、多くの場合、大規模なコーパスが必要となりますが、これは入手や計算が困難な場合があります。しかし、入手可能な場合は、例えば胸部X線写真の診断などにおいて、大きなブレークスルーをもたらしてきました。^{[ 8 ]}

機械学習（ML）は、大規模なデータセットや例に触れることでコンピュータプログラムを訓練し、経験から学び、問題を解決するものです。^{[ 2 ]}機械学習は、データの生成と分析、アルゴリズム計算を行うために使用でき、画像認識、音声認識、翻訳、テキスト、データ、シミュレーションに適用されています。機械学習自体は以前から存在していましたが、ディープニューラルネットワーク（DNN）のトレーニングにおける最近のブレークスルー、GPUコプロセッサやクラウドコンピューティングによるデータストレージ容量と計算能力の劇的な向上により、ますます強力になっています。^{[ 2 ]}

基盤モデルに基づく機械学習システムは、深層ニューラルネットワーク上で動作し、パターンマッチングを使用して、テキストや画像などの大量の汎用データで単一の巨大なシステムをトレーニングします。初期のモデルは、新しい問題ごとにゼロから始める傾向がありましたが、2020年代初頭以降、多くのモデルが新しい問題に適応できるようになりました。^{[ 9 ]}これらの技術の例としては、OpenAIのDALL-E（画像生成プログラム）やさまざまなGPT言語モデル、GoogleのPaLM言語モデルプログラムなどがあります。

^{議論の質を評価したり、議論エッセイを評価したり、討論を審査したりするための技術の利用に関する研究開発が進められています。[11][12][ 13]これら}の^{議論技術の}潜在^{的な応用は}、^{教育と社会に及びます。この点で}検討す^{べきシナリオには}、会話、数学^、科学、解釈^、法律、政治の^議論と討論の評価と査定を含むものが含まれます。

世界中の法制度において、リスク評価ツール（RAI）などのアルゴリズムツールは、多くの状況で裁判官、公務員、警察官の人間の判断を補完または代替するために使用されています。^{[ 20 ]}米国では、RAIは、公判前拘留および量刑決定における再犯リスクを予測するスコアを生成するため、^{[ 21 ]}受刑者の仮釈放を評価するため、および将来の犯罪の「ホットスポット」を予測するために使用されています。^{[ 22 ] [ 23 ] [ 24 ]}これらのスコアは、自動的な効果をもたらす場合もあれば、司法制度内の職員が行う決定に情報を提供するために使用される場合もあります。^{[ 20 ]}カナダでは、ADMは2014年から、移民局職員が行う特定の活動を自動化し、一部の移民および訪問者申請の評価を支援するために使用されています。^{[ 25 ]}

自動意思決定システムは、特定の金融取引に関連する売買注文を作成し、国際市場に自動的に発注するために、一部のコンピュータプログラムで使用されています。コンピュータプログラムは、テクニカル分析、高度な統計計算や数学的計算、あるいはその他の電子情報源からの入力に基づいた取引戦略を用いて、事前に定義された一連のルールに基づいて注文を自動的に生成することができます。

デジタルメディア、エンターテイメントプラットフォーム、情報サービスは、人口統計情報、過去の選択、協調フィルタリング、またはコンテンツベースのフィルタリングに基づく自動レコメンデーションシステムを介して、視聴者にコンテンツを提供するケースが増えています。 ^{[ 27 ]}これには、音楽やビデオのプラットフォーム、出版、健康情報、製品データベース、検索エンジンなどが含まれます。多くのレコメンデーションシステムは、ユーザーがレコメンデーションを受け入れる際に一定の裁量権を与え、システムユーザーの行動に基づくデータ駆動型のアルゴリズムフィードバックループを組み込んでいます。^{[ 6 ]}

OpenAIやGoogleなどの企業が2020年代に開発している大規模な機械学習言語モデルや画像生成プログラムは、アクセスが制限されているものの、広告、コピーライティング、ストック画像、グラフィックデザインなどの分野だけでなく、ジャーナリズムや法律などの他の分野でも広く応用される可能性が高い。^{[ 9 ]}

オンライン広告は、多くのデジタルメディアプラットフォーム、ウェブサイト、検索エンジンと密接に統合されており、多くの場合、さまざまな形式でのディスプレイ広告の自動配信を伴います。「プログラマティック」オンライン広告は、直接的な人間の意思決定ではなく、ソフトウェアを介してウェブサイトやプラットフォーム上のデジタル広告の販売と配信を自動化します。[ ^{27 ]これ}は、さまざまなシステムとプレーヤー（パブリッシャーとデータ管理プラットフォーム、ユーザーデータ、広告サーバーとその配信データ、在庫管理システム、広告トレーダーと広告エクスチェンジ）にわたる一連のステップを含むウォーターフォールモデルとして知られています。^{[ 27 ]}このシステムには、広告主に対する透明性の欠如、検証不可能な指標、広告掲載場所の制御の欠如、オーディエンス追跡、プライバシーに関する懸念など、さまざまな問題があります。^{[ 27 ]}広告を嫌うインターネットユーザーは、ウェブサイトや一部のインターネットアプリケーションから不要な広告を自動的にフィルタリングできる広告ブロック技術などの対策を採用しています。2017年には、オーストラリアのインターネットユーザーの24%が広告ブロッカーを使用していました。^{[ 28 ]}

深層学習AI画像モデルは、X線画像のレビューや、眼疾患である加齢黄斑変性の検出に利用されている。

政府は、2000 年代初頭から、より効率的な行政および社会サービスを提供するためにデジタル技術を導入しており、これはしばしば電子政府と呼ばれています。世界中の多くの政府は現在、リスクに基づくアルゴリズムによる警察活動、空港でのスクリーニングなどの人々の監視による選別、児童保護におけるリスクプロファイルに基づくサービスの提供、雇用サービスの提供、失業者への対応など、政策やサービスのプロファイリングとターゲティングに自動化されたアルゴリズムシステムを使用しています。^{[ 29 ]}社会サービスにおける ADM の重要な応用例の 1 つは、予測分析の使用に関連しています。たとえば、児童保護における虐待/ネグレクトによる子供へのリスクの予測、警察および刑事司法における再犯または犯罪の予測、コンプライアンス システムにおける福祉/税金詐欺の予測、雇用サービスにおける長期失業の予測などです。歴史的にこれらのシステムは標準的な統計分析に基づいていましたが、2000 年代初頭から機械学習がますます開発され、展開されています。社会福祉におけるADMの使用に関する主な問題には、偏見、公平性、説明責任、説明可能性が含まれます。説明可能性とは、決定の理由に関する透明性と、機械が決定を下した根拠を説明できる能力を指します。^{[ 29 ]}例えば、オーストラリアの連邦社会保障機関であるセンターリンクは、債務の検出と回収のための自動化されたプロセスを開発および実装しましたが、これはロボデット制度として知られるようになった不正な債務回収の多くの事例につながりました。^{[ 30 ]}

コネクテッド自動運転モビリティ（CAM）は、自動運転車などの自律走行車両と、自動意思決定システムを使用して車両のさまざまな側面を人間が制御するのを置き換えるその他の輸送形態を含みます。^{[ 31 ]}これは、レベル0（完全な人間の運転）からレベル5（完全な自律）まであります。^{[ 2 ]}レベル5では、機械はデータモデルと地理空間マッピング、リアルタイムセンサー、環境の処理に基づいて車両を制御するための決定を下すことができます。レベル1から3の車は、2021年にはすでに市場に出回っています。2016年、ドイツ政府は「自動運転とコネクテッド運転に関する倫理委員会」を設立し、システムが人間のドライバーよりも事故を少なくする場合（リスクのプラスのバランス）に、コネクテッド自動運転車（CAV）を開発することを推奨しました。また、自動運転とコネクテッド運転の適応に関する20の倫理規則も提供しました。^{[ 32 ]} 2020年に欧州委員会はCAMに関する戦略で、道路死亡事故を減らし排出量を削減するためにヨーロッパでCAMを採用することを推奨したが、自動運転車は事故の場合の責任と倫理的意思決定の観点から多くの政策、セキュリティ、法的問題、プライバシーの問題も引き起こしている。^{[ 31 ]}自動運転車が広く普及するためには、自動運転車に対する信頼の問題と安全性に関するコミュニティの懸念に対処することが重要な要素である。^{[ 33 ]}

センサー、カメラ、オンライン取引、ソーシャルメディアを介した自動化されたデジタルデータ収集により、政府および商業部門における監視の実践と機関の範囲、規模、目標が大幅に拡大しました。 ^{[ 34 ]}その結果、容疑者を標的とした監視から、全人口を監視する能力へと大きく変化しました。^{[ 35 ]}自動化されたデータ収集の結果として可能になった監視のレベルは、デジタルメディアがあらゆるやり取りに関するデータの大規模な追跡と蓄積を伴う方法を示すために、監視資本主義または監視経済と呼ばれています。

ADMは、以下に起因するアルゴリズムバイアスを組み込む可能性があります。

• データソースでは、データの収集や選択においてデータ入力に偏りがある^{[ 37 ]}
• アルゴリズムの技術的な設計、例えば、人がどのように行動するかについての仮定がなされている場合^{[ 46 ]}
• 予期せぬ状況でADMを適用すると偏った結果が生じる創発バイアス^{[ 46 ]}

偏ったデータや不正確なアルゴリズムに関する疑問、そして一部の自動意思決定（ADM）がブラックボックス技術であり、人間の精査や検証が不可能であるという懸念から、説明可能性、つまり自動意思決定やAIの説明を受ける権利という問題が浮上しました。これは説明可能なAI （XAI）または解釈可能なAIとも呼ばれ、ソリューションの結果を人間が分析し理解できるものです。XAIアルゴリズムは、透明性、解釈可能性、説明可能性という3つの原則に従うと考えられています。

自動意思決定は、システムにデータを提供する個人と、そのデータから情報を推論できるプラットフォームや意思決定システムとの間の情報非対称性を高める可能性があります。一方、金融取引では、2 つの人工知能エージェント間の情報非対称性は、2 人の人間エージェント間、または人間と機械エージェント間の情報非対称性よりもはるかに小さいことが観察されています。^{[ 47 ]}ある研究は、金融における人間の専門家によるノイズのある意思決定に関するDaniel Kahnemanの理論を検証しました。^{[ 48 ]}これは、人間の判断に内在する矛盾を示しており、その結果、AI 意思決定支援システムによって行われる自動意思決定の結果に影響を与えます。