Loading article…
アルゴリズムによる統治[ 1 ]は、社会や統治の様々な側面にコンピュータアルゴリズムを適用するアプローチを包含する。この用語は、アルゴリズム規制[ 2 ] 、アルゴリズムによる規制、アルゴリズムによる統治[ 3 ] [ 4 ] 、アルゴクラシー統治、アルゴリズムによる法的秩序、またはアルゴクラシー[ 5 ]とも呼ばれ、法執行、運輸、土地登記などの分野に影響を与えたり、統治したりするためにアルゴリズムを使用することを説明する。 [ 6 ] [ 7 ] [ 8 ] [ 9 ] [ 10 ]「アルゴリズムによる統治」という用語は、2013年に「アルゴリズムによる統治」の代替として学術文献に初めて導入された。[ 11 ]関連用語であるアルゴリズム規制は、司法の自動化など、特定の状況内で基準を設定し、監視し、行動を変更するために計算アルゴリズムを使用することを含む。[ 12 ] [ 13 ]
アルゴリズムによる統治は、既存の電子政府に関する文献や行政実務では十分に対処されていない課題を提起する。 [ 14 ]情報処理の手段はアルゴリズムだけではないが、情報の効果的な利用によって統治する仮想的な政府形態であるサイバークラシー[ 15 ] [ 16 ] [ 17 ]をアルゴリズムによる統治と同一視する情報源もある。[ 18 ] [ 19 ]ネロ・クリスティアニーニとテレサ・スカンタンブルロは、人間社会と特定の規制アルゴリズム（評判に基づくスコアリングなど）の組み合わせが社会機械を形成すると主張した。[ 20 ]
1962年、モスクワにあるロシア科学アカデミー情報伝達問題研究所（後のハルケヴィチ研究所）の所長アレクサンドル・ハルケヴィチ[ 21 ] は、経済の情報処理と制御のためのコンピュータネットワークに関する記事を雑誌「共産主義」に発表した[ 22 ] [ 23 ] 。彼は、アルゴリズムによる統治（プロジェクトOGAS ）を目的として、現代のインターネットの側面を模倣したコンピュータネットワークを提案した。この提案はCIAのアナリストの間で懸念を引き起こした[ 24 ]。特に、アーサー・M・シュレジンジャー・ジュニアは、「1970年までにソ連は、自己学習型コンピュータを用いた閉ループフィードバック制御によって管理される総合企業または産業複合体を含む、根本的に新しい生産技術を持つ可能性がある」と警告した[ 24 ]。
1971年から1973年にかけて、チリ政府はサルバドール・アジェンデ大統領の任期中にサイバーシン計画を実施した。この計画は、国家経済の管理を改善するための分散型意思決定支援システムの構築を目的としていた。 [ 25 ] [ 2 ] 1972年には、 CIAが支援した4万人のトラック運転手のストライキによって引き起こされた交通麻痺を克服するために、計画の要素が活用された。[ 26 ]この最初の計画に加えて、計画の立案者であるスタッフォード・ビアは、1980年代から1990年代にかけて、ラテンアメリカ全域で同様のサイバネティクス計画に関与した。この地域は徐々に民主主義へと回帰しており、特にウルグアイとコロンビアでは、彼の実行可能なシステムモデル（VSM）が適用された。[ 27 ]
また、1960年代と1970年代には、ハーバート・A・サイモンが行政行動の合理化と評価のためのツールとしてエキスパートシステムを提唱した。 [ 28 ]ルールベースのプロセスの自動化は、数十年にわたり税務当局の目標であり、さまざまな成功を収めてきた。[ 29 ]この時期の初期の取り組みには、米国におけるソーン・マッカーティの影響力のあるTAXMANプロジェクト[ 30 ]と、英国におけるロナルド・スタンパーのLEGOLプロジェクト[ 31 ]が含まれる。1993年、グラスゴー大学のコンピュータ科学者ポール・コックショットとウェイクフォレスト大学の経済学者アリン・コットレルは、『新しい社会主義に向けて』という本を出版し、現代のコンピュータ技術に基づいて構築された民主的に計画された経済の可能性を実証したと主張した。[ 32 ]マイケル・カービー判事は1998年に論文を発表し、当時利用可能だった法律専門家システムなどのコンピュータ技術がコンピュータシステムへと進化し、裁判所の実務に大きな影響を与えるだろうと楽観的な見解を示した。[ 33 ]「法典は法律である」というスローガンで知られる弁護士ローレンス・レッシグは2006年に次のように書いている。
サイバースペースの見えざる手は、誕生時のアーキテクチャとは全く正反対のアーキテクチャを構築している。政府と商業によって推進されるこの見えざる手は、完全な制御と非常に効率的な規制を可能にするアーキテクチャを構築している[ 34 ] 。
2000年代以降、監視ビデオを自動的に分析するためのアルゴリズムが設計され、使用されてきた。[ 35 ]
A. Aneeshは2006年の著書『仮想移住』の中で、情報技術が公共の意思決定における人間の参加を制限するというアルゴクラシーの概念を提唱した。[ 36 ] [ 37 ] Aneeshはアルゴクラシーシステムを官僚制システム（法的合理性に基づく規制）や市場ベースのシステム（価格に基づく規制）と区別した。[ 38 ]
2013年、アルゴリズム規制という概念は、オライリー・メディアの創設者兼CEOであるティム・オライリーによって広く知られるようになった。
時として「ルール」は実際にはルールですらない。ホノルル市の元CIOであるゴードン・ブルース氏は、民間部門から政府に入り、変更を加えようとしたとき、「それは法律違反だ」と言われたと私に説明した。彼の返答は「わかった。法律を見せてくれ」だった。「いや、それは実際には法律ではない。規則だ」「わかった。規則を見せてくれ」「いや、それは実際には規則ではない。20年前に誰かさんが制定した方針だ」「素晴らしい。それなら変更できる！」[...] 法律は、目標、権利、結果、権限、制限を明記すべきである。広く明記されていれば、それらの法律は時の試練に耐えることができる。それらの法律をどのように実行するかをはるかに詳細に規定する規則は、プログラマーがコードやアルゴリズムを、法律で規定された結果を達成するための絶えず更新されるツールセットとみなすのとほぼ同じように考えるべきである。[...] 政府がビッグデータの時代に突入する時が来た。アルゴリズムによる規制は、まさに時宜を得たアイデアである。[ 39 ]
2017年、ウクライナの司法省は、政府取引の透明性を確保し、汚職を阻止するために、ブロックチェーン技術を使用した実験的な政府オークションを実施した。 [ 40 ]「アルゴリズムによる政府？」は、2017年9月6日～7日にロンドンで開催されたData for Policy 2017会議で紹介された中心的なテーマであった。[ 41 ]
スマートシティとは、収集された監視データを使用してさまざまな業務を改善する都市エリアのことです。計算能力の向上により、より自動化された意思決定が可能になり、公共機関がアルゴリズムによるガバナンスに置き換えられます。[ 42 ]特に、 IoTに人工知能とブロックチェーンを組み合わせると、持続可能なスマートシティのエコシステムが構築される可能性があります。 [ 43 ]グラスゴーのインテリジェント街路灯は、AI アルゴリズムを政府で応用した成功例です。[ 44 ]米国のスマートシティ構想に関する研究では、公共部門が主要な組織者および調整者、民間部門が技術およびインフラストラクチャの提供者、大学が専門知識の提供者となる必要があることが示されています。[ 45 ]
仮想通貨の億万長者ジェフリー・バーンズは、 2021年にネバダ州の地方自治体をテクノロジー企業に運営させることを提案した。 [ 46 ]バーンズは、年間46億ドルの生産高を生み出す可能性のある3万6000人以上の住民を抱えるスマートシティを開発するため、2018年にネバダ州の田舎のストーリ郡（人口4104人）の6万7000エーカー（271 km 2）を1億7000万ドル（1億2100万ポンド）で購入した。 [ 46 ]仮想通貨での支払いが認められる予定だった。[ 46 ] Blockchains, Inc.の「イノベーションゾーン」は、隣接するワショー郡の100マイル離れた場所から水を輸入することで、計画していた3万6000人の住民に必要な水を確保できなかったため、2021年9月に中止された。[ 47 ] [ 48 ] 2007年に提案された同様の水道管は、費用が1億ドルと見積もられ、開発には約10年かかるとされていた。[ 48 ]タホ・リノ工業総合改善地区から追加の水利権を購入すれば、「イノベーション・ゾーン」は約15,400世帯分の水を確保できることになるが、計画されている15,000戸の住宅をかろうじて賄える程度で、計画されている都市の残りの部分と2,200万平方フィートの工業開発には何も残らないことになる。[ 48 ]
サウジアラビアでは、ザ・ラインの計画者たちは、データと予測モデリングを使用して生活を向上させるために、AIによって監視されると主張している。[ 49 ]
ティム・オライリーは、データソースと評判システムをアルゴリズム規制に組み合わせることで、従来の規制よりも優れた結果が得られると示唆した。[ 39 ]例えば、タクシー運転手が乗客から評価されると、サービスの質が自動的に向上し、「質の低いサービスを提供する運転手は排除される」。[ 39 ]オライリーの提案は、フィードバックループという制御理論の概念に基づいている。評判の向上と低下によって、望ましい行動が強制される。[ 20 ]社会システムの管理にフィードバックループを使用することは、スタッフォード・ビアが経営サイバネティクスですでに提案している。[ 51 ]
これらの関連性は、ネロ・クリスティアニーニとテレサ・スカンタンブルロによって探求されており、評判信用スコアリングシステムは市民に与えられるインセンティブとしてモデル化され、ソーシャルマシンによって計算されるため、合理的なエージェントは行動を適応させることでスコアを上げるよう動機付けられる。この技術の倫理的側面については、まだ議論が続いている。[ 20 ]
中国の社会信用システムは、各市民の行動に対して中央集権的な数値スコアを与える大規模な監視活動であると言われていたが、最近の報告ではこれは広く誤解されているとされている。[ 52 ] [ 53 ] [ 54 ]
スマートコントラクト、暗号通貨、分散型自律組織は、従来の統治方法に取って代わる手段として言及されています。[ 55 ] [ 56 ] [ 10 ]暗号通貨は、政府の中央銀行なしでアルゴリズムによって実現される通貨です。[ 57 ]中央銀行デジタル通貨は、多くの場合同様の技術を採用していますが、中央銀行を使用しているという点で区別されます。欧州連合や中国を含む政府や機関によって検討または実装されています。スマートコントラクトは自己実行可能な契約であり、その目的は、信頼できる政府仲介者、仲裁、および執行コストの必要性を減らすことです。[ 58 ] [ 59 ]分散型自律組織は、スマートコントラクトによって表現される組織であり、透明性があり、株主によって管理され、中央政府の影響を受けません。[ 60 ] [ 61 ] [ 62 ]スマートコントラクトは、(一時的な)雇用契約[ 63 ] [ 64 ]や資金や財産の自動移転 (つまり、死亡証明書の登録による相続)などの用途での使用が議論されている。[ 65 ] [ 66 ] [ 67 ] [ 68 ]ジョージアやスウェーデンなどの一部の国は、すでに財産 (土地の権利と不動産の所有権)に焦点を当てたブロックチェーンプログラムを開始している。 [ 40 ] [ 69 ] [ 70 ] [ 71 ]ウクライナも国家登録簿などの他の分野を検討している。[ 40 ]
スタンフォード大学の調査によると、調査対象となった米国の連邦機関の45%が2020年までにAIおよび関連する機械学習（ML）ツールを試用したことがある。 [ 1 ]米国の連邦機関は人工知能アプリケーションの数を数え、以下にリストアップした。[ 1 ]これらのアプリケーションの53%は社内の専門家によって作成された。[ 1 ]残存アプリケーションの商用プロバイダーにはPalantir Technologiesが含まれる。[ 72 ]
2012年、NOPDは予測型警察活動の分野でPalantir Technologiesとの協力を開始した。[ 73 ] PalantirのGothamソフトウェアの他に、警察機関（NCRICなど）が使用する同様の（数値解析ソフトウェア）にはSASがある。[ 74 ]
マネーロンダリング対策において、FinCENは1995年からFinCEN人工知能システム（FAIS）を使用している。[ 75 ] [ 76 ]
各国の保健行政機関やAHIMA（米国医療情報管理協会）などの組織は医療記録を保有しています。医療記録は、患者ケアの計画や、患者と医療提供者および患者のケアに貢献する専門家間のコミュニケーションを記録するための中心的なリポジトリとして機能します。EUでは、医療データの利用を支援する欧州医療データスペースの作業が進行中です。 [ 77 ]
米国国土安全保障省は、 Amazon Cloud上で動作するソフトウェア ATLAS を採用しました。帰化米国人の 1,650 万件以上の記録をスキャンし、そのうち約 124,000 件を米国市民権・移民業務局(USCIS)職員による帰化取消に関する手動分析およびレビューの対象としてフラグ付けしました。[ 78 ] [ 79 ]フラグ付けの理由は、詐欺の可能性、公共の安全、国家安全保障上の問題です。スキャンされたデータの一部は、テロリストスクリーニングデータベースおよび国家犯罪情報センターから取得されました。
NarxCareは米国のソフトウェア[ 80 ]で、米国のさまざまな州の処方箋登録簿[ 81 ] [ 82 ]のデータを組み合わせ、機械学習を使用して、処方薬のさまざまな3桁の「リスクスコア」と全体的な「過剰摂取リスクスコア」を生成します。これらはまとめてNarxスコアと呼ばれ[ 83 ] 、 EMSや刑事司法データ[ 80 ]、裁判記録[ 84 ]が含まれる可能性があります。
エストニアでは、人工知能が電子政府に利用され、自動化とシームレス化が図られています。仮想アシスタントが、市民が政府とやり取りする際のガイドとなります。自動化されたプロアクティブなサービスは、市民の人生における重要な出来事（出産、死別、失業など）の際に、市民にサービスを「プッシュ」します。一例として、赤ちゃんが生まれた際の自動登録があります。[ 85 ]エストニアのX-Roadシステムも再構築され、政府が市民のデータを使用する方法に、より多くのプライバシー管理と説明責任が組み込まれる予定です。[ 86 ]
コスタリカでは、公共調達活動（公共事業の入札など）のデジタル化の可能性が調査されている。この可能性について論じた論文では、調達におけるICTの利用には、透明性の向上、公共入札へのデジタルアクセスの容易化、高い誠実性リスクのある時点での調達担当者と企業間の直接的なやり取りの削減、普及と競争の促進、不正の検出の容易化など、いくつかの利点があると述べている。[ 87 ]
通常の公共事業（建物や道路の建設）に電子入札を利用することに加えて、電子入札は植林プロジェクトやその他の炭素吸収源回復プロジェクトにも利用できます。[ 88 ]炭素吸収源回復プロジェクトは、パリ協定の国家目標を達成するための国別貢献計画の一部となる可能性があります。
政府調達監査ソフトウェアも使用できます。[ 89 ] [ 90 ]一部の国では、補助金を受け取った後に監査が実施されます。
一部の政府機関は、提供するサービスに対して追跡システムを提供しています。例としては、市民が行う申請（運転免許証の取得など）の追跡システムが挙げられます。 [ 91 ]
政府機関の中には、進行中の問題を追跡するために問題追跡システムを使用しているところもある。 [ 92 ] [ 93 ] [ 94 ] [ 95 ]
オーストラリアの裁判官の判決は、離婚後の財産分与の割合を決定する際に「Split Up」ソフトウェアによってサポートされています。[ 96 ] COMPASソフトウェアは、米国で裁判所の再犯リスクを評価するために使用されています。 [ 97 ] [ 98 ]北京インターネット裁判所の声明によると、中国はインターネット裁判所またはサイバー裁判所を創設した最初の国です。[ 99 ] [ 100 ] [ 101 ]中国のAI裁判官は、実際の女性裁判官の仮想再現です。彼女は「訴訟受付を含む反復的な基本作業を裁判所の裁判官が完了するのを助け、専門家が裁判業務に集中できるようにします」。[ 99 ]また、エストニアは、 7,000ユーロ未満の少額訴訟事件の決定に人工知能を使用する予定です。[ 102 ]
法律ボットは、通常、法律事務所のパラリーガルや若手アソシエイトが行うタスクを実行できます。米国の法律事務所が法律調査を支援するために使用している技術の1つはROSS Intelligenceのもので、[ 103 ] 、他のものは洗練度やスクリプト化されたアルゴリズムへの依存度が異なります。[ 104 ]別の法律テクノロジーチャットボットアプリケーションはDoNotPayです。
2020年のCOVID-19パンデミックにより、数千人の学生にとって対面での期末試験は不可能となった。[ 105 ]公立高校のウェストミンスター高校は、成績を割り当てるためにアルゴリズムを採用した。英国教育省も、パンデミックのため、Aレベルの最終成績を割り当てるために統計計算を採用した。 [ 106 ]
採点に利用される以外にも、AIのようなソフトウェアシステムは大学入学試験の準備に利用された。[ 107 ]
AIティーチングアシスタントは教育のために開発され、使用されています（例：ジョージア工科大学のジル・ワトソン）[ 108 ] [ 109 ]また、教師がAIシステムに完全に置き換えられる可能性についても議論が続いています（例：ホームスクーリング）。[ 110 ]
2018年、松田道人という活動家が、人工知能プログラムの人間代理人として東京都多摩市の市長選に立候補した。[ 111 ]選挙ポスターや選挙運動資料では「ロボット」という言葉が使われ、女性型アンドロイドのストック画像が掲載されていたが、この「AI市長」は実際には多摩市のデータセットを使って訓練された機械学習アルゴリズムだった。[ 112 ]このプロジェクトは、ソフトバンクの松本哲三氏やグーグルの村上典雄氏といった著名な経営者によって支援されていた。[ 113 ]松田道人は選挙で安倍裕之氏に敗れ、3位となった。[ 114 ]主催者側は、「AI市長」は市議会に提出された市民の請願を人間の政治家よりも「公平かつバランスの取れた」方法で分析するようにプログラムされていると主張した。[ 115 ]
2018年、セサル・イダルゴは拡張民主主義の構想を発表した。[ 116 ]拡張民主主義では、立法は一人ひとりのデジタルツインによって行われる。
2019年、AI搭載のメッセンジャーチャットボットSAMは、ニュージーランドの選挙に関連したソーシャルメディア上の議論に参加した。[ 117 ] SAMの開発者であるニック・ゲリッツェンは、ニュージーランドで次の総選挙が行われる2020年末までにSAMが候補者として立候補できるほど進歩すると考えていた。[ 118 ]
2022年、チャットボット「リーダー・ラース」または「レーダー・ラース」が、 2022年のデンマーク議会選挙に出馬する合成党の候補者として指名され[ 119 ]、アーティスト集団コンピュータ・ラースによって構築された[ 120 ]。リーダー・ラースは、政党を率い、客観的な候補者を装わないという点で、以前の仮想政治家とは異なっていた[ 121 ] 。このチャットボットは、世界中のユーザーと政治に関する批判的な議論を行った[ 122 ] 。
2023年11月、日本の真鶴町で、「AI市長」と呼ばれる市長候補が、日本初のAI搭載市長を目指して立候補した。この立候補は、松田道人氏率いるグループによって支援されていると言われている。[ 123 ]
2024年の英国総選挙で、スティーブ・エンダコットという名のビジネスマンが「AIスティーブ」という名のAIアバターとしてブライトン・パビリオン選挙区から立候補し[ 124 ]、有権者はAIスティーブと対話して政策を形成できると述べた。エンダコットは、少なくとも50%の支持を得た政策に基づいてのみ議会に出席し投票すると述べた[ 125 ] 。AIスティーブは179票で最下位となった[ 126 ] 。
2025年9月11日、アルバニアのエディ・ラマ首相は、 AIチャットボットのディエラを公共調達大臣に任命した。[ 127 ]この措置により、アルバニアは「公共入札の100％が汚職のない国」になると主張した。[ 128 ]彼は、そのプロセスは「段階的」であり、「アルバニアの公共入札は100％不正がなく、入札手続きを経るすべての公的資金は100％明瞭である」と述べた。[ 127 ]彼が彼女の任命について話しているのか、それともDiellaを使用して公共調達を自動化するプロセスについて話しているのかは解釈に委ねられている。アルバニアがこの目的でDiellaを使用すべきかどうかという話題については、世論は二分されている。多くの東欧人は、この動きは正しい方向への一歩であり、アルバニアは前進していると主張している。[ 129 ]しかし、多くの西欧人は、数十億ドルの公的資金をAIの手に委ねるのは危険で無謀な動きだと述べ、より批判的な視点でこの動きに取り組んでいる。[ 130 ]
2020年2月、中国はコロナウイルスの流行に対処するため、「濃厚接触者検出」と呼ばれるモバイルアプリをリリースしました[ 132 ] [ 133 ] 。ユーザーは名前とID番号を入力するよう求められます。このアプリは監視データ（つまり、電車や飛行機などの公共交通機関の記録）を使用して「濃厚接触」を検出し[ 133 ] 、感染の潜在的なリスクを検出できます。各ユーザーは、他の3人のユーザーの状況も確認できます。この問い合わせを行うには、ユーザーはAlipayやWeChatなどのアプリを使用してスマートフォンのQRコードをスキャンします[ 134 ]。濃厚接触者検出は、Alipayなどの人気のあるモバイルアプリからアクセスできます。潜在的なリスクが検出された場合、アプリは自己隔離を推奨するだけでなく、地元の保健当局にも警告します[ 135 ] 。
Alipayには、市民の安全を守るためのAlipay健康コードもあります。このシステムは、ユーザーがAlipayのフォームに個人情報を入力すると、3色（緑、黄、赤）のいずれかのQRコードを生成します。緑のコードは、所有者が自由に移動できることを意味します。黄色のコードは、ユーザーが7日間自宅待機する必要があり、赤は2週間の隔離を意味します。杭州などの一部の都市では、Alipayコードを見せないと移動することがほぼ不可能になっています。[ 136 ]
フランスのカンヌでは、監視ソフトウェアがCCTVカメラで撮影された映像に使用され、COVID-19パンデミック中の地域の社会的距離とマスク着用の遵守状況を監視できるようになっています。このシステムは個人を特定できるデータを保存しませんが、マスク着用規則違反が発見された場合に市当局や警察に警告を発し、必要に応じて罰金を科すことができます。監視ソフトウェアで使用されるアルゴリズムは、公共スペース（病院、駅、空港、ショッピングセンターなど）の既存の監視システムに組み込むことができます[ 137 ]。
韓国、台湾、シンガポール、その他の国では、携帯電話データが感染者の所在特定に使用されている。[ 138 ] [ 139 ] 2020年3月、イスラエル政府は、コロナウイルスに感染していると思われる人々の携帯電話データを追跡できるよう治安機関に許可した。この措置は、隔離を徹底し、感染者と接触する可能性のある人々を保護するためであった。[ 140 ]また、2020年3月、ドイツテレコムは、ウイルスの拡散を調査および防止するために、個人の携帯電話データを連邦政府機関であるロベルト・コッホ研究所と共有した。 [ 141 ]ロシアは、隔離違反者を検出するために顔認識技術を導入した。[ 142 ]イタリアの地域保健委員ジュリオ・ガレラ氏は、携帯電話事業者から報告を受けたところによると、「40％の人々が依然として移動を続けている」と述べた。[ 143 ]米国、ヨーロッパ、英国では、パランティア・テクノロジーズがCOVID-19追跡サービスの提供を担当している。[ 144 ]
津波は津波警報システムによって検出できます。AI を利用できます。[ 145 ] [ 146 ]洪水も AI システムを使用して検出できます。[ 147 ]山火事はAI システムを使用して予測できます。[ 148 ] [ 149 ]山火事の検出は AI システム(衛星データ、航空画像、GPS 電話の人員位置など) によって可能であり、山火事の際の人々の避難に役立ち、[ 150 ]家主が山火事にどのように対応したかを調査し、 [ 151 ]コンピュータ ビジョンを使用してリアルタイムで山火事を発見することができます。[ 152 ] [ 153 ]地震検出システムは、地震データを測定し、検出と予測率を向上させる複雑なアルゴリズムを実装することによって、AI 技術の開発とともに改善されています。[ 154 ] [ 155 ] [ 156 ]地震の監視、位相の特定、地震信号の検出は、深層学習、分析、計算モデルの AI アルゴリズムによって発展してきた。[ 157 ]機械学習を使用してバッタの繁殖地を近似することができ、これによりバッタの大群を初期段階で阻止するのに役立つ可能性がある。[ 158 ]
アルゴリズムによる規制は、スマートデバイスやコンピューターを介して市民から収集されたより正確なデータを使用して、人間の生活をより効率的に組織化するガバナンスシステムであるとされています。[ 159 ] [ 160 ]デロイトが2017年に推定したところによると、米国政府の業務を自動化すると、年間9670万時間の連邦時間を節約でき、33億ドルの節約が見込まれます。最大では、12億時間、年間411億ドルの節約が見込まれます。[ 161 ]
政府におけるアルゴリズムの利用には、潜在的なリスクが伴う。それらには以下のようなものがある。
2016年の書籍『数学兵器』によると、アルゴリズムとビッグデータは、不透明性、規模、および損害により不平等を増大させる可能性があると疑われている。[ 164 ]
また、規制対象者による不正操作が発生する可能性も深刻な懸念事項である。アルゴリズムによるガバナンスによって意思決定の透明性が高まると、規制対象者は自らに有利になるように結果を操作したり、敵対的機械学習を使用したりする可能性もある。[ 1 ] [ 20 ]ハラリによれば、民主主義と独裁主義の対立は、2つの異なるデータ処理システム（AIとアルゴリズム）の対立と見なされており、膨大な量の情報を中央集権的に処理することで、後者に有利に働く可能性がある。[ 165 ]
2018年、オランダは福祉詐欺を犯すリスクが高いと見なされる市民を検出するためにアルゴリズムシステムSyRI（Systeem Risico Indicatie）を導入し、何千人もの人々を密かに捜査官に警告した。[ 166 ]これに対し国民の抗議が起こり、ハーグ地方裁判所は欧州人権条約第8条を根拠にSyRIを停止させた。[ 167 ]
2019年のドキュメンタリー映画『iHuman』の出演者たちは、政府のAIによって生み出される「無限に安定した独裁政権」への懸念を表明した。[ 168 ]
国民の批判を受け、オーストラリア政府は2019年にロボット債務制度の主要機能の停止と、同制度を利用して発生したすべての債務の見直しを発表した。[ 169 ]
2020年、イギリスで学生の試験成績を割り当てるアルゴリズムが「アルゴリズムなんてクソくらえ」というスローガンの下、公然とした抗議を引き起こした。 [ 106 ]この抗議は成功し、成績は取り消された。[ 170 ]
2020年、 Amazon Cloud上で動作する米国政府のソフトウェアATLASは、活動家やAmazonの従業員から激しい非難を浴びた。[ 171 ]
2021年、Eticas Foundationは、社会的影響のあるアルゴリズムの観測所（OASI）と呼ばれる政府アルゴリズムのデータベースを立ち上げた。 [ 172 ]
2023年の年次レビューの要約では、政府によるAIの使用を規制するには、説明責任、透明性、およびバイアスに対処する社会技術的設計が必要であることが強調されている。[ 173 ]
An initial approach towards transparency included the open-sourcing of algorithms.[174] Software code can be looked into and improvements can be proposed through source-code-hosting facilities.
A 2019 poll conducted by IE University's Center for the Governance of Change in Spain found that 25% of citizens from selected European countries were somewhat or totally in favor of letting an artificial intelligence make important decisions about how their country is run.[175] The following table lists the results by country:
Researchers found some evidence that when citizens perceive their political leaders or security providers to be untrustworthy, disappointing, or immoral, they prefer to replace them by artificial agents, whom they consider to be more reliable.[176] The evidence is established by survey experiments on university students of all genders.
A 2021 poll by IE University indicates that 51% of Europeans are in favor of reducing the number of national parliamentarians and reallocating these seats to an algorithm. This proposal has garnered substantial support in Spain (66%), Italy (59%), and Estonia (56%). Conversely, the citizens of Germany, the Netherlands, the United Kingdom, and Sweden largely oppose the idea.[177] The survey results exhibit significant generational differences. Over 60% of Europeans aged 25–34 and 56% of those aged 34–44 support the measure, while a majority of respondents over the age of 55 are against it. International perspectives also vary: 75% of Chinese respondents support the proposal, whereas 60% of Americans are opposed.[177]
The 1970 David Bowie song "Saviour Machine" depicts an algocratic society run by the titular mechanism, which ended famine and war through "logic" but now threatens to cause an apocalypse due to its fear that its subjects have become excessively complacent.[178]
In the 1976 film Logan's Run, a domed city is ruled by a massive artificial intelligence known as the City Computer, which maintained a strict, hedonistic utopia by enforcing a maximum lifespan of 30, killing any citizen who reached that age through a ritual known as Carousel.
ダニエル・スアレスの小説『デーモン』（2006年）と『フリーダム™』（2010年）は、世界的なアルゴリズム規制の架空のシナリオを描いている。[ 179 ]マシュー・デ・アバイチュアの『イフ・ゼン』は、「公平性」に基づいているとされるアルゴリズムが前近代的な農村経済を再現する様子を描いている。[ 180 ]
2003年のSF映画『コード46』では、「スフィンクス」は巨大な全体主義的な保険会社であり、厳重に警備された未来都市間を市民が移動するために必要な、遺伝子情報が組み込まれたパスポートを発行するコンピューターを通じて社会を支配し、人間の移動や行動に関する厳格な規則を定めている。