デジタル自己決定

デジタル自己決定は、自己決定の法的概念から派生し、デジタル領域に適用された学際的な概念であり、社会や日常生活の多くの側面のデジタル化の進展に伴って生じる個人および集団の主体性と自律性に対する特有の課題に対処します。

デジタル自己決定という概念は、哲学的にも法的にもまだ合意されていません。大まかに言えば、この用語は、人間の自己決定のパターン（哲学や心理学、法律などの分野で最初に研究されたもの）をデジタル時代に包括的に投影する試みを表しています。

この概念は、フランスの電気通信規制機関ARCEPの2021年インターネット状況報告書^[1]の一部に初めて公式文書として記載され、ルカ・ベリ教授が実施した「ネットワークの自己決定」^[2]に関する研究が取り上げられています。

自己決定の概念は、古典的な中央ヨーロッパ哲学における主観性、尊厳、自律性の概念に関連しており、イマヌエル・カントの自由の概念に由来しています。自己決定は、人間が理性と、自分自身で合理的に選択し正当化した行動に対する責任（自律性）を持つ存在であり、それに応じて扱われるべきであることを前提としています。定言命法（ kategorischer Imperativ）を定式化する際に、カントは、人間は自律性の条件として、目的を達成するための手段として扱われるべきではなく、それ自体が目的であると示唆しました。自己決定のパターンも同様に、自律的な人間が過度の干渉を受けることなく、自分自身のアイデンティティ、行動、人生の選択を創造し、選択し、追求できるようにすることを目的としています。

心理学において、自己決定の概念は、自己規制や内発的動機づけ、すなわち、金銭的インセンティブ、地位、恐怖などの外的な動機やプレッシャーに駆り立てられるのではなく、本質的にやりがいがあるために行動や活動に従事することと密接に関連している。この文脈では、自己決定と内発的動機づけは、自分の選択と行動をコントロールしているという感覚に結びついており、心理的幸福に必要であると考えられている。自己決定理論（SDT）は、1980年代に心理学者のリチャード・ライアンとエドゥアルド・デシによって初めて提唱され、^{[3] [4]} 1990年代から2000年代にかけてさらに発展し、心理学の分野で自己決定の概念を形成する上で大きな影響力を持っていた。ライアンとデシのSDTは、個人の動機づけられた行動は、自律性、有能性、関連性という3つの基本的かつ普遍的なニーズによって特徴付けられると提唱した。^[5]ここでの自律性とは、自分の行動方針を自由に決定できる必要性を指します。有能性とは、動機付けられた行動を効果的に実行し完了する能力とスキルを持つ必要性を指します。最後に、関係性とは、温かく思いやりのある社会的関係を経験し、他の人とのつながりを感じる必要性を指します。SDT によると、最適な機能と心理的幸福のためには、これら 3 つのニーズがすべて満たされる必要があります。ただし、バリー シュワルツなどの他の心理学者は、自己決定が極端になると、選択の自由が「選択の暴政」に変わる可能性があると主張しています。^[6]この見方では、行動方針に関してあまりにも多くの自律性と選択肢を持つことは、圧倒的であると認識され、決定をより困難にし、最終的には幸福ではなく心理的苦痛につながる可能性があります。

国際法では、人民の自決権は、一般的に強行原則として認められている。ここでの自決権とは、人民が平等の権利と公正な機会均等の原則を尊重する上で、干渉を受けることなく、主権、国際的政治的地位、経済的、社会的、文化的発展を自由に選択する権利を有することを意味する。国連の枠組みでは、自決権のような基本的権利は、主に世界人権宣言、市民的及び政治的権利に関する国際規約、経済的、社会的及び文化的権利に関する国際規約で定義されている。

情報の自己決定（情報Selbstbestimmung）の概念は、不当なデータ処理から保護する現代の基本的権利とみなされており、ドイツ連邦憲法裁判所（Bundesverfassungsgericht）の判例で重要な位置を占めており、デジタルの自己決定の概念の最も直接的な先駆けであり、インスピレーションである可能性があります。

1983 年、連邦最高裁判所は、「現代のデータ処理の文脈では、基本法第 2 条第 1 項および第 1 項に基づく一般的な人格権は、個人データの無制限の収集、保管、使用、共有に対する個人の保護を包含する。この基本的権利は、原則として、個人データの開示および使用について個人自身で決定する権限を個人に付与することを保証する」と判決を下しました (Volkszählungsurteil、見出し 1)。

哲学的には、情報に関する自己決定権は、連邦憲法第 1 条の不可侵の人間の尊厳を人間の客体化 (ドイツ語: Objektformel、たとえば BVerfGE 27、1 - Mikrozensus の 33 を参照) の禁止として理解するという連邦憲法裁判所の理解に深く根ざしています。この理解は、18 世紀後半のドイツ啓蒙主義哲学に遡ります。国民情報管理規則は、現代のデータ処理技術が「人間の尊厳と相容れない方法で個人の人格を登録およびカタログ化する」ことにつながる可能性がある (国民情報管理規則、見出し 4) という懸念から生まれました。この見解では、人間は不可侵の尊厳を有するため、データとして収集できる非人格化され客体化されたリソースのように扱われることは決してありません。その代わりに、人間は自律性を備えているため、自らの情報イメージをかなりの程度制御できる自己決定主体です。

社会のほとんどの側面でデジタル化が進むにつれ、自己決定の概念と実現に新たな課題が生じている。^[7]デジタル領域はイノベーションをもたらし、世界中の個人に自己表現とコミュニケーションの新たな機会をもたらしたが、その影響と恩恵は均等に行き渡っておらず、既存の不平等と権力構造を深めることも多く、一般にデジタルデバイドと呼ばれている。さらに、デジタルトランスフォーメーションにより、多くの場合個人が知らないうちに、民間企業や政府が個人データを大量に収集、分析、収集し、個人の情報や嗜好を推測したり（閲覧履歴や買い物履歴の追跡など）、意見や行動に影響を与えたり（フィルターバブルやターゲット広告など）、それらに関する決定を下したり（ローンや就職の申し込みを承認するかどうかなど）することが可能になり、個人のプライバシーと自律性に対する新たな脅威となっている。^[8]

デジタル自己決定の定義はまだ進化しているが、この用語は、デジタルメディア、空間、ネットワーク、テクノロジーにおける存在と使用において自己決定を行使する人間の能力（またはその欠如）に対処するために使用されており、デジタル世界における人間の繁栄の可能性を保護することが主な懸念事項の一つとなっている。^[9]

2010 年代から、世界中でいくつかの学際的かつ部門横断的な取り組みが、デジタル自己決定の概念に関する理論的枠組みの開発に取り組んできました。

2015年、ケルン大学に設置されたケルン倫理・権利・経済・健康社会科学センター（CERES）は、デジタル自己決定の定義と、その達成度を測定する指標の開発を支援するための調査を実施しました。^[10]彼らの研究報告書では、デジタル自己決定を「人間の個性の具体的な発達、またはデジタルメディアの意識的な使用に関連するか、デジタルメディアの存在または機能に（相互に）依存する限りにおいて、自分の行動計画や行動決定を実現する可能性」と定義しています。

2017年、ルカ・ベリ教授は国連インターネットガバナンスフォーラムで、ネットワーク自己決定の概念を「ネットワークインフラの設計、開発、管理を民主的な方法で共通の利益として定義し、すべての個人が自由に情報とイノベーションを求め、伝え、受け取ることができるようにするために、自由に結社する権利」と発表しました。^[11]ネットワーク自己決定権は、人々の基本的な自己決定権と情報の自己決定権にその根拠があると主張し、ネットワーク自己決定は、個人が結びつき、ボトムアップ方式でデジタル格差を埋める努力に参加し、共通のインフラを自由に開発できるようにする上で極めて重要な役割を果たしていると主張しています。この概念はラテンアメリカレベルで支持を集め、コミュニティネットワークに特化した研究と政策提案の中核要素を形成し始めました。^[12]

2018年、スイス政府は連邦議会の「デジタル・スイス」戦略の行動計画に応えて、スイス連邦政府、学界、市民社会、民間部門の代表者を含むデジタル自己決定ネットワークを立ち上げました。^[13]このネットワークの活動は、デジタル自己決定を「社会のすべての関係者がデータ経済の可能性から利益を得ることができるようにしながら、デジタル変革への信頼を高める方法」と概念化しています。この活動は、デジタル自己決定の中核原則は透明性と信頼、管理と自己決定的なデータ共有、ユーザー指向のデータ空間、市民のニーズに近い分散型データ空間であると提案しています。ネットワークの活動は、「デジタル自己決定の基本原則を表す国際ネットワークを作成し、これに基づいて国際的なデータ空間を開発するためのベストプラクティス、標準、合意を策定する」ことを目指しています。

2021年、フランス電気通信規制当局（ARCEP）は、「インターネットの現状」をテーマとした公式年次報告書の中で、デジタル自己決定の概念に言及しました。^{[1]これは、} IGFの成果文書報告書「危機の時代におけるインターネットの開放性の価値」を 引用したものです。

2021年、シンガポール経営大学のAIとデータガバナンスセンターは、スイス政府や他の研究パートナーと共同で、デジタル自己決定の概念に焦点を当てた大規模な研究プロジェクトを立ち上げました。^[14]彼らの理論的枠組み^[7]はデータガバナンスとプライバシーに焦点を当てており、デジタル自己決定の中核となる要素は、データ主体がデジタル領域での自己意識を監督する権限、データを管理する能力、プライバシーとデータ保護の基礎としての同意、データの不正行為に対する保護、収集されたデータの正確性と真正性であると提案しています。この提案された枠組みはまた、デジタル自己決定は個人と集団の両方を指し、その概念は「義務に依存する権利」の文脈で、社会的または関係的な自己、社会的責任、デジタル連帯の概念と並行して理解されるべきであることを強調しています（以下を参照：3.1. デジタル自己決定における多層的な「自己」への対処）

2021年、デジタルアジアハブは、ハーバード大学バークマン・クラインセンターおよびグローバルインターネット＆ソサエティセンターネットワークと共同で、さまざまな視点と文化的文脈からデジタル自己決定の概念を探求する研究スプリントを実施した。この取り組みは、デジタル自己決定を「選択肢が縮小する中で自律性と主体性の行使を可能にする、または少なくとも貢献するものとして」捉え、「基盤となるインフラストラクチャを含むデジタル技術とデジタルメディアによってますます構築され、仲介され、時には支配される世界」における制御、権力、公平性の問題に対処した。^[15]

政府や研究センターの活動に加えて、市民社会のメンバーもデジタル自己決定を主張している。例えば、法律弁護士であり、架空の法律短編小説や小説で広く読まれているドイツの作家、フェルディナント・フォン・シーラッハは、「すべての人間」と訳される「JEDER MENSCH」と題するイニシアチブを立ち上げた。「JEDER MENSCH」で、シーラッハは欧州連合基本権憲章に6つの新しい基本的権利を追加するよう求めている。この提案の第2条は「デジタル自己決定権」と題されており、「すべての人はデジタル自己決定権を有する。過度なプロファイリングや人々の操作は禁止される」と提案している。^[16]

2021年10月には、「世界中のさまざまな分野から多様な視点を集め、信頼できるデータ空間に関与し、人間中心のアプローチを確保する方法を研究・設計する」ことを目的として、デジタル自己決定^に関する国際ネットワーク[17]が設立されました。^[18]このネットワークは、スイス連邦外務省国際法局^[19]、シンガポール経営大学の人工知能とデータガバナンスセンター^[20] 、ハーバード大学バークマン・クラインセンター^[21] 、 TUM社会科学技術学部のグローバルテックポリシープラクティス^{[22] 、ニューヨーク大学のGovLab [23]}の専門家で構成されています。

立法者や政策立案者から公的機関や学者、活動家や市民社会のメンバーに至るまで、社会のさまざまなセクターが、平等で自由なアクセス、人間中心の設計、より優れたプライバシー保護とデータ管理を含む、個人の自己決定権を保護し促進するデジタル インフラストラクチャ、ツール、システムを求めています。これらの要素は密接に関連しており、相互に補完し合っています。たとえば、デジタル インフラストラクチャへの平等なアクセスにより、デジタル領域での多様な視点の表現と参加型ガバナンスが可能になります。また、個人が自分のデータを管理できるようにするには、分散型システムが必要になる場合があります。

既存の様々な形態の情報格差を埋め、デジタル技術とインターネットへの公平かつ公正なアクセスを提供することは、情報、サービス、昇進の機会へのアクセスなど、デジタル時代の恩恵をすべての個人が受けられるようにするために重要であると提案されている。^{[24] [25]}

この意味で、デジタル自己決定の概念は「ネットワーク自己決定」の概念と重なり合っている。^[26]これは、つながっていない、またはほとんどつながっていない個人の集団が、デジタルインフラを構築し、それらを共通の利益として組織するガバナンスの枠組みを形成することによって、デジタルインフラに対する制御を取り戻すことができるということを強調している。^[27]このように、ベリは、ネットワーク自己決定は、影響を受けるコミュニティにいくつかのプラスの外部効果をもたらし、インターネットをオープンで分散型で相互運用可能で生成的なネットワークのネットワークとして維持することを強調している。^[2]

デジタルリテラシーとメディアリテラシーは、個人がデジタルツールを使用するための知識とスキルを習得するだけでなく、オンラインで遭遇するコンテンツを批判的に評価し、独自のコンテンツを作成し、自分たちに使用されるデジタル技術と意識的に進んで関与する技術の特徴と意味を理解するために必要であると提案されています。^[28]基本的なデジタルナビゲーションスキルと情報の批判的消費に加えて、デジタルリテラシーの定義は、使用されているデジタルプラットフォームとサービスの既存の代替手段の認識、個人データがどのように扱われるかの理解、権利と既存の法的保護の認識、オンラインでのセキュリティとプライバシーを独自に保護するための対策（デジタル監視を回避および抗議する方法としての難読化技術の採用など）を含むように拡張されています^[29]。

インターネット活動家のイーライ・パリサーは、パーソナライズされた検索や推奨システムなどのパーソナライゼーションアルゴリズムの結果として、オンラインで遭遇する相反する意見や現実の利用可能性が低下していることを指して、「フィルターバブル」という用語を作り出した。^[30]フィルターバブルは、他人の視点や世界に対する歪んだ理解を促進すると示唆されている。デジタルプラットフォーム上で多様な現実を幅広く表現することは、相反する視点に触れる機会を増やし、情報バブルへの知的孤立を避ける方法となり得る。

学者たちは、情報や製品の量がますます増える中で、人間の注意力を希少な商品として扱うことを「注意力経済」という言葉で表現している。この見方では、特に広告収入モデルに依存している場合、ユーザーの限られた注意力​​をめぐる競争が激化することで、デジタルプラットフォームにとって、できるだけ多くの人々に自社の製品やサービスを使ってできるだけ多くの時間と注意を費やしてもらうという差し迫った目標が生まれる。ユーザーの希少な注意力を求める中で、これらのプラットフォームは、たとえば絶え間ない通知、ダークパターン、強制的なマルチタスク、社会的比較、扇動的なコンテンツなどを通じて、ユーザーの認知的および感情的な弱点を利用するよう動機付けられるだろう。^{[8]技術における}人間中心設計（またはヒューメインテクノロジー）の支持者は、技術はそのような「脳ハッキング」行為を控え、代わりにユーザーの時間と注意力、そして全体的な幸福に対する主体性をサポートすべきだと提案している。^[31]

学者のショシャナ・ズボフは、民間部門が利益のためにユーザーの個人データを商品化し（ターゲット広告など）、監視や搾取に対する脆弱性が高まることを指すために、監視資本主義という用語を普及させました。監視資本主義は、民間企業がユーザーのデータの所有権と管理権を保持する集中型データ管理モデルに依存しています。個人のプライバシーと自己決定に対する挑戦を防ぐために、トラスト、^[32]、コモンズ、^[33]、協同組合、^[34]、共同体、^[35]、受託者、^[36]、「ポッド」など、さまざまな代替データガバナンスモデルが最近世界中で提案されています。^[37]これらのモデルには重複する部分があり、個人が自分のデータに対してより多くのコントロールを与え、データ保有者とデータ主体の間の現在の力関係の不均衡に対処するという共通の使命を共有しています。^[38]

個人の自己行為の行使は、その人が埋め込まれているデジタル環境と密接に関係している可能性があり、それが選択構造、情報や機会へのアクセス、危害や搾取への露出を形作り、それによってその人が自由に自律的に生活を送る能力に影響を与える可能性があります。さまざまなデジタル技術とその基盤となるインフラストラクチャは、比較的目に見えるか間接的な人間インターフェースに関係なく、社会経済的参加、文化的アイデンティティの表現、政治的表現の領域で個人の自己決定を強化または阻害する状況に寄与する可能性があります。

個人の自己決定の選択にそのような影響を与えることができる技術を介した領域の範囲は、さまざまな地域で高まる現代の議論の焦点となっている。議論の1つは、個人の情報に対する制御の一形態としての個人のプライバシー[39]が、標的^{グループの一員として個人に過度の行動的影響を与える可能性のある搾取的な}データ収集やマイクロターゲティングから十分に保護されるかどうかに関するものである。この分野の発展は、欧州連合の一般データ保護規則や中国の社会信用システム^[40]など、個人データに明確にアプローチする異なるプライバシーフレームワークとビッグデータポリシーがある国や地域によって大きく異なります。^[41]

その他の議論としては、予測アルゴリズムによって個人の意思決定の主体性が損なわれる可能性があるかどうか[ 42 ] 、^特に南半球の労働者^[43]がデジタル経済における新たな雇用機会や特有の脆弱性に遭遇する可能性があるかどうか、スマートシティに配備された監視技術、特に生体認証データで動作する顔認識機能と感情認識機能を統合した監視技術によって個人の自己表現が不当かつ差別的に監視される可能性があるかどうか、デジタル・パノプティコンの一形態として^{[44] 、}デジタル・ディバイドや集中型オンライン・プラットフォームの優位性によって個人の多様な情報へのアクセスが影響を受け、自分のアイデンティティを想像する能力^[45]や情報に基づいた意思決定を行う能力が制限される可能性があるかどうかなどがある。

デジタルメディアとテクノロジーは、子どもたちに、発達、学習、娯楽の時間をサポートするさまざまな活動に参加する機会を提供します。^{[46] [47]}このような活動には、遊び、他の人との交流、コンテンツの共有と作成、関与するメディアによって提供されるさまざまな形式のアイデンティティの実験が含まれます。^[48]同時に、デジタルメディアのアフォーダンスにもかかわらず、子供は18歳未満のユーザーであるため、子供のコンテンツの消費方法、脆弱性、テクノロジーとのやり取りが子供の感情的、行動的、認知的発達に影響を与える方法に意図しない結果が生じる可能性があります。 そのため、デジタルリテラシーと子供のテクノロジーインタラクション研究の呼びかけでは、子供にとって公平な環境を設計するには、テクノロジーの倫理的設計が不可欠であると主張しています。^[49]デジタルメディアと学習の研究では、子供の学習と発達のための広範な方法を作成するためのテクノロジーのアフォーダンスが認識されると同時に、子供がデジタルメディア内で知識を伝達、評価、構築できるようにする重要なデジタルリテラシーを習得する必要があることに注意が払われています。^[50]さらに、子どもの自己決定を支援するために倫理的配慮も考慮されるべきである。^[51]例えば、この一連の研究の中では、子ども向けの技術設計に取り組む際の倫理的方法論的アプローチとして、技術設計の意思決定プロセスに子どもを関与させることに注目が集まっている。言い換えれば、技術の設計プロセスに子どもを関与させ、子どものやりとりの倫理的側面について考えることで、脆弱性の概念を、子どもが自己決定を実行できるように支援し、子どもを自分のデジタル未来の積極的な創造者として位置付ける方向にシフトさせることができる。

倫理的な考慮を超えて、デジタル技術やデジタル市場の慣行への子供の関与は、彼らのプライバシーとデータ保護の権利とも重要な関連性がある。予測分析や追跡ソフトウェアシステムの使用は、大規模なプロファイリング慣行を悪用することで、子供たちのデジタルおよび現実の生活の選択に影響を与える可能性がある。実際、これらのアルゴリズムシステムは国家レベルと民間セクターの両方で広く使用されているため、子供たちのプライバシーは簡単に侵害され、デジタル領域で個人を特定できる可能性がある。 ^[52]

国連子どもの権利条約第12条は、子どもが「自由に、いかなる圧力も受けずに」自らの意見を形成し、表明する権利を持つべきであるという国家への責任を暗示している。^[53]文字通りの解釈では、圧力とはあらゆる種類の操作、抑圧、搾取を指す。締約国は、年齢に関係なくすべての子どもが自らの自律的な意見を形成し、表明する能力があることを認識すべきである。^[53]また、委員会は、子どもは、自分たちに影響を及ぼす主題について包括的な理解を持っていない場合でも、意見を表明される権利を持つべきであると述べている。^[53]さらに、国連子どもの権利条約第3条は、子どもの最善の利益は、民間および政府の意思決定プロセスに組み込まれ、子どもが関与するサービスおよび手続きに関して第一に考慮されなければならないと述べている。^{[54]これらの責任を民間および公共のデジタル慣行に結び付けると、子どもの権利委員会の一般意見第25号で強調されているように、子どもはデジタル領域において、脆弱で進化する}アイデンティティに関して大きなリスクにさらされている。^[55]大量監視と予測分析の普及により、国家が子供の生まれながらの権利を保護するために新たな紛争が起こりつつあることが判明しました。この目的のために、最近の集団訴訟と規制の取り組みテクノロジー企業は、民間部門に子供の自立を守る黄金の盾となるプライバシー保護慣行を採用するよう促す文脈において有望な例となる可能性があります。^{[56] [57]}この不注意な規制の雰囲気の中で、子供に対する行動ターゲティング広告 の助けを借りて利益を上げることが容易になりました。 ^[58]適切な同意・情報提供/親の同意慣行がなければ、子供の非常に本質的な脆弱性を操作して悪用し、特定の製品やアプリケーションを選択するように仕向けることは非常に簡単です。これに関して、GDPRの第8条は、情報社会サービス（ISS）に関連する児童の個人データの処理に、一連の年齢制限を規定します。第8条に従い、子供が16歳以上である場合、子供は処理の目的が限定された個人データの合法的な処理に同意することができます（第6条(1)(a)）。16歳未満の子供については、子供に対する親権者によって与えられた同意の範囲内でのみ合法です。この16歳という年齢制限は、加盟国により13歳まで引き下げられる可能性があります。これに加えて、データ管理者は子供のデータの保護に関して必要な措置を講じるべきであることが強調されています。これを裏付けるように、第38条の理由説明では、子供は個人データの処理に関する影響、結果、および保護手段をあまり認識していないことを考慮して、子供はデータの使用、収集、および処理に関して特別な保護を受けるに値すると述べています。GDPRは、第40条、第57条、理由説明58条、および第75条でも子供に言及しています。

GDPR以外では、構造化された規制の1つとして、2020年9月に可決された英国の情報コミッショナー事務局（ICO）の児童コード（正式には年齢相応の設計コード）がある。 ^[59]児童コードは、無料で提供できる年齢制限を18歳と定めているが、アプリ、ゲーム、接続デバイス、玩具、新サービスなどのオンラインサービスの提供者に責任があることを暗示している。児童コードがEU規制と異なるのは、児童コードが子供がアクセスする可能性のあるすべての情報社会サービスに適用される点である。つまり、サービスが直接子供を対象としていなくても、それらのサービスを提供する当事者は児童コードを遵守する必要がある。ICOの児童コードには、国連児童権利条約に定められた子供の最善の利益の概念も浸透している。^[60] ICOは、適用範囲が広く、組織が子供の最善の利益という概念を支持するための指針となるポイントを列挙している。例えば、子供には自分の意見を形成する能力が発達していることを認識し、その意見に正当な考慮を払う、子供が自分の考えやアイデンティティを発達させる必要性を保護する、集会や遊びの権利を保護するなどである。^[60]この規範はまた、データの最小化、データ保護影響評価、年齢に適した設計、デフォルトでのプライバシー、透明性など、一連の重要な基準で子供の個人データの保護を拡大している。

帝国の政治はすでに共通の歴史に浸透している。植民地化者と被植民地化者の間の不平等な社会関係は、搾取、隔離、認識論的暴力などを通じて具体化した。世界中で、植民地主義の言説が人々の認識と文化を支配した。ポストコロニアル批評家は、被植民地化者が自分たちの生活と社会に押し付けられた抑圧的な構造と表現に対抗して、文化的、経済的、社会的主体性を獲得できる方法を主張した。^[61]

しかし、時間性を通じて、「ポスト」という前置きは、植民地化の歴史的時代が終わり、植民地化された主体が今やその言説から解放されていることを暗示している。学者たちは、植民地主義が歴史的に終わったとしても、植民地主義の継続性に焦点を当ててきた。新植民地主義の構造と言説は、すでにさまざまな「ポストコロニアル」文化の一部となっている。^[62]植民地化された国々が独立と自治権を獲得したポストコロニアル時代は、人々が自らの自己決定と自由を取り戻す手段であった。しかし、ポストコロニアル社会には、新植民地主義の構造が依然として蔓延している。国民国家は自治と自己決定の考えを推進するかもしれないが、新しい形の植民地主義は常に出現している。植民地主義と自己決定の弁証法は、さまざまな分野を網羅し、時間の経過とともに形、焦点、範囲が変化している。これは、「ポスト植民地」の人々と国家との間の複雑な政治・政策関係に反映されており、特にほとんどの国家が以前の植民地支配国の法律や政治制度を模倣していることにそれが表れています。

歴史は、健康、教育、住宅、公共事業、雇用、司法など多岐にわたる分野における国家政策が、独立後の先住民に悪影響を及ぼし、現在も及ぼし続けていることを明確に示している。^[63]この悪影響は、旧植民地の人々全体に広がっている。これらの政治的緊張と並行して、経済的利益は、旧植民地の領土から価値と資源を搾取するために、法律と統治の枠組みを操作しており、影響を受けた個人やコミュニティへの十分な補償や協議が行われることも多い。^[64]したがって、デジタル植民地主義は、デジタル分野で支配的な言説として浮上している。

デジタル植民地主義は、デジタルエコシステムの3つの中核となるソフトウェア、ハードウェア、ネットワーク接続の集中的な所有と管理を通じて行われる構造的な支配形態です。後者の3つを管理することで、巨大企業は個人だけでなく国家に対しても巨大な政治的、経済的、社会的権力を獲得します。^[65]外国のハイテク製品、モデル、イデオロギーへの同化は、インターネット時代の植民地化を構成します。^[66]

今日、新しい形の企業植民地化が起こっている。土地の征服の代わりに、ビッグテック企業はデジタル技術を植民地化している。検索エンジン（Google）、ウェブブラウザ（Google Chrome）、スマートフォンおよびタブレットのオペレーティングシステム（Google Android、Apple iOS）、デスクトップおよびラップトップのオペレーティングシステム（Microsoft Windows）、オフィスソフトウェア（Microsoft Office、Google Docs）、クラウドインフラストラクチャおよびサービス（Amazon、Microsoft、Google、IBM）、ソーシャルネットワーキングプラットフォーム（Facebook、Twitter）、交通機関（Uber、Lyft）、ビジネスネットワーキング（Microsoft LinkedIn）、ストリーミングビデオ（Google YouTube、Netflix、Hulu）、オンライン広告（Google、Facebook）など、いくつかの機能は、少数の多国籍企業によって支配されている。これらには、時価総額の合計が3兆ドルを超える世界で最も裕福な5つの企業が含まれている。^[67]いずれかの国民国家がこれらのビッグテック製品を社会に統合すると、これらの多国籍企業は経済に対して巨大な力を獲得し、永続的な資源抽出につながる技術的依存関係を生み出すことになる。^[要出典]これは、植民地がさらなる搾取のために植民者の経済に依存させられた植民地時代に似ています。

デジタル植民地主義の下では、南半球のデジタルインフラはビッグテック企業のニーズに合わせて設計され、経済的、文化的支配を可能にしながら民営化された統治形態を押し付けている。^[68]この課題を達成するために、大企業はデジタル技術を設計し、技術エコシステムにおける重要な機能に対する自社の優位性を確保している。これにより、大企業は賃貸料から得られる収益を蓄積し、情報の流れ、社会活動、および自社の技術を使用する他の多くの政治的、社会的、経済的、軍事的機能に対する制御を行うことができる。

デジタル植民地主義はコードに依存している。ローレンス・レッシグは著書『コード：サイバースペースのその他の法則』で、コンピューターコードがコンピューターを介した体験のルール、規範、行動を形作ると主張した。その結果、「コードは法である」という意味で、コードには社会の政治的、経済的、文化的領域に影響を与える法的、制度的、社会的規範を奪う力がある。この重要な洞察は、著作権、言論の自由の規制、インターネットガバナンス、ブロックチェーン、プライバシー、さらには不法行為などの分野に適用されている。^[69]これは、植民地主義時代の物理的空間の建築に似ている。建物やインフラは、植民地主義の支配と範囲を強化するために構築された。^[70]

「ポストコロニアル」の人々は、ネットワーク化されたデジタルインフラへのアクセスと使用において、複数のデジタル制約に直面している。後者は、植民地主義と新植民地主義の継続的プロセスに根ざした既存の社会的不平等関係を反映し、再構築する恐れがある。先住民族はこの可能性を痛感しており、さまざまなパートナーと協力してデジタル領域の脱植民地化に取り組んでいる。彼らは、共通の自己決定の欲求とともに、多様で地域的な経験を表すさまざまなプロジェクトに取り組んでいる。^[要出典]農村部や遠隔地の先住民コミュニティは、植民地主義の歴史的かつ継続的な影響に関連するデジタルへのアクセスの問題に常に直面している。遠隔地の先住民コミュニティは、オンライン化が困難であるため、「意図的にオフライン」になりつつある。^[71]先住民族は、これらのプラットフォームを使用してオンラインコミュニティを構築し、仮想アイデンティティを表現し、仮想的に文化を表現することで、デジタル自己決定を主張している。したがって、彼らはもはやオフラインのように静的ではなく、「ネットワーク化された個人主義」になりつつある。^[72]彼らのデジタル領域への関与は、彼らのアイデンティティの押し付けがましい表現に抵抗し、仮想コミュニティの概念を脱領土化します。したがって、かつて植民地化された人々は、インターネットを支配している潜在的な新植民地主義的言説を脱植民地化するプロセスに常に関与しています。

デジタルアパルトヘイトは、デジタル自己決定をめぐる議論でも重要な概念となっている。クリスチャン・フックスなどの著者にとって、デジタルアパルトヘイトとは「世界の特定のグループや地域がサイバースペースとそれが生み出す利益から体系的に排除される」ことを意味する。^[73]

ブラウンとチェルニエヴィッチ（2010）は、南アフリカの高等教育機関の学生の情報通信技術（ICT）へのアクセスを調査する研究プロジェクトを参考に、年齢や世代の側面がデジタル格差の特徴であったが、現在後者はむしろアクセスと機会の問題であり、今日では「デジタルアパルトヘイトは健在である」と主張している。^[74]

グラハム（2011）^{[75]から借用し、}アパルトヘイト後の南アフリカの高等教育を取り巻く状況の表現にまで広げたアシュトンら（2018）^[76]は、デジタルアパルトヘイトの概念を3つの次元、つまり物質的次元（インフラ、デバイス、携帯電話のカバー範囲、電気へのアクセスを含む）、スキル次元（コンピュータトレーニングに関する教育の遺産、家族/コミュニティのコンピュータスキルに関する社会資本を含む）、仮想的次元（言語、文化、文脈的関連性を含む）を持つ多次元プロセスとして強調している。著者らは、「仮想的次元は、さまざまな形をとる『デジタルレッドライニング』という意図的な行為から生まれる。組織をスパムや違法で有害なサイバー攻撃から保護するという名目で行われているかもしれないが、より安価なポータルを通じてしかアクセスできないコミュニティをブロックまたはフィルタリングするという副次的な結果をもたらす」と主張している。^{[76]また、}コンテンツの可視性にさらに影響を与える西洋化された英語のインターネットの影響も含まれる。スキルの側面は、ICTの授業が最近までカリキュラムの一部ではなかったため、スキル開発が十分に紹介されず制限されていたという認識から生まれた。著者らは、カリキュラムの一部としてテクノロジーを導入することに関して最も多く挙げられる懸念として物質的な側面を挙げ、「社会経済的に恵まれない地域では電力インフラが不足しており、データコストが法外なため、一部の生徒が学習リソースにアクセスする能力に影響が出ている」と主張している。^[76]

2019年以来、一部の人々に利益をもたらし、他の人々を没収することを意味するこの概念は、ジャンムー・カシミール州でのインターネット遮断や通信封鎖の特徴づけにも使用されている。インドとパキスタンの両国が全域を争って領有権を主張し、武力紛争が続いているこの地域では、インド政府が、紛争地域であるジャンムー・カシミール州の半自治権を剥奪する一方的な措置の一環として、2019年8月4日と5日の夜間にジャンムー・カシミール州で完全な通信遮断とインターネット遮断を実施した。 ^[77]低速2Gインターネットは2020年1月に復旧し^[78]、高速4Gインターネットは2021年2月に復旧した。^[79] 2019年の報告書によると、2012年から2019年の間に、この地域では180回のインターネット遮断があった。^[80]インドはまた、2020年に国民のインターネットへのアクセスを妨害した29カ国のリストでトップに立った。^[81] Access Nowの報告書は、「インドは2019年8月からジャンムー・カシミール州で恒久的で懲罰的な遮断を実施していた。これらの州の住民は以前にも定期的な遮断を頻繁に経験しており、2020年には信頼性が高く、安全で、オープンでアクセス可能なインターネットを継続的に奪われた」と強調した。^[81]ジャンムー・カシミール市民社会連合による報告書「カシミールのインターネット封鎖（2020年）」は、これらの頻繁な遮断をカシミールで進行中の紛争の文脈に置き、頻繁なインターネット遮断により、インド政府はこれらの地域で「デジタルアパルトヘイト」、つまり「体系的かつ蔓延した差別的扱いと集団懲罰の一形態」を制定していると主張している。^[82]報告書によれば、「頻繁かつ長期にわたるインターネット遮断は、カシミールの人々から高度にネットワーク化されデジタル化された世界に参加する手段を体系的かつ構造的に奪い、深刻なデジタルアパルトヘイトを制定している。」^[82]

この組織的な検閲と剥奪は、人々を集団的にサイバースペースへの参加から排除する結果をもたらしただけでなく、明らかにカシミールのIT企業や新興企業を機能不全に陥れた。 ^2019年8月4日と5日の夜にジャンムー・カシミール全土で始まった世界最長のインターネット遮断の3か月目だけで、この分野で働く少なくとも1000人の従業員に影響を与えたことが指摘されている[83]。[ ^82]国連特別報告者は声明の中で、通信遮断は犯罪を誘発する口実のない集団的懲罰であると述べた。「政府の正当性のないインターネットと通信ネットワークの遮断は、必要性と比例性の基本的規範に反する」と専門家は述べた。^[84]スタートアップで成功していた起業家の話を引用したニュースレポートは、「インターネットはスタートアップにとって酸素です。中央政府は8月5日にそのプラグを抜きました。仮想世界は私たちの成長のための空間でした。今、それはなくなってしまいました。すべての従業員と生産者は失業しました。インターネットが利用できなくなった後、顧客の喪失、未配達の注文、蓄積された商品によって引き起こされた損害を補うために、私はどんな手段を使っても働かなければなりません。」と述べています。 ^[85] 2020年6月、地元企業が高速インターネットの禁止により不利な立場に置かれたため、非地元企業がオンラインで鉱物ブロックの採掘の契約の大半を獲得できたことが初めて報じられました。 ^[86]

このデジタルアパルトヘイトの影響は、新型コロナウイルス感染症のパンデミックによって引き起こされたロックダウン中にも見られ、医師らはインターネットが制限されているため、コロナウイルスに関する情報にアクセスしたり、トレーニングに参加したりできないと不満を漏らし、医療インフラが麻痺した。医師協会の会長は、他の地域で実施されているウイルスに関する啓発活動はカシミールでは実行不可能だと指摘した。「私たちはビデオを通じて人々を教育したいのですが、2Gの速度では不可能です。高速インターネットがなければ不利です。」^[87]医療専門家と地元住民は、インターネットの遮断がこの地域でのコロナウイルスとの戦いを妨げていると警告した。^[88]インターネットの遮断は、この地域のあらゆるレベルの教育にも影響を及ぼした。ニュース報道では、パンデミック中の外出禁止令に対処するために、他の地域での生活がオンラインに移行しているにもかかわらず、カシミールの教育が取り残されていることが指摘された。^[89]通信遮断とそれに続く高速インターネットの制限から1年後のニュース報道では、それがこの地域の「健康、教育、起業家精神を破壊した」と強調された。^[90]

デジタル自己決定と密接に関連する概念や権利を促進することは、さまざまな法制度における規制イニシアチブの背後にある共通の目標です。人権の概念的枠組みと確立された情報自己決定の概念から生まれたデジタル自己決定は、自律性、尊厳、自由など、グローバルネットワーク社会の文脈において依然として非常に関連性のある価値と美徳を包含する概念として、徐々にますます重要な役割を果たすようになっています。

^{デジタル領域を規制する立法枠組みに基本的な価値観を組み込むことの重要性は、学者、 [91]}公的機関、さまざまな組織の代表者 によって何度も強調されてきました。

EUの法的政策は、デジタル自己決定権について明示的に言及していないものの、密接に関連する目的を追求している。欧州デジタル戦略の包括的な前提の1つは、「人々のために機能する」信頼できる技術の開発を促進することである。^[92]この戦略は、とりわけ「人間中心のデジタル公共サービスと行政」や「人間中心のアルゴリズムの倫理原則」を推進することを目指している。

EUは、EU委員会のデジタル戦略、欧州データ戦略、EUの人工知能に関する白書など、いくつかの規制アジェンダでこれらの政策目標を概説しています。その後、EUは、次のようないくつかの法的手段の採択または提案を通じて、上記の目的を追求してきました。

• 一般データ保護規則は、「個人データの処理に関する自然人の保護に関する規則および個人データの自由な移動に関する規則」を定め、「自然人の基本的権利および自由、特に個人データの保護に対する権利」を保護し、「EU 内における個人データの自由な移動」を保証することを目的としています。デジタル自己決定の概念に関連する主な規定には、データ処理の原則 (公平性、透明性、説明責任など)、正当なデータ処理の根拠 (特に同意および正当な利益)、データ主体の権利 (通知を受ける権利、忘れられる権利、異議を申し立てる権利など)、データ ポータビリティの権利、プライバシー バイ デザインおよびプライバシー バイ デフォルトに関連する義務、アルゴリズムによるデータ処理 (特にプロファイリングおよび自動意思決定) に関する権利と義務、および欧州経済領域外へのデータ転送に関する義務が含まれます。
• ePrivacy 規則は、通信の機密性、電子同意とブラウザによるプライバシー管理、Cookie など、 EU 内の電子通信に関する問題を規制することを目的とした法案です。
• デジタルサービス法は、表現の自由を維持しながら、デジタル仲介サービス、特に違法コンテンツ、透明性のある広告、ソーシャルメディアプラットフォーム上の偽情報、コンテンツ推奨システムに関する規則を調和させることを目的とした法案です。DSAは、デジタルサービス法パッケージの2つの提案のうちの1つです。
• デジタル市場法は、欧州単一市場における「ゲートキーパー」としての役割を果たす大規模オンラインプラットフォームの活動を規制し、公正な競争を保証し、「公平な競争条件」を確保することを目的とした法案です。DMA は、デジタルサービス法パッケージの 2 つの提案のうちの 1 つです。
• 人工知能に関する規制は、開発者、導入者、およびユーザーにAIの特定の使用に関する明確な要件と義務を提供することを目的とした法案です。規制案では、身体的または精神的危害につながる可能性のある方法で個人の行動を歪める禁止された AI 慣行のカタログが導入されています。
• データガバナンス法とオープンデータ指令は、EU市民がセクター間や加盟国間でデータを共有するかどうかを決定できるようにし、EU内でのデータ共有の年間経済価値を高め、社会的・経済的利益を生み出す、信頼できるデータ共有システムを構築することを目的とした立法提案です。^[93]
• 著作権指令^[94]は、知的財産、ひいては知的作品の保護を目的としています。しかし、自己決定のもう一つの側面である言論の自由（特に第17条）とのバランスを取るのが難しく、議論の余地があります。
• オーディオビジュアルメディアサービス指令^[95]は、オーディオビジュアルメディアサービスの分野における情報の自由とプラットフォームの責任を規制しています。

米国では、包括的な情報プライバシー法はまだ導入されていない。データとデジタル権利に関する法律は現在、州レベルと連邦レベルの両方で存在し、多くの場合、セクター固有のものである。米国では、連邦取引委員会（FTC）が消費者のデジタルプライバシーとセキュリティの保護を監督し、オンラインスペースのガバナンスのための公正な情報慣行の原則を概説する任務を負っている。 ^[96]

連邦法には、13 歳未満の児童からオンラインで個人を特定できる情報を収集することを規制する児童オンライン プライバシー保護法(COPPA) が含まれます。医療保険の携行性と責任に関する法律(HIPAA) には、電子的に保存された個人の健康データのプライバシーとセキュリティを保護するための連邦基準が含まれています。家族教育と権利のプライバシー法(FERPA) は、学生の教育記録へのアクセスと開示を規定しています。州法は保護の強さが異なりますが、 2018 年のカリフォルニア州消費者プライバシー法(CCPA) は、カリフォルニア州の消費者に、データにアクセスする権利、企業が収集した個人情報を知る権利と削除する権利、この情報の販売をオプトアウトする権利、およびこれらの権利を行使することに対する差別禁止の権利を与えています。

人工知能とデジタル自己決定

人工知能（AI）は、単一の技術ではなく一連の技術として普及し、^[97]、個人やコミュニティが生活を送るための技術を介した空間をますます形作っています。電子商取引^[98]やソーシャルメディアプラットフォーム^[99] におけるアルゴリズムによる推奨、警察におけるスマート監視^[100] 、公共サービスにおける自動リソース割り当て^{[101]など、今日の社会経済的および政治的な領域にわたる人々の生活の広範な}データ化を考慮すると、個人の自律性に影響を与える可能性のあるAIアプリケーションの範囲は常に議論されています。

例えば、人工知能のサブフィールドである機械学習は、「データから情報を抽出して新しいパターンを発見し、一見無害なデータを機密性の高い個人データに変換することができます」 ^[102]。つまり、個人のプライバシーと匿名性は、元のデータ領域外で脆弱性にさらされる可能性があり、例えば、マイクロターゲティングに基づく選挙の計算プロパガンダのためにソーシャルメディアのデータが収集される可能性があります。^[103]

AIシステムが自己決定の行使に影響を与える可能性があるもう1つの領域は、アルゴリズムのトレーニングに使用されるデータセットが既存の不平等構造を反映している場合であり、それによって特定のグループの公正な扱いや機会へのアクセスを制限する構造的差別が強化されます。米国では、Amazonが使用するAI採用ツールが女性の求職者を差別していることが判明しました。^{[104]一方、}ペンシルベニア州アレゲニー郡の人事局が児童虐待の可能性を警告するために使用するAIベースのモデリングツールは、貧困層と人種的マイノリティを不釣り合いにプロファイリングしていることが示されており、アルゴリズムの予測変数が「優先順位と関心を反映する」抽象的なものであることが多いのではないかという疑問が生じています。^[105]

デジタル自己決定に関連するAI原則の現状

各国が AI 業界をどのように統制するかによって、AI アプリケーションがどのように開発、テスト、運用されるか、またさまざまな形態の人間の利益に関連する倫理的枠組みがどのようなものかが決まります。その結果、個人やコミュニティがデジタル面で自己決定する度合いが左右されます。

近年、高レベルの原則やガイドライン文書が急増しており、^[106]公的セクターの政策や民間セクターの行動規範に拘束力のない形で提案しています。国家が制定した拘束力のある法律と比較すると、AI倫理原則の状況はより多様な様相を呈しており、民間企業、学術機関、市民社会を含む政府および非政府組織が積極的にエコシステムを開発しています。国連の2020年の報告書では、「世界中に160を超える組織、国家、国際的なAI倫理とガバナンスの原則があるが、これらの個別の取り組みをまとめる共通のプラットフォームはない」とされています。^[107]

研究の進展に伴い、AI 原則の共通テーマが浮上しており、その多くは、自分のデータの管理、偏見からの保護、AI が提供するメリットへの平等なアクセスなど、デジタル自己決定のさまざまな条件と密接に関連しています。ハーバード大学のバークマン・クライン インターネットと社会センターが 2020 年に発表した出版物では、複数の地理的地域の政府および非政府主体が作成した 36 件の「特に目立つ、または影響力のある」AI 原則文書を調査し、8 つの主要なテーマを特定しました。

• プライバシー
• 説明責任
• 安全とセキュリティ
• 透明性と説明可能性
• 公平性と差別の禁止
• 人間による技術の制御
• 職業上の責任
• 人間的価値の促進

しかし、報告書は「これらの高レベルの概念の表現と現実世界での実際の達成との間には広くて厄介なギャップがある」とも指摘している。^[108]

政府間および政府のAI原則の例

現在、国際的に認められているAIガバナンス原則はほとんどない。2019年5月にOECD加盟国と他の9つの非OECD諸国によって採択された「OECD AI原則」は、「包摂的な成長」、「幸福」、「人間中心の価値観と公平性」などのデジタル自己決定に関連する要素を統合し、個人が「AIシステムの結果に異議を申し立てる」能力と「国際的に認められた労働者の権利」へのAI開発の遵守を強調している。^[109]

国家レベルでは、多くの国のAI政策がAI倫理原則に言及しているが、その形は不規則である。そのような言及は独立した文書である場合もある。例えば、日本政府は「人間中心のAI社会原則」^[110]を制定した。これは「AI戦略2019：すべての人のためのAI：人、産業、地域、政府」^[111]と密接に関連しており、自発的な遵守を奨励し、AIは「人間の能力と創造性を拡大」するために使用され、「個人の自由、尊厳または平等を侵害」してはならず、「人間の尊厳と個人の自律の原則」を遵守することを強調する別のAI利活用ガイドラインも制定している。^[112]

AIの原則は、 STEM教育への投資や官民パートナーシップなど、AIを推進する政策手段に主に焦点を当てた国家AI戦略にも組み込むことができる。例えば、2018年6月に発表されたインドのAI戦略「人工知能のための国家戦略」では、AI開発の国家的優先度の高い主要分野（医療、農業、教育、都市/スマートシティインフラ、交通、モビリティ）を特定し、プライバシーや公平性などの倫理的トピックを将来を見据えたセクションとして統合している。^[113]

自己決定に対処するためのAI原則の機会と課題

政府内外の主体が提案した拘束力のないAI原則は、特定の政策や規制にさらに具体化されることがある。2020年、英国政府のAIの責任ある使用に関する諮問機関であるデータ倫理・イノベーションセンターは、金融サービス、地方自治体、警察、採用の各分野におけるアルゴリズムの偏見に対処するために、政府、規制当局、業界に具体的な対策を提案した。^[114]各分野は、個人が不当な扱いを受けることなく生活を送り、社会経済的機会にアクセスする方法に関連している。

文化的および地理的な代表性は、急成長中のAI規範が、法の支配の程度がさまざまに異なる、大きく異なる政治体制で自律性と自由を行使する世界中の人々が直面する独自の機会とリスクを十分に考慮していることを保証する上での課題として強調されてきた。2020年に欧州評議会が発表した報告書は、116のAI原則文書をレビューし、「これらのソフトロー文書は主にヨーロッパ、北米、アジアで作成されている」一方で、「AI倫理ガイドラインを提案する組織の分野では、南半球は現在過小評価されている」ことを明らかにした。 ^[115]

• データ主権
• デジタル市民権
• デジタルアイデンティティ
• デジタル著作権
• デジタルの完全性
• デジタル自己防衛
• 情報に基づく自己決定
• 自己決定
• 自己表現
• 自己主権的アイデンティティ
• 監視資本主義
• 技術主権