ビッグデータの倫理

ビッグデータ倫理は、単にデータ倫理とも呼ばれ、データ、特に個人データに関連する正しい行為と間違った行為の概念を体系化し、擁護し、推奨することを指します。^[1]インターネットの黎明期以来、データの量と質は劇的に増加し、指数関数的に増加し続けています。ビッグデータとは、従来のデータ処理アプリケーションソフトウェアでは処理できないほど膨大で複雑な大量のデータを指します。高スループットゲノムシーケンシング、高解像度イメージング、電子医療患者記録、インターネットに接続された多数の健康機器など、医療研究とヘルスケアにおける最近の技術革新は、近い将来エクサバイトの範囲に達するデータの氾濫を引き起こしています。データ倫理は、データ量が増加するにつれて、その影響の大きさからますます重要になります。

ビッグデータ倫理は情報倫理とは異なります。情報倫理の焦点は知的財産の問題や、司書、アーキビスト、情報専門家に関する懸念に重点を置いているのに対し、ビッグデータ倫理は、データブローカー、政府、大企業など、構造化データや非構造化データの収集者や配布者に重点が置かれています。しかし、人工知能や機械学習システムはビッグデータセットを使用して構築されることが一般的であるため、データ倫理をめぐる議論は、人工知能の倫理に関する議論と絡み合っていることがよくあります。^[2]最近では、応用数学や工学の多くの分野でますます大規模なデータセットが使用されるようになっているため、ビッグデータ倫理の問題は、数学の倫理や工学倫理など、テクノロジーや科学倫理の他の分野との関連で研究されています。

データ倫理は以下の原則に関係している: ^[3]

• 所有権 – 個人は自身の個人データを所有します。
• 取引の透明性 – 個人の個人データが使用される場合、集計データセットを生成するために使用されるアルゴリズムの設計に透明性のあるアクセスが与えられる必要があります。
• 同意 – 個人または法人が個人データを使用する場合、個人データが誰に、いつ、どのような目的で移動するかについて、データの所有者から情報に基づいた明示的な同意を得る必要があります。
• プライバシー – データトランザクションが発生する場合は、プライバシーを保護するためにあらゆる合理的な努力を払う必要があります。
• 通貨 – 個人は、個人データの使用から生じる金融取引と、その取引の規模を認識する必要があります。
• オープン性 – 集計データセットは自由に利用できる必要があります。

データの所有権には、個人のデジタルアイデンティティを構成する個人データに対する個人の管理（共有の制限を含む）能力など、財産に対する権利と義務の決定が含まれます。データ所有権の問題は、誰かが個人に関する観察を記録するときに発生します。観察者と観察対象は両方ともデータに対する権利を主張します。観察者と観察対象がお互いに負う責任についても疑問が生じます。これらの問題は、インターネットによって人々とその思考の観察の規模と体系化が拡大するにつれて、ますます重要になっています。個人データの所有権の問題は、企業の所有権と知的財産の問題に​​関連しています。^[4]

欧州連合では、一般データ保護規則は個人が自分の個人データを所有することを示していると主張する人もいますが、これには異論があります。^[5]

バイアスがアルゴリズム設計に組み込まれ、意識的か無意識的かを問わず体系的な抑圧につながるのではないかという懸念が高まっている^{[6] 。こうした操作は、多くの場合、データ、アルゴリズムの設計、またはアルゴリズムを導入する組織の根本的な目的に由来するバイアスに起因する。}アルゴリズムによるバイアスの主な原因の 1 つは、アルゴリズムが過去のデータから学習するため、既存の不平等が永続する可能性があることである。多くの場合、アルゴリズムは、疎外されたコミュニティや過小評価されたコミュニティの個人に適用すると、精度が低下する。その顕著な例はパルスオキシメトリーで、十分なテストやこれらの集団に関する情報が不足しているため、特定の人口統計グループに対する信頼性が低下していることがわかっている^[7]。さらに、多くのアルゴリズムは、倫理的な影響を十分に考慮せずに、エンゲージメントや利益などの特定の指標を最大化するように設計されています。たとえば、Facebook や Twitter などの企業は、嫌がらせをする人に匿名性を与え、ユーモアに偽装した人種差別的なコンテンツが蔓延することを許していると批判されている。^[8]これらの課題は、多くのアルゴリズムが独自の理由で「ブラックボックス」として動作しているという事実によってさらに複雑になっています。つまり、その出力の背後にある理由はユーザーには完全には理解されていないということです。この不透明性により、アルゴリズムの偏りを特定して対処することがさらに困難になっています。

ガバナンスの観点から見ると、ビッグデータ倫理は、アルゴリズムなどのビッグデータ技術を使用してどのような種類の推論や予測を行うべきかということに関係しています。^[9]

予測的統治とは、予測分析を使用して将来の行動の可能性を評価する実践です。^[10]これは、偏見や差別を助長する可能性のある特定のグループや場所をターゲットにする能力を提供するため、倫理的な意味合いがあります。^[10]たとえば、予測的な警察活動は、他のグループや地域よりも注意深く監視する必要がある特定のグループや地域を強調し、これらの地域でより多くの制裁を課し、制裁を受けた人々と同じプロファイルに一致する人々をより厳しく監視することにつながります。^[11]

「コントロールクリープ」という用語は、特定の目的を念頭に置いて生成されたが、再利用されるデータを指します。^[10]この慣行は、空港でのセキュリティリスクのプロファイリングと管理のために再利用された航空業界のデータに見られます。^[10]

プライバシーはデータ利用の制限として提示されてきたが、これは非倫理的であると考えられる可能性もある。^[12]たとえば、医療データの共有は、病気の原因や治療の効果を明らかにし、個人のニーズに基づいたカスタマイズされた分析を可能にする。^[12]これはビッグデータ倫理の分野では倫理的に重要な意味を持つ。なぜなら、多くの人がプライバシーを重視している一方で、データ共有のメリットも非常に価値があるからだ。ただし、それはプライバシーの概念と矛盾するかもしれない。データ共有に反対する態度は、データに対するコントロールの喪失と個人データの搾取に対する恐怖に基づいている可能性がある。^[12]しかし、プライバシーを損なうことなくデータの価値を引き出すことは可能である。

政府によるビッグデータ監視は、電話、インターネット活動、位置情報などのデータを収集して保存することで、個人のプライバシーを侵害する可能性があります。たとえば、NSA が世界的な監視の開示で公開したメタデータの収集は、通信内容が分析されていない場合でもプライバシーが適切に保護されているかどうかという懸念を引き起こしました。プライバシーの権利は、政府に「国家安全保障」目的のデータ収集に対する広範な権限を与える法的枠組みによって複雑になることがよくあります。米国では、立法者が特定の法律を通じてこの問題に選択的に対処しているものの、最高裁判所は「情報プライバシー」または個人情報の管理に対する一般的な権利を認めていません。^[13]公平性の観点から、政府の監視とプライバシー侵害は、疎外されたコミュニティに不釣り合いなほど害を及ぼす傾向があります。歴史的に、公民権運動に関与した活動家は、破壊的な要素と見なされたため、政府の監視の標的になることがよくありました。COINTELPRO などのプログラムは、公民権指導者に対するスパイ活動を含むこのパターンの典型です。このパターンは今日も続いており、活動家や組織に対する監視が継続している証拠がある。^[14]

さらに、政府が同意なく取得したデータに基づいて行動するためにアルゴリズムを使用することは、アルゴリズムの偏りに関する重大な懸念をもたらします。たとえば、予測的な警察ツールは、過去の犯罪データを使用して「危険な」地域や個人を予測しますが、これらのツールは少数派コミュニティを不釣り合いにターゲットにしていることがわかっています。^[15]そうしたツールの1つであるCOMPASシステムは注目すべき例です。黒人の被告人が誤って高リスクに分類される可能性は白人の被告人の2倍であり、ヒスパニックの被告人も同様に白人の被告人よりも高リスクに分類される可能性が高いです。^[16]疎外されたコミュニティには、これらのプライバシー侵害に異議を唱えたり、同意のない使用からデータを保護するために必要なリソースや教育が不足していることがよくあります。さらに、「萎縮効果」と呼ばれる心理的負担があり、監視されているという絶え間ない意識が、すでに社会的差別に直面しているコミュニティに不釣り合いな影響を与えます。この影響により、抗議活動や法的支援の要請など、合法ではあるが潜在的に「リスク」のある活動に個人が従事することを思いとどまらせ、個人の自由をさらに制限し、既存の不平等を悪化させる可能性があります。

ジョナサン・H・キングやニール・M・リチャーズなどの学者は、プライバシーの伝統的な意味を再定義しているが、他の学者はプライバシーがまだ存在するかどうかを疑問視している。^{[9] 2014年に}ウェイクフォレスト法学評論に寄稿した記事で、キングとリチャードは、デジタル時代のプライバシーは秘密という観点ではなく、個人情報の使用を統制および管理する規制という観点で理解できると主張している。^[9]欧州連合では、忘れられる権利により、EU諸国は、情報が無関係または古くなっていると判断された場合、個人の要求によりデータベースから個人データを強制的に削除またはリンク解除する権利がある。^[17]アンドリュー・ホスキンズによると、この法律は、デジタル時代におけるプライバシーの喪失と個人データの管理能力に対するEU加盟国の道徳的パニックを示している。^{[18 [17]}これは忘れられる権利とは非常に異なる。なぜなら、ビッグデータ技術やプラットフォームを使用して生成されるデータの多くは、自発的に提出されたものではないからである。^[17]プライバシーの伝統的な概念が精査されている一方で、EUと米国のプライバシーに関連する異なる法的枠組みは、各国がビッグデータの文脈でこれらの懸念にどのように取り組んでいるかを示している。例えば、EUの「忘れられる権利」と米国の自発的に提出されたデータを削除する権利は、デジタル時代のプライバシー規制に対するさまざまなアプローチを示している。^[19]

テクノロジー企業が提供するサービスとこれらのテクノロジー企業の株式価値の差は、国民に提供される交換レートと、そのデータの価値の「市場レート」の差です。科学的には、この初歩的な計算には多くの穴があります。脱税企業の財務数値は信頼できない、収益または利益のどちらかがより適切である可能性がある、ユーザーの定義方法、データの価値を高めるには多数の個人が必要、異なる国の異なる人々に対して段階的な価格設定が可能などです。これらの計算は粗雑ですが、データの金銭的価値をより具体的にするのに役立ちます。別のアプローチは、ブラックマーケットでのデータ取引レートを見つけることです。RSAは、このアプローチを採用したサイバーセキュリティの買い物リストを毎年発行しています。^[20]

これは、個人データと引き換えに無料の技術サービスを受けることが、消費者にとって価値のある暗黙の交換であるかどうかという経済的な疑問を提起する。個人データ取引モデルでは、企業がデータを販売するのではなく、所有者が個人データを販売して利益を得ることができる。^[21]

オープンデータの考え方は、データは自由に利用可能であるべきであり、著作権法など、その使用を禁止する制限があってはならないという主張を中心に展開されている。2014年時点で、^[update]多くの政府が透明性と説明責任を目的としてオープンデータセットの公開に向けて動き始めていた。^[22]この運動は、国民が自らデータから意味を抽出し、自ら抑制と均衡を行えるように政府にデータセットを公開するよう求める「オープンデータ活動家」によって勢いを増している。^{[22] [9]}キングとリチャーズは、この透明性の要求には、オープン性と秘密性の間の緊張関係が含まれていると主張している。^[9]

活動家や学者は、このオープンソースのデータ評価モデルは自発的な参加に基づいているため、オープンデータセットが利用可能になることで社会に民主化効果をもたらし、あらゆる市民が参加できるようになると主張している。^[23]一部の人々にとって、特定の種類のデータが利用可能であることは権利であり、市民の主体性の不可欠な部分であると考えられている。^[23]

オープンナレッジ財団（OKF）は、政府が真にオープンであるためには提供すべきデータセットの種類をいくつか挙げている。^[24] OKFは、政府のオープン性を測定するためのクラウドソーシング調査であるグローバルオープンデータインデックス（GODI）と呼ばれるツールを持っている。^{[24 ] GODIは、政府の}オープンデータセットの品質に関するフィードバックを政府に提供するためのツールとなることを目指している。^[25]

データを共有する意思は人によって異なります。データを共有する意思の決定要因に関する予備調査が行われています。例えば、ベビーブーマー世代はミレニアル世代よりもデータを共有する意思が低いと示唆する人もいます。^[26]

2013 年のエドワード・スノーデンの暴露による影響は、データ収集とビッグデータ倫理のプライバシー原則に関する公共の議論を大きく変えた。この事件は、政府が民間人に関するこれまで考えられていたよりもはるかに多くの情報を管理し、保有していることを明らかにした。これは所有権の原則に違反しており、特に恵まれないコミュニティに不釣り合いな影響を与えていた。たとえば、ウォール街占拠運動やブラック・ライブズ・マターなどの運動のメンバーを含む活動家が頻繁に標的にされた。^[14]この暴露により、政府や組織は、個人のプライバシーをより適切に保護し、国家安全保障上の懸念にも対処するために、データ収集と保管の慣行を再検討することになった。この事件はまた、他国とその国民に対する広範なオンライン監視を明らかにし、データの主権と所有権に関する重要な問題を提起した。これに対して、ブラジルやドイツなどの一部の国は、これらの慣行に反対する措置を講じた。^[14]しかし、多くの発展途上国は、そのような監視に抵抗するために必要な技術的独立性を欠いていたか、監視している国に一般的にあまりにも依存していたため、これらの懸念に対処する上で不利な立場に置かれた。

ケンブリッジ・アナリティカのスキャンダルは、ビッグデータの使用における重大な倫理的懸念を浮き彫りにした。Facebookユーザー約8,700万人から明示的な同意なしにデータが収集され、ターゲットを絞った政治広告を表示するために使用された。個人は当初、自分のデータがどのように利用されているか知らなかったため、これはビッグデータ倫理の通貨原則に違反していた。このスキャンダルは、ある目的のために収集されたデータが、ユーザーの同意を回避してまったく異なる用途に転用される可能性があることを明らかにし、データ使用における明示的かつ十分な情報に基づく同意の必要性を強調した。 ^[27]さらに、広告配信に使用されたアルゴリズムは不透明で、取引の透明性と公開性の原則に疑問を投げかけた。場合によっては、政治広告が誤情報を広め、^[27]恵まれないグループを不当にターゲットにし、知識格差を助長する原因となった。疎外されたコミュニティやデジタルリテラシーの低い個人は、搾取を認識したり対処したりする可能性が低いため、不釣り合いな影響を受けた。対照的に、より多くのリソースやデジタルリテラシーを持つユーザーは、データをより適切に保護することができ、既存の力関係の不均衡を悪化させる可能性があります。

• 動的同意