デジタルクローン

デジタルクローニングは、ディープラーニングアルゴリズムを伴う新興技術であり、既存の超現実的な音声、写真、ビデオを操作することができます。 ^[1]このような技術の影響の1つは、超現実的なビデオと写真により、人間の目が本物と偽物を区別することが困難になることです。^[2]さらに、さまざまな企業がこのような技術を一般に公開しているため、さまざまな利点がもたらされる一方で、潜在的な法的および倫理的懸念も生じます。

デジタルクローニングは、オーディオビジュアル（AV）、記憶、性格、消費者行動のクローニングに分類できます。^[3] AVクローニングでは、デジタルまたは非デジタルのオリジナルのクローンデジタルバージョンを作成することで、たとえば、偽の画像、アバター、または偽のビデオや音声を作成することができます。これらは、表現するとされている実際の人物と簡単に区別できません。マインドクローンのような記憶と性格のクローンは、本質的には人の心のデジタルコピーです。消費者行動のクローンは、人口統計に基づいた顧客のプロファイルまたはクラスターです。

トゥルービーとブラウンは、デジタルクローニングがより高度なパーソナライズされたデジタルクローンへと進化したことを指して「デジタル思考クローン」という造語を生み出しました。これは「特定の生きている人物に関するすべての既知のデータと行動の複製であり、選択、好み、行動傾向、意思決定プロセスをリアルタイムで記録する」ものです。^[3]

デジタルクローンは、エンターテイメント業界で最初に人気を博しました。デジタルクローンのアイデアは、映画会社が亡くなった俳優の仮想俳優を作成することから始まりました。映画の制作中に俳優が亡くなった場合、過去の映像、写真、音声録音を使用して俳優のデジタルクローンを合成し、実際の人物に似せて映画制作を継続することができます。^[4]

現代の人工知能はディープフェイクの作成を可能にしました。これは、ビデオを操作して、ビデオに映っている人物が同意していない発言や行動をとるようにすることです。^[5] 2018年4月、BuzzFeedはジョーダン・ピールのディープフェイクビデオを公開しました。これは、ディープフェイクの潜在的な危険性について国民に警告するために、バラク・オバマ前大統領がこれまで公の場では言っていなかった発言をしているように操作されたものでした。^[6]

ディープフェイクに加えて、Intellitarなどの企業では、一連の画像と音声録音を入力することで、簡単に自分自身のデジタルクローンを作成できるようになりました。これは本質的にデジタル不滅を生み出し、愛する人が亡くなった人の表現と対話できるようにします。^[7]デジタルクローンは、愛する人をデジタルで記念できるだけでなく、歴史上の人物の表現を作成したり、教育の場で使用したりするためにも使用できます。

前述のように、さまざまな技術の発展に伴い、個人情報の盗難、データ漏洩、その他の倫理的な懸念など、多くの懸念が生じています。デジタルクローニングの問題の1つは、潜在的な被害者をこれらの問題から保護するための法律がほとんどまたはまったくないことです。^[8]

インテリジェントアバタープラットフォーム（IAP）は、人工知能によってサポートされ、自分自身のクローンを作成できるオンラインプラットフォームと定義できます。^[7]個人は、アルゴリズムに多数の音声録音と自分のビデオを入力して、クローンが自分のように行動し、話すようにトレーニングする必要があります。^[9]基本的に、プラットフォームは同じプラットフォーム上の他のアバターと対話できるため、「永遠に生きる」場所として宣伝されています。 IAPは、デジタル不滅を達成するためのプラットフォームになりつつあり、世代を超えて家系図と遺産を維持します。^[7]

IAP の例としては、 Intellitarや Eterni.me などがあります。これらの企業のほとんどはまだ開発段階ですが、いずれもユーザーが自分自身の正確な複製を作成し、心にあるすべての記憶をサイバースペースに保存できるようにするという同じ目標を達成しようとしています。^[7]無料版を提供している企業もあり、ユーザーは特定の画像と音声のセットからアバターを選択するだけです。ただし、プレミアム設定では、これらの企業はユーザーに写真、ビデオ、音声録音をアップロードして、自分自身のリアルなバージョンを作成するように求めます。^[10]さらに、クローンが元の人物にできるだけ近いことを確認するために、企業は自分のクローンとチャットしたり、質問に答えたりして対話することを奨励しています。これにより、アルゴリズムは元の人物の認知を学習し、それをクローンに適用できます。 Intellitar は、使用した技術をめぐる知的財産権の争いのため、2012 年に閉鎖されました。^[11]

IAPの潜在的な懸念としては、データ漏洩の可能性や故人の同意が得られないことなどが挙げられます。IAPは、音声録音、写真、メッセージなどを含む死者の個人情報を保護するために、データ漏洩やハッキングに対する強固な基盤と責任を持たなければなりません。 ^[9]個人のプライバシーが侵害されるリスクに加えて、死者のプライバシーを侵害するリスクもあります。肉体が死ぬ前に自分のデジタルクローンを作成することに同意することはできますが、デジタルクローンが取る行動に同意することはできません。

前述のように、ディープフェイクは、特定の人物のさまざまな画像を入力するだけで、そこにいる人物を変更できるビデオ操作の一種です。さらに、新しい人物の約1〜2分間の一連の音声録音を送信するだけで、ビデオ内の人物の声や言葉を変更することもできます。 2018年には、FakeAppと呼ばれる新しいアプリがリリースされ、一般の人々が簡単にこの技術にアクセスしてビデオを作成できるようになりました。このアプリは、バラク・オバマ前大統領のBuzzFeedビデオの作成にも使用されました。^{[6] [12]}ディープフェイクを使用すると、業界は個人の同意を得て一連の写真と音声録音を収集するだけで、低コストで効率的にビデオや映画を制作できるため、映画や広告の俳優やモデルを雇うコストを削減できます。^[13]

ディープフェイクに関する潜在的な懸念は、同じサービスを提供するさまざまなアプリをダウンロードしたほぼすべての人にアクセスできることです。誰でもこのツールにアクセスできるため、悪意を持ってアプリを使用して、公務員が現実では決して言わない発言をするリベンジポルノや操作的なビデオを作成する可能性があります。これはビデオに映っている個人のプライバシーを侵害するだけでなく、さまざまな倫理的懸念を引き起こします。^[14]

音声クローンは、人工知能を使用して人の声のクローンを生成するオーディオディープフェイク手法の一例です。音声クローンには、個人の音声録音を取り込み、トーンや類似性が非常に正確に人間の声を忠実に再現できるレベルまで音声を合成できるディープラーニングアルゴリズムが含まれます。 ^[15]

音声のクローン作成には高性能なコンピュータが必要です。通常、計算はグラフィックス プロセッシング ユニット (GPU)を使用して行われますが、膨大な量の計算が必要となるため、 クラウド コンピューティングに頼ることがよくあります。

トレーニング用の音声データは、人工知能モデルに取り込む必要があります。これらは多くの場合、関係する人物の声の例を示すオリジナルの録音です。人工知能はこのデータを使用して本物の音声を作成し、入力したもの ( Text-To-Speech)や話したもの (Speech-To-Speech) を再現できます。

この技術は、政治的議論から法の支配まで、さまざまな問題に影響を与えるため、多くの人を心配させています。電話詐欺^{[16] [17]}や、ソーシャルメディア上の偽の動画など、いくつかの早期警告サインがすでに現れています。^[18]

これらの脅威に対する保護は、主に 2 つの方法で実装できます。1 つ目は、ビデオの真正性を分析または検出する方法を作成することです。このアプローチは、進化し続けるジェネレーターがこれらの検出器を打ち負かすため、必然的に有利になります。2 つ目の方法は、作成および変更情報をソフトウェアまたはハードウェアに埋め込むことです。^{[19] [20]}これは、データが編集できない場合にのみ機能しますが、真実のソースとして機能する、聞き取れない透かしを作成するというアイデアです。^[21]つまり、ビデオが撮影、制作、編集された場所などを確認することで、ビデオが本物かどうかを知ることができます。^[15]

15.aiは、技術を使った声優や吹き替えの民主化の概念実証として始まった非営利のフリーウェアウェブアプリケーションで、このような技術を一般に公開しています。 ^[22]無償かつ非営利であること（使用時にはプロジェクトが適切にクレジットされることが唯一の条件です^[23]）、使いやすさ、現在の音声合成実装の大幅な改善は、ユーザーから賞賛されています。^{[24] [25] [26]}しかし、一部の批評家や声優は、このような技術を一般に公開し、簡単にアクセスできるようにしておくことの合法性と倫理性に疑問を呈しています。^{[22] [27] [28] [29]}

このアプリケーションはまだ開発段階ですが、GoogleやAmazonなどの大手テクノロジー企業が開発に多額の資金を投資しているため、急速に発展しています。^[30]

音声クローンの有益な用途としては、人間の労力を使わずに何百万ものオーディオブックを合成できることが挙げられます。^[31]また、音声クローンは、ポッドキャスターの声を使ってポッドキャストのコンテンツをさまざまな言語に翻訳するためにも使用されました。^[32]また、声を失った可能性のある人は、声を失う前に話していた録音を入力して自分の声のクローンを作成し、個性を取り戻すことができます。^[33]

一方、音声クローンは悪用される可能性もあります。例えば、著名人や公務員の声がクローン化され、本人とは全く関係のない発言がされても、対立を煽る発言をすることがあります。^[34]

音声クローンがプライバシー、礼儀正しさ、民主的なプロセスに及ぼす脅威を認識し、連邦取引委員会、米国司法省、国防高等研究計画局（DARPA）、イタリア教育大学研究省（MIUR）などの機関は、音声ディープフェイクのさまざまな使用事例と、それらに対抗するために使用できる可能性のある方法について検討してきました。^{[35] [36] [37]}

デジタルクローンは、教育現場で学生により没入感のある体験を提供するために役立ちます。学生によっては、よりインタラクティブな体験を通じてよりよく学習できる場合があり、ディープフェイクを作成することで学生の学習能力を高めることができます。その一例は、エイブラハム・リンカーンなどの歴史上の人物のデジタルクローンを作成し、彼が生涯でどのような問題に直面し、どのようにそれを克服したかを示すことです。教育現場でデジタルクローンを使用するもう1つの例は、講演者に自分自身のデジタルクローンを作成させることです。さまざまな擁護団体は、年間を通じてさまざまな学校を巡回するため、スケジュールに問題が生じる可能性があります。しかし、自分自身のデジタルクローンを作成することで、グループが物理的に来ることができなかった場所でクローンがトピックを発表することができます。これらの教育上の利点は、学生に新しい学習方法をもたらすだけでなく、環境条件のために以前はリソースにアクセスできなかった人々にもアクセスを提供することになります。^[13]

デジタルクローンはエンターテインメントや芸術業界ではすでにしばらく前から使われていますが、人工知能は業界でのこれらの技術の用途を大幅に拡大することができます。映画業界は、亡くなった俳優や女優をさらに超現実的なものにすることができます。さらに、映画業界は、エキストラが必要な映画のシーンでデジタルクローンを作成することもできます。これにより、制作費を大幅に削減できます。ただし、デジタルクローンやその他の技術は、非営利目的でも役立ちます。たとえば、アーティストは、ビデオ制作の一部となるアバターを合成する場合、表現力を高めることができます。また、デジタルアバターを作成して作品の下書きをしたり、最終作品の作業に進む前にアイデアをまとめたりすることもできます。^[13] 俳優のヴァル・キルマーは、2014年に咽頭がんによる気管切開手術を受けた後、声を失いました。しかし、彼はAI企業と提携し、以前の録音に基づいて合成音声を作成しました。この声のおかげで、キルマーは2022年の続編『トップガン: マーヴェリック』で1986年のトップガンの「アイスマン」役を再び演じることができた。^[38]

死者のソーシャルメディアアカウントがサイバースペースに残り続けることから、デジタル不滅性は以前から存在していたが、不滅のバーチャルクローンを作成することは新たな意味を持つようになった。デジタルクローンを作成することで、自分自身の視覚的な存在だけでなく、性格や認知を含む癖も捉えることができる。デジタル不滅性があれば、愛する人が亡くなった後も、その表現と交流し続けることができる。さらに、家族は複数世代の表現とつながり、ある意味で家系図を形成し、家族の遺産を将来の世代に引き継ぐことで、歴史を継承する方法を提供することができる。^[7]

ディープフェイクに対する規制が不十分なため、いくつかの懸念が生じている。潜在的な危害をもたらす可能性のあるディープフェイク動画に関する懸念には、不適切な行動をとる政治家の描写、非武装の黒人男性を射殺する警察官の描写、実生活では一度も起こっていないかもしれないが無実の民間人を殺害する兵士の描写などが含まれる。^[39]このような超現実的な動画がインターネット上に公開されると、一般の人々が誤った情報を受け取ることが非常に簡単になり、人々が行動を起こすことになり、不必要な危害の悪循環につながる可能性がある。さらに、最近のニュースではフェイクニュースが増加しており、ディープフェイクとフェイクニュースが組み合わさる可能性もある。これにより、何が本物で何が偽物かを見分けることがさらに困難になる。視覚情報は人間の目に非常に説得力があるため、ディープフェイクとフェイクニュースの組み合わせは社会に悪影響を及ぼす可能性がある。^[13]ソーシャルメディア企業やその他のニュースプラットフォームは、厳格な規制を行う必要がある。^[40]

ディープフェイクが悪意を持って使用されるもう一つの理由は、個人的なレベルで他人を妨害するためです。ディープフェイクを作成する技術が利用しやすくなったことで、脅迫者や窃盗犯は、被害者の愛する人が助けを求める動画を作成し、金銭的利益やその他の目的で個人情報を簡単に抽出できるようになりました。^[13]さらに、音声クローンは、犯罪者が被害者に偽の電話をかけるために悪用される可能性があります。電話は個人とまったく同じ声や態度になるため、被害者は知らないうちに犯罪者に個人情報を渡してしまう可能性があります。 ^{[41]あるいは、悪意のある人物が、例えば、動画に重ね合わせた人物のディープフェイクを作成し、脅迫金を引き出したり、}リベンジポルノ行為として使用したりすることもできます。

ディープフェイクや音声クローンを個人使用目的で作成することは、商業的な損害がないため、法律上非常に困難です。むしろ、心理的、感情的な損害という形で現れることが多く、裁判所が救済策を提供することが困難です。^[5]

このような技術の発展に伴って生じる法的問題は数多くあるが、現在の法律では保護されない倫理的問題もある。ディープフェイクや音声クローンの使用に伴う最大の問題の一つは、個人情報窃盗の可能性である。しかし、ディープフェイクに関する個人情報窃盗は、ディープフェイクに特化した法律が現在存在しないため、訴追が困難である。さらに、ディープフェイクの悪意ある使用がもたらす損害は、金銭的というよりも心理的、感情的なものであり、救済策を提供することがより困難である。アレンは、個人のプライバシーの扱い方は、カントの定言命法に似ていると主張している。^[5]

もう一つの倫理的影響は、この技術を使うために個人情報やプライベートな情報を提供しなければならないということだ。デジタルクローニング、ディープフェイク、音声クローニングはすべてディープラーニングアルゴリズムを使用しているため、アルゴリズムが受け取る情報が多いほど、結果は良くなる。^[42]しかし、どのプラットフォームにもデータ漏洩のリスクがあり、ユーザーが同意していないグループが極めて個人的な情報にアクセスする可能性がある。さらに、愛する人の家族が、死者のデジタルクローンを作成するために、どれだけの情報を提供してもよいかという許可を得ずに、できるだけ多くの情報を収集しようとすると、死後のプライバシーが問題になる。^[43]

米国では、著作権法では著作者の個性を保護するために、何らかの独創性と創造性が求められている。しかし、デジタルクローンの作成は、写真や音声録音などの個人データを取得し、実際の人物にできるだけ近い仮想の人物を作成することを意味するにすぎない。最高裁判所のFeist Publications Inc. v. Rural Television Services Company, Incの判決で、オコナー判事は独創性とある程度の創造性の重要性を強調した。しかし、独創性と創造性の範囲は明確に定義されておらず、著作権法のグレーゾーンが生じている。^[44]デジタルクローンの作成には、人物のデータだけでなく、デジタルクローンがどのように行動または移動するかについての作成者の入力も必要となる。Meshwerks v. Toyota では、この問題が提起され、裁判所は、写真用に作成されたのと同じ著作権法をデジタルクローンに適用すべきであると述べた。^[44]

デジタルクローニングの悪意ある使用から個人を保護する法律が現在存在しないことから、パブリシティ権が法的に個人を保護する最善の方法かもしれない。^[4]パブリシティ権は人格権とも呼ばれ、商業的な場で自分の声や容姿、その他本質的に人格を構成する側面をコントロールすることに関して、個人に自律性を与える。^[45]本人の同意なくディープフェイク動画やデジタルクローンが作られ、本人が人格から外れた行動や発言をしている様子が映っている場合、本人はパブリシティ権を侵害していると主張して法的措置を取ることができる。パブリシティ権は、何らかの利益を必要とする商業的な場で個人のイメージを保護することを意図していると明記されているが、法律を改正して事実上誰のイメージや人格も保護できると述べる者もいる。^[46]もう1つの重要な注意点は、パブリシティ権は特定の州でのみ実施されているため、一部の州では他の州と比較して権利の解釈が異なる可能性があることである。

デジタルおよびデジタル思考クローンは、データプライバシー、インフォームドコンセント、差別禁止、著作権、パブリシティ権に関する法的問題を提起する。より多くの管轄区域が、データの不当かつ有害な使用やデジタル思考クローンの無許可の開発および使用から人々を保護するため、欧州の一般データ保護規則に類似した法律を早急に制定する必要がある。^[3]

上述の技術の犠牲者にならないための一つの方法は、これらのアルゴリズムに対抗する人工知能を開発することです。すでに、各ピクセルのパターンを見て操作された画像を検出できる人工知能を開発した企業がいくつか存在します。^[47]同様のロジックを適用して、特定のビデオの各フレームをピクセルごとに分析し、元のビデオのパターンを見つけて操作されているかどうかを判断するソフトウェアを作成しようとしています。^[48]

動画操作を検出できる新技術の開発に加え、多くの研究者は、個人のプライバシーを保護するために民間企業がより厳格なガイドラインを作成することの重要性を指摘している。 ^[30]人工知能の発展に伴い、医療、教育、政治、経済など、社会のほぼすべての側面に人工知能が登場し始めているため、これが今日の社会にどのような影響を与えるかを問う必要がある。さらに、人工知能は社会のさまざまな側面に登場し始めるため、テクノロジーが支配するにつれて人権を保護する法律が重要になる。民間部門が一般市民に対してより多くのデジタルパワーを獲得するにつれて、民間企業が個人データを悪意を持って使用することを防ぐために、厳格な規制と法律を制定することが重要です。さらに、さまざまなデータ侵害やプライバシーポリシー違反の過去の歴史も、個人情報が本人の同意なしにアクセスされ、使用される可能性があることに対する警告となるはずです。^[8]

これらの技術による被害を防ぐもう一つの方法は、デジタルクローンの長所と短所について人々に教育することです。そうすることで、各個人が自分の状況に基づいて合理的な決定を下すことができます。^[49]さらに、インターネットに公開する情報を保護する方法について人々を教育することも重要です。一般の人々のデジタルリテラシーを高めることで、人々はオンラインで見つけた情報に対してより懐疑的になり、特定のビデオが操作されているかどうかを判断する可能性が高くなります。^[30]

• 人工知能
• ディープフェイク
• ディープラーニング
• デジタルメディア
• 死後のプライバシー
• バーチャル俳優