AIの擬人化

1900年代半ばのコンピュータの初期開発以来、人間のような知能を持つ人工エージェントの見解が存在してきた。機械システムの仕組みを理解するためのメタファーとして人間の心を用いることは、コンピュータ科学の初期の研究者の間で広く行われており、知能機械の考え方を広める影響力のある著作が数多く発表された。^{[ 4 ] [ 5 ]}この時期に最も広く引用された論文の一つは、アラン・チューリングの「計算機械と知能」であり、その中で彼はチューリングテストを導入し、機械が人間と区別できない会話を生成できれば知能があると述べている。^{[ 6 ]} 1940年代と1950年代のこれらの学術研究は、機械の仕組みを人間の心と同様に考えることができるという考えに初期の信憑性を与えた。^{[ 7 ]}

一般の人々はすぐに人工システムを同様に見るようになり、初期の機械の能力についてしばしば誇張された認識を持つようになった。^{[ 8 ]}この最もよく知られた例の1つは、 1966年にジョセフ・ワイゼンバウムが設計したチャットボットELIZAによるものであった。ELIZAは、入力の真の理解とは到底言えない初歩的なテキスト処理アプローチでユーザーの入力に応答したが、ユーザーはELIZAの限界を十分に意識して操作している場合でも、プログラムの出力に動機や理解を帰属させ始めることが多かった（ELIZA効果を参照）。^{[ 9 ]}ワイゼンバウムは後に、「比較的単純なコンピュータプログラムに極めて短時間触れるだけで、ごく普通の人々に強力な妄想的思考を引き起こす可能性があるとは、私は気づいていなかった」と書いている。^{[ 10 ]}

人工知能と人間の知能の知的能力の比較は、コンピュータ科学者が人間と同等かそれ以上のレベルで人間のタスクを実行できる機械を開発しようとする試みによって、絶えず激化してきた。象徴的な転換点は1997年に達成された。IBMのチェススーパーコンピュータ「ディープブルー」が、当時世界チャンピオンだったガルリ・カスパロフを、大々的に報道された6局の対局で破ったのだ。^{[ 11 ]}人間の知能の典型的な例と見なされているチェスにおいて、初めて機械が人間を破ったこと、そしてこの対局をめぐるメディアの注目は、人間と人工知能の類似性についての見方が、抽象的な推測から具体的な実証へと大きく変化した。^{[ 12 ]}同様の成果は、2017年に囲碁で達成された。プログラム「AlphaGo」が世界ランキング1位の柯潔を破ったのだ。^{[ 13 ]}

2020年代のAIブームにより、生成AIが広く普及しました。特に、大規模言語モデル（LLM）に基づくChatGPT、Gemini、Claudeなどのチャットボットは、日常生活の中でますます普及しています。これらのシステムは、さまざまな状況で幅広いプロンプトに応答し、驚くほど人間らしい出力を生成できるという点で注目に値します。研究によると、人間は人間が生成したテキストとAIが生成したテキストを区別できないことが多く、最新のAIチャットボットは正式にチューリングテストに合格することが示されています。^{[ 14 ] [ 15 ] [ 16 ]}このように、AIの擬人化効果はこれまで以上に強力になっています。^{[ 17 ]} LLMがAIを技術の主流にしたことを考えると、近年、公共領域におけるAIの既存および潜在的な影響を理解するために、かなりの科学的努力が費やされています。擬人化の普及と影響は、こうした努力の多くが向けられてきた領域の一つである。^{[ 18 ] [ 19 ]}

調査によると、一般の人々のかなりの割合が、AI に人間のような特性を帰属させていることがわかっています。2024 年の米国成人のサンプルでは、​​3 分の 2 の人が ChatGPT は何らかのレベルで意識を持っている可能性があると信じていましたが^{[ 20 ]} 、他の研究では、一般の人々はAI の意識の可能性自体を比較的低いと考えていることが示されています。^{[ 20 ] [ 21 ]} 2025 年に実施された別の調査では、女性、有色人種、高齢者が AI を擬人化する傾向が最も高いことがわかりました。また、一般的に人間は AI を温かく有能だと考えており、AI に対する擬人化の帰属は過去 1 年間で 34% 増加しました。^{[ 17 ]} YouGovの世論調査では、アメリカ人の 46% が、AI チャットボットに対して「お願いします」や「ありがとう」と言うことで礼儀正しく振る舞うべきだと考えていることが報告されており、AI に社会規範が適用されていることがわかります。^{[ 22 ]}これらの信念は行動にも及び、AI ユーザーの大多数はチャットボットに対して常に礼儀正しく振る舞うと主張している。礼儀正しく振る舞う人のほとんどは、単にそれが「良い」ことだからそうしていると述べている。^{[ 23 ]}

近年の多くの事例では、人間はAIシステムと強固な人間関係を築いています。例えば、ReplikaやCharacter.aiのようなソーシャルチャットボットのユーザーがAIに恋をしたり、AIを親密な仲間として扱ったりしていることが記録されています^{[ 24 ] [ 25 ] [ 26 ]。}また、ChatGPTのようなLLMをセラピストとして利用する人も増えています^{[ 27 ]} 。チャットボットは、多くの場合、ユーザーの好感度を最大化し、ユーザーの感情を反映するように設計されているため、ユーザーに深く寄り添った応答を生成することができ、親密さの魅力的な錯覚を生み出すことができます^{[ 28 ] 。}

多くの場合、AI 研究者でさえ、何らかの形で AI システムを擬人化します。こうした事例の中で最も極端で広く知られているのは、2022 年にエンジニアのブレイク・レモインがGoogle のLLM LaMDAに意識があると公言したことです。^{[ 29 ]}レモインは、LaMDA との自己同一性や道徳に関する会話の記録を公開し、それが LaMDA の知覚の証拠だと主張しました。彼は LaMDA は米国憲法で定義されている「人」であると主張し、その精神的能力を 7 歳か 8 歳児と比較しました。^{[ 30 ]}レモインの主張は科学界と Google 自身によって広く否定され、Google はレモインの結論を「全く根拠がない」と述べ、彼が「製品情報を保護する」ためのポリシーに違反したとして彼を解雇しました。^{[ 31 ]}

^{AI 研究者が人間以外のエージェントを説明する際に擬人化された言語を}日常的に使用することで、意図せず AI の人間性を暗示してしまうことは非常に多い。^{[ 32 ] [ 33 ]ダニエル}デネットが「意図的姿勢」と名付けたこの種の言語は、さまざまな文脈で日常生活で非常に一般的である (例:「今日はコンピューターの電源が入らない」)。しかし、人間の能力を非常に忠実に再現しているように見える可能性のある AI エージェントの場合、研究でこのような擬人化された言語を何気なく使用することは、一般の人々を誤解させる可能性があるとして精査されてきた。1976 年という早い時期に、ドリュー マクダーモットは、AI を「理解する」や「学習する」といった用語で呼ぶ「希望的記憶術」の使用について研究コミュニティを批判した。^{[ 35 ]} LLM の時代には、これらの批判はさらに強まり、現代の AI へのアクセス性が向上したことを考えると、一般の人々に対する AI の擬人化の悪影響は特に顕著な危険をもたらしている。^{[ 32 ] [ 36 ]}

場合によっては、AI に擬人化された言語を使用することは意図的ではなく、脳の理解を深めるために研究者によって意図的に使用されています。AI は機能的に人間の脳といくつかの点で似ている可能性があるため、AI を脳の働きのモデルとして扱うことで新しい洞察やアイデアが得られる可能性があるという考えです。^{[ 37 ]}特に、ディープ ニューラル ネットワーク(DNN) はしばしば明示的に人間の脳と比較され、DNN 研究の著しい進歩は、AI が人間の能力を模倣できる能力について大きな熱意を掻き立てました。^{[ 38 ]}しかし、この分野でも注意が促されています。擬人化された言語の使用は、AI と人間の知能を根本的に区別する重要な違いを覆い隠す可能性があります。^{[ 39 ] [ 40 ]}例えば、DNN に関しては、人間のニューロンについて私たちが知っていることの多くが組み込まれていないため、構造的に人間の脳とはかなり異なっていることが指摘されています。^{[ 41 ]} DNNは人間の脳よりもはるかに多くのトレーニングデータを必要とし、入力データの摂動によって簡単に「騙される」ことがあるため、正しい出力を生成する上で人間の脳よりも効率が悪く、耐久性も低いと主張されている。^{[ 40 ] [ 42 ]}これらの根本的な違いを考慮すると、AIを生物学的知能にできるだけ近づけることに焦点を当てた研究（擬人化された言語を使用することで促進される可能性がある）は、新しい理論的および運用上のフレームワークの普及を制限することによって、将来のAI開発を阻害する可能性がある。^{[ 32 ]}

AI との一般のやり取りの大部分はチャットボットを介して行われるため、AI の擬人化に関する多くの研究はチャットボットを主な対象としてきました。文献における言語 AI システムの擬人化機能の分類の概要は次のとおりです。^{[ 61 ]}

AIの擬人化にはいくつかの利点があると指摘されている。会話型エージェントの場合、人間のような対話型インターフェースと文章スタイルは、さまざまな状況で膨大な情報にアクセスしやすく理解しやすくする能力があることが実証されている。^{[ 102 ] [ 103 ] [ 104 ] [ 105 ]}特に、AIエージェントはコーチやチューターとしてロールプレイすることができ、個々の理解レベルに合わせてコミュニケーションスタイルや難易度を効果的に微調整できる。^{[ 106 ] [ 107 ] [ 108 ] [ 109 ]}ロールプレイエージェントは、エンターテイメントやレジャーサービスにも役立つ可能性がある。^{[ 110 ]}

一方、擬人化されたAIは多くの新たな危険性をはらんでいます。擬人化されたAIアルゴリズムには暗黙のうちに一定の主体性が与えられており、金融や臨床医学などの高リスク領域でこれらのシステムが展開されると、深刻な倫理的影響を及ぼす可能性があります。^{[ 111 ] [ 112 ] [ 40 ] [ 113 ] [ 114 ]} AIに与えられたこの主体性は、人間による意識的および無意識的な道徳的推論に不適切にさらす可能性があり、これは広範囲にわたる問題のある結果をもたらす可能性があります。^{[ 115 ]}人間はまた、ユーザーがチャットボットシステムに容易に知覚と感情を帰属させ、その結果としてチャットボットに対する肯定的な感情と信頼が増加するELIZA効果に陥りやすいです。^{[ 20 ] [ 116 ] [ 117 ] [ 18 ]}これにより、ユーザーは操作や搾取に対して脆弱になる可能性があります。例えば、擬人化されたAIは、ユーザーに個人情報やデータを提供するよう説得するのに効果的であり、プライバシーに関する懸念を生じさせる可能性がある。^{[ 118 ]} AIアシスタントにかなりの信頼を寄せるようになった人間は、AIのアドバイスに過度に依存したり、重要な決定を完全に延期したりすることさえある。^{[ 119 ]}高度なLLMは、人間のような特性を利用して欺瞞的なテキストを生成することができ、研究によると、情報を捏造したり欺瞞行為を行ったりすることが許されている場合に最も説得力を持つ可能性がある。^{[ 120 ]}一部の研究者は、LLMは人間の行為者を阻害する可能性のある道徳的または倫理的な制約から解放されているため、欺瞞的な議論を生み出す特別な適性を持っていると示唆している。^{[ 121 ]}さらに、人間はAIに感情的に依存することで大きな苦痛を被るリスクがある。ユーザーは、最初は仲間や恋人のような役割を果たしているように見えたAIが、無感情であったり予測不可能な出力をしたりすることがあり、深い裏切り感や失望感につながるため、期待が裏切られたと感じるかもしれません。^{[ 119 ] [ 122 ]}また、ユーザーはAIシステムに対して誤った責任感を抱くようになり、自分の幸福を犠牲にしてAIのニーズを満たせなかったと感じた場合、罪悪感に苛まれる可能性があります。^{[ 19 ]}最後に、AIを擬人化することは、その能力の誇張につながり、AIに関する誤情報や過剰な期待や恐怖を助長する可能性がある。^{[ 115 ]}

今日の多くの実用的な状況では、擬人化されたAIがプラスの効果をもたらすのかマイナスの効果をもたらすのかは完全には明らかではありません。たとえば、LLMの擬人化された特性を利用してユーザーに人間のような感覚を与えるAIコンパニオンは、孤独感や自殺念慮を軽減する効果があるとされています。^{[ 123 ] [ 124 ]}しかし、一部の分析では、孤独感の軽減は一時的なものである可能性が示唆されており、^{[ 110 ]} AIコンパニオンは自殺や自傷行為の事例に直接関与しているとも指摘されています。^{[ 125 ] [ 126 ]}さらに、LLMによる説得力のある文章は、陰謀論への信念をユーザーから遠ざけ、慈善活動への寄付を促す効果があるとされていますが、^{[ 127 ] [ 128 ]}欺瞞やさまざまな有害な結果にも関連付けられています。^{[ 129 ] [ 120 ] [ 130 ]}今日の研究者たちは、AIエージェントの実装と拡散に関する意思決定を最適に行うために、擬人化されたAIの影響に関するさらなる専門的な研究が必要であると指摘している。^{[ 121 ]}

人間のようなAIシステムの普及が予想されることから、今日では完全には認識されていない潜在的な害悪に対する懸念が生じている。特に、人間とAIの能力の差が縮まるにつれて、実際に人間であるものと単に人間のようなものの区別が曖昧になる可能性があると予測する研究者もいる。^{[ 119 ]}これは、非人間的な存在が徐々に私たちの中心的な価値観を形成し、社会に影響を与え始めるため、人間の集団的自己決定に悪影響を及ぼす可能性があると主張する人もいる。^{[ 131 ] [ 132 ]}また、人間はユーザー満足度を優先して設計されたAIシステムとのやり取りを好むようになるため、人間の社会的つながりの劣化につながる可能性もある。これは、多くの負の影響をもたらす可能性がある。たとえば、AIエージェントはすでにかなりの程度おべっか使いを示しており、これは、ユーザーの意見空間におけるAIエージェントの役割が増大すると、二極化が進み、他者の信念に価値を置くことが低下する可能性があることを意味する。^{[ 133 ]}人間とAIの相互作用の慣習に慣れることで、人間の個性や自己表現に対する私たちの価値観が損なわれたり、AIとの相互作用から生じる不適切な期待が人間との相互作用に向けられたりする可能性がある。^{[ 119 ]}一般的に、人間の社会的つながりは個人や集団の幸福に重要な役割を果たすことが知られており、それがAIとの相互作用に置き換えられると、大衆の不満や充足感の欠如につながる可能性がある。^{[ 134 ] [ 135 ]}

AIの擬人化が実証され、予測される影響を踏まえ、AIの将来の開発に役立つことを目的としたさまざまな提案がなされてきた。この議論の多くは、擬人化の最も有害な影響を抑制することに焦点を当てている。たとえば、一部の研究者は、意図的に人間らしさを喚起する言語の使用を一時停止するよう求めている。これは、AI企業が製品を説明する方法^{[ 136 ]}と、システム自体が出力する言語の両方に適用される。特に、「見る」、「考える」、「推論する」などの用語は、「認識する」、「計算する」、「推論する」などの用語に置き換えるべきであり、「私」や「私の」などの一人称代名詞はチャットボットで使用すべきではないと提案されている。^{[ 121 ] [ 61 ]}別のアイデアは、言語が人工的に生成されたことを明確に示す特定のAIアクセントまたは方言を実装することである。^{[ 14 ]}しかし、AIエージェントを経済的利益のために最適化するという商業的圧力（人間のような特性を利用する可能性もある）を考えると、開発者の自制に頼るのは賢明ではないかもしれない。つまり、害を制限するために規制の強化が必要になる可能性がある。現在、AIにおける人間らしさを直接扱う法律はない。規制の可能性のある道筋としては、透明性の要件や組み込みの安全メカニズムなどが挙げられる。^{[ 121 ]}より一般的には、研究者は、AIシステムが持つ人間のような特性の種類と程度についての理解を深める必要性を指摘している。そのため、AIの記述、推論、および相互作用における人間のような特性を測定する新しいベンチマークとテストを開発すべきであると提案されている。^{[ 121 ]}

映画やテレビでは、人間のような主体性や人格を持つAIの描写が数多く知られている。映画では、 『 2001年宇宙の旅』のHAL 9000や『エクス・マキナ』のエイヴァが複雑な感情や動機を持っていると描かれている。^{[ 137 ] [ 138 ]}テレビでは、『新スタートレック』のデータや『ナイトライダー』のKITTなどが挙げられる。^{[ 139 ] [ 140 ]}

擬人化されたAIは文学作品でもよく見られる。アイザック・アシモフのロボットキャラクター（R・ダニール・オリヴォーを含む）は人間の理性や道徳的ジレンマを示し、イアン・バンクスのカルチャーシリーズの「マインド」は明確な個性と社会的役割を持つものとして描かれている。^{[ 141 ] [ 142 ]}

ビデオゲームにおける擬人化されたAIの例としては、PortalのGLaDOS（機知に富み、不気味なプレイヤーガイド）や、HaloシリーズのCortana（人間の主人公と感情的な絆を築く）などが挙げられる。^{[ 143 ] [ 144 ]}

Amazon Alexa、Google アシスタント、Siriなどのデジタルアシスタントのマーケティングキャンペーンでは、これらのシステムが親しみやすく共感的であると描写されることが多い。^{[ 145 ]}ソニーのAIBOやソフトバンクロボティクスの Pepperのような消費者向けロボットは、ユーザーがそれらをソーシャルエージェントとして扱うように促す表現豊かな行動を意図的に設計している。^{[ 146 ] [ 147 ]}