人工意識

デイビッド・チャルマーズは、「機能的に同型な」システム（同じ「きめ細かい機能的組織」、つまり同じ情報処理を持つシステム）は、生物学的ニューロンに基づいているかデジタルハードウェアに基づいているかに関わらず、質的に同一の意識体験を持つことを示すことを目的とした2つの思考実験を提案した。^{[ 20 ] [ 21 ]}

「クオリアの消失」は背理法による思考実験である。これは、脳のニューロンを、例えばシリコンチップをベースとした機能的に同一のコンポーネントで一つずつ置き換えるというものである。チャルマーズは、ニューロンを同一のシリコン相当物で一つずつ置き換えると「クオリアが消失または消滅する」という仮説を立てるが、これが不合理であることをあらかじめ知っている。元のニューロンとそのシリコン対応物は機能的に同一であるため、脳の情報処理は変化せず、被験者の行動や内省報告もまったく同じままであるはずだ。チャルマーズは、これは不合理な結論につながると主張する。つまり、被験者は実際のクオリアが消失しても、通常の意識体験を報告し続けることになる。彼は、被験者のクオリアは実際には消失せず、すべてのニューロンが置き換えられた後の結果として得られるロボット脳は、元の生物学的脳とまったく同じように知覚力を維持すると結論づけている。^{[ 20 ] [ 19 ]}

同様に、「踊るクオリア」思考実験も背理法による議論である。これは、機能的に同型な2つのシステムが異なる知覚を持つ可能性がある（例えば、同じ物体を赤と青のように異なる色で見る）と仮定している。これは、赤の知覚を引き起こす脳の一部と、青の知覚を引き起こす機能的に同型なシリコンチップを交互に切り替えるスイッチを伴う。両方とも脳内で同じ機能を果たすため、被験者は切り替え中に変化に気づかない。チャルマーズは、クオリアが本当に赤と青の間で切り替わっているとしたら、これは非常にあり得ないことであり、したがって矛盾が生じると主張する。そのため、彼は、同等のデジタルシステムはクオリアを経験するだけでなく、生物システムと同じクオリア（例えば、同じ色を見る）を知覚すると結論づけている。^{[ 20 ] [ 19 ]}

グレッグ・イーガンの短編小説『自分になることを学ぶ』（「フィクションにおいて」の項で言及）は、一人称視点から見ると、脳とその機能の複製がいかに検出不可能であるかを示している。

批評家たちは、チャルマーズの提案は、すべての精神的特性と外部接続がすでに抽象的な因果的組織によって十分に捉えられていると仮定しているため、論点先取の誤謬であると反論している。ヴァン・ヒューヴェルンらは、踊るクオリアの議論には、2 つのシステム間の「経験の変化」と単一のシステム内の「変化の経験」を混同する曖昧さの誤謬が含まれていると主張している。^{[ 22 ]}モーゲンセンは、意識の境界の曖昧さと意識的な神経活動の全体的構造に訴えることで、消えゆくクオリアの議論に抵抗できると主張している。これは、意識が基質に依存しないのではなく、特定の生物学的基質を必要とする可能性があることを示唆している。^{[ 23 ]}アニル・セスは、脳ニューロンの複雑さは、その機能に加えて本質的に重要であり、脳のどの部分も完全なシリコン相当物で置き換えることは不可能だと主張している。彼は、生物学的ニューロンの一部は代謝老廃物を掃除することを目的とした活動を示すことを指摘し、完全なシリコン代替物にはシリコンベースの代謝が必要だが、シリコンはそのような人工代謝を作成するのに適していないと書いている。^{[ 11 ]}

2022年、Googleのエンジニアであるブレイク・レモインは、GoogleのLaMDAチャットボットが意識を持っているという主張をし、話題となった。レモインは、チャットボットが彼の多くの質問に対して人間のような回答をしたことを証拠として提示したが、科学界では、チャットボットの行動は機械の意識ではなく、模倣の結果である可能性が高いと判断された。レモインの主張は、ばかげているとして広く嘲笑された。^{[ 24 ]}さらに、LLMの出力やアルゴリズムによって作成された没入体験のみに基づいて意識を帰属させることは、誤謬であると考えられている。^{[ 25 ]}しかし、哲学者ニック・ボストロムは、LaMDAが意識を持っている可能性は低いと述べている一方で、「人がそれを確信する根拠は何だろうか？」という疑問も投げかけている。 LaMDAのアーキテクチャに関する未公開情報にアクセスできなければならず、意識の仕組みを理解し、その哲学を機械にマッピングする方法を解明する必要があるだろう。「（これらのステップがない場合）少し不安になるべきかもしれない。 [...]現在、あるいは比較的近い将来、基準を満たし始める他のシステムが存在する可能性は十分にある。」^{[ 26 ]}

デイビッド・チャルマーズは2023年に、今日のLLMは印象的な会話能力と一般的な知能能力を示しているが、再帰処理、グローバルワークスペース、統一されたエージェンシーなど、必要と思われるいくつかの機能が欠けているため、まだ意識を持っていない可能性が高いと主張した。それにもかかわらず、彼は非生物システムも意識を持つことができると考えており、これらの要素を組み込んだ将来の拡張モデル（LLM+）は最終的に意識の基準を満たす可能性があり、深い科学的疑問と重大な倫理的課題の両方を提起すると示唆した。^{[ 27 ]}しかし、意識が生物学的現象なしに存在できるという見解は議論の的となっており、それを否定する人もいる。^{[ 10 ] [ 11 ] [ 25 ]}

クリスティーナ・シェクルストは、「幻覚」のような擬人化された用語が、人工認知と人間認知の間の重要な存在論的差異を覆い隠してしまう可能性があると警告している。 ^{[ 28 ]} LLMが人間のような出力を生成する可能性があるとしても、それがそれらに精神状態や意識を帰属させることを正当化するものではないと彼女は主張する。代わりに、彼女はAIの知識生成の独特な性質を認識する認識論的枠組み（信頼性主義など）を提唱している。^{[ 29 ]}彼女は、LLMにおける見かけ上の理解は、AIの幻覚の洗練された形態である可能性があると示唆している。彼女はまた、意識について一切言及せずにLLMを訓練した場合、何が起こるのかについても疑問を呈している。^{[ 30 ]}

スタン・フランクリンは、ベルナール・バースの意識理論であるグローバルワークスペース理論を実装したLIDAと呼ばれる認知アーキテクチャを作成しました。これは、コードレットに大きく依存しています。コードレットとは、「通常、別のスレッドとして実行される小さなコード片として実装される、特殊目的の比較的独立したミニエージェント」です。認知の各要素は「認知サイクル」と呼ばれ、理解、意識、行動選択（学習を含む）の3つのフェーズに細分化されます。LIDAは、さまざまな認知プロセスを調整するために、意識が最も重要な情報を統合およびブロードキャストするためのワークスペースとして機能するという、グローバルワークスペース理論の中核的なアイデアを反映しています。^{[ 59 ] [ 60 ]}

CLARIONの認知アーキテクチャは、意識的（「明示的」）プロセスと無意識的（「暗黙的」）プロセスを区別するために2段階システムを使用して心をモデル化します。単純なものから複雑なものまでさまざまな学習タスクをシミュレートできるため、研究者は心理学実験で意識がどのように機能するかを研究することができます。^{[ 61 ]}

ベン・ゴーツェルは、オープンソースプロジェクト「OpenCog 」を通じて、身体を持つAIを開発した。このコードには、簡単な英語のコマンドを学習できる身体を持つ仮想ペットや、香港理工大学で開発された実世界のロボットとの統合機能が含まれている。

ペンティ・ハイコネンは、古典的なルールベースのコンピューティングではACを達成するには不十分だと考えている。「脳は明らかにコンピュータではない。思考はプログラムされた一連のコマンドの実行ではない。脳は数値計算機でもない。私たちは数字で考えるわけではない。」ハイコネンは、心と意識の根底にある計算ルールを特定して実装することで心と意識を達成しようとするのではなく、「知覚、内的イメージ、内的言語、痛み、快楽、感情、そしてそれらの背後にある認知機能のプロセスを再現するための特別な認知アーキテクチャ」を提案している。このボトムアップアーキテクチャは、アルゴリズムやプログラムなしで、基本処理ユニットである人工ニューロンの力によって高レベルの機能を生成するだろう。ハイコネンは、十分な複雑さで実装すれば、このアーキテクチャが意識を発達させると考えている。彼は意識を「分散信号表現、知覚プロセス、クロスモーダル報告、回顧の可能性によって特徴付けられる、動作のスタイルと方法」だと考えている。^{[ 62 ] [ 63 ]}

ハイコネンは、意識のプロセス的見解、あるいは適切な神経科学に触発された複雑性のアーキテクチャを持つ自律エージェントにおいてACが自発的に出現するという見解において、孤立しているわけではない。これらは多くの人々に共有されている。 ^{[ 64 ] [ 65 ]}ハイコネンが提案したアーキテクチャの低複雑性実装はACを果たせなかったと報告されているが、予想通り感情は示した。ハイコネンは後に自身のアーキテクチャを更新し、要約した。^{[ 66 ] [ 67 ]}

マレー・シャナハンは、バールスのグローバルワークスペースの概念と内部シミュレーション（「想像」）のメカニズムを組み合わせた認知アーキテクチャについて述べている。^{[ 68 ] [ 2 ] [ 3 ] [ 69 ]}

ホッド・リプソンは、「自己モデリング」をロボットやその他の形態のAIにおける自己認識または意識の必須要素と定義している。自己モデリングとは、ロボットが自身の内部モデルまたはシミュレーションを実行することである。^{[ 70 ] [ 71 ]}この定義によれば、自己認識とは「未来の自分を想像する獲得された能力」である。この定義は、自己シミュレーションの視野と忠実度に応じて、自己認識レベルの連続性を可能にする。したがって、機械がより正確に、より遠い未来まで自己をシミュレーションすることを学習するにつれて、自己認識が高まる。