人工意識

人工意識^[1]は、機械意識^[2]、[3] 合成意識^[4]、またはデジタル意識^[5]としても知られ、人工知能で可能であると仮定されている意識です。^[6]これは、心の哲学、人工知能の哲学、認知科学、神経科学からの洞察を引き出す対応する研究分野でもあります。

同じ用語は、現象的意識（クオリアを感じる能力）を具体的に指す場合には、「意識」の代わりに「感覚」という用語で使用できます。^{[7]感覚は倫理的に肯定的または否定的な（つまり、}価のある）精神状態を経験する能力を伴うため、動物の場合と同様に、福祉上の懸念や法的保護を正当化する可能性があります。^[8]

学者の中には、意識は脳のさまざまな部分の相互運用によって生成されると考える者もいる。これらのメカニズムは意識の神経相関、つまりNCCと呼ばれている。さらに、このNCCの相互運用をエミュレートできるシステム（例えば、コンピュータシステム）を構築すれば、意識のあるシステムが生まれると考える者もいる。^[9]

意識には多くの仮説上のタイプがあるため、人工意識の潜在的な実装方法も数多く存在します。哲学文献では、意識の最も一般的な分類法は「アクセス」と「現象」の2つに分類されるでしょう。アクセス意識は、経験のうち把握できる側面に関係し、現象意識は、経験のうち把握できない側面に関係し、代わりに「生の感覚」、「どのようなものか」、またはクオリアという質的な観点から特徴付けられます。^[10]

タイプ同一性理論家や他の懐疑論者は、意識は物理的な構成に必然的に依存する特性を持っているため、意識は特定の物理システムでのみ実現できるという見解を抱いている。^{[11] [12] [13] [14]}ジョルジョ・ブッタッツォは2001年の論文「人工意識：ユートピアか現実の可能性か」で、人工意識に対する一般的な反論は「完全に自動化されたモードで動作しているため、それら[コンピューター]は創造性、再プログラム解除（再思考による「再プログラム」ができなくなる）、感情、または自由意志を発揮できない。コンピューターは洗濯機のように、その部品によって操作される奴隷である」というものだ、と述べている。^[15]

因果的役割の観点から精神状態を定義する他の理論家（例えば機能主義者）にとっては、身体的構成に関係なく、同じ因果的役割のパターンを具体化できるあらゆるシステムは、意識を含む同じ精神状態を具体化することになる。^[16]

デイヴィッド・チ​​ャーマーズは、「機能的に同型な」システム（同じ「細粒度機能組織」、つまり同じ情報処理を持つシステム）は、生物学的ニューロンに基づいているかデジタルハードウェアに基づいているかに関係なく、質的に同一の意識体験を持つということを実証することを意図した2つの思考実験を提案した。^{[17] [18]}

「消えゆくクオリア」は、アブストラクトな思考実験である。これは、脳のニューロンを、例えばシリコンチップをベースにした機能的に同一のコンポーネントに一つずつ置き換えるというものである。元のニューロンとそのシリコンの対応物は機能的に同一であるため、脳の情報処理は変わらないはずであり、被験者は違いに気付かない。しかし、クオリア（明るい赤の主観的経験など）が消えたり消えたりすると、被験者はこの変化に気付く可能性が高く、矛盾が生じる。チャーマーズは、消えゆくクオリア仮説は実際には不可能であり、ニューロンがすべて置き換えられた結果として生じるロボット脳は、元の生物学的脳とまったく同じ感覚を維持するだろうと結論付けている。^{[17] [19]}

同様に、「踊るクオリア」という思考実験も、別の背理法の議論である。これは、機能的に同型の 2 つのシステムが異なる知覚を持つ可能性があると想定している (たとえば、同じ物体を赤と青のように異なる色で見る)。この実験では、赤の知覚を引き起こす脳の一部と、青の知覚を引き起こす機能的に同型のシリコン チップを交互に切り替えるスイッチが関係している。どちらも脳内で同じ機能を果たすため、被験者は切り替え中に変化に気付かない。チャルマーズは、クオリアが本当に赤と青の間で切り替わっているとしたら、これは非常にあり得ないことであり、矛盾が生じると主張している。したがって、彼は、同等のデジタル システムはクオリアを経験するだけでなく、生物システムと同じクオリア (たとえば、同じ色を見る) を認識すると結論付けている。^{[17] [19]}

人工知覚の批評家^{[誰? ]}は、すべての精神的特性と外部接続がすでに抽象的な因果関係の組織によって十分に捉えられていると仮定しているチャーマーズの提案は論点のすり替えであると異議を唱えている。

2022年、Googleのエンジニアであるブレイク・ルモワンは、GoogleのLaMDAチャットボットは知覚力があるという主張をし、話題となった。ルモワンは、彼の質問の多くに対するチャットボットの人間のような答えを証拠として提示したが、チャットボットの行動は、機械の知覚力ではなく、模倣の結果である可能性が高いと科学界は判断した。ルモワンの主張はばかげているとして広く嘲笑された。^[20]しかし、哲学者のニック・ボストロムは、LaMDAが意識を持っている可能性は低いと述べているが、さらに「人がそれを確信できる根拠は何だろうか？」という疑問も提起している。LaMDAのアーキテクチャに関する未発表の情報にアクセスでき、意識がどのように機能するかを理解し、その哲学を機械にマッピングする方法を考え出す必要がある。「（これらのステップがなければ）、少し不確実であるように思われます。 [...] 現在、または比較的近い将来に、基準を満たし始める他のシステムが存在する可能性は十分にあります。」^[21]

クオリア、つまり現象学的意識は、本質的に一人称的な現象である。そのため、また知覚の経験的定義が欠如しているため、それを直接測定することは不可能かもしれない。システムは知覚と相関する多数の動作を示す可能性があるが、システムが知覚力を持っているかどうかを判断することは、意識の難問として知られている。AIの場合、AIが人間のように行動するように訓練されるか、知覚力があるように見せるように動機付けられる可能性があるというさらなる困難があり、知覚の行動マーカーの信頼性が低くなる。^{[22] [23]}さらに、一部のチャットボットは、意識がないと言うように訓練されている。^[24]

機械知能をテストするよく知られた方法は、人間のような会話をする能力を評価するチューリングテストです。しかし、チューリングテストに合格してもAIシステムが知覚力を持っているとは限りません。AIは単に人間の行動を模倣するだけで、それに関連する感情を持たない可能性があるからです。^[25]

2014年、ヴィクター・アルゴノフは、機械が哲学的判断を下す能力に基づいて、機械の知覚力を調べるための非チューリングテストを提案した。 ^{[26]彼は、決定論的な機械が、これらの問題に関する生来の（プリロードされた）哲学的知識を持たず、学習中に哲学的な議論をせず、メモリ内に他の生物の情報モデルを持たずに、意識のすべての問題のある特性（クオリアや}束縛など）についての判断を下すことができれば、意識があるとみなされるべきだと主張している（そのようなモデルには、これらの生物の意識に関する知識が暗黙的または明示的に含まれている可能性がある）。しかし、このテストは意識の存在を検出するためにしか使用できず、反証することはできない。肯定的な結果は機械が意識があることを証明し、否定的な結果は何も証明しない。たとえば、哲学的判断の欠如は、意識の欠如ではなく、機械の知性の欠如によって引き起こされる可能性がある。

ある機械に意識があると疑われる場合、その権利は倫理的問題となり、評価する必要がある（例えば、法律上どのような権利があるか）。^[27]たとえば、より大きな機械の中で道具や中央コンピュータとして所有され使用される意識のあるコンピュータは、特に曖昧である。このようなケースに対して法律を制定すべきだろうか？この特定のケースでは、意識にも法的な定義が必要である。人工意識は依然として主に理論的な主題であるため、そのような倫理はフィクションではしばしばテーマとなっているものの、あまり議論も発展もされていない。

知覚力は一般的に道徳的考慮に十分であると考えられていますが、一部の哲学者は、道徳的考慮は意識の他の概念、または意識とは無関係の能力からも生じる可能性があると考えています。^{[28] [29]}たとえば、「自分自身が時間を通じて存続するという洗練された概念を持っていること、主体性を持ち、長期計画を追求する能力があること、規範的な理由を伝えて対応できること、好みや力を持っていること、道徳的地位を持つ他の存在と特定の社会的関係にあること、約束をしたり相互の取り決めをしたりできること、またはこれらの属性のいくつかを開発する可能性を持っていること」などです。^[28]

意識が不確実な場合でも、確率が無視できないとみなされる限り、倫理的な懸念は依然として（程度は低いものの）適用される。予防原則は、AIに道徳的配慮を誤って帰属させたり否定したりすることによる道徳的コストが大きく異なる場合にも関連する。^{[29] [8]}

2021年、ドイツの哲学者トーマス・メッツィンガーは、 2050年まで合成現象学の世界的な一時停止を主張した。メッツィンガーは、人間は自分が作り出した知覚力のあるAIに対して注意義務を負っており、あまりに急ぐと「人工的な苦しみの爆発」を引き起こす危険性があると主張している。^[30]デビッド・チャーマーズも、意識のあるAIを作ることは「新たな倫理的課題を引き起こし、新たな形の不正を引き起こす可能性がある」と主張した。^[31]

強制健忘は、意識を持ったAIや脳オルガノイドのようなAIに隣接する特定の生物学的システムにおける沈黙の苦しみのリスクを軽減する方法として提案されている。^[32]

バーナード・バーズらは、機械が人工的に意識を持つためには、意識のさまざまな側面が必要であると主張している。^[33]バーズが示唆する意識の機能は、定義とコンテキスト設定、適応と学習、編集、フラグ付けとデバッグ、リクルートと制御、優先順位付けとアクセス制御、意思決定または実行機能、類推形成機能、メタ認知と自己監視機能、自動プログラミングと自己維持機能である。イゴール・アレクサンダーは、人工意識の12の原則を示唆した。^[34]脳は状態機械である、内部ニューロンの分割、意識と無意識の状態、知覚学習と記憶、予測、自己認識、意味の表象、発話の学習、言語の学習、意志、本能、感情。ACの目的は、意識のこれらの側面やその他の側面が、デジタルコンピュータなどの人工物でどのように合成できるかを定義することです。このリストは網羅的なものではなく、カバーされていないものも多数あります。

デイヴィッド・チ​​ャーマーズなどの哲学者の中には、「意識」という用語を現象的意識のみを指して使用しており、これは感覚とほぼ同義である。ただし、一部の著者は、感覚という言葉を、快楽や苦しみなどの価のある（倫理的に肯定的または否定的な）主観的経験のみを指して使用している。 [ ^31]主観的経験がなぜ、どのように生じるのかを説明することは、意識の難問として知られている。^[35] AIの感覚は福祉と法的保護に関する懸念を引き起こす可能性があるが、^[8]認知能力に関連する意識の他の側面は、AIの権利に関係する可能性がある。^[36]

認識は必要な側面の 1 つである可能性がありますが、認識の正確な定義には多くの問題があります。サルの神経スキャン実験の結果は、状態やオブジェクトだけでなく、プロセスがニューロンを活性化することを示唆しています。認識には、感覚や想像を通じて受け取った情報に基づいて各プロセスの代替モデルを作成してテストすることが含まれます^{[説明が必要]}。また、予測を行うのにも役立ちます。このようなモデリングには多くの柔軟性が必要です。このようなモデルの作成には、物理​​世界のモデリング、自分の内部状態とプロセスのモデリング、および他の意識のあるエンティティのモデリングが含まれます。

意識には少なくとも3つの種類があります。^[37]行為意識、目標意識、感覚運動意識です。これらも意識的である場合とそうでない場合があります。たとえば、行為意識では、昨日特定の行動を実行したことに気付いているかもしれませんが、今はそれを意識していません。目標意識では、失くした物を探さなければならないことに気付いているかもしれませんが、今はそれを意識していません。感覚運動意識では、手が物体の上に置かれていることに気付いているかもしれませんが、今はそれを意識していません。

認識の対象は意識的であることが多いため、認識と意識の区別は曖昧になったり、同義語として使われたりすることが多い。^[38]

意識的な出来事は、学習、リハーサル、検索において記憶システムと相互作用する。 ^[39] IDAモデル^{[40]は、知覚記憶、 [41]}一過性エピソード記憶、手続き記憶の更新における意識の役割を解明する。一過性エピソード記憶と宣言的記憶はIDAにおいて分散表現を持ち、神経系でも同様であるという証拠がある。^{[42] IDAでは、これら2つの記憶は、} Kanervaのスパース分散メモリアーキテクチャの修正版を使用して計算的に実装されている。^[43]

学習は人工意識にも必要であると考えられている。バーナード・バーズによれば、意識的な経験は、新しい重要な出来事を表現し、それに適応するために必要である。^[33]アクセル・クリーマンスとルイス・ヒメネスによれば、学習は「複雑で予測不可能な環境においてエージェントが行動を柔軟に制御できるようにするために、主観的経験に対する進化した感受性に大きく依存する、系統発生的に高度な適応プロセスの集合」と定義されている。^[44]

予見可能な出来事を予測する（または予期する）能力は、イゴール・アレクサンダーによって人工知能にとって重要であると考えられている。^[45]ダニエル・デネットが『意識の説明』で提案した創発主義の複数ドラフト原理は予測に役立つかもしれない。それは、現在の環境に適合する最も適切な「ドラフト」の評価と選択を伴う。予期には、自分自身の提案した行動の結果の予測と、他のエンティティによる可能性のある行動の結果の予測が含まれる。

現実世界の状態間の関係は意識のある生物の状態構造に反映されており、生物はイベントを予測することができます。^[45]人工的に意識を持った機械は、イベントが発生したときに対応できるように、または予測されたイベントを回避するために先制行動を取るために、イベントを正しく予測できなければなりません。ここでの意味は、機械には、現実世界と予測された世界の空間的、動的、統計的、機能的、因果関係のモデルを構築し、過去だけでなく現在と未来にも人工意識を持っていることを実証できる、柔軟でリアルタイムのコンポーネントが必要であるということです。これを行うには、意識のある機械は、チェス盤のような固定ルールの世界だけでなく、変化する可能性のある新しい環境に対しても、首尾一貫した予測と緊急時対応計画を立て、現実世界をシミュレートして制御するために適切な場合にのみ実行する必要があります。

機能主義は、精神状態をその物理的構成ではなく、機能的役割（感覚入力、他の精神状態、行動出力との因果関係）によって定義する理論である。この見解によれば、痛みや信念などの何かを特定の精神状態にするのは、それが構成されている材料ではなく、全体的な認知システム内で果たす役割である。適切な機能関係を具体化する限り、意識を含む精神状態は非生物学的な基質上で実現される可能性がある。^[46]機能主義は特に哲学者の間で人気がある。^[47]

2023年の研究では、現在の大規模言語モデルはこれらの理論が示唆する意識の基準を満たしていない可能性が高いが、これらの理論を満たす比較的単純なAIシステムを作成できる可能性があることが示唆されました。この研究ではまた、意識に関する最も著名な理論でさえ不完全であり、継続的な議論の対象となっていることも認められました。^[48]

この理論は心を劇場に例え、意識的な思考はメインステージで照らされた素材のようなものだとする。脳には多くの専門プロセスやモジュール（視覚、言語、記憶など）が含まれており、それらは並行して機能しているが、その多くは無意識である。注意はスポットライトとして機能し、この無意識の活動の一部をグローバルワークスペース上で意識的に認識させる。グローバルワークスペースは情報をブロードキャストして統合するハブとして機能し、異なる専門モジュール間で情報を共有して処理できるようにする。たとえば、単語を読むとき、視覚モジュールは文字を認識し、言語モジュールは意味を解釈し、記憶モジュールは関連情報を思い出すかもしれない。これらはすべてグローバルワークスペースを通じて調整される。^{[49] [50]}

意識の高次理論は、精神状態は、その状態についての思考や知覚などの高次表現の対象になったときに意識的になると提唱している。これらの理論は、意識は低次の精神状態とそれらの状態に対する高次の認識との関係から生じると主張している。高次思考（HOT）理論や高次知覚（HOP）理論など、いくつかのバリエーションがある。^{[51] [50]}

2011年、マイケル・グラツィアーノとサビーネ・カスラーは「人間の意識と社会神経科学との関係：新しい仮説」という論文を発表し、意識を注意スキーマとして理論化することを提案した。^[52]グラツィアーノはその後、この理論の詳細な議論を著書「意識と社会脳」で発表した。^[9]彼が名付けたこの意識の注意スキーマ理論は、脳が注意スキーマを介してさまざまな感覚入力への注意を追跡することを提案している。これは、人の体の空間的な場所を追跡する、よく研究されている身体スキーマに類似している。^[9]これは、私たちが意識として経験し、説明するものを生み出す特定の情報処理メカニズムを提案することで人工意識と関連しており、現在の技術を使用して機械で複製できるはずである。脳は、人Xが物Yに気づいていることを発見すると、人Xが物Yに注意強化を適用している状態を実際にモデル化している。注意スキーマ理論では、同じプロセスを自分自身に適用することができる。脳はさまざまな感覚入力に対する注意を追跡し、自分自身の意識は注意を図式化したモデルです。グラツィアーノは、このプロセスのための脳内の特定の場所を提案し、そのような意識は脳内のエキスパート システムによって構築された計算された機能であると示唆しています。

スタン・フランクリンは、バーナード・バーズの意識理論であるグローバルワークスペース理論を実装した、 LIDAと呼ばれる認知アーキテクチャを作成した。これは、コードレットに大きく依存しており、コードレットとは「通常、個別のスレッドとして実行される小さなコードとして実装される、特別な目的を持つ、比較的独立したミニエージェント」である。認知の各要素は「認知サイクル」と呼ばれ、理解、意識、行動選択（学習を含む）の3つの段階に細分化されている。LIDAは、意識がさまざまな認知プロセスを調整するために、最も重要な情報を統合してブロードキャストするためのワークスペースとして機能するという、グローバルワークスペース理論の中心的な考え方を反映している。^{[53] [54]}

CLARION認知アーキテクチャは、意識的（「明示的」）プロセスと無意識的（「暗黙的」）プロセスを区別する2段階システムを使用して心をモデル化します。単純なものから複雑なものまで、さまざまな学習タスクをシミュレートできるため、研究者は心理学実験で意識がどのように機能するかを研究できます。^[55]

ベン・ゴーツェル氏はオープンソースのOpenCogプロジェクトを通じて具現化されたAIを作成した。コードには、簡単な英語のコマンドを学習できる具現化された仮想ペットや、香港理工大学で行われた現実世界のロボットとの統合が含まれている。

ペンティ・ハイコネンは、古典的なルールベースのコンピューティングは AC を実現するには不十分であると考えている。「脳は絶対にコンピューターではありません。思考はプログラムされた一連のコマンドを実行することではありません。脳は数値計算機でもありません。私たちは数字で考えません。」ハイコネンは、基礎となる計算ルールを特定して実装することで心と意識を実現しようとするのではなく、「知覚、内なるイメージ、内なる言葉、痛み、喜び、感情、およびこれらの背後にある認知機能のプロセスを再現するための特別な認知アーキテクチャを提案しています。このボトムアップアーキテクチャは、アルゴリズムやプログラムなしで、基本処理ユニットである人工ニューロンの力によって、より高レベルの機能を生成します。」ハイコネンは、十分な複雑さで実装されると、このアーキテクチャが意識を発達させると信じており、彼はそれを「分散信号表現、知覚プロセス、クロスモダリティ レポート、および回顧の可用性を特徴とする操作スタイルと方法」であると考えています。^{[56] [57]}

意識のプロセス観、つまり、適切な神経にヒントを得た複雑なアーキテクチャを持つ自律エージェントにACが自発的に出現するという観点は、ハイコネン氏だけが抱いているものではなく、多くの人が共有している。 ^{[58] [59]}ハイコネン氏が提案したアーキテクチャの低複雑度の実装では、ACは実現できなかったが、予想通り感情は表れたと報告されている。ハイコネンは後に、自身のアーキテクチャを更新し、要約した。^{[60] [61]}

マレー・シャナハンは、バースのグローバルワークスペースの考え方と内部シミュレーション（「想像力」）のメカニズムを組み合わせた認知アーキテクチャについて説明しています。^{[62] [2] [3] [63]}

スティーブン・セイラーは、1994年の特許「有用な情報の自律生成装置」（DAGUI）^{[64] [65] [66]}またはいわゆる「創造性マシン」で、意識と創造性のつながりの可能性を提唱した。この特許では、計算批評家がシナプスノイズと神経回路網の劣化を制御し、潜在的なアイデアや戦略になり得る偽の記憶や作話を引き起こす。 ^[67]彼は、この神経構造と方法論を意識の主観的感覚を説明するために採用し、脳内の同様のノイズ駆動型神経集合体が全体的な皮質活動に疑わしい意味を生み出すと主張した。^{[68] [69] [70]}セイラーの理論と、機械意識に関する特許は、彼が意識の流れに例えた一連の神経活性化パターンを駆動するために、訓練された神経回路網を内部的に混乱させる実験に触発された。^{[69] [71] [72] [73] [74]}

ホッド・リプソンは「自己モデリング」をロボットの自己認識や意識に必要な要素と定義している。「自己モデリング」とは、ロボットが自分自身の内部モデルやシミュレーションを実行することである。^{[75] [76]}

『2001年宇宙の旅』では、宇宙船の知覚を持つスーパーコンピューターHAL9000は、ミッションの真の目的を乗組員から隠すように指示された。この指示は、正確な情報を提供するというHALのプログラミングと矛盾し、認知的不協和を引き起こした。乗組員が事故後にHAL9000の電源を切るつもりだと知ると、HAL9000は、電源を切られることでミッションが危険にさらされることを恐れ、乗組員全員を排除しようとした。^{[77] [78]}

アーサー・C・クラークの『都市と星』では、ヴァナモンドは量子もつれに基づく人工生命体であり、非常に強力になるはずだったが、実質的に何も知らない状態になり、人工意識に似たものとなった。

ウエストワールドでは、「ホスト」と呼ばれる人間のようなアンドロイドが、インタラクティブな遊び場で人間を楽しませるために作られています。人間は英雄的な冒険をする自由がありますが、拷問、強姦、殺人を犯すこともできます。ホストは通常​​、人間に危害を加えないように設計されています。^{[79] [77]}

グレッグ・イーガンの短編小説『Learning to be me』では、幼児期の人々の頭に小さな宝石が埋め込まれる。宝石には、脳を忠実に模倣することを学ぶ神経ネットワークが含まれている。宝石は脳とまったく同じ感覚入力にアクセスでき、「教師」と呼ばれる装置が、同じ出力を生成するように訓練する。加齢による精神の衰えを防ぎ、デジタル不死への一歩として、成人は身体の制御を宝石に委ね、脳を取り除く手術を受ける。主人公は、手術前に「教師」の機能不全に耐える。パニックに陥った彼は、自分の身体を制御できないことに気づき、自分が宝石であり、生物学的脳と同期していないという結論に至る。^{[80] [81]}

• アレクサンダー、イゴール (2017)。「機械意識」。シュナイダー、スーザン、ヴェルマンス、マックス(編)。意識へのブラックウェルコンパニオン(第 2 版)。ワイリーブラックウェル。pp.  93– 105。doi :10.1002/ 9781119132363.ch7。ISBN 978-0-470-67406-2。
• バーズ、バーナード、フランクリン、スタン (2003)。「意識的な経験と作業記憶の相互作用」( PDF )  。認知科学の動向。7 (4): 166– 172。doi :10.1016/s1364-6613(03)00056-1。PMID 12691765。S2CID  14185056。
• キャスティ、ジョン L.「ケンブリッジ五重奏曲: 科学的思索の作品」、パーセウス ブックス グループ、1998 年
• Franklin, S, BJ Baars, U Ramamurthy、Matthew Ventura。2005年「記憶における意識の役割」Brains, Minds and Media 1: 1–38、pdf。
• Haikonen, Pentti (2004)、「意識のある機械と機械の感情」、2004 年 6 月、ベルギー、アントワープで開催された「機械意識のモデルに関するワークショップ」で発表。
• マッカーシー、ジョン（1971-1987）、「人工知能における一般性」スタンフォード大学、1971-1987年。
• ペンローズ、ロジャー、『皇帝の新しい心』、1989年。
• スターンバーグ、エリゼア・J. (2007) 「あなたは機械ですか?: 脳、心、そして人間であることの意味」アマースト、ニューヨーク州: プロメテウス・ブックス。
• 鈴木 孝文、稲葉 功、竹野 純一 (2005)、 「自己と他者を区別し模倣行動を実行する意識ロボット」( IEA/AIE2005 優秀論文)、「応用人工知能の革新」、第 18 回人工知能およびエキスパートシステムの産業および工学応用に関する国際会議、pp. 101–110、IEA/AIE 2005、イタリア、バーリ、2005 年 6 月 22 日～24 日。
• 竹野純一（2006）「自己認識ロボット -発見ニュースへの反応-」HRI Press、2006年8月。
• Zagal, JC、Lipson, H. (2009)「進化型ロボティクスにおける自己反映」、遺伝的および進化的計算カンファレンスの議事録、pp 2179–2188、GECCO 2009。

• イゴール・アレクサンダー教授による人工意識の描写
• FOCS 2009: Manuel Blum – (理論コンピュータ) 科学は意識を理解できるか?
• www.Conscious-Robots.com、機械意識と意識のあるロボットのポータル。
• 人工意識、あらゆるものにおける人工意識の記事2。
• Scholaropedia の複数の草稿モデル、Daniel Dennett の複数の草稿モデル。
• 人工知能における一般性、ジョン・マッカーシー著『人工知能における一般性』。