中国の部屋

中国語の部屋論は、プログラムを実行するコンピュータは、そのプログラムがどれだけ知的で人間のような動作をさせたとしても、心や理解力、意識を持つことはできないというものである。 ^[a]この論点は、哲学者ジョン・サールが1980年に「心、脳、プログラム」と題する論文で提示され、 Behavioral and Brain Sciences誌に掲載された。^{[1]サール以前にも、}ゴットフリート・ヴィルヘルム・ライプニッツ（1714年）、アナトリー・ドニプロフ（1961年）、ローレンス・デイビス（1974年）、ネッド・ブロック（1978年）らが同様の論点を提示していた。サールの論点は、それ以来、広く議論されてきた。^[2]サールの論点の中心となるのは、中国語の部屋として知られる思考実験である。^[3]

この思考実験は、中国語で完璧に会話できるコンピューターを 1 つの部屋に置き、英語しか知らない人間をドアで隔てた別の部屋に置くことから始まります。ドアの下に紙に中国語の文字を書いて置き、コンピューターは流暢に返事をし、その返事をドアの下に滑り込ませます。次に、中国語で会話するためのコンピューター プログラムの指示と機能を再現した英語の指示を人間に与えます。人間は指示に従い、2 つの部屋は中国語で完璧にコミュニケーションできますが、人間は実際には文字を理解しておらず、単に指示に従って会話しているだけです。サールは、コンピューターと人間は両方とも同じタスクを実行しており、本当に理解したり「考えたり」することなく指示に従っていると述べています。

この議論は、機能主義と計算主義の哲学的立場に反するものである。^[4]機能主義と計算主義は、心は形式的な記号で動作する情報処理システムとみなすことができ、与えられた精神状態をシミュレーションすれば、心が存在するのに十分であると主張している。具体的には、この議論は、サールが強いAI仮説と呼ぶ立場を反駁することを意図している。^[b]「適切な入力と出力を持つ適切にプログラムされたコンピュータは、人間が心を持っているのとまったく同じ意味で心を持っていることになる。」^[c]

この議論の支持者はもともと人工知能（AI）研究者の発言に反応してこの議論を提示したが、機械が示すことができる知的行動の量に限界を示していないため、主流のAI研究の目標に反する議論ではない。^[5]この議論はプログラムを実行するデジタルコンピュータにのみ適用され、機械一般には適用されない。^{[6]この議論は広く議論されているが、大きな批判にさらされており、}心の哲学者やAI研究者の間では依然として議論の的となっている。^{[7] [8]}

人工知能の研究により、コンピューターが中国語を理解しているかのように動作するようにプログラミングすることに成功したとします。機械は中国語の文字を入力として受け取り、プログラムの各命令を段階的に実行し、中国語の文字を出力として生成します。機械はこれを非常に完璧に行うため、誰も機械と通信しているのではなく、隠れた中国語話者と通信しているのだとはわかりません。

問題となるのは、機械が実際に会話を理解しているかどうか、それとも会話を理解する能力をシミュレートしているだけかどうか、という疑問です。機械は人間とまったく同じ意味で心を持っているのか、それとも心がある かのように動作しているだけなのか。

さて、サールが英語版のプログラムと十分な量の鉛筆、紙、消しゴム、書類棚のある部屋にいると仮定します。漢字がドアの下から差し込まれ、サールはプログラムをステップごとに実行します。最終的に、他の漢字をドアの下から差し出すように指示されます。コンピューターがこのようにチューリング テストに合格したのであれば、サールも手動でプログラムを実行するだけで合格するはずです。

サールは、この実験におけるコンピュータと自分自身の役割に本質的な違いはないと主張している。それぞれがプログラムを段階的に実行し、理解しているように見える動作を生成しているだけだ。しかし、サールは会話を理解することができない。したがって、コンピュータも会話を理解できないはずだと彼は主張している。

サールは、「理解」（または「意図性」）がなければ、機械が行っていることを「思考」と表現することはできないと主張し、機械は思考しないので、通常の意味での「心」を持たない。したがって、彼は強い AI 仮説は誤りであると結論付けている。つまり、心をシミュレートするプログラムを実行するコンピューターは、人間が心を持っているのと同じ意味では心を持たない。

ゴットフリート・ライプニッツは1714年に、機械論（人間を構成するすべてのものは原理的には機械的な言葉で説明できるという考え。言い換えれば、心を含む人間は単なる非常に複雑な機械である）に反対する同様の議論を行った。ライプニッツは、脳を製粉機の大きさまで拡大するという思考実験を行った。^[9]ライプニッツは、「知覚」が可能な「心」が機械的なプロセスのみを使用して構築できるとは想像しがたいと考えた。^[d]

ピーター・ウィンチは著書『社会科学の理念と哲学との関係』（1958年）で同じことを述べており、「中国語を理解する人は、中国語のさまざまな単語の出現の統計的確率をしっかりと把握している人ではない」という主張を展開している（108ページ）。

ソ連のサイバネティスト、アナトリー・ドネプロフは、1961年に短編小説「ゲーム」の形で、本質的に同じ議論を展開した。その小説では、スタジアムの人々がスイッチやメモリセルとして機能し、誰も知らないポルトガル語の文章を翻訳するプログラムを実行する。^[10]このゲームは、「数学的機械は考えることができるか」という疑問に答えるために「ザルビン教授」によって企画された。ザルビン教授を通じて、ドネプロフは「機械が考えることができることを証明する唯一の方法は、自分自身を機械に変えて、自分の思考プロセスを調べることだ」と書き、サールと同様に「機械の思考の最も完璧なシミュレーションでさえ、思考プロセスそのものではないことが証明された」と結論付けている。

1974年、ローレンス・H・デイビスは電話回線と人間が勤務するオフィスを使って脳を複製することを思い描き、1978年にはネッド・ブロックが中国の全人口がそのような脳のシミュレーションに参加することを思い描いた。この思考実験は「チャイナ・ブレイン」、あるいは「チャイニーズ・ネーション」や「チャイニーズ・ジム」と呼ばれている。 ^[11]

サールのバージョンは、1980年にBehavioral and Brain Sciences誌に掲載された論文「Minds, Brains, and Programs」に掲載された。^[1]最終的にこの論文は同誌の「最も影響力のあるターゲット記事」となり、^[2]その後数十年にわたって膨大な数の論評や反応を生み出し、サールは多くの論文、一般向け記事、書籍でこの議論を擁護し、洗練させ続けている。デイビッド・コールは「中国語の部屋の議論は、おそらく過去25年間に認知科学で登場した哲学的議論の中で最も広く議論された議論である」と書いている。^[12]

議論のほとんどは、それを反駁しようとする試みである。「圧倒的多数は、依然として中国語の部屋論は完全に間違っていると考えている」と行動・脳科学編集者のステヴァン・ハルナドは指摘している[e]。[ 13 ]中国語^の部屋論をめぐる膨大な量の文献に触発されて、パット・ヘイズは認知科学の分野は「サールの中国語の部屋論が間違っていることを示す継続的な研究プログラム」として再定義されるべきだとコメントした^{[14] 。}

ハーナドによれば、サールの議論は「認知科学における古典のようなもの」となっている。^[13] ヴァロル・アクマンもこれに同意し、原論文を「哲学的な明快さと純粋さの典型」と評している。^[15]

中国語の部屋の議論はもともと人工知能研究者の発言に対する反応として提示されたが、哲学者たちはこれを心の哲学の重要な一部とみなすようになった。これは機能主義と心の計算理論に対する挑戦であり、^[f]心身問題、他者の心の問題、シンボルグラウンディング問題、意識の難問などの問題に関連している。^[a]

サール氏は「強い AI」と呼ぶ哲学的立場を特定した。

適切な入力と出力を持つ適切にプログラムされたコンピュータは、人間が心を持っているのと全く同じ意味で心を持つことになる。^[c]

この定義は、心をシミュレートすることと実際に心を持つことの違いによって決まる。サールは「強いAIによれば、正しいシミュレーションはまさに心である。弱いAIによれば、正しいシミュレーションは心のモデルである」と書いている。^[22]

この主張は、初期のAI研究者やアナリストの発言の一部に暗黙的に含まれています。たとえば、1955年にAIの創始者であるハーバート・A・サイモンは、「今や世界には考え、学び、創造する機械が存在する」と宣言しました。^{[23]サイモンは、}アレン・ニューウェルおよびクリフ・ショーとともに、形式的推論を行うことができる最初のプログラム（Logic Theorist ）を完成させた後、「物質で構成されたシステムが心の特性を持つことができる理由を説明し、由緒ある心身問題を解決した」と主張しました。^[24] ジョン・ハウゲランドは、「AIが求めているのは本物、つまり完全で文字通りの意味で心を持つ機械だけです。これはSFではなく、大胆であると同時に深い理論的概念に基づいた本当の科学です。つまり、私たち自身が根本的にコンピューターであるということです。」と書いています。^[25]

サール氏はまた、強い AI の支持者たちに次のような主張をしています。

• AIシステムは心を説明するために使用できる。^[20]
• 脳の研究は心の研究とは無関係である。^[g ]
• チューリングテストは精神状態の存在を証明するのに適している。^[h]

サールは、最近の中国語の部屋の議論の発表で、「強いAI」を「コンピュータ機能主義」（ダニエル・デネットの言葉だと彼は考えている）と特定した。^{[4] [30]}機能主義は、精神現象（信念、欲求、知覚など）を、それらの相互関係および外界との関係で機能を記述することによって定義できるとする、現代の心の哲学における立場である。コンピュータプログラムは機能関係を記号間の関係として正確に表現できるため、機能主義によれば、コンピュータは適切なプログラムを実行すれば精神現象を持つことができる。

ステヴァン・ハルナドは、サールの強いAIの描写は「計算主義の認識可能な信条であり、（「強いAI」とは異なり）多くの思想家が実際に支持している立場であり、したがって反論する価値がある」と再定式化できると主張している。^[31] 計算主義^{[i]は、心は}情報処理システムとして正確に記述できると主張する心の哲学の立場である。

ハーナドによれば、以下のそれぞれが計算主義の「信条」である。^[34]

• 精神状態は計算状態です（これが、コンピューターが精神状態を持ち、心を説明するのに役立つ理由です）。
• 計算状態は実装に依存しない。言い換えれば、計算状態を決定するのはハードウェアではなくソフトウェアである（そのため、ハードウェアである脳は無関係である）。
• 実装は重要ではないため、唯一重要な経験的データはシステムがどのように機能するかであり、したがってチューリング テストは決定的なものとなります。

最近の哲学的議論では、人工知能に対する計算主義の影響が再検討されている。ゴールドスタインとレビンスタインは、ChatGPTのような大規模言語モデル（LLM）が心を持つことができるかどうかを検討し、信念、欲望、意図などの民俗心理学を示す能力に焦点を当てている。著者らは、LLMは世界の堅牢な内部表現を示すことで、情報理論、因果理論、構造理論などの精神的表現に関するいくつかの哲学的理論を満たしていると主張している。しかし、彼らは、信念-欲望心理学に必要な行動傾向を持つLLMの証拠は依然として決定的ではないことを強調している。さらに、彼らは「確率的オウム」の議論や記憶に関する懸念などの一般的な懐疑的な反論を反駁し、LLMはこれらの哲学的基準に沿った構造化された内部表現を示すと主張している。^[35]

この議論を踏まえて、クリスティーナ・シェフストはAI幻覚が計算主義に独自の視点を提供していることを強調している。機能主義は機能的関係を通じて精神状態を定義するが、AIシステムにおける幻覚の出現は、本質的な理解から切り離された状態の限界を明らかにする。これらの幻覚は正確な機能的表現から生じているが、計算の信頼性と人間の精神状態の存在論的複雑さとの間のギャップを強調している。そうすることで、計算主義の枠組みの中で精神現象をAIシステムに帰属させることにおける機能的正確性の妥当性に疑問を投げかけている。^[36]

デイヴィッド・チ​​ャーマーズは、現在の法学モデルには再帰処理や統合エージェンシーなどの機能が欠けているが、AIの進歩によって今後10年以内にこれらの限界が克服され、システムが意識を獲得できるようになる可能性があると示唆している。この見解は、純粋に「統語的」な処理では理解や意識は得られないというサールの当初の主張に異議を唱え、そのようなシステムは本物の精神状態を持つ可能性があると主張している。^[37]

サールは、彼が「生物学的自然主義」と呼ぶ哲学的立場をとっている。それは、意識[ ^{a]と理解には脳に見られる特定の生物学的機構が必要であるというものである。彼は「脳が心を引き起こす」 [38]}と書き、「実際の人間の精神現象は実際の人間の脳の実際の物理的・化学的特性に依存する」^[38]と書いている。サールは、この機構 (神経科学では「意識の神経相関」として知られている) には、人間の意識体験を可能にする何らかの因果的な力があるに違いないと主張している。 ^[39]サールのこれらの力の存在に対する信念は批判されてきた。

サールは、機械が意識と理解力を持つことができるという考えに反対していない。なぜなら、彼が書いているように、「我々はまさにそのような機械である」からである。^[6]サールは、脳は実際には機械であるが、脳は特定の機械を使用して意識と理解力を生み出すと考えている。神経科学が意識を生み出す機械的プロセスを切り離すことができれば、意識と理解力を持つ機械を作ることができるかもしれないとサールは認めている。しかし、必要な特定の機械がなければ、意識は発生しないと考えている。

生物学的自然主義は、脳の特定の機構が不可欠であるため、システムがどのように機能するかを調べるだけでは意識の経験が起こっているかどうかを判断することはできないことを示唆している。したがって、生物学的自然主義は、行動主義と機能主義（「コンピュータ機能主義」または「強いAI」を含む）の両方に直接反対している。^[40]生物学的自然主義は、同一性理論（精神状態は神経学的イベントと「同一」または「構成されている」という立場）に似ているが、サールは同一性理論に対して特定の技術的異議を唱えている。^{[41] [j]}サールの生物学的自然主義と強いAIはどちらも、脳と心が異なる「物質」でできているという古典的な考えであるデカルトの二元論^[40]に反対している。実際、サールは強いAIを二元論であると非難し、「強いAIは、心に関しては脳は重要ではないという二元論的仮定の下でのみ意味をなす」と書いている。^[26]

サールの当初の発表では、理解、つまり意図を持った精神状態が強調され、「意識」などの密接に関連する他の概念には直接触れられていませんでした。しかし、最近の発表では、サールは意識を議論の真の対象として取り上げています。^[4]

意識の計算モデルは、それだけでは意識を表すのに十分ではない。意識の計算モデルは、他のものの計算モデルがモデル化される領域に対して立つのと同じように、意識に対して立つ。ロンドンの暴風雨の計算モデルが私たち全員をびしょ濡れにするだろうと誰も考えない。しかし、彼らは意識の計算モデルが何らかの形で意識的であると仮定するという間違いを犯している。どちらの場合も同じ間違いである。^[42]

— ジョン・R・サール『意識と言語』 16ページ

デイヴィッド・チ​​ャーマーズは、「中国語の部屋の問題の根底には意識があることは明らかだ」と書いている。^[43]

コリン・マッギンは、中国語の部屋は意識という難問が根本的に解決不可能であることを示す強力な証拠であると主張している。誤解のないように言っておくと、この議論は機械が意識を持つことができるかどうかではなく、機械（あるいは他の何か）が意識を持つと証明できるかどうかについてである。中国語の部屋の居住者を調査する他の方法は、中国語で質問と答えを交わすのと同じ原理上の困難を伴うことは明らかである。意識のある主体が部屋に住んでいるのか、それとも巧妙なシミュレーションが部屋に住んでいるのかを推測することは不可能である。^[44]

サールは、これは部屋の外にいる観察者にのみ当てはまると主張する。思考実験の要点は、誰かを部屋の中に入れ、意識の働きを直接観察できるようにすることである。サールは、部屋の中での自分の有利な立場からは、自分以外に意識を生み出す可能性のあるものは何も見えず、明らかに自分には中国語を話せる心はないと主張する。サールの言葉を借りれば、「コンピューターは、私が何も理解していない場合に私が持っているもの以上のものを持っていない」。^[45]

パトリック・ヒューは中国語の部屋の議論を用いて、軍の指揮統制システムが指揮官の道徳的行為能力を維持するための要件を導き出した。彼は指揮センターにいる指揮官と中国語の部屋にいる人物を類推し、アリストテレスの「強制」と「無知」の概念の解釈に基づいて分析した。情報は意味から記号に「ダウンコンバート」され、記号的に操作される可能性があるが、意味への「アップコンバート」が不十分であれば道徳的行為能力は損なわれる可能性がある。ヒューはUSSヴィンセンヌ号事件を例に挙げた。^[46]

中国語の部屋の議論は主に心の哲学における議論であり、主要なコンピュータ科学者と人工知能研究者はどちらもそれを自分たちの分野とは無関係だと考えている。^{[5]しかし、}記号処理、チューリングマシン、チューリング完全性、チューリングテスト など、コンピュータ科学者によって開発されたいくつかの概念は、この議論を理解する上で不可欠である。

サールの議論は、通常、AI研究の問題とはみなされていない。人工知能研究の主な使命は、知的に動作する有用なシステムを作成することだけであり、知性が「単なる」シミュレーションであるかどうかは問題ではない。AI研究者のスチュアート・J・ラッセルとピーター・ノーヴィグは2021年に次のように書いている。「私たちは、知的に動作するプログラムに興味があります。意識の個々の側面、つまり認識、自己認識、注意はプログラム可能であり、インテリジェントなマシンの一部になることができます。人間とまったく同じように機械に意識を持たせるという追加のプロジェクトは、私たちが取り組む準備ができているものではありません。」^[5]

サール氏は、AI 研究によって高度に知的な行動が可能な機械が作られる可能性に異論はない。中国語の部屋の議論は、人間よりも知的に行動するが、脳のような心や意図を持たないデジタル機械が作られる可能性を残している。

サールの「強いAI仮説」は、レイ・カーツワイルや他の未来学者^{[47] [21]}が定義する「強いAI」と混同すべきではない。彼らはこの用語を、人間の知能に匹敵するかそれを超える機械知能、つまり人工汎用知能、人間レベルのAI、あるいは超知能を表すために使用している。カーツワイルは主に機械が示す知能の量について言及しているが、サールの議論はこれに制限を設けていない。サールは、超知能機械は必ずしも心や意識を持つとは限らないと主張している。

中国語の部屋はチューリングテストの一種を実装している。^[49] アラン・チューリングは1950年に「機械は考えることができるか？」という疑問に答えるためにこのテストを導入した。標準バージョンでは、人間の審査員が人間と、人間と区別がつかないパフォーマンスを生み出すように設計された機械と自然言語で会話する。参加者は全員互いに隔離されている。審査員が機械と人間を確実に区別できない場合、機械はテストに合格したとされる。

チューリングはその後、「機械は考えることができる」という提案に対するあらゆる反論を検討し、この方法で疑問を解明すれば、単純で明白な答えがあることを発見した。しかし、彼はこのテストで「意識」や「理解」の存在を測ろうとは考えていなかった。彼は、これが自分が取り組んでいる問題に関係するとは考えていなかった。彼は次のように書いている。

私は意識について謎はないと考えているという印象を与えたくはありません。たとえば、意識を局所化しようとする試みには、ある種のパラドックスが伴います。しかし、この論文で取り上げている疑問に答えるためには、これらの謎を必ずしも解決する必要はないと思います。^[49]

心と意識の本質を研究する哲学者として、サールにとってこれらは重要な謎である。中国語の部屋は、たとえ部屋が意識のある心のように振る舞ったり機能したりできたとしても、チューリングテストでは意識の存在を検出するのに不十分であることを示すために設計されている。

コンピュータは、計算やシミュレーションを実行するために物理的なオブジェクトを操作します。AI研究者のアレン・ニューウェルとハーバート・A・サイモンは、この種のマシンを「物理的記号システム」と呼びました。これは、数学論理の分野で使用される形式システムと同等です。

サールは、この種の記号操作は統語的である（文法の研究から用語を借用）という事実を強調しています。コンピュータは、記号の意味（つまり、記号の意味）をまったく知らずに、ある種の統語を使用して記号を操作します。

ニューウェルとサイモンは、物理的記号システム（デジタルコンピュータなど）には「一般的な知的行動」、または今日では人工汎用知能として知られているものに必要なすべての機構が備わっていると推測した。彼らはこれを哲学的立場、物理的記号システム仮説として構築した。「物理的記号システムは、一般的な知的行動に必要かつ十分な手段を備えている。」^{[50] [51]}中国語の部屋の議論はこれを反駁しない。なぜなら、それは理解、意識、心の有無ではなく、「知的行動」、つまり機械の外部動作の観点から構築されているからである。

21 世紀の AI プログラム (「ディープラーニング」など) は、未確認の数字の巨大なマトリックスに対して数学的演算を行うもので、サールが 1980 年に批評を書いた当時の AI プログラムで使用されていた記号処理とはほとんど似ていません。ニルス・ニルソンは、このようなシステムを「記号的」ではなく「動的」と表現しています。ニルソンは、これらは本質的に動的システムのデジタル化された表現であると指摘しています。個々の数字には特定の意味はなく、動的信号からのサンプルまたはデータ ポイントであり、意味を持つのは近似される信号です。ニルソンは、これらの信号を物理的記号システム仮説と同じ意味で「記号処理」と見なすのは合理的ではないと主張しています。^[52]

中国語の部屋のデザインは現代のコンピュータに似ています。中国語の部屋のデザインはフォン・ノイマン・アーキテクチャで、プログラム（説明書）、メモリ（書類とファイル・キャビネット）、説明書に従う機械（人間）、メモリに記号を書き込む手段（鉛筆と消しゴム）で構成されています。このデザインの機械は理論計算機科学では「チューリング完全」と呼ばれています。チューリング・マシンが実行できるあらゆる計算を実行するために必要な機構を備えているため、十分なメモリと時間があれば、他のあらゆるデジタル・マシンの段階的なシミュレーションを実行できるからです。チューリングは「すべてのデジタル・コンピュータはある意味で同等である」と書いています。^[53]広く受け入れられているチャーチ＝チューリングのテーゼは、有効な手順で計算できるあらゆる関数はチューリング・マシンで計算できるというものです。

中国語の部屋のチューリング完全性は、他のデジタルコンピュータができることなら何でもできる（ただし、はるかに遅い）。したがって、中国語の部屋に中国語を話す心がない、またはできないのであれば、他のデジタルコンピュータは心を持つことができない。サールへの返答の中には、説明されているように、部屋に中国語を話す心はあり得ないと主張するものもある。ステヴァン・ハーナドによると、この形式の議論は中国語の部屋の議論に対する「反論ではなく、むしろ肯定」である^[54]。なぜなら、これらの議論は実際にはデジタルコンピュータは心を持つことができないことを示唆しているからである^{[28] 。}

ハノック・ベンヤミのような批評家の中には、中国語の部屋では現在の時刻を判断するなど、デジタルコンピュータのすべての機能をシミュレートすることはできないと主張する者もいる。^[55]

サールは、中国語の部屋が一部を構成する議論のより正式なバージョンを作成しました。彼は1984年に最初のバージョンを発表しました。以下に示すバージョンは1990年のものです。 ^{[56] [k]}中国語の部屋の思考実験は、ポイントA3を証明することを目的としています。^[l]

彼は3つの公理から始めます:

(A1) 「プログラムは形式的（構文的）です。」

プログラムは、シンボルを操作するために構文を使用し、シンボルの意味には注意を払いません。シンボルをどこに置くか、どのように移動するかは知っていますが、シンボルが何を表しているか、または何を意味するかは知りません。プログラムにとって、シンボルは他のものと同じように単なる物理的なオブジェクトです。

(A2) 「心には精神的内容（意味論）がある。」

プログラムで使用されるシンボルとは異なり、私たちの思考には意味があります。思考は物事を表し、私たちはそれが何を表しているかを知っています。

(A3) 「構文はそれ自体では意味論を構成するものではなく、意味論に十分でもありません。」

これは、中国語の部屋の思考実験が証明しようとしていることです。中国語の部屋には構文があります (なぜなら、そこには記号を動かしている人がいるからです)。中国語の部屋には意味はありません (なぜなら、サールによれば、部屋には記号の意味を理解する人は誰もいないし、何もないからです)。したがって、構文があるだけでは意味を生み出すのに十分ではありません。

サールは、これらが直接的に次の結論につながると主張している。

(C1) プログラムは心を構成するものではなく、また心にとって十分でもありません。

これは最初の 3 つから議論の余地なく続くはずです。プログラムにはセマンティクスがありません。プログラムには構文しかありませんが、構文はセマンティクスには不十分です。すべての心にはセマンティクスがあります。したがって、プログラムは心ではありません。

この議論の大部分は、人工知能が記号を操作するプログラムを書くことによって、心を持つ機械を作り出すことは決してできないことを示すことを目的としています。議論の残りの部分は別の問題を扱っています。人間の脳はプログラムを実行しているのか？言い換えれば、心の計算理論は正しいのか？^[f]彼は、脳と心に関する基本的な現代科学的コンセンサスを表現することを意図した公理から始めます。

(A4) 脳は心を生み出す。

サールは、次のことを「即座に」かつ「自明に」導くことができると主張している^[57]。

(C2) 心を引き起こす能力を持つ他のシステムは、（少なくとも）脳の因果力と同等の因果力を持たなければならない。

脳には、心が存在する原因となる何かがあるはずです。科学はまだそれが何であるかを正確に特定していませんが、心が存在する以上、それは存在するに違いありません。サールはそれを「因果力」と呼んでいます。「因果力」とは、脳が心を生み出すために使用するものすべてです。もし他の何かが心の存在の原因となるのであれば、それは「同等の因果力」を持っているに違いありません。「同等の因果力」とは、心を生み出すために使用できる他のあらゆるものすべてです。

そして彼は、さらに次のような結論を導き出しています。

(C3) 精神現象を生み出す人工物、つまり人工脳は、脳の特定の因果力を複製できなければなりませんが、正式なプログラムを実行するだけではそれはできません。

これは C1 と C2 から導かれます。プログラムは心を生み出すことはできず、「同等の因果力」が心を生み出すので、プログラムには「同等の因果力」がないということになります。

(C4) 人間の脳が実際に精神現象を生み出す方法は、コンピュータプログラムを実行することだけによるものではありません。

プログラムには「同等の因果力」がなく、「同等の因果力」が心を生み出し、脳が心を生み出すため、脳はプログラムを使って心を生み出すことはないということになります。

サールの議論に対する反論はさまざまな形で行われます (下記参照)。計算論者と機能論者は A3 を否定し、(サールが言うように)「構文」は、構文が適切な機能構造を持っている場合、「意味論」を持つことができると主張します。排除的唯物論者は A2 を否定し、心には実際には「意味論」がない、つまり思考やその他の精神現象は本質的に無意味であるが、それでも意味があるかのように機能すると主張します。

サールの議論に対する反論は、それが何を示しているかによって分類できる。^[m]

• 中国語を話す人を特定するもの
• 無意味なシンボルがいかにして意味のあるものになるかを示すもの
• 中国語の部屋を何らかの形で再設計すべきだと示唆するもの
• サールの議論は誤解を招くと主張する人々
• この議論は主観的意識経験について誤った仮定をしており、したがって何も証明していないと主張する人々

いくつかの議論（たとえば、ロボットや脳のシミュレーション）は複数のカテゴリに分類されます。

これらの返答は、次の疑問に答えようとしています。「部屋にいる男性は中国語を話さないのだから、中国語を話す心はどこにあるのか?」これらの返答は、心と身体、シミュレーションと現実という重要な存在論的問題を扱っています。部屋にいる心を特定する返答はすべて、「システム返答」のバージョンです。

システム回答の基本バージョンは、中国語を理解するのは「システム全体」であると主張している。^{[62] [n]}男性は英語しか理解できないが、プログラム、メモ用紙、鉛筆、ファイルキャビネットを組み合わせると、中国語を理解できるシステムが形成される。「ここでは、理解は単なる個人に帰属しているのではなく、むしろ彼が一部であるこのシステム全体に帰属している」とサールは説明している。^[29]

サールは、（この簡単な回答では）「システム」は単なる普通の物理的物体の集まりに過ぎないと指摘している。この物体の山がどのようにして意識を持ち、考える存在になったのかを説明する努力を一切せずに、「その人と紙切れの結合」に理解力と意識の力を与えている^{[29] 。サールは、合理的な人間は「イデオロギーに支配されている」のでない限り、この回答に満足するはずがないと主張している[29]。}この回答が少しでももっともらしくなるためには、意識は情報処理「システム」の産物であり、脳の実際の生物学に似たものを必要としないことを当然のこととして受け入れなければならない。

サールは、この物理的オブジェクトのリストを単純化して応答します。彼は、もし男性がルールを記憶し、頭の中ですべてを把握していたらどうなるのかと尋ねます。そうすると、システム全体はたった 1 つのオブジェクト、つまり男性自身で構成されます。サールは、男性が中国語を理解しなければ、システムも中国語を理解しないと主張します。なぜなら、今では「システム」と「男性」の両方がまったく同じオブジェクトを表しているからです。^[29]

サールの返答に対する批判者は、プログラムによって人間は 1 つの頭に 2 つの心を持つことができるようになったと主張している。^{[誰? ]}「心」が情報処理の一形態であると仮定すると、計算理論は同時に発生する 2 つの計算、すなわち (1)普遍的なプログラム可能性のための計算(特定のプログラムの内容とは無関係に、人間とメモを取る資料によってインスタンス化される機能) と (2) プログラムによって記述されるチューリング マシンの計算 (特定のプログラムを含むすべてのものによってインスタンス化される) を説明できる。^[64]計算理論は、このように、中国語の部屋での 2 番目の計算が、中国語の入力に対する人間と同等の意味理解を伴う可能性があるという開かれた可能性を正式に説明している。焦点は、人間のチューリング マシンではなく、プログラムのチューリング マシンにある。^[65]しかし、サールの観点からは、この議論は循環的である。問題となっているのは、意識が情報処理の一形態であるかどうかであり、この返答ではその仮定を立てる必要がある。

システムの回答のより洗練されたバージョンは、「システム」が何であるかをより正確に特定しようとしており、システムの説明方法が異なります。これらの回答によると、^{[誰? ]}「中国語を話す心」は、「ソフトウェア」、「プログラム」、「実行中のプログラム」、「意識の神経相関」のシミュレーション、「機能システム」、「シミュレートされた心」、「出現する特性」、または「仮想の心」などである可能性があります。

マービン・ミンスキーは、「仮想マインド応答」として知られるシステム応答のバージョンを提案しました。^[o]「仮想」という用語は、コンピュータサイエンスにおいて、ソフトウェアによって存在するように見えるためだけにコンピュータ（またはコンピュータネットワーク）「内」に存在するように見えるオブジェクトを説明するために使用されます。コンピュータ「内」のオブジェクト（ファイル、フォルダなどを含む）は、コンピュータの電子部品を除いてすべて「仮想」です。同様に、ミンスキーは、仮想マシン、仮想コミュニティ、仮想現実と同じ意味で、コンピュータには仮想の「マインド」が含まれている可能性があると主張しました。

前述の単純なシステム応答と仮想マインド応答の違いを明確にするために、デイビッド・コールは、1つのシステムで同時に2つのシミュレーションが実行される可能性があることを指摘しています。1つは中国語を話し、もう1つは韓国語を話します。システムは1つしかありませんが、「仮想マインド」は複数存在する可能性があるため、「システム」は「マインド」ではありません。^[69]

サールは、そのような心はせいぜいシミュレーションに過ぎないと答え、次のように書いている。「5 つの警報が鳴る火災のコンピューター シミュレーションで近所が焼け落ちたり、暴風雨のコンピューター シミュレーションで私たち全員がずぶ濡れになったりするとは誰も思わない。」^[70]ニコラス ファーンは、いくつかの事柄についてはシミュレーションは本物と同じくらい優れていると答えている。「デスクトップ コンピューターのポケット電卓機能を呼び出すと、ポケット電卓の画像が画面に表示される。私たちは、それが実際には電卓ではないと文句を言うことはない。なぜなら、デバイスの物理的特性は重要ではないからだ。」^[71]問題は、人間の心はポケット電卓のように本質的に情報で構成され、物事の完全なシミュレーションがまさに物事であるのか、それとも心は暴風雨のように、単なるシミュレーション以上のものであり、コンピューター シミュレーションでは完全には実現できない世界に存在するものなのか、ということである。数十年にわたり、このシミュレーションの問題により、AI 研究者や哲学者は、このような知能を「人工的」と一般的に表現するよりも「合成知能」という用語の方が適切かどうかを検討してきました。

これらの返答は、中国語を理解できるのはいったい誰なのかという説明を与えている。もし部屋にいる男性以外に中国語を理解できるものがあるとしたら、サールは (1) その男性は中国語を理解していない、したがって (2) 部屋にいるものは何も中国語を理解していない、と主張することはできない。この返答をした人々によると、これはサールの議論が「強い AI」が誤りであることを証明できていないことを示している。^[p]

しかし、これらの返答だけでは、強い AI が真実であるという証拠にはなりません。チューリング テストに合格するという仮説的な前提以外に、システム (または仮想の心) が中国語を理解していることを示すものではありません。Searle は、強い AI が少しでもあり得ると考えるなら、中国語の部屋は説明を必要とする例であり、意識が部屋から「出現」する方法やシステムが意識を持つ方法を説明するのは困難または不可能であると主張しています。Searle が書いているように、「システムの返答は、システムが中国語を理解しなければならないと主張することで、単に論点をずらしている」^[29]ため、質問を回避しているか、絶望的に循環論法になっています。

部屋にいる人にとっては、記号は単なる意味のない「くねくねした線」に過ぎません。しかし、中国語の部屋が本当に何を言っているのかを「理解」しているのであれば、記号はどこかから意味を得ているに違いありません。これらの議論は、記号とそれが象徴するものを結び付けようとしています。これらの返答は、意図性、記号の根拠、および構文と意味論に関するサールの懸念に対処しています。

部屋の代わりに、プログラムがロボットに配置され、ロボットが歩き回って環境とやりとりできると仮定します。これにより、シンボルとそれが表すものの間に「因果関係」が生まれます。 ^{[73] [q]} ハンス・モラベックは次のようにコメントしています。「ロボットを推論プログラムに組み込むことができれば、意味を提供する人間はもう必要ありません。意味は物理的な世界からもたらされるでしょう。」^{[75] [r]}

サールの答えは、中国語の部屋にいる人物は知らないが、入力の一部はロボットに取り付けられたカメラから直接送られ、出力の一部はロボットの腕や脚を操作するために使われたと推測することである。しかし、部屋にいる人物は依然としてルールに従っているだけで、記号の意味は知らない。サールは「ロボットの目に入ってくるものを見ることはできない」と書いている。 ^[77]

サールが説明するように、部屋は世界とつながっている、と答える人もいる。部屋が「話している」中国語のスピーカーや、ファイルキャビネット内の知識ベースを設計したプログラマーを通じて。サールが操作する記号はすでに意味があるが、彼にとっては意味がないだけである。^{[78] [s]}

サールは、記号は、本の中の単語の意味のように「派生した」意味しか持たないと述べています。記号の意味は、中国語を話す人々と部屋の外にいるプログラマーの意識的な理解に依存します。部屋は、本のように、それ自体の理解を持っていません。^[t]

シンボルの意味は、プログラムやファイルキャビネットにコード化された常識的な知識の膨大な「背景」から来ると主張する人もいます。これにより、シンボルに意味を与える「文脈」が提供されます。^{[76] [u]}

サールは、この背景が存在することに同意しているが、プログラムに組み込むことができるという点には同意していない。ヒューバート・ドレフュスも、「背景」を象徴的に表現できるという考えを批判している。^[81]

これらの提案のそれぞれに対して、サールの答えは同じである。プログラムにどれだけの知識が書き込まれていても、プログラムが世界とどのようにつながっていても、彼は依然として部屋の中でルールに従って記号を操作している。彼の行動は構文的であり、記号が何を表しているかを彼に説明することは決してできない。サールは「構文は意味論には不十分である」と書いている。^{[82] [v]}

しかし、サールの行動が彼自身の心とは別の心をシミュレートしていることを認める人々にとって、重要な問題は、シンボルがサールにとって何を意味するかではなく、それが仮想の心にとって何を意味するかである。サールは部屋に閉じ込められているが、仮想の心は閉じ込められていない。仮想の心は、中国語の話し相手、世界の知識を与えたプログラマー、ロボット工学者が提供できるカメラやその他のセンサーを通じて外の世界とつながっている。

これらの議論はすべて、特定の種類のシステムが重要であると特定するシステム応答のバージョンであり、機械に意識的な理解を生み出す特別なテクノロジーを特定します。(上記の「ロボット」および「常識的な知識」応答も、特定の種類のシステムが重要であると特定します。)

プログラムが中国語話者の脳内のニューロンの活動を詳細にシミュレートしたと仮定します。^{[84] [w]}これにより、プログラムの動作と生きた人間の脳の動作の間に大きな違いはないだろうという直感が強まります。

サールは、そのようなシミュレーションは脳の重要な特徴、つまり因果関係と意図の状態を再現するものではないと反論する。彼は「人間の精神現象は実際の人間の脳の実際の物理的・化学的特性に依存している」と断言する。^[26]さらに彼は次のように主張する。

部屋の中で単一言語しか話せない人が記号をシャッフルする代わりに、その人がバルブでつながれた精巧な水道管を操作していると想像してください。その人が中国語の記号を受け取ると、英語で書かれたプログラムで、どのバルブを開閉すればよいかを調べます。それぞれの水道接続は中国人の脳のシナプスに対応しており、システム全体が、すべての正しい発火、つまりすべての正しい蛇口の開閉を行うと、一連のパイプの出力端から中国語の答えが飛び出すように調整されています。では、このシステムの理解はどこにあるのでしょうか。中国語を入力として受け取り、中国人の脳のシナプスの形式的な構造をシミュレートし、中国語を出力します。しかし、人間は中国語を理解していないし、水道管も理解していない。人間と水道管の結合が何らかの形で理解しているという、私が考えるに不合理な見解を採用したくなったとしても、原理的には人間は水道管の形式的構造を内面化し、想像の中ですべての「ニューロン発火」を行うことができることを思い出してほしい。^[86]

もし中国国民一人一人に、電話システムを使って軸索と樹状突起の接続をシミュレートし、ニューロンを一つずつシミュレートするよう頼んだらどうなるだろうか？このバージョンでは、脳が何を言っているのか誰も理解できないのは明らかだ。^{[87] [x]}また、このシステムは機能的に脳と同等であることも明らかであり、意識が機能であるならば、このシステムは意識的であることになる。

ここでは、エンジニアが個々のニューロンの活動をシミュレートする小さなコンピューターを発明したと想像するように求められています。ニューロンを 1 つずつ交換したらどうなるでしょうか。1 つを交換しても意識的な認識に変化は生じません。すべてのニューロンを交換すると、脳をシミュレートするデジタル コンピューターが作成されます。サールが正しい場合、手順中に意識的な認識が消える必要があります (徐々にまたは一度に)。サールの批評家は、手順中に意識的な認識が終了し、無意識のシミュレーションが開始されると主張できるポイントはないと主張します。^{[89] [y] [z]} (同様の思考実験については、 テセウスの船を参照してください。)

脳シミュレーターの返答と密接に関連しているが、これは超並列コネクショニストアーキテクチャが理解できると主張している。^[aa]現代のディープラーニングは超並列であり、多くの領域でインテリジェントな動作をうまく示している。ニルス・ニルソンは、現代のAIは1980年代のAIが使用した種類のシンボルではなく、デジタル化された「動的信号」を使用していると主張している。^{[52]ここで意味を持つのは}サンプル信号であり、プログラムによって操作される個々の数字ではない。これは、サールが視覚化したマシンとは異なる種類のマシンである。

この応答は、ロボットの応答と脳シミュレーションの応答を組み合わせたもので、ロボットの体を通して世界とつながった脳シミュレーションは心を持つことができると主張している。^[94]

将来、より優れた技術により、コンピューターは理解できるようになるでしょう。^{[27] [ab]}サールはこれが可能であることに同意しますが、この点は無関係であると考えています。サールは、脳以外にも意識的な理解力を持つハードウェアが存在する可能性があることに同意しています。

これらの議論（およびロボットや常識知識の返答）は、機械に意識的な理解を生み出すのに役立つ特別な技術を特定しています。これらは 2 つの方法で解釈できます。つまり、(1) この技術は意識に必要であり、中国語の部屋にはこの技術が実装されていないか実装できないため、中国語の部屋はチューリング テストに合格できないか、合格したとしても意識的な理解力を持たない、と主張している可能性があります。または、(2) この技術が心を生み出すために使用されていると視覚化すれば、中国語の部屋に心があることがより簡単にわかる、と主張している可能性があります。

最初のケースでは、ロボットのボディやコネクショニスト アーキテクチャなどの機能が必要であり、サールは強い AI (彼の理解では) は放棄されていると主張しています。^[ac]中国語の部屋にはチューリング完全なマシンのすべての要素があり、したがって、あらゆるデジタル計算をシミュレートできます。サールの部屋がチューリング テストに合格できない場合、チューリング テストに合格できるデジタル技術は他にありません。サールの部屋がチューリング テストに合格できても、それでも心がない場合は、チューリング テストでは部屋に「心」があるかどうかを判断するのに十分ではありません。いずれにせよ、サールが「強い AI」と考える立場のいずれかを否定し、彼の主張を証明しています。

特に脳の議論は、脳と同じくらい神秘的なプログラムを作成することよりも心を記述するより簡単な方法はないという仮定の下では、強いAIを否定する。彼は「強いAIの全体的な考え方は、心の仕組みを知るために脳の仕組みを知る必要はないということだと思っていた」と書いている。^[27]サールによると、計算が人間の心を説明できないなら、強いAIは失敗したことになる。

他の批評家は、サールが説明した部屋には実際に心があると主張しているが、それを見るのは難しいと主張している。サールの説明は正しいが、誤解を招くものだ。部屋をより現実的に再設計することで、彼らはこれをより明白にしたいと考えている。この場合、これらの議論は直感に訴えるものとして使用されている（次のセクションを参照）。

実際、部屋は簡単に再設計して私たちの直感を弱めることができます。ネッド・ブロックのブロックヘッド論^[95]は、理論上は、プログラムは「ユーザーがSと書いたら、Pで応答して X へ進む」という形式のルールの単純なルックアップ テーブルに書き換えられることを示唆しています。少なくとも原理的には、脳のシミュレーションであっても、どんなプログラムでもこの形式に書き換え (または「リファクタリング」) できます。^[ad]ブロックヘッドのシナリオでは、精神状態全体が文字 X に隠されています。文字 X はメモリ アドレス(次のルールに関連付けられた番号) を表します。意識的な経験の瞬間が 1 つの大きな数字で捉えられると想像するのは難しいですが、これはまさに「強い AI」が主張していることです。一方、そのようなルックアップ テーブルは途方もなく大きくなり (物理的に不可能なほど)、したがって状態が過度に具体的になる可能性があります。

サールは、プログラムがどのように書かれていようと、あるいは機械がどのように世界とつながっていようと、心は単純なステップバイステップのデジタル機械（または機械群）によってシミュレートされていると主張する。これらの機械は常に部屋にいる男と同じである。何も理解せず、中国語も話さない。意味も知らずに記号を操作しているだけである。サールは次のように書いている。「どんな形式的なプログラムでも構わないが、それでも何も理解できない。」^[96]

以下の議論 (および上記の議論の直観的解釈) は、中国語を話す心がサールの部屋に存在する方法や、サールが操作する記号が意味を持つようになる方法を直接説明するものではありません。しかし、サールの直観に疑問を投げかけることで、システムやロボットの返答など、他の立場を支持しています。これらの議論が受け入れられれば、サールの確信に必要な直観が損なわれ、サールが自分の結論は自明であると主張することができなくなります。

批評家の中には、サールの議論は完全に直感に依存していると考える者もいる。ブロックは「サールの議論は、特定の存在が考えない直感にその説得力がある」と書いている。 ^[97] ダニエル・デネットは、中国語の部屋の議論を誤解を招く「直感ポンプ」と表現し、 ^[98]「サールの思考実験は、あまりにも単純なケース、無関係なケースを想像し、そこから明らかな結論を導き出すことに不当に依存している」と書いている。^[98]

上記の議論の中には、直感に訴えるものもあります。特に、中国語の部屋にはロボット、常識的知識、脳のシミュレーション、コネクショニストの返答など、心があるという可能性をもっと高めようとするものはそうです。上記の返答のいくつかは、複雑性という特定の問題にも取り組んでいます。コネクショニストの返答は、機能する人工知能システムは人間の脳と同じくらい複雑で相互接続されていなければならないと強調しています。常識的知識の返答は、チューリングテストに合格するプログラムは、ダニエル・デネットが説明するように、「『世界知識』とメタ知識とメタメタ知識に満ちた、非常に柔軟で洗練された多層システム」でなければならないと強調しています。 [ ^80]

これらの批評の多くは、人間の脳の速度と複雑さを強調しており、^[ae]人間の脳は 1 秒間に 1000 億回の演算 (一部の推定による) で情報を処理します。^[100]何人かの批評家は、部屋にいる男が簡単な質問に答えるにはおそらく何百万年もかかり、天文学的な規模の「ファイルキャビネット」が必要になるだろうと指摘しています。^[101]これにより、サールの直感の明晰さが疑問視されます。

速度と複雑さに関する回答の特に鮮明なバージョンは、ポール・チャーチランドとパトリシア・チャーチランドによるものです。彼らは次のような類似の思考実験を提案しています。「暗い部屋に棒磁石または帯電物体を持った男がいるとします。男が磁石を上下に動かすと、マクスウェルの人工発光理論 (AL) によれば、磁石は電磁波の拡散円を開始し、したがって光ります。しかし、磁石や帯電ボールをいじったことがある人なら誰でもよく知っているように、それらの力 (または他の力) は、動かしてもまったく光を生み出しません。力を動かすだけで本当の光を作り出すことは考えられません!」^[88]チャーチランドの論点は、何かを見るためには磁石を毎秒 450 兆回ほど上下に振らなければならないという問題だということです。^[102]

ステヴァン・ハーナドは、速度と複雑性に関する回答が私たちの直感に反する場合には批判的である。彼は次のように書いている。「ある人たちは速度とタイミングを崇拝し、適切な速度まで加速すると、計算が精神に相転移する可能性があると主張している。これは反論ではなく、単に場当たり的な推測にすぎないことは明らかである（「複雑性」を適切なレベルまで段階的に高めるだけの問題だという見解も同様である）」^{[103] [af]}

サールは、批判者たちも直感に頼っているが、反対派の直感には経験的根拠がないと主張している。彼は、「システム応答」を少しでももっともらしいと考えるためには、人は「イデオロギーの支配下」にいなければならないと書いている。^[29]システム応答は、適切な動作と機能的な部分を持つシステムであるという理由だけで、あらゆる「システム」が意識を持つことができると仮定した場合にのみ（サールにとって）意味をなす。彼は、この仮定は、意識に関する私たちの経験からすると、維持できないと主張している。

サールの議論は、心と意識についての彼の仮定が間違っているため、的外れであると主張する返信がいくつかある。サールは、人間は毎日、意識、意図性、心の本質を直接体験しており、この意識体験は疑問の余地がないと考えている。彼は、「精神の現実性と認識可能性を前提としなければならない」と書いている。^[106]以下の返信は、サールが意識の自身の体験を使って、それが機械的な記号処理以上のものであると判断することが正当であるかどうかを疑問視している。特に、他の心に関する返信は、意識の体験を使って他の心（コンピューターの心でさえ）についての質問に答えることはできないと主張し、付随現象に関する返信は、定義上、いかなる実験でも検出できない意識のようなものについて、そもそも議論できるかどうか疑問視し、排除的唯物論者の返信は、サール自身の個人的な意識は、サールが考える意味では「存在しない」と主張している。

「他者の心への返答」は、サールの議論は、機械に応用された他者の心の問題の一種であると指摘している。他者の主観的経験が自分自身のものと同じかどうかは、私たちには判断できない。私たちにできるのは、彼らの行動を研究することだけだ（つまり、彼らに私たち自身のチューリングテストを与えることによって）。サールの批評家は、彼が中国語の部屋を、私たちが普通の人に対して求める基準よりも高い基準で扱っていると主張している。^{[107] [ag]}

ニルス・ニルソンは「プログラムが増殖しているかのように動作する場合、ほとんどの人はそれが実際に増殖していると言うだろう。私が知る限り、サールはこれらの問題について深く考えているかのように動作しているだけかもしれない。しかし、私は彼に同意しないが、彼のシミュレーションはかなり優れているので、私は彼が本当に考えていたと認めるつもりだ」と書いている。^[109]

チューリングは1950年にサールの議論（彼は「意識からの議論」と呼んだ）を先取りし、他者の心による返答を求めた。^[110]彼は、人々が互いに接する際に他者の心の問題を決して考慮しないことに気づいた。彼は「この点について絶えず議論する代わりに、誰もが考える礼儀正しい慣習に従うのが普通だ」と書いている。^[111]チューリングテストは単にこの「礼儀正しい慣習」を機械に拡張しただけだ。彼は（機械や人間の）他者の心の問題を解決しようとは思っていないし、解決する必要はないと考えている。^[ah]

サールの意図性、意識、心に関する説明を受け入れるなら、意識は付随現象であり、つまり「影を落とさない」、つまり外の世界で検出できないものであることを受け入れざるを得ません。サールの「因果的性質」は心の外にいる誰にも検出できません。そうでなければ、中国語の部屋はチューリング テストに合格できません。外にいる人は因果的性質を検出することで、部屋に中国語を話す人がいないことがわかるからです。因果的性質を検出できないので、心の存在を検出できません。したがって、サールの「因果的性質」と意識自体は検出できず、検出できないものは存在しないか、重要ではありません。

マイク・アルダーはこれを「ニュートンの燃えるレーザー剣の反論」と呼んでいる。彼は、この議論全体が非検証主義的であるため、軽薄であると主張している。心をシミュレートすることと心を持つことの区別が曖昧であるだけでなく、この2つを区別する実験は提案されておらず、提案されることさえないため、この議論は無関係である。^[113]

ダニエル・デネットは、次のような例え話をしている。突然変異によって、サールの「因果的性質」を持たないが、それでも人間とまったく同じように行動する人間が生まれたとしよう。これは、心の哲学で定式化された哲学的ゾンビである。この新しい動物は、他の人間と同じように繁殖し、やがてゾンビが増えるだろう。ゾンビのデザインは（私たちが想定しているように）少し単純であるため、自然淘汰はゾンビに有利に働くだろう。やがて人間は絶滅するだろう。したがって、サールが正しいとすれば、人間（今日私たちが見ているような）は実際には「ゾンビ」である可能性が最も高いが、それでも意識があると主張する。私たち全員がゾンビであるかどうかを知ることは不可能である。たとえ私たち全員がゾンビだとしても、私たちは自分たちがゾンビではないと信じるだろう。^[114]

多くの哲学者は、サールが述べたような意識は存在しないと主張している。ダニエル・デネットは意識を「ユーザーの幻想」と表現している。^[115]

この立場は、排除的唯物論と呼ばれることもある。つまり、意識は「厳密に機械的な記述に還元できる」概念ではなく、物質的な脳の働きが完全に理解されれば、簡単に排除される概念であるという考え方である。これは、悪魔の概念が厳密に機械的な記述に還元されるのではなく、科学からすでに排除されているのと同じである。他の精神的特性、たとえば本来の志向性（「意味」、「内容」、「意味的特徴」とも呼ばれる）も、信念やその他の命題的態度に関連する特別な特性とみなされることが多い。排除的唯物論は、信念や欲望などの命題的態度、その他の意図的な精神状態は、内容を持つが存在しないと主張する。排除的唯物論が人間の認知の正しい科学的説明であるならば、「心には精神的内容（意味論）」があるという中国語の部屋論の仮定は拒否されなければならない。^[116]

サールはこの分析に反対し、「心の研究は​​、人間には信念があるが、サーモスタット、電話、加算機には信念がないといった事実から始まる...我々が知りたかったのは、心とサーモスタットや肝臓との違いは何なのかということだ」と主張している。^[77]彼は、意識の存在を検出できることは明らかだと考え、これらの返答は的外れだと一蹴している。

マーガレット・ボーデンは論文「中国語の部屋からの脱出」の中で、たとえ部屋にいる人が中国語を理解していなくても、部屋の中に理解がないということにはならないと主張した。部屋にいる人は少なくとも、アウトプット応答を提供するために使用されるルールブックを理解している。^[117]

サールの「人間の精神現象は、実際の人間の脳の実際の物理的・化学的特性に依存している」という結論^{[26]は、時には「}炭素排外主義」の一形態として説明されてきた。 ^[118] スティーブン・ピンカーは、この結論に対する回答として、中国語の部屋に対する反対思考実験を行うことを提案した。中国語の部屋では、不信感は反対の方向に向かう。^[119]彼は、例として短編小説「彼らは肉でできている」を挙げている。この小説では、地球を発見した電子生命体からなる異星人種族が、人間の肉脳が意識や思考を経験できるとは信じられないと述べている。^[120]

しかし、サール自身は「炭素排外主義者」であることを否定した。^[121]彼は「私は、私たちの脳のような生物学的システムだけが思考できることを証明しようとしたわけではない。[...] この問題はまだ未解決だと考えている」と述べた。^[122]彼は、シリコンの実際の物理的・化学的特性が意識と思考を生み出す方法で使用できれば、シリコンマシンでさえ理論的には人間のような意識と思考を持つことができるが、「脳がどのようにそれを行うかを知るまでは、人工的にそれを試みる立場にない」と述べた。^[123]

• 言語習得の計算モデル
• 出現
• 私は奇妙なループです
• 合成知能
• ライプニッツのギャップ

• ハウザー、ラリー、「中国語の部屋での議論」、インターネット哲学百科事典、ISSN  2161-0002 、 2024年8月17日取得
• コール、デイビッド（2004）、「中国語の部屋の議論」、ザルタ、エドワードN.、ノーデルマン、ウリ（編）、スタンフォード哲学百科事典（2023年夏版）、スタンフォード大学形而上学研究室、ISSN  1095-5054

• サール、ジョン（2009）、「中国語の部屋の議論」、Scholarpedia、vol. 4:8、p. 3100、Bibcode：2009SchpJ...4.3100S、doi：10.4249/scholarpedia.3100、ISSN  1941-6016
• ——— (2014 年 10 月 9 日)、「コンピュータが知らないこと」、ニューヨーク・レビュー・オブ・ブックス、第 61 巻、第 15 号、ISSN  0028-7504
  • レビューボストロム、ニック（2014）、スーパーインテリジェンス：道、危険、戦略、オックスフォード大学出版局、ISBN 978-0-19-967811-2{{cite book}}: CS1 maint: postscript (link)フロリディ、ルチアーノ（2014）『第4の革命：情報圏が人間の現実をどのように作り変えているのか』オックスフォード大学出版局、ISBN 978-0-19-960672-6
• 中国語の部屋に関する議論、1999年9月2日のサールとのインタビューの第4部。哲学と批判的思考の習慣。2010年6月13日にウェイバックマシンの「歴史との対話」シリーズにアーカイブされました。