Loading article…
中国語の部屋の議論は、プログラムを実行するコンピュータは、プログラムがコンピュータをどれほど知的に、あるいは人間らしく振る舞わせようとも、心、理解、意識を持つことはできないと主張する。この議論は、アメリカの哲学者ジョン・サールが1980年に発表した「心、脳、プログラム」というタイトルの論文で提示され、学術誌「Behavioral and Brain Sciences 」に掲載された。[ 1 ]同様の議論は、ゴットフリート・ヴィルヘルム・ライプニッツ、ピーター・ウィンチ、アナトリー・ドニプロフなど、以前にも他の研究者によってなされていた。サールの議論は、その後長年にわたって広く議論されてきた。[ 2 ]サールの議論の中心は、「中国語の部屋」として知られる思考実験である。 [ 3 ]
この議論は、心は形式記号上で動作する情報処理システムと見なすことができ、特定の精神状態のシミュレーションがその存在の十分条件であると主張する機能主義と計算主義の哲学的立場[ 4]に反論するものである。具体的には、この議論は、サールが「強いAI仮説」と呼ぶ立場を反駁することを目的としている。[ a ]「適切な入力と出力を備えた適切にプログラムされたコンピュータは、それによって人間が心を持つのと全く同じ意味で心を持つことになるだろう。」[ b ]
この議論の提唱者たちは当初、人工知能（AI）研究者の発言に反論する形でこの議論を提示したが、機械が示すことができる知的な振る舞いの量に制限があることを示さないため、主流のAI研究の目標に反対する議論ではない。[ 5 ]この議論はプログラムを実行するデジタルコンピュータにのみ適用され、一般的な機械には適用されない。[ 6 ]広く議論されているものの、この議論は大きな批判を受けており、心の哲学者やAI研究者の間では依然として論争の的となっている。[ 7 ] [ 8 ]
人工知能の研究が、中国語を理解しているかのように振る舞うコンピュータのプログラミングに成功したと仮定しましょう。この機械は中国語の文字を入力として受け取り、プログラムの各命令を段階的に実行し、中国語の文字を出力します。この機械はこれを完璧に行うため、誰も機械と会話しているのか、それとも隠れた中国語話者と会話しているのかを区別できません。[ 6 ]
問題となるのは次の点です。機械は実際に会話を理解しているのでしょうか、それとも会話を理解する能力をシミュレートしているだけなのでしょうか？機械は人間と全く同じ意味で心を持っているのでしょうか、それとも心を持っているかのように振る舞っているだけなのでしょうか？[ 6 ]
ここで、サールがプログラムの英語版と、十分な鉛筆、紙、消しゴム、ファイルキャビネットのある部屋にいると仮定します。中国語の文字がドアの下から差し込まれ、彼はプログラムの手順を一つずつ実行していき、最終的に他の中国語の文字をドアの下から引き出すように指示されます。コンピュータがこのようにしてチューリングテストに合格したのであれば、サールもプログラムを手動で実行するだけで合格するはずです。[ 6 ]
サールは、実験におけるコンピュータ[ c ]と自分自身の役割に本質的な違いはないと考えている。どちらも単にプログラムを段階的に実行し、理解しているように見える行動をとるだけだ。しかし、サールは会話を理解することはできない。したがって、コンピュータも会話を理解することはできないはずだと彼は主張する。[ 6 ]
サールは、「理解」（または「意図性」）がなければ、機械の行動を「思考」と表現することはできず、思考しない以上、通常の意味での「心」も持たないと主張する。したがって、彼は強いAI仮説は誤りであると結論づける。つまり、心をシミュレートするプログラムを実行するコンピュータは、人間が持つ心と同じ意味での心を持たないということである。[ 6 ]
ゴットフリート・ヴィルヘルム・ライプニッツは1713年に、機械論、つまり人間を構成するすべてのものが原理的には機械論的に説明できるという考え方、言い換えれば、人間とその精神は単なる非常に複雑な機械であるという考え方に対して、同様の議論を展開した。ライプニッツは、脳を水車ほどの大きさにまで拡大するという思考実験を用いた。[ 9 ]彼は、「知覚」能力を持つ「精神」が機械的なプロセスのみを用いて構築できるとは想像し難いと感じた。[ d ]
イギリスの哲学者ピーター・ウィンチは、 1958年の著書『社会科学の理念と哲学との関係』の中で同じ点を指摘し、「中国語を理解できる人は、中国語の様々な単語の出現確率を統計的にしっかりと把握している人ではない」と主張している（ 108ページ）。
ソ連のサイバネティクス研究者アナトリー・ドニプロフは、1961年に短編小説「ゲーム」の中で、ほぼ同じ主張を展開した。この小説では、スタジアムに集まった人々がスイッチやメモリセルとして機能し、誰も知らないポルトガル語から文章を翻訳するプログラムを実行する。[ 10 ]このゲームは「ザルビン教授」によって企画され、「数学的機械は思考できるか？」という問いに答えることを目的としていた。ザルビンを通してドニプロフは、「機械が思考できることを証明する唯一の方法は、自分自身を機械に変えて思考過程を調べることだ」と述べ、サールと同様に、「機械の思考の最も完璧なシミュレーションでさえ、思考過程そのものではない」と結論づけている。
1974年、ローレンス・H・デイビスは電話回線と人が配置されたオフィスを使って脳を複製することを想像し、1978年にはネッド・ブロックが中国の全人口がそのような脳シミュレーションに参加することを構想した。これは中国脳思考実験として知られている。[ 11 ]
サールのバージョンは、1980 年にBehavioral and Brain Sciencesに掲載された彼の論文「Minds, Brains, and Programs」に登場しました。[ 1 ]この論文は最終的に同誌の「最も影響力のあるターゲット論文」となり、[ 2 ]その後数十年にわたって膨大な数のコメントや反論を生み出し、サールは複数の論文、一般向け記事、書籍でこの議論を擁護し、洗練させ続けました。デイビッド・コールは、「中国語の部屋の議論は、おそらく過去 25 年間に登場した認知科学における最も広く議論された哲学的議論である」と書いています。[ 12 ]
議論の大部分は、それを反駁しようとする試みで占められている。「圧倒的多数」は、Behavioral and Brain Sciences の編集者であるStevan Harnad氏[ e ]が指摘するように、「中国語の部屋の議論は完全に間違っていると今でも考えている」。[ 13 ]それに関して蓄積された膨大な量の文献に触発され、Pat Hayes氏は、認知科学の分野は「Searle の中国語の部屋の議論が誤りであることを示す継続的な研究プログラム」として再定義されるべきだとコメントした。[ 14 ]
ハーナッドによれば、サールの議論は「認知科学における古典的名著」となっている。[ 13 ]ヴァロル・アクマンもこれに同意し、原著論文を「哲学的明晰さと純粋さの模範」と評している。[ 15 ]
中国語の部屋の議論は、もともとは人工知能研究者の発言に対する反論として提示されたものだが、哲学者たちはそれを心の哲学の重要な一部とみなすようになった。それは機能主義と心の計算論に対する挑戦であり、[ f ]心身問題、他者の心の問題、記号の根拠付け問題、意識の難問といった問題と関連している。
サールは「強いAI」と呼ぶ哲学的立場を特定した。
適切な入力と出力を備えた適切なプログラムが施されたコンピュータは、人間が持つのと全く同じ意味で、心を持つことになるだろう。[ b ]
定義は、心をシミュレートすることと実際に心を持つことの区別に依存します。サールは、「強いAIによれば、正しいシミュレートは実際に心である。弱いAIによれば、正しいシミュレートは心のモデルである」と書いています。[ 22 ]
この主張は、初期のAI研究者やアナリストの発言の一部に暗黙のうちに含まれている。例えば、1957年に経済学者で心理学者のハーバート・A・サイモンは、「今や世界には、考え、学び、創造する機械が存在する」と宣言した。[ 23 ]サイモンは、アレン・ニューウェル、クリフ・ショーとともに、形式的推論を行うことができる最初のプログラム（ロジック・セオリスト）を完成させた後、「物質で構成されたシステムが精神の特性を持つことができる理由を説明し、長年の心身問題を解決した」と主張した。[ 24 ]ジョン・ハウゲランドは、「AIが求めるのは本物、つまり、完全な意味での心を持つ機械だけだ。これはSFではなく、大胆であると同時に深い理論的概念に基づいた真の科学である。つまり、私たちは根本的にはコンピュータなのだ」と書いた。[ 25 ]
サールはまた、強力なAIの支持者たちに次のような主張を帰している。
中国語の部屋の議論の最近の発表で、サールは「強いAI」を「コンピュータ機能主義」（彼がダニエル・デネットに帰属させる用語）と特定した。[ 4 ] [ 30 ]機能主義は、現代の心の哲学における立場であり、精神現象（信念、欲求、知覚など）を、それらの機能と互いの関係、および外界との関係を記述することによって定義できるというものである。コンピュータプログラムは機能的関係を記号間の関係として正確に表現できるため、機能主義によれば、コンピュータは適切なプログラムを実行すれば精神現象を持つことができる。
スティーブン・ハーナッドは、サールの強いAIの描写は「計算主義の認識可能な原則」として再定式化できると主張している。「計算主義は（「強いAI」とは異なり）多くの思想家が実際に支持している立場であり、したがって反駁する価値がある」[ 31 ] 。計算主義[ i ]は、心の哲学における立場であり、心は情報処理システムとして正確に記述できると主張する。
ハーナッドによれば、以下のそれぞれが計算主義の「原則」である。[ 34 ]
最近の哲学的議論では、人工知能に対する計算主義の意味合いが再検討されている。ゴールドスタインとレヴィンスタインは、ChatGPTのような大規模言語モデル（LLM）が心を持つことができるかどうかを、信念、欲求、意図などの素朴心理学を示す能力に焦点を当てて探究している。著者らは、LLMは世界の堅牢な内部表現を示すことで、情報理論、因果理論、構造理論など、いくつかの精神的表現の哲学的理論を満たしていると主張している。しかし、彼らは、信念と欲求の心理学に必要な行動傾向をLLMが持っているという証拠は依然として決定的ではないことを強調している。さらに、彼らは、「確率的オウム」論や記憶に関する懸念など、一般的な懐疑論的課題を反駁し、LLMはこれらの哲学的基準に合致する構造化された内部表現を示すと主張している。[ 35 ]
デイビッド・チャルマーズは、現在のLLMには反復処理や統一された主体性といった機能が欠けているが、AIの進歩により今後10年以内にこれらの制約が解消され、システムが意識を獲得できるようになる可能性があると示唆している。この見解は、純粋に「構文的」な処理では理解や意識は生み出せないというサールの当初の主張に異議を唱え、そのようなシステムでも真の精神状態を持つことができると主張している。[ 36 ]
サールは「生物学的自然主義」と呼ぶ哲学的立場をとっており、意識と理解には脳に見られる特定の生物学的メカニズムが必要であると主張している。彼は「脳が心を生み出す」[ 37 ]、「実際の人間の精神現象は、実際の人間の脳の実際の物理的・化学的特性に依存している」[ 37 ]と書いている。サールは、このメカニズム（神経科学では「意識の神経相関」として知られている）には、人間の意識体験を可能にする何らかの因果的力がなければならないと主張している[ 38 ]。サールのこれらの力の存在に関する信念は批判されている。
サールは、機械が意識や理解力を持つことができるという考えに反対していません。なぜなら、彼が書いているように、「私たちはまさにそのような機械だからです」[ 6 ] 。サールは、脳は実際には機械であるが、脳は特定のメカニズムを使用して意識と理解力を生み出すと主張しています。神経科学が意識を生み出す機械的プロセスを分離できれば、サールは意識と理解力を持つ機械を作ることが可能になるかもしれないと認めています。しかし、必要な特定のメカニズムがなければ、サールは意識は発生しないと考えています。
生物学的自然主義は、脳の特定の仕組みが不可欠であるため、システムの機能を調べるだけでは意識の経験が生じているかどうかを判断することはできないことを示唆しています。したがって、生物学的自然主義は、行動主義と機能主義（「コンピュータ機能主義」または「強いAI」を含む）の両方に直接反対しています。[ 39 ]生物学的自然主義は、同一性理論（精神状態は神経学的イベントと「同一」または「構成されている」という立場）に似ていますが、サールは同一性理論に対して具体的な技術的異議を唱えています。 [ 40 ] [ j ]サールの生物学的自然主義と強いAIはどちらも、脳と心が異なる「実体」でできているという古典的な考え方であるデカルト的二元論に反対しています。 [ 39 ]実際、サールは強いAIを二元論的であると非難し、「強いAIは、心に関しては脳は重要ではないという二元論的仮定の下でのみ意味を成す」と書いています。[ 26 ]
サールの最初の発表では、理解、つまり意図性を持つ精神状態が強調され、「意識」などの密接に関連する他の概念は直接取り上げられていなかった。しかし、より最近の発表では、サールは意識を議論の真の対象として含めている。[ 4 ]
意識の計算モデルは、それ自体では意識を説明するのに十分ではない。意識の計算モデルは、あらゆるものの計算モデルがモデル化される領域に対して持つのと同じ意味で、意識に対して持つ。ロンドンの豪雨の計算モデルが私たち全員をずぶ濡れにするなどと考える人はいない。しかし、彼らは意識の計算モデルが何らかの形で意識を持っていると考えるという間違いを犯している。どちらの場合も同じ間違いである。[ 41 ]
—ジョン・R・サール著『意識と言語』16ページ
デイビッド・チャルマーズは、「中国語の部屋の問題の根底には意識があることは明らかだ」と書いている。[ 42 ]
コリン・マクギンは、中国語の部屋は意識の難問が根本的に解決不可能であることを示す証拠を提供すると主張している。議論の焦点は機械が意識を持つことができるかどうかではなく、いかなる存在も意識を持っていると証明できるかどうかである。中国語の部屋の住人を探るいかなる方法も、原理的には中国語で質問と回答を交わすのと同じ困難を伴う。マクギンによれば、意識のある主体が部屋に住んでいるのか、それとも巧妙なシミュレーションが部屋に住んでいるのかを判断することは不可能である。[ 43 ]
サールは、これは部屋の外にいる観察者にとってのみ当てはまると主張する。思考実験の要点は、誰かを部屋の中に入れ、意識の働きを直接観察できるようにすることである。サールは、部屋の中にいる自分の視点からは、自分自身以外に意識を生み出すと考えられるものは何も見えず、明らかに中国語を話せる心など持っていないと主張する。サールの言葉を借りれば、「私が何も理解していない場合、コンピューターは私と何ら変わらない」。[ 44 ]
パトリック・ヒューは、指揮官の道徳的行為能力を維持するために軍事指揮統制システムに求められる要件を導き出すために、中国語の部屋の議論を用いた。彼は指揮センターにいる指揮官と中国語の部屋にいる人物との間に類推を描き、アリストテレスの「強制」と「無知」の概念に基づいて分析した。情報は意味から記号に「ダウンコンバージョン」され、象徴的に操作される可能性があるが、意味への「アップコンバージョン」が不十分であれば、道徳的行為能力が損なわれる可能性がある。ヒューはUSSヴィンセンス事件の例を挙げた。[ 45 ]
中国語の部屋の議論は主に心の哲学の議論であり、主要なコンピュータ科学者と人工知能の研究者は、それを自分たちの分野とは無関係だと考えている。[ 5 ]しかし、記号処理、チューリングマシン、チューリング完全性、チューリングテストなど、コンピュータ科学者によって開発されたいくつかの概念は、この議論を理解するために不可欠である。
サールの主張は、通常、AI研究の問題とはみなされていません。人工知能研究の主な使命は、知的に動作する有用なシステムを作成することだけであり、知能が「単なる」シミュレーションであるかどうかは問題ではありません。AI研究者のスチュアート・J・ラッセルとピーター・ノーヴィグは2021年に次のように書いています。「私たちは、知的に動作するプログラムに関心があります。意識の個々の側面、つまり認識、自己認識、注意はプログラム可能であり、知能機械の一部になり得ます。機械を人間とまったく同じように意識させるという追加プロジェクトは、私たちが取り組む準備ができているものではありません。」[ 5 ]
サールは、AI研究によって高度な知能を発揮できる機械が生み出される可能性を否定していない。中国語の部屋の議論は、人間よりも知的に振る舞うデジタル機械が構築される可能性を残しているが、それは人間の脳のような心や意図性を持たない可能性がある。
サールの「強いAI仮説」は、レイ・カーツワイルや他の未来学者[ 46 ] [ 21 ]が定義する「強いAI」と混同してはならない。彼らはこの用語を、人間の知能に匹敵するかそれを超える機械知能、すなわち汎用人工知能、人間レベルのAI、または超知能を説明するために使用している。カーツワイルは主に機械が示す知能の量について言及しているが、サールの議論はこれに制限を設けていない。サールは、超知能機械が必ずしも心や意識を持つとは限らないと主張している。
中国語の部屋はチューリングテストの一種を実装しています。[ 48 ]アラン・チューリングは1950年に「機械は考えることができるか？」という問いに答えるためにこのテストを導入しました。標準バージョンでは、人間の審査員が人間と、人間と区別がつかないパフォーマンスを生成するように設計された機械と自然言語で会話します。すべての参加者は互いに隔離されています。審査員が機械と人間を確実に区別できない場合、機械はテストに合格したと言われます。
チューリングは次に、「機械は思考できる」という提案に対する考えられるあらゆる反論を検討し、このように問題を明確化すれば、単純明快な答えがあることを発見した。しかし、彼はこのテストで「意識」や「理解」の有無を測ろうとしたわけではない。彼は、それが自分が取り組んでいる問題とは無関係だと考えていた。彼は次のように書いている。
私は意識について謎がないと考えているという印象を与えたくはありません。例えば、意識を局所化しようとする試みには、ある種のパラドックスが伴います。しかし、これらの謎は、この論文で取り上げる質問に答える前に必ずしも解決される必要はないと考えています。[ 48 ]
心と意識の本質を探求する哲学者であるサールにとって、これらは重要な謎である。中国語の部屋は、たとえ部屋が意識のある心のように振る舞ったり機能したりできたとしても、チューリングテストだけでは意識の存在を検出するには不十分であることを示すために設計された。
コンピュータは、計算やシミュレーションを実行するために物理的な物体を操作する。人工知能研究者のアレン・ニューウェルとハーバート・A・サイモンは、このような機械を物理記号システムと呼んだ。これは、数理論理学の分野で用いられる形式体系にも相当する。
サールは、この種の記号操作が構文的であること（文法学の用語を借りれば）を強調している。コンピュータは、記号の意味論（つまり、その意味）を一切知らなくても、構文の一形態を用いて記号を操作する。
ニューウェルとサイモンは、物理的な記号システム（デジタルコンピュータなど）には「一般的な知能行動」、つまり今日でいう人工汎用知能に必要なすべての機構が備わっていると推測した。彼らはこれを哲学的な立場、すなわち物理的記号システム仮説として定式化した。「物理的記号システムは、一般的な知能行動に必要な十分な手段を備えている。」[ 49 ] [ 50 ]中国語の部屋の議論は、理解、意識、精神の有無ではなく、「知能行動」、つまり機械の外部的な振る舞いという観点から定式化されているため、これを反駁するものではない。
21世紀のAIプログラム（「ディープラーニング」など）は、未知の数値の巨大な行列に対して数学演算を行い、サールが1980年に批判を書いた当時のAIプログラムが使用していた記号処理とはほとんど似ていない。ニルス・ニルソンは、このようなシステムを「記号的」ではなく「動的」と表現している。ニルソンは、これらは本質的に動的システムのデジタル化された表現であり、個々の数値には特定の意味はなく、動的信号からのサンプルまたはデータポイントであり、意味を持つのは近似される信号であると指摘している。ニルソンは、これらの信号を物理的記号システム仮説と同じ意味で「記号処理」と考えるのは妥当ではないと主張している。[ 51 ]
中国語の部屋は、現代のコンピュータと類似した設計になっています。フォン・ノイマン・アーキテクチャを採用しており、プログラム（命令書）、メモリ（書類やファイルキャビネット）、命令に従う機械（人）、メモリに記号を書き込む手段（鉛筆と消しゴム）で構成されています。この設計の機械は、理論計算機科学では「チューリング完全」として知られています。これは、チューリング マシンが実行できるあらゆる計算を実行するために必要な機構を備えているため、十分なメモリと時間があれば、他のデジタル マシンのステップ バイ ステップ シミュレーションを実行できるからです。チューリングは、「すべてのデジタル コンピュータはある意味で同等である」と書いています。[ 52 ]広く受け入れられているチャーチ・チューリングのテーゼでは、有効な手順で計算可能な関数はすべてチューリング マシンで計算可能であるとされています。
中国語の部屋のチューリング完全性は、他のデジタルコンピュータができることはすべて中国語の部屋でもできる（ただし、はるかに遅い）ことを意味する。したがって、中国語の部屋に中国語を話す心が含まれていない、または含まれることができないとすれば、他のデジタルコンピュータにも心は含まれないことになる。サールに対するいくつかの反論は、記述された部屋には中国語を話す心は存在し得ないという主張から始まる。スティーヴァン・ハーナッドによれば、このような形式の議論は中国語の部屋の議論に対する「反駁ではなく（むしろ肯定である）」[ 53 ]ものであり、これらの議論は実際にはどのデジタルコンピュータも心を持つことができないことを意味しているからである。[ 28 ]
ハノック・ベン・ヤミなどの批評家は、中国語の部屋は現在時刻を判定できるなど、デジタルコンピュータのすべての機能をシミュレートすることはできないと主張している。[ 54 ]
サールは、中国語の部屋がその一部を構成する議論のより正式なバージョンを作成しました。彼は最初のバージョンを1984年に発表しました。以下に示すバージョンは1990年のものです。[ 55 ] [ k ]中国語の部屋の思考実験は、ポイントA3を証明することを目的としています。[ l ]
彼は3つの公理から始める。
サールは、これらが直接的にこの結論につながると主張している。
この議論の大部分は、人工知能が記号を操作するプログラムを書くことによって、心を持つ機械を生み出すことは決してできないことを示すことを目的としている。議論の残りの部分は別の問題を取り上げている。人間の脳はプログラムを実行しているのか？言い換えれば、心の計算論的理論は正しいのか？[ f ]彼は、脳と心に関する現代科学の基本的なコンセンサスを表現することを意図した公理から始める。
サールは、次のことが「直ちに」かつ「自明に」導き出せると主張している[ 56 ]。
そして彼はそこからさらに次のような結論を導き出す。
サールの主張に対する反論は、さまざまな形で展開されている（下記参照）。計算主義者と機能主義者はA3を否定し、サールが説明する「構文」は、適切な機能構造を持っていれば「意味論」を持つことができると主張する。消去主義的唯物論者はA2を否定し、心は実際には「意味論」を持たない、つまり思考やその他の精神現象は本質的に無意味であるが、あたかも意味を持っているかのように機能すると主張する。
サールの議論に対する反論は、何を証明しようとしているかによって分類できる。[ m ]
いくつかの議論（例えば、ロボットや脳のシミュレーションなど）は、複数のカテゴリーに分類される。
これらの回答は、「部屋にいる人物は中国語を話さないのだから、中国語を話せる心はどこにあるのか？」という問いに答えようとするものです。これらの回答は、心と身体、シミュレーションと現実といった、存在論上の重要な問題を取り上げています。部屋にいる心を特定する回答はすべて、「システムによる回答」のバリエーションです。
システム応答の基本バージョンは、中国語を理解するのは「システム全体」であると主張している。[ 61 ] [ n ]男性は英語しか理解できないが、プログラム、メモ用紙、鉛筆、ファイルキャビネットと組み合わせると、中国語を理解できるシステムが形成される。「ここでは、理解は単なる個人に帰属するのではなく、彼がその一部であるこのシステム全体に帰属する」とサールは説明する。[ 29 ]
サールは、（この単純な返答では）「システム」は単なる普通の物理的物体の集合体に過ぎず、「その人と紙片の結合」[ 29 ]に理解力と意識を与えているが、この物体の山がどのようにして意識を持ち、考える存在になったのかを説明しようとはしていないと指摘している。サールは、理性的な人であれば、「イデオロギーに囚われている」のでない限り、この返答に満足するはずがないと主張している[ 29 ]。この返答が少しでももっともらしくなるためには、意識は情報処理「システム」の産物であり、脳の実際の生物学に似たものは何も必要としないということを当然のこととして受け入れなければならない。
サールは、この物理的対象のリストを単純化することでこれに答えます。彼は、もし人が規則を暗記し、すべてを頭の中で管理したらどうなるかと問いかけます。そうすると、システム全体はたった一つの対象、つまり人自身だけで構成されます。サールは、もし人が中国語を理解しないなら、システムも中国語を理解しないと主張します。なぜなら、今や「システム」と「人」はどちらもまったく同じ対象を指しているからです。[ 29 ]
サールの回答に対する批判者たちは、このプログラムによって、その男は一つの頭の中に二つの心を持つことができたと主張する。もし「心」が情報処理の一形態であると仮定するならば、計算理論は、同時に起こる二つの計算、すなわち（1）普遍的プログラミング可能性の計算（これは、特定のプログラムの内容とは無関係に、人物とメモの資料によってインスタンス化される機能である）と（2）プログラムによって記述されるチューリングマシンの計算（これは、特定のプログラムを含むすべてによってインスタンス化される）を説明できる。[ 63 ]したがって、計算理論は、中国語の部屋での二番目の計算が、中国語の入力に対する人間と同等の意味的理解を伴う可能性があるという開かれた可能性を形式的に説明する。焦点は、人物ではなく、プログラムのチューリングマシンに当てられるべきである。[ 64 ]しかし、サールの視点からすると、この議論は循環論法である。問題となっているのは、意識が情報処理の一形態であるかどうかであり、この回答にはその仮定を置く必要がある。
システムの応答のより洗練されたバージョンでは、「システム」が何であるかをより正確に特定しようと試みており、その記述方法はそれぞれ異なっている。これらの応答によれば、「中国語を話す心」とは、「ソフトウェア」、「プログラム」、「実行中のプログラム」、「意識の神経相関のシミュレーション」、「機能システム」、「シミュレーションされた心」、「創発特性」、または「仮想心」などである可能性がある。
マービン・ミンスキーは、「仮想心応答」として知られるシステム応答のバージョンを提案した。[ o ] 「仮想」という用語は、コンピュータ科学において、ソフトウェアによって存在するように見せかけられるためだけにコンピュータ（またはコンピュータネットワーク）「内」に存在するように見えるオブジェクトを説明するために使用される。コンピュータの電子部品を除いて、コンピュータ「内部」のオブジェクト（ファイル、フォルダなどを含む）はすべて「仮想」である。同様に、ミンスキーは、コンピュータには仮想マシン、仮想コミュニティ、仮想現実と同じ意味での仮想の「心」が含まれている可能性があると提案している。
上記の単純なシステム応答と仮想心応答の区別を明確にするために、デイビッド・コールは、1つのシステム上で同時に2つのシミュレーションが実行されている可能性があると指摘している。1つは中国語を話し、もう1つは韓国語を話す。システムは1つしかないが、「仮想心」は複数存在できるため、「システム」は「心」ではない。[ 68 ]
サールは、そのような心はせいぜいシミュレーションに過ぎないと反論し、「5段階警報の火災のコンピュータシミュレーションが近隣を焼き尽くすとか、豪雨のコンピュータシミュレーションが私たち全員をずぶ濡れにするなどと考える人はいない」と書いている。[ 69 ]ニコラス・ファーンは、物事によってはシミュレーションは本物と同じくらい良いと反論する。「デスクトップコンピュータでポケット電卓機能を呼び出すと、画面にポケット電卓の画像が表示される。それが実際には電卓ではないと文句を言う人はいない。なぜなら、デバイスの物理的な特性は問題ではないからだ。」[ 70 ]問題は、人間の心はポケット電卓のように、本質的に情報で構成されており、物事の完璧なシミュレーションがまさに物事そのものなのか、それとも、心は豪雨のように、単なるシミュレーション以上のものがあり、コンピュータシミュレーションでは完全に実現できないものなのか、ということである。数十年にわたり、このシミュレーションの問題は、AI研究者や哲学者に、「合成知能」という用語が、そのような知能を一般的に「人工」と表現するよりも適切かどうかを検討させるに至った。
これらの回答は、中国語を理解できるのが一体誰なのかを明確に説明している。もし部屋にいる男性以外に中国語を理解できるものが存在するならば、サールは（1）その男性は中国語を理解していない、したがって（2）部屋の中に中国語を理解できるものは何もない、と主張することはできない。この回答をした人々によれば、これはサールの議論が「強いAI」が誤りであることを証明できていないことを示している。[ p ]
しかし、これらの回答だけでは、強いAIが真実であるという証拠は何も得られません。チューリングテストに合格するという仮説的な前提を除けば、システム（または仮想の心）が中国語を理解していることは示されていません。サールは、強いAIが少しでももっともらしいと考えるならば、中国語の部屋は説明を必要とする例であり、意識が部屋からどのように「出現」するのか、あるいはシステムがどのように意識を持つのかを説明するのは困難、あるいは不可能だと主張しています。サールが書いているように、「システムの回答は、システムが中国語を理解しなければならないと主張することで、単に論点先取をしている」[ 29 ]ため、質問をはぐらかしているか、絶望的に循環しています。
部屋にいる人にとって、これらの記号は単なる意味のない「落書き」に過ぎない。しかし、中国語の部屋が本当にその意味を「理解」しているとすれば、記号はどこかから意味を得ているはずだ。これらの議論は、記号とそれが象徴するものを結びつけようとするものである。これらの回答は、サールの意図性、記号の根拠、構文と意味論に関する懸念に対応している。
部屋の代わりに、プログラムが周囲を歩き回り、環境と相互作用できるロボットに組み込まれたと仮定します。これにより、記号とそれが表すものとの間に「因果関係」が生まれます。 [ 72 ] [ q ]ハンス・モラベックは次のように述べています。「ロボットを推論プログラムに移植できれば、意味を与えるために人間は必要なくなり、それは物理世界から来るでしょう。」[ 74 ] [ r ]
サールの回答は、中国語の部屋にいる人物には知らされていないが、入力の一部はロボットに取り付けられたカメラから直接送られてきており、出力の一部はロボットの腕や脚を操作するために使われていたと仮定することである。それでも、部屋にいる人物は依然として規則に従っているだけで、記号の意味は知らない。サールは「彼はロボットの目に何が映っているのか見ていない」と書いている。[ 76 ]
サールが描写するその部屋は、世界と繋がっているという意見もある。それは、部屋が「対話」している中国語話者を通して、そして彼のファイルキャビネットにある知識ベースを設計したプログラマーを通して繋がっているのだ。サールが操作する記号は既に意味を持っているが、彼にとっては意味がないだけなのだ。[ 77 ] [ s ]
サールは、記号には書籍の単語の意味のように「派生的な」意味しかないと述べている。記号の意味は、部屋の外にいる中国語話者とプログラマーの意識的な理解に依存する。部屋は、本と同じように、それ自体には理解力がない。[ t ]
シンボルの意味は、プログラムやファイルキャビネットにエンコードされた膨大な常識的知識の「背景」から得られると主張する人もいる。これにより、シンボルに意味を与える「文脈」が提供されるだろう。[ 75 ] [ u ]
サールはこの背景が存在することには同意しているが、それをプログラムに組み込むことができるとは同意していない。ヒューバート・ドレイファスもまた、「背景」を象徴的に表現できるという考えを批判している。[ 80 ]
これらの提案のそれぞれに対して、サールの答えは同じである。プログラムにどれだけの知識が書き込まれ、プログラムが世界とどのように繋がっていようとも、彼は依然として規則に従って記号を操作する部屋にいることに変わりはない。彼の行動は構文的であり、それでは記号が何を表しているのかを彼に説明することは決してできない。サールは「構文は意味論には不十分である」と書いている。[ 81 ] [ v ]
しかし、サールの行動が彼自身の精神とは別の精神をシミュレートしていると考える人々にとって、重要なのは、それらのシンボルがサールにとって何を意味するかではなく、仮想の精神にとって何を意味するかである。サールは部屋に閉じ込められているが、仮想の精神はそうではない。それは、会話する中国語話者、世界に関する知識を与えたプログラマー、そしてロボット工学者が提供できるカメラやその他のセンサーを通して、外界と繋がっているのだ。
これらの議論はすべて、特定の種類のシステムが重要であると指摘するシステム論的回答のバリエーションであり、機械に意識的な理解を生み出す特別な技術を特定している。（上記の「ロボット」と「常識的知識」に関する回答も、特定の種類のシステムが重要であると指摘している。）
プログラムが中国語話者の脳内のすべてのニューロンの活動を詳細にシミュレートしたと仮定します。[ 83 ] [ w ]これは、プログラムの動作と生きた人間の脳の動作との間に大きな違いはないという直感を強めます。
サールは、そのようなシミュレーションでは脳の重要な特徴、つまりその因果的状態と意図的状態を再現できないと反論する。彼は「人間の精神現象は、実際の人間の脳の実際の物理化学的特性に依存している」と断言する。[ 26 ]さらに彼は次のように主張する。
部屋の中で単一言語しか話せない男性が記号をシャッフルする代わりに、その男性がバルブで接続された複雑な水道管のセットを操作すると想像してみてください。男性は中国語の記号を受け取ると、英語で書かれたプログラムでどのバルブをオン/オフにするかを確認します。それぞれの水道の接続は中国語話者の脳のシナプスに対応しており、システム全体は、すべての正しい発火、つまりすべての正しい蛇口をひねった後に、一連のパイプの出力端から中国語の答えが出てくるように仕掛けられています。さて、このシステムにおける理解はどこにあるのでしょうか？中国語を入力として受け取り、中国語話者の脳のシナプスの形式的な構造をシミュレートし、中国語を出力します。しかし、その男は確かに中国語を理解していないし、水道管も理解していない。もし私たちが、人間と水道管の結合が何らかの形で理解しているという、私がばかげていると思う見解を採用したくなったとしても、原則として、人間は水道管の形式的な構造を内面化し、想像の中で全ての「ニューロン発火」を行うことができることを思い出してほしい。[ 85 ]
中国の各市民に電話システムを使ってニューロンを1つシミュレートしてもらい、軸索と樹状突起間の接続をシミュレートしたらどうなるでしょうか。このバージョンでは、脳が何を言っているのかを個人が理解できないことは明らかです。[ 86 ] [ x ]また、このシステムは機能的に脳と同等であることも明らかです。したがって、意識が機能であるならば、このシステムは意識を持つことになります。
この思考実験では、エンジニアが個々のニューロンの働きをシミュレートする小型コンピュータを発明したと想像するように求められます。ニューロンを1つずつ置き換えたらどうなるでしょうか？1つだけ置き換えても、意識に変化は生じません。すべてのニューロンを置き換えると、脳をシミュレートするデジタルコンピュータが作られます。サールが正しいとすれば、意識は（徐々に、あるいは一気に）この過程で消滅するはずです。サールの批判者たちは、意識が消滅し、無意識的なシミュレーションが始まると彼が主張できるような時点は、この過程には存在しないと主張しています。[ 88 ] [ y ] [ z ]（同様の思考実験については「テセウスの船」を参照。）
これらの議論（およびロボットや常識的な知識による反論）は、機械に意識的な理解を生み出すのに役立つ特別な技術を特定しています。これらは2つの方法で解釈できます。1つは、(1) この技術は意識に必要であり、中国語の部屋はこの技術を実装していないか、実装できないため、中国語の部屋はチューリングテストに合格できないか、(たとえ合格したとしても) 意識的な理解を持たない、と主張しているものです。もう1つは、(2) この技術が中国語の部屋を作るために使用されていると想像すれば、中国語の部屋に心があることが分かりやすくなる、と主張しているものです。
最初のケース、つまりロボットのボディやコネクショニスト・アーキテクチャなどの機能が必要な場合、サールは（彼が理解する）強いAIは放棄されたと主張している。[ ac ]中国語の部屋はチューリング完全な機械のすべての要素を備えているため、あらゆるデジタル計算をシミュレートすることができる。サールの部屋がチューリングテストに合格できない場合、チューリングテストに合格できる他のデジタル技術は存在しない。サールの部屋がチューリングテストに合格できたとしても、まだ心を持っていないのであれば、チューリングテストは部屋に「心」があるかどうかを判断するのに十分ではない。いずれにせよ、それはサールが「強いAI」と考える立場のどちらか一方を否定し、彼の主張を証明している。
特に脳に関する議論は、脳と同じくらい謎めいたプログラムを作る以外に心を説明するより簡単な方法はないと仮定するならば、強いAIを否定することになる。彼は「強いAIの考え方全体は、心の働きを知るために脳の働きを知る必要はないということだと思っていた」と書いている。[ 27 ]サールによれば、計算が人間の心の説明を提供しないならば、強いAIは失敗したことになる。
他の批評家たちは、サールが描写した部屋には確かに意思があると主張しているが、それは見えにくいと論じている。サールの描写は正しいものの、誤解を招く恐れがあるというのだ。彼らは、部屋をより現実的に再設計することで、この点をより明確にしようと試みている。この場合、これらの議論は直感に訴える形で用いられている（次節参照）。
実際、部屋は私たちの直感を弱めるように簡単に再設計できます。ネッド・ブロックのブロックヘッド論法[ 94 ]は、理論的には、プログラムを「ユーザーがSと入力したら、Pと応答してXへ移動する」という形式のルールの単純なルックアップテーブルに書き換えることができると示唆しています。少なくとも原理的には、脳シミュレーションであっても、どんなプログラムでもこの形式に書き換え（または「リファクタリング」）できます。[ ad ]ブロックヘッドのシナリオでは、精神状態全体が文字Xに隠されており、これはメモリ アドレス、つまり次のルールに関連付けられた番号を表しています。意識的な経験の瞬間が単一の大きな数値に捉えられることを想像するのは難しいですが、これはまさに「強いAI」が主張していることです。一方、そのようなルックアップテーブルは途方もなく大きくなり（物理的に不可能なほど）、したがって状態は過度に具体的になる可能性があります。
サールは、プログラムがどのように書かれていようと、機械がどのように世界に接続されていようと、心は単純な段階的デジタル機械（または複数の機械）によってシミュレートされていると主張する。これらの機械は常に部屋にいる人間と同じで、何も理解せず、中国語も話さない。意味を知らずに記号を操作しているだけなのだ。サールはこう書いている。「どんな形式的なプログラムでも構わないが、それでも私は何も理解できない。」[ 95 ]
以下の議論（および上記の議論の直観的な解釈）は、中国語を話す精神がサールの部屋に存在しうる理由や、彼が操作する記号が意味を持つようになる理由を直接的に説明するものではありません。しかし、サールの直観に疑問を投げかけることで、システムやロボットの応答といった他の立場を支持することになります。これらの議論が受け入れられれば、サールの確信の根拠となる直観が損なわれるため、サールは自身の結論が自明であると主張することができなくなります。
複数の批評家は、サールの議論は完全に直観に依存していると考えている。ブロックは「サールの議論は、特定の存在が思考しないという直観にその説得力がある」と述べている[ 96 ]。ダニエル・デネットは中国語の部屋の議論を誤解を招く「直観ポンプ」[ 97 ]と表現し、「サールの思考実験は、不当にも、あまりにも単純な事例、無関係な事例を想像し、そこから明白な結論を導き出すことに依存している」と述べている[ 97 ] 。
上記の議論の中には、直観に訴える機能を持つものもあり、特に中国語の部屋に心が存在することをよりもっともらしく見せることを意図したものは、ロボット、常識的知識、脳シミュレーション、コネクショニストの回答などが含まれる。上記の回答のいくつかは、複雑性という具体的な問題にも触れている。コネクショニストの回答は、機能する人工知能システムは人間の脳と同じくらい複雑で相互接続されている必要があることを強調している。常識的知識の回答は、チューリングテストに合格するプログラムは、ダニエル・デネットが説明するように、「『世界知識』とメタ知識とメタメタ知識で満ち溢れた、非常に柔軟で洗練された多層システム」でなければならないことを強調している。[ 79 ]
これらの批判の多くは、人間の脳の速度と複雑さを強調しており、人間の脳は（一部の推定では）毎秒 1000 億回の演算で情報を処理する。[ 99]いくつかの批評家は、その部屋にいる人が簡単な質問に答えるのにおそらく何百万年もかかり、天文学的な規模の「ファイルキャビネット」が必要になるだろうと指摘している。[ 100 ]これにより、サールの直観の明晰さに疑問が生じる。
速度と複雑さに関する反論を特に鮮やかに表現した例は、ポールとパトリシア・チャーチランド夫妻によるものです。彼らは次のような類似した思考実験を提案しています。
暗い部屋に棒磁石や帯電した物体を持った男がいると想像してください。男が磁石を上下に動かすと、マクスウェルの人工発光（AL）理論によれば、電磁波の拡散円が発生し、発光するはずです。しかし、磁石や帯電した球で遊んだことがある人なら誰でも知っているように、それらの力（あるいは他のどんな力でも）は、動かしても全く発光しません。力を動かすだけで本当の発光を構成できるとは考えられません！[ 87 ]
チャーチランドの主張は、何かを見るためには磁石を毎秒450兆回ほど上下に振らなければならないという問題だ。[ 101 ]
スティーブン・ハーナッドは、私たちの直感に訴えかける範囲を超えた、スピードと複雑さを重視した回答を批判している。彼は次のように書いている。
速度とタイミングを崇拝する者もおり、適切な速度まで加速すれば、計算処理が精神処理へと相転移する可能性があると主張している。これは反論ではなく、単なる場当たり的な推測に過ぎないことは明らかである（すべては適切な「複雑さ」のレベルまで段階的に上げていくだけの問題だという見解も同様である）。[ 102 ] [ af ]
サールは、批判者たちも直観に頼っていると主張するが、反対者たちの直観には経験的な根拠がない。彼は、「システム応答」を少しでももっともらしいと考えるためには、人は「イデオロギーに囚われている」必要があると書いている。[ 29 ]システム応答は、（サールにとって）適切な振る舞いと機能部分を持つシステムであるというだけで、どんな「システム」でも意識を持つことができると仮定した場合にのみ意味を持つ。サールは、この仮定は、私たちの意識の経験を考えると維持できないと主張する。
サールの議論は、心と意識に関する彼の前提が誤っているため無関係であると反論するいくつかの回答がある。サールは、人間は毎日、意識、意図性、心の性質を直接経験しており、この意識の経験は疑問の余地がないと考えている。彼は、「精神の現実性と認識可能性を前提としなければならない」と書いている。[ 105 ]以下の回答は、サールが自身の意識の経験を用いて、それが機械的な記号処理以上のものであると判断することが正当化されるかどうかを問うている。特に、他の心に関する回答は、意識の経験を用いて他の心（コンピュータの心でさえ）に関する質問に答えることはできないと主張し、付随現象に関する回答は、定義上、いかなる実験によっても検出できない意識のようなものについて、そもそも議論できるのかどうかを問う、消去主義的唯物論に関する回答は、サール自身の個人的な意識は、サールが考えているような意味で「存在しない」と主張している。
「他者の心に関する反論」では、サールの議論は機械に適用された他者の心の問題の一種であると指摘している。他人の主観的経験が自分自身の経験と同じかどうかを判断する方法はない。我々は彼らの行動を研究することしかできない（つまり、独自のチューリングテストを彼らに与えることによって）。サールの批判者たちは、彼が中国語の部屋に、一般の人に対して課すよりも高い基準を課していると主張している。[ 106 ] [ ag ]
ニルス・ニルソンは次のように書いています。「プログラムが乗算しているかのように振る舞う場合、ほとんどの人はそれが実際に乗算していると言うでしょう。私が知る限り、サールはこれらの問題について深く考えているかのように振る舞っているだけかもしれません。しかし、私は彼に同意しませんが、彼のシミュレーションはかなり優れているので、私は彼が真剣に考えていることを認めたいと思います。」[ 108 ]
チューリングは1950年にサールの議論の筋道（彼が「意識からの議論」と呼んだもの）を先取りし、他者の心に応答させる。[ 109 ]彼は、人々が互いに接する際に他者の心の問題を考慮しないことに気づいた。彼は、「この点について絶えず議論する代わりに、誰もが考えているという礼儀正しい慣習があるのが普通だ」と書いている。[ 110 ]チューリングテストは、この「礼儀正しい慣習」を機械に拡張したにすぎない。彼は（機械や人間にとって）他者の心の問題を解決しようとは考えておらず、解決する必要はないとも考えていない。[ ah ]
サールの意図性、意識、そして心に関する記述を受け入れるならば、意識は付随現象、すなわち「影を落とさない」、つまり外界では検出不可能であるということを受け入れざるを得ない。サールの言う「因果的性質」は、心の外にいる者には検出できない。そうでなければ、中国語の部屋はチューリングテストに合格できないだろう。外にいる者は、因果的性質を検出することで、部屋に中国語を話す人がいないと判断できるはずだからだ。因果的性質を検出できない以上、精神の存在も検出できない。したがって、サールの言う「因果的性質」と意識そのものは検出不可能であり、検出できないものは存在しないか、あるいは重要ではないかのどちらかである。
マイク・アルダーはこれを「ニュートンの燃えるレーザーソードの反論」と呼んでいる。彼は、この議論全体が検証主義的ではないため軽薄だと主張する。つまり、精神をシミュレートすることと精神を持つことの区別が曖昧であるだけでなく、両者を区別するための実験が提案されたことも、提案できることもないため、無関係であるということだ。[ 112 ]
ダニエル・デネットは次のような例を挙げている。ある突然変異によって、サールの言う「因果的性質」を持たないにもかかわらず、人間と全く同じように行動する人間が生まれたとしよう。これは、心の哲学で定式化された哲学的ゾンビである。この新しい動物は他の人間と同じように繁殖し、最終的にはこのようなゾンビが増えるだろう。ゾンビの設計は（おそらく）少し単純であるため、自然淘汰はゾンビに有利に働く。最終的に人間は絶滅するだろう。したがって、サールが正しいとすれば、今日私たちが見る人間は実際には「ゾンビ」であり、それでも意識があると主張している可能性が最も高い。私たちが皆ゾンビであるかどうかを知ることは不可能である。たとえ私たちが皆ゾンビであったとしても、私たちは自分がゾンビではないと信じ続けるだろう。[ 113 ]
何人かの哲学者は、サールが説明するような意識は存在しないと主張している。ダニエル・デネットは意識を「ユーザーの錯覚」と表現している。[ 114 ]
この立場は、消去的唯物論と呼ばれることもあります。意識は厳密に機械的な記述に「還元」できる概念ではなく、むしろ物質的な脳の働き方が完全に理解されれば、悪魔の概念が厳密に機械的な記述に還元されることなく科学からすでに排除されているのと同様に、単純に排除される概念であるという見解です。原始的志向性（「意味」、「内容」、「意味的特性」とも呼ばれる）などの他の精神的特性も、信念やその他の命題的態度に関連する特別な特性として一般的に考えられています。消去的唯物論は、信念や欲望などの命題的態度、および内容を持つ他の志向的精神状態は存在しないと主張します。消去的唯物論が人間の認知の正しい科学的説明であるならば、「心には精神的内容（意味論）がある」という中国語の部屋の議論の仮定は拒否されなければなりません。[ 115 ]
サールはこの分析に異議を唱え、「心の研究は、人間には信念があるが、サーモスタット、電話、加算機にはないといった事実から始まる…我々が知りたかったのは、心とサーモスタットや肝臓を区別するものは何かということだ」と主張している。[ 76 ]彼は意識の存在を検出できることは自明だと考え、これらの反論は的外れだと一蹴している。
マーガレット・ボーデンは論文「中国語の部屋からの脱出」の中で、部屋にいる人が中国語を理解していなくても、部屋の中に理解がないわけではないと主張した。部屋にいる人は少なくとも出力応答を提供するために使用されるルールブックを理解している。そして、同じことが機械語にも当てはまると指摘する。自然言語の文は、それをインスタンス化するプログラミング言語コードによって理解され、それがさらに下位レベルのコンパイラコードによって理解され、といった具合である。これは、サールが前提としているように構文と意味の区別が固定されているのではなく、相対的であることを意味する。自然言語の意味はプログラミング言語の構文で実現され、プログラミング言語の意味はコンパイラコードの構文で実現される意味を持つ。ボーデンは、理解にはさまざまな段階があり、それは二元的な概念ではないと主張する。[ 116 ]
サールの「人間の精神現象は、実際の人間の脳の実際の物理化学的特性に依存している」[ 26 ]という結論は、時に「炭素排他主義」の一形態として評されてきた。[ 117 ]スティーブン・ピンカーは、その結論への反論として、中国語の部屋とは逆の思考実験を行うことを提案した。[ 118 ]彼は例として短編小説『彼らは肉でできている』を挙げている。この小説では、地球を発見した電子生命体で構成された異星人が、人間の肉の脳が意識や思考を経験できることを信じない様子が描かれている。[ 119 ]
しかし、サール自身は炭素至上主義者であることを否定した。[ 120 ]彼は「脳のような生物学的システムだけが思考できると示そうとしたことはない…この問題は未解決だと考えている」と述べた。[ 121 ]彼は、シリコンの実際の物理化学的特性を意識や思考を生み出す方法で使用できれば、シリコン製の機械でも理論的には人間のような意識や思考を持つことができるが、「脳がどのようにそれを行うかがわかるまでは、人工的にそれを試みることはできない」と述べた。[ 122 ]
{{cite book}}: CS1 maint: postscript (リンク)およびFloridi, Luciano (2014), The 4th Revolution: How the Infosphere Is Reshaping Human Reality , Oxford University Press, ISBN 978-0-19-960672-6