人工知能の哲学

1949年、コンピュータ科学者のアラン・チューリングは、知能の定義という問題を会話に関する単純な質問に還元しました。彼は、機械が普通の人と同じ言葉を使って、投げかけられたどんな質問にも答えることができるなら、その機械は知的であると言えると提案しました。^{[ 15 ]}彼の実験設計の現代版では、オンラインチャットルームを使用し、参加者の1人が実際の人、もう1人がコンピュータプログラムです。2人の参加者のうちどちらが人間か誰も判別できない場合、プログラムはテストに合格します。^{[ 8 ]}チューリングは、哲学者を除いて誰も「人は考えることができるか？」という質問をしないことに気付きました。彼は、「この点について絶えず議論する代わりに、誰もが考えるという礼儀正しい慣習があるのが普通である」と書いています。^{[ 16 ]}チューリングのテストはこの礼儀正しい慣習を機械にまで拡張し、機械が人間と同じくらい知的に行動するなら、それは人間と同じくらい知的であると提案しました。

チューリングテストに対する批判の一つは、機械の行動の「知性」ではなく、「人間らしさ」だけを測定しているという点である。人間の行動と知的な行動は厳密には同じものではないため、このテストは知性を測定することに失敗している。スチュアート・J・ラッセルとピーター・ノーヴィグは、「航空工学の教科書では、その分野の目標を『他のハトを騙せるほどハトそっくりに飛ぶ機械を作る』とは定義していない」と述べている。^{[ 17 ]}

21世紀のAI研究では、知能を目標指向行動の観点から定義しています。知能を、機械が解決することが期待される一連の問題と捉え、解決できる問題の数が多いほど、またその解決策が優れているほど、プログラムはより知的であると言えます。AIの創始者であるジョン・マッカーシーは、知能を「世界で目標を達成する能力の計算的部分」と定義しました。^{[ 18 ]}

スチュアート・ラッセルとピーター・ノーヴィグは、抽象的な知能エージェントを用いてこの定義を形式化した。「エージェント」とは、環境を認識し、環境内で行動するものである。「パフォーマンス指標」は、エージェントにとって何が成功とみなされるかを定義する。^{[ 19 ]}

• 「エージェントが過去の経験と知識に基づいてパフォーマンス指標の期待値を最大化するように行動する場合、それは知的である。」^{[ 20 ]}

このような定義は、知能の本質を捉えようとするものです。チューリングテストとは異なり、タイピングミスなどの知能の低い人間の特性をテストしないという利点があります。^{[ 21 ]} しかし、「考えるもの」と「考えないもの」を区別できないという欠点があります。この定義によれば、サーモスタットでさえ初歩的な知能を持っていることになります。^{[ 22 ]}

ヒューバート・ドレイファスはこの議論を「神経系が物理学と化学の法則に従うのであれば、我々はそう考える十分な理由があるが、 我々は …何らかの物理的装置で神経系の挙動を再現できるはずだ」という主張だと説明している。^{[ 23 ]}この議論は、1943年に初めて提唱され^{[ 24 ]} 、 1988年にハンス・モラベックによって鮮やかに説明された^{[ 25 ]}が、現在では未来学者レイ・カーツワイル と結びついており、彼は2029年までに脳の完全なシミュレーションを行うのに十分なコンピュータ能力が得られると推定している^{[ 26 ]。人間の脳と同じ大きさ（ 10¹¹個の}ニューロン）の視床皮質モデルの非リアルタイムシミュレーションが2005年に実行され^{[ 27 ]} 、 27個のプロセッサのクラスタで1秒間の脳のダイナミクスをシミュレートするのに50日かかった。

AIの最も厳しい批判者（ヒューバート・ドレイファスやジョン・サールなど）でさえ、脳のシミュレーションは理論的には可能であることに同意している。^{[ a ]} しかし、サールは、原理的にはコンピュータで何でもシミュレートできるため、定義を限界まで広げると、技術的にはあらゆるプロセスが「計算」とみなされるという結論に至ると指摘している。「我々が知りたかったのは、心とサーモスタットや肝臓を区別するものは何かということだ」と彼は書いている。^{[ 30 ]}したがって、生きている脳の機能を単にシミュレートするだけでは、航空工学の理論的理解なしに、生きている鳥を羽一枚一枚正確にコピーしてジェット旅客機を作ろうとするようなもので、知能と心の性質に関する無知を認めることになる。^{[ 31 ]}

1963年、アレン・ニューウェルとハーバート・A・サイモンは、「記号操作」こそが人間と機械の知能の本質であると提唱した。彼らは次のように述べている。

• 「物理的な記号体系は、一般的な知的行動に必要な十分な手段を備えている。」^{[ 10 ]}

この主張は非常に強力で、人間の思考は一種の記号操作である（記号体系は知能に必要だから）ということと、機械は知能を持つことができる（記号体系は知能に十分だから）ということの両方を暗示している。^{[ 32 ]} この立場の別のバージョンは、哲学者ヒューバート・ドレイファスによって説明されており、彼はそれを「心理学的仮定」と呼んだ。

• 「心は、形式的な規則に従って情報の断片を操作する装置と見なすことができる。」^{[ 33 ]}

ニューウェル、サイモン、ドレイファスが論じた「記号」は、単語のような高レベルの記号であり、 <犬>や<尻尾>のように、現実世界の物体に直接対応する記号であった。1956年から1990年の間に書かれたほとんどのAIプログラムは、この種の記号を使用していた。統計学と数理最適化に基づく現代のAIは、ニューウェルとサイモンが論じたような高レベルの「記号処理」は使用していない。

1931年、クルト・ゲーデルは不完全性定理を用いて、形式論理体系（高水準の記号操作プログラムなど）では証明できない「ゲーデル命題」を常に構成できることを証明した。構成されたゲーデル命題は真であるにもかかわらず、与えられた体系内では証明不可能である。（構成されたゲーデル命題の真偽は、与えられた体系の一貫性に依存する。微妙に矛盾する体系に同じプロセスを適用すると、一見成功したように見えるが、実際には偽の「ゲーデル命題」が得られる。）さらに推測的に、ゲーデルは、人間の精神は最終的に、十分に根拠のある数学的命題（可能なゲーデル命題を含む）の真偽を正しく判断できるようになり、したがって人間の精神の力は機械に還元できないと推測した。^{[ 34 ]}哲学者ジョン・ルーカス（1961年以降）とロジャー・ペンローズ（1989年以降）は、この哲学的反機械論を擁護してきた。^{[ 35 ]}

ゲーデル主義の反機械論的議論は、人間の数学者（あるいは人間の数学者の何らかの理想化）の体系が、一貫性（完全に誤りがない）を持ち、かつ自身の一貫性を完全に信じている（そして、自身の一貫性から導かれるすべての論理的推論、すなわちゲーデル命題への信念も含む）という、一見無害な主張に依拠する傾向がある。これはチューリングマシンではおそらく不可能である（停止問題を参照）。したがって、ゲーデル主義者は、人間の推論はチューリングマシン、ひいてはいかなるデジタル機械装置にも捉えられないほど強力であると結論づける。

しかし、現代の科学および数学コミュニティの共通認識は、実際の人間の推論は矛盾している、人間の推論の一貫性のある「理想化されたバージョン」Hは論理的にHの一貫性について健全だが直感に反する開かれた懐疑主義を採用せざるを得ない（そうでなければHは証明可能な矛盾を抱えている）、そしてゲーデルの定理は人間が機械が複製できる以上の数学的推論能力を持っているという有効な議論にはつながらない、というものである。^{[ 36 ] [ 37 ] [ 38 ]}ゲーデルの反機械論的議論は失敗に終わる運命にあるというこの共通認識は、 『人工知能』の中で強く述べられている。「 （ゲーデルの不完全性の結果）を利用して計算主義のテーゼを攻撃しようとする試みは、これらの結果が計算主義のテーゼと非常に一致しているため、正当ではないに違いない。」^{[ 39 ]}

スチュアート・ラッセルとピーター・ノーヴィグは、ゲーデルの議論は現実世界の人間の推論の性質を考慮していないという点で意見が一致している。それは、無限のメモリと時間が与えられた場合に理論的に証明できることに適用される。実際には、実際の機械（人間を含む）は有限のリソースしか持たず、多くの定理を証明することは困難である。知的な人間であるためにすべてを証明できる必要はない。^{[ 40 ]}

よりくだけた言い方をすれば、ダグラス・ホフスタッターは、ピューリッツァー賞を受賞した著書『ゲーデル、エッシャー、バッハ：永遠の黄金の鎖』の中で、これらの「ゲーデル命題」は常にシステム自体を指し示しており、エピメニデスのパラドックスが「この命題は偽である」や「私は嘘をついている」といった、それ自体を指す命題を用いる方法に類似していると述べている。^{[ 41 ]}しかしもちろん、エピメニデスのパラドックスは、機械であろうと人間であろうと、ルーカス自身であろうと、命題を発するあらゆるものに当てはまる。考えてみてほしい。

• ルーカスはこの発言の真実性を断言することはできない。^{[ 42 ]}

この記述は正しいが、ルーカスはそれを主張することはできない。これは、ルーカス自身も、彼が機械について述べているのと同じ限界に縛られていることを示しており、すべての人間も同様である。したがって、ルーカスの議論は無意味である。^{[ 43 ]}

ペンローズは、人間の推論は計算不可能であると結論付けた後、量子力学的状態の崩壊を伴う何らかの仮説的な計算不可能なプロセスが、既存のコンピュータに対して人間に特別な優位性を与えているのではないかと物議を醸す推測を行った。既存の量子コンピュータは、チューリング計算可能なタスクの複雑さを軽減することしかできず、依然としてチューリングマシンの範囲内のタスクに限定されている。ペンローズとルーカスの議論によれば、量子コンピュータがチューリング計算可能なタスクしか完了できないという事実は、人間の精神を模倣するには不十分であることを意味する。したがって、ペンローズは、例えば波動関数の自発的な量子崩壊によってプランク質量のスケールで新しい物理を顕現させる可能性のある量子重力など、新しい物理を伴う何らかの別のプロセスを探求している。これらの状態は、ニューロン内だけでなく、複数のニューロンにまたがって発生すると彼は示唆した。^{[ 44 ]}しかし、他の科学者たちは、脳内には量子計算を利用するためのもっともらしい有機的メカニズムは存在せず、さらに量子デコヒーレンスの時間スケールはニューロンの発火に影響を与えるには速すぎると指摘している。^{[ 45 ]}

ヒューバート・ドレイファスは、人間の知能と専門知識は、段階的な記号操作よりも迅速な直感的判断に主に依存しており、これらのスキルは形式的な規則では決して捉えられないと主張した。^{[ 46 ]}

ドレイファスの議論は、チューリングが1950年の論文「計算機械と知能」で先取りしており、そこで彼はこれを「行動の非形式性からの議論」と分類していた。^{[ 47 ]}チューリングはこれに対し、複雑な行動を支配する規則を知らないからといって、そのような規則が存在しないとは限らないと主張した。彼は次のように書いている。「行動の完全な法則が存在しないことを、そう簡単に納得させることはできない。 そのような法則を見つける唯一の方法は科学的観察であり、我々は『十分に調べた。そのような法則は存在しない』と言えるような状況は確かに知らない。」^{[ 48 ]}

ラッセルとノーヴィグは、ドレイファスが批判を発表して以来、無意識の推論を支配する「ルール」の発見に向けて進歩があったと指摘している。^{[ 49 ]}ロボット工学研究における状況依存型運動は、知覚と注意における私たちの無意識のスキルを捉えようとしている。^{[ 50 ]}ニューラルネットワーク、進化アルゴリズムなどの計算知能パラダイムは、主に無意識の推論と学習のシミュレーションに向けられている。AIへの統計的アプローチは、人間の直感的な推測の精度に近づく予測を行うことができる。常識的知識の研究は、知識の「背景」または文脈の再現に焦点を当ててきた。実際、AI研究全般は、高レベルの記号操作から、私たちの直感的推論をより多く捉えることを目的とした新しいモデルへと移行している。^{[ 49 ]}

認知科学と心理学は最終的にドレイファスの人間専門知識の説明に同意するようになった。ダニエル・カーネマンらは同様の理論を発展させ、人間が問題を解決するために使用する2つの「システム」を特定した。彼はそれを「システム1」（素早い直感的判断）と「システム2」（ゆっくりとした熟慮的な段階的思考）と呼んだ。^{[ 51 ]}

ドレフュスの見解は多くの点で正しかったことが証明されているが、認知科学や人工知能の研究は、それぞれの分野における特定の問題への対応として行われたものであり、ドレフュスの影響を直接受けたものではない。歴史家であり人工知能研究者でもあるダニエル・クレヴィエは、「ドレフュスの発言の中には、時を経て正確で洞察力に富んだものがあったことが証明されている。もし彼がもっと穏やかな表現で発言していたら、彼が示唆した建設的な行動はもっと早く実行されていたかもしれない」と述べている。^{[ 52 ]}

ジョン・サールは、次のような思考実験を私たちに考えさせようとしています。チューリングテストに合格し、一般的な知能動作を示すコンピュータプログラムを書いたとしましょう。具体的には、そのプログラムが流暢な中国語で会話できるとします。そのプログラムを3×5のカードに書き、中国語を話せない一般の人に渡します。その人を部屋に閉じ込め、カードに書かれた指示に従わせます。彼は中国語の文字を書き写し、スロットを通して部屋に出し入れします。外から見ると、中国語の部屋には中国語を話す完全に知的な人がいるように見えます。問題は、部屋の中に中国語を理解する人（または物）がいるかどうかです。つまり、理解するという精神状態を持つもの、あるいは中国語で議論されている内容を意識的に認識するものは何かあるのでしょうか。その男性は明らかに認識していません。部屋は認識できません。カードは確かに認識していません。サールは、中国語の部屋、あるいは他のいかなる物理的な記号体系も、心を持つことはできないと結論付けています。^{[ 60 ]}

サールはさらに、実際の精神状態と意識には（まだ記述されていない）「実際の人間の脳の実際の物理化学的特性」が必要であると主張している。^{[ 61 ]}彼は、脳とニューロンには心を生み出す特別な「因果的特性」があると主張している。彼の言葉を借りれば、「脳が心を生み出す」のである。^{[ 62 ]}

ゴットフリート・ライプニッツは、1714年にサールとほぼ同じ議論を展開し、脳を水車ほどの大きさにまで拡大するという思考実験を用いた。^{[ 63 ]} 1974年、ローレンス・デイビスは電話回線と人が配置されたオフィスを使って脳を複製することを想像し、1978年にはネッド・ブロックが中国の全人口がそのような脳シミュレーションに参加することを構想した。この思考実験は「中国国家」または「中国体育館」と呼ばれている。^{[ 64 ]}ネッド・ブロックはまた、ブロックヘッド論法を提案した。これは中国語の部屋の一種で、プログラムを「これを見て、あれをする」という単純なルールのセットに再ファクタリングし、プログラムからすべての謎を取り除いたものである。

中国語の部屋に対する反応は、いくつかの異なる点を強調している。

• システムの応答と仮想の心の応答：^{[ 65 ]}この応答は、人、プログラム、部屋、カードを含むシステムが中国語を理解していると主張している。サールは、部屋にいる人だけが「心を持つ」または「理解する」ことができる唯一のものであると主張しているが、他の人はこれに反対し、コンピュータが同時に2つの機械（1つは物理的なもの（ Macintoshなど）、もう1つは「仮想的なもの」（ワードプロセッサなど））として「存在」できるのと同様に、同じ物理的な場所に2つの心が存在することは可能だと主張している。
• スピード、パワー、複雑さの反論：^{[ 66 ]}複数の批評家は、その部屋にいる人物が単純な質問に答えるのに何百万年もかかり、天文学的な規模の「ファイルキャビネット」が必要になるだろうと指摘している。これは、サールの直観の明晰さに疑問を投げかける。
• ロボットの返答：^{[ 67 ]}真に理解するためには、中国語の部屋には目と手が必要だと考える人もいる。ハンス・モラベックは次のように書いている。「ロボットを推論プログラムに移植できれば、意味を与えるために人間はもはや必要なくなるだろう。それは物理世界から来るだろう。」^{[ 68 ]}
• 脳シミュレーターの回答：^{[ 69 ]}プログラムが実際の中国語話者の実際の脳のシナプスにおける神経発火のシーケンスをシミュレートしたらどうなるでしょうか？部屋にいる男性は実際の脳をシミュレートしていることになります。これは「システムの回答」のバリエーションで、「システム」が明らかに人間の脳のように動作するため、部屋にいる男性以外にも中国語を理解できる何かが存在するという直感を強めるため、よりもっともらしく見えます。
• 他の心も応答し、付随現象も応答する：^{[ 70 ]}サールの議論は、機械に適用された他の心の問題の単なる一形態であると指摘する人が何人かいる。人が「実際に」考えているかどうかを判断するのが難しいので、機械について同じ質問に答えるのが難しいのは当然である。

関連する疑問として、「意識」（サールが理解する意味での意識）が存在するかどうかという点がある。サールは、意識の経験は機械、人間、あるいはその他の動物の行動を調べても検出できないと主張する。ダニエル・デネットは、自然淘汰は動物の行動に影響を与えない特徴を保存することはできないため、意識（サールが理解する意味での意識）は自然淘汰によって生み出されることはないと指摘する。したがって、自然淘汰は意識を生み出していないか、あるいは「強いAI」が正しければ、適切に設計されたチューリングテストによって意識を検出できるかのどちらかである。