ヒューバート・ドレフュスの人工知能に関する見解

ヒューバート・ドレフュスは人工知能研究の批評家であった。 『錬金術とAI』（1965年）、『コンピュータにできないこと』（1972年、1979年、1992年）、『マインド・オーバー・マシン』（1986年）などの一連の論文や書籍で、彼はAIの進歩に対する悲観的な評価と、この分野の哲学的基礎に対する批判を提示した。ドレフュスの反論は、標準的なAI教科書であるラッセル＆ノーヴィグ（2021年）や、現代哲学の概説書であるフィアーン（2007年）など、人工知能の哲学のほとんどの入門書で議論されている。^[1]

ドレフュスは、人間の知能や専門知識は、意識的な記号操作ではなく、主に無意識のプロセスに依存しており、これらの無意識のスキルは形式的なルールで完全に捉えることはできないと主張した。彼の批判は、メルロ＝ポンティやハイデガーなどの現代の大陸哲学者の洞察に基づいており、現実を表現するために高レベルの形式的な記号を使用し、知能を記号操作に還元しようとした 最初の波のAI研究に向けられたものであった。

ドレフュスのアイデアが1960年代半ばに初めて発表されたとき、それは嘲笑とあからさまな敵意に遭遇した。^{[2] [3]}しかし、1980年代までに、彼の視点の多くは、ロボット工学やコネクショニズムという新しい分野の研究者によって再発見された。コネクショニズムは、初期のAI研究で重視されていた高レベルのシンボルを避けるため、現在では「サブシンボリック」と呼ばれている。21世紀には、統計に基づく機械学習のアプローチが、脳が無意識のプロセスを使用して認識し、異常に気づき、迅速な判断を下す方法をシミュレートしている。これらの技術は非常に成功しており、現在では産業界と学術界の両方で広く使用されている。歴史家でAI研究者のダニエル・クレヴィエは、「ドレフュスのコメントの一部が正確で洞察力に富んでいることは、時が経てば証明される」と書いている。^[4]ドレフュスは2007年に、「私は勝ったと思うし、もう終わりだ。彼らは諦めた」と述べた。^[5]

ドレイファスは『錬金術と人工知能』（1965年）と『コンピュータにできないこと』（1972年）で人工知能の歴史を要約し、この分野に浸透している抑えきれない楽観主義を嘲笑した。例えば、ハーバート・A・サイモンは、彼のプログラム『一般問題解決者』 （1957年）の成功を受けて、1967年までに次のように予測した。^[6]

1. コンピュータはチェスの世界チャンピオンになるだろう。
2. コンピューターは重要な新しい数学の定理を発見し、証明するでしょう。
3. 心理学の理論のほとんどはコンピュータ プログラムの形をとります。

マスコミは、機械知能の到来が間近に迫っていると熱烈に宣伝し、これらの予測を伝えた。

ドレフュスは、この楽観主義は根拠がなく、人間の知能の本質についての誤った仮定に基づいていると感じました。パメラ・マコーダックはドレフュスの立場を次のように説明しています。

思考する機械に関する一般の人々の混乱の原因は大きな誤解であり、AI研究者が行っている非現実的な主張、つまり思考する機械はすでに存在している、あるいはいずれにせよすぐそこにあるという主張によって引き起こされた誤解である。^[7]

これらの予測は、ニューウェルとサイモンが物理的記号システム仮説で明確にした心の「情報処理」モデルの成功に基づいており、後にジェリー・フォーダーやヒラリー・パトナムなどの哲学者によって計算主義として知られる哲学的立場にまで拡大された。^[8]人間の思考の本質的なプロセスを単純なプログラムでうまくシミュレートしたと信じていたため、完全に知的な機械を生み出すのは簡単なことのように思われた。しかし、ドレイファスは、哲学、特に20世紀の哲学は、この情報処理の観点に深刻な問題を発見したと主張した。現代哲学によれば、心はデジタルコンピュータとはまったく異なるものである。^[7]

ドレイファスは『錬金術とAI、そしてコンピュータにできないこと』の中で、人間の知能は記号の操作に依存しているという初期のAI研究者の信念を支える4つの哲学的仮定を特定した。^[9]「いずれの場合も、その仮定は[AI]の研究者によって公理として受け止められ、結果を保証するが、実際には、そのような研究の成功によってテストされるべき、他の仮説の中の1つである」とドレイファスは書いている。^[10]

生物学的仮定

脳は、オン/オフスイッチに相当する生物学的手段を介して、個別の操作で情報を処理します。

神経学の研究が始まった当初、科学者たちはニューロンが全か無かのパルスで発火することを認識していた。ウォルター・ピッツやウォーレン・マカロックなどの研究者は、ニューロンはブール論理ゲートの動作に似た働きをするため、ニューロンレベルで電子回路で模倣できると主張した。^[11] 50年代初頭にデジタルコンピュータが広く使用されるようになると、この議論は拡張され、脳は0と1の2進数記号を操作する巨大な物理的記号システムであるという説が提唱された。ドレイファスは、ニューロン発火の作用とタイミングにはアナログ要素があることを示唆する神経学の研究を引用して、この生物学的仮説を反駁することができた。 ^[12]しかしダニエル・クレヴィエは、「1970年代初頭にはまだその考えを持つ人はほとんどおらず、生物学的仮説についてドレイファスに反論する人は誰もいなかった」と指摘している。^[13]

心理的仮定

心は、正式な規則に従って情報ビットを操作する装置として考えることができます。

彼は、私たちが世界について「知っている」ことの多くは、ある解釈を他の解釈より優先させる複雑な態度や傾向で構成されていると示して、この仮定に反論しました。彼は、私たちが明示的な記号を使用する場合でも、無意識の常識的知識の背景に対してそれらを使用しており、この背景がなければ、私たちの記号は何の意味も持たなくなると主張しました。ドレフュスの見解では、この背景は、明示的な個別の意味を持つ明示的な個別の記号として個々の脳に実装されていませんでした。

認識論的仮定

すべての知識は形式化できます。

これは、認識論、つまり知識の研究という哲学的な問題に関係しています。心理学的な仮定が間違っていることに同意したとしても、AI 研究者は (AI の創始者ジョン・マッカーシーが主張したように)、人間が知識を同じように表現するかどうかに関係なく、記号処理マシンがすべての知識を表現することが可能であると主張することができます。ドレイファスは、人間の知識の多くは記号的ではないため、この仮定には正当性がないと主張しました。

存在論的仮定

世界は独立した記号で表現できる独立した事実から成り立っている

ドレイファス氏は、世界についてのより微妙な仮定も特定した。AI研究者（および未来学者やSF作家）は、宇宙のあらゆる現象は記号や科学理論で説明できると想定しているため、形式的な科学的知識には限界がないと想定することが多い。これは、存在するすべてのものがオブジェクト、オブジェクトのプロパティ、オブジェクトのクラス、オブジェクトの関係などとして理解できると想定している。つまり、論理、言語、数学で説明できるものとまったく同じである。存在の研究はオントロジーと呼ばれ、ドレイファス氏はこれをオントロジー仮定と呼んでいる。これが誤りであれば、私たちが最終的に知ることができることや、インテリジェントマシンが最終的に私たちの役に立つことができることについて疑問が生じる。

エキスパート システムの全盛期に執筆されたMind Over Machine (1986)で、ドレイファスは人間の専門知識とそれを捉えると主張するプログラムの違いを分析しました。これはWhat Computer's Can't Doの考えを拡張したもので、そこでは1960 年代に アレン ニューウェルとハーバート A. サイモンが実践した AI 研究の「認知シミュレーション」派を批判する同様の議論を展開していました。

ドレフュスは、人間の問題解決と専門知識は、必要なものを見つけるために可能性の組み合わせを探索するプロセスではなく、状況を考慮して何が重要で興味深いかという文脈の背景感覚に依存すると主張した。ドレフュスは1986年に、ハイデガーの「手元にあるもの」と「すぐに使えるもの」の区別に基づいて、これを「知っていること」と「どのように知っているか」の違いとして説明した。^[14]

認識とは、意識的に段階的に問題を解決する能力です。難しい問題に直面し、立ち止まって一歩下がって、アイデアを一つずつ探さなければならないときに、このスキルを使います。このような瞬間、アイデアは非常に正確でシンプルになります。つまり、コンテキストフリーのシンボルとなり、論理と言語を使って操作するのです。ニューウェルとサイモンは、心理学実験とコンピュータ プログラムの両方で、このスキルを実証しました。ドレイファスも、彼らのプログラムが、彼が「認識」と呼ぶスキルを適切に模倣していることに同意しました。

一方、ノウハウとは、私たちが物事を普通に扱う方法です。私たちは、人の顔を認識するとき、車で職場に向かうとき、適切な言葉を探すときなど、意識的な象徴的推論をまったく使用せずに行動します。私たちは、他の選択肢を考慮せずに、単に適切な反応に飛びついてしまうようです。これが専門知識の本質であるとドレイファスは主張しました。つまり、私たちの直感が訓練され、ルールを忘れて単に「状況を判断し」て反応するようになったときです。

ドレフュスによれば、人間の状況感覚は、私たちの目標、身体、文化、つまり世界についての無意識の直観、態度、知識のすべてに基づいています。この「文脈」または「背景」（ハイデガーの現存在に関連）は、象徴的にではなく、何らかの形で直観的に脳に保存される知識の一形態です。それは、私たちが気づくことと気づかないこと、私たちが期待すること、私たちが考慮しない可能性に影響を与えます。つまり、私たちは本質的なものと本質的でないものを区別します。本質的でないものは、私たちの「周縁意識」（ウィリアム・ジェームズの言葉を借りて）に追いやられます。つまり、私たちが気づいているが、今は実際には考えていない何百万ものことです。

ドレイファスは、 70年代や80年代に実装されたAIプログラムでは、この「背景」を捉えたり、AIプログラムが許すような迅速な問題解決をしたりできるとは考えていない。彼は、人間の無意識の知識を象徴的に捉えることは決してできないと主張した。AIがこれらの問題に対処する方法を見つけられなければ、それは失敗する運命にあり、「月を見ながら木登りをする」ようなものだ。^[15]

ドレフュスは、1960年代初頭、当時人工知能研究の中心地であったMITの教授時代に、批判を練り始めました。このテーマに関する彼の最初の出版物は、 1961年春にハーバート・A・サイモンが行った講演に対する半ページの反論でした。 ^[16]哲学者としてドレフュスは、AI研究者がコンピューターを使用して数年以内に多くの長年の哲学的問題を解決できると信じているように見えることに特に悩まされていました。

1965年、ドレフュスは（兄のスチュアート・ドレフュスの助けを借りて）ポール・アーマーに雇われ、ランド研究所のサンタモニカ施設で夏を過ごし、そこで最初の攻撃となる「錬金術とAI」を執筆した。アーマーは公平な批評家を雇っていると思っていたので、ドレフュスが分野の基礎を破壊しようとする痛烈な論文を発表したことに驚いた。（アーマーはドレフュスの以前の論文については知らなかったと述べた。）アーマーは論文の出版を遅らせたが、最終的には「気に入らない結論に達したからといって、出版しない理由にはならない」と悟った。^[17]最終的にそれはランドメモとして出版され、すぐにベストセラーとなった。^[18]

この論文はAI研究を錬金術に例え、神話と希望的観測に過ぎない理論的根拠に基づいて金属を金に変えようとする誤った試みとして完全に嘲笑した。^[19]また、AIがそれ以上進歩しない限界があると予測し、その限界にすぐに到達することを示唆し、主要なAI研究者の壮大な予測を嘲笑した。^[20]

パメラ・マコーダックによると、この論文は「大騒動を引き起こした」という。^[21] AIコミュニティの反応は嘲笑的で個人的なものだった。シーモア・パパートは論文の3分の1を「ゴシップ」として却下し、すべての引用は意図的に文脈から外されていると主張した。^[22] ハーバート・A・サイモンは、ドレフュスが自分のアイデアに名高いRANDの名前を付ける目的で「政治」を弄んだと非難した。サイモンは「私がこれに憤慨しているのは、このゴミにRANDの名前が付けられたことだ」と述べた。^[23]

MITで教鞭をとっていたドレフュスは、AI分野で働く同僚たちが「私と一緒に昼食を取っているところを見られることを恐れた」と回想している。 ^[24] ELIZAの著者ジョセフ・ワイゼンバウムは、同僚たちのドレフュスに対する扱いは非専門的で子供じみていると感じていた。ワイゼンバウムはドレフュスの立場を公然と批判していたが、「私はAIコミュニティでドレフュスと一緒に昼食を取っているところを見られる唯一のメンバーになった。そして、彼らのやり方は人間を扱う方法ではないことをわざと明らかにした」と回想している。^[25]

この論文は、1966年6月11日付けのニューヨーカー誌の短い記事の題材となった。記事では、コンピューターはチェッカーはできるかもしれないが、まともなチェスゲームをプレイできるコンピューターはまだ存在しないというドレフュスの主張に触れている。記事では、10歳の子供がトップのチェスプログラムに勝利したことを（ドレフュスらしく）皮肉なユーモアを交えて、「いつも以上のうぬぼれ」で報じている。^[20]

AIの評判を回復しようと、シーモア・パパートはドレフュスとリチャード・グリーンブラットのMac Hackプログラムとのチェスの試合を企画した。ドレフュスは負けたが、パパートは大満足だった。^[26]計算機協会の会報^[27]では次のような見出しが使われた。

「10歳の子供でも機械に勝てる—ドレフュス：しかし機械はドレフュスに勝てる」^[28]

ドレフュスは、コンピューターがチェスをプレイすることは決してないとは言っていないと印刷物で不満を述べたが、ハーバート・A・サイモンはこう返した。「あなたの鋭い文章に噛まれた人の中には、人間としての弱さから、噛み返そうとする人もいることを認識すべきだ。あえて言わせていただくと、冷静になるのがよいだろう。ユーモアのセンスを取り戻すことが、よい第一歩だ」^[29]

1990年代初頭までに、ドレフュスの過激な意見のいくつかが主流となった。

失敗した予測。ドレフュスが予見したように、初期の AI 研究者の壮大な予測は実現しませんでした。完全に知能化​​されたマシン (現在「強い AI」として知られています) は、予測されたように 1970 年代半ばには登場しませんでした。HAL 9000 (自然言語、知覚、問題解決の能力は、マービン・ミンスキーのアドバイスと意見に基づいていました) は、2001 年には登場しませんでした。ニコラス・ファーンは、「AI 研究者は明らかに説明する必要がある」と書いています。 ^{[30]今日、研究者は初期になされたような予測をすることにはるかに消極的です。 (}レイ・カーツワイルなどの一部の未来学者は、依然として同じ種類の楽観主義をとっていますが)。

生物学的仮定は、1940年代から1950年代初頭には一般的でしたが、ドレイファスが『コンピュータにできないこと』を出版した頃には、ほとんどのAI研究者によってもはや想定されていませんでした。^[13]レイ・カーツワイル^[31]やジェフ・ホーキンス^[32]など、ニューロンの活動をシミュレートすることで脳をリバースエンジニアリングすることが不可欠であると主張する人は今でも多くいますが、彼らはニューロンが本質的にデジタルであるとは仮定しておらず、アナログニューロンの活動はデジタルマシンによって妥当なレベルの精度でシミュレートできると仮定しています。^[31]（アラン・チューリングは1950年に早くもこれと同じ観察をしていました。）^[33]

心理学的仮定と無意識のスキル。多くのAI研究者は、人間の推論は主に高レベルの記号操作から成り立っているわけではないことに同意するようになりました。実際、ドレイファスが60年代に初めて批判を発表して以来、AI研究は一般的に高レベルの記号操作から離れ、私たちの無意識の推論をより多く捉えることを目的とした新しいモデルへと移行しました。ダニエル・クレヴィエは、1965年とは異なり、1993年までにAI研究者は「もはや心理学的仮定を立てず」^[13]、それなしで前進し続けたと書いています。

1980 年代には、次のような新しい「サブシンボリック」アプローチが登場しました。

• ニューラルネットや進化的アルゴリズムなどの計算知能パラダイムは、主に無意識の推論をシミュレートすることを目的としている。ドレイファス自身も、これらのサブシンボリックな方法が、知能と専門知識に不可欠であると考える「傾向」や「態度」を捉えることができることに同意している。^[34]
• 常識的知識に関する研究は、知識の「背景」または文脈を再現することに重点が置かれてきました。
• ハンス・モラベックやロドニー・ブルックスのようなロボット研究者は、無意識のスキルがリバースエンジニアリングするのが最も難しいことに最初に気づいた人々の一人です。（モラベックのパラドックスを参照）。ブルックスは、80年代後半にヌーベルAIと呼ばれる高レベルシンボルの使用を直接狙った運動の先頭に立っていました。ロボット研究における状況依存の運動は、知覚と注意における無意識のスキルを捉えようとしています。^[35]

1990 年代から 21 世紀初頭にかけて、統計に基づく機械学習のアプローチでは、経済学や統計学に関連する技術を使用して、機械が「推測」できるようにしました。つまり、経験と学習に基づいて不正確で確率的な決定や予測を行うようにしたのです。これらのプログラムは、人間の無意識の本能が異常を感知し、気付き、迅速な判断を下す方法をシミュレートします。これは、ドレイファスが「状況の把握と反応」と呼んだものに似ていますが、ここでの「状況」は膨大な量の数値データで構成されています。これらの技術は非常に成功しており、現在、産業界と学術界の両方で広く使用されています。

この研究はドレフュスの研究と直接関係なく進められた。^[36]

心理学と経済学の研究により、ドレフス（およびハイデガー）の人間の問題解決の本質に関する推測は基本的に正しいことが示されました。ダニエル・カーネマンとエイモス・トベルスキーは、人間が問題を解決するために2つの非常に異なる方法を使用するという膨大な量の確固たる証拠を集め、それを「システム1」と「システム2」と名付けました。システム1は 適応的無意識としても知られ、高速で直感的で無意識です。システム2は低速で論理的で慎重です。彼らの研究は、Thinking, Fast and Slow ^[37]という本にまとめられ、マルコム・グラッドウェルの人気書籍Blink ^[38]に影響を与えました。AIと同様に、この研究はドレフスとハイデガーの両方とはまったく独立していました。^[36]

AI研究が明らかにドレフュスの考えに同意するようになったにもかかわらず、マコーダックは「私の印象では、この進歩は断片的で、与えられた困難な問題への対応として起こったものであり、ドレフュスには何の恩恵も与えていない」と主張した。^[36]

AIコミュニティは、いくつかの例外を除いて、ドレフスに直接反応しないことを選択した。「彼は真剣に受け止めるにはあまりにも愚かだ」とある研究者はパメラ・マコーダックに語った。^[29] マービン・ミンスキーはドレフス（および哲学からのその他の批判）について「彼らは誤解しており、無視されるべきだ」と述べた。 ^[39]ドレフスが『錬金術とAI』を書籍の長さにまで拡張し、1972年に『コンピュータにできないこと』として出版したとき、AIコミュニティからは誰も反応しなかった（いくつかの批判的なレビューを除く）。マコーダックは「ドレフスがそんなに間違っているのなら、人工知能の人々はなぜ彼に反論する努力をもっとしないのか？」と疑問を投げかけている。^[29]

問題の一部は、ドレフュスが批判に用いた哲学の種類にあった。ドレフュスは、ハイデッガーやメルロ＝ポンティのような近代ヨーロッパ哲学者の専門家だった。^{[40]対照的に、1960年代のAI研究者は、}経営科学に関連した工学原理と効率的な問題解決手法に基づいて人間の心を理解していた。根本的なレベルで、彼らは異なる言語を話していた。エドワード・ファイゲンバウムは、「彼が我々に何を提供してくれるのか？現象学だ！ あの綿毛の玉だ。あの綿菓子だ！」と不満を述べた。 ^{[41] 1965年には、ヨーロッパ哲学と}人工知能の間にはあまりにも大きな隔たりがあり、その後、認知科学、コネクショニズム、ロボット工学の研究によってその隔たりは埋められてきた。人工知能の研究者が、状況性、身体性、知覚、ゲシュタルトなど、大陸哲学にとって重要な問題に取り組めるようになるまでには、何年もかかった。

もう 1 つの問題は、彼が AI がルールの形で文脈、状況、目的を理解する人間の能力を決して獲得できないと主張した (または主張しているように見えた) ことです。しかし (ピーター・ノーヴィグとスチュアート・ラッセルが後に説明したように)、この形式の議論に勝つことはできません。人間の知性と専門知識を支配する正式なルールを想像できないからといって、そのようなルールが存在しないということではありません。彼らは、ドレフュスの議論に似たすべての議論に対するアラン・チューリングの回答を引用しています。

「我々は行動の完全な法則が存在しないと簡単に納得することはできない...そのような法則を見つける唯一の方法は科学的観察であり、我々は『十分に調べた。そのような法則はない』と言えるような状況は確かに知らない。」^[42]

ドレフュスは、AI 研究者が自分たちの間違いに気づき、ドレフュスが批判した記号的手法から離れて、新しい解決策に向けて取り組み始めるとは予想していませんでした。1965 年当時、彼はそのようなプログラムがいつか作られるとは想像していなかったため、AI は不可能だと主張しました。1965 年当時、AI 研究者はそのようなプログラムが必要であるとは想像していなかったため、AI はほぼ完成していると主張しました。どちらも間違っていました。

さらに深刻な問題は、ドレフュスの批判がどうしようもなく敵対的であるという印象だった。マコーダックは「彼の嘲笑は非常に挑発的で、彼が啓蒙したかもしれない人々を疎外してしまった。それは残念なことだ」と書いた。 ^[36]ダニエル・クレヴィエは「ドレフュスのコメントの正確さと洞察力は時が経てば証明される。彼がもっと攻撃的に表現していなければ、彼らが示唆した建設的な行動はもっと早く取られていたかもしれない」と述べた。^[4]

• 適応的無意識
• チャーチ＝チューリングのテーゼ
• コンピューターチェス
• ヒューバート・ドレフュス
• 人工知能の哲学

• ブルックス、ロドニー(1990)、「象はチェスをしない」(PDF)、ロボティクスと自律システム、6 (1–2): 3–15、CiteSeerX  10.1.1.588.7539、doi :10.1016/S0921-8890(05)80025-9 、2007年8月30日取得
• クレヴィエ、ダニエル(1993) 。AI: 人工知能への激動の探求。ニューヨーク、NY: BasicBooks。ISBN 0-465-02997-3。
• ドレイファス、ヒューバート（1965）、錬金術とAI、ランド研究所
• ドレイファス、ヒューバート（1972）、「コンピュータにできないこと」、ニューヨーク：MITプレス、ISBN 978-0-06-090613-9
• ドレイファス、ヒューバート（1979年）「コンピュータにできないこと」ニューヨーク：MITプレス、ISBN 978-0-06-090624-5。
• ドレイファス、ヒューバート、ドレイファス、スチュアート（1986）、マインド・オーバー・マシン：コンピュータ時代における人間の直感と専門知識の力、オックスフォード、英国：ブラックウェル。
• ドレイファス、ヒューバート（1992）、コンピュータはまだできないこと、ニューヨーク：MITプレス、ISBN 978-0-262-54067-4
• ニコラス・ファーン（2007年）『最古の疑問に対する最新の答え：世界の偉大な思想家たちとの哲学的冒険』ニューヨーク：グローブ・プレス、ISBN 9780802143471。
• グラッドウェル、マルコム（2005年）、Blink：考えずに考える力、ボストン：リトル、ブラウン、ISBN 978-0-316-17232-5。
• ホーキンス、ジェフ、ブレイクスリー、サンドラ（2005）、On Intelligence、ニューヨーク、NY：Owl Books、ISBN 978-0-8050-7853-4。
• Hearst, Marti A.; Hirsh, Haym; Bundy, A.; Berliner, H.; Feigenbaum, EA; Buchanan, BG; Selfridge, O.; Michie, D.; Nilsson, N. (2000 年 1 月 - 2 月)「AI の最大のトレンドと論争」、IEEE Intelligent Systems、15 (1): 8 - 17、doi :10.1109/5254.820322。
• ホルスト、スティーブン（2005 年秋）、「心の計算理論」、ザルタ、エドワード N.（編）『スタンフォード哲学百科事典』。
• カーネマン、ダニエル（2011）、ファスト＆スロー、ファラー・ストラウス・アンド・ジルー、ISBN 978-0374275631、OCLC  706020998
• カーツワイル、レイ（2005年）『シンギュラリティは近い』ニューヨーク：ヴァイキング・プレス、ISBN 978-0-670-03384-3。
• マコーダック、パメラ（2004）、考える機械（第2版）、マサチューセッツ州ネイティック：AKピーターズ、ISBN 1-5688-1205-1
• モラベック、ハンス（1988）、マインド・チルドレン、ハーバード大学出版局、ISBN 978-0-674-57616-2。
• ニューウェル、アレン、サイモン、HA（1963）、「GPS：人間の思考をシミュレートするプログラム」、ファイゲンバウム、EA、フェルドマン、J（編）、コンピュータと思考、ニューヨーク：マグロウヒル
• ラッセル、スチュアート J. ;ノーヴィグ、ピーター。 (2021)。人工知能：現代的アプローチ（第 4 版）。ホーボーケン：ピアソン。ISBN 9780134610993. LCCN  20190474.
• チューリング、アラン(1950 年 10月)。「計算機械と知能」。マインド59 (236 ) : 433–460。doi : 10.1093  / mind/LIX.236.433。ISSN 1460-2113。JSTOR  2251299。S2CID 14636783  。

。