シンボリック人工知能

人工知能において、シンボリック人工知能（古典的人工知能またはロジックベース人工知能とも呼ばれる）^{[1] [2]は、問題、}ロジック、検索の高レベルのシンボリック（人間が読める）表現 に基づく人工知能研究のすべての方法の集合を表す用語です。^[3]シンボリックAIは、論理プログラミング、プロダクションルール、セマンティックネット、フレームなどのツールを使用し、知識ベースシステム（特に、エキスパートシステム）、 シンボリック数学、自動定理証明器、オントロジー、セマンティックウェブ、自動計画およびスケジューリングシステムなどのアプリケーションを開発しました。 シンボリックAIパラダイムは、検索、シンボリックプログラミング言語、エージェント、マルチエージェントシステム、セマンティックウェブ、および形式知識と推論システムの長所と限界における革新的なアイデアにつながりました。

シンボリックAIは、1950年代半ばから1990年代半ばまでAI研究の支配的なパラダイムでした。 ^{[4] 1960年代と1970年代の研究者は、シンボリックアプローチが最終的には}人工汎用知能を備えたマシンの作成に成功すると確信しており、これを彼らの分野の究極の目標と考えていました。^[要出典] Logic TheoristやSamuelのCheckers Playing Programなどの初期の成功を伴う初期のブームは、非現実的な期待と約束につながり、資金が枯渇する最初のAIの冬が続きました。 ^{[5] [6]} 2回目のブーム（1969〜1986年）は、エキスパートシステムの台頭、企業の専門知識を獲得できるという期待、そして企業の熱狂的な支持によって起こりました。^{[7] [8]そのブームと、} DECのXCONなどの初期の成功の後には、後に再び失望が続きました。^[8]知識獲得の難しさ、大規模な知識ベースの維持、領域外の問題の処理の脆弱性などの問題が発生しました。また、第2のAI Winter（1988–2011）が続きました。^[9]その後、AI研究者は、不確実性の取り扱いと知識獲得における根本的な問題に対処することに焦点を当てました。^{[10]不確実性は、}隠れマルコフモデル、ベイズ推論、統計的関係学習などの形式手法で対処されました。^{[11] [12]シンボリック機械学習は、}バージョン空間、ValiantのPAC学習、QuinlanのID3決定木学習、事例ベース学習、関係を学習するための帰納的論理プログラミングなどの貢献により、知識獲得問題に対処しました。^[13]

ニューラルネットワーク、つまりサブシンボリックアプローチは初期から研究され、2012年に力強く再浮上しました。初期の例としては、ローゼンブラットのパーセプトロン学習、ルメルハート、ヒントン、ウィリアムズのバックプロパゲーションの研究、 ^[14] 、そして1989年のルカンらによる畳み込みニューラルネットワークの研究があります。 ^[15]しかし、ニューラルネットワークは2012年頃まで成功とはみなされていませんでした。「ビッグデータが一般的になるまで、AIコミュニティでは、いわゆるニューラルネットワークアプローチは絶望的だという意見が一般的でした。システムは、他の方法と比較して、それほどうまく機能しませんでした。... 2012年に革命が起こり、ヒントンと協力する研究者チームを含む多くの人々が、GPUのパワーを使用してニューラルネットワークのパワーを大幅に向上させる方法を考え出しました。」^[16]その後数年間、ディープラーニングは視覚、音声認識、音声合成、画像生成、機械翻訳の処理において目覚ましい成功を収めました。しかし、2020年以降、ディープラーニングのアプローチにはバイアス、説明、理解可能性、堅牢性に関する固有の困難さがより明らかになったため、シンボリックアプローチとニューラルネットワークアプローチの両方の長所を組み合わせ、常識的推論など両方のアプローチが困難な領域に対処することを求めるAI研究者が増えています。 [ ^{17] [18 ]}

以下に、シンボリックAIの今日までの短い歴史を示します。期間とタイトルは、ヘンリー・カウツの2020年AAAIロバート・S・エンゲルモア記念講演^[19]と、より長いWikipediaの記事「AIの歴史」から引用しており、わかりやすくするために日付とタイトルが若干異なっています。

AI の初期の試みは、人工ニューラル ネットワーク、知識表現、ヒューリスティック検索という 3 つの主要分野で成功し、高い期待につながりました。このセクションでは、Kautz による初期の AI の歴史の振り返りを要約します。

サイバネティックスによるアプローチは、動物とその環境の間のフィードバックループを再現しようと試みた。1948年には、センサー、運転と操縦用のモーター、制御用の7本の真空管を備え、プログラム済みのニューラルネットに基づいたロボットカメが作られた。この研究は、ニューラルネットワーク、強化学習、状況依存型ロボット工学における後の研究の先駆けと見ることができる。^[20]

初期の重要な記号AIプログラムは、1955年から1956年にかけてアレン・ニューウェル、ハーバート・サイモン、クリフ・ショーによって書かれたLogic theoristであり、ホワイトヘッドとラッセルのプリンキピア・マセマティカの38の基本定理を証明することができた。ニューウェル、サイモン、ショ​​ーは後にこの研究を一般化し、ドメインに依存しない問題解決ツールであるGPS （General Problem Solver）を作成した。GPSは、手段目的分析を用いた状態空間探索によって形式演算子で表現された問題を解決した。^[21]

1960 年代、記号的アプローチは、ゲームプレイ、記号数学、定理証明などの構造化された環境での知的行動のシミュレーションで大きな成功を収めました。1960 年代の AI 研究は、カーネギーメロン大学、スタンフォード大学、MIT、(後の)エディンバラ大学の4 つの機関に集中していました。各機関は独自の研究スタイルを開発しました。サイバネティクスや人工ニューラルネットワークに基づく初期のアプローチは放棄されるか、背景に追いやられました。

ハーバート・サイモンとアレン・ニューウェルは人間の問題解決能力を研究し、それを形式化しようと試み、彼らの研究は人工知能、認知科学、オペレーションズ・リサーチ、経営科学の分野の基礎を築きました。彼らの研究チームは心理学実験の結果を利用して、人々が問題解決に使う技術をシミュレートするプログラムを開発した。^{[22] [23]}カーネギーメロン大学を中心とするこの伝統は、最終的に1980年代半ばのSoarアーキテクチャの開発に結実しました。 ^{[24] [25]}

後にエキスパート システムで使用されることになる、高度に専門化されたドメイン固有の種類の知識に加えて、初期のシンボリック AI 研究者は、知識のより一般的な応用を発見しました。これらはヒューリスティックと呼ばれ、有望な方向に検索を導く経験則です。「根本的な問題が指数関数的に困難な場合、非列挙検索はどのようにして実用的になるのでしょうか。サイモンとニューウェルが提唱したアプローチは、ヒューリスティック、つまり一部の入力で失敗したり、最適ではないソリューションを出力したりする可能性のある高速アルゴリズムを使用することです。」^[26]もう 1 つの重要な進歩は、ヒューリスティックの時折の誤りにもかかわらず、解決策が存在する場合は必ず見つかるようにこれらのヒューリスティックを適用する方法を見つけたことです。「A* アルゴリズムは、完全で最適なヒューリスティック ガイド検索の一般的な枠組みを提供しました。A* は、今日ほぼすべての AI アルゴリズム内でサブルーチンとして使用されていますが、それでも魔法の弾丸ではありません。その完全性の保証は、最悪の場合の指数関数的時間を犠牲にして得られます。」^[26]

初期の研究では、第一階述語論理を重視した形式的推論の応用と、常識的推論をあまり形式的ではない方法で扱う試みの両方がカバーされていました。

サイモンやニューウェルとは異なり、ジョン・マッカーシーは、機械が人間の思考の正確なメカニズムをシミュレートする必要はなく、代わりに人間が同じアルゴリズムを使用するかどうかに関係なく、論理による抽象的推論と問題解決の本質を見つけようとすることができると感じていました。 [ ^{27]スタンフォード}大学 の彼の研究室( SAIL ) は、知識表現、計画、学習など、さまざまな問題を形式論理を使用して解決することに焦点を当てていました。^{[31]論理は、}エディンバラ大学やヨーロッパの他の場所 でも研究の焦点であり、プログラミング言語Prologと論理プログラミングの科学の開発につながりました。 ^{[32] [33]}

MITの研究者（マービン・ミンスキーやシーモア・パパートなど）^{[34] [35] [6]は、}視覚や自然言語処理における難しい問題を解決するにはアドホックな解決策が必要であることを発見した。彼らは、単純で一般的な原理（論理など）では、知的行動のすべての側面を捉えることはできないと主張した。ロジャー・シャンクは、彼らの「反論理」アプローチを「みすぼらしい」と表現した（CMUやスタンフォードの「きちんとした」パラダイムとは対照的である）。 ^{[36] [37]}常識知識ベース（ダグ・レナットのCycなど）は、複雑な概念を1つずつ手作業で構築する必要があるため、「みすぼらしい」AIの例である。^{[38] [39] [40]}

最初の AI の冬は衝撃的でした。

最初の AI サマーの間、多くの人は、機械知能はわずか数年で実現できると考えていました。国防高等研究計画局 (DARPA) は、国家安全保障上の問題を解決するために AI を使用するための AI 研究を支援するプログラムを立ち上げました。具体的には、諜報活動のためのロシア語から英語への翻訳の自動化と、戦場用の自律型戦車の作成です。研究者は、AI の実現が 10 年前に考えられていたよりもはるかに困難になることに気づき始めていましたが、傲慢さと不誠実さの組み合わせにより、多くの大学やシンクタンクの研究者が、達成できないとわかっているはずの成果を約束された資金提供を受け入れてしまいました。1960 年代半ばまでに、有用な自然言語翻訳システムも自律型戦車も作成されていなかったため、劇的な反発が起こりました。新しい DARPA のリーダーシップは、既存の AI 資金提供プログラムをキャンセルしました。

...

アメリカ以外では、AI研究の最も肥沃な土壌はイギリスだった。イギリスにおけるAIの冬は、失望した軍指導者たちよりも、AI研究者をペテン師であり研究資金の無駄遣いだとみなしていたライバルの学者たちによって促進された。応用数学の教授であるジェームズ・ライトヒル卿は、国会から国のAI研究の状況を評価するよう委託された。その報告書では、AIで取り組んでいる問題はすべて、応用数学など他の分野の研究者によってより適切に処理されるだろうと述べられていた。また、組み合わせ爆発のため、おもちゃの問題に対するAIの成功は現実世界のアプリケーションにスケールアップすることは決してできないと主張した。^[41]

弱いドメインに依存しない方法の限界がますます明らかになるにつれて、^[42] 3つの伝統すべての研究者がAIアプリケーションに知識を組み込み始めました。 ^{[43] [7]}知識革命は、知識が高性能でドメイン固有のAIアプリケーションの基盤となるという認識によって推進されました。

エドワード・ファイゲンバウムはこう言った。

• 「知識の中に力がある。」^[44]

特定の分野で高いパフォーマンスを発揮するには、一般的な知識と非常に専門性の高い知識の両方が必要であることを説明する。エド・ファイゲンバウムとダグ・レナットはこれを「知識の原則」と呼んだ。

(1) 知識原理: プログラムが複雑なタスクをうまく実行するには、プログラムが動作する世界について多くのことを知っていなければならない。
(2) この原理のもっともらしい拡張は、幅の仮説と呼ばれている。予期しない状況で知的な行動をとるには、さらに2つの能力が必要である。それは、より一般的な知識に頼ることと、特定の広範囲にわたる知識に類推することである。^[45]

この「知識革命」は、エドワード・ファイゲンバウムによって導入されたエキスパートシステムの開発と導入につながり、これはAIソフトウェアの最初の商業的に成功した形態となった。^{[46] [47] [48]}

主要なエキスパート システムは次のとおりです。

• DENDRALは、化学式と質量分析計の測定値から有機分子の構造を発見しました。
• MYCINは、検査結果、患者の病歴、医師の観察を解釈して、菌血症を診断し、必要に応じてさらなる検査を提案しました。「約450のルールで、MYCINは一部の専門家と同等の性能を発揮し、若い医師よりもかなり優れた結果を出すことができました。」^[49]
• 内科診断に取り組んだINTERNISTとCADUCEUS。Internistはピッツバーグ大学医学部の内科部長の専門知識を取り入れようとし、CADUCEUS は最終的に最大 1000 種類の病気を診断できるようになりました。
• GUIDONは、専門家の問題解決のために構築された知識ベースを教育に再利用できることを示しました。^[50]
• XCONはVAXコンピュータを構成するために開発されましたが、これは当時は90日もかかる面倒な作業でした。XCONは時間を約90分に短縮しました。^[9]

DENDRAL は、知識集約型問題解決を採用した最初のエキスパート システムと考えられています。Ed Feigenbaum によるCommunications of the ACM のインタビュー「 Ed Feigenbaumへのインタビュー」で、DENDRAL について以下のように説明しています。

スタンフォードでコンピューターベースの心のモデルに興味を持っていた人の一人に、1958年に遺伝学のノーベル賞を受賞したジョシュア・レーダーバーグがいました。私が誘導「サンドボックス」が欲しいと言ったとき、彼は「あなたにぴったりのものがあります」と言いました。彼の研究室はアミノ酸の質量分析を行っていました。問題は、アミノ酸のスペクトルを見てからアミノ酸の化学構造にたどり着くにはどうすればよいかということでした。これが、私たちがDENDRALプロジェクトを始めたきっかけです。私はヒューリスティック検索法が得意で、彼は化学の問題空間を生成するのに優れたアルゴリズムを持っていました。

私たちには壮大なビジョンはありませんでした。ボトムアップで作業を進めました。私たちの化学者はカール・ジェラッシ氏で、彼は避妊薬の原料となる化学物質の発明者であり、世界で最も尊敬されている質量分析学者の一人でもあります。カール氏と彼のポスドクたちは質量分析の世界的専門家でした。私たちは彼らの知識に付け加え、作業を進めるにつれて工学の知識を発明していきました。これらの実験は、DENDRAL にさらに多くの知識を滴定することに相当しました。それを繰り返すほど、プログラムはよりスマートになりました。私たちは非常に良い結果を得ました。

一般化とは、知識の中に力があるというものでした。これが大きなアイデアでした。私のキャリアにおいて、これは大きな「なるほど！」というものでした。そして、それは以前の AI のやり方ではありませんでした。単純に聞こえますが、おそらく AI の最も強力な一般化です。^[51]

上で述べた他のエキスパート システムは、DENDRAL の後に登場しました。MYCIN は、不確実性を処理するための確実性要因の使用を含む、記号推論メカニズムと結合されたルールの知識ベースの古典的なエキスパート システム アーキテクチャの例です。GUIDON は、明示的な知識ベースを 2 番目のアプリケーションである個別指導に再利用する方法を示しており、特定の種類の知識ベース アプリケーションであるインテリジェント個別指導システムの例です。Clancey は、指導にMYCINのルールを使用するだけでは不十分であり、対話管理と学生モデリングのルールも追加する必要があることを示しまし^{[50] 。XCON は、} DEC に数百万ドルの節約をもたらした点で重要です。DECは、エキスパート システム ブームを引き起こし、米国のほぼすべての主要企業がエキスパート システム グループを持ち、企業の専門知識を収集、保存、自動化しました。

1988年までに、DECのAIグループは40のエキスパートシステムを導入し、さらに導入が進められていた。デュポンは100のエキスパートシステムを導入し、500のエキスパートシステムを開発中だった。米国の大手企業のほぼすべてが独自のAIグループを持ち、エキスパートシステムを導入または調査していた。^[49]

チェスの専門知識はディープ・ブルーにエンコードされていました。1996年、IBMのディープ・ブルーはシンボリックAIの助けを借りて、当時の世界チャンピオンであるガルリ・カスパロフとのチェスの試合に勝利することができました。^[52]

すべてのエキスパートシステムのシステムアーキテクチャの重要なコンポーネントは知識ベースであり、これは問題解決のための事実とルールを保存します。^{[53]エキスパートシステムの知識ベースの最も単純なアプローチは、単に}生成ルール のコレクションまたはネットワークです。生成ルールは、If-Thenステートメントに似た関係でシンボルを接続します。エキスパートシステムはルールを処理して推論を行い、必要な追加情報、つまり尋ねる質問を人間が読めるシンボルを使用して決定します。たとえば、OPS5、CLIPS、およびその後継であるJessとDroolsはこのように動作します。

エキスパート システムは、前向き連鎖(証拠から結論へ) または後向き連鎖(目標から必要なデータと前提条件へ) のいずれかの方法で動作できます。Soar などのより高度な知識ベース システムでは、メタレベルの推論、つまり問題の解決方法を決定し、問題解決戦略の成功を監視するという観点から、独自の推論について推論することもできます。

黒板システムは、知識ベースまたはエキスパート システムアーキテクチャの 2 番目の種類です。これは、問題解決のために、可能な場合は徐々に貢献するエキスパートのコミュニティをモデル化します。問題は、複数の抽象化レベルまたは代替ビューで表現されます。エキスパート (知識源) は、貢献できると認識した場合はいつでも、自ら進んでサービスを提供します。潜在的な問題解決アクションは、問題の状況が変化すると更新されるアジェンダに表されます。コントローラーは、各貢献がどれだけ役立つか、次の問題解決アクションを誰が行うべきかを決定します。1 つの例として、BB1 黒板アーキテクチャ^[54]は、もともと、人間が旅行中に複数のタスクを実行する計画方法の研究にヒントを得ました。^[55] BB1 の革新は、同じ黒板モデルを制御問題の解決に適用したことです。つまり、コントローラーは、計画または問題解決がどれだけうまく進んでいるかを監視する知識源を使用してメタレベルの推論を実行し、目標や時間などの条件が変化すると、ある戦略から別の戦略に切り替えることができました。 BB1 は、建設現場の計画、インテリジェントな指導システム、リアルタイムの患者モニタリングなど、さまざまな分野に応用されています。

AI ブームの最盛期には、 Symbolics、LMI、Texas Instrumentsなどの企業が、 AI アプリケーションの開発と研究を加速させることに特化したLISP マシンを販売していました。さらに、Teknowledge やInference Corporationなどのいくつかの人工知能企業は、企業向けにエキスパート システム シェル、トレーニング、コンサルティングを販売していました。

残念ながら、AI ブームは長続きせず、その後に続いた第 2 の AI の冬について Kautz 氏は次のように的確に表現しています。

第 2 の AI の冬の到来には、多くの理由が挙げられます。ハードウェア企業は、Sun のコスト効率のはるかに高い汎用 Unix ワークステーションと、LISP および Prolog 用の優れたコンパイラが市場に登場したときに倒産しました。エキスパート システムの商用展開の多くは、維持コストが高すぎることが判明したため中止されました。医療エキスパート システムは、いくつかの理由から普及しませんでした。最新の状態に保つのが難しいこと、医療専門家がさまざまな病状に対してさまざまなエキスパート システムの使い方を習得しなければならないこと、そしておそらく最も重要なのは、エキスパート システムが平均的な医師よりも優れている特定の領域であっても、医師が自分の直感よりもコンピューターによる診断を信頼したがらないことです。ベンチャー キャピタルの資金は、ほぼ一夜にして AI から姿を消しました。世界 AI 会議 IJCAI は、1987 年にバンクーバーで大規模で豪華なトレード ショーを開催し、何千人もの非学術関係者が出席しました。翌年、セント ポールで開催された主要な AI 会議 AAAI 1988 は、小規模で完全に学術的なイベントでした。 ^[9]

統計的アプローチと論理の拡張の両方が試されました。

統計的アプローチの1つである隠れマルコフモデルは、1980年代に音声認識の分野ですでに普及していました。 ^[11]その後、1988年に、ジュディア・パールは、著書「知能システムにおける確率的推論：もっともらしい推論のネットワーク」を出版し、不確実な推論を処理する健全かつ効率的な方法としてベイジアンネットワークの使用を普及させました。[ ^56]そして、ベイジアンアプローチはエキスパートシステムに適用され、成功を収めました。^[57]さらにその後、1990年代には、確率と論理式を組み合わせたアプローチである統計的関係学習により、マルコフ論理ネットワークや確率的ソフトロジックなどの第1階述語論理と確率を組み合わせることができました。

第一階論理をサポートするために、他の非確率的拡張も試みられた。たとえば、非単調推論は真理維持システムで使用できる。真理維持システムは、すべての推論の仮定と正当化を追跡する。仮定が間違っていることが判明したり矛盾が導き出されたりすると、推論を取り消すことができる。推論の説明は、推論を作成するためにどのルールが適用されたかを説明し、その後、根底にある推論とルールを辿って根本の仮定まで遡ることで提供できる。^[58] ロフティ・ザデーは、曖昧さの表現を扱うために別の種類の拡張を導入した。たとえば、男性が「重い」または「背が高い」かどうかを決定する場合、明確な「はい」または「いいえ」の答えがないことが多く、重いまたは背が高いという述語は、代わりに 0 から 1 の間の値を返す。これらの値は、述語がどの程度真であるかを表す。彼のファジー論理は、さらに、これらの値の組み合わせを論理式で伝播する手段を提供した。^[59]

知識獲得のボトルネックに対処するために、シンボリック機械学習アプローチが研究されました。最も初期のものの一つはMeta-DENDRALです。Meta-DENDRALは、生成とテストの手法を使用して、スペクトルに対してテストするための妥当なルール仮説を生成しました。ドメインとタスクの知識により、テストされる候補の数を管理可能なサイズに削減しました。FeigenbaumはMeta-DENDRALを次のように説明しました 。

...これは、1960 年代前半から中頃にかけての理論形成に関する私の夢の集大成です。その構想は、入力を受け取り、出力を生成する DENDRAL のような問題解決プログラムを持つというものでした。その際、知識の層を使用して検索を誘導し、整理します。その知識は、私たちが人々にインタビューしたためにそこに入りました。しかし、人々はどのようにしてその知識を得たのでしょうか。何千ものスペクトルを見ることによってです。そこで私たちは、何千ものスペクトルを見て、DENDRAL が個々の仮説形成問題を解決するために使用できる質量分析の知識を推測するプログラムを求めました。私たちはそれを実現しました。私たちは、質量分析に関する新しい知識を Journal of the American Chemical Societyに発表することさえできました。脚注でのみ、Meta-DENDRAL プログラムが実際にそれを実行したことをクレジットしました。私たちは、夢だったことを実現できました。コンピュータ プログラムが新しい科学論文を考案し、出版可能なものにするということでした。^[51]

Meta-DENDRALの知識集約型アプローチとは対照的に、ロス・クインランは統計的分類に対するドメインに依存しないアプローチである決定木学習を発明し、最初はID3 ^[60]から始めて、後にその機能をC4.5 ^[61]に拡張しました。作成された決定木は、人間が解釈可能な分類ルールを持つ、 ガラスの箱のような解釈可能な分類器です。

機械学習理論の理解にも進歩がありました。トム・ミッチェルは、学習を仮説空間の探索として説明するバージョン空間学習を導入しました。この学習では、これまでの例と一致するすべての実行可能な仮説を包含する、より一般的な上限とより具体的な下限の境界があります。 ^[62]より正式には、ヴァリアントは機械学習の数学的分析のフレームワークである、おそらくほぼ正しい学習(PAC 学習) を導入しました。 ^[63]

シンボリック機械学習は、例による学習以上のものを含んでいた。例えば、ジョン・アンダーソンは、ACT-R認知アーキテクチャを使用して、スキルの練習が宣言形式から手続き形式へのルールのコンパイルにつながる人間の学習の認知モデルを提供した。例えば、学生は「補角とは、測定値の合計が180度になる2つの角度である」をいくつかの異なる手続きルールとして適用することを学ぶかもしれない。例えば、1つのルールは、XとYが補角であり、Xがわかっている場合、Yは180-Xになるというものである。彼は自分のアプローチを「知識コンパイル」と呼んだ。ACT -Rは、学習や記憶など、人間の認知の側面をモデル化するために効果的に使用されてきた。ACT-Rは、認知チューターと呼ばれるインテリジェントな個別指導システムでも使用され、学校の子供たちに幾何学、コンピュータープログラミング、代数を効果的に教える。^[64]

帰納的論理プログラミングは、入出力例から論理プログラムを合成できる学習への別のアプローチでした。たとえば、Ehu​​d Shapiroの MIS (Model Inference System) は、例から Prolog プログラムを合成できました。^[65] John R. Koza は、遺伝的アルゴリズムをプログラム合成に適用して遺伝的プログラミングを作成し、それを使用して LISP プログラムを合成しました。最後に、Zohar MannaとRichard Waldinger は、仕様が正しいことを証明する過程で関数型プログラムを合成する、プログラム合成へのより一般的なアプローチを提供しました。 ^[66]

論理に代わるものとして、ロジャー・シャンクは事例ベース推論（CBR）を導入した。彼の著書「ダイナミック・メモリ」^[67]で概説されているCBRアプローチは、まず将来の使用のために重要な問題解決事例を記憶し、適切な場合にはそれを一般化することに焦点を当てている。新しい問題に直面したとき、CBRは最も類似した過去の事例を取り出し、それを現在の問題の詳細に適応させる。^[68]論理に代わるもう1つの方法として、遺伝的アルゴリズムと遺伝的プログラミングは、学習の進化モデルに基づいており、一連のルールが集団にエンコードされ、そのルールが個体の行動を支配し、最も適したものが選ばれることで、何世代にもわたって不適切なルールが排除される。^[69]

シンボリック機械学習は、概念、ルール、ヒューリスティック、問題解決の学習に適用されました。上記以外のアプローチには、次のものがあります。

1. 指示やアドバイスから学ぶこと。つまり、アドバイスとして提示された人間の指示を受け入れ、それを特定の状況でどのように運用するかを決定すること。たとえば、ハーツゲームでは、「ポイントを取らないように」ハンドを正確にプレイする方法を学習します。 ^[70]
2. 事例から学ぶ - トレーニング中に専門家（SME）のフィードバックを受け入れることでパフォーマンスを向上させる。問題解決が失敗した場合、専門家に問題解決のための新しい事例を学習するか、ある事例が他の事例よりも関連性が高い理由について新しい説明を学習するように依頼する。たとえば、プログラムProtosは、聴覚学者と対話することで耳鳴りの症例を診断することを学習した。^[71]
3. 類推による学習—過去に見た類似の問題に基づいて問題解決策を構築し、その解決策を新しい状況や領域に合わせて修正する。^{[72] [73]}
4. 見習い学習システム—人間の問題解決を観察することで、問題に対する新しい解決策を学習します。ドメイン知識は、新しい解決策がなぜ正しいのか、そしてその解決策をどのように一般化できるのかを説明します。LEAPは、人間の設計者を観察することで、VLSI回路の設計方法を学習しました。^[74]
5. 発見による学習、つまり実験を実行するためのタスクを作成し、その結果から学習する。例えば、ダグ・レナットのEuriskoは、ヒューリスティックを学習し、 2年連続でTravellerロールプレイングゲームで人間のプレイヤーに勝ちました。 ^[75]
6. マクロ演算子の学習、つまり、基本的な問題解決行動のシーケンスから学習すべき有用なマクロ演算子の探索。優れたマクロ演算子は、問題をより抽象的なレベルで解決できるようにすることで、問題解決を簡素化します。^[76]

ディープラーニングの台頭により、シンボリックAIアプローチはディープラーニングを補完するものと比較されるようになりました。「AI研究者は、カーネマンの人間の推論と意思決定に関する研究（著書『ファスト＆スロー』に反映されている）と、いわゆる「AIシステム1と2」を何度も比較してきました。これらは原理的にはそれぞれディープラーニングとシンボリック推論によってモデル化されます。」この見方では、シンボリック推論は熟慮推論、計画、説明に適しており、ディープラーニングはノイズの多いデータによる知覚アプリケーションでの高速パターン認識に適しています。^{[17] [18]}

ニューロシンボリック AI は、ニューラル アーキテクチャとシンボリック アーキテクチャを、それぞれの長所と短所を補完的に解決する形で統合し、推論、学習、認知モデリングが可能な堅牢な AI をサポートすることを試みています。Valiant ^[77]や他の多くの人々が主張しているように [78]、豊富^な計算認知モデルを効果的に構築するには、健全なシンボリック推論と効率的な (機械学習) モデルの組み合わせが必要です。Gary Marcusも同様に、「ハイブリッド アーキテクチャ、豊富な事前知識、および推論のための洗練された技術の 3 つがなければ、適切な自動化された方法で豊富な認知モデルを構築することはできない」と主張しています。^[79]特に、「堅牢で知識主導型の AI アプローチを構築するには、ツールキットにシンボル操作の仕組みが必要です。有用な知識の多くは抽象的であるため、抽象化を表現して操作するツールがなければ間に合いません。これまでのところ、そのような抽象的知識を確実に操作できる唯一の仕組みは、シンボル操作の装置です。」^[80]

ヘンリー・カウツ^[19] 、フランチェスカ・ロッシ[ ^81]、バート・セルマン^[82]も統合を主張している。彼らの主張は、ダニエル・カーネマンの著書「ファスト＆スロー」で議論されている2種類の思考に対処する必要性に基づいている。カーネマンは、人間の思考はシステム1とシステム2の2つの要素で構成されていると説明している。システム1は高速、自動、直感的、無意識である。システム2はより低速で、段階的、明示的である。システム1はパターン認識に使用される種類であり、システム2は計画、演繹、熟慮的思考に適している。この見方では、ディープラーニングは最初の種類の思考を最もよくモデル化し、記号的推論は2番目の種類の思考を最もよくモデル化し、両方が必要である。

ガルセズとラムは、この分野の研究は少なくとも過去20年間継続しており、^[83] 2002年に出版された神経記号学習システムに関する本に遡ると述べている。^[84]神経記号推論に関する一連のワークショップは2005年以来毎年開催されており、詳細についてはhttp://www.neural-symbolic.org/を参照。

2015 年の論文「神経記号学習と推論：貢献と課題」で、Garcez らは次のように主張しています。

AI のシンボリック パラダイムとコネクショニスト パラダイムの統合は、比較的小規模な研究コミュニティによって過去 20 年間にわたって追求され、いくつかの重要な成果を生み出してきました。過去 10 年間で、ニューラル シンボリック システムは、Smolensky (1988) に対する McCarthy (1988) の回答として述べたように、ニューラル ネットワークのいわゆる命題固定を克服できることが示されました。(Hinton、1990) も参照してください。ニューラル ネットワークは、様相論理と時相論理 (d'Avila Garcez および Lamb、2006) および一階述語論理の断片 (Bader、Hitzler、Hölldobler、2008、d'Avila Garcez、Lamb、Gabbay、2009) を表現できることが示されました。さらに、ニューラル シンボリック システムは、バイオインフォマティクス、制御工学、ソフトウェアの検証と適応、視覚インテリジェンス、オントロジー学習、およびコンピューター ゲームなどの分野の多くの問題に適用されています。^[78]

統合のアプローチは多様です。Henry Kautzによるニューロシンボリックアーキテクチャの分類といくつかの例を以下に示します。

• シンボリック ニューラル シンボリックは、自然言語処理における多くのニューラル モデルの現在のアプローチであり、単語またはサブワード トークンが大規模な言語モデルの最終的な入力と出力の両方になります。例としては、BERT、RoBERTa、GPT-3などがあります。
• シンボリック[ニューラル] —AlphaGoがその例です。ここでは、シンボリック手法を使用してニューラル手法を呼び出します。この場合、シンボリックアプローチはモンテカルロ木探索であり、ニューラル手法はゲームの位置を評価する方法を学習します。
• Neural|Symbolic - ニューラル アーキテクチャを使用して、知覚データをシンボルと関係として解釈し、それをシンボルで推論します。
• ニューラル:シンボリック → ニューラル - シンボリック推論を利用してトレーニング データを生成またはラベル付けし、その後ディープラーニング モデルによって学習されます。たとえば、Macsymaのようなシンボリック数学システムを使用して例を作成またはラベル付けすることにより、シンボリック計算用のニューラル モデルをトレーニングします。
• Neural_{Symbolic}—シンボリックルールから生成されたニューラルネットを使用します。例としては、知識ベースのルールと用語から生成されたAND-OR証明ツリーからニューラルネットワークを構築するNeural Theorem Prover ^[85]があります。Logic Tensor Networks ^[86]もこのカテゴリに分類されます。
• Neural[Symbolic] - ニューラルモデルがシンボリック推論エンジンを直接呼び出して、アクションを実行したり状態を評価したりできるようにします。

次のような多くの重要な研究課題が残っています。

• ニューラルアーキテクチャとシンボリックアーキテクチャを統合する最良の方法は何ですか？^[87]
• 記号構造はニューラル ネットワーク内でどのように表現され、そこからどのように抽出されるのでしょうか?
• 常識的な知識をどのように学び、推論すればよいのでしょうか?
• 論理的にコード化するのが難しい抽象的な知識をどのように扱うことができるでしょうか?

このセクションでは、Wikipedia の多くの詳細な記事につながる全体的なコンテキストにおける技術と貢献の概要を示します。機械学習と不確実な推論に関するセクションは、歴史セクションの前半で説明されています。

前回のシンボリック AI ブームの時期に米国で主要な AI プログラミング言語はLISPでした。LISPはFORTRANに次いで 2 番目に古いプログラミング言語で、1958 年にJohn McCarthyによって作成されました。LISP は、迅速なプログラム開発をサポートする最初のread-eval-print ループを提供しました。コンパイルされた関数は、解釈された関数と自由に混在させることができました。プログラムのトレース、ステップ実行、ブレークポイントも提供され、値や関数を変更してブレークポイントやエラーから続行する機能もありました。LISP には最初のセルフホスティング コンパイラがあり、つまりコンパイラ自体はもともと LISP で書かれていて、その後解釈的に実行されてコンパイラ コードをコンパイルしました。

LISP によって開拓され、他のプログラミング言語にも広まったその他の重要な革新には、次のものがあります。

• ガベージコレクション
• 動的型付け
• 高階関数
• 再帰
• 条件文

プログラム自体は、他のプログラムが操作できるデータ構造であり、高水準言語を簡単に定義できます。

米国とは対照的に、ヨーロッパでは同時期の主要な AI プログラミング言語はPrologでした。Prolog は、読み取り、評価、印刷のループで照会できる事実と節の組み込みストアを提供しました。ストアは知識ベースとして機能し、節はルールまたは制限された形式のロジックとして機能することができます。第 1 階述語論理のサブセットとして、Prolog は、閉世界仮定(未知の事実はすべて偽とみなされる) と基本用語の一意の名前仮定(たとえば、識別子 barack_obama は 1 つのオブジェクトのみを指すとみなされる) を伴うホーン節に基づいていました。バックトラッキングと統合はProlog に組み込まれています。

Alain Colmerauerと Philippe Roussel は Prolog の発明者として知られています。Prolog はRobert Kowalskiによって発明された論理プログラミングの一種です。その歴史は、パターン指向のメソッド呼び出しを備えたアサーション データベースであるCarl HewittのPLANNERの影響も受けています。詳細については、PLANNER の記事の Prolog の起源に関するセクションを参照してください。

Prolog も宣言型プログラミングの一種です。プログラムを記述するロジック節は直接解釈され、指定されたプログラムを実行します。命令型プログラミング言語の場合のように、明示的な一連のアクションは必要ありません。

日本は第五世代プロジェクトで Prolog を推進し、高性能な専用ハードウェアを構築することを意図していました。同様に、LISP を実行するためにLISP マシンが構築されましたが、第二次 AI ブームが崩壊すると、これらの企業は、同等の速度で LISP または Prolog をネイティブに実行できる新しいワークステーションと競争することができませんでした。詳細については、履歴セクションを参照してください。

Smalltalkは、もう一つの影響力のあるAIプログラミング言語でした。例えば、メタクラスを導入し、FlavorsやCommonLoopsとともに、現在の標準Lisp方言であるCommon Lispの一部であるCommon Lisp Object System（CLOS ）に影響を与えました。CLOSはLispベースのオブジェクト指向システムで、多重継承に加えてクラスとメタクラスの増分拡張が可能で、実行時のメタオブジェクトプロトコルを提供します。^[88]

その他の AI プログラミング言語については、人工知能向けプログラミング言語のリストを参照してください。現在、マルチパラダイム プログラミング言語であるPythonは、データ サイエンス、自然言語処理、ディープラーニングをサポートする広範なパッケージ ライブラリがあるため、最も人気のあるプログラミング言語です。Pythonには、読み取り、評価、印刷のループ、高階関数などの関数型要素、メタクラスを含むオブジェクト指向プログラミングが含まれています。

探索は、計画、制約充足、チェス、囲碁などのゲームなど、多くの種類の問題解決で発生します。最もよく知られている AI 探索ツリー探索アルゴリズムは、幅優先探索、深さ優先探索、A*、モンテカルロ探索です。ブール充足可能性の主要な探索アルゴリズムは、 WalkSAT、衝突駆動節学習、DPLL アルゴリズムです。ゲーム中の敵対的探索については、アルファベータ剪定、分枝限定法、ミニマックスが初期の貢献でした。

知識を表現し、その表現を使って推論するためのさまざまなアプローチが研究されてきました。以下は、知識表現と自動推論へのアプローチの簡単な概要です。

セマンティック ネットワーク、概念グラフ、フレーム、ロジックはすべて、ドメイン知識、問題解決の知識、言語の意味論的意味などの知識をモデル化するアプローチです。オントロジーは、ドメイン内の主要な概念とそれらの関係をモデル化します。オントロジーの例には、YAGO、WordNet、DOLCEなどがあります。DOLCEは、どのドメインにも使用できる上位オントロジーの例ですが、WordNet はオントロジーとしても見ることができる語彙リソースです。YAGO は、WordNet をオントロジーの一部として組み込んでおり、Wikipediaから抽出された事実を WordNet synsetsに揃えています。Disease Ontology は、現在使用されている医療オントロジーの例です。

記述ロジックは、オントロジーの自動分類と矛盾する分類データの検出のためのロジックです。OWLは、記述ロジックを使用してオントロジーを表現するために使用される言語です。Protégéは、OWLオントロジーを読み取り、 HermiTなどの演繹分類器との整合性をチェックできるオントロジーエディターです。 ^[89]

一階論理は記述論理よりも一般的です。以下で説明する自動定理証明器は、一階論理の定理を証明できます。ホーン節論理は一階論理よりも制限が厳しく、Prolog などの論理プログラミング言語で使用されます。一階論理の拡張には、時間を扱う時相論理、エージェントの知識を推論する認識論的論理、可能性と必然性を扱う様相論理、論理と確率を一緒に扱う確率論理などがあります。

第一階論理の自動定理証明器の例は次のとおりです。

• 諺9
• ACL2
• 吸血鬼

Prover9 は、Mace4 モデル チェッカーと組み合わせて使用​​できます。ACL2は、帰納法による証明を処理できる定理証明器であり、 Nqthmとしても知られる Boyer-Moore 定理証明器の後継です。

知識ベース システムには、通常はルールからなる明示的な知識ベースがあり、手続き型コードとドメイン知識を分離することで、ドメイン間での再利用性を高めます。別の推論エンジンがルールを処理し、知識ストアを追加、削除、または変更します。

前方連鎖推論エンジンは最も一般的であり、CLIPSおよびOPS5で見られます。後方連鎖はProlog で発生し、より限定された論理表現であるHorn 節が使用されます。パターン マッチング、具体的には統合はProlog で使用されます。

より柔軟な種類の問題解決は、利用可能なアクションの 1 つを単に選択するのではなく、次に何をすべきかについて推論するときに発生します。この種のメタレベルの推論は、Soar および BB1 ブラックボード アーキテクチャで使用されます。

ACT-R などの認知アーキテクチャには、頻繁に使用される知識を高レベルのチャンクにコンパイルする機能などの追加機能がある場合があります。

マービン・ミンスキーは、オフィスなどの一般的な視覚的状況を解釈する方法として最初にフレームを提案し、ロジャー・シャンクはこのアイデアを外食などの一般的なルーチンのスクリプトにまで拡張しました。サイクは、有用な常識的知識を捉えようと試み、特定の種類のドメイン固有の推論を処理するための「ミクロ理論」を持っています。

ベンジャミン・カイパースのQSIM ^[90]などの定性シミュレーションは、ストーブの上で鍋の中の液体を加熱すると何が起こるかなど、素朴な物理学に関する人間の推論を近似します。温度、沸点、大気圧などの詳細がわからない場合でも、液体が加熱され、おそらく沸騰すると予想されます。

同様に、アレンの時間間隔代数は時間についての推論を簡略化したもの、領域接続計算は空間関係についての推論を簡略化したものです。どちらも制約ソルバーで解くことができます。

制約ソルバーは、一階述語論理よりも限定された種類の推論を実行します。制約ソルバーは、RCCやTemporal Algebraなどの時空間制約セットを簡素化できるほか、 Wordle、数独、暗号算数問題などの他の種類のパズル問題も解くことができます。制約論理プログラミングは、制約処理ルール(CHR) などのスケジュール問題を解決するために使用できます。

一般問題解決者(GPS) は、計画を問題解決として位置づけ、手段目的分析を使用して計画を作成しました。STRIPSは、計画を定理証明と見なすという異なるアプローチを採用しました。Graphplanは、初期状態から順にアクションを選択して前進したり、目標状態から後退したりするのではなく、最小コミットメント アプローチで計画を行います。Satplan は、計画問題をブール充足問題に簡略化する計画アプローチです。

自然言語処理は、言語をデータとして扱い、必ずしも意図された意味を理解することなくトピックを識別するなどのタスクを実行することに重点を置いています。対照的に、自然言語理解は意味表現を構築し、それを使用して質問に答えるなどのさらなる処理を行います。

構文解析、トークン化、スペル修正、品詞タグ付け、名詞と動詞句のチャンキングはすべて、長い間シンボリック AI によって処理されてきた自然言語処理の側面ですが、ディープラーニングのアプローチによって改善されています。シンボリック AI では、談話表現理論と一階述語論理を使用して文の意味を表現してきました。潜在的意味解析(LSA) と明示的意味解析では、ドキュメントのベクトル表現も提供されました。後者の場合、ベクトル コンポーネントは、Wikipedia の記事で名前が付けられた概念として解釈できます。

Transformer モデルに基づく新しいディープラーニング アプローチは、これらの以前のシンボリック AI アプローチを凌駕し、自然言語処理において最先端のパフォーマンスを達成しました。ただし、Transformer モデルは不透明であり、文章や文書に対して人間が解釈できる意味表現をまだ生成していません。代わりに、ベクトル コンポーネントの意味が不透明なタスク固有のベクトルを生成します。

エージェントは、ある意味では環境内に埋め込まれた自律システムであり、環境を認識して行動します。ラッセルとノーヴィグの人工知能に関する標準的な教科書は、ますます高度化するエージェントアーキテクチャを反映するように構成されています。^[91]エージェントの高度化は、単純な反応型エージェントから、世界のモデルと自動計画機能を備えたエージェント、おそらくはBDI エージェント、つまり信念、欲求、意図を持つエージェント、または時間をかけて行動を選択するために学習した強化学習モデル、さらには知覚のための深層学習を含むニューロシンボリックアーキテクチャ^{[87]などの代替アーキテクチャの組み合わせまで多岐にわたります。 [92]}

対照的に、マルチエージェントシステムは、知識照会および操作言語(KQML)などのエージェント間通信言語を使用して相互に通信する複数のエージェントで構成されます。エージェントはすべて同じ内部アーキテクチャを持つ必要はありません。マルチエージェントシステムの利点には、エージェント間で作業を分割できることと、エージェントが失われたときのフォールトトレランスが向上することが挙げられます。研究上の問題には、エージェントが合意に達する方法、分散問題解決、マルチエージェント学習、マルチエージェント計画、分散制約最適化などがあります。

シンボリック AI では、分野内 (論理主義者 (論理派の「ニート」 ) と非論理主義者 (反論理派の「スクラフィ」 ) の間) と、AI は受け入れるがシンボリック アプローチを拒否する人々 (主にコネクショニスト) と分野外の人々の間で、早い段階から論争が起こりました。分野外からの批判は主に哲学者によるもので、知的観点からのものでしたが、特に 2 回の AI の冬の間には資金提供機関からも批判がありました。

単純な一階論理を使用して動的ドメインについて推論する際に制限があることが判明しました。アクションが成功するための前提条件を列挙することと、アクションの実行後に変化しないものに関する公理を提供することの両方に関して問題が発見されました。

マッカーシーとヘイズは1969年に「人工知能の観点から見た哲学的問題」という論文でフレーム問題を導入した。 ^[93]簡単な例としては、「ある人が別の人と会話できることを証明すること」が挙げられる。この推論が成功するには、「ある人が電話を持っている場合、その人は電話帳で番号を調べた後もまだ電話を持っている」という公理が必要となる。他のドメインアクションでも、何が変化していないかを指定するために同様の公理が必要となる。

類似の問題である「資格問題」は、ある動作が成功するための前提条件を列挙しようとするときに発生します。無限の数の異常な状態が想像できます。たとえば、車の排気管にバナナが入っていると、車が正常に作動しなくなる可能性があります。

フレーム問題を解決するためにマッカーシーが採用したアプローチは、限定法、つまり、変化しないものすべてを明示的に指定する必要がなく、変化するものだけを指定する必要がある行為から推論を行うことができる、一種の非単調論理でした。他の非単調論理は、矛盾につながる信念を修正する真理維持システムを提供しました。

よりオープンエンドなドメインを扱う他の方法としては、確率的推論システムや、新しい概念やルールを学習する機械学習などがあります。マッカーシーのアドバイステイカーは、人間が提供する新しい知識をアサーションやルールの形で取り入れることができるため、ここではインスピレーションとして見ることができます。たとえば、実験的なシンボリック機械学習システムは、高レベルの自然言語アドバイスを受け取り、それをドメイン固有の実行可能なルールに解釈する能力を探求しました。

動的ドメインの処理の問題と同様に、常識的推論も形式的推論で捉えることは困難です。常識的推論の例には、人々の考え方に関する暗黙の推論や、日常の出来事、物体、生物に関する一般的な知識などがあります。この種の知識は当然のこととみなされ、注目に値するものとは見なされていません。常識的推論は未解決の研究分野であり、記号システム (たとえば、Cyc は 10 年以上にわたってこの知識の重要な部分を捉えようと試みてきました) とニューラル システム (たとえば、コーンにぶつからないことや、自転車を歩いている歩行者にぶつからないことを知らない 自動運転車) の両方にとって挑戦的です。

マッカーシーはアドバイステイカーが常識を持っていると考えていたが、彼の常識の定義は上記のものとは異なっていた。^[94]彼は、プログラムが「伝えられたことや既に知っていることから、十分に広い範囲の直接的な帰結を自動的に推論できる場合」に常識を持っていると定義した。

コネクショニストアプローチには、パーセプトロンなどのニューラルネットワークに関する初期の研究^{[95] 、}ダニー・ヒリスのコネクションマシンやヤン・ルカンの畳み込みニューラルネットワークの進歩などの80年代半ばから後半の研究、そしてトランスフォーマー、GANなどの今日のより高度なアプローチやディープラーニングにおけるその他の研究が含まれます。

コネクショニストの間では3つの哲学的立場^[96]が概説されている。

1. 実装主義 - コネクショニストアーキテクチャが記号処理の機能を実装する。
2. 過激なコネクショニズム—記号処理が完全に拒否され、コネクショニストアーキテクチャが知性の基盤となり、知性を説明するのに十分である。
3. 中程度のコネクショニズム - 記号処理とコネクショニスト アーキテクチャは補完的であると見なされ、両方とも知能に必要です。

オラザランは、ニューラルネットワークコミュニティ内の論争の社会学的歴史の中で、穏健なコネクショニズムの見解は、ニューロシンボリックハイブリッドの現在の研究と本質的に互換性があると述べています。

ここで検討したい 3 番目で最後の立場は、私が中庸なコネクショニストの見解と呼んでいるもので、これはコネクショニズムとシンボリック AI の現在の論争に対するより折衷的な見解です。この立場を最も明確に展開した研究者の 1 人は、サセックス大学 (イギリス、ブライトン) の認知およびコンピューティング サイエンス学部の哲学者、アンディ クラークです。クラークはハイブリッド (部分的にシンボリック、部分的にコネクショニスト) システムを擁護しました。彼は、認知を研究しモデル化するには (少なくとも) 2 種類の理論が必要であると主張しました。一方では、一部の情報処理タスク (パターン認識など) では、コネクショニズムはシンボリック モデルよりも優れています。しかし他方では、他の認知プロセス (シリアル、演繹的推論、生成的シンボル操作プロセスなど) では、シンボリック パラダイムが適切なモデルを提供し、(急進的なコネクショニストの主張とは反対に)「近似」だけではありません。^[97]

ゲイリー・マーカスは、ディープラーニングコミュニティにおけるシンボリックアプローチに対する敵意は、哲学的というよりも社会学的なものである可能性があると主張している。

シンボル操作を単純に放棄できると考えることは、不信感を抱くことです。

しかし、現在の AI のほとんどは、ほとんどの場合、このように進んでいます。ヒントン氏や他の多くの人は、シンボルを完全に排除しようと懸命に努力してきました。ディープラーニングの希望は、科学というよりは、ある種の歴史的恨みに基づいているようですが、大量のデータとディープラーニングの合流からのみ、知的な行動が生まれるというものです。従来のコンピューターとソフトウェアは、ワードプロセッサで行を編集したり、スプレッドシートで計算を実行したりするなど、特定のジョブ専用のシンボル操作ルールのセットを定義することでタスクを解決しますが、ニューラルネットワークは通常、統計的近似と例からの学習によってタスクを解決しようとします。

マーカスによれば、ジェフリー・ヒントンとその同僚たちは激しく「反象徴主義」を唱えている。

2012年にディープラーニングが再登場したとき、それは過去10年間のほとんどを特徴づけてきた、ある種の容赦ない態度を伴っていた。2015年までに、記号に関するあらゆるものに対する彼の敵意は完全に結晶化した。彼はスタンフォードでのAIワークショップで、記号をエーテルと比較する講演を行ったが、これは科学の最大の誤りの1つである。

...

それ以来、彼の反記号キャンペーンは激しさを増すばかりだった。2016年、ヤン・ルカン、ベンジオ、ヒントンは、科学界で最も重要な雑誌の一つであるネイチャー誌にディープラーニングの宣言文を書いた。宣言文は記号操作への直接攻撃で締めくくられ、和解ではなく全面的な置き換えを求めた。後にヒントンは、欧州連合の指導者たちの集まりで、記号操作のアプローチにこれ以上の資金を投入することは「大きな間違い」であり、電気自動車の時代に内燃機関に投資するのと同じだと発言した。^[98]

これらの紛争の一部は、用語の不明確さに起因している可能性があります。

チューリング賞受賞者のジュディア・パールは機械学習を批判しているが、残念ながら機械学習とディープラーニングという用語を混同している。同様に、ジェフリー・ヒントンがシンボリックAIについて言及するとき、その用語の意味は学習能力をまったく持たないエキスパートシステムということになる傾向がある。この用語の使用は明確化する必要がある。機械学習は相関ルールマイニングに限定されず、シンボリックMLとリレーショナルラーニングの研究を参照のこと（ディープラーニングとの違いは、表現の選択、分散型ではなく局所的論理、勾配ベースの学習アルゴリズムを使用しないことである）。同様に、シンボリックAIは手書きの生成ルールだけではない。AIの適切な定義は、知識の表現と推論、自律型マルチエージェントシステム、計画と議論、そして学習に関係する。 ^[99]

シンボリック AI に対するもう一つの批判は、具体化された認知アプローチです。

身体化された認知アプローチは、脳を別個に考えるのは無意味だと主張する。認知は身体の中で行われ、身体は環境に埋め込まれている。システム全体を研究する必要がある。脳の機能は、身体の残りの部分を含む環境の規則性を利用する。身体化された認知アプローチでは、ロボット工学、視覚、その他のセンサーは周辺ではなく中心となる。^[100]

ロドニー・ブルックスは、具体化された認知へのアプローチの 1 つである行動ベースのロボット工学を発明しました。このアプローチの別名であるNouvelle AI は、シンボリック AI とコネクショニスト AI の両方の代替と見なされています。彼のアプローチでは、シンボリックまたは分散型の表現は不必要であるだけでなく有害であるとして拒否しました。代わりに、彼は、具体化されたエージェントの階層化アーキテクチャであるサブサンプション アーキテクチャを作成しました。各レイヤーは異なる目的を達成し、現実世界で機能する必要があります。たとえば、彼がIntelligence Without Representationで説明している最初のロボットには 3 つのレイヤーがあります。最下層はソナー センサーを解釈して物体を回避します。中間層は、障害物がない場合にロボットが歩き回るようにします。最上層は、ロボットがさらに遠くの場所に行ってさらに探索するようにします。各レイヤーは、下位​​レベルのレイヤーを一時的に抑制または抑制できます。彼は、AI 研究者がシステムの AI の問題を定義しているのを批判しました。「現実世界では、知覚 (抽象化) と推論の間に明確な区別はありません。」^[101]彼はロボットを「クリーチャー」と呼び、各層は「単純な有限状態機械の固定トポロジーネットワークで構成されていた」。^[102] ヌーベルAIのアプローチでは、「まず、私たちが構築したクリーチャーを現実世界、つまり人間が住むのと同じ世界でテストすることが極めて重要です。後で活動を単純化されていない世界に移すという最善の意図を持っていても、最初に単純化された世界でテストするという誘惑に陥るのは悲惨なことです。」^[103] 彼が現実世界でのテストを重視したのは、「AIの初期の取り組みは、ゲーム、幾何学の問題、記号代数、定理証明、およびその他の形式システムに集中していた」^{[104]ことや、} SHRDLUなどの記号AIシステムでのブロックワールドの使用とは対照的でした。

シンボリック、コネクショニスト、行動ベースの各アプローチには利点がありますが、他のアプローチから批判されています。シンボリック AI は、実体がなく、資格問題に陥りやすく、ディープラーニングが優れている知覚の問題の処理が苦手であると批判されています。一方、コネクショニスト AI は、熟慮した段階的な問題解決、知識の組み込み、および計画の処理にはあまり適していないと批判されています。最後に、Nouvelle AI は、リアクティブおよび現実世界のロボット工学の分野で優れていますが、学習と知識の組み込みが難しいと批判されています。

これらのアプローチの1つ以上を組み込んだハイブリッドAIが現在、今後の方向性として注目されている。 ^{[19] [81] [82]}ラッセルとノルヴィグは次のように結論付けている。

全体的に、ドレフュスはAIが完全な答えを出せない分野を認識し、それゆえAIは不可能であると述べました。現在、これらの同じ分野の多くで継続的な研究開発が行われており、不可能ではなく、能力の向上につながっています。^[100]

• ブルックス、ロドニー A. (1991)。「表現のない知能」。人工知能。47 (1): 139–159。doi : 10.1016 / 0004-3702 (91)90053-M。ISSN 0004-3702。S2CID  207507849。2022年9月13 日閲覧。
• クランシー、ウィリアム (1987)。知識ベースの指導: GUIDON プログラム (MIT プレス人工知能シリーズ) (ハードカバー版)。
• クレヴィエ、ダニエル(1993) 。AI: 人工知能への激動の探求。ニューヨーク、NY: BasicBooks。ISBN 0-465-02997-3。。
• Dreyfus, Hubert L (1981)。「マイクロワールドから知識表現へ: 行き詰まりに陥った AI」(PDF)。Mind Design。MIT Press、マサチューセッツ州ケンブリッジ: 161–204。
• Garcez, Artur S. d'Avila; Broda, Krysia; Gabbay, Dov M.; Gabbay, Augustus de Morgan 論理学教授 Dov M. (2002)。ニューラル・シンボリック学習システム：基礎と応用。Springer Science & Business Media。ISBN 978-1-85233-512-0。
• Garcez, Artur; Besold, Tarek; De Raedt, Luc; Földiák, Peter; Hitzler, Pascal; Icard, Thomas; Kühnberger, Kai-Uwe; Lamb, Luís; Miikkulainen, Risto; Silver, Daniel (2015). ニューラルシンボリック学習および推論: 貢献と課題。AAI春季シンポジウム - 知識表現および推論: シンボリックアプローチとニューラルアプローチの統合。スタンフォード、カリフォルニア州: AAAI プレス。doi :10.13140/2.1.1779.4243。
• Garcez, Artur d'Avila; Gori, Marco; Lamb, Luis C.; Serafini, Luciano; Spranger, Michael; Tran, Son N. (2019)、ニューラルシンボリックコンピューティング：機械学習と推論の原理的統合のための効果的な方法論、arXiv：1905.06088
• ガルセズ、アルトゥール・ダビラ。ラム、ルイス C. (2020)、神経記号 AI: 第 3 の波、arXiv : 2012.05876
• ハウゲランド、ジョン（1985）、人工知能：その本質、マサチューセッツ州ケンブリッジ：MITプレス、ISBN 0-262-08153-9
• Hayes-Roth, Frederick; Murray, William; Adelman, Leonard (2015). 「エキスパートシステム」. AccessScience . doi :10.1036/1097-8542.248550.
• Honavar, Vasant; Uhr, Leonard (1994)。シンボリック人工知能、コネクショニストネットワークとその先 (技術レポート)。アイオワ州立大学デジタルリポジトリ、コンピュータサイエンス技術レポート。76 ページ 6。
• Honavar, Vasant (1995)。シンボリック人工知能と数値人工ニューラルネットワーク：二分法の解決に向けて。Springer International Series In Engineering and Computer Science。Springer US。pp. 351–388。doi :10.1007/978-0-585-29599-2_11。
• Howe, J. (1994 年 11 月)。「エディンバラ大学における人工知能: 展望」。2007 年 5 月 15 日時点のオリジナルよりアーカイブ。2007年8 月 30 日閲覧。
• Kautz, Henry (2020-02-11). 第3回AIサマー、Henry Kautz、AAAI 2020 Robert S. Engelmore Memorial Award Lecture 。 2022年7月6日閲覧。
•  Kautz, Henry (2022). 「第3回AIサマー：AAAIロバート・S・エンゲルモア記念講演」。AIマガジン。43 (1): 93–104。doi ： 10.1609 / aimag.v43i1.19122。ISSN 2371-9621。S2CID 248213051。  2022年7月12日閲覧。
• コドラトフ、イヴ。ミハルスキー、リザード編。 （1990年）。機械学習: 人工知能のアプローチ。 Vol. Ⅲ．カリフォルニア州サンマテオ：モーガン・カウフマン。ISBN 0-934613-09-5. OCLC  893488404.
• Kolata, G. (1982)。「コンピューターはいかにして常識を獲得できるか?」。サイエンス。217 (4566): 1237–1238。Bibcode : 1982Sci ...217.1237K。doi : 10.1126/science.217.4566.1237。PMID 17837639  。
• Maker, Meg Houston (2006)。「AI@50: AIの過去、現在、未来」。ダートマス大学。2007年1月3日時点のオリジナルよりアーカイブ。 2008年10月16日閲覧。
• マーカス、ゲイリー、デイビス、アーネスト（2019） 。AIの再起動：信頼できる人工知能の構築。ニューヨーク：パンテオンブックス。ISBN 9781524748258. OCLC  1083223029.
• マーカス、ゲイリー（2020）、AIの次の10年：堅牢な人工知能に向けた4つのステップ、arXiv：2002.06177
• マッカーシー、ジョン(1959)。常識的なプログラム。思考プロセスの機械化に関するシンポジウム。英国テディントン国立物理学研究所。p. 8。
• マッカーシー、ジョン、ヘイズ、パトリック(1969)。「人工知能の観点から見たいくつかの哲学的問題」。機械知能 4。B.メルツァー、ドナルド ミチー (編)、463–502。
• マコーダック、パメラ（2004）、考える機械（第2版）、マサチューセッツ州ネイティック：AKピーターズ、ISBN 1-5688-1205-1
• ミハルスキ、リザード、カルボネル、ジェイム、ミッチェル、トム編 (1983)。機械学習: 人工知能アプローチ。第 1 巻。カリフォルニア州パロアルト: Tioga Publishing Company。ISBN 0-935382-05-4. OCLC  9262069.
• ミハルスキ、リザード、カルボネル、ジェイム、ミッチェル、トム編 (1986)。機械学習: 人工知能アプローチ。第 2 巻。カリフォルニア州ロスアルトス: モーガン カウフマン。ISBN 0-934613-00-1。
• ニューウェル、アレン; サイモン、ハーバート A. (1972)。『人間の問題解決』（第 1 版）。ニュージャージー州エングルウッド クリフス: プレンティス ホール。ISBN 0-13-445403-0。
• ニューウェル、アレン、サイモン、HA（1976）。「経験的探究としてのコンピュータサイエンス：シンボルと検索」。Communications of the ACM。19 （ 3）：113–126。doi ：10.1145 / 360018.360022。
• ニルソン、ニルス（1998）。人工知能：新たな統合。モーガン・カウフマン。ISBN 978-1-55860-467-4. 2020年7月26日時点のオリジナルよりアーカイブ。2019年11月18日閲覧。
• オラザラン、ミケル (1993-01-01)、「ニューラル ネットワーク論争の社会学的歴史」、ヨビッツ、マーシャル C. (編)、Advances in Computers Volume 37、vol. 37、エルゼビア、pp. 335–425、doi :10.1016/S0065-2458(08)60408-​​8、ISBN 9780120121373、2023-10-31取得
• Pearl, J. (1988)。『インテリジェントシステムにおける確率的推論：もっともらしい推論のネットワーク』カリフォルニア州サンマテオ：Morgan Kaufmann。ISBN 978-1-55860-479-7. OCLC  249625842.
• ラッセル、スチュアート J. ;ノーヴィグ、ピーター(2021)。人工知能: 現代的アプローチ(第 4 版)。ホーボーケン: ピアソン。ISBN 978-0-13-461099-3. LCCN  20190474.
• Rossi, Francesca (2022-07-06). 「AAAI2022: AIにおけるファストとスローの思考 (AAAI 2022 招待講演)」。2022-07-06に閲覧。
• セルマン、バート (2022-07-06). 「AAAI2022: 大統領演説: AIの現状」。2022-07-06閲覧。
• Serafini, Luciano; Garcez, Artur d'Avila (2016-07-07)、「ロジック テンソル ネットワーク: データと知識からのディープラーニングと論理的推論」、arXiv : 1606.04422
• シュピーゲルハルター、デイヴィッド・Ｊ．デイヴィッド、A. フィリップ。ステフェン・ラウリッツェン;ロバート G. コーウェル (1993)。 「エキスパートシステムにおけるベイジアン分析」。統計科学。8 (3)。
• チューリング、AM（1950）。「I. 計算機と知能」。マインド。LIX （ 236）：433–460。doi ： 10.1093 /mind/LIX.236.433。ISSN  0026-4423 。2022年9月14日閲覧。
• Valiant, Leslie G (2008)。「知識の注入: 人工知能の堅牢性の追求」。Hariharan, R.、Mukund, M.、Vinay, V. (編)。ソフトウェア技術と理論コンピュータサイエンスの基礎 (バンガロール)。pp. 415–422。
• Xifan Yao、Jiajun Zhou、Jiangming Zhang、Claudio R. Boer (2017)。次世代人工知能が推進するインダストリー4.0のためのインテリジェント製造からスマート製造へ、そしてさらにその先へ。2017 第5回国際エンタープライズシステム会議 (ES)。IEEE。doi : 10.1109 /es.2017.58。