知識表現と推論

知識表現と推論（KRR、KR&R、またはKR²）は、人工知能（AI）の1分野であり、世界に関する情報を、コンピュータシステムが病状の診断や自然言語対話などの複雑なタスクを解決するために使用できる形式で表現することを目的とします。知識表現は、人間がどのように問題を解決し、知識を表現するかについての心理学^{[1]の知見を取り入れ、複雑なシステムの設計と構築を容易にする}形式を設計します。知識表現と推論は、さまざまな種類の推論を自動化するために、論理学の知見も取り入れています。

知識表現形式の例としては、意味ネットワーク、フレーム、ルール、論理プログラム、オントロジーなどが挙げられます。自動推論エンジンの例としては、推論エンジン、定理証明器、モデルジェネレーター、分類器などが挙げられます。

コンピュータによる知識表現に関する最も初期の研究は、1959 年にAllen NewellとHerbert A. Simonが開発したGeneral Problem Solver (GPS) システムや、同じく 1959 年にJohn McCarthyが提案したAdvice Takerなどの一般的な問題解決に焦点を当てていました。GPS は、計画と分解のためのデータ構造を特徴としていました。システムは目標から始まります。次に、その目標をサブ目標に分解し、各サブ目標を達成できる戦略の構築に着手します。一方、Advisor Taker は、述語計算を使用して常識的な推論を表現することを提案しました。

人工知能（AI）における知識表現の初期のアプローチの多くは、今日の知識グラフに似たグラフ表現とセマンティックネットワークを使用していました。このようなアプローチでは、問題解決はA*検索アルゴリズムのようなグラフトラバーサル^[2]またはパス検索の形式でした。典型的なアプリケーションには、ロボットの計画形成やゲームプレイが含まれます。

他の研究者は、数学論理を使用して数学を形式化し、数学定理の証明を自動化するという動機から、一階述語論理の自動定理証明器の開発に焦点を当てました。この方向への大きな一歩は、ジョン・アラン・ロビンソンによる解決法の開発でした。

一方、ジョン・マッカーシーとパット・ヘイズは、因果律に関する常識的知識の論理的表現として状況計算を開発した。コーデル・グリーンは、状況計算に解像度を適用してロボットの計画形成を行う方法を示した。また、解像度を質問応答や自動プログラミングに使用する方法も示した。^[3]

対照的に、マサチューセッツ工科大学（MIT）の研究者は、解決統一証明手順パラダイムを拒否し、代わりに知識の手続き的埋め込みを提唱しました。^[4]論理表現の使用と手続き表現の使用の間に生じた矛盾は、1970年代初頭に論理プログラミングとPrologの開発によって解決され、 SLD解決を使用してホーン節を目標削減手順として 扱うようになりました。

論理プログラミングの初期の発展は主にヨーロッパで起こりました。北米では、エド・ファイゲンバウムやフレデリック・ヘイズ・ロスなどのAI研究者が、汎用推論よりもドメイン固有の知識の表現を主張しました。^[5]

これらの取り組みは心理学における認知革命につながり、知識表現に焦点を当てたAIの段階に至り、1970年代と80年代にはエキスパートシステム、プロダクションシステム、フレーム言語などが生まれました。AIは一般的な問題解決者ではなく、医療診断などの特定のタスクで人間の能力に匹敵するエキスパートシステムに焦点を移しました。^[6]

エキスパートシステムは、AIシステムを、問題領域に関する事実とルールを含む知識ベースと、知識ベース内の知識を適用して領域内の質問に答え、問題を解決する推論エンジンに分割するという、今日でも使用されている用語をもたらしました。これらの初期のシステムでは、知識ベース内の事実はかなりフラットな構造、つまりルールで使用される変数の値に関するアサーションである傾向がありました。^[7]

一方、マービン・ミンスキーは1970年代半ばにフレームの概念を開発しました。 ^[8]フレームはオブジェクトクラスに似ています。これは、世界にある物事、問題、潜在的な解決策を説明するカテゴリの抽象的な記述です。フレームはもともと、自然言語の理解や、レストランで食べ物を注文するなどのさまざまなデフォルトの期待が検索空間を狭め、システムが動的な状況に対して適切な応答を選択できるようにする社会的設定など、人間の相互作用に向けられたシステムで使用されていました。

フレーム コミュニティとルールベースの研究者が、それぞれのアプローチの間に相乗効果があることに気付くまで、そう時間はかかりませんでした。フレームは、クラス、サブクラス、スロット (データ値) として記述され、可能な値にさまざまな制約がある現実世界を表現するのに適しています。ルールは、医療診断を行うプロセスなどの複雑なロジックを表現して利用するのに適しています。フレームとルールを組み合わせた統合システムが開発されました。最も強力でよく知られているものの 1 つは、Intellicorpの 1983 年のKnowledge Engineering Environment (KEE)です。KEE には、前方連鎖と後方連鎖を備えた完全なルール エンジンがありました。また、トリガー、スロット (データ値)、継承、メッセージ パッシングを備えた完全なフレーム ベースの知識ベースもありました。メッセージ パッシングは AI ではなくオブジェクト指向コミュニティで生まれましたが、KEE などの環境や、Symbolics、Xerox、Texas Instrumentsの Lisp マシンのオペレーティング システムで、AI 研究者にもすぐに採用されました。^[9]

フレーム、ルール、オブジェクト指向プログラミングの統合は、さまざまな研究プロジェクトから派生した KEE や Symbolics などの商業ベンチャーによって大きく推進されました。同時に、商業的焦点が薄く、数理論理学と自動定理証明によって推進された別の流れの研究もありました。^[要出典]この研究で最も影響力のある言語の 1 つは、80 年代半ばの KL -ONE言語でした。KL-ONE は、厳密なセマンティクス、 Is-A 関係などの概念の正式な定義を備えたフレーム言語でした。^[10] KL-ONE と、Loom などのその影響を受けた言語には、IF-THEN ルールではなく形式論理に基づく自動推論エンジンがありました。この推論エンジンは分類子と呼ばれます。分類子は、一連の宣言を分析して新しいアサーションを推論できます。たとえば、クラスを、正式に指定されていない他のクラスのサブクラスまたはスーパークラスとして再定義します。このようにして、分類器は推論エンジンとして機能し、既存の知識ベースから新しい事実を推測することができます。分類器は知識ベース（KL-ONE言語の場合はオントロジーとも呼ばれます）の一貫性チェックも提供できます。^[11]

知識表現研究のもう一つの分野は、常識的推論の問題でした。人間の自然言語で機能するソフトウェアを作ろうとする試みから得られた最初の認識の1つは、人間は、常識的な物理学の基本原理、因果関係、意図など、私たちが当然のことと思っているが人工エージェントにはまったく明らかではない、現実世界についての広範な知識の基盤を定期的に利用しているということでした。一例はフレーム問題で、イベント駆動型ロジックでは、外部の力によって動かされない限り、物事はある瞬間から次の瞬間まで位置を維持するという公理が必要です。自然言語を使用して人間と会話し、世界についての基本的な発言や質問を処理できる真の人工知能エージェントを作成するには、この種の知識を表現することが不可欠です。^[12] McCarthyとHayesの状況計算に加えて、この問題に取り組む最も野心的なプログラムの1つは、Doug LenatのCycプロジェクトでした。 Cycは独自のフレーム言語を確立し、多数のアナリストがその言語で常識的推論のさまざまな領域を文書化しました。Cycに記録された知識には、時間、因果関係、物理学、意図などの常識モデルが含まれていました。^[13]

知識表現の出発点は、1985年にブライアン・C・スミスによって初めて定式化された知識表現仮説である。 ^[14]

機械的に具現化された知的プロセスは、a) 外部の観察者である私たちが、プロセス全体が示す知識の命題的説明を表すために自然に取る構造的要素と、b) そのような外部の意味的帰属とは独立して、その知識を顕在化する行動を生み出す上で形式的だが因果的かつ本質的な役割を果たす構造的要素から構成されます。

知識表現の研究で最も活発な分野の一つがセマンティックウェブです。^[要出典]セマンティックウェブは、現在のインターネットの上にセマンティクス（意味）のレイヤーを追加しようとしています。セマンティックウェブは、キーワードでウェブサイトやページをインデックスするのではなく、概念の大規模なオントロジーを作成します。概念の検索は、従来のテキストのみの検索よりも効率的です。フレーム言語と自動分類は、将来のセマンティックウェブのビジョンにおいて大きな役割を果たします。自動分類により、開発者は絶えず進化する知識ネットワークに秩序をもたらす技術を手に入れることができます。静的で臨機応変に進化できないオントロジーを定義することは、インターネットベースのシステムにとって非常に制限的になります。分類子技術は、インターネットの動的な環境に対処する機能を提供します。

国防高等研究計画局（DARPA）が主に資金提供している最近のプロジェクトでは、フレーム言語と分類器をXMLベースのマークアップ言語と統合しています。リソース記述フレームワーク（RDF）は、オブジェクトのクラス、サブクラス、およびプロパティを定義する基本的な機能を提供します。Webオントロジー言語（OWL）は、追加のセマンティクスレベルを提供し、分類エンジンとの統合を可能にします。^{[15] [16]}

知識表現は、複雑な問題を解決するために使用できる世界に関する情報をキャプチャするコンピューター表現の設計に重点を置いた人工知能の分野です。

知識表現の正当性は、従来の手続き型コードは複雑な問題を解決するために使用する最適な形式ではないということです。知識表現により、複雑なソフトウェアの定義と保守が手続き型コードよりも簡単になり、エキスパート システムで使用できるようになります。

たとえば、コードではなくビジネス ルールの観点から専門家と話し合うことで、ユーザーと開発者の間の意味上のギャップが減り、複雑なシステムの開発がより実用的になります。

知識表現は自動推論と密接に関係しています。知識を明示的に表現する主な目的の1つは、その知識について推論し、推論を行い、新しい知識を主張することなどであるためです。事実上、すべての知識表現言語には、システムの一部として推論エンジンまたは推論エンジンがあります。^[17]

知識表現形式を設計する際の重要なトレードオフは、表現力と扱いやすさの間のトレードオフです。^[18] 第一階述語論理（FOL）は、高い表現力と数学の多くを形式化する能力を備えており、知識表現言語の表現可能性を比較するための標準となっています。

おそらく、FOL には、知識表現形式として、使いやすさと実装の効率という 2 つの欠点があります。まず、FOL は表現力が高いため、同じ情報をさまざまな方法で表現できます。そのため、ユーザーは、数学的に複雑な方法で表現された知識を形式化したり理解したりすることが困難になることがあります。次に、証明手順が複雑なため、ユーザーは複雑な証明や説明を理解するのが難しく、実装を効率的に行うことも困難になることがあります。結果として、制限のない FOL は、多くのソフトウェア開発者にとって脅威となる可能性があります。

1970年代のAI研究における重要な発見の1つは、FOLほどの表現力を持たない言語でも、FOLとほぼ同等の表現力を持ちながら、平均的な開発者とコンピュータの両方にとって理解しやすいということだった。データベースからセマンティックネット、プロダクションシステムまで、初期のAI知識表現形式の多くは、表現力と表現の自然さや効率性のバランスをとる方法についてさまざまな設計上の決定を下していたと見ることができる。^{[19]特に、このバランスを取る行為が、}ルールベースのエキスパートシステムにおけるIF-THENルールの開発の原動力となった。

同様のバランスをとる行為は、論理プログラミング(LP) と論理プログラミング言語Prologの開発の動機でもありました 。論理プログラムはルールベースの構文を持ち、プロダクションルールの IF-THEN 構文と混同されやすいです。しかし、論理プログラムには明確に定義された論理的意味論がありますが、プロダクションシステムにはそれがありません。

論理プログラミングの最も初期の形式は、FOLのホーン節のサブセットに基づいていました。しかし、後のLPの拡張には失敗推論規則としての否定が含まれ、LPはデフォルト推論のための非単調な論理になりました。結果として得られるLPの拡張セマンティクスは、ホーン節とFOLの標準セマンティクスのバリエーションであり、一意の名前仮定と閉世界仮定の形式を含むデータベースセマンティクスの一形式です^[20]。これらの仮定は、FOLの標準セマンティクスを使用して明示的に述べて推論するのがはるかに困難です。

1993年に発表されたこのテーマに関する重要な論文で、MITのランドール・デイビスは知識表現フレームワークを分析するための5つの異なる役割を概説した。^[21]

• 「知識表現（KR）は、最も根本的には、物自体の代理物、代用物であり、エンティティが行動するのではなく考えることによって結果を決定できるようにするために使用されます。」^[21]つまり、「世界の中で行動するのではなく、世界について推論することによって。」^[21]
• 「それは存在論的コミットメントの集合である」^[21]、すなわち「どのような言葉で世界について考えるべきかという問いに対する答えである」^[21]。
• 「それは知的推論の断片的な理論であり、3つの要素で表現されています。(i) 知的推論の表現の基本的な概念、(ii) 表現が認可する推論の集合、(iii) 表現が推奨する推論の集合です。」^[21]
• 「それは実用的に効率的な計算のための媒体である」^[21]、すなわち「思考が達成される計算環境である。この実用的効率への貢献の1つは、表現が情報を整理するためのガイダンスを提供することである」^[21]。「それにより、推奨される推論を容易に行うことができる」^{[21] 。}
• 「それは人間の表現の媒体である」^[21]、すなわち「世界について語る言語である」^{[21] 。}

知識表現と推論は、セマンティック ウェブを実現する重要な技術です。自動分類機能を備えたフレーム モデルに基づく言語は、既存のインターネットの上にセマンティクスのレイヤーを提供します。現在一般的に行われているテキスト文字列による検索ではなく、論理クエリを定義して、そのクエリにマップされるページを見つけることが可能です。^[15]これらのシステムの自動推論コンポーネントは、分類子と呼ばれるエンジンです。分類子は、ルールではなく知識ベース内の包含関係に焦点を当てています。分類子は新しいクラスを推論し、新しい情報が利用可能になるとオントロジーを動的に変更することができます。この機能は、インターネットの絶えず変化し進化する情報空間に最適です。^[22]

セマンティックウェブは、知識表現と推論の概念をXMLベースのマークアップ言語と統合します。リソース記述フレームワーク（RDF）は、Is-A関係やオブジェクトプロパティなどの基本機能を使用して、インターネット上の知識ベースのオブジェクトを定義するための基本的な機能を提供します。Webオントロジー言語（OWL）は、追加のセマンティクスを追加し、自動分類推論システムと統合します。^[16]

1985年にロン・ブラクマンは知識表現の核心的な問題を次のように分類した。^[23]

• プリミティブ。知識を表現するために使用される基礎となるフレームワークは何ですか?セマンティック ネットワークは、最初の知識表現プリミティブの 1 つでした。また、一般的な高速検索のためのデータ構造とアルゴリズム。この分野では、コンピューター サイエンスのデータ構造とアルゴリズムの研究と重なり合っています。初期のシステムでは、ラムダ計算をモデルにした Lisp プログラミング言語が、機能的な知識表現の形式としてよく使用されていました。フレームとルールは次の種類のプリミティブです。フレーム言語には、フレーム データに対する制約を表現して適用するためのさまざまなメカニズムがありました。フレーム内のすべてのデータはスロットに格納されます。スロットは、エンティティ リレーション モデリングにおけるリレーションや、オブジェクト指向モデリングにおけるオブジェクト プロパティに類似しています。プリミティブのもう 1 つの手法は、一階述語論理(FOL) をモデルにした言語を定義することです。最もよく知られている例はPrologですが、専用の定理証明環境も多数あります。これらの環境は、論理モデルを検証し、既存のモデルから新しい理論を導き出すことができます。本質的には、定理証明は論理学者がモデルを分析する際に行うプロセスを自動化します。定理証明技術は、ソフトウェア エンジニアリングの分野では特に実用的な用途があります。たとえば、ソフトウェア プログラムが形式的な論理仕様に厳密に準拠していることを証明できます。
• メタ表現。これは、コンピュータ サイエンスではリフレクションの問題としても知られています。これは、形式主義が自身の状態に関する情報にアクセスできる能力を指します。例としては、SmalltalkとCLOSのメタ オブジェクト プロトコルが挙げられます。これにより、開発者はクラス オブジェクトに実行時アクセスでき、実行時でも知識ベースの構造を動的に再定義できます。メタ表現とは、知識表現言語自体がその言語で表現されることを意味します。たとえば、ほとんどのフレーム ベースの環境では、すべてのフレームはフレーム クラスのインスタンスになります。そのクラス オブジェクトは実行時に検査できるため、オブジェクトは内部構造やモデルの他の部分の構造を理解し、変更することもできます。ルール ベースの環境では、ルールも通常、ルール クラスのインスタンスです。ルールのメタ プロトコルの一部は、ルールの起動を優先するメタ ルールでした。
• 不完全性。伝統的な論理では、数学の世界ではなく現実の世界を扱うために、追加の公理と制約が必要です。また、ステートメントに信頼度を関連付けることが役立つことがよくあります。つまり、「ソクラテスは人間である」とだけ言うのではなく、「ソクラテスは50％の信頼度で人間である」と言うのです。これは、エキスパートシステムの研究から商用ツールに移行した初期のイノベーションの1つであり、確実性の要因をルールと結論に関連付ける機能です。この分野の後の研究は、ファジー論理として知られています。^[24]
• 定義と普遍性と事実とデフォルト性。普遍性とは、「すべての人間は死ぬ」など、世界についての一般的な記述です。事実は、「ソクラテスは人間であり、したがって死ぬ」など、普遍性の具体的な例です。論理的に言えば、定義と普遍性は普遍的な量化に関するものであり、事実とデフォルトは存在的な量化に関するものです。知識表現のすべての形式は、この側面に対処する必要があり、そのほとんどは、普遍性を集合とサブセットとして、定義をそれらの集合の要素としてモデル化する、集合論の何らかの変形を使用して対処します。
• 非単調推論。非単調推論は、さまざまな種類の仮説的推論を可能にする。システムは、主張された事実をルールと、それらを正当化するために使用される事実に関連付け、それらの事実が変化すると、依存する知識も更新する。ルールベースのシステムでは、この機能は真理維持システムとして知られている。^[25]
• 表現の適切性。BrachmanとほとんどのAI研究者が表現の適切性を測定するために使用する基準は通常、第一階述語論理（FOL）です。理論的な制限により、FOLを完全に実装することは現実的ではありません。研究者は、表現がどの程度表現力豊かであるか（FOLの完全な表現力のどの程度か）を明確にする必要があります。^[26]
• 推論効率。これは、システムの実行時の効率を指します。知識ベースを更新し、推論者が妥当な時間内に新しい推論を展開する能力です。ある意味では、これは表現の適切さとは裏腹です。一般に、表現が強力であればあるほど、表現の適切さも増し、自動推論エンジンの効率は低下します。特に知識表現技術の初期のアプリケーションでは、効率が問題になることがよくありました。それらは通常、当時のより伝統的なプラットフォームに比べて遅い Lisp などのインタープリタ環境で実装されていました。

知識ベース システムの初期の頃は、知識ベースはかなり小さいものでした。概念実証のデモンストレーションを行うのではなく、実際の問題を実際に解決することを目的とした知識ベースでは、明確に定義された問題に重点を置く必要がありました。たとえば、医療診断という全体的なトピックだけでなく、特定の種類の病気の医療診断も対象となります。

知識ベース技術が拡大するにつれ、より大規模な知識ベースと、相互に通信および統合できるモジュール式知識ベースの必要性が明らかになりました。これにより、複数のプロジェクトで使用できる大規模な知識ベースの設計と構築を行う、オントロジー エンジニアリングという分野が生まれました。この分野の主要な研究プロジェクトの 1 つがCycプロジェクトでした。Cyc は、専門知識だけでなく常識的な知識も含む巨大な百科事典的な知識ベースを構築する試みでした。人工知能エージェントを設計するにあたり、人間が当然のこととして受け入れている常識的な知識を表現することが、自然言語を使用して人間と対話できる AI を作成するために不可欠であることがすぐに認識されました。Cyc は、この問題に対処するためのものでした。彼らが定義した言語はCycLとして知られていました。

CycL 以降、数多くのオントロジー言語が開発されてきた。そのほとんどは宣言型言語であり、フレーム言語であるか、一階述語論理に基づいている。モジュール性、つまり特定のドメインや問題空間の境界を定義する能力は、これらの言語にとって不可欠である。なぜなら、トム・グルーバーが述べているように、「すべてのオントロジーは条約、つまり共有するという共通の動機を持つ人々の間の社会的合意である」からである。常に多くの競合する異なる見解が存在し、それが汎用オントロジーを不可能にしている。汎用オントロジーはあらゆるドメインに適用可能でなければならず、異なる知識領域を統合する必要がある。^[27]

様々なタスクドメインのオントロジーを構築しようとする研究には長い歴史があります。例えば、液体のオントロジー^[28]、電子回路を表現するために広く使用されている集中要素モデル（例^[29]）、時間、信念、さらにはプログラミング自体のオントロジーなどです。これらはそれぞれ、世界の一部を見る方法を提供します。

たとえば、集中要素モデルでは、回路をコンポーネントとコンポーネント間の接続で考え、信号が接続に沿って瞬時に流れるように考えます。これは便利な見方ですが、唯一の見方ではありません。デバイス内の電気力学に注意を払う必要がある場合は、別のオントロジーが発生します。ここでは、信号は有限の速度で伝播し、以前は I/O 動作を持つ単一のコンポーネントと見なされていたオブジェクト (抵抗器など) は、電磁波が流れる拡張された媒体として考えなければならない場合があります。

もちろん、オントロジーはさまざまな言語や表記法 (ロジック、LISP など) で記述できますが、重要な情報はその言語の形式ではなくコンテンツ、つまり世界についての考え方として提供される概念のセットです。簡単に言えば、重要なのは接続やコンポーネントなどの概念であり、それらを述語として記述するか LISP 構造として記述するかの選択ではありません。

いずれかのオントロジーを選択するというコミットメントによって、手元のタスクのビューがまったく異なるものになることがあります。同じデバイスに対して、電気力学的ビューではなく、回路の集中素子ビューを選択した場合に生じる違いを考えてみましょう。2 つ目の例として、ルールの観点から見た医療診断 ( MYCINなど) は、フレームの観点から見た同じタスク (INTERNIST など) とは大幅に異なります。MYCIN では、医療の世界は症状と病気を結び付ける経験的関連性で構成されていると見なしますが、INTERNIST では、一連のプロトタイプ (特に典型的な病気) を手元のケースと照合するものと見なします。

• 人間の思考のアルファベット
• 信念の修正
• チャンキング（心理学）
• 常識的な知識ベース
• 概念グラフ
• DIKWピラミッド
• DATR、語彙知識表現のための言語
• FO(.) 、一階述語論理に基づくKR言語
• 論理プログラミング
• 論理言語モデリング
• ナレッジグラフ
• ナレッジマネジメント
• マインドマップ
• セマンティックテクノロジー
• 評価ベースのシステム

• ロナルド・J・ブラクマン「IS-Aとは何か、そうでないものとは何か。セマンティックネットワークにおける分類リンクの分析」IEEE Computer、16 (10)、1983年10月
• ロナルド・J・ブラクマン、ヘクター・J・レベスク『 知識表現と推論』、モーガン・カウフマン、2004年ISBN 978-1-55860-932-7 
• ロナルド・J・ブラクマン、ヘクター・J・レベスク（編）『知識表現の読み物』、モーガン・カウフマン、1985年、ISBN 0-934613-01-X 
• Chein, M.、Mugnier, M.-L. (2009)、「グラフベースの知識表現：概念グラフの計算基盤」、Springer、2009、ISBN 978-1-84800-285-2。 
• ランドール・デイビス、ハワード・シュローブ、ピーター・ゾロヴィッツ「知識表現とは何か？」AIマガジン、14(1):17-33、1993
• ロナルド・フェイギン、ジョセフ・Y・ハルパーン、ヨラム・モーゼス、モシェ・Y・ヴァルディ 『知識についての推論』MIT 出版、1995 年、ISBN 0-262-06162-7 
• Jean-Luc Hainaut、Jean-Marc Hick、Vincent Englebert、Jean Henrard、Didier Roland: IS-A 関係の実装について。 ER 1996: 42-57
• ヘルマン・ヘルビッヒ：知識表現と自然言語の意味論、シュプリンガー、ベルリン、ハイデルベルク、ニューヨーク 2006
• フランク・ファン・ハーメレン、ウラジミール・リフシッツ、ブルース・ポーター: 知識表現ハンドブック 2007。
• アーサー・B・マークマン：知識表現 ローレンス ・エルバウム・アソシエイツ、1998年
• ジョン・F・ソーワ：知識表現：論理的、哲学的、計算的基礎。ブルックス/コール：ニューヨーク、2000年
• エイドリアン・ウォーカー、マイケル・マッコード、ジョン・F・ソーヴァ、ウォルター・G・ウィルソン：知識システムとProlog、第2版、アディソン・ウェスレー、1990年
• メアリー・アン・ウィリアムズとハンス・ロット：「Frontiers in Belief Revision、Kluwer」、2001 年。

ウィキメディア・コモンズには、知識表現に関連するメディアがあります。

• 知識表現とは何か？ ランドール・デイビス他著
• Pejman Makhfi による知識モデリング入門
• イタリア、ボルツァーノ自由大学、コンピュータサイエンス学部、エンリコ・フランコーニによる記述論理入門コース
• DATR 語彙知識表現言語
• Loom プロジェクト ホームページ
• 知識表現と推論の原理を取り入れる
• 記述ロジックの実践: 古典的なアプリケーション
• ルールマークアップイニシアチブ
• Nelements KOS - 非フリーの 3D 知識表現システム