ディスコキャット

DisCoCat （Categorical Compositional Distributional）は、自然言語処理のための数学的フレームワークであり、圏論を用いて分布意味論と構成性の原理を統合します。圏論的文法（通常は前群文法）における文法的な導出は、単語ベクトルのテンソル積に作用する線形写像として解釈され、文またはテキストの意味を生成します。ストリング図は、情報の流れを視覚化し、自然言語の意味論について推論するために使用されます。

このフレームワークは、ボブ・コッケ、メフルヌーシュ・サドルザデ、スティーブン・クラーク^{[ 1 ]}によって、カテゴリカル量子力学を自然言語処理に応用するものとして初めて導入されました。これは、前群文法と量子プロセスが共通の数学的構造を共有しているという観察から始まりました。つまり、どちらも剛性カテゴリ（非対称コンパクト閉カテゴリとも呼ばれる）を形成します。そのため、どちらも純粋に図式的な推論を可能にするグラフィカル計算の恩恵を受けます。量子力学との類似性は最初は非公式に保たれていましたが、最終的には量子自然言語処理の開発につながりました。^{[ 2 ] [ 3 ] [ 4 ]}

文献には、モデルの構成的側面に関する選択に応じて、DisCoCat の定義が複数存在する。しかし、既存のすべてのバージョンに共通するのは、 DisCoCat を文法のカテゴリから意味論のカテゴリへの構造保存関数としてカテゴリ的に定義することであり、これは通常、分布仮説を符号化する。

元の論文^{[ 1 ]}では、 FinVectと前群を後置詞句の範疇とみなしたカテゴリー積が用いられた。このアプローチにはいくつかの欠点がある。後置詞句の範疇のすべての平行矢印は等しいので、前群は同じ構文的に曖昧な文の異なる文法派生を区別できない。^{[ 5 ]} 同じことをより直感的に言うと、文法を記述する際には、部分順序ではなく図式を用いるということである。

この問題は、自由剛体カテゴリを考慮すると解決される。${\displaystyle \mathbf {G} }$前群文法によって生成される。^{[ 6 ]}つまり、${\displaystyle \mathbf {G} }$単語と文法の基本型を生成するオブジェクトと、矢印を生成する${\displaystyle w\to t}$プレグループタイプを割り当てる辞書エントリの場合${\displaystyle t}$言葉に${\displaystyle w}$矢印${\displaystyle f:w_{1}\dots w_{n}\to s}$文法的な派生語は${\displaystyle w_{1}\dots w_{n}}$これはカップとキャップ、つまり付加単位と共単位を持つストリング図として表現できる。^{[ 7 ]}

前群文法を自由で剛性のある圏として定義すると、DisCoCatモデルは強いモノイド関数として定義できる。${\displaystyle F:\mathbf {G} \to \mathbf {FinVect} }$詳しく説明すると、有限次元ベクトル空間を割り当てる。${\displaystyle F(x)}$各基本タイプに対して${\displaystyle x}$そしてベクトル${\displaystyle F(w)\in F(t)=F(t_{1})\otimes \dots \otimes F(t_{n})}$各辞書エントリに対応する適切なテンソル積空間において${\displaystyle w\to t}$どこ$t=t_1\dots t_n$（単語のオブジェクトはモノイド単位に送られます。${\displaystyle F(w)=1}$文の意味${\displaystyle f:w_{1}\dots w_{n}\to s}$はベクトルで与えられる ${\displaystyle F(f)\in F(s}$これはテンソルネットワークの縮約として計算できる。^{[ 8 ]}

選択の理由${\displaystyle \mathbf {FinVect} }$意味論のカテゴリーとしては、ベクトル空間が計算言語学や自然言語処理における分布的読解の一般的な設定である。分布仮説の根底にある「単語は、それが共にいる仲間によって特徴づけられる」という考え方は、意味的含意が文脈に強く依存する形容詞や動詞などの単語に意味を割り当てる際に特に重要である。

DisCoCat のバリエーションとして、文法カテゴリの選択が異なるものが提案されている。その主な動機は、前群文法が文脈自由文法と弱等価であることが証明されているという事実にある。^{[ 9 ]}バリエーションの一例として^{[ 10 ] は}、組み合わせカテゴリ文法を文法カテゴリとして選択している。

DisCoCatフレームワークは、言語学における以下の現象を研究するために使用されてきました。

• 含意^{[ 11 ]}
• 調整^{[ 12 ]}
• 下位語と上位語^{[ 13 ]}
• 密度行列の曖昧さ^{[ 14 ]}
• 談話分析^{[ 15 ]}
• 照応と省略^{[ 16 ]}
• 言語の進化^{[ 17 ]}

DisCoCatフレームワークは、自然言語処理における以下のタスクを解決するために適用されてきました。

• 単語の意味曖昧性解消^{[ 18 ] [ 19 ]}
• 意味的類似性^{[ 20 ]}
• 質問応答^{[ 21 ]}
• 機械翻訳^{[ 22 ]}
• 照応解決^{[ 23 ]}

• ランベック微積分
• 前群文法
• 分布意味論
• 構成性の原理
• ストリング図
• カテゴリー量子力学
• 量子自然言語処理

• DisCoPyは、文字列図を用いた計算を行うためのPythonツールキットです。
• lambeqは、量子自然言語処理のためのPythonライブラリです。