計算言語学

計算言語学は、自然言語の計算モデル化、および言語の問題に対する適切な計算アプローチの研究に関わる学際的な分野です。一般に、計算言語学は、言語学、コンピューターサイエンス、人工知能、数学、論理学、哲学、認知科学、認知心理学、心理言語学、人類学、神経科学などを活用します。

起源

この分野は、1950年代に米国でコンピュータを使って外国語、特にロシアの科学雑誌のテキストを英語に自動的に翻訳する取り組みが始まって以来、人工知能と重なってきた。 ^[1]ルールベースのアプローチは算術（体系的）計算を人間よりもはるかに高速かつ正確に行うことができたため、語彙、形態論、統語論、意味論も明示的なルールを使って学習できると期待された。ルールベースのアプローチが失敗した後、デビッド・ヘイズ^[2]は、この分野をAIと区別するためにこの用語を作り出し、 1970年代と1980年代に計算言語学協会（ACL）と国際計算言語学委員会（ICCL）の両方を共同設立した。言語間の翻訳の取り組みとして始まったものが、はるかに広い自然言語処理の分野に進化した。^[3]^[4]

注釈付きコーパス

英語を綿密に研究するためには、注釈付きのテキストコーパスが不可欠でした。ペン・ツリーバンク^[5]は最もよく使われているコーパスの1つでした。これはIBMのコンピュータマニュアル、電話での会話の書き起こし、その他のテキストで構成されており、合わせて450万語以上のアメリカ英語が含まれており、品詞タグ付けと構文括弧を使用して注釈が付けられていました^{[6] 。}

日本語の文章コーパスを分析したところ、文の長さに関して対数正規性のパターンが見られた。 ^[7]

言語習得のモデル化

言語習得の過程で、子どもたちは主に肯定的な証拠にのみ触れるという事実^[8]、つまり、正しい形式に関する証拠のみが提示され、正しくない形式に関する証拠は提示されないという事実^{[9]は、現在利用可能な}ディープラーニングモデルが1980年代後半には利用できなかったため、当時のモデルの限界でした^[10]。

言語は、子供の記憶力と注意力の持続時間が向上するにつれて、段階的に提示される単純な入力の組み合わせによって習得できることが示されており、^{[11]これは人間の乳児や子供の}言語習得期間が長いことを説明しています。^[11]

ロボットは言語理論のテストに使われてきました。^[12]子供と同じように学習できるように、行動、知覚、効果のマッピングを作成し、話し言葉にリンクするアフォーダンスモデルに基づいてモデルが作成されました。重要なのは、これらのロボットが文法構造を必要とせずに機能的な単語と意味のマッピングを獲得できたことです。

研究者たちはプライス方程式とポリアの壷動力学を用いて、将来の言語進化を予測するだけでなく、現代言語の進化の歴史についての洞察も与えるシステムを作り出した。^[13]

チョムスキーの理論

チョムスキーの理論は計算言語学に影響を与えており、特にチョムスキー標準形で表されるような複雑な文法構造を乳児がどのように学習するかを理解する上で影響を与えている。[ ^{14]チョムスキー標準形で理論化された「非正規文法」を乳児がどのように学習するかを解明する試みがなされてきた。}^[9]この分野の研究では、構造的アプローチと計算モデルを組み合わせて、ペン・ツリーバンクのような大規模な言語コーパスを分析し、言語習得のパターンを明らかにするのに役立っている。^[15]

参照

参考文献

^ ジョン・ハッチンス：コンピュータベースの翻訳における回顧と展望。2008年4月14日にWayback Machineにアーカイブ。MT Summit VII Proceedings、1999年、30～44ページ。
^ “死亡したメンバー”. ICCLメンバー. 2017年5月17日時点のオリジナルよりアーカイブ。2017年11月15日閲覧。
^ 自然言語処理、Liz Liddy、Eduard Hovy、Jimmy Lin、John Prager、Dragomir Radev、Lucy Vanderwende、Ralph Weischedel 著
^ アーノルド・B・バラック：翻訳機械 1975：そしてこれからの変化。
^ Marcus, M. & Marcinkiewicz, M. (1993). 「Building a large annotated corpus of English: The Penn Treebank」(PDF) . Computational Linguistics . 19 (2): 313–330. 2022-10-09にオリジナルからアーカイブ(PDF) 。
^ テイラー、アン（2003年）。「1」。ツリーバンクス。春のオランダ。pp.5-22。
^ 古橋誠・早川勇治 (2012). 「日本語の文の長さの分布の対数正規性」. 日本物理学会誌. 81 (3): 034004. Bibcode :2012JPSJ...81c4004F. doi :10.1143/JPSJ.81.034004.
^ Bowerman, M. (1988)。「否定的証拠なし」問題: 子どもはどのようにして過度に一般的な文法を構築するのを避けるのか。言語の普遍性を説明する。
^ ab Braine, MDS (1971). 文法の内在化の2種類のモデルについて。DI Slobin (編)『文法の個体発生:理論的観点』ニューヨーク: Academic Press。
^ Powers, DMW & Turk, CCR (1989).自然言語の機械学習. Springer-Verlag. ISBN 978-0-387-19557-5 .
^ ab Elman, Jeffrey L. (1993). 「ニューラルネットワークの学習と発達: 小さなことから始めることの重要性」.認知. 48 (1): 71–99. CiteSeerX 10.1.1.135.4937 . doi :10.1016/0010-0277(93)90058-4. PMID 8403835. S2CID 2105042.
^ Salvi, G.; Montesano, L.; Bernardino, A.; Santos-Victor, J. (2012). 「言語ブートストラッピング: 知覚と行動の関連から単語の意味を学習する」. IEEE Transactions on Systems, Man, and Cybernetics - Part B: Cybernetics . 42 (3): 660–71. arXiv : 1711.09714 . doi :10.1109/TSMCB.2011.2172420. PMID 22106152. S2CID 977486.
^ Gong, T.; Shuai, L.; Tamariz, M. & Jäger, G. (2012). E. Scalas (編). 「価格方程式とポリア・ウーン・ダイナミクスを用いた言語変化の研究」. PLOS ONE . 7 (3): e33171. Bibcode :2012PLoSO...733171G. doi : 10.1371/journal.pone.0033171 . PMC 3299756. PMID 22427981 .
^ Yogita, Bansal (2016). 「計算言語学への洞察」(PDF) . International Journal 4.10. p. 94 . 2024年9月22日閲覧。
^ Yogita, Bansal (2016). 「計算言語学への洞察」(PDF) . International Journal 4.10. p. 94 . 2024年9月22日閲覧。

さらに読む

Bates, M (1995). 「自然言語理解のモデル」.米国科学アカデミー紀要. 92 (22): 9977–9982. Bibcode :1995PNAS...92.9977B. doi : 10.1073/pnas.92.22.9977 . PMC 40721. PMID 7479812 .
Steven Bird、Ewan Klein、Edward Loper (2009)。『Python による自然言語処理』。O'Reilly Media。ISBN 978-0-596-51649-9。
Daniel Jurafsky および James H. Martin (2008)。音声言語処理、第 2版。Pearson Prentice Hall。ISBN 978-0-13-187321-6。
Mohamed Zakaria KURDI (2016).自然言語処理と計算言語学: 音声、形態論、統語論、第 1 巻。ISTE-Wiley。ISBN 978-1848218482。
Mohamed Zakaria KURDI (2017).自然言語処理と計算言語学: 意味論、談話、およびアプリケーション、第2巻。ISTE-Wiley。ISBN 978-1848219212。

外部リンク

計算言語学会 (ACL)
- ACL 研究論文集
- 計算言語学の ACL Wiki
CICLing 計算言語学に関する年次会議 2019-02-06ウェイバックマシンにアーカイブ
計算言語学 – アプリケーションワークショップ
Wayback Machineで無料のオンライン入門書「計算言語学」が入手可能 (2008 年 1 月 25 日アーカイブ)
言語技術の世界
テキスト、音声、言語処理のリソース
計算言語学研究グループ 2013-08-01 にWayback Machineでアーカイブ

[1] ジョン・ハッチンス：コンピュータベースの翻訳における回顧と展望。2008年4月14日にWayback Machineにアーカイブ。MT Summit VII Proceedings、1999年、30～44ページ。

[2] “死亡したメンバー”. ICCLメンバー. 2017年5月17日時点のオリジナルよりアーカイブ。2017年11月15日閲覧。

[3] 自然言語処理、Liz Liddy、Eduard Hovy、Jimmy Lin、John Prager、Dragomir Radev、Lucy Vanderwende、Ralph Weischedel 著

[4] アーノルド・B・バラック：翻訳機械 1975：そしてこれからの変化。

[5] Marcus, M. & Marcinkiewicz, M. (1993). 「Building a large annotated corpus of English: The Penn Treebank」(PDF) . Computational Linguistics . 19 (2): 313–330. 2022-10-09にオリジナルからアーカイブ(PDF) 。

[6] テイラー、アン（2003年）。「1」。ツリーバンクス。春のオランダ。pp.5-22。

[autogenerated3-7] 古橋誠・早川勇治 (2012). 「日本語の文の長さの分布の対数正規性」. 日本物理学会誌. 81 (3): 034004. Bibcode :2012JPSJ...81c4004F. doi :10.1143/JPSJ.81.034004.

[8] Bowerman, M. (1988)。「否定的証拠なし」問題: 子どもはどのようにして過度に一般的な文法を構築するのを避けるのか。言語の普遍性を説明する。

[autogenerated1971-9] Braine, MDS (1971). 文法の内在化の2種類のモデルについて。DI Slobin (編)『文法の個体発生:理論的観点』ニューヨーク: Academic Press。

[powers1989-10] Powers, DMW & Turk, CCR (1989).自然言語の機械学習. Springer-Verlag. ISBN 978-0-387-19557-5 .

[autogenerated1993-11] Elman, Jeffrey L. (1993). 「ニューラルネットワークの学習と発達: 小さなことから始めることの重要性」.認知. 48 (1): 71–99. CiteSeerX 10.1.1.135.4937 . doi :10.1016/0010-0277(93)90058-4. PMID 8403835. S2CID 2105042.

[12] Salvi, G.; Montesano, L.; Bernardino, A.; Santos-Victor, J. (2012). 「言語ブートストラッピング: 知覚と行動の関連から単語の意味を学習する」. IEEE Transactions on Systems, Man, and Cybernetics - Part B: Cybernetics . 42 (3): 660–71. arXiv : 1711.09714 . doi :10.1109/TSMCB.2011.2172420. PMID 22106152. S2CID 977486.

[13] Gong, T.; Shuai, L.; Tamariz, M. & Jäger, G. (2012). E. Scalas (編). 「価格方程式とポリア・ウーン・ダイナミクスを用いた言語変化の研究」. PLOS ONE . 7 (3): e33171. Bibcode :2012PLoSO...733171G. doi : 10.1371/journal.pone.0033171 . PMC 3299756. PMID 22427981 .

[14] Yogita, Bansal (2016). 「計算言語学への洞察」(PDF) . International Journal 4.10. p. 94 . 2024年9月22日閲覧。

[15] Yogita, Bansal (2016). 「計算言語学への洞察」(PDF) . International Journal 4.10. p. 94 . 2024年9月22日閲覧。