Loading article…
Google ニューラル機械翻訳( GNMT ) は、Google が開発し、2016 年 11 月に導入された、現在は廃止されたニューラル機械翻訳(NMT) システムで、人工ニューラル ネットワークを使用してGoogle 翻訳の流暢さと精度を向上させていました。[ 1 ] [ 2 ] [ 3 ] [ 4 ]ニューラル ネットワークは、エンコーダとデコーダの 2 つの主要ブロックで構成され、どちらも8 つの 1024 幅のレイヤーを持つLSTMアーキテクチャで、それらを接続するために単純な 1 層の 1024 幅のフィードフォワードアテンション メカニズムが使用されています。[ 4 ] [ 5 ]パラメータの総数は、1億 6000 万以上[ 6 ] 、約2億 1000 万[ 7 ]、2億 7800 万[ 8 ] 、または 3億 8000 万[ 9 ]と様々に記述されています。WordPieceトークナイザーとビーム サーチデコーディング ストラテジーが使用されています。Tensor Processing Unit上で動作しています。
2020年までに、このシステムはTransformerエンコーダとRNNデコーダに基づく別の深層学習システムに置き換えられた。[ 10 ]
GNMT は、システムが何百万もの言語翻訳の例から学習する例ベース(EBMT)機械翻訳手法を適用することで翻訳の品質を向上させました。 [ 2 ] GNMT の提案されたシステム学習アーキテクチャは、最初に Google 翻訳でサポートされている 100 を超える言語でテストされました。[ 2 ]大規模なエンドツーエンドのフレームワークにより、システムは時間をかけてより良く、より自然な翻訳を作成するように学習します。[ 1 ] GNMT は、部分ごとにではなく、一度に文全体を翻訳しようとします。[ 1 ] GNMT ネットワークは、フレーズからフレーズへの翻訳を記憶するのではなく、文の意味をエンコードすることによって、異言語機械翻訳を実行できます。 [ 2 ] [ 11 ]
Google Brainプロジェクトは、2011年にGoogleフェローのジェフ・ディーン、Google研究員のグレッグ・コラード、スタンフォード大学コンピュータサイエンス教授のアンドリュー・ンによって、「秘密のGoogle X研究室」 [ 12 ]で設立されました。[ 13 ] [ 14 ] [ 15 ]ン氏の研究は、Googleとスタンフォード大学における最大のブレークスルーのいくつかにつながっています。[ 12 ]
2016 年 11 月に Google ニューラル機械翻訳システム (GNMT) が導入されました。それ以来、Google 翻訳は、2007 年 10 月から使用されていた独自の社内 SMT 技術による従来の統計的手法(SMT) [ 1 ] [ 16 ] [ 17 ] [ 18 ]に代わり、ニューラル機械翻訳 (NMT) を使用するようになりました。[ 19 ] [ 20 ]
GNMTのトレーニングは当時大きな取り組みであり、2018年のOpenAIの推定では、約79ペタFLOP日（または7e21 FLOPs）の計算量を要し、これは2014年のSeq2seqモデル[ 21 ]よりも1.5桁大きいものでした（ただし、2021年のGPT-J-6B [ 22 ]より約2倍小さい）。
Google 翻訳の NMT システムは、ディープラーニングが可能な大規模な人工ニューラルネットワークを使用しています。[ 1 ] [ 2 ] [ 3 ] GNMT は、何百万もの例を使用することで翻訳の品質を向上させ、[ 2 ]より広い文脈を使用して最も関連性の高い翻訳を推測します。結果は、文法に基づいた人間の言語に近づくように再構成および適応されます。[ 1 ] GNMT の提案されたシステム学習のアーキテクチャは、Google 翻訳がサポートする 100 を超える言語で最初にテストされました。[ 2 ] GNMT は独自の普遍的な中間言語を作成するのではなく、心理学と言語学の洞察を使用して多くの言語間の共通点を見つけることを目指しました。[ 23 ]新しい翻訳エンジンは、2016 年 11 月に英語とフランス語、ドイツ語、スペイン語、ポルトガル語、中国語、日本語、韓国語、トルコ語の 8 言語で最初に有効になりました。[ 24 ] 2017 年 3 月に、ロシア語、ヒンディー語、ベトナム語の 3 つの言語が追加され、タイ語は後にサポートが追加されました。[ 25 ] [ 26 ]同じ月に、Google 翻訳コミュニティの協力により、ヘブライ語とアラビア語のサポートも追加されました。[ 27 ] 2017 年 4 月中旬、Google オランダは、オランダ語と英語に関連するその他のヨーロッパ言語のサポートを発表しました。[ 28 ] 2017 年 4 月末には、ヒンディー語、ベンガル語、マラーティー語、グジャラート語、パンジャブ語、タミル語、テルグ語、マラヤーラム語、カンナダ語の 9 つのインドの言語のサポートが追加されました。[ 29 ]
2020年までに、Googleはトランスフォーマーに基づく別のニューラルネットワークシステムを使用するように方法論を変更し、NMTを段階的に廃止した。[ 30 ]
GNMTシステムは、以前のGoogle翻訳よりも改良されており、「ゼロショット翻訳」、つまりある言語から別の言語へ直接翻訳できるようになったと言われています。たとえば、日本語-英語と韓国語-英語の翻訳のみを学習したとしても、日本語-韓国語の翻訳を実行できる可能性があります。このシステムは、言語に依存しない中間言語表現（「インターリングア」）を生成することを学習したようで、インターリングアとの間で変換することでゼロショット翻訳を実行できます。[ 2 ]以前のGoogle翻訳は、ある言語から別の言語へ直接翻訳するのではなく、まずソース言語を英語に翻訳してから英語をターゲット言語に翻訳していました。 [ 11 ]
2019年7月にAnnals of Internal Medicineに掲載された研究では、「Google翻訳は英語以外の言語の試験を翻訳するための有効かつ正確なツールである」ことが判明しました。機械翻訳された試験を読んだレビュー担当者間の意見の相違は、翻訳エラーによるものだけでした。多くの医学研究は、レビュー担当者が言語を理解できないために系統的レビューから除外されているため、GNMTは、そのようなレビューにおけるバイアスを減らし、精度を向上させる可能性を秘めています。[ 31 ]
2021年12月現在、Google翻訳のすべての言語がGNMTをサポートしており、ラテン語が最新の追加言語です。
{{cite journal}}:ジャーナルを引用するには|journal=（ヘルプ）