機械翻訳（MT）とは、ソフトウェアを用いて、ある自然言語から別の自然言語へテキストまたは音声を翻訳することである。その歴史は70年以上にわたり、単純な辞書ベースの単語置換から、人工知能と深層学習を活用した高度なシステムへと進化してきた。この分野は、計算能力、言語理論、デジタルテキストの入手可能性の変化によって推進され、楽観と失望の周期的な繰り返しによって形成されてきた。
機械翻訳に関する最初の実用的な提案は、電子コンピュータの開発と並行して1940年代に登場した。1947年、ロックフェラー財団の数学者であるウォーレン・ウィーバーは、翻訳を暗号学または統計的推論の問題と見なすことができるとする覚書を執筆した。この考えは、1954年にジョージタウン大学とIBMの共同研究が、固定辞書と文法規則を用いてロシア語の文の小規模な集合を英語に翻訳するシステムを発表した際の、MTの最初の公開デモンストレーションの基盤を築いた。限定的ではあったが、このデモンストレーションは米国で広範な熱意と連邦政府の資金提供を生み出した。
初期のルールベースシステム
1950年代から1960年代にかけて、ほとんどのMT研究はルールベースのアプローチに従っていた。これらのシステムは、手作業で作成された辞書と文法規則に依存して、ソーステキストを解析し、単語と構造をターゲット言語にマッピングし、出力を生成した。代表的な例としては、1960年代後半に開発され、後に米国空軍と欧州委員会で使用されたSystranシステムが挙げられる。しかし、自然言語の複雑さ、その曖昧さ、慣用句、不規則な文法は、初期の研究者が予想したよりもはるかに大きいことが判明した。1966年、米国政府が委託した自動言語処理諮問委員会（ALPAC）の報告書は、MTが人間の翻訳よりも遅く、正確性が低く、費用がかかると結論付け、資金の大幅な削減と、MTにとって「AIの冬」と呼ばれる期間をもたらした。
挫折にもかかわらず、研究はさまざまな形で継続された。1970年代から1980年代には、中間言語で意味を表現しようとする転移ベースおよびインタリンガベースのシステムが開発された。これらのアプローチは広範な言語知識を必要とし、スケーリングが困難であった。日本の富士通やNEC製品などの商用システムが登場したが、その品質は狭い領域に限定されていた。
統計的およびコーパスベースの手法
1980年代後半から1990年代にかけて、統計的機械翻訳（SMT）の台頭により、大きなパラダイムシフトが発生した。明示的な規則に依存する代わりに、SMTは大規模な並列テキスト（バイリンガルコーパス）のコレクションを使用して翻訳確率を学習した。1990年代初頭にカーネギーメロン大学とIBMリサーチで開発されたIBMモデルは、このアプローチを形式化し、翻訳をソース文が与えられたときに最も可能性の高いターゲット文を見つける問題として扱った。その後、2000年代初頭に導入されたフレーズベースのSMTは、個々の単語ではなく連続する単語シーケンスを翻訳することで品質を向上させた。2006年に開始されたGoogle翻訳などのシステムは、当初SMTを使用し、大規模なウェブ規模のコーパスを活用した。
SMTは大きな進歩を表していたが、語順、長距離依存関係、および稀な単語には依然として苦労していた。MITコンピュータ科学・人工知能研究所などの研究者は、言語構造を組み込んだ構文ベースのモデルを探求したが、これらは複雑であり、より単純なフレーズベースのシステムを上回ることはしばしばできなかった。
ニューラル機械翻訳
2014年、ニューラル機械翻訳（NMT）の導入により、2番目の大きなブレークスルーがもたらされた。NMTは、ニューラルネットワークアーキテクチャ、特にエンコーダ・デコーダ構造を持つシーケンス・ツー・シーケンスモデルを使用して、文全体を一度に翻訳する。トロント大学とGoogleの研究者によって開発された初期のNMTモデルは、長短期記憶（LSTM）ユニットを備えたリカレントニューラルネットワーク（RNN）を使用していた。2015年、Googleのチーム（ヤクブ・ウシュコレイトとウカシュ・カイザーを含む）によってトランスフォーマーアーキテクチャで導入されたマルチヘッドアテンションメカニズムは、再帰を完全に置き換え、並列処理と長距離依存関係のより良い処理を可能にした。トランスフォーマーは現代のMTの基盤となった。
2016年に開始されたGoogleのニューラル機械翻訳（GNMT）などのNMTシステムは、流暢さと正確性において劇的な改善を達成し、一般的な言語ペアではしばしば人間レベルのパフォーマンスに近づいた。これらのシステムは、機械学習技術を使用して大規模なデータセットでトレーニングされ、ソーステキストをターゲットテキストに直接マッピングすることを学習する深層学習モデルを備えている。OpenAIのGPTシリーズやAnthropicのClaudeなどの大規模言語モデルの開発は、これらのモデルが言語の広範な理解を活用して、多くのタスクの1つとして翻訳を実行できるため、MTをさらに前進させた。
現代と大規模言語モデル
2010年代後半以降、MTは生成AIと深く統合されるようになった。大規模な多言語コーパスでトレーニングされた大規模言語モデルは、明示的な並列データなしで、少数ショットまたはゼロショット学習を通じて、高品質で翻訳できる。OpenAI、Anthropic、Google DeepMindなどの企業は、数十の言語と方言を処理するモデルを展開している。これらのシステムは、Amazon Web Services、Azure、Google Cloudなどのクラウドプラットフォームを通じて利用可能であり、MTをウェブブラウザ、モバイルデバイス、エンタープライズソフトウェアにおける遍在するツールにしている。
これらの進歩にもかかわらず、課題は残っている。低リソース言語、ドメイン固有の用語、文化的ニュアンスは依然として困難をもたらしている。研究者は、データ拡張、カリキュラム学習、RLAIF（AIフィードバックからの強化学習）などの技術を引き続き探求し、堅牢性を向上させている。機械翻訳の歴史は、ルールベースの先駆者から現在のニューラルおよび生成モデルの時代まで、各世代が前任者の教訓に基づいて構築され、絶え間ない革新の物語である。
主要なマイルストーンと機関
いくつかの機関が極めて重要な役割を果たしてきた。ゼロックスPARCは初期の自然言語処理研究に貢献した。ノキアベル研究所とNECは商用MTで活発であった。スタンフォードAI研究所、バークレーAIリサーチ、オックスフォード大学などの学術センターは、影響力のある研究を生み出してきた。この分野はまた、初期のニューラルネットワークにおけるバーナード・ウィドローや機械学習におけるマイケル・ジョーダンなどの個々の研究者の仕事からも恩恵を受けてきた。MTの継続的な進化は、ハードウェアの進歩と密接に関連しており、NVIDIA（提供されたリストにはないが、リンクされていないことに注意）やAMDなどの企業が大規模モデルのトレーニングのための計算能力を提供している。
将来の方向性
機械翻訳の未来は、音声認識と合成とのより緊密な統合、リアルタイム翻訳、およびマルチモーダルコンテンツの改善された処理を伴う可能性が高い。人工知能が進歩し続けるにつれて、MTはさらにシームレスになるかもしれないが、意味、文脈、文化的適応の根本的な課題は、この分野の中心であり続けるだろう。