混乱ネットワークは、単語混乱ネットワークと呼ばれることもあり、非公式には「ソーセージ」としても知られる、自然言語処理において複数の自動音声認識システムや機械翻訳システムの出力を統合するために使用されるデータ構造です。これは、単語の並びに関する競合する仮説をコンパクトな形式で表現し、下流の処理が曖昧な内容についての決定を、より多くの文脈が利用可能になるまで先延ばしにすることを可能にします。
この構造は、単純な線形有向非巡回グラフです。単一の開始ノードと単一の終了ノードを持ち、開始から終了までのすべての経路が、すべての中間ノードを順番に通過するという性質を持っています。隣接する2つのノード間には、その位置を占める可能性のある代替の単語やフレーズを表すエッジの集合が存在します。この代替の集合は混乱集合と呼ばれます。各エッジには通常、基礎となるシステムがその特定の選択肢に対して持つ信頼度を反映する重みまたは確率が付与されます。
起源と目的
混乱ネットワークは、1990年代後半から2000年代初頭にかけての自動音声認識の研究から生まれました。音声認識装置は、可能な単語系列のより複雑なグラフであるラティスを生成することがよくありますが、ラティスは、言語モデルや機械翻訳システムなどの下流コンポーネントが処理するには計算コストが高くなる可能性があります。混乱ネットワークは、ラティスを線形構造に縮約することでこれを簡素化し、表現力の一部を効率性と引き換えにします。線形形式により、アルゴリズムは出力を単一のパスで処理できるため、電話通信や放送文字起こしなどのリアルタイムアプリケーションで特に価値があります。
非公式名「ソーセージ」は、グラフの視覚的な外観に由来しており、描画すると連結されたセグメントの連鎖のように見えます。この用語は、2000年代初頭の学術文献に登場し、特にNokia Bell Labsや他の機関の研究者によるラティス圧縮技術の探求に関する研究で顕著です。
機械翻訳での使用
機械翻訳において、混乱ネットワークは明確な役割を果たします。複数の認識装置からの出力を統合するのではなく、翻訳システムが複数の曖昧な入力を受け入れ、決定を処理の後段階まで先延ばしにすることを可能にします。例えば、不確実性をもって文字起こしされた音声を翻訳する場合、翻訳システムは混乱ネットワークを入力として受け取り、すべての代替案を同時に考慮した翻訳を生成できます。このアプローチは、誤っている可能性のある単一の文字起こしにコミットすることを回避し、代わりに翻訳モデルが自身の知識を使用して可能性を評価することを可能にします。
この文脈での決定的な特徴は、決定の先延ばしです。混乱ネットワークを使用する翻訳システムは、それ自体が混乱ネットワークであるターゲット言語の出力を生成でき、追加のモデルを使用して再スコアリングまたはデコードできます。これは、認識エラーが一般的であり、誤った早期の選択のコストが翻訳全体に伝播する可能性がある音声言語翻訳において特に有用です。
ソフトウェア実装
混乱ネットワークは、いくつかの広く使用されている翻訳および音声処理ツールに実装されています。主にuniversity of edinburghとCarnegie Mellon Universityで開発され、多くの機関からの貢献があるオープンソースの機械翻訳ソフトウェアMosesは、混乱ネットワークデコードのサポートを含んでいます。Mosesは、ユーザーが特定の形式で混乱ネットワークを入力し、代替仮説を考慮した翻訳を生成することを可能にします。
商業分野では、現在はibmのクラウドオファリングの一部となっているIBM Bluemix Watsonの独自翻訳APIが、音声間翻訳パイプラインの一部として混乱ネットワークを使用してきました。このAPIは音声入力を受け取り、認識を実行し、翻訳エンジンに渡される混乱ネットワークを構築して、認識エラーに対する堅牢性を向上させます。
他の技術との関係
混乱ネットワークは、仮説を統合する他の方法と関連していますが、明確に区別されます。Beam Searchは、複数の部分的な仮説を探索するデコード戦略ですが、コンパクトなグラフ構造を生成しません。Transformer (architecture)アーキテクチャに基づくものなどのSequence-to-Sequence (Seq2Seq)モデルは、通常、単一の入力系列で動作し、ネイティブには代替入力を処理しませんが、拡張が提案されています。混乱ネットワークは、複数の独立した認識装置からの出力が単一のネットワークにマージされるシステム結合でも使用され、この技術は単一のシステムと比較して単語誤り率を低減することが示されています。
現代のDeep learningベースのシステムでは、大規模データセットでトレーニングされたエンドツーエンドモデルが内部で曖昧さを処理することが多いため、混乱ネットワークの重要性は低下しています。しかし、放送ニュースの文字起こしや多言語コールルーティングなど、複数のレガシーシステムを統合する必要があるシナリオやハイブリッドシステムでは、依然として関連性があります。
制限と拡張
混乱ネットワークの主な制限は、位置の固定順序を前提としていることです。これにより、システムが単語の存在について意見を異にする場合に発生する可能性がある、異なる仮説間での単語の挿入や削除を表現するのには適していません。一般化混乱ネットワークやアライメントベースの変種などの拡張は、ヌルエッジを許可するか、より複雑なアライメント手順を使用することで、この問題に対処します。もう1つの制限は、線形構造が完全なラティスが保持する長距離依存性を失う可能性があることですが、実際には効率性の利点がこの損失を上回ることがよくあります。
研究では、Neural networkモデルのトレーニングのためのData Augmentationなど、他のタスクでの混乱ネットワークの使用も探求されており、代替案がトレーニングデータに自然なバリエーションを提供します。一部の研究では、Large language modelプロンプティングにそれらを適用し、ネットワークを使用してユーザークエリの複数の可能な解釈を表現しています。