FastSpeech

FastSpeechは、2019年にMicrosoft Researchによって開発された深層学習ベースの音声合成モデルである。これは、非自己回帰型のフィードフォワード・トランスフォーマーアーキテクチャを用いて、入力テキストを並列にメルスペクトログラムへ直接変換するものであり、Tacotron 2のような初期のモデルで行われていたように各フレームを逐次的に生成する方式とは異なる。この並列デコードにより、推論が大幅に高速化され、リアルタイムおよび大規模な音声合成アプリケーションに適している。このモデルは、テキスト埋め込みをターゲットのスペクトログラムフレームに整列させるために長さ調整を採用し、スペクトログラムを可聴波形に変換するためにHiFi-GANなどの別のボコーダーを使用する。FastSpeechは、深層学習ベースの音声合成における画期的な成果であり、従来の自己回帰システムの速度ボトルネックに対処しつつ、自然な音声品質を維持している。その後の研究で広く採用・拡張され、FastSpeech 2やFastSpeech 2sなどの変種が登場し、これらは持続時間を直接予測して外部のアライメントモデルの必要性を排除することで、堅牢性を向上させ、トレーニングパイプラインを簡素化した。FastSpeechの設計は、学術および商業の両方の文脈で多くの後続の音声合成システムに影響を与えており、並列デコードが自己回帰モデルと同等の品質を計算コストなしで達成できることを実証した。そのアーキテクチャはトランスフォーマーフレームワークに基づいており、注意機構を活用してテキストと音響特徴の関係をモデル化する。このモデルは、ニューラルネットワークが新規データ（この場合は合成音声）を生成することを学習する生成AIのより広い分野の中で動作する。FastSpeechのトレーニングは通常、ペアのテキスト音声データセットを使用し、人間の音声周波数範囲（約300〜4000 Hz）における知覚品質を強調する損失関数を採用する。このアプローチは、Google DeepMindのWaveNetやGoogle AIのTacotron 2など、深層学習音声合成に関する初期の研究に基づいており、これらはニューラルネットワークが生波形とメルスペクトログラムを効果的にモデル化できるが、高い計算コストがかかることを実証した。対照的に、FastSpeechは自己回帰依存を排除し、すべての出力フレームを同時に計算できるようにする。このアーキテクチャ上の選択により、実際には推論時間が一桁以上短縮され、コンシューマーハードウェアや対話型アプリケーションでの展開が可能になる。このモデルは、非自己回帰型音声合成および並列シーケンス生成に関するその後の研究に影響を与え、現代のニューラルボコーダーおよび音響モデルの基礎的な参照点であり続けている。その貢献は、シーケンス間タスクのための効率的なニューラルアーキテクチャが主要な調査分野である人工知能のより広い分野に特に関連している。FastSpeechは、Yi Ren、Yangjun Ruan、Xu Tanなどの著者を含むMicrosoft Researchのチームによって開発され、2019年に主要な機械学習会議で発表された。ソースコードと事前トレーニング済みモデルは公開されており、コミュニティでの広範な採用とさらなる革新を促進している。2019年時点で、このモデルの設計とトレーニング方法は、さまざまな商業およびオープンソースの音声合成システムに組み込まれており、その実用的な影響を示している。このアプローチはまた、機械学習や自然言語処理などの他の領域でも見られる、深層学習における並列・非自己回帰生成への移行を強調している。FastSpeechの長さ調整器は、各入力トークンの持続時間を予測し、これを使用してエンコーダ出力をターゲットのスペクトログラム長に拡張し、全シーケンスの並列生成を可能にする。このメカニズムは、自己回帰モデルで使用される再帰的注意を、より効率的で決定的なアライメント戦略に置き換える。トレーニング中、FastSpeechは教師学生アプローチを使用し、自己回帰教師モデルが注意アライメントと持続時間情報を提供し、学生モデルであるFastSpeechは逐次依存なしでそれを再現することを学習する。このトレーニング戦略により、モデルが正確なアライメントを捕捉しつつ、推論時に並列デコードを可能にする。FastSpeechは、アーキテクチャの革新が機械学習システムの計算上の制限を克服し、より効率的でアクセスしやすい音声合成技術への道を開く方法の重要な例である。