コネクショニスト時間分類（CTC）は、入力と出力が時間的に整列していないシーケンスラベリングタスクでニューラルネットワークを訓練するために使用される損失関数および出力表現です。2006年に導入され、基礎となるニューラルネットワーク構造から独立しており、様々なアーキテクチャに適用できます。CTCは、オンライン手書き認識や音声認識などのタスクで一般的に使用され、入力シーケンス（例：音声フレームやペンストローク）が出力ラベルシーケンス（例：音素や文字）よりもはるかに長い場合に用いられます。
CTCが対処する核心的な課題は、入力観測とターゲットラベルの間の未知の整列です。例えば、音声オーディオでは、複数の時間スライスが単一の音素に対応する可能性があり、訓練中に正確な境界は不明です。CTCは、特別なブランク出力を含む各タイムステップでのラベル上の確率分布を予測することでこれを解決します。境界やタイミングを学習しようとはせず、代わりに、ブランクを無視して整列のみが異なるラベルシーケンスは同等と見なされます。この同等性により、与えられたラベルシーケンスに対して多くの可能な整列が生じ、スコアリングは非自明になりますが、効率的な前向き後向きアルゴリズムが総確率を計算するために存在します。
訓練とスコアリング
CTCスコアは、ターゲットラベルシーケンスにマッピングされるすべての可能な整列にわたる確率の合計として計算されます。このスコアは微分可能であり、バックプロパゲーションアルゴリズムと共に使用してニューラルネットワークの重みを更新できます。ネットワークは通常、ソフトマックス層などの連続出力を持ち、訓練を通じて各タイムステップでの各ラベルの確率をモデル化するように適合されます。前向き後向きアルゴリズムは、隠れマルコフモデル（HMM）で使用されるものと類似しており、損失とその勾配の効率的な計算を可能にします。CTC適合ニューラルネットワークへの代替アプローチには、状態遷移と持続時間を明示的にモデル化するHMMの使用が含まれます。
応用とマイルストーン
CTCは、いくつかの注目すべきシステムで成功裏に適用されています。2009年には、CTCで訓練された長短期記憶（LSTM）ネットワークが、パターン認識コンテストで勝利した最初のリカレントニューラルネットワーク（RNN）となり、いくつかの接続手書き認識コンペティションで勝利を収めました。2014年には、中国の企業Baiduが、CTC損失関数で訓練された双方向RNN（LSTMではない）を使用して、従来の音声処理方法を一切使用せずに2S09 Switchboard Hub5'00音声認識データセットのベンチマークを打破しました。2015年には、CTCがGoogleの音声検索とAndroidデバイスでのディクテーションに使用され、消費者製品での実用的な有用性を示しました。
制限と拡張
CTCは単調整列に限定されており、出力ラベルの順序が入力観測の順序に対応する必要があります。これは、音素や単語が固定順序で発生する音声認識には問題ありません。しかし、言語翻訳では、ある言語の後の単語が別の言語の前の単語に対応する可能性があるため、問題となることがあります。この制限により、注意機構に基づくものなど、非単調整列を処理できる代替シーケンス間モデルの開発が動機付けられました。それにもかかわらず、CTCはシーケンスラベリングの基礎的な技術であり、ハイブリッドシステムやより複雑なアーキテクチャのコンポーネントとしてよく使用されます。
他の技術との関係
CTCは、他のシーケンスモデリングアプローチと密接に関連しています。シーケンス整列も処理するが異なる確率的フレームワークを使用する隠れマルコフモデル（HMM）とよく比較されます。深層学習では、CTCはリカレントニューラルネットワーク、特にLSTMや双方向RNNと頻繁に使用されますが、トランスフォーマーなどの他のアーキテクチャにも適用できます。この損失関数は教師あり学習で使用される損失関数の一種であり、推論中のデコーディングのためにビームサーチなどの技術と組み合わせられることがよくあります。CTCの整列フリー訓練への焦点は、後のシーケンス間学習の発展に影響を与えましたが、注意ベースの方法とは異なるままです。