自己教師あり学習は、モデルが人間によるラベルが付いていないデータから、データ自体の構造に直接基づいて独自の教師信号を構築することで学習する訓練手法である。教師あり学習のように各入力に対して正しい出力が与えられるのではなく、モデルにはデータの隠れた部分や欠落部分を残りから予測するといったタスクが設定され、そのタスクの「ラベル」は単に隠されていた実際の値であり、それは生のラベルなしデータセットに追加の注釈コストなしで既に存在している。
核となる考え方と目的
典型的な例は次トークン予測である。テキストのシーケンスから最後の単語を取り除いた場合、モデルはその単語を予測するように訓練される。通常のテキストには既に次の単語が含まれているため、人間が何かをラベル付けする必要は一切ない。これはまさに、Common Crawlなどのソースから収集された膨大な量の生テキストから、シーケンス内の次のトークンを繰り返し予測することだけで学習する、現代の大規模言語モデルを事前学習するために使用される目的である。関連する目的であるマスク付きトークン予測は、シーケンス内のランダムなトークンのサブセットを隠し、周囲の文脈からそれらを埋め戻すようにモデルを訓練するもので、これはBERTの背後にある事前学習目的であった。コンピュータビジョンやマルチモーダル学習では、自己教師あり目的には、画像のマスクされた領域を予測することや、CLIPで使用される対比的目的が含まれ、これは画像とテキスト（または同じ画像の2つの拡張ビュー）のどのペアが互いに属するか、どのペアが不一致かを認識するようにモデルを訓練する。
教師あり学習および教師なし学習との関係
自己教師あり学習は、概念的に教師あり学習と教師なし学習の間に位置する。教師なし学習と同様にラベルなしデータから学習するが、明確な正解を持つ明示的な予測タスクを定義し、通常の教師あり訓練で使用されるのと同じ損失関数、勾配降下法、および誤差逆伝播の仕組みで最適化される。一部の研究者はこれを教師なし学習のサブタイプとして扱うが、他の研究者は、その訓練メカニズムが教師あり学習に非常に似ており、ラベルの由来だけが異なるという理由で、独自のカテゴリとして扱う。
なぜ重要か
自己教師あり学習は、教師あり学習を制限していた根本的なボトルネック、すなわち人間によるラベル付きデータの不足とコストを解決した。インターネットやその他の大規模コーパスには既に膨大な量のラベルなしテキスト、画像、音声、ビデオが含まれているため、自己教師あり目的により、モデルはラベル付きデータセットが決して一致できない規模で訓練できるようになり、この変化が現代の基盤モデル時代の背後にあるスケーリングを直接可能にした。これは、転移学習が言語に対してこれほど効果的になったメカニズムである。広範なテキストで自己教師あり目的を用いて事前学習されたモデルは、比較的タスク固有のファインチューニングで幅広い下流タスクにうまく転移できるほど一般的な表現を学習する。
注目すべきマイルストーンと影響
Word2vecの2013年の単語予測目的は、言語に適用された自己教師あり学習の初期の影響力のある例であるが、当時はこの用語はまだ広く使用されていなかった。このアプローチは、2018年のBERTとGPTシリーズに続いて、この分野の語彙と戦略の中心となった。2020年代初頭までに、自己教師あり事前学習とそれに続く教師ありまたは選好ベースのファインチューニングは、実質的にすべての主要な大規模言語モデルの標準的なレシピとなった。同じパラダイムはテキストを超えて拡張された。将来のフレームを予測する自己教師ありビデオモデルは、ロボティクスや自律システム向けの世界モデル研究の基礎的な構成要素である。自己教師あり学習の中心的な限界は、結果として得られる表現の品質が依然として基盤となるラベルなしデータの品質、規模、多様性に依存しており、そのデータに存在するバイアスやギャップが、教師あり訓練の場合と同様にモデルに吸収されることである。