Machine learningにおいて、知識カットオフ（またはデータカットオフ）とは、大規模言語モデルが新しいデータで訓練されていない時点のことである。大規模言語モデルは、インターネット、書籍、その他の情報源から収集されたデータの静的スナップショットで事前訓練されるため、あらゆるモデルの知識は、展開前に訓練された内容に固定されている。この日付以降の出来事に関する情報はモデルの訓練データに含まれておらず、検索拡張生成などのリアルタイムデータアクセスシステム（外部データベースから新しい情報を取得する）がなければ、モデルはそれにアクセスできない。
知識カットオフは、幻覚（モデルが自信満々でありながら虚偽の記述を生成する現象）、情報のギャップ、進化する知識に対する精度の低下などの制限をもたらす可能性がある。研究によると、知識カットオフは医療などの領域で安全上重大な影響を及ぼし、古い知識が有害な推奨につながる可能性がある。臨床領域では、知識カットオフがより新しいモデルは、新しいガイドラインを反映した質問に対してより高い精度を示した。
説明
大規模言語モデルは、展開前に特定の知識カットオフ日までに収集されたデータの静的スナップショットで訓練される。訓練中、LLMは言語パターン、意味論、文脈上の意味を学習できる。その後、モデルは与えられた文に続く可能性のある各候補単語の確率を推定するように訓練され、これらの確率を使用してテキストを生成する。知識が訓練時点で固定されているため、固定された知識カットオフを持つモデルは、事前訓練された知識だけでは、後に出現した事実や発展に関する情報を提供できない。一部のモデルは検索ツールを通じて新しい情報を取得できるが、その判断は訓練されたデータによって形成されたままである。カットオフ後の発展に関するプロンプトには、不完全、古い、または不正確な回答が返される可能性がある。
最先端のAIシステムの訓練はますます高価になっており、スタンフォード大学とEpoch AIの研究者による2024年の研究では、最大規模のAIシステムの訓練コストが2027年までに数十億ドルに達すると予測された。GPT-4モデルは2021年9月の知識カットオフを持ち、GPT-4 Turboモデルは2023年12月の知識カットオフを持ち、GPT-5モデルは2024年9月の知識カットオフを持つ。GPT-OSS-120Bは2024年5月の知識カットオフを持ち、Llama 4 Maverickは2024年8月の知識カットオフを持つ。
情報ギャップ
知識カットオフは情報ギャップを生み出す。LLMは、訓練データに含まれていない出来事や発見に関する知識を欠いている。これらのモデルは、訓練パターンに基づいて最も可能性の高い単語のシーケンスを生成するように訓練されているため、その情報を超えて質問されると、自信満々でありながら不正確な出力を生成する可能性がある。Cacioliらによる研究では、米国感染症学会のCOVID-19治療ガイドラインの2つのバージョンに基づく363問のベンチマークを作成した。知識カットオフが新しいガイドラインより前のモデル（GPT-3.5-TurboやLlama-2など）は、これらの質問でパフォーマンスが低く（それぞれ76.03パーセントと35.26パーセント）、一方、カットオフが後のモデル（GPT-4oやLlama 3.3など）は90パーセント以上の精度を示した。この研究は、情報の新しさが、整合性や解釈可能性と同等の安全上重要な属性として扱われなければならないと結論付け、臨床意思決定における知識カットオフの安全性への懸念を強調した。
実効日付と報告日付
ウッチ大学のPęzikらによる研究は、モデルの知識が必ずしもそのカットオフ日と一致するとは限らないことを示した。実効カットオフ（モデルが確実に情報を知ることができる日付）は、主題によって異なることが多く、訓練データ内の情報の分布に影響され、一部のトピックは他よりも後の知識を反映している場合があり、カットオフ前の知識が欠落している場合もある。訓練データはトピック間で情報が不均一である。大規模言語モデルの再訓練コストが高いため、モデルが知識カットオフを延長するために再訓練されることはほとんどない。一部のモデルは統合された検索ツールを使用してより最近の情報にアクセスできるため、回答がモデルの元の訓練からのものか、ライブ検索からのものかが不明確になる。GPT-4は検索ツールにアクセスし、リアルタイム情報を提供できる。
検索拡張生成
検索拡張生成は、外部ソースからの更新データで大規模言語モデルを拡張し、より情報に基づいた応答を生成できるようにする。RAGでは、言語モデルは外部の知識ベースまたは検索エンジンに接続され、ライブデータを取得する。これにより、モデルはクエリに関連する現在の情報を見つけ、引用付きで応答に組み込むことができる。モデルを外部データに接地（モデルの回答を取得したソースに結び付ける）することで、幻覚の頻度を減らし、出力精度を向上させるのに役立つ。ただし、外部の知識ベースが古いか、バイアスを含む場合があり、不正確な情報（または幻覚）につながる可能性がある。GoogleのAI Overviewsは、モデルが取得したソースを誤解釈したり、高品質のソースを取得できなかったりするため、虚偽の主張をし、信頼性の低い結果を提供したことがある。検索だけでは古い知識カットオフを完全に補うことはできず、モデルの基本的な理解は訓練データに根ざしている。これは、人間のフィードバックからの強化学習などの技術で軽減でき、AIモデルを人間の好みに合わせて調整する。この技術は、大規模言語モデルの応答の品質と信頼性を向上させることができる。
インクリメンタル学習
もう1つのアプローチは、インクリメンタル学習（または継続学習）であり、新しいデータを継続的に使用して既存のモデルの知識を拡張する機械学習の方法である。これは、AIが学習したことを突然忘れてしまう破滅的忘却を防ぐことを目的としている。ただし、実際には、破滅的忘却を完全に防ぐことはしばしばできない。この技術は、完全な再訓練サイクルのコストなしで、モデルへの効率的で段階的な更新を可能にする。継続学習の1つの技術はファインチューニングであり、AIラボがモデルの動作を正確に調整できるようにする。より効率的なファインチューニング方法には、低ランク適応などの方法が含まれる。ただし、これはリアルタイム認識を提供しない。システムにモジュールを追加すると、モデルの重みが新しいデータセットに偏るため、破滅的忘却が発生する可能性があるからである。