影響関数は、ロバスト統計学に由来する数学的ツールであり、単一の訓練例がモデルの学習パラメータ、ひいてはその予測に与える影響を測定するために用いられる。機械学習において、それらは根本的な問いに原理的な方法で答える手段を提供する：どの訓練データ点が特定の予測に最も寄与しているか、あるいはどの点が全体的なモデル性能に最も有害か、という問いである。訓練点が除去または重み付けされた場合に生じるモデルパラメータの変化を近似することにより、影響関数は複雑なモデル（深層ニューラルネットワークを含む）の、さもなければ不透明な挙動に対する洞察のレンズを提供する。
この概念は1970年代および1980年代にロバスト統計学の分野で起源を持ち、推定器が外れ値にどれほど敏感であるかを評価するために開発された。その文脈では、推定器の影響関数は、ある点における無限小の汚染が推定器の値に与える影響を記述する。この統計的基盤は後に機械学習に適応され、最も顕著には2017年にスタンフォード大学およびカリフォルニア大学バークレー校の研究者による論文で、二次最適化技術を用いて影響関数をニューラルネットワークに対して効率的に計算できる方法が示された。それ以来、影響関数はデータ中心AIの新興分野における鍵となるツールとなり、データ評価、データセットのデバッグ、およびモデル挙動の理解に応用されている。
数学的定式化
影響関数は、一つ抜きの再訓練（leave-one-out retraining）のアイデアに基づいている。サイズnの訓練データセットに対して、単一の点を除去した正確な効果を求めるには、モデルをn回再訓練する必要があり、現代のモデルにとっては計算上不可能である。影響関数は代わりに、モデルの損失関数とそのヘッセ行列を用いた閉形式近似を提供する。パラメータθでパラメータ化され、経験リスクの最小化によって訓練されたモデルについて、訓練点zがモデルパラメータに与える影響は次で与えられる：
I_up,loss(z) = -H_θ⁻¹ ∇_θ L(z, θ)
ここでH_θは訓練損失のヘッセ行列であり、∇_θ L(z, θ)は点zに対する損失の勾配である。この式は、点zが無限小の量だけ重み付けされた場合のパラメータ変化を近似する。特定のテスト予測への影響を推定するには、このパラメータ影響に、パラメータに関するテスト損失の勾配を乗じる。この計算にはヘッセ行列の逆行列が必要であり、完全な行列反転を避けるために、共役勾配法やウッドベリー恒等式などの技術を用いて近似されることが多い。
ロバスト統計学との関連
影響関数の知的系譜は、1960年代および1970年代に古典的推定器の外れ値やモデル誤指定に対する感度に対処するために登場したロバスト統計学に直接遡る。影響関数は、1974年にフランク・ハンペルによって、推定器の局所的ロバスト性を特徴づけるツールとして正式に導入された。その枠組みでは、影響関数は、ある点における無限小の汚染によって引き起こされる漸近的バイアスを測定する。この概念は後にピーター・ルソーらによって拡張され、ロバスト回帰および共分散推定法が開発された。機械学習への適応は、個々のデータ点に対する感度を測定するという中核的アイデアを保持しつつ、焦点を理論的ロバスト性から実践的モデルデバッグおよびデータ評価へと移行させた。
機械学習における応用
影響関数は、現代の機械学習パイプラインにおいていくつかの実践的応用を見出している。最も顕著なものの一つは訓練データのデバッグである：誤分類されたテスト例に対する各訓練点の影響を計算することにより、実務者はモデル性能を低下させる誤ラベル付きまたはノイズの多いデータを特定できる。例えば、訓練画像が誤ってラベル付けされている場合、特定のテストクラスに対するモデルの誤りへのその影響は不釣り合いに高くなり、そのような点の自動的フラグ付けが可能になる。このアプローチは、コンピュータビジョンおよび自然言語処理タスクにおいて、最終モデル展開前にデータセットをクリーニングするために使用されてきた。
もう一つの鍵となる応用はデータ評価であり、影響関数は各訓練点に、モデル性能への寄与に基づく定量的スコアを割り当てる。これは、貢献者がそのデータの価値に基づいて報酬を受け取る可能性がある協調的データ市場において特に重要である。影響に基づく評価は、大規模データセットには計算上不可能な、一つ抜き精度のような単純なヒューリスティックに対する原理的代替手段を提供する。OpenAIやGoogle DeepMindのような企業は、大規模言語モデルにおいて特定の能力を駆動する訓練コーパスのどの部分かを理解するために、影響に基づく方法を探求してきた。
計算上の課題
理論的優雅さにもかかわらず、影響関数は現代のモデルに適用する際に significant な計算上の障壁に直面する。数百万または数十億のパラメータを持つ深層ニューラルネットワークのヘッセ行列は、直接計算または反転するにはあまりにも大きい。研究者はこれに対処するためにいくつかの近似法を開発してきた。最も一般的なアプローチは、ヘッセ行列を明示的に形成せずに線形システムを解くために、共役勾配法と組み合わせたヘッセ行列-ベクトル積の確率的推定を使用する。トランスフォーマーおよび他の大規模アーキテクチャにとって、これは依然としてモデルを通る複数回の逆伝播を必要とし、数十億パラメータまでのモデルには高価であるが扱い可能である。
もう一つの課題は、近似自体の精度である。影響関数は、損失景観が局所的に二次的であり、モデルが局所的最小値にあることを仮定する。実際には、深層学習モデルはしばしば確率的勾配降下法で訓練され、真の最小値に達しないことがあり、損失景観は高度に非凸であることがある。実証的研究は、影響関数近似がそのような設定、特にドロップアウトまたはバッチ正規化を持つモデル（確率性を導入する）において、ノイズが多くまたは誤解を招くことがあることを示している。最近の研究は、訓練チェックポイント全体での勾配類似性を使用する「TracIn」法のような変種を提案し、よりロバストな影響推定を提供している。
他のデータ帰属方法との関係
影響関数は、データ帰属技術のより広いファミリーの一部である。単純な方法には、正確であるが高価な一つ抜き再訓練、および訓練点とテスト点の勾配を比較する勾配ベースの類似性測定が含まれる。より最近のアプローチには、最後の層の重みを使用してモデルの予測を訓練点からの寄与に分解する代表点法、および協力ゲーム理論を使用して各データ点に公平なクレジットを割り当てるシャープレイ値ベースの方法が含まれる。影響関数は中間の立場を占める：それらは勾配類似性よりも原理的であるが、シャープレイ値よりも計算集約的ではない。各方法は、精度、スケーラビリティ、および解釈可能性においてトレードオフがあり、選択はしばしば特定の応用およびモデルサイズに依存する。
現代のAIシステムにおける使用
影響関数は、大規模AIシステムの台頭とともに新たな注目を集めている。数兆トークンで訓練された大規模言語モデルについて、どの訓練例が特定の挙動（事実的知識、推論能力、または有害な出力など）に寄与するかを理解することは、重要な未解決問題である。Anthropicおよび他の研究所の研究者は、影響ベースの技術を使用してモデル出力を訓練データに遡って追跡し、解釈可能性および安全性監査を支援している。生成的AIの文脈では、影響関数は記憶または著作権侵害につながる訓練データを特定するのに役立ち、法的および倫理的含意を持つ。
本番システムでは、影響関数はデータ品質監視に使用される。例えば、Amazon Web ServicesおよびGoogle Cloudは、影響ベースのツールが顧客のデータセットデバッグを支援できる機械学習プラットフォームを提供している。HalcyonやOmniscientのようなスタートアップは、影響関数を中核的コンポーネントとして使用するデータ帰属を中心とした製品を構築している。このアプローチはまた、データがデバイス全体に分散している連合学習にも関連し、影響関数はどのクライアントがモデル性能に最も寄与するかを特定するのに役立つ
限界と未解決問題
影響関数にはいくつかの既知の限界がある。近似誤差はモデル複雑性およびデータセットサイズとともに増大し、この方法はモデルが収束まで訓練されることを仮定するが、実際にはめったに真実ではない。非凸モデルでは、影響関数は局所的最小値の選択に敏感であり、不安定な推定につながることがある。さらに、影響関数は局所的線形近似を提供し、訓練点間の高次相互作用を見逃す可能性がある。例えば、2つの点の複合影響はそれらの個別影響の合計よりも大きくなることがあり、これは標準的定式化では捕捉されない現象である。
もう一つの未解決問題は、数百億のパラメータを持つモデル（最大のトランスフォーマーなど）に対する影響計算のスケーラビリティである。現在の方法は、勾配およびヘッセ行列-ベクトル積を保存または再計算する必要があり、メモリ集約的である。研究者は、低ランク因子分解およびランダム射影を使用する近似を探求し、このスケールで影響関数を実現可能にしている。また、影響関数を分布シフト（テスト分布が訓練分布と異なる、実世界の展開で一般的な状況）に対してよりロバストにするための進行中の作業もある。
##将来の方向性
影響関数の未来は、おそらく他の解釈可能性ツールと組み合わせたハイブリッドアプローチにあるだろう。例えば、影響関数はさらなる検査のための候補訓練点を特定するために使用でき、その後機構的解釈可能性技術を用いて根本的メカニズムを理解するために分析できる。また、モデルがラベル付けする最も情報豊かなデータ点を選択する能動学習、および訓練データが影響によって順序付けられ収束を改善するカリキュラム学習に影響関数を使用することへの関心もある。モデルが規模および複雑性において成長し続けるにつれて、原理的データ帰属方法への需要はのみ増加し、影響関数をAIツールキットにおける基盤的ツールにするであろう
##関連項目