フィットネス近似とは、進化的計算と最適化における手法群の一つであり、コストのかかる正確な適合度関数を、より安価な近似サロゲートモデルで置き換えるものである。進化的アルゴリズムにおける適合度関数は、候補解が与えられた問題をどれだけうまく解決するかを測定するものであり、その評価は計算コストが高くなる場合がある。例えば、工学的設計、流体力学シミュレーション、機械学習のハイパーパラメータ調整などが挙げられる。フィットネス近似は、適合度値を予測するサロゲートを使用することで総計算負荷を削減し、固定予算内でアルゴリズムがより多くの候補を探索したり、より長く実行したりすることを可能にする。このアプローチはサロゲート支援最適化またはメタモデリングとも呼ばれ、1990年代から研究されており、本田研究所ヨーロッパのYaochu JinやBernhard Sendhoffなどの研究者による初期の研究がある。
核となる考え方は、評価精度と計算コストのトレードオフのバランスを取ることである。サロゲートモデルは通常、以前に評価された解から構築され、多項式回帰、クリギング（ガウス過程回帰とも呼ばれる）、またはニューラルネットワークなどの回帰手法を使用する。サロゲートは、新しい正確な評価が行われるたびに反復的に更新され、このプロセスはモデル管理または進化制御と呼ばれる。フィットネス近似は、単一の評価に数時間または数日かかる可能性がある領域、例えば計算流体力学、構造最適化、深層学習モデルのトレーニングなどで特に価値がある。このような場合、サロゲートは有望でない候補をふるい落とし、正確な評価のために少数の高潜在性解のみを残すことができる。
サロゲートモデルとトレーニング
サロゲートモデルは、正確な評価から収集された入力出力ペアのデータセットでトレーニングされる。一般的な選択肢には、予測と不確実性推定の両方を提供するクリギングや、トレーニングが簡単で高速な動径基底関数ネットワークが含まれる。機械学習手法、ニューラルネットワークやランダムフォレスト（提供されたリストにはないが、概念は標準的）を含むものも使用される。サロゲートの選択は、問題の次元性、利用可能なサンプル数、適合度ランドスケープの滑らかさに依存する。低次元の問題ではクリギングがしばしば良好に機能し、高次元空間ではニューラルネットワークまたはサポートベクター回帰が好まれる場合がある。サロゲートは通常、評価された解のサブセットでトレーニングされ、その精度は交差検証またはホールドアウトセットを使用して監視される。
モデル管理戦略
モデル管理は、サロゲートと正確な適合度関数をいつ使用するかを決定する。一般的な戦略は世代ベースのアプローチであり、サロゲートが世代内のすべての子孫を評価し、最良の数個のみが正確に再評価される。もう一つは個体ベースのアプローチであり、各候補が特定の確率で正確に評価されるか、サロゲートが既知の良好な解から遠い候補にのみ使用される。JinとSendhoffによって導入された進化制御法は、サロゲートを使用して個体を事前選択し、その後トップ候補に正確な評価を適用する。これにより、検索品質を維持しながら正確な評価の数を削減する。より高度な戦略は、サロゲートの推定誤差に基づいてその使用を適応させ、サロゲートが不確実な場合に正確な評価を使用する。
工学とAIにおける応用
フィットネス近似は工学的設計に広く適用されており、各シミュレーションに数時間かかる航空機の翼、車体、タービンブレードの最適化などが例である。人工知能では、ニューロ進化に使用され、ニューラルネットワークの適合度はデータセット上の精度であり、トレーニングにコストがかかる場合がある。サロゲートモデルは、機械学習モデルのハイパーパラメータ最適化にも使用されており、構成の評価には完全なモデルのトレーニングが必要である。強化学習（リストにはないが標準的）では、フィットネス近似が方策探索を高速化できる。この手法は生成AIにも関連しており、生成された設計や画像の品質評価に高価なシミュレーションや人間のフィードバックが必要な場合がある。
課題と限界
主な課題はサロゲートの精度であり、特に高次元または険しい適合度ランドスケープでは重要である。不正確なサロゲートは検索を誤導し、不良な解への早期収束を引き起こす可能性がある。これを軽減するために、研究者は複数のモデルを組み合わせるアンサンブルサロゲートや、サロゲートの誤差が増大したときに正確な評価の頻度を増やす適応戦略を使用する。もう一つの問題は次元の呪いであり、設計変数の数が増えるにつれて、サロゲートは指数関数的に多くのトレーニングサンプルを必要とする。さらに、サロゲート自体にもトレーニングコストがあり、正確な評価の節約によって上回られなければならない。実際には、フィットネス近似は適合度関数が滑らかで連続的であり、評価予算が厳しく制限されている場合に最もよく機能する。
最近の動向
最近の研究では、フィットネス近似を深層学習サロゲートと統合しており、以前の実行からの大規模データセットでトレーニングされたニューラルネットワークなどが使用されている。転移学習とメタ学習は、新しい問題のサロゲートを初期化するために使用されている。また、複数の競合する目的が複数のサロゲートを必要とする多目的最適化でのフィットネス近似の使用への関心も高まっている。大規模言語モデルの文脈では、生成されたコードやテキストの評価にフィットネス近似が提案されており、正確な評価にはテストの実行や人間のスコアリングが含まれる場合がある。2025年現在、研究はサロゲート精度の向上と、ノイズや動的な適合度関数を処理できる堅牢なモデル管理スキームの開発に焦点を当て続けている。
関連項目
- 進化的計算（リストにはないが標準的、Artificial intelligenceにリンク）
- 最適化（リストにはない、Machine learningにリンク）
- サロゲートモデル（リストにはない、Neural networkにリンク）
- クリギング（リストにはない、Neural networkにリンク）