組成パターン生成ネットワーク（CPPN）は、少数の入力座標から複雑で構造化されたパターンを生成するように設計された人工ニューラルネットワークの一種である。特定のタスクのために入力を出力にマッピングするよう訓練される従来のニューラルネットワークとは異なり、CPPNは通常、空間的な規則性、対称性、反復を示す出力を生成するように進化または最適化される。CPPNは進化的計算とプロシージャルコンテンツ生成における重要な構成要素であり、明示的な訓練データなしで画像、3D形状、その他の成果物を作成できる。
この概念は、2007年にKenneth O. Stanleyによって、NeuroEvolution of Augmenting Topologies（NEAT）フレームワークの一部として導入された。CPPNは、サイン、コサイン、ガウス、シグモイド関数などの幾何学的または周期的な活性化関数を使用することで特徴づけられる。これらの関数により、ネットワークは単純なパターンを複雑で、しばしば対称的な出力に合成できる。ネットワークのトポロジーは進化によって変化し、固定されていない。つまり、接続とノードは時間とともに変化して、ますます複雑なパターンを生成できる。
アーキテクチャと機能
CPPNは、通常多次元空間における座標のセットを入力として受け取り、ピクセル色、形状プロパティ、その他の属性として解釈できる1つ以上の値を出力する。例えば、2D画像を生成するには、ネットワークはx座標とy座標を受け取り、赤、緑、青の値を出力する。ネットワークの内部構造は、標準的なニューラルネットワークと同様に、活性化関数を持つノードと重み付き接続で構成される。しかし、重要な違いは、トポロジーがNEATなどのアルゴリズムを使用して進化し、複雑さを増すためにノードと接続を追加できることである。
CPPNの活性化関数は、パターンを促進するように選択される。例えば、サイン関数は繰り返しの縞模様を生成でき、ガウス関数は局所的なブロブを作成できる。これらの関数を合成的な方法で組み合わせることで、ネットワークは、CPPNを使用して画像を進化させたPicbreederプロジェクトで見られるような、対称的で有機的な形状のパターンを生成できる。
進化的最適化
CPPNは通常、特にNEATを使用した進化的アルゴリズムによって最適化される。このプロセスでは、CPPNの集団がランダムに生成され、各ネットワークは、目標画像や特定の形状の生成など、望ましい基準をどの程度満たすかを測定する適合度関数に基づいて評価される。最も性能の良いネットワークが選択され、突然変異と交叉を受けて次世代を生成する。突然変異は、接続の重みを変更したり、新しいノードを追加したり、活性化関数を変更したりできる。このプロセスにより、ネットワークは膨大なパターン空間を探索でき、人間の設計者には明らかでない解決策を発見することがよくある。
注目すべき応用の1つは、生成アートの分野であり、CPPNは美的に魅力的な画像を作成するために使用されてきた。2007年に開始されたPicbreederプラットフォームは、ユーザーがお気に入りを選択して次世代の親として使用することで画像を進化させることを可能にした。この対話型進化は、CPPNが多様で複雑なビジュアルを生成する能力を示した。
応用
アート以外にも、CPPNはさまざまな分野で応用されている。ロボティクスでは、脚付きロボットの歩容を生成するために使用され、ネットワークは時間とともに関節角度を出力する。ゲームデザインでは、CPPNはレベル、テクスチャ、その他のコンテンツをプロシージャルに生成できる。例えば、ゲーム『Galactic Arms Race』は、CPPNを使用して武器システムとその視覚効果を進化させた。機械学習研究では、CPPNはニューラルネットワークアーキテクチャ自体を生成するために使用されており、これはHyperNEATとして知られる概念で、CPPNを進化させてより大きなネットワークの重みを生成する。
CPPNは、3D形状とアニメーションの生成にも探求されている。3D座標を入力として受け取ることで、CPPNは密度や色などのプロパティを出力でき、複雑なボリューム構造の作成を可能にする。これは、コンピュータグラフィックスや仮想現実における潜在的な応用がある。
他のニューラルネットワークとの関係
CPPNは、バックプロパゲーションや勾配降下法によって訓練されない点で、標準的なニューラルネットワークとは異なる。代わりに、進化的探索に依存しており、これは勾配が利用できない問題や、探索空間が非常に欺瞞的な問題で有利になることがある。また、CPPNは、大規模なデータセットで訓練されてテキストや画像を生成する生成モデルや大規模言語モデル、トランスフォーマーとは異なる。CPPNは、学習された統計的パターンではなく数学的関数に基づいて出力を生成するプロシージャルジェネレータに近い。
これらの違いにもかかわらず、CPPNは他のネットワークタイプと概念的な類似点を共有している。例えば、スキップ接続を頻繁に使用して層間の情報の流れを可能にするため、残差ネットワークの一種と見なすことができる。しかし、トポロジーと重みへの進化的アプローチがそれらを際立たせている。
制限と将来の方向性
CPPNの制限の1つは、主に進化的設定で使用されることであり、複雑なタスクでは計算コストが高くなる可能性がある。可能なネットワークの探索空間は広大であり、適合度の評価には多くの世代が必要になることがある。さらに、CPPNは、次元の呪いにより、完全なビデオシーケンスなどの高次元入力に簡単にスケーリングできない。
研究は、CPPNを他の技術と組み合わせる方法を探求し続けている。例えば、いくつかの研究では、CPPNを深層学習手法と統合し、敵対的フレームワークでのジェネレータとして、またはニューラルネットワークの初期化子として使用している。構成性とパターン生成の原理は、現代のネットワークにおける活性化関数の設計など、他の分野にも影響を与えている。
要約すると、組成パターン生成ネットワークは、進化を通じて構造化されたパターンを生成する独自のアプローチを提供する。単純な入力から複雑で対称的かつ規則的な出力を作成する能力は、進化的計算とプロシージャルコンテンツ生成において貴重なツールとなっており、新しい応用の可能性が継続的に存在する。