진화적 다중 모드 최적화는 인공지능과 기계 학습의 하위 분야로, 주어진 최적화 문제에 대해 단일 실행에서 여러 개의 서로 다른 해를 찾기 위해 진화 알고리즘을 적용한다. 단일 최적 해로 수렴하는 표준 진화 최적화와 달리, 다중 모드 최적화는 적합도 지형의 서로 다른 지역 최적점이나 전역 최적점에 해당하는 다양한 고품질 해 집합을 식별하는 것을 목표로 한다. 이 접근 방식은 여러 실행 가능한 설계나 전략이 존재하고 의사 결정자가 제약 조건, 선호도 또는 변화하는 조건을 고려하기 위해 대안을 필요로 하는 실제 공학 및 과학 문제에서 가치가 있다.
진화적 다중 모드 최적화의 핵심 과제는 알고리즘이 하나의 정점으로 조기에 수렴하지 않도록 모집단 다양성을 유지하는 것이다. 니칭, 적합도 공유, 군집화, 종분화와 같은 기법이 탐색 공간의 서로 다른 영역을 탐색하도록 하위 모집단을 장려하는 데 일반적으로 사용된다. 이러한 방법은 선택, 대체 또는 적합도 평가를 수정하여 과밀화를 억제하고 과소 대표 영역의 탐색을 보상한다.
역사적 발전
진화적 다중 모드 최적화의 기초는 1970년대와 1980년대 존 홀랜드와 데이비드 골드버그의 유전 알고리즘 연구로 거슬러 올라간다. 홀랜드의 기념비적인 저서 "자연 및 인공 시스템의 적응"(1975)은 적합도 공유와 같은 메커니즘을 통해 다양성을 유지하는 개념을 도입했다. 골드버그와 리처드슨(1987)은 모집단 내 유사한 개체의 밀도에 따라 개체의 적합도를 줄임으로써 여러 정점에 걸쳐 모집단을 분산시키는 방식으로 적합도 공유를 공식화했다.
1990년대에는 카네기 멜론 대학교와 스탠포드 AI 연구소 같은 기관의 연구자들이 새 개체가 유사한 기존 개체를 대체하는 군집화 방법과 유전적 유사성에 따라 모집단을 종으로 분할하는 종분화 기법 개발에 기여했다. 이 분야는 2000년대 입자 떼 최적화와 차분 진화에서 니칭 방법이 도입되면서 더욱 추진력을 얻었다.
주요 기법
적합도 공유
적합도 공유는 개체의 원래 적합도를 탐색 공간에서 특정 거리(니치 반경) 내에 있는 다른 개체 수를 측정하는 니치 수로 나누어 수정한다. 이는 과밀화를 억제하고 모집단이 여러 최적점에 걸쳐 퍼지도록 장려한다. 니치 반경은 최적점 간의 예상 간격에 따라 설정해야 하는 중요한 매개변수이다.
군집화
결정적 군집화와 확률적 군집화 같은 군집화 방법은 새 자손이 다른 모집단 구성원보다 특정 개체와 더 유사한 경우에만 해당 개체를 대체한다. 이는 새 해가 가장 유사한 대응물과 경쟁하도록 보장하여 다양성을 보존하며, 탐색 공간의 서로 다른 영역이 자체 하위 모집단을 유지할 수 있게 한다.
종분화
종분화 기법은 유전형 또는 표현형 거리와 같은 거리 측정 기준에 따라 개체를 종으로 그룹화한다. 각 종은 독립적으로 진화하며, 번식과 선택이 종 내에서 이루어진다. 이를 통해 서로 다른 종이 서로 간섭하지 않고 서로 다른 최적점으로 수렴할 수 있다.
정리 및 클러스터링
정리 방법은 각 니치에 우세한 개체를 할당하고 해당 니치 내의 다른 모든 개체의 적합도를 0으로 정리하여 새로운 영역을 탐색하도록 강제한다. 클러스터링 접근 방식은 k-평균과 같은 비지도 학습을 사용하여 유사한 개체 그룹을 식별하고 각 클러스터 내에서 니칭 압력을 적용한다.
응용 분야
진화적 다중 모드 최적화는 다양한 영역에 적용되어 왔다. 공학 설계에서는 기계 부품, 전기 회로 또는 공기 역학 형상에 대한 여러 실행 가능한 설계를 식별하여 엔지니어가 비용, 제조 가능성 또는 견고성과 같은 추가 기준을 충족하는 해를 선택할 수 있게 한다. 기계 학습에서는 여러 좋은 구성이 존재할 수 있는 하이퍼파라미터 튜닝과 신경 아키텍처 탐색에 사용된다.
로봇 공학에서는 다중 모드 최적화를 통해 다양한 지형에 대한 여러 이동 보행 또는 제어 전략을 발견할 수 있다. 생물정보학에서는 여러 단백질 구조 또는 유전자 조절 네트워크 모델을 식별하는 데 도움이 된다. 이 접근 방식은 서로 다른 위험 선호도를 충족할 수 있는 여러 최적 자산 배분이 존재하는 금융의 포트폴리오 최적화에도 사용된다.
다른 최적화 패러다임과의 관계
진화적 다중 모드 최적화는 커리큘럼 학습과 복잡한 지형을 처리하기 위해 탐색 과정을 구조화한다는 점에서 밀접하게 관련되어 있지만, 작동 방식은 다르다. 또한 모집단의 다양성 유지를 훈련 데이터 증강과 유사한 탐색 형태로 볼 수 있다는 점에서 데이터 증강과도 교차한다.
이 분야는 진화 알고리즘을 훈련 및 아키텍처 탐색에 사용하는 신경망과 연결되며, 다중 모드 접근 방식이 여러 실행 가능한 네트워크 설계를 발견할 수 있다. 또한 여러 전략에 대한 정책을 진화시킬 때 강화 학습과도 관련된다.
과제 및 향후 방향
주요 과제는 니칭 방법을 고차원 문제로 확장하는 것으로, 거리 측정 기준의 의미가 약해지고 최적점 수가 기하급수적으로 증가한다. 니치 반경 및 기타 다양성 유지 매개변수의 튜닝은 적합도 지형에 대한 사전 지식 없이는 여전히 어렵다.
최근 연구는 실행 중에 매개변수를 조정하는 적응형 니칭 방법, 진화 알고리즘과 지역 탐색 또는 딥 러닝 모델을 결합한 하이브리드 접근 방식, 효율성을 위한 병렬 구현을 탐구한다. 대규모 언어 모델과의 통합은 LLM이 다양한 초기 모집단 생성이나 적합도 지형 분석을 지원할 수 있는 새로운 영역이다.
향후 방향에는 다중 모드 설정에서 수렴 보장을 위한 이론적 기초 개발, 동적 및 잡음 환경에 방법 적용, 실제 다중 모드 문제를 반영한 벤치마크 생성이 포함된다. 이 분야는 MIT CSAIL과 버클리 AI 연구소 같은 기관의 연구자들의 기여로 계속 진화하고 있다.