기하학적 특징 학습(Geometric feature learning)은 데이터의 근본적인 기하학적 구조를 포착하는 표현의 자동 발견에 관한 기계 학습의 하위 분야이다. 일반적인 특징 학습이 통계적 규칙성을 추출할 수 있는 반면, 기하학적 특징 학습은 학습 과정에 공간적, 위상적, 또는 대칭성 기반 사전 지식을 명시적으로 통합한다. 이 접근 방식은 3D 포인트 클라우드, 메시, 그래프 및 기타 비유클리드 데이터를 포함하는 응용 분야의 핵심이며, 표준 신경망 아키텍처는 회전, 평행 이동 또는 스케일링과 같은 변환에 걸쳐 일반화하는 데 종종 어려움을 겪는다.
이 분야는 많은 실제 데이터 세트, 특히 컴퓨터 비전과 로봇 공학의 데이터가 평평한 유클리드 격자가 아니라는 인식에서 출발했다. 딥 러닝 모델과 같은 전통적인 모델은 잔차 네트워크 변형이 고정된 격자 구조를 가정하므로 기하학적 입력에 대한 적용 가능성이 제한된다. 기하학적 특징 학습은 데이터의 고유한 대칭성을 존중하는 아키텍처와 손실 함수를 설계하여 이를 해결하며, 더 효율적이고 강력한 학습을 가능하게 한다. 핵심 개념에는 변환 아래에서 변경되지 않는 불변 특징과 입력에 따라 예측 가능하게 변환되는 등변 특징이 포함된다.
역사적 기초
기하학적 특징 학습의 지적 뿌리는 제록스 팔로알토 연구소와 MIT 컴퓨터 과학 및 인공 지능 연구소와 같은 기관의 컴퓨터 비전 및 인공 지능 초기 연구로 거슬러 올라간다. 1980년대와 1990년대에 연구자들은 객체 인식을 위해 스핀 이미지 및 곡률 기반 특징과 같은 수작업으로 설계된 기하학적 설명자를 탐구했다. 그러나 이러한 방법은 상당한 도메인 전문 지식이 필요했고 객체 클래스 간 일반화에 종종 실패했다.
학습된 기하학적 특징으로의 전환은 2010년대 딥 러닝의 부상과 함께 추진력을 얻었다. 버클리 인공 지능 연구소와 스탠포드 인공 지능 연구소는 2017년 PointNet과 같은 포인트 클라우드 처리에 관한 획기적인 연구를 발표했으며, 이는 순열 불변 아키텍처를 도입했다. 동시에 카네기 멜론 대학교와 토론토 대학교는 기하학적 특징 학습을 임의의 그래프 구조로 일반화하는 그래프 신경망에 기여했다. 이러한 발전은 마이클 조던과 아니마 아난드쿠마르와 같은 연구자들의 이론적 진전으로 보완되었으며, 이들은 학습 이론에서 불변성과 등변성을 공식화했다.
핵심 원리
기하학적 특징 학습은 불변성과 등변성이라는 두 가지 주요 원리에 기반한다. 불변성은 객체가 대칭 변환을 겪을 때 학습된 표현이 변경되지 않도록 보장한다. 예를 들어, 3D 모양 인식 시스템은 방향에 관계없이 의자를 동일하게 분류해야 한다. 반면 등변성은 표현이 알려진 방식으로 변환되어 모델이 입력의 변화를 추적할 수 있도록 요구한다. 이는 모델이 회전 행렬을 출력해야 하는 로봇 공학의 자세 추정과 같은 작업에 중요하다.
구조적으로 이러한 원리는 특수화된 레이어를 통해 구현된다. 구글 딥마인드와 노키아 벨 연구소의 연구에서 도입된 그룹 등변 합성곱은 표준 필터를 SO(3) 회전 그룹과 같은 대칭 그룹 전체에 공유되는 필터로 대체한다. 그래프 신경망은 그래프의 연결성을 자연스럽게 존중하는 가장자리를 따른 메시지 전달을 사용한다. 트랜스포머 모델의 어텐션 메커니즘과 같은 주의 메커니즘은 공간 관계를 인코딩하는 위치 인코딩을 통합하여 기하학적 데이터에 적용할 수 있다.
응용 분야
기하학적 특징 학습은 로봇 공학과 자율 주행에서 널리 사용된다. 웨이모와 테슬라 오토파일럿과 같은 회사는 LiDAR 포인트 클라우드 분할 및 객체 감지에 이러한 기술을 사용하며, 안전한 내비게이션에 정확한 기하학적 이해가 중요하다. 의료 영상에서 인튜이티브 서지컬과 삼성 리서치의 연구 그룹은 U-Net 스타일 아키텍처를 체적 데이터로 확장하여 장기 분할 및 수술 내비게이션에 기하학적 특징을 사용한다.
이 분야는 생성 모델링과도 교차한다. OpenAI와 앤트로픽은 대규모 모델에서 기하학적 사전 지식을 탐구했지만, 주요 초점은 대규모 언어 모델에 남아 있다. 더 직접적으로 그래프코어와 그록은 희소 및 기하학적 연산을 위한 하드웨어 최적화를 개발하여 이러한 모델의 훈련과 추론을 가속화했다. 과학 컴퓨팅에서 바바 원자력 연구 센터와 알리바바 다먀오 아카데미는 분자 역학 및 재료 발견에 기하학적 특징 학습을 적용한다.
과제 및 향후 방향
성공에도 불구하고 기하학적 특징 학습은 여러 과제에 직면해 있다. 확장성은 고해상도 3D 데이터 처리가 계산 집약적이므로 여전히 중요한 문제이다. AMD, 인텔, 엔비디아(TSMC 제조를 통해)와 같은 하드웨어 공급업체는 특수 가속기를 개발하고 있지만 이론적 효율성과 실제 효율성 사이의 격차는 지속된다. 데이터 희소성은 또 다른 문제로, 레이블이 지정된 기하학적 데이터 세트는 이미지나 텍스트 데이터 세트보다 더 적고 생산 비용이 더 많이 든다. 무작위 회전 및 평행 이동을 사용한 데이터 증강과 같은 기술은 이를 완화하는 데 도움이 되지만 완전히 해결하지는 못한다.
앞으로 연구자들은 기하학적 특징 학습을 강화 학습 및 자기 지도 방법과 결합하는 하이브리드 접근 방식을 탐구하고 있다. 예를 들어 텍스트의 공간 관계를 추론하기 위해 대규모 언어 모델에 기하학적 사전 지식을 통합하는 것은 새로운 방향이다. MIT CSAIL의 조슈아 테넨바움이 언급했듯이 궁극적인 목표는 인간처럼 직관적으로 물리적 세계를 이해하는 모델을 구축하는 것이며, 이는 강력한 기하학적 추론을 필요로 한다. 다음 10년은 기하학적 학습과 범용 인공 지능 시스템 간의 더 긴밀한 협력을 목격할 가능성이 높다.