구조를 통한 역전파(Backpropagation through structure)는 역전파 알고리즘을 일반화하여 그래프, 트리, 또는 내부 의존성을 가진 시퀀스와 같은 구조화된 데이터 표현을 통해 기울기를 계산하는 머신러닝 기법이다. 고정된 크기의 벡터에서 작동하는 표준 역전파와 달리, 이 방법은 모델의 구조적 연결을 통해 오류 신호를 전파하여 관계적 또는 계층적 정보를 처리하는 아키텍처에서 매개변수 학습을 가능하게 한다. 이는 자연어 구문 분석, 분자 특성 예측, 지식 그래프 추론과 같은 응용 분야의 딥러닝에서 기초적인 역할을 한다.
이 접근법은 1990년대에 개발되었으며, 1980년대에 도입된 광범위한 역전파 알고리즘을 기반으로 한다. 이는 입력 데이터의 구조가 계산 그래프에 직접적으로 영향을 미치는 순환 신경망(RNN) 및 그래프 신경망(GNN)과 밀접하게 관련되어 있다. 구조를 미분 가능한 모델의 일부로 취급함으로써, 구조를 통한 역전파는 엔티티 간의 관계를 추론해야 하는 시스템의 종단 간 훈련을 가능하게 한다.
역사적 배경
이 개념은 구조화된 데이터를 위한 신경망에 대한 초기 연구에서 등장했다. 1990년, 파올로 프라스코니(Paolo Frasconi)와 마르코 고리(Marco Gori)는 순환 네트워크를 위한 시간을 통한 역전파(BPTT)의 확장으로 구조를 통한 역전파의 아이디어를 도입했다. 그들의 핵심 통찰은 동일한 기울기 계산 원리가 시간적 시퀀스뿐만 아니라 임의의 방향성 비순환 그래프(DAG)에도 적용될 수 있다는 것이었다. 이를 통해 모델은 요소의 순서가 고정되지 않은 구문 트리나 분자 그래프와 같은 입력을 처리할 수 있게 되었다.
이후 2000년대와 2010년대에는 딥러닝의 부상으로 이 기법에 대한 관심이 다시 높아졌다. 토론토 대학교와 카네기 멜론 대학교 같은 기관의 연구자들은 이 방법을 현대 아키텍처에 맞게 조정하여 그래프 신경망의 발전을 이끌었다. 이 기법은 또한 입력 및 출력 시퀀스 간의 구조적 정렬이 학습되는 Sequence-to-Sequence (Seq2Seq) 모델 연구에도 영향을 미쳤다.
핵심 메커니즘
표준 역전파에서 손실 함수의 기울기는 네트워크의 계층을 통해 연쇄 법칙을 적용하여 각 가중치에 대해 계산된다. 구조를 통한 역전파는 동일한 원리를 따르지만 입력의 구조를 반영하는 계산 그래프에서 작동한다. 트리와 같은 주어진 구조화된 입력에 대해 순방향 패스는 위상적 순서로 구조를 탐색하여 활성화를 계산한다. 그런 다음 역방향 패스는 오류 기울기를 역순으로 전파하여 각 자식 노드에서 부모 노드로의 기여를 누적한다.
이를 위해서는 모델이 각 노드의 자식들에 대해 합, 평균, 또는 주의 가중치 결합과 같은 미분 가능한 집계 함수를 정의해야 한다. 기울기 계산은 동일한 가중치가 구조의 여러 노드에서 공유될 수 있다는 속성, 즉 가중치 공유(weight tying)를 고려해야 한다. 이 공유는 매개변수 수를 줄이고 일반화를 개선하지만, 공유 가중치에 대한 기울기가 모든 사용처의 기울기의 합이기 때문에 기울기 계산을 복잡하게 만든다.
현대 AI에서의 응용
구조를 통한 역전파는 많은 최첨단 시스템의 핵심 구성 요소이다. 자연어 처리에서는 Transformer (architecture) 기반 모델이 구문 분석 트리를 처리할 수 있게 하지만, 대부분의 현대 트랜스포머는 순차적 주의 메커니즘을 사용한다. 더 직접적으로는 분자의 구조(원자와 결합)가 그래프로 표현되는 분자 특성 예측과 같은 작업을 위한 그래프 신경망에서 사용된다. Google DeepMind와 OpenAI 같은 기업들은 신약 발견 및 재료 과학을 위한 모델에 이러한 기법을 통합했다.
컴퓨터 비전에서 이 기법은 객체와 그 관계가 그래프로 모델링되는 장면 그래프 생성을 지원한다. 또한 로봇 공학과 같은 구조화된 상태 공간에 대한 계획을 위한 강화 학습에서도 나타난다. 예를 들어, Waymo와 Tesla Autopilot은 주행 장면의 구조화된 표현을 사용하지만, 그들의 주요 훈련은 합성곱 및 트랜스포머 네트워크에 의존한다. 이 방법은 또한 훈련 데이터의 구조를 활용하여 학습 효율성을 개선하는 커리큘럼 학습과도 관련이 있다.
과제와 한계
주요 과제 중 하나는 계산 비용이다. 큰 그래프나 깊은 트리를 처리하려면 노드 수에 비례하는 메모리가 필요하며, 이는 큰 구조에서는 실행 불가능할 수 있다. 구조가 깊을 때 기울기 폭발을 방지하기 위해 기울기 클리핑과 같은 기법이 종종 필요하다. 또한 훈련 중 고정된 구조를 가정하는 것은 제한적일 수 있다. 많은 실제 작업은 시간에 따라 변하는 동적 구조를 포함하므로 적응형 계산이 필요하다.
또 다른 한계는 노이즈가 있거나 불완전한 구조로 학습하는 어려움이다. 입력 구조가 부정확하면 기울기 신호가 오해를 불러일으킬 수 있다. 연구자들은 주의 메커니즘과 소프트 정렬을 통해 이를 해결했지만, 이러한 접근법은 종종 구조적 처리와 순차적 처리 사이의 경계를 흐리게 만든다. 이 분야는 계속 진화하고 있으며, 최근 잔차 네트워크와 계층 정규화에 대한 연구는 구조화된 모델의 훈련 안정성을 개선하고 있다.
다른 기법과의 관계
구조를 통한 역전파는 시퀀스의 특수한 경우인 시간을 통한 역전파(BPTT)와 밀접하게 관련되어 있다. 또한 현대 딥러닝 라이브러리에서 사용되는 자동 미분 프레임워크와 원리를 공유한다. 이 기법은 미분 가능한 손실 함수 대신 보상 신호를 사용하는 강화 학습 기반 접근법과는 구별되지만, 혼합 방법도 존재한다.
생성형 AI의 맥락에서 이 방법은 분자 그래프나 프로그램 구문 트리와 같은 구조화된 출력을 생성하는 모델의 기반이 된다. 또한 AI 도구 키트의 표준 도구가 된 그래프 신경망의 전신이기도 하다. 멀티 헤드 주의와의 관계는 간접적이지만 주목할 만하다. 주의 메커니즘은 구조적 집계의 소프트하고 학습 가능한 형태로 볼 수 있으며, 많은 응용 분야에서 하드 코딩된 구조를 대체했다.
미래 방향
연구는 사회 네트워크나 생물학적 시스템에서 발견되는 것과 같은 더 크고 복잡한 구조로 구조를 통한 역전파를 확장하는 방법을 탐구하고 있다. 또한 이를 대규모 언어 모델과 결합하여 지식 그래프에 대한 추론을 가능하게 하는 데 관심이 있다. 2020년대 초반 기준으로 Anthropic과 Amazon Web Services를 포함한 대부분의 상용 AI 시스템은 주로 트랜스포머 아키텍처에 의존하지만, 구조적 방법은 여전히 활발한 학술 연구 분야이다. 이 기법은 분야가 더 해석 가능하고 관계적인 AI로 나아감에 따라 다시 주목받을 가능성이 높다.