피드백 신경망은 연결이 방향성 순환을 형성하여 정보가 루프로 흐를 수 있게 하는 인공 신경망의 한 부류이다. 신호가 입력에서 출력으로 엄격히 이동하는 피드포워드 네트워크와 달리, 피드백 네트워크는 시간에 따라 진화하는 내부 상태를 유지하므로 순차 데이터 처리, 동적 시스템 모델링, 메모리 구현에 적합하다. 일반적인 예로는 순환 신경망(RNN), 홉필드 네트워크, 에코 상태 네트워크가 있다. 이러한 아키텍처는 순환 또는 게이트 피드백 메커니즘을 사용하는 대규모 언어 모델을 포함한 많은 현대 머신 러닝 시스템의 기반이 된다.
피드백 신경망의 정의적 특징은 순환 연결의 존재이다. 이러한 루프는 네트워크가 이전 시간 단계의 정보를 유지할 수 있게 하여 효과적으로 단기 기억의 형태를 제공한다. 이 속성은 시계열 예측, 음성 인식, 자연어 처리, 제어 시스템과 같은 작업에 필수적이다. 피드백은 층 내부(국소적), 층 간(전역적), 또는 둘 다일 수 있으며 자기 연결을 포함할 수 있다. 이러한 네트워크의 역학은 미분 또는 차분 방정식에 의해 지배되며, 그 동작은 가중치와 활성화 함수에 따라 안정적인 고정점에서 혼돈 진동까지 다양할 수 있다.
역사적 발전
신경 계산에서 피드백의 개념은 20세기 중반으로 거슬러 올라간다. 1943년 워렌 맥컬록과 월터 피츠는 이진 임계값을 가진 단순한 뉴런 모델을 제안했지만 피드백은 없었다. 1956년 프랭크 로젠블랫은 피드포워드 네트워크인 퍼셉트론을 도입했지만 한계가 곧 식별되었다. 1969년 마빈 민스키와 시모어 파퍼트는 단일 층 퍼셉트론이 비선형 문제를 해결할 수 없음을 강조하여 연구가 일시적으로 침체되었다. 그러나 1982년 존 홉필드의 연구로 피드백 네트워크에 대한 관심이 부활했으며, 그는 패턴을 저장하고 검색할 수 있는 순환 연관 메모리 모델인 홉필드 네트워크를 도입했다. 같은 시기에 버클리 연구자들과 다른 이들은 순환 역전파를 탐구했다. 1985년 카네기 멜론 연구자들은 시간 역전파 알고리즘을 개발하여 순환 네트워크의 훈련을 가능하게 했다. 이후 1997년 제프 호흐라이터와 위르겐 슈미트후버는 장단기 메모리(LSTM) 아키텍처를 도입하여 기울기 소실 문제를 해결했고, 이는 현대 시퀀스 모델링의 초석이 되었다.
유형 및 아키텍처
피드백 신경망은 여러 형태로 존재한다. 홉필드 네트워크는 대칭 가중치를 가진 완전 연결 순환 네트워크로 연관 메모리 및 최적화에 사용된다. 1990년 제프리 엘먼이 제안한 엘먼 네트워크는 이전 은닉 상태를 저장하는 컨텍스트 유닛을 가진 단순 순환 네트워크이다. 1986년 마이클 조던이 도입한 조던 네트워크는 출력을 입력 층으로 다시 피드백한다. 2001년 헤르베르트 예거가 개발한 에코 상태 네트워크는 무작위로 초기화된 고정 가중치 저장소를 사용하고 읽기 층만 훈련한다. LSTM 및 게이트 순환 유닛(GRU)과 같은 게이트 아키텍처는 학습 가능한 게이트를 통합하여 정보 흐름을 제어하고 기울기 소실 문제를 완화한다. 이러한 변형은 시퀀스-투-시퀀스 모델에서 널리 사용되며, 트랜스포머는 종종 하이브리드 설계에서 순환 또는 피드백 유사 메커니즘을 통합한다.
훈련 및 과제
피드백 네트워크의 훈련은 시간적 종속성으로 인해 피드포워드 네트워크의 훈련보다 더 복잡하다. 표준 방법은 시간 역전파(BPTT)로, 네트워크를 시간적으로 펼치고 표준 역전파를 적용한다. 그러나 BPTT는 긴 시퀀스에서 기울기가 너무 작아지거나 커지는 기울기 소실 또는 폭발 문제를 겪을 수 있다. 기울기 클리핑, 층 정규화, 신중한 가중치 초기화와 같은 기술이 이러한 문제를 완화하는 데 도움이 된다. 또한 Adam과 같은 옵티마이저와 학습률 스케줄이 일반적으로 사용된다. 대규모 모델의 경우 훈련은 계산 집약적일 수 있으며, AWS Trainium이나 Google Cloud TPU와 같은 특수 하드웨어가 종종 필요하다. 이러한 과제에도 불구하고 피드백 네트워크는 많은 영역에서 최첨단 결과를 달성했다.
응용 분야
피드백 신경망은 다양한 분야에 적용된다. 자연어 처리에서는 텍스트를 생성하고 언어를 번역하며 감정 분석을 수행하는 언어 모델을 구동한다. 음성 인식에서는 오디오 신호를 텍스트로 변환한다. 로봇 공학에서는 순차 센서 데이터를 처리하는 제어 시스템을 가능하게 한다. 금융에서는 주가를 예측하고 이상 징후를 감지한다. 의료에서는 웨어러블 기기의 시계열 데이터를 분석한다. OpenAI와 Anthropic은 주로 트랜스포머 기반이지만 효율성을 위해 순환 또는 피드백 요소를 통합하는 경우가 많은 대규모 언어 모델을 개발했다. Google DeepMind는 게임 플레이 및 강화 학습에 순환 네트워크를 사용했다. 또한 피드백 네트워크는 음악과 비디오를 생성하는 생성 AI에도 사용된다.
현대 AI와의 관계
트랜스포머가 많은 영역에서 지배적이 되었지만, 피드백 신경망은 여전히 매우 관련성이 높다. 트랜스포머는 시퀀스를 병렬로 처리하지만 고유한 시간적 역학이 부족하며 종종 위치 인코딩에 의존한다. 반면 피드백 네트워크는 시간과 메모리를 자연스럽게 처리한다. 트랜스포머를 순환 층과 결합하는 하이브리드 아키텍처는 활발한 연구 영역이다. 예를 들어 일부 모델은 순환 메커니즘을 사용하여 컨텍스트를 압축함으로써 계산 비용을 줄인다. 피드백의 원리는 에이전트가 시행착오를 통해 학습하는 강화 학습과 RLHF(인간 피드백 기반 강화 학습)에도 기본적이다. 2020년대 중반 현재, 피드백 신경망은 효율적인 시퀀스 모델링과 뉴로모픽 컴퓨팅의 혁신에 계속 영감을 주고 있다.
같이 보기
참고 문헌
- Hopfield, J. J. (1982). Neural networks and physical systems with emergent collective computational abilities.
- Hochreiter, S., & Schmidhuber, J. (1997). Long short-term memory.
- Elman, J. L. (1990). Finding structure in time.
- Jaeger, H. (2001). The echo state approach to analysing and training recurrent neural networks.