라야 해드셀은 Google DeepMind의 연구 과학자로, 로봇 공학과 지속 학습 분야의 연구를 이끌고 있다. 그녀의 연구는 인공 에이전트가 경험으로부터 지속적으로 학습하고, 새로운 환경에 적응하며, 작업 간에 전이 가능한 기술을 습득할 수 있도록 하는 데 중점을 둔다. 그녀는 심층 강화 학습에 대한 기여, 특히 로봇 공학을 위한 RT-2 시각-언어-행동 모델 개발과 신경망의 파괴적 망각을 해결하는 지속 학습 알고리즘에 대한 기초 연구로 잘 알려져 있다.
해드셀의 경력은 학술 및 산업 연구 환경을 모두 아우른다. 그녀는 주요 기술 기업과 연구 기관에서 직책을 역임했으며, 그녀의 연구는 컴퓨터 비전에서 자율 시스템에 이르는 분야에 영향을 미쳤다. 그녀의 연구는 특히 지속적 적응이 중요한 로봇 공학에서 기계 학습 시스템의 실용적 배포에 초점을 맞춘 것이 특징이다.
초기 생애와 교육
라야 해드셀은 카네기 멜론 대학교에서 컴퓨터 과학 학사 학위를 받았다. 그 후 그녀는 토론토 대학교에서 대학원 과정을 밟아 컴퓨터 과학 석사 및 박사 학위를 취득했다. 토론토에서 그녀는 딥러닝의 선구자인 제프리 힌튼의 지도 아래 연구했으며, 박사 연구는 시각 인식과 차원 축소를 위한 학습 방법에 초점을 맞췄다.
박사 과정 동안 해드셀은 고차원 데이터에서 저차원 임베딩을 학습하는 기술을 개발했으며, 이는 이미지 매칭과 로봇 내비게이션과 같은 작업에 적용되었다. 그녀의 논문은 신경망이 광범위한 레이블 데이터 없이도 유용한 표현을 학습할 수 있는 방법에 대한 이해에 기여했으며, 이는 그녀의 경력 전반에 걸쳐 반복되는 주제였다.
DeepMind에서의 경력
해드셀은 2014년에 DeepMind(현재 Google DeepMind의 일부)에 연구 과학자로 합류했다. 그녀는 선임 연구 과학자, 이후 연구 디렉터가 되어 로봇 공학 팀을 이끌었다. DeepMind에서 그녀는 시뮬레이션과 실제 세계 학습 간의 격차를 해소하는 데 중요한 역할을 했으며, 로봇이 원시 감각 입력에서 학습하고 상호작용을 통해 개선할 수 있는 알고리즘을 개발했다.
그녀의 주목할 만한 기여 중 하나는 RT-2 모델 개발로, 이는 로봇이 시각 및 언어 지시를 물리적 행동으로 변환할 수 있게 하는 시각-언어-행동 모델이다. RT-2는 대규모 트랜스포머 아키텍처와 대규모 언어 모델을 기반으로 하며, 로봇 제어가 인터넷 규모 데이터에 대한 사전 훈련의 이점을 얻을 수 있음을 보여준다. 이 작업은 비구조화된 환경에서 다양한 작업을 수행할 수 있는 범용 로봇을 향한 중요한 단계를 나타낸다.
지속 학습 연구
해드셀 연구의 핵심 주제는 지속 학습, 즉 모델이 이전에 습득한 지식을 잊지 않고 새로운 작업을 학습할 수 있는 능력이다. 2016년의 획기적인 논문에서 그녀와 동료들은 이전 작업에 중요한 가중치에 대한 학습을 늦추어 파괴적 망각을 완화하는 방법인 탄성 가중치 통합(EWC) 개념을 도입했다. 이 작업은 지속 학습 문헌의 초석이 되었으며 수많은 후속 연구에 영감을 주었다.
해드셀은 또한 점진적 신경망과 pathNet을 포함한 다른 지속 학습 접근법을 탐구했으며, 이는 이전 기술을 보존하면서 작업 간 지식 전이를 가능하게 한다. 그녀의 연구는 로봇 공학과 자율 주행과 같은 실제 응용에 필요한 비정적 환경에서 작동할 수 있는 학습 시스템 설계의 중요성을 강조한다.
로봇 공학과 강화 학습
로봇 공학 분야에서 해드셀은 에이전트가 시행착오를 통해 정책을 학습하는 심층 강화 학습에 초점을 맞췄다. 그녀의 팀은 시뮬레이션에서 훈련된 로봇이 물리적 세계에서 효과적으로 작동할 수 있게 하는 시뮬레이션-실제 전이 방법을 개발했다. 여기에는 시뮬레이션과 실제 역학 간의 차이를 설명하는 도메인 무작위화 및 적응 제어 기술이 포함된다.
해드셀은 또한 단일 정책이 여러 작업을 수행할 수 있는 다중 작업 학습과 복잡한 작업을 하위 작업으로 분해하는 계층적 강화 학습에 대해 연구했다. 그녀의 연구는 로봇 조작, 내비게이션, 보행에 적용되었으며, 팔과 다리 로봇을 포함한 다양한 로봇 플랫폼에서 시연되었다.
주요 출판물과 영향
해드셀은 기계 학습 및 로봇 공학 분야에서 수많은 영향력 있는 논문을 저술하거나 공동 저술했다. 미국 국립과학원 회보에 게재된 그녀의 2016년 EWC 논문은 수천 번 인용되었으며 지속 학습에 대한 기초 기여로 간주된다. 2023년에 게재된 그녀의 RT-2 작업은 미디어에서 널리 보도되었으며 구현된 AI 연구 방향에 영향을 미쳤다.
그녀는 또한 컴퓨터 비전의 표준이 된 ResNet 아키텍처 개발에 기여했으며, 커리큘럼 학습 및 데이터 증강과 같은 주제에 대해 출판했다. 그녀의 연구는 EWC 작업에 대한 국제 학습 표현 회의(ICLR) 최우수 논문상을 포함한 여러 상으로 인정받았다.
협업과 리더십
Google DeepMind의 디렉터로서 해드셀은 연구자와 엔지니어 팀을 이끌며 조직 전반의 협업을 촉진했다. 그녀는 강화 학습 및 로봇 공학 프로젝트에서 동료 DeepMind 과학자인 코라이 카부쿠오글루와 같은 연구자들과 협력했다. 그녀의 리더십은 구현된 지능에 대한 DeepMind의 연구 의제를 형성하는 데 중요한 역할을 했다.
해드셀은 또한 NeurIPS, ICML, ICLR과 같은 주요 학회의 프로그램 위원회에서 활동하고 대학 및 산업 행사에서 초청 강연을 하는 등 더 넓은 연구 커뮤니티에서 활동해 왔다. 그녀는 배포된 시스템의 안전성과 견고성의 중요성을 강조하며 책임 있는 AI 개발을 옹호해 왔다.
수상 및 인정
해드셀의 기여는 여러 영예로 인정받았다. ICLR 최우수 논문상 외에도 그녀는 Google 연구상을 받았으며 컴퓨터 기계 협회(ACM)의 저명한 연사로 선정되었다. 그녀의 작업은 대중 과학 매체에 소개되었으며, 그녀는 AI 및 로봇 공학에 관한 국제 포럼에서 연설하도록 초청받았다.
현재 작업 및 향후 방향
2024년 현재 해드셀은 Google DeepMind에서 연구를 계속 이끌며 로봇 학습 확장과 대규모 언어 모델과 물리적 행동의 통합에 중점을 두고 있다. 그녀의 최근 작업은 생성 AI를 사용하여 로봇을 위한 합성 훈련 데이터를 만들고, 작업과 구현체 전반에 걸쳐 일반화할 수 있는 로봇 공학 기반 모델 개발을 탐구한다.
그녀는 또한 지속 학습과 인공지능 안전의 교차점에 관심이 있으며, 기존 능력의 성능을 손상시키지 않고 새로운 상황에 적응할 수 있는 시스템을 구축하는 방법을 조사한다. 그녀의 비전은 인간과 유사하게 일생 동안 학습하고, 새로운 기술을 습득하면서 기존 기술을 유지하는 로봇을 만드는 것이다.
유산과 영향
라야 해드셀의 연구는 딥러닝, 강화 학습, 로봇 공학 분야에 지속적인 영향을 미쳤다. 그녀의 지속 학습 작업은 평생 학습 시스템 개발의 중심 문제로 남아 있는 파괴적 망각을 해결하기 위한 이론적 및 실용적 기반을 제공했다. 그녀의 로봇 학습에 대한 기여는 구현된 AI에서 가능한 경계를 확장했으며, 대규모 사전 훈련이 물리적 행동에 효과적으로 전이될 수 있음을 보여주었다.
그녀의 영향력은 출판물을 넘어 확장된다. 그녀는 수많은 학생과 초기 연구자를 멘토링했으며, 그들 중 다수는 이후 해당 분야에 자신의 기여를 했다. Google DeepMind에서의 리더십을 통해 그녀는 세계 최고의 AI 연구 기관 중 하나의 방향을 형성하는 데 도움을 주었다.
같이 보기
참고 문헌
- Kirkpatrick, J., Pascanu, R., Rabinowitz, N., et al. (2017). Overcoming catastrophic forgetting in neural networks. Proceedings of the National Academy of Sciences.
- Zoph, B., et al. (2023). RT-2: Vision-Language-Action Models Transfer Web Knowledge to Robotic Control. arXiv.
- Hadsell, R., Chopra, S., & LeCun, Y. (2006). Dimensionality Reduction by Learning an Invariant Mapping. CVPR.
- Rusu, A. A., et al. (2016). Progressive Neural Networks. arXiv.
외부 링크
- Google Scholar 프로필
- Google DeepMind 연구 페이지