미래 인류 연구소(FHI)는 2005년부터 2024년까지 운영된 옥스퍼드 대학교의 다학제 연구 센터였다. 이 연구소는 인류의 장기적 미래와 관련된 문제, 특히 인공지능의 발전과 같은 실존적 위험에 초점을 맞추었다. 철학자 닉 보스트롬이 설립한 이 연구소는 인류 문명의 생존과 장기적 잠재력에 위협이 될 수 있는 글로벌 과제에 대해 엄격한 학문적 연구를 적용하는 것을 목표로 했다.
FHI는 실존적 위험 연구 분야의 선구자였다. 이 연구소의 작업은 철학, 수학, 컴퓨터 과학을 결합하여 인공지능, 생명공학, 기타 신흥 기술에서 발생할 수 있는 잠재적 위험을 분석했다. 또한, 이 분야가 널리 인정받기 전부터 인공지능 안전성 연구 발전에 기여했다.
설립과 발전
FHI는 2005년 옥스퍼드 대학교에 제임스 마틴 21세기 학교의 일부로 설립되었다. 이후 철학 학부와 옥스퍼드 마틴 학교에 통합되었다. 닉 보스트롬이 설립 이사로 재임했으며, 연구소는 철학, 컴퓨터 과학, 정치학 등 다양한 분야의 연구자들로 구성된 팀으로 성장했다. 거의 20년 동안 FHI는 미래 생명 연구소와 레버흄 트러스트와 같은 기관으로부터 자금을 지원받았다.
이 연구소는 트랜스포머 기반 모델과 심층 신경망이 학계에서 두드러지게 부상하기 훨씬 이전부터 인공지능의 실존적 위험에 주목했다. FHI 연구자들은 유익한 인공지능을 보장하려면 사전 예방적 안전 연구와 세심한 거버넌스가 필요하다고 주장한 최초의 인물들 중 하나였다.
주요 기여 및 연구 분야
FHI는 인공지능 위험에 관한 영향력 있는 연구를 발표했으며, 여기에는 '일방적 저주'와 '인공지능 안전을 위한 토론'에 관한 논문이 포함된다. 닉 보스트롬의 2014년 저서 슈퍼인텔리전스: 경로, 위험, 전략은 연구소에서 수행된 연구를 바탕으로 했으며, 실리콘밸리와 정책 입안자들 사이에서 널리 읽혔다.
연구소는 또한 핵전쟁, 팬데믹과 같은 다른 실존적 위험과 머신러닝 기술의 오용 가능성에 대해서도 연구했다. FHI 연구자들은 '인공지능의 실존적 위험' 연구 의제를 체계화하는 데 중요한 역할을 했으며, 이후 오픈AI, 앤트로픽, 구글 딥마인드와 같은 주요 인공지능 조직에서 안전 원칙을 실제 시스템에 적용하는 데 기여한 인물들이 나왔다.
주요 인물 및 협력 관계
FHI는 전 세계의 학계 및 기관과 협력했다. 연구소에는 효과적 이타주의 운동에 기여하고 '도입 논증'으로 잘 알려진 철학자 토비 오드와 인공지능 안전 연구에 기여한 컴퓨터 과학자 등이 있었다. 이러한 협력은 FHI의 아이디어가 학계의 비판을 받고 더 넓은 과학적 논의에 통합되는 데 도움이 되었다.
또한 FHI는 실존적 위험 연구에 전념하는 다른 센터들과도 긴밀히 협력했다. 이러한 파트너십은 데이터 수집, 모델링, 위험 완화를 위한 의사 결정 이론 접근법 개발을 촉진했다.
폐쇄와 유산
FHI는 2024년에 운영을 중단했다. 닉 보스트롬이 이메일을 통해 발표한 폐쇄의 정확한 이유는 완전히 공개되지 않았지만, 이러한 학제 간 연구 단위에 대한 지속적인 자금 조달의 어려움이 요인으로 지목되었다. 연구소의 폐쇄는 그 영향력을 지우지 못했다. 실존적 위험과 안전한 인공지능에 대한 연구는 학계와 산업계 모두에 계속해서 영향을 미치고 있다.
오늘날 실존적 위험 개념은 여러 대학에서 인정받는 연구 분야이며, FHI 출신 연구자들은 안전 중심 조직에서 연구 직책을 계속 맡고 있다. 연구소의 선견지명 있는 경험적 분석은 이후 인공지능 안전 연구 의제를 형성하는 데 기여했다.
외부 평가와 비판
일부 비판가들은 FHI가 변혁적 인공지능에 지나치게 초점을 맞춘 나머지 더 즉각적인 사회적 과제를 소홀히 했다고 주장한다. 또한 연구소의 일부 주장, 특히 인공지능으로 인한 인류 멸종 가능성에 대한 확률 추정에 대해 이의를 제기하기도 했다. 그럼에도 불구하고, FHI가 인공지능의 실존적 위험을 학계의 진지한 연구 주제로 만드는 데 기여했다는 평가는 일반적이다. 인공지능 윤리 및 정책에 대한 기여는 여전히 중요한 것으로 간주된다.
참고 문헌
- Bostrom, Nick. 2019. '실존적 위험: 이론, 실천, 그리고 도전 과제'. In dialogue with Bünger et al.
- 미래 인류 연구소 (공식 페이지, 옥스퍼드 대학교, 보관됨).
- Nick Bostrom의 폐쇄 이메일, 2024년 2월.