닉 보스트롬(1973년 3월 10일 출생)은 존재론적 위험, 인간 원리, 인간 증강 윤리, 전뇌 에뮬레이션, 초지능 위험에 대한 연구로 알려진 스웨덴 태생의 철학자이다. 그는 옥스퍼드 대학교의 미래인류연구소의 창립 소장을 지냈으며, 현재 매크로전략연구 이니셔티브의 수석 연구원이 되었다.
보스트롬은 《인간 편향: 과학과 철학에서의 관찰 선택 효과》(2002), 《초지능: 경로, 위험, 전략》(2014), 《딥 유토피아: 해결된 세계에서의 삶과 의미》(2024)의 저자이다. 그는 인공지능의 발전이 초지능으로 이어질 수 있다고 주장하며, 초지능을 "거의 모든 관심 분야에서 인간의 인지 능력을 크게 능가하는 지성"으로 정의하고, 이를 기회와 존재론적 위험의 주요 원천으로 본다.
초기 생애와 교육
1973년 스웨덴 헬싱보리에서 니클라스 보스트룀으로 태어난 그는 어린 나이에 학교를 싫어했고, 고등학교 마지막 해에는 가정에서 학습했다. 그는 인류학, 예술, 문학, 과학에 관심이 있었다. 1994년 예테보리 대학교에서 학사 학위를, 스톡홀름 대학교에서 철학과 물리학 석사 학위를, 1996년 킹스 칼리지 런던에서 계산 신경과학 석사 학위를 받았다. 스톡홀름 대학교 재학 중에는 분석 철학자 W. V. 콰인을 연구하며 언어와 현실의 관계를 탐구했다. 또한 런던의 스탠드업 코미디 서킷에서 공연하기도 했다.
2000년, 그는 런던 경제 대학에서 콜린 하우슨과 크레이그 캘렌더의 지도 아래 "관찰 선택 효과와 확률"이라는 제목의 논문으로 철학 박사 학위를 받았다. 2000년부터 2002년까지 예일 대학교에서 교수직을 맡았고, 2002년부터 2005년까지 옥스퍼드 대학교에서 영국 아카데미 박사후 연구원으로 활동했다.
존재론적 위험과 미래인류연구소
보스트롬의 연구는 인류의 미래와 장기적 결과에 관한 것이다. 그는 존재론적 위험을 "부정적 결과가 지구 기원의 지적 생명체를 멸절시키거나 그 잠재력을 영구적이고 급격하게 축소시키는 것"으로 정의한다. 그는 특히 고급 인공지능, 분자 나노기술, 합성 생물학과 같은 신기술에서 비롯된 인위적 위험에 초점을 맞춘다.
2005년, 보스트롬은 2024년 폐쇄될 때까지 인류 문명의 먼 미래를 연구한 미래인류연구소를 설립했다. 그는 또한 존재론적 위험 연구 센터의 자문 위원이기도 하다. 2008년 에세이 모음집 《글로벌 재앙적 위험》에서 편집자 보스트롬과 밀란 M. 치르코비치는 존재론적 위험과 더 넓은 범주의 글로벌 재앙적 위험 간의 관계를 특성화하고, 존재론적 위험을 관찰자 선택 효과 및 페르미 역설과 연결했다.
그의 논문 "취약한 세계 가설"에서 보스트롬은 일부 기술이 발견될 때 기본적으로 인간 문명을 파괴할 수 있다고 제안한다. 그는 핵무기가 더 쉽게 개발되거나 에드워드 텔러가 우려했던 대기 점화와 같은 반사실적 사고 실험을 포함하여 이러한 취약성을 분류하고 대처하기 위한 프레임워크를 제안한다.
디지털 감각과 인간 원리 추론
보스트롬은 기질 독립 원칙, 즉 의식이 인간 두뇌와 같은 탄소 기반 생물학적 신경망뿐만 아니라 다양한 물리적 기질에서 발생할 수 있다는 생각을 지지한다. 그는 "감각은 정도의 문제"라고 간주하며, 디지털 마음이 더 적은 자원을 사용하여 인간보다 더 높은 비율과 강도의 주관적 경험을 갖도록 설계될 수 있다고 본다. 그가 "초수혜자"라고 부르는 이러한 고도로 감각적인 기계는 행복을 달성하는 데 매우 효율적일 것이다. 그는 디지털 마음과 생물학적 마음이 상호 이익이 되는 방식으로 공존할 수 있는 경로를 찾는 것을 권장한다.
보스트롬은 인간 원리 추론에 관한 수많은 기사와 책 《인간 편향: 과학과 철학에서의 관찰 선택 효과》를 출판했다. 이 책에서 그는 브랜든 카터, 존 레슬리, 존 배로우, 프랭크 티플러를 포함한 이전의 인간 원리 공식화를 비판한다. 그는 지표 정보를 잘못 다루는 것이 우주론, 철학, 진화론, 게임 이론, 양자 물리학을 포함한 많은 탐구 영역에서 흔한 결함이라고 주장한다. 그는 자기 표본 가정(SSA)을 도입하고 자기 지시 가정(SIA)을 분석하여 서로 다른 결론으로 이끄는 방식을 보여주고 역설을 식별한다. 그는 SIA에 반대하며 SSA를 강한 자기 표본 가정(SSSA)으로 정제할 것을 제안하는데, 이는 "관찰자"를 "관찰자 순간"으로 대체한다.
밀란 M. 치르코비치 및 안데르스 산드베리와의 후기 연구에서 그는 인간 원리 그림자 현상을 제안했는데, 이는 관찰자가 최근 지질학적 및 진화적 과거에서 특정 종류의 재앙을 관찰하지 못하게 하는 관찰 선택 효과이다. 그들은 통계적 보정이 이루어지지 않는 한 인간 원리 그림자에 있는 사건은 과소평가될 가능성이 있다고 제안한다.
시뮬레이션 논증과 인간 증강
보스트롬의 시뮬레이션 논증은 다음 진술 중 적어도 하나가 매우 사실일 가능성이 높다고 주장한다: 인간 수준 문명 중 포스트휴먼 단계에 도달하는 비율이 0에 매우 가깝다; 포스트휴먼 문명 중 조상 시뮬레이션을 실행하는 데 관심이 있는 비율이 0에 매우 가깝다; 또는 우리 종류의 경험을 가진 모든 사람 중 시뮬레이션에서 살고 있는 비율이 1에 매우 가깝다.
보스트롬은 인간 증강, 즉 "과학의 윤리적 적용을 통한 자기 개선과 인간 완전성"에 우호적이며, 생물보수주의 관점을 비판한다. 1998년 그는 데이비드 피어스와 함께 세계 트랜스휴머니스트 협회(현재 휴머니티+)를 공동 설립했다. 2004년에는 제임스 휴즈와 함께 윤리 및 신흥 기술 연구소를 공동 설립했지만, 현재 두 조직 모두와 관련이 없다. 2005년 그는 《의료 윤리 저널》에 단편 소설 "용 폭군의 우화"를 출판했고, 2012년에는 《철학 지금》에 더 짧은 버전을 출판했다.
유산과 영향
보스트롬의 연구는 AI 안전과 존재론적 위험에 대한 논의를 크게 형성했다. 그의 책 《초지능》은 학계와 정책 분야에서 널리 인용되며 고급 AI 시스템이 안전하게 개발되도록 보장하는 방법에 대한 논쟁에 영향을 미쳤다. 철학, 확률 이론, 컴퓨터 과학을 결합한 그의 학제적 접근은 그를 AI 윤리 분야의 중심 인물로 만들었다. 2020년대 초반 현재, 그의 아이디어는 OpenAI 및 Google DeepMind와 같은 기관의 연구에 계속 영향을 미치고 있으며, 이들은 머신 러닝 및 딥 러닝과 관련된 장기적 위험을 다루고 있다.