맥스 테그마크(1967년, 스웨덴 스톡홀름 출생)는 물리학자이자 우주론자이며, 매사추세츠 공과대학(MIT)의 교수로, 다중우주와 물리적 실재의 기저를 이루는 수학적 구조에 대한 연구로 잘 알려져 있다. 2010년대 중반 이후로 그는 인공일반지능 개발에 신중을 기해야 한다는 대중적 캠페인의 가장 대표적인 인물 중 한 명이 되었으며, 주로 자신이 공동 설립하고 현재 이끌고 있는 비영리 단체인 미래생명연구소(FLI)를 통해 활동하고 있다.
테그마크는 2014년 스카이프 공동 창업자 얀 탈린을 비롯한 여러 동료들과 함께 FLI를 설립하여, 변혁적 기술로 인한 위험을 줄이기 위한 연구에 자금을 지원하고 조정하는 일을 시작했다. 초기에는 인공지능으로 인한 실존적 위험에 특히 중점을 두었다. 2017년, 연구소는 유익한 AI 개발을 위한 원칙들을 담은 '아실로마 AI 원칙'을 발표했는데, 이는 수백 명의 연구자들이 서명한 것으로 널리 인용되었다. 이후 FLI는 AI 안전성에 특화된 가장 자금이 풍부한 옹호 단체 중 하나로 성장했다.
Life 3.0과 대중적 옹호 활동
2017년 테그마크는 저서 『Life 3.0: Being Human in the Age of Artificial Intelligence』를 출간했다. 이 책은 변혁적 AI가 펼칠 수 있는 다양한 시나리오를 유익한 결과에서부터 재앙적 결과까지 폭넓게 다루며, 지능의 생물학적, 문화적, 기술적 진화 단계를 각각 'Life 1.0', 'Life 2.0', 'Life 3.0'으로 설명하는 개념적 틀을 대중화했다. 이 책은 초지능에 관한 공개 논의에서 널리 인용되는 참고 자료가 되었고, AI 안전성 연구의 개념들을 일반 대중에게 효과적으로 전달하는 데 기여했다.
테그마크의 옹호 활동이 가장 주목받은 순간은 2023년 3월이었다. FLI는 GPT 4보다 강력한 AI 모델 훈련을 최소 6개월간 중단할 것을 요구하는 공개 서한 '일시 정지(Pause Giant AI Experiments)'를 발표했다. 테그마크는 이 서한의 조직에 참여했으며, 수천 명의 연구자와 기술 전문가, 그리고 일론 머스크를 포함한 저명 인사들이 서명하면서 AI 위험에 대한 주류 미디어의 광범위한 보도를 이끌어냈다. 요청된 일시 정지가 실제로 실행되지는 않았지만, 그는 이후에도 EU AI법 및 블레츨리 선언 프로세스와 같은 국제적 규제 논의에 적극적으로 참여하며 구속력 있는 국제 거버넌스 체계를 지속적으로 촉구하고 있다.
입장과 평가
테그마크는 일반적으로 AI 위험을 구체적이고 단기적인 거버넌스 실패의 문제와 장기적인 재앙적 시나리오의 가능성이라는 두 축으로 동시에 접근한다. 이러한 입장은 AI의 위험을 보다 단정적으로 경고하는 엘리에이저 유드코스키와 같은 인물들의 입장과, 규제에 신중한 주류 산업계의 목소리 사이에 위치한다. 비평가들은 FLI의 캠페인이 때때로 추측성 장기 위험과 편향성이나 잘못된 정보와 같은 보다 즉각적인 문제들을 혼동하여, 두 영역 모두에 대한 집중력을 희석시킨다고 지적한다. 반면 지지자들은 테그마크가 기술적 정렬 문제에 대한 논의를 학계의 경계를 넘어 정책 입안자와 일반 대중에게까지 효과적으로 전달한 점을 높이 평가한다.