칼 슐먼(Carl Shulman)은 인공지능 연구자이자 정책 전문가이다. 그는 고영향 기부에 대해 기부자에게 조언하는 보조금 지급 조직인 오픈 필란트로피(Open Philanthropy)의 공동 창립자이며, 효과적 이타주의 운동의 발전에 핵심적인 인물이었다. 그의 연구는 고급 AI의 장기적 위험과 기회, 특히 실존적 위험과 AI 거버넌스에 초점을 맞추고 있다.
슐먼의 연구와 정책 기여는 AI 안전, 예측, 그리고 자선 활동의 교차점에 중심을 두고 있다. 그는 AI가 치명적 위험을 초래할 가능성에 대한 논의에서 저명한 목소리를 내왔으며, 이러한 위험을 완화하는 방향으로 자금과 관심을 유도하는 데 기여해 왔다. 그는 또한 이러한 주제에 대한 학문적 연구에 참여하여 AI 정렬 분야와 기술의 미래에 대한 광범위한 담론에 기여해 왔다.
초기 생애와 교육
슐먼의 초기 학문적 배경은 법학과 철학에 있다. 그는 법학 학위를 취득한 후, 신흥 기술, 특히 AI의 윤리적 함의에 관심을 갖게 되었다. 이러한 관심은 그를 옥스퍼드 대학교로 이끌었고, 그곳에서 인류의 장기적 미래에 대한 거시적 질문을 다루는 학제 간 연구 센터인 인류의 미래 연구소(Future of Humanity Institute, FHI)에 참여하게 되었다. FHI에서 그는 닉 보스트롬 및 토비 오드와 같은 연구자들과 함께 일하며 실존적 위험과 AI 철학에 대한 연구소의 연구에 기여했다.
오픈 필란트로피에서의 경력
슐먼은 효과적 이타주의 커뮤니티에서 출범한 조직인 오픈 필란트로피의 공동 창립자이다. 오픈 필란트로피는 세계에서 가장 시급한 문제 중 일부를 해결하기 위해 심층 연구를 수행하고 대규모 보조금을 지급하기 위해 설립되었으며, AI 위험과 정책에 상당한 초점을 맞추고 있다. 슐먼은 이 조직에서 선임 고문이자 연구원으로 활동하며 AI 분야의 보조금 전략을 수립하는 데 기여해 왔다. 그의 연구는 유망한 연구 방향을 식별하고, 다양한 AI 안전 이니셔티브의 잠재적 영향을 평가하며, AI 거버넌스와 기술적 정렬에 힘쓰는 조직을 지원하는 것을 포함한다.
AI 위험과 정책에 대한 기여
슐먼은 AI 위험에 대해 다작의 저술가이자 연설가로 활동해 왔다. 그는 인공지능의 발전이 엄청난 혜택에서 실존적 재앙에 이르는 다양한 결과를 초래할 수 있으며, 오늘날 연구자, 정책 입안자, 그리고 자금 제공자가 내리는 선택이 중요하다고 주장해 왔다. 그는 AI 정렬에 대한 기술적 연구의 중요성과 함께 AI 개발이 안전하게 진행되도록 보장하는 강력한 거버넌스 메커니즘의 필요성을 강조해 왔다. 그의 연구는 오픈 필란트로피와 미래 생명 연구소(Future of Life Institute)를 포함한 주요 자선 활동의 AI 분야 우선순위에 영향을 미쳐 왔다.
AI 정렬과 거버넌스에 대한 견해
슐먼의 AI 정렬에 대한 관점은 장기적 위험을 줄일 수 있는 실용적이고 단기적인 행동에 초점을 맞추는 것이 특징이다. 그는 머신 러닝 해석 가능성, 견고성, 그리고 안전한 신경망 개발과 같은 주제에 대한 기술적 연구에 대한 투자 증가를 옹호해 왔다. 그는 또한 국제 협정의 설계와 OpenAI 및 Anthropic과 같은 조직이 산업 규범을 형성하는 역할을 포함한 정책 연구의 중요성을 강조해 왔다. 그는 속도보다 안전을 우선시하는 "예방적" 접근 방식을 지지하면서도, 글로벌 문제 해결을 위한 AI의 잠재적 이점을 인정해 왔다.
효과적 이타주의에서의 역할
슐먼은 증거와 이성을 사용하여 최대한의 선을 실현하고자 하는 효과적 이타주의 커뮤니티의 중심 인물이다. 오픈 필란트로피에서의 그의 연구는 이러한 원칙을 AI 분야에 적용하는 방법의 모델이 되어 왔다. 그는 먼 미래의 도덕적 중요성에 대해 광범위하게 저술하며, 인류의 장기적 궤적이 윤리적 의사 결정의 핵심 고려 사항이라고 주장해 왔다. 이러한 관점은 그를 우리 시대의 가장 시급한 문제로 보는 실존적 위험에 집중하게 했다.
주요 저술 및 강연
슐먼은 AI 위험, 예측, 그리고 자선 활동에 관한 수많은 기사와 에세이를 저술하거나 공동 저술했다. 그는 버클리 AI 연구 실험실과 스탠포드 AI 연구소가 주최하는 것을 포함한 주요 AI 컨퍼런스와 워크숍에서 강연을 해 왔다. 그의 저술은 종종 효과적 이타주의 포럼(Effective Altruism Forum)과 학술 저널과 같은 매체에 게재된다. 그는 또한 페르미 역설과 시뮬레이션 논증에 대한 연구를 포함하여 인류의 미래 연구소의 연구 성과에 기여해 왔다.
영향과 유산
슐먼의 영향력은 자신의 연구를 넘어 확장된다. 오픈 필란트로피에서의 역할을 통해 그는 수억 달러를 AI 안전 연구와 정책 이니셔티브에 지원하는 데 기여해 왔다. 이러한 자금은 Anthropic 및 기계 지능 연구소와 같은 조직의 성장을 지원했으며, 옥스퍼드 및 카네기 멜론 대학교와 같은 기관의 학술 그룹도 지원했다. 그의 아이디어는 AI 분야의 많은 사람들의 전략적 사고를 형성했으며, 그는 AI의 장기적 위험에 대한 핵심 사상가로 널리 인정받고 있다.
개인 생활
슐먼은 지적 엄격함과 인류가 직면한 가장 중요한 문제를 해결하기 위해 자신의 기술을 사용하려는 헌신으로 잘 알려져 있다. 그는 미국에 거주하며 AI 정책과 자선 활동에 계속해서 힘쓰고 있다. 그는 또한 닉 보스트롬 및 토비 오드를 포함한 효과적 이타주의 및 AI 안전 커뮤니티의 다른 연구자들과 자주 협력한다.
같이 보기
- 인류의 미래 연구소
- 오픈 필란트로피
- 실존적 위험
- AI 정렬
참고 문헌
- Open Philanthropy. "Carl Shulman." 2023년 접근.
- Future of Humanity Institute. "People." University of Oxford.
- Shulman, Carl. "AI and the Far Future." Effective Altruism Forum, 2019.